“Il padrino dell’IA” esorta i governi a fermare l’acquisizione delle macchine

toronto—

Geoffrey Hinton, uno dei cosiddetti padrini dell’intelligenza artificiale, mercoledì ha esortato i governi a intervenire e assicurarsi che le macchine non prendano il controllo della società.

Hinton ha fatto notizia a maggio quando ha annunciato di aver lasciato Google dopo un decennio di lavoro per parlare più liberamente dei pericoli dell’intelligenza artificiale, poco dopo che il rilascio di ChatGPT ha catturato l’immaginazione del mondo.

Il rispettato scienziato di intelligenza artificiale, che ha sede presso l’Università di Toronto, stava parlando a un pubblico affollato alla conferenza sulla tecnologia Collision nella città canadese.

La conferenza ha riunito più di 30.000 fondatori di startup, investitori e lavoratori della tecnologia, la maggior parte dei quali cercava di imparare a cavalcare l’onda dell’IA e non ascoltare una lezione sui suoi pericoli.

“Prima che l’IA sia più intelligente di noi, penso che le persone che la sviluppano dovrebbero essere incoraggiate a impegnarsi molto per capire come potrebbe provare a togliere il controllo”, ha affermato Hinton.

“In questo momento ci sono 99 persone molto intelligenti che cercano di migliorare l’intelligenza artificiale e una persona molto intelligente che cerca di capire come impedire che prenda il sopravvento e forse vuoi essere più equilibrato”, ha detto.

L’intelligenza artificiale potrebbe approfondire la disuguaglianza, afferma Hinton

Hinton ha avvertito che i rischi dell’IA dovrebbero essere presi sul serio nonostante i suoi critici che credono che stia esagerando con i rischi.

“Penso che sia importante che le persone capiscano che questa non è fantascienza, non è solo allarmismo”, ha insistito. “È un rischio reale a cui dobbiamo pensare e dobbiamo capire in anticipo come affrontarlo”.

Hinton ha anche espresso la preoccupazione che l’IA aggraverebbe la disuguaglianza, con l’enorme guadagno di produttività derivante dalla sua implementazione che andrebbe a vantaggio dei ricchi e non dei lavoratori.

“La ricchezza non andrà alle persone che fanno il lavoro. Servirà a rendere i ricchi più ricchi e non i più poveri e questo è molto negativo per la società”, ha aggiunto.

Ha anche sottolineato il pericolo di notizie false create da bot in stile ChatGPT e ha affermato di sperare che i contenuti generati dall’intelligenza artificiale possano essere contrassegnati in modo simile a come le banche centrali filigranano il denaro contante.

“È molto importante provare, ad esempio, a contrassegnare tutto ciò che è falso come falso. Se possiamo farlo tecnicamente, non lo so”, ha detto.

L’Unione Europea sta prendendo in considerazione una tale tecnica nel suo AI Act, una legislazione che stabilirà le regole per l’IA in Europa, che è in corso di negoziazione da parte dei legislatori.

L’elenco dei pericoli dell’IA di Hinton contrastava con le discussioni della conferenza che riguardavano meno la sicurezza e le minacce e più sul cogliere l’opportunità creata sulla scia di ChatGPT.

La venture capitalist Sarah Guo ha detto che il discorso negativo e negativo sull’IA come minaccia esistenziale era prematuro e lo ha paragonato a “parlare di sovrappopolazione su Marte”, citando un altro guru dell’IA, Andrew Ng.

Ha anche messo in guardia contro la “cattura normativa” che vedrebbe l’intervento del governo proteggere gli operatori storici prima che abbia la possibilità di avvantaggiare settori come la sanità, l’istruzione o la scienza.

Le opinioni differivano sul fatto che gli attuali giganti dell’IA generativa, principalmente OpenAI e Google sostenuti da Microsoft, rimarrebbero impareggiabili o se nuovi attori espandessero il campo con i propri modelli e innovazioni.

“Tra cinque anni, immagino ancora che se vuoi andare a trovare il modello generale migliore, più accurato e più avanzato, probabilmente dovrai ancora rivolgerti a una delle poche aziende che hanno il capitale per farlo “, ha dichiarato Leigh Marie Braswell della società di venture capital Kleiner Perkins.

Zachary Bratun-Glennon di Gradient Ventures ha affermato di prevedere un futuro in cui “ci saranno milioni di modelli su una rete proprio come abbiamo una rete di siti web oggi”.

Ultime Notizie

Back to top button