AI “Godfather” Geoffrey Hinton avverte delle insidie ​​mentre lascia Google

Un uomo ampiamente considerato come il padre dell’intelligenza artificiale (AI) ha lasciato il suo lavoro, avvertendo dei pericoli posti dagli sviluppi nel campo.

Jeffrey Hinton, 75 anni, ha annunciato le sue dimissioni da Google in una dichiarazione al New York Times, dicendo che ora si rammarica del suo lavoro.

Ha detto alla BBC che alcuni dei rischi dei chatbot di intelligenza artificiale sono “molto spaventosi”.

“In questo momento, non sono più intelligenti di noi, per quanto posso dire. Ma penso che potrebbero esserlo presto.”

La ricerca pionieristica del Dr. Hinton sull’apprendimento profondo e le reti neurali ha aperto la strada agli attuali sistemi di intelligenza artificiale come ChatGPT.

Ma lo psicologo cognitivo e informatico britannico-canadese ha dichiarato alla BBC che i chatbot potrebbero presto superare le informazioni contenute nel cervello umano.

“Quello che vediamo ora è che cose come GPT-4 eclissano il livello di buon senso di una persona e lo nascondono per molto tempo. In termini di ragionamento, non è così buono, ma lo fa già. Ragionamento semplice.

“E dato il ritmo dei progressi, ci aspettiamo che le cose migliorino molto rapidamente. Quindi dovremmo preoccuparcene”.

Nell’articolo del New York Times, il dottor Hinton ha fatto riferimento a “cattivi attori” che cercano di usare l’intelligenza artificiale per “cattive azioni”.

Quando gli è stato chiesto dalla BBC di elaborare, ha risposto: “È una specie di scenario peggiore, una specie di scenario da incubo.

“Ad esempio, puoi immaginare alcuni cattivi attori [Russian President Vladimir] Putin ha deciso di dare ai robot la possibilità di creare i propri obiettivi secondari”.

Questo alla fine può creare “obiettivi secondari come ‘Voglio avere più potere'”, ha avvertito lo scienziato.

Ha aggiunto: “Sono giunto alla conclusione che l’intelligenza che stiamo sviluppando è molto diversa dall’intelligenza che abbiamo.

“Siamo sistemi biologici e questi sono sistemi digitali. E la grande differenza è che con i sistemi digitali ci sono più copie dello stesso peso, lo stesso modello del mondo.

“E tutte queste repliche possono imparare individualmente, ma condividere le loro conoscenze all’istante. Quindi è come se avessi 10.000 persone, e ogni volta che uno impara qualcosa, tutti lo sanno automaticamente. E questi chatbot possono imparare più di qualsiasi persona.”

Il dottor Hinton ha anche detto che c’erano altri motivi per lasciare il suo lavoro.

“Uno, ho 75 anni. Quindi è ora di andare in pensione. E l’altro è che voglio dire alcune cose positive su Google. E se non lavorassi per Google, sarebbero più credibili.”

Non ha voluto criticare Google e ha insistito sul fatto che il gigante della tecnologia ha agito “in modo molto responsabile”.

Jeff Dean, capo scienziato di Google, ha dichiarato in una dichiarazione: “Siamo impegnati in un approccio responsabile all’intelligenza artificiale. Continuiamo a imparare a comprendere i rischi emergenti mentre innoviamo con coraggio”.