Durante il programma Today di BBC Radio 4, Geoffrey Hinton ha affermato che c'è una probabilità del 10-20% che, nei prossimi trent'anni, l'Intelligenza Artificiale possa portare all'estinzione umana. Ecco cosa ha detto.
Intelligenza Artificiale causa dell'estinzione umana: l'avvertimento
Geoffrey Hinton, 75 anni, è stato uno dei pionieri nella ricerca sull'apprendimento profondo delle reti neurali, il fondamento dell'intelligenza artificiale generativa. In altre parole, è l'uomo che ha tentato di sviluppare sistemi di
IA simili al funzionamento del cervello umano. Nel 2023, dopo una carriera di successo, ha lasciato Google per mettere in guardia sui pericoli delle macchine che lui stesso ha contribuito a creare.
Cosa ha detto Geoffrey Hinton
Geoffrey Hinton ha lanciato un nuovo allerta durante il programma Today di BBC Radio 4. Il pioniere dell'Intelligenza Artificiale ha affermato che esiste una probabilità del 10-20% che, nei prossimi trent'anni, l'IA possa portare all'estinzione dell'umanità. Secondo lui, la tecnologia sta progredendo "più rapidamente del previsto" e non abbiamo mai affrontato qualcosa di più intelligente di noi. "Quanti esempi conosciamo di entità più intelligenti controllate da entità meno intelligenti?", ha chiesto. Hinton, insieme a John J. Hopfield, ha ricevuto il Nobel per la fisica 2024 per le sue scoperte nel campo dell'apprendimento automatico, in particolare per le reti neurali artificiali, che si ispirano alla struttura delle reti neuronali del nostro cervello. In un'intervista precedente al New York Times, aveva descritto i chatbot come "abbastanza spaventosi" e, sebbene attualmente non siano più intelligenti di noi, ha avvertito che potrebbero diventarlo presto.
I software possono essere utilizzati in modo distorto per perseguire obiettivi pericolosi. Secondo Hinton, l'intelligenza artificiale potrebbe minacciare la diversità di pensiero, poiché le sue risposte tendono a essere simili e allineate all'ideologia prevalente.
"Ho concluso che il tipo di intelligenza che stiamo creando è molto diverso da quella che possediamo. Noi siamo sistemi biologici, mentre questi sono sistemi digitali. La grande differenza è che nei sistemi digitali esistono molteplici copie dello stesso set, dello stesso modello del mondo", il che comporta il rischio di omogeneizzare il pensiero attraverso risposte standardizzate.
"Immagina di avere 10.000 persone: ogni volta che una di esse apprende qualcosa, tutti gli altri lo sanno immediatamente. Questo è il motivo per cui i chatbot possono possedere una conoscenza superiore a quella di qualsiasi individuo." Come sottolinea il pioniere dell'IA, colmare tutte le lacune è una sfida urgente: "Osserva com'era la situazione cinque anni fa e confrontala con quella attuale".
Come possiamo difenderci da un'IA più intelligente degli esseri umani
"Non abbiamo mai vissuto l'esperienza di avere entità più intelligenti di noi", ha dichiarato Hinton durante una conversazione con la commissione Nobel. "Ci saranno aspetti straordinari… porterà a enormi progressi nella produttività. Tuttavia, dobbiamo anche essere consapevoli di una serie di potenziali conseguenze negative, in particolare il rischio che queste tecnologie possano sfuggire al nostro controllo."
Inoltre, Hinton sostiene che sia necessario implementare nuove normative per regolare l'intelligenza artificiale. "Se la affidiamo esclusivamente alle aziende produttrici, che perseguono il profitto, non sarà sviluppata in modo sicuro. L'unico modo per spingere queste grandi aziende a investire di più nella sicurezza è attraverso una regolamentazione governativa".
