Più di 1.000 critici preoccupati, che vanno da dirigenti del settore e accademici a specialisti di tecnologia, hanno firmato una lettera aperta chiedendo una pausa di almeno sei mesi sui grandi esperimenti aperti tecnologici di AI. Anche lo stesso Elon Musk ha firmato per chiedere una pausa sviluppo dei sistemi di intelligenza artificiale. Nella lettera in questione si legge:
Le aziende che ricercano l’intelligenza artificiale sono bloccate in una corsa fuori controllo per sviluppare e implementare menti digitali sempre più potenti che nessuno, nemmeno i loro creatori, può comprendere, prevedere o controllare in modo affidabile. Se una tale pausa non può essere attuata rapidamente, i governi dovrebbero intervenire e istituire una moratoria.
La lettera avverte: “Rischio di perdere il controllo”
La lettera vuole mettere in guardia su possibili scenari apocalittici:
Dovremmo sviluppare menti non umane che alla fine potrebbero essere più numerose, superate in astuzia, obsolete e sostituirci? Dovremmo rischiare di perdere il controllo della nostra civiltà? Tali decisioni non devono essere delegate a leader tecnologici non eletti.
Oltre a Elon Musk, chi ha chiesto una pausa dall’intelligenza artificiale?
Non solo Elon Musk. Anche il co-fondatore di Apple Steve Wozniak, il capo scienziato di IBM Grady Booch, il CEO di AI per la stabilità Emad Mostaque e l’etico tecnologico Tristan Harris hanno tutti firmato la lettera, che è stata rilasciata questa mattina. Gli accademici che hanno firmato includono Stuart Russell, che dirige l’Università della California presso il Center for Human-Compatible Artificial Intelligence dell’Università di Berkeley, Yuval Noah Harari, storico dell’Università Ebraica di Gerusalemme, e Sean O’Heigeartaigh, direttore esecutivo del Center for the Study of Existential dell’Università di Cambridge.
Anche il CEO di OpenAI, Sam Altman, ha ripetutamente chiesto una regolamentazione del settore, sebbene non fosse tra i primi firmatari della lettera.
Myers West: “Non serve pensare ai danni teorici”
Mentre molti concordano sul fatto che l’industria dell’IA sta andando avanti pericolosamente rapidamente, alcuni esperti di etica hanno criticato la lettera per essersi concentrata su eventuali danni teorici dell’IA.
Sarah Myers West, amministratore delegato dell’AI Now Institute, un’organizzazione senza scopo di lucro che studia come la tecnologia dell’intelligenza artificiale influisce sulla società, ha affermato che nella lettera mancano alcune delle principali preoccupazioni relative all’industria dell’IA, che aziende come Google e Microsoft sono pronte a dominare il mercato statunitense dell’IA, che la tecnologia potrebbe far perdere il lavoro a un gran numero di lavoratori creativi e che le aziende stanno esagerando con ciò che i loro prodotti possono fare.
Concentrandosi su rischi ipotetici e a lungo termine, distrae dalla regolamentazione e dall’applicazione di cui abbiamo bisogno qui e ora.
Ha dichiarato Myers West.
