Eliezer Yudkowsky, Nate Soares - Prima che sia troppo tardi (2026)

Da quando l'intelligenza artificiale è entrata nelle nostre vite, abbiamo iniziato a delegarle compiti sempre più complessi, affascinati dalle sue capacità straordinarie. In termini di velocità di calcolo, analisi dei dati e resistenza alla fatica, spesso questi sistemi superano le prestazioni umane. Dove ancora non raggiungono gli standard umani è nella capacità di ragionamento. Le attuali IA infatti non «pensano» veramente, ma si limitano a riconoscere schemi, riprodurre correlazioni e generare risposte sulla base di enormi quantità di dati preesistenti. Simulano l'intelligenza, ma non la incarnano. I progressi in questo ambito di ricerca, però, sono continui e procedono con una rapidità spaventosa. Quasi tutte le aziende sviluppatrici sono già al lavoro per raggiungere il successivo stadio dell'evoluzione: le cosiddette «superintelligenze artificiali» (ASI), in grado di effettuare ragionamenti con una velocità sovrumana, di interagire con il mondo esterno e persino di riprodurre e migliorare se stesse. Chi ne caldeggia la realizzazione afferma che le ASI aiuteranno l'umanità a risolvere problemi che oggi appaiono insormontabili: dalle malattie incurabili al cambiamento climatico, dalle disuguaglianze economiche alla scarsità di risorse. Eppure, non tutti condividono questo ottimismo. Se tali sistemi dovessero davvero raggiungere un livello di autonomia tanto elevato da sviluppare obiettivi propri, chi ci garantisce che non prenderebbero il sopravvento su di noi?