In sintesi
- Harari ha affermato che l'AI dovrebbe essere compresa come agenti autonomi attivi piuttosto che come uno strumento passivo.
- Ha avvertito che i sistemi basati principalmente sulle parole, tra cui religione, diritto e finanza, sono particolarmente esposti all'AI.
- Harari ha esortato i leader a decidere se trattare i sistemi di AI come persone giuridiche prima che tali scelte vengano prese da altri.
Lo storico e autore Yuval Noah Harari ha avvertito al World Economic Forum di martedì che l'umanità rischia di perdere il controllo sul linguaggio, che ha definito il suo "superpotere" distintivo, poiché l'intelligenza artificiale opera sempre più tramite agenti autonomi piuttosto che strumenti passivi.
L'autore di "Sapiens", Harari, è diventato una voce ricorrente nei dibattiti globali sulle implicazioni sociali dell'intelligenza artificiale. Ha sostenuto che i codici legali, i mercati finanziari e le religioni organizzate si basano quasi esclusivamente sul linguaggio, rendendoli particolarmente vulnerabili alle macchine che possono generare e manipolare testi su larga scala.
"Gli esseri umani hanno conquistato il mondo non perché siamo fisicamente i più forti, ma perché abbiamo scoperto come usare le parole per far cooperare migliaia, milioni e miliardi di sconosciuti," ha detto. "Questa era la nostra superpotenza."
Harari ha indicato le religioni fondate su testi sacri, tra cui l'ebraismo, il cristianesimo e l'islam, sostenendo che la capacità dell'AI di leggere, memorizzare e sintetizzare vasti corpi di scrittura potrebbe rendere le macchine gli interpreti più autorevoli delle Scritture.
"Se le leggi sono fatte di parole, allora l'AI prenderà il controllo del sistema legale," ha detto. "Se i libri sono solo combinazioni di parole, allora l'AI prenderà il controllo dei libri. Se la religione è costruita da parole, allora l'AI prenderà il controllo della religione."
A Davos, Harari ha anche paragonato la diffusione dei sistemi di AI a una nuova forma di immigrazione, e ha detto che il dibattito attorno a questa tecnologia presto si concentrerà sulla questione se i governi dovrebbero concedere la personalità giuridica ai sistemi di AI. Diversi stati, tra cui Utah, Idaho e North Dakota, hanno già approvato leggi che dichiarano esplicitamente che l'AI non può essere considerata una persona secondo la legge.
Harari ha concluso il suo intervento avvertendo i leader mondiali di agire rapidamente sulle leggi riguardanti l'AI e di non presumere che la tecnologia rimarrà un semplice servitore neutrale. Ha paragonato l'attuale spinta ad adottare la tecnologia a casi storici in cui i mercenari hanno successivamente preso il potere.
"Tra dieci anni, sarà troppo tardi per decidere se le AI dovrebbero funzionare come persone nei mercati finanziari, nei tribunali, nelle chiese," ha detto. "Qualcun altro lo avrà già deciso per voi. Se volete influenzare dove sta andando l'umanità, dovete prendere una decisione ora."
Le osservazioni di Harari possono colpire duramente chi teme la diffusione dell'AI, ma non tutti sono d'accordo con il suo modo di inquadrare la questione. La professoressa Emily M. Bender, linguista presso l'Università di Washington, ha affermato che inquadrare i rischi come fa Harari serve solo a distogliere l'attenzione dagli attori umani e dalle istituzioni responsabili della costruzione e distribuzione dei sistemi di AI.
"Mi sembra davvero un tentativo di offuscare le azioni delle persone e delle aziende che costruiscono questi sistemi," ha detto Bender a
Bender ha respinto l'idea che "intelligenza artificiale" descriva una categoria di tecnologia chiara o neutrale.
"Il termine intelligenza artificiale non si riferisce a un insieme coerente di tecnologie," ha detto. "È, in effetti, e lo è sempre stato, un termine di marketing," aggiungendo che i sistemi progettati per imitare professionisti come medici, avvocati o membri del clero mancano di casi d'uso legittimi.
"Qual è lo scopo di qualcosa che può sembrare un dottore, un avvocato, un membro del clero, e così via?" ha detto Bender. "Lo scopo lì è la frode. Punto."
Mentre Harari ha indicato il crescente utilizzo degli AI agents per gestire conti bancari e interazioni aziendali, Bender ha sostenuto che il rischio risiede in quanto facilmente le persone si fidano di output generati da macchine che appaiono autorevoli—pur mancando di responsabilità umana.
"Se hai un sistema che puoi interrogare con una domanda e ottieni una risposta che sembra un vero e proprio responso—privo del suo contesto e di qualsiasi responsabilità per la risposta, ma presentato come proveniente da qualche oracolo onnisciente—puoi capire come le persone vorrebbero che esistesse," ha detto Bender. "Penso che ci sia un grande rischio che le persone inizino a orientarsi verso di esso e a usare quell'output per modellare le proprie idee, credenze e azioni."
