Il potere e i poteri dell’Intelligenza Artificiale

La nostra civiltà occidentale sta progredendo molto velocemente attorno a “due tecnologie centrali: l’intelligenza artificiale (IA) e la biologia sintetica… Tuttavia, la loro rapida proliferazione minaccia anche di offrire l’opportunità ai criminali di scatenare conflitti, instabilità e persino catastrofi di proporzioni inimmaginabili” (p. 13). E non saranno solo i classici criminali a creare gravi problemi…

Indubbiamente “Oggi i sistemi di IA possono riconoscere volti e oggetti in maniera impeccabile. La trascrizione speech-to-text e la traduzione instantanea sono ormai acquisite. La IA può monitorare le strade e il traffico con sufficente accuratezza per muoversi, in alcuni contesti con il pilota automatico” (p. 15). Si è attivata la produzione di voci sintetiche, di musica artificiale e di testi “dettagliati e coerenti”.

Così “Si registrano progressi persino in ambiti più impegnativi, da sempre ritenuti esclusivo dominio dell’uomo, come la pianificazione a lungo termine, l’immaginazione e la simulazione di idee complesse”. I grandi dilemmi etici diventano sempre più numerosi e più difficili da valutare in modi obiettivi. Forse solo alcuni scienziati e alcuni filosofi sono davvero preparati per pianificare delle strategie di contenimento.

Anche i professionisti più critici della tecnologia non comprendono bene la strategia del contenimento: esistono solo sistemi interconnessi “di meccanismi tecnici, sociali, legali tesi a limitare e controllare la tecnologia: un modo, in teoria, di aggirare il dilemma” (p. 18). Quindi, “prima o poi, una potente generazione tecnologica” potrebbe condurre “l’umanità verso esiti catastrofici oppure distopici. Credo che sia questo il grande metaproblema del XXI secolo” (p. 18).

Il grande problema del contenimento si può sintetizzare così: “In che modo possiamo mantenere il controllo sulle tecnologie più preziose mai create via via che diventano più convenienti e si diffondono con maggiore rapidità di quanto sia mai accaduto nella storia” (p.25).

Inevitabilmente ci saranno molti grandi cambiamenti, e un grandissimo cambiamento riguarderà il grado di libertà degli esseri umani. Se reagiranno pochi politici e pochi cittadini, la società occidentale farà la stessa fine della società cinese. Ma dal punto di vista economico i cinesi sono già troppo avanti, anche grazie alle conoscenze economiche fornite dagli americani, soprattutto a partire dalla metà degli anni Novanta.

I principali argomenti affrontati nel libro riguardano la sicurezza tecnica, i processi di sorveglianza e la revisione delle implementazioni, il fare attenzione ai punti di strozzatura, la responsabilità dei produttori, i profitti e gli obiettivi delle grandi aziende, l’ambivalente regolamentazione dei governi, i trattati internazionali e le alleanze, il potere del popolo, il fatto di accettare i fallimenti per arrivare ai miglioramenti (tutto a partire da p. 301).

Per capire meglio l’ultimo punto, oggi sempre più fondamentale, conviene soffermarsi sull’industria aeronautica: “All’inizio dello scorso decennio moriva solo uno su 7,4 milioni di passeggeri. Negli ultimi anni i voli commerciali americani non sono stati interessati da incidenti fatali. Volare è probabilmente il modo più sicuro di spostarsi: viaggiare a 10.000 metri di quota è meno rischioso che starsene sul divano di casa” (p. 330). Tutta questa sicurezza è stata resa possibile dalla cultura dei miglioramenti costanti (i “miglioramenti incrementali”). Quindi per quanto riguarda la sicurezza non esiste nessun segreto aziendale.

Indubbiamente “Per gran parte della storia, la sfida è stata quella di creare e sprigionare il potere della tecnologia. Oggi la situazione sì è ribaltata: la sfida della tecnologia ha a che fare con il contenimento del suo potere, per assicurarci che continui a servire noi e il nostro pianeta” (p. 62). E, per quasi tutti noi, vale quello che disse il fisico Richard Feynman, “Non posso capire ciò che non posso creare” (p. 319).

L’Intelligenza Artificiale riesce a trasferire la conoscenza da un campo all’altro? Per Melanie Mitchell no (docente di complessità). E chi sono davvero i grandi geni affaristi americani nel campo informatico? Comunque “Se tutti avranno accesso a più tecnologie, chiaramente ce l’avranno pure i maleintenzionati” (p. 202). Per fortuna la stragrande maggioranza delle persone più intelligenti sono anche piuttosto altruiste e ben intenzionate.

Mustafa Suleyman ha ideato DeepMind ed è stato vicepresidente dell’area AI in Google. Ora è diventato il CEO di Inflection AI (vive a Palo Alto in California). Per approfondimenti: https://pro-motivate.com/it/speaker…

Michael Bhaskar è un editore e uno scrittore che vive nel Regno Unito (www.michaelbhaskar.com).

Nota geopolitica – “Il delicato accordo su cui si fonda lo stato-nazione verrà sottoposto a una tensione inimmaginabile proprio nel momento in cui avremo più bisogno del suo potere istituzionale. Ed è cosi che arriviamo al dilemma”. Esiste la possibilità di arginare queste grandi tecnologie? Come? (p. 26). Per fortuna “questo libro parla” anche “di come affrontare il fallimento”. E “La sicurezza si basa sul fatto che le cose non si guastino e che non finiscano nelle mani sbagliate” (p. 342),

Nota informatica – Per l’informatico Stuart Russell “Anziché fornire a una IA un insieme di obiettivi esterni prefissati e indelebili” sarebbe meglio “che siano i sistemi stessi a dedurre con cautela le nostre preferenze e i nostri scopi. Le IA dovrebbero osservare con attenzione e imparare. In teoria, questo dovrebbe lasciare più spazio al dubbio ed evitare esiti indesiderati” (p. 300). In effetti si potrebbe dire in modo ironico che l’Intelligenza Artificiale è “ciò che i computer non sanno fare”, e “non appena ci riescono è solo software” (p. 91). 

Nota sulla sicurezza biologica – Il programma del biotecnologo Kevin Esvelt del MIT, prevede tre aspetti fondamentali del contenimento nella biosicurezza: “ritardare, scoprire e difendere” (p. 337). Chi svolge esperimenti biologici di vario genere dovrebbe essere perseguibile e dovrebbe ripagare eventuali danni tramite le assicurazioni. Alcuni esperimenti andrebbero proibiti. La prevenzione serve, come serve la preparazione dei vari materiali utili, sanitari e non, in caso di bisogno e di emergenza.

Nota angosciante – “Lanciare un prodotto che non decolla è un conto, avere per le mani un modello linguistico in grado di scatenare un’infoapocalisse o un farmaco che può provocare reazioni avverse è infinitamente peggio” (p. 331). Con l’attuale evoluzione tecnologica “alcuni stati liberaldemocratici continueranno a essere erosi dall’interno, trasformandosi in una sorta di governo zombie” (p. 195).

Nota finale – Purtroppo “oggi è plausibile che un singolo individuo disponga della capacità di uccidere un miliardo di persone” (un illustre professore, p. 20). In effetti gli basterebbe solo la motivazione per farlo (p. 20). E quando la robotica uscirà dal contesto industriale per proiettarsi nel contesto familiare?

Nota personale – Lascio anche due link per approfondire la questione fondamentale dell’intelligenza artificiale: www.aicanet.it (Associazione Italiana per l’Informatica), https://aixia.it (Associazione Italiana per l’Intelligenza Artificiale). E, a livello molto intimo, come disse il grande fisico Richard Feynman, “Non posso capire ciò che non posso creare” (p. 319). E per avere una visione a 360 gradi: www.agoravox.it/La-lunga-e-t…