096 - Compatibile con l'uomo
di Stuart Russell
Compatibile con l'uomo. Come impedire che l'IA controlli il mondo
di Stuart Russell (Autore) Chiara Veltri (Traduttore) Einaudi, 2025
Perché leggerlo oggi:
Accogliamo l'ammonimento di uno dei massimi padri mondiali dell'intelligenza artificiale, Stuart Russell (cofautore del manuale standard globale sulla disciplina), edito in Italia da Einaudi.
Frase esigente:
«Il problema fondamentale dell'intelligenza artificiale non è il controllo esercitato da macchine malvagie, ma la nostra incapacità di definire i fini in modo sicuro ed etico; per garantire un futuro all'umanità, dobbiamo cambiare radicalmente paradigma scientifico e progettuale, subordinando ogni algoritmo alla conservazione della vita, alla giustizia e alla dignità in negoziabile di ogni persona.»
Descrizione del prodotto librario
Questo libro parla del tentativo, che gli esseri umani portano avanti da millenni, di sondare il mistero dell'intelligenza; e racconta gli sforzi compiuti nell'ultimo secolo per riuscire a creare una mente artificiale. Perché l'IA sta rapidamente diventando un elemento pervasivo del presente, e sarà la tecnologia dominante dell'immediato futuro. Ma dobbiamo prepararci all'eventualità che le macchine superino di gran lunga la nostra capacità di prendere decisioni nel mondo reale. Ottenere accesso a un'intelligenza tanto sterminata potrebbe essere l'evento piú importante della storia dell'umanità. Bisogna però fare in modo che non si tratti anche dell'ultimo evento della storia dell'umanità.
Dettagli
Autore: Stuart Russell --- Traduttore:Chiara Veltri --- Editore: Einaudi, 2025
EAN: 9788858447796
UN COMMENTO DEI DISARMISTI ESIGENTI
Ci permettiamo di avanzare una osservazione per spostare l'asse del ragionamento dal piano tecnico-filosofico a quello politico, economico e strutturale.
Se è vero che dobbiamo insegnare alle macchine a essere "compatibili con l'uomo", la domanda fondamentale diventa: quale uomo, quale classe e quali centri di potere detengono i mezzi di produzione di quell'intelligenza?
Non possiamo ignorare l'analisi della piramide del potere e della geopolitica dell'IA. Ecco come potrebbe articolarsi questo nodo irrisolto:
La concentrazione monopolistica e la "privatizzazione" del futuro
Chi possiede l'infrastruttura detiene il monopolio del reale: i data center sterminati, la potenza di calcolo (i supercomputer di ultima generazione), i satelliti e la fibra ottica non sono beni comuni, ma proprietà privata di pochissime aziende transnazionali (Big Tech) o di superpotenze statali (Stati Uniti e Cina). Chi possiede l'infrastruttura decide, a monte, quali problemi vale la pena risolvere e quali vite vale la pena ottimizzare.
Il software come gabbia ideologica: il codice non è mai neutrale. Gli algoritmi che decidono il credito al consumo, che filtrano le notizie, che indirizzano il dibattito pubblico o che guidano i droni autonomi sono programmati per massimizzare il profitto o il vantaggio strategico-militare, non la giustizia sociale o la pace. Chiedersi "chi è il padrone" significa scoprire che la governance dell'IA è oligarchica e antidemocratica.
Il cortocircuito della "compatibilità": affidare la sicurezza e i fini dell'IA agli stessi soggetti che traggono profitto dallo sfruttamento dei dati e dalla mercificazione delle relazioni umane è un'illusione pericolosa. Non basta correggere l'equazione matematica di un algoritmo se a scriverla è un monopolio privato slegato da qualsiasi controllo democratico popolare.
La risposta della nonviolenza poietica
Di fronte a questa concentrazione titanica di potere infrastrutturale, la risposta non può essere la rassegnazione o la semplice invocazione di un'etica d'azienda (la cosiddetta ethics washing). Serve un'azione di resistenza e costruzione dal basso:
Socializzazione e sovranità digitale: ripensare le infrastrutture come beni comuni globali (l'acqua, l'aria e ora anche i dati e il calcolo), lottando per il loro disarmo e per la loro public governance democratica.
Open source e tecnologie comunitarie: sottrarre il software ai monopoli proprietari sviluppando strumenti decentralizzati, trasparenti e gestiti dalle comunità per i bisogni reali delle persone (educazione, cura, cooperazione).
Una nuova frase esigente da Disarmista esigente per marcare questo passaggio:
«Non basta pretendere algoritmi etici se a possedere le infrastrutture e il software sono i monopolisti del profitto e della guerra; la vera battaglia per il futuro richiede di strappare i mezzi della digitalizzazione al dominio oligarchico, restituendoli come beni comuni alla sovranità e alla giustizia dei popoli.»