«Vivere una realtà definita dal software, del quale abbiamo solo una licenza d’uso e non siamo proprietari, e nella quale dobbiamo affrontare la questione di che cosa voglia dire democratizzare il potere computazionale, di Paolo Benanti. L’intervento di padre Paolo Benanti sull’Intelligenza artificiale al Meeting di Rimini 2024

Riprendiamo sul nostro sito, dal sito del Meeting di Rimini, la trascrizione dell’intervento di padre Paolo Benanti tenuto il 22/8/2024 all’interno dell’incontro L’essenza dell’intelligenza artificiale. Strumento o limite per la libertà? Moderato da Andrea Simoncini e con la partecipazione di Paolo Benanti, Mario Rasetti e Luca Tagliaretti (https://www.meetingrimini.org/eventi-totale/lessenza-dellintelligenza-artificiale-strumento-o-limite-per-la-liberta/ ). I neretti sono nostri ed hanno l’unico scopo di facilitare la lettura on-line. Restiamo a disposizione per l’immediata rimozione se la presenza sul nostro sito non fosse gradita a qualcuno degli aventi diritto. Per ulteriori testi, cfr. la sezione Etica dei media.

Il Centro culturale Gli scritti (3/2/2026)

[…] provo a prendere sul serio questo invito che mi è stato fatto di andare all’essenziale, perché oggi l’intelligenza artificiale è un tema che merita di essere discusso a tutti i livelli, fino al G7 e fino alle Nazioni Unite. Ecco, per rispondere a questa domanda, penso che sia necessario evidenziare due punti.

Allora, il primo punto è questo. È accaduto qualcosa alla realtà che ci circonda. Se dovessi scrivere un titolo provocatorio, direi: “La realtà non è più quella di una volta”.

Ecco, quando è accaduta questa cosa? È accaduta come momento storico d’inizio, se vogliamo, durante la Seconda Guerra Mondiale, quando all’interno dei laboratori della Bell Labs non è stata solo definita la realtà dell’informazione, ma è stato scoperto e brevettato un altro componente, il transistor, che da quel momento in poi ha cambiato la natura degli oggetti che abbiamo intorno a noi.

La cosa ancora più particolare è stato il modello di distribuzione di questa invenzione, che non è stata tenuta strettamente sotto il controllo dei Bell Labs, ma per volere anche dell’amministrazione governativa americana, il transistor è stato dato in licenza d’uso a tutte quelle aziende che avessero mandato i propri ingegneri al costo di 25 mila dollari dell’epoca a fare una settimana di corso presso i Bell Labs. Ecco, questo ha prodotto una “transistorizzazione” della realtà, se mi consentite questo termine difficile, cioè l’inserimento di elementi computazionali all’interno di tutto ciò che esiste.

Cosa vuol dire questo? Ecco, passiamo dal “tecnichese” alla vita vissuta, ve lo provo a raccontare con un’esperienza di vita vissuta. A gennaio sono stato invitato da una di queste grandi università americane per un convegno, una di quelle che sta in mezzo agli Stati Uniti. E uno dei grandi professori che mi ha invitato, uno del top 2% degli ingegneri informatici ed elettronici, ha commesso un errore molto grave. Mi ha detto: “Guarda, ti vengo a prendere io all’aeroporto”. Il problema è che io viaggiavo con un volo molto francescano, il che ha significato atterrare in questo aeroporto secondario degli Stati Uniti verso le 2 di notte. Penso che se ne sia pentito, però mi è venuto a prendere con una macchina che è status symbol di quella che è la sua condizione, una macchina di queste elettriche, tutte guidate dal software. Sto facendo delle grandi capriole per non dire “marche”. Fatto questo, mi ha portato in un albergo dove mi ospitavano e qui ho commesso un grave errore. Dopo circa 20 ore di volo, erano le due e mezza di notte, il mio autocontrollo è sceso ai minimi storici. Siamo arrivati all’albergo, provo a scendere dalla macchina, vado verso la portiera e gli faccio: “Scusa, ma come si apre?” Non c’era la maniglia. E lui mi guarda con un sorrisone compiacente e mi dice: “Guarda, basta che premi il pulsante”. E lì è saltato l’autocontrollo. E gli ho detto: “Scusa, ma quindi se prende fuoco la batteria, questa da una macchina diventa un posacenere, perché rimangono solo le nostre ceneri dentro”.

Sono tornato lì ad aprile e s’è venduto la macchina, però questa cosa ci dice qualcosa di profondo di quello che è successo. Cioè, la macchina, che era un oggetto definito dal motore, definito dall’hardware, cioè definito dai pezzi che uno comprava quando la ordinava, improvvisamente è diventata una realtà definita dal software grazie al transistor.

Cioè, io oggi compro quella macchina che ha dentro tutto l’hardware che gli serve e solo se scarico del software e pago un opportuno abbonamento mensile mi si sbloccano alcune funzioni, ma anche alcune macchine europee sono così.

Ormai abbiamo grandi produttori europei che mettono in tutti i sedili il riscaldamento, ma solo se paghi l’abbonamento si attiva, o i fari particolarmente potenti, di cui puoi attivare l’abbonamento d’inverno e disattivarlo d’estate, o una batteria elettrica che serve come sostegno al motore, normalmente, ma se paghi un abbonamento serve come cavalli in più per avere più prestazioni.

Ecco, la realtà inizia a essere definita dal software. Questo è interessante! Vi provo a fare un esperimento mentale. Torno adesso da Seattle, l’avete sentito. Sono entrato in uno di quei negozi, molto interessanti, nei quali uno può comprare tutto, non c’è nessuno: fa tutto il computer. Se si rompe quel software, la natura stessa del luogo cambia per sempre. Non è più semplicemente un supermercato, perché niente può più entrare e uscire, diventa un magazzino. Pensate a un ospedale: dopo ci verrà detto qualcosa sulla cybersicurezza. Se uno di questi attacchi informatici, un ransomware, prende possesso dei computer dell’ospedale, la natura del luogo cambia per sempre. Non è più un ospedale: o è una sala d’attesa, o se uno è particolarmente grave diventa una morgue. Ecco, il software definisce la natura della realtà.

Questo porta con sé due problemi. Il primo è un problema economico. Ce l’hanno insegnato i grandi produttori di computer. In economia si parla di commodity. La benzina è una commodity dell’auto: tu compra da me l’auto, poi la benzina la metti dove ti pare. Ecco, l’hardware sta diventando una commodity del software: tu compri il tuo computer da chi ti pare, poi il sistema operativo lo metti da me.

Ma se il software definisce la realtà, il primo grande problema è: la realtà diventa una commodity del software? E chi possiede il software dice cos’è un oggetto? E cos’è questo? Capite che un software così sofisticato come l’intelligenza artificiale può semplicemente cambiare il controllo. Chi di voi è esperto di diritto, come chi ci modera, sa che il diritto romano associava al possesso di un oggetto tre qualità: usus, abusus e fructus. Posso usare la cosa che possiedo (usus), la posso distruggere (abusus), posso guadagnarne i frutti (fructus): posseggo una zappa, vado a lavorare con la zappa, ne ho i frutti. Questa software-defined reality forse mi lascia l’usus, senz’altro l’abusus, perché se compro uno smartphone lo posso rompere, ma mi sottrae il fructus. Il fructus non è più mio, perché io posseggo l’hardware, ma il software mi è dato solo in licenza.

Ecco che quindi stiamo cambiando le catene di potere all’interno del mondo. Parlare di intelligenza artificiale non è più solo parlare di tecnologia, ma parlare di una questione di potere, quindi una questione che ha a che fare con la nostra coesistenza, che ha a che fare con quella cosa così fragile e preziosa che è la nostra democrazia.

Ecco perché improvvisamente l’intelligenza artificiale si è mossa dai tavoli degli ingegneri ed è arrivata ad altri tavoli, che sono i tavoli istituzionali. E la grande domanda essenziale è come addomesticare questa tecnologia all’interno di un sistema sociale che crede così tanto nella mediazione dei poteri, che sono le mediazioni dei poteri democratiche. Sembrerebbe già spaventoso così, ma questa è solo metà della risposta.

L’altra metà della risposta sul perché sia essenziale è legata a un’altra questione. Il computer nasce in guerra ed è una cosa che serve a risolvere delle equazioni particolarmente complesse, che sono le equazioni differenziali parziali di von Neumann, che consentono a chi lavorava a Fort Alamo all’epoca di capire come dovevano essere messi l’uranio e l’esplosivo per ottenere la prima bomba atomica. E questo era ENIAC.

Dall’altra parte dell’oceano, Colossus, in Inghilterra, viene utilizzato per decodificare “Enigma”, il sistema con il quale i nazisti codificavano i messaggi per le loro truppe.

Finita la guerra – mai credere a chi fa previsioni tecnologiche – il Watson di IBM dice: “Sì, il computer è stato fondamentale, ma nel mondo ci sarà spazio massimo per 5 o 6 di questi oggetti”. In realtà, il computer si diffonde e si diffonde proprio per l’avvento del transistor, che riesce a rendere più economico e moltiplicabile quella potenza di calcolo. Gli anni ’50 e ’60 dello scorso secolo vedono il diffondersi del computer nelle grandi aziende, cambiandone anche la natura organizzativa; ci si riorganizza per far funzionare il computer.

Nel 1980 c’erano due grandi computer: il più grande del mondo era il Pentagono e organizzava le truppe americane, il secondo era in Kentucky nella sede centrale di Walmart e organizzava la grande distribuzione statunitense. Arriva la storia a bussare all’informatica.

Nel 1970 nasce la controcultura, conosciamo gli hippie, conosciamo i movimenti studenteschi da noi. Ecco, negli anni ’70 la parola d’ordine era: “Tutto ciò che è centralizzato è male, va ridato il potere ai singoli”. Il computer che si era diffuso negli anni ’50 e ’60 era tutta una potenza di calcolo centralizzata che abitava in alcuni armadi che si chiamavano mainframe. Ed ecco che i ragazzi della controcultura, quelli che potremmo definire gli hippie della Silicon Valley, hanno la stessa idea.

Attaccano questo potere computazionale centralizzato, lo vogliono sgretolare e darlo a ciascuno di noi. Nasce il personal computer. Hewlett e Packard in un garage, lo stesso Steve Jobs, Microsoft a Seattle, fanno questo: attaccano questo potere computazionale centralizzato e ci danno il personal computer. È così forte l’impatto culturale del personal computer che il 1º gennaio 1983 il settimanale “Time” decide che l’uomo dell’anno dell’82 non è un uomo, ma è una macchina. Il titolo è “The Computer Moves In”, arriva il computer; e c’è una copertina con un uomo bianco ingrigito, incurvato e un elaboratore, come a dire: “La macchina ha battuto l’umano”.

Passano gli anni e, passando gli anni, si arriva agli anni ’90. Negli anni ’90 di nuovo la storia bussa alla porta del computer che da personal è diventato laptop e abita i nostri giorni. È la fine del muro, crolla il muro. Un politologo statunitense, Fukuyama, dice che la democrazia liberale ha vinto, il capitalismo è l’unico modello che rimane. Madeleine Albright convince Clinton che questo significa che, se ci si apre al libero mercato, allora entrerà pure la democrazia liberale, e convince Clinton a far entrare la Cina all’interno del WTO.

Dirà Albright in uno dei suoi ultimi corsi all’inizio degli anni Duemila: “Ecco, abbiamo commesso un errore, perché la Cina ha fatto entrare il libero mercato, ma non è diventata più democratica, è solo diventata più ricca”. Chiudiamo gli anni Duemila con un problema, che quell’equazione che aveva caratterizzato l’Occidente alla fine della Seconda Guerra Mondiale – liberal democrazia più libero mercato uguale aumento del benessere – non è più vera, perché si può aumentare il benessere senza aumentare la democrazia. Questo dice che la nostra democrazia subisce o ha meno fascino sul mondo.

Arriviamo al nostro secolo e nel primo decennio di questo secolo il potere computazionale assume la sua forma più personale e intima: lo smartphone. Quando qualcuno non crede che lo smartphone sia un potere computazionale intimo, io vi invito a fare un esperimento. Se non credete che lo smartphone è intimo, sbloccate lo smartphone e datelo alla persona alla vostra destra. Se non lo potete fare, è perché quello che c’è dentro è profondamente intimo. E così si chiude il primo decennio di questo secolo. Arrivano le Primavere Arabe, il 2011, e quello che accade, grazie ai social network, ci fa pensare che lo smartphone e il digitale siano il miglior alleato della democrazia. Basta stare insieme, basta parlare ed ecco che improvvisamente diventa vero il voler desiderare qualcosa come le democrazie.

Dieci anni dopo, nel 2021, le rivolte di Capitol Hill rompono il sogno e sembra che lo smartphone, il digitale e i social network siano di fatto il peggior nemico delle nostre democrazie: fake news, post-verità e quant’altro.

Cosa è accaduto? Beh, questo è oggetto di un mio libro che uscirà a ottobre, ne riparleremo se volete. È accaduto che nel 2012 i social network si quotano in borsa e il mercato dà altre regole.

Ma quello che qui mi interessa è un altro elemento, è quello che è accaduto nel 2020. Nel 2020 c’era la pandemia, unico anno in cui non si è fatto il Meeting, o non si è fatto in presenza, mi correggo, e lì ci siamo resi conto però che il digitale aveva surrogato le nostre vite. Potevamo firmare grazie al digitale, potevamo in qualche misura avere riunioni non in presenza ma online, potevamo fare tutta una serie di cose, potevamo andare in banca senza andare in banca, ecco, il digitale, silenziosamente, a partire dal 2014, grazie allo smartphone, ha assorbito le nostre vite. Tutto è digitale.

Inizia il terzo decennio, siamo a noi. Il terzo decennio, se vi ricordate, si apre nel 2022-2023 quando la società si accorge che esiste l’intelligenza artificiale con l’arrivo di ChatGPT. Ecco, ChatGPT e l’intelligenza artificiale sono la seconda grande sfida. Perché l’arrivo dell’intelligenza artificiale semplicemente sfoca dove si compiono i processi computazionali.

Non sappiamo più se accadono nel nostro potere computazionale locale o in un potere computazionale centralizzato che si chiama cloud. E questo è un problema perché ora il potere computazionale centralizzato sta aspirando tutte le cose che abbiamo digitalizzato e chi detiene quel potere detiene tutto il potere.

E allora la domanda è: per vivere l’essenziale dobbiamo affrontare che cosa significa vivere una realtà definita dal software, del quale abbiamo solo una licenza d’uso e non siamo proprietari, dobbiamo affrontare che cosa vuol dire democratizzare il potere computazionale.

[…]

RIPRESA DEL TEMA AL TERMINE DELLE TRE RELAZIONI

Benanti: 

È bello fare questo tipo di discorso in un luogo come il Meeting, dove si trovano così tante forti passioni per l’uomo e per l’impegno educativo. Mi permetto di dire che questa storia del bollino sui prodotti dell’intelligenza artificiale c’è già, è presente nel disegno di legge che è passato in Parlamento, o meglio, è in fase di analisi in Parlamento e nasce anche dal lavoro delle Commissioni, grazie all’insistenza dell’onorevole Barachini del Dipartimento dell’Editoria, proprio per tutelare un diritto cognitivo delle persone.

Ma ripartiamo da quello che il professor Rasetti, amico oltretutto, ha iniziato a dire. Siamo più di 8 miliardi, 8 miliardi e 100 milioni al momento, secondo le statistiche ufficiali di ieri. Di queste, più di 6 miliardi hanno un cellulare, il che significa che il 75% dell’umanità utilizza una macchina programmabile. Stando alle statistiche ufficiali e agli ultimi report, in questo momento al mondo ci sono 27 milioni e 600 mila persone che sono in grado di programmare queste macchine, di parlare il linguaggio delle macchine, il che significa che il 99,65% dell’umanità è analfabeta riguardo a qualcosa che media tra noi e l’esecuzione del potere come nel potere computazionale.

Ecco, questa è un’emergenza educativa. Non significa che domani dobbiamo saper tutti programmare, ma significa che se noi diamo questo potere allo 0,35% dell’umanità, stiamo creando una disuguaglianza enorme, con una piccolissima frazione di persone che sono i nuovi sacerdoti di questa nuova capacità di far accadere le cose ed escludendo tutti gli altri. Quindi, la prima vera grande rivoluzione, la prima vera grande cyberdifesa di questo spazio digitale è l’educazione e l’impegno educativo, che è una cosa fondamentale perché noi apparteniamo a una specie unica.

Io ho passato la mia infanzia a disegnare funghi rossi con cerchi bianchi, e per istinto non lo sapevo che erano tossici, me l’hanno dovuto insegnare dopo.

Ecco, se noi non trasmettiamo queste competenze alle generazioni successive, saranno semplicemente sprovviste di queste competenze.

Ma questa è solo metà della storia. L’altra metà della storia è che ormai, già da settembre, i sistemi operativi dei nostri computer, qualunque marca voi compriate, saranno infusi di intelligenza artificiale.

Significa che l’intelligenza artificiale abiterà nella nostra quotidianità e questo ci apre ad alcuni problemi. Il primo problema è questo: se io prendo possesso del vostro computer, sul quale c’è un’intelligenza artificiale che funziona più o meno come ChatGPT, e gli dico: “Mi puoi dire tutte le cose che posso utilizzare per ricattare Paolo Benanti?” ecco che vi arrivano una serie di selfie in cui sono a pranzo con una serie di persone e mangiano in modo smodato. In realtà, il computer è molto più reattivo a tirar fuori cose che voi non vorreste che tirasse fuori. Entro e prendo possesso del computer di un amministratore delegato e gli chiedo: “Mi puoi dire tutti i segreti industriali che sono conservati là dentro?” E lui, obbediente, me li dice in pochi minuti. Ma ancora peggio, cosa accade se un’organizzazione criminale prende possesso di una serie di computer di ciascuno di noi dotati di queste funzioni intelligenti? Si può pensare a un attacco a sciame, adattativo nel tempo contro le infrastrutture critiche che è in grado di mettere in ginocchio un paese.

Allora, che quello che sta per accadere, cioè questa dinamizzazione grazie a sistemi come questi di tutti i nostri device, ci deve fare interrogare su come garantire una sicurezza che sia intergenerazionale, che sia un accesso alla democrazia intergenerazionale con l’educazione, ma soprattutto che sia una capacità di costruire quei guardrail fondamentali per evitare che queste macchine così utili vadano fuori strada. Noi siamo la generazione che deve decidere di questo.