Intelligenza artificiale, i prossimi agenti saranno umanoidi e con una coscienza?
Intelligenza artificiale, minaccia che governerà le nostre vite? Sarà l’emanazione di un’oligarchia di potenti che ne detengono la conoscenza e ne indirizzano gli obiettivi? Attentato alla democrazia o strumento per alleggerire il lavoro e darci la possibilità di dedicarci ad approfondire il sapere? Oppure no, quel sapere sarà concentrato nei robot e non lavoreremo più? E quale sarà il prezzo da pagare? Diventeremo il prodotto della tecnologia e quindi esseri da manipolare? La rivoluzione tecnologica che corre a una velocità impensabile arriverà a “produrre” umanoidi capaci anche di coscienza? C’è chi pensa che il traguardo non sia già tanto lontano…
Una cosa è certa. L’IA non è un gioco. E’ tutto molto serio sia per l’evoluzione veloce che ha avuto sia per quello che deve ancora venire. L’IA che abbiamo di fronte non è lo strumento da utilizzare per ritoccare le foto, per creare scenari immaginari che possono far divertire. E’ qualcosa ancora di molto sconosciuto di cui non si conoscono a fondo gli effetti sulla mente umana e che va oltre il mutamento antropologico, che già hanno determinato i social, per arrivare a una frontiera impensabile – se non nella finzione fantascientifica vista al cinema o letta nei libri. Non è un gioco. E’ bene capirlo subito e nel profondo.
Così l’intelligenza artificiale è stato uno dei percorsi che ho scelto di “attraversare” durante il quarto Festival del Pensare Contemporaneo di Piacenza che si è concluso domenica 27 settembre. Mi sono resa conto che l’IA è già il substrato del nostro vivere. Infatti ha attraversato confronti su temi molto diversi tra loro rivelandosi inaspettatamente presente in tutto il percorso compiuto.
Ho lasciato sedimentare tutte le considerazioni ascoltate e raccolte mettendo insieme tappe sui temi che maggiormente (almeno sulla carta) avrebbero potuto stimolare le riflessioni anche dopo il momento dell’ascolto. L’IA è stato un convitato presente. Dimostrando la pervasività che può avere in tutti i settori della nostra vita. Ho scoperto che dal lavoro, fino ai giovani, passando per l’economia e la finanza, fino all’organizzazione della città del futuro l’IA ha trovato spazio sempre e creato connessioni a distanza (entusiasmi o preoccupazioni) nel calendario degli eventi che si svolgevano in vari punti della città dove erano in programma le conversazioni.
Anche l’Europa è stata chiamata in causa sull’IA. Per il ruolo che dovrebbe avere su questa partita e non ha perché non può (l’Unione è rimasta economica e non ha fatto passi oltre). O non vuole perché gli stimoli sono altri come il riaffiorare dei sentimenti nazionali che si fanno via via più forti (si esprimono anche nelle urne in quasi tutti i Paesi). Perfino alcuni giovani (sarà un altro capitolo di una prossima riflessione) hanno trasmesso in pubblico il loro sconforto. La loro speranza infranta in un futuro europeo a cui appartenere come cittadini. Una triste constatazione.
Intelligenza artificiale, in che rapporto con la democrazia?
Evoluzione che corre. L’obiettivo sarà depotenziare un’umanità per trasformarla in una massa di umanoidi superflui, malleabili? Suggestioni che hanno fatto immaginare un mondo racchiuso e come tele-governato senza alcuno spazio alla creatività spontanea e soprattutto alle scoperte che hanno costruito nei millenni la nostra evoluzione. In palio c’è il governo e la “proprietà” del cervello umano. Inquieta un mondo così, che corre perché compie passi da gigante rispetto alla velocità del cervello umano che si muove molto più lento. L’AI è un portento, ti risolve tutto in brevissimo tempo scandagliando dove il cervello umano non potrebbe arrivare… ma attenzione: così si rischia di andare verso la videosorveglianza.
Di fronte a questa prospettiva – già ora – non si resta tranquilli. Affatto.
Ne esce un quadro che appare tutt’altro che un affare per l’umanità. Per ora resta un affare per chi ha in mano lo strumento e lo incentiva. Ma c’è ancora tempo per imbrigliare e piegare al ruolo di supporto operativo l’AI come lo sono state le altre conquiste tecnologiche? Un tema questo che mette in campo tanti soggetti, ma non solo. Scommette sulle volontà di pochi. Di chi tira le fila dell’invenzione che, conoscendola di più di giorno in giorno, sconvolgerà il mondo. E in questo primo step lo sta già facendo sui campi di guerra, per esempio. Anche se questo tema resta fuori dalle analisi.
Di questi tempi non si può non focalizzare l’attenzione sull’intelligenza artificiale. Ecco che sempre ai Teatini si sono confrontati discutendo di “Più futuro nelle nostre vite” Guido Girardi, (medico e politico cileno) e Bruno Giussani (scrittore e studioso di tecnologia) stimolati dalle domande di Andrea Colamedici. Che cosa è uscito dal confronto? Una prospettiva tra due modelli di umanità futura a seconda di come le potenze, le istituzioni si rapporteranno a questo nuovo scenario.
Due le strade possibili che si stagliano nel nostro futuro. Una similitudine cinetelevisiva spiega bene i due scenari possibili e sono da un lato Star Treck (quando la tecnologia è utilizzata per conoscenza e dove l’umanità resta protagonista); oppure l’altra strada è quella proposta da Star war (si sviluppa l’asservimento con violenza di tutti). Due estremi opposti. Sta a noi – questo il messaggio – capire in che direzione guardare.
E ancora altre considerazioni raccolte. L’IA vista con occhi particolari che calano nel profondo e da considerare come il nuovo petrolio e la sua ricchezza è il giacimento di dati che di fatto sono il nostro bagaglio di umanità. E’ facile pensare che rappresenti una forza capace di cambiare la geopolitica. Il passo è breve.
Così la tecnologia diventa una leva di potere enorme. Un esempio di resistenza arriva dal Cile che ha concentrato l’attenzione sull’IA partendo da un concetto: il campo di battaglia portato al Congresso del futuro che si è svolto nel luglio 2026 è il cervello umano. Lo slogan dell’appuntamento rivolto ai giovani era “meno algoritmi e più conversazione“.
Da qui l’idea dell’istituzione di un nuovo diritto umano che protegga il cervello considerato sotto attacco. Una presa di posizione decisa per guardare criticamente a una tecnologia che non porta pensiero ma velocità basandosi sull’immediatezza.
Troppo poco per un essere umano tanto che si sta perdendo il pensiero per difetto, base del pensiero creativo. Da qui la convinzione che quando il cervello è polarizzato le società si spostano verso gli estremismi. In una frase? Senza conversazione non c’è democrazia. E come si può conversare con una macchina? Decisamente la fine di un’esperienza umana.
Intelligenza artificiale, senza limiti e confini: le regole
Nella sala dei Teatini l’incontro intitolato “Fidati di me sono la tua IA personale”, uno dei tanti appuntamenti e confronti sulla nuova tecnologia. Ne hanno parlato da sinistra Luca Bolognini (avvocato) accanto la moderatrice Greta Rosa, Guido Saracco ex rettore del Politecnico di Torino dove è docente e Loubna Bourafa Scienziata dell’apprendimento automatico e imprenditrice
Dubbi, certezze che è necessario non far andare a “briglie sciolte” questa nuova tecnologia che ha fatto passi da gigante in brevissimo tempo. “Fidati di me! Sono la tua IA personale” conversazione ai Teatini tra Luca Bolognini (avvocato) Guido Saracco ex rettore del Politecnico di Torino dove è docente, Loubna Bourafa Scienziata dell’apprendimento automatico e imprenditrice stimolati dalle domande di Greta Rosa.
In quel contesto parole chiare e preoccupate ma anche resistenti di fronte a una tecnologia capace di rigenerare se stessa e che pare non avere confini né limiti in questo progredire. Timori che già sono nati dentro di noi (forse in alcuni più che in altri) secondo cui la tecnologia del terzo millennio è qualcosa che sfugge alla nostra competenza soprattutto in assenza di “patti chiari” dei confini necessari tra lo sviluppo della tecnologia stessa e della salvaguardia dell’individualità delle persone della loro unicità.
Certamente, si è detto, è “straordinario progettare un’intelligenza generativa, ma deve essere sotto controllo”. Perché? Semplice “non deve registrare come fosse una copia carbone il nostro cervello“. Lo sta già facendo? pare di sì. E’ quello che sta già succedendo e la prospettiva è che ci vengano addosso utilizzando i nostri dati. E si staglia già all’orizzonte l’ultima frontiera per un passo avanti: la strada per creare la super intelligenza.
Si tratta di uno strumento potente di fronte al quale non “possiamo girarci dall’altra parte“. Tanti i timori come quello di finire “sottomessi” alla potenza dell’IA con un avviso chiaro e forte a noi, utenti talvolta entusiasti di quello che esce da quella “collaborazione”: attenzione “non c’è empatia, non può esistere, è un ambiente illusorio” e ancora “non possiamo avere amore per uno strumento“. Non così inverosimile “se la Cina ha vietato la relazione umana con l’IA“
E che dire delle professioni a rischio? Tra le tante ingegneri e architetti. Gli ingegneri operano dall’800 ma in questa nuova situazione potrebbero uscire di scena. C’è la necessità di cambiare impostazione, rigenerarsi come professione. Perché? Semplice la progettazione di un ponte, di una qualsiasi altra struttura implica l’applicazione di una serie di leggi e questo può farlo una macchina. Esiste tutto sulla rete quindi la creatività legata alla logica possono assorbirla…
Che fare? La strada c’è: serve una IA personale come fosse un alleato digitale sia nel “lavoro sia nella società“. Attenzione, un alleato digitale non aperto all’esterno ma di supporto alla nostra necessità. E’ possibile. Ma non ora, non senza regole oggi inesistenti. E qui si apre il tema della proprietà dei mezzi (tema antico come il mondo) che ne riporta un altro: limiti e confini su cui la nuova tecnologia si deve muovere e sviluppare. Quanto è diffusa la consapevolezza di questi rischi nelle istituzioni che hanno la prerogativa di creare le regole?
Ma c’è anche un altro aspetto rilevato nella discussione riguardo all’importanza dell’IA. Il fatto che investe direttamente tutti noi. Il cambiamento che si impone nel modo di lavorare e di stare in questa società. Del resto è quel che si è fatto ad ogni passaggio che ha portato a un’innovazione tecnologica. Certo che il cambiamento che si richiede in questo caso è molto profondo. Quasi una auto rigenerazione.
Loubna Bourafa
Lo abbiamo capito, abbiamo rimuginato sulle parole ascoltate. IA si tratta di materia delicata che va maneggiata con le dovute maniere e quello che emerge è l’assenza di regole che di fatto ha portato a spostare tutto “dai governi alle big-tech che ci dicono fidatevi di noi“. Da qui l’ammonimento: non guardiamo indietro, dobbiamo concentrarci a costruire una visione per il domani. Già, visione, ma quale? L’impressione è che ora – e la tecnologia avanza a grandi passi come abbiamo sentito raccontare – potremmo trovarci all’angolo della storia futura. Depauperati e annichiliti dalla macchine.
Al fondo si intravede l’obiettivo di sostituire l’umano. Una paura che si rafforza sulla mancanza di regole e di limiti rispetto a questa tecnologia, il fatto che sono custodite in poche mani e, non ultima la capacità dirompente di possedere un potere enorme sulla forma di democrazia che si potrà determinare (o si determinerà nei prossimi decenni). E quindi un altro avvertimento: stiamo andando verso la videosorveglianza. Tempi duri anche se ci appaiono tante volte più facili perché ricchi di opportunità.
Il timore, la preoccupazione è che l’orizzonte su cui l’IA si specializzerà sarà sostituirsi alla persone, non per alleggerire il lavoro ripetitivo, né la fatica o per accrescerne le conoscenze e le competenze. No, per sostituire un’umanità troppo “ingovernabile”, troppo eccentrica e imprevedibile, da tenere a bada? E’ un passaggio del guado che ci fa dire che siamo già – per un pezzetto – in quel futuro di cui non conosciamo quasi nulla e di cui iniziano a delimitarsi i profili. Non certo rassicuranti.
Che serve dunque? Non una riscoperta del “luddismo”, il movimento ai tempi della rivoluzione industriale inglese quando i tessitori si organizzarono per distruggere i telai meccanici che si diffondevano perché eliminavano posti di lavoro per gli operai inglesi. Certo che no. E’ ben altro quello di cui si parla in questo secolo e che dovrebbe diventare consapevolezza di tutti. La posta in gioco è molto alta. Riguarda la qualità della democrazia e la sua stessa sopravvivenza.
Stiamo calmi rispetto alla tecnologia. E’ stato l’invito. In presenza di reazioni opposte che oscillano tra entusiasmi e angosce serve calma. Keep calm. Sì, calma e regole. Ma il nodo che non si è compreso a fondo è chi le deve tracciare queste regole se, a quanto sembra, siamo di fronte a uno scenario affatto rassicurante vista l’accelerazione e l’evoluzione della potenza della IA che- come ricordato – negli ultimi due anni è cambiata evolvendosi esponenzialmente. Comunque la si veda questi strumenti sono sempre più potenti e bussano alla porta dell’essere umano… minacciosi? Per aumentarne le possibilità? Nessuno ancora lo sa con precisione. Ma resta l’interrogativo primario. In che relazione saremo con l’IA e soprattutto: ci sarà relazione o solo sudditanza (nostra).
Il cuore del problema per poterlo governare sono le regole. In Europa con l’AI Act – secondo gli esperti a confronto – qualcosa è stato fatto, ma l’approccio europeo guarda ai sistemi in termini di prodotto come fosse un’auto che non deve fare male alle persone. Attestandosi quindi su un livello basso. In altre zone invece, come negli Usa, si va a briglia sciolta tranne che in alcuni ambiti come per quel che riguarda i dispositivi medici.
In sostanza le regole europee perdono di vista gli effetti IA. Insomma si è persa di vista la partita dei diritti individuali e generali. Ecco perché si deve parlare di stato di diritto umano. E allora la domanda: l’essere umano sarà la prossima tappa della conquista per l’intelligenza artificiale generativa?
Di fronte a questo scenario serve fermezza e unità tra le forze in campo. Tanto che è stato auspicato un accordo epocale che ricalchi quello che portò alla deterrenza nucleare negli armamenti tra Usa e l’allora Urss. Ora come allora è in gioco l’umanità stessa. In campo però oggi dovrebbero scendere Cina e Usa.
(1- continua)
Antonella Lenti
