L’inquietante assessora creata con l’intelligenza artificiale

Forse non tutti sanno che, smentendo a uno dei più grandi stereotipi di genere del mondo, la prima programmatrice informatica della storia era una donna: Augusta Ada Byron, nota ai più con il suo nome da sposata (la perfezione si sa, non è di questa terra, figuriamoci agli inizi del 1800, quando è nata), Ada Lovelace.

Augusta Ada Byron scrisse il primo algoritmo destinato ad essere elaborato dalla macchina analitica di Charles Babbage, quella che è universalmente considerata l’antenata dei moderni computer. E deve sicuramente aver pensato a lei il sindaco di Acqui Terme, quando ha immaginato di affidare a una donna le delicate deleghe all’Intelligenza artificiale, alla transizione digitale e all’umanizzazione.

C’è un piccolo particolare però: l’assessora Eva Satiella non esiste. Non nel mondo reale, almeno. Come un creatore dell’universo in modalità 4.0, l’innovativo sindaco ha infatti generato la “sua” Eva con l’intelligenza artificiale, donandole, al posto della costola di biblica memoria, un cognome, che “rende omaggio sia ai Liguri Statielli, antica popolazione che abitava il territorio, sia ad Acquae Statiellae, l’insediamento romano da cui ha avuto origine l’attuale città termale”, rigorosamente però, declinato al femminile.

Ma non è tutto. Come in un meraviglioso e visionario videogame, il Comune immaginato dal primo cittadino dovrebbe diventare “agentico”, con flotte di computer in grado di occuparsi delle relazioni con il pubblico per gestire pratiche relative a urbanistica, anagrafe o stato civile. Il tutto, ha tenuto a precisare nelle numerose interviste rilasciate, a beneficio anche dei dipendenti pubblici, i quali, sgravati da incombenze “ripetitive, lunghe e senza costrutto”, avranno “più tempo per formarsi, incontrare, studiare le pratiche più complesse”.

All’assessora virtuale ha dunque assegnato il ruolo di apripista, “per comprendere meglio cosa potrà succedere quando queste entità avranno concretamente una parte attiva e decisionale”.

Ora, al di là della facile ironia, la prima cosa che colpisce è che nonostante gli evidenti riferimenti biblici, il sindaco deve aver frainteso il messaggio dell’enciclica di papa Leone Magnifica Humanitas. Nel testo, la ricerca di un’intelligenza artificiale senza limiti e autoreferenziale viene paragonata alla superbia di Babele. È il monito a non sostituire l’umano con un dominio tecnico assoluto. Quello a cui stiamo assistendo con questa vicenda, va in direzione diametralmente opposta.

L’IA agentica non è un semplice strumento di supporto (non si limita a generare contenuti): è un sistema capace di prendere decisioni, agire ed evolversi autonomamente nel tempo, operando lungo un ciclo di vita strutturato e continuo.

Immaginare di far esercitare un ruolo politico a uno strumento con queste caratteristiche concentra in un colpo solo tutte le potenziali minacce che ormai sono state lungamente elencate da esperti del settore e, in ultimo, dalla stessa Chiesa. L’IA “non è neutrale, perché assume il volto di chi la pensa, la finanzia, la regola, la usa”.

L’impatto di quella che rischia di essere pericolosamente liquidata come una simpatica trovata potrebbe avere su persone, settori e società intera, è enorme. E i rischi vanno ben oltre quelli sul mondo del lavoro (con buona pace delle rassicurazioni date).

Non sono ancora chiari i provvedimenti che potrà prendere la nuova assessora sulle materie di pertinenza, così come non è chiaro in quale modo potrà partecipare alle discussioni con i colleghi in carne ed ossa.

Quel che è certo però è che l’introduzione dell’IA agentica in un luogo in cui si prendono le decisioni per la vita della comunità che si è chiamati ad amministrare, richiama ad una potenziale, progressiva e pericolosissima esclusione delle decisioni umane, con rischi di diversa natura che riguardano la manipolazione avversaria da parte di fonti esterne e l’eccessiva o inappropriata autonomia concessa all’Agentic AI.

Di questo il sindaco “avatar”, come è stato soprannominato, dovrebbe essere consapevole. In un momento storico in cui le trasformazioni in atto stanno investendo tutto e tutti ad una velocità senza precedenti, in cui intere comunità scientifiche continuano a richiamare l’attenzione sulla necessità di non perdere di vista la visione antropocentrica mentre lo sviluppo dell’IA generativa rischia di sfuggire al controllo umano, è davvero inquietante la scelta di nominare un’assessora virtuale.

Ma forse quest’ultima parola, “virtuale”, assume in questa vicenda un valore che va oltre gli aspetti tecnici. In un mondo che sembra voler restringere sempre di più gli spazi di partecipazione femminile, perché le donne, con la loro voce, con la loro presenza, possono mettere in discussione modelli e luoghi di radicato predominio maschile, pensare di sostituirle con le macchine potrebbe essere sembrata una buona idea.

Dopotutto l’assessora virtuale si chiama Eva, ed Eva – si sa – è stata fatta a immagine e somiglianza di un uomo.