Intelligenza artificiale tra utilità e rischi cognitivi

L’enciclica di papa Leone XIV, Magnifica Humanitas, che ha come sottotitolo “Sulla custodia della persona umana nel tempo dell’intelligenza artificiale”, ha aperto un grande e ulteriore spazio al dibattito sulle conseguenze del mancato governo dell’IA.

L’ultimo intervento influente è quello del governatore della Banca d’Italia Fabio Panetta, che definendo l’intelligenza artificiale leva decisiva per la produttività italiana e chiedendo quindi un intervento pubblico, sottolinea nel contempo che “i benefici potrebbero concentrarsi su chi possiede competenze più elevate, accentuando le diseguaglianze”.

Il papa ha fatto però da camera di risonanza alle voci, anche del mondo scientifico, che già da tempo studiano e mettono in guardia dai rischi per la nostra società. Tra queste c’è Cristina Pronello, ingegnera e docente al Politecnico di Torino, che nel podcast, in virtù delle sue competenze e conoscenza, descrive in modo brillante tutte le implicazioni di uso e abuso dell’intelligenza artificiale. 

Una voce fuori dal coro

Con una cattedra alla Sorbona, all’Université de Technologie de Compiègne, insignita del premio Marie Curie, Pronello premette subito che, volontariamente, non usa l’intelligenza artificiale per lavorare perché ha a cuore la funzionalità del suo cervello. 

Questo nonostante viva in un ambiente universitario che “è molto fan dell’Ia: i miei studenti la usano in maniera indiscriminata e in realtà questo non facilita il lavoro, anzi, ne procura di maggiore, perché spesso dà risultati aberranti. A quel punto, anche se sei bravo, devi continuare a farle domande molto mirate”.

Ci racconta un aneddoto significativo: “Rivedo una settimana fa un mio ex dottorando che vive negli Stati Uniti, ha poco più di 40 anni, ormai da molto tempo si trova a lavorare con l'intelligenza artificiale. Mi dice che anche quando semplicemente le fa ‘imbastire’ delle mail, le deve controllare perché ci sono sempre cose sbagliate. Quindi mi spiega che è davvero pesante dialogare per un'intera giornata con uno schermo, con una macchina, e non con un umano”.

Prosegue Pronello: “Il problema che io ho ravvisato e che mi preoccupa molto, facendo anche una ricerca su lavoratori e studenti, è che stanno perdendo totalmente la capacità di ragionare. Hanno una over confidence eccessiva in tutto ciò che viene dall'intelligenza artificiale, con magari meno fiducia di quello che può arrivare da un essere umano. Pensano che l’essere umano possa sbagliare e l’Ia no, ma in realtà non è così”.

Per la nostra docente questi sono elementi su cui “bisognerebbe concentrarsi, anche in termini di didattica, per ricordare agli studenti che gli strumenti che utilizzano sono stati programmati da altri esseri umani, seguendo certe logiche”.

Allarme libero arbitrio

“ChatGPT, Gemini e altri sono in mano a grandi multinazionali che operano con scopo di business, quindi per far soldi, non certo per scopi sociali o per il bene comune”, afferma: “Per cosa e come vengono programmati questi strumenti? Che fine ultimo hanno le informazioni che ci arrivano? Il fine è il controllo delle persone, ma non il controllo che può fare una telecamera che ti spia (vedi la Cina) e che sa tutto di noi, ben peggio: il controllo cognitivo”.

Questo è l’aspetto che maggiormente la preoccupa, anche perché “produce una polarizzazione del pensiero che è portata sicuramente dall'eccessiva confidenza e fiducia che si ha verso questo mezzo, ma soprattutto dalla facilità di utilizzo”. 

Il problema, dunque, è che “non sappiamo più discernere tra ciò che è giusto e ciò che è sbagliato, ciò che è affidabile e ciò che non lo è, perché il sistema prende le informazioni dal web, da tutto quello che riesce a raggiungere, e lì dentro c'è di tutto e di più. Inoltre, abbiamo fatto degli esperimenti in proposito, normalmente l'intelligenza artificiale è estremamente compiacente, tende a darti ragione e a essere autoreferenziale, a dirti ciò che vuoi sentire. E questo è terrificante”.

Pronello pone quindi l’accento sull’affermarsi del “controllo da parte di pochi sul cervello di tutti gli altri, con il danno psicologico che ne deriva. Si tratta di un controllo politico ed è esattamente quello che stiamo osservando adesso. Senza contare che stiamo parlando di uno strumento che in realtà inquina molto più del traffico, delle automobili e di tutto il resto, enormemente di più”, perché energivoro e consumatore di suolo.

I riflessi sul mondo del lavoro

Cristina Pronello, oltre ad avere tenuto un’esemplare lezione sull’Ia durante un convegno sui trasporti della Filt Cgil a Livorno, ha lavorato a un progetto, insieme con i sindacati, per capire gli effetti della tecnologia, della digitalizzazione, dell'automazione e quindi dell’intelligenza artificiale, sul lavoro. Il timore è quello della perdita di occupazione, ma la docente spiega che “non è proprio così, i problemi sono anche altri”. 

Dal progetto è emerso anche, ad esempio, che “gli aeroporti con l’automazione sono diventati dei luoghi deserti senza più alcun essere umano. La gente lì dentro è persa, perché se vai alle macchinette tendenzialmente ‘ti incarti’. Quindi hanno reintrodotto le persone in carne e ossa e allora, paradossalmente, tu arrivi alla macchinetta, ti incarti, arriva l'essere umano e ti dice: ti do una mano? Tutto viene fatto per tagliare i costi, ma in modo becero, perché non tagli i costi di un'azienda se tagli il personale”.

La docente ritorna a portare l’esempio del suo dottorando che vive negli Stati Uniti. “Mi ha raccontato che i giovani vivono in perenne stato di angoscia e di ansia di essere licenziati dall’oggi al domani. Infatti le aziende fanno tornate di licenziamenti massicci, quando pensano che i lavoratori, anche i programmatori, non servano più. Dopodiché si ritrovano, come si suol dire, in braghe di tela, perché si rendono conto che, se non prendi dei programmatori, con la sola intelligenza artificiale tiri fuori un po' di schifezze. E allora riassumono. Magari non tutti, un po' meno, e quindi è un continuo yo-yo. Licenzio per la smania di tagliare i costi e poi riassumo perché vedo che non vado da nessuna parte”.

Non è luddismo

Le posizioni prese dall’ingegnera Cristina Pronello le fanno sempre più rischiare di essere tacciata come “una persona che non vuole il progresso”, ma spiega che non è così:  “Semplicemente vorrei un progresso un po' diverso, dove la tecnologia è veramente al servizio dell’essere umano e non al contrario”.

Pronello così conclude: “La tecnologia deve aiutarci davvero a fare meno fatica laddove è necessario e, se mette ansia, allora non serve più. Il progresso è proprio un cambiamento comportamentale dell'umanità e un approccio diverso verso gli altri e il bene comune, che ormai è un concetto astratto e sparito. Questo per me è progresso”.