Papa: bene IA ma attenzione a deep fake, anche io vittima

AGI – “I sistemi di intelligenza artificiale possono contribuire al processo di liberazione dall’ignoranza e facilitare lo scambio di informazioni tra popoli e generazioni diverse” ma al tempo stesso possono essere strumenti di “inquinamento cognitivo”. Così Papa Francesco nel messaggio per la 58esima Giornata Mondiali delle Comunicazioni sociali sul tema “Intelligenza artificiale e sapienza del cuore: per una comunicazione pienamente umana”.

Il Pontefice mette in guardia sia dalle fake news, ma anche dalle deep fake, “immagini che sembrano perfettamente verosimili ma sono false”, “è capitato anche a me di esserne oggetto”, aggiunge riferendosi alle foto che circolavano in rete di Bergoglio con un piumone bianco o in pose da supereroe, “o di messaggi audio che usano la voce di una persona dicendo cose che la stessa non ha mai detto”.

“A seconda dell’orientamento del cuore, ogni cosa nelle mani dell’uomo diventa opportunità o pericolo”, scrive Francesco.

“Il suo stesso corpo, creato per essere luogo di comunicazione e comunione, può diventare mezzo di aggressività. Allo stesso modo ogni prolungamento tecnico dell’uomo può essere strumento di servizio amorevole o di dominio ostile”. I sistemi di intelligenza artificiale quindi come opportunità possono ad esempio “rendere raggiungibile e comprensibile un enorme patrimonio di conoscenze scritto in epoche passate o far comunicare le persone in lingue per loro sconosciute”.

“Ma possono al tempo stesso essere strumenti di ‘inquinamento cognitivò, di alterazione della realtà tramite narrazioni parzialmente o totalmente false eppure credute – e condivise – come se fossero vere”.
“Basti pensare al problema della disinformazione che stiamo affrontando da anni nella fattispecie delle fake news e che oggi si avvale del deep fake, cioè della creazione e diffusione di immagini che sembrano perfettamente verosimili ma sono false (è capitato anche a me di esserne oggetto), o di messaggi audio che usano la voce di una persona dicendo cose che la stessa non ha mai detto. La simulazione, che è alla base di questi programmi, può essere utile in alcuni campi specifici, ma diventa perversa là dove distorce il rapporto con gli altri e la realtà”.

“È necessario agire preventivamente, proponendo modelli di regolamentazione etica per arginare i risvolti dannosi e discriminatori, socialmente ingiusti, dei sistemi di intelligenza artificiale e per contrastare il loro utilizzo nella riduzione del pluralismo, nella polarizzazione dell’opinione pubblica o nella costruzione di un pensiero unico” ha spiegato il pontefice.

“Della prima ondata di intelligenza artificiale, quella dei social media, abbiamo già compreso l’ambivalenza toccandone con mano, accanto alle opportunità, anche i rischi e le patologie”, sottolinea il Pontefice. “Il secondo livello di intelligenze artificiali generative segna un indiscutibile salto qualitativo”. Per Bergoglio è quindi “importante avere la possibilità di comprendere, capire e regolamentare strumenti che nelle mani sbagliate potrebbero aprire scenari negativi. Come ogni altra cosa uscita dalla mente e dalle mani dell’uomo, anche gli…

Read More: Papa: bene IA ma attenzione a deep fake, anche io vittima