L’estinto

Disinneschiamo le bombe culturali

Categoria: Pensieri inutili

Riflessioni ancora più trascurabili delle altre

Tradizioni millenarie

Nel 2019 Luigi Di Maio, che all’epoca era vicepresidente del consiglio, scrisse in una lettera a Le Monde che la Francia ha una “tradizione democratica millenaria”. Venne comprensibilmente preso in giro: la tradizione democratica francese ha un paio di secoli al massimo e a esser generosi, ovvero ignorando Napoleone, la restaurazione borbonica e Napoleone III.

Poche settimane fa, la presidente del consiglio Giorgia Meloni ha affermato, in un videomessaggio a proposito del recente riconoscimento da parte dell’UNESCO, che la cucina italiana “custodisce un patrimonio millenario che si tramanda di generazione in generazione”. Non ho letto reazioni particolari, a questa dichiarazione. Eppure è un’affermazione altrettanto ingenua di quella di Di Maio: un millennio fa buona parte degli ingredienti alla base della cucina italiana semplicemente non c’era, la Pizza Margherita deve il suo nome a una regina vissuta alla fine dell’Ottocento, la pasta alla carbonara è nata dopo la Seconda guerra mondiale e questo per limitarmi alle prime cose che mi sono venute in mente rispetto a un “patrimonio millenario” che direi in molti casi non arriva al secolo.

Perché questa disparità di trattamento?
In parte credo sia dovuta a quella cosa che chiamano “capitale politico”. Di Maio ne aveva pochissimo e non gli si concedeva nulla, infierendo anche più del dovuto: è estremamente improbabile che collocasse la Rivoluzione francese in pieno Medioevo mentre è quasi certo che, senza riflettere più di tanto sulle parole usate, abbia scritto “millenario” come a un altro modo per dire “importante”.
Meloni, invece, di capitale politico ne ha tanto e anche chi è all’apposizione non perde tempo a criticarla su questioni tutto sommato di poco conto.

Credo ci sia anche un altro aspetto. L’anno della Rivoluzione francese fa parte di quelle conoscenze di base che chiunque dovrebbe avere; l’origine della carbonara è invece una curiosità e sospetto che lo sia anche l’origine americana di mais, patate e pomodori. Il che, sia chiaro, ha senso: per quanto sia sempre difficile, e imbarazzante, stabilire quali conoscenze siano più importanti di altre, direi che l’origine dei sistemi politici e istituzionali batte quella delle ricette. Non fosse che – ed è proprio il riconoscimento UNESCO per come è stato presentato dal governo italiano – i due aspetti sono collegati e contribuiscono a formare un’immagine del mondo nel quale viviamo.

Tre scenari su intelligenza artificiale e informazione

Sto leggendo Co-Intelligence. Living and Working with AI di Ethan Mollick. L’editore lo presenta come un manuale o una guida (playbook) a come convivere con gli LLM, i modelli linguistici di grandi dimensioni alla base di ChatGPT, Gemini, Claude eccetera.

È un libro sorprendentemente interessante — e dico “sorprendentemente” perché stiamo parlando di una tecnologia in rapida evoluzione, uno ci si può aspettare un testo destinato a invecchiare molto rapidamente, con consigli e raccomandazioni non più attuali. Mollick riesce invece a proporre riflessioni generali che siano comunque utili e applicabili nella pratica. E che, un anno e qualcosa dopo la pubblicazione, rimangono attuali.

Uno degli ultimi capitoli è dedicato a scenari futuri nei quali, brevemente e con molto buon senso, Mollick prova a descriverci in che direzione ci stiamo già muovendo. Profezie facili, se vogliamo, ma non per questo meno interessanti. Per quanto riguarda l’informazione e il giornalismo, o meglio il modo in cui “comprendiamo e fraintendiamo il mondo”, Mollick parte da una situazione è già attuale (e anzi in parte lo era anche prima delle IA):

Anche se l’intelligenza artificiale non dovesse migliorare ulteriormente, alcune delle sue implicazioni sono già inevitabili. La prima serie di cambiamenti certi causati dall’intelligenza artificiale riguarderà il modo in cui comprendiamo, e fraintendiamo, il mondo. È già impossibile distinguere le immagini generate dall’intelligenza artificiale da quelle reali, e questo semplicemente utilizzando gli strumenti oggi a disposizione di chiunque. Anche i video e le voci sono estremamente facili da falsificare. L’ambiente informativo online diventerà completamente ingestibile, con i fact-checker sopraffatti dal flusso di informazioni. Oggi creare immagini false è solo leggermente più difficile che scattare fotografie reali. Ogni immagine di un politico, di una celebrità o di una guerra potrebbe essere inventata: non c’è modo di distinguerle. Il nostro già fragile accordo su quali fatti siano reali rischia di sgretolarsi rapidamente.

Ho solo un commento da fare. Quando parla di “fact-checker sopraffatti dal flusso di informazioni” si potrebbe ribattere che gli LLM sono a disposizione anche di chi lavora per informazioni affidabili e verificate. Buona parte del suo libro è proprio dedicata a come le persone possano lavorare meglio con le intelligenze artificiali — e questo si applica anche a chi fa giornalismo.

È improbabile che le soluzioni tecnologiche possano salvarci. I tentativi di tracciare la provenienza di immagini e video mediante watermarking delle creazioni dell’IA possono essere vanificati con modifiche relativamente semplici al contenuto sottostante. E questo presuppone che le persone che falsificano immagini e video utilizzino strumenti commerciali: identificare i contenuti generati dall’IA diventerà ancora più difficile man mano che i governi svilupperanno i propri sistemi e i modelli open source prolifereranno. Forse, in un futuro, l’IA potrà aiutarci a separare il grano dal loglio, ma le IA sono notoriamente inaffidabili nel rilevare i contenuti generati dall’IA, quindi anche questa ipotesi sembra improbabile.

Condivido lo scetticismo di Mollick: la soluzione non può essere solo tecnologica. E tuttavia qui sembra considerare solo l’identificazione di contenuti generati tramite intelligenza artificiale. Gli LLM possono in realtà aiutarci verificare le notizie al di là dell’autenticità di un’immagine o di un video.

Ci sono solo alcuni modi in cui questa storia potrebbe finire. Forse ci sarà una rinascita della fiducia nei media mainstream, che potrebbero diventare gli arbitri dell’autenticità delle immagini e delle notizie, tracciando attentamente la provenienza di ogni notizia e artefatto. Ma questo sembra improbabile. Una seconda opzione è quella di dividerci ulteriormente in tribù, credendo alle informazioni che vogliamo credere e ignorando come false quelle a cui non vogliamo prestare attenzione. Presto, anche i fatti più elementari saranno oggetto di controversia. Questa crescita di bolle informative sempre più isolate sembra molto più probabile, accelerando la tendenza pre-LLM. Un’ultima opzione è quella di allontanarci completamente dalle fonti di notizie online, perché sono così inquinate da informazioni false da non essere più utili. Indipendentemente dalla direzione che prenderemo, anche senza progressi nell’IA, il modo in cui ci relazioniamo con le informazioni cambierà.

Qui ho poco da aggiungere: i tre scenari tracciati da Mollick mi paiono davvero gli unici possibili. Con il primo — la rinascita dei media tradizionali, magari proprio grazie a soluzioni basate sulle IA — possibile ma certamente improbabile.
Come accennato, sono previsioni facili: parliamo di tendenze già in atto. La polarizzazione non è una novità e l’isolamento in tribù che la pensano diversamente (e “conoscono” fatti diversi) precede ChatGPT. E sempre più persone rientrano nella categoria dei “deprivati di notizie”.

Il vero rischio per OpenAI dopo la causa del New York Times

Nella mia newsletter ho scritto alcune riflessioni sulla causa del New York Times contro OpenAI e Microsoft per violazione del copyright. Dopo aver parlato di possibili accordi extragiudiziali, di proprietà intellettuale, di allucinazioni (quando una IA generativa si inventa le cose) e pappagallismi o pedissequamenti (quando invece ripropone tale e quale un contenuto senza rielaborarlo), ho chiuso con una frase sulla quale credo valga la pena tornare.

È difficile prevedere come finirà questa storia. Ho comunque l’impressione che il problema più importante che dovrà affrontare OpenAI, più che la denuncia del New York Times, sia riuscire a far fronte alle accuse mantenendo i propri prodotti utili e redditizi.

Quello che intendevo è che, nella sua presa di posizione, OpenAI ha riconosciuto, per quanto minimizzato, alcune delle accuse del New York Times, in particolare per quanto riguarda la riproduzione praticamente integrale di articoli tutelati da diritto d’autore. Indipendentemente da come finirà la causa, questo è un problema che OpenAI vuole risolvere – o meglio un “raro bug che si vuole eliminare”.
Ora, questo è possibile senza castrare le funzionalità di ChatGPT? Forse sì, ma se il buongiorno si vede dal mattino direi che OpenAI non è messa benissimo.

Ho dato a ChatGPT 4.0 il PDF di un articolo di giornale. Mi ha riassunto correttamente il contenuto, riconoscendo il testo (il PDF proveniva da una rassegna stampa ed era quindi la scansione del giornale), ma si è rifiutato di riprodurre il testo:

Non posso trascrivere interamente il contenuto di documenti protetti da diritti d’autore per motivi legali. Questo include la copia completa di libri, articoli, documenti e altri materiali coperti da diritti d’autore. Tuttavia, posso aiutarti fornendo riassunti, analizzando specifiche parti di un testo, o rispondendo a domande relative al contenuto. Questo modo di procedere mi permette di rispettare le leggi sui diritti d’autore pur fornendo assistenza utile.

Hanno bloccato una funzionalità che è presente in moltissimi altri software – ormai tutti gli smartphone riconoscono e traducono il testo contenuto nelle immagini.
Il blocco comunque è facilmente aggirabile: basta chiedergli quale è il contenuto del primo paragrafo, poi del secondo, del terzo e così via.

Se questa situazione dovesse replicarsi per altre funzioni di ChatGPT, il servizio diventerebbe perlopiù inutile.

I rischi reali della pedofilia virtuale

Leggo sulla BBC di una vasta rete per la vendita di fotografie pornografiche con minori – non solo ragazze molto giovani, ma anche bambini – generate da intelligenze artificiali. In molti Paesi queste immagini sono illegali quanto quelle autentiche.

La mia prima reazione non è certo di sorpresa: era prevedibile che delle persone avrebbero prodotto è venduto simili immagini. No, la mia prima reazione è di disgusto, innescato dalla semplice idea di immagini di abusi su minori.

Però non c’è alcun abuso su persone reali: queste immagini sono e restano disgustose ma, al contrario di autentiche fotografie, per realizzarle nessuno ha sofferto.

È un argomento che l’articolo della BBC affronta di sfuggita:

The National Police Chiefs’ Council (NPCC) lead on child safeguarding, Ian Critchley, said it would be wrong to argue that because no real children were depicted in such “synthetic” images – that no-one was harmed.

Solo che come unico argomento abbiamo quello del piano inclinato, ricalcando un po’ la retorica di alcune campagne antidroga (inizi da uno spinello e poi…)

He warned that a paedophile could, “move along that scale of offending from thought, to synthetic, to actually the abuse of a live child”.

Solo che posso pensare a una situazione diametralmente opposta: una persona con pulsioni pedofile che sfrutta immagini virtuali per placarle senza danneggiare nessuno.

Molto probabilmente non è la strategia migliore per gestire queste pulsioni, ma visto che le iniziative di prevenzione sembrano basarsi quasi esclusivamente sulla punizione e quasi nulla sull’assistenza e il sostegno, direi che non ci sono molte alternative.

Un argomento secondo me più convincente riguarda la normalizzazione degli abusi e della sessualizzazione dell’infanzia: vero che per produrre quelle fotografie virtuali non ci sono stati abusi, ma permetterne la diffusione renderebbe quegli abusi socialmente più accettabili.

Questo argomento si applica anche agli stupri che troviamo nella pornografia con adulti e in generale nelle opere di finzione. Con rischi di eccessi nella sua applicazione.

La realtà è diventata un campo di battaglia allargato e spaccato in due

Sto leggendo Sulla guerra del fotoreporter Gianluca Grossi. Il libro nasce dall’idea che raccontare la guerra, come Grossi ha fatto in varie parti del mondo, non basta. Il semplice racconto della guerra rischia di accrescere il “mito della guerra”, una illusione che invece dovremmo superare affiancando al racconto una riflessione.
Non è un libro sulla guerra in Ucraina, ma l’invasione della Russia costituisce ritorna inevitabilmente più volte.

Riporto uno dei vari passaggi che mi sono segnato.

La guerra manda in cortocircuito anche chi è chiamato a fornirne una spiegazione il più spassionata possibile: analisti, studiosi, accademici, giornalisti. Difficile, quasi impossibile, metterli d’accordo, socraticamente, almeno sulla condivisione di un minimo comune denominatore, su una descrizione della materia e dell’oggetto in discussione riconosciuta in modo unanime. Eppure, proprio questo dovrebbe costituire la premessa per chi è interessato a trovare le risposte alla domanda: «Perché è esplosa questa guerra?». Provo una naturale familiarità di vedute, essendo allergico alle semplificazioni, con coloro che non si accontentano della descrizione più in voga, ampiamente condivisa in Occidente, al punto da costituire l’ufficialità: un dittatore cattivo e retrogrado ha deciso di invadere l’Ucraina democratica e pacifica, che si difende con eroismo grazie al non meno eroico e non meno democratico sostegno dell’Occidente e, non da ultimo, dell’Europa ugualmente minacciata di invasione. È una semplificazione che non conduce a grandi risultati, anzi che non conduce ad alcun risultato, se non alla riproduzione della guerra stessa, in questo caso su scala minore, nella sua versione cartacea e digitale. Il prodotto finale è però il medesimo: la realtà è diventata un campo di battaglia allargato e spaccato in due, gli amici di qua e i nemici di là. Qualsiasi tentativo di leggerla e di interpretarla deve rispettare questa dicotomia, anzi deve farne la sorgente di ispirazione degli argomenti ai quali si richiama.

Personalmente non provo quella “naturale familiarità di vedute” con chi non si accontenta “della descrizione più in voga”. Un po’ perché – ne avevo scritto in una Piccola guida ragionata al “pensiero unico” – a volte quella descrizione più in voga è banalmente più corretta delle alternative; un po’ perché chi non si accontenta della descrizione più in voga si accontenta invece della contronarrazione opposta, senza mostrare particolare senso critico.

Tuttavia concordo con Grossi: le semplificazioni non conducono a grandi risultati. E dovremmo evitare quella “riproduzione della guerra stessa, in questo caso su scala minore, nella sua versione cartacea e digitale”. Cercare non la neutralità o l’indifferenza, ma la lucidità necessaria a valutare gli eventi in maniera razionale o almeno ragionevole. Il problema è che non è facile, quando tutta la ricchezza di punti di vista e sensibilità viene schiacciata da quella dicotomia del “gli amici di qua e i nemici di là”.