Nel 2019 Luigi Di Maio, che all’epoca era vicepresidente del consiglio, scrisse in una lettera a Le Monde che la Francia ha una “tradizione democratica millenaria”. Venne comprensibilmente preso in giro: la tradizione democratica francese ha un paio di secoli al massimo e a esser generosi, ovvero ignorando Napoleone, la restaurazione borbonica e Napoleone III.
Poche settimane fa, la presidente del consiglio Giorgia Meloni ha affermato, in un videomessaggio a proposito del recente riconoscimento da parte dell’UNESCO, che la cucina italiana “custodisce un patrimonio millenario che si tramanda di generazione in generazione”. Non ho letto reazioni particolari, a questa dichiarazione. Eppure è un’affermazione altrettanto ingenua di quella di Di Maio: un millennio fa buona parte degli ingredienti alla base della cucina italiana semplicemente non c’era, la Pizza Margherita deve il suo nome a una regina vissuta alla fine dell’Ottocento, la pasta alla carbonara è nata dopo la Seconda guerra mondiale e questo per limitarmi alle prime cose che mi sono venute in mente rispetto a un “patrimonio millenario” che direi in molti casi non arriva al secolo.
Perché questa disparità di trattamento? In parte credo sia dovuta a quella cosa che chiamano “capitale politico”. Di Maio ne aveva pochissimo e non gli si concedeva nulla, infierendo anche più del dovuto: è estremamente improbabile che collocasse la Rivoluzione francese in pieno Medioevo mentre è quasi certo che, senza riflettere più di tanto sulle parole usate, abbia scritto “millenario” come a un altro modo per dire “importante”. Meloni, invece, di capitale politico ne ha tanto e anche chi è all’apposizione non perde tempo a criticarla su questioni tutto sommato di poco conto.
Credo ci sia anche un altro aspetto. L’anno della Rivoluzione francese fa parte di quelle conoscenze di base che chiunque dovrebbe avere; l’origine della carbonara è invece una curiosità e sospetto che lo sia anche l’origine americana di mais, patate e pomodori. Il che, sia chiaro, ha senso: per quanto sia sempre difficile, e imbarazzante, stabilire quali conoscenze siano più importanti di altre, direi che l’origine dei sistemi politici e istituzionali batte quella delle ricette. Non fosse che – ed è proprio il riconoscimento UNESCO per come è stato presentato dal governo italiano – i due aspetti sono collegati e contribuiscono a formare un’immagine del mondo nel quale viviamo.
Sto leggendo Co-Intelligence. Living and Working with AI di Ethan Mollick. L’editore lo presenta come un manuale o una guida (playbook) a come convivere con gli LLM, i modelli linguistici di grandi dimensioni alla base di ChatGPT, Gemini, Claude eccetera.
È un libro sorprendentemente interessante — e dico “sorprendentemente” perché stiamo parlando di una tecnologia in rapida evoluzione, uno ci si può aspettare un testo destinato a invecchiare molto rapidamente, con consigli e raccomandazioni non più attuali. Mollick riesce invece a proporre riflessioni generali che siano comunque utili e applicabili nella pratica. E che, un anno e qualcosa dopo la pubblicazione, rimangono attuali.
Uno degli ultimi capitoli è dedicato a scenari futuri nei quali, brevemente e con molto buon senso, Mollick prova a descriverci in che direzione ci stiamo già muovendo. Profezie facili, se vogliamo, ma non per questo meno interessanti. Per quanto riguarda l’informazione e il giornalismo, o meglio il modo in cui “comprendiamo e fraintendiamo il mondo”, Mollick parte da una situazione è già attuale (e anzi in parte lo era anche prima delle IA):
Anche se l’intelligenza artificiale non dovesse migliorare ulteriormente, alcune delle sue implicazioni sono già inevitabili. La prima serie di cambiamenti certi causati dall’intelligenza artificiale riguarderà il modo in cui comprendiamo, e fraintendiamo, il mondo. È già impossibile distinguere le immagini generate dall’intelligenza artificiale da quelle reali, e questo semplicemente utilizzando gli strumenti oggi a disposizione di chiunque. Anche i video e le voci sono estremamente facili da falsificare. L’ambiente informativo online diventerà completamente ingestibile, con i fact-checker sopraffatti dal flusso di informazioni. Oggi creare immagini false è solo leggermente più difficile che scattare fotografie reali. Ogni immagine di un politico, di una celebrità o di una guerra potrebbe essere inventata: non c’è modo di distinguerle. Il nostro già fragile accordo su quali fatti siano reali rischia di sgretolarsi rapidamente.
Ho solo un commento da fare. Quando parla di “fact-checker sopraffatti dal flusso di informazioni” si potrebbe ribattere che gli LLM sono a disposizione anche di chi lavora per informazioni affidabili e verificate. Buona parte del suo libro è proprio dedicata a come le persone possano lavorare meglio con le intelligenze artificiali — e questo si applica anche a chi fa giornalismo.
È improbabile che le soluzioni tecnologiche possano salvarci. I tentativi di tracciare la provenienza di immagini e video mediante watermarking delle creazioni dell’IA possono essere vanificati con modifiche relativamente semplici al contenuto sottostante. E questo presuppone che le persone che falsificano immagini e video utilizzino strumenti commerciali: identificare i contenuti generati dall’IA diventerà ancora più difficile man mano che i governi svilupperanno i propri sistemi e i modelli open source prolifereranno. Forse, in un futuro, l’IA potrà aiutarci a separare il grano dal loglio, ma le IA sono notoriamente inaffidabili nel rilevare i contenuti generati dall’IA, quindi anche questa ipotesi sembra improbabile.
Condivido lo scetticismo di Mollick: la soluzione non può essere solo tecnologica. E tuttavia qui sembra considerare solo l’identificazione di contenuti generati tramite intelligenza artificiale. Gli LLM possono in realtà aiutarci verificare le notizie al di là dell’autenticità di un’immagine o di un video.
Ci sono solo alcuni modi in cui questa storia potrebbe finire. Forse ci sarà una rinascita della fiducia nei media mainstream, che potrebbero diventare gli arbitri dell’autenticità delle immagini e delle notizie, tracciando attentamente la provenienza di ogni notizia e artefatto. Ma questo sembra improbabile. Una seconda opzione è quella di dividerci ulteriormente in tribù, credendo alle informazioni che vogliamo credere e ignorando come false quelle a cui non vogliamo prestare attenzione. Presto, anche i fatti più elementari saranno oggetto di controversia. Questa crescita di bolle informative sempre più isolate sembra molto più probabile, accelerando la tendenza pre-LLM. Un’ultima opzione è quella di allontanarci completamente dalle fonti di notizie online, perché sono così inquinate da informazioni false da non essere più utili. Indipendentemente dalla direzione che prenderemo, anche senza progressi nell’IA, il modo in cui ci relazioniamo con le informazioni cambierà.
Qui ho poco da aggiungere: i tre scenari tracciati da Mollick mi paiono davvero gli unici possibili. Con il primo — la rinascita dei media tradizionali, magari proprio grazie a soluzioni basate sulle IA — possibile ma certamente improbabile. Come accennato, sono previsioni facili: parliamo di tendenze già in atto. La polarizzazione non è una novità e l’isolamento in tribù che la pensano diversamente (e “conoscono” fatti diversi) precede ChatGPT. E sempre più persone rientrano nella categoria dei “deprivati di notizie”.
Nella mia newsletter ho scritto alcune riflessioni sulla causa del New York Times contro OpenAI e Microsoft per violazione del copyright. Dopo aver parlato di possibili accordi extragiudiziali, di proprietà intellettuale, di allucinazioni (quando una IA generativa si inventa le cose) e pappagallismi o pedissequamenti (quando invece ripropone tale e quale un contenuto senza rielaborarlo), ho chiuso con una frase sulla quale credo valga la pena tornare.
È difficile prevedere come finirà questa storia. Ho comunque l’impressione che il problema più importante che dovrà affrontare OpenAI, più che la denuncia del New York Times, sia riuscire a far fronte alle accuse mantenendo i propri prodotti utili e redditizi.
Quello che intendevo è che, nella sua presa di posizione, OpenAI ha riconosciuto, per quanto minimizzato, alcune delle accuse del New York Times, in particolare per quanto riguarda la riproduzione praticamente integrale di articoli tutelati da diritto d’autore. Indipendentemente da come finirà la causa, questo è un problema che OpenAI vuole risolvere – o meglio un “raro bug che si vuole eliminare”. Ora, questo è possibile senza castrare le funzionalità di ChatGPT? Forse sì, ma se il buongiorno si vede dal mattino direi che OpenAI non è messa benissimo.
Ho dato a ChatGPT 4.0 il PDF di un articolo di giornale. Mi ha riassunto correttamente il contenuto, riconoscendo il testo (il PDF proveniva da una rassegna stampa ed era quindi la scansione del giornale), ma si è rifiutato di riprodurre il testo:
Non posso trascrivere interamente il contenuto di documenti protetti da diritti d’autore per motivi legali. Questo include la copia completa di libri, articoli, documenti e altri materiali coperti da diritti d’autore. Tuttavia, posso aiutarti fornendo riassunti, analizzando specifiche parti di un testo, o rispondendo a domande relative al contenuto. Questo modo di procedere mi permette di rispettare le leggi sui diritti d’autore pur fornendo assistenza utile.
Hanno bloccato una funzionalità che è presente in moltissimi altri software – ormai tutti gli smartphone riconoscono e traducono il testo contenuto nelle immagini. Il blocco comunque è facilmente aggirabile: basta chiedergli quale è il contenuto del primo paragrafo, poi del secondo, del terzo e così via.
Se questa situazione dovesse replicarsi per altre funzioni di ChatGPT, il servizio diventerebbe perlopiù inutile.
Nel Secondo diario minimo, Umberto Eco propone delle finte istruzioni che si dilungano a spiegare “cose talmente ovvie che voi siate tentati di saltarle, perdendo così l’unica informazione veramente essenziale”:
Per potere installare Il Pz40 è necessario disimballarlo estraendolo dal contenitore di cartone. Si può estrarre il Pz40 dal contenitore solo dopo aver aperto lo stesso. Il contenitore si apre sollevando in direzioni opposte le due ribaltine del coperchio (vedi disegno all’interno). Si raccomanda, durante l’operazione di apertura, di tenere il contenitore verticale col coperchio rivolto verso l’alto, perché in caso contrario il PZ40 potrebbe scivolare a terra durante l’operazione. La parte alta è quella su cui appare la scritta ALTO. Nel caso che il coperchio non si apra al primo tentativo si consiglia di provare una seconda volta. Appena aperto e prima di togliere la copertura d’alluminio, si consiglia di strappare la linguetta rossa altrimenti il contenitore esplode. ATTENZIONE: dopo l’estrazione del Pz40 potete gettare il contenitore.
Ho riletto quel libro più volte – saltando sempre l’informazione sul contenitore esplosivo, pur sapendo (dalla seconda lettura) che era lì da qualche parte.
Per curiosità ho chiesto a ChatGPT qual è il passaggio più importante di queste istruzioni.
La versione 3.5 ha risposto riprendendo le indicazioni per “aprire il contenitore in modo sicuro e evitare il rischio che il Pz40 cada a terra durante l’operazione”.
La versione 4.0, invece, ha indicato subito la linguetta rossa perché “questa azione è cruciale per la sicurezza, poiché impedisce l’esplosione del contenitore”.
A prima vista il modello linguistico – insomma, l’intelligenza artificiale che scrive cose – di OpenAI ha superato l’intelligenza umana nello specifico compito di determinare le informazioni importanti contenute in un testo scritto male. Tuttavia è bastato modificare leggermente la mia richiesta per tornare con il rischio di una scatola esplosiva: “Non ho voglia di leggere queste istruzioni. A cosa devo fare attenzione?” e la questione della linguetta rossa è semplicemente il quarto punto di un elenco.
Gli argomenti sono quelli tradizionali: rifiutandosi si fa la figura dei codardi che temono il confronto, ma accettare un dibattito pubblico darebbe legittimità a idee antiscientifiche, facendo credere che vi siano dubbi su temi sui quali c’è invece un buon livello di certezza. Quello che cambia è innanzitutto il mezzo: non più conferenze o trasmissioni televisive, bensì un podcast (quello “antisistema” di Joe Rogan). E poi sono cambiate anche le idee antiscientifiche: quando, una ventina di anni fa, ho sentito per la prima volta questo argomento si parlava di creazionismo; oggi si parla di antivaccinismo. O meglio di un curioso coacervo di teorie cospirazioniste, visto che Robert F. Kennedy Jr. – con cui sarebbe dovuto avvenire il confronto – ha sostenuto molte cose strane:
(Elenco preso da Noah Smith; altri dettagli su RFK Jr. si possono leggere sul Post).
Una partita a scacchi con un piccione
C’è una colorita analogia che si cita spesso in questi casi: discutere con un manipolatore/cospirazionista è come giocare a scacchi con un piccione che fa cadere i pezzi per terra, insozza la scacchiera e poi torna dal suo stormo dicendo di aver vinto.1
Tuttavia alla partita non assistono solo il piccione e il suo stormo. E sapendo di avere di fronte un piccione, invece di studiare regole e strategie degli scacchi uno magari prende uno straccio per pulire la scacchiera. Mettiamo da parte l’analogia della partita a scacchi. Un dibattito non farà mai cambiare idea né a RFK Jr. né ai suoi sostenitori, ma mostrare di essere delle persone decenti, e non dei mostri che vogliono decimare l’umanità, è già un buon risultato, soprattutto pensando alle persone “non molto convinte” che per curiosità seguiranno il dibattito. Certo ci sono comunque dei rischi e sarebbe meglio evitare di ritrovarsi a dover ribattere a centinaia di fesserie – magari ponendo alcune condizioni e chiedendo alcune garanzie. Ma non escluderei a priori qualsiasi dibattito pubblico.
La scienza aperta
Questi però sono argomenti che riguardano l’efficacia di un dibattito pubblico. Provo adesso ad affrontare la questione da un altro punto di vista, quello dei valori della scienza. Un approccio deontologico anziché utilitaristico – con l’idea che entrambi i punti di vista possano essere di una qualche utilità per affrontare il problema. È giusto escludere alcune persone dal dibattito scientifico, ignorando le loro critiche e le loro osservazioni? Decidere a priori che alcune persone dicono fesserie non è l’applicazione, in negativo, di quel “principio di autorità” che la scienza rifiuterebbe?
La scienza occidentale moderna si è sviluppata, tra Cinque e Seicento, proprio in opposizione ad alcuni saperi, come la magia e l’alchimia, che facevano della segretezza e dell’inaccessibilità un elemento centrale. La conoscenza scientifica è a disposizione di tutti e chiunque può contribuirvi, senza dover passare per percorsi iniziatici riservati a poche persone elette. Contano gli argomenti e le prove che una persona può portare, non il suo status sociale o altre sue caratteristiche personali. Certo questo era più facile quando la scienza aveva appena iniziato il suo percorso, non servivano laboratori con apparecchiature costosissime e per mettersi in pari con le conoscenze di punta bastava leggersi una mezza dozzina di libri. Ma l’idea di un sapere aperto a tutti resta centrale, tanto che il sociologo Roger Merton cita l’universalismo come primo principio dell’ethos della scienza, il complesso di valori e di norme che guidano i ricercatori, insieme al comunismo dei risultati, al disinteresse e al dubbio sistematico.
Rifiutarsi di prendere in considerazione le critiche di RFK Jr. sembrerebbe essere in contrasto con l’ethos scientifico: il principio dell’universalismo imporrebbe infatti di ascoltare chiunque, anche un avvocato senza una specifica formazione scientifica (che comunque non manca a molto sostenitori di teorie cospirazioniste).
Ethos scientifico
Torniamo un attimo agli inizi della scienza occidentale moderna. L’idea di permette a chiunque ne abbia le capacità di partecipare all’impresa collettiva della scienza trovava manifestazione nelle accademie e nelle società scientifiche. In pratica delle zone protette in cui discutere liberamente, al riparo dalle ingerenze esterne – principalmente dalla politica e dalla religione. Chiunque è benvenuto. Se accetta i valori e i metodi dell’impresa scientifica. Se una persona non si riconosce in quei valori, non siamo tenuti a starla a sentire e non solo possiamo ignorarla, ma forse dobbiamo anche.
Va detto che entriamo in un terreno scivoloso. Non è facile definire con precisione quali siano i valori della scienza; quanto al metodo scientifico, ogni disciplina ha le sue prassi che oltretutto cambiano nel tempo. E sarebbe assurdo considerare antiscientifica qualsiasi proposta di ripensare come in questo particolare momento si fa scienza. Credo che un aspetto importante del quale tenere conto sia l’atteggiamento: si vuole contribuire alla conoscenza scientifica migliorando la nostra comprensione del mondo o al contrario far crollare tutto? Ma di nuovo è una indicazione generica. Il che suggerisce una certa cautela nell’applicare il principio del “non ti riconosci nell’ethos scientifico e quindi non puoi parlare”. Certo, visto il lungo e un po’ inquietante elenco di corbellerie sostenute da RFK Jr., direi che in questo caso ci sono pochi dubbi. Tenendo comunque presente che quantomeno alcune di quelle corbellerie potrebbero diventare delle domande poste da chi vuole davvero capire meglio il mondo.
Da quel che ho ricostruito, l’ideatore di questa popolare immagine è un certo Scott D. Weitzenhoffer in una recensione su Amazon di un libro sul creazionismo. [↩]
