Un'alleanza tecnologica sta certificando le immagini AI. Il resto va bene che siano balle spaziali?

Tra politici, governi, esploratori spaziali e Wanna Marchi, non esiste ancora un watermark per contrassegnare le falsità.

Questa settimana Google ha fatto un annuncio che, se ci si ferma un momento a pensarci, dice molto più di quanto sembri. Al Google I/O del 19 maggio, l'azienda ha confermato che SynthID - il suo sistema di watermark invisibile per i contenuti generati dall'intelligenza artificiale - sta entrando in Google Search, in Chrome e in Circle to Search su Android. Numeri alla mano, SynthID ha già contrassegnato oltre 100 miliardi di immagini e video, più 60.000 anni di audio. E, dettaglio non secondario, anche OpenAI ha deciso di adottarlo: a partire dalle immagini create tramite ChatGPT, Codex e la propria API, incorporerà il watermark di Google DeepMind insieme alle Content Credentials C2PA che già utilizza.

C2PA, per chi non lo conosce, è lo standard tecnico aperto fondato nel 2021 da Adobe, BBC, Intel e Microsoft, e oggi sostenuto da oltre 6.000 membri tra cui Google, Meta, Sony, Nikon e Leica. Funziona incorporando metadati verificabili sulla provenienza nei contenuti digitali: immagini, video, audio, documenti. Lo stesso 19 maggio, OpenAI ha aderito al comitato direttivo di questo standard, impegnandosi a dichiarare esplicitamente la natura dei propri output generati dall'AI. Google ha inoltre lanciato il SynthID Detector, un portale standalone che scansiona contenuti caricati e indica esattamente quali porzioni portano il watermark — con accesso prioritario per giornalisti, professionisti dei media e ricercatori.

È, oggettivamente, un progresso. Dopo anni in cui il dibattito sulla disinformazione visiva è rimasto bloccato sul "si fa presto a dire deepfake", finalmente c'è un'infrastruttura tecnica concreta, sostenuta da attori di peso, che inizia a rispondere alla domanda "ma come facciamo a sapere se un'immagine è vera?". Il watermark non cambia la qualità del contenuto, resiste a ritagli, filtri, compressione, e viene generato automaticamente (sui dispositivi Pixel, per esempio, anche i video registrati con il telefono ottengono un certificato crittografico di provenienza).

E però, mentre ci preoccupiamo (giustamente) di distinguere le immagini generate dall'AI da quelle "reali", questa settimana è successa un'altra cosa che merita di essere osservata. SpaceX ha depositato il documento S-1 presso la SEC, avviando ufficialmente la sua IPO, che punta a essere la più grande della storia della finanza, con una valutazione tra 1.500 e 2.000 miliardi di dollari e un obiettivo di raccolta che arriva a 75 miliardi. Il ticker sarà SPCX, la data ipotizzata è il 12 giugno sul Nasdaq.

Nel documento, SpaceX dichiara di aver identificato "il più grande mercato indirizzabile della storia umana", stimato in 28,5 trilioni di dollari. E poi c'è il dettaglio che più di tutti merita attenzione: il "Mars bonus", una clausola che consente a Elon Musk di ricevere fino a un miliardo di nuove azioni quando un milione di persone vivranno su Marte. Marte. Non quando ci sarà un profitto, non quando si raggiungerà un fatturato, non quando si completerà una missione concreta. Quando un milione di persone vivranno su un altro pianeta, con tecnologie che oggi non esistono, per un obiettivo che nessun essere umano ha mai raggiunto nella storia.

Eppure, a partire da questa narrazione, i mercati stanno ragionando su valutazioni superiori a quelle di qualsiasi azienda che abbia mai messo piede in borsa. Non ci sono numeri di fatturato che giustifichino queste cifre. Ci sono storie. Storie affascinanti, raccontate benissimo, capaci di generare un entusiasmo genuino - ma pur sempre storie.

Il problema non è Musk o SpaceX in particolare, ma il meccanismo. Viviamo in un momento in cui la distinzione tra informazione e narrazione si è fatta sottile quasi fino a scomparire, e in cui l'asticella di ciò che deve essere dimostrato per essere creduto si è abbassata in modo drammatico. Non solo nei mercati finanziari: nella politica, nelle istituzioni, nel dibattito pubblico. I governi dichiarano fatti che sono narrazioni. I politici descrivono scenari futuri come se fossero realtà presenti. Le piattaforme amplificano chi urla più forte, non chi argomenta meglio. E tutto questo, per qualche ragione che sarebbe interessante analizzare, sembra essere socialmente accettato come parte delle regole del gioco.

La cosa curiosa è che per le immagini generate dall'AI abbiamo costruito (e stiamo consolidando) un'intera infrastruttura tecnica: SynthID, C2PA, Content Credentials, portali di verifica con liste d'attesa per giornalisti. Per decenni abbiamo usato Photoshop, strumenti di ritocco, filtri e manipolazioni di ogni tipo, senza che questo generasse una risposta sistemica comparabile. Ma quando l'AI ha reso la cosa scalabile e accessibile, il problema è diventato urgente. Ha senso, sia chiaro. I deepfake di persone reali, le immagini di eventi mai accaduti, i video sintetici usati in contesti politici: sono rischi reali che meritano risposte reali.

Ma il punto che si fa fatica a non notare è che lo stesso ecosistema che si mobilita per marchiare un'immagine generata da Gemini sembra molto meno preoccupato di dover certificare l'affidabilità di una narrazione da 2.000 miliardi di dollari. Per i contenuti visivi esiste il watermark. Per le parole, esiste il fact-checking giornalistico che i migliori giornali e mezzi di informazione praticano con rigore, e che rimane uno degli strumenti più preziosi che abbiamo. Ma il fact-checking è uno strumento umano, lento, che richiede redazioni, fonti, tempo. Ed è efficace quando la falsità da smontare ha una forma concreta: una data sbagliata, un numero inventato, una foto manipolata.

Dove il fact-checking tradizionale mostra i suoi limiti è quando la "fonte" non è un documento falsificabile, ma una dichiarazione. Quando Musk dice che un milione di persone vivranno su Marte e guadagneranno miliardi di dollari, non sta diffondendo una notizia falsa nel senso tecnico del termine: sta dichiarando una visione del futuro. E quella dichiarazione - proprio perché è una dichiarazione, non un fatto verificabile - scivola attraverso i filtri del fact-checking come acqua tra le dita. Non si può smentire un sogno con la stessa precisione con cui si smentisce una statistica inventata. La dichiarazione viene presa per buona, amplificata dai mercati, trasformata in una valutazione da 2.000 miliardi, e il ciclo si chiude senza che nessun meccanismo di verifica abbia avuto modo di incepparsi.

È una differenza sottile ma fondamentale: il problema non è che le bugie non vengano verificate, è che certe forme di comunicazione non entrano nemmeno nella categoria "verificabile". Restano nell'aria come promesse, come visioni, come "narrazioni di sistema" che generano fiducia e flussi di capitale indipendentemente da qualsiasi riscontro documentato.

C'è una figura italiana che, in qualche modo, ha anticipato questo meccanismo con qualche decennio di anticipo: Wanna Marchi. Non per sminuire il discorso, ma forse per renderlo più nitido. Marchi vendeva prodotti e promesse con una capacità narrativa straordinaria, in un'epoca in cui i meccanismi di verifica erano lenti e gli strumenti di amplificazione erano la televisione commerciale. Quello che costruiva era esattamente un sistema in cui l'intensità della promessa sostituiva la prova della promessa. E funzionava, fino a quando non funzionava più. La differenza con il presente, però, è che Marchi operava su scale relativamente piccole, con un pubblico che poteva eventualmente rendersi conto dell'inganno in modo diretto e personale. Oggi le stesse dinamiche operano su scala globale, con attori che dispongono di piattaforme di amplificazione enormi e di un pubblico che - per ragioni legittime, non per ingenuità - decide di investire fiducia e denaro in una direzione, anche senza prove, perché la narrativa è sufficientemente affascinante e il narratore sufficientemente credibile.

La domanda che vale la pena farsi, dunque, non è solo se SynthID funzioni (funziona, ed è un passo importante). È se siamo disposti, come cultura, a pretendere lo stesso livello di trasparenza per le parole che esigiamo per le immagini. Un watermark certifica che un'immagine è stata generata da un algoritmo. Ma chi certifica che una promessa è fondata su qualcosa di reale, e non solo su un ottimo venditore? E soprattutto: vogliamo davvero saperlo, o preferiamo continuare a credere alle belle storie… purché siano abbastanza grandi da sembrare vere?