La verità è diventata un costo

Il 2 agosto 2026 entra in vigore il California AI Transparency Act: è il primo obbligo statunitense che impone ai fornitori dei grandi sistemi di AI generativa di inserire nei contenuti generati le informazioni sulla loro provenienza e di mettere a disposizione del pubblico uno strumento gratuito per riconoscerli. A vigilare è il procuratore generale della California, con sanzioni fino a 5.000 dollari per violazione. Newsom ha firmato a ottobre l'AB 853, la norma che ne ha rinviato la partenza, e la nuova data è stata scelta per allinearsi ai tempi di attuazione dell'AI Act europeo.

Contano meno i dettagli tecnici di quello che quella data certifica. Davamo per scontato che un sistema sicuro producesse informazioni vere: l'AI ha smontato il presupposto, e l'integrità non è più soltanto una questione di controlli. È una questione di acquisti, di responsabilità e di governance, perché stabilisce chi sostiene il costo quando un output plausibile ma falso entra in un contratto o in un processo aziendale. Per il perimetro di ELECTE la frase è semplice: chi controlla la verifica dell'integrità nei flussi di lavoro basati sull'AI controlla l'allocazione del rischio, e chi riesce a scaricare quel rischio sugli altri cattura più valore.

Il presupposto che davamo tutti per scontato

Per anni l'integrità è rimasta in secondo piano rispetto agli altri principi della sicurezza informatica. La riservatezza faceva notizia. La disponibilità otteneva budget dopo ogni blackout. L'integrità restava sullo sfondo: una proprietà tecnica dei sistemi che, se configurati bene, avrebbero mantenuto i dati abbastanza accurati da poterci contare.

Il presupposto reggeva perché nei sistemi aziendali tradizionali un problema di integrità aveva sempre una causa visibile. Un utente modificava un campo. Uno script sovrascriveva un file. Un processo importava dati sbagliati. I team di sicurezza ricostruivano il percorso dell'evento, individuavano chi o cosa aveva prodotto la modifica e ripristinavano lo stato precedente. Così l'integrità sembrava un problema di controlli, ben delimitato:

• i controlli di accesso stabilivano chi poteva creare, modificare o cancellare i dati;
• checksum e hash segnalavano se un contenuto era cambiato;
• lo storico delle versioni conservava gli stati precedenti per revisione o ripristino;
• i log di audit registravano le azioni in una sequenza ricostruibile.

Sono controlli pensati per l'alterazione, non per la creazione. Possono dimostrare che un dato è cambiato, e a volte per mano di chi. Non possono stabilire che un output appena generato sia accurato, completo o fondato su una fonte attendibile. Se l'ufficio acquisti riceve una sintesi impeccabile, il legale rivede una clausola scritta da una macchina o l'operativo agisce su una raccomandazione automatica, la traccia tecnica può restare intatta mentre il contenuto è falso.

In quel divario si nascondeva una premessa economica. Nessuno prezzava seriamente la verifica, perché si dava per scontato che il sistema conservasse il significato salvo rottura di un controllo. L'integrità era una proprietà dell'ambiente, non un costo ricorrente.

Adesso sono i sistemi autorizzati a produrre gli errori

L'AI rompe il modello alla radice. Prima si trattava di impedire a chi non era autorizzato di alterare le informazioni. Adesso sono i sistemi autorizzati a generare, modificare e far circolare informazioni che sembrano legittime ma sono sbagliate, incomplete o impossibili da verificare.

Il sistema è approvato. L'utente è autorizzato. Il flusso di lavoro è regolare. Il dato, comunque, è falso.

La rottura si presenta in tre forme ricorrenti.

Data poisoning. Se dati manipolati entrano nelle pipeline di addestramento, fine-tuning o retrieval, il modello assorbe schemi falsi e li riproduce su larga scala. Raramente somiglia a un sabotaggio: si manifesta come classifiche leggermente distorte, sintesi alterate, raccomandazioni che scivolano verso fonti scadenti. E l'azienda paga dopo, per controllare output che prima si presumevano fedeli.

Deriva silenziosa nei flussi approvati. I modelli si degradano quando cambiano gli input, quando si allarga la finestra di contesto, quando gli stessi prompt passano da una funzione aziendale all'altra, quando il sistema finisce in contesti per cui non è mai stato testato. Non serve alcun attacco: continua a produrre output curati mentre smette di essere adatto allo scopo. È il tipo di guasto che sfugge ai team sotto pressione, perché la forma resta professionale.

Output plausibile ma falso. È la categoria più costosa, perché supera la revisione umana molto più spesso di un errore evidente. Un output debole viene scartato. Un output plausibile viene accettato, archiviato, inoltrato, citato e usato per decidere. Da quel momento il costo si sposta dalla prevenzione alla verifica, alla correzione e alla responsabilità. Ho già scritto di come i sistemi opachi generino fiducia mal riposta dentro le organizzazioni in questa analisi sulle black box dell'AI. Vale lo stesso qui: si scambia la scorrevolezza per qualità della prova.

La tracciabilità è necessaria, ma non basta a stabilire la verità

I controlli tradizionali restano utili per software, archivi e trasmissione dei dati: dicono se qualcosa è cambiato dopo l'approvazione. Non rispondono alla domanda difficile che l'AI introduce: quell'output era abbastanza attendibile da giustificare una decisione? Una clausola generata può essere coerente al proprio interno e travisare comunque gli obblighi. Una sintesi può conservare il tono e omettere che i controlli hanno fallito. Un'immagine sintetica può superare un'occhiata distratta e rappresentare male un fatto. La stessa pressione sul piano della prova si vede già nelle controversie sui media sintetici, di cui ho scritto nel pezzo sui deepfake e la nuova emergenza che riscrive le regole del business.

Gli standard sulla provenienza dei contenuti aiutano. Se si può ricostruire da dove arriva un file, quale sistema lo ha trattato e se le modifiche sono state registrate, la revisione diventa verificabile invece che congetturale. È esattamente la direzione della regolazione: la California pretende prove di origine leggibili da una macchina, non rassicurazioni del fornitore dopo l'incidente, e gli obblighi di trasparenza dell'AI Act europeo vanno dalla stessa parte.

Ma tracciabilità non significa correttezza. I metadati mostrano l'origine, non la verità. Possono documentare che un modello ha prodotto un risultato e che una persona lo ha approvato, senza dire se l'una o l'altro avessero elementi sufficienti per fidarsi. Un buon protocollo di verifica chiede quindi:

• su quale materiale di partenza si regge l'output;
• quale sistema lo ha generato, trasformato o sintetizzato;
• se c'è stata una revisione umana prima dell'uso operativo;
• quali prove esistono che il revisore abbia controllato la sostanza e non solo la forma;
• quali passaggi della catena sono verificabili e quali restano opachi.

Il cambiamento più profondo è procedurale. Se un sistema riscrive le note degli analisti, classifica le fatture o prepara i testi di un'informativa, la questione dell'integrità riguarda l'intera catena di produzione e approvazione, non il singolo documento. Ho affrontato un rischio affine in questa analisi su quando l'AI diventa un informatore. Oggi conta più l'integrità del processo di quella dell'oggetto: qualcuno deve pagare la revisione, conservare le tracce delle decisioni e assorbire la perdita quando un output plausibile si rivela falso.

Il contratto è il nuovo firewall

Quel qualcuno viene indicato nei contratti. Per questo l'ufficio acquisti è diventato il luogo dove si alloca il rischio.

L'informativa societaria lo registra già. Secondo l'analisi di Fortune sui bilanci 2025, il 72% delle società dell'S&P 500 ha indicato l'AI come rischio rilevante nel proprio 10-K; una rassegna dell'Harvard Law School Forum on Corporate Governance colloca al primo posto il rischio reputazionale — esiti distorti, output non sicuri, uso improprio del marchio — segnalato dal 38% delle società dell'indice. Il 10-K 2026 di JPMorgan lo mette nero su bianco: output inaccurati o distorti, prodotti da un'adozione troppo rapida e da test insufficienti. Quando un'azienda scrive un rischio nel documento più prudente che produce, l'esposizione è reale. E ricade dove la mette il contratto.

I contratti software tradizionali ruotavano intorno a continuità di servizio, controlli di accesso, livelli di servizio e obbligo di notifica in caso di violazione. L'AI introduce un'esposizione diversa: un sistema che produce sintesi errate, clausole alterate o classificazioni sbagliate senza che nessuno sia entrato dove non doveva. Così l'integrità finisce dentro manleve, garanzie, diritti di audit, requisiti di prova e limitazioni di responsabilità. Il fornitore viene pagato per la velocità. Il cliente, spesso, paga per verificare. Se un fornitore automatizza la redazione, lo smistamento delle revisioni o la creazione dei documenti, ma lascia al cliente il controllo sostanziale di ogni output rilevante, il cliente non ha comprato integrità.

Il cliente non ha comprato integrità: ha comprato lavoro di verifica.

Chi controlla i log, la catena di tracciabilità e la definizione contrattuale di errore accettabile ha un vantaggio strutturale: può restringere la propria esposizione e spostare la verifica sull'altra parte. È così che il rischio di integrità viene riprezzato nei mercati dell'AI. Ed è il motivo per cui le prove tecniche incidono sul rischio solo quando il contratto dà al cliente il diritto di ottenerle e collega il difetto a un rimedio.

Una checklist per chi acquista

Le PMI non hanno bisogno dell'ennesima lezione sulla triade CIA. Hanno bisogno di sapere cosa chiedere, cosa firmare e cosa tenere d'occhio.

Da chiedere prima di firmare

• La catena di tracciabilità. Da dove arrivano i dati di addestramento e quelli operativi, che cosa viene modificato, quali prove esistono di quelle modifiche?
• Il registro delle decisioni. Se il sistema incide su prezzi, scelta dei fornitori, testo dei contratti o reportistica, riesce a produrre log che colleghino ogni output ai prompt, alle fonti e alle revisioni?
• I confini della revisione. Quali output richiedono un'approvazione umana? E quell'approvazione entra nel merito o è una casella da spuntare?
• Il comportamento in caso di errore. Come segnala il sistema incertezza o bassa affidabilità, invece di presentare ogni risposta come ugualmente utilizzabile?

Da mettere nel contratto

1. Garanzia di integrità. Il fornitore garantisce la tracciabilità dei contenuti generati o modificati dall'AI nei processi rilevanti, la conservazione del contesto di origine e la registrazione delle trasformazioni.
2. Diritti di audit e conservazione delle prove. Accesso ai registri di processo, ai log di revisione, allo storico delle versioni e alla documentazione delle modifiche al modello, conservati abbastanza a lungo da reggere un audit, una controversia o una verifica dell'autorità.
3. Obbligo di comunicazione. Avviso tempestivo e percorso di rimedio documentato quando il fornitore rileva un degrado dell'integrità, una falla nella tracciabilità o modifiche rilevanti al modello, alle fonti dati o al flusso di lavoro.
4. Limiti di affidamento. Su quali output il cliente può fare affidamento, quale livello di revisione umana si presume, e se il fornitore declina ogni responsabilità per contenuti plausibili ma sbagliati.
5. Ripartizione della perdita. Se un output sintetico o corrotto produce un danno contrattuale, finanziario o di reportistica, il contratto dice chi lo sostiene. Un massimale generico può scaricare quasi tutto sul cliente anche quando è il fornitore a controllare il modello, i log e la pipeline.

Da tenere d'occhio dopo l'avvio

• Controlli a campione sui dati reali: confrontare gli output dell'AI con i documenti originali, i termini approvati, gli archivi validati.
• Separare chi redige da chi approva: mai lasciare che la stessa catena automatica generi, classifichi e approvi un output rilevante.
• Sorvegliare le modifiche silenziose a log, metriche e archivi durante i passaggi e le sintesi.
• Trattare le lacune di tracciabilità come guasti: se un team non riesce a dimostrare da dove arriva un output importante, non è un fastidio, è un controllo che ha ceduto.

Un sistema utilizzabile non è necessariamente un sistema affidabile. Un acquirente accorto non chiede se il fornitore "usa l'AI in modo responsabile" in astratto: chiede se è in grado di dimostrare l'autenticità, ricostruire la storia del processo e rispondere del rischio che il suo sistema crea.

Chi paga per la verità?

Non se ne esce dicendo alle aziende di "adottare l'AI con responsabilità". La pressione arriva da un'altra parte: dai questionari di acquisto, dalla documentazione dei controlli, dai diritti di audit, dai requisiti di tracciabilità, dalle esclusioni delle polizze e dalle clausole di responsabilità. E adesso, dal 2 agosto, anche dalla legge.

La conseguenza di mercato è lineare. I fornitori che riescono a declinare la responsabilità mentre il cliente paga per verificare cattureranno una quota di valore sproporzionata. I clienti che non negoziano prove e rimedi si terranno il costo operativo della verità. Per questo l'integrità delle informazioni è ormai materia di strategia commerciale, non solo di sicurezza informatica.

Nei mercati dell'AI, la verità è diventata una voce di costo.

Se questo è il tipo di analisi che cerchi, iscriviti alla Newsletter di ELECTE. Ogni settimana scrivo di AI come potere, contratti, regolazione e struttura di mercato, senza riciclare i comunicati dei fornitori.

Fonti

• Destcert on the CIA triad and ISO/IEC 27000:2018's definition of integrity
• AB 853, chaptered text — California AI Transparency Act operative 2 August 2026
• Mayer Brown on AB 853's obligations, enforcement, and $5,000-per-violation penalty
• Fortune on 72% of S&P 500 companies disclosing AI as a material 10-K risk
• Harvard Law School Forum on Corporate Governance on AI risk disclosures in the S&P 500
• NIST SP 1800-26 on data integrity and detecting integrity events
• NIST SP 800-53 system and information integrity guidance

Fabio Lauria

CEO & Founder, ELECTE

Ogni settimana esploriamo l'AI senza l'hype — con dati, analisi e una prospettiva indipendente.