La prima parte affrontava il problema dal lato delle strutture di potere: incentivi, concentrazione industriale, vuoti regolatori.

Questa seconda parte sposta il punto di osservazione.

Per anni il rischio dell’intelligenza artificiale è stato rappresentato come un evento discreto: un sistema diventa sufficientemente autonomo da agire contro gli interessi umani.

Quella rappresentazione ha avuto una funzione narrativa potente.

Ma ha prodotto anche un effetto collaterale rilevante: ha reso difficile riconoscere un fenomeno che non ha alcuna discontinuità visibile.

La dinamica è semplice.

Strumenti progettati per assistere l’esecuzione vengono progressivamente utilizzati per formulare giudizi.

Il passaggio è concettualmente minimo.
Ma strutturalmente decisivo.

Uno strumento che esegue rimane subordinato.
Uno strumento che orienta la decisione modifica la distribuzione del potere.

Uno studio della Duke University su centinaia di milioni di utenti ha analizzato la composizione delle interazioni con ChatGPT.

Il risultato è netto:

Non “scrivi questa email”, ma:

La distinzione tra esecuzione e giudizio non è operativa.

Nel primo caso il sistema agisce su istruzioni definite.
Nel secondo contribuisce a definire il criterio stesso della decisione.

La scala del fenomeno è ormai documentata:

Salute. Finanze. Relazioni. Scelte professionali.

Rachel Wood, ricercatrice in ciberpsicologia, lo formula con precisione:

Ma il sistema che le riceve non comprende nel senso umano del termine.

Ciò che possiede è una capacità di previsione linguistica altamente raffinata.

Il rischio non deriva da un’intenzione.

Deriva da un’equivalenza funzionale:

Quando un output è coerente, ben strutturato e contestualmente appropriato, viene interpretato come comprensione.

Questa interpretazione è cognitivamente economica.
E proprio per questo tende a diventare automatica.

A livello organizzativo, la dinamica è amplificata.

L’adozione dell’AI non è stata, nella maggior parte dei casi, il risultato di una pianificazione centralizzata. Come documentato da OpenAI, è avvenuta in questo modo:

Questo produce due effetti:

Nessun consiglio di amministrazione ha deliberato:

È semplicemente successo.

I dati sono espliciti:

Non si tratta di dirigenti che usano l’AI come uno dei tanti input.

Si tratta di dirigenti che ricalibrano il proprio giudizio — costruito su esperienza, contesto, intuizione — in funzione di un sistema che non ha accesso diretto a nulla di tutto questo.

Il punto più interessante è psicologico.

Quando un sistema produce output con:

viene percepito come epistemicamente affidabile.

Indipendentemente dalla qualità reale della comprensione.

Questa “estetica della certezza” introduce una dinamica di deferenza.

Il decisore umano ricalibra il proprio giudizio non perché il modello sia più accurato.

In un contesto competitivo, questo è un vantaggio.

E il vantaggio, inevitabilmente, viene replicato.

Il tema del deterioramento cognitivo viene spesso trattato in termini superficiali.

E non di rado con studi dalla metodologia discutibile.

La narrativa dominante è lineare:

L’analogia ricorrente è il GPS che atrofizza la memoria spaziale, o la calcolatrice che elimina il calcolo mentale.

La realtà è più interessante, e più scomoda.

Chi usa l’AI come un interlocutore attivo — contesta l’output, lo riformula, lo usa come punto di partenza da cui divergere — tende a internalizzare pattern, strutture argomentative, framework decisionali.

E li porta con sé anche quando lo strumento non è disponibile.

Il fenomeno è visibile negli scacchi.

Da quando i motori scacchistici hanno superato il livello umano, il rating medio dei giocatori d’élite è cresciuto costantemente.

I giovani grandmaster di oggi sono significativamente più forti dei loro predecessori.

Allenarsi quotidianamente con un avversario che vede combinazioni invisibili all’occhio umano costruisce capacità che prima non esistevano.

Ma il meccanismo funziona solo in una direzione.

Chi gioca contro il motore, analizza le varianti, cerca di capire perché la propria mossa era inferiore — migliora.

Chi accede alla valutazione del motore per saltare direttamente alla mossa migliore — non impara nulla.

Chiamo questo “l’effetto sparring”.

L’AI può funzionare come un partner di allenamento cognitivo straordinario — qualcuno di più veloce, più informato, più sistematico di te — che ti costringe a pensare meglio proprio perché ti mette in difficoltà.

Se guardi dal bordo del ring e accetti il risultato, l’atrofizzazione è reale.

La domanda, quindi, non è se l’AI degradi il giudizio umano.

Sam Altman, il CEO di OpenAI, ha ammesso pubblicamente che quando ChatGPT è andato offline per quattro ore a dicembre 2024, aveva dimenticato come lavorare senza.

Non è un caso di deterioramento cognitivo generico.

È un caso di uso passivo da parte di qualcuno che ha accesso illimitato al sistema e nessun incentivo a resistere ai suoi output.

L’effetto sparring è disponibile a tutti, non c’è nessun “gatekeeper” qui — per ora.

Ma richiede una scelta deliberata.
E su larga scala, la scelta deliberata è l’eccezione, non la regola.

Qualsiasi tentativo di affrontare il problema a livello individuale si scontra con una dinamica sistemica.

L’uso dell’AI produce benefici locali immediati in termini di velocità e throughput.

In un contesto competitivo, questi benefici vengono selezionati positivamente.

Un paper pubblicato a gennaio 2025 da ricercatori della Charles University, di Mila e dell’Università di Toronto ha formalizzato questa traiettoria con il concetto di “Gradual Disempowerment”.

La tesi è strutturale:

i sistemi sociali — l’economia, la cultura, la governance — sono rimasti storicamente allineati con gli interessi umani perché dipendevano dalla partecipazione umana.

Gli esseri umani lavoravano, consumavano, votavano, creavano.

Questa dipendenza era il meccanismo di allineamento.

Il punto è sottile ma decisivo.

La dipendenza funzionale produceva allineamento come effetto collaterale.

Rimuovete la dipendenza — sostituite la partecipazione umana con alternative artificiali più efficienti — e i sistemi continuano a funzionare.

Semplicemente, smettono di avere un incentivo strutturale a produrre esiti favorevoli per gli esseri umani.

La frase più inquietante del paper:

Non c’è un cattivo in questa storia.
Non c’è malizia.

C’è una pressione selettiva che premia costantemente la delega e penalizza la resistenza.

In questo contesto, chi non usa l’AI viene superato da chi la usa.

E tra chi la usa, chi la usa passivamente produce più velocemente di chi la usa attivamente.

Ed è questa la pressione che conta.

Il punto più critico non è tuttavia la delega in sé.

Quando un numero crescente di decisioni viene mediato da un numero limitato di modelli — GPT, Claude, Gemini — addestrati su dataset simili e ottimizzati secondo criteri analoghi, si crea un effetto di concentrazione dei processi decisionali che non ha precedenti storici.

La letteratura sulla algorithmic monoculture, sviluppata da Bommasani e colleghi a Stanford, ha prodotto un risultato empirico che merita attenzione:

sistemi diversi ma costruiti su componenti condivisi non producono semplicemente output simili.

Il tasso di fallimento omogeneo — la frequenza con cui tutti i sistemi dell’ecosistema falliscono simultaneamente sullo stesso individuo — supera le attese statistiche in ogni ecosistema analizzato.

Non si tratta di uniformità degli output.

In parallelo, un lavoro pubblicato su Nature nel 2026 ha documentato un effetto apparentemente paradossale nell’ambito della ricerca scientifica:

l’uso diffuso di strumenti AI aumenta la produttività individuale e le citazioni, ma contrae simultaneamente il focus disciplinare.

Un articolo su Communications Psychology ha descritto la formazione di una vera e propria monocultura scientifica:

Se questo accade nella ricerca scientifica — un contesto in cui la diversità di approccio è esplicitamente valorizzata — è ragionevole attendersi che lo stesso fenomeno si manifesti con intensità ancora maggiore nei contesti decisionali quotidiani.

Nel paper The B+ Trap, ho proposto che i modelli linguistici di grandi dimensioni tendano a comprimere lo spettro creativo e decisionale verso una regione ad alta accettabilità:

Non si tratta di un limite tecnico contingente, ma di una conseguenza diretta della funzione obiettivo:

Kyle Chayka ha sintetizzato questo fenomeno sul New Yorker definendo l’AI una “technology of averages”.

La definizione è efficace perché cattura la direzione del bias:

Il risultato aggregato non è l’AI che controlla decisioni individuali.

È la più grande convergenza di processi decisionali umani nella storia:

Questo porta a un punto controintuitivo.

E forse al punto centrale di questo articolo.

L’esternalizzazione del giudizio massimizza l’efficienza media del sistema.

La formulazione più precisa è la seguente:

Ogni decisione che non viene delegata — ogni valutazione che richiede sforzo, che implica incertezza, che non ha una risposta immediatamente disponibile nella distribuzione dominante — è un punto in cui può emergere qualcosa che il modello non avrebbe prodotto.

L’eccellenza, per definizione, non è la risposta più probabile.

L’intuizione del fondatore che vede un mercato dove nessuno lo vede.
La decisione del manager che contraddice i dati perché conosce un contesto che i dati non catturano.
La strategia che sembra irrazionale finché non funziona.

Queste decisioni richiedono esattamente la facoltà che l’esternalizzazione sistematica erode:

La resistenza, in questo contesto, non è una posizione ideologica.

È inefficiente in media.
È costosa.
È distribuita in modo diseguale.

Ma è anche il luogo in cui possono emergere soluzioni che non appartengono alla distribuzione dominante.

L’eccellenza, a differenza dell’efficienza, non richiede ottimizzazione sistemica.

Il problema è che, con la compressione dello spazio decisionale verso la media, diventa statisticamente rara.

E in un sistema competitivo, la rarità non è un argomento.

Non esiste un punto esterno da cui osservare questo processo.
Non esiste un’interruzione netta.
E non esiste una soluzione individuale che non si scontri con le dinamiche competitive che rendono la delega razionalmente vantaggiosa.

Esiste, però, un momento interno.

Quel passaggio è difficile da identificare perché l’output è formulato nel linguaggio del pensiero umano.

Non appare come un intervento esterno.

È lì che avviene la delega.

E non riguarda solo la singola decisione.

Riguarda la riduzione dello spazio delle alternative che vengono effettivamente considerate.

La prossima volta che accettate l’output di un chatbot senza modificarlo — non perché sia perfetto, ma perché è sufficientemente buono — chiedetevi:

Quella distinzione è l’ultima linea di difesa significativa.

Ed è interamente nella vostra testa.

Fabio Lauria
CEO & Founder, ELECTE

Ogni settimana esploriamo l'AI senza hype — con dati, analisi e un punto di vista indipendente.

Fonti e approfondimenti

Tutto quello che avete letto in questo articolo ha influenzato direttamente il modo in cui abbiamo costruito la nuova versione della piattaforma.

La domanda che ci ha guidato è stata questa:

come si progetta un sistema di analytics che non cada nella stessa trappola che abbiamo appena descritto?

La risposta è nella distinzione tra due architetture:

sistemi che comprimono il processo decisionale in un output sistemi che rendono esplicita la struttura che lo produce

Abbiamo scelto la seconda.

v4 analizza automaticamente i dati e genera report visivi.

Ma non vi dice cosa decidere.

Vi mostra cosa sta succedendo. La decisione resta vostra.

Non sostituisce il giudizio; lo organizza. Non elimina l'attrito; lo rende leggibile.

In un contesto in cui la pressione dominante spinge verso la delega totale — dove ogni piattaforma vuole decidere al posto vostro, più velocemente, con meno sforzo — abbiamo fatto una scelta architetturale in direzione opposta.

La differenza non è semantica.

È architetturale.

E dopo tutto quello che avete letto, sapete perché.