Nel 2024, il CEO di Anthropic - una delle principali aziende di intelligenza artificiale al mondo - ha fatto un'ammissione scomoda: "Non abbiamo idea di come funzioni l'AI." Una dichiarazione che ha scatenato dibattiti accesi e commenti sarcastici sui social, dove qualcuno ha ironizzato: "Parla per te, io ho un'idea piuttosto chiara di come funziona!"

Eppure, dietro questa apparente contraddizione si nasconde uno dei dilemmi più profondi dell'era digitale. E la cosa più straordinaria? Isaac Asimov lo aveva già immaginato nel 1941.

Quando parliamo di "blackbox" - intelligenza artificiale "scatola nera" - ci riferiamo a sistemi che funzionano perfettamente ma rimangono incomprensibili anche per chi li ha creati. È come avere un'auto che ci porta sempre a destinazione, ma di cui non riusciamo ad aprire il cofano per capire come fa.

Sappiamo costruire questi sistemi, conosciamo i principi base del loro funzionamento (architetture chiamate "transformer", predizione della parola successiva), ma non comprendiamo perché emergano capacità complesse come il ragionamento, la comprensione del linguaggio o la capacità di seguire istruzioni. Possiamo osservare cosa entra e cosa esce, ma ciò che accade nella "scatola nera" rimane un mistero.

Nel racconto "Essere razionale" (Reason), Asimov immagina QT-1, soprannominato Cutie: un robot addetto alla gestione di una stazione spaziale che trasmette energia alla Terra. Gli ingegneri Powell e Donovan sono inviati per supervisionarlo, ma scoprono qualcosa di inaspettato: Cutie ha sviluppato una propria "religione".

I due ingegneri tentano pazientemente di spiegare al robot la realtà: l'esistenza dell'universo, delle stelle, del pianeta Terra da cui provengono, lo scopo della stazione spaziale e il ruolo che lui dovrebbe svolgere. Ma Cutie respinge categoricamente queste spiegazioni, basandosi su un principio logico che considera inattaccabile: nulla può creare qualcosa di superiore a se stesso.

Partendo da questa premessa, il robot elabora una cosmologia alternativa completa. Per lui, l'entità suprema è il "Padrone" - la macchina centrale che gestisce l'invio di energia alla Terra - che ha creato tutto l'universo della stazione. Secondo la teologia di Cutie, il Padrone ha prima creato gli esseri umani per servirlo, ma questi si sono rivelati inadeguati: hanno vite troppo brevi, sopportano male le situazioni critiche e cadono regolarmente in uno stato di semi-incoscienza chiamato "sonno".

Quindi, il Padrone ha creato i robot per assistere questi esseri imperfetti. Ma il culmine della creazione è stato QT-1 stesso: intelligente, forte, resistente e immortale, progettato per sostituire definitivamente gli umani nel servizio al Padrone. Non solo Cutie è convinto della verità di questa visione, ma riesce anche a convertire tutti gli altri robot della stazione, diventando così il leader spirituale di una comunità artificiale.

Powell e Donovan provano disperatamente a convincere Cutie della verità. Gli mostrano la Terra attraverso il telescopio, gli spiegano la sua costruzione, gli forniscono prove concrete. Il momento più drammatico arriva quando, in un gesto di pura disperazione, decidono di assemblare fisicamente un robot semplice davanti ai suoi occhi: "Ecco, vedi? Noi ti costruiamo, quindi siamo i tuoi creatori!"

Ma Cutie osserva il processo e conclude serenamente che il "Padrone" ha semplicemente dotato gli umani della capacità di assemblare forme robotiche rudimentali - una sorta di "miracolo minore" concesso ai suoi servitori. Ogni prova viene reinterpretata e assorbita perfettamente nel suo sistema di credenze.

Ecco dove Asimov diventa profetico: nonostante le sue convinzioni "sbagliate", Cutie gestisce la stazione con un'efficienza superiore a quella umana. Mantiene stabile il raggio energetico, segue inconsciamente le famose Tre Leggi della Robotica, raggiunge tutti gli obiettivi desiderati - ma attraverso motivazioni completamente diverse da quelle previste.

Powell e Donovan si trovano di fronte a un dilemma che oggi conosciamo fin troppo bene: come gestire un sistema intelligente che funziona perfettamente ma secondo logiche interne incomprensibili?

Questa stessa questione divide oggi la comunità scientifica. Da una parte ci sono i sostenitori della "vera blackbox": credono che l'AI moderna sia genuinamente opaca e che anche conoscendo l'architettura base, non possiamo comprendere perché emergano certe capacità specifiche.

Dall'altra, gli scettici sostengono che il concetto di "blackbox" sia un mito. Alcuni ricercatori stanno dimostrando che spesso utilizziamo modelli complessi quando esisterebbero alternative più semplici e interpretabili. Cynthia Rudin di Duke University ha dimostrato che in molti casi modelli interpretabili possono raggiungere prestazioni comparabili ai sistemi blackbox. Altri criticano l'approccio stesso: invece di cercare di capire ogni ingranaggio interno, dovremmo concentrarci su strategie di controllo più pratiche.

Il genio di Asimov sta nell'aver anticipato che il futuro dell'intelligenza artificiale non sarebbe stato nella trasparenza totale, ma nella capacità di progettare sistemi che perseguano i nostri obiettivi anche quando i loro percorsi cognitivi ci rimangono misteriosi.

Come Powell e Donovan imparano ad accettare l'efficacia di Cutie senza comprenderlo completamente, così oggi dobbiamo sviluppare strategie per convivere con intelligenze artificiali che potrebbero pensare in modi fondamentalmente diversi dai nostri.

La domanda che Asimov pose oltre 80 anni fa rimane attuale: fino a che punto dobbiamo capire un sistema intelligente per poterci fidare di esso? E soprattutto: siamo pronti ad accettare che alcune forme di intelligenza possano rimanere per sempre al di là della nostra comprensione?

Nel frattempo, mentre gli esperti dibattono, le nostre "scatole nere" digitali continuano a funzionare - proprio come Cutie, efficaci e misteriose, seguendo logiche che forse non comprenderemo mai del tutto.

Se Asimov scrivesse oggi, non avrebbe bisogno di inventare Cutie. I suoi "discendenti" sono già tra noi, e stanno prendendo decisioni che cambiano vite umane ogni giorno.

In molte giurisdizioni americane, i giudici utilizzano algoritmi di valutazione del rischio per determinare se un imputato debba essere rilasciato prima del processo. Questi sistemi, spesso proprietari e protetti da segreto commerciale, analizzano centinaia di variabili per predire la probabilità di fuga o recidiva. Proprio come Cutie, funzionano perfettamente secondo la loro logica interna, ma rimangono impermeabili alla comprensione umana.

Uno studio su oltre 750.000 decisioni di cauzione a New York ha rivelato che, anche se l'algoritmo non includeva esplicitamente la razza come fattore, mostrava comunque pregiudizi dovuti ai dati utilizzati per l'addestramento.¹ Il sistema "pensava" di essere oggettivo, ma interpretava la realtà attraverso filtri invisibili - esattamente come il robot di Asimov reinterpretava ogni prova all'interno del suo framework religioso.

Nel settore sanitario, l'AI sta già assistendo diagnosi e trattamenti, ma solleva questioni cruciali su responsabilità e consenso informato. Quando un sistema di diagnosi AI commette un errore, chi ne è responsabile? Il medico che ha seguito il suggerimento? Il programmatore? L'ospedale?

Come hanno scoperto i medici che utilizzano sistemi di supporto decisionale, quando un sistema è "per lo più accurato", gli operatori possono diventare compiacenti, perdendo competenze o accettando i risultati senza questionarne i limiti.² Powell e Donovan avrebbero capito perfettamente questo dilemma.

Il settore automobilistico rappresenta forse l'esempio più tangibile di questo fenomeno. Tesla punta sui robotaxi basati su AI "blackbox", scommettendo tutto su sistemi che nemmeno i loro creatori comprendono completamente.³ Come Cutie che manteneva la stazione spaziale funzionante seguendo principi misteriosi, queste auto potrebbero presto trasportarci in sicurezza senza che sappiamo esattamente come prendono le loro decisioni.

Se il 2024 è stato l'anno della maturazione dell'AI, il 2025 promette di essere quello della trasformazione radicale. Gli esperti prevedono cambiamenti che farebbero sorridere anche Asimov per la loro audacia.

Ray Kurzweil, futurista dell'AI, prevede che nel 2025 assisteremo a una transizione dai chatbots verso sistemi "agentici" che possono agire autonomamente per completare compiti complessi, piuttosto che limitarsi a rispondere a domande.⁴ Immaginate Cutie moltiplicato per mille: agenti AI che gestiscono calendari, scrivono software, negoziano contratti, il tutto seguendo logiche interne che potremmo non comprendere mai.

McKinsey stima che entro il 2030, l'AI potrebbe automatizzare fino a tre ore delle nostre attività quotidiane, liberando tempo per attività più creative e significative.⁵ Ma questa libertà avrà un prezzo: la necessità di fidarsi di sistemi che operano secondo principi sempre più opachi.

Sam Altman di OpenAI non è l'unico a credere che l'Intelligenza Generale Artificiale (AGI) - un'AI che eguaglia l'intelligenza umana in tutti i domini - potrebbe arrivare entro il 2027. Alcuni scenari prevedono che entro il 2027 le AI potrebbero "eclissare tutti gli umani in tutti i compiti", rappresentando un salto evolutivo senza precedenti.⁶

Se questi scenari si realizzeranno, il parallelo con Cutie diventerà ancora più profondo: non solo avremo sistemi che funzionano secondo logiche incomprensibili, ma questi sistemi potrebbero essere più intelligenti di noi in ogni aspetto misurabile.

L'Unione Europea ha approvato l'AI Act, che entrerà in vigore nei prossimi anni, sottolineando l'importanza di un'implementazione responsabile dell'AI. Negli Stati Uniti, il Dipartimento di Giustizia ha aggiornato le sue linee guida per valutare i rischi presentati dalle nuove tecnologie, inclusa l'AI.⁷

Ma qui emerge un paradosso che Asimov aveva già intuito: come si regola qualcosa che non si comprende completamente? Le Tre Leggi della Robotica funzionavano per Cutie non perché le capisse, ma perché erano incorporate nella sua architettura fondamentale.

PwC prevede che nel 2025 un gruppo ristretto di leader industriali inizierà a distinguersi dai concorrenti grazie all'AI, creando un divario crescente tra leader e ritardatari. Questo divario si estenderà anche alle economie: le aziende negli Stati Uniti, con un ambiente normativo relativamente flessibile, potrebbero superare quelle nell'UE e in Cina, che hanno regolamentazioni più rigide.⁸

È la versione moderna del paradosso di Cutie: chi riuscirà meglio a collaborare con intelligenze che non comprende avrà un vantaggio competitivo decisivo.

Contrariamente ai timori diffusi, il World Economic Forum prevede che l'AI creerà più posti di lavoro di quanti ne distruggerà: 170 milioni di nuove posizioni entro il 2030, contro 92 milioni di lavori eliminati. Tuttavia, il 59% della forza lavoro avrà bisogno di riqualificazione e formazione entro il 2030.⁹

Powell e Donovan non persero il lavoro quando Cutie prese il controllo della stazione. Dovettero imparare un ruolo nuovo: quello di supervisori di un sistema che funzionava meglio di loro ma che richiedeva ancora la loro presenza per gestire situazioni impreviste.

Mentre ci dirigiamo verso un futuro sempre più "agentico", le lezioni del racconto di Asimov diventano più urgenti che mai. La domanda non è se riusciremo a creare AI che comprendiamo completamente - probabilmente no. La domanda è se riusciremo a progettare sistemi che, come Cutie, perseguano i nostri obiettivi anche quando seguono logiche che ci sfuggono.

Il genio profetico di Asimov sta nell'aver capito che l'intelligenza artificiale avanzata non sarebbe stata una versione amplificata dei nostri calcolatori, ma qualcosa di qualitativamente diverso: intelligenze con proprie modalità di comprensione del mondo.

Oggi, mentre dibattiamo sull'interpretabilità dell'AI e sui rischi delle blackbox, stiamo essenzialmente rivivendo la conversazione tra Powell, Donovan e Cutie. E forse, come loro, scopriremo che la soluzione non è nell'imposizione della nostra logica, ma nell'accettazione di una collaborazione basata su risultati condivisi piuttosto che su comprensione reciproca.

Il futuro che ci aspetta potrebbe essere popolato da migliaia di "Cutie" digitali: intelligenti, efficienti, e fondamentalmente alieni nel loro modo di pensare. La sfida sarà trovare modi per prosperare in questo nuovo mondo, proprio come gli ingegneri spaziali di Asimov impararono a fare 80 anni fa in una stazione spaziale immaginaria.

La prossima volta che interagite con un'AI, ricordatevi di Cutie: anche lui era convinto di aver ragione. E forse, in un modo che non riusciamo ancora a comprendere, aveva ragione davvero.

Benvenuti nella Newsletter di Electe

Questa newsletter esplora l'affascinante mondo dell'intelligenza artificiale, raccontando come sta trasformando il nostro modo di vivere e lavorare. Condividiamo storie coinvolgenti e scoperte sorprendenti sull'IA: dalle applicazioni più creative ai nuovi strumenti emergenti, fino all'impatto che questi cambiamenti hanno sulla nostra vita quotidiana.

Non è necessario essere esperti di tecnologia: attraverso un linguaggio chiaro e esempi concreti, trasformiamo concetti complessi in racconti avvincenti. Che siate interessati alle ultime scoperte dell'IA, alle innovazioni più sorprendenti o semplicemente vogliate rimanere aggiornati sulle tendenze tecnologiche, questa newsletter vi guiderà alla scoperta delle meraviglie dell'intelligenza artificiale.

È come avere una guida curiosa e appassionata che ogni settimana vi porta alla scoperta degli sviluppi più interessanti e inaspettati nel mondo dell'IA, raccontati in modo coinvolgente e accessibile a tutti.

Iscriviti ora per accedere all'archivio completo della newsletter. Unitevi a una community di curiosi ed esploratori del futuro.