Yuval Noah Harari, storico e filosofo noto per le sue analisi della civiltà umana, è diventato una voce importante nel dibattito sui rischi dell'intelligenza artificiale. Nel suo libro "Nexus" e nei suoi discorsi pubblici, come quello alle Nazioni Unite nel 2023, Harari sostiene che l'IA minacci le istituzioni democratiche, l'intimità umana e la ricerca collettiva della verità. Ma quanto sono fondate queste preoccupazioni?

Harari paragona spesso l'IA alla stampa, notando come entrambe le tecnologie abbiano inizialmente destabilizzato la società. Ricorda come la stampa abbia facilitato la diffusione di testi come il "Malleus Maleficarum", alimentando la caccia alle streghe, analogamente a come l'IA potrebbe diffondere ideologie dannose.

Questo paragone, però, trascura una differenza fondamentale: mentre l'impatto della stampa si è sviluppato nell'arco di secoli, l'integrazione dell'IA nella società avviene a velocità senza precedenti. Inoltre, oggi esistono già risposte istituzionali rapide, come il recente AI Act dell'Unione Europea.

Una critica importante all'analisi di Harari riguarda la tendenza ad antropomorfizzare l'intelligenza artificiale. Quando parla di sistemi che "formano relazioni intime" per manipolare le nostre credenze o "creano culture e religioni", Harari attribuisce intenzionalità a strumenti che in realtà si limitano a ottimizzare modelli nei dati di addestramento.

I problemi legati agli algoritmi dei social media, per esempio, non derivano dal fatto che l'IA abbia "scoperto" la nostra suscettibilità all'indignazione, ma dalle scelte delle aziende che necessariamente rispondono a logiche di mercato.

Harari propone un ente regolatore per l'IA simile alla Food and Drug Administration americana, che richieda test di sicurezza prima del rilascio pubblico. Sebbene l'idea sia intuitivamente valida, presenta dei limiti:

Nelle sue narrazioni distopiche, Harari dipinge spesso società che soccombono passivamente alle illusioni guidate dall'IA. Teme che gli umani possano "fidarsi di queste tecnologie divine come infallibili", erodendo il pensiero critico.

Questa visione sottostima l'adattabilità umana. Gli studi mostrano che i programmi di alfabetizzazione mediatica migliorano significativamente lo scetticismo verso la disinformazione, suggerendo che l'educazione, non solo la regolamentazione, potrebbe contrastare i rischi dell'IA.

Un limite significativo nell'analisi di Harari sta nella sua visione binaria delle dinamiche che guidano lo sviluppo dell'IA. Anziché esplorare l'ecosistema complesso in cui la tecnologia evolve, tende a isolare l'IA come variabile indipendente dal contesto economico.

Gli incentivi di mercato non sono intrinsecamente problematici, ma plasmano inevitabilmente come l'IA viene sviluppata e implementata. Le aziende tecnologiche rispondono a segnali di mercato che premiano la velocità di implementazione e la crescita dell'engagement, non necessariamente la prudenza o il valore sociale a lungo termine.

Il caso di OpenAI illustra questa tensione: la transizione da organizzazione no-profit a entità con componente commerciale non rappresenta un "cedimento" morale, ma un riconoscimento pragmatico che l'innovazione richiede risorse monetarie significative.

Una prospettiva più equilibrata riconoscerebbe che né la demonizzazione della tecnologia né quella del sistema economico offrono soluzioni concrete.

Le critiche di Harari forniscono importanti moniti, ma soffrono di un pensiero deterministico. Presentando l'IA come una minaccia esistenziale, rischia di promuovere politiche reazionarie che soffocano l'innovazione.

La storia ci ricorda che le più grandi sfide dell'umanità hanno stimolato le innovazioni più profonde. Mentre ascoltiamo gli avvertimenti di Harari, non dobbiamo escludere la possibilità di un futuro in cui l'IA amplifichi l'ingegno umano anziché sovvertirlo.

Ps. A me il libro comunque è piaciuto. Il discorso storico è comunque interessante, mentre le potenziali minacce dell’AI presentate nel libro (non sono quelle reali!) piaceranno agli appassionati di fantascienza.

Benvenuti nella Newsletter di Electe

Questa newsletter esplora l'affascinante mondo dell'intelligenza artificiale, raccontando come sta trasformando il nostro modo di vivere e lavorare. Condividiamo storie coinvolgenti e scoperte sorprendenti sull'IA: dalle applicazioni più creative ai nuovi strumenti emergenti, fino all'impatto che questi cambiamenti hanno sulla nostra vita quotidiana.

Non è necessario essere esperti di tecnologia: attraverso un linguaggio chiaro e esempi concreti, trasformiamo concetti complessi in racconti avvincenti. Che siate interessati alle ultime scoperte dell'IA, alle innovazioni più sorprendenti o semplicemente vogliate rimanere aggiornati sulle tendenze tecnologiche, questa newsletter vi guiderà alla scoperta delle meraviglie dell'intelligenza artificiale.

È come avere una guida curiosa e appassionata che ogni settimana vi porta alla scoperta degli sviluppi più interessanti e inaspettati nel mondo dell'IA, raccontati in modo coinvolgente e accessibile a tutti.

Iscriviti ora per accedere all'archivio completo della newsletter. Unitevi a una community di curiosi ed esploratori del futuro.