Negli ultimi giorni la narrazione sull’intelligenza artificiale ha raggiunto un nuovo livello.
Prima sono arrivate le dichiarazioni apocalittiche: l’AI potrebbe diventare incontrollabile, sviluppare capacità di auto-miglioramento e, nel peggiore degli scenari, rappresentare un rischio esistenziale per l’umanità.
Poi è arrivato il nuovo report di Anthropic in cui l’azienda racconta di aver individuato e interrotto operazioni nelle quali Claude sarebbe stato utilizzato per attività di cyberwarfare, sorveglianza, sviluppo di software per armi convenzionali, intelligence militare e attività potenzialmente legate alla ricerca biologica pericolosa. In alcuni casi Claude avrebbe permesso di svolgere attività che fino a poco tempo fa avrebbero richiesto competenze altamente specialistiche.
Il report è interessante anche per un altro motivo: è Anthropic stessa a raccontarcelo.
«Guardate quanto è potente il nostro modello»
Anthropic sostiene di pubblicare questi report perché ha la responsabilità di rendere pubblico il modo in cui i propri modelli vengono utilizzati dagli attaccanti, migliorare le proprie difese e condividere informazioni con autorità e altri operatori del settore.
Ogni volta che un’azienda racconta che il proprio modello è stato utilizzato per fare qualcosa di estremamente sofisticato, sta contemporaneamente denunciando una minaccia e dimostrando la potenza della propria tecnologia.
«Guardate cosa è successo.»
Ma implicitamente anche:
«Guardate cosa è in grado di fare il nostro modello.»
Una forma di autocelebrazione della propria tecnologia che permette a operatori non necessariamente altamente specializzati di portare avanti operazioni che in passato avrebbero richiesto team di esperti.
Anthropic stessa scrive che l’AI sta riducendo il divario di competenze e strumenti che separava gli operatori comuni dalle operazioni sponsorizzate da Stati.
Ma quindi, dove finisce il report di sicurezza e dove comincia il marketing della capacità?
C’è di mezzo anche la politica
I nquesti giorni negli Stati Uniti si discute di introdurre obblighi specifici per i sistemi più avanzati, compresi test governativi e una sorta di duty of care per impedire che i modelli facilitino rischi catastrofici. Una proposta ancora in discussione potrebbe persino consentire al governo di bloccare il rilascio di determinati modelli considerati non sicuri.
Ma contemporaneamente esiste anche una forte pressione politica per non rallentare l’AI, soprattutto per ragioni di competizione strategica con la Cina. Il presidente della Camera Mike Johnson ha appena escluso l’ipotesi di una moratoria, sostenendo che fermare lo sviluppo significherebbe perdere vantaggio competitivo.
Ed è qui che la faccenda diventa quasi paradossale.
Da una parte:
«Questa tecnologia potrebbe diventare estremamente pericolosa.»
Dall’altra:
«Non possiamo permetterci di rallentarla.»
Quale AI stiamo regolamentando?
L’AI che utilizziamo noi è davvero la stessa AI che stanno sviluppando le aziende ai vertici della corsa tecnologica?
Livelli di accesso, capacità, infrastrutture e modelli non sono necessariamente uguali per tutti: Il pubblico utilizza prodotti commerciali, mentre le aziende hanno accesso a modelli e API molto più sofisticati. I grandi laboratori possiedono sistemi ancora in fase di sviluppo.
E poi ci sono governi, apparati militari, intelligence, grandi aziende e soggetti con enormi risorse computazionali.
Chi avrà accesso alle versioni più potenti?
Il report di Anthropic, per esempio, racconta casi di abuso di Claude proprio perché l’azienda è in grado di individuare, analizzare e bloccare determinati comportamenti. Ma questo significa anche che il produttore diventa inevitabilmente una sorta di guardiano della propria tecnologia.
Chi costruisce il problema costruisce anche il regolatore
C’è un vecchio principio della sicurezza informatica:
chi conosce meglio un attacco è spesso anche chi sa meglio come difendersi da quell’attacco.
L’analogia più semplice è quella dell’hacker che diventa esperto di sicurezza.
Chi conosce profondamente una vulnerabilità può essere tra i soggetti più adatti a costruire l’antivirus.
Con l’AI sta succedendo qualcosa di simile.
Le aziende che sviluppano i modelli stanno costruendo anche:
- sistemi di classificazione;
- filtri;
- monitoraggio;
- red team;
- sistemi di rilevamento degli abusi;
- valutazioni delle capacità;
- meccanismi di blocco;
- procedure per individuare comportamenti pericolosi.
Anthropic, per esempio, dice esplicitamente di utilizzare ciò che scopre nelle operazioni criminali per migliorare i propri sistemi di sicurezza e introdurre nuovi classificatori capaci di individuare richieste legate allo sviluppo di armi.
Quindi la stessa azienda diventa contemporaneamente:
produttore, ricercatore, controllore, investigatore e regolatore tecnico.
E questa concentrazione di funzioni è forse una delle questioni più interessanti dell’intera storia.
E poi c’è Wall Street
C’è infine un altro elemento che rende questa narrazione ancora più interessante: il mercato.
Il 14 settembre, dopo una serie di dichiarazioni pubbliche sui rischi dell’AI e sulla necessità di rallentarne lo sviluppo, l’indice dei semiconduttori di Philadelphia è arrivato a perdere il 5,2%. Nvidia ha perso circa il 3%, AMD il 4,5% e Micron il 5,4%. In Europa, il settore tecnologico è sceso del 2,2%.
Forse questo ribasso non è stato causato esclusivamente dalle dichiarazioni sull’AI, ma la reazione del settore AI alle notizie sul possibile rallentamento è stata evidente.
Se il mercato ha incorporato nelle valutazioni l’idea che l’AI continuerà a crescere rapidamente, qualsiasi notizia che suggerisca un rallentamento può modificare quelle aspettative.
E quindi succede una cosa quasi surreale:
la paura dell’AI diventa una variabile finanziaria.
Una dichiarazione sulla possibilità che l’AI possa diventare incontrollabile può contemporaneamente:
- aumentare la percezione del rischio;
- alimentare la richiesta di regolamentazione;
- mettere in discussione la velocità degli investimenti;
- far scendere i titoli legati all’AI;
- e, paradossalmente, rafforzare la narrazione secondo cui quelle aziende possiedono una tecnologia straordinariamente potente.
Il problema è che l’AI costa una quantità enorme di soldi
E arriviamo all’ultimo pezzo del puzzle.
La corsa all’AI richiede data center, chip, energia, reti, capitale e infrastrutture gigantesche. Il BIS ha stimato che i cinque principali gruppi tecnologici globali investiranno oltre 1.000 miliardi di dollari nell’AI tra il 2025 e il 2026, mentre l’investimento globale potrebbe arrivare a circa 4.000 miliardi entro il 2030. Allo stesso tempo, una parte crescente del boom viene finanziata attraverso strutture di debito e il mancato raggiungimento dei profitti attesi potrebbe creare un enorme buco.
E le aziende AI hanno bisogno di quantità enormi di capitale per sostenere questa corsa.
Anthropic, per esempio, ha ottenuto un impegno da 35 miliardi di dollari per espandere la propria capacità di calcolo, mentre i fondi di private equity sono diventati una fonte sempre più importante di finanziamento per l’infrastruttura AI.
A questo punto mi viene una domanda forse ancora più scomoda.
E se una parte del valore futuro di queste aziende dipendesse anche dalla loro capacità di diventare i regolatori della tecnologia che stanno costruendo?
Più l’AI diventa potente, più aumenta il rischio.
Più aumenta il rischio, più servono sistemi di sicurezza.
E chi conosce meglio quei sistemi di sicurezza?
Le stesse aziende che hanno costruito i modelli.
La paura come prodotto
La paura della sua pericolosità sta diventando parte integrante dell’industria dell’AI.
Quando chi costruisce una tecnologia è anche chi ci avverte che quella stessa tecnologia potrebbe diventare troppo potente per essere controllata, dobbiamo ascoltare l’avvertimento. Ma dovremmo anche chiederci perché quella narrazione viene raccontata e a chi conviene.
Chi controllerà chi controlla l’AI?
Fonti:
Anthropic: report su l’uso criminale di Claude
Anthropic: Threat intelligence
Anthropic: capacità in intelligence e armi convenzionali
CNN: Jacob Coxon e il rischio esistenziale
Reuters: crollo dei titoli AI dopo gli avvertimenti
