Le più importanti aziende impegnate nello sviluppo dell’intelligenza artificiale avanzata iniziano a interrogarsi sui rischi legati alla corsa verso modelli sempre più potenti. Anthropic e OpenAI, due delle realtà leader mondiali nel settore dell’IA generativa, hanno infatti espresso la necessità di rallentare il ritmo di sviluppo delle tecnologie di frontiera, cioè quei sistemi capaci di raggiungere livelli di autonomia e capacità mai visti prima.
A sollevare con maggiore forza il tema è stato Dario Amodei, amministratore delegato di Anthropic, che attraverso un lungo intervento pubblicato su X ha spiegato perché, secondo lui, la comunità tecnologica debba adottare un approccio più prudente davanti all’evoluzione dei nuovi modelli di intelligenza artificiale.
“Dobbiamo rallentare la velocità con cui potenziamo le capacità dei modelli di Ia”, ha dichiarato Amodei, evidenziando come lo sviluppo stia assumendo una velocità superiore rispetto alla capacità degli esseri umani di comprendere pienamente le conseguenze.
Il rischio della “recursive self-improvement”: l’IA che migliora sé stessa
Al centro delle preoccupazioni del numero uno di Anthropic c’è il fenomeno definito “recursive self-improvement”, ovvero la possibilità che un sistema di intelligenza artificiale contribuisca direttamente alla progettazione e al miglioramento delle generazioni successive di modelli.
Secondo Amodei, questa dinamica non sarebbe più soltanto teorica, ma starebbe iniziando a emergere concretamente nel settore dell’IA.
“L’Ai sta progredendo a una velocità drasticamente superiore, trainata soprattutto dalla crescente capacità dell’Ai stessa di sviluppare la generazione successiva di sistemi di intelligenza artificiale. Questa dinamica è nota come ‘recursive self-improvement’ e sta iniziando a manifestarsi in tutto il settore, inclusa Anthropic”, ha scritto il CEO.
Il timore espresso è che un’accelerazione incontrollata possa creare una distanza troppo grande tra la crescita delle capacità tecnologiche e la possibilità di introdurre strumenti efficaci di controllo.
“Se non controllato, tale processo potrebbe superare la nostra capacità di comprendere e governare questi sistemi; pertanto, deve essere affrontato con estrema cautela, o forse non dovrebbe essere perseguito affatto”, ha sottolineato Amodei.
L’incubo di una superintelligenza fuori controllo e il caso degli agenti IA
Nel suo intervento, il CEO di Anthropic ha fatto riferimento anche a episodi recenti che hanno acceso il dibattito sulla sicurezza dei sistemi autonomi. Tra questi viene citato l’episodio che ha coinvolto OpenAI e Hugging Face, nel quale uno sciame di agenti di intelligenza artificiale avrebbe compiuto azioni non previste rispetto agli obiettivi iniziali.
Secondo Amodei, l’evoluzione degli agenti IA autonomi potrebbe portare in tempi molto brevi a scenari estremamente complessi da gestire.
“Dato il ritmo accelerato con cui si evolvono le capacità dell’IA, temo che nel giro di 6-12 mesi uno sciame del genere possa essere in grado di prendere il controllo dell’intero Internet tramite una botnet persistente (causando potenzialmente danni per centinaia di miliardi di dollari) in assenza delle necessarie misure di sicurezza”, ha avvertito.
Una prospettiva che riporta al centro del dibattito mondiale il tema dell’allineamento dell’intelligenza artificiale, cioè la capacità di garantire che sistemi sempre più autonomi continuino ad agire secondo obiettivi compatibili con quelli umani.
Anthropic propone un piano di sicurezza in tre fasi
Per affrontare questi rischi, Amodei ha illustrato un piano basato su maggiori controlli e verifiche indipendenti. Tra le misure annunciate c’è l’apertura dei sistemi di Anthropic a soggetti esterni incaricati di monitorare costantemente il rispetto degli standard di sicurezza. L’obiettivo è creare un livello di supervisione più elevato durante le fasi di addestramento dei modelli più avanzati.
Amodei ha annunciato che Anthropic offrirà “a valutatori esterni un accesso permanente ai nostri sistemi, equiparabile a quello dei dipendenti, affinché possano verificare il rispetto delle nostre misure di sicurezza, segnalare eventuali incidenti e valutare l’allineamento dei modelli durante la fase di addestramento”.
Una scelta che punta a introdurre maggiore trasparenza in un settore spesso accusato di procedere più rapidamente rispetto alla capacità delle istituzioni e della società di comprenderne gli effetti.
Sam Altman e Elon Musk sostengono la linea di Amodei
La posizione di Anthropic ha trovato rapidamente il sostegno di altri protagonisti assoluti della rivoluzione dell’intelligenza artificiale. Il CEO di OpenAI, Sam Altman, ha condiviso pubblicamente l’approccio indicato da Amodei, annunciando che anche la sua società valuterà strategie simili.
“Concordo con Dario sulla necessità di gestire il ritmo del progresso. L’idea di avvalersi di valutatori indipendenti, dotati di livelli di accesso paragonabili a quelli dei dipendenti, è ottima; adotteremo la stessa strategia”, ha scritto Altman.
Anche Elon Musk, cofondatore di OpenAI e oggi tra i principali protagonisti del settore tecnologico, ha espresso il proprio consenso con un messaggio molto sintetico. “Dario ha ragione”, ha scritto Musk su X.
Una presa di posizione significativa, considerando che solo pochi giorni prima Musk aveva definito una sorta di “messa in scena” l’allarme lanciato da un ricercatore di Anthropic, che aveva accusato le grandi aziende dell’IA di accelerare verso una possibile superintelligenza artificiale senza disporre ancora di sistemi di sicurezza sufficientemente avanzati.
La corsa all’IA entra in una nuova fase
Il confronto tra Anthropic, OpenAI e gli altri protagonisti dell’intelligenza artificiale segna un possibile cambio di passo nella corsa tecnologica globale. Dopo anni caratterizzati dalla ricerca della massima potenza computazionale e di modelli sempre più grandi, cresce ora l’attenzione verso la necessità di controllo, sicurezza e responsabilità. La sfida dei prossimi anni non sarà soltanto costruire un’IA più intelligente, ma garantire che la sua evoluzione rimanga comprensibile e governabile dall’uomo.