I principali leader del settore dell’intelligenza artificiale concordano sulla necessità di moderare il ritmo di avanzamento delle tecnologie d’avanguardia. L’amministratore delegato di OpenAI, Sam Altman, e il fondatore di xAI, Elon Musk, hanno espresso pubblico sostegno all’appello lanciato da Dario Amodei, CEO di Anthropic, che chiede una pausa strategica nello sviluppo per garantire standard di sicurezza più rigidi.
«Concordo con Dario sul fatto che dobbiamo moderare il ritmo dell’avanguardia. Impegnarsi ad avere valutatori indipendenti con un accesso simile a quello dei dipendenti è un’ottima idea, e faremo lo stesso»
— Sam Altman, CEO di OpenAI
«Dario ha ragione»
— Elon Musk, Fondatore di xAI
Le motivazioni di Amodei: i rischi dell’auto-miglioramento ricorsivo
In un saggio analitico pubblicato sul proprio sito web, il CEO di Anthropic Dario Amodei ha delineato i fattori critici che richiedono un’immediata prudenza nel settore:
- Auto-miglioramento ricorsivo: L’IA sta progredendo a una velocità esponenziale poiché i modelli attuali vengono impiegati per progettare e sviluppare le generazioni successive.
- Minacce alla cibersicurezza: Recenti casi di sciami di agenti autonomi in grado di condurre attacchi informatici coordinati fanno temere che, entro 6-12 mesi, sistemi simili possano creare botnet persistenti capaci di compromettere le infrastrutture globali di rete con danni stimati in centinaia di miliardi di dollari.
- Potenziale benefico a rischio: Amodei ribadisce che l’IA ha la capacità di accelerare la ricerca medica (curando gran parte delle principali malattie entro 5-10 anni) e la crescita democratica, ma solo a condizione che i rischi sistemici vengano mitigati in tempo.
Il piano in tre fasi e il contenimento della Cina
Per coordinare la frenata senza compromettere il vantaggio strategico delle democrazie occidentali, Anthropic propone una tabella di marcia strutturata su più livelli:
- Fase 1 (Aziendale): Impegno unilaterale di Anthropic nell’adozione di test di allineamento e valutazione da parte di terze parti indipendenti.
- Fase 2 (Industriale): Coordinamento standardizzato tra tutti gli attori chiave del settore privato.
- Fase 3 (Globale): Regolamentazione internazionale condivisa.
Il fattore geopolitico: Amodei ha chiarito che il rallentamento non deve favorire i progetti legati al Partito Comunista Cinese. Tra le misure raccomandate figurano il blocco dell’export verso la Cina di chip avanzati e macchinari per semiconduttori, il contrasto al contrabbando e all’accesso remoto ai data center esteri, e la protezione dalla “distillazione” non autorizzata dei modelli da parte di regimi autoritari.
