Anthropic affida ad Accenture il ruolo di valutatore integrato

Anthropic ha annunciato di aver scelto Accenture come primo partner per la funzione di valutazione incorporata, un passo concreto verso il rallentamento controllato dello sviluppo dell’IA proposto la scorsa settimana dal CEO Dario Amodei.

Nel suo piano in tre fasi pubblicato il 12 settembre, Dario Amodei chiedeva di mettere in atto misure che consentano di introdurre garanzie e valutazioni indipendenti, alla luce dei rischi potenziali derivanti da uno sviluppo rapido e non regolato dei sistemi di intelligenza artificiale.

Dario Amodei ha scritto:

“L’IA sta progredendo a velocità drasticamente superiore, trainata in larga parte dalla crescente capacità dell’IA stessa di costruire la generazione successiva di IA. Questa dinamica è chiamata auto-miglioramento ricorsivo, e, se lasciata senza controllo, potrebbe superare la nostra capacità di comprendere e controllare questi sistemi.”

La proposta di Amodei ha ricevuto il sostegno pubblico di figure come Sam Altman e Elon Musk, mentre il CEO di Nvidia, Jensen Huang, ha espresso contrarietà, ritenendo che una regolamentazione di questo tipo non fosse necessaria.

La partnership

Secondo l’annuncio, Anthropic collaborerà con la divisione Faculty di Accenture per svolgere attività di valutazione e di “red-teaming” sui modelli, per condurre assessment di allineamento e per testare le misure di salvaguardia implementate sui sistemi di intelligenza artificiale.

Il concetto di valutatore incorporato prevede che valutatori esterni possano operare con un livello di accesso simile a quello dei dipendenti, in modo da esaminare i modelli e i processi progettuali dall’interno. Anthropic aveva già espresso unilateralmente l’impegno a sperimentare questa forma di valutazione e ora formalizza la prima collaborazione.

Entrambe le società prevedono di impegnare risorse rilevanti: secondo quanto comunicato, Anthropic e Accenture intendono investire almeno un miliardo di dollari ciascuna nel progetto nei prossimi cinque anni, sebbene i dettagli operativi rimangano ancora da definire, dato che la pratica è innovativa.

Finanziamento e governance

Anthropic ha osservato che oggi non esiste un meccanismo strutturato per finanziare valutazioni indipendenti a lungo termine e che, idealmente, tali attività dovrebbero essere sostenute da fondi comuni o da risorse pubbliche. Tuttavia, viste le urgenze percepite, la società coprirà in prima battuta i costi delle attività affidate a Accenture.

La collaborazione è stata definita non esclusiva: Anthropic ha annunciato l’intenzione di coinvolgere altri valutatori nelle settimane successive, ampliando così la rete di soggetti indipendenti chiamati a verificare modelli e controlli.

Dal punto di vista della governance, l’adozione di valutatori con accesso interno solleva questioni relative alla riservatezza, alla responsabilità legale e agli standard comuni di audit. La definizione di protocolli condivisi tra aziende private e potenziali enti regolatori sarà cruciale per garantire efficacia e trasparenza.

Contesto normativo e implicazioni

La mossa di Anthropic arriva in un momento in cui l’Unione Europea sta completando il quadro regolatorio sull’intelligenza artificiale e in cui autorità nazionali e internazionali richiedono maggiore supervisione sui sistemi ad alto impatto. Per i policy maker europei questa iniziativa può rappresentare un esempio pratico di collaborazione pubblico-privato per testare modelli di controllo più stretti.

Per il settore privato, l’introduzione di valutatori incorporati e di requisiti di verifica più stringenti implica costi aggiuntivi e possibili ritardi nei cicli di sviluppo, ma offre anche una maggiore prevedibilità normativa e una potenziale riduzione dei rischi reputazionali e legali.

Julie Sweet, presidente e CEO di Accenture, ha dichiarato:

“La valutazione incorporata è un ambito emergente e siamo pronti a collaborare con Anthropic per accelerarne lo sviluppo; riteniamo che questi valutatori rappresentino una componente importante del panorama della sicurezza in futuro.”

Questa tipologia di attività può altresì creare opportunità per società di consulenza e per fornitori di servizi tecnici che supportano la conformità e la robustezza dei sistemi, ridefinendo i ruoli e le competenze richieste nel mercato del lavoro tecnologico.

Prospettive per investitori e mercato

L’annuncio segnala che i principali attori stanno internalizzando costi di controllo e creando infrastrutture per la verifica indipendente dei modelli: per gli investitori questo può tradursi in un aumento della capitalizzazione di aziende che offrono soluzioni di sicurezza, audit e conformità, mentre le startup prive di risorse potrebbero incontrare maggiori difficoltà di accesso al mercato.

Per il tessuto imprenditoriale italiano e europeo, partecipare a queste catene del valore significa sviluppare competenze specialistiche e attrarre capitale formale e pubblico destinato a progetti di ricerca e standardizzazione.

Prossimi passi

Nei prossimi mesi sarà importante seguire la pubblicazione dei protocolli operativi, i criteri di accesso e le metriche di valutazione adottate dai valutatori incorporati, così come eventuali iniziative normative che traducano questi esperimenti in requisiti obbligatori.

La trasparenza dei processi, la definizione di standard condivisi e la partecipazione di soggetti pubblici per il cofinanziamento rimangono elementi determinanti per trasformare l’esperimento in una pratica sostenibile e affidabile sul piano internazionale.

In sintesi

• L’investimento congiunto di grandi aziende per la valutazione incorporata suggerisce che i costi di compliance aumenteranno, favorendo chi fornisce soluzioni di sicurezza e audit e penalizzando i player meno capitalizzati.
• Per gli investitori italiani, la creazione di mercati per servizi di verifica dell’IA indica opportunità in società di consulenza, cybersecurity e formazione specializzata.
• La cooperazione tra aziende private e valutatori indipendenti potrebbe influenzare positivamente l’adozione di standard normativi europei, riducendo l’incertezza regolatoria nel medio termine.