Anthropic sta cercando di risolvere un problema centrale della governance dell’IA: come può un’azienda che sviluppa sistemi sempre più potenti verificare autonomamente le proprie dichiarazioni sulla sicurezza senza rinunciare al controllo della propria tecnologia?

La risposta è una partnership quinquennale insolita con Accenture, che diventerà il primo “valutatore integrato” di Anthropic. L’accordo garantisce ai valutatori un accesso simile a quello dei dipendenti al processo di sviluppo dell’azienda, consentendo loro di osservare l’addestramento, esaminare le decisioni di implementazione, testare le misure di sicurezza e segnalare gli incidenti. Anthropic afferma che la partnership non è esclusiva e che seguiranno altri valutatori. ¹

La prospettiva conservatrice presenta l’accordo principalmente come un nuovo meccanismo di supervisione, sottolineando al contempo che Anthropic resta responsabile dei propri modelli. L’azienda afferma che i valutatori integrati possono “verificare che stia rispettando i propri impegni sulla sicurezza” e individuare i punti ciechi, ma “non riducono la nostra responsabilità”. ¹ Questa impostazione pone l’accento sulla trasparenza senza suggerire che il controllo esterno trasferisca la responsabilità lontano dallo sviluppatore.

La prospettiva liberale colloca l’accordo in un dibattito politico e industriale più ampio sull’opportunità di rallentare lo sviluppo dell’IA. Descrive la partnership come la prima attuazione concreta della proposta dell’amministratore delegato Dario Amodei e osserva che Anthropic e Accenture prevedono di investire almeno 1 miliardo di dollari nella creazione di capacità di valutazione nell’arco di cinque anni. Per ora, tuttavia, Anthropic finanzierà direttamente Accenture, sostenendo al contempo che i finanziamenti a lungo termine dovrebbero provenire da fonti condivise o governative. ²

Entrambe le prospettive concordano sul fatto che il modello sia sperimentale e che Anthropic stia cercando ulteriori partner, tra cui l’organizzazione non profit METR. Differiscono però nell’enfasi: una mette in evidenza una salvaguardia aziendale volontaria, mentre l’altra sottolinea il problema irrisolto dell’indipendenza. Un valutatore pagato dall’azienda potrebbe vedere più di un revisore esterno, ma il suo accesso, i suoi incentivi e la sua autorità determineranno se la supervisione integrata si tradurrà in una responsabilità effettiva o semplicemente in un esercizio di fiducia più sofisticato.

Anthropic collabora con la società informatica Accenture per valutare i modelli di IA di frontiera — “I valutatori integrati indipendenti non riducono la nostra responsabilità, ma contribuiscono a renderla più verificabile.”

Anthropic sceglie Accenture come primo valutatore integrato per contribuire all’attuazione della proposta di rallentamento di Amodei — “A lungo termine, riteniamo che i finanziamenti dovrebbero provenire da fonti condivise o governative.”