Anthropic tente de résoudre un problème central de la gouvernance de l’IA : comment une entreprise qui développe des systèmes toujours plus puissants peut-elle contrôler ses propres affirmations en matière de sécurité sans renoncer au contrôle de sa technologie ?

La réponse est un partenariat inhabituel de cinq ans avec Accenture, qui deviendra le premier « évaluateur intégré » d’Anthropic. Cet accord donne aux évaluateurs un accès comparable à celui d’employés au processus de développement de l’entreprise — leur permettant d’observer l’entraînement, d’examiner les décisions de déploiement, de tester les garde-fous et de signaler les incidents. Anthropic affirme que le partenariat n’est pas exclusif et que d’autres évaluateurs suivront. ¹

Le récit conservateur présente principalement l’accord comme un nouveau mécanisme de contrôle, tout en soulignant qu’Anthropic reste responsable de ses modèles. L’entreprise affirme que les évaluateurs intégrés peuvent « vérifier qu’elle respecte ses engagements en matière de sécurité » et identifier les angles morts, mais qu’ils « ne réduisent pas notre responsabilité ». ¹ Cette présentation met l’accent sur la transparence sans laisser entendre que le contrôle extérieur transfère la responsabilité juridique du développeur.

Le récit libéral inscrit l’accord dans un débat politique et industriel plus large sur la question de savoir s’il faudrait ralentir le développement de l’IA. Il décrit le partenariat comme la première mise en œuvre concrète de la proposition du PDG Dario Amodei et note qu’Anthropic et Accenture prévoient d’investir au moins 1 milliard de dollars dans le développement des capacités d’évaluation sur cinq ans. Anthropic financera toutefois directement Accenture pour le moment, tout en affirmant que le financement à long terme devrait provenir de sources mutualisées ou publiques. ²

Les deux points de vue s’accordent à dire que le modèle est expérimental et qu’Anthropic cherche d’autres partenaires, notamment l’organisation à but non lucratif METR. Ils diffèrent par leur accent : l’un met en avant une mesure de sécurité volontaire prise par l’entreprise, tandis que l’autre souligne le problème non résolu de l’indépendance. Un évaluateur payé par l’entreprise peut voir davantage de choses qu’un auditeur externe — mais son accès, ses incitations et son autorité détermineront si le contrôle intégré devient une véritable responsabilisation ou simplement un exercice de confiance plus sophistiqué.

Anthropic s’associe à l’entreprise informatique Accenture pour évaluer les modèles d’IA de pointe — « Les évaluateurs indépendants intégrés ne réduisent pas notre responsabilité, mais contribuent à la rendre plus vérifiable. »

Anthropic choisit Accenture comme premier évaluateur intégré pour contribuer à la mise en œuvre de la proposition de ralentissement d’Amodei — « À long terme, nous pensons que le financement devrait provenir de sources mutualisées ou publiques. »