A Anthropic está tentando resolver um problema central da governança da IA: como uma empresa que desenvolve sistemas cada vez mais poderosos pode fiscalizar suas próprias alegações de segurança sem abrir mão do controle sobre sua tecnologia?

A resposta é uma parceria incomum de cinco anos com a Accenture, que se tornará o primeiro “avaliador integrado” da Anthropic. O acordo dá aos avaliadores acesso semelhante ao de funcionários ao processo de desenvolvimento da empresa — permitindo que observem o treinamento, examinem decisões de implantação, testem salvaguardas e relatem incidentes. A Anthropic afirma que a parceria não é exclusiva e que outros avaliadores virão. ¹

A perspectiva conservadora apresenta o acordo principalmente como um novo mecanismo de supervisão, ao mesmo tempo em que enfatiza que a Anthropic continua responsável por seus modelos. A empresa afirma que os avaliadores integrados podem “verificar se ela está cumprindo seus compromissos de segurança” e identificar pontos cegos, mas “não reduzem nossa responsabilidade”. ¹ Essa formulação enfatiza a transparência sem sugerir que o escrutínio externo transfira a responsabilidade legal para longe do desenvolvedor.

A perspectiva liberal insere o acordo em um debate político e setorial mais amplo sobre se o desenvolvimento da IA deveria desacelerar. Ela descreve a parceria como a primeira implementação concreta da proposta do CEO Dario Amodei e observa que a Anthropic e a Accenture planejam investir pelo menos US$ 1 bilhão na criação de capacidade de avaliação ao longo de cinco anos. A Anthropic, no entanto, financiará diretamente a Accenture por enquanto, embora afirme que o financiamento de longo prazo deveria vir de fontes conjuntas ou governamentais. ²

Ambas as perspectivas concordam que o modelo é experimental e que a Anthropic está buscando parceiros adicionais, incluindo a organização sem fins lucrativos METR. Elas diferem na ênfase: uma destaca uma salvaguarda corporativa voluntária, enquanto a outra ressalta o problema ainda não resolvido da independência. Um avaliador pago pela empresa pode ver mais do que um auditor externo — mas seu acesso, seus incentivos e sua autoridade determinarão se a supervisão integrada se tornará uma responsabilização significativa ou simplesmente um exercício de confiança mais sofisticado.

Anthropic faz parceria com a empresa de TI Accenture para avaliar modelos de IA de fronteira — “Avaliadores integrados independentes não reduzem nossa responsabilidade, mas ajudam a torná-la mais verificável.”

Anthropic escolhe a Accenture como primeira avaliadora integrada para ajudar a implementar a proposta de desaceleração de Amodei — “No longo prazo, acreditamos que o financiamento deveria vir de fontes conjuntas ou governamentais.”