Anthropic пытается решить центральную проблему управления ИИ: как компании, разрабатывающей всё более мощные системы, контролировать собственные заявления о безопасности, не отказываясь от контроля над своей технологией?

Ответом стало необычное пятилетнее партнёрство с Accenture, которая станет первым «встроенным оценщиком» Anthropic. Такая договорённость предоставляет оценщикам доступ к процессу разработки компании на уровне сотрудников — позволяя им наблюдать за обучением, изучать решения о развёртывании, тестировать меры защиты и сообщать об инцидентах. Anthropic заявляет, что партнёрство не является эксклюзивным и что за ним последуют другие оценщики. ¹

Консервативная трактовка представляет эту сделку прежде всего как новый механизм надзора, подчёркивая при этом, что Anthropic сохраняет ответственность за свои модели. Компания заявляет, что встроенные оценщики могут «проверить, выполняет ли она свои обязательства по безопасности» и выявить слепые зоны, но «не снижают нашей ответственности». ¹ Такая формулировка подчёркивает прозрачность, не подразумевая, что внешний контроль переносит ответственность с разработчика.

Либеральная трактовка помещает соглашение в более широкий политический и отраслевой спор о том, следует ли замедлить развитие ИИ. В ней партнёрство описывается как первая конкретная реализация предложения генерального директора Дарио Амодеи, а также отмечается, что Anthropic и Accenture планируют инвестировать не менее 1 миллиарда долларов в создание потенциала для оценки в течение пяти лет. Однако пока Anthropic будет напрямую финансировать Accenture, заявляя при этом, что долгосрочное финансирование должно поступать из объединённых или государственных источников. ²

Обе точки зрения сходятся в том, что эта модель носит экспериментальный характер и что Anthropic ищет дополнительных партнёров, включая некоммерческую организацию METR. Различаются они акцентами: одна подчёркивает добровольную корпоративную меру защиты, тогда как другая обращает внимание на нерешённую проблему независимости. Оценщик, оплачиваемый компанией, может видеть больше, чем внешний аудитор, — но именно его доступ, стимулы и полномочия определят, станет ли встроенный надзор содержательной подотчётностью или всего лишь более изощрённой проверкой доверия.

Anthropic заключает партнёрство с IT-компанией Accenture для оценки передовых моделей ИИ — «Независимые встроенные оценщики не снижают нашей ответственности, но помогают сделать её более проверяемой».

Anthropic выбирает Accenture в качестве первого встроенного оценщика для содействия реализации предложения Амодеи о замедлении — «В долгосрочной перспективе мы считаем, что финансирование должно поступать из объединённых или государственных источников».