Anthropic versucht, ein zentrales Problem der KI-Governance zu lösen: Wie kann ein Unternehmen, das zunehmend leistungsfähigere Systeme entwickelt, seine eigenen Sicherheitsversprechen überprüfen, ohne die Kontrolle über seine Technologie abzugeben?

Die Antwort ist eine ungewöhnliche fünfjährige Partnerschaft mit Accenture, das Anthropics erster „eingebetteter Prüfer“ werden soll. Die Vereinbarung gewährt den Prüfern einen mitarbeiterähnlichen Zugang zum Entwicklungsprozess des Unternehmens – und ermöglicht es ihnen, das Training zu beobachten, Einsatzentscheidungen zu untersuchen, Schutzvorkehrungen zu testen und Vorfälle zu melden. Anthropic erklärt, die Partnerschaft sei nicht exklusiv und weitere Prüfer würden folgen. ¹

Die konservative Darstellung präsentiert die Vereinbarung vor allem als einen neuen Aufsichtsmechanismus und betont zugleich, dass Anthropic für seine Modelle verantwortlich bleibt. Das Unternehmen erklärt, eingebettete Prüfer könnten „überprüfen, ob das Unternehmen seine Sicherheitszusagen einhält“ und blinde Flecken erkennen, würden aber „unsere Verantwortlichkeit nicht verringern“. ¹ Diese Darstellung betont Transparenz, ohne anzudeuten, dass eine externe Prüfung die Haftung vom Entwickler wegverlagert.

Die liberale Darstellung ordnet die Vereinbarung in eine breitere politische und brancheninterne Debatte darüber ein, ob die Entwicklung von KI verlangsamt werden sollte. Sie beschreibt die Partnerschaft als erste konkrete Umsetzung des Vorschlags von CEO Dario Amodei und weist darauf hin, dass Anthropic und Accenture über fünf Jahre mindestens 1 Milliarde US-Dollar in den Aufbau von Evaluierungskapazitäten investieren wollen. Anthropic wird Accenture vorerst jedoch direkt finanzieren und erklärt zugleich, dass die langfristige Finanzierung aus gebündelten oder staatlichen Quellen kommen sollte. ²

Beide Perspektiven stimmen darin überein, dass das Modell experimentell ist und Anthropic weitere Partner sucht, darunter die gemeinnützige Organisation METR. Sie setzen unterschiedliche Schwerpunkte: Die eine hebt eine freiwillige unternehmerische Schutzvorkehrung hervor, während die andere das ungelöste Problem der Unabhängigkeit betont. Ein von einem Unternehmen bezahlter Prüfer sieht möglicherweise mehr als ein externer Wirtschaftsprüfer – doch sein Zugang, seine Anreize und seine Befugnisse werden bestimmen, ob eingebettete Aufsicht zu einer bedeutsamen Rechenschaftspflicht oder lediglich zu einer ausgefeilteren Vertrauensübung wird.

Anthropic arbeitet mit dem IT-Unternehmen Accenture zusammen, um wegweisende KI-Modelle zu evaluieren — „Unabhängige eingebettete Prüfer verringern unsere Verantwortlichkeit nicht, sondern tragen dazu bei, sie besser überprüfbar zu machen.“

Anthropic wählt Accenture als ersten eingebetteten Prüfer zur Unterstützung bei der Umsetzung von Amodeis Vorschlag zur Verlangsamung — „Langfristig sind wir der Ansicht, dass die Finanzierung aus gebündelten oder staatlichen Quellen kommen sollte.“