Anthropic wählt Accenture als ersten eingebetteten KI-Evaluierer

Anthropic teilte mit, Accenture und dessen KI-Sparte Faculty als ersten eingebetteten Evaluierer ausgewählt zu haben, um die KI-Entwicklung im Rahmen eines am 12. September von CEO Dario Amodei veröffentlichten dreistufigen Vorschlags zu verlangsamen. Die Partnerschaft wird die Bewertung und das Red-Teaming von Modellen, die Durchführung von Alignment-Bewertungen sowie das Testen von Schutzmechanismen der Modelle umfassen. Anthropic hatte sich bereits einseitig dazu verpflichtet, unabhängigen Evaluierern Zugang ähnlich dem von Mitarbeitern zu gewähren. Wie die Vereinbarung genau funktionieren wird, werde noch ausgearbeitet, da die eingebettete Evaluierung ein neues Gebiet sei, erklärte das Unternehmen. Anthropic und Accenture rechnen der Ankündigung zufolge jeweils damit, in den kommenden fünf Jahren mindestens $1 Milliarde in das Projekt zu investieren. Anthropic erklärte, dass es derzeit kein System zur Finanzierung unabhängiger Evaluierungen gebe und die langfristige Finanzierung aus gemeinsamen oder staatlichen Quellen kommen sollte. Wegen der Dringlichkeit der Initiative werde das Unternehmen Accentures Arbeit direkt finanzieren. Die Partnerschaft ist nicht exklusiv, und Anthropic erwartet, in den kommenden Wochen weitere Evaluierer anzukündigen. Amodeis Vorschlag warnte, dass eine schnelle, unkontrollierte KI-Entwicklung die Fähigkeit übersteigen könnte, die Systeme zu verstehen und zu kontrollieren. OpenAI-CEO Sam Altman und SpaceX-CEO Elon Musk reagierten positiv auf den Vorschlag, während Nvidia-CEO Jensen Huang argumentierte, eine solche Regulierung sei nicht notwendig. Die Vorsitzende und CEO von Accenture, Julie Sweet, erklärte, die eingebettete Evaluierung sei ein aufstrebender Bereich und das Unternehmen betrachte sie als wichtigen Bestandteil der künftigen Sicherheitslandschaft. Accenture teilte mit, Faculty verfüge über Erfahrung beim Testen und Bewerten von Modellen für führende KI-Labore sowie beim Aufbau komplexer KI-Systeme, die sicher und ethisch konzipiert seien.