Anthropic elige a Accenture como primer evaluador integrado de IA

Anthropic dijo que ha elegido a Accenture y a su división de IA Faculty como su primer evaluador integrado para ayudar a ralentizar el desarrollo de la IA en el marco de una propuesta de tres pasos publicada por su CEO, Dario Amodei, el 12 de septiembre. La asociación incluirá la evaluación de modelos y pruebas de red teaming, la realización de evaluaciones de alineación y la comprobación de las salvaguardas de los modelos. Anthropic ya se había comprometido unilateralmente a contar con evaluadores independientes con un acceso similar al de los empleados. La empresa dijo que los detalles sobre cómo funcionará el acuerdo todavía se están desarrollando porque la evaluación integrada es un campo nuevo. Según el anuncio, Anthropic y Accenture prevén invertir cada una al menos $1.000 millones en el proyecto durante los próximos cinco años. Anthropic dijo que no existe un sistema para financiar la evaluación independiente y que la financiación a largo plazo debería proceder de fondos mancomunados o de fuentes gubernamentales. Financiará directamente el trabajo de Accenture debido a la urgencia de la iniciativa. La asociación no es exclusiva, y Anthropic prevé anunciar otros evaluadores en las próximas semanas. La propuesta de Amodei advertía de que un desarrollo rápido y sin controles de la IA podría superar la capacidad de comprender y controlar los sistemas. El CEO de OpenAI, Sam Altman, y el CEO de SpaceX, Elon Musk, respondieron favorablemente a la propuesta, mientras que el CEO de Nvidia, Jensen Huang, sostuvo que esa regulación no era necesaria. La presidenta y CEO de Accenture, Julie Sweet, dijo que la evaluación integrada es un área emergente y que la empresa la consideraba una parte importante del futuro panorama de la seguridad. Accenture dijo que Faculty tiene experiencia en probar y evaluar modelos para importantes laboratorios de IA y en construir sistemas complejos de IA diseñados para ser seguros y éticos.