OpenAI, Anthropic y Musk respaldan ralentizar la carrera de la IA

El CEO de Anthropic, Dario Amodei, pidió a las empresas que ralenticen deliberadamente los avances en la IA de frontera. OpenAI y Musk fueron otros dos líderes destacados que respaldaron la idea. Amodei dijo que las capacidades de la IA estaban mejorando más rápido que la capacidad de los investigadores para entenderlas y controlarlas. Planteó la propuesta en un ensayo titulado «Debemos marcar el ritmo de la frontera». Amodei propuso evaluadores independientes dentro de los principales laboratorios de IA. Propuso estándares de seguridad comunes entre los países democráticos. También propuso establecer, con el tiempo, límites internacionales para capacidades peligrosas como la automejora recursiva. Amodei no pidió una paralización total del desarrollo de la IA. Sostuvo que no desarrollar la tecnología podría privar a la humanidad de sus beneficios o poner la IA en manos de potencias autoritarias. Dijo que desarrollarla demasiado rápido sería imprudente.