OpenAI, Anthropic e Musk apoiam desacelerar a corrida da IA

O CEO da Anthropic, Dario Amodei, pediu que as empresas desacelerem deliberadamente os avanços na IA de fronteira. OpenAI e Musk foram outros dois líderes proeminentes que apoiaram a ideia. Amodei disse que as capacidades da IA estavam melhorando mais rápido do que a capacidade dos pesquisadores de entendê-las e controlá-las. Ele apresentou a proposta em um ensaio intitulado “Devemos ditar o ritmo da fronteira”. Amodei propôs avaliadores independentes dentro dos principais laboratórios de IA. Propôs padrões comuns de segurança entre os países democráticos. Também propôs limites internacionais futuros para capacidades perigosas, como o autoaperfeiçoamento recursivo. Amodei não pediu uma interrupção total do desenvolvimento da IA. Ele argumentou que não desenvolver a tecnologia poderia privar a humanidade de seus benefícios ou colocar a IA nas mãos de potências autoritárias. Disse que desenvolvê-la rápido demais seria imprudente.