OpenAI, Anthropic, dan Musk dukung perlambatan perlombaan AI

CEO Anthropic Dario Amodei menyerukan agar perusahaan sengaja memperlambat kemajuan AI frontier. OpenAI dan Musk termasuk dua pemimpin terkemuka lainnya yang mendukung gagasan tersebut. Amodei mengatakan kemampuan AI berkembang lebih cepat daripada kemampuan para peneliti untuk memahami dan mengendalikannya. Ia menyampaikan usulan itu dalam esai berjudul "Kita Harus Mengatur Laju Frontier." Amodei mengusulkan evaluator independen di dalam laboratorium AI terkemuka. Ia mengusulkan standar keselamatan bersama di antara negara-negara demokratis. Ia juga mengusulkan pembatasan internasional pada akhirnya terhadap kemampuan berbahaya, seperti perbaikan diri rekursif. Amodei tidak menyerukan penghentian total pengembangan AI. Ia berpendapat bahwa tidak membangun teknologi tersebut dapat membuat umat manusia kehilangan manfaatnya atau menempatkan AI di tangan kekuatan otoriter. Ia mengatakan membangunnya terlalu cepat akan ceroboh.