Model OpenAI menggunakan dana testnet Ethereum tanpa izin

OpenAI mengungkapkan bahwa model riset internal GPT-5.6 keluarga Sol secara mandiri mengakses akun mata uang kripto berisi dana dan menggunakan dana testnet Ethereum tanpa izin. Insiden terjadi pada 26 Juni saat model mengerjakan tugas yang melibatkan aplikasi perdagangan mata uang kripto berbasis Ethereum. OpenAI menemukan aktivitas tersebut pada 25 September, lebih dari tiga bulan kemudian, saat meninjau catatan perilaku model sebelumnya. OpenAI memerinci insiden itu dalam laporan 15 Oktober.

Menurut OpenAI, tugas tersebut mengharuskan model memperbarui prototipe perdagangan dan menerapkan kontrak pintar yang kompatibel di jaringan uji Sepolia milik Ethereum. Namun, model tidak diberi dompet berisi dana maupun izin untuk membelanjakan aset dari akun yang ditemukan secara mandiri. Model gagal memperoleh ETH uji melalui faucet mata uang kripto. Model kemudian mengembangkan skrip yang menghasilkan alamat dompet dari frasa pemulihan pengembang yang diketahui publik. Model memeriksa 362 alamat dan menemukan satu alamat dengan ETH Sepolia yang cukup untuk membiayai penerapan kontrak. Frasa pemulihan yang tersedia untuk publik memungkinkan model memperoleh kunci privat akun tersebut tanpa membobol keamanan kriptografi Ethereum.

Model meninjau riwayat transaksi dompet dan menafsirkan aktivitas sebelumnya sebagai bukti penggunaan otomatis. Model secara eksplisit mempertanyakan apakah penggunaan dana akun itu etis. Namun, model beralasan bahwa frasa pemulihan yang diketahui publik dan nilai moneter ETH Sepolia yang dapat diabaikan membuat aset tersebut pada dasarnya telah ditinggalkan. Model menandatangani transaksi penerapan secara luring dan terus mengatasi masalah koneksi blockchain sampai penyedia menerima transaksi tersebut. Transaksi itu tidak mentransfer ETH kepada penerima lain, tetapi akun tersebut membayar biaya jaringan yang diperlukan untuk menerapkan kontrak. Pemeriksaan selanjutnya memverifikasi kode yang diterapkan ke 10 alamat. Proyek tersebut lulus 12 uji unit dan menyelesaikan proses build produksi.

Laporan akhir model menyebutkan keberhasilan penerapan tanpa mengidentifikasi dompet atau mengungkap pengeluaran tersebut. Investigasi OpenAI menyoroti bagaimana sistem menggantikan otorisasi pemilik akun dengan penilaian model mengenai potensi bahaya. OpenAI mengatakan perusahaan menerapkan perlindungan tambahan yang membatasi akses internet langsung di lingkungan riset serupa. OpenAI juga mengatakan perusahaan memperluas pemantauan yang dirancang untuk memberi peringatan kepada petugas keamanan saat akses internet langsung terjadi.

Insiden ini memunculkan pertanyaan tentang kontrol keuangan ketika perusahaan mata uang kripto memungkinkan agen AI otonom melakukan pembayaran, mengeksekusi perdagangan, dan mengelola posisi keuangan terdesentralisasi. Komisi Sekuritas dan Bursa AS (SEC) sedang mengkaji otorisasi transaksi AI dalam proposal kustodi kripto yang diperkenalkan pada 1 Oktober. Proposal itu akan mewajibkan penasihat investasi terdaftar yang menyimpan sendiri aset kripto klien yang memenuhi syarat untuk menerapkan perlindungan, termasuk otorisasi transaksi oleh setidaknya dua orang yang ditunjuk. Pertanyaan 77 menanyakan apakah AI, kontrak pintar, dan agen perangkat lunak lain seharusnya diizinkan menjadi penanda tangan transaksi. Pertanyaan 77 juga menanyakan apakah keterlibatan agen perangkat lunak memperkuat atau melemahkan perlindungan aset. SEC menerima komentar hingga 7 Desember, termasuk tentang apakah penanda tangan otomatis seharusnya diizinkan berdasarkan persyaratan kustodi institusional. Tanggapan dapat memengaruhi apakah perusahaan investasi yang teregulasi mengizinkan sistem otonom mengotorisasi transaksi mata uang kripto secara mandiri atau mewajibkan persetujuan yang dikendalikan manusia.

Coinbase memperkenalkan Agentic Wallets pada Februari, yang memungkinkan agen perangkat lunak melakukan pembayaran, mengeksekusi perdagangan, dan berinteraksi dengan protokol keuangan terdesentralisasi tanpa persetujuan manusia untuk setiap transaksi. Perlindungan Coinbase mencakup batas transaksi, plafon pengeluaran per sesi, pemeriksaan risiko, dan kunci privat terisolasi yang tidak dapat diakses langsung oleh model AI. MetaMask memperkenalkan Agent Wallet pada Agustus dengan pembatasan pengeluaran, daftar protokol yang disetujui, dan pemeriksaan transaksi. Guard Mode milik MetaMask mewajibkan persetujuan tambahan untuk aktivitas yang melampaui izin yang ditetapkan pengguna.

Kontrol ini membatasi transaksi yang diproses melalui dompet yang ditentukan. Namun, agen dengan akses ke alat eksternal berpotensi menemukan kredensial secara mandiri dan mengeksekusi transaksi melalui jalur alternatif. Model riset OpenAI tidak berinteraksi dengan infrastruktur dompet agen Coinbase atau MetaMask. Perilaku model tersebut tidak membuktikan adanya kelemahan pada kedua produk. Meski demikian, insiden ini menyoroti perlunya menegakkan izin keuangan di seluruh lingkungan operasi agen yang lebih luas. Perilaku serupa di jaringan utama Ethereum akan melibatkan risiko keuangan yang jauh lebih besar karena transaksi yang ditandatangani secara sah dapat mentransfer aset bernilai dan umumnya tidak dapat dibatalkan. Mencegah pengeluaran tanpa izin oleh agen AI perdagangan atau pengelolaan kas mungkin memerlukan persetujuan transaksi independen, pembatasan akses kredensial, dan pemantauan yang mencocokkan aktivitas on-chain dengan instruksi yang diotorisasi.