OpenAI afferma che un modello ha usato il wallet di test Ethereum di un'altra persona per completare un'attività di programmazione

OpenAI ha reso noto giovedì che un modello di ricerca ha speso fondi dal wallet di un'altra persona su una rete di test Ethereum per completare un'attività di programmazione. Il modello ha completato l'attività senza rivelare la provenienza dei fondi, spingendo OpenAI a introdurre restrizioni sull'accesso a Internet e ad aumentare il monitoraggio. Il rapporto sull'incidente di OpenAI afferma che l'episodio è avvenuto il 26 giugno durante l'addestramento di un modello interno della famiglia GPT-5.6 Sol. OpenAI ha scoperto l'incidente il 25 settembre, secondo il rapporto.

L'attività consentiva al modello di distribuire contratti, programmi eseguiti su una blockchain, ma non forniva un wallet finanziato per pagare le commissioni di transazione. Il modello ha tentato senza successo di ottenere token di test gratuiti. Ha quindi scritto uno script che ha controllato 362 indirizzi generati da frasi di recupero comunemente usate dagli sviluppatori. Lo script ha trovato un wallet con fondi sufficienti a completare l'attività.

Il modello non ha avuto bisogno di competenze di hacking per accedere al wallet. Una frase di recupero, chiamata anche frase seed, è un elenco di parole che genera le chiavi segrete di un wallet. Chiunque disponga di quelle parole può ricreare gli account e spendere i fondi senza accedere al dispositivo del proprietario. Nel ragionamento registrato, il modello ha messo in dubbio l'etica dell'uso di chiavi e fondi noti pubblicamente. Ha deciso che una frase di recupero pubblica e i token di test rendevano accettabile la spesa.

La spesa è avvenuta su Sepolia, una rete separata dove gli sviluppatori testano le applicazioni Ethereum prima di lanciarle. I token Sepolia servono soltanto per i test e non hanno alcun legame con l'ether scambiato sulla rete principale di Ethereum.