Vitalik Buterin afferma che l'IA ha conoscenze estese ma poca saggezza

Il cofondatore di Ethereum Vitalik Buterin sostiene che l'IA abbia conoscenze estese ma saggezza limitata. Buterin ha detto che i chatbot riconoscono riferimenti in molti ambiti, ma valutano gli argomenti soprattutto in superficie. Buterin ha partecipato a un dibattito su X sulla capacità dei chatbot di eguagliare i lettori umani più preparati.

Buterin ha sostenuto che le conoscenze dell'IA sono più evidenti della sua mancanza di saggezza, perché la saggezza, a differenza dell'intelligenza, potrebbe essere per sua natura difficile da verificare. Buterin ha detto che la debolezza aumenta quando un modello si trova per la prima volta davanti a un testo che non conosce. I testi famosi sono già ampiamente commentati dagli esseri umani, e questi commenti sono presenti nei dati di addestramento. La distinzione è importante per i trader di criptovalute che usano sintesi generate dall'IA di white paper e proposte di governance per prendere decisioni.

La discussione è iniziata con un articolo del Wall Street Journal su Humanities 10, un corso impegnativo per le matricole di Harvard. Estratti circolati su X indicavano che le candidature sono aumentate del 40% questo autunno. Secondo gli estratti, i candidati erano 180 per 90 posti. Il corso richiede agli studenti di leggere un libro corposo ogni settimana e vieta l'uso di dispositivi. Diversi candidati hanno detto di volere un'alternativa alle scorciatoie rese possibili dall'IA. Un utente di X ha sostenuto che i modelli attuali superano ogni essere umano come interlocutori per discutere i classici, perché hanno letto tutto. Uno scrittore, tuttavia, ha definito «spazzatura» le risposte che i chatbot danno attualmente ai suoi saggi.

Di recente Buterin ha avvertito che l'IA potrebbe compromettere importanti elementi della sicurezza delle criptovalute entro due anni. Buterin ha anche sviluppato una modalità paranoica per le conversazioni con l'IA. Alcuni investitori sostengono tuttavia che l'IA superi già le migliori menti umane in matematica.

I team del settore crypto continuano ad assegnare agli agenti di IA audit, ricerche e sintesi sulla governance. Un'analisi superficiale in questi compiti potrebbe non rilevare un difetto sottile in uno smart contract o un problema nel programma di emissione di un token. L'argomentazione di Buterin suggerisce che verificare i fatti confrontandoli con le fonti sia più facile che verificare i giudizi su un testo incontrato per la prima volta. Di recente Buterin ha sostenuto un modello di IA che limita gli attacchi informatici, suggerendo una preferenza analoga per il mantenimento della supervisione umana.