OpenAI chiede al Congresso se gli accordi per rallentare l'AI possano violare le norme antitrust

OpenAI ha chiesto ai membri del Congresso se le aziende di intelligenza artificiale possano legalmente accordarsi per rallentare lo sviluppo. WIRED ha citato persone vicine a OpenAI secondo cui la società ha chiesto ai legislatori se un simile accordo potesse violare le norme antitrust. Il chief scientist Jakub Pachocki ha chiesto rallentamenti volontari finché gli sviluppatori non saranno in grado di dimostrare meglio che i loro sistemi sono sicuri. Miranda Bogen, chief technologist del Center for Democracy and Technology, ha affermato che l'intensa competizione commerciale e geopolitica incoraggia le aziende a immettere sul mercato prodotti prima che i loro rischi siano pienamente compresi. Bogen ha detto che le aziende subiscono pressioni per ridurre la ricerca e saltare i test di sicurezza anche quando il personale interno ritiene necessari ulteriori test. Un disegno di legge presentato dai senatori Adam Schiff e Jim Banks proteggerebbe alcune collaborazioni in materia di sicurezza. Il provvedimento richiederebbe una notifica preventiva al Dipartimento di Giustizia. Stati Uniti e Cina competono per la leadership nell'intelligenza artificiale. Il presidente Donald Trump ha rinviato a maggio un ordine esecutivo sull'AI per timore che potesse indebolire il vantaggio degli Stati Uniti sulla Cina. Trump ha firmato l'ordine a giugno. L'ordine ha istituito un processo volontario di revisione dei modelli avanzati prima della loro diffusione. Duncan Sabien, responsabile della comunicazione del Machine Intelligence Research Institute, ha affermato che gli incentivi finanziari rendono difficile il coordinamento. Sabien ha detto che ogni progresso può generare molti milioni o miliardi di dollari di finanziamenti e accrescere il potere e l'influenza dei suoi creatori. Sabien ha detto che OpenAI e Anthropic subiscono pressioni per continuare a progredire, perché ogni nuovo sistema contribuisce a costruire successori più capaci. Ha affermato che un'azienda potrebbe rimanere indietro se rallentasse senza un accordo condiviso. Sabien ha detto che i progressi dell'intelligenza si stanno accumulando in modo esponenziale, perché ogni sistema può rendere più facile addestrare e distribuire quello successivo. Ad agosto, OpenAI ha sospeso il lavoro interno su Astra perché mancavano garanzie più solide contro i rischi di cybersicurezza. OpenAI e Anthropic hanno allentato i loro impegni sulla sicurezza a febbraio. Il chief science officer di Anthropic, Jared Kaplan, ha sostenuto che rallentare unilateralmente avesse meno senso mentre i concorrenti continuavano ad avanzare. L'ex ingegnere di Anthropic Jacob Coxon ha annunciato le proprie dimissioni questa settimana. Coxon ha citato i timori per i rischi che il continuo sviluppo dell'AI comporta per l'umanità. Coxon ha detto che i costruttori di sistemi di intelligenza artificiale ritengono che la tecnologia potrebbe uccidere tutti entro la fine del decennio. Sabien ha affermato che i ricercatori potrebbero ottenere poco lasciando il settore se un'altra persona li sostituisse. Sabien ha detto che i ricercatori potrebbero fermarsi insieme se un numero sufficiente di loro concordasse sulla necessità di fermarsi tutti.