OpenAI demande au Congrès si des accords visant à ralentir l’IA pourraient enfreindre le droit de la concurrence

OpenAI a demandé à des membres du Congrès si les entreprises d’IA pouvaient légalement convenir de ralentir leur développement. WIRED, citant des personnes proches d’OpenAI, a rapporté que l’entreprise avait demandé à des parlementaires si un tel accord pouvait enfreindre le droit de la concurrence. Le scientifique en chef Jakub Pachocki a appelé à des ralentissements volontaires jusqu’à ce que les développeurs puissent mieux démontrer que leurs systèmes sont sûrs. Miranda Bogen, directrice de la technologie au Center for Democracy and Technology, a déclaré que l’intense concurrence commerciale et géopolitique incitait les entreprises à lancer des produits avant que leurs risques ne soient pleinement compris. Bogen a dit que les entreprises subissaient des pressions pour réduire leurs recherches et renoncer aux tests de sécurité, même lorsque leurs équipes internes estimaient que davantage de tests étaient nécessaires. Un projet de loi présenté par les sénateurs Adam Schiff et Jim Banks protégerait certaines coopérations en matière de sécurité. Le texte imposerait une notification préalable au ministère de la Justice. Les États-Unis et la Chine se disputent le leadership dans le domaine de l’intelligence artificielle. Le président Donald Trump a reporté en mai un décret présidentiel sur l’IA, craignant qu’il ne fragilise l’avance des États-Unis sur la Chine. Trump a signé le décret en juin. Le texte a créé une procédure d’examen volontaire des modèles avancés avant leur mise sur le marché. Duncan Sabien, responsable de la communication au Machine Intelligence Research Institute, a déclaré que les incitations financières rendaient la coordination difficile. Sabien a dit que chaque avancée pouvait générer de nombreux millions ou milliards de dollars de financement et accroître le pouvoir et l’influence de ses créateurs. Sabien a déclaré qu’OpenAI et Anthropic subissaient des pressions pour continuer à progresser, car chaque nouveau système aide à construire des successeurs plus performants. Une entreprise pourrait prendre du retard si elle ralentissait sans accord commun, a-t-il dit. Sabien a déclaré que les gains d’intelligence se cumulaient, car chaque système pouvait faciliter l’entraînement et le déploiement du suivant. En août, OpenAI a suspendu ses travaux internes sur Astra faute de protections plus solides contre les risques liés à la cybersécurité. OpenAI et Anthropic ont assoupli leurs engagements en matière de sécurité en février. Jared Kaplan, directeur scientifique d’Anthropic, a estimé que ralentir seul avait moins de sens tandis que les concurrents continuaient d’avancer. Jacob Coxon, ancien ingénieur d’Anthropic, a annoncé sa démission cette semaine. Coxon a invoqué ses inquiétudes face aux risques que la poursuite du développement de l’IA fait peser sur l’humanité. Coxon a déclaré que les concepteurs d’IA pensaient que cette technologie pourrait tuer tout le monde d’ici la fin de la décennie. Sabien a dit que les chercheurs pourraient accomplir peu de choses en partant si quelqu’un d’autre les remplaçait. Les chercheurs pourraient s’arrêter ensemble si un nombre suffisant d’entre eux convenaient qu’ils devraient tous s’arrêter, a déclaré Sabien.