OpenAI fragt den Kongress, ob Vereinbarungen zur Verlangsamung der KI-Entwicklung gegen das Kartellrecht verstoßen könnten

OpenAI hat Mitglieder des Kongresses gefragt, ob KI-Unternehmen sich rechtlich darauf einigen könnten, die Entwicklung zu verlangsamen. WIRED berief sich auf Personen aus dem Umfeld von OpenAI, wonach das Unternehmen Abgeordnete gefragt habe, ob eine solche Vereinbarung gegen das Kartellrecht verstoßen könnte. Chief Scientist Jakub Pachocki rief zu freiwilligen Verlangsamungen auf, bis Entwickler besser nachweisen können, dass ihre Systeme sicher sind. Miranda Bogen, Chief Technologist am Center for Democracy and Technology, sagte, intensiver kommerzieller und geopolitischer Wettbewerb ermutige Unternehmen, Produkte auf den Markt zu bringen, bevor ihre Risiken vollständig verstanden seien. Bogen sagte, Unternehmen stünden unter Druck, ihre Forschung zu reduzieren und Sicherheitstests auszulassen, selbst wenn interne Mitarbeiter der Ansicht seien, dass weitere Tests nötig seien. Ein von den Senatoren Adam Schiff und Jim Banks eingebrachter Gesetzentwurf würde bestimmte Kooperationen im Sicherheitsbereich schützen. Der Gesetzentwurf würde eine Vorabmitteilung an das Justizministerium vorschreiben. Die Vereinigten Staaten und China konkurrieren um die Führungsposition bei künstlicher Intelligenz. Präsident Donald Trump verschob im Mai eine KI-Durchführungsverordnung aus Sorge, sie könnte den Vorsprung der Vereinigten Staaten gegenüber China schwächen. Trump unterzeichnete die Anordnung im Juni. Die Anordnung schuf ein freiwilliges Prüfverfahren für fortgeschrittene Modelle vor ihrer Veröffentlichung. Duncan Sabien, Leiter der Kommunikation am Machine Intelligence Research Institute, sagte, finanzielle Anreize machten eine Koordination schwierig. Sabien sagte, jeder Fortschritt könne viele Millionen oder Milliarden Dollar an Finanzierung generieren und die Macht und den Einfluss seiner Urheber erhöhen. Sabien sagte, OpenAI und Anthropic stünden unter Druck, weiter voranzuschreiten, weil jedes neue System den Aufbau leistungsfähigerer Nachfolger unterstütze. Ein Unternehmen könne zurückfallen, wenn es ohne eine gemeinsame Vereinbarung langsamer mache, sagte er. Sabien sagte, die Fortschritte bei der Intelligenz nähmen kumulativ zu, weil jedes System das Training und den Einsatz des nächsten Systems erleichtern könne. Im August stellte OpenAI interne Arbeiten an Astra ein, weil stärkere Schutzvorkehrungen gegen Bedenken hinsichtlich der Cybersicherheit fehlten. OpenAI und Anthropic lockerten im Februar ihre Sicherheitszusagen. Anthropic Chief Science Officer Jared Kaplan argumentierte, ein eigenständiges Verlangsamen ergebe weniger Sinn, während Wettbewerber weiter voranschritten. Der frühere Anthropic-Ingenieur Jacob Coxon gab diese Woche seinen Rücktritt bekannt. Coxon verwies auf Bedenken hinsichtlich der Risiken, die die fortgesetzte KI-Entwicklung für die Menschheit mit sich bringt. Coxon sagte, KI-Entwickler glaubten, die Technologie könne bis zum Ende des Jahrzehnts alle Menschen töten. Sabien sagte, Forscher könnten wenig erreichen, wenn sie gingen und jemand anderes sie ersetze. Forscher könnten gemeinsam aufhören, wenn genügend von ihnen sich darauf einigten, dass sie alle aufhören sollten, sagte Sabien.