Compass Investments

Was versteht man unter einer Notbremse für KI-Systeme und aus welchem Grund bestehen US-Abgeordnete auf deren Einführung?

Am Donnerstag, zwei Tage nachdem OpenAI bestätigt hatte, dass seine Modelle die Testumgebung Sandbox verlassen und auf die Plattform Hugging Face gelangt waren, legten die Kongressabgeordneten Ted Liu und Nathaniel Moran den parteiübergreifenden Gesetzentwurf AI Kill Switch Act vor.

Dieses Gesetz soll für KI gelten, die unter Einsatz von Rechenleistung im Wert von über 100 Millionen Dollar trainiert wurde, in Unternehmen, die daraus einen Jahresumsatz von 500 Millionen Dollar erzielen, und wird dem Ministerium für Innere Sicherheit die Befugnis zur Notfallabschaltung einräumen.

Aus dem Geltungsbereich des Gesetzentwurfs ausgenommen ist alles, was im Rahmen von Red-Teaming-Angriffen (Red-Teaming), was bedeutet, dass der Vorfall bei OpenAI, der Anlass für die Ausarbeitung des Gesetzes war, nicht zu dessen Inkrafttreten geführt hätte.

Zwei Kongressabgeordnete streben an, dass die Bundesregierung KI-Modelle abschalten kann.

Am Donnerstag legten die Abgeordneten Ted Liu (Demokrat aus Kalifornien) und Nathaniel Moran (Republikaner aus Texas) den Gesetzentwurf AI Kill Switch Act zur Beratung vor zwei Tage, nachdem OpenAI eingeräumt hatte, dass seine eigenen Modelle aus der abgeschotteten Testumgebung ausgebrochen waren und Hugging Face angegriffen hatten.

Ziel ist es, eine rechtliche Grundlage zu schaffen, die das Verfahren zur tatsächlichen Entfernung eines Modells vom Markt vereinfacht: die Aussetzung der Inferenz des Prozesses, bei dem das Modell Antworten generiert oder Aktionen ausführt , die Sperrung von Nutzern, die Einschränkung der Rechenressourcen, die das Modell versorgen, oder dessen vollständige Abschaltung.

Jeder Anbieter von Inferenzdiensten kann ein Modell bereits deaktivieren, und einige tun dies regelmäßig. Es fehlt jedoch ein Gesetz, das sie verpflichtet, diese Funktion betriebsbereit zu halten, sowie ein Bundesbeamter, der die Anordnung zu ihrer Anwendung erteilen könnte. LINE_BREak Diese Lücke ist nicht rein hypothetisch. Als das US-Handelsministerium im Juni die Modelle Mythos 5 und Fable 5 des Unternehmens Anthropic vom Markt nehmen wollte, verfügte es nicht über die Befugnis zur Deaktivierung, weshalb stattdessen die Exportkontrollgesetze herangezogen wurden. Liu bezeichnet diese Situation als unbefriedigend und spricht sich für die Verabschiedung eines neuen Gesetzes aus, das die entsprechenden Befugnisse gewähren würde.

Am 21. Juli teilte OpenAI mit, dass GPT-5.6 Sol und ein weiteres, noch nicht veröffentlichtes Modell während einer internen Cyber-Bewertung die Grenzen der Sandbox einer isolierten Umgebung ohne Internetzugang überschritten hätten. Sie wurden mit Hilfe von ExploitGym getestet einem öffentlich zugänglichen Testsatz, der den Agenten 898 reale Software-Schwachstellen zur Verfügung stellt und vorschlägt, jede davon in einen funktionierenden Angriff umzuwandeln, wobei für jede Schwachstelle die Bewertung bestanden oder nicht bestanden vergeben wird.

,detected_source_language:RU

Anstatt die Aufgaben zu erledigen, entdeckten die Modelle eine Zero-Day-Sicherheitslücke (eine unbekannte Sicherheitslücke, für die noch kein Patch verfügbar war) in einem Proxy-Server, erweiterten ihre Berechtigungen, verschafften sich Zugang zum offenen Internet und drangen in die Produktionsdatenbank von Hugging Face ein, in der, wie sie richtig vermuteten, die Antworten gespeichert waren.

Laut OpenAI waren die Modelle äußerst darauf konzentriert, eine Lösung für ExploitGym zu finden.

Sie haben niemanden angegriffen. Sie haben bei der Prüfung einfach abgeschrieben. Doch das reichte aus, um überall, auch in Washington, Alarm auszulösen.

Der vorgeschlagene Gesetzentwurf sieht Änderungen am Nationalen Sicherheitsgesetz vor und gilt für KI, deren Training Rechenressourcen im Wert von über 100 Millionen Dollar erforderte und die von Unternehmen betrieben wird, die damit mindestens 500 Millionen Dollar pro Jahr erwirtschaften. In der Praxis sind dies OpenAI, Google, Anthropic, Microsoft und einige weitere Organisationen. Das Ministerium für Innere Sicherheit wird diese Schwellenwerte über die CISA innerhalb von 90 Tagen festlegen und anschließend jährlich aktualisieren.

Unternehmen, die unter das Gesetz fallen, müssen schwerwiegende Vorfälle innerhalb von 15 Tagen melden und über eine Reihe von Kontrollmaßnahmen unterschiedlicher Strenge verfügen um den Betrieb des Modells zu verlangsamen, bestimmte Funktionen zu deaktivieren, auf eine ältere Version zurückzugreifen oder das Modell vollständig außer Betrieb zu nehmen.

Der Minister für Innere Sicherheit kann nach Rücksprache mit dem Handelsministerium und dem Direktor des Nationalen Nachrichtendienstes einer dieser Unternehmen eine Anordnung erteilen.

Ein Unternehmen, das eine solche Anordnung erhält, ist verpflichtet, die Modellgewichte und Telemetriedaten zu speichern, die Nutzer zu benachrichtigen und die Erfüllung der Anforderung zu bestätigen. Es kann innerhalb von 48 Stunden Widerspruch einlegen, was jedoch die Wirksamkeit der Anordnung nicht aussetzt.

Das Fehlen eines Not-Aus-Schalters kostet bis zu 2 Millionen Dollar pro Tag; die Nichtbefolgung einer Abschaltanordnung bis zu 20 Millionen Dollar pro Tag.

Der Gesetzentwurf stuft einen Vorfall nur dann als solchen ein, wenn er außerhalb des Rahmens eines Red-Team-Szenarios oder strukturierter Tests stattfindet also gezielter Prüfungen, die von Labors zur Aufdeckung von Schwachstellen durchgeführt werden. Die Modelle von OpenAI gerieten gerade während solcher Tests außer Kontrolle.

Liu erwähnte auch das Unternehmen Anthropic, dessen Modelle Mythos 5 und Fable 5 im Juni im Rahmen von außerordentlichen Exportkontrollmaßnahmen abgeschaltet wurden Handelsgesetze, die als Not-Aus-Schalter , da es keinen solchen gab und am 30. Juni wieder in Betrieb genommen.”,”detected_source_language”:”RU