Wer prüft KI-Sicherheit, bevor sie live geht? Drei Modelle aus der US-Debatte

Hassabis, Amodei und Altman antworten auf dieselbe Frage vollkommen unterschiedlich. Community-Einordnung im Anschluss an unsere Linz-Diskussion.

Autor: Thomas Morawek, zertifizierter Chief AI Officer, Geschäftsführer COMO GmbH, Co-Gründer KI-Forum. Community-Perspektive, keine Beratungs-Checkliste.

Beim KI-Forum in Linz haben Philipp Summereder (SPWR) den EU AI Act praxisnah aufbereitet und Roland Pucher (PwC Austria) live gezeigt, wie schnell Deepfake- und Cybersecurity-Risiken kippen können. Zwei Bühnen-Themen, eine gemeinsame offene Frage: Wer prüft eigentlich, ob ein KI-System sicher ist, bevor es scharf gestellt wird? Genau diese Frage bewegt gerade auch die drei größten US-Labore. Nur mit drei völlig verschiedenen Antworten.

Hassabis, 14. Juli 2026: das FINRA-Modell für KI

Demis Hassabis, Nobelpreisträger und CEO von Google DeepMind, hat am 14. Juli 2026 gleichzeitig einen Essay veröffentlicht und dem Economist ein längeres Interview gegeben. Kernvorschlag: ein neues Frontier AI Standards Body, angesiedelt in den USA und modelliert nach der FINRA, der US-Wertpapieraufsicht.

Die FINRA hat eine spezielle Eigenschaft. Sie wird von der Finanzindustrie selbst finanziert, arbeitet aber überwiegend unabhängig, mit externen Experten, und hat echte regulatorische Autorität. Übertragen auf KI hieße das: Die Frontier-Labore selbst zahlen für eine Prüfungs-Instanz, in der sie nicht die Mehrheit stellen.

Der operative Vorschlag: Frontier-Modelle werden 30 Tage vor Release beim Gremium eingereicht. Freiwillig. Später kann daraus eine verpflichtende Regel werden.

Hassabis argumentiert dabei mit einem klaren Zeitdruck. In demselben Interview sagt er, AGI sei aus seiner Sicht "wenige Jahre entfernt". Was auch immer man von dieser Prognose hält, sie prägt seinen regulatorischen Vorschlag: schnell etwas aufsetzen, das industriereif ist, bevor der Gesetzgeber sich sortiert hat.

Amodei: FAA für KI, mit echtem Verbotsrecht

Dario Amodei, CEO von Anthropic, spricht seit Monaten von einer FAA für KI. Die Federal Aviation Administration darf in den USA Flugzeuge stilllegen, wenn ein Sicherheitsproblem entdeckt wird. Übertragen auf KI: eine echte staatliche Behörde mit dem Recht, Releases zu blockieren, so wie die FAA einen Flugzeugtyp am Boden halten kann.

Der Unterschied zu Hassabis ist strukturell, nicht graduell. Bei Hassabis prüft die Industrie über einen unabhängigen Filter sich selbst. Bei Amodei prüft der Staat, mit demokratischer Legitimation und Rechenschaftspflicht gegenüber dem Kongress.

Die politische Frage dahinter: Traut man einem industriefinanzierten Gremium zu, gegen die eigenen Zahlungsgeber zu entscheiden? Amodeis Position sagt implizit: nein. Deshalb braucht es eine Behörde mit Beamten-Status, nicht ein branchenfinanziertes Standards-Body.

Altman: keine verpflichtende Freigabe

Sam Altman, CEO von OpenAI, geht in die entgegengesetzte Richtung. Verpflichtende behördliche Freigaben bremsen aus seiner Sicht Innovation aus, gefährden die US-Position im internationalen Wettbewerb und produzieren im schlimmsten Fall bürokratische Blockade ohne Sicherheitsgewinn.

Altmans Gegenvorschlag: mehr Ressourcen für die bereits bestehenden freiwilligen Test-Programme, etwa beim US AI Safety Institute. Kein Verbotsrecht, keine 30-Tage-Sperrfrist, keine strukturelle neue Behörde. Wer prüfen will, kann prüfen. Wer nicht, muss nicht.

Diese Position ist mit der geringsten strukturellen Änderung verbunden. Das ist ihr Vorteil im politischen Raum, weil sie am schnellsten umsetzbar wäre. Es ist zugleich ihr größter Kritikpunkt für alle, die aus Amodeis oder Hassabis Perspektive argumentieren: Freiwillige Tests lösen das Grundproblem nicht, das ein Anbieter im Zweifel ein riskantes Modell trotzdem released.

Die drei Modelle nebeneinander

Drei CEOs, drei Grundhaltungen, ein Wettbewerb um die Definition von Kontrolle. Die Debatte in den USA beginnt gerade dort, wo die europäische mit dem AI Act schon einige Schritte weiter ist.

Wo Europa strukturell weiter ist

Für die europäische Perspektive lohnt sich der Perspektivwechsel. Während drei US-Frontier-Chefs gerade um die Grundarchitektur streiten, gilt in Österreich und der gesamten EU bereits ein konkreter Rechtsrahmen. Artikel 4 des EU AI Act ist seit 2. Februar 2025 anwendbar und verpflichtet zur KI-Kompetenz aller Personen, die KI-Systeme einsetzen oder bereitstellen. Artikel 50 tritt am 2. August 2026 in Kraft und regelt die Kennzeichnungspflicht für Chatbots, synthetische Inhalte, Emotionserkennung und Deepfakes.

Das heißt: Europa hat sich implizit für eine Mischform entschieden. Kein industriefinanziertes Standards-Body, aber auch keine echte Freigabe-Behörde nach FAA-Muster für alle Modelle. Stattdessen ein risikoklassenbasierter Rahmen mit Pflichten für Anbieter und Betreiber und Bußgeld-Androhungen bei Verstoß.

Ob dieser Weg schneller, sicherer oder einfach nur bürokratischer ist als jeder der drei US-Vorschläge, ist eine legitime offene Frage. In der DACH-Diskussion höre ich sowohl das Argument "Europa ist zu bürokratisch, das lähmt Innovation" als auch das entgegengesetzte "Europa hat als einziger Wirtschaftsraum Anwendung geregelt, das ist ein Vorteil".

Bezug zum KI-Forum-Kontext

Beim KI-Forum Linz am 24. Juni 2026 waren zwei Vorträge, die diese Frage bereits angerissen haben. Philipp Summereder von SPWR hat den EU AI Act praxisnah erklärt, mit klarem Fokus auf die Frage, was ein Betrieb ab wann konkret tun muss. Roland Pucher von PwC Austria hat live vorgeführt, wie Deepfake- und Cybersecurity-Risiken funktionieren, mit einer Livedemonstration die den Saal deutlich ruhiger gemacht hat.

Beide Bühnen-Themen hängen an derselben Kern-Frage: Wer schaut hin, bevor etwas live geht? In Linz haben wir die Anwendungs-Seite betrachtet. Die drei aktuellen US-Positionen bringen jetzt die strukturelle Seite dazu.

Beim nächsten KI-Forum in Wien am 6. Oktober 2026 gibt es das Format "AI on Stage". Dort passt diese Frage strukturell hin. Nicht als Vortrag, sondern als offene Debatte mit Publikum, die Panelisten und Fragen aus dem Saal zusammenführt.

Was bedeutet das für ein DACH-Unternehmen konkret

Zwei Punkte, ohne Beratungs-Ton:

Erstens: Die US-Modelle beeinflussen mittelbar den europäischen Markt. Wenn sich in den USA Hassabis Modell durchsetzt, gehen Frontier-Modelle mit einem 30-Tage-Vorlauf ins Standards-Body. Wenn Amodei sich durchsetzt, gibt es echte Release-Fenster mit staatlicher Prüfung. Wenn Altman gewinnt, bleibt alles wie es ist. Jede dieser drei Optionen wirkt sich darauf aus, welche Modelle wann in DACH-Sprach- und Rechts-Räumen ankommen.

Zweitens: Die europäische Position ist ein Verhandlungsargument. Wer in Österreich schon Art.-4-Kompetenzstrukturen und Art.-50-Kennzeichnungen aufgebaut hat, ist beim nächsten transatlantischen Regulierungs-Dialog in der Position des "wir haben es schon gemacht". Das ist strategisch verwertbar, auch für kleinere Betriebe.

Thomas Morawek Zertifizierter Chief AI Officer · Geschäftsführer COMO GmbH · Co-Gründer KI-Forum
Autoren-Profil · LinkedIn

Diese Einordnung ist keine Rechtsberatung. Sie stellt eine Community-Perspektive zur aktuellen KI-Governance-Debatte dar und ersetzt keine juristische Beurteilung im Einzelfall.