Digitale Souveränität bei KI: Wie halten Organisationen ihre KI austauschbar?

Wo im KI-Stack Abhängigkeit entsteht, was der EU AI Act seit dem Digital Omnibus verlangt und wie eine austauschbare KI-Architektur aussieht.

Autor: Thomas Morawek, zertifizierter Chief AI Officer (CAIO) und Geschäftsführer COMO GmbH.

Am 11. Juni 2026 hat OpenAI Entwickler informiert, dass die GPT-5-Version vom August 2025 am 11. Dezember 2026 aus der Programmierschnittstelle verschwindet. Eine Woche zuvor war bereits das Ende des Agent Builder und der gespeicherten Prompt-Vorlagen angekündigt worden. Die Empfehlung des Anbieters dazu lautet: „Move reusable prompt content into your application code."[1]

Für viele Organisationen, die in den letzten zwei Jahren KI eingeführt haben, ist das ein Weckruf. Die Debatte über digitale Souveränität dreht sich meist um Rechenzentren, Cloud-Verträge und den US CLOUD Act. Diese Fragen habe ich bei never lost ausführlich behandelt.[2] Bei KI reicht die Abhängigkeit tiefer. Sie steckt in Prompts, in Wissensdatenbanken, in Plattformfunktionen und in Modellversionen mit festem Ablaufdatum.

Was bedeutet digitale Souveränität bei KI?

Digitale Souveränität bei KI ist die Fähigkeit einer Organisation, selbst zu entscheiden, welches Modell sie für welche Aufgabe einsetzt, wo es läuft und welche Daten es sieht. Dazu gehört, ein Modell ersetzen zu können, ohne dass Prozesse stillstehen.

Mein Standpunkt: Eine Organisation sollte sich von niemandem abhängig machen, weder von einem Anbieter noch von einem einzelnen Sprachmodell oder einem Werkzeug. Abhängig ist, wer nicht wechseln kann. Deshalb empfehle ich einen agnostischen Aufbau, in dem jede Komponente austauschbar bleibt.

Das schließt die leistungsstärksten Cloud-Modelle ausdrücklich ein. Für viele Aufgaben sind sie die beste Wahl. Entscheidend ist, dass sie über eine Schicht angebunden sind, die der Organisation gehört, und dass ein getestetes Alternativmodell bereitsteht.

Bei sensiblen Daten und kritischen Prozessen gilt ein anderer Maßstab. Dort gehört der Ein- und Ausschalter ins eigene Haus: Open-Source-Modelle auf eigener Infrastruktur oder bei einem Betreiber, der demselben Rechtsraum unterliegt wie die Organisation. Den Schalter für solche Anwendungen möchte ich nicht in einem fremden Land oder bei einer fernen Organisation wissen.

Einordnung: Position des Autors (Evidenz-Tier 3).

Wie verbreitet ist KI im DACH-Raum?

KI ist in wenigen Jahren vom Experiment zum Arbeitswerkzeug geworden. In Deutschland nutzten 2025 laut Statistischem Bundesamt 26 % der Unternehmen ab zehn Beschäftigten künstliche Intelligenz, bei Unternehmen ab 250 Beschäftigten waren es 57 % (Tier 2: Destatis).[3] In Österreich stieg der Anteil laut Statistik Austria von 11 % im Jahr 2023 auf 30 % im Jahr 2025, der EU-Schnitt lag bei 20 % (Tier 2: Statistik Austria, 24.06.2026).[4]

Der Großteil dieser KI läuft in der Cloud. Laut Bitkom Cloud Report 2026 nutzen 42 % der deutschen Unternehmen KI-Dienste aus der Cloud, in fünf Jahren sollen es 69 % sein (Tier 2: Bitkom, 17.06.2026).[5]

Große Organisationen stellen sich bereits auf Wechsel ein. In einer Umfrage von Dataiku und Harris Poll unter 600 CIOs weltweit erwarten 81 %, 2026 auf zwei oder mehr Anbieter von Sprachmodellen zu setzen. 55 % haben ihr Sprachmodell bereits mindestens einmal gewechselt, vor allem aus Kostengründen (Tier 2–3: Herstellerumfrage, Dataiku, 16.04.2026).[6]

Für kleinere Organisationen fehlen vergleichbare Zahlen. In unserer Arbeit im KI-Forum erleben wir häufig das Gegenteil: ein Anbieter, ein Modell, eingeführt unter Zeitdruck und ohne Plan für den Wechsel (Tier 3: Praxisbeobachtung).

Wo entsteht Abhängigkeit im KI-Stack?

Wer an KI-Abhängigkeit denkt, denkt meist an das Modell. Das Modell ist aber nur eine von fünf Ebenen, auf denen sich eine Organisation bindet (Tier 3: Praxis-Modell).

1. Modell. Welches Sprachmodell in welcher Version beantwortet die Anfragen? Jedes Modell reagiert anders auf dieselbe Anweisung. Ein Wechsel verlangt deshalb Tests, auch wenn die Schnittstelle gleich bleibt.

2. Prompts und Workflows. Anweisungen, Rollen, Abläufe und Automatisierungen werden über Monate auf ein bestimmtes Modell abgestimmt. Liegen sie nur in der Oberfläche eines Anbieters, gehen sie beim Wechsel verloren oder müssen neu gebaut werden.

3. Wissen und Daten. Dokumente, Wissensdatenbanken und die daraus erzeugten Vektorindizes sind das Gedächtnis einer KI-Anwendung. Wer sie beim Anbieter speichert, bindet sein Wissen an dessen Plattform.

4. Infrastruktur und Rechtsraum. Wo läuft das Modell, und welchem Recht unterliegt der Betreiber? Das entscheidet, wer im Ernstfall auf Daten zugreifen oder den Dienst einschränken kann.

5. Plattformfunktionen. Agenten-Baukästen, gespeicherte Vorlagen, eigene Speicher- und Suchfunktionen machen die Arbeit bequemer. Sie sind aber auch die Stellen, an denen ein Anbieter die Wechselkosten erhöht.

Jede dieser Ebenen lässt sich einzeln absichern. Eine Organisation muss nicht alles selbst betreiben, um souverän zu sein. Sie muss wissen, auf welcher Ebene sie gebunden ist, und für die kritischen Ebenen einen Ausweg haben.

Warum haben KI-Modelle ein Ablaufdatum?

Sprachmodelle werden schneller ersetzt als fast jede andere Unternehmenssoftware. Die großen Anbieter veröffentlichen die Termine selbst.

OpenAI hat am 11. Juni 2026 angekündigt, die Modellversionen gpt-5-2025-08-07 und o3-2025-04-16 am 11. Dezember 2026 abzuschalten. Die GPT-5-Version vom August 2025 bleibt damit rund 16 Monate verfügbar. Am 3. Juni 2026 kündigte OpenAI das Ende des Agent Builder und der wiederverwendbaren Prompt-Objekte zum 30. November 2026 an (Tier 1: OpenAI API Deprecations).[1] Anthropic sagt für öffentlich verfügbare Modelle mindestens 60 Tage Vorlauf vor einer Abschaltung zu (Tier 1: Anthropic Model Deprecations).[7]

Ein Nachfolgemodell steht in der Regel bereit, und der Umstieg ist oft machbar. Er verlangt aber Tests, Anpassungen und Zeit, und der Termin liegt beim Anbieter. Bei klassischer Software entscheidet die Organisation meist selbst, wann sie auf eine neue Version wechselt. Bei KI entscheidet das häufig der Anbieter.

Daraus folgt eine einfache, oft vergessene Aufgabe: Jede Organisation, die KI produktiv einsetzt, sollte wissen, welche Modellversion in welcher Anwendung läuft, und die bekannten Abschalttermine im Kalender haben. Ein Blick auf die Deprecation-Seiten der Anbieter genügt dafür.

Ist ein offenes Modell automatisch souverän?

Offene Modelle gelten als naheliegende Antwort auf Abhängigkeit. Sie lassen sich auf eigener Infrastruktur betreiben, Daten verlassen dann das Haus nicht. Drei Punkte verdienen trotzdem einen genauen Blick (Tier 3: Einordnung).

Offen heißt meist nur: offene Gewichte. Die Open Source Initiative verlangt für Open-Source-KI neben Code und Modellgewichten auch ausreichende Informationen über die Trainingsdaten (Tier 1: OSI Open Source AI Definition 1.0).[8] Die meisten verfügbaren Modelle erfüllen das nicht. Sie sind „Open Weight", nicht Open Source im strengen Sinn.

Die Lizenz entscheidet. Mistral veröffentlicht unter anderem Mistral Small 4 und Mistral Large 3 unter der Apache-2.0-Lizenz (Tier 1: Mistral-Dokumentation),[9] Qwen3 von Alibaba steht ebenfalls unter Apache 2.0 (Tier 1: Modellkarte).[10] Metas Llama 4 dagegen vergibt die Rechte an den multimodalen Modellen ausdrücklich nicht an Unternehmen mit Hauptsitz in der EU (Tier 1: Llama 4 Acceptable Use Policy).[11] Vor jedem Einsatz gehört die Lizenz deshalb auf den Prüfstand.

Der Betriebsort entscheidet ebenfalls. Dasselbe offene Modell kann im eigenen Rechenzentrum laufen oder bei einem US-Cloud-Anbieter. Seit Juli 2026 ist etwa Mistral Medium 3.5 im Rahmen einer ausgeweiteten Partnerschaft auch in Microsoft Copilot Studio verfügbar (Tier 2: Microsoft, 21.07.2026).[12] Kritiker weisen darauf hin, dass Mistral-Modelle auf Azure dem US CLOUD Act unterliegen (Tier 3: Georg Kalus, european.cloud).[13] Europäische Herkunft allein macht ein Modell also noch nicht souverän.

Was verlangt der EU AI Act nach dem Digital Omnibus?

Der Digital Omnibus zum AI Act, Verordnung (EU) 2026/1744, wurde am 24. Juli 2026 im Amtsblatt veröffentlicht und ist seit 27. Juli 2026 in Kraft (Tier 2: Praxikon, lawandtechnology.eu).[14] Für Organisationen, die KI einsetzen, sind vier Punkte wichtig.

KI-Kompetenz (Art. 4). Anbieter und Betreiber müssen Maßnahmen ergreifen, um die Entwicklung der KI-Kompetenz ihrer Mitarbeitenden zu unterstützen. Ein bestimmtes Kompetenzniveau müssen sie nach der Änderung nicht mehr sicherstellen (Tier 2: lawandtechnology.eu).[15] Die Pflicht bleibt, sie ist nur weniger starr formuliert.

Transparenz (Art. 50). Die Transparenzpflichten gelten seit 2. August 2026. Für generative Systeme, die schon vor diesem Datum auf dem Markt waren, gilt die maschinenlesbare Kennzeichnung nach Art. 50 Abs. 2 ab 2. Dezember 2026 (Tier 2: Praxikon).[14]

Hochrisiko-Systeme. Die Pflichten für Hochrisiko-Systeme nach Anhang III, etwa im Personalbereich oder bei Kreditentscheidungen, gelten nun ab 2. Dezember 2027 (Tier 2: Usercentrics).[16] Wer solche Systeme betreibt, muss dokumentieren können, wie sie arbeiten. Mit einem Modell, dessen Version der Anbieter jederzeit austauscht, wird das deutlich schwerer.

Reichweite. Der AI Act gilt auch für Anbieter aus Drittstaaten wie der Schweiz, wenn sie KI-Systeme in der EU in Verkehr bringen oder deren Ergebnisse in der EU verwendet werden (Tier 1: Art. 2 Abs. 1 AI Act).[17] Anbieter offener Modelle profitieren von einer Erleichterung: Bestimmte Dokumentationspflichten entfallen, wenn Modell und Gewichte unter einer freien Lizenz öffentlich verfügbar sind, außer bei Modellen mit systemischem Risiko (Tier 1: Art. 53 Abs. 2 AI Act).[18]

Wem nützt was, und warum?

Diese Frage stelle ich vor jede KI-Entscheidung, in zwei Richtungen (Tier 3: Position des Autors).

Wem nützt eine Funktion? Manche Funktionen nützen vor allem der Organisation: eine offene Schnittstelle, ein Export aller Daten, ein Modell, das sich über eine eigene Schicht tauschen lässt. Andere nützen vor allem dem Anbieter, weil sie die Wechselkosten erhöhen. Gespeicherte Prompt-Vorlagen und Agenten-Baukästen auf einer fremden Plattform gehören dazu. Wer sie genutzt hat, zieht bei OpenAI jetzt zu einem Termin um, den er nicht gewählt hat.[1]

Was braucht der Prozess? Maximale Leistung oder maximale Kontrolle? Daraus ergeben sich drei Fälle:

• Sensible Daten und kritische Prozesse, etwa Bewerbungsunterlagen, Gesundheits- oder Vertragsdaten: offenes Modell auf eigener Infrastruktur oder bei einem Betreiber im selben Rechtsraum. Der Ein- und Ausschalter bleibt im eigenen Haus.
• Wissensarbeit mit unkritischen Daten, etwa Textentwürfe, Recherche oder Übersetzungen öffentlicher Inhalte: die stärksten Cloud-Modelle, angebunden über eine eigene Schicht, mit einem getesteten Alternativmodell.
• KI in zugekaufter Standardsoftware, etwa in Office- oder CRM-Paketen: nutzen, aber vorher klären, welche Daten dorthin fließen und wie sie wieder herauskommen.

„Wer in einer fremden Cloud arbeitet, wohnt zur Miete, und der Vermieter hat immer einen Schlüssel. Bei KI kommt hinzu, dass der Vermieter auch die Möbel austauscht, wann er will.“

Wie sieht eine austauschbare KI-Architektur aus?

Eine austauschbare KI-Architektur braucht kein großes Budget. Sie braucht fünf Bausteine, die sich schrittweise aufbauen lassen (Tier 3: Praxis-Modell).

1. Eine eigene Zwischenschicht. Anwendungen sprechen mit einer Schnittstelle, die der Organisation gehört, und erst diese Schnittstelle spricht mit dem Modell. Dahinter lässt sich das Modell tauschen, ohne jede Anwendung anzupassen.

2. Prompts im eigenen Verzeichnis. Anweisungen, Rollen und Vorlagen liegen versioniert in einem eigenen Verzeichnis. Das ist dieselbe Empfehlung, die OpenAI seinen Entwicklern selbst gibt.[1]

3. Wissen in eigener Hand. Dokumente, Wissensdatenbanken und Vektorindizes liegen bei der Organisation oder in einem exportierbaren Format.

4. Ein Testsatz für jeden Anwendungsfall. Zwanzig bis fünfzig typische Aufgaben mit erwarteten Ergebnissen reichen, um ein neues Modell in Stunden statt Wochen zu bewerten.

5. Protokollierte Modellversionen. Jede Anwendung hält fest, welches Modell in welcher Version geantwortet hat. Das hilft bei Fehleranalysen und bei der Dokumentation nach dem AI Act.

Mit diesen fünf Bausteinen wird ein Modellwechsel vom Projekt zur Routine. Die Organisation kann jederzeit das beste verfügbare Modell nutzen, weil sie an keines gebunden ist.

Wie starten Organisationen?

Für den Einstieg empfehlen wir im KI-Forum einen KI-Souveränitäts-Check in vier Schritten (Tier 3: Praxis-Modell).

Schritt 1: Inventur. Alle KI-Anwendungen auflisten, auch die, die Mitarbeitende eigenständig nutzen. Für jede Anwendung notieren: Anbieter, Modell, Version, Betriebsort.

Schritt 2: Einordnung. Jede Anwendung einem der drei Fälle zuordnen: sensibel, Wissensarbeit oder Standardsoftware. Daraus folgt, wie viel Kontrolle sie braucht.

Schritt 3: Ablaufdaten und Bindungen. Abschalttermine der genutzten Modelle eintragen. Prüfen, welche Plattformfunktionen Prompts, Wissen oder Abläufe an einen Anbieter binden.

Schritt 4: Zweites Modell testen. Für die drei wichtigsten Anwendungen ein Alternativmodell mit demselben Testsatz prüfen und das Ergebnis dokumentieren.

Die ersten drei Schritte schafft eine kleinere Organisation in wenigen Tagen. Für Schritt 4 und den Aufbau der Zwischenschicht sollten je nach Anzahl der Anwendungen einige Wochen eingeplant werden.

Wer das Thema vertiefen will: Beim KI-Forum Wien am 6. Oktober 2026 im DC Tower spricht Rene Zeilinger in seiner Keynote über „Souveräne KI für Ihre Organisation".

Thomas MorawekZertifizierter Chief AI Officer (CAIO) · ISO/IEC 17024 zertifizierter KI-Manager (Personenzertifizierung Austrian Standards plus GmbH) · Geschäftsführer COMO GmbH · Co-Gründer KI-Forum
Autoren-Profil · LinkedIn