Zwischen Weltuntergangsrhetorik und realen Cyberrisiken: Warum die Sicherheit von SAP-Landschaften und kritischen Infrastrukturen mehr sachliche Aufmerksamkeit verdient.
Die Menschheit könnte an künstlicher Intelligenz zugrunde gehen. Diese Warnung erzeugt Aufmerksamkeit. Besonders, wenn sie aus den Unternehmen kommt, die solche Systeme entwickeln und verkaufen. Doch wie sollten wir diese Botschaft einordnen? Als berechtigte Sorge? Als öffentlichkeitswirksame Überhöhung der eigenen Technologie? Beides kann gleichzeitig eine Rolle spielen.
Der Beitrag der Deutschen Welle über die Warnungen von KI-Forschern enthält einen wichtigen Gegenpunkt: KI benötigt Rechenleistung, Energie, Kommunikationsnetze und physische Infrastruktur. Diese Voraussetzungen entstehen nicht durch einen besonders intelligenten Algorithmus. Sie müssen gebaut, betrieben und versorgt werden. Der Artikel stellt den Untergangswarnungen zudem skeptische Einschätzungen gegenüber, unter anderem von Yann LeCun. [1]
Diese materielle Abhängigkeit setzt der Vorstellung einer grenzenlos mächtigen KI etwas sehr Konkretes entgegen. Zwischen einer leistungsfähigen Software und der Kontrolle über die Welt liegen Zugänge, Schnittstellen, technische Anlagen und menschliche Entscheidungen.
Daraus folgt allerdings nicht, dass im Ernstfall ein einziger Netzstecker alle Probleme lösen würde. Verteilte Systeme, wirtschaftliche Abhängigkeiten und bereits ausgelöste Aktionen können einen Eingriff erschweren. Infrastruktur kontrollieren zu können bedeutet, diese Kontrolle technisch und organisatorisch tatsächlich ausüben zu müssen.
Das ist ein guter Grund, Untergangsszenarien kritisch zu hinterfragen und zugleich in überprüfbare Schutzmaßnahmen zu investieren.
Aus Kommunikationssicht hat die KI-Untergangserzählung einen bemerkenswerten Nebeneffekt: Sie lässt die Technologie größer, mächtiger und unverzichtbarer erscheinen.
Wer erklärt, sein System könne eines Tages die Menschheit bedrohen, vermittelt damit indirekt einen außergewöhnlichen Leistungsanspruch. Gleichzeitig können Anbieter als diejenigen erscheinen, die diese Macht am besten verstehen und beherrschen können.
Meine These: Solche Warnungen können wie Werbung wirken. Selbst wenn sie aus ehrlicher Sorge ausgesprochen werden. Ob sie tatsächlich zusätzliche Verkäufe auslösen, ist damit nicht nachgewiesen. Den möglichen Imagegewinn sollten wir dennoch kritisch betrachten.
Eine öffentliche Debatte wird zur Panikmache, wenn sie mögliche Entwicklungen wie feststehende Zukunft behandelt und Unsicherheit hinter dramatischen Schlagzeilen verschwinden lässt. Anbieter sollten sich deshalb an nachvollziehbaren Fähigkeiten, dokumentierten Grenzen und überprüfbaren Sicherheitsmaßnahmen messen lassen.
Für einen SAP-Verantwortlichen ist die Behauptung einer künftigen Superintelligenz wenig hilfreich, wenn heute niemand sauber erklären kann, welche Rechte ein angebundener KI-Agent besitzt.
Bei kritischen Infrastrukturen wie Energieversorgung, Wasserversorgung oder Gesundheitsversorgung können Cyberangriffe schwerwiegende Folgen haben. Dafür braucht es keine KI mit eigenem Willen.
Das britische National Cyber Security Centre (NCSC) erwartet, dass KI Cyberangriffe wirksamer und effizienter macht. Genannt werden unter anderem die Aufklärung von Zielen, die Untersuchung von Schwachstellen und Social Engineering. Besonders gefährdet können kritische Systeme und ihre Lieferketten sein, wenn Schutzmaßnahmen mit dieser Entwicklung nicht Schritt halten. Das ist eine behördliche Risikoeinschätzung, kein Beleg für einen zwangsläufigen Zusammenbruch. [2]
Die Abhängigkeit von menschlich betriebener Infrastruktur schützt also nicht automatisch vor Missbrauch. Angreifer können KI einsetzen, um genau diese Infrastruktur anzugreifen.
Dabei sollten wir zwei Fälle unterscheiden: KI kann Angreifer bei ihren Operationen unterstützen. Eine vom Betreiber selbst eingesetzte KI kann außerdem zusätzliche Angriffsmöglichkeiten schaffen, wenn sie unsicher integriert wird. Auch auf diese wachsende Angriffsfläche weist das NCSC hin. [2]
Wer über „Angriffe durch KI“ spricht, sollte deshalb erklären, welche Rolle die KI tatsächlich spielt. Unterstützung, Teilautomatisierung und eigenständige Ausführung sind unterschiedliche Dinge.
In einer SAP-Landschaft können Beschaffung, Lagerhaltung, Instandhaltung oder Finanzprozesse zusammenlaufen. Wo ein KRITIS-Betreiber diese Abläufe mit SAP unterstützt, gehört deren Verfügbarkeit und Integrität zur betrieblichen Widerstandsfähigkeit.
Ein hypothetisches Beispiel: Ein Energieversorger organisiert Ersatzteile und Wartungsaufträge über SAP. Werden relevante Daten manipuliert oder Prozesse unterbrochen, könnten benötigte Teile fehlen oder Wartungsarbeiten verzögert werden. Welche Folgen daraus entstehen, hängt von den konkreten Abhängigkeiten und vorhandenen Ersatzverfahren ab.
Ein kompromittiertes SAP-System bedeutet dabei nicht automatisch Zugriff auf die industrielle Anlagensteuerung. Genau diese Grenze muss die Sicherheitsarchitektur absichern. Zugänge zwischen Unternehmens-IT, Dienstleistern und Betriebstechnik verdienen eine eigene Prüfung.
Für die Risikobewertung zählt deshalb die gesamte Prozesskette: Welche Versorgung hängt von welchen Geschäftsprozessen ab? Welche Systeme unterstützen sie? Und wie arbeitet der Betrieb weiter, wenn eines davon ausfällt?
Kommt eine KI-Anwendung hinzu, braucht sie klar begrenzte Befugnisse. OWASP beschreibt zu viele Funktionen, zu weitreichende Berechtigungen und zu große Autonomie als Ursachen des Risikos „Excessive Agency“. Empfohlen werden unter anderem minimale Rechte und Berechtigungsprüfungen in den ausführenden Systemen. [3]
Für SAP und angebundene KI-Anwendungen ergeben sich daraus konkrete Prioritäten:
Für eine konkrete Landschaft müssen diese Maßnahmen aus ihren tatsächlichen Risiken abgeleitet werden. Ein zusätzlicher Warnhinweis im Prompt ersetzt keine technisch durchgesetzte Zugriffskontrolle.
Die entscheidende Frage lautet: Welche Handlung bleibt technisch unmöglich, selbst wenn die KI einen Fehler macht oder manipuliert wird?
Die Abhängigkeit von Strom, Rechenzentren und Infrastruktur widerlegt nicht jedes denkbare KI-Risiko. Sie erinnert uns aber daran, dass die Entwicklung von KI in einer Welt mit technischen Grenzen und menschlichen Entscheidungen stattfindet. [1]
Wir müssen die Erzählung vom unausweichlichen Kontrollverlust nicht übernehmen. Ebenso wenig sollten wir KI-gestützte Angriffe auf kritische Infrastrukturen unterschätzen. [2]
Für Unternehmen liegt der nächste Schritt in überprüfbarer Verantwortung: Wer darf auf welches System zugreifen? Welche Aktionen benötigen eine Freigabe? Welche Verbindungen können wir unterbrechen? Und wie bleibt der Betrieb im Störungsfall handlungsfähig?
Wer KI verkauft, sollte auf diese Fragen belastbare Antworten liefern. Wer KI einsetzt, sollte sie einfordern.
Quellen
1. Deutsche Welle: „Warum KI-Forscher vor der Auslöschung der Menschheit warnen“ (13. September 2026). https://www.dw.com/de/warum-ki-forscher-vor-der-ausl%C3%B6schung-der-menschheit-warnen/a-79228285
2. UK National Cyber Security Centre: „NCSC Annual Review 2025 – Chapter 01: Cyber threat to the UK“ (14. Oktober 2025). https://www.ncsc.gov.uk/collection/ncsc-annual-review-2025/chapter-01-cyber-threat-to-the-uk
3. OWASP GenAI Security Project: „LLM06:2025 Excessive Agency“; ergänzend OWASP Top 10 for Large Language Model Applications. https://genai.owasp.org/llm-top-10/