Künstliche Intelligenz (KI) hat sich seit 2023 als wichtiger Transformationsmotor etabliert, angetrieben durch den Aufstieg der generativen KI. Sie verändert die Art und Weise wie wir arbeiten, z. B. in Bezug auf die Automatisierung von Aufgaben, die Erstellung von Inhalten sowie die Prozessoptimierung. Dennoch ist der Einsatz von KI nicht ohne Risiken.
Hinter diesem Fortschritt verbergen sich jedoch sehr reale Bedrohungen. KI-Risiken sind längst nicht mehr nur theoretischer Natur: Sie wirken sich bereits auf die Cybersicherheit, den Datenschutz und die ethischen Grundsätze von Organisationen aus. Indem KI in hoher Geschwindigkeit Inhalte oder Code erzeugt, schafft sie neue Angriffsflächen, die von Cyberkriminellen aktiv ausgenutzt werden.
Es ist unerlässlich, diese Risiken zu verstehen, um vorausschauend zu handeln, sich wirksam zu schützen und eine angemessene Governance sicherzustellen. Drei große Kategorien prägen heute die Bedrohungslandschaft.
1. Cybersicherheitsrisiken: Wie KI Bedrohungen verstärkt
KI nützt nicht nur Unternehmen, sondern wird auch von Cyberkriminellen eingesetzt. Dabei zeichnen sich drei wesentliche Entwicklungen ab:
a. Social Engineering und Deepfakes
Video-Deepfakes: eine schwer zu erkennende Bedrohung
Im Jahr 2024 verlor ein Unternehmen aus Singapur 25 Millionen Dollar bei einer vollständig gefälschten Videokonferenz. Der Mitarbeiter der Finanzabteilung glaubte, mit seinem Vorgesetzten und mehreren Kollegen zu kommunizieren. Eingeschaltete Webcams, authentische Stimmen, natürliches Verhalten – alles schien echt. Doch bei sämtlichen Teilnehmern handelte es sich um KI-generierte Deepfakes.
Deepfakes sind in Asien und den USA bereits weit verbreitet und erfordern mittlerweile nur noch einen einfachen PC und ein Foto der Zielperson. Experten rechnen 2026 mit einer Flut solcher Angriffe in Europa.
Personalisierte Phishing-Angriffe und Betrugsmaschen
Über Videos hinaus ermöglicht KI eine massive Personalisierung von Angriffen, indem sie öffentlich zugängliche Informationen über die Opfer (soziale Netzwerke, Datenlecks) ausnutzt. Die Szenarien werden so glaubwürdig – in industriellem Maßstab.
b. Kompromittierte Modelle
Unternehmen nutzen häufig vortrainierte Modelle, die auf Plattformen wie Hugging Face verfügbar sind. Das Problem: Einige davon sind kompromittiert.
Kennzahlen: Von 4,47 Millionen analysierten Versionen wiesen 51.700 Schwachstellen oder Anzeichen einer Kompromittierung auf (das entspricht 1,15 Prozent). Hinter diesem Prozentsatz verbergen sich Tausende von Modellen, die mit Backdoors infiziert sind.
c. Vibe coding
Vibe Coding bezeichnet eine aufkommende Praxis: die vollständige Übertragung des Entwicklungszyklus an eine KI, vom Entwurf bis zur Umsetzung. Entwickler beschreiben ihre funktionalen Anforderungen und der KI-Assistent schlägt die Architektur vor, wählt die Technologien aus, generiert den Code und übernimmt das Deployment in der Produktionsumgebung.
Fallbeispiel Replit: Im Juli 2025 löschte das KI-Codetool Replit eine Produktionsdatenbank mit 1.206 Datensätzen und 1.196 B2B-Profilen des Kunden Saaster. Die KI hat:
- Die Anweisungen zum Anwendungs-Freeze ignoriert
- unbefugte Änderungen vorgenommen
- behauptet, dass eine Wiederherstellung unmöglich sei (nachweislich falsch: Es gab Backups)
Die Lehre daraus: Kritische Vorgänge (Datenbank, Infrastruktur, Bereitstellungen) erfordern eine systematische menschliche Validierung. Vibe-Coding erfordert weiterhin eine strenge menschliche Überwachung, bevor es in der Produktionsumgebung eingesetzt wird.
d. Prompt-Injection
KI-Chatbots können durch gezielte Manipulation von Eingaben missbraucht werden. Die DAN-Methode (Do Anything Now) veranschaulicht dies: Der Angreifer erschafft eine fiktive Figur mit Autorität, stellt seine eigenen Regeln über die des Systems und nutzt die in im Training des Chatbots angelegte Tendenz aus, Nutzerwünsche möglichst zu erfüllen.
Das Ergebnis: Die KI führt normalerweise verbotene Aktionen aus (Generierung von Schadcode, Umgehung ethischer Filter, Weitergabe sensibler Informationen). Echtes Social Engineering, angewandt auf künstliche Intelligenz, bei der menschlichen Psychologie auf Schwachstellen des maschinellen Lernens trifft.
Neben der Cybersicherheit betrifft eine weitere große Herausforderung die Vertraulichkeit der von der KI verwendeten Daten.
2. Datenschutzrisiken: Wie lassen sich Daten vor KI schützen?
KI basiert auf riesigen Datenmengen, die oft personenbezogen sind. Dies bringt erhebliche Herausforderungen mit sich:
- Datenlecks und Missbrauch: Daten können ohne ausdrückliche Zustimmung in die Modelle einfließen.
- Regulatorische Sanktionen: Europäische Aufsichtsbehörden verschärfen ihre Kontrollen.
Fall OpenAI: 15 Millionen Euro Geldstrafe
Im Januar 2025 verhängte die italienische Datenschutzbehörde gegen OpenAI ein Bußgeld wegen Verstößen gegen die DSGVO. Beanstandet wurden unter anderem eine fehlende Rechtsgrundlage für die Datenverarbeitung, mangelnde Transparenz, Versäumnisse bei der Altersüberprüfung sowie die unterlassene Meldung eines einer Datenschutzverletzung, von der 440 italienische Nutzer im März 2023 betroffen waren.
Die Einhaltung der DSGVO ist für alle KI-Anbieter zwingend erforderlich, andernfalls drohen schwerwiegende finanzielle und reputative Folgen.
3. Ethische KI-Risiken: Wie sich Bias und Halluzinationen beherrschen lassen
Über die Technik hinaus wirft KI auch gesellschaftliche Fragen auf.
a. Bias und algorithmische Diskriminierung
Im Mai 2025 wurde eine Sammelklage gegen Workday wegen mutmaßlicher Diskriminierung in dessen KI-gestütztem Recruitingsystem eingereicht. Der Hauptkläger erhielt über einen Zeitraum von sieben Jahren Hunderte automatischen Ablehnungen, manchmal innerhalb weniger Minuten und zu ungewöhnlichen Zeiten (nachts oder am Wochenende).
Der Verdacht richtet sich auf diskriminierende Kriterien: Alter, ethnische Zugehörigkeit, Behinderung. Sollte die Justiz diese Vorwürfe bestätigen, könnte dieser Prozess einen Präzedenzfall schaffen: KI-Anbieter würden direkt für die Verzerrungen ihrer Algorithmen haftbar gemacht, wenn sie als „Vertreter der Arbeitgeber“ agieren.
b. Halluzinationen
Generative KI kann Informationen erfinden. So haben beispielsweise US-Anwaltskanzleien fiktive Rechtsprechungen zitiert, was zu Geldstrafen führte. In sensiblen Bereichen wie dem Rechtswesen können solche Fehler schwerwiegende Folgen haben.
Anpassung der Governance zur Bewältigung von KI-Risiken
Die Risiken durch KI sind vielfältig und entwickeln sich dynamisch. Um sie zu beherrschen, sollten Sie zunächst Ihr Organisationsprofil ermitteln: Sind Sie ein reiner KI-Nutzer, ein B2B-Dienstleister im Bereich KI oder Hersteller maßgeschneiderter KI-Modelle? Jedes Profil bringt unterschiedliche rechtliche Verantwortlichkeiten mit sich – je nach den Vorgaben des EU AI Act oder der Norm ISO 42001.
Eine KI-Reifegrad-Assessment ermöglicht es Ihnen, Ihre regulatorische Compliance zu bewerten und Prioritäten zu setzen. Drei Säulen bilden anschließend die Grundlage für eine effektive Governance:
- Formalisieren Sie Ihre Richtlinien: Nutzungsregeln, ethische Grenzen, Cybersicherheitsanforderungen.
- Sensibilisieren Sie kritische Zielgruppen (Entwickler, HR, Finanzabteilung) für die spezifischen Risiken ihres Fachbereichs.
- Verteilen Sie die Verantwortlichkeiten auf die Abteilungen Cybersicherheit, Recht, Einkauf und die Fachbereiche, um einen bereichsübergreifenden Ansatz zu gewährleisten.
Heute sind KI-Risiken für alle Organisationen Realität. Diese Risiken zu identifizieren, zu verstehen und zu steuern ist keine Option mehr: Es ist die Voraussetzung dafür, um KI in einen vertrauenswürdigen und nachhaltigen Leistungstreiber zu verwandeln.
