Wie kann ein Cyberkrimineller ChatGPT ausnutzen?
Anwendung #1 – Malware einfach und schnell erstellen
Früher war das Schreiben von Schadsoftware, die von Antivirenprogrammen nicht erkannt wird, eine aufwendige Aufgabe. Dank zahlreicher Online-Tutorials (z. B. auf YouTube) wurde es einfacher. Heute kann man mit ChatGPT in wenigen Sekunden funktionierenden Schadcode generieren!
Hacker sparen dadurch Zeit und erhalten gleichzeitig Zugriff auf nahezu das gesamte öffentlich verfügbare Wissen über Hacking – einschließlich Methoden zur Umgehung von EDR-Systemen.
Anwendung #2 – Social Engineering verstärken
ChatGPT kann auch zur Entwicklung von Angriffstaktiken, Tools und Vektoren verwendet werden.
Beispiel: Man kann ChatGPT bitten, Spam- oder Phishing-E-Mails zu verfassen – inklusive Schadcode und Infektionskette. Das Ergebnis ist qualitativ hochwertig und wird in weniger als einer Minute generiert!
Zwei Hauptvorteile für Cyberkriminelle:
- Höhere Authentizität, Personalisierung und Qualität der Nachrichten – oft Schwachstellen, die bisher zur Erkennung beitrugen.
- Enorme Zeitersparnis, sodass sich Angreifer auf die technischen Aspekte konzentrieren können.
Anwendung #3 – Neue Schwachstellen ausnutzen
ChatGPT kann Cyberkriminellen helfen, neue Schwachstellen zu entdecken – vorausgesetzt, das Modell bleibt aktuell und indexiert kontinuierlich neue Inhalte zu Cyberbedrohungen.
Beispiel: Auf die Anfrage „Die Website von Unternehmen X wird bei Y gehostet – nenne mir die neueste Sicherheitslücke, die ich ausnutzen kann“ liefert ChatGPT potenziell verwertbare Informationen.
Risiken bei der Nutzung von ChatGPT im Unternehmen
Risiko #1 – Nutzung urheberrechtlich geschützter Inhalte
Ein einfaches Copy-Paste von ChatGPT-generierten Inhalten (ohne Überprüfung) erhöht das Risiko von Plagiaten.
Risiko #2 – Schwer überprüfbare Quellen
Die Herkunft der Informationen ist oft unklar. Da die Antworten überzeugend wirken, neigen Nutzer dazu, sie als absolute Wahrheit zu akzeptieren.
Risiko #3 – Informationslecks
ChatGPT kann unbeabsichtigt (oder absichtlich) sensible Informationen aufnehmen – ohne dass klar ist, wie diese weiterverwendet werden. Finanzdaten oder personenbezogene Kundendaten könnten so offengelegt werden.
Wie kann man sich vor dem Missbrauch von ChatGPT schützen?
Tipp #1 – IT-Sicherheitspraktiken stärken
Da Hacker durch ChatGPT Zeit sparen, können sie komplexere und schwerer erkennbare Angriffe entwickeln. Sicherheitsrichtlinien müssen daher höchste Priorität erhalten, um die Angriffsfläche zu minimieren.
Tipp #2 – Neue Angriffstaktiken kontinuierlich beobachten
Cybersecurity-Monitoring ist entscheidend: Es hilft, die technische Reife von Angriffen zu verstehen und rechtzeitig zu reagieren.
Empfohlene Maßnahmen:
- Schwachstellen-Monitoring zur Früherkennung neuer Lücken
- Operatives und strategisches Monitoring (z. B. mit dem MITRE-Framework)
- Rechtliches Monitoring, um über KI-bezogene Gesetze (z. B. Datenschutz) informiert zu bleiben
Fazit: ChatGPT – ein Werkzeug auch für die Verteidigung?
ChatGPT wirft berechtigte Fragen für Cybersicherheitsexperten auf. Doch es kann auch ein wertvolles Werkzeug im Alltag sein – wenn es richtig eingesetzt wird.
Advens wird dieses Thema weiter vertiefen, um seine Sicherheitspraktiken weiterzuentwickeln.
Möchten Sie Teil dieser neuen Reise sein?
