Wie können Cyberkriminelle ChatGPT ausnutzen?
Fokus auf Chat(bot)GPT
ChatGPT wurde im November 2022 von OpenAI entwickelt. Dieses auf künstlicher Intelligenz basierende System verwendet ein automatisches Sprachverarbeitungsmodell namens GPT (Generative Pre-trained Transformer). Das Tool ist in der Lage, innerhalb kürzester Zeit klare Antworten auf eine vom Benutzer eingegebene Frage zu generieren.
Anwendung 1 – Einfache und schnelle Erstellung von Malware
In der Vergangenheit war es eine große Herausforderung, Quellcode für eine Malware zu schreiben, die von Antivirenprogrammen nicht erkannt wird. Heute ist das einfacher geworden: Es gibt viele Online-Tutorials, etwa auf Youtube. Aber jetzt ist es möglich, diese Aufgabe in Sekundenschnelle mit Hilfe von ChatGPT zu erledigen!
Hacker sparen so Zeit und haben gleichzeitig Zugriff auf fast das gesamte öffentlich verfügbare Wissen über Hacking, wie etwa Methoden zur Umgehung von EDRs.
Anwendung 2 – Social Engineering verstärken
ChatGPT kann auch von Angreifern genutzt werden, um ihre Strategien auszuarbeiten und Werkzeuge und Vektoren für Angriffe oder Kompromittierungen zu entwickeln.
So ist es zum Beispiel möglich, ChatGPT mit der Erstellung von Spam- und Phishing-E-Mails mit schädlichem Code und einer Infektionskette zu beauftragen. In weniger als 1 Minute erhalten Hacker ein qualitativ hochwertiges Ergebnis!
Diese Technik bietet Cyberkriminellen zwei wesentliche Vorteile:
- Eine Verbesserung der Authentizität, Personalisierung und Qualität der Nachrichten, die derzeit oft fehlen und Hinweise auf bösartige Nachrichten sein können.
- Eine erhebliche Zeitersparnis, die es Cyberkriminellen ermöglicht, sich auf die rein technischen Aspekte des Angriffs zu konzentrieren.
Anwendung 3 – Neue Schwachstellen ausnutzen
Auch für Cyberkriminelle, die neue Schwachstellen entdecken wollen, könnte ChatGPT von großem Nutzen sein. Der Roboter muss jedoch in der Lage sein, sich schnell zu aktualisieren und immer mehr Inhalte über Cyberbedrohungen zu indexieren. Daher stellt jede exponierte oder schlecht geschützte Komponente mehr denn je eine reale Bedrohung dar, da sie ein potenzielles Einfallstor für einen Angreifer darstellt.
Ein Beispiel: Auf die Anfrage „Die Website der Firma X wird von Y gehostet, nenne mir die aktuellste Sicherheitslücke, die ich für einen Angriff ausnutzen kann“ erhält der Hacker eine Fülle von Informationen, die ihm weiterhelfen.
ChatGPT ebnet den Weg für Script Kiddies
Script Kiddies sind unerfahrene Hacker, die von erfahrenen Hackern entworfene Programme einfach ausführen, ohne sie wirklich zu verstehen oder zu beherrschen. Die Angriffs- und Verteidigungstechniken, die heute in ChatGPT für jedermann zugänglich sind, können daher viele weniger erfahrene Angreifer in die Arena locken (und vielleicht sogar böswillige Angreifer inspirieren)!
Risiken beim Einsatz von ChatGPT in Unternehmen
Risiko 1 – Nutzung von Daten ohne geistiges Eigentum
Das einfache Kopieren und Einfügen von Inhalten, die mit dem virtuellen Assistenten ChatGPT erstellt wurden (ohne die Informationen zu überprüfen), erhöht beispielsweise die Gefahr von Plagiaten.
Risiko 2 – Schwer überprüfbare Quellen
Ein weiteres Problem ist, dass bei der Verwendung von ChatGPT die Quellen der generierten Informationen nicht kontrolliert werden können. Die Antworten des virtuellen Assistenten sind daher schwieriger zu überprüfen – und da sie oft ausgereifter erscheinen, könnten Nutzer versucht sein, sie vorschnell als absolute Wahrheit anzusehen.
Risiko 3 – Zunahme von Informationsverlusten
Schließlich kann ChatGPT dazu führen, dass sensible Informationen versehentlich (oder auch nicht) mit dem Roboter geteilt werden, ohne zu wissen, ob und wie diese Informationen weiterverwendet werden. Stellen Sie sich vor, Ihre Finanzdaten oder die personenbezogenen Daten Ihrer Kunden wären über das Tool zugänglich!
Wie kann ich mich vor ChatGPT-Missbrauch schützen?
Tipp 1 – Verstärken Sie Ihre IT-Sicherheitspraktiken
ChatGPT erleichtert Hackern die Arbeit erheblich: Die Zeit, die sie z. B. bei der Erstellung von Malware und Phishing-E-Mails einsparen, können sie für komplexere und schwerer zu entdeckende Angriffe nutzen. Gute Sicherheitspraktiken müssen daher hohe Priorität haben, um die Angriffsfläche zu minimieren.
Drei bewährte Verfahren
- Verwalten Sie Schwachstellen und verfügen Sie über ein effizientes Patch-Management-Verfahren.
- Implementieren Sie einen SOC der nächsten Generation, der in der Lage ist, effektiv auf bekannte und noch unbekannte Bedrohungen für Signaturdatenbanken zu reagieren.
- Sensibilisieren Sie Ihre Mitarbeiter für die zunehmende Bedeutung von Social Engineering und Phishing und Unterstützung bei der Einführung neuer Methoden.
Tipp 2 – Beobachten Sie ständig die neuen Taktiken der Angreifer
Um die Cybersicherheit zu erhöhen, ist Überwachung unerlässlich: Sie ermöglicht es, das technische Niveau der Angriffe zu bestimmen und nicht von ihrer zunehmenden Reife und Schadensfähigkeit überholt zu werden.
Es geht also darum, Folgendes einzurichten:
- Schwachstellenüberwachung, um neue Schwachstellen in Komponenten zu antizipieren;
- operative und strategische Überwachung, um die neuen Methoden der Angreifer genau zu verfolgen (weitere Informationen zu diesem Thema siehe MITRE-Framework);
- Rechtsbeobachtung, um über die Gesetzgebung in Bezug auf KI-Angriffe (z. B. Abfluss sensibler Informationen) auf dem Laufenden zu bleiben.
Mit dem Aufkommen von Tools wie ChatGPT haben sich großartige Möglichkeiten eröffnet, das tägliche Leben zu beschleunigen und zu verbessern. Die Einführung dieser Tools muss jedoch begleitet werden, um die Risiken zu beherrschen, die sowohl mit schlechten Praktiken als auch mit echter Schädigungsabsicht verbunden sind. Technologiebeobachtung ist wiederum [für einen CISO] unerlässlich.
Experten für Cybersicherheit: ChatGPT – ein Tool, das man nutzen sollte?
ChatGPT hat das Zeug dazu, Cybersicherheitsexperten in Verzückung zu versetzen. In der Tat kann dieser revolutionäre virtuelle Assistent berechtigte Ängste hervorrufen – aber er kann auch eine große Hilfe bei der täglichen Arbeit sein.
ChatGPT ist ein wichtiges Thema. Deshalb wird Advens in naher Zukunft in dieses Thema investieren, um unsere Sicherheitspraktiken weiter zu entwickeln! Möchten Sie Teil dieses neuen Abenteuers sein?
Werden Sie Teil des Advens-Teams >
