Seitdem Künstlicher Intelligenz (KI) viele unserer Lebensbereiche durchdrungen hat, hat sich auch unsere Gesellschaft durch den Einsatz von KI an vielen Stellen verändert. Ein Bereich, welcher vermehrten durch den Einsatz von KI eine Veränderung erfährt, ist die IT-Sicherheit. Wahrnehmbar ist, dass insbesondere Cyber-Angriffe einen Wandel durchlaufen haben. Angriffe kommen schneller und sind ebenfalls qualitativ besser geworden.
Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat nunmehr eine explizite Warnmeldung zu dieser Thematik herausgegeben. Hierbei stellt das BSI u. a. heraus „KI senkt Aufwand, Zeitbedarf und Einstiegshürden für offensive Cyberfähigkeiten maßgeblich“. Die wichtigsten Aussagen aus der Sicherheitsinformation wollen wir in unserem heutigen Blog-Beitrag einmal näher darstellen.
Künstliche Intelligenz verändert die Cybersicherheitslage
Die „Ausgangslage“ ist relativ klar. Benötigten Angreifer bzw. mit den Worten des BSI „böswillige Akteure“ in der Vergangenheit noch enorme Aufwände an zeitlichen und finanziellen Ressourcen – z.B. für das Verfassen von Phising-E-Mails – so stoßen KI-Systeme in völlig neue Sphären vor. Innerhalb kürzester Zeitfenster ist es möglich Software zu analysieren und hierbei neue Schwachstellen und sog. Exploits zu erkennen.
Darüber hinaus profitieren die Angreifer „in besonderem Maße von der Geschwindigkeit, Skalierung und Automatisierung“. Das BSI geht sogar soweit festzustellen, dass KI die „Dynamik von Schwachstellenentdeckung, Exploit-Entwicklung und Angriffsoperationen so stark, dass bisher tragfähige Verteidigungsannahmen unter erheblichen Druck geraten“. Dies ist selbstverständlich nicht gleichbedeutend, dass sämtliche bisher entwickelte Sicherheitsstrategien und -ansätze hinfällig wären. Nichts desto trotz sind Anpassungen, insbesondere hinsichtlich der Prozesse und Reaktionsmechanismen an die deutlich komplexere Bedrohungslage erforderlich.
Welche Risiken und Chancen bestehen?
Allen voran stellt sich eine neue Dynamik ein. Durch den Einsatz von KI entstehen eine viel höhere Geschwindigkeit und somit auch eine viel höhere Handlungsnotwendigkeit für das Erkennen und Reagieren von bzw. auf Angriffe(n): „Eine der zentralen Entwicklungen besteht darin, dass einerseits mehr Schwachstellen entdeckt werden, andererseits aber ebenso die Zeit zwischen Schwachstellen-Entdeckung und möglicher Ausnutzung massiv schrumpft bzw. auch weiter negativ wird – sogenannte Zero-Day Angriffe“.
Daneben spielt auch der Bereich des Social-Engineerings eine immer größere Rolle durch eine KI-getriebene Automatisierung von Angriffen: „KI kann ein Hilfsmittel für Angreifer darstellen, um effizient, zielgerichtete und schwer erkennbare Phishing-Kampagnen durchzuführen“. Zusätzlich können öffentlich verfügbare Informationen von Unternehmenswebseiten oder aus den sozialen Medien als zusätzliches Futter dienen oder für personalisierte Angriffe verwendet werden.
Zu guter Letzt bieten natürlich auch KI-Systeme selbst ein Einfallstor für Angreifer. Das BSI weist darauf hin, dass insbesondere große KI-Sprachmodelle (LLMs) und darauf basierende KI-Systeme weisen neue Klassen von Schwachstellen auf, etwa sogenannte Prompt Injections sowie Indirect Prompt Injections: „Dabei nutzen Angreifer entweder direkte Anfragen an KI-Systeme, um Konfigurationen zu ändern oder gar Code auf (internen) Systemen auszuführen oder verstecken Anweisungen, beispielsweise auf Webseiten, in Dokumenten oder E-Mails, die in der Folge durch einen LLM-Nutzer unwissentlich (Indirect) an das Modell weitergegeben werden und dessen Verhalten gezielt beeinflussen können.“
Allerdings bietet KI für Organisationen auch neue Möglichkeiten. So bietet sich die Möglichkeit die eigene IT-Infrastruktur auf Sicherheitslücke zu überprüfen, Inventarlisten zu aktualisieren und Synergien zu fehlenden Sach- oder Personalressourcen zu schaffen. Jedoch muss bei allen Überlegungen stets beachtet werden, dass KI-Tools lediglich eine ergänzende, niemals jedoch eine ersetzende Maßnahme darstellen sollten.
Welche Maßnahmen empfiehlt das BSI?
Erster und zu gleich wichtigster Aspekt ist die Annahme der neuen Herausforderungen durch die Wirtschaft und Verwaltung: „Organisationen müssen sich kurzfristig auf die neue Bedrohungslage einstellen und zielgerichtete Maßnahmen umsetzen“. Die im Folgenden gelisteten und durch das BSI dargestellten Sicherheitsmaßnahmen sind nicht neu entwickelt wurden, erlangen aber vermehrt an Bedeutung.
- Angriffsflächen kennen und minimieren: „IT-Sicherheitsverantwortliche sollten einen grundsätzlichen Überblick über alle in der Organisation betriebenen IT-Systeme und Anwendungen besitzen, um beim Aufkommen neuer Schwachstellen umgehend die eigene Betroffenheit bewerten und generelle Angriffswege auf die eigene Organisation erkennen zu können.“ Angeraten wird u. a. das Erstellen eines Assetregisters (nebenbei sei bemerkt, dies ist Bestandteil eines jeden Informationssicherheitsmanagementsystem), das Erkennen und Prüfen exponierter Dienste und sonstiger Zugänge sowie Netzwerksegmentierung und regelmäßige Penetrationtests.
- Patchmanagement: Ein effizientes Patchmanagement ist allein aufgrund der gestiegenen Anzahl von Schwachstellen essenziell. Hier nennt das BSI klassische Aspekte einer Patchstrategie: Ressourcen prüfen und kennen, Automatisierungen nutzen, Systeme priorisiere, Bewertungskriterien regelmäßig überprüfen, Erreichbarkeit der Organisation sicherstellen, End-of-Life bzw. End-of-Support Zeitpunkte von Soft- und Hardwareprodukten kennen.
- Detektion und Vorfallsbearbeitung ausbauen: Das BSI führt an, dass mit der mit KI einhergehenden vereinfachten und erheblich beschleunigten Exploit-Entwicklung ein Ausnutzen von Zero-Day-Schwachstellen erheblich zunimmt. Damit steigt auch die Bedeutung der Detektion von verdächtigen Ereignissen. Empfohlen wird hier u.a. das Monitoring im Netzwerk bzw. auf IT-Systeme zu prüfen und zu verstärken, um Angriffe frühzeitig erkennen und Gegenmaßnahmen einleiten zu können. Von größerer Bedeutung ist zudem die laufende Protokollierung sowohl von Netzwerkverkehr als auch von Ereignissen, um Angriffe zu erkennen und Umfang und Zeitraum einer Kompromittierung zu kennen. Empfohlen werden zudem SIEM-Lösung (Security Information and Event Management) zur automatisierten Auswertung der Protokolldaten, Alarmierung im Falle von Auffälligkeiten sowie zur unverzüglichen Analyse und Reaktion auf mögliche IT-Sicherheitsvorfälle. Ebenso können IT-Sicherheitslösungen zur Detektion und Prävention von Angriffen wie EDR, XDR und AV-Lösungen Ansätzen bieten. Von zentraler Bedeutung ist außerdem die Kapazitäten zur Vofallsbearbeitung (Incident Response) bereits vorab zu analysieren, zu planen und bereitstellen zu können.
- Standardmaßnahmen umsetzen: Last but not least sollen Best-Practices zu Produkten und IT-Grundschutzmaßnahmen verifiziert und umgesetzt werden. Hierunter zählen z. B. Rechtevergaben prüfen, Multi-Faktor Authentifizierung nutzen und erzwingen, Betrieb und Test eines Backupmanagements, Beschäftigte sensibilisieren usw.
Fazit
Die IT-Sicherheitslage und allem voran die Cybersicherheit verändern sich immer schnelle und der Einsatz von KI-Systemen trägt hier noch im besonderen Maße bei. Das Tempo, in dem Schwachstellen entdeckt und ausgenutzt werden können erreicht einen neuen Höhepunkt. Organisationen sind in jedenfalls gut beraten die Entwicklungen rund um das Thema KI nicht nur als Trend aufzufassen, sondern als nachhaltige Veränderung der IT-Sicherheitslage. Außerdem ist es an der Zeit die eigenen Sicherheitsprozesse zu überprüfen und an die neuen Gegebenheiten anzupassen, um mit der wachsenden Dynamik der Bedrohungslage Schritt zu halten.
Über den Autor: Alexander Weidenhammer ist Rechtsanwalt und als externer Datenschutz- und Informationssicherheitsbeauftragter beim Dresdner Institut für Datenschutz tätig. Im Fokus seiner Beratungstätigkeiten liegen insbesondere Rechtsanwalts- und Steuerberatungskanzleien, mittelständische Unternehmen sowie Vereine. Für Anregungen und Reaktionen zu diesem Beitrag können Sie den Autor gern per E-Mail kontaktieren.
