KI-unterstützte Sicherheitsanalyse

Sicherheit ist ein entscheidender Faktor in der Entwicklung und dem Betrieb von Software und Systemen. Sie umfasst sowohl die funktionale Sicherheit (Safety) als auch die Informationssicherheit (Security). Unter definierten Bedingungen muss solch ein System sicher arbeiten und potenzielle Gefahren minimieren. Gezielte Sicherheitsanalysen ermöglichen es, frühzeitig präventive Maßnahmen zu ergreifen: Anomalien im Systemverhalten zu reduzieren, unbefugte Zugriffe auf Daten oder Systeme zu minimieren sowie vor Missbrauch und Verlust zu schützen. Zudem wird die Zuverlässigkeit der Systeme verbessert und die Sicherheit bereits in der Entwicklung kontinuierlich erhöht.

Eine wesentliche Herausforderung bei der Durchführung von Sicherheitsanalysen ist der Fachkräftemangel, der durch die wachsende Systemkomplexität und den Betrieb von Legacy-Systemen verstärkt wird. Unternehmen kämpfen damit, die Time-to-Market zu optimieren, während sie gleichzeitig die Qualität und Standardkonformität ihrer Systeme sicherstellen müssen. Besonders in hochautomatisierten Systemen führen komplexe Betriebsbereiche zu einer Vielzahl möglicher kritischer Situationen, die schwer zu beherrschen sind.

Hierbei kann Künstliche Intelligenz (KI) helfen, wenn sie reflektiert eingesetzt wird. Denn durch Halluzinationen oder nicht deterministischem Verhalten der Modelle entstehen auch Risiken. 

Trotz dieser Herausforderung bietet KI bedeutende Vorteile. Durch den gezielten Einsatz von KI können Unternehmen ihre knappen Humanressourcen auf die wesentlichen Aspekte der Sicherheitsanalysen konzentrieren. Die (Teil-)Automatisierung von Prozessen führt zu einer Effizienzsteigerung, ermöglicht die frühzeitige Erkennung von Sicherheitsrisiken und verbessert die Reaktionszeiten sowie das Risikomanagement. Der erfolgreiche Einsatz von KI in Sicherheitsanalysen erfordert detailliertes Wissen. Zudem sind tiefreichende Erfahrungen im Bereich Safety, Security sowie KI notwendig. Nur so können die Unsicherheiten, Grenzen und Risiken von KI beherrschbar gemacht werden. Ein durchdachtes Interaktionskonzept zwischen Mensch und KI-Tool ist entscheidend, um die Qualität der Ergebnisse in kritischen Bereichen sicherzustellen und Halluzinationen zu vermeiden. Unsere fortlaufende Forschung zielt auf die Integration von KI-Unterstützung in Safety- und Security-Prozesse und Sicherheitsanalysen von Systemen.

Automatisierte Safety-Analyse

Wir führen Sicherheitsanalysen wie HARA nach domänenspezifischen Standards wie ISO 26262 (»Road vehicles – Functional safety«) durch. Dazu wird Erfahrung und Zeit zur sorgfältigen Durchführung und Prüfung benötigt. Unser KI-basiertes Tool verbessert nun die Situationsraumexploration und steigert sowohl die Vollständigkeit als auch Effizienz.

Dabei starten wir mit der Bereitstellung und Auswertung verschiedener Datenquellen, um potenzielle Situationen zu identifizieren. Die von unserem KI-basierten Tool erstellte Liste an Situationen kann zudem durch einen Experten erweitert, angepasst und exportiert werden.

Im nächsten Schritt liefert unser Tool wertvolle Informationen, einschließlich der Argumentation für die Relevanz jeder identifizierten Situation.

Unsere Experten können dann die Sicherheitsanalyse fortsetzen und eine detaillierte Risikobewertung vornehmen, Hazards definieren, neu bestimmen oder auf den Situationen aufbauend auch eine Security-Analyse starten.

Security-Analyse mit KI-Tool

Wir konzentrieren uns auf die Bedrohungs- und Risikoanalyse (TARA) und verbessern diesen Analyseschritt durch die Verfeinerung von Sicherheitszielen. Unsere Lösung basiert auf den Konzepten und der Terminologie der »Common Criteria for Information Technology Security Evaluation« (ISO/IEC 15408) sowie begleitender Dokumentation, insbesondere dem »Guide for the production of Protection Profiles and Security Targets« (ISO/IEC TR 15446).

Wir starten mit der Identifizierung der zu schützenden Informationen (information assets), Funktionalitäten (function assets) und Sachwerten (physical assets) sowie potenziellen Bedrohungsakteuren (attackers). Dazu werden umfassende und detaillierte Informationen über die Systeme benötigt. Dies erfordert häufig die Durchsicht einer erheblichen Menge an Dokumentation, was zeitaufwendig ist. An dieser Stelle unterstützt unser KI-basiertes Tool, indem eine Vielzahl von Dokumenten importiert und analysiert werden kann.

Im nächsten Schritt erfassen und analysieren wir mithilfe unseres KI-basierten Tools potenzielle Bedrohungen. Dabei muss Expertise für verschiedene Rahmenwerke, zum Beispiel dem STRIDE-Bedrohungsmodell, vorliegen. Nur so können Risiken basierend auf den neuesten technologischen Entwicklungen und Publikationen, etwa den ENISA-Foresight-Cybersecurity-Threats für 2030, bewertet werden. Unser KI-basiertes Tool hilft auch hier, effizienter zu sein.

Danach legen wir Tool-gestützt geeignete Sicherheitsziele (security objectives) fest, um Sicherheitsbedrohungen zu begegnen, geltende Sicherheitsrichtlinien einzuhalten und getroffene Annahmen zu erfüllen. So müssen je nach Anwendungsbereich verschiedene Vorschriften berücksichtigt werden, wie etwa die Datenschutzgrundverordnung, das Europäische Cybersicherheitsgesetz, die NIS2-Richtlinie, HIPAA oder PCI-DSS. Darüber hinaus bieten Ressourcen wie Information Security Controls (ISO/IEC 27002) oder OWASP-Dokumentationen wertvolle Orientierung. Unser KI-basiertes Tool ist flexibel einsetzbar. Mithilfe eines auf Retrieval Augmented Generation (RAG) basierenden Bausteins kann unsere Tool-gestützte Sicherheitsanalyse auch für Kundensysteme und unternehmensspezifische Vorgaben angepasst und effektiv eingesetzt werden.