Die Automatisierung von technischen Systemen bis hin zur Autonomie ist einer der aktuellen Megatrends in der Industrie. Künstliche Intelligenz (KI) ermöglicht die Realisierung dieser Autonomie. Oftmals sind diese Systeme Bestandteile eines größeren Ökosystems, in dem durch ein Fehlverhalten eines solchen autonomen Systems wirtschaftlicher oder gar persönlicher Schaden entstehen kann. Dies erfordert spezielle Maßnahmen zur Garantie der funktionalen Sicherheit von Systemen mit KI-Anteilen. Bestehende Verfahren, wie sie durch Standards wie IEC 61508 vorgegeben werden, sind nur noch bedingt anwendbar oder umfassen nicht den vollen Umfang der Problematik der funktionalen Sicherheit von autonomen Systemen. Als eine der weltweit führenden Forschungsabteilungen zum Thema Funktionale Sicherheit arbeiten wir sowohl im Rahmen nationaler und internationaler Projekte als auch bilateral mit unseren Industriepartnern an der Lösung dieser Probleme.