Using Machine Learning components in critical systems requires a sound safety concept and the ability to argue and prove that the risk of the considered system is acceptably low. In our previous blog post (Dealing with uncertainties of Machine Learning…
The use of Machine Learning (ML) components in safety-critical or financially critical systems is challenging. At Fraunhofer IESE, we address this challenge by systematically engineering comprehensive multi-layered safety concepts and explicitly considering sources of uncertainties. This specifically includes situations at…
Die DIN SPEC 92005 ist seit Januar 2024 öffentlich verfügbar. Sie beschäftigt sich mit der Quantifizierung von Unsicherheiten im Maschinellen Lernen (ML) und entstand unter Mitwirkung des Fraunhofer IESE, das auch den stellvertretenden Obmann stellte. This article is also available…
Der Umgang mit Unsicherheiten stellt bei der Nutzung von KI-Vorhersagen in vielen Anwendungsbereichen einen entscheidenden Faktor dar. Das gilt insbesondere in der Medizin und beim autonomen Fahren. In der Medizin kann der Umgang mit Unsicherheit dazu beitragen, dass sich KI-Modelle…
