KI-Vorhersagen auf der Spur – oder: Wie ein gutes Uncertainty Management den Umgang mit KI-Modellen erleichtert

Der Umgang mit Unsicherheiten stellt bei der Nutzung von KI-Vorhersagen in vielen Anwendungsbereichen einen entscheidenden Faktor dar. Das gilt insbesondere in der Medizin und beim autonomen Fahren. In der Medizin kann der Umgang mit Unsicherheit dazu beitragen, dass sich KI-Modelle besser an bestimmte Patientengruppen oder medizinische Bedingungen anpassen lassen. Beispielsweise kann eine KI auf Grundlage von MRT-Bildern eine erste Diagnose stellen oder vorhersagen, wie sich eine bestimmte Behandlung auf eine Patientin oder einen Patienten auswirken kann. Eine solche Vorhersage ist jedoch immer mit Unsicherheiten behaftet. Denn Faktoren wie die Qualität der Bilder oder die Komplexität des zugrundeliegenden Modells spielen immer in die Vorhersagen mit hinein. Durch ein effektives Uncertainty Management lassen sich Unsicherheiten identifizieren und bewerten. Darum geht es in folgendem Fraunhofer IESE-Blog-Artikel.

Mittels eines guten Uncertainty Managements lassen sich bei der Anwendung von KI genauere und zuverlässigere Vorhersagen treffen und der Nutzerin/dem Nutzer belastbarere Indikatoren an die Hand geben, die darstellen, ob sie/er sich in einer konkreten Situation auf die Vorhersage(n) verlassen kann oder ob diese mit einer hohen Unsicherheit behaftet ist/sind. Ein Tool, das dies ermöglicht, ist der sogenannte Uncertainty Wrapper.

Unsicherheit managen

Der Uncertainty Wrapper ist eine Methode des Unsicherheitsmanagements in der Künstlichen Intelligenz, die verwendet wird, um die Vorhersagen von KI-Modellen mit verlässlichen Unsicherheitseinschätzungen zu versehen. Auf diese Weise können Unsicherheiten in der Vorhersage besser kommuniziert und quantifiziert werden.

Der Uncertainty Wrapper kann beispielsweise in der Medizin helfen, die Unsicherheit von Diagnosen und Krankheitsrisiken zu quantifizieren. Dadurch kann er die Entscheidungsfindung unterstützen. Hierzu versieht er Vorhersagen mit Indikatoren zu Unsicherheiten, die zu berücksichtigen sind. In ähnlicher Weise lässt er sich auch beim autonomen Fahren einsetzen, um Unsicherheiten bei der Hinderniserkennung und -kontrolle (z. B. aufgrund von Faktoren wie Wetterbedingungen oder Zuverlässigkeit von Sensoren) zu identifizieren und zu bewerten. So lässt sich das Fahren sicherer machen.

Vorteile durch Uncertainty Management

Der effektive Umgang mit Unsicherheiten ist ein wichtiger Aspekt, um die Zuverlässigkeit und Genauigkeit von KI-Vorhersagen zu erhöhen und Risiken zu minimieren. Ein funktionierendes Uncertainty Management kann auch die Akzeptanz und das Vertrauen in KI-Systeme in verschiedenen Anwendungsbereichen erhöhen. Schließlich wird ein besseres Verständnis der Unsicherheiten von KI-Vorhersagen es Entscheidungsträger*innen und Endanwender*innen auch erleichtern und ermöglichen, fundiertere Entscheidungen zu treffen. Nur so lässt sich das Potenzial von KI in kritischen Sektoren wie dem Gesundheitssektor und/oder dem Mobilitätssektor voll ausschöpfen.

Sie möchten mehr über das Thema erfahren oder benötigen weitere Unterstützung? – Dann kontaktieren Sie uns!  Wir stehen Ihnen gerne bei Fragen, Anregungen und/oder Herausforderungen zur Seite.