Die diabetische Retinopathie ist die häufigste Ursache für den Verlust des Sehvermögens bei Erwachsenen im Alter zwischen 25 und 60 Jahren in Europa. Wird sie frühzeitig erkannt, kann eine Behandlung den Sehkraftverlust wirksam reduzieren oder verhindern. Jedoch gibt es bisher nur in wenigen Ländern nationale Screening-Programme zur Erkennung von Diabetischer Retinopathie. Diese sind zudem sehr kostspielig.

Das Unternehmen Ubotica Technologies ist im Rahmen der FED4SAE-Innovationsmaßnahme als Gewinner aus einem Open Call hervorgegangen und hat eine auf Deep Learning basierende Lösung entwickelt, um das Vorhandensein von Indikatoren einer Diabetischen Retinopathie (DR) in Netzhautbildern zu erkennen. Diese DR-Indikatoren auf der Netzhaut können mithilfe spezieller Retinakameras (Netzhautkameras, Funduskameras) erkennbar gemacht werden.

Durch den Einsatz der von fortiss entwickelten Software NNDK (Neural Network Dependability Kit) konnte das Deep-Learning-Modell so verbessert werden, dass es direkt in einer Funduskamera eingesetzt werden kann. Die Lösung wurde entwickelt, um Augenärzte bei der genauen und konsistenten Bewertung und Diagnose von DR zu unterstützen. Zu diesem Zweck liefert sie mithilfe von NNDK auch Informationen über die Grundlage, auf der die Bewertung vorgenommen wurde.

Motivation

Ziel der Entwicklung war es, einen funktionierenden Prototyp zu erstellen, der die Klassifizierung von Netzhautfundusbildern auf das Vorhandensein von Indikatoren für DR demonstriert. Die inhärenten Unsicherheiten von Algorithmen des Maschinellen Lernens schränken jedoch aufgrund ihres datengesteuerten Ansatzes die Integration in ein solches Klassifikationssystem ein, insbesondere in einem so sicherheitskritischen Bereich.

Wesentliche Herausforderungen beim Einsatz auf Künstlicher Intelligenz (KI) basierender Lösungen sind zum einen, Aussagen über die Zuverlässigkeit der Entscheidungen der künstlichen neuronalen Netze (Artificial Neural Networks = ANN) hinsichtlich Robustheit, Interpretierbarkeit und Korrektheit treffen zu können, und zum anderen in der stetigen Überwachung der Entscheidungen des neuronalen Netzes zu gewährleisten.

Lösungsansatz

Neuronale Netze sind künstliche Netzwerke aus vielen kleinen Einheiten (Neuronen), welche hochgradig verknüpft sind. Die einzelnen Neuronen sind adaptiv und das Netz damit lernfähig. In den letzten Jahren wurden neuronale Netze in großem Umfang in verschiedensten Anwendungen, wie z. B. dem Autonomen Fahren oder der Produktion zur Bilderkennung, Objektdetektion, Wahrnehmung und auch zur Entscheidungsfindung, eingesetzt. Diese lernfähigen Komponenten sind jedoch mit herkömmlichen Methoden nur schwer zu überprüfen. Insbesondere für die ANN-gestützte Klassifizierung medizinischer Bilder ist es wichtig, Eigenschaften der Robustheit von ANNs gegenüber verrauschten oder sogar böswillig manipulierten sensorischen Eingaben zu ermitteln. Da es keine bewährten Verfahren für die Entwicklung sicherer neuronaler Netze gibt, besteht außerdem ein erheblicher Bedarf an diversen geeigneten Metriken zur Messung wichtiger Zuverlässigkeitsmerkmale.

Ubotica hat, basierend auf 35.000 frei verfügbaren, vorklassifizierten Netzhautbildern, ein neuronales Netz, basierend auf Deep Learning, zur Indikation von DR trainiert. Die technische Lösung nutzt die Intel Movidius Myriad X Vision Processing Unit (VPU), eine elektronische Prozessoreinheit, die direkt in die Funduskamera integriert werden kann. Zunächst verarbeitet die VPU die Netzhautbilder mit ihren integrierten Bildfilterfunktionen vor. Daraufhin wird das trainierte neuronale Netz angewendet, um das Netzhautbild auf DR-Indikatoren zu untersuchen. NNDK kommt in der Entwicklung des neuronalen Netzes zum Einsatz, um mit verschiedenen Metriken dessen Leistung zu bewerten und damit das Modell weiter zu verbessern.

Das NNDK ist eine von fortiss entwickelte Open-Source-Toolbox zur Unterstützung des Safety-Engineering und zum besseren Verständnis von neuronalen Netzen. Es unterstützt die Verifikation, die Testfallgenerierung und die Berechnung von Metriken für neuronale Netze. Es basiert auf formalen Methoden, die zur Modellierung und rigorosen Überprüfung von Computersystemen dienen, um in sicherheitskritischen Systemen Fehlerfreiheit zu beweisen und um die Qualität von neuronalen Netzen zu argumentieren. Somit können neuronale Netze entwickelt werden, die robuster, zuverlässiger, interpretierbarer und vertrauenswürdiger sind.

Zu den wichtigsten Funktionen des NNDK gehören:

  • eine formale Argumentationsmaschine zur Sicherstellung, dass die Generalisierung nicht zu unerwünschtem Verhalten führt,
  • neuartige Zuverlässigkeitsmetriken zur Anzeige einer ausreichenden Beseitigung von Unsicherheiten im Produktlebenszyklus und
  • eine Laufzeitüberwachung zur Argumentation, ob eine Entscheidung eines neuronalen Netzes im Betrieb durch vorherige Ähnlichkeiten in den Trainingsdaten unterstützt wird.

In der Entwicklung der DR-Detektion kamen insbesondere die Zuverlässigkeitsmetriken von NNDK sowie dessen Unterstützung zur Laufzeitüberwachung zum Einsatz: mithilfe einer speziellen Metrik zu Berechnung der Neuronenabdeckung konnte etwa die Größe des neuronalen Netzes um 74% reduziert werden, ohne signifikanten Einfluss auf dessen Genauigkeit bei der Klassifikation der Netzhautbilder. Dadurch wurde die Berechnung der Klassifikationsergebnisse erheblich beschleunigt. Ferner wurde die Laufzeitüberwachungsfunktion von NNDK eingesetzt, um dem Benutzer der Kamera diejenigen Trainingsbilder anzuzeigen, die dem analysierten Bild am ehesten entsprechen. Dadurch kann der Untersuchende die Entscheidung des KI-Systems nochmals unabhängig überprüfen und somit wird die In-Line-Erkennung von diabetischer Retinopathie um ein verifizierbares KI-Element erweitert.

Nutzenversprechen: Augenärzte bei Bewertung und Diagnose unterstützen

Die entwickelte Lösung zielt nicht darauf ab, das Screening der Netzhautfundusbilder durch medizinische Experten zu ersetzen. Vielmehr wird die Rolle der Untersuchenden durch die Erstellung einer ersten Klassifizierung unterstützt. Entscheidend ist zudem, dass fortiss eine Erklärungskomponente für Mediziner:innen hinzugefügt hat, wodurch das Vertrauen in die Entscheidung der KI gestärkt wird. Somit unterstützt die Software Augenärzte bei der genauen und konsistenten Bewertung und Diagnose von DR.

Ubotica arbeitet mit Herstellern von Retinakameras und dem irischen Gesundheitsdienst zusammen, um die Lösung im Markt weiter zu etablieren. Die Überwachungsfunktion des NNDK für die von den ANNs getroffenen Entscheidungen bietet einen erheblichen Vorteil für Lösungsintegratoren. Der Einsatz von Uboticas Technologie in Kameras wird sowohl die Effizienz der Kameras als auch die Arbeitsweise der Augenärzte deutlich verbessern.


Quelle: Pressemitteilung von fortiss - Landesforschungsinstitut des Freistaats Bayern für softwareintensive Systeme