Blindes Vertrauen in digitale Helfer?
KI-Systeme unterstützen bei Dickdarmspiegelungen. Die digitale Hilfestellung beeinflusst allerdings auch das ärztliche Verhalten.
Blindes Vertrauen in digitale Helfer?
KI-Systeme unterstützen bei Dickdarmspiegelungen. Die digitale Hilfestellung beeinflusst allerdings auch das ärztliche Verhalten.
Eine Vorsorgeuntersuchung mittels Dickdarmspiegelung kann bereits Krebsvorstufen erkennen. „Die Erkennungsraten dieser sogenannten Adenome variieren jedoch je nach Untersucherin oder Untersucher sowie nach Tageszeit“, berichtet Prof. Dr. Alexander Hann, Leiter der Arbeitsgruppe „Interventionelle und Experimentelle Endoskopie“ an der Medizinischen Klinik II des UKW. Nach seinen Worten können zur Verringerung dieser Unterschiede KI-Systeme eingesetzt werden, die in Echtzeit Darmkrebsvorstufen während der Dickdarmspiegelung erkennen und diese für die Ärztin oder den Arzt durch farbige Markierungen hervorheben. „Studien haben gezeigt, dass Systeme mit Künstlicher Intelligenz Adenome schneller als Menschen entdecken und die Entdeckungsrate mit KI-Unterstützung höher ist als ohne“, schildert Prof. Hann. Auf Basis dieser Erkenntnisse haben inzwischen alle größeren Endoskophersteller entsprechende Detektions-KIs auf den Markt gebracht.
Die Forschungsgruppe von Prof. Hann analysierte in einer Studie Videos von Dickdarmspiegelungen mit einer kommerziell verfügbaren KI und stellte fest, dass fast alle bekannten Adenome korrekt erkannt wurden. Es traten jedoch auch falsch-positive Befunde auf, bei denen normale Schleimhautareale als auffällig markiert wurden. „Dies sorgt in der klinischen Praxis für eine gewisse Skepsis gegenüber den KI-Vorhersagen“, weiß Hann.
Um dieses Phänomen weiter zu untersuchen, führte sein Team eine Studie durch, in der unterschiedlich erfahrene Untersucherinnen und Untersuchern Videos von Dickdarmspiegelungen mit und ohne KI-Unterstützung gezeigt wurden. Dabei wurde die Reaktionszeit bei der Erkennung von Adenomen gemessen und die Augenbewegung der Studienteilnehmenden mittels Eye-Tracking analysiert. Es bestätigte sich, dass die KI Adenome signifikant schneller erkennt als die Medizinerinnen und Mediziner. „Allerdings führte die KI-Unterstützung interessanterweise nicht zu einer schnelleren Erkennung durch die Untersuchenden selbst. Ein möglicher Grund dafür könnte sein, dass die häufigen falsch-positiven Befunde die Untersuchenden verunsichern, wodurch sie länger zögern, den Befund als Adenom zu identifizieren“, sagt Prof. Hann.
Prof. Dr. Alexander Hann präsentiert den in einer Studie erarbeiteten Vergleich der Blickmuster.
Vertrauen beeinflusst Augenbewegung Ein weiterer Befund war, dass die Strecke, die die Augen der Untersuchenden auf dem Monitor zurücklegten, signifikant abnahm, wenn die KI aktiviert war. Insbesondere weniger erfahrene Ärztinnen und Ärzte neigten dazu, ihren Blick im Zentrum des Bildes ruhen zu lassen und andere Bildbereiche zu vernachlässigen. Prof. Hann vergleicht dies mit der Abhängigkeit von Navigationssystemen im Auto, bei der Fahrerinnen und Fahrer dazu tendieren, Verkehrsschilder weniger zu beachten und sich stattdessen auf die Ansagen des Navigationssystems verlassen.
Nach Veröffentlichung der Würzburger Daten kamen zwei Studien aus Israel und USA, bei denen die Rate an Adenomen vor und nach der Einführung der KI untersucht wurde. Erstaunlicherweise nahm diese Rate ab, anstatt wie in den randomisierten Studien zuzunehmen. Ziel: Hohe Aufmerksamkeit aufrechterhalten Hann vermutet, dass dieses Phänomen durch Overreliance – also blindes Vertrauen – in die neue Technologie erklärt werden kann. Um dem entgegenzuwirken, entwickelt er eine neue Detektions-KI, die Mechanismen enthält, um die Aufmerksamkeit der Endoskopierenden während der Untersuchung aufrechtzuerhalten. So könnten Bewegungen des Endoskops analysiert und Rückmeldungen gegeben werden, wenn eine monotone und unaufmerksame Arbeitsweise festgestellt wird – ähnlich wie durch Aufmerksamkeitsassistenten in modernen Fahrzeugen.
Bild: pathdoc - stock.adobe.com und Ziyan- stock.adobe.com | Illustrationen: nadia_snopek - stock.adobe.com