Ärzte werden mit «Künstlicher Intelligenz» schlechter

Eigentlich soll die «Künstliche Intelligenz» (KI) bei der Darmspiegelung helfen, mehr Darmpolypen zu finden. Tatsächlich aber birgt sie möglicherweise eine schwere, unerwünschte Wirkung: Die Ärzte, welche die Darmspiegelung durchführen, werden schlechter.

Ihre Kernkompetenz – das genaue Hinschauen bei der Spiegelung – scheint zu schwinden, sobald die KI Einzug hält. Bemerkbar macht sich das an einem wichtigen Merkmal: der «Adenom-Detektionsrate» (siehe Kasten). Nach der Einführung von KI fanden die Untersucher weniger Darmpolypen als zuvor, sobald sie – ohne KI-Unterstützung – wieder auf sich allein gestellt waren.

Sechs Prozent weniger Darmpolypen gefunden

Entdeckten die Darmspezialisten früher – ohne Hilfe von KI – bei 28 Prozent der untersuchten Patienten mindestens einen Darmpolypen, waren es nur noch 22 Prozent,  nachdem die Ärzte drei Monate mit KI-Unterstützung gearbeitet hatten – ein Rückgang um sechs Prozentpunkte bei der ADR.

Das ergab eine polnische Studie, die hauptsächlich die Krebsfrüherkennung mit Hilfe von KI bei der Darmspiegelung erforscht. Per Los wird dabei bestimmt, welche Patienten mit Hilfe von KI darmgespiegelt werden und welche eine konventionelle Darmspiegelung ohne KI erhalten. 

Nebenbei verglichen die Wissenschaftler nun die ADR ausschliesslich bei den Patienten, die ohne KI-Einsatz untersucht worden waren. Sie betrachteten zwei Zeiträume: Die drei Monate vor der Einführung von KI als Hilfsmittel und die ersten drei Monate danach. 

Von 19 Ärzten wurden 15 schlechter

Das Resultat: An allen vier beteiligten medizinischen Zentren sank die ADR. Von den insgesamt 19 Ärztinnen und Ärzten verschlechterten sich 15, nachdem sie mit KI gearbeitet hatten. Mit mangelnder Berufserfahrung ist das nicht zu erklären: Alle Untersucher hatten vor Einführung der KI schon mindestens 2000 Darmspiegelungen durchgeführt und durchschnittlich fast 28 Jahre Erfahrung.

Befürchtungen, die KI könne die Fähigkeiten von Ärzten verschlechtern, gab es schon länger. Vor zwei Jahren wurden bei einem in «Endoscopy» veröffentlichten Experiment die Augenbewegungen der Untersucher aufgezeichnet, während sie Darmspiegelungen als Video sahen. Kaum half die KI mit, verengte sich ihr Blickradius. Ohne KI-Unterstützung dagegen blickten die Ärzte weiter herum, ob sie irgendwo etwas Auffälliges entdeckten. Die Vermutung: Kaum ist KI dabei, verlassen sich die Ärzte darauf und überlassen der KI einen Teil ihrer Verantwortung. 

Warnung vor dem raschen Einsatz

Fachleute halten das Ergebnis der polnischen Studie für einen doppelten Warnruf. Erstens, weil es mit KI womöglich zur raschen und «stillen Erosion fundamentaler Fähigkeiten» bei den Fachärzten komme, wie ein Kommentar warnt. Dabei sei offen, ob die Gastroenterologen ihren einmal verlorenen Adlerblick bei der Darmspiegelung wieder zurückgewinnen würden.

Zweitens rüttelt die polnische Studie an der Überzeugung, dass KI bei der Darmspieglung einen wesentlichen Fortschritt darstelle. Bisherige Studien zeigten, dass KI-Unterstützung zu einer durchschnittlich 8 Prozentpunkte höheren ADR führt – allerdings wurde dort der nun gefundene Rückgang um 6 Prozent auf Seiten der Untersucher nicht einberechnet. Die KI könnte also weniger nützlich sein als bisher gedacht. 

Umso wichtiger sei es nun, rasch weitere Studien durchzuführen, welche die Ergebnisse aus Polen bestätigen oder widerlegen. Denn die polnische Studie hat mehrere Mankos. Zum Beispiel ist unklar, ob nach dem Corona-Lockdown der Zeitdruck beim Untersuchen zunahm und die Ärzte vielleicht deshalb flüchtiger hinsahen als zuvor. 

Trotzdem wäre es unklug, die Ergebnisse dieser Studie zu ignorieren, findet ein Kommentar in «The Lancet Gastroenterology & Hepatology». Sie dämpfe den gegenwärtigen Enthusiasmus, KI rasch einzusetzen.