Abhängig von KI? Lancet-Studie warnt vor Kompetenzverlust bei Ärzten

Die routinemässige Nutzung von KI in der Darmkrebsfrüherkennung könnte die Fähigkeiten von Endoskopierenden beeinträchtigen. Das legt eine polnische Multizenter-Studie im «Lancet Gastroenterology & Hepatology» nahe.

Dabei verspricht die Integration von KI-gestützten Assistenzsystemen in der Endoskopie eigentlich mehr Sicherheit und höhere Trefferquoten bei der Erkennung von Darmkrebs-Vorstufen. Wird künstliche Intelligenz jedoch dauerhaft genutzt, sinkt womöglich die Leistung der Ärztinnen und Ärzte, wenn das System nicht zur Verfügung steht.

Das Forschungsteam analysierte Daten aus vier polnischen Endoskopiezentren aus der ACCEPT-Studie (Artificial Intelligence in Colonoscopy for Cancer Prevention), die seit Ende 2021 KI-Tools zur Polypendetektion einsetzen. Verglichen wurde die Qualität der Koloskopien drei Monate vor und drei Monate nach Einführung der KI.

Die Autorinnen und Autoren interpretieren dies als Hinweis auf einen möglichen «Deskilling-Effekt», also den Verlust von Fähigkeiten durch zu starke Gewöhnung an die technische Unterstützung.

«Obwohl De-Skilling infolge von KI-Nutzung in früheren Arbeiten als theoretisches Risiko genannt wurde, ist dies die erste Studie mit Real-World-Daten, die möglicherweise auf einen solchen Effekt hinweist», sagt Dr. Catherine Menon von der University of Hertfordshire gegenüber dem Science Media Centre. «Es könnte sein, dass Gesundheitsfachpersonen, die sich an KI-Unterstützung gewöhnt haben, schlechter abschneiden, wenn diese plötzlich nicht verfügbar ist – etwa durch Cyberangriffe oder IT-Ausfälle.» Daher sei es wichtig, dass Fachkräfte ihre ursprünglichen diagnostischen Fähigkeiten bewahren.

Prof. Venet Osmani (Queen Mary University of London) warnt hingegen vor vorschnellen Schlüssen: Die Zahl der Koloskopien habe sich nach Einführung der KI fast verdoppelt. «Ein solch starker Anstieg der Arbeitsbelastung […] könnte dazu geführt haben, dass die Ärztinnen und Ärzte weniger Zeit hatten oder müder waren – was die Leistung beeinträchtigen könnte.» Auch organisatorische Änderungen durch die Einführung der KI könnten eine Rolle gespielt haben.

Für Prof. Allan Tucker (Brunel University London) ist die Arbeit «ein solides Stück Forschung», das aber die bekannten Grenzen einer einzelnen Beobachtungsstudie habe. Er verweist auf den Begriff «Automation Bias». Menschliche Expertinnen und Experten könnten sich unter Druck gesetzt fühlen, der KI zuzustimmen – und folglich weniger eigene Entscheidungen treffen. «Das kann das problematisch sein – selbst wenn die KI insgesamt mehr Krebsfälle erkennt.»

Auch in einem begleitenden Kommentar wird die Arbeit als erste reale Warnung bezeichnet. Die potenzielle «langsamen Erosion von Kernkompetenzen» müsse ernst genommen werden, so der Gastroenterologe Omer Ahmad, der nicht an der Studie beteiligt war. Gleichwohl sei Bestätigung durch weitere, methodisch robustere Studien nötig, bevor eindeutige Schlussfolgerungen gezogen werden können.

Fest steht: KI-Systeme in der Medizin bergen nicht nur Chancen, sondern auch Risiken – insbesondere, wenn sie dazu führen, dass klinische Kernkompetenzen schleichend verlernt werden. Die Balance zwischen technischer Unterstützung und Erhalt ärztlicher Expertise dürfte zu einer der zentralen Herausforderungen der nächsten Jahre werden.