Neue Studie legt nahe, dass der Einsatz von KI Ärzte beim Erkennen von Krebs weniger kompetent gemacht hat

(SeaPRwire) –   Gesundheitspraktiker, Unternehmen und andere haben jahrelang die der KI in der Medizin gepriesen, von der Verbesserung bis zur Überlegenheit gegenüber Ärzten bei . Die transformative Technologie wurde von KI-Enthusiasten sogar so weit vorhergesagt, dass sie eines Tages bei der Suche nach einem „Heilmittel gegen Krebs“ helfen könnte.

Eine neue Studie hat jedoch herausgefunden, dass Ärzte, die regelmäßig KI einsetzten, innerhalb weniger Monate tatsächlich weniger kompetent wurden.

Die Studie, die am Mittwoch in der , ergab, dass Kliniker im Laufe von sechs Monaten übermäßig stark von KI-Empfehlungen abhängig wurden und selbst „weniger motiviert, weniger fokussiert und weniger verantwortungsbewusst wurden, wenn sie kognitive Entscheidungen ohne KI-Unterstützung trafen.“

Dies ist die jüngste Studie, die potenzielle negative Auswirkungen auf KI-Benutzer aufzeigt. Eine frühere Studie des Massachusetts Institute of Technology ergab, dass ChatGPT .

Wie die Studie durchgeführt wurde

Forscher verschiedener europäischer Institutionen führten eine Beobachtungsstudie durch, bei der vier Endoskopiezentren in Polen befragt wurden, die an der Artificial Intelligence in Colonoscopy for Cancer Prevention () Studie teilnahmen. Die Studie wurde von der Europäischen Kommission und der Japan Society for the Promotion of Science finanziert.

Als Teil der Studie hatten die Zentren Ende 2021 KI-Tools zur Erkennung von Polypen – Wucherungen, die gutartig oder bösartig sein können – eingeführt. Die Studie untersuchte 1.443 nicht-KI-unterstützte Koloskopien von insgesamt 2.177 Koloskopien, die zwischen September 2021 und März 2022 durchgeführt wurden. Die Koloskopien wurden von 19 erfahrenen Endoskopikern durchgeführt.

Die Forscher verglichen die Qualität der Koloskopien, die drei Monate vor und drei Monate nach der Implementierung der KI durchgeführt wurden. Koloskopien wurden entweder mit oder ohne KI-Unterstützung nach dem Zufallsprinzip durchgeführt. Von den ohne KI-Unterstützung durchgeführten wurden 795 vor der Implementierung des regulären KI-Einsatzes und 648 nach der Einführung der KI-Tools durchgeführt.

Was die Studie herausfand

Drei Monate vor der Einführung der KI lag die Adenom-Erkennungsrate (ADR) bei etwa 28 %. Drei Monate nach der Einführung der KI sank die Rate auf 22 %, wenn die Kliniker nicht durch KI unterstützt wurden. ADR ist ein häufig verwendeter Qualitätsindikator für Koloskopien und „der Anteil der Vorsorgekoloskopien, die von einem Arzt durchgeführt werden und mindestens ein histologisch bestätigtes kolorektales Adenom oder Adenokarzinom nachweisen.“ Adenome sind präkanzeröse Wucherungen, und eine höhere ADR ist mit einem geringeren Risiko für kolorektalen Krebs verbunden.

Die Studie ergab, dass KI Endoskopikern bei der Erkennung half, wenn sie eingesetzt wurde, aber sobald die Unterstützung entfernt wurde, waren die Kliniker schlechter in der Erkennung.

Die Forscher führten dies auf „die natürliche menschliche Tendenz zur Überabhängigkeit“ von den Empfehlungen von Entscheidungsunterstützungssystemen wie KI zurück.

„Stellen Sie sich vor, Sie möchten irgendwohin reisen, und Sie können Google Maps nicht verwenden“, sagte Marcin Romańczyk, Mitautor der Studie und Assistenzprofessor an der Medical University of Silesia, gegenüber TIME. „Wir nennen es den Google Maps-Effekt. Wir versuchen, irgendwohin zu gelangen, und es ist unmöglich, eine normale Karte zu verwenden. Es funktioniert sehr ähnlich.“ 

Implikationen der Studie

Omer Ahmad, ein beratender Gastroenterologe am University College Hospital London, der ein Editorial zu der Studie verfasste, aber nicht an ihrer Forschung beteiligt war, sagt TIME, dass es wahrscheinlich ist, dass die Exposition gegenüber KI die visuellen Suchgewohnheiten und warnenden Blickmuster der Ärzte geschwächt hat, die für die Erkennung von Polypen entscheidend sind.

„Im Wesentlichen könnte die Abhängigkeit von der KI-Erkennung die menschliche Mustererkennung abstumpfen“, sagt Ahmad. Er fügt hinzu, dass der regelmäßige Einsatz von KI auch „das diagnostische Vertrauen verringern“ könnte, wenn die KI-Unterstützung entzogen wird, oder dass die Fähigkeit der Endoskopiker, das Koloskop zu manövrieren, reduziert werden könnte.

In Kommentaren zu der Catherine Menon, Hauptdozentin am Department of Computer Science der University of Hertfordshire, sagte: „Obwohl die Entprofessionalisierung durch den Einsatz von KI in früheren Studien als theoretisches Risiko angesprochen wurde, ist diese Studie die erste, die reale Daten präsentiert, die potenziell eine Entprofessionalisierung durch den Einsatz von KI bei diagnostischen Koloskopien aufzeigen könnten.“ Menon äußerte Bedenken, dass eine übermäßige Abhängigkeit von KI Gesundheitspraktiker dem Risiko eines technologischen Kompromisses aussetzen könnte.

Andere Experten sind vorsichtiger, Schlüsse aus einer einzigen Studie zu ziehen.

Venet Osmani, Professor für klinische KI und maschinelles Lernen an der Queen Mary University of London, bemerkte gegenüber SMC, dass die Gesamtzahl der Koloskopien – sowohl KI-unterstützte als auch nicht-KI-unterstützte – im Laufe der Studie zugenommen hat. Die erhöhte Arbeitsbelastung, so Osmani, könnte zu Ermüdung der Kliniker und schlechteren Erkennungsraten geführt haben. 

Allan Tucker, Professor für künstliche Intelligenz an der Brunel University of London, bemerkte ebenfalls, dass sich die Leistung der Kliniker mit KI-Unterstützung insgesamt verbessert hat. Bedenken hinsichtlich der Entprofessionalisierung aufgrund von Automatisierungsbias, fügte Tucker gegenüber SMC hinzu, „sind nicht einzigartig für KI-Systeme und stellen ein Risiko bei der Einführung jeder neuen Technologie dar.“ 

„Die ethische Frage ist dann, ob wir KI mehr vertrauen als Menschen“, sagte Tucker. „Oft erwarten wir, dass ein Mensch alle KI-Entscheidungen überwacht, aber wenn die menschlichen Experten infolge der Einführung von KI-Systemen weniger Anstrengungen in ihre eigenen Entscheidungen stecken, könnte dies problematisch sein.“

„Hier geht es nicht nur um die Überwachung von Technologie“, sagt Ahmad. „Es geht darum, die Komplexität eines neuen klinischen Ökosystems Mensch-KI zu navigieren.“ Die Einrichtung von Schutzmaßnahmen sei entscheidend, fügt er hinzu und schlägt vor, dass sich die Menschen über diese Studie hinaus auf „den Erhalt wesentlicher Fähigkeiten in einer Welt konzentrieren müssen, in der KI allgegenwärtig wird.“