Eine neue Umfrage geht der Frage nach, was Patienten davon halten, dass KI eine Rolle bei der Diagnose und Verwaltung ihrer Gesundheitsversorgung spielt.
Was halten Patienten von KI in der Gesundheitsversorgung? Es kommt darauf an
Von Damian McNamara, MA
12. Mai 2022 C Künstliche Intelligenz ist innerhalb weniger Jahre von der Science-Fiction zur alltäglichen Realität geworden und wird für alles eingesetzt, von Online-Aktivitäten bis zum Autofahren. Sogar, ja, um medizinische Diagnosen zu stellen. Das bedeutet jedoch nicht, dass die Menschen bereit sind, alle ihre medizinischen Entscheidungen der KI zu überlassen.
Die Technologie entwickelt sich schnell weiter, um klinische Entscheidungen in immer mehr medizinischen Fachbereichen und bei immer mehr Diagnosen zu unterstützen, insbesondere wenn es darum geht, bei einer Darmspiegelung, einer Hautkrebsuntersuchung oder auf einem Röntgenbild etwas Ungewöhnliches zu erkennen.
Eine neue Studie untersucht, was Patienten über den Einsatz von KI in der Gesundheitsversorgung denken. Sanjay Aneja, MD, von der Yale University und seine Kollegen befragten eine landesweit repräsentative Gruppe von 926 Patienten zu ihrer Zufriedenheit mit dem Einsatz der Technologie, zu ihren Bedenken und zu ihrer allgemeinen Meinung über KI.
Es stellte sich heraus, dass die Zufriedenheit der Patienten mit der KI von deren Einsatz abhängt.
So fühlten sich beispielsweise 12 % der Befragten sehr wohl und 43 % "einigermaßen wohl" mit der KI beim Lesen von Röntgenbildern der Brust. Aber nur 6 % fühlten sich sehr wohl und 25 % fühlten sich einigermaßen wohl, wenn KI eine Krebsdiagnose stellte, so die Ergebnisse der Umfrage, die am 4. Mai online in der Zeitschrift JAMA Network Open veröffentlicht wurden.
"Wenn ein KI-Algorithmus Ihr Röntgenbild liest, ist das etwas ganz anderes, als wenn man sich auf KI verlässt, um eine Diagnose über eine bösartige Erkrankung zu stellen oder die Nachricht zu überbringen, dass jemand Krebs hat", sagt Dr. Sean Khozin, der nicht an der Studie beteiligt war.
"Interessant ist, dass die Patienten sehr optimistisch sind, was die Rolle der KI bei der Verbesserung der Situation angeht. Dieser Optimismus war großartig zu sehen", sagt Khozin, ein Onkologe und Datenwissenschaftler, der Mitglied des Exekutivausschusses der Alliance for Artificial Intelligence in Healthcare (AAIH) ist. Die AAIH ist eine globale Interessenvertretung in Baltimore, die sich für verantwortungsvolle, ethische und vernünftige Standards für den Einsatz von KI und maschinellem Lernen in der Gesundheitsversorgung einsetzt.
Alle sind dafür, sagen AI
Die meisten Menschen hatten eine positive Gesamtmeinung zu KI im Gesundheitswesen. Die Umfrage ergab, dass 56 % der Befragten glauben, dass KI die Gesundheitsversorgung in den nächsten 5 Jahren verbessern wird, gegenüber 6 %, die sagen, dass sie die Gesundheitsversorgung schlechter machen wird.
Die meisten Arbeiten im Bereich der medizinischen KI konzentrieren sich auf die klinischen Bereiche, die am meisten davon profitieren könnten, "aber wir fragen uns selten, in welchen Bereichen die Patienten wirklich wollen, dass die KI ihre Gesundheitsversorgung beeinflusst", sagt Aneja, ein leitender Studienautor und Assistenzprofessor an der Yale School of Medicine.
Wenn man die Sichtweise der Patienten nicht berücksichtigt, ergibt sich ein unvollständiges Bild.
"In vielerlei Hinsicht würde ich sagen, dass unsere Arbeit einen potenziellen blinden Fleck unter den KI-Forschern aufzeigt, mit dem man sich befassen muss, wenn diese Technologien in der klinischen Praxis häufiger eingesetzt werden", sagt Aneja.
AI-Bewusstsein
Es ist nach wie vor unklar, wie viel die Patienten über die Rolle, die KI in der Medizin bereits spielt, wissen oder erkennen. Aneja, die in einer früheren Arbeit die Einstellung von Angehörigen der Gesundheitsberufe zu KI untersuchte, sagt: "Als wir sowohl Patienten als auch Ärzte befragten, wurde deutlich, dass Transparenz hinsichtlich der spezifischen Rolle, die KI im Behandlungsverlauf eines Patienten spielt, erforderlich ist."
Die aktuelle Umfrage zeigt, dass 66 % der Patienten es für "sehr wichtig" halten, zu wissen, wann KI eine große Rolle bei ihrer Diagnose oder Behandlung spielt. 46 % glauben, dass die Informationen sehr wichtig sind, wenn die künstliche Intelligenz eine kleine Rolle in ihrer Behandlung spielt.
Gleichzeitig würden sich weniger als 10 % der Menschen "sehr wohl" dabei fühlen, eine Diagnose von einem Computerprogramm zu erhalten, selbst wenn dieses in mehr als 90 % der Fälle eine richtige Diagnose stellt, aber nicht erklären kann, warum.
"Die Patienten sind sich der Automatisierung, die in viele unserer heutigen Geräte eingebaut ist, möglicherweise nicht bewusst", so Khozin. Beispiele dafür sind Elektrokardiogramme (Tests, die die elektrischen Signale des Herzens aufzeichnen), Bildgebungssoftware und Systeme zur Interpretation von Koloskopien.
Selbst wenn die Patienten nichts davon wissen, profitieren sie wahrscheinlich vom Einsatz der KI bei der Diagnose. Ein Beispiel ist ein 63-jähriger Mann mit Colitis ulcerosa, der in Brooklyn, NY, lebt. Aasma Shaukat, MD, Gastroenterologe am NYU Langone Medical Center, führte bei dem Patienten eine Routinekoloskopie durch.
"Da ich mich auf die Entnahme von Biopsien im [Darm] konzentrierte, bemerkte ich einen 6 mm [Millimeter] großen flachen Polypen nicht, bis mich AI darauf aufmerksam machte.
Shaukat entfernte den Polypen, der abnorme Zellen aufwies, die möglicherweise eine Krebsvorstufe waren.
Umgang mit AI-Ängsten
Die Yale-Umfrage ergab, dass die meisten Menschen "sehr besorgt" oder "etwas besorgt" über mögliche unbeabsichtigte Auswirkungen der KI im Gesundheitswesen sind. Insgesamt 92 % gaben an, dass sie über Fehldiagnosen besorgt wären, 71 % über eine Verletzung der Privatsphäre, 70 % über weniger Zeit mit Ärzten und 68 % über höhere Gesundheitskosten.
Eine frühere Studie von Aneja und Kollegen, die im Juli 2021 veröffentlicht wurde, konzentrierte sich auf KI und medizinische Haftung. Sie fanden heraus, dass Ärzte und Patienten sich nicht einig sind über die Haftung, wenn KI zu einem klinischen Fehler führt. Obwohl die meisten Ärzte und Patienten der Meinung waren, dass Ärzte haften sollten, waren die Ärzte eher der Meinung, dass auch Anbieter und Gesundheitsorganisationen zur Verantwortung gezogen werden sollten.
