KI in der Medizin – der Mensch im Mittelpunkt?

Zwischen Unbehagen und Zuversicht: Eine persönliche Einführung ins Schwerpunktthema «Künstliche Intelligenz» (KI).

Über die künstliche Intelligenz (KI) und ihren Anwendungsbereich im Speziellen in der Medizin bzw. im ärztlichen Alltag wird zurzeit fast überall berichtet. Wir stellen diesbezüglich keine Ausnahme dar.

Mit dem Wort KI verbinde ich persönlich zwei gegensätzliche Empfindungen:

Zum einen das Unbehagen bei der Vorstellung, dass die Medizin ganz den Rechnern überlassen werden könnte und der Arzt und seine Heilkunst vom Menschen losgelöst werden würde. Es sind dies die Gedanken der grossen Zahl von Skep­tikern – gemäss der von der FMH durchgeführten Umfrage «Digital Trends Survey 2021» sind z. B. 85% der Kolleginnen und Kollegen gegen eine rein software-basierte Diagnosefindung. Die Frage, ob der Faktor Mensch nicht elementar für den Behandlungserfolg sei, ist durchaus berechtigt!

Zum anderen spüre ich aber die pionierhafte ­Zuversicht der Forschung, dass uns der gemeinsame Weg von Mensch und Computer, der Medizin unter Einbezug der KI, zukünftig zur bestmöglichen und individualisierten Behandlung unserer Patienten bringen könnte. Als Beispiel mögen z. B. Wearabels in der Prävention genannt sein. Ähnlich ermutigend sind KI-Anwendungen z. B. in gewissen Bereichen der Diagnostik.

Ein «Must» für das Verständnis und für eine Diskussion der KI in der Medizin ist das Grund­lagenpapier der FMH zur künstlichen Intelligenz, welches im September 2022 publiziert wurde. Diese Broschüre «Künstliche Intelligenz im ärztlichen Alltag – Einsatzgebiete in der Medizin: Nutzen, Herausforderungen und Forderungen der FMH» bietet einen umfassenden Überblick zur Thematik und ich habe mir erlaubt, die für das Verständnis der KI-Vorgänge entscheidendsten Punkte aus diesem Grundlagenpapier in Kondensat-Form darzulegen.

KI als «die Lehre von Berechnungen, die das Wahrnehmen, Denken und Handeln ermög­lichen», ist nicht neu. Dank der heute möglichen Rechenleistungen und Speichertechnologien ­bewältigt die KI durch Fütterung von Daten und Programmierung die reale Wahrnehmung, lernt dann, diese reale Wahrnehmung über das ­«Machine Learning» (ML) mit einem bestimmten, menschengesetzten Ziel zu analysieren und daraus Modelle abzuleiten. Der elementare Begriff des «Machine Learning» steht für den Vorgang, dass ein Computer ohne explizite Programmierung aus Daten lernen kann, daraus Vorhersagen treffen und verbessern kann. Die verwendeten Techniken für ML sind rechnerisch hochkomplex und bringen uns direkt zum Begriff des Deep Neuronal Network (DNN).

ML bezieht dieses DNN in seine Rechenvorgänge ein, es wird zu Deep Learning. Im Gegensatz zum klassischen ML-Algorithmus mit ma­nuell vorbereiteten Datensätze arbeitet Deep Learning mit unstrukturierten Datensätzen und auf mehreren versteckten Ebenen, den sog. «hidden layers». Für ein menschliches Hirn sind die Vorgänge wie Deep learning normalerweise nicht mehr nachvollziehbar – und denklogischerweise auch nicht mehr kontrollierbar.

Nebst ML und Deep Learning sind Begriffe wie «in the loop», «on the loop» und «out of the loop» als Ausdruck der möglichen Interaktionen zwischen Mensch und Maschine wichtige Begriffe: Ein KI-System kann so verwendet werden, dass eine Maschine eine Aufgabe nur zusammen mit einem Menschen abschliessen kann. Kann der Mensch jederzeit Ergebnisse und Entscheidungen verändern oder in letzter Instanz überschreiben, spricht man vom sog. «in the loop»-Prozess. Bei einem «on the loop»-Prozess verbleibt der Mensch immerhin noch als Kon­trollinstanz gegenüber der Maschine. Bei beiden Prozessen bleibt aber die Entscheidungshoheit beim Menschen – er bleibt die letzte Entscheidungsinstanz.

Demgegenüber laufen «out the loop»-Prozesse ohne jegliches menschliches Zutun ab. Die menschliche Entscheidung ist lediglich zu Beginn nötig, wenn der Mensch entscheidet, ob er die Maschine einsetzen will oder nicht. «Out of the loop»-Prozesse gibt es schon, z.B. in der Ophtalmologie, sie sind aber hierzulande noch nicht in der Praxis umgesetzt.

Im Folgenden kommen drei Stimmen zu verschiedenen Aspekten der KI in der Medizin zu Wort. Djamila Batache ist Anwältin und Juristin und schreibt gerade ihre Doktorarbeit zu diesem Thema. Sie hat ihre Überlegungen und Ein­schätzungen aus juristischer Sicht mit mir geteilt. Mit Herrn Dominic Mathis, Oberarzt Orthopädie Kantonsspital Baselland, habe ich mich über seine Erfahrungen und Erwartungen aus praktischer Sicht unterhalten. Und von Prof. Frank Zimmermann, Studiendekan der Universität ­Basel, wollte ich wissen, wie weit die Vermittlung von Kompetenz für die junge Ärztegeneration innerhalb des Studiums gediehen ist.

Dr. med. Christiane Leupold-Gross,
Mitglied Redaktion Synapse

Christiane Leupold-Gross

Optimiertes Drucken

Mitglied der Redaktion Synapse