Auf der 147. Hauptversammlung im Mai hat der MB klare Forderungen formuliert, wie der Einsatz von KI im Gesundheitswesen geregelt und in die ärztliche Weiterbildung integriert werden soll. Wir geben einen Überblick.
Künstliche Intelligenz (KI) ist im Berufsalltag von Ärztinnen und Ärzten angekommen und wird die ärztliche Weiterbildung prägen. Im Fokus der ärztlichen Arbeit mit KI steht die ärztliche Verantwortung. Das Prinzip „Human in the loop“ – die aktive Beteiligung des Menschen an der Lösungsfindung durch ein automatisiertes System – soll gesetzlich verankert werden. Demnach sollen KI-Systeme mit diagnostischer oder therapeutischer Funktion ausschließlich unter ärztlicher Aufsicht eingesetzt werden. Das bedeutet, Entscheidungen mit unmittelbaren Folgen für Patientinnen und Patienten müssten weiterhin von Ärztinnen und Ärzten überprüft und freigegeben werden. Zugleich soll es mehr Transparenz bei medizinischen KI-Anwendungen geben. Systeme, die in Kliniken oder Praxen eingesetzt werden, müssen nachvollziehbar und überprüfbar sein. Dabei soll gelten: Je größer das Risiko einer medizinischen Entscheidung, desto höher die Anforderungen an die Erklärbarkeit der eingesetzten Technologie.
KI-Kompetenz als Kernkompetenz
In Bezug auf die ärztliche Weiterbildung sieht der MB KI-Kompetenz künftig als „ärztliche Kernkompetenz“. Kenntnisse über Chancen, Risiken und Grenzen künstlicher Intelligenz sollen verbindlicher Bestandteil von Aus-, Weiter- und Fortbildung von Ärztinnen und Ärzten werden. Die Bundesärztekammer soll gemeinsam mit Fachgesellschaften innerhalb eines Jahres ein Curriculum „Medizinische KI-Kompetenz“ entwickeln und entsprechende zertifizierte Fortbildungsangebote schaffen. Hintergrund ist die Sorge vor dem blinden Vertrauen in automatisierte Empfehlungen. Ärztinnen und Ärzte müssten KI-gestützte Vorschläge stets kritisch prüfen und die Letztentscheidung selbst treffen, heißt es im 41. Beschluss der MB-Hauptversammlung. Carsten Mohrhardt, 1. Bezirksvorsitzender des MB Nordbaden, unterstützt diese Forderung: „Künstliche Intelligenz kann uns Ärztinnen und Ärzten vieles erleichtern, gerade in Zeiten von Personalmangel und Effizienzdruck. Aber es ist immens wichtig, dass sowohl die Weiterbildenden als auch die Weiterzubildenden gleichermaßen an KI-Kompetenz gewinnen, um die Qualität unserer ärztlichen Arbeit sicherzustellen.“ Auch Benjamin Breckwoldt, 1. Bezirksvorsitzender des MB Südwürttemberg, unterstützt das Prinzip der ärztlichen Letztentscheidung: „Weder die Künstliche Intelligenz noch wir Ärztinnen und Ärzte werden jemals ausgelernt haben. Dabei dürfen wir unsere Verantwortung für die Patientinnen und Patienten auf keinen Fall abgeben. Wer in der Kammer über den Einsatz von KI im Krankenhaus mitentscheiden will, kann sich jetzt als Kandidatin oder Kandidat des Marburger Bundes für die Kammerwahl aufstellen lassen.“
Zur Frage der Haftung
Darüber hinaus fordert der MB klare gesetzliche Regelungen zur Haftung. Ärztinnen und Ärzte dürften nicht für Fehlfunktionen von KI-Systemen verantwortlich gemacht werden, wenn sie keinen ausreichenden Einfluss oder Einblick in deren Funktionsweise hätten. „Es ist wichtig, dass wir den Einsatz von KI und damit auch die Haftung wasserdicht regeln – zum Schutz von uns Ärztinnen und Ärzten, aber auch zur Sicherheit unserer Patientinnen und Patienten“, verdeutlicht Katharina Weis, Mitglied im Bezirksvorstand des MB Südwürttemberg. Patientinnen und Patienten müssten über den Einsatz von KI informiert werden und jederzeit Anspruch auf eine ausschließlich ärztliche Zweitmeinung haben.
Als wichtige Zukunftstechnologie im ärztlichen Bereich soll die Nutzung von KI an klare ethische, rechtliche und medizinische Standards gebunden sein. Durch Modellprojekte, klinische Reallabore und den interdisziplinären Austausch mit Informatik, Ethik und Rechtswissenschaften sollen die Rahmenbedingungen aktiv gestaltet werden. Denn Künstliche Intelligenz kann die medizinische Versorgung verbessern – die Verantwortung für Diagnosen und Therapien soll jedoch weiterhin beim Menschen liegen.
