Bundesgesundheitsminister Karl Lauterbach erwartet, dass Deutschland dank seiner derzeit ent­stehenden Dateninfrastruktur im Gesundheitswesen zu einem Spitzenreiter bei der Entwicklung von Künstlicher Intelligenz (KI) in der Medizin wird, erklärte er am 25. Juni 2024 in Berlin.

Mit dem Digitalgesetz (DigiG) und dem Gesundheitsdatennutzungsgesetz (GDNG) würden vor allem für die Ent­wicklung und Weiterentwicklung von KI enorme Chancen entstehen. „Wir haben mit dem, was wir hier machen, den wahrscheinlich weltweit größten Datenraum, in dem diese Daten auch verschränkt sind“, berichtete er. „Von daher glaube ich, dass uns das weit nach vorn bringen wird.“

Für das Training von KI-Algorithmen, die auf möglichst große Mengen hochwertiger Datensätze angewiesen sind, werde das riesige Möglichkeiten eröffnen. „Wir wollen Deutschland hier als einen weltweiten Forschungs­spitzenreiter aufbauen“, so Lauterbach. Auch in der Versorgung selbst werde KI große Veränderungen bringen, betonte er erneut: „Diese neue Medizin wird an keinem niedergelassenen Arzt vorbeigehen, das ist klar.“ So werde es in Zukunft „digitale Be­gleitärzte“ geben, die Patienten Einschätzungen und Erklärungen zu ihren Diagnosen geben könnten, wodurch sie wiederum menschliche Ärzte entlasten würden.
https://www.aerzteblatt.de/nachrichten/152394/Lauterbach-hofft-auf-deutsche-Fuehrungsrolle-bei-medizinischer-Kuenstlicher-Intelligenz?rt=ca76ea356d14f760e890fe5559f10f20

KI ist ein brandaktuelles Thema, betonte auch Diana Stolz, Hessens neue CDU-Ministerin für Familie, Senioren, Sport, Gesundheit und Pflege, in ihrem Grußwort zum Sommerempfang der hessischen Heilberufe am 10. Juli 2024. „Im Moment sind die Herausforderungen sehr groß“, so Stolz. „Keiner von uns wird sie allein schaffen.“ Zusammenarbeit sei wichtiger denn je. „Wir müssen alle über den Tellerrand gucken.“

Dazu zähle auch Offenheit für neue Technologien. „KI ist einer der vielen Schlüssel in unserer Hand.“ Schon jetzt diene sie der Optimierung von Diagnostik und Therapie. Und das sei nur der Anfang: „Die Zunahme von Rechenleistung und Datenmengen eröffnet dem Gesundheitswesen ganz neue Möglichkeiten für die Gesundheitsversorgung.“ KI habe etwa das Potenzial, Gesundheitspersonal bei Routinearbeiten oder Verwaltungsangelegenheiten zu entlasten und unterstützen.
https://www.laekh.de/heftarchiv/ausgabe/artikel/2024/september/keine-furcht-vor-kuenstlicher-intelligenz

So kann (KI) organisatorische Aufgaben wie Abrechnungen, Personalplanungen oder Dokumentationen in Krankenhäusern und Arztpraxen übernehmen und auf diese Weise Gesundheits­fachkräfte entlasten, berichtet die Plattform Lernende Systeme. Damit die Anwendungen schnell im Versorgungsalltag zum Einsatz kommen können, müssen sie aber auf die Bedürfnisse der Gesundheits­fachkräfte zugeschnitten sein und in bestehende Prozesse eingebettet werden.

„Organisatorische KI-Anwendungen ermöglichen Gesundheitseinrichtungen einen niederschwelligen Einstieg in Künstliche Intelligenz. Die Systeme orientieren sich an bestehenden Abläufen im Alltag der Fachkräfte. Die Einrichtungen werden von einem schnellen Mehrwert profitieren. Deshalb ist zu erwarten, dass sich viele der KI-Lösungen für administrative Prozesse in der Praxis durchsetzen werden“, erklärte Karsten Hiltawsky, Leiter des Bereichs Corporate Technology und Innovation bei Dräger und Co-Leiter der Arbeitsgruppe Gesundheit, Medizintechnik, Pflege der Plattform Lernende Systeme.
(Die Plattform Lernende Systeme ist ein Netzwerk von Experten zum Thema KI. Sie wurde 2017 vom Bundesministerium für Bildung und Forschung [BMBF] gegründet.)
https://www.aerzteblatt.de/nachrichten/152318/Kuenstliche-Intelligenz-kann-von-buerokratischen-Aufgaben-entlasten?rt=ca76ea356d14f760e890fe5559f10f20

Der Hausärztinnen- und Hausärzteverband sieht im gezielten Einsatz von künstlicher Intelligenz (KI) enormes Potenzial, Praxen angesichts des enormen Versorgungsdrucks deutlich zu entlasten. Das geht aus einem Ende Juli veröffentlichten Positionspapier des Verbandes hervor.
https://www.aerzteblatt.de/nachrichten/152733/Hausaerzte-versprechen-sich-Entlastung-durch-Kuenstliche-Intelligenz?rt=ca76ea356d14f760e890fe5559f10f20

In diesem Positionspapier „Künstliche Intelligenz (KI) in der Hausarztpraxis“ heißt es:
„Künstliche Intelligenz verspricht Unterstützung der hausärztlichen Teams […] von der Praxisorganisation und Terminvermittlung, der Diagnosestellung über die Behandlungsplanung bis hin zur Entlastung von weiteren Routineaufgaben. Sie kann somit mehr Zeit für die hausärztliche Versorgung ermöglichen.
Dabei wird KI nicht als Ersatz, sondern als Ergänzung im Rahmen der hausärztlichen Versorgung verstanden, als Werkzeug, das Empfehlungen formulieren kann, die das hausärztliche Praxisteam in der vertrauensvollen persönlichen Interaktion mit Patientinnen und Patienten unterstützt. Die Hausärztinnen und Hausärzte sind somit gegenüber der Nutzung neuer KI-Technologien offen, wenn die Sicherheit der Versorgung und der Daten sichergestellt ist und eine echte Entlastung der Praxisteams gewährleistet werden kann. […] Ein möglicher Vorteil könnte die Unterstützung bei der Diagnostik sein. Durch die Fähigkeit der KI, umfangreiche medizinische Datenmengen zu analysieren und komplexe Muster zu erkennen, kann sie beispielsweise die Hausärztin und den Hausarzt unterstützen, Diagnosen präziser und schneller zu stellen. […] Perspektivisch wäre es sowohl denkbar als auch wünschenswert, dass KI-Systeme die medizinische Diagnostik unterstützen, insbesondere bei der Erkennung komplexer oder seltener Krankheitsbilder. Durch die Analyse umfangreicher Patientendaten, einschließlich EKG-Aufzeichnungen, Blutwerten und Bio-Markern, könnten KI-Systeme dazu beitragen, mittels fortschrittlicher Mustererkennung frühzeitig Indikatoren zu identifizieren, die auf spezifische seltene oder chronische Erkrankungen hinweisen.

Zu dem Fazit, dass KI gute Arztbriefe schreibt, kommt die Studie einer Arbeits­gruppe vom Universitätsklinikum Freiburg. Im Vergleich von 4 Sprachmodellen zeigte sich, dass ein nicht kommerzielles Modell sogar die besten Ergebnisse erzielte. Die Studie ist im Fachmagazin JMIR Medical Infor­matics erschienen (DOI: 10.2196/59617).

Laut dem Forschungsteam bestand die größte Herausforderung darin, sicherzustellen, dass die durch das Sprach­modell generierten Dokumente den Standards der medizinischen Dokumentation in deutscher Sprache entspre­chen. „Besonders die Anpassung an spezifische medizinische Fachbegriffe und die Struktur klinischer Berichte stellte eine anspruchsvolle Aufgabe dar, da das Modell sowohl präzise als auch verständliche Texte liefern musste“, er­läuterte Daniel Böhringer, Initiator der Studie und Oberarzt an der Klinik für Augenheilkunde.
https://www.aerzteblatt.de/nachrichten/154557/Gute-Arztbriefe-koennen-mithilfe-kuenstlicher-Intelligenz-erstellt-werden?rt=ca76ea356d14f760e890fe5559f10f20

Das Universitätsklinikum Hamburg-Eppendorf (UKE) setzt bereits für Arztbriefe ein auf KI beruhendes neues Sprachsystem ein. Entwickelt hat das Tool die gemeinnützige UKE-Tochtergesell­schaft „Innovative Digitale Medizin“ (IDM). Das Sprachsystem namens „Argo“ soll bei der Erstellung von Arztbriefen unterstützen und die Mitarbeiter entlasten. Grundlage für die Entwicklung des Sprachmodells ist die 2009 eingeführte digitale Patientenakte des UKE. Das System bildet den Krankheitsverlauf der Patienten umfassend ab und verbindet dies mit gelerntem klinischem Wissen, erklärte Nils Schweingruber, Geschäftsführer der IDM.
https://www.aerzteblatt.de/nachrichten/153726/Uniklinikum-Hamburg-Eppendorf-setzt-KI-Sprachmodell-fuer-Arztbriefe-ein?rt=ca76ea356d14f760e890fe5559f10f20

Die nachhaltige und nutzenstiftende Umsetzung und Implementierung von KI-Lösungen an Kranken­häusern erfordert allerdings gute Vorüberlegungen und hohes Expertenwissen, machte Mina Baumgarten, Leitung Ressort Geschäftsprozesse und Versorgungsinnovation bei Vivantes, einem kommunalen Krankenhausbetreiber in Berlin, im Rahmen eines Expertengesprächs deutlich. Da es bislang noch wenig Evidenz aus dem realen Versorgungsalltag zur Nutzung von KI-gestützen Anwendungen gebe, pilotiere man als potenziell sinnvoll identifizierte Anwendungen im Klinik­alltag an einem einzelnen Standort.
https://www.aerzteblatt.de/nachrichten/152420/KI-Loesungen-an-Kliniken-strukturiert-einbinden?rt=ca76ea356d14f760e890fe5559f10f20

KI könnte auch Benachteiligung von Frauen bei der Diagnose etwa einer koronaren Herzerkrankung (KHK) vermindern. So berichteten die Projektpartner der Machbarkeitsstudie „Frau.Herz.KI – Gerechte Medizin für Frauen“ in München, dass KI Hinweise auf eine koronare Herzkrankheit (KHK) bei Frauen früh­zeitig erkennen und so dazu beitragen kann, eine geschlechterspezifische Benachteiligung bei der Diagnose von KHK zu verringern.

Allerdings kristallisierte sich auch hier der bestehende Gender-Bias heraus. Während geschlechtsspezifische KI-Modelle eine KHK bei Männern um zwanzig Prozent besser vorhersagen kann, lag der Vorteil bei Frauen nur noch bei sieben Prozent gegenüber den Experteneinschätzungen. Daher sei es wichtig zu beachten, dass sich der sogenannte Gender-Bias durch die entsprechenden Daten auch auf KI-Systeme übertragen und dort manifestieren könne. „Deshalb müssen wir uns für geschlechterspe­zifische KI-Anwendungen einsetzen“, betonte Bayerns Gesundheitsministerin Judith Gerlach bei der Vorstellung der Projekt­ergebnisse.
https://www.aerzteblatt.de/nachrichten/152801/KHK-Kuenstliche-Intelligenz-koennte-Benachteiligung-von-Frauen-bei-Diagnose-vermindern?rt=ca76ea356d14f760e890fe5559f10f20

Viele Menschen in Deutschland haben in Gesundheitsfragen offenbar großes Vertrauen in KI. Fast jeder Zweite (47 Prozent) traut einer KI in bestimmten Fällen bessere Diagnosen zu als Menschen, wie aus einer am 13. August 2024 vorgestellten Umfrage des Digitalverbands Bitkom hervorgeht.

Mehr als die Hälfte (51 Prozent) der Befragten kann sich demnach vorstellen, eine KI künftig um eine Zweit­meinung zu bitten. Sechs Prozent haben nach einem Arzttermin schon einmal Chatbots wie ChatGPT oder Symptomchecker-Apps befragt. Eine große Mehrheit von 85 Prozent ist zudem der Meinung, dass Künstliche Intelligenz eine riesige Chance für die Medizin sei.
https://www.aerzteblatt.de/nachrichten/153543/Kuenstliche-Intelligenz-wird-fuer-Zweitmeinung-in-Erwaegung-gezogen?rt=ca76ea356d14f760e890fe5559f10f20

Nach aktuellen Studien sind allerdings ChatGPT und andere Medizinchatbots derzeit aber nicht noch kliniktauglich: Sogenannte „Large language models“ (LLM) wie ChatGPT erzielen in medizinischen Abschlussprüfungen mittlerweile bessere Ergebnisse als die meisten Medizinstudierenden; im klinischen Alltag wären sie bei der Diagnose von Krankheiten jedoch häufig überfordert, wie 2 Studien in npj Digital Medicine (2024; DOI: 10.1038/s41746-024-01185-7) und Nature Medicine (2024; DOI: 10.1038/s41591-024-03097-1) zeigen.

Ein Team um Daniel Rückert, Professor für Artificial Intelligence in Healthcare and Medicine an der TU Mün­chen, hat untersucht, wie sich die „Open Source“ LLM Llama 2 und einige Varianten bei typischen Frage­stell­un­gen auf einer Notaufnahme schlagen. Aus einem größeren Datensatz wählten sie 2.400 Fälle aus mit Be­funden aus verschiedenen Untersuchungen, bei der Bildgebung allerdings nur in schriftlicher Form.

Alle Patienten waren mit Bauchschmerzen in die Notaufnahme gekommen. Mögliche Diagnosen waren Appen­dizitis, Cholezystitis, Divertikulitis oder Pankreatitis. Die Ärzte stellten nach Kenntnis der ersten Befunde zu 89 % die richtige Diagnose; die beste LLM kam dagegen gerade einmal auf 73 %. Ein weiteres Problem, das die Programme für den Einsatz im Alltag disqualifiziert, war ein Mangel an Robust­heit: Welche Diagnose ein LLM stellte, hing unter anderem davon ab, in welcher Reihenfolge es die Informa­tio­nen erhielt.
https://www.aerzteblatt.de/nachrichten/153144/Studien-halten-ChatGPT-und-andere-Medizinchatbots-derzeit-nicht-fuer-kliniktauglich?rt=ca76ea356d14f760e890fe5559f10f20

Wichtig sind zudem klare gesetzliche Regelungen. Das Gesetz über Künstliche Intelligenz (KI) der Europäischen Union (EU) ist am 1. August in Kraft getreten und muss von den Mitgliedstaaten in den kommenden zwei Jahren umgesetzt werden. In der Medizin dürften viele KI-Anwendungen künftig den höchsten Risikoklassen zugeordnet werden.

Das Gesetz zielt darauf ab, die Nutzung von KI in der Europäischen Union sicherer zu machen. Es soll sicher­stellen, dass KI-Systeme möglichst transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind. Ein wichtiger Aspekt ist, dass die KI-Systeme von Menschen überwacht werden und nicht nur von ande­ren Technologien.

Die Regelungen sehen vor, KI-Anwendungen in verschiedene Risikogruppen einzustufen. Systeme, die als be­sonders risikoreich gelten und beispielsweise im Gesundheitswesen oder anderen kritischen Infrastrukturen eingesetzt werden, müssen strenge Anforderungen erfüllen. Anwendungen mit einem geringeren Risiko un­ter­liegen weniger Verpflichtungen.

Experten diskutierten zuletzt immer wieder, ob KI durch das Gesetz einen Schub erhält oder die Entwicklung vielleicht sogar ausgebremst wird. Das liegt am Ende wohl auch an der jeweiligen nationalen Umsetzung. Bundesdigitalminister Volker Wissing gehen die Vorgaben des EU-Gesetzes teilweise zu weit. „Ich hätte mir eine innovationsfreundlichere Regulierung gewünscht“, sagte der FDP-Politiker. „Aber am Ende muss es eben ein Kompromiss sein, der ist besser als keine Regulierung.“ Nun gehe es in Deutschland um eine möglichst „bürokratiearme“ Umsetzung.
https://www.aerzteblatt.de/nachrichten/153309/KI-Gesetz-der-EU-sieht-hohe-Risikoklassen-fuer-Medizintechnik-vor?rt=ca76ea356d14f760e890fe5559f10f20

Dr. Gerd-Marko Ostendorf
Versicherungsmediziner

Hinweis:

Auf dem 15. Kongress für Versicherungsmedizin und Begutachtung am 5.12.2024 in Frankfurt/Main wird Künstliche Intelligenz ein wichtiges Thema sein.
Informieren Sie sich und diskutieren Sie mit!