• FAZ-Podcast "Künstliche Intelligenz"

    Transkript unseres Podcasts mit Prof. Martin Hirsch

    Ganz herzlich willkommen zum FAZ Podcast Künstliche Intelligenz. In diesem Podcast sprechen wir mit Expertinnen und Experten aus Wirtschaft und Wissenschaft über die Einsatzgebiete der künstlichen Intelligenz, die ökonomischen Effekte dahinter, aber natürlich auch über die Grenzen der Nutzung dieser neuen Technologie.

    Unser Gast heute ist Martin Hirsch. Martin Hirsch hat einen Doktortitel in Neurowissenschaften. Aus dem Forscher wurde zwischenzeitlich auch ein Unternehmer. Er entwickelte die erste Version von Ada für Ärzte. Seit 2020 hat Martin Hirsch eine Professur für künstliche Intelligenz in der Medizin an der Universität Marburg. Das Faible für die Wissenschaft liegt übrigens schon in seinen Genen. Sein Großvater ist der Quantenphysiker und Nobelpreisträger Werner Heisenberg.

     

    ___

     

    FRAGE: Ein wichtiges Anwendungsgebiet ist die Nutzung von KI in der Medizin - das Coronavirus zeigt uns das. Können Sie uns einen kurzen Überblick geben, in welchen Gebieten die KI heute schon den größten Nutzen in der Medizin stiften kann?

     

    MARTIN HIRSCH: Also ich sehe 5 Einsatzgebiete, in denen KI heute schon zur Wertschöpfung beiträgt. Erstens: Regelmäßigkeiten in großen biomedizinischen Forschungsdatenmengen entdecken. Hinter diesen Regelmäßigkeiten könnten dann biomedizinische kausale Mechanismen stehen, die man untersuchen kann. Das Verfahren ist zum Beispiel in der Arzneimittelherstellung sehr verbreitet.

    Zum Zweiten sehe ich den Bereich der sensornahen Signalauswertung. Also wenn wir aus großen bildgebenden Verfahren – Röntgen, MRT und so weiter – große Datenmengen bekommen, um die Bilder zu analysieren. Das ist in der Radiologie der Fall, in der Pathologie, in der Dermatologie, aber auch zum Beispiel Bewegtaufnahmen in der Psychiatrie. Dort werden Bewegungsmuster analysiert, auch mit Kameras und selbstlernenden Systemen, um Verhaltensanomalien automatisiert zu entdecken – die zum Beispiel auf Autismus hindeuten könnten.

    Der dritte Bereich ist die Entscheidungsunterstützung, indem man in komplexen Diagnosefindungssituationen oder Therapieplanungssituationen Erkenntnisse aus der künstlichen Intelligenz zu Rate zieht.

    Vierter Bereich ist Patienten-Empowerment. Immer mehr Systeme – Sie haben das schon erwähnt, Ada ist ein solches System – finden außerhalb der heutigen Grenzen des Gesundheitssystems statt: auf dem Sofa zu Hause. Da entsteht ein neues Gesundheitsökosystem und da spielt KI eine wichtige Rolle. Also zum Beispiel in der Befähigung der Bürgerinnen und Bürger zur Interpretation der Symptome. „Ist das jetzt schon was Gefährliches oder nicht? Wie schnell muss ich zum Arzt? Muss ich überhaupt zum Arzt?“ Da tut sich eine Menge.

    Und der fünfte Bereich ist das Disease Monitorings zu Hause. Das heißt, denken Sie an Diabetiker, die ihren Insulinspiegel mehr oder weniger in einem Closed-Loop System vollautomatisiert regeln. Da kommen schon heute KI-Technologien auch sehr hardwarenah zum Einsatz. Das sind so die 5 Bereiche, in denen ich sehe, dass es schon heute viel nutzen stiftet.

     

    FRAGE: Jetzt leben wir gerade in einer Pandemie und KI hat bei der Entwicklung der mRNA-Impfstoffe gegen das Corona-Virus eine zentrale Rolle gespielt. Bedeutet dieses Entwicklungsverfahren einen Durchbruch der KI in der Medizin?

     

    MARTIN HIRSCH: Also zumindest in der Akzeptanz und der Sichtbarkeit der KI in der Öffentlichkeit und in der Politik. Die Tragweite, die KI-Systeme erreichen können, wurde hier sehr prägnant deutlich. Das heißt aber nicht, dass dieser Durchbruch jetzt an dieser Stelle pauschalisiert und auf die gesamte Medizin erweitert werden kann. In dem Fall passte das Problem, das es zu lösen gab, sehr gut zu dem Methodenset, das man heute in der KI verbreitet einsetzt. Diese Passung muss halt gegeben sein und das ist nicht in allen Bereichen der Medizin in dieser Weise der Fall. Denken Sie zum Beispiel an die mehr als 8000 seltenen Erkrankungen. Dort hat man schlicht nicht genug Datensätze, um klassisches Machine Learning anzuwenden. Dort werden aber andere Formen von künstlicher Intelligenz, die gerade in der Entwicklung sind, ihre Anwendung finden – vor allem semantische Methoden. Also pauschal von dem Durchbruch zu reden wäre sicherlich übertrieben. Aber es hat definitiv geholfen, um in der Öffentlichkeit das Potenzial und die Wichtigkeit der KI deutlich zu machen.

     

    FRAGE: Bringt künstliche Intelligenz uns so etwas wie eine personalisierte Medizin? Also mit Medikamenten, die speziell für jeden Menschen entwickelt werden können und damit möglicherweise viel wirksamer sind als heutige Medikamente?

     

    MARTIN HIRSCH: Medikamentenentwicklung ist ein extrem aufwendiger Prozess. Wissenschaftlich extrem aufwendig, studientechnisch, ökonomisch. Er dauert über 10 Jahre und kostet mehr als eine Milliarde Euro. Solche Wirkstoffe entwickelt man natürlich nicht für einen Patienten. Sehr wohl wird KI aber helfen, die beste Mischung und Reihenfolge von Wirkstoffen, die man appliziert, zu ermitteln und diese hochgradig zu personalisieren. Die Personalisierung wird also darin bestehen, die Zusammensetzung der Wirkstoffe und die Reihenfolge der Wirkstoffe zu bestimmen, weniger neue Medikamente zu entwickeln.

     

    FRAGE: Wie weit sind wir auf diesem Weg schon gekommen? Wann bekommen wir diese zumindest in Ansätzen personalisierte Medizin für uns?

     

    MARTIN HIRSCH: In der Onkologie ist das durchaus schon in Projekten im Einsatz, zum Beispiel in personalisierten Immuntherapien, aber immer nur im forscherischen Umfeld. Das liegt vor allen Dingen an regulatorischen Hürden. Der Gesetzgeber tut sich im Moment noch sehr schwer damit, KI-Systeme zu regulieren. Das Problem liegt in der Rechtssicherheit des Einsatzes, weil ich eben nicht Schema F anwende, sondern eben aus selbstlernenden Systemen heraus eine personalisierte Therapie anstrebe. Und sowas kann ich nicht in großen Kohorten testen. Das geht aus dem klassischen Medizinprodukte-Regularien-Set hinaus und deswegen tut sich der Gesetzgeber noch schwer damit. In der Regel kommen solche Methoden heute nur zum Einsatz, wenn nichts anderes mehr geht. Wir haben noch eine große Wegstrecke vor uns, um das regulatorisch in den Griff kriegen, aber dafür werden wir Lösungen finden.

     

    FRAGE: Kurz zurück zum Thema KI und COVID: Forscher arbeiten daran, Corona-Erkrankungen anhand der Sprache zu erkennen und auch das mit Hilfe von KI. Sprache ist das neue Blut, sagte die Entwickler. Ist das übertrieben?

     

    MATIN HIRSCH: Das ist sicherlich übertrieben, aber macht es ganz plastisch oder sehr nett deutlich. Ich würde sogar sagen, dass es über das Blut hinausgeht, weil ich keinen invasiven Eingriff machen muss. Sprache kann ich einfach messen und für Blut muss ich mir eine Nadel irgendwo reinstecken. Also von daher hat Sprache auch gegenüber dem Blut einige Vorteile. Wir alle wissen, dass Stimmungsschwankungen sich in Sprache ausdrücken. In der Sprache sind gerade mentale Zustände sichtbar oder hörbar und natürlich kann man darauf auch KIs trainieren. Wir kennen das Verfahren aus der Psychiatrie die Befindlichkeitsmessungen über Sprache – ist der Patient jetzt in einer manischen Phase, ist er in einer depressiven Phase? Das kann man heute schon recht genau messen und das gilt natürlich auch für COVID. Die mit COVID einhergehende Kurzatmigkeit zeichnet sich relativ früh ab. Man kann dann sogar noch Menschen in der Teleberatung sagen, gehen sie einmal den Flur entlang – und dann hört man sie nochmal an, um ein Vorher-nachher-Bild zu haben. Dann kann man erkennen, ob bei diesen Menschen die Kurzatmigkeit extrem schnell hoch geht. Und das hört man natürlich auch beim Luftholen, während des Sprechens und von daher ist das definitiv realistisch.

    Vielleicht noch eine Ergänzung – das gilt für viele Bereiche der KI: Ich messe nur auf einem Kanal, nämlich dem Sprachkanal. Zu einer Aussage „der hat aller Wahrscheinlichkeit nach COVID“ komme ich nur, wenn ich andere Symptome hinzufüge. Nur aufgrund einer Sprachanalyse werde ich nicht zur Diagnose COVID kommen, das ist meine Überzeugung. Mögen mich die Kollegen eines Besseren belehren, aber das würde mich sehr wundern. Also bestimmte charakteristische Sprachveränderungen in Kombination mit anderen Symptomen, die ich abfragen kann, das ergäbe dann COVID.

     

    FRAGE: Sie haben Ada entwickelt. Das ist eine App, die Krankheitssymptome auf Basis der künstlichen Intelligenz diagnostizieren möchte. Wie funktioniert das? Und wie gut ist das?

     

    MARTIN HIRSCH: Ada ist im Gegensatz zu dem, was man heute unter KI versteht – also vor allem Ansätze, die auf Machine Learning basieren – ein System in Richtung einer hybriden KI. Das heißt, es kombiniert sehr geschickt Wahrscheinlichkeitsmodelle von Erkrankungen mit Machine Learning zur Korrektur von diesen Modellen. Ada ist vor allem ein probabilistisches Expertensystem, in dem 1500 Krankheitsmodelle – in Form von Wahrscheinlichkeitsmodellen – etwa 26.000 ICD-10 Diagnosen abdecken. In dem ganzen System ist aber kein einziger Entscheidungsbaum enthalten. Das heißt, ein Algorithmus hat dann dieses große Wahrscheinlichkeitsnetz zur Verfügung und baut aufgrund dessen die Anamnese auf. Das heißt, Ada stellt Fragen – und zwar jetzt in Chat-Form. Also wie in einer WhatsApp chatten sie sozusagen mit einem Chatbot, der eine Anamnese erstellt, die auf diesem probabilistischen Hintergrundwissen basiert. Ada funktioniert also ein bisschen anders als die klassischen Machine-Learning-Ansätze. Wobei wir dann mit den Daten, die wir am Ausgang des Modells messen, natürlich wieder nachkorrigieren. Daher haben wir einen Maschine-Learning-Loop eingebaut. Das Hauptsystem ist aber ein probabilistisches System und wichtig hierbei ist, dass die Algorithmen den Anamneseweg berechnen.

    Das erwähne ich besonders, weil wir an dieser Algorithmen-Front der Entscheidungsunterstützung noch deutlich mehr machen können und machen sollten. Dort liegen auch die Stärken unserer deutschen Tradition. Wir sind das Land der Dichter und Denker und wir sind gut im Algorithmen entwickeln. Aber wir haben einfach nicht so viele Daten wie die Chinesen und andere Völker. Die haben nicht nur mehr Daten, sondern auch weniger Datenschutz, können also klassisches Machine Learning besser einsetzen. Wir sollten uns auf etwas anderes konzentrieren, nämlich auf intelligente Algorithmen, die aus Daten Sinn erzeugen. Synthetische Algorithmen, also das Fällen synthetischer Urteile - das war mein Leitbild damals bei Ada. Wenn es nur auf die Datenmenge ankommt, werden die Chinesen besser sein. Nicht weil sie die Algorithmen dahinter besser könnten, aber sie haben einfach mehr Daten und weniger Skrupel und das hilft halt bei Machine Learning. Wir haben ja Gott sei Dank ein anderes Wertesystem - von daher sollten wir uns mehr auf die Algorithmen konzentrieren.

     

    FRAGE: Wo liegen die Einsatzgebiete für Ada? Und wie kann eine solche App das Gesundheitswesen verbessern? Weil man schneller zu einer Vordiagnose kommt?

     

    MARTIN HIRSCH: Ja, aber nicht nur. Also zum einen hat Ada in den drei Jahren auf dem Markt mehr als 25 Millionen dieser Vordiagnosen ausgeliefert. Solche Resonanzphänomene sind immer nur dadurch zu erklären, dass es im Markt einen Bedarf dafür gibt. Dieser Bedarf liegt außerhalb unseres heutigen Gesundheitssystems. Heute beginnen die Gesundheitssysteme in den Warteräumen der Arztpraxen und Kliniken – aber diese Zeiten sind bald vorbei. Vor den Toren des heutigen Gesundheitssystems entsteht ein neues Gesundheitssystem - getrieben von Systemen wie Ada oder der Apple Watch. Diese Systeme basieren auf leistungsfähigen Sensoren in mobilen Geräten, die nah bei mir sind und die ganze Zeit arbeiten. Immer mehr Hometesting, immer mehr Labortests können zu Hause gemacht werden, was vor allen Dingen der Trockenbluttechnologie zu verdanken ist, die mehr und mehr im Kommen ist. Da platziert man einen Tropfen Blut auf eine trockene Platte, drückt drauf und er wird sofort in eine kristalline Struktur eingepackt und ist dadurch sehr temperaturstabil. Daher kann ich es gut verschicken, gut lagern und prima analysieren, sodass ich geschickt kombinieren kann: Sensordaten wie aus der Apple Watch kombiniert mit Labordaten, die ich zuhause erheben kann, und KI-Systeme wie Ada, die das Ganze rahmen. Daraus wird ein sehr leistungsfähiges System entstehen, das die Einstiegshürde, meine Symptome zu checken, einfach reduziert. Ich setze mich eher aufs Sofa, als dass ich mir einen Termin beim Arzt mache. Das bedeutet, dass ich Dinge auch früher entdecke. Solche Systeme kennen dann auch seltene Erkrankungen, im Gegensatz zu normalen Allgemeinmedizinern und auch normalen Klinikärzten, die diese 8000 Krankheiten gar nicht kennen können. Solche Systeme können auch Hinweis auf seltene Krankheiten liefern. Sie sagen vor allen Dingen dem Betroffenen auch häufig: „Du kannst einfach zu Hause bleiben.“ Bei 20 Prozent der Ada Diagnosen kommt am Ende raus: „Warte erstmal ab, wenn es in drei Tagen nicht besser ist, gehst du zu deinem Hausarzt, aber du brauchst jetzt nicht in die Notaufnahme zu laufen.“ Man geht davon aus, dass etwa 50 Prozent – manche sagen auch 60 Prozent – der Leute, die in die Notaufnahme einer Klinik kommen, dort überhaupt nicht hinmüssten. Insofern kann man die Eingänge des Gesundheitssystems mit solchen vorgeschalteten Systemen deutlich entlasten und qualitativ verbessern.

     

    FRAGE: Sie haben es eben schon mal angedeutet, dass wir in Deutschland ein anderes Verhältnis zur künstlichen Intelligenz haben als zum Beispiel die Chinesen. Die Chinesen haben mehr Daten und weniger Datenschutz. Können wir in Deutschland die Vorteile der KI heute überhaupt ausschöpfen, oder reguliert uns der Datenschutz so weit runter, dass wir uns ein bisschen selbst im Wege stehen?

     

     

    MARTIN HIRSCH: Ausschöpfen auf keinen Fall, aber das tun wir noch nirgendwo auf der Welt. Wir stehen erst am Anfang, obwohl wir in Deutschland sehr gut in KI sind. Man denke an das Institut ML2R in Dortmund, das zu den globalen Pionieren im Machine Learning gehört. Deutschland ist extrem gut im Entwickeln solcher Algorithmen, aber nicht umsonst kommt dieses Institut aus der Technik, wo wir viele Messdaten von Sensoren in Lagern oder in Autos haben. Aus den vielen Daten kann man gut lernen. In der Medizin haben wir in Deutschland nur 80 Millionen Menschen und dadurch haben wir nicht so viele Daten. Dann kommt noch der Datenschutz dazu, der aber ein gesondertes Thema wäre. Also meiner Meinung nach ist Deutschland gut in KI und hat da keinen Nachholbedarf, aber wir sollten auch nicht anfangen, uns da auf unseren Lorbeeren auszuruhen. Deutschlands riesiger Nachholbedarf liegt in der Digitalisierung. Damit wir diese KI-Algorithmen anwenden können, brauchen wir die Daten in einer lesbaren Form. Wir brauchen ein digitales Gesundheitssystem und das haben wir schlicht in Deutschland nicht, auch wenn Herr Spahn sehr energisch und konsequent an dem Thema arbeitet. Er lotet das Maximum aus, das er dem Gesundheitssystem zumuten kann. Da haben wir wirklich Glück, so einen digital-affinen Minister zu haben. Mit den digitalen Gesundheitsanwendungen sind wir sogar global führend. Es gibt kein anderes Land auf der Welt, in dem ich mir die Kosten einer digitalen Gesundheits-App auf meinem Smartphone erstatten lassen kann. Und das motiviert die App-Entwickler, die darauf ein Geschäftsmodell aufbauen können. Da ist Deutschland tatsächlich wirklich weltweit führend.

     

    FRAGE: Die EU hat gerade neue Regeln für den Einsatz der künstlichen Intelligenz erlassen, die gefährliche Anwendungen untersagen wollen. Ich kenne auch einige Startups aus dem Gesundheitswesen, die Deutschland verlassen haben, weil der hohe Datenschutz digitale Lösungen schlicht verhindert und massiv verzögert hat. Die Startups sind ins Ausland gegangen, haben dort neu angefangen. Sehen Sie einem strukturellen Nachteil, dass der Datenschutz solche innovativen KI-Anwendungen in der Medizin verhindert?

     

    MARTIN HIRSCH: Also ich sitze in der Ethikkommission und als Entwickler von solchen Apps - auch mit dem Ada-Hintergrund - verzweifele ich schon an den Datenschutzauflagen und Regularien der DSGVO. Es gab sicherlich sehr häufig Zeiten, in denen ich damit haderte. Aber gleichzeitig bin ich stolz darauf, dass wir ein Wertesystem haben, in dem die Freiheitsrechte und die Selbstbestimmungsrechte des Einzelnen so hoch gewichtet werden. Von daher sehe ich das immer sehr ambivalent. Im Moment müssen wir aber aufpassen, dass wir es nicht mit dem Datenschutz übertreiben. Das hat zu sehr Schlagseite in die Richtung, auch weil der Begriff Datenschutz in unserer Gesellschaft voll etabliert und omnipräsent in unseren Köpfen ist. Wir bräuchten einen Begriff, der das Potenzial der Daten auf die andere Seite der Waagschale legt. Daher müssen wir aufpassen, dass wir den Datenschutz nicht überbewerten, nur weil wir Begriffe dafür haben und sich unglaublich viele Menschen beruflich damit auseinandersetzen. Datenschutz darf nicht über Menschenschutz stehen oder Lebensschutz. Mein Kollege Jürgen Schäfer aus Marburg schlägt vor, den Datenschutz im Gesundheitswesen getrennt vom großen Thema Datenschutz zu behandeln. Daten sind eben nicht gleich Daten und gerade in der Gesundheit ist das wirklich ein sehr spezielles Ding. Ich finde diesen Vorschlag, Datenschutz in der Medizin anders zu behandeln als den Datenschutz beim Einkaufen auf Shoppingplattformen, sehr gut. Daraus kann man auch ein globales Geschäftsmodell bauen. Wir Europäer werden reüssieren mit der Hochhaltung dieser Menschenwürde und dieser Wertesysteme. Das muss sich einpendeln im Lauf der Zeit, also ich bin da nicht pessimistisch, sondern eher optimistisch.

     

    FRAGE: Das Thema haben wir auch bei der Corona-App ganz gut gesehen, als vor allen Dingen über Datenschutz diskutiert wurde. Jetzt haben wir tatsächlich eine sehr datenschutzfreundliche App – mit der Konsequenz, dass das Ding ein bisschen zahnlos ist. Aber stellen wir uns doch mal vor, Sie als Experte wären nun Gesundheitsminister. An welchen Stellschrauben würden sie drehen? Gerade in Bezug auf KI, gerade in Bezug auf die Nutzung von Daten, wie wir es eben besprochen haben.

     

    MARTIN HIRSCH: Interessante Frage! Ich arbeite in der Universitätsklinik. Da sehe ich den Bedarf auch der Ärztinnen und Ärzte an Clinical Decision Support, also Entscheidungsunterstützungssystemen. Also Systeme, die in heiklen Situationen – und das kann Zeitdruck sein, das kann aber auch eine komplexe Gemengelage an Befunden sein, die man schwer interpretieren kann – wo es einfach Zeit Kosten würde, sich da mal rein zu Knien in diesen Fall, um rauszufinden: Was steckt hinter den Symptomen? Ärztinnen und Ärzte sehnen sich nach Entscheidungsunterstützungssystemen, aber die Infrastrukturen solcher Kliniken geben das einfach nicht her. Da hat Jens Spahn mit dem Krankenhauszukunftsgesetz einen sehr guten Vorstoß gemacht. Wenn ich aber mir die Realität in den Kliniken anschaue, wird dieses Geld - immerhin 3,8 Milliarden Euro - vor allen Dingen in die Schaffung digitaler Infrastruktur gesteckt. Das ist eine wichtige Voraussetzung, aber maximal nur die erste Hälfte des Weges, den wir gehen müssen. Ich würde mir eine zweite Runde des Krankenhauszukunftsgesetz wünschen, die sich allein auf die Einführung von Clinical Decision Support, also KI-Systemen in die Kliniks- und Praxen-Landschaft konzentriert.

    Dazu gehört auch – und das wäre mein zweiter Wunsch und vielleicht mein dringlichster - dass man die Produzenten der Gesundheitsdaten, also auch die Medizingerätehersteller, dazu zwingt, die Information, die sie generieren, semantisch korrekt zur Weiterverarbeitung zu geben. Wir brauchen semantisch annotierte Daten, damit auch die EPA, die elektronische Patienten Akte, nachher semantische Informationen enthält. Denn erst wenn diese Informationen semantisch, also bedeutungsmäßig medizinisch eindeutig sind, können KI-Systeme und Entscheidungsunterstützungssysteme sie sich zunutze machen. Da würde ich - das habe ich auch schon öfter mit Herrn Spahn und Herrn Ludewig besprochen - mehr Druck auf die Hersteller der EPAs machen, dass sie von vorneherein und alle im gleichen Ausmaß die Informationen semantisch korrekt – also Ontologie-basiert - ablegen. Das wäre ein Riesensprung und dann würde man aus der Schwäche von Deutschland, nämlich im digitalen Wettbewerb global gesehen noch ganz weit hinten zu sein, was die digitale Patientenakte betrifft, plötzlich ganz vorne sein. Da wir noch keine Akte haben, könnten wir jetzt sofort eine semantische Akte machen und wären damit allen anderen weit voraus, die allesamt keine semantische Akte haben. Das hat den beiden eingeleuchtet, aber sie sagen, jetzt müssen wir erstmal den ersten Schritt gehen, weil der zweite Schritt eine Überforderung wäre. Das kann ich in gewisser Weise auch nachvollziehen, aber ich bin dann immer etwas ungeduldig.

     

    FRAGE: Beim Thema Patientenakte kann man auch mal ungeduldig sein, denn das dauert jetzt auch schon sehr lange. Aber Sie haben gerade Entscheidungsunterstützungssysteme angesprochen: Kann die KI eines Tages selbständig Entscheidungen treffen, oder bleiben Ärztinnen und Ärzte immer die letzte Instanz?

     

    MARTIN HIRSCH: Auf absehbare Zeit ist es menschlich erwünscht, ethisch geboten und rechtlich erforderlich, dass Ärztinnen und Ärzte die Entscheidung fällen. KI wird immer nur unterstützen, weil am Ende jemand die Verantwortung übernehmen muss - und bis jetzt kennen wir noch keine juristischen Entitäten künstlicher Intelligenz, die Verantwortung übernehmen könnten. Aber es ist eben auch menschlich erwünscht und ethisch geboten, dass wir das so tun und wir vertrauen ja Ärzten, weil wir wissen, dass sie medizinisch ausgebildet sind und juristisch der Sorgfaltspflicht unterliegen. Und das ist ein wichtiges Konstrukt und ein schöner Begriff – die Sorgfaltspflicht – und für mich ist die viel interessantere Frage, ab welchem Zeitpunkt es zur Ärztlichen Sorgfaltspflicht gehören wird, KI-Systeme einzusetzen.

    Es gibt die sogenannten Drehtürpatienten, die kommen zu mir, denen gebe ich ein Medikament und zwei Wochen später, drei Wochen später, einen Monat später sind sie wieder mit den gleichen Symptomen da: Anscheinend hat das Medikament nicht gewirkt. Da mache ich einen zweiten Versuch mit einem anderen Medikament und dann kommen die wieder nach vier Wochen, also zu Deutsch: Die kommen immer wieder rein mit denselben Symptomen und spätestens beim zweiten oder dritten Mal muss ich dann sagen: „Okay, irgendwie bin ich mit meinem Latein am Ende.“ Und ist es dann nicht geboten, eine KI um Rat zu fragen? In der Klinik kann ich ja auch Kollegen fragen, das ist ja auch: Man zieht sich einen Rat hinzu, aber für Niedergelassene ist das häufig schwieriger. Gehört es in Zukunft zur ärztlichen Sorgfaltspflicht ein KI-System zu befragen? Und das finde ich eine sehr spannende Frage. Ich glaube die Antwort lautet ja, aber ab welchem Zeitpunkt macht man das? Und das sind für mich die interessanteren Fragen. Also auf absehbarer Zeit werden wir uns immer auf Ärztinnen und Ärzte verlassen und das ist auch gut so.

     

    FRAGE: Können denn Ärztinnen und Ärzte diese KI-Systeme überhaupt bedienen und wie muss sich deren Ausbildung und deren Berufsbild ändern? Also müssten sie viel stärker auch zumindest mal Grundkenntnisse in Informatik oder KI-Systemen erlernen, um solche Systeme sinnvoll nutzen zu können?

     

    MARTIN HIRSCH: Gute Frage. In der Labormedizin haben wir das gesehen. Die ist inzwischen vollautomatisiert. Ärztinnen und Ärzte sind dort mehr oder weniger nur noch eine Validierungsinstanz für die Ergebnisse der Maschine. In weiteren Bereichen wie der Radiologie oder die Dermatologie, die Bilder auswerten müssen, wird es diese Tendenzen ebenfalls geben. Die KI-Systeme werden eine so hohe Treffsicherheit erreichen, dass es keinen Sinn mehr macht, Menschen noch draufgucken zu lassen. Denn wir haben auch einen Ärztemangel, das müssen wir uns immer klar machen. Wir haben hier in Deutschland ein extrem elaboriertes Gesundheitssystem, aber mehr als die Hälfte der Weltbevölkerung sieht nie in ihrem Leben einen Arzt. Das heißt, es gibt auch ganz andere Verhältnisse und da mögen andere Argumente gelten, so dass wir auch mehr automatisierte Entscheidungsfindung antreffen.

    Auch hier in Deutschland werden wir eine Verlagerung sehen. Das was heute routinemäßig von Ärzten gemacht wird, wird dann von KI-Systemen erledigt werden, gerade in der Bildgebung, in der Pathologie, in der Dermatologie, aber ganz ersetzen wird KI die Ärzte auf gar keinen Fall. Und was die Ausbildung betrifft: Wir müssten heute ja hier als Hochschullehrer die Studierenden auf einen Alltag vorbereiten, den wir noch gar nicht kennen. Ich wage nicht vorauszusagen, wie eine Arztpraxis in 20 Jahren aussehen wird. Daher müssen wir dieses kollaborative Element, dass man mit KI-Systemen zusammenarbeitet, diese Denke, die müssen wir vermitteln. Ich glaube nicht, dass es viel Sinn macht, die Mediziner in die Algorithmik von neuronalen Netzen einzuführen. Aber sie müssen die Ergebnisse richtig interpretieren und kritisch einschätzen können. Sie dürfen weder ihr Denken an die Maschinen delegieren – sie brauchen immer eine kritische Distanz – aber sie müssen nicht verstehen, wie diese Maschinen intern funktionieren.

    Außerhalb des heutigen Systems, für das wir die Ärztinnen und Ärzte ausbilden, entsteht ein zweites Gesundheitssystem rund um das Smartphone und die KI. Wie gehe ich mit Patienten um, die in dieser Weise empowered zu mir in die Praxis kommen. Die am Abend wieder vor meiner Praxistür stehen und sagen: „Herr Hirsch, ich war heute Morgen bei Ihnen und Sie haben mir die Diagnose und das Medikament gegeben. Ich habe mir mal diese App Ada runtergeladen und meine ganzen Symptome eingegeben und ehrlich gesagt: Ich glaube viel mehr, was Ada mir sagt und das ist was komplett anderes“. Wie gehe ich mit solchen Patienten um? Stelle ich mich selbst total in Frage? Wie reagiere ich darauf? Und so weiter. Also wie reagiere ich auf den digitalisierten Patienten, der zu meiner Tür reinkommt, mit allem ausgestattet, was die digitale Consumer-Welt so hergibt? Nehme ich mir jetzt die Zeit und schaue mir seine Daten an? Das ist eigentlich zu viel verlangt. Auf der anderen Seite muss man das ernst nehmen, was da draußen entsteht. Das sind viel spannendere Fragen, finde ich, weil wir uns eben mit einem neuen Gesundheitssystem, einem parallelen Gesundheitssystem werden auseinandersetzen müssen.

     

    FRAGE: Ich würde gerne zu der Fragestellung zurückkommen, wie Arzt oder Ärztin mit solchen Algorithmen zusammenarbeiten. Sie sagten, dass die KI Routinetätigkeiten übernehmen könnte. Ich fand auch Ihren Satz spannend: Es wäre fast fahrlässig, wenn die Ärztin oder der Arzt in der Zukunft nicht solchen Rat von Algorithmen einholen würde. Vor dem Hintergrund vielleicht nochmal die Frage nach der fehlenden Transparenz. Viele KI-Algorithmen sind dadurch gekennzeichnet, dass sie Entscheidungsvorschläge machen, die Menschen – also Ärztin oder Arzt in diesem Fall – nicht nachvollziehen können, wie die Entscheidung zustande gekommen ist. Ist man so weit, dass man diesen Algorithmen dennoch vertrauen darf?

     

    MARTIN HIRSCH: Da muss man unterschieden, was Transparenz eigentlich heißt. Wenn man unter Transparenz versteht, dass ich die Formel kenne, nach der dieser Algorithmus trainiert worden ist – was auch zum Beispiel oft an Ada herangetragen worden ist und auch noch herangetragen wird – muss ich sagen, wenn ich auf dieses Formelungetüm gucke – das ist ja nicht nur eine Formel, das sind ja zig ineinander verschachtelte Wahrscheinlichkeitsberechnungsmatrizen usw. – was soll mir das nutzen als Arzt? Kann ich jetzt mehr an das Ergebnis glauben, wenn ich diese Formellandschaft sehe? Das was da zum Teil von der Bundesärztekammer gefordert worden ist, halte ich für wenig zielführend. Ich selbst vertrete eine andere Meinung. Ich rede immer von der Argumentfähigkeit. Maschinen werden sich nur im klinischen Alltag durchsetzen können, wenn sie argumentfähig sind. Das bedeutet schlicht und einfach, die Maschine muss mir Argumente an die Hand geben, die mich an ihren Vorschlag glauben lassen, die mich überzeugen. Das ist unsere menschliche Kultur, wir tauschen Argumente aus und dann übernehme ich Argumente von jemand anderem, weil sie mir einleuchten und dann verantworte ich sie auch als behandelnder Arzt. Und diese Argumentfähigkeit der Maschine muss hergestellt werden. Und dann ist es egal, mit welchen Algorithmen und mit welchen Methoden im Hintergrund diese Argumente zusammengesucht wurden. Und sie müssen einer kritischen Nachfrage standhalten können, wie ich auch beim Rat eines Kollegen nachfrage, wenn ich skeptisch bin.

     

    FRAGE: Gerade wenn Sie vielleicht bei einer Fehlentscheidung vor Gericht landen.

     

    MARTIN HIRSCH: Genau, also wenn der Richter mich fragen würde: „Herr Hirsch, wie konnten Sie nur? Der Patient ist jetzt tot, wie konnten Sie diese Therapie wählen?“ Und ich ihm sage: „Ja, das habe ich gestern in der oberhessischen Presse gelesen“, da wird der Richter sagen: „Das war fahrlässig, das war nicht innerhalb der Sorgfaltspflicht, die man als Arzt nun mal hat.“ Wenn ich sagen würde: „Das habe ich im Spiegel gelesen“, dann wäre das schon besser, aber auch nicht genug. Wenn ich sagen würde: „Das habe ich gestern im New England Journal gelesen“, dann wird er hellhörig. Dann würde er sagen: „Okay, das schauen wir uns mal an“ und dann würde er wahrscheinlich sagen: „Ja, das ist eine Peer-Reviewed-Studie und da durfte Herr Hirsch mit Fug und Recht davon ausgehen, dass das ein valider Vorschlag ist, auch wenn er falsch war in dem Fall.“ Dann würde ich freigesprochen werden. Und da merkt man schon, dass sozusagen juristische Sicherheit auch ein kulturelles Konstrukt ist. Eine Gesellschaft erspielt sich im Laufe der Zeit ein Regelset, innerhalb dessen man sicher ist. In diese Regelsets müssen sich auch KI-Systeme einfügen oder wir müssen die Regelsets verändern – aber das hat schon alles seinen Sinn. Von daher bin ich eher auf dem Trip: Die KI-Systeme müssen sich in die Systeme einfügen und dann haben wir auch Rechtssicherheit. Wenn die Argumente gut sind und mit Literatur oder Studien belegt sind, dann kann ich einer KI auch glauben. Ob der Ratschlag dann von einer künstlichen Intelligenz oder einer echten oder biologischen Intelligenz kommt, spielt dann keine Rolle mehr. Darauf baue ich.

     

    FRAGE: Ein anderes Thema, was wir mit Ihnen besprechen möchten, sind Datenspenden. Also nach dem Motto: Menschen spenden ihre Daten für die medizinische Forschung, so ähnlich wie wir auch Blut spenden. In einer empirischen Untersuchung mit ungefähr 2000 repräsentativen Teilnehmerinnen und Teilnehmern haben wir herausgefunden, dass zwei Drittel der Befragten bereit wären, ihre Daten für die medizinische Forschung zu spenden. Da müssen wir jetzt noch unterteilen in diejenigen die gesagt haben: „Okay ich mache das ohne Bedingung“ und die anderen, die dafür einen finanziellen Ausgleich erwarten. Was müsste geschehen, um diese wertvollen Daten entsprechend in die medizinische Forschung zu bringen?

     

    MARTIN HIRSCH: Bei Ada haben wir ähnlich Zahlen. Etwa zwei Drittel – sogar etwas mehr – der Menschen geben an, sie wären bereit, ihre Daten für den medizinischen Fortschritt zu spenden. Sie binden das aber eben auch genau daran. Und mir persönlich geht das genauso. Das sind höchstsensible, intime und damit schützenswerte Daten und ich möchte diese Daten weder in den Händen eines profitorientierten Unternehmens noch in staatlicher Hand sehen. Nicht weil ich dem Staat heute misstraue – im Gegenteil, ich lebe sehr gerne in Europa und speziell in Deutschland. Aber ich weiß auch nicht, wie sich das entwickelt. Trump hat auch niemand vorhergesagt und für möglich gehalten. Und wir leben in einer Demokratie und da ist nicht alles möglich, aber doch sehr viel. Ich möchte solche intimen Daten, auch meiner Kinder, weder in staatlicher Hand noch in kommerzieller Hand sehen. Was gibt es also für eine Institution dazwischen? Das könnten Stiftungen europäischen und deutschen Rechts sein. Wir werden einen stiftungsbasierten Datentreuhänder sehen und ich glaube, dass die Genetik der Vorreiter sein wird.

    Und ich glaube, dass es eine deutsche Genom-Stiftung geben wird, die sozusagen als Treuhänder für diese genetischen Daten fungiert. Und dass sie die Speerspitze sein werden und dass sich dann diese Denke „Daten sind was Wertvolles und ich kann sie an eine Stiftung spenden“ durchsetzen wird. Diese Stiftung darf diese Daten auch bewirtschaften – das Stiftungsvermögen sind dann die Daten – und die darf die Stiftung bewirtschaften zum Eigenerhalt der Stiftung und gebunden an den Stiftungszweck. So etwas werden wir sehen und ich glaube, dass der erste große Schritt da sein wird: Eine Genom-Stiftung in Deutschland, gekoppelt mit einem sogenannten Dynamic-Consent-Management. Es muss eine total einfach bedienbare App geben, die mir dann Anfrage schickt wie: „Martin, hier ist eine Firma, die will das und das mit deinen Daten machen, die wollen ein Medikament entwickeln“. Dann kann ich entscheiden, ob dieses Unternehmen meine Daten bekommt. Und ob dieses Unternehmen dann auch retrospektiv auf Daten zugreifen darf, muss mit App gemanaged sein.

     

    FRAGE: Die Daten sind dann anonymisiert bzw. pseudonymisiert?

     

    MARTIN HIRSCH: Ja, genau.

     

    FRAGE: Zum Abschluss nochmal ein Blick in die Zukunft: Kann künstliche Intelligenz verhindern, dass uns so etwas wie die Corona-Pandemie nochmal in einem solchen Ausmaß treffen kann? Weil zum Beispiel Medikamente oder Impfstoffe sehr viel schneller entwickelt werden können künftig. Und welche weiteren Anwendungsfälle halten Sie für denkbar, zum Beispiel in der Prävention?

     

    MARTIN HIRSCH: Künstliche Intelligenz kann Pandemien nicht verhindern. Und wie perfide die Mechanismen sind, die die Viren sich ausdenken, das wissen wir heute nicht. Aber wie Sie richtig sagen, kann KI natürlich helfen, viel schneller darauf reagieren zu können, vielleicht sogar prospektiv reagieren zu können. Das heißt zu erkennen, dass irgendwo auf der Welt hier gerade etwas Komisches passiert. Also mit Ada – das haben wir zeigen können bei dem Masern-Ausbruch in den USA vor zwei Jahren – haben wir schon vier Wochen vor den offiziellen Zahlen gesehen, dass die Masern-Kurve hochgeht. Mit einer Ada hätte man erkennen können, ob irgendwo auf der Welt ein Hotspot mit irgendwelchen komischen Symptom-Konstellationen entsteht, die nicht erklärbar sind, aber von vielen Menschen berichtet werden. Und dann würde es sich lohnen, ein Team hinzuschicken, das diese Patienten genauer untersucht. Damit ließen sich unbekannte Infektionserkrankung früher erkennen. Ich glaube, mehr noch als die KI allein ist es die digitale Infrastruktur, die uns helfen kann, Pandemien rechtzeitiger zu erkennen und besser zu bekämpfen.

    Also mich macht das wirklich kirre, wenn ich mir anschaue, wie wenig wir die geschickte Kombination von Test und IT-Infrastruktur heute nutzen, um dieser Pandemie Herr zu werden. Es wäre so einfach und wir tun es einfach nicht. Aus allen möglichen Gründen mit Datenschutz – und das trifft mich hart. Von daher glaube ich, dass digitale Medizin uns massiv helfen kann – Kommunikationsinfrastruktur noch mehr als KI. Aber KI auch vor allem in der frühzeitigen Erkennung von Herden. Und was Prävention betrifft, da sehe ich tatsächlich auch den größten und massivsten Effekt, den KI in der Medizin haben wird: Ich glaube, dass KI erstmalig in der Geschichte der Medizin die reale Option eröffnet, ein Gesundheitssystem zu bauen, das den Namen wirklich verdient: Bei dem der Erhalt von Gesundheit im Mittelpunkt steht und nicht das Wiederherstellen von Gesundheit, wenn ich einmal krank bin. Das heißt der Erhalt von Gesundheit hängt von sehr vielen individuellen Faktoren ab. Also ich, Martin Hirsch, habe andere Risikodispositionen aufgrund meiner Genetik, aufgrund meiner familiären Geschichte, aufgrund meiner Lebensumstände und anderer Gründe. Eine KI kann mein Risikoprofil ermitteln und dann regelmäßig Messungen vornehmen von Biomarkern, um zu gucken, ob bei mir irgendwas anbrennt. Ich meine jetzt gar nicht Präventionsprogramm, sondern ein Frühwarnsystem gemäß meiner persönlichen Prädispositionen. Und ein solches Frühwarnsystem wird in Zukunft Standard sein und jeder wird es haben wollen, weil er sagt: „Bahnt sich in mir irgendwas an oder nicht?“ Und das kann man nur realisieren, wenn man das wirklich nah an Menschen misst und solche Systeme nah am Menschen hat. Und die Smartphones sind dafür prädestiniert. Von daher ist meine große Hoffnung und meine Prognose, dass das der deutlichste Effekt von KI sein, das es das Zeitalter der personalisierten Prävention eröffnet.

    Alle Beiträge
    ×