Einfach erklärt
Ärztinnen und Ärzte können KI-Chatbots medizinische Fragen stellen, dabei aber versehentlich sensible Informationen preisgeben. Das neue Werkzeug CrossCover von MDCalc soll solche Angaben aus den Fragen entfernen, bevor sie weitergeleitet werden. Ob das zuverlässig funktioniert und wie gut die Daten geschützt sind, ist bisher allerdings nicht belegt.
Eine medizinische Frage ist nicht immer anonym
Eine Frage, die eine Ärztin oder ein Arzt an ein KI-System richtet, klingt vielleicht allgemein. Der medizinische Zusammenhang kann sie jedoch viel konkreter machen, als es zunächst scheint. Angaben zu einer Erkrankung oder zur Versorgung sind oft besonders sensibel. Manche Informationen verraten die Identität einer Patientin oder eines Patienten direkt; andere können in Verbindung mit weiteren Einzelheiten eine Zuordnung ermöglichen. Beim Schutz der Privatsphäre geht es deshalb nicht nur um Namen und Aktennummern. Auch die Beschreibung eines Falls und die Umstände der Behandlung können Rückschlüsse auf bestimmte Personen zulassen.
Eine weitere Ebene betrifft die Privatsphäre der Behandelnden selbst. Die Art der Frage oder ergänzende Angaben können auch etwas über die Ärztin oder den Arzt und die jeweilige Einrichtung verraten. MDCalc zufolge soll CrossCover sowohl die Privatsphäre der Patientinnen und Patienten als auch die des medizinischen Personals schützen. Die Ankündigung erläutert allerdings nicht genau, welche Angaben das Werkzeug erkennt oder wie es mit Fällen umgeht, in denen sich klinisch hilfreiche Informationen nur schwer von Hinweisen auf beteiligte Personen trennen lassen.
Das ist relevant, weil eine medizinische Frage ausreichend Kontext braucht, um verständlich zu sein. Dafür müssen aber nicht zwangsläufig sämtliche verfügbaren Informationen über eine Patientin oder einen Patienten eingegeben werden. Genau zwischen diesen beiden Anforderungen setzt CrossCover an: Das Werkzeug soll eine Frage bearbeiten, bevor sie an einen Chatbot übermittelt wird, und so die Menge an identifizierenden oder besonders geschützten Gesundheitsdaten verringern. Statt zusätzliche persönliche Angaben einzuspeisen, soll dieser Ansatz also die übermittelten Informationen begrenzen.
Wie sich der Ansatz von anderen unterscheidet
MDCalc beschreibt CrossCover als Gegenentwurf zu einer Richtung, die andere medizinische KI-Angebote verfolgen. Dem Bericht zufolge arbeiten OpenEvidence, Abridge und der auf elektronische Gesundheitsakten spezialisierte Anbieter Epic daran, mehr Informationen über Patientinnen und Patienten, Behandelnde und diejenigen, die für die Behandlung bezahlen, als Grundlage für Empfehlungen zu nutzen. MDCalc erklärt dagegen, das eigene Werkzeug solle solche Angaben aus den Anfragen von Ärztinnen und Ärzten entfernen, statt ihre Eingabe zur Voraussetzung für die Nutzung zu machen.
Aus diesem Unterschied folgt nicht automatisch, dass einer der beiden Ansätze in jedem Fall besser ist. Mehr Kontext kann Teil des Konzepts bestimmter Systeme sein. Weniger sensible Daten können wiederum die Menge der Informationen begrenzen, die eine Anfrage preisgibt. Welche Lösung im konkreten Einsatz sinnvoll ist, hängt davon ab, welche Angaben das System für eine Antwort benötigt, wie die Daten geschützt werden und ob die Grenzen des Werkzeugs für die Ärztinnen und Ärzte klar erkennbar sind. Die Ankündigung enthält nicht genug Informationen, um CrossCover technisch umfassend mit den anderen Produkten zu vergleichen.
Auch heißt es in der Beschreibung der Markteinführung nicht, dass CrossCover elektronische Gesundheitsakten ersetzt oder klinische Entscheidungen trifft. Laut MDCalc soll das Werkzeug Informationen aus ärztlichen Anfragen entfernen; das Unternehmen sieht darin eine Möglichkeit, den Einsatz generativer KI im klinischen Alltag zu beschleunigen. Diese Beschreibung sollte nicht über ihre Grenzen hinaus ausgelegt werden: CrossCover setzt nach den vorliegenden Angaben bei der Frage an, nicht bei der Verantwortung der Ärztin oder des Arztes, die Antwort zu beurteilen.
Was CrossCover verändern soll
Graham Walker, bei MDCalc für KI zuständig, zufolge kann das Werkzeug einige Hürden und Risiken beim Einsatz dieser Technologie verringern. Dadurch könnten Ärztinnen und Ärzte eher bereit sein, sie zu nutzen. Das ist die Perspektive, die das Unternehmen zum Start vorgestellt hat: CrossCover soll den Weg zwischen dem Bedarf an digitaler Unterstützung und den Bedenken zu Datenschutz und Vertrauen erleichtern.
Vertrauen hat in diesem Zusammenhang eine ganz praktische Bedeutung. Wenn Ärztinnen und Ärzte den Eindruck haben, für die Nutzung eines Werkzeugs Informationen teilen zu müssen, die nicht offengelegt werden sollten, könnten sie zögern oder ihre Frage so formulieren, dass sie weniger hilfreich ist. Lassen sich sensible Einzelheiten vor der Übermittlung reduzieren, könnte der Einsatz von KI aus Sicht des Datenschutzes einfacher werden. Diese Möglichkeit belegt jedoch nicht, dass CrossCover die Versorgung verbessert oder das Vertrauen der Anwenderinnen und Anwender tatsächlich gestärkt hat. Die verfügbaren Angaben geben das Ziel und die Einschätzung des Unternehmens wieder, enthalten aber weder Testergebnisse noch eine Befragung von Ärztinnen und Ärzten zu ihren Erfahrungen.
Walkers Beschreibung des Werkzeugs als Beschleuniger für KI im klinischen Alltag macht deutlich, dass MDCalc ihm eine weiter gefasste Rolle zuschreibt: CrossCover soll einige Hindernisse beseitigen, die einer breiteren Nutzung im Weg stehen. Wie stark der Einsatz dadurch beschleunigt werden soll, wie viele Einrichtungen das Werkzeug verwenden werden oder wie lange die Bearbeitung einer Frage dauert, wird allerdings nicht erläutert. Beschleunigung ist daher als erklärtes Ziel zu verstehen, nicht als bereits veröffentlichter Messwert.
Datenschutz ist nicht automatisch umfassende Sicherheit
Die Menge an Daten zu begrenzen, die ein KI-System erhält, ist für den Datenschutz relevant. Allein daraus lässt sich jedoch nicht ableiten, wie gut die Informationen geschützt sind. Dafür müsste bekannt sein, welche Angaben CrossCover genau entfernt, wie das Werkzeug mit indirekten Hinweisen auf eine Person umgeht und welche Daten das System nach Eingang einer Anfrage speichert. Die vorliegende Ankündigung von MDCalc beantwortet diese Fragen nicht. Es wäre deshalb nicht gerechtfertigt anzunehmen, sämtliche Risiken seien beseitigt, nur weil das Werkzeug laut Unternehmen sensible Informationen entfernt.
Auch die medizinische Frage selbst muss ausgewogen formuliert sein. Werden zu viele Einzelheiten entfernt, kann sie unklar werden oder wichtige Zusammenhänge verlieren, die das System für eine Antwort benötigt. Bleiben dagegen zu viele Angaben erhalten, wird das Ziel, die Offenlegung zu begrenzen, möglicherweise verfehlt. Dieses Spannungsverhältnis stellt sich grundsätzlich bei jedem Versuch, notwendige Informationen von solchen zu trennen, die nicht geteilt werden müssen. Die verfügbaren Angaben erklären jedoch nicht, wie CrossCover dieses Problem in der Praxis lösen soll.
Umso wichtiger ist, dass die Nutzerinnen und Nutzer wissen, was das Werkzeug tut und was nicht. Ärztinnen und Ärzte müssen verstehen können, wo die Grenzen der Bearbeitung liegen, ob sie die Frage vor dem Absenden selbst überprüfen sollen und wie sie bei komplizierten Fällen oder besonders sensiblen Informationen vorgehen. In der Ankündigung finden sich keine Angaben zu Abläufen oder Schulungen. Diese Aspekte müssten daher noch erläutert werden, bevor sich ein vollständiges Bild davon gewinnen lässt, wie die Nutzung aussieht.
Ob die Antwort stimmt, ist eine andere Frage
MDCalc stellt vor allem heraus, dass CrossCover bestimmte Risiken und Hürden im Umgang mit der Technologie verringern soll, damit Ärztinnen und Ärzte sie mit größerer Sicherheit nutzen können. Der Schutz der Privatsphäre ist aber kein Beleg dafür, dass die Antwort eines medizinischen Chatbots korrekt ist oder zum jeweiligen Fall passt. Es handelt sich um zwei verschiedene Fragen: Welche Informationen gibt die Anfrage preis? Und wie gut ist die Antwort, und wie muss sie überprüft werden, bevor sie in der Versorgung berücksichtigt wird?
Nach den verfügbaren Informationen sollte CrossCover daher weder als Garantie für korrekte Ergebnisse noch als Ersatz für fachliches Urteilsvermögen verstanden werden. Der Artikel nennt keine Vergleichsdaten zur Genauigkeit von Chatbot-Antworten mit dem Werkzeug, berichtet nicht über eine klinische Studie und enthält keine Zahlen zu vermiedenen Fehlern. Auch Angaben dazu, wie viele Ärztinnen und Ärzte CrossCover ausprobiert haben oder ob es ihre Arbeitszeit beeinflusst, fehlen. Das schließt einen möglichen Nutzen nicht aus. Es bedeutet aber, dass seine Auswirkungen anhand von Informationen beurteilt werden müssten, die in der Ankündigung nicht enthalten sind.
Diese Unterscheidung hilft, zwei Ziele auseinanderzuhalten, die auf den ersten Blick eng zusammenhängen. Eine Bearbeitung der Frage kann die Weitergabe von Daten weniger bedenklich erscheinen lassen; die Antwort muss dennoch unabhängig geprüft werden. Ärztinnen und Ärzte müssen nicht nur fragen, ob die Privatsphäre geschützt wurde, sondern auch, ob die Antwort auf geeigneten Informationen beruht, auf die betreffende Patientin oder den betreffenden Patienten zutrifft und nur innerhalb ihrer Grenzen verwendet wird. Das angekündigte Werkzeug befasst sich mit einem Teil dieser Fragen. Laut den vorliegenden Angaben löst es die anderen nicht.
Was bekannt ist – und was noch offenbleibt
Die bestätigten Angaben in der Ankündigung sind überschaubar: MDCalc, ein Unternehmen, das für ein medizinisches Nachschlagewerk bekannt ist, hat CrossCover am Mittwoch, dem 11. November 2026, vorgestellt. Das Werkzeug soll nach Angaben des Unternehmens dazu beitragen, das Vertrauen von Ärztinnen und Ärzten in Antworten medizinischer KI-Chatbots zu stärken und zugleich die Privatsphäre von Patientinnen, Patienten und Behandelnden zu schützen. Im angekündigten Konzept steht im Mittelpunkt, bestimmte sensible Angaben aus ärztlichen Anfragen zu entfernen. Der bei MDCalc für KI zuständige Graham Walker erklärte außerdem, CrossCover solle einige Schwierigkeiten und Risiken bei der Nutzung der Technologie verringern.
Allerdings fehlen Informationen zur Funktionsweise, zur Genauigkeit beim Erkennen sensibler Daten, zu den durchgeführten Tests und zu den Ergebnissen nach der Einführung. Auch wird nicht erläutert, ob das Werkzeug Angaben löscht, verbirgt oder die Frage neu formuliert. Eine bestimmte technische Methode zu behaupten, wäre deshalb nicht sachgerecht. Darüber hinaus enthält das Material weder Nutzungs- oder Wirksamkeitszahlen noch Angaben zu den Kosten oder zur Verfügbarkeit von CrossCover.
Bei KI-Werkzeugen für die Gesundheitsversorgung ist es wichtig, zwischen Ankündigungen und belegten Ergebnissen zu unterscheiden. Ein neuer Name und ein vielversprechendes Ziel ersetzen weder eine klare Erklärung dazu, was mit den Daten geschieht, noch eine unabhängige Bewertung der Wirkung. Je näher ein Werkzeug an besonders sensiblen Gesundheitsdaten arbeitet, desto wichtiger sind Antworten zu Datenschutz und Transparenz. Ebenso muss geklärt sein, ob es Risiken tatsächlich verringert, ohne den medizinischen Wert der Frage zu beeinträchtigen.
Warum sich die weitere Entwicklung lohnt
CrossCover wirft eine wichtige Frage zum Entwurf digitaler medizinischer Assistenzsysteme auf: Sollten solche Systeme möglichst viele Daten einbeziehen, um Empfehlungen zu formulieren? Oder lässt sich ihre Nutzung vorsichtiger gestalten, indem weniger Informationen übermittelt werden? Der Fall MDCalc beantwortet diese Frage nicht für alle Anwendungen. Er zeigt aber einen Ansatz, der die Begrenzung der Daten in den Mittelpunkt stellt, statt immer mehr Kontext als einzigen Weg zu einer breiteren Nutzung zu betrachten.
Wie sinnvoll dieser Ansatz ist, hängt von der konkreten Umsetzung ab. Entfernt das Werkzeug überflüssige Angaben zuverlässig und bewahrt zugleich den nötigen klinischen Zusammenhang, könnte es einen Teil der Datenschutzbedenken ausräumen. Sind seine Grenzen dagegen unklar oder können Nutzerinnen und Nutzer nicht erkennen, welche Informationen in der Frage verbleiben, dürfte ein Teil der Unsicherheit bestehen bleiben. Das sind offene Bewertungsfragen, keine bereits veröffentlichten Ergebnisse. Eine bloße Produktbeschreibung reicht nicht aus, um sie zu klären.
Der entscheidende Maßstab für ein Werkzeug dieser Art ist deshalb mehr als das Versprechen, weniger Daten weiterzugeben. Dazu gehören eine verständliche Erklärung der Verarbeitung, klar erkennbare Grenzen für die Anwenderinnen und Anwender sowie überprüfbare Informationen zur Leistung. Solange solche Angaben fehlen, lässt sich CrossCover als Versuch verstehen, ein reales Problem anzugehen – nicht aber als endgültige Antwort auf sämtliche Bedenken zum Datenschutz oder zum Vertrauen in medizinische KI.
Fazit
Mit CrossCover schlägt MDCalc einen anderen Umgang mit künstlicher Intelligenz in der Medizin vor: Statt den Informationsumfang für Empfehlungen zu vergrößern, soll das Werkzeug laut Unternehmen bestimmte sensible Angaben aus ärztlichen Fragen herausfiltern und so die Privatsphäre von Patientinnen, Patienten und Behandelnden schützen. Graham Walker stellte diesen Ansatz als Möglichkeit dar, einige Hürden und Risiken zu verringern, die das Vertrauen von Ärztinnen und Ärzten in die Technologie beeinträchtigen.
Die bisherige Ankündigung benennt jedoch vor allem das Ziel und verrät wenig über die tatsächliche Leistung. Es fehlen Zahlen zur Genauigkeit und zu den Auswirkungen auf die klinische Arbeit, eine technische Erklärung der Datenbearbeitung und Belege dafür, dass die Antworten der Chatbots dadurch zuverlässiger werden. CrossCover ist deshalb nicht nur wegen seiner angekündigten Funktion interessant, sondern auch wegen der Frage, die es aufwirft: Wie lässt sich KI in der Medizin nutzen, ohne mehr sensible Informationen als nötig weiterzugeben – und zugleich die fachliche Prüfung der Antworten und die Verantwortung der Ärztinnen und Ärzte zu wahren?