Die Psyche als Datensatz

Wer nachts um drei Uhr einer App seine Ängste anvertraut, denkt selten an Datenschutz. Wer einem KI-Chatbot von Panikattacken erzählt oder eine digitale Anwendung gegen Depressionen nutzt, sucht Hilfe, Orientierung oder schlicht jemanden, der zuhört. Doch während Betroffene auf Unterstützung hoffen, entstehen Datensätze von außergewöhnlicher Intimität. Die Digitalisierung der psychischen Gesundheitsversorgung eröffnet neue Chancen – und neue rechtliche Risiken.

Psychische Gesundheitsdaten gehören zu den sensibelsten Informationen überhaupt. Sie geben Auskunft über Ängste, Traumata, Belastungen und persönliche Krisen. Kaum ein anderer Datenbestand ermöglicht tiefere Einblicke in die Persönlichkeit eines Menschen. Entsprechend streng behandelt die Datenschutz-Grundverordnung (DSGVO) diese Informationen. Auf dem Papier genießen sie den höchsten Schutz des europäischen Datenschutzrechts.

Die Realität ist jedoch komplexer.

Während digitale Gesundheitsanwendungen in einem regulierten Umfeld umfangreiche Anforderungen erfüllen müssen, wächst parallel ein Markt für Mental-Health-Angebote, die sich als Coaching-, Achtsamkeits- oder Wellness-Anwendungen präsentieren. Sie versprechen emotionale Stabilität, Resilienz oder Stressreduktion und bewegen sich häufig außerhalb klassischer medizinischer Regulierung. Für Nutzerinnen und Nutzer ist dieser Unterschied oft kaum erkennbar. Für die rechtliche Bewertung hingegen ist er von erheblicher Bedeutung.

Psychische Gesundheitsdaten sind der intimste Rohstoff des digitalen Gesundheitswesens. Wer sie verarbeitet, übernimmt eine besondere Verantwortung.

Die Sensibilität der Daten verändert sich schließlich nicht dadurch, wie eine Anwendung vermarktet wird. Ob Therapie-App, Stimmungstagebuch oder KI-Coach – verarbeitet werden regelmäßig Informationen, die tief in die psychische Verfassung eines Menschen hineinreichen.

Gleichzeitig verändert Künstliche Intelligenz die Möglichkeiten digitaler Gesundheitsanwendungen grundlegend. Moderne Systeme analysieren Sprache, erkennen Verhaltensmuster und identifizieren potenzielle psychische Belastungen mit einer Präzision, die vor wenigen Jahren noch undenkbar erschien. Was medizinisch vielversprechend wirkt, wirft rechtlich neue Fragen auf. Wer trägt Verantwortung, wenn eine KI psychische Risiken falsch einschätzt? Wer haftet, wenn fehlerhafte Empfehlungen zu einer verspäteten Diagnose oder Behandlung führen? Und wie transparent müssen solche Systeme tatsächlich sein?

Mit dem AI Act hat die Europäische Union erstmals einen umfassenden Rechtsrahmen für Künstliche Intelligenz geschaffen. Anwendungen mit erheblichem Einfluss auf Gesundheit und Lebensführung unterliegen künftig strengen Anforderungen an Transparenz, Dokumentation, Risikomanagement und menschliche Aufsicht. Der Gesetzgeber macht damit deutlich: Je größer das Risiko für Betroffene, desto höher die Anforderungen an die Kontrolle der Technologie.

Für Einrichtungen des Gesundheitswesens bedeutet dies einen grundlegenden Perspektivwechsel. Datenschutz bleibt unverzichtbar, genügt aber allein nicht mehr. Neben die DSGVO tritt mit dem AI Act ein weiteres Regelwerk, das in Verträgen, Compliance-Strukturen und Governance-Konzepten berücksichtigt werden muss. Die rechtliche Verantwortung endet nicht bei der Datensicherheit, sondern umfasst zunehmend auch die Nachvollziehbarkeit und Überwachung algorithmischer Entscheidungen.

Dabei bleibt eine Erkenntnis unverändert: Verantwortung lässt sich nicht an Algorithmen delegieren. Künstliche Intelligenz kann unterstützen, analysieren und Empfehlungen aussprechen. Die Verantwortung für medizinische Entscheidungen verbleibt jedoch beim Menschen.

Die Digitalisierung der psychischen Gesundheitsversorgung wird nicht daran scheitern, dass die Technologie zu schwach ist. Sie wird dort an ihre Grenzen stoßen, wo Vertrauen verloren geht. Wer einer Anwendung seine Gedanken, Ängste und Sorgen anvertraut, erwartet nicht nur Innovation. Er erwartet Schutz.

Denn am Ende entscheidet nicht die Leistungsfähigkeit eines Algorithmus über den Erfolg digitaler Mental-Health-Angebote. Entscheidend ist, ob es gelingt, das Vertrauen der Menschen zu bewahren. Gerade dort, wo Technologien Zugang zur innersten Gedankenwelt erhalten, dürfen Datenschutz, Transparenz und Verantwortung keine bloßen Schlagworte sein. Die Psyche ist kein gewöhnlicher Datensatz. Und genau deshalb wird ihr Schutz zur Bewährungsprobe der digitalen Gesundheitsversorgung.