Diese Website verwendet ausschließlich technisch notwendige Cookies, die für den Betrieb der Seite erforderlich sind. Weitere Informationen


Künstliche Intelligenz in Gesellschaft und Wirtschaft.
Chancen, Verantwortung und Zukunft!







EU MDR Reformvorschlag 02.02.2026

KI und Medizinprodukt ★ Vereinfachte Klassifizierung

Die Europäische Kommission legt einen gezielten Vorschlag zur Änderung der Medizinprodukteverordnung vor.
Die Überarbeitung zielt darauf ab, die Vorschriften für Hersteller „einfacher, schneller und effektiver” zu gestalten und gleichzeitig ein hohes Maß an Patientensicherheit zu gewährleisten.
Zu den wichtigsten Zielen gehören die Verringerung des Verwaltungsaufwands, die Straffung der Konformitätsbewertungen mit festgelegten Fristen, die Stärkung der Koordination zwischen den Regulierungsbehörden und die Klarstellung der Anforderungen für Medizinprodukte mit künstlicher Intelligenz (KI).

Mehr erfahren ›
Ethik 23.01.2026

Wenn KI ein Gewissen hätte

Anthropic hat mit der Claude Constitution einen radikalen Schritt gewagt: Ein öffentliches Dokument, das bis ins Detail beschreibt, wie eine KI denken und handeln soll.
Nicht als Marketing-Gag, sondern als echtes Trainings-Framework, das Claudes Verhalten direkt steuert.
Für das Gesundheitswesen ist das wegweisend:
Die Constitution zeigt, wie man KI-Systeme mit klaren Werten, Transparenz und echten Sicherheitsmechanismen entwickelt – genau das, was der EU AI Act für Hochrisiko-Anwendungen fordert.

Mehr erfahren ›
KI-Produktivitätsanalyse 07.01.2026

Erkenntnisse der Anthropic-Studie

Die Anthropic-Studie liefert beeindruckende Zahlen: 80% Zeitersparnis, 1,8% jährliches Produktivitätswachstum.

Doch diese Analyse erfasst nur einen Bruchteil der Realität – insbesondere für hochregulierte Bereiche wie das Gesundheitswesen.

KI-Produktivitätsgewinne sind erreichbar – aber nur mit realistischer Kosten-Nutzen-Kalkulation, professionellem Compliance-Management und strategischer Langfristplanung.

Mehr erfahren ›

Wie KI unsere Gesellschaft und Ökonomie transformiert

Künstliche Intelligenz hat im Gesundheitswesen einen beispiellosen Hype ausgelöst.
Fast täglich erscheinen neue Studien, politische Programme, industrielle Versprechen und technologische Durchbrüche.
Doch zwischen Euphorie und Unsicherheit geht häufig verloren, was wirklich zählt: Welche KI-Lösungen bringen tatsächlich Nutzen – und unter welchen Bedingungen?
Diese Website bietet einen fundierten, komprimierten und realitätsnahen Überblick über die zentralen Entwicklungen der KI im Gesundheitswesen.
Sie zeigt Chancen, Risiken, regulatorische Anforderungen und konkrete Anwendungsfelder – ohne Marketingfloskeln, sondern orientiert an Evidenz, Governance und praktischer Umsetzbarkeit.

Wo immer auf der Website das Nachdenken-Icon erscheint, wird besonders deutlich - hier lohnt sich das persönliche Beratungsgespräch, um Ihre individuelle Situation, Ihre Projekte oder Ihre Einrichtung zielgerichtet einzuordnen.
Kompetente Unterstützung und Beratung unterstützen Sie dabei, die richtigen Entscheidungen zu treffen – jenseits des Hypes, nah an Ihren Zielen und im Einklang mit den aktuellen europäischen und nationalen KI-Rahmenwerken.
Künstliche Intelligenz entwickelt sich rasant zu einer der prägendsten Kräfte unserer Zeit – mit tiefgreifenden Auswirkungen auf Gesellschaft, Wirtschaft und insbesondere das Gesundheitswesen.
Europäische Institutionen, Forschungszentren und globale Akteure betonen gleichermaßen, dass KI nicht nur technologische Innovationen ermöglicht, sondern zu einem grundlegenden Motor für Wettbewerbsfähigkeit, Versorgungssicherheit und Wohlstand wird.
Im Gesundheitsbereich unterstützt KI heute bereits präzisere Diagnosen, frühere Risikobewertungen und effizientere Prozesse, was zu besseren Behandlungsergebnissen und einer spürbaren Entlastung von Fachkräften führt.
Zugleich eröffnen KI-gestützte Lösungen neue wirtschaftliche Perspektiven: Sie steigern Produktivität, schaffen neue Wertschöpfungsfelder und tragen maßgeblich zum globalen Wirtschaftswachstum bei.
Internationale Organisationen wie WHO, National Academy of Medicine oder das Weltwirtschaftsforum betonen jedoch, dass dieser Fortschritt untrennbar mit verantwortungsvoller Entwicklung verbunden sein muss – mit klaren ethischen Leitlinien, Transparenz und dem Schutz menschlicher Autonomie.
Nur durch ein Zusammenspiel aus Innovation, Governance und gesellschaftlicher Teilhabe kann KI ihr Potenzial voll entfalten und zu einem Werkzeug für eine gesündere, resilientere und gerechtere Zukunft werden.
Dieser Prolog lädt dazu ein, künstliche Intelligenz nicht nur als Technologie zu verstehen, sondern als Chance, die Zukunft aktiv und verantwortungsvoll zu gestalten.

Häufig gestellte Fragen

Ethik stellt sicher, dass KI-Systeme fair, transparent und verantwortungsvoll eingesetzt werden.
Besonders im Gesundheitswesen beeinflussen KI-Entscheidungen Diagnosen, Therapien und Versorgungsprozesse – daher müssen sie stets dem Wohl der Patientinnen und Patienten dienen und Diskriminierungen vermeiden.

Verantwortung entsteht durch klare Zuständigkeiten, nachvollziehbare Entscheidungswege und eine kontinuierliche Überwachung der KI-Modelle.
Einrichtungen müssen definieren, wer für Datenqualität, Modellauswahl und Ergebnisinterpretation verantwortlich ist – und wie Fehlentscheidungen verhindert werden.

Risikominimierung umfasst die Identifikation potenzieller Gefahren (z. B. Fehlklassifikationen, Bias, Datenlecks) und das Einführen wirksamer Kontrollmechanismen, etwa regelmäßige Validierungen, Monitoring, menschliche Aufsicht (Human-in-the-Loop) und robuste Datenschutzmaßnahmen.
Besonders bei „High-Risk AI“ ist dies gesetzlich vorgeschrieben.

Der EU AI Act definiert KI-Anwendungen im Gesundheitsbereich überwiegend als Hochrisiko-Systeme.
Damit gelten strenge Anforderungen wie technische Dokumentation, Risikobewertung, Überwachung über den gesamten Lebenszyklus und Transparenzpflichten. Die Verordnung soll Vertrauen schaffen und zugleich Innovation ermöglichen.

Die Zweckbestimmung beschreibt genau, wofür ein KI-System eingesetzt werden darf und welche Funktionen reguliert sind.
Sie bestimmt, ob ein System als Medizinprodukt gilt, welche Risikoklasse es hat und welche regulatorischen Nachweise erforderlich sind. Ohne klare Zweckbestimmung keine Zulassung.

KI-Governance ist kein „Papier-Thema“, sondern ein dauerhafter organisatorischer und technischer Aufwand.
Gerade im Gesundheitswesen entstehen Governance-Kosten vor allem dadurch, dass KI-Systeme nicht statisch, sondern lernend und veränderlich sind.
Im Gegensatz zu klassischen IT-Systemen erfordert KI zusätzliche, klar getrennte Rollen (Segregation of Duties):
  • Modellentwicklung (Data Science / Anbieter)
  • Unabhängige Validierung (z. B. Medizin, Qualitätssicherung, IT)
  • Freigabe & Betrieb (Management / Compliance)
  • Überwachung & Audit (KI-Governance, Datenschutz, Medizincontrolling)
Diese Rollen müssen nicht nur benannt, sondern qualifiziert, dokumentiert und dauerhaft eingebunden werden. In vielen Einrichtungen existieren sie bislang nicht – sie müssen aufgebaut oder extern eingekauft werden.

Eine effektive KI-Governance beginnt mit klaren Problemdefinitionen!
KI-Systeme sollten nur bei eindeutig definierten Problemen und mit verlässlichen, regelmäßig geprüften Daten eingesetzt werden.
Außerdem müssen Gesundheitseinrichtungen KI-Modelle eigenständig validieren und dokumentieren, statt sich allein auf Herstellerangaben zu verlassen – idealerweise überwacht durch interne oder externe, interdisziplinäre KI-Gremien.
Zusätzlich braucht es ein kontinuierliches Monitoring (etwa über integrierte Compliance-Systeme) und menschliche Aufsicht bei KI-Entscheidungen – zum Beispiel regelmäßige Audits sowie Kennzahlen zu Fairness und Sicherheit.

Der Betriebsrat hat beim KI-Einsatz in Krankenhäusern Mitbestimmungsrecht.
KI verändert Arbeitsprozesse, Qualifikationsanforderungen und Kommunikationsabläufe – damit greift sie in mitbestimmungspflichtige Bereiche ein.
Beachte: ArbG Hamburg, Aktenzeichen: 24 BVGa 1/24 vom 16.01.2024. "Wendet man die Grundsätze der ständigen BAG-Rechtsprechung an, so fallen die Vorgaben zur Nutzung von ChatGPT und vergleichbarer Tools unter das mitbestimmungsfreie Arbeitsverhalten.
Der Arbeitgeber stellt seinen Arbeitnehmern ein neues Arbeitsmittel unter bestimmten Bedingungen zur Verfügung. Richtlinien, Handbuch usw. sind somit Anordnungen, welche die Art und Weise der Arbeitserbringung betreffen, weshalb kein Mitbestimmungsrecht aus § 87 Abs 1 Nr 1 BetrVG besteht."
Aufgrund dieses Urteils ist immer der Einzelfall zu prüfen:
  • Berufsbildung und Schulungen für neue KI-Tools (§ 96, § 98 BetrVG) – der Betriebsrat kann bei Planung, Inhalt und Durchführung mitbestimmen.
  • Gestaltung und Änderung von Arbeitsabläufen, wenn KI Prozesse oder Verantwortlichkeiten beeinflusst.
  • Einführung technischer Systeme, die Leistung oder Verhalten überwachen könnten (§ 87 Abs. 1 Nr. 6 BetrVG).
Im Krankenhaus ist dies besonders relevant, da KI-Systeme (z. B. für Entlassmanagement, Dokumentation oder Entscheidungsunterstützung) unmittelbar die Arbeit der Pflege, der Ärzteschaft oder des Sozialdienstes verändern. Der Betriebsrat stellt sicher, dass Transparenz, Qualifizierung, Datenschutz und Belastungsschutz gewahrt bleiben.
Beachte: "Zur Überwachung „bestimmt“ sind technische Einrichtungen, wenn sie objektiv geeignet sind, dass der Arbeitgeber Verhaltens- oder Leistungsinformationen über den Arbeitnehmer erheben und aufzuzeichnen kann. Auf die subjektive Überwachungsabsicht des Arbeitgebers kommt es nicht an ((BAG vom 03.12.2016 – 1 ABR 7/15)." ArbG Hamburg, Aktenzeichen: 24 BVGa 1/24 vom 16.01.2024.

Ja. Immer mehr Versicherer bieten spezielle Policen zur Absicherung von KI-Risiken an.
Diese richten sich sowohl an Gesundheitseinrichtungen als auch an Hersteller oder Betreiber von KI-Systemen.
Abgedeckt werden können u. a.:
  • Fehlfunktionen der KI (z. B. falsche Empfehlungen, algorithmische Verzerrungen)
  • Cyberrisiken und Datenverluste, die durch KI-Komponenten verstärkt werden
  • Haftungsrisiken, wenn Mitarbeitende aufgrund von KI-Ergebnissen Entscheidungen treffen
  • Betriebsunterbrechungen, wenn KI-Systeme ausfallen
  • Regulatorische Risiken, z. B. Verstöße gegen den EU AI Act oder Medizinprodukterecht
Wichtig: Für Hochrisiko-KI im Gesundheitswesen verlangen Versicherer zunehmend Risikobewertungen, Prozessnachweise, Monitoring-Konzepte und klare Zweckbestimmungen der eingesetzten Systeme. Ein professionelles KI-Risikomanagement ist daher oft Voraussetzung für eine Versicherbarkeit.

Verantwortung bleibt immer beim Menschen. Auch wenn KI eine Empfehlung ausspricht, liegt die letztendliche Entscheidung bei der verantwortlichen Fachkraft oder Institution.
Hersteller und Betreiber tragen zusätzlich Verantwortung für korrekte Entwicklung, Implementierung und Überwachung des Systems.

Dazu gehören vielfältige Trainingsdaten, kontinuierliche Bias-Analysen, klare Governance-Prozesse und ein Monitoring realer Nutzungsmuster.
Transparente Modelle und regelmäßige Audits helfen, unbeabsichtigte Benachteiligungen zu erkennen und zu verhindern.

Viele Einrichtungen stehen vor der Herausforderung, technische, rechtliche und ethische Anforderungen richtig einzuordnen.
Eine professionelle Beratung hilft, Risiken zu erkennen, realistische Ziele zu definieren und Projekte von Beginn an gesetzeskonform und effizient aufzusetzen.

1. Gelten sie als Hochrisiko-KI-Systeme?
Möglicherweise ja, insbesondere die Planung des voraussichtlichen Entlassbedarfs als Vorhersage beim Entlassmanagement.
Ob sie als Hochrisiko-Systeme gemäß EU AI Act eingestuft werden, hängt von ihrer Zweckbestimmung und ihrer Risikoklasse als (potenzielles) Medizinprodukt ab.
Da die Systeme Gesundheitsprognosen liefern, ist eine Einstufung als Medizinprodukt Klasse IIa plausibel – was es automatisch zum Hochrisiko-KI-System machen würde.
Die KI-Arztbrief-Funktion könnte als rein administratives Tool (Klasse I oder kein Medizinprodukt) gelten – mit geringerer Hochrisikowahrscheinlichkeit.

Cave: Bei Entlassmanagement ist zusätzlich zu beachten, dass das Entlassmanagement zur Krankenhausbehandlung gemäß § 39 SGB V gehört.
Gemäß Bundessozialgericht (Urteil vom 08.10.2019, B 1 A 3/19 R) gilt das Versorgungsmanagement (§ 11 Abs. 4 SGB V) auch im Rahmen des Entlassmanagments und gibt Versicherten das Recht auf professionelle Hilfe, um nach einer Krankenhausbehandlung nahtlos weiterversorgt zu werden.


2. Es müssen offizielle CE-Kennzeichnungen oder Risikoklassifikationen vorliegen!
Wenn diese nicht öffentlich ersichtlich sind, ist besondere Vorsicht beim Einsatz in Krankenhäusern geboten (Betreiberpflichten).
Diese Transparenz ist zwingend erforderlich, um die Klassifizierung rechtssicher festzulegen.

3. Warum ist Transparenz bei der Klassifizierung so wichtig?
Weil nur so Krankenhäuser und Behörden beurteilen können:

  • ob die KI als Hochrisiko-System registriert und geprüft werden muss,
  • welche Betreiberpflichten greifen (z. B. Schulungen, Logaufbewahrung, Risikofolgenabschätzung),
  • und ob ein Einsatz rechtlich zulässig ist.
Fehlende Transparenz zur Klassifizierung erzeugt Unsicherheit und Haftungsrisiken bei Krankenhäusern.

4. Welche Risiken entstehen durch diese Intransparenz?
Krankenhäuser wissen nicht, ob sie ein Hochrisiko-KI-System im Sinne des Gesetzes betreiben, Anforderungen wie Registrierung oder ärztliche Aufsicht könnten versehentlich verletzt werden, im Schadensfall ist unklar, wer haftet – insbesondere bei Fehldokumentationen oder versäumter Nachsorge.
Fehlende Transparenz gefährdet das Vertrauen von Klinikpersonal und Patienten.

5. Was sollten Betreiber (Krankenhäuser) bis zur Klärung tun?
KI-Angaben von Anbietern dieser Systeme kritisch prüfen (Human-in-the-Loop sicherstellen), keine Entscheidungen ohne Prüfung und Zustimmung der Krankenhausärzte zulassen.
Einen Versicherer beauftragen, eine entsprechende Due-Dilligence durchzuführen, und eine Haftpflichtversicherung abschließen.

Schulungspflichten
KI-Kompetenz (AI Literacy) sicherstellen, Art. 4 KI-VO.
Training und Befugnisse für Aufsichtspersonen sicherstellen, Art. 26 Abs. 2 KI-VO.

Kontroll- und Überwachungspflichten
Maßnahmen treffen zur Sicherstellung der Verwendung der KI-Systeme gemäß Betriebsanleitungen, Art. 26 Abs. 1 KI-VO
Übertragung der menschlichen Aufsicht an qualifizierte Personen und Unterstützung der Aufsichtspersonen, Art. 26 Abs. 2 KI-VO, Art. 14 Abs. 3 lit. b KI-VO.
Verwendung geeigneter Eingabedaten (Kontrolle auf Zweckkonformität), Art. 26 Abs. 4 KI-VO.
Überwachung des Betriebs und der Funktionsweise des Hochrisiko-KI-Systems gemäß Betriebsanleitung, Art. 26 Abs. 5, ErwGr. 91 KI-VO.
Aussetzung des Betriebs bei Risiko im Sinne von Art. 79 Abs. 1, Art. 26 Abs. 5 S. 2 KI-VO.

Informationspflichten
Gegenüber dem Anbieter Information an den Anbieter im Rahmen der Beobachtung nach Inverkehrbringung, Art. 26 Abs. 5 i.V.m. Art. 72 Abs. 2 KI-VO.
Gegenüber Mitarbeitenden
Information der Mitarbeiter über eingesetzte KI-Systeme,Art. 26 Abs. 7, ErwGr. 93 KI-VO.
Gegenüber Betroffenen
Informationspflicht gegenüber den Betroffenen bei der Verwendung von KI-Systemen, die Entscheidungen betreffen oder unterstützen, Art. 26 Abs. 11, ErwGr. 93, 171 KI-VO.
Gegenüber allen beteiligten Akteuren
Unverzügliche Information aller Akteure und der Behörde bei Feststellung eines schwerwiegenden Vorfalls, Art. 26 Abs. 5 KI-VO.
Gegenüber Behörden Zusammenarbeit mit Behörden, Art. 26 Abs. 12 KI-VO.

Dokumentationspflichten
Aufzeichnungs- und Aufbewahrungspflichten
Aufbewahrung für mindestens 6 Monate der automatisch erzeugten Protokolle, Art. 26 Abs. 6 KI-VO.

Durchführung von Risikoabschätzungen
Durchführung einer Datenschutz-Folgenabschätzung, Art. 26 Abs. 9 KI-VO.
Durchführung einer Grundrechte-Folgenabschätzung, Art. 27, ErwGr. 96 KI-VO.
Mitteilung der Ergebnisse der Grundrechte-Folgenabschätzung an die zuständige Marktüberwachungsbehörde (nur bei Hochrisiko-KI gem. Anhang III), Art. 27 Abs. 3, ErwGr. 96 KI-VO.

Registrierungspflichten
Registrierungspflicht in der EU-Datenbank (für Behörden und Organe der Union), Art. 49 Abs. 3 i.V.m. Art. 26 Abs. 8 KI-VO.