Was der EU AI Act jetzt für Praxen bedeutet
Künstliche Intelligenz hält zunehmend Einzug in den Praxisalltag. Was vor wenigen Jahren noch nach Zukunftstechnologie klang, wird inzwischen in vielen Arztpraxen und psychotherapeutischen Praxen ganz selbstverständlich eingesetzt: Telefonassistenten, Chatbots, automatische Dokumentation, Transkriptionssysteme oder KI-gestützte Entscheidungsunterstützungssysteme. Die Möglichkeiten sind groß, ebenso die Arbeitserleichterung und die Zeitersparnis. Gleichzeitig steigen aber auch die Anforderungen an Datenschutz, Transparenz und Verantwortlichkeit.
Seit August 2024 gibt es ein EU-Gesetz, das auch für Arzt- und Therapiepraxen gilt: den EU AI Act. Er regelt, wie Künstliche Intelligenz eingesetzt werden darf – und betrifft vermutlich mehr aus Ihrem Praxisalltag, als man auf den ersten Blick denkt.
Wo KI in Ihrer Praxis schon längst eine Rolle spielt
Die wenigsten denken bei „Künstlicher Intelligenz“ zuerst an ihre eigene Praxis. Doch ein Blick in den Alltag zeigt: KI ist oft schon im Einsatz, ohne dass sie so genannt wird.
- Terminassistenten, die Anfragen automatisch beantworten oder Termine vorschlagen
- Automatisierte Patienten-Mails, etwa Erinnerungen oder Rückfragen
- Diktier- und Transkriptionssoftware, die Berichte oder Briefe erstellt
- KI-Chatbots wie ChatGPT, die zum Formulieren von Briefen, Berichten oder Patienteninformationen genutzt werden
- Tools zur Befundunterstützung, die Auswertungen oder erste Einschätzungen liefern
Jedes dieser Systeme kann unter den EU AI Act fallen – mit unterschiedlichen Pflichten, je nachdem, wie es eingesetzt wird.
Drei Punkte, die jetzt für Ihre Praxis relevant sind
1. KI-Kompetenz im Team ist Pflicht
Eine der zentralen Anforderungen des AI Act ist, dass das Personal über ein gewisses Maß an KI-Kompetenz verfügen muss – also weiß, wie die eingesetzten Systeme funktionieren, wo ihre Grenzen liegen und worauf bei der Nutzung zu achten ist. Diese Anforderung gilt bereits jetzt, nicht erst zu einem zukünftigen Stichtag.
2. Kennzeichnungspflicht ab August 2026
Ab August 2026 müssen KI-gestützte Inhalte und Kommunikation gegenüber Patient*innen erkennbar gemacht werden. Beantwortet beispielsweise ein Chatbot eine Anfrage, wird eine automatisierte Nachricht versendet oder schreibt ein Dokumentationstool mit muss das für die Patientin oder den Patienten ersichtlich sein.
3. Start der Marktüberwachung durch das BSI
Das BSI wird als nationale Marktüberwachungsbehörde fungieren und hat angekündigt, ab August 2026 aktiv zu prüfen. Das BSI kann Bußgelder verhängen, den Betrieb des KI-Systems untersagen oder einen Rückruf anordnen.
Was ist KI-Kompetenz?
Ein zentraler Punkt des AI Acts ist die sogenannte „AI Literacy“ bzw. KI-Kompetenz. Das bedeutet: Alle Personen, die mit KI-Systemen arbeiten, müssen ausreichend geschult sein, um diese verantwortungsvoll nutzen zu können.
Dazu gehört:
- ein grundlegendes Verständnis der Funktionsweise von KI,
- Wissen über Risiken und Grenzen,
- Kenntnisse zu Datenschutz und Schweigepflicht,
- die Fähigkeit, Ergebnisse kritisch zu prüfen,
- menschliche Aufsicht über KI-gestützte Prozesse.
Die EU macht damit deutlich: KI darf nicht unreflektiert und ohne Kontrolle eingesetzt werden. Praxen sind als Betreiber der Systeme mitverantwortlich für deren sicheren Einsatz.
Schulung: KI-Kompetenz für Praxen
Was Sie konkret tun können
Statt sich durch Verordnungstexte zu arbeiten, hilft ein strukturierter Überblick: Welche Tools setzen wir ein? In welche Kategorie fallen sie? Welche Pflichten ergeben sich daraus – und welche davon haben Priorität?
Genau das ist der Ansatz unserer Schulung „KI-Kompetenz für Praxen“: In 60 Minuten erklären wir Ihnen verständlich und praxisorientiert, was relevant ist und worauf Sie achten müssen. Aber Theorie allein hilft wenig – deshalb erhalten Sie in unserer Schulung zwei direkt einsetzbare Materialien: Eine Checkliste, mit der Sie Schritt für Schritt erfassen, welche KI-Tools Sie einsetzen, wie diese einzuordnen sind und welche Pflichten daraus entstehen. Eine Vorlage für eine interne KI-Richtlinie, speziell für Arztpraxen und psychotherapeutische Praxen – also ein Dokument, das Sie an Ihre Praxis anpassen und intern als Grundlage für den Umgang mit KI-Systemen nutzen können. Sie erhalten im Anschluss eine Teilnahmebescheinigung.
Schulung: KI-Kompetenz & EU AI Act für Praxen
Um Praxen beim sicheren und verantwortungsvollen Einsatz von KI zu unterstützen, bieten wir in Kooperation mit Claudia Wollbrück (Online Agentin) eine praxisorientierte Online-Schulung zum Thema an.
Inhalte der Schulung:
- Grundlagen der KI im Praxisalltag
- Anforderungen des EU AI Acts
- Datenschutz & Schweigepflicht
- Hochrisiko-KI vs. administrative KI
- Betreiberpflichten
- Cloud-Lösungen
- KI-Kompetenz
- praktische Checklisten & Vorlagen
Die Inhalte der Schulung orientieren sich an den Anforderungen des EU AI Act und an den aktuellen Empfehlungen der Kassenärztlichen Bundesvereinigung sowie der Bundespsychotherapeutenkammer. Die Schulung ist bewusst praxisnah und verständlich aufgebaut – ohne technischen Fachjargon.
Die Schulung richtet sich an:
- Ärzt*innen,
- Psychotherapeut*innen,
- Praxisleitungen,
- MFA und Praxisteams
- alle, die mit KI in der Praxis arbeiten
Dauer: ca. 60 Minuten
Format: Online
Kosten: kostenfrei für Kund*innen mit IT-Sicherheitspaket, sonst 159 EUR netto/Praxis (2 Teilnehmer)
Fazit
KI wird den Praxisalltag in den kommenden Jahren weiter verändern. Richtig eingesetzt kann sie entlasten, Prozesse verbessern und die Versorgung unterstützen.
Voraussetzung dafür ist jedoch ein verantwortungsvoller Umgang:
- rechtssicher,
- transparent,
- datenschutzkonform,
- mit ausreichender KI-Kompetenz im Team.
Denn auch im Zeitalter künstlicher Intelligenz gilt: Die Verantwortung für die Behandlung bleibt beim Menschen.