KI-Assistenten im Betrieb: Welche Daten nicht in ChatGPT und Co. gehören
Ein KI-Assistent ist schnell geöffnet und genauso schnell mit den falschen Daten gefüttert. Welche Angaben draußen bleiben, worauf es beim Firmenkonto ankommt und wie eine kurze Regel für Ihr Team aussieht.
Ein Kollege kopiert eine ganze Kundenmail samt Vertragsdetails in den KI-Assistenten, eine Praxismitarbeiterin lässt einen Arztbrief umformulieren. So etwas passiert schnell, meist in bester Absicht. Entscheidend ist, was dabei mit den Daten passiert und ob Sie es dürfen.
- Personenbezogene Daten, Patienten- und Mandantendaten sowie Geschäftsgeheimnisse gehören nicht in ein frei zugängliches KI-Programm.
- Ein Firmenkonto mit Vertrag zur Auftragsverarbeitung ist etwas anderes als ein kostenloses Privatkonto.
- Die Einstellung zur Nutzung Ihrer Eingaben für das Training prüfen Sie je Anbieter und je Tarif auf dessen Hilfeseite.
- Eine kurze, schriftliche KI-Regel für das Team beantwortet die meisten Zweifelsfälle, bevor sie entstehen. Ein Muster finden Sie unten.
Was nicht in den Assistenten gehört
Personenbezogene Daten. Das sind alle Angaben, mit denen eine Person erkennbar wird: Name, Adresse, Telefonnummer, E-Mail, Kundennummer in Verbindung mit weiteren Angaben, Fotos. Wer sie in ein externes Programm eingibt, gibt sie an einen fremden Anbieter weiter. Dafür braucht es nach der Datenschutz-Grundverordnung (DSGVO) eine Rechtsgrundlage, und der Anbieter ist in aller Regel Ihr Auftragsverarbeiter, also ein Dienstleister, der in Ihrem Auftrag mit den Daten arbeitet.
Besonders geschützte Daten. Artikel 9 der DSGVO verbietet die Verarbeitung bestimmter Datenarten grundsätzlich, darunter Gesundheitsdaten, genetische Daten, biometrische Daten zur Identifizierung einer Person, Angaben zur Gewerkschaftszugehörigkeit oder zur religiösen Überzeugung. Ausnahmen gibt es, aber nur unter engen Voraussetzungen. Für Arztpraxen sind Patientendaten damit die empfindlichste Kategorie.
Daten unter Berufsgeheimnis. Ärzte, Apotheker, Rechtsanwälte, Notare, Wirtschaftsprüfer und Steuerberater unterliegen der Schweigepflicht. Nach § 203 des Strafgesetzbuchs kann strafbar sein, wer ein ihm anvertrautes Geheimnis unbefugt offenbart, im Grundfall droht Freiheitsstrafe bis zu einem Jahr oder Geldstrafe. Dienstleister dürfen unter Bedingungen eingebunden werden, dazu gehört unter anderem die Verpflichtung zur Verschwiegenheit. Ob das für einen KI-Anbieter gelingt, klären Sie vorab mit Ihrer Kammer oder einer Rechtsberatung.
Geschäftsgeheimnisse. Kalkulationen, Preislisten, Verträge, Quellcode, Rezepturen oder Kundenlisten sind nach dem Geschäftsgeheimnisgesetz nur dann geschützt, wenn Sie angemessene Geheimhaltungsmaßnahmen getroffen haben. Eine klare Regel, was in externe Programme darf, gehört dazu.
Zugangsdaten. Kennwörter, Schlüssel und Zugangscodes haben in keiner Eingabe etwas zu suchen, auch nicht „nur kurz zum Testen“.
Privatkonto oder Firmenkonto: der entscheidende Unterschied
Ein kostenloses Konto, das Mitarbeitende mit ihrer privaten Mailadresse anlegen, ist ein Verbraucherkonto. Es gibt in der Regel keinen Vertrag mit Ihrem Betrieb, Sie haben keinen Einfluss auf die Einstellungen und keinen Überblick, wer was eingibt. Ein Firmenkonto wird vom Betrieb eingerichtet, zentral verwaltet und sollte mit einem Vertrag zur Auftragsverarbeitung (nach Artikel 28 DSGVO) hinterlegt sein. Darin sichert der Anbieter zu, Daten nur nach Ihrer Weisung zu verarbeiten, sie zu schützen und nach Ende der Zusammenarbeit zu löschen oder zurückzugeben.
Auch die Datenschutzkonferenz der Aufsichtsbehörden rät in ihrer Orientierungshilfe zu KI vom 6. Mai 2024 zu betrieblichen Konten statt privater, damit keine Profile einzelner Beschäftigter entstehen. Setzt ein Betrieb eine KI-Anwendung eines externen Anbieters ein, besteht dort laut Orientierungshilfe häufig ein Auftragsverarbeitungsverhältnis, für das eine Vereinbarung nach Artikel 28 Absatz 3 DSGVO abzuschließen ist.
Wird mit meinen Eingaben trainiert?
Viele Anbieter dürfen Eingaben nutzen, um ihre Modelle zu verbessern, abhängig von Tarif und Einstellung. Die Datenschutzkonferenz empfiehlt, Anwendungen zu bevorzugen, die Ein- und Ausgaben nicht zum Training verwenden, und bei betrieblichen Konten die Trainingsnutzung schon bei der Einrichtung auszuschalten. Drei Beispiele aus den Hilfeseiten der Anbieter, gelesen Ende Oktober 2026:
- Anthropic (Claude): Bei Free, Pro und Max heißt die Einstellung „Model Improvement“ und liegt in den Datenschutzeinstellungen. Für Claude for Work und die Schnittstelle (API) nutzt Anthropic Eingaben und Ausgaben laut Hilfeseite standardmäßig nicht, ausgenommen Rückmeldungen wie Daumen hoch oder runter.
- Google (Gemini): Bei eingeschalteter Einstellung „Keep Activity“ können Chats zur Verbesserung der Dienste genutzt werden, auch zum Training von KI-Modellen, ein Teil wird von Menschen durchgesehen. Google rät ausdrücklich, keine vertraulichen Informationen einzugeben. Für Geschäfts- und Schulkonten können laut Google andere Bedingungen gelten.
- Microsoft (Copilot): Für die Firmenvariante schreibt Microsoft, dass Eingaben, Antworten und Daten aus Microsoft Graph nicht zum Training der zugrunde liegenden Sprachmodelle verwendet werden. Zugleich weist Microsoft darauf hin, dass Modelle von Anthropic derzeit von der EU-Datengrenze ausgenommen sind, also von der Zusage, Daten von EU-Kunden innerhalb der EU zu verarbeiten.
Bei jedem anderen Anbieter, auch bei OpenAI, gilt dasselbe Vorgehen: Hilfeseite des konkreten Tarifs lesen, Einstellung prüfen, Ergebnis notieren. Die Angaben ändern sich häufig.
Muster: KI-Nutzungsregel für Ihr Team
Die Datenschutzkonferenz empfiehlt klare, dokumentierte interne Weisungen mit Beispielen für erlaubte und untersagte Einsatzfälle. Ein Muster zum Anpassen:
- Nur freigegebene Werkzeuge. Im Betrieb nutzen wir ausschließlich die Firmenkonten, die die Geschäftsführung freigegeben hat. Private Konten sind für Arbeit tabu.
- Keine personenbezogenen Daten ohne Freigabe. Namen, Adressen, Kontaktdaten und Ähnliches werden vor der Eingabe entfernt oder durch Platzhalter ersetzt.
- Keine Patienten-, Mandanten- oder Gesundheitsdaten. Ausnahmen gibt es nur, wenn die Geschäftsführung einen Einzelfall nach Prüfung schriftlich freigibt.
- Keine Geschäftsgeheimnisse und Zugangsdaten. Kalkulationen, Verträge, Kundenlisten, Kennwörter und Schlüssel bleiben draußen.
- Ergebnisse prüfen. KI-Antworten können falsch sein. Was an Kunden oder Behörden geht, liest ein Mensch gegen.
- Einstellungen nicht ändern. Trainingsnutzung und Verlauf stellt die IT oder die Geschäftsführung ein, nicht jeder für sich.
- Im Zweifel fragen. Wer unsicher ist, ob Daten hineindürfen, fragt vorher.
Ergänzen Sie, welche Werkzeuge freigegeben sind und wer Ansprechperson ist. Eine Rechtsberatung ersetzt das nicht.
Und der EU AI Act?
Auch die europäische KI-Verordnung (AI Act) richtet sich an Unternehmen, die KI einsetzen. Artikel 4 verlangt, dass sie Maßnahmen ergreifen, um die KI-Kompetenz ihres Personals zu fördern. Die Vorschrift wurde mit der Verordnung (EU) 2026/1744 geändert: Ein bestimmtes Niveau muss niemand garantieren. Die Pflicht selbst bleibt. Eine schriftliche Regel wie oben ist ein naheliegender Baustein dafür. Mehr dazu im Beitrag EU AI Act: Was der neue KI-Rechtsrahmen für den Mittelstand bedeutet, zur Einführung im Team in ChatGPT im Büro einführen: Der Schritt-für-Schritt-Guide für Ihr Team. Das ist eine allgemeine Einordnung und keine Rechtsberatung.
So richten wir KI-Werkzeuge sicher ein
Die Seele Consulting & Management GmbH baut und betreibt: Wir wählen mit Ihnen geeignete KI-Werkzeuge aus, richten Firmenkonten und Einstellungen ein, binden sie in Ihre Arbeitsabläufe ein und halten sie laufend aktuell. Dazu gehören ein Rechtekonzept, das nur die nötigen Zugriffe erlaubt, und die Dokumentation Ihrer Regeln. Mehr dazu unter Netzwerk & Sicherheit, Managed Services und KI-Beratung. Für Praxen und Kanzleien gibt es eigene Seiten: Arztpraxen und Steuerkanzleien. Wir betreuen über 100 Betriebe. Es gibt eine feste Monatspauschale, den Preis kennen Sie vor dem Start. Termine finden bei Ihnen vor Ort oder per Fernwartung statt.
<Darf ich Kundendaten in ChatGPT eingeben?
Nicht ohne Weiteres. Sobald Namen, Adressen, Kontaktdaten oder andere Angaben zu erkennbaren Personen im Text stehen, gilt die Datenschutz-Grundverordnung. Sie brauchen dann eine Rechtsgrundlage, und der Anbieter ist in der Regel Ihr Auftragsverarbeiter, mit dem ein Vertrag nach Artikel 28 vorliegen muss. Am einfachsten ist es, Texte vorher so umzuschreiben, dass keine Person erkennbar ist.
Reicht es, die Trainingseinstellung abzuschalten?
Nein, das ist ein Baustein, aber kein Freibrief. Auch ohne Training gehen Ihre Eingaben an den Anbieter. Ob das erlaubt ist, hängt vom Vertrag, von der Art der Daten und von Ihrer Rechtsgrundlage ab.
Was ist ein Vertrag zur Auftragsverarbeitung?
Ein Vertrag, in dem ein Dienstleister zusichert, personenbezogene Daten nur nach Ihrer Weisung zu verarbeiten, sie zu schützen, weitere Unterauftragnehmer nur mit Ihrer Genehmigung einzusetzen und die Daten nach Ende der Zusammenarbeit zu löschen oder zurückzugeben. Bei einem kostenlosen Privatkonto gibt es ihn in der Regel nicht.
Dürfen Mitarbeitende ihr privates KI-Konto für die Arbeit nutzen?
Besser nicht. Die Datenschutzkonferenz der Aufsichtsbehörden empfiehlt, dass Arbeitgeber Geräte und Konten für die berufliche KI-Nutzung bereitstellen, damit keine Profile einzelner Beschäftigter entstehen und Sie die Einstellungen selbst festlegen. Außerdem fehlt bei privaten Konten meist der Vertrag mit dem Anbieter.
Dürfen Arztpraxen und Kanzleien überhaupt KI-Assistenten nutzen?
Ja, aber Patienten- und Mandantendaten gehören nicht ohne gründliche Prüfung hinein. Gesundheitsdaten sind besonders geschützt, und für Ärzte, Anwälte oder Steuerberater kommt die berufliche Schweigepflicht hinzu. Ohne Personenbezug lassen sich KI-Assistenten gut nutzen, etwa für Textentwürfe. Für alles andere klären Sie vorab mit Ihrer Kammer oder einer Rechtsberatung, was zulässig ist.
Muss ich mein Team zur KI-Nutzung unterweisen, wegen des EU AI Act?
Der AI Act verlangt von Unternehmen, die KI einsetzen, Maßnahmen zur Förderung der KI-Kompetenz ihres Personals. Ein bestimmtes Niveau muss nicht garantiert werden. Eine schriftliche Nutzungsregel und ein kurzes Gespräch im Team sind ein sinnvoller Anfang. Das ist eine allgemeine Einordnung und keine Rechtsberatung.
Wie unterstützt die Seele Consulting & Management GmbH bei der sicheren Einrichtung?
Wir wählen gemeinsam mit Ihnen geeignete KI-Werkzeuge aus, richten Firmenkonten und Einstellungen ein, halten die Regeln schriftlich fest und betreuen das Ganze laufend. Termine finden bei Ihnen vor Ort oder per Fernwartung statt. Sie kennen den Preis vor dem Start.
Darf ich Kundendaten in ChatGPT eingeben?
Nicht ohne Weiteres. Sobald Namen, Adressen, Kontaktdaten oder andere Angaben zu erkennbaren Personen im Text stehen, gilt die Datenschutz-Grundverordnung. Sie brauchen dann eine Rechtsgrundlage, und der Anbieter ist in der Regel Ihr Auftragsverarbeiter, mit dem ein Vertrag nach Artikel 28 vorliegen muss. Am einfachsten ist es, Texte vorher so umzuschreiben, dass keine Person erkennbar ist.
Reicht es, die Trainingseinstellung abzuschalten?
Nein, das ist ein Baustein, aber kein Freibrief. Auch ohne Training gehen Ihre Eingaben an den Anbieter. Ob das erlaubt ist, hängt vom Vertrag, von der Art der Daten und von Ihrer Rechtsgrundlage ab.
Was ist ein Vertrag zur Auftragsverarbeitung?
Ein Vertrag, in dem ein Dienstleister zusichert, personenbezogene Daten nur nach Ihrer Weisung zu verarbeiten, sie zu schützen, weitere Unterauftragnehmer nur mit Ihrer Genehmigung einzusetzen und die Daten nach Ende der Zusammenarbeit zu löschen oder zurückzugeben. Bei einem kostenlosen Privatkonto gibt es ihn in der Regel nicht.
Dürfen Mitarbeitende ihr privates KI-Konto für die Arbeit nutzen?
Besser nicht. Die Datenschutzkonferenz der Aufsichtsbehörden empfiehlt, dass Arbeitgeber Geräte und Konten für die berufliche KI-Nutzung bereitstellen, damit keine Profile einzelner Beschäftigter entstehen und Sie die Einstellungen selbst festlegen. Außerdem fehlt bei privaten Konten meist der Vertrag mit dem Anbieter.
Dürfen Arztpraxen und Kanzleien überhaupt KI-Assistenten nutzen?
Ja, aber Patienten- und Mandantendaten gehören nicht ohne gründliche Prüfung hinein. Gesundheitsdaten sind besonders geschützt, und für Ärzte, Anwälte oder Steuerberater kommt die berufliche Schweigepflicht hinzu. Ohne Personenbezug lassen sich KI-Assistenten gut nutzen, etwa für Textentwürfe. Für alles andere klären Sie vorab mit Ihrer Kammer oder einer Rechtsberatung, was zulässig ist.
Muss ich mein Team zur KI-Nutzung unterweisen, wegen des EU AI Act?
Der AI Act verlangt von Unternehmen, die KI einsetzen, Maßnahmen zur Förderung der KI-Kompetenz ihres Personals. Ein bestimmtes Niveau muss nicht garantiert werden. Eine schriftliche Nutzungsregel und ein kurzes Gespräch im Team sind ein sinnvoller Anfang. Das ist eine allgemeine Einordnung und keine Rechtsberatung.
Wie unterstützt die Seele Consulting & Management GmbH bei der sicheren Einrichtung?
Wir wählen gemeinsam mit Ihnen geeignete KI-Werkzeuge aus, richten Firmenkonten und Einstellungen ein, halten die Regeln schriftlich fest und betreuen das Ganze laufend. Termine finden bei Ihnen vor Ort oder per Fernwartung statt. Sie kennen den Preis vor dem Start.
Quellen
- Datenschutzkonferenz: Orientierungshilfe Künstliche Intelligenz und Datenschutz, 6. Mai 2024
- DSGVO Artikel 9: Besondere Kategorien personenbezogener Daten
- DSGVO Artikel 28: Auftragsverarbeiter
- Strafgesetzbuch § 203: Verletzung von Privatgeheimnissen
- Geschäftsgeheimnisgesetz § 2: Begriffsbestimmungen
- AI Act Service Desk der EU-Kommission: Artikel 4, KI-Kompetenz
- Anthropic: Is my data used for model training? (Geschäftskunden)
- Anthropic: Is my data used for model training? (Privatkonten)
- Google: Gemini-Apps-Aktivität
- Microsoft Learn: Data, Privacy, and Security for Microsoft Copilot
KI-Werkzeuge sicher einrichten lassen
Wir besprechen mit Ihnen, welche Werkzeuge zu Ihrem Betrieb passen, und richten sie so ein, dass Ihre Daten dort bleiben, wo sie hingehören.
Termin buchen Managed Services ansehen →