So sehen Ihre Nachweise aus.
Die Muster GmbH ist ein fiktiver Versicherungsmakler in München mit 240 Mitarbeitenden. Alle Namen und Antworten sind erfunden. Die vier Dokumente entstehen aus diesen Antworten mit demselben Verfahren, mit dem auch Ihre Dokumente entstehen.
Im Beispiel fehlt der Prüflink; jedes Ihrer vier gespeicherten Dokumente erhält einen eigenen, sechs Jahre abrufbar.
Muster GmbH
Auf einen Blick
Die zwölf Bereiche der KI-Governance
| # | Bereich | Unsere Frage | Ihre Antwort | Was das bedeutet | Nächster Schritt und verantwortliche Person | Status |
|---|---|---|---|---|---|---|
| C1 | Wir wissen, welche KI wir nutzen | Welche KI-Werkzeuge nutzen die Mitarbeitenden bei der Arbeit? | ChatGPT, Microsoft Copilot, KI-Protokollwerkzeug für Besprechungen, DeepL | Die genutzte KI ist in diesem Nachweis aufgeführt. | Fortlaufend: Sehen Sie diese Liste jedes Quartal erneut durch. Verantwortlich: Max Beispiel, Leiter IT und Datenschutz. | Umgesetzt |
| Ist in Software, für die Sie bereits bezahlen, KI eingeschaltet? | Ja: Microsoft 365 Copilot, KI in Kunden- oder Vertriebssoftware | Eingebettete KI in Ihrer bezahlten Software ist Teil dieses Nachweises. | Fortlaufend: Führen Sie diese Funktionen jedes Quartal in Ihrem KI-Inventar und halten Sie fest, wer sie eingeschaltet hat. Verantwortlich: Max Beispiel, Leiter IT und Datenschutz. | |||
| Bezug: KI-Verordnung: Art. 26 (Pflichten der Betreiber von Hochrisiko-KI-Systemen, soweit zutreffend); DSGVO: Art. 30 (Verzeichnis von Verarbeitungstätigkeiten) | ||||||
| C2 | Dienstkonten statt privater Konten | Nutzen die Mitarbeitenden KI mit Dienstkonten oder mit privaten Konten? | Teils, teils | Informationen in privaten Konten liegen außerhalb der Bedingungen des Unternehmens. | Verlagern Sie die dienstliche Nutzung auf Dienstkonten. Verantwortlich: Geschäftsleitung. Bis 3. Februar 2027. | Nächster Schritt |
| Werden die KI-Konten von Mitarbeitenden, die das Unternehmen verlassen, geschlossen und ihre Arbeitsergebnisse gesichert? | Manchmal | Manche ausgeschiedenen Mitarbeitenden behalten Zugang zu KI-Konten. | Nehmen Sie KI-Konten in Ihre Austritts-Checkliste auf. Verantwortlich: Geschäftsleitung. Bis 3. Februar 2027. | |||
| Bezug: DSGVO: Art. 32 (Sicherheit der Verarbeitung) | ||||||
| Risikokategorie (MIT AI Risk Repository): 2.1 Compromise of privacy by obtaining, leaking or correctly inferring sensitive information (Gefährdung der Privatsphäre durch Erlangen, Offenlegen oder Erschließen sensibler Informationen) | ||||||
| C3 | Vereinbarte Werkzeuge zu passenden Bedingungen | Hat jemand im Unternehmen jedem KI-Werkzeug zugestimmt, bevor es genutzt wurde? | Einigen davon | Einige Werkzeuge werden ohne vereinbarte Zustimmung genutzt. | Stimmen Sie jedem noch nicht vereinbarten Werkzeug zu oder ersetzen Sie es. Verantwortlich: Geschäftsleitung. Bis 3. Februar 2027. | Nächster Schritt |
| Laufen die KI-Werkzeuge, auf die Sie sich verlassen, über Geschäftstarife, die zusagen, nicht mit Ihren Informationen zu trainieren? | Einige davon | Einige Werkzeuge nutzen das Eingegebene möglicherweise zum Training ihrer KI. | Verlagern Sie wichtige Arbeit auf Geschäftstarife oder halten Sie vertrauliche Informationen aus den übrigen heraus. Verantwortlich: Geschäftsleitung. Bis 3. Februar 2027. | |||
| Bezug: DSGVO: Art. 28 (Auftragsverarbeiter) | ||||||
| Risikokategorie (MIT AI Risk Repository): 2.1 Compromise of privacy by obtaining, leaking or correctly inferring sensitive information (Gefährdung der Privatsphäre durch Erlangen, Offenlegen oder Erschließen sensibler Informationen) | ||||||
| C4 | Wir wissen, welche Informationen hineingehen | Was geben die Mitarbeitenden in KI ein oder fügen sie dort ein? | Namen oder Angaben von Kunden, Verträge | Vertrauliche Informationen gelangen in KI: Namen oder Angaben von Kunden, Verträge. | Erlauben Sie vertrauliche Informationen in KI nur mit Dienstkonten und Geschäftsbedingungen, und führen Sie sie in Ihren KI-Regeln auf. Verantwortlich: Max Beispiel, Leiter IT und Datenschutz. Bis 3. Februar 2027. | Nächster Schritt |
| Schränken Kundenverträge oder Ihre Datenschutzhinweise ein, wie Sie KI mit deren Informationen nutzen dürfen? | Ja, aber wir haben es nicht geprüft | Zusagen an Kunden schränken die Nutzung von KI möglicherweise ein. | Gleichen Sie Ihre Verträge und Datenschutzhinweise mit Ihrer KI-Nutzung ab. Verantwortlich: Geschäftsleitung. Bis 3. Februar 2027. | |||
| Bezug: DSGVO: Art. 5(1)(c) (Datenminimierung), Art. 13 (Informationspflichten), Art. 28 (Auftragsverarbeiter) | ||||||
| Risikokategorie (MIT AI Risk Repository): 2.1 Compromise of privacy by obtaining, leaking or correctly inferring sensitive information (Gefährdung der Privatsphäre durch Erlangen, Offenlegen oder Erschließen sensibler Informationen) | ||||||
| C5 | Klare Regeln, denen alle zugestimmt haben | Ist schriftlich festgehalten, was nie in KI gehört? | Besprochen, aber nicht schriftlich | Die Regel besteht, ist aber nicht schriftlich festgehalten. | Verabschieden Sie diese Richtlinie und bewahren Sie die unterschriebenen Fassungen auf. Verantwortlich: Max Beispiel, Leiter IT und Datenschutz. Bis 3. Februar 2027. | Nächster Schritt |
| Haben die Mitarbeitenden diese Regeln gelesen und ihnen zugestimmt? | Noch nicht | Die Mitarbeitenden haben den Regeln noch nicht zugestimmt. | Bitten Sie jede Person, die KI-Nutzungsrichtlinie zu unterschreiben (Schulungs- und Bestätigungsnachweise). Verantwortlich: Max Beispiel, Leiter IT und Datenschutz. Bis 3. Februar 2027. | |||
| Bezug: DSGVO: Art. 24 (Verantwortung des Verantwortlichen) | ||||||
| C6 | Klare Zuständigkeit und Entscheidungen | Ist eine Person dafür verantwortlich, wie hier KI genutzt wird? | Ja: Max Beispiel, Leiter IT und Datenschutz | Fragen und Entscheidungen zu KI liegen bei einer Person. | Keiner | Umgesetzt |
| Wer gibt ein neues KI-Werkzeug frei, wenn jemand es nutzen möchte? | Eine namentlich benannte Person | Neue Werkzeuge erhalten eine klare Freigabe. | Keiner | |||
| C7 | Eigenständig handelnde KI ist kontrolliert | Erledigt eine KI Dinge selbstständig, ohne dass ein Mensch jeden Schritt anklickt? | Nein | Derzeit handelt nichts ohne einen Menschen. | Fortlaufend: Stellen Sie diese Frage erneut, wenn ein neues Werkzeug hinzukommt. Verantwortlich: Max Beispiel, Leiter IT und Datenschutz. | Umgesetzt |
| Bezug: KI-Verordnung: Art. 14 und Art. 26 (menschliche Aufsicht, Hochrisiko) | ||||||
| Risikokategorie (MIT AI Risk Repository): 5.2 Loss of human agency and autonomy (Verlust menschlicher Handlungsfähigkeit und Autonomie) | ||||||
| C8 | Faire Entscheidungen über Menschen | Hilft KI bei Entscheidungen über Menschen? | Nein | KI entscheidet derzeit nichts über Menschen. | Keiner | Umgesetzt |
| Bezug: KI-Verordnung: Anhang III (Hochrisiko-Bereiche); DSGVO: Art. 22 (automatisierte Entscheidungen) | ||||||
| Risikokategorie (MIT AI Risk Repository): 1.1 Unfair discrimination and misrepresentation (unfaire Diskriminierung und Fehldarstellung); 1.3 Unequal performance across groups (ungleiche Leistung über Gruppen hinweg) | ||||||
| C9 | Offen und geprüft gegenüber Kunden | Chatten Kunden mit KI oder erhalten sie Nachrichten, die KI für Sie geschrieben hat? | Ja, wir erwähnen es nicht | Kunden wissen möglicherweise nicht, dass KI beteiligt ist. | Ergänzen Sie einen kurzen Hinweis, der Kunden sagt, wann KI genutzt wird. Verantwortlich: Geschäftsleitung. Bis 3. Februar 2027. | Nächster Schritt |
| Prüft ein Mensch von KI geschriebene Arbeit, bevor sie an Kunden geht oder veröffentlicht wird? | Immer | Ein Mensch prüft von KI geschriebene Arbeit, bevor sie hinausgeht. | Keiner | |||
| Bezug: KI-Verordnung: Art. 50 (Transparenzpflichten, seit dem 2. August 2026); DSGVO: Art. 13 (Informationspflichten) | ||||||
| Risikokategorie (MIT AI Risk Repository): 3.1 False or misleading information (falsche oder irreführende Informationen) | ||||||
| C10 | Alle wissen, wie man KI sicher nutzt | Hat jemand eine kurze Einführung in die sichere Nutzung von KI bei der Arbeit erhalten? | Einige | Einige haben eine Einführung erhalten. | Bieten Sie allen eine kurze Einführung an und bewahren Sie die Teilnehmerliste auf. Verantwortlich: Max Beispiel, Leiter IT und Datenschutz. Bis 3. Februar 2027. | Nächster Schritt |
| Lernen neue Mitarbeitende Ihre KI-Regeln, wenn sie anfangen? | Manchmal | Manche neuen Mitarbeitenden lernen die KI-Regeln nicht kennen. | Nehmen Sie die KI-Regeln in die erste Woche jeder neuen Person auf. Verantwortlich: Max Beispiel, Leiter IT und Datenschutz. Bis 3. Februar 2027. | |||
| Bezug: KI-Verordnung: Art. 4 (KI-Kompetenz, seit dem 2. Februar 2025) | ||||||
| Risikokategorie (MIT AI Risk Repository): 5.1 Overreliance and unsafe use (übermäßiges Vertrauen und unsichere Nutzung) | ||||||
| C11 | Die Arbeit läuft weiter, wenn KI ausfällt oder sich ändert | Wenn Ihr wichtigstes KI-Werkzeug morgen ausfiele, könnte die Arbeit trotzdem erledigt werden? | Wahrscheinlich, aber nichts geplant | Es gibt noch keinen schriftlichen Plan. | Halten Sie fest, wer entscheidet und was Sie stattdessen tun würden. Verantwortlich: Geschäftsleitung. Bis 3. Februar 2027. | Nächster Schritt |
| Prüft jemand nach einer Änderung oder einem Update eines KI-Werkzeugs, ob es noch so arbeitet, wie Sie es brauchen? | Nein | Änderungen an Werkzeugen werden nicht geprüft. | Legen Sie fest, wer wichtige KI-Werkzeuge nach einem Update prüft. Verantwortlich: Geschäftsleitung. Bis 3. Februar 2027. | |||
| Risikokategorie (MIT AI Risk Repository): 7.3 Lack of capability or robustness (mangelnde Leistungsfähigkeit oder Robustheit) | ||||||
| C12 | Vorbereitet, wenn etwas schiefgeht | Wissen die Mitarbeitenden, was zu tun ist, wenn vertrauliche Informationen versehentlich in KI gelangen oder die KI etwas Wichtiges falsch macht? | Wir würden es uns überlegen | Es gibt noch keine schriftlich festgelegten Schritte. | Halten Sie drei Schritte fest: anhalten, Max Beispiel noch am selben Tag informieren, festhalten, was passiert ist. Verantwortlich: Geschäftsleitung. Bis 3. Februar 2027. | Nächster Schritt |
| Haben Sie Ihren Versicherer gefragt, ob Ihre Police Schäden abdeckt, die durch KI verursacht werden? | Noch nicht | Der Versicherungsschutz für KI ist noch nicht bestätigt. | Fragen Sie Ihren Versicherer: „Deckt unsere Police Schäden ab, die durch von uns genutzte KI-Werkzeuge entstehen, und gibt es Einschränkungen?“ Verantwortlich: Geschäftsleitung. Bis 3. Februar 2027. | |||
| Bezug: DSGVO: Art. 33 (Meldung von Datenpannen binnen 72 Stunden, wenn personenbezogene Daten betroffen sind) | ||||||
| Risikokategorie (MIT AI Risk Repository): 2.1 Compromise of privacy by obtaining, leaking or correctly inferring sensitive information (Gefährdung der Privatsphäre durch Erlangen, Offenlegen oder Erschließen sensibler Informationen); 3.1 False or misleading information (falsche oder irreführende Informationen) | ||||||
Abdeckungsprüfung: Jeder der 8 Bereiche mit nächstem Schritt oder offener Frage hat daneben einen Schritt mit benannter verantwortlicher Person und Datum.
Rechtlicher Rahmen an Ihren Standorten
- Deutschland: Die KI-Verordnung verlangt seit dem 2. Februar 2025 Maßnahmen zur KI-Kompetenz, die zur Rolle und zum Einsatzkontext jeder Person passen (Artikel 4), und seit dem 2. August 2026 Transparenz, wenn Menschen mit KI interagieren (Artikel 50). Die DSGVO gilt für jede Verarbeitung personenbezogener Daten, auch mit KI.
Was sich seit dem letzten Mal geändert hat
- Dies ist der erste Nachweis. Der nächste zeigt, was sich geändert hat.
Diese zwölf Bereiche wurden am 5. November 2026 von Erika Mustermann, Geschäftsführerin betrachtet.
Jede Bezugszeile zeigt, worauf sich eine Antwort in der KI-Verordnung oder der DSGVO bezieht. Sie sagt nicht, dass die Organisation die Anforderungen erfüllt.
Risikokategorien verweisen auf das MIT AI Risk Repository (MIT FutureTech / MIT AI Risk Initiative), lizenziert unter CC BY 4.0. https://airisk.mit.edu
Muster GmbH
1. Zweck und Geltungsbereich
Diese KI-Nutzungsrichtlinie legt fest, wie bei Muster GmbH KI-Systeme bei der Arbeit genutzt werden dürfen. Sie gilt für alle Mitarbeitenden, Auszubildenden, Aushilfen sowie für externe Personen, die im Auftrag von Muster GmbH arbeiten, und für jedes KI-System, ob als eigenständiges Werkzeug, als eingebettete KI in bereits genutzter Software oder als KI-Agent.
Ziel ist, die Vorteile von KI zu nutzen und dabei personenbezogene Daten, Geschäftsgeheimnisse und das Vertrauen von Kunden zu schützen. Die Richtlinie dokumentiert, welche Regeln gelten, wer verantwortlich ist und wie Verstöße und Vorfälle behandelt werden. Sie unterstützt Muster GmbH bei den Pflichten als Betreiber im Sinne der KI-Verordnung und als Verantwortlicher im Sinne der DSGVO; sie ist keine Rechtsberatung.
2. Begriffe
KI-System: ein maschinengestütztes System, das aus Eingaben Ausgaben wie Texte, Vorhersagen, Empfehlungen oder Entscheidungen ableitet (Art. 3 Nr. 1 KI-Verordnung). Betreiber: wer ein KI-System in eigener Verantwortung beruflich nutzt; das ist Muster GmbH. Anbieter: wer ein KI-System entwickelt und in Verkehr bringt, etwa der Hersteller eines Chat-Werkzeugs.
Schatten-KI: KI-Werkzeuge, die ohne Freigabe genutzt werden. Eingebettete KI: KI-Funktionen in Software, die Muster GmbH bereits nutzt. KI-Agent: ein KI-System, das selbstständig Aktionen ausführt, etwa E-Mails sendet, Daten ändert oder bezahlt. Personenbezogene Daten: alle Informationen über eine bestimmte oder bestimmbare natürliche Person (Art. 4 Nr. 1 DSGVO).
3. Rechtlicher Rahmen
Für die Nutzung von KI bei Muster GmbH gelten insbesondere die KI-Verordnung (Verordnung (EU) 2024/1689, geändert durch Verordnung (EU) 2026/1744) und die DSGVO (Verordnung (EU) 2016/679). Aus der KI-Verordnung folgen schon heute: Maßnahmen zur KI-Kompetenz, die zur Rolle und zum Einsatzkontext jeder Person passen (Art. 4, seit dem 2. Februar 2025), das Verbot bestimmter Praktiken (Art. 5, seit dem 2. Februar 2025) und Transparenzpflichten gegenüber Menschen, die mit KI interagieren (Art. 50, seit dem 2. August 2026). Die Pflichten für Hochrisiko-KI-Systeme, einschließlich der menschlichen Aufsicht (Art. 14) und der Betreiberpflichten (Art. 26), gelten für Anwendungen nach Anhang III ab dem 2. Dezember 2027 und für KI in regulierten Produkten (Anhang I) ab dem 2. August 2028.
Ob eine Anwendung als Hochrisiko gilt, hängt vom Einsatzzweck ab, nicht vom Werkzeug. Dieselbe KI kann für das Formulieren von Texten unproblematisch und für die Auswahl von Bewerberinnen und Bewerbern ein Hochrisiko-KI-System sein. Vor jedem neuen Einsatzzweck prüft Max Beispiel deshalb, welche Pflichten gelten.
4. Datenklassen: was in KI darf und was nie
Informationen bei Muster GmbH gehören zu einer von vier Datenklassen: öffentlich (bereits veröffentlicht, etwa Texte der Website), intern (für den Dienstgebrauch, etwa interne Abläufe), vertraulich (etwa Kundendaten, Verträge, Finanzzahlen, Mitarbeiterdaten) und streng vertraulich (etwa Gesundheitsdaten, Zugangsdaten, Zahlungskartendaten, Geschäftsgeheimnisse).
Öffentliche Informationen dürfen in jedes freigegebene Werkzeug. Interne Informationen dürfen nur in freigegebene Werkzeuge mit Dienstkonto. Vertrauliche Informationen dürfen nur in freigegebene Werkzeuge mit Geschäftstarif, die nicht mit den Eingaben trainieren, und nur, soweit es für die Aufgabe nötig ist (Datenminimierung, Art. 5 Abs. 1 lit. c DSGVO). Streng vertrauliche Informationen gehören nie in KI, es sei denn, Max Beispiel hat einen bestimmten Einsatz ausdrücklich freigegeben und die Datenschutzprüfung ist dokumentiert.
- Folgendes gehört nie in KI: Passwörter und Zugangsdaten, personenbezogene Daten von Kunden, Mitarbeiterdaten, Gesundheitsdaten, Zahlungskartendaten und alles, was ein Kundenvertrag ausschließt.
- Halten Sie die Grenzen aus Kundenverträgen und unseren Datenschutzhinweisen ein. Fragen Sie im Zweifel Max Beispiel.
5. Freigegebene Werkzeuge und Freigabe neuer Werkzeuge
Bei der Arbeit dürfen nur freigegebene KI-Werkzeuge genutzt werden. Das KI-Inventar von Muster GmbH führt jedes freigegebene Werkzeug mit Tarif, zulässiger Datenklasse und verantwortlicher Person; es wird mindestens jedes Quartal durchgesehen.
Wer ein neues KI-Werkzeug oder eine neue KI-Funktion nutzen möchte, stellt vorher eine kurze Anfrage. Die Freigabe prüft den Einsatzzweck, die Bedingungen des Anbieters (insbesondere, ob mit Eingaben trainiert wird), den Ort der Verarbeitung und die zulässige Datenklasse. Eingebettete KI, die ein Anbieter in bereits genutzter Software einschaltet, wird wie ein neues Werkzeug behandelt.
- Diese KI-Werkzeuge werden bei der Arbeit genutzt: ChatGPT, Microsoft Copilot, KI-Protokollwerkzeug für Besprechungen und DeepL.
- Fragen Sie, bevor Sie ein KI-Werkzeug nutzen, das nicht freigegeben ist.
6. Änderungen der Werkzeuge und Ausfälle
KI-Werkzeuge ändern sich oft ohne Ankündigung: Ein Anbieter tauscht das Modell, ändert seine Bedingungen oder schaltet eine neue Funktion ein. Nach jeder wesentlichen Änderung eines Werkzeugs, auf das sich Muster GmbH verlässt, prüft eine benannte Person, ob es noch so arbeitet, wie es gebraucht wird, und ob die Bedingungen noch zur zulässigen Datenklasse passen. Das Ergebnis wird kurz festgehalten.
Für die wichtigste Arbeit, die von einem KI-Werkzeug abhängt, ist schriftlich festgehalten, wie sie weitergeht, wenn das Werkzeug ausfällt, teurer wird oder eingestellt wird: wer entscheidet, welches andere freigegebene Werkzeug genutzt wird oder wie die Arbeit von Hand erledigt wird. Dieser Plan wird einmal im Jahr durchgesehen.
7. Dienstkonten und Zugang
KI wird bei der Arbeit nur mit Dienstkonten genutzt, die Muster GmbH einrichtet und verwalten kann. Private Konten und private Geräte ohne Freigabe sind für dienstliche Informationen nicht zulässig. Zugänge werden nach dem Prinzip der geringsten Rechte vergeben; Zugangsdaten werden nicht geteilt.
- Nutzen Sie KI bei der Arbeit nur mit Dienstkonten, nicht mit privaten Konten.
- Verlässt jemand das Unternehmen, werden seine KI-Konten geschlossen und seine Arbeitsergebnisse gesichert.
- Nutzen Sie für wichtige Arbeit Geschäftstarife. Halten Sie vertrauliche Informationen aus kostenlosen oder privaten Tarifen heraus.
8. Geschäftsgeheimnisse, Urheberrecht und Ausgaben
Geschäftsgeheimnisse von Muster GmbH und von Kunden werden nur in freigegebene Werkzeuge mit Geschäftstarif eingegeben, deren Bedingungen eine Nutzung der Eingaben zum Training ausschließen. Was als Geschäftsgeheimnis gilt, bestimmt im Zweifel Max Beispiel.
Von KI erzeugte Texte, Bilder und Programmcode können Rechte Dritter berühren oder fehlerhaft sein. Ausgaben werden daher vor der Verwendung geprüft, Quellen werden nachgeprüft, und fremde Inhalte werden nur verwendet, wenn die Nutzungsrechte geklärt sind. Programmcode aus KI-Werkzeugen wird wie Code einer unbekannten Quelle behandelt und vor dem Einsatz geprüft.
9. Verbotene Praktiken
KI darf bei Muster GmbH nicht für Praktiken genutzt werden, die die KI-Verordnung verbietet (Art. 5). Dazu gehören insbesondere: Menschen durch unterschwellige oder täuschende Techniken in ihrem Verhalten erheblich zu beeinflussen; die Schwäche von Menschen aufgrund von Alter, Behinderung oder sozialer Lage auszunutzen; Menschen nach ihrem Sozialverhalten zu bewerten (Social Scoring); Emotionen von Mitarbeitenden am Arbeitsplatz zu erkennen, außer aus medizinischen oder Sicherheitsgründen; Menschen anhand biometrischer Daten nach sensiblen Merkmalen zu kategorisieren; und Gesichtsbilder ungezielt aus dem Internet oder aus Videoaufnahmen zu sammeln.
Ist unklar, ob ein Einsatz unter ein Verbot fallen könnte, wird er vor Beginn Max Beispiel vorgelegt.
10. Transparenz und Prüfung vor der Weitergabe
Wer mit Kunden, Bewerberinnen und Bewerbern oder der Öffentlichkeit über KI kommuniziert, informiert darüber, dass KI beteiligt ist (Transparenzpflichten, Art. 50 KI-Verordnung). Von KI erzeugte oder wesentlich veränderte Bilder, Ton- und Videoaufnahmen werden als solche gekennzeichnet.
Von KI erstellte Inhalte werden vor der Weitergabe von einem Menschen auf Richtigkeit, Vollständigkeit und Tonfall geprüft. Wer Inhalte freigibt, trägt dafür die Verantwortung, nicht das Werkzeug.
- Ein Mensch liest von KI geschriebene Arbeit, bevor sie einen Kunden erreicht oder veröffentlicht wird.
- Sagen Sie Kunden, wenn sie mit KI zu tun haben (Transparenzpflichten, KI-Verordnung Artikel 50).
11. Menschliche Aufsicht, KI-Agenten und Not-Halt
Für KI-Agenten und andere eigenständig handelnde KI gilt das Vier-Augen-Prinzip: Bevor eine KI etwas sendet, bezahlt, löscht oder veröffentlicht, gibt ein Mensch die Aktion frei (Freigabe). Wer einen KI-Agenten einrichtet, darf seine Aktionen nicht zugleich allein freigeben (Funktionstrennung).
Für jeden KI-Agenten ist eine Person benannt, die ihn jederzeit stoppen kann (Not-Halt). Der Not-Halt wird mindestens einmal im Jahr erprobt; Datum und Ergebnis werden festgehalten. Rechte eines KI-Agenten, insbesondere Schreibrechte eines Connectors und Ausgabebefugnisse, werden auf das Nötige beschränkt und bei jeder Änderung neu geprüft.
12. Entscheidungen über Menschen
Hilft KI bei Entscheidungen über Menschen, etwa bei Einstellung, Vergütung, Krediten oder dem Zugang zu Leistungen, trifft ein Mensch die endgültige Entscheidung. Betroffene können eine Erklärung, eine Darlegung ihres Standpunkts und eine erneute Prüfung durch einen Menschen verlangen (Art. 22 DSGVO).
Solche Anwendungen können ab dem 2. Dezember 2027 als Hochrisiko-KI-Systeme nach Anhang III der KI-Verordnung gelten. Max Beispiel hält deshalb fest, welche Anwendungen betroffen sind, und plant die dann geltenden Betreiberpflichten rechtzeitig ein.
13. Datenschutz
Werden personenbezogene Daten mit KI verarbeitet, braucht jede Verarbeitung eine Rechtsgrundlage (Art. 6 DSGVO); besondere Kategorien wie Gesundheitsdaten nur unter den Voraussetzungen des Art. 9 DSGVO. Verarbeitet ein Anbieter die Daten im Auftrag von Muster GmbH, wird ein Vertrag zur Auftragsverarbeitung geschlossen (Art. 28 DSGVO). Jede solche Verarbeitung wird im Verzeichnis von Verarbeitungstätigkeiten geführt (Art. 30 DSGVO).
Für KI-Werkzeuge gelten angemessene technische und organisatorische Maßnahmen (Art. 32 DSGVO), etwa Dienstkonten, Zugriffsrechte und Protokollierung. Birgt eine neue Verarbeitung voraussichtlich ein hohes Risiko für die Betroffenen, wird vorher eine Datenschutz-Folgenabschätzung durchgeführt (Art. 35 DSGVO). Hat Muster GmbH eine Datenschutzbeauftragte oder einen Datenschutzbeauftragten, wird diese Person bei neuen KI-Einsätzen frühzeitig beteiligt.
14. KI-Kompetenz und Schulung
Muster GmbH trifft Maßnahmen, damit alle, die KI bei der Arbeit nutzen, über die KI-Kompetenz verfügen, die zu ihrer Rolle und ihrem Einsatzkontext passt (Art. 4 KI-Verordnung). Dazu gehören eine kurze Einführung für alle, vertiefende Inhalte für Rollen mit besonderer Verantwortung und Hinweise bei neuen Werkzeugen.
Teilnahme und Zustimmung zu dieser Richtlinie werden als Schulungs- und Bestätigungsnachweise aufbewahrt.
- Alle, die bei der Arbeit KI nutzen, nehmen an einer kurzen Einführung in die sichere Nutzung teil.
- Neue Mitarbeitende lernen diese Regeln in ihrer ersten Woche kennen.
15. Vorfälle
Ein KI-Vorfall ist jedes Ereignis, bei dem vertrauliche Informationen versehentlich in KI gelangen, eine KI eine wichtige falsche Ausgabe liefert, die verwendet wurde, oder ein KI-Agent eine nicht gewollte Aktion ausführt. Jeder Vorfall wird im KI-Vorfallprotokoll festgehalten: was geschah, wann, wer betroffen ist und was unternommen wurde.
Betrifft ein Vorfall personenbezogene Daten, prüft Muster GmbH unverzüglich, ob eine Meldung an die Aufsichtsbehörde nötig ist; die Frist beträgt 72 Stunden ab Kenntnis (Art. 33 DSGVO).
- Gelangen versehentlich vertrauliche Informationen in KI oder macht die KI etwas Wichtiges falsch, informieren Sie Max Beispiel noch am selben Tag und halten Sie es im KI-Vorfallprotokoll fest.
16. Nachweise und Aufbewahrung
Muster GmbH bewahrt die Nachweise auf, die zeigen, dass diese Richtlinie gelebt wird: das KI-Inventar, die Freigaben neuer Werkzeuge, die Schulungs- und Bestätigungsnachweise, das KI-Vorfallprotokoll, die Proben des Not-Halts und die Entscheidungen der Geschäftsleitung zu offenen Punkten. Die Nachweise werden so aufbewahrt, dass sie auf Anfrage der Geschäftsleitung, des Aufsichtsgremiums, eines Versicherers oder einer Aufsichtsbehörde vorgelegt werden können.
Aufzeichnungen, die personenbezogene Daten enthalten, werden nur so lange aufbewahrt, wie es für ihren Zweck nötig ist oder eine gesetzliche Pflicht besteht.
17. Mitbestimmung
Kann ein KI-Werkzeug das Verhalten oder die Leistung von Mitarbeitenden überwachen, ist in Deutschland häufig der Betriebsrat zu beteiligen (§ 87 Abs. 1 Nr. 6 BetrVG). Vor der Einführung solcher Werkzeuge klärt Muster GmbH, ob eine Betriebsvereinbarung nötig ist. In Österreich und der Schweiz gelten eigene Mitwirkungsrechte der Arbeitnehmervertretung.
18. Verantwortlichkeiten, Überprüfung und Inkrafttreten
Verstöße gegen diese Richtlinie werden mit Max Beispiel besprochen und können arbeitsrechtliche Folgen haben. Wer einen Verstoß oder eine Unsicherheit bemerkt, meldet sie ohne Nachteile.
Diese Richtlinie wird mindestens einmal im Jahr und bei jeder wesentlichen Änderung der genutzten KI oder der Rechtslage überprüft. Sie tritt mit ihrer Verabschiedung in Kraft.
- Max Beispiel ist für KI verantwortlich. Wenden Sie sich mit jeder Frage zu KI an Max Beispiel.
- Max Beispiel gibt neue KI-Werkzeuge frei.
Verantwortlich für diese Richtlinie: Max Beispiel, Leiter IT und Datenschutz. Verabschiedet am 5. November 2026.
Ich habe diese Richtlinie gelesen und werde sie befolgen.
| Name | Unterschrift | Datum |
|---|---|---|
Muster GmbH
Muster GmbH hat am 5. November 2026 die zwölf Bereiche der KI-Governance betrachtet. 4 sind umgesetzt, 8 haben einen nächsten Schritt mit verantwortlicher Person, und 0 sind zu klären.
Unsere Bitte an Geschäftsleitung und Aufsichtsgremium: Nehmen Sie diesen Nachweis zur Kenntnis und beschließen Sie die fünf wichtigsten Schritte.
Die wichtigsten nächsten Schritte
- Halten Sie drei Schritte fest: anhalten, Max Beispiel noch am selben Tag informieren, festhalten, was passiert ist. Verantwortlich: Geschäftsleitung. Bis 3. Februar 2027.
- Fragen Sie Ihren Versicherer: „Deckt unsere Police Schäden ab, die durch von uns genutzte KI-Werkzeuge entstehen, und gibt es Einschränkungen?“ Verantwortlich: Geschäftsleitung. Bis 3. Februar 2027.
- Erlauben Sie vertrauliche Informationen in KI nur mit Dienstkonten und Geschäftsbedingungen, und führen Sie sie in Ihren KI-Regeln auf. Verantwortlich: Max Beispiel, Leiter IT und Datenschutz. Bis 3. Februar 2027.
- Gleichen Sie Ihre Verträge und Datenschutzhinweise mit Ihrer KI-Nutzung ab. Verantwortlich: Geschäftsleitung. Bis 3. Februar 2027.
- Stimmen Sie jedem noch nicht vereinbarten Werkzeug zu oder ersetzen Sie es. Verantwortlich: Geschäftsleitung. Bis 3. Februar 2027.
Jeder nächste Schritt ist dem Bereich des KI-Risikoberichts zugeordnet, den er schließt.
Entscheidungen
Die Geschäftsleitung hat zu 0 von 15 offenen Punkten eine Entscheidung festgehalten.
10 weitere nächste Schritte, jeweils mit verantwortlicher Person, stehen im KI-Risikobericht.
Rechtlicher Rahmen: Der KI-Risikobericht zeigt, worauf sich jeder Bereich in der KI-Verordnung und der DSGVO bezieht.
Dies ist der erste Nachweis. Der nächste zeigt, was sich geändert hat.
Muster GmbH
Versicherung
- Haben wir unseren Versicherer gefragt, ob unsere Police KI-bedingte Schäden abdeckt? Noch nicht.
Genutzte KI
- Genutzte KI-Werkzeuge: ChatGPT, Microsoft Copilot, KI-Protokollwerkzeug für Besprechungen und DeepL.
- Eingebettete KI in Software, für die wir bereits bezahlen: Microsoft 365 Copilot, KI in Kunden- oder Vertriebssoftware.
Eigenständig handelnde KI
- Eigenständig handelnde KI: derzeit keine.
Wenn KI ausfällt oder etwas schiefgeht
- Fiele unser wichtigstes KI-Werkzeug aus, könnte die Arbeit wahrscheinlich weitergehen. Ein Plan ist ein nächster Schritt.
- Die Mitarbeitenden wissen, was zu tun ist, wenn mit KI etwas schiefgeht: Schriftliche Schritte sind ein nächster Schritt.
Ebenfalls festgehalten
- Entscheidungen über Menschen: keine.
- KI mit Kundenkontakt: ja; die Information der Kunden ist ein nächster Schritt.
- Ein Mensch prüft von KI geschriebene Arbeit, bevor sie hinausgeht: immer.
- Geschäftstarife, die nicht mit unseren Informationen trainieren: teilweise.
- Von der Geschäftsleitung akzeptierte Risiken: 0.
Festgehaltene Governance
| Dokument | Datum | Prüflink |
|---|---|---|
| KI-Risikobericht für die Geschäftsleitung | 5. November 2026 | wird beim Speichern erstellt |
| KI-Nutzungsrichtlinie | 5. November 2026 | wird beim Speichern erstellt |
| Memo an Geschäftsleitung und Aufsichtsgremium | 5. November 2026 | wird beim Speichern erstellt |
Auf einen Blick: 4 von 12 Bereichen umgesetzt, 8 mit nächstem Schritt, 0 zu klären. 15 offene Punkte haben im KI-Risikobericht eine verantwortliche Person und einen nächsten Schritt binnen neunzig Tagen.
Diese Übersicht gibt wieder, was festgehalten ist. Sie ist keine Aussage über Versicherungsschutz, Prämien oder Rechtskonformität der Organisation.