Vorschau · fachliche und sprachliche Prüfung ausstehend
Beispiele

So sehen Ihre Nachweise aus.

Die Muster GmbH ist ein fiktiver Versicherungsmakler in München mit 240 Mitarbeitenden. Alle Namen und Antworten sind erfunden. Die vier Dokumente entstehen aus diesen Antworten mit demselben Verfahren, mit dem auch Ihre Dokumente entstehen.

Im Beispiel fehlt der Prüflink; jedes Ihrer vier gespeicherten Dokumente erhält einen eigenen, sechs Jahre abrufbar.

Beispiel · fiktiv · KI-Risikobericht für die Geschäftsleitung
SanctumShield · KI-Risikobericht für die Geschäftsleitung · Bewertung (Light)

Muster GmbH

5. November 2026 · Erstellt von Erika Mustermann, Geschäftsführerin · Prüflink wird beim Speichern erstellt
Umfang: Bewertung (Light), gewählt von Muster GmbH. Alle zwölf Bereiche der KI-Governance betrachtet. Rechtlicher Rahmen: KI-Verordnung und DSGVO.

Für wen: Die Geschäftsleitung, eine Prüferin oder ein Prüfer oder ein Kunde, der fragt, wie Sie KI steuern. Was es beantwortet: Welche zwölf Bereiche der KI-Governance Muster GmbH betrachtet hat, was beantwortet wurde und was als Nächstes folgt.

Nachweis der fortlaufenden Sorgfalt: Am 5. November 2026 hat Muster GmbH die genutzte KI erfasst und die zwölf Bereiche der KI-Governance betrachtet; sie sind hier mit den Antworten festgehalten. Sorgfaltspflicht: Jeder offene Punkt hat eine benannte verantwortliche Person und einen nächsten Schritt, und die nächste Bewertung hält fest, was erledigt wurde. Dieser Nachweis dokumentiert diesen Vorgang. Er ist keine Rechtsberatung und keine Konformitätsbewertung.

Auf einen Blick

4Umgesetzt
8Nächster Schritt
0Zu klären

Die zwölf Bereiche der KI-Governance

#BereichUnsere FrageIhre AntwortWas das bedeutetNächster Schritt und verantwortliche PersonStatus
C1Wir wissen, welche KI wir nutzenWelche KI-Werkzeuge nutzen die Mitarbeitenden bei der Arbeit?ChatGPT, Microsoft Copilot, KI-Protokollwerkzeug für Besprechungen, DeepLDie genutzte KI ist in diesem Nachweis aufgeführt.Fortlaufend: Sehen Sie diese Liste jedes Quartal erneut durch. Verantwortlich: Max Beispiel, Leiter IT und Datenschutz.Umgesetzt
Ist in Software, für die Sie bereits bezahlen, KI eingeschaltet?Ja: Microsoft 365 Copilot, KI in Kunden- oder VertriebssoftwareEingebettete KI in Ihrer bezahlten Software ist Teil dieses Nachweises.Fortlaufend: Führen Sie diese Funktionen jedes Quartal in Ihrem KI-Inventar und halten Sie fest, wer sie eingeschaltet hat. Verantwortlich: Max Beispiel, Leiter IT und Datenschutz.
Bezug: KI-Verordnung: Art. 26 (Pflichten der Betreiber von Hochrisiko-KI-Systemen, soweit zutreffend); DSGVO: Art. 30 (Verzeichnis von Verarbeitungstätigkeiten)
C2Dienstkonten statt privater KontenNutzen die Mitarbeitenden KI mit Dienstkonten oder mit privaten Konten?Teils, teilsInformationen in privaten Konten liegen außerhalb der Bedingungen des Unternehmens.Verlagern Sie die dienstliche Nutzung auf Dienstkonten. Verantwortlich: Geschäftsleitung. Bis 3. Februar 2027.Nächster Schritt
Werden die KI-Konten von Mitarbeitenden, die das Unternehmen verlassen, geschlossen und ihre Arbeitsergebnisse gesichert?ManchmalManche ausgeschiedenen Mitarbeitenden behalten Zugang zu KI-Konten.Nehmen Sie KI-Konten in Ihre Austritts-Checkliste auf. Verantwortlich: Geschäftsleitung. Bis 3. Februar 2027.
Bezug: DSGVO: Art. 32 (Sicherheit der Verarbeitung)
Risikokategorie (MIT AI Risk Repository): 2.1 Compromise of privacy by obtaining, leaking or correctly inferring sensitive information (Gefährdung der Privatsphäre durch Erlangen, Offenlegen oder Erschließen sensibler Informationen)
C3Vereinbarte Werkzeuge zu passenden BedingungenHat jemand im Unternehmen jedem KI-Werkzeug zugestimmt, bevor es genutzt wurde?Einigen davonEinige Werkzeuge werden ohne vereinbarte Zustimmung genutzt.Stimmen Sie jedem noch nicht vereinbarten Werkzeug zu oder ersetzen Sie es. Verantwortlich: Geschäftsleitung. Bis 3. Februar 2027.Nächster Schritt
Laufen die KI-Werkzeuge, auf die Sie sich verlassen, über Geschäftstarife, die zusagen, nicht mit Ihren Informationen zu trainieren?Einige davonEinige Werkzeuge nutzen das Eingegebene möglicherweise zum Training ihrer KI.Verlagern Sie wichtige Arbeit auf Geschäftstarife oder halten Sie vertrauliche Informationen aus den übrigen heraus. Verantwortlich: Geschäftsleitung. Bis 3. Februar 2027.
Bezug: DSGVO: Art. 28 (Auftragsverarbeiter)
Risikokategorie (MIT AI Risk Repository): 2.1 Compromise of privacy by obtaining, leaking or correctly inferring sensitive information (Gefährdung der Privatsphäre durch Erlangen, Offenlegen oder Erschließen sensibler Informationen)
C4Wir wissen, welche Informationen hineingehenWas geben die Mitarbeitenden in KI ein oder fügen sie dort ein?Namen oder Angaben von Kunden, VerträgeVertrauliche Informationen gelangen in KI: Namen oder Angaben von Kunden, Verträge.Erlauben Sie vertrauliche Informationen in KI nur mit Dienstkonten und Geschäftsbedingungen, und führen Sie sie in Ihren KI-Regeln auf. Verantwortlich: Max Beispiel, Leiter IT und Datenschutz. Bis 3. Februar 2027.Nächster Schritt
Schränken Kundenverträge oder Ihre Datenschutzhinweise ein, wie Sie KI mit deren Informationen nutzen dürfen?Ja, aber wir haben es nicht geprüftZusagen an Kunden schränken die Nutzung von KI möglicherweise ein.Gleichen Sie Ihre Verträge und Datenschutzhinweise mit Ihrer KI-Nutzung ab. Verantwortlich: Geschäftsleitung. Bis 3. Februar 2027.
Bezug: DSGVO: Art. 5(1)(c) (Datenminimierung), Art. 13 (Informationspflichten), Art. 28 (Auftragsverarbeiter)
Risikokategorie (MIT AI Risk Repository): 2.1 Compromise of privacy by obtaining, leaking or correctly inferring sensitive information (Gefährdung der Privatsphäre durch Erlangen, Offenlegen oder Erschließen sensibler Informationen)
C5Klare Regeln, denen alle zugestimmt habenIst schriftlich festgehalten, was nie in KI gehört?Besprochen, aber nicht schriftlichDie Regel besteht, ist aber nicht schriftlich festgehalten.Verabschieden Sie diese Richtlinie und bewahren Sie die unterschriebenen Fassungen auf. Verantwortlich: Max Beispiel, Leiter IT und Datenschutz. Bis 3. Februar 2027.Nächster Schritt
Haben die Mitarbeitenden diese Regeln gelesen und ihnen zugestimmt?Noch nichtDie Mitarbeitenden haben den Regeln noch nicht zugestimmt.Bitten Sie jede Person, die KI-Nutzungsrichtlinie zu unterschreiben (Schulungs- und Bestätigungsnachweise). Verantwortlich: Max Beispiel, Leiter IT und Datenschutz. Bis 3. Februar 2027.
Bezug: DSGVO: Art. 24 (Verantwortung des Verantwortlichen)
C6Klare Zuständigkeit und EntscheidungenIst eine Person dafür verantwortlich, wie hier KI genutzt wird?Ja: Max Beispiel, Leiter IT und DatenschutzFragen und Entscheidungen zu KI liegen bei einer Person.KeinerUmgesetzt
Wer gibt ein neues KI-Werkzeug frei, wenn jemand es nutzen möchte?Eine namentlich benannte PersonNeue Werkzeuge erhalten eine klare Freigabe.Keiner
C7Eigenständig handelnde KI ist kontrolliertErledigt eine KI Dinge selbstständig, ohne dass ein Mensch jeden Schritt anklickt?NeinDerzeit handelt nichts ohne einen Menschen.Fortlaufend: Stellen Sie diese Frage erneut, wenn ein neues Werkzeug hinzukommt. Verantwortlich: Max Beispiel, Leiter IT und Datenschutz.Umgesetzt
Bezug: KI-Verordnung: Art. 14 und Art. 26 (menschliche Aufsicht, Hochrisiko)
Risikokategorie (MIT AI Risk Repository): 5.2 Loss of human agency and autonomy (Verlust menschlicher Handlungsfähigkeit und Autonomie)
C8Faire Entscheidungen über MenschenHilft KI bei Entscheidungen über Menschen?NeinKI entscheidet derzeit nichts über Menschen.KeinerUmgesetzt
Bezug: KI-Verordnung: Anhang III (Hochrisiko-Bereiche); DSGVO: Art. 22 (automatisierte Entscheidungen)
Risikokategorie (MIT AI Risk Repository): 1.1 Unfair discrimination and misrepresentation (unfaire Diskriminierung und Fehldarstellung); 1.3 Unequal performance across groups (ungleiche Leistung über Gruppen hinweg)
C9Offen und geprüft gegenüber KundenChatten Kunden mit KI oder erhalten sie Nachrichten, die KI für Sie geschrieben hat?Ja, wir erwähnen es nichtKunden wissen möglicherweise nicht, dass KI beteiligt ist.Ergänzen Sie einen kurzen Hinweis, der Kunden sagt, wann KI genutzt wird. Verantwortlich: Geschäftsleitung. Bis 3. Februar 2027.Nächster Schritt
Prüft ein Mensch von KI geschriebene Arbeit, bevor sie an Kunden geht oder veröffentlicht wird?ImmerEin Mensch prüft von KI geschriebene Arbeit, bevor sie hinausgeht.Keiner
Bezug: KI-Verordnung: Art. 50 (Transparenzpflichten, seit dem 2. August 2026); DSGVO: Art. 13 (Informationspflichten)
Risikokategorie (MIT AI Risk Repository): 3.1 False or misleading information (falsche oder irreführende Informationen)
C10Alle wissen, wie man KI sicher nutztHat jemand eine kurze Einführung in die sichere Nutzung von KI bei der Arbeit erhalten?EinigeEinige haben eine Einführung erhalten.Bieten Sie allen eine kurze Einführung an und bewahren Sie die Teilnehmerliste auf. Verantwortlich: Max Beispiel, Leiter IT und Datenschutz. Bis 3. Februar 2027.Nächster Schritt
Lernen neue Mitarbeitende Ihre KI-Regeln, wenn sie anfangen?ManchmalManche neuen Mitarbeitenden lernen die KI-Regeln nicht kennen.Nehmen Sie die KI-Regeln in die erste Woche jeder neuen Person auf. Verantwortlich: Max Beispiel, Leiter IT und Datenschutz. Bis 3. Februar 2027.
Bezug: KI-Verordnung: Art. 4 (KI-Kompetenz, seit dem 2. Februar 2025)
Risikokategorie (MIT AI Risk Repository): 5.1 Overreliance and unsafe use (übermäßiges Vertrauen und unsichere Nutzung)
C11Die Arbeit läuft weiter, wenn KI ausfällt oder sich ändertWenn Ihr wichtigstes KI-Werkzeug morgen ausfiele, könnte die Arbeit trotzdem erledigt werden?Wahrscheinlich, aber nichts geplantEs gibt noch keinen schriftlichen Plan.Halten Sie fest, wer entscheidet und was Sie stattdessen tun würden. Verantwortlich: Geschäftsleitung. Bis 3. Februar 2027.Nächster Schritt
Prüft jemand nach einer Änderung oder einem Update eines KI-Werkzeugs, ob es noch so arbeitet, wie Sie es brauchen?NeinÄnderungen an Werkzeugen werden nicht geprüft.Legen Sie fest, wer wichtige KI-Werkzeuge nach einem Update prüft. Verantwortlich: Geschäftsleitung. Bis 3. Februar 2027.
Risikokategorie (MIT AI Risk Repository): 7.3 Lack of capability or robustness (mangelnde Leistungsfähigkeit oder Robustheit)
C12Vorbereitet, wenn etwas schiefgehtWissen die Mitarbeitenden, was zu tun ist, wenn vertrauliche Informationen versehentlich in KI gelangen oder die KI etwas Wichtiges falsch macht?Wir würden es uns überlegenEs gibt noch keine schriftlich festgelegten Schritte.Halten Sie drei Schritte fest: anhalten, Max Beispiel noch am selben Tag informieren, festhalten, was passiert ist. Verantwortlich: Geschäftsleitung. Bis 3. Februar 2027.Nächster Schritt
Haben Sie Ihren Versicherer gefragt, ob Ihre Police Schäden abdeckt, die durch KI verursacht werden?Noch nichtDer Versicherungsschutz für KI ist noch nicht bestätigt.Fragen Sie Ihren Versicherer: „Deckt unsere Police Schäden ab, die durch von uns genutzte KI-Werkzeuge entstehen, und gibt es Einschränkungen?“ Verantwortlich: Geschäftsleitung. Bis 3. Februar 2027.
Bezug: DSGVO: Art. 33 (Meldung von Datenpannen binnen 72 Stunden, wenn personenbezogene Daten betroffen sind)
Risikokategorie (MIT AI Risk Repository): 2.1 Compromise of privacy by obtaining, leaking or correctly inferring sensitive information (Gefährdung der Privatsphäre durch Erlangen, Offenlegen oder Erschließen sensibler Informationen); 3.1 False or misleading information (falsche oder irreführende Informationen)

Abdeckungsprüfung: Jeder der 8 Bereiche mit nächstem Schritt oder offener Frage hat daneben einen Schritt mit benannter verantwortlicher Person und Datum.

Rechtlicher Rahmen an Ihren Standorten

  • Deutschland: Die KI-Verordnung verlangt seit dem 2. Februar 2025 Maßnahmen zur KI-Kompetenz, die zur Rolle und zum Einsatzkontext jeder Person passen (Artikel 4), und seit dem 2. August 2026 Transparenz, wenn Menschen mit KI interagieren (Artikel 50). Die DSGVO gilt für jede Verarbeitung personenbezogener Daten, auch mit KI.

Was sich seit dem letzten Mal geändert hat

  • Dies ist der erste Nachweis. Der nächste zeigt, was sich geändert hat.

Diese zwölf Bereiche wurden am 5. November 2026 von Erika Mustermann, Geschäftsführerin betrachtet.

Jede Bezugszeile zeigt, worauf sich eine Antwort in der KI-Verordnung oder der DSGVO bezieht. Sie sagt nicht, dass die Organisation die Anforderungen erfüllt.

Risikokategorien verweisen auf das MIT AI Risk Repository (MIT FutureTech / MIT AI Risk Initiative), lizenziert unter CC BY 4.0. https://airisk.mit.edu

KI-Risikobericht für die Geschäftsleitung · Bewertung (Light). Der KI-Risikobericht, die KI-Nutzungsrichtlinie, das Memo an Geschäftsleitung und Aufsichtsgremium und die KI-Statusübersicht entstehen gemeinsam aus denselben Antworten. Dieses Dokument unterstützt die Dokumentation Ihrer KI-Governance. Es ist keine Rechtsberatung, keine Zertifizierung und keine Konformitätsbewertung nach der KI-Verordnung.
Beispiel · fiktiv · KI-Nutzungsrichtlinie
SanctumShield · KI-Nutzungsrichtlinie · Bewertung (Light)

Muster GmbH

5. November 2026 · Erstellt von Erika Mustermann, Geschäftsführerin · Prüflink wird beim Speichern erstellt
Umfang: Bewertung (Light), gewählt von Muster GmbH. Alle zwölf Bereiche der KI-Governance betrachtet. Rechtlicher Rahmen: KI-Verordnung und DSGVO.

Für wen: Alle bei Muster GmbH, die bei der Arbeit KI nutzen. Was es beantwortet: Welche KI wir nutzen dürfen, was nie hineingehört, wer entscheidet und was zu tun ist, wenn etwas schiefgeht.

1. Zweck und Geltungsbereich

Diese KI-Nutzungsrichtlinie legt fest, wie bei Muster GmbH KI-Systeme bei der Arbeit genutzt werden dürfen. Sie gilt für alle Mitarbeitenden, Auszubildenden, Aushilfen sowie für externe Personen, die im Auftrag von Muster GmbH arbeiten, und für jedes KI-System, ob als eigenständiges Werkzeug, als eingebettete KI in bereits genutzter Software oder als KI-Agent.

Ziel ist, die Vorteile von KI zu nutzen und dabei personenbezogene Daten, Geschäftsgeheimnisse und das Vertrauen von Kunden zu schützen. Die Richtlinie dokumentiert, welche Regeln gelten, wer verantwortlich ist und wie Verstöße und Vorfälle behandelt werden. Sie unterstützt Muster GmbH bei den Pflichten als Betreiber im Sinne der KI-Verordnung und als Verantwortlicher im Sinne der DSGVO; sie ist keine Rechtsberatung.

2. Begriffe

KI-System: ein maschinengestütztes System, das aus Eingaben Ausgaben wie Texte, Vorhersagen, Empfehlungen oder Entscheidungen ableitet (Art. 3 Nr. 1 KI-Verordnung). Betreiber: wer ein KI-System in eigener Verantwortung beruflich nutzt; das ist Muster GmbH. Anbieter: wer ein KI-System entwickelt und in Verkehr bringt, etwa der Hersteller eines Chat-Werkzeugs.

Schatten-KI: KI-Werkzeuge, die ohne Freigabe genutzt werden. Eingebettete KI: KI-Funktionen in Software, die Muster GmbH bereits nutzt. KI-Agent: ein KI-System, das selbstständig Aktionen ausführt, etwa E-Mails sendet, Daten ändert oder bezahlt. Personenbezogene Daten: alle Informationen über eine bestimmte oder bestimmbare natürliche Person (Art. 4 Nr. 1 DSGVO).

3. Rechtlicher Rahmen

Für die Nutzung von KI bei Muster GmbH gelten insbesondere die KI-Verordnung (Verordnung (EU) 2024/1689, geändert durch Verordnung (EU) 2026/1744) und die DSGVO (Verordnung (EU) 2016/679). Aus der KI-Verordnung folgen schon heute: Maßnahmen zur KI-Kompetenz, die zur Rolle und zum Einsatzkontext jeder Person passen (Art. 4, seit dem 2. Februar 2025), das Verbot bestimmter Praktiken (Art. 5, seit dem 2. Februar 2025) und Transparenzpflichten gegenüber Menschen, die mit KI interagieren (Art. 50, seit dem 2. August 2026). Die Pflichten für Hochrisiko-KI-Systeme, einschließlich der menschlichen Aufsicht (Art. 14) und der Betreiberpflichten (Art. 26), gelten für Anwendungen nach Anhang III ab dem 2. Dezember 2027 und für KI in regulierten Produkten (Anhang I) ab dem 2. August 2028.

Ob eine Anwendung als Hochrisiko gilt, hängt vom Einsatzzweck ab, nicht vom Werkzeug. Dieselbe KI kann für das Formulieren von Texten unproblematisch und für die Auswahl von Bewerberinnen und Bewerbern ein Hochrisiko-KI-System sein. Vor jedem neuen Einsatzzweck prüft Max Beispiel deshalb, welche Pflichten gelten.

4. Datenklassen: was in KI darf und was nie

Informationen bei Muster GmbH gehören zu einer von vier Datenklassen: öffentlich (bereits veröffentlicht, etwa Texte der Website), intern (für den Dienstgebrauch, etwa interne Abläufe), vertraulich (etwa Kundendaten, Verträge, Finanzzahlen, Mitarbeiterdaten) und streng vertraulich (etwa Gesundheitsdaten, Zugangsdaten, Zahlungskartendaten, Geschäftsgeheimnisse).

Öffentliche Informationen dürfen in jedes freigegebene Werkzeug. Interne Informationen dürfen nur in freigegebene Werkzeuge mit Dienstkonto. Vertrauliche Informationen dürfen nur in freigegebene Werkzeuge mit Geschäftstarif, die nicht mit den Eingaben trainieren, und nur, soweit es für die Aufgabe nötig ist (Datenminimierung, Art. 5 Abs. 1 lit. c DSGVO). Streng vertrauliche Informationen gehören nie in KI, es sei denn, Max Beispiel hat einen bestimmten Einsatz ausdrücklich freigegeben und die Datenschutzprüfung ist dokumentiert.

  • Folgendes gehört nie in KI: Passwörter und Zugangsdaten, personenbezogene Daten von Kunden, Mitarbeiterdaten, Gesundheitsdaten, Zahlungskartendaten und alles, was ein Kundenvertrag ausschließt.
  • Halten Sie die Grenzen aus Kundenverträgen und unseren Datenschutzhinweisen ein. Fragen Sie im Zweifel Max Beispiel.

5. Freigegebene Werkzeuge und Freigabe neuer Werkzeuge

Bei der Arbeit dürfen nur freigegebene KI-Werkzeuge genutzt werden. Das KI-Inventar von Muster GmbH führt jedes freigegebene Werkzeug mit Tarif, zulässiger Datenklasse und verantwortlicher Person; es wird mindestens jedes Quartal durchgesehen.

Wer ein neues KI-Werkzeug oder eine neue KI-Funktion nutzen möchte, stellt vorher eine kurze Anfrage. Die Freigabe prüft den Einsatzzweck, die Bedingungen des Anbieters (insbesondere, ob mit Eingaben trainiert wird), den Ort der Verarbeitung und die zulässige Datenklasse. Eingebettete KI, die ein Anbieter in bereits genutzter Software einschaltet, wird wie ein neues Werkzeug behandelt.

  • Diese KI-Werkzeuge werden bei der Arbeit genutzt: ChatGPT, Microsoft Copilot, KI-Protokollwerkzeug für Besprechungen und DeepL.
  • Fragen Sie, bevor Sie ein KI-Werkzeug nutzen, das nicht freigegeben ist.

6. Änderungen der Werkzeuge und Ausfälle

KI-Werkzeuge ändern sich oft ohne Ankündigung: Ein Anbieter tauscht das Modell, ändert seine Bedingungen oder schaltet eine neue Funktion ein. Nach jeder wesentlichen Änderung eines Werkzeugs, auf das sich Muster GmbH verlässt, prüft eine benannte Person, ob es noch so arbeitet, wie es gebraucht wird, und ob die Bedingungen noch zur zulässigen Datenklasse passen. Das Ergebnis wird kurz festgehalten.

Für die wichtigste Arbeit, die von einem KI-Werkzeug abhängt, ist schriftlich festgehalten, wie sie weitergeht, wenn das Werkzeug ausfällt, teurer wird oder eingestellt wird: wer entscheidet, welches andere freigegebene Werkzeug genutzt wird oder wie die Arbeit von Hand erledigt wird. Dieser Plan wird einmal im Jahr durchgesehen.

7. Dienstkonten und Zugang

KI wird bei der Arbeit nur mit Dienstkonten genutzt, die Muster GmbH einrichtet und verwalten kann. Private Konten und private Geräte ohne Freigabe sind für dienstliche Informationen nicht zulässig. Zugänge werden nach dem Prinzip der geringsten Rechte vergeben; Zugangsdaten werden nicht geteilt.

  • Nutzen Sie KI bei der Arbeit nur mit Dienstkonten, nicht mit privaten Konten.
  • Verlässt jemand das Unternehmen, werden seine KI-Konten geschlossen und seine Arbeitsergebnisse gesichert.
  • Nutzen Sie für wichtige Arbeit Geschäftstarife. Halten Sie vertrauliche Informationen aus kostenlosen oder privaten Tarifen heraus.

8. Geschäftsgeheimnisse, Urheberrecht und Ausgaben

Geschäftsgeheimnisse von Muster GmbH und von Kunden werden nur in freigegebene Werkzeuge mit Geschäftstarif eingegeben, deren Bedingungen eine Nutzung der Eingaben zum Training ausschließen. Was als Geschäftsgeheimnis gilt, bestimmt im Zweifel Max Beispiel.

Von KI erzeugte Texte, Bilder und Programmcode können Rechte Dritter berühren oder fehlerhaft sein. Ausgaben werden daher vor der Verwendung geprüft, Quellen werden nachgeprüft, und fremde Inhalte werden nur verwendet, wenn die Nutzungsrechte geklärt sind. Programmcode aus KI-Werkzeugen wird wie Code einer unbekannten Quelle behandelt und vor dem Einsatz geprüft.

9. Verbotene Praktiken

KI darf bei Muster GmbH nicht für Praktiken genutzt werden, die die KI-Verordnung verbietet (Art. 5). Dazu gehören insbesondere: Menschen durch unterschwellige oder täuschende Techniken in ihrem Verhalten erheblich zu beeinflussen; die Schwäche von Menschen aufgrund von Alter, Behinderung oder sozialer Lage auszunutzen; Menschen nach ihrem Sozialverhalten zu bewerten (Social Scoring); Emotionen von Mitarbeitenden am Arbeitsplatz zu erkennen, außer aus medizinischen oder Sicherheitsgründen; Menschen anhand biometrischer Daten nach sensiblen Merkmalen zu kategorisieren; und Gesichtsbilder ungezielt aus dem Internet oder aus Videoaufnahmen zu sammeln.

Ist unklar, ob ein Einsatz unter ein Verbot fallen könnte, wird er vor Beginn Max Beispiel vorgelegt.

10. Transparenz und Prüfung vor der Weitergabe

Wer mit Kunden, Bewerberinnen und Bewerbern oder der Öffentlichkeit über KI kommuniziert, informiert darüber, dass KI beteiligt ist (Transparenzpflichten, Art. 50 KI-Verordnung). Von KI erzeugte oder wesentlich veränderte Bilder, Ton- und Videoaufnahmen werden als solche gekennzeichnet.

Von KI erstellte Inhalte werden vor der Weitergabe von einem Menschen auf Richtigkeit, Vollständigkeit und Tonfall geprüft. Wer Inhalte freigibt, trägt dafür die Verantwortung, nicht das Werkzeug.

  • Ein Mensch liest von KI geschriebene Arbeit, bevor sie einen Kunden erreicht oder veröffentlicht wird.
  • Sagen Sie Kunden, wenn sie mit KI zu tun haben (Transparenzpflichten, KI-Verordnung Artikel 50).

11. Menschliche Aufsicht, KI-Agenten und Not-Halt

Für KI-Agenten und andere eigenständig handelnde KI gilt das Vier-Augen-Prinzip: Bevor eine KI etwas sendet, bezahlt, löscht oder veröffentlicht, gibt ein Mensch die Aktion frei (Freigabe). Wer einen KI-Agenten einrichtet, darf seine Aktionen nicht zugleich allein freigeben (Funktionstrennung).

Für jeden KI-Agenten ist eine Person benannt, die ihn jederzeit stoppen kann (Not-Halt). Der Not-Halt wird mindestens einmal im Jahr erprobt; Datum und Ergebnis werden festgehalten. Rechte eines KI-Agenten, insbesondere Schreibrechte eines Connectors und Ausgabebefugnisse, werden auf das Nötige beschränkt und bei jeder Änderung neu geprüft.

12. Entscheidungen über Menschen

Hilft KI bei Entscheidungen über Menschen, etwa bei Einstellung, Vergütung, Krediten oder dem Zugang zu Leistungen, trifft ein Mensch die endgültige Entscheidung. Betroffene können eine Erklärung, eine Darlegung ihres Standpunkts und eine erneute Prüfung durch einen Menschen verlangen (Art. 22 DSGVO).

Solche Anwendungen können ab dem 2. Dezember 2027 als Hochrisiko-KI-Systeme nach Anhang III der KI-Verordnung gelten. Max Beispiel hält deshalb fest, welche Anwendungen betroffen sind, und plant die dann geltenden Betreiberpflichten rechtzeitig ein.

13. Datenschutz

Werden personenbezogene Daten mit KI verarbeitet, braucht jede Verarbeitung eine Rechtsgrundlage (Art. 6 DSGVO); besondere Kategorien wie Gesundheitsdaten nur unter den Voraussetzungen des Art. 9 DSGVO. Verarbeitet ein Anbieter die Daten im Auftrag von Muster GmbH, wird ein Vertrag zur Auftragsverarbeitung geschlossen (Art. 28 DSGVO). Jede solche Verarbeitung wird im Verzeichnis von Verarbeitungstätigkeiten geführt (Art. 30 DSGVO).

Für KI-Werkzeuge gelten angemessene technische und organisatorische Maßnahmen (Art. 32 DSGVO), etwa Dienstkonten, Zugriffsrechte und Protokollierung. Birgt eine neue Verarbeitung voraussichtlich ein hohes Risiko für die Betroffenen, wird vorher eine Datenschutz-Folgenabschätzung durchgeführt (Art. 35 DSGVO). Hat Muster GmbH eine Datenschutzbeauftragte oder einen Datenschutzbeauftragten, wird diese Person bei neuen KI-Einsätzen frühzeitig beteiligt.

14. KI-Kompetenz und Schulung

Muster GmbH trifft Maßnahmen, damit alle, die KI bei der Arbeit nutzen, über die KI-Kompetenz verfügen, die zu ihrer Rolle und ihrem Einsatzkontext passt (Art. 4 KI-Verordnung). Dazu gehören eine kurze Einführung für alle, vertiefende Inhalte für Rollen mit besonderer Verantwortung und Hinweise bei neuen Werkzeugen.

Teilnahme und Zustimmung zu dieser Richtlinie werden als Schulungs- und Bestätigungsnachweise aufbewahrt.

  • Alle, die bei der Arbeit KI nutzen, nehmen an einer kurzen Einführung in die sichere Nutzung teil.
  • Neue Mitarbeitende lernen diese Regeln in ihrer ersten Woche kennen.

15. Vorfälle

Ein KI-Vorfall ist jedes Ereignis, bei dem vertrauliche Informationen versehentlich in KI gelangen, eine KI eine wichtige falsche Ausgabe liefert, die verwendet wurde, oder ein KI-Agent eine nicht gewollte Aktion ausführt. Jeder Vorfall wird im KI-Vorfallprotokoll festgehalten: was geschah, wann, wer betroffen ist und was unternommen wurde.

Betrifft ein Vorfall personenbezogene Daten, prüft Muster GmbH unverzüglich, ob eine Meldung an die Aufsichtsbehörde nötig ist; die Frist beträgt 72 Stunden ab Kenntnis (Art. 33 DSGVO).

  • Gelangen versehentlich vertrauliche Informationen in KI oder macht die KI etwas Wichtiges falsch, informieren Sie Max Beispiel noch am selben Tag und halten Sie es im KI-Vorfallprotokoll fest.

16. Nachweise und Aufbewahrung

Muster GmbH bewahrt die Nachweise auf, die zeigen, dass diese Richtlinie gelebt wird: das KI-Inventar, die Freigaben neuer Werkzeuge, die Schulungs- und Bestätigungsnachweise, das KI-Vorfallprotokoll, die Proben des Not-Halts und die Entscheidungen der Geschäftsleitung zu offenen Punkten. Die Nachweise werden so aufbewahrt, dass sie auf Anfrage der Geschäftsleitung, des Aufsichtsgremiums, eines Versicherers oder einer Aufsichtsbehörde vorgelegt werden können.

Aufzeichnungen, die personenbezogene Daten enthalten, werden nur so lange aufbewahrt, wie es für ihren Zweck nötig ist oder eine gesetzliche Pflicht besteht.

17. Mitbestimmung

Kann ein KI-Werkzeug das Verhalten oder die Leistung von Mitarbeitenden überwachen, ist in Deutschland häufig der Betriebsrat zu beteiligen (§ 87 Abs. 1 Nr. 6 BetrVG). Vor der Einführung solcher Werkzeuge klärt Muster GmbH, ob eine Betriebsvereinbarung nötig ist. In Österreich und der Schweiz gelten eigene Mitwirkungsrechte der Arbeitnehmervertretung.

18. Verantwortlichkeiten, Überprüfung und Inkrafttreten

Verstöße gegen diese Richtlinie werden mit Max Beispiel besprochen und können arbeitsrechtliche Folgen haben. Wer einen Verstoß oder eine Unsicherheit bemerkt, meldet sie ohne Nachteile.

Diese Richtlinie wird mindestens einmal im Jahr und bei jeder wesentlichen Änderung der genutzten KI oder der Rechtslage überprüft. Sie tritt mit ihrer Verabschiedung in Kraft.

  • Max Beispiel ist für KI verantwortlich. Wenden Sie sich mit jeder Frage zu KI an Max Beispiel.
  • Max Beispiel gibt neue KI-Werkzeuge frei.

Verantwortlich für diese Richtlinie: Max Beispiel, Leiter IT und Datenschutz. Verabschiedet am 5. November 2026.

Ich habe diese Richtlinie gelesen und werde sie befolgen.

NameUnterschriftDatum
KI-Nutzungsrichtlinie · Bewertung (Light). Der KI-Risikobericht, die KI-Nutzungsrichtlinie, das Memo an Geschäftsleitung und Aufsichtsgremium und die KI-Statusübersicht entstehen gemeinsam aus denselben Antworten. Dieses Dokument unterstützt die Dokumentation Ihrer KI-Governance. Es ist keine Rechtsberatung, keine Zertifizierung und keine Konformitätsbewertung nach der KI-Verordnung.
Beispiel · fiktiv · Memo an Geschäftsleitung und Aufsichtsgremium
SanctumShield · Memo an Geschäftsleitung und Aufsichtsgremium · Bewertung (Light)

Muster GmbH

5. November 2026 · Erstellt von Erika Mustermann, Geschäftsführerin · Prüflink wird beim Speichern erstellt
Umfang: Bewertung (Light), gewählt von Muster GmbH. Alle zwölf Bereiche der KI-Governance betrachtet. Rechtlicher Rahmen: KI-Verordnung und DSGVO.

Für wen: Die Geschäftsleitung (Vorstand oder Geschäftsführung) und das Aufsichtsgremium (Aufsichtsrat oder Beirat). Was es beantwortet: Wo die KI-Governance heute steht und was als Nächstes folgt.

4Umgesetzt
8Nächster Schritt
0Zu klären

Muster GmbH hat am 5. November 2026 die zwölf Bereiche der KI-Governance betrachtet. 4 sind umgesetzt, 8 haben einen nächsten Schritt mit verantwortlicher Person, und 0 sind zu klären.

Unsere Bitte an Geschäftsleitung und Aufsichtsgremium: Nehmen Sie diesen Nachweis zur Kenntnis und beschließen Sie die fünf wichtigsten Schritte.

Die wichtigsten nächsten Schritte

  1. Halten Sie drei Schritte fest: anhalten, Max Beispiel noch am selben Tag informieren, festhalten, was passiert ist. Verantwortlich: Geschäftsleitung. Bis 3. Februar 2027.
  2. Fragen Sie Ihren Versicherer: „Deckt unsere Police Schäden ab, die durch von uns genutzte KI-Werkzeuge entstehen, und gibt es Einschränkungen?“ Verantwortlich: Geschäftsleitung. Bis 3. Februar 2027.
  3. Erlauben Sie vertrauliche Informationen in KI nur mit Dienstkonten und Geschäftsbedingungen, und führen Sie sie in Ihren KI-Regeln auf. Verantwortlich: Max Beispiel, Leiter IT und Datenschutz. Bis 3. Februar 2027.
  4. Gleichen Sie Ihre Verträge und Datenschutzhinweise mit Ihrer KI-Nutzung ab. Verantwortlich: Geschäftsleitung. Bis 3. Februar 2027.
  5. Stimmen Sie jedem noch nicht vereinbarten Werkzeug zu oder ersetzen Sie es. Verantwortlich: Geschäftsleitung. Bis 3. Februar 2027.

Jeder nächste Schritt ist dem Bereich des KI-Risikoberichts zugeordnet, den er schließt.

Entscheidungen

Die Geschäftsleitung hat zu 0 von 15 offenen Punkten eine Entscheidung festgehalten.

10 weitere nächste Schritte, jeweils mit verantwortlicher Person, stehen im KI-Risikobericht.

Rechtlicher Rahmen: Der KI-Risikobericht zeigt, worauf sich jeder Bereich in der KI-Verordnung und der DSGVO bezieht.

Dies ist der erste Nachweis. Der nächste zeigt, was sich geändert hat.

Memo an Geschäftsleitung und Aufsichtsgremium · Bewertung (Light). Der KI-Risikobericht, die KI-Nutzungsrichtlinie, das Memo an Geschäftsleitung und Aufsichtsgremium und die KI-Statusübersicht entstehen gemeinsam aus denselben Antworten. Dieses Dokument unterstützt die Dokumentation Ihrer KI-Governance. Es ist keine Rechtsberatung, keine Zertifizierung und keine Konformitätsbewertung nach der KI-Verordnung.
Beispiel · fiktiv · KI-Statusübersicht
SanctumShield · KI-Statusübersicht · Bewertung (Light)

Muster GmbH

5. November 2026 · Erstellt von Erika Mustermann, Geschäftsführerin · Prüflink wird beim Speichern erstellt
Umfang: Bewertung (Light), gewählt von Muster GmbH. Alle zwölf Bereiche der KI-Governance betrachtet. Rechtlicher Rahmen: KI-Verordnung und DSGVO.

Für wen: Ihr Versicherungsmakler oder Ihr Versicherer. Was es beantwortet: Welche KI-Governance heute festgehalten ist und welche Dokumente sie zeigen.

Versicherung

  • Haben wir unseren Versicherer gefragt, ob unsere Police KI-bedingte Schäden abdeckt? Noch nicht.

Genutzte KI

  • Genutzte KI-Werkzeuge: ChatGPT, Microsoft Copilot, KI-Protokollwerkzeug für Besprechungen und DeepL.
  • Eingebettete KI in Software, für die wir bereits bezahlen: Microsoft 365 Copilot, KI in Kunden- oder Vertriebssoftware.

Eigenständig handelnde KI

  • Eigenständig handelnde KI: derzeit keine.

Wenn KI ausfällt oder etwas schiefgeht

  • Fiele unser wichtigstes KI-Werkzeug aus, könnte die Arbeit wahrscheinlich weitergehen. Ein Plan ist ein nächster Schritt.
  • Die Mitarbeitenden wissen, was zu tun ist, wenn mit KI etwas schiefgeht: Schriftliche Schritte sind ein nächster Schritt.

Ebenfalls festgehalten

  • Entscheidungen über Menschen: keine.
  • KI mit Kundenkontakt: ja; die Information der Kunden ist ein nächster Schritt.
  • Ein Mensch prüft von KI geschriebene Arbeit, bevor sie hinausgeht: immer.
  • Geschäftstarife, die nicht mit unseren Informationen trainieren: teilweise.
  • Von der Geschäftsleitung akzeptierte Risiken: 0.

Festgehaltene Governance

DokumentDatumPrüflink
KI-Risikobericht für die Geschäftsleitung5. November 2026wird beim Speichern erstellt
KI-Nutzungsrichtlinie5. November 2026wird beim Speichern erstellt
Memo an Geschäftsleitung und Aufsichtsgremium5. November 2026wird beim Speichern erstellt

Auf einen Blick: 4 von 12 Bereichen umgesetzt, 8 mit nächstem Schritt, 0 zu klären. 15 offene Punkte haben im KI-Risikobericht eine verantwortliche Person und einen nächsten Schritt binnen neunzig Tagen.

Diese Übersicht gibt wieder, was festgehalten ist. Sie ist keine Aussage über Versicherungsschutz, Prämien oder Rechtskonformität der Organisation.

KI-Statusübersicht · Bewertung (Light). Der KI-Risikobericht, die KI-Nutzungsrichtlinie, das Memo an Geschäftsleitung und Aufsichtsgremium und die KI-Statusübersicht entstehen gemeinsam aus denselben Antworten. Dieses Dokument unterstützt die Dokumentation Ihrer KI-Governance. Es ist keine Rechtsberatung, keine Zertifizierung und keine Konformitätsbewertung nach der KI-Verordnung.

Mit dem Shadow-AI-Check beginnen · Preise

Beispiele · SanctumShield