Glossar · 53 Begriffe
Die Begriffe, klar erklärt.
Dieses Glossar erklärt die Begriffe, die in der deutschen Ausgabe von SanctumShield, in den Dokumenten und im Shadow-AI-Check vorkommen. Maßgeblich sind die KI-Verordnung und die DSGVO. Zu jedem Begriff steht der englische Ausdruck, damit Sie ihn in englischen Unterlagen wiederfinden. Das englische Glossar enthält weitere Begriffe.
A
- AbschlussnachweisRecord of Completion
- Datierter Nachweis, dass eine Person einen rollenbasierten Kurs der SanctumShield Academy abgeschlossen hat. Er dokumentiert eine Maßnahme zur Förderung der KI-Kompetenz; er ist keine Zertifizierung und keine Berufsqualifikation.
- Anbieterprovider
- Nach der KI-Verordnung die Stelle, die ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen in Verkehr bringt oder in Betrieb nimmt (Art. 3 Nr. 3). Die meisten Unternehmen, die KI-Werkzeuge einkaufen, sind nicht Anbieter, sondern Betreiber.
- Aufsichtsgremiumsupervisory body (Aufsichtsrat or Beirat)
- Das Gremium, das die Geschäftsleitung überwacht oder berät, etwa der Aufsichtsrat oder ein Beirat. Es fragt in der Regel zuerst nach dem KI-Register und nach der verantwortlichen Person für jedes KI-System.
- Auftragsverarbeiterprocessor
- Nach der DSGVO eine Stelle, die personenbezogene Daten im Auftrag des Verantwortlichen verarbeitet (Art. 28). Ein KI-Dienst, in den Mitarbeitende personenbezogene Daten eingeben, ist häufig Auftragsverarbeiter und braucht dann einen Vertrag zur Auftragsverarbeitung.
B
- Befundfinding
- Eine einzelne, benannte Lücke, die eine SanctumShield-Bewertung aus Ihren Antworten ableitet, mit Schweregrad, Begründung und nächstem Schritt. Befunde werden nummeriert (F1, F2 …), damit jede Maßnahme im 90-Tage-Plan auf den Befund verweisen kann, den sie schließt.
- Betreiberdeployer
- Nach der KI-Verordnung jede Stelle, die ein KI-System in eigener Verantwortung beruflich verwendet (Art. 3 Nr. 4). Für Betreiber gelten unter anderem Art. 4 (KI-Kompetenz), Art. 50 (Transparenzpflichten) und, für Hochrisiko-KI-Systeme ab dem 2. Dezember 2027, Art. 26 (Pflichten der Betreiber).
- Betriebsratworks council
- Die gewählte Vertretung der Beschäftigten in einem Betrieb. Kann ein KI-Werkzeug das Verhalten oder die Leistung von Mitarbeitenden überwachen, ist der Betriebsrat in Deutschland häufig zu beteiligen (§ 87 Abs. 1 Nr. 6 BetrVG).
- Bewertung (Light)Light assessment
- Die kürzeste Stufe der SanctumShield-Bewertung. Sie deckt alle zwölf Bereiche der KI-Governance mit wenigen Fragen ab und erstellt daraus datierte Dokumente in Ihrem Namen; die Stufen Standard und Complete fragen in denselben Bereichen genauer nach.
D
- Datenklasse: öffentlich, intern, vertraulich, streng vertraulichdata class: public, internal, confidential, strictly confidential
- Die vier Stufen, nach denen eine KI-Nutzungsrichtlinie festlegt, welche Informationen in welches KI-Werkzeug eingegeben werden dürfen. Je höher die Datenklasse, desto enger der Kreis der freigegebenen Werkzeuge.
- Datenschutz-Folgenabschätzungdata protection impact assessment (DPIA)
- Die nach Art. 35 DSGVO vorgeschriebene Abschätzung, wenn eine Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten von Personen mit sich bringt. Beim Einsatz von KI mit personenbezogenen Daten ist zu prüfen, ob sie erforderlich ist.
- Datenschutzbeauftragte(r)data protection officer
- Die nach Art. 37 bis 39 DSGVO benannte Person, die den Verantwortlichen beim Datenschutz berät und überwacht. Sie sollte bei jeder Entscheidung über ein KI-Werkzeug, das personenbezogene Daten verarbeitet, frühzeitig eingebunden werden.
- DSGVOGDPR
- Die Datenschutz-Grundverordnung, Verordnung (EU) 2016/679. Sie gilt für jede Verarbeitung personenbezogener Daten, auch wenn diese in ein KI-Werkzeug eingegeben werden; die KI-Verordnung ändert daran nichts.
E
- eingebettete KIembedded AI
- KI-Funktionen, die in Software enthalten sind, die Ihr Unternehmen bereits nutzt, etwa in Büro-, CRM- oder Personalsoftware. Sie wird oft mit einem Update eingeschaltet, ohne dass jemand eine Beschaffungsentscheidung getroffen hat, und gehört deshalb ins KI-Inventar.
F
- Freigabeapproval (of one action)
- Die Zustimmung einer Person zu einer einzelnen Handlung, bevor ein KI-Agent sie ausführt, etwa vor dem Versenden, Bezahlen oder Löschen. Gemeint ist immer die einzelne Handlung, nie eine behördliche Zulassung.
- freigegebenapproved for use
- Status eines KI-Werkzeugs, das Ihr Unternehmen für einen bestimmten Zweck und bis zu einer bestimmten Datenklasse zugelassen hat. Die KI-Nutzungsrichtlinie führt die freigegebenen Werkzeuge mit der verantwortlichen Person und dem Datum der Entscheidung.
- Funktionstrennungseparation of duties
- Der Grundsatz, dass dieselbe Person oder derselbe KI-Agent eine Handlung nicht zugleich auslösen und genehmigen darf. Bei KI-Agenten heißt das: Der Agent schlägt vor, eine andere Stelle entscheidet.
G
- Geschäftsleitungmanagement (Vorstand or Geschäftsführung)
- Die Leitung des Unternehmens, also Vorstand oder Geschäftsführung. Sie trägt die Verantwortung für die KI-Governance und entscheidet über verbleibende Risiken.
H
- Hochrisiko-KI-Systemhigh-risk AI system
- Ein KI-System, das die KI-Verordnung wegen seines Einsatzbereichs als hochriskant einstuft, etwa bei Entscheidungen über Beschäftigung, Bildung oder den Zugang zu wesentlichen Leistungen. Die Pflichten gelten nach der Änderung durch die Verordnung (EU) 2026/1744 ab dem 2. Dezember 2027 (Anhang III) und ab dem 2. August 2028 (Anhang I).
I
- ISO/IEC 42001ISO/IEC 42001
- Die internationale Norm für ein Managementsystem für künstliche Intelligenz. SanctumShield nutzt sie nur als optionalen Bezugspunkt; die Dokumente sind kein Nachweis einer Normerfüllung.
K
- KI-AgentAI agent
- Ein KI-System, das nicht nur antwortet, sondern selbst Handlungen ausführt, etwa E-Mails sendet, Daten ändert oder andere Werkzeuge aufruft. Ein KI-Agent braucht eine verantwortliche Person, festgelegte Grenzen und einen Not-Halt, der nachweislich funktioniert.
- KI-InventarAI inventory
- Die gepflegte Liste aller KI-Systeme im Unternehmen, ob gekauft, selbst gebaut oder in vorhandener Software eingebettet, mit einer verantwortlichen Person je Eintrag. Ohne Inventar lässt sich nicht sagen, für welche Systeme welche Pflichten gelten.
- KI-KompetenzAI literacy
- Nach Art. 4 der KI-Verordnung, in der durch die Verordnung (EU) 2026/1744 geänderten Fassung, ergreifen Anbieter und Betreiber Maßnahmen zur Förderung der KI-Kompetenz, abgestimmt auf Rolle und Kontext der jeweiligen Person. Die Vorschrift gilt seit dem 2. Februar 2025; sie schreibt kein bestimmtes Schulungsformat vor, sondern verlangt geeignete Maßnahmen, die Sie dokumentieren können.
- KI-NutzungsrichtlinieAI Acceptable Use Policy
- Die schriftliche Regel, welche KI-Werkzeuge Mitarbeitende wofür und mit welchen Datenklassen nutzen dürfen, wer entscheidet und was bei einem Vorfall zu tun ist. SanctumShield erstellt sie in Ihrem Namen, mit einer Zeile zur Bestätigung mit Name und Datum für jede Person.
- KI-Register für das AufsichtsgremiumBoard AI Register
- Eine Vorlage mit einer Zeile je KI-System: verantwortliche Person, was das System darf und nicht darf, wer eingreifen kann und wann der Not-Halt zuletzt nachgewiesen wurde. Dazu kommen acht Fragen, die ein Aufsichtsgremium zu jedem KI-System stellen kann.
- KI-Risikobericht für die GeschäftsleitungExecutive Risk Report
- Der Bericht einer SanctumShield-Bewertung: nummerierte Befunde mit Schweregrad und Begründung, die Rechtsgrundlagen, an denen sie sich festmachen, und ein 90-Tage-Plan, in dem jede Maßnahme den Befund nennt, den sie schließt. Er ist datiert und trägt einen Prüflink.
- KI-StatusübersichtAI Posture Summary
- Eine Seite, die den Stand Ihrer KI-Governance aus den vorhandenen Dokumenten zusammenfasst, etwa für die Verlängerung einer Versicherung oder eine Lieferantenprüfung. Sie wird regelbasiert aus Ihren Angaben erstellt, nicht frei von einem Sprachmodell formuliert.
- KI-SystemAI system
- Nach Art. 3 Nr. 1 der KI-Verordnung ein maschinengestütztes System, das mit einem gewissen Grad an Autonomie arbeitet und aus Eingaben ableitet, wie es Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugt. Dazu zählen auch Chat-Assistenten und KI-Funktionen in vorhandener Software.
- KI-VerordnungEU AI Act
- Die Verordnung (EU) 2024/1689 über künstliche Intelligenz, geändert durch die Verordnung (EU) 2026/1744. Art. 4 und Art. 5 gelten seit dem 2. Februar 2025, Art. 50 seit dem 2. August 2026, die Pflichten für Hochrisiko-KI-Systeme ab dem 2. Dezember 2027 (Anhang III) und dem 2. August 2028 (Anhang I).
- KI-VorfallprotokollAI incident log
- Die datierte Liste aller Vorfälle mit KI-Werkzeugen: was geschah, wer es bemerkt hat, wer informiert wurde und was danach geändert wurde. Betrifft ein Vorfall personenbezogene Daten, kann zusätzlich eine Meldung nach Art. 33 DSGVO erforderlich sein.
- Kontroll-Risiko-Verknüpfungcontrol-to-risk linkage
- Die schriftliche Verbindung zwischen einer Maßnahme und dem Risiko, das sie beantwortet. Im KI-Risikobericht für die Geschäftsleitung nennt jede Maßnahme im 90-Tage-Plan den Befund, den sie schließt, und eine Abdeckungsprüfung listet jeden Befund, den noch keine Maßnahme schließt, mit der verantwortlichen Person.
M
- Meldung von Datenschutzverletzungenpersonal data breach notification
- Nach Art. 33 DSGVO meldet der Verantwortliche eine Verletzung des Schutzes personenbezogener Daten möglichst binnen 72 Stunden der Aufsichtsbehörde, sofern sie voraussichtlich zu einem Risiko für Personen führt. Gelangen personenbezogene Daten unbeabsichtigt in ein KI-Werkzeug, ist das zu prüfen.
- Memo an Geschäftsleitung und AufsichtsgremiumBoard Memo
- Eine Seite, aus dem KI-Risikobericht abgeleitet, in der Sprache der Geschäftsleitung: die wichtigsten Befunde, die Entscheidungen, die anstehen, und die verantwortliche Person. Sie ist für die Vorlage im Aufsichtsgremium gedacht.
- menschliche Aufsichthuman oversight
- Die Möglichkeit für eine dazu befähigte Person, die Arbeit eines KI-Systems zu verstehen, zu überwachen, einzugreifen und es anzuhalten. Als Pflicht für Hochrisiko-KI-Systeme regelt sie Art. 14 der KI-Verordnung ab dem 2. Dezember 2027 (Anhang III); als gute Praxis gilt sie für jeden KI-Agenten schon heute.
- MIT AI Risk RepositoryMIT AI Risk Repository
- Der öffentliche Katalog von KI-Risiken des MIT mit 7 Bereichen und 24 Unterbereichen, lizenziert unter CC BY 4.0. SanctumShield nutzt ihn als optionale Bezugstaxonomie für Befunde, nur wo die Definition des MIT passt; das MIT prüft SanctumShield nicht und empfiehlt es nicht.
N
- Nachgewiesener Not-HaltProven Stop
- Der datierte Nachweis, dass eine benannte Person ein KI-System mitten in einer Aufgabe tatsächlich angehalten hat, im Test oder im Ernstfall, mit dem Ergebnis. Ein Not-Halt, der älter als zwölf Monate ist oder vor einer Änderung des Agenten erfolgte, gilt nicht mehr als nachgewiesen; SanctumShield dokumentiert den Nachweis, führt den Halt aber nicht selbst aus.
- Nachweis der fortlaufenden Sorgfaltdue diligence
- Die Folge datierter Dokumente, die zeigt, dass ein Unternehmen seine KI-Nutzung nicht einmal, sondern regelmäßig bewertet und Entscheidungen getroffen hat. Ein einzelnes Dokument zeigt einen Tag; eine Reihe zeigt die Entwicklung.
- Netzwerkprotokoll-Abgleichnetwork log analysis
- Sie fügen Hostnamen aus Ihren eigenen Firewall-, Proxy- oder DNS-Protokollen ein, und SanctumShield gleicht sie mit einem Verzeichnis bekannter KI-Endpunkte ab. Verwendet werden nur die Hostnamen, die Sie teilen, und nichts davon wird gespeichert.
- NIST AI RMFNIST AI Risk Management Framework
- Ein freiwilliges Rahmenwerk des US-amerikanischen National Institute of Standards and Technology zum Umgang mit KI-Risiken. In der deutschen Ausgabe dient es nur als optionaler Bezugspunkt; maßgeblich sind KI-Verordnung und DSGVO.
- Not-Haltkill switch
- Der festgelegte Weg, ein KI-System oder einen KI-Agenten sofort anzuhalten, mit der Person, die ihn auslösen darf. Ein Not-Halt, der nie geübt wurde, ist eine Annahme, keine Kontrolle.
P
- personenbezogene Datenpersonal data
- Alle Informationen, die sich auf eine identifizierte oder identifizierbare natürliche Person beziehen (Art. 4 Nr. 1 DSGVO). Für besondere Kategorien wie Gesundheitsdaten gelten nach Art. 9 DSGVO strengere Regeln.
- PrüflinkVerification URL
- Ein kurzer Link auf jedem SanctumShield-Dokument, über den Dritte, etwa ein Versicherer oder ein Prüfer, nachsehen können, wer das Dokument erstellt hat und wann. Der Prüflink zeigt und speichert keine Inhalte des Dokuments.
R
- revDSGrevised Swiss Federal Act on Data Protection
- Das revidierte Schweizer Datenschutzgesetz, in Kraft seit dem 1. September 2023. Für Unternehmen in der Schweiz tritt es an die Stelle der DSGVO, sofern diese nicht wegen Tätigkeit in der EU zusätzlich gilt.
S
- Schatten-KIshadow AI
- KI-Werkzeuge, die im Unternehmen genutzt werden, ohne dass jemand sie freigegeben hat, oft mit privaten Konten. Dazu gehören auch KI-Agenten, die ohne verantwortliche Person laufen.
- Schulungs- und Bestätigungsnachweisetraining and acknowledgment records
- Datierte Listen, wer welche Schulung zur KI-Kompetenz besucht und wer die KI-Nutzungsrichtlinie bestätigt hat. Sie sind der einfachste Beleg für die Maßnahmen nach Art. 4 der KI-Verordnung.
- Shadow-AI-CheckShadow AI Check
- Der kostenlose Einstieg: zwölf Fragen ohne Konto, als Ergebnis ein Wert und drei Befunde. Er zeigt, wo Schatten-KI in Ihrem Unternehmen wahrscheinlich ist und wo eine Bewertung ansetzen sollte.
- Sorgfaltspflichtdue care
- Die Pflicht der Geschäftsleitung, beim Einsatz von KI mit angemessener Sorgfalt zu handeln. SanctumShield unterstützt Sie dabei, diese Sorgfalt zu dokumentieren; ob sie im Einzelfall genügt, beurteilen Ihre Beratung und gegebenenfalls Behörden oder Gerichte.
- speicherfreies Designstorage-free design
- SanctumShield speichert keine Inhalte Ihrer Bewertung: Ihre Antworten bleiben in Ihrem Browser, Ihre Dokumente laden Sie selbst herunter. Gespeichert werden nur Kontodaten zu Ihrer E-Mail-Adresse und die Angaben, die der Prüflink braucht.
T
- Transparenzpflichtentransparency obligations
- Nach Art. 50 der KI-Verordnung, anwendbar seit dem 2. August 2026, müssen Personen in bestimmten Fällen erfahren, dass sie mit einem KI-System sprechen oder dass Inhalte künstlich erzeugt oder verändert wurden. Für Betreiber betrifft das etwa Deepfakes und KI-erzeugte Texte zu Angelegenheiten von öffentlichem Interesse.
V
- verantwortliche Personperson in charge
- Eine namentlich benannte Person, nie ein Team oder ein Verteiler, die für ein KI-System, eine Entscheidung oder eine Maßnahme einsteht. Jeder Eintrag im KI-Inventar und jede Maßnahme im 90-Tage-Plan hat eine.
- verbotene Praktikenprohibited practices
- Die nach Art. 5 der KI-Verordnung seit dem 2. Februar 2025 untersagten Einsatzformen von KI, etwa Emotionserkennung am Arbeitsplatz (außer aus medizinischen oder Sicherheitsgründen), Social Scoring und manipulative Techniken. Die KI-Nutzungsrichtlinie sollte sie ausdrücklich ausschließen.
- Verzeichnis von Verarbeitungstätigkeitenrecord of processing activities
- Das nach Art. 30 DSGVO zu führende Verzeichnis aller Verarbeitungen personenbezogener Daten. KI-Werkzeuge, die personenbezogene Daten verarbeiten, gehören hinein, mit Zweck, Datenkategorien und Empfängern.
- Vier-Augen-Prinzipfour-eyes principle
- Eine Handlung wird erst wirksam, wenn eine zweite Person sie geprüft hat. Für KI-Agenten gilt es besonders vor Handlungen, die sich nicht rückgängig machen lassen, etwa Zahlungen, Löschungen oder Veröffentlichungen.
Z
- Zwölf Bereiche der KI-Governancetwelve areas of AI governance
- Die zwölf Themen, die jede SanctumShield-Bewertung abdeckt: welche KI genutzt wird, Arbeitskonten statt privater Konten, freigegebene Werkzeuge zu passenden Bedingungen, welche Informationen eingegeben werden, verbindliche Regeln, klare Verantwortung, Kontrolle von KI-Agenten, faire Entscheidungen über Menschen, Offenheit gegenüber Kunden, KI-Kompetenz, Weiterarbeit bei Ausfall und Vorbereitung auf Vorfälle. Jede Stufe, von Light bis Complete, deckt alle zwölf ab.
Erläuterungen zur Orientierung, keine Rechtsberatung.