KI im HR
Wie funktionieren KI-Chatbots, und was heißt das für die Personalarbeit?
Florian Rocktäschel · Stand: November 2026 · 8 Minuten Lesezeit
Kurz gesagt
Ein KI-Chatbot sagt Wort für Wort den Text voraus, der am plausibelsten auf Ihre Frage folgt. Er kennt Ihr Unternehmen nicht, solange Sie ihm keine Unterlagen geben, und er klingt genauso sicher, wenn er falsch liegt. Für die Personalarbeit heißt das: jedes Ergebnis prüfen, keine Personaldaten in Werkzeuge, die das Unternehmen nicht freigegeben hat, und Entscheidungen über Menschen treffen Menschen.
Wie entsteht die Antwort eines Chatbots?
ChatGPT, Copilot oder Mistral Vibe beruhen auf großen Sprachmodellen. Ein solches Modell wurde mit sehr großen Textmengen auf eine einzige Aufgabe trainiert: das nächste Wort vorherzusagen, genauer das nächste Token, also ein Wort oder einen Wortteil. Nach Milliarden Beispielen hat es gelernt, welche Wörter in welchem Stil und in welcher Reihenfolge aufeinander folgen.
Stellen Sie eine Frage, schreibt das Modell die Antwort Token für Token. Jeder Schritt wählt eine wahrscheinliche Fortsetzung des bisherigen Textes. Ein zweites Training bringt ihm bei, Anweisungen zu folgen und höflich und hilfreich zu antworten. Deshalb liest sich das Ergebnis, als hätte es ein kompetenter Kollege geschrieben.
Beim Schreiben schlägt das Modell nichts nach, es sei denn, das Werkzeug ergänzt eine Websuche oder Ihre Dokumente. Was es „weiß“, sind Muster aus den Trainingsdaten bis zu einem Stichtag.
Warum klingt die Antwort sicher und ist trotzdem falsch?
Grammatik und Stil folgen regelmäßigen Mustern, die das Modell gut lernt. Seltene Fakten, etwa die Nummer eines bestimmten Paragrafen oder das Datum eines Urteils, lassen sich aus Mustern nicht ableiten. Fehlt ein verlässliches Muster, erzeugt das Modell trotzdem den Text, der am plausibelsten klingt. Solche erfundenen Details heißen Halluzinationen.
OpenAI hat im September 2025 erklärt, dass übliches Training und übliche Tests Raten stärker belohnen als das Eingeständnis von Unsicherheit. Ein Modell, das „weiß ich nicht“ sagt, schneidet schlechter ab als eines, das rät und manchmal richtig liegt. Das Ergebnis ist ein Werkzeug, das selten zögert. Selbst Microsoft schreibt in der Dokumentation zu Copilot, dass erzeugte Antworten nicht garantiert sachlich richtig sind.
Im HR sieht das Risiko so aus: ein erfundener Paragraf in einer Richtlinie, eine falsche Kündigungsfrist, eine Zusammenfassung, die eine Ausnahme stillschweigend weglässt.
Was ist das Kontextfenster?
Das Kontextfenster ist die Textmenge, die das Modell auf einmal berücksichtigen kann: Gesprächsverlauf, Anweisungen und angehängte Dokumente. Was außerhalb liegt, existiert für das Modell nicht. In sehr langen Unterhaltungen können frühe Teile herausfallen. Studien zeigen außerdem, dass Modelle Informationen am Anfang und am Ende eines langen Textes besser nutzen als in der Mitte. Lange Richtlinien bearbeitet man deshalb besser abschnittsweise.
Warum kennt der Chatbot Ihr Unternehmen nicht?
Ihre Gehaltsbänder, Ihre Betriebsvereinbarungen und Ihre internen Regeln standen nie in den Trainingsdaten. Ein allgemeiner Chatbot füllt solche Lücken mit dem, was anderswo üblich ist. Mit Ihren Regeln arbeitet er nur, wenn Sie sie ihm geben: als eingefügten Text, als hochgeladenes Dokument oder über ein Werkzeug, das an Firmensysteme angebunden ist. Microsoft 365 Copilot etwa liest E-Mails und Dokumente mit den Berechtigungen der Person, die ihn nutzt. Das ist nützlich und zugleich ein Grund, die Zugriffsrechte zu prüfen.
Was passiert mit den Daten, die Sie eingeben?
Das hängt vom Werkzeug und vom Vertrag ab, nicht vom Modell.
| Werkzeug und Tarif | Standardmäßig zum Training genutzt? |
|---|---|
| ChatGPT Free, Plus, Pro | ja, in den Einstellungen abschaltbar |
| ChatGPT Business, Enterprise, API | nein, laut OpenAI |
| Microsoft 365 Copilot mit Firmenkonto | nein, laut Microsoft; Verkehr aus der EU bleibt in der EU Data Boundary |
| Mistral Vibe, Einzel- und Team-Tarife | ja laut Hilfeseite von Mistral, mit Widerspruchsmöglichkeit; Enterprise ausgenommen |
| Offenes Modell auf eigenen Servern | keine Daten an einen Modellanbieter |
Die Tabelle gibt die Angaben der Anbieter vom November 2026 wieder; Einstellungen und Bedingungen ändern sich. Prüfen Sie sie, bevor Ihr Team ein Werkzeug dienstlich nutzt. Das Training ist nur eine Frage. Ebenso wichtig sind Speicherdauer, Zugriff des Anbieters und Standort der Server.
Was folgt daraus für die Personalarbeit?
Drei Grundsätze decken die meisten Fälle ab:
- Jedes Ergebnis wird geprüft. Die KI schlägt vor, ein Mensch prüft, entscheidet und kann die Entscheidung erklären.
- Keine personenbezogenen oder vertraulichen Daten in Werkzeuge, die das Unternehmen nicht freigegeben hat. Ein privates Konto ist kein freigegebenes Werkzeug.
- Über Menschen entscheiden Menschen. Die KI kann einen Text vorbereiten, aber sie wählt niemanden aus, reiht niemanden ein und beurteilt niemanden.
Welche fünf Einsätze funktionieren heute?
Gemeinsam ist ihnen: Das Ergebnis ist ein Entwurf, den jemand mit HR-Erfahrung prüft, und keine Entscheidung über eine Person hängt davon ab.
- Stellenanzeigen entwerfen. Geben Sie dem Werkzeug die Stellenbeschreibung und lassen Sie eine klare, neutrale Anzeige formulieren. Prüfen Sie danach Formulierungen, die Menschen ausschließen, etwa nach Alter oder Geschlecht, und ergänzen Sie die Gehaltsspanne selbst.
- Interviewleitfäden strukturieren. Die KI macht aus einem Anforderungsprofil Fragen, nach Kompetenzen gegliedert. Gleiche Fragen und gleicher Bewertungsbogen für alle Bewerber machen Gespräche fairer. Die Bewertung bleibt bei den Interviewern.
- Richtlinien zusammenfassen. Aus einer langen Arbeitsordnung wird eine Seite für Führungskräfte. Vergleichen Sie Abschnitt für Abschnitt mit dem Original, denn Zusammenfassungen verlieren gern Ausnahmen.
- Übersetzen. Für Gruppen, die auf Deutsch, Englisch und Rumänisch arbeiten, liefert KI gute erste Fassungen von Schreiben und Richtlinien. Rechtliche und vertragliche Texte brauchen weiterhin einen Menschen, der beide Sprachen und das Thema beherrscht.
- Schulungsmaterial vorbereiten. Gliederungen, Übungen, Quizfragen und Beispiele für Einarbeitung und interne Schulungen. Fakten und Rechtsverweise darin werden geprüft wie alles andere.
Welche drei Einsätze sollte HR lassen?
- Über Bewerber entscheiden oder sie in eine Rangfolge bringen. Lebensläufe sortieren oder Bewerber bewerten nennt der AI Act ausdrücklich als hochriskant (Anhang III Nr. 4 Buchst. a). Nach dem Stand vom November 2026 sieht der AI Act ab 2. Dezember 2027 für Unternehmen, die solche Systeme einsetzen, strenge Pflichten vor: menschliche Aufsicht, Information der Beschäftigten, Aufbewahrung von Protokollen.
- Gehälter vorschlagen lassen. Ein Werkzeug, das Gehälter vorschlägt, kann unter Anhang III Nr. 4 Buchst. b fallen, der Entscheidungen über Arbeitsbedingungen erfasst. Ob ein konkretes Werkzeug darunter fällt, bewertet eine Kanzlei. Die Entgelttransparenzrichtlinie erwartet, dass Gehälter auf objektiven Kriterien beruhen, und eine statistische Schätzung ist aus unserer Sicht keine Begründung.
- Leistung beurteilen. Überwachung und Bewertung von Leistung und Verhalten der Beschäftigten sind nach Anhang III Nr. 4 Buchst. b ebenfalls hochriskant. Emotionserkennung am Arbeitsplatz, etwa die Auswertung von Gesichtern oder Stimmen in Videokonferenzen, ist seit 2. Februar 2025 verboten (Art. 5 Abs. 1 Buchst. f), Ausnahmen nur aus medizinischen oder Sicherheitsgründen.
Was verlangt der AI Act heute von Arbeitgebern?
Art. 4 zur KI-Kompetenz gilt seit 2. Februar 2025. Der Digital-Omnibus zur KI, in Kraft seit 27. Juli 2026, hat die Pflicht beibehalten und ihre Form geändert. Der Artikel verlangt nun von Unternehmen, die KI einsetzen, Maßnahmen, um die KI-Kompetenz ihres Personals zu fördern. Er verlangt nicht mehr, sicherzustellen, dass jede einzelne Person ein bestimmtes Niveau erreicht. Aus unserer Sicht heißt das praktisch: Nutzungsregeln, Schulungen passend zu den Aufgaben und eine schriftliche Übersicht, was das Unternehmen getan hat. Für Zentralen mit Töchtern in Rumänien lohnt der Blick dorthin: In einer Umfrage unter 1.003 rumänischen Firmen im Juli 2026 hatten nur 26 % eine Richtlinie zur KI-Nutzung. Eine Schulung wie unser Kurs KI im HR kann eine dieser Maßnahmen sein, erfüllt die Pflicht aber nicht allein.
Welche Werkzeuge wofür?
Wir nennen Werkzeuge, damit Sie sie einordnen können, nicht als Empfehlung.
- ChatGPT. Ja, mit einem Firmentarif für Texte ohne Personenbezug, für Recherche und Formulierung. Nein, für Bewerber- oder Mitarbeiterdaten in einem privaten oder kostenlosen Konto.
- Microsoft 365 Copilot. Ja, wenn das Unternehmen ohnehin mit Microsoft 365 arbeitet und die Berechtigungen sauber gesetzt hat, denn Copilot sieht, was die Nutzerin oder der Nutzer sieht. Nein, wenn Dateirechte über Jahre unkontrolliert gewachsen sind.
- Mistral Vibe (früher Le Chat). Ein europäischer Anbieter mit Sitz in Frankreich. Ja, wenn Daten bei einem EU-Unternehmen bleiben sollen. Nein, solange Tarif und Trainingseinstellungen nicht geprüft sind.
- Offene Modelle auf eigenen Servern oder bei einem europäischen Hoster. Ja, für sensible Personaldaten und für Gruppen, die volle Kontrolle wollen. Nein, als schneller Einstieg, weil Betrieb und Sicherheit IT-Kapazität brauchen.
Vier Regeln für den Alltag
- Prüfen: Die KI schlägt vor, ich prüfe, entscheide und kann es erklären.
- Daten: Keine personenbezogenen oder vertraulichen Daten in Werkzeuge, die das Unternehmen nicht freigegeben hat.
- Menschen: Entscheidungen über Menschen überlasse ich nicht der KI.
- Zweifel: Im Zweifel frage ich meine Führungskraft, den Datenschutz oder Compliance, nicht die KI.
Häufige Fragen
Aus unserer Sicht nur, wenn das Unternehmen das Werkzeug für personenbezogene Daten freigegeben hat und der Vertrag Training mit Ihren Eingaben ausschließt. Mit einem kostenlosen oder privaten Konto nicht. Ein Lebenslauf enthält personenbezogene Daten im Sinne der DSGVO.
Das Modell verändert sich während des Gesprächs nicht. Ob der Anbieter Ihre Eingaben später zum Training neuer Modelle nutzt, hängt von Tarif und Einstellungen ab. Firmentarife schließen das meist aus, kostenlose Tarife nutzen es oft standardmäßig.
Verboten ist es nach dem Stand vom November 2026 nicht. Ab 2. Dezember 2027 gilt es nach dem AI Act aber als hochriskant, mit Pflichten wie menschlicher Aufsicht und Information der Bewerber. Bis dahin gilt bereits die DSGVO. Wir empfehlen, dass Menschen auswählen.
Art. 4 verlangt Maßnahmen zur KI-Kompetenz des Personals, das KI nutzt. Einen bestimmten Kurs oder ein Zertifikat schreibt er nicht vor.
Quellen
Dieser Beitrag gibt unseren Kenntnisstand vom November 2026 wieder. Gesetze, Entwürfe und Rechtsprechung können sich jederzeit ändern; wir aktualisieren den Beitrag, wenn das geschieht, können aber nicht garantieren, dass er vollständig oder aktuell ist. Er ist eine allgemeine Information und keine Rechtsberatung; ob ein konkreter Fall rechtlich trägt, bewertet eine Kanzlei.
- KI-Verordnung (EU) 2024/1689, Art. 4, Art. 5 Abs. 1 Buchst. f, Anhang III Nr. 4: EUR-Lex
- Digital-Omnibus zur KI in Kraft, Hochrisiko-Regeln ab 2. Dezember 2027: White & Case
- Art. 4 nach dem Omnibus: KI-Campus, Juli 2026
- KI-Nutzung und Richtlinien in rumänischen Firmen: undelucram.ro, Juli 2026
- Warum Sprachmodelle halluzinieren: OpenAI, September 2025
- Lange Kontexte: Liu et al., Lost in the Middle, 2023
- ChatGPT und Training mit Nutzerdaten: OpenAI Help Center
- Microsoft 365 Copilot, Daten und Datenschutz: Microsoft Learn
- Mistral und Training mit Nutzerdaten: Mistral Help Center
Über den Autor
Florian Rocktäschel ist Ingenieur (RWTH Aachen) und baut seit 2013 Daten- und KI-Systeme.
Wo steht Ihr Unternehmen?
Der Selbsttest dauert etwa zehn Minuten. Er zeigt, wo Ihr Unternehmen bei den wichtigsten Pflichten der Richtlinie steht. Kostenlos.

