Künstliche Intelligenz unterstützt heute viele Personalabteilungen: beim Screening von Bewerbungsunterlagen, bei der Erstellung von Stellenanzeigen oder im Bewerbungsmanagement. Mit dem EU AI Act hat die Europäische Union den weltweit ersten umfassenden Rechtsrahmen für KI-Systeme geschafft und er ist auch für die Sozialwirtschaft relevant. Dieser Beitrag gibt einen ersten Überblick und soll für das Thema sensibilisieren.

Inhalt
  1. Was ist der EU AI Act?
  2. Warum ist Personalauswahl besonders relevant?
  3. Was sind die zentralen Anforderungen?
  4. Wann gilt was?

Was ist der EU AI Act?

Die Verordnung (EU) 2024/1689 ist der weltweit erste umfassende regulatorische Rahmen für Künstliche Intelligenz. Sie trat am 1. August 2024 in Kraft und wird stufenweise angewendet. Der Ansatz ist risikobasiert: Je stärker ein KI-System das Leben von Menschen beeinflusst, desto höher die Anforderungen an Transparenz, Dokumentation und Kontrolle.

Warum ist Personalauswahl besonders relevant?

KI-Systeme in den Bereichen Beschäftigung und Personalmanagement, etwa Bewerber-Screening, KI-gestützte Leistungsbewertung und Kündigungsentscheidungen, fallen gemäß Anhang III des EU AI Act in die Kategorie der Hochrisiko-Systeme. Das bedeutet: Für solche Anwendungen gelten besonders strenge Anforderungen.

Dabei spielt es keine Rolle, wie ein Tool vermarktet wird. Ein Machine-Learning-Modell, das Bewerbungen vorselektiert, gilt als Hochrisiko, unabhängig davon, ob der Hersteller es „intelligente Filterung" nennt.

Ein wichtiger Hinweis, der viele überrascht: Auch wer Drittanbieter-Software einsetzt, etwa eine HR-Software mit KI-Bewerbungsranking, trägt als Betreiber Verantwortung. Nicht nur der Softwareanbieter selbst. Es lohnt sich daher, die im eigenen Haus eingesetzten Tools daraufhin zu prüfen, ob sie KI-Funktionen enthalten.

Was sind die zentralen Anforderungen?

Ohne rechtliche Einschätzung im Einzelfall zu treffen, lassen sich aus dem Gesetz einige grundsätzliche Erwartungen ableiten, die für Betreiber von Hochrisiko-Systemen relevant sind:

  • Dokumentation des eingesetzten Systems und seiner Funktionsweise
  • Einrichtung einer menschlichen Aufsicht, die KI-Entscheidungen überprüfen kann
  • Information der Bewerber:innen darüber, dass ihre Daten durch ein KI-System verarbeitet werden
  • Nachweis ausreichender KI-Kompetenz bei den Mitarbeitenden, die solche Systeme nutzen

Wann gilt was?

Seit Februar 2025 müssen alle Personen, die KI-Systeme betreiben oder nutzen, über ein ausreichendes Maß an KI-Kompetenz verfügen. Der 2. August 2026 gilt als nächster wichtiger Stichtag im gestaffelten Umsetzungsplan.

Zur aktuellen Rechtslage: Die EU-Kommission hat mit dem sogenannten Digital Omnibus Anpassungen am ursprünglichen Zeitplan vorgeschlagen. Da sich die Verhandlungen noch im Gange befinden, empfiehlt es sich, den aktuellen Stand direkt bei der EU-Kommission zu verfolgen: https://digital-strategy.ec.europa.eu/de/policies/regulatory-framework-ai

Praktischer Einstieg

Ein sinnvoller erster Schritt ist eine einfache Bestandsaufnahme: Welche digitalen Tools werden in der Personalabteilung genutzt und enthalten sie KI-Funktionen? Viele Softwarelösungen, die im Alltag selbstverständlich geworden sind, arbeiten längst mit automatisierten Analyse- oder Vorschlagsfunktionen.

Den vollständigen deutschen Gesetzestext sowie Anhang III finden Sie unter: https://ai-act-law.eu/de/

Hinweis: Dieser Beitrag dient ausschließlich der allgemeinen Orientierung und Information. Er stellt keine Rechtsberatung dar und ersetzt diese nicht. Die Rechtslage zum EU AI Act befindet sich derzeit in Bewegung. Fristen und Anforderungen können sich noch ändern. Für eine rechtssichere Einschätzung der eigenen Situation empfehlen wir die Beratung durch eine auf IT- oder Arbeitsrecht spezialisierte Kanzlei.

Verfasst von
Cläre McDaniel
Freiberuflerin für Kommunikationsberatung, Text und Design
Website
Mailformular