Der EU AI Act

Neuer Standard für Künstliche Intelligenz in der Unternehmenspraxis

Die neue EU-Verordnung zur Künstlichen Intelligenz setzt weltweit einen verbindlichen Rechtsrahmen für die Regulierung von KI-Systemen. Der „EU AI Act“ hat das Ziel, sowohl die Gesellschaft vor den Risiken der Technologie zu schützen als auch Innovationen zu fördern. Im Folgenden werden die Anforderungen und möglichen rechtlichen Konsequenzen des EU AI Acts mit einem besonderen Bezug zur Personalarbeit untersucht.

Definition und Inkrafttreten des EU AI Acts

Der EU AI Act führt einen risikobasierten Ansatz zur Regulierung von KI-Systemen ein. Er teilt diese in verschiedene Kategorien ein, die unterschiedliche Anforderungen und Pflichten mit sich bringen:

Verbotene KI-Systeme
Systeme, die aufgrund ihrer Gefährlichkeit oder ethischen Bedenken vollständig untersagt sind.

KI-Systeme mit hohem Risiko
Systeme, die signifikante Auswirkungen auf die Rechte und Sicherheit von Personen haben können und daher strengen Anforderungen unterliegen.

KI-Systeme mit begrenztem Risiko
Systeme, die moderaten Anforderungen entsprechen, da ihre Risiken als weniger gravierend eingeschätzt werden.

KI-Systeme mit minimalem Risiko
Systeme, die geringere regulatorische Anforderungen erfüllen müssen, da sie als weniger risikobehaftet gelten.

Der EU AI Act trat am 01.08.2024 offiziell in Kraft.
Nach einer Übergangszeit werden ab Februar 2025 die ersten Regelungen gelten, weitere Vorschriften werden ab Mitte 2026 verbindlich.

Nationale Gestaltungsmöglichkeiten und Umsetzung

Als Verordnung gilt der EU AI Act unmittelbar in allen EU-Mitgliedsstaaten, die nationalen Gesetzgeber wie Deutschland haben nur begrenzte Gestaltungsspielräume. Der Handlungsspielraum beschränkt sich auf die Implementierung und Durchsetzung der Verordnung. Die nationalen Behörden müssen dafür sorgen, dass die Vorschriften des AI Acts korrekt umgesetzt und eingehalten werden.

Sanktionen bei Verstößen

Verstöße gegen die Vorschriften des EU AI Acts können erhebliche rechtliche und finanzielle Konsequenzen haben. Anbieter oder Betreiber von Hochrisiko-KI-Systemen, die den Anforderungen nicht nachkommen, können mit Geldbußen bis zu 15 Millionen Euro oder bis zu 3 % ihres weltweiten Jahresumsatzes belegt werden. Das Szenario solch drakonischer Strafen soll die zuverlässige Umsetzung erforderlicher Compliance-Maßnahmen sicherstellen.

Bedeutung des AI Acts für den HR-Bereich

Der HR-Bereich ist besonders betroffen von den Regelungen des EU AI Acts, da hier ein hoher Anteil an Hochrisiko-KI-Systemen zum Einsatz kommt. Studien zufolge dürften gut drei Viertel der geprüften KI-Systeme im HR-Bereich als Hochrisiko eingestuft werden, weil der Einsatz von Künstlicher Intelligenz im Personalwesen oftmals weitreichende Entscheidungen über die berufliche Zukunft von Individuen treffen könnte. Der AI Act verlangt von diesen Systemen unter anderem umfassende Transparenz, strenge Datensicherheitsmaßnahmen und ein effektives Risikomanagement.

Pflichten für das Personalmanagement

Unternehmen, die KI-Systeme mit hohem Risiko im HR-Bereich einsetzen, müssen als Betreiber spezifische Pflichten erfüllen. Dazu gehören:

• Ordnungsgemäße Verwendung der KI
  Sicherstellung, dass die KI-Anwendungen gemäß den festgelegten Richtlinien und Vorgaben verwendet werden.
• Schulung des Personals
  Mitarbeiter müssen im Umgang mit KI-Systemen geschult werden, um deren korrekte Anwendung sicherzustellen.
• Transparenz gegenüber den Mitarbeitern
  Die Verwendung von KI-Systemen muss transparent kommuniziert werden, und alle Mitarbeiter müssen über die Funktionsweise der Systeme informiert sein.
• Meldung von Vorfällen
  Betreiber müssen bestimmte Vorfälle wie Fehlfunktionen der KI melden.
  
  

Einsatz von Chatbots in Human Resources

Der Einsatz von Chatbots wie ChatGPT oder Copilot im Personalwesen muss den datenschutzrechtlichen und urheberrechtlichen Anforderungen entsprechen. Unternehmen sollten klare Richtlinien und Schulungen für die Nutzung dieser Technologien bereitstellen, um eine rechtskonforme Verwendung sicherzustellen.

Anforderungen für KI-gestützte Chatbots

Für unternehmensinterne KI-Chatbots gelten Transparenzpflichten gemäß dem EU AI Act. Benutzer müssen darüber informiert werden, dass sie mit einer KI kommunizieren, und es muss eine Einwilligung zur Verarbeitung personenbezogener Daten eingeholt werden. Datenschutzrichtlinien müssen beachtet werden, um die Sicherheit der Mitarbeiterdaten zu gewährleisten.

Risiken bei Recruiting- und Onboarding-Prozessen

Automatisierte KI-Systeme im Recruiting, wie etwa zur Auswertung und Vorselektion von Bewerbungen, stellen häufig Hochrisiko-KI-Systeme dar und unterliegen den strengen Anforderungen des EU AI Acts. Das Personalmanagement muss die Einhaltung aller datenschutzrechtlichen Bestimmungen garantieren können, um Diskriminierung und andere rechtliche Konsequenzen zu vermeiden. KI-Systeme im Onboarding-Prozess sollten diesbezüglich ebenfalls genau unter die Lupe genommen werden, auch wenn sie weniger Einfluss auf die Arbeitsbedingungen der Mitarbeiter haben.

Das Wichtigste in Kürze

Der EU AI Act stellt einen bedeutenden Fortschritt in der Regulierung von Künstlicher Intelligenz dar und schafft einen klaren Rechtsrahmen für den Einsatz von KI-Systemen.

Unternehmen müssen sich auf die neuen Anforderungen einstellen, insbesondere wenn sie Hochrisiko-KI-Systeme im HR-Bereich oder in anderen geschäftskritischen Bereichen einsetzen.

Es ist wichtig, den Einsatz Künstlicher Intelligenz im gesamten Unternehmen mit Blick auf das neue Regelwerk genau zu prüfen, um rechtliche Folgen zu vermeiden.

Neuerungen in der betrieblichen Altersversorgung

Das zweite Betriebsrentenstärkungsgesetz (BRSG II) befindet sich gerade im Gesetzgebungsverfahren und wird umfassende Veränderungen für die betriebliche Altersversorgung (bAV) bringen. Die Reform soll die Attraktivität der bAV erhöhen, stellt jedoch auch neue Anforderungen an die Personalabteilungen kleinerer Unternehmen. Doch was steht konkret im Gesetzentwurf?

Unterstützung für Niedrigverdiener

Die Einkommensgrenze für die Förderung von Niedrigverdienern wird auf 3 % der Beitragsbemessungsgrenze erhöht. Zudem wird der maximal förderfähige Beitrag auf 1.200 Euro angehoben, die Förderhöhe steigt entsprechend auf 360 Euro. Dies soll helfen, Versorgungslücken bei Niedrigverdienern zu schließen und die betriebliche Altersvorsorge für diese Gruppe attraktiver zu machen.

Zugleich sieht der Gesetzentwurf vor, die bereits oben erwähnte Einkommensgrenze zu dynamisieren. Damit soll verhindert werden, dass Geringverdiener aufgrund normaler Lohn- und Gehaltsanpassungen sukzessive wieder aus der Förderung herausfallen.

Sozialpartnermodelle

Zukünftig können Sozialpartnermodelle auch ohne Tarifvertrag umgesetzt werden. Dies eröffnet neue Gestaltungsmöglichkeiten für Arbeitgeber und Arbeitnehmer und erleichtert die Verbreitung solcher Modelle, auch wenn kein Tarifvertrag vorliegt.

Anpassungen bei Pensionskassen

Pensionskassen erhalten mehr Flexibilität durch die Möglichkeit, temporäre Unterdeckungen auszugleichen und Leistungen auch bei teilweisem Erwerbseinkommensverlust zu gewähren.

Neuerungen bei Pensionsfonds

Pensionsfonds dürfen künftig neben Einmalkapitalzahlungen auch Ratenzahlungen leisten. Das bietet den Beschäftigten zusätzliche Optionen.

Automatische Entgeltumwandlung

Ein Opting-out-System zur automatischen Entgeltumwandlung kann nun durch Betriebsvereinbarungen eingeführt werden, sofern der Arbeitgeber einen Zuschuss von mindestens 20  % gewährt. Kleine Unternehmen ohne Betriebsrat sind von dieser Regelung jedoch nicht betroffen.

Opting-out-System:
Ein Opting-out-System bei der Entgeltumwandlung bedeutet, dass Arbeitnehmer automatisch teilnehmen, wenn sie nicht aktiv widersprechen.

Vorzeitige Inanspruchnahme der Betriebsrente

Die vorzeitige Inanspruchnahme der Betriebsrente ist jetzt auch bei Bezug einer Teilrente aus der gesetzlichen Rentenversicherung möglich, der Anreiz für längere Erwerbstätigkeit soll damit erhöht werden.

Erhöhung der Abfindungsgrenzen

Die Abfindungsgrenzen für nachträgliche Abfindungsvereinbarungen werden verdoppelt, wenn die Abfindungsbeträge in die gesetzliche Rentenversicherung fließen.

Lebensversicherungen

Die Regelungen zur Wiederinkraftsetzung von Lebensversicherungen nach entgeltlosen Zeiten werden erweitert. Den Beschäftigten soll ermöglicht werden, ihre Versicherung zu den vorherigen Bedingungen fortzusetzen.

Auswirkungen auf die Personalarbeit

Für Personalabteilungen ergeben sich durch das BRSG II zahlreiche Anpassungen. Der Verwaltungsaufwand wird steigen, da neue gesetzliche Vorgaben in Arbeitsverträge, Betriebsvereinbarungen und HR-Prozesse integriert werden müssen. Besonders die erhöhten Abfindungsgrenzen und die Möglichkeit der vorzeitigen Inanspruchnahme der Betriebsrente erfordern eine präzise Beratung der Mitarbeiter und eine enge Zusammenarbeit mit Rechtsabteilungen und externen Beratern.

Wichtige Punkte für die Payroll

Die Gehaltsabrechnung wird ebenfalls durch die neuen Regelungen beeinflusst. So muss die geplante automatische Entgeltumwandlung berücksichtigt werden und auch die neuen Abfindungsgrenzen und die Regelungen zur vorzeitigen Inanspruchnahme der Betriebsrente sind zu beachten. Diese und weitere Aspekte müssen in die Abrechnungsprozesse integriert werden.

Ausblick

Der Gesetzentwurf wurde am 18. September 2024 vom Bundeskabinett verabschiedet und befindet sich nun im weiteren Gesetzgebungsprozess. Auch der Bundesrat muss dem Gesetz zustimmen.

Das Wichtigste in Kürze

Die bevorstehenden Änderungen durch das BRSG II verdeutlichen die wachsende Bedeutung der betrieblichen Altersversorgung.

Es ist daher ratsam, sich frühzeitig mit den kommenden Regelungen auseinanderzusetzen und gegebenenfalls geeignete Maßnahmen zu ergreifen, um den Verwaltungsaufwand zu optimieren.