EU AI Act – Dein Leitfaden für den sicheren Umgang mit KI - Teil 1

In den letzten Monaten hat diese neue Gesetzgebung für reichlich Gesprächsstoff gesorgt – und das aus gutem Grund. Der EU AI Act regelt, welche KI‑Systeme in Europa eingesetzt werden dürfen, welche Risiken sie mit sich bringen und welche Maßnahmen Unternehmen ergreifen müssen, um den sicheren und verantwortungsvollen Einsatz von Künstlicher Intelligenz zu gewährleisten.

In diesem ersten Teil unseres zweiteiligen Blogartikels nehmen wir Dich mit auf eine Reise durch die wesentlichen Aspekte des EU AI Act. Wir erklären Dir, wie die Risikoklassifizierung der KI‑Systeme funktioniert, worauf Du als Unternehmen achten solltest und welche Kompetenzen Deine Mitarbeiter mitbringen müssen, um sicher und effektiv mit neuer Technologie umzugehen. Außerdem werfen wir einen kurzen Blick auf die Rollen von Anbietern und Betreibern – denn nur wenn beide Seiten optimal zusammenarbeiten, können innovative KI‑Lösungen erfolgreich implementiert werden.

Quelle: ec.europa.eu/information_society

Worauf Du achten solltest

Wenn Du KI‑Systeme in Deinem Unternehmen einsetzt, solltest Du vor allem folgende Punkte im Blick haben:

• Risikoklassifizierung:
  Der EU AI Act unterteilt KI‑Systeme in vier Risikokategorien:
  • Inakzeptables Risiko: Systeme, die als zu gefährlich eingestuft werden und daher grundsätzlich verboten sind (z. B. Anwendungen zur sozialen Bewertung oder Systeme, die manipulative Techniken einsetzen).
  • Hohes Risiko: Systeme, die erhebliche Auswirkungen auf Gesundheit, Sicherheit oder Grundrechte haben können – etwa in der medizinischen Diagnostik, im Personalwesen, in der kritischen Infrastruktur oder bei der biometrischen Identifikation. Diese müssen strenge Anforderungen erfüllen, wie z. B. umfassendes Risikomanagement, detaillierte technische Dokumentation, Qualitätskontrollen und menschliche Aufsicht.
  • Begrenztes Risiko: Anwendungen, die zwar gewisse Risiken bergen, für die aber hauptsächlich Transparenzpflichten gelten – wie etwa Chatbots, bei denen der Nutzer informiert werden muss, dass er mit einer Maschine interagiert.
  • Minimales Risiko: Systeme wie Spamfilter oder KI in Videospielen, für die kaum zusätzliche Regelungen erforderlich sind.
• Transparenz und Nachvollziehbarkeit:
  Es muss immer klar sein, wie ein KI‑System zu seinen Ergebnissen gelangt. Dies gilt sowohl für die internen Abläufe als auch für den direkten Kontakt mit den Nutzern.
• Menschliche Aufsicht:
  Vor allem bei hochriskanten Systemen ist es essenziell, dass ein menschlicher Eingriff möglich ist – um Fehler zu korrigieren oder in kritischen Situationen schnell eingreifen zu können.
• Datenqualität und -management:
  Die verwendeten Daten müssen qualitativ hochwertig und repräsentativ sein. Nur so lässt sich sicherstellen, dass die Ergebnisse des KI‑Systems verlässlich und frei von Diskriminierung sind.

Rollen: Anbieter und Betreiber

Der EU AI Act differenziert klar zwischen Anbietern und Betreibern von KI‑Systemen:

• Anbieter:
  Diese entwickeln KI‑Systeme selbst oder lassen sie entwickeln und bringen sie unter ihrem eigenen Namen oder ihrer Marke auf den Markt. Als Anbieter trägst Du die Verantwortung dafür, dass die Systeme den gesetzlichen Anforderungen entsprechen – von der Qualität der Trainingsdaten bis zur Durchführung von Konformitätsprüfungen.
• Betreiber:
  Betreiber setzen die KI‑Systeme im täglichen Arbeitsablauf ein. Sie sind verantwortlich für den sicheren und effektiven Betrieb der Systeme und müssen sicherstellen, dass alle Bediener und Nutzer über die notwendigen Kompetenzen verfügen.

Beide Gruppen spielen eine zentrale Rolle dabei, die hohen Standards des EU AI Act zu erfüllen – und das führt uns direkt zum Thema Mitarbeiterkompetenz.

Mitarbeiterkompetenz – 3 zentrale Bereiche

Ein wesentlicher Punkt des EU AI Act ist die Verpflichtung, dass Unternehmen dafür sorgen, dass ihre Mitarbeiter ausreichend im Umgang mit KI geschult sind. Auch wenn die gesetzlichen Vorgaben in diesem Bereich relativ vage formuliert sind, lassen sich drei zentrale Kompetenzbereiche ableiten:

1. Technisches Verständnis:
   Deine Mitarbeiter sollten die grundlegenden Funktionsweisen von KI‑Systemen verstehen. Sie müssen in der Lage sein, die Potenziale und Risiken einzuschätzen und zu erkennen, wie die KI zu ihren Ergebnissen gelangt.
2. Ethisches und rechtliches Bewusstsein:
   Neben den technischen Aspekten ist es wichtig, dass das Personal auch über ethische Fragestellungen und die rechtlichen Rahmenbedingungen informiert ist – beispielsweise in Bezug auf Datenschutz, Diskriminierung und Compliance.
3. Praktische Anwendungskompetenz:
   Letztlich müssen Deine Mitarbeiter in der Lage sein, KI‑Systeme im Alltag effektiv einzusetzen. Das umfasst die Bedienung der Systeme, die Interpretation der Ergebnisse sowie das Erkennen und Melden von potenziellen Problemen.

Diese drei Bereiche bilden das Fundament, damit neue Technologien nicht nur eingesetzt, sondern auch verantwortungsvoll und sicher genutzt werden können.

Unser Angebot und erste Hinweise zu staatlichen Zuschüssen

Mit unserem Learning Management System (LMS) unterstützen wir Dich dabei, all diese Anforderungen optimal umzusetzen. Unsere Schulungsprogramme decken nicht nur die technischen Grundlagen ab, sondern vermitteln auch ethische, rechtliche und praktische Aspekte des KI-Einsatzes. So stellst Du sicher, dass Deine Mitarbeiter auf dem neuesten Stand sind und Deine Organisation den gesetzlichen Vorgaben entspricht.

Außerdem gibt es für Unternehmen, die in die Weiterbildung ihrer Mitarbeiter investieren, staatliche Zuschüsse. Aktuell klären wir noch, wie hoch diese Zuschüsse genau sind – dazu gibt es in Teil 2 unseres Blogartikels weitere, detaillierte Informationen.

Ausblick

In diesem ersten Teil haben wir die wesentlichen Grundlagen des EU AI Act zusammengefasst:

• Wie die Risikoklassifizierung der KI‑Systeme funktioniert,
• Worauf Du als Unternehmen achten musst,
• Welche zentralen Mitarbeiterkompetenzen erforderlich sind,
• Und wie die Rollen von Anbietern und Betreibern klar definiert sind.

Im nächsten Teil werden wir dann detailliert auf die staatlichen Fördermöglichkeiten eingehen und Dir zeigen, wie Du mit unserem LMS optimal auf die neuen Anforderungen vorbereitet bist.

Bleib dran – Teil 2 folgt in Kürze!

Wir freuen uns auf Dein Feedback und stehen Dir bei Fragen rund um die Umsetzung des EU AI Act jederzeit gerne zur Verfügung.