Der AI Act der EU und KI über die Hintertür

Die Integration von Künstlicher Intelligenz (KI) in Unternehmen schreitet mit großer Geschwindigkeit voran. Besonders durch die Einbettung von KI-Tools in bestehende Softwarelösungen gelangt KI oft unbemerkt „über die Hintertür“ in die Organisationen.

Mit dem AI Act der Europäischen Union müssen sich Unternehmen der Mode- und Bekleidungsbranche dringend mit den rechtlichen und ethischen Konsequenzen auseinandersetzen. Doch welche Risiken birgt dieser Act, und wie sollten Unternehmen darauf reagieren?

Inhaltsübersicht:

Toggle

Risiken der unbemerkten KI-Integration

Rechtskonformität:
Der AI Act sieht eine klare Kategorisierung von KI-Systemen in verschiedene Risikoklassen vor (geringes, mittleres und hohes Risiko). Unternehmen, die KI nutzen, müssen sicherstellen, dass ihre Anwendungen den Vorschriften entsprechen. Unbemerkt eingesetzte KI-Tools können jedoch schnell zu Verstößen führen – insbesondere, wenn diese in die Kategorie der „höchsten Risiken“ fallen, wie etwa bei Anwendungen zur Mitarbeiterüberwachung.
Datenschutz und ethische Fragen:
KI-Systeme, die ohne volle Transparenz integriert werden, könnten personenbezogene Daten in einer Weise nutzen, die nicht mit der DSGVO vereinbar ist. Dies birgt nicht nur rechtliche, sondern auch Reputationsrisiken.
Abhängigkeit von Drittanbietern:
Viele KI-Lösungen stammen von Drittanbietern und werden über bestehende ERP-Systeme, CRM-Plattformen oder andere Softwarelösungen integriert. Diese Abhängigkeit kann zu einem Kontrollverlust über kritische Prozesse führen.
Strafen bei Nichteinhaltung der Regularien:
Die Geldbußen variieren je nach Schwere des Verstoßes und der Unternehmensgröße:
- Verbotene KI-Anwendungen: Bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes
- Andere Verstöße: Bis zu 15 Millionen Euro oder 3 % des Jahresumsatzes
- Falschangaben: Bis zu 7,5 Millionen Euro oder 1,5 % des Umsatzes

Konkrete Beispiele

Produktionsoptimierung:
Ein KI-Tool zur Automatisierung von Lieferketten könnte diskriminierende Algorithmen enthalten, die bestimmte Lieferanten benachteiligen.
Personalmanagement:
KI-gestützte Bewerbungsplattformen könnten aufgrund unzureichender Trainingsdaten unfaire Entscheidungen treffen – z. B. im Hinblick auf Diversität und Inklusion.
Marketing und Verkauf:
Chatbots oder Empfehlungssysteme mit KI-Unterstützung könnten irreführende oder manipulative Praktiken anwenden – laut AI Act ebenfalls verboten.

Handlungsempfehlungen

Bestandsaufnahme und Audits:
Unternehmen sollten analysieren, welche KI-Lösungen bereits genutzt werden. Externe Audits sind hilfreich.
Schulung und Sensibilisierung:
Mitarbeitende in IT, Recht und Management sollten mit den Anforderungen des AI Acts vertraut gemacht werden – inklusive Risikoklassifizierung und Transparenzvorgaben.
Vertragliche Absicherung:
Verträge mit Drittanbietern sollten überprüft und angepasst werden, um deren Mitverantwortung für die Einhaltung des AI Acts sicherzustellen.
Einrichtung eines KI-Governance-Teams:
Dieses Team sollte die strategische Implementierung von KI begleiten, Risiken bewerten und die Compliance überwachen.

Wichtige Fristen

01. August 2024: Der AI Act ist offiziell in Kraft getreten.
02. Februar 2025: Das Verbot sogenannter „prohibited systems“ wird wirksam.
02. August 2026: Die meisten Bestimmungen des AI Acts werden anwendbar.

Zeitrahmen – empfohlene Maßnahmen

Kurzfristig (0–6 Monate):
Sensibilisierung der Unternehmensleitung und relevanter Mitarbeitender, erste Audits durchführen.
Mittelfristig (6–12 Monate):
Prozesse und Systeme anpassen, KI-Governance-Team („Task-Force“) aufbauen.
Langfristig (12–24 Monate):
Kontinuierliche Überwachungs- und Evaluationsstrategie implementieren.

No-Gos

Ignorieren der Vorschriften:
„Abwarten und Tee trinken“ ist keine Option – Strafen können erheblich sein.
Unkontrollierte Nutzung von KI-Tools:
Der Einsatz von KI ohne Evaluierung und Risikoanalyse kann schwerwiegende Folgen haben.
Fehlende Kommunikation:
Intransparenz gegenüber Kunden, Mitarbeitenden und Stakeholdern schadet dem Vertrauen nachhaltig.

Fazit

Der AI Act der EU stellt Unternehmen vor neue Herausforderungen. Doch mit einer frühzeitigen, proaktiven Auseinandersetzung lassen sich Risiken minimieren – und die Chancen der KI gewinnbringend nutzen. Eine klare Strategie und ein starker Fokus auf Transparenz und Compliance sind entscheidend, um im neuen regulatorischen Umfeld erfolgreich zu agieren.

Winfried Eitel

Betriebswirtschaftliche Beratung und Dienstleistung at amortisat' e.K.

Latest posts by Winfried Eitel (see all)

Effiziente Lagerbewirtschaftung: Kosten senken, Verfügbarkeit sichern – 19. März 2025
Der AI Act der EU und KI über die Hintertür – 15. Januar 2025
10 Fallstricke, die Sie im Projekt vermeiden sollten – 14. November 2024