Künstliche Intelligenz (KI) hat das Potenzial, viele Branchen zu revolutionieren. Gleichzeitig stellt sie auch erhebliche Risiken dar, insbesondere im Hinblick auf Transparenz, Sicherheit und ethische Fragen. Um die sichere Nutzung von KI zu gewährleisten, hat die Europäische Union den EU AI Act entwickelt. Dabei handelt es sich um die weltweit erste umfassende Regelung zur Regulierung von KI-Systemen. Für Schweizer Unternehmen, die KI-Technologie in der EU vertreiben oder nutzen, ist es entscheidend, die neuen Anforderungen des EU AI Act zu verstehen.
​

Der EU AI Act ist ein Rechtsrahmen, der darauf abzielt, die Risiken von KI-Technologien zu minimieren, indem er deren Nutzung und Entwicklung in der EU reguliert. Der EU AI Act definiert klare Regeln für den Einsatz von KI in verschiedenen Bereichen und richtet sich an alle Unternehmen, die KI-Systeme in der EU entwickeln, einsetzen oder vertreiben.

Ziele des EU AI Act:

Der EU AI Act richtet sich an alle Unternehmen, die in der EU KI-basierte Produkte oder Dienstleistungen anbieten oder nutzen. Dazu gehören:

Auch Schweizer KMUs, die in der EU tätig sind oder KI-Produkte auf den EU-Markt bringen, müssen sicherstellen, dass ihre Technologien den Anforderungen des EU AI Act entsprechen.

KI-Systeme, die als inakzeptabel angesehen werden, wie etwa KI-Systeme für Social Scoring, sind im EU-Raum verboten. Dies betrifft Anwendungen, die grundlegende Menschenrechte verletzen könnten.

KI-Systeme in Bereichen wie kritische Infrastrukturen, Bildung, Beschäftigung oder Rechtsdurchsetzung werden als hochriskant eingestuft. Diese Systeme unterliegen strengen Anforderungen, einschliesslich der Verpflichtung zu Risikobewertungen, Transparenz und Überwachung.

KI-Systeme, die nur ein geringes Risiko bergen, wie Chatbots oder personalisierte Empfehlungen, unterliegen geringeren Regulierungen, müssen jedoch sicherstellen, dass Nutzer darüber informiert werden, dass sie mit einer KI interagieren.

KI-Systeme, die nur ein minimales Risiko darstellen, wie etwa KI-gestützte Spam-Filter, unterliegen keinen spezifischen Regelungen.

​​

Unternehmen müssen sicherstellen, dass die Nutzer von KI-Systemen wissen, dass sie mit einer Maschine interagieren. Insbesondere bei hochriskanten Systemen müssen genaue Informationen über die Funktionsweise und Entscheidungsprozesse der KI zur Verfügung gestellt werden.

Unternehmen, die hochriskante KI-Systeme entwickeln oder nutzen, müssen diese Systeme vor der Markteinführung testen und kontinuierlich überwachen. Dies umfasst regelmässige Risikobewertungen, Audits und die Implementierung von Sicherheitsmassnahmen, um potenzielle Schäden zu minimieren.

Der EU AI Act schreibt vor, dass KI-Systeme so gestaltet werden müssen, dass sie keine Diskriminierung aufgrund von Faktoren wie Geschlecht, ethnischer Herkunft oder Alter fördern. Dies bedeutet, dass Unternehmen sicherstellen müssen, dass ihre KI-Systeme keine Verzerrungen (Bias) aufweisen und auf fairen Entscheidungsprozessen basieren.

Unternehmen müssen für hochriskante KI-Systeme eine Konformitätserklärung abgeben und detaillierte Dokumentationen über die Funktionsweise und Sicherheitsmassnahmen ihrer KI-Systeme führen. Diese Dokumentationen müssen den zuständigen Behörden auf Anfrage vorgelegt werden.

Unternehmen sollten ihre KI-Technologien bewerten und kategorisieren, um festzustellen, in welche Risikoklasse ihre Systeme fallen. Dies bestimmt den Umfang der notwendigen Regulierungen.

Stellen Sie sicher, dass Ihre Nutzer über den Einsatz von KI-Technologie informiert sind und verstehen, wie die KI Entscheidungen trifft.

Entwickeln Sie geeignete Sicherheitsmassnahmen und führen Sie regelmässige Audits durch, um die Sicherheit Ihrer KI-Systeme zu gewährleisten.

Für hochriskante Systeme müssen Sie eine Konformitätserklärung erstellen und sicherstellen, dass Ihre Systeme den Anforderungen des EU AI Act entsprechen.​

Die EU-KI-Verordnung sieht bei Nichteinhaltung empfindliche Geldbussen vor. Je nach Schwere des Verstosses können diese bis zu 40 Millionen Euro oder 7 % des weltweiten Jahresumsatzes betragen. Besonders streng bestraft wird der Einsatz verbotener oder nicht korrekt deklarierter Hochrisiko-KI-Systeme. Auch falsche Angaben gegenüber Behörden können teuer werden. 

​Für KMU gelten in der Regel reduzierte Höchstgrenzen. Dennoch verfolgt die EU mit der KI-Verordnung einen konsequenten und risikobasierten Ansatz und Verstösse können teuer werden.

Der EU AI Act stellt neue Anforderungen an Unternehmen, die KI-Technologien entwickeln oder nutzen, insbesondere im Hinblick auf Transparenz, Risi komanagement und Fairness. Für Schweizer KMUs, die KI-Produkte in die EU exportieren oder dort nutzen, ist die Einhaltung des EU AI Act entscheidend, um den Zugang zum europäischen Markt zu sichern und rechtliche Risiken zu vermeiden. 

Die korrekte Risikobewertung, Klassifizierung und Umsetzung der Transparenz- und Dokumentationspflichten stellen viele KMUs vor Herausforderungen. Wir unterstützen dabei, die Vorgaben effizient umzusetzen und gleichzeitig Innovationskraft und Marktchancen zu sichern. Die Verordnung stärkt das Vertrauen in die sichere und ethische Nutzung von KI-Systemen und zeigt, wie wichtig eine fundierte Herangehensweise ist. Zudem drohen bei Verstössen empfindliche Sanktionen, die auch für kleinere Unternehmen erhebliche finanzielle Folgen haben können.