Was das KI-Gesetz für uns bedeutet
28.05.2024 | Autor Minh Chau Mai
Das KI-Gesetz ist ein Gesetzesvorhaben der Europäischen Kommission zur Regulierung von Künstlicher Intelligenz. Dabei ist es das weltweit erste vollumfassende Regelwerk für Künstliche Intelligenz und könnte zum globalen Standard werden. Schon jetzt schlägt es international Wellen und die Hoffnung besteht, dass die EU-Regeln Nachahmer finden werden.
Was will die EU mit dem Gesetz erreichen?
Die EU will dabei ihre technische Führungsrolle ausbauen und dafür sorgen, dass Euro-päer*innen von den neuen Technologien profitieren können. Die KI soll also zu einem grö-ßeren Wohlbefinden der Menschen beitragen.
Der Vorschlag beruht auf den Werten und Grundrechten der EU und will erreichen, dass Privatpersonen und andere Nutzer*innen KI gestützten Lösungen vertrauen und gleich-zeitig, dass Unternehmen Anreize erhalten, diese zu entwickeln.
Wie wird eine KI definiert?
Laut EU-Kommission ist eine KI eine
„Reihe von Technologien, die sich rasant entwickeln und einen vielfältigen Nut-zen für Wirtschaft und Gesellschaft über das gesamte Spektrum industrieller und gesellschaftlicher Aktivitäten hinweg hervorbringen können“.
Eine KI ist eine Software, die
- Konzepte des maschinellen Lernens oder tiefen Lernens (Deep Learning),
- logik- und wissensgestützte Konzepte und
- statistische Ansätze
nutzt und noch dazu
- Ziele verfolgt, die vom Menschen festgelegt werden,
- Ergebnisse oder Inhalte vorhersagt, empfiehlt oder entscheidet und
- die Umwelt beeinflusst, mit der sie interagiert.
Wie werden KI-Systeme kategorisiert?
Im Gesetz werden KI-Systeme in vier Risikokategorien eingestuft.
Inakzeptable Risiken sind verboten.
Hierzu zählen Systeme, die
- Menschen nach Kriterien wie ihren politischen und religiösen Ansichten, ihrer sexuel-len Orientierung oder ihrer Hautfarbe in Gruppen einteilen,
- Menschen gegen ihren Willen beeinflussen,
- Menschen benachteiligen aufgrund von z.B. ihrer finanziellen Situation (bspw. Social Scoring wie in China) und
- Menschen in öffentlichen Bereichen biometrisch identifizieren zur Strafverfolgung (Ausnahmen bei Terrorismus oder schweren Straftaten möglich).
Hohe Risiken müssen technisch dokumentiert werden. Hier muss ein System zum Risi-komanagement eingeführt werden. Der Mensch gilt als letzte Instanz bei Entscheidun-gen von KI-Systemen. Bei Systemen dieser Kategorie gilt hohe Transparenzpflicht. Nut-zer*innen müssen über die Merkmale, Fähigkeiten und Leistungsgrenzen informiert wer-den. Zu dieser Kategorie gehören Systeme, die Wahlen beeinflussen können und bei kri-tischer Infrastruktur und Personalverwaltung eingesetzt werden.
Bei Systemen mit geringem Risiko gilt minimale Transparenz- und Informationspflicht. Auch darüber, ob die dargestellten Inhalte manipuliert und nicht echt sind.
Hierzu zählen Systeme, die
- mit Menschen agieren (z.B. Chatbots),
- Emotionen erkennen anhand biometrischer Daten und
- Inhalte erzeugen oder manipulieren (z.B. Deep Fakes).
Systeme mit minimalem Risiko, wie z.B. Spam-Filter oder KI-gestützte Videospiele blei-ben unreguliert.