Die EU-Verordnung zur künstlichen Intelligenz (KI-Verordnung = KI-VO) tritt beginnend mit dem 01.08.2024 in den nächsten Jahren schrittweise in Kraft. Veröffentlicht wurde sie am 12.07.2024 im Amtsblatt der EU unter der Nummer 2024/1689. Die Verordnung versucht einen Kompromiss zwischen Schutz der Rechte der EU-Bürger und Förderung von Hochinnovationen. Zu den Regelungen zählen etwa IT-Anwendungen mit hohem Risiko und der Missbrauch von KI.
Schrittweises Inkrafttreten
Wie in der EU üblich, werden die meisten Regelungen der Verordnung nach zwei Jahren in den Mitgliedsländern verbindlich, also im August 2026. Allerdings gibt es eine Ausnahme für inakzeptable Risiken, die schneller verboten werden sollen. Dazu zählen etwa KI-Systeme zur Bewertung des Sozialverhaltens. Entsprechend KI-VO Grund 179 gilt folgende Abstufung:
- Inkrafttreten der KI-VO: 02.08.2026
- Verbote sowie die allgemeinen Bestimmungen gelten ab: 02.02.2025
- Einführung von Verhaltenskodizes: bis zum 02.05.2025
- Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck: 02.08.2025
- Bestimmungen über Sanktionen: ab 02.08.2025
Risikoabstufung
Vereinfacht gesagt, gliedert die KI-VO mögliche KI-Anwendungen in Risikokategorien ein:
- Verboten sind KI-Anwendungen, die Bürgerrechte grundsätzlich verletzen würden. Dazu zählen etwa Überwachungssysteme, wie sie in China zur allgegenwärtigen Überwachung der Bürger eingesetzt werden. Ebenso ist IT zur Überwachung von Arbeitnehmern, etwa ihre Emotionen, verboten. Kein Witz, so etwas gibt es. Im Auto gibt es ja auch Assistenzsysteme, die vor Sekundenschlaf warnen.
- Zu den Hochrisikoanwendungen zählen KI-Systeme, die Bürger diskriminieren, schikanieren, benachteiligen usw. könnten. Das sind etwa Anwendungen zur Gewährung von Krediten, automatisierte HR-Bewerbungssysteme, IT zur Bewilligung von Anträgen usw.
- Die „normale Arbeitsebene“ – also Anwendungen mit Risiko, aber niedrig und begrenzt – stellen Systeme wie Chatbots dar. Typischerweise werden solche Dialogsysteme in der Beratung und im Kundensupport eingesetzt, aber auch für Buchungen, zur Büroassistenz usw. Anbieter solcher Systeme müssen künftig bestimmte Compliance-Auflagen erfüllen.
- Systeme ohne nennenswertes Risiko bleiben unreguliert. Dazu zählen die seit Jahren bekannten Spamfilter oder IT-Monitoringsysteme mit KI-Unterstützung (Baseline Monitoring, Intrusion Detection) usw.
Kritik an der KI-VO
Kritiker bemängeln die Verordnung als lückenhaft, insbesondere bei sensiblen Themen wie der Gesichtserkennung. An Zehntausenden Orten Europas befinden sich Überwachungskameras und Behörden monitoren, teilweise mit Gesichtserkennung, in Echtzeit. Die EU hätte solche KI Systeme verbieten können. Hat sie aber nicht, sondern sie hat sie in Kapitel II, Artikel 5, Buchstabe h) eingeschränkt und für Strafverfolgungsbehörden bzw. aus Sicherheitsinteressen bestimmte Echtzeitüberwachung zugelassen. Solche „Schlupflöcher“ können bekanntermaßen von Behörden in ihrem Interesse interpretiert werden.
Positiv zu bewerten, ist das Verbot von Internet-Harvesting zur Gesichtserkennung im Kapitel II, Artikel 5, Buchstabe e). Bekannt geworden sind diesbezüglich etwa die Firmen PimEyes oder Clearview, die Millionen von Gesichtsfotos aus sozialen Medien und von Websites abgegriffen haben. Deren Software kann sowohl von Behörden als auch Stalkern oder anderen Kriminellen benutzt werden. Bisher wurden diese Firmen in Europa wegen Verstoßes gegen den europäischen Datenschutz verfolgt und sanktioniert. Allerdings ist fraglich, ob ein Verbot in Europa den Firmen ernsthaft etwas anhaben kann, denn sie haben ihren Firmensitz üblicherweise nicht in Europa. Die entsprechenden Softwareprodukte werden bestimmt nicht verschwinden, insbesondere weil es genug zahlungskräftige Staaten gibt, die mit Vorliebe ihre Bürger überwachen und kontrollieren.
Nun, es ist das erste Mal, dass sich die Europäische Union eine Verordnung zur Regulierung der KI-Systeme gibt. Das Gesetzgebungsverfahren verlief unter einem gewissen Zeitdruck, da sich die KI-Forschung und -Anwendungsentwicklung mit atemberaubender Geschwindigkeit voranbewegt. Dies berücksichtigend darf man bestimmt sagen, dass die KI-VO einen Anfang auf dem gegenwärtigen Sachstand darstellt, aber nicht das Ende der Regulierung sein wird. Die Kritik von Bürgerrechtlern, der Ausgang zukünftiger Gerichtsverfahren und die Weiterentwicklung der Technologien werden sicherlich auch zu einer Fortentwicklung der Gesetzgebung führen.
👉 Auf Mastodon kommentieren