EU beschließt Regulierung von KI
Ab Anfang Juli dieses Jahres tritt der AI Act in Kraft, der Ende Mai vom Ministerrat der Europäischen Union verabschiedet wurde. Diese Verordnung zur Regulierung des Einsatzes von Künstlicher Intelligenz (KI) wird nicht nur die Digitalwirtschaft betreffen, sondern auch weitreichende Veränderungen für Unternehmen beim Einsatz von Technologien wie Videoüberwachung, Spracherkennung und Finanzdatenanalyse mit sich bringen.
29.05.2024
Eine Kennzeichnungspflicht für KI-Anwender und -Content-Ersteller soll mehr Transparenz bei Text, Bild und Ton schaffen und dazu beitragen, die Polarisierung der Gesellschaft durch Fake News und Deepfakes zu stoppen.
Offene Fragen und Warnung vor zu strikter Regulierung
Mit dem AI Act kommt der europäische Gesetzgeber einer Forderung der Digitalwirtschaft in Bezug auf eine „klare Weichenstellung für eine zukunftsorientierte EU-Digitalpolitik“, wie es der Bundesverband Digitale Wirtschaft formuliert hat, nach. Allerdings bleiben viele Fragen offen, insbesondere was die Überwachung der Einhaltung der Regeln angesichts eines stetig wachsenden Angebots an neuen Inhalten betrifft. Digitalverbände wie BITKOM warnen bereits vor einer zu strengen Regulierung, die Innovationen behindern könnte. Sie fordern unter anderem eine praxisnahe Unterstützung durch die Behörden.
„Ob KI in Deutschland und Europa einen Schub erhält oder vor allem vor neue Hindernisse gestellt wird, hängt entscheidend davon ab, wie dieser Rahmen ausgestaltet und die Regelungen in Deutschland umgesetzt werden. Wir müssen Raum lassen für KI-Innovationen, die den Menschen dienen. Ziel muss sein, den Einsatz von KI in Wirtschaft, Verwaltung und Gesellschaft voranzubringen. Erst 13 Prozent der Unternehmen setzen KI ein, weitere 33 Prozent planen oder diskutieren es. Die Umsetzung des AI Acts muss dafür sorgen, dass KI in Deutschland erfolgreich entwickelt und umfassend eingesetzt wird“, so BITKOM-Präsident Ralf Wintergerst.
Von Gesichtserkennung bis Emotionserkennung: Neue Vorschriften für KI in der EU
Der AI Act regelt auch besonders sensible Fragen der KI-gestützten Datenverarbeitung, wie etwa die Gesichtserkennung an Bahnhöfen, Flughäfen und anderen öffentlichen Orten. Die biometrische Kategorisierung anhand sensibler Merkmale sowie das unselektive Screening von Gesichtsbildern aus dem Internet oder von Überwachungskameras sind verboten. Dies darf nach dem neuen EU-Recht nur noch auf richterlichen Beschluss erfolgen, um den Ermittlungsbehörden einen gewissen Spielraum zu lassen.
Das neue KI-Gesetz der EU verbietet weiterhin das „Social Scoring“, also die Bewertung des Sozialverhaltens von Personen, wie es derzeit in China praktiziert wird, sowie die Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen. Endgültig in Kraft treten werden die Regeln im Frühjahr 2026. Unternehmen oder Nutzer:innen künstlicher Intelligenz, die sich bis dahin nicht daran halten, müssen mit empfindlichen Strafen rechnen. Personen, die mutmaßliche Verstöße feststellen, können diese ihren nationalen Behörden melden und gegebenenfalls ein Aufsichtsverfahren einleiten.
„Auch die EU-Kommission ist gefordert. Sie muss das angekündigte AI-Office rasch einrichten und mit der Umsetzung der Anforderungen für sogenannte ‚General Purpose AI Models‘ beginnen. Es ist insbesondere wichtig, dass die Regulierung für diese KI-Basismodelle bürokratiearm und praxisnah gestaltet wird. Das gilt auch für die weiteren Richtlinien, die jetzt erarbeitet werden müssen. Dabei kommt es darauf an, Doppelregulierung zu vermeiden und dauerhafte Rechtssicherheit zu schaffen“, fordert Wintergerst.
