Die neue EU-Kommission von Ursula von der Leyen arbeitet an einem Masterplan zum Umgang mit Künstlicher Intelligenz. Laut einem geleakten Arbeitspapier könnte sie damit Pläne von Horst Seehofer durchkreuzen, der automatisierte Videoüberwachung mit Gesichtserkennung ausrollen möchte.

Die neue Europäische Kommission überlegt offenbar, den Einsatz automatisierter Gesichtserkennung im öffentlichen Raum für die nächsten Jahre zu verbieten. Die neue Kommission von Ursula von der Leyen könnte damit Pläne von Bundesinnenminister Horst Seehofer (CSU) durchkreuzen, 135 Bahnhöfen und 14 Flughäfen mit Echtzeit-Gesichtserkennung zu überwachen.

Das temporäre Verbot für Gesichtserkennung im öffentlichen Raum wird im Entwurf eines Arbeitspapiers der Kommission zum Umgang mit Künstlicher Intelligenz vorgeschlagen, über das Freitagmorgen Bloomberg, Euractiv und Reuters berichteten. Politico veröffentlichte das Dokument im Volltext. Die Kommission leakt häufig geplante Schritte an Medien in Brüssel, um die öffentliche Reaktion darauf zu testen. Zunächst blieb allerdings unklar, wie aktuell die Erwägungen in dem auf den 12. Dezember datierten Dokument sind.

Das Verbot soll zunächst drei bis fünf Jahre andauern und für private wie öffentliche Akteure gelten. Währenddessen müssten eine „solide Methodologie für die Einschätzung der Auswirkungen der Technologie und mögliche Risikomanagementmaßnahmen“ entwickelt werden. Laut dem Reuters-Bericht soll es Ausnahmen für „Sicherheitsprojekte“ und Forschung und Entwicklung geben.

Der Schritt dürfte direkte Auswirkungen auf die Pläne aus dem Hause Seehofers haben. Dieser möchte der Bundespolizei erlauben, Überwachungssysteme mit Gesichtserkennung zu installieren. Dagegen regt sich allerdings Widerspruch beim Koalitionspartner SPD. Die neue Ko-Vorsitzende Saskia Esken stellte sich zuletzt entschieden gegen die Pläne.

Kommission will Masterplan vorlegen

Die EU-Kommission beschäftigt sich seit längerem mit möglicher Gesetzgebung zu sogenannter Künstlicher Intelligenz. Im Vorjahr legte eine Expert:innengruppe der Kommission ethische Leitlinien für den Umgang mit KI fest, die allerdings auf Wunsch der Industrie deutlich abgeschwächt wurden. Die neue Kommission hat angekündigt, in diesem Frühjahr einen Fahrplan für den Umgang der Gesetzgeber mit dem Thema vorzulegen.

Das nun geleakte Arbeitspapier beschreibt fünf mögliche Handlungsoptionen für die Kommission. Zu diesen gehört die freiwillige Kennzeichnung des Einsatzes von KI, spezielle Auflagen für die öffentliche Verwaltung und für Gesichtserkennung, verpflichtende Auflagen für Hochrisiko-Anwendungen, Haftungsregeln und klar Aufsichtsstrukturen.

Im Dezember hatte eine weitere Expert:innengruppe der Kommission einen Bericht zu möglichen Haftungsregeln für KI-Anwendungen vorgelegt. Der Bericht schlägt vor, dass die Anwender von besonders risikoreicher Technologie, strenge Haftung für mögliche Schäden tragen.

Das neue Arbeitspapier beantwortet nicht direkt die Frage, wer konkret für durch KI-Anwendungen verursachte Schäden haften soll. Allerdings wird darin festgehalten, dass es für Gerichte und Strafverfolgungsbehörden vielfach schwer nachvollziehbar sei, ob Schäden aus Programmierungsmängeln der KI oder Fehlern der Anwender resultierten. Es brauche in der Frage einen neuen Ansatz.

Die Kommission wollte zu dem Arbeitspapier nicht Stellung nehmen. Allerdings betonte ein Sprecher auf Anfrage von netzpolitik.org, dass der offizielle Plan von der Leyens für den Umgang mit Künstlicher Intelligenz in Kürze folgen werde.