KI wird eingesetzt, ohne dass grundlegende rechtliche Fragen beantwortet wären, warnt Prof. Ulrich Kelber

[datensicherheit.de, 04.04.2022] Der Bundesbeauftragte für den Datenschutz und die Informationsfreiheit (BfDI) hat nach eigenen Angaben „die Ergebnisse des Konsultationsverfahrens zum Einsatz von Künstlicher Intelligenz (KI) im Bereich der Strafverfolgung und der Gefahrenabwehr“ veröffentlicht. „KI wird eingesetzt, ohne dass grundlegende rechtliche Fragen beantwortet wären. Der Gesetzgeber sollte jetzt zeitnah die notwendigen Entscheidungen treffen“, kommentiert der BfDI, Prof. Ulrich Kelber.

Foto: Bundesregierung/Kugler

Prof. Ulrich Kelber: Umfassende, empirische und interdisziplinäre Bestandsaufnahme durch den Gesetzgeber notwendig!

Im September 2021 sieben grundlegende Thesen zum KI-Einsatz zur Diskussion gestellt

Der BfDI habe im September 2021 sieben grundlegende Thesen zum Einsatz von KI im Bereich der Strafverfolgung und der Gefahrenabwehr zur Diskussion gestellt. Die eingegangenen Stellungnahmen seien nun im Konsultationsbericht ausgewertet worden.

Dieser zeige, „dass eine umfassende, empirische und interdisziplinäre Bestandsaufnahme durch den Gesetzgeber notwendig ist“. Beim KI-Einsatz müssten allgemeine Datenschutzgrundsätze beachtet und garantiert werden.

KI-Einsatz im Sicherheitsbereich bedarf spezifischer gesetzlichen Regelung

Der KI-Einsatz im Sicherheitsbereich bedürfe in der Regel einer spezifischen gesetzlichen Regelung, wobei für die Ausgestaltung dieser Regelung die spezifischen Ausprägungen der im Einzelfall eingesetzten KI-Technologie maßgeblich seien.

Aus Sicht des BfDI sei auf die Erklärbarkeit von KI ein besonderes Augenmerk zu legen. Der Schutz des Kernbereichs privater Lebensgestaltung dürfe durch den Einsatz von KI durch Sicherheitsbehörden nicht verwässert werden. KI-Anwendungen müssten daher umfassend durch die Datenschutzaufsichtsbehörden kontrolliert werden können.

Umfassende Datenschutz-Folgeabschätzung, bevor KI eingesetzt wird

Nicht zuletzt müsse es eine umfassende Datenschutz-Folgeabschätzung geben, „bevor KI eingesetzt wird“. Als Fazit stellt Professor Kelber fest: „Soweit personenbezogene Daten mit KI verarbeitet werden, ist der Gesetzgeber in Bund und Ländern bereits aufgrund seiner grundrechtlichen Schutzpflichten aufgerufen, tätig zu werden.“

Dazu sei eine umfassende öffentliche Debatte notwendig. Das BfDI-Konsultationsverfahren solle ein Schritt hierfür sein. Die ausführlichen Ergebnisse des Konsultationsverfahrens und die Beiträge der Konsultationsteilnehmer seien online im Bereich „Der BfDI“ zusammengestellt worden.

Weitere Informationen zum Thema:

BfDI, Der BfDI
Bericht über das öffentliche Konsultationsverfahren

datensicherheit.de, 04.10.2021
KI zur Strafverfolgung und Gefahrenabwehr: BfDI-Konsultationsverfahren gestartet / KI-Einsatz auf diesem Gebiet wirft laut BfDI grundsätzliche Fragen auf, die noch nicht geklärt sind

[datensicherheit.de, 04.10.2021] Der Bundesbeauftragte für den Datenschutz und die Informationsfreiheit (BfDI) hat nach eigenen Angaben am 30. September 2021 sein Konsultationsverfahren zum Einsatz Künstlicher Intelligenz (KI) in der Strafverfolgung und Gefahrenabwehr gestartet.

BfDI-Konsultationsverfahren läuft bis 18. November 2021

„Der Einsatz von Künstlicher Intelligenz im Bereich der Strafverfolgung und Gefahrenabwehr wirft grundsätzliche Fragen auf, die noch nicht geklärt sind“, erläutert hierzu der BfDI, Professor Ulrich Kelber.
Seine Behörde hat demnach ein Konsultationspapier mit sieben grundlegenden Thesen erarbeitet. „Diese stellen wir zur Diskussion. Damit möchten wir uns inhaltlich positionieren und eine öffentliche Debatte in Gang setzen.“

Stellungnahmen per E-Mail bis 18. November 2021

Das Konsultationsverfahren richtet sich laut BfDI an Akteure aus Politik, Wirtschaft, Gesellschaft und Verwaltung, die sich mit dem Thema dieses Verfahrens befassen: Alle seien dazu eingeladen, ihre Kommentare und Stellungnahmen bis zum Ende des Konsultationszeitraums per E-Mail an konsultation2021 [at] bfdi [dot] bund [dot] de zu senden.
„Das Konsultationsverfahren läuft bis zum 18. November 2021. Die Ergebnisse werden auf der Website des BfDI veröffentlicht.“

Weitere Informationen zum Thema:

datensicherheit.de, 29.09.2021
Polizeiliche Informationssysteme: BfDI-Symposium zur Datenverarbeitung / Datenschutz-Aspekte der Verarbeitung personenbezogener Daten in polizeilichen Informationssystemen am 6. Oktober 2021

[datensicherheit.de, 14.08.2018] Die Internationale Arbeitsgruppe für Datenschutz in der Telekommunikation (sog. Berlin Group), die von der Berliner Beauftragten für Datenschutz und Informationsfreiheit, Maja Smoltczyk, geleitet wird, hat auf ihrer 63. Sitzung am 9. und 10. April 2018 in Budapest (Ungarn) das Arbeitspapier Standards für den Datenschutz und den Schutz der Privatsphäre bei grenzüberschreitenden Datenanforderungen zu Strafverfolgungszwecken verabschiedet.

Komplizierte datenschutzrechtliche Fragen

Da Daten weltweit immer mehr ausgetauscht und gespeichert werden, erbitten Strafverfolgungsbehörden bei Ermittlungen immer häufiger den Zugang zu personenbezogenen Daten, die sich außerhalb ihrer Landesgrenzen befinden. Angesichts dieser Entwicklungen arbeiten Regierungen und internationale Organisationen verstärkt an Maßnahmen für einen erleichterten Zugang zu Cloud-Daten. Die grenzüberschreitenden Auskunftsersuchen werfen jedoch komplizierte datenschutzrechtliche Fragen auf.

Traditionelle Regelungen zur internationalen Koordinierung durch die Strafverfolgungsbehörden gelten mit Blick auf die zunehmende Häufigkeit und Komplexität grenzüberschreitender Datenanfragen als zu schwerfällig. Alternative Mechanismen, wie etwa freiwillige Vereinbarungen zwischen Anbietern und ausländischen Behörden, können unterschiedlichen und intransparenten Standards unterworfen sein. Fehlt es an Rechtskraft, bieten sie wenig Sicherheit für den Schutz der Rechte der betroffenen Personen.

Die Internationale Arbeitsgruppe für Datenschutz in der Telekommunikation skizziert in ihrem kürzlich veröffentlichten Arbeitspapier die aktuellen Entwicklungen im Bereich grenzüberschreitender Datenabfragen für die Strafverfolgung. Sie fordert die beteiligten Akteure dazu auf, bei der Förderung einer schnellen Bearbeitung legitimer grenzüberschreitender Datenanfragen, die Interessen des Datenschutzes und der Privatsphäre stets zu wahren und gibt Empfehlungen, wie dies gewährleistet werden kann.

Weitere Informationen zum Thema:

Berlin Group
Arbeitspapier „Working Paper on Standards for data protection and personal privacy in cross-border data requests for criminal law nforcement purposes (Budapest (Hungary) 9/10 April 2018)“

datensicherheit.de, 24.07.2018
Command Control: Datenschutz ist neue Vertrauenswährung

datensicherheit.de, 20.07.2018
Datenschutzkonferenz mit eigener Website

[datensicherheit.de, 19.10.2011] Die Diskussion über den sogenannten „Staatstrojaner“ (bzw. „Bundestrojaner“) habe nun ein zweites Mal Politik und Öffentlichkeit erreicht. Die aktuelle Debatte konzentriere sich auf die Frage, inwieweit staatliche Stellen manipulierte beziehungsweise manipulative Software auch zur Überwachung der laufenden Kommunikation einsetzen dürfen. Angesichts der Tatsache, dass die jetzt in Bayern bekannt gewordenen Überwachungsvorgänge zur Quellen-Telekommunikationsüberwachung nach dem Urteil des Bundesverfassungsgerichts vom 22. Februar 2008 stattgefunden hätten, sei deren Rechtmäßigkeit daran zu messen, ob die verfassungsrechtlichen Vorgaben eingehalten wurden, so Bundesdatenschutzbeauftragter Peter Schaar in einer aktuellen Stellungnahme:
Bis heute gebe es keinerlei explizite Regelungen für die Quellen-Telekommunikationsüberwachung. Dementsprechend stützten sich die Gerichte bei der Anordnung entsprechender Maßnahmen auf die allgemeinen Regelungen zur Telekommunikationsüberwachung – sie bewegten sich dabei in einer rechtlichen Grauzone. Einerseits habe das Bundesverfassungsgericht die Quellen- Telekommunikationsüberwachung nicht grundsätzlich verboten, andererseits fordere das Gericht technische und rechtliche Sicherungen zur Gewährleistung, dass sich die Überwachung auf den laufenden Telekommunikationsvorgang beschränke.
Da es sich bei der Quellen-Telekommunikationsüberwachung stets um einen schwerwiegenden Grundrechtseingriff handele, so Schaar, müssten die wesentlichen Festlegungen durch den Gesetzgeber selbst getroffen werden.
Dies sie indes – jedenfalls in der Strafprozessordnung – bisher unterblieben. In der Konsequenz liege es nahe, dementsprechend auf die Quellen-Telekommunikationsüberwachung im Bereich der Strafverfolgung zu verzichten. Dies scheine auch die Praxis der Bundesanwaltschaft zu sein, von der öffentlich berichtet werde, dass sie nach dem Urteil des Bundesverfassungsgerichts keine solche mehr beantragt habe. Allerdings hielten es Staatsanwaltschaften offenbar nicht überall so und Gerichte ordneten entsprechende Maßnahmen an – und seitens einiger Landesinnenminister sei zu hören, dass sie trotz widersprüchlicher Gerichtsentscheidungen keinerlei Zweifel an der Zulässigkeit der Überwachungspraxis hätten.
Auch wenn zu dieser Praxis noch keine höchstrichterlichen Entscheidungen vorliegen, sieht Schaar dringenden rechtspolitischen Handlungsbedarf. Das Bundesverfassungsgericht verdeutliche zwar den verfassungsrechtlichen Rahmen, lasse dem Gesetzgeber aber erhebliche Spielräume, diesen zu füllen. Angesichts der widersprüchlichen Auslegung der strafprozessualen Vorschriften halte er es für dringend geboten, dass der Bundestag hierzu endlich Klarheit schafft. Dabei stehe es in dessen Ermessen, ob die Quellen-Telekommunikationsüberwachung gänzlich verboten oder in engen Grenzen zugelassen wird. Dabei werde sicherlich auch eine Rolle spielen, ob es rechts- und kriminalpolitisch vertretbar sei, auf Telekommunikationsüberwachung gänzlich zu verzichten, soweit von Verdächtigen verschlüsselte Kommunikationsmittel eingesetzt werden.

Weitere Informationen zum Thema:

Datenschutz FORUM, 15.10.2011
Staatstrojanerdebatte 2.0 – Der Gesetzgeber ist gefordert!