Das Bundesverfassungsgericht hat am Donnerstag (16.02.) in einem Grundsatzurteil den Einsatz der Palantir-Überwachungssoftware durch die Polizei in Hessen und Hamburg für verfassungswidrig erklärt.
Das Urteil schließt einen im vergangenen Jahr von der Deutschen Gesellschaft für Bürgerrecht (GFF) angestrengten Fall ab, dessen Anhörung im Dezember begann. Die Kläger argumentierten, dass die Software für Predictive Policing verwendet werden könnte, was das Risiko von Fehlern und Diskriminierung durch die Strafverfolgungsbehörden erhöhe.
Das Bundesland Hessen nutzt die Software seit 2017, allerdings noch nicht in Hamburg. Die Technologie wird von Palantir bereitgestellt, einem US-amerikanischen Datenanalyseunternehmen, das frühzeitig Unterstützung von Geheimdiensten wie CIA, FBI und NSA erhielt.
Der Fall wurde im Namen von 11 Klägern vorgebracht und stützte sich auf das Argument, dass das Softwareprogramm mit dem Namen „Hessendata“ eine vorausschauende Polizeiarbeit ermöglicht, indem Daten verwendet werden, um Profile von Verdächtigen zu erstellen, bevor eine Straftat begangen wird.
Die Rechtsgrundlage der Genehmigungsgesetze für diese Systeme wurde von der GFF in Frage gestellt. Hessen und Hamburg hätten nicht klargestellt, aus welchen Quellen die Polizei Daten beschaffen könne oder in welchem Umfang und aus welchen Gründen Data Mining durch die Strafverfolgungsbehörden betrieben werden könne.
Die der Polizei in Hessen eingeräumten Befugnisse seien laut Gericht über die Plattform Hessendata jährlich tausendfach genutzt worden.
Staatsvertreter haben jedoch argumentiert, dass die Software der Schlüssel zur Verbrechensverhütung ist und lediglich an anderer Stelle gesammelte Daten sammelt und verarbeitet.
Palantir, von dessen Gotham-KI-System Hessendata abgeleitet ist, hat erklärt, dass es nur die Software für die Datenanalyse und nicht die Daten selbst bereitstellt.
„Palantir bringt die Software zu den Daten, nicht die Daten zur Software“, sagte Palantirs Executive Vice-President for Strategy and Communications, Jan Hiesserich, gegenüber der deutschen Zeitung Handelsblatt.
„Unsere Kunden bestimmen, welche Daten nach den einschlägigen gesetzlichen Bestimmungen ermittlungsrelevant sind.“
Am Donnerstag hat das Verfassungsgericht in Karlsruhe jedoch Gesetze verworfen, die eine gesetzliche Grundlage dafür geschaffen haben, dass die Polizei gespeicherte personenbezogene Daten durch automatisierte Datenanalyse, im Fall von Hessen, oder automatisierte Dateninterpretation, in Hamburg verarbeitet.
Die Systeme wurden als verfassungswidrig eingestuft, da sie das Recht auf informationelle Selbstbestimmung verletzten.
„Angesichts der besonders weiten Formulierung der Befugnisse, sowohl hinsichtlich der Daten als auch der betreffenden Methoden, bleiben die Eingriffsgründe weit hinter der verfassungsrechtlich gebotenen Schwelle einer erkennbaren Gefahr zurück“, so das Gericht in einer Stellungnahme.
Der Einsatz automatisierter Maßnahmen, die auf diese Weise in die Rechte von Menschen eingreifen, sei „nur zum Schutz besonders gewichtiger Rechtsgüter – etwa des Lebens, des Körpers oder der Freiheit der Person – zulässig“.
Das Urteil hebt das Hamburgische Gesetz auf, dh die Anlage wird nicht installiert. Das Bundesland Hessen, wo die Technik bereits im Einsatz ist, hat nun bis zum 30. September Zeit, seine Gesetzgebung zu reformieren. In der Zwischenzeit bleibt es mit Einschränkungen bestehen.
Der Fall werde auch weiterreichende Konsequenzen haben, sagte Bijan Moini, Leiter des Rechtsteams der GFF: „Das Bundesverfassungsgericht hat der Polizei heute den Blick in die Kristallkugel untersagt und strenge Richtlinien für den Einsatz intelligenter Software in der Polizeiarbeit formuliert. Das war wichtig, denn die Automatisierung der Polizeiarbeit ist erst der Anfang.“
Im Dezember forderte ein Bericht der EU-Grundrechtsbehörde die politischen Entscheidungsträger auf, sicherzustellen, dass KI-Algorithmen, die von Strafverfolgungsbehörden für vorausschauende Polizeiarbeit verwendet werden, auf Verzerrungen getestet werden, die möglicherweise zu Diskriminierung führen könnten, insbesondere im Zusammenhang mit dem KI-Gesetz, auf das sich der Gesetzgeber stützt arbeitet derzeit.
Die Anwendung von KI-gesteuerten Tools durch die Strafverfolgung ist auch ein kontroverser Punkt in den Diskussionen über das KI-Gesetz, eine wegweisende EU-Gesetzgebung zur Regulierung von KI. Der EU-Ministerrat drängt darauf, der Polizei mehr Spielraum zu geben, während progressive Abgeordnete für einen restriktiveren Ansatz plädieren.
[Edited by Luca Bertuzzi/Alice Taylor]