- 10 months ago
- #39c3
Blackbox Palantir #39c3
1958-deu-eng-Blackbox_Palantir
Wer nutzt in Deutschland Software von Palantir und wer hat das in naher Zukunft vor? Was sind die rechtlichen Voraussetzungen für den Einsatz solcher Analysewerkzeuge? Und was plant Innenminister Alexander Dobrindt in Sachen Palantir für die Polizeien des Bundes?
Software von Palantir analysiert für Polizeien und Militär deren Daten – dafür lizenzieren auch deutsche Polizeibehörden seit Jahren die Analysesoftware Gotham des US-Unternehmens. Die Software verarbeitet strukturierte und unstrukturierte Informationen aus Polizeidatenbanken. Die genauen Funktionsweisen sind für die Öffentlichkeit, Gesetzgeber und Kontrollbehörden jedoch nicht einsehbar.
Das US-Unternehmen ist hochumstritten und auch in Deutschland seit einigen Gesetzesinitiativen wieder umkämpft – wegen seiner intransparenten Analysemethoden, seiner Zusammenarbeit mit autoritären Staaten und seiner Nähe zur US-Regierung.
Rechtlich ist der Einsatz von Analysetools wie von Palantir in Deutschland ohnehin komplex, denn das Bundesverfassungsgericht hat 2023 deutliche Grenzen für polizeiliche Datenanalysen gezogen. Dennoch haben mehrere Bundesländer für ihre Polizeien Verträge oder streben sie an. Auch auf Bundesebene wird der Einsatz für das Bundeskriminalamt und die Bundespolizei hitzig diskutiert.
Wie funktioniert Gotham und welche Gefahren gehen damit einher?
Welche Entwicklungen sind im Bund und in den Ländern zu beobachten? Wie geht es weiter?
Wir wollen über den Stand der Dinge in Bund und Ländern informieren und auch zeigen, wie wir versuchen, rechtliche Vorgaben durchzusetzen. Denn die GFF und der CCC sind an Verfassungsbeschwerden beteiligt, unter anderem in Hessen, Hamburg und zuletzt in Bayern.
Licensed to the public under http://creativecommons.org/licenses/by/4.0
39c3-1958-deu-eng-Blackbox_Palantir
1958-deu-eng-Blackbox_Palantir
Wer nutzt in Deutschland Software von Palantir und wer hat das in naher Zukunft vor? Was sind die rechtlichen Voraussetzungen für den Einsatz solcher Analysewerkzeuge? Und was plant Innenminister Alexander Dobrindt in Sachen Palantir für die Polizeien des Bundes?
Software von Palantir analysiert für Polizeien und Militär deren Daten – dafür lizenzieren auch deutsche Polizeibehörden seit Jahren die Analysesoftware Gotham des US-Unternehmens. Die Software verarbeitet strukturierte und unstrukturierte Informationen aus Polizeidatenbanken. Die genauen Funktionsweisen sind für die Öffentlichkeit, Gesetzgeber und Kontrollbehörden jedoch nicht einsehbar.
Das US-Unternehmen ist hochumstritten und auch in Deutschland seit einigen Gesetzesinitiativen wieder umkämpft – wegen seiner intransparenten Analysemethoden, seiner Zusammenarbeit mit autoritären Staaten und seiner Nähe zur US-Regierung.
Rechtlich ist der Einsatz von Analysetools wie von Palantir in Deutschland ohnehin komplex, denn das Bundesverfassungsgericht hat 2023 deutliche Grenzen für polizeiliche Datenanalysen gezogen. Dennoch haben mehrere Bundesländer für ihre Polizeien Verträge oder streben sie an. Auch auf Bundesebene wird der Einsatz für das Bundeskriminalamt und die Bundespolizei hitzig diskutiert.
Wie funktioniert Gotham und welche Gefahren gehen damit einher?
Welche Entwicklungen sind im Bund und in den Ländern zu beobachten? Wie geht es weiter?
Wir wollen über den Stand der Dinge in Bund und Ländern informieren und auch zeigen, wie wir versuchen, rechtliche Vorgaben durchzusetzen. Denn die GFF und der CCC sind an Verfassungsbeschwerden beteiligt, unter anderem in Hessen, Hamburg und zuletzt in Bayern.
Licensed to the public under http://creativecommons.org/licenses/by/4.0
39c3-1958-deu-eng-Blackbox_Palantir
Category
🤖
TechTranscript
00:00Yeah, thank you, Kalesi. Is the microphone on? Okay.
00:21Ja, tatsächlich ist die Kombination aus juristischer Perspektive und juristischer Gegenwehr und der technischen Analyse dieser Systeme, glaube ich, hier ziemlich angebracht.
00:35Und genau das wollen wir auch machen. Wir wollen darüber berichten, was juristisch läuft, also welche Verfassungsbeschwerden und generell juristische Gegenmaßnahmen in Deutschland gerade laufen.
00:48Wir wollen aber auch sozusagen von der anderen Seite berichten, welche Bundesländer haben oder planen Rechtsgrundlagen für den Einsatz von Palantir oder Konkurrenten.
00:59Wir wollen uns darüber unterhalten, wie die im Amtsdeutsch automatisierte Datenanalyse läuft, was sie praktisch kann, was deren Risiken sind und ein bisschen über die Zukunft sprechen.
01:12Also was wird wohl uns hier in naher Zukunft auch beschäftigen? Wir haben vor zwei Jahren mit Simone und Jürgen von der GFF schon mal über Palantir gesprochen.
01:24Das war unmittelbar nach dem Bundesverfassungsgerichtsurteil, was im Februar 2023 ergangen ist.
01:33Aber seither hat sich eine ganze Menge getan und darüber wollen wir auch reden, wie sich die Diskussion um Palantir und generell die automatisierte Datenanalyse verändert hat.
01:43Und wo wir 2026 schlicht weitermachen müssen.
01:48Ja, das wollen wir machen und am Anfang wollen wir vor allen Dingen mal sagen, ja, was macht diese automatisierte Datenanalyse und was ist sie auch juristisch?
01:58Automatisierte Datenanalyse, von der wir heute sprechen wollen, ganz einfach erklärt bedeutet, wir haben Behörden, in unserem Beispiel meist die Polizei und die hat sehr viel verschiedene Daten in verschiedenen Datenbanken.
02:11Die funktionieren manchmal gut, manchmal schlecht miteinander.
02:14Man kann sie praktisch oder wenig zusammenverwenden und die Idee ist jetzt, man führt all diese Daten zusammen und lässt da ein Computerprogramm drüber laufen.
02:21Und dieses Computerprogramm, das soll dann nicht nur Datenabgleiche ermöglichen, also gucken, Datenbank A und Datenbank B ist da eine Übereinstimmung, sondern es soll wirklich aus diesen Daten neues Wissen generiert werden.
02:33Das hört sich jetzt sehr technisch an, aber das bedeutet, die Software, die soll Verbindungen aufzeigen, die soll vielleicht nochmal Erkenntnisse bringen, die der Mensch so gar nicht gefunden hätte.
02:41Die Software soll tatsächlich die Ermittlungsarbeit machen im Sachverhalt.
02:45Und das kann so weit gehen, dass man wirklich von KI-basierten Profilen, Gefährlichkeitsprognosen, Sachverhaltsbewertungen entsprechen kann.
02:53Die sind da vorstellbar, wo man wirklich sagt, der Computer, der wird im Prinzip Teil der Polizeiarbeit, Teil der Ermittlungsarbeit, zum Beispiel auch in Geheimdiensten, wo auch immer er eingesetzt wird.
03:02Jetzt hört sich das erstmal ja ganz cool an, denkt man sich, ja, ist doch voll praktisch, soll doch der Computer machen, bis man sich klar macht, dass, wenn wir über die Polizei sprechen,
03:10in Polizeidatenbanken nicht nur Daten sind von Straftäterinnen und Straftätern.
03:15Der Begriff ist ja ohnehin fragwürdig, aber sagen wir mal so, in diesen Polizeidatenbanken, da landet man ganz schön schnell.
03:21Zum Beispiel, wenn man in einen Verkehrsunfall verwickelt wird, wenn man Zeuge von einer Straftat wird oder betroffen ist von einer Straftat,
03:27wenn man als Whistleblowerin oder Whistleblower involviert ist oder zum Beispiel auch, wenn man vermisst ist als Person,
03:33dann landet man in sogenannten Vorgangsdatenbanken bei der Polizei.
03:36Da landet man im Prinzip schon immer da, wenn irgendeine Form von Arbeitsvorgang bei der Polizei läuft und man als Person davon betroffen ist.
03:43Heißt, in diesen Datenbanken landen auch Menschen, die überhaupt gar keinen Anlass dafür geboten haben,
03:48sicherheitsbehördlich überwacht zu werden.
03:50Also wo es überhaupt keine Anhaltspunkte dafür gibt, dass man sagt, die Person könnte gefährlich sein, die könnte eine Straftat begehen.
03:56Was noch dazu kommt, dass in diese Vorgangsdatenbanken oder auch in anderen Datenbanken riesige Datensätze liegen können,
04:02die dann in ganz großem Umfang Daten von Menschen betreffen, die bislang unbeteiligt waren.
04:07Auf der Folie steht jetzt Funkzellenabfragen.
04:09Dann macht man eine Funkzellenabfrage, will eigentlich eine Handynummer und da sind Tausende und weitere Mobiltelefone von völlig unbetroffenen Menschen sind.
04:15Auch die können in solchen Datenanalyse-Tools landen.
04:17Das gleiche gilt für Telekommunikationsdaten.
04:20Auf der Folie steht jetzt Gefahr ohne Anlass ins staatliche Visier zu gelangen.
04:24Das hört sich jetzt erstmal, wenn man so an sich selber denkt, vielleicht nicht so wahrscheinlich an, dass man denkt,
04:28ah, jetzt wurde mir einmal mein Fahrrad gestohlen und ich habe da Anzeige erstattet, jetzt wird die Analyse sagen, du bist gefährlich.
04:35Das Risiko erhöht sich natürlich, je mehr Daten von mir in so einer Datenbank sind.
04:39Und das betrifft zum einen natürlich Menschen, die sich zum Beispiel politisch engagieren,
04:43die dadurch viel in Kontakt mit den Sicherheitsbehörden kommen, zum Beispiel auf Demonstrationen.
04:47Es kann auch betreffen BerufsgeheimnisträgerInnen wie StrafverteidigerInnen und RechtsanwältInnen,
04:52die sehr viel Kontakt mit Menschen haben, die polizeilich beobachtet werden.
04:55Es kann aber auch andere Berufsgruppen betreffen, die man vielleicht gar nicht so mitbedenkt,
04:59zum Beispiel SozialarbeiterInnen.
05:00Ein ganz plastisches Beispiel, wir haben einen Kläger, der engagiert sich in der Ferienhilfe beim Fußball
05:05und hat dadurch einfach durch dieses Ehrenamt sehr viel Kontakt mit gewaltbereiten Fußballfans.
05:11Bedeutet auch, der ist immer da, wo die sind bei den Spielen und versucht zu deeskalieren
05:14und dadurch wird der häufiger Zeuge von Vorfällen, wird vielfach erkennungsdienstlich erfasst.
05:19Risiko, wenn so ein Tool nicht richtig programmiert ist und vielleicht falsche Schlüsse zieht,
05:24womöglich auch diskriminierende Schlüsse, dann droht am Ende,
05:26dass das Tool Verbindungen und Gefahren prognostiziert, die gar nicht da sind.
05:29Und so rutschen Menschen ins Visier allein durch so ein Tool.
05:33Im schlimmsten Fall steht irgendwann die Polizei vor der Tür oder es folgen heimliche Ermittlungsmaßnahmen,
05:37ohne dass man davon überhaupt etwas mitkriegt.
05:39Wir haben jetzt hier als Beispiele meistens so die großen polizeilichen Datenstrukturen.
05:47Also bei Funkzeilenabfragen sind es natürlich irgendwie zehntausende Datensätze,
05:51aber es sind natürlich auch Datensätze, die in diese automatisierte Datenanalyse einfließen könnten,
05:58die aus ganz spezifischen Überwachungsmaßnahmen stammen, etwa Wohnraumüberwachung, Staatstrojaner,
06:04wo man natürlich auch Gefahren hat, dass man in die Intimsphäre von Menschen eingreift.
06:08Also es gibt noch mehr, sehr viel weniger Datensätze, die da auch einfließen.
06:13Im Prinzip ist es die komplette heterogene, polizeiinterne Datenmannschaft.
06:18Das ist alles noch unabhängig von Palantir und hat eigentlich, ich muss es so ehrlich sagen,
06:23immer sehr wenige Leute interessiert.
06:25Es ist schlicht immer so ein bisschen unter dem Radar gelaufen und das hat sich diese der fundamental verändert.
06:32Für mich eine positive Überraschung.
06:34Da kommen wir gleich noch ein bisschen drauf, ab wann sich das so verändert hat.
06:38Aber damit zu tun hat auf jeden Fall auch der Konzern Palantir, der mit der deutschen automatisierten Datenanalyse-Debatte zusammenhängt,
06:47weil wir eben Bundesländer haben, die konkret Produkte dieses Konzerns einsetzen.
06:53Und was hat sich eigentlich bei dem Konzern an sich getan?
06:57Das eine ist sicherlich, ich würde das mal jetzt nennen, die geopolitische Gesamtsituation.
07:05Palantir hat sich in den USA als sehr, oder auch mit einer starken Öffentlichkeitsarbeit des hier abgebildeten Chefs,
07:13Alexander Korp, in dem politischen Diskurs um die Deportation und die Datenbanken vom ICI eingemischt.
07:22Also es war nicht nur, dass sie vertraglich unglaublich daran verdienen,
07:25sondern eben auch in der Öffentlichkeitsarbeit sehr stark daran mitgewirkt haben.
07:29Lange Zeit hat man von Alexander Korp wenig gehört.
07:34Die wichtigere Figur war immer eher Peter Thiel, der auch, glaube ich, ein bisschen oder länger schon umstritten ist
07:41und so ein bisschen ein negatives Image hat.
07:44Während Korp immer so zwei Schritte dahinter war, oft konnte man ihn bei Diskussionen sehen.
07:50Es gibt ein sehr interessantes Filmporträt über ihn.
07:53Aber das hat sich dieses Jahr fundamental verändert.
07:55Er hat große Interviews gegeben in mehreren Sprachen, wo er sehr offensiv auch diese Deportationspolitik verteidigt.
08:04Gleichzeitig aber auch sagt, dass er natürlich seinen Code of Ethics, den es natürlich auch bei Palantir gibt,
08:13dass er dem immer folgen würde, aber darüber kann er natürlich öffentlich nicht sprechen.
08:18Ich empfehle die Interviews insgesamt zur Lektüre, weil sie interessant sind,
08:23insbesondere das große Interview bei Wired.
08:25Ich fand die verhältnismäßig defensiv, also überraschend.
08:31Aber sie waren eben auch zu großem Teil patriotisch-nationalistisch geprägt.
08:36Und im Zusammenhang mit dieser US-Politik und dem zunehmenden politischen Druck,
08:41der sich so mit den US-Tech-Konzernen und den europäischen Datenpolitiken verbindet,
08:47hat natürlich den Zungenschlag der Diskussion um den Einsatz, den konkreten Einsatz dieser Software zu automatisierten Datenanalyse verändert.
08:56Und hinzu kommt natürlich auch noch, wir haben jetzt einen Koalitionsvertrag, da steht digitale Souveränität drin.
09:01Wir haben Diskussionen in anderen Ländern Europas, die ebenfalls einigen der US-Tech-Konzernen kritisch gegenüberstehen.
09:10Und wir haben vor allen Dingen eine besondere Art von Daten, denn es sind natürlich polizeiinterne Daten, die hoheitlich sind.
09:16Und deshalb, glaube ich, die Debatte sich nochmal so ein bisschen gedreht hat.
09:20Ich will vielleicht noch einen kleinen Satz sagen zu Peter Thiel, der irgendwie durch Europa getourt ist mit seiner Antichrist-Tour.
09:28Ich erspare euch aber da irgendwie Details.
09:30Einige Journalisten haben sich ja in diese Workshops gesetzt.
09:32Also wer sich für akademische, interreligiöse Debatten interessiert, kann sich das ja durchlesen.
09:41Offenbar, wenn man in die Millionärsriege aufsteigt, macht das irgendwas mit dem Gehirn.
09:45Also, ich will mich wenig zu Peter Thiel äußern, weil er einfach mit dem Konzern und den Geschäftspraktiken relativ wenig zu tun hat.
10:03Er gehört aber zu der Lobhuldigungsgilde der US-Tech-Konzerne, die also irgendwie Trump die Füße küsst.
10:11Da gehört er natürlich dazu, auch relativ offensiv, aber auf die eigentliche Politik des Konzerns hat er wenig Einfluss.
10:16Die hat sich nämlich auch geändert.
10:19Nicht nur, dass sie nach wie vor ihre Software, das ist hier die Werbung für Gossam, die auch in Deutschland zum Einsatz kommt,
10:25immer sehr militaristisch und patriotisch bewerben, mit langen Videos, die immer so die Ästhetik von First-Person-Shootern haben.
10:36Also, ganz merkwürdige Ästhetik.
10:38Aber das ist eben auch die Ursuppe, aus der die kommen, also Verträge mit den Militärs und den Geheimdiensten, da kommen die her,
10:44da haben die 21 Jahre lang immer nur Geld bekommen und nie Geld verdient.
10:47Aber es hat sich natürlich jetzt geändert und darin ist natürlich auch die Trump-Regierung nicht ganz unschuldig,
10:53die die großen Multimillionenverträge auch rübergerückt hat.
10:57Vielleicht dazu noch, wenn wir über Gossam sprechen, Palantir hat eine ganze Reihe von Produkten.
11:04Gossam ist das Produkt für die Sicherheitsbehörden und es wird vielfach gefragt, was kann es eigentlich?
11:09Da widersprechen die Aussagen immer je nachdem, in welchem Kontext man fragt.
11:14Auf Veranstaltungen heißt dann oft, das sei keine KI und es könne auch kein Predictive Policing.
11:19Wenn man auf die Werbeseite guckt, dann steht da das und da steht auch irgendwie AI-Driven Superiority und so.
11:25Das bedeutet, ich kann nur jedem empfehlen, der es noch nicht gemacht hat, sich mal so ein Werbeclip auch anzugucken.
11:31Da kriegt man nämlich einen Eindruck, was da zumindest nach eigener Konzernwerbung verkauft werden soll.
11:37Und das ist keine Datenabgleich-Möglichkeit, sondern da geht es wirklich um extrem komplexe Predictive Policing bzw. Voraussage- und Analyse-Tools.
11:48Es wird jetzt hier niemand überraschen, dass natürlich mit dem Beginn 2022, dass jetzt alle KI ist, auch hier die Werbung umgestellt wurde.
11:54Das ist natürlich auch alle AI jetzt.
11:57Letztlich, für mich haben sich diese Werbevideos wenig verändert.
12:02Ob es jetzt KI heißt oder Big Data, wie vor fünf Jahren noch hieß, spielt ja keine Rolle.
12:07Wichtig ist, glaube ich, dass sie sich so ein bisschen in Deutschland als Marktführer etabliert haben, was einige der Spitzenpolitiker vor allen Dingen in den Landesparlamenten auch wie die Papageien übernehmen.
12:16Aber wir wollen zu den Konkurrenten und was die zu dem angeblichen Marktführer sagen, später noch kommen.
12:22Es hat Franziska die allgemeinen Risiken der automatisierten Datenanalyse schon genannt.
12:30Wir wollen die aber nochmal ganz konkret machen für den Einsatz von Palantir.
12:35Denn dadurch, dass es nun mal der Konzern ist, den wir jetzt so ein bisschen umrissen haben, kommen ja da ein paar neue Probleme dazu, die nicht unbedingt nur rechtlicher Natur sind.
12:44Genau, in dem Bereich. Erster Punkt.
12:47Wir haben ja schon darüber gesprochen, wenn das jetzt wirklich so komplexe Analysesysteme sind, wo überhaupt nicht mehr nachvollziehbar ist, wie kommen die zu ihren Ergebnissen?
12:53Dann haben wir so schon ein Transparenzproblem. Das heißt, dann stellt sich am Ende die Frage, okay, aber wie ist denn der Computer jetzt zu dem Ergebnis gekommen, dass da eine Verbindung besteht oder dass die Person gefährlich sein könnte?
13:01Das besteht natürlich in total erhöhtem Maße. Wenn wir eine Software haben, wo wir nicht wissen, wie ist die programmiert worden? Welche Daten sind da zugrunde gelegt?
13:08Im besseren Fall macht sie Fehler, ist sie irgendwo diskriminierend, weil die Daten, die zum Training genutzt wurden, diskriminiert waren. Im schlimmsten Fall ist die Software manipuliert, sind irgendwelche Hintertüren drin, sind Datenabflüsse möglich?
13:20Das ist natürlich noch mal schwerer zu überprüfen, wenn man so einen Code bekommt.
13:24Wenn wir über Palantir Gotham sprechen, müssen wir heute wahrscheinlich auch direkt darüber reden.
13:28Heißt immer, ja, das ist ja geprüft worden vom Fraunhofer Institut. Dazu zwei Punkte.
13:32Der erste Punkt ist die Prüfung war 2023. Einmal so ein Tool wird natürlich geupdatet.
13:38Das bedeutet nur, weil damals so nach Berichterstattung gesagt wurde, da sei keine Hintertür drin.
13:43Heißt das nicht, dass da nicht heute eine drin sein kann? Das ist einfach nicht ausgeschlossen bei einer einmaligen Prüfung.
13:48Und zum anderen, die Prüfberichte, die sind nicht öffentlich. Das bedeutet, wir haben die nicht gesehen und auch die Abgeordneten haben die nicht gesehen.
13:55Das bedeutet, uns wurde mitgeteilt, das sei das Ergebnis, die Berichte gesehen und den Prüfungsumfang beurteilen.
14:00Das können wir aber nicht. Heißt, wir haben zuerst mal ein Intransparenzproblem und einfach ein Risiko, dass eine Nachvollziehbarkeit verloren geht und das einfach Fehler, Diskriminierung, aber halt auch im schlimmsten Fall Manipulation drohen.
14:13Aber Franziska, die Polizei Bayern hat gesagt, es sei ein außergewöhnlicher Vertrauensbeweis von Palantir, dass sie in die Prüfung eingewilligt haben.
14:24Das steht tatsächlich so in der Pressemitteilung der Polizei Bayern. Die haben sogar den Bericht als Verschlusssache stempeln lassen.
14:33Genau. Also niemand von uns hat den gesehen. Und ich habe noch nie jemanden gesprochen, der mir dazu wirklich mehr sagen konnte.
14:39Und natürlich auch nicht die zuständigen Kontrollbehörden.
14:42Nein. Nächster Punkt, der aber vielleicht nochmal einen ganz anderen Punkt mit sich bringt, ist das Thema, gerade ist der Begriff digitale Souveränität gefallen.
14:50Wenn man sich abhängig macht von Software Tools von anderen Staaten oder von privaten Unternehmen, dann droht, dass man die dann halt auch braucht für die eigene Arbeit.
14:58Und das hören wir aktuell immer. Das heißt, das sei alternativlos. Wir brauchen die unbedingt. Wir sind ohne die aufgeschmissen.
15:03Wir wissen gar nicht mehr, wie wir ohne arbeiten sollen. Das bringt natürlich Risiken zum einen mit, dass Preis dann vielleicht auch mal ein bisschen erhöht werden kann, wenn man weiß, die brauchen sie ja unbedingt.
15:15Ohne können sie offensichtlich nicht mehr arbeiten. Das kann aber natürlich auch ermöglichen, dass irgendwann Nutzungsbedingungen angepasst werden oder verändert werden.
15:22Auch zum Nachteil. Ich mache da immer das plastische Beispiel. Wir hören aktuell immer in den Bundesländern, Palantir läuft auf eigenen Servern.
15:28Es läuft nicht auf Servern von Palantir. Es läuft nicht in irgendeiner Cloud. Ja, klar. Aber wenn man fünf Jahre als Bundesland oder als Polizei im Bundesland mit so einer Software arbeitet und da sind Ermittlungserkenntnisse der letzten fünf Jahre drin und dann sagt der Anbieter, können wir jetzt leider technisch nicht mehr machen.
15:42Wir bräuchten jetzt doch die Cloud Lösung. Dann besteht halt auch das Risiko, dass man das Tool einfach so dringend braucht, dass man so Nutzungsänderungen vielleicht auch mitgeht.
15:50Ich muss da immer an die Wahlcomputer denken. Ich weiß nicht, könnt ihr euch erinnern, am Ende der Wahlcomputer-Debatte in den Niederlanden hat der Softwarehersteller gesagt, nee, wir kooperieren nicht mehr.
16:02Und das Problem ist natürlich hier ganz klar auch da. Denn die sind nicht interoperabel, die wollen auch nicht interoperabel sein, selbstverständlich nicht. Das ist Teil ihrer proprietären Softwarestrategie.
16:21Das sind alle Geschäftsgeheimnisse, wie diese Software operiert. Und entsprechend hätten die natürlich auch überhaupt kein Interesse, mit einem vielleicht Nachfolge-Software-Projekt zu kooperieren.
16:34Und dann besteht einfach das Risiko, wenn da wieder fünf Jahre Ermittlungsarbeit drin sind. Die will man ja auch behalten, unabhängig davon, ob man wechseln könnte.
16:41Ich glaube, wir werden auch ausführlich über das Thema Übergangslösung, Interimlösung sprechen.
16:45Aber was in dem Moment ja schon möglich gemacht wird, ist, ein privater Konzern kriegt einen Zugriff darauf, wie deutsche Polizeibehörden arbeiten, jetzt jedenfalls, und im schlimmsten Fall in irgendeiner Form möglicherweise Zugriff auch hochsensible Polizeidaten.
17:00Und die sind einfach im höchsten Maß relevant für die Grundrechte der Betroffenen.
17:05Wir machen jetzt nochmal einen kleinen Bogen zurück, weil wir jetzt darauf kommen wollen, wie ist denn die Situation in den einzelnen Bundesländern?
17:12Und sozusagen, wie lange geht denn diese Geschichte jetzt zurück?
17:16Das wird aber nur ganz kurz, einfach um klarzumachen, warum sich derzeit insbesondere die hessische, aber auch die Polizei NRW so als Palantir-Werbepersonen so ein bisschen präsentieren.
17:29Die sind halt einfach auch wirklich eine Generation nichts anderes mehr gewöhnt.
17:34Das ist jetzt fast, wir können darüber eigentlich hinweggehen, also das ist jetzt, es ist im Prinzip zehn Jahre gelebter Standard, wenn man jetzt noch die Pilotphasen da vornimmt.
17:44Und das war auch einer der Gründe zumindest, habe ich das praktisch so empfunden bei der Anhörung beim Bundesverfassungsgericht, dass die hessische Polizei ganz deutlich gesagt hat, ja wir sind irgendwie abhängig.
17:56Das haben die auch sehr klar gemacht, dass sie bei diesem, genau diesem Produkt auch bleiben wollen.
18:02Sie sind damit rundherum zufrieden und immer wenn die Presse sozusagen beim hessischen LKA mal wieder Filme dreht, dann, ja da stehen überall diese Aufsteller rum, die Palantir-Aufsteller und die lassen sich eben auch sehr gerne als Werbefiguren da filmen. Immer wieder.
18:20Genau. 2017, 18 steht da auf der Folie, wir wollen den Weg machen zu dem Urteil, dem maßgeblichen bundesverfassungsgerichtlichen Urteil, das es in dieser Sache gibt.
18:302017 und 18 wurden die Polizeigesetze in Hessen und Hamburg geändert und beide Bundesländer sind auf die Idee gekommen, in diese Polizeigesetze eine Grundlage für so Datenanalysen reinzuschreiben.
18:40Also man wollte der Polizei erlauben, diese automatisierten Datenanalysen durchzuführen.
18:44Der Unterschied war, in Hamburg hat man zwar so eine Rechtsgrundlage geschaffen, also man hat im Gesetz erlaubt, das zu machen, hat sich aber nicht entschieden, es tatsächlich zu machen.
18:51Zumindest soweit wir wissen, da gab es keine Lizenzverträge.
18:53Anders in Hessen.
18:55In Hessen hat man sich, wie Konstanz schon gesagt hat, dazu entschieden, Hessendata einzusetzen.
19:00Hessendata basiert auf der Software, über die wir gerade gesprochen haben, auf Palantir Gotham.
19:04In dem Zuge, weil die GFF sich damals diese Polizeigesetze insgesamt angeguckt hat, ist uns auch diese Rechtsgrundlage aufgefallen.
19:10Und wir haben gedacht, naja, das für die Grundrechte aus den oben genannten Gründen, also vor allem, weil da so viele Unbeteiligte ins Visier geraten könnten, naja, wohl schwierig.
19:19Und haben auch diese beiden Normen in Hessen und Hamburg vor dem Bundesverfassungsgericht angegriffen.
19:25Ich sollte vielleicht dazu sagen, erfolgreich angegriffen.
19:37Okay.
19:382023 war es dann soweit, 16.02. kam das Urteil, das Datenanalyseurteil des Bundesverfassungsgerichts für die Nicht-Juristinnen als harter Tobak.
19:53Also nicht durchlesen, wenn man nicht das Gefühl hat, das brauche ich heute Abend.
19:58Also lieber, kurze Eigenwerbung, mal so eine Fallseite der GFF dazu durchlesen.
20:02Wir geben uns größte Mühe, das zu übersetzen.
20:04Diese Urteile sind wahnsinnig lang.
20:05Was hat das Bundesverfassungsgericht gemacht?
20:07Zum ersten Mal gibt es jetzt Standards vom Bundesverfassungsgericht.
20:11Wann geht so eine automatisierte Datenanalyse?
20:14Ganz oft liest man, ja, aber.
20:17Also das Bundesverfassungsgericht hätte gesagt, ja, automatisierte Datenanalysen, das geht, aber unter folgenden Voraussetzungen.
20:22Ich finde eigentlich besser zu sagen, je desto, damit würde ich es mir merken.
20:27Das Bundesverfassungsgericht sagt nämlich, ja, das geht schon, aber was es dafür braucht, unter welchen Gründen es zulässig ist, das hängt davon ab, wie schwer, wie weitgehend die Analyse ist.
20:36Je weitergehend die Analyse, desto strenger müssen die Voraussetzungen sein, die der Gesetzgeber vorsieht, damit das die Grundrechte nicht verletzt.
20:43Heißt, je mehr Daten einfließen, je mehr Menschen einfließen, die dafür gar keinen Anlass geboten haben.
20:51Zeuginnen, Whistleblower, Anzeigeerstatterin, vermisse Personen.
20:56Je komplexer und sensiblere Daten das sind.
20:58Wir reden ja auch über biometrische Daten, über Videos.
21:01Auch vielleicht Daten aus Social Media, etc., aus dem Internet.
21:04Das kann ja wahnsinnig weitgehend sein.
21:06Daten aus invasiven Überwachungsmaßnahmen können einfließen.
21:09Je sensibler die Daten sind, die da einfließen und je mehr einfließen.
21:12Und je komplexer die Methode ist, die man machen kann, desto schwerer wiegt die Datenanalyse.
21:18Methode kann bedeuten, naja, einfacher Datenabgleich.
21:21Wenn wir Liste A und Liste B gucken, sind da Übereinstimmung.
21:23Methode kann aber auch bedeuten, KI-basierte, extrem potente Datenanalyse, wo überhaupt nicht mehr klar ist, wie kommt der Computer eigentlich am Ende zum Ergebnis, dass Franziska Görlitz gefährlich ist.
21:34Je komplexer, desto strenger sind die Voraussetzungen, sagt das Bundesverfassungsgericht.
21:40In den Urteilen zu Essen und Hamburg hat das Bundesverfassungsgericht bei beiden Normen gesagt, naja, das ist schon wahnsinnig weitgehend.
21:46Warum?
21:47Es reicht nicht, sich anzugucken, was in der Praxis tatsächlich passiert.
21:51Also wenn jetzt die Polizeibehörden sagen, ja, wir machen damit eigentlich nur Datenabgleich.
21:54Das ist nicht entscheidend.
21:55Entscheidend ist, hat der Gesetzgeber wirklich Einschränkungen in das Gesetz reingeschrieben.
22:01Deswegen steht da das Wort Wesentlichkeitsvorbehalt.
22:04Das bedeutet, das was grundrechtswesentlich ist, das muss der Gesetzgeber selber reinschreiben.
22:08Das müssen die Abgeordneten entscheiden, was darf da einfließen, wie darf analysiert werden.
22:13Und da war es bei beiden Normen so, da war halt fast nichts geregelt.
22:16Das bedeutet, da lief im Prinzip fast der ganze polizeiliche Datenbestand rein.
22:19Und was dann damit passiert ist, das war auch gesetzlich nicht so richtig festgelegt.
22:22Bundesverfassungsgericht hat also gesagt, das ist ein sogenannter schwerwiegender Grundrechtseingriff.
22:26Deswegen gelten strenge Voraussetzungen.
22:28Man darf das nur unter ganz strengen Voraussetzungen machen.
22:31Und die hatte das Gesetz nicht vorgesehen.
22:33Was noch dazu kommt?
22:34Das Bundesverfassungsgericht sagt, naja, unabhängig davon, wie schwer der Eingriff ist.
22:38Das ist ja schon ein eigener Grundrechtseingriff, wenn man solche Daten analysiert.
22:42Und deswegen ist es wichtig, dass wir Vorkehrungen treffen.
22:45Und wir, meine ich den Gesetzgeber, dass der Gesetzgeber Vorkehrungen trifft, die Transparenz sicherstellen,
22:50die verhindern, dass es nicht zu Diskriminierung kommt.
22:52Und die sicherstellen, dass dieses Tool und seine Anwendung regelmäßig kontrolliert wird, insbesondere damit es nicht zum Missbrauch kommt.
22:59Dahinter steht, jetzt kommt der spannende juristische Teil des Abends, der Grundsatz der Zweckbindung.
23:05Das bedeutet, deutsche Behörden dürfen Daten grundsätzlich nur zu dem Zweck benutzen, für den sie die haben.
23:11Heißt, wenn man mich verdächtigt, einen Raubüberfall begangen zu haben, dafür hat man mein Telefon abgehört, dann hat man Daten bekommen.
23:19Dann sind diese Daten grundsätzlich für diesen Zweck und nicht für andere.
23:23Es ist möglich, Daten zu anderen Zwecken zu verpfänden, aber nur unter strengen Voraussetzungen.
23:28Nämlich wenn der Gesetzgeber sagt, wie?
23:30Und wenn es vergleichbar schwer ist, der Eingriff, man sagt grundsätzlich der hypothetischen Neuerhebung.
23:35Jetzt ist das Problem, wenn wir alle Daten gemeinsam in ein Datenanalyse-Tool werfen und sagen, okay, KI, mach mal.
23:41Dann wird natürlich schwierig zu sagen, sicherzustellen, okay, ist jetzt hier die Zweckbindung gesichert oder werden die Daten zum möglichen Raubüberfall von Franziska Görlitz nicht vielleicht doch benutzt, um irgendwo anders was damit zu machen, was viel weniger gewichtig ist, wofür man die Daten hätte gar nicht benutzen dürfen.
23:55Heißt, das Bundesverfassungsgericht gibt vor, es muss sichergestellt sein, dass die Zweckbindung von Taten, dass sie tatsächlich gewahrt bleibt.
24:02Und zwar nicht nur, indem der Gesetzgeber sagt, die Zweckbindung gilt übrigens, sondern auch indem tatsächlich sichergestellt ist, dass es dazu bleibt.
24:09Das bedeutet, dass eigentlich nur Daten in so ein Analyse-Tool einfließen dürfen, die gekennzeichnet sind.
24:14Damit man halt weiß, zu dem Zweck wurden die erhoben.
24:17Das ist ein ziemlich schwerwiegender Zweck und eine ziemlich schwerwiegende Maßnahme gewesen.
24:21Dann dürfen wir das jetzt nicht für jeden noch so kleinen Verstoß heranziehen, sondern nur für besonders gewichtige.
24:26Problem, wenn die Daten erstmal in so einem Analyse-Tool sind und sie sind nicht gekennzeichnet, wie soll nachvollzogen werden, dass die Daten tatsächlich zweckbindungskonform eingesetzt werden?
24:35Dazu haben wir Vorgaben, wir werden gleich darüber sprechen.
24:38Das sind Dinge, die wir auch bei den Rechtsgrundlagen jetzt immer noch bemängeln, dass das tatsächlich nicht sichergestellt wird.
24:43Da war natürlich so ein bisschen Heulen und Zähneklappern.
24:47Also das eine ist, dass nach dem Urteil total klar war, dass die große Menge an Hunderten von Polizeibeamten, die darauf zugreifen können, reduziert werden muss.
24:56Und dass die Kennzeichnung irgendwie nachgeholt werden muss.
24:58Also da war natürlich schon ein bisschen Ärger, aber auch glaube ich ein bisschen, zumindest nach meinem Eindruck, auch ein bisschen Entspannung darüber, dass es ihnen nicht aus den Händen geschlagen wurde im Sinne von, das ist ja eigentlich jetzt nicht mehr praktisch.
25:12Also da war so ein bisschen mein Eindruck nach der Urteilsverkündung.
25:19Wir wollen jetzt mal darauf kommen, welche Bundesländer jetzt gerade was machen und welche noch in der Phase sind, dass sie den Einsatz planen und was sie da konkret sagen, ob sie Palantir wollen oder ob sie vielleicht auf eine andere Lösung setzen und wie generell so gerade die politische Gemengenlage ist.
25:38Also wir haben es ja schon erwähnt, wir haben drei Bundesländer, die praktische Palantir Benutzer sind.
25:48NRW und Hessen, Nordrhein-Westfalen und Hessen natürlich am längsten und mit Hessendata würde ich auch sagen, der umstrittenste Fall juristisch.
25:58Ja, einfach weil die ja nach dem Urteil updaten mussten und eben Bayern, wo die Verfassungsbeschwerden alle anhängig sind und auch schon länger.
26:06Also NRW ist jetzt 2022 und Bayern eben Juli 2025.
26:12Also dieses Jahr, wir wissen natürlich von keinem Zeitplan, also wann es behandelt wird.
26:19Klar.
26:20Dann haben wir den Fall Baden-Württemberg, wo wir gleich nochmal extra drauf kommen.
26:24Der ist besonders toll, weil der sich anschließt nach der ganzen Debatte, die in so ein Sommerloch fiel.
26:30Also im Sommer war das so eine richtige durch alle Zeitungen und viele Landesparlamente, also bis in den Herbst hinein getragene Debatte und Baden-Württemberg war irgendwie hinten dran und haben dann irgendwie so ein bisschen abgekriegt den Volkszorn.
26:45Und die haben sozusagen einen großen Widerstand verspürt.
26:49Drei Bundesländer haben wir, die jetzt Rechtsgrundlagen dafür haben, Hamburg, Berlin und Rheinland-Pfalz, die aber unseres Wissens nach entweder nicht oder zumindest nicht Palantir Gotham nutzen für ihre Analysen.
27:01Genau.
27:02Zu NRW vielleicht noch kurzer Note.
27:04Da wurde jetzt in Reaktion auf das Datenanalysenurteil 23 das Polizeigesetz geändert.
27:09Bedeutet, da dürfte es nochmal zu Verzögerungen kommen.
27:11Genau.
27:12Wir haben jetzt, wir wollen nochmal kurz auf den Sonderfall Bayern hinweisen.
27:16Da ist der Wurstkönig und Karp und Bayern ist deswegen interessant, weil Bayern diesen Rahmenvertrag gemacht hat.
27:34Warum ist dieser Rahmenvertrag von einer besonderen Bedeutung?
27:37Der Rahmenvertrag, den Bayern geschlossen hat, ermöglicht den anderen Landespolizeien und übrigens auch den Polizeien des Bundes, auf die wir gleich nochmal kommen wollen, einfach den Einstieg, ohne dass sie eine europaweite Ausschreibung machen müssten.
27:50Das erleichtert ihnen das zeitlich, aber natürlich auch vom Aufwand her.
27:54Und sie können natürlich so ein bisschen auf die Dienstleistungen von anderen Bundesländern zurückgreifen.
27:59Das hat auch Baden-Württemberg getan, die sich von Hessen helfen lassen, ganz praktisch, technisch helfen lassen.
28:05Und eben deren Rechenzentren mit benutzen können und sicherlich auch auf deren Expertise zurückgreifen, was sie auch mehrfach betont haben in der Petitionsanhörung im Baden-Württembergischen Landtag.
28:17Bayern hat sozusagen damit eine Tür geöffnet, über die aber schon in der Vorgängerregierung ordentlich gestritten wurde, weil, jemand erinnert sich vielleicht noch dran, Nancy Fazer aus Hessen, war ja unsere Innenministerin, die hatte den Polizeien des Bundes nicht erlaubt.
28:35Bis sozusagen die Ampel zusammenbrach und das wird sich vermutlich ändern und dafür ist sozusagen Bayern der Enabler.
28:43Aber Bayern ist auch aus anderer Hinsicht interessant, denn Bayern hat einfach mal was gemacht, weil sich die anderen Bundesländer so nicht getraut haben.
28:50Die haben wirklich monatelang Echtdaten von richtigen Menschen aus Bayern und übrigens nicht nur aus Bayern, das ist ein bundesweites Problem.
28:58Weil in welcher der vielen polizeiinternen Datenbanken man landet hat, mit dem Bundesland reichlich wenig zu tun, die haben die im Testbetrieb einfach mal benutzt.
29:07Die haben nicht mal den bayerischen Datenschutzbeauftragten Thomas Petry informiert, der hat aus der Presse erfahren, dass die da mit Echtdaten den Testbetrieb laufen lassen und über viele Monate.
29:16Also die haben sozusagen ein interessantes Rechtsverständnis, also sie haben am Ende sozusagen, als Petry interveniert hat und gesagt hat, hier gibt es keine Rechtsgrundlage, sie haben dann damit aufgehört, denn die Rechtsgrundlage wurde ja quasi nachgeholt.
29:35Und da wollen wir vielleicht noch ganz am Ende drauf kommen, da schlagen jetzt einige andere Bundesländer andere rechtliche Wege ein, um das zu ermöglichen.
29:46Zumindest ist es mein Eindruck.
29:48Und der zweite interessante Fall, den werdet ihr vielleicht gehört haben, ist eben Baden-Württemberg, wo eine interessante politische Situation entstanden ist.
29:58Nachdem alle und jeder gesagt haben, also Entschuldigung, in der derzeitigen geopolitischen Situation sollten wir vielleicht nicht noch neue Polizeidaten an Palantir geben,
30:07hat Baden-Württemberg entschieden, den Vertrag zu machen, bevor sie überhaupt eine Rechtsgrundlage hatten.
30:13Und dann ist ja Grün regiert.
30:15Und aber die Grünen sind ja im Bund voll dagegen.
30:18Und übrigens auch in einigen anderen Bundesländern, wo sie in der Opposition sind.
30:22Es war also ein interessanter Spagat zu sehen, ja wie machen die das nun?
30:26Aber sie haben den tollen Deal mit irgendwie 1200 Hektar Nationalpark Schwarzwald-Erweiterung gemacht.
30:34Und dafür haben sie dann irgendwie mit Bauchschmerzen Palantir zugestimmt.
30:41Aber macht euch keine Sorgen, es ist nur eine Interimslösung, eine Zwischenlösung, eine Weile.
30:55Das ist ein Argument, das hören wir immer wieder.
30:57Das ganze Thema, das ist eine Übergangslösung.
30:59Wir brauchen das jetzt unbedingt, weil die Bedrohungen sind so hoch.
31:02Wir machen jetzt erstmal Palantir und dann machen wir was anderes.
31:05Da stellt sich natürlich die Frage, über die wir vorhin schon gesprochen haben, wenn man das Tool erstmal hat und dafür wahnsinnig viel Geld ausgibt.
31:11Wie viel Anreiz besteht dann parallel, sich um eine Eigenentwicklung zu kümmern?
31:14Und wie viel Anreiz besteht, wenn das Tool wirklich so wahnsinnig gut ist, wie das immer berichtet wird, sich dann nochmal nach was Neuem umzuschauen, wenn das dann so toll funktioniert?
31:22Also in Baden-Württemberg wurde das ganz viel betont, aber auch gerade viele BefürworterInnen sagen immer wieder ganz deutlich, wir brauchen das jetzt.
31:30Wir machen das zum Übergang und dann kümmern wir uns um was Eigenes.
31:33Es gab durchaus Polizeiprogramme, P20 etc., wo eigentlich ja der Plan war, sich um Lösungen zu kümmern, wie die Polizei besser mit digitaler Infrastruktur ausgestattet werden könnte.
31:43P20? Du meinst von 2016?
31:45Ich meine, seit einem Jahrzehnt verkacken die eine eigene Lösung.
31:50Das ist wirklich, das ist kein Witz.
31:53Also ich meine, die haben sich das 2016 vorgenommen und wie sind 2025?
31:58P30.
32:00Ja, P30, P40.
32:02Ja, entschuldige, Franziska, ich habe mich unterbrochen.
32:05Ne, alles gut.
32:06Also es ist immer wieder, wir hören immer wieder, das ist jetzt unvermeidbar, aber wir suchen uns dann was Neues.
32:12Es war offensichtlich die letzten Jahre nicht genug Geld da oder nicht genug Willen und Geld, um sich um eine Eigenentwicklung zu kümmern.
32:19Jetzt gibt man das Geld für eine schnelle Übergangslösung aus.
32:22Da ist natürlich wieder die Frage, wo soll das Geld dann herkommen?
32:25Woher soll in drei Jahren auf einmal die Eigenentwicklung kommen?
32:28Also wo du Geld ansprichst, also billig ist es jetzt auch nicht.
32:31Ich darf daran erinnern, dass ein urdeutsches Konsortium um den Konkurrenzanbieter Sekunet im Deutschen Bundestag im Innenausschuss vor anderthalb Jahren angeboten hat, das in sieben Monaten in den Wirkbetrieb bringen zu können.
32:48Irgendwie, ich glaube die Anschubfinanzierung ist ausgefallen, aber ich meine, billig ist es natürlich nicht.
32:55Ja, die 25 Millionen, die Bayern jetzt gezahlt hat, ist nicht wenig.
33:00Ja, also gut.
33:03Wir lassen mal diesen Teil und kommen zu den Rechtsgrundlagen in den noch fehlenden Bundesländern, denn Debatte hin oder her.
33:09In mehreren Landesparlamenten wurde auch die automatisierte Datenanalyse meistens im Rahmen der Novelle des jeweiligen Polizeigesetzes mit eingebaut.
33:20Das ist Sachsen, Sachsen-Anhalt, Thüringen, Niedersachsen und Schleswig-Holstein.
33:24Die Debatten haben wir als, wie soll ich sagen, anders erlebt.
33:29Also oft waren die in den Ausschussanhörungen dort, wie soll ich denn, freundlich von minderer Qualität.
33:36Also die haben oft das Niveau, was eigentlich erreicht wurde und was sozusagen auch im Bundestag debattiert wird
33:42und unter den Juristen, die sich mit der automatisierten Datenanalyse befassen und mit dem technischen Stand überhaupt nicht erreicht.
33:48Also das war wirklich erstaunlich Dürre.
33:52Und zudem, was mir so aufgefallen ist, es gab sehr wenig lokale Berichterstattung.
33:59Vielleicht hat es auch damit zu tun, dass in den Polizeigesetzen oftmals auch noch andere Regelungen drin waren, die umstritten waren,
34:06die aber vielleicht ein bisschen besser dargestellt werden können.
34:09Diese automatisierte Datenanalyse ist ja auch immer so ein bisschen ein komplexes technisches Feld.
34:14Also mir schien, dass in den unterschiedlichen Bundesländern nicht so richtig berichtet wurde.
34:20Ich habe die mal alle abgefragt im März, glaube ich.
34:23Ich habe alle Landesinnenministerien gefragt, noch bevor teilweise diese Rechtsgrundlagen da waren.
34:29Wer plant denn da eigentlich, Plantier einzusetzen?
34:33Wer wirklich in den Rahmenvertrag einsteigen will und wer kann eine Alternative nennen?
34:39Wollt ihr mal raten?
34:43Kein einziges Bundesland hat auch nur einen einzigen Konkurrenten nennen können.
34:48Null.
34:49Es war total klar, also bevor die Debatte losging, dass sie eigentlich alle bei Plantier einsteigen können.
34:56Das ist jetzt nicht mehr der Fall.
34:58Und mehrere von diesen Bundesländern sagen, also insbesondere Schleswig-Holstein sagt das, aber mit ein paar Einschränkungen auch Sachsen-Anhalt,
35:07sie setzen auf eher eine Lösung, die digital souveräner wäre.
35:12Und sie haben auch versucht, das im Bundesrat nochmal so ein bisschen anzusprechen,
35:16zu sagen, wir wollen lieber eine Lösung, die den geopolitischen Gegebenheiten etwas besser entspricht und so.
35:23Sie haben es versucht, aber trotzdem finden wir den Trend eigentlich ungebrochen.
35:28Zumindest erstmal die Rechtsgrundlagen zu schaffen und so ein bisschen abzuwarten.
35:33Mal gucken, was passiert, vielleicht baut ja doch einer nochmal eine andere Software.
35:36Was man zu den Rechtsgrundlagen, glaube ich, auch noch sagen kann, ist,
35:39es ist ja jetzt schon, in gewisser Form klingt es vielleicht blöd, aber komfortabler, so ein Gesetz zu schreiben,
35:44weil jetzt gibt es dieses Bundesverfassungsgerichtsurteil.
35:47Es gibt ganz schön viel Anleitung, das muss man auch sagen, sieht man an den Normen schon.
35:51Das steht jetzt in der Gesetzesbegründung immer drin.
35:53Es gibt dieses Datenanalyseurteil, nach dem richten wir uns.
35:56Zwei Dinge muss man dazu aber sagen.
35:57Erstens, man richtet sich zwar danach, aber sich daran halten ist dann nicht immer der Fall.
36:01Also wir sehen dann schon, dass man darüber hinausgeht, über das, was möglich ist.
36:04Was man aber auf jeden Fall sagen kann, ist, zu beobachten ist nicht, dass irgendjemand sagt,
36:08okay, das hat das Bundesverfassungsgericht gesagt, ist die äußerste Grenze.
36:12Dann lasst uns davon mal ein bisschen Abstand halten.
36:15Sondern die Idee ist immer so an die äußersten Grenzen möglichst dran und dann mal gucken, ob das noch geht.
36:21Insbesondere beim Thema, also sowohl beim Thema, wie viele Einschränkungen kann ich denn ins Gesetz schreiben?
36:27Ich habe ja schon gesagt, das muss im Gesetz stehen, damit die Voraussetzungen geringer sein können,
36:31muss im Gesetz eingeschränkt sein.
36:33Da ist man immer noch ziemlich hemmsärmlich.
36:35Also es gibt immer noch Entwürfe, die erstmal sagen, man darf ja Daten analysieren
36:39und dann werden einzelne kleine Bereiche ausgeschlossen.
36:42Vorgangsdaten sind einfach überall im Prinzip komplett umfassend mit drin.
36:46Dann heißt es teilweise, unbeteiligte sollen ausgeschlossen werden.
36:48Wie ist aber unklar.
36:50Und da ist es schon zu beobachten, es gibt eigentlich eine Anleitung.
36:54Es ist auch erkennbar.
36:55Also es gibt jetzt keinen Entwurf, wo jetzt jemand sagt, du haben wir uns nicht angeschaut.
36:59Aber es ist jetzt auch nicht so, dass wir jetzt sagen könnten, leider, jetzt läuft ja Paletti.
37:05Also Urteil abgehakt, nächstes strategisches Thema.
37:08Sondern man sieht es auch an den Verfassungsbeschwerden, die wir jetzt anhängig haben.
37:11In NRW immer noch in Hessen zum zweiten Mal, wo wir gegen die Novelle nochmal Verfassungsbeschwerde einlegen mussten,
37:17weil der Entwurf sich einfach aus unserer Sicht nicht anders hielt, was das Bundesverfassungsgericht gesagt hat.
37:21Und auch in Bayern, wo wir der Auffassung waren, naja, es gibt halt bundesverfassungsgerichtliche Vorgaben, die werden nicht eingehalten.
37:27Und irgendjemand muss dann halt vor den Gerichten durchsetzen, dass diese Maßstäbe doch eingehalten werden.
37:31Und das versuchen wir mit diesen Verfassungsbeschwerden dann sicherzustellen.
37:44Weswegen die Veröffentlichung der Verfassungsbeschwerde beim Juli.
37:49Also mit einem eigentlich schon so beginnenden Sommerloch.
37:52So Einschlug hat natürlich noch mit was anderem zu tun.
37:55Nämlich natürlich mit der Politik im Bund.
37:58Denn da läuft ja parallel eine Entwicklung, die ist so unter diesem Schlagwort Sicherheitspaket bekannt.
38:05Schon im Koalitionsvertrag ist die automatisierte Datenanalyse drin.
38:08Ja, alle drei Parteien wollen die.
38:10Aber irgendwie konnten die den Innenminister, der hier abgebildet ist, Alexander Dobrindt,
38:16nicht dazu kriegen, eine Aussage zu machen, ob er in den Rahmenvertrag einsteigen will.
38:22Das war ja eine Sache, die zu sagen, er hätte ändern können.
38:25Denn seine SPD-Vorgängerin hatte das für die Polizei und des Bundes so verfügt.
38:31Aber er lässt sich also nicht ein.
38:34Und das hat glaube ich die Debatte eher noch ein bisschen bestärkt, weil er einfach nicht geantwortet hat.
38:38Nun muss ich sagen, wir wollen nicht spekulieren, denn das wird sehr bald kommen.
38:44Und er wird zwangsweise irgendwann Anfang nächsten Jahres, wenn er die konkreten Entwürfe dann vorlegt, auch sagen müssen, mit wem er zusammenarbeitet.
38:54Das wird ja auf jeden Fall kommen.
38:56Und ich glaube, der Zeitpunkt ist noch schlechter, als hätte er, zu sagen, im Sommer oder Frühherbst sich dazu geäußert.
39:03Denn ich glaube, das geht so ein bisschen in die No-Go-Area bei dem konkreten Konzern Palantir.
39:09Nicht bei der Rechtsgrundlage für die automatisierte Datenanalyse.
39:12Aber das scheint mir irgendwie so ein bisschen über dem Berg schon.
39:17Wenn wir aber sehen, wir wissen ja, dass Dobrindt in vielen Dingen sehr schmerzfrei ist.
39:21Also im Kontext steht es vor allem für alle, die es jetzt im Bund vielleicht nicht zuordnen können, Bundespolizei und Bundeskriminalamt.
39:27Das sind die beiden Behörden, bei denen der Bund die Möglichkeit hat zu entscheiden, diese Polizeibehörden könnten das bekommen.
39:32Und da liegt ein Sicherheitspaket, auf das wir alle warten, mit Rechtsgrundlagen, die eben genau diese Datenanalysen auch bei diesen Behörden ermöglichen.
39:41Vielleicht ein Punkt noch erklärt.
39:43Diese Gesetzesentwürfe enthalten in der Regel nicht einen Absatz 10, in dem steht, wir machen das mit Palantir Gotham oder wir machen das mit einer anderen Lösung,
39:50sondern die Gesetze sind in der Regel, das wird uns dann auch öfter gesagt, technologieoffen.
39:54Das bedeutet, wir entscheiden das nicht.
39:58Da kann man sich auch die Frage stellen.
40:00Ich habe ja gerade Thema gesagt, Wesentlichkeitsvorbehalt.
40:02Eigentlich sollten die grundrechtssensiblen Fragen vom Parlament entschieden werden.
40:05Inwieweit es nicht vielleicht tatsächlich nötig wäre, dass das Parlament auch Entscheidungen trifft,
40:09wie muss denn so ein Anbieter aussehen und welche Standards muss der erfüllen?
40:13Damit nicht nur durch die Rechtsgrundlage selber, sondern auch durch den Anbieter und die konkrete Software keine Grundrechtsgefahren drohen.
40:19Da sind wir leider.
40:21Also da gibt es in dem Datenanalysen Urteil noch nicht so viel Vorgaben.
40:25Wir haben diese Äußerung des Bundesverfassungsgerichts, dass es erhöhte Risiken gibt, wenn auf Lösungen privater Anbieter zurückgekommen wird.
40:32Das Bundesverfassungsgericht spricht ja auch offen von Manipulations- und Datenleakrisiken.
40:37Aber so klare Vorgaben, dass man jetzt sagen könnte, das Bundesverfassungsgericht hat gesagt, das darf nur dieser und jener Anbieter sein, die haben wir noch nicht.
40:43Das bedeutet, da wäre zu wünschen, dass sich die Gesetzgeber in die Verantwortung stellen und sagen, nee, wir sichern ab durch Gesetz, was der Anbieter erfüllen muss.
40:51Aktuell passiert das fast nicht.
40:55Wir wollen jetzt nochmal so ein bisschen die Kurve kriegen zu den in naher Zukunft anstehenden Problemen, die aber auch schon teilweise eingetreten sind.
41:02Wir haben das vorhin schon so ein bisschen angedeutet.
41:05Man sieht sehr deutlich, dass jetzt mehrere Bundesländer versuchen, diese Probleme, die beim Pilotieren oder bei den Testverfahren aufgetreten sind,
41:16nämlich dass man die ohne Rechtsgrundlage nicht machen kann und dass letztlich der Grundrechtseingriff derselbe ist, wenn es ein Testbetrieb ist.
41:22Das ist auch unter Juristen sehr unstrittig.
41:24Dass Sie das lösen, indem Sie in die Polizeigesetze reinschreiben, dass ein Softwaretraining mit echten Polizeidaten schlicht ermöglicht wird.
41:33Ich habe das jetzt das Softwaretraining genannt. Heute steht ja immer KI und so drin.
41:38Ich glaube aber, letztlich ist es nicht spezifiziert, was für eine Art von Training sein kann.
41:43Aber es kann eben auch ein Zusammenarbeiten mit privaten Anbietern sein.
41:47Das ist über das Plantierproblem hinaus ein Problem.
41:52Das kann natürlich auch, wenn man jetzt an biometrische oder Verhaltenserkennungssoftware und so was denkt, ein großes Problem sein.
41:59Auch für Telekommunikationsmetadaten, für alle mögliche, wo die Polizei zusammenarbeitet mit kommerziellen oder anderen privaten Anbietern.
42:06Das ist aus meiner Sicht ein ganz eigener, schwerwiegender Grundrechtseingriff, der natürlich auch den Betroffenen in der Regel nicht bekannt wird und eine sehr große Fülle millionenfacher Datensätze betrifft.
42:22Ja, müssen wir mal sehen. Möchtest du da vielleicht juristisch gegen vorgehen?
42:28Schauen wir uns die Rechtsgrundlagen mal an.
42:31Ich würde zu dem KI-Thema noch kurz nachschieben.
42:33In dem Datenanalyseurteil hat das Bundesverfassungsgericht noch nicht so viel gesagt zum Thema KI.
42:39Hintergrund war das dazu, dass sich die Fragen in dem Verfahren nicht in dem gleichen Ausmaß stellten.
42:43Ich glaube, zu bestimmten Punkten war ihnen nicht genug vorgetragen auch.
42:46Was wir aber wissen, das Bundesverfassungsgericht knüpft für KI an, an Selbstlernen.
42:51Also das Bundesverfassungsgericht sagt, künstliche Intelligenz ist für mich ein System, das selbstständig weiter lernt.
42:56Es gibt ja auch verschiedene juristische Definitionen.
42:58Also die KI-Verordnung hat da ja auch zum Beispiel eine andere.
43:00Wichtig ist aber, was man hören muss, das Bundesverfassungsgericht sagt schon ziemlich deutlich,
43:04naja, aber solche Systeme, die sind schon krass invasiv.
43:07Also wenn ihr sowas macht, das hebt das Eingriffsgewicht extrem hoch und dann wird es schon schwierig.
43:12Da muss man schon strenge Voraussetzungen schaffen, damit man das rechtfertigen kann.
43:15Zweiter Punkt, das Bundesverfassungsgericht sagt, naja, wenn du sowas benutzt und die Nachvollziehbarkeit gefährdet ist,
43:20dann musst du Schutzvorkehrungen schaffen als Gesetzgeber.
43:23Dazu haben wir jetzt noch keine Entscheidung, aber wir erhoffen uns, dass wir bald eine kriegen.
43:27Warum? In Hessen in der Novellierung war zuerst ein Versuch, würde ich mal sagen, eines KI-Ausschlusses im Gesetz gestanden.
43:35Den hat man Ende letzten Jahres rausgestrichen.
43:38Jetzt ist das, womit man am Anfang versucht hat, künstliche Intelligenz einzudämmen, ist jetzt nicht mehr drin.
43:43Und man sagt auch explizit in der Begründung, nee, es geht schon darum, KI im Sinne der KI-Verordnung zuzulassen.
43:48Bedeutet, wir hoffen, dass wir jetzt da vielleicht nochmal vom Bundesverfassungsgericht Vorgaben kriegen,
43:53wie viel muss der Gesetzgeber dann regeln und wie können denn dann Schutzvorkehrungen aussehen?
43:57Also was wäre möglich, was der Gesetzgeber regeln muss, dass es da zu mehr Grundrechtsschutz kommt.
44:02Das ist, glaube ich, schon ein Punkt neben dem Softwaretraining, was einfach ein total eigener Punkt ist, wo jetzt total viele Aufspringer und Rechtsgrundlagen schaffen,
44:08wo wir hoffen, dass wir mit unseren Verfahren vielleicht nochmal einfach eine Frage beantworten können, die noch offen ist.
44:14Ein anderer Problemfeld sind natürlich die Geheimdienste.
44:17Jetzt ist hier konkret der Verfassungsschutz in Nordrhein-Westfalen und Hessen angesprochen, wo es eine Rechtsgrundlage geben soll für die automatisierte Datenanalyse.
44:25Die sitzen natürlich auf eigenen Daten, die von den Polizeidaten in der Regel getrennt sind.
44:30Aber hier geht es auch nochmal um das BND-Gesetz.
44:33Auch da gibt es ja noch keinen Referentenentwurf, aber da wird bald einer kommen.
44:37Da wird ja schon ordentlich über die Presse geleakt, wird da eventuell drinstehen könnte.
44:41Also da haben wir nochmal ganz eigene Problembereiche, die auch eigene massenhafte Datensätze haben, die personenbezogen sind.
44:50Wir haben natürlich einen ganzen Militärbereich.
44:52Wir wissen, dass wir da noch viel weniger wissen.
44:56Wir haben ja letztlich viele der Problemlagen, also gerade so in Bayern, aber auch in Nordrhein-Westfalen und in Hessen über journalistische Recherchen erfahren.
45:06Auch die Landesdatenschutzbeauftragten haben dadurch sozusagen aus den Medien erfahren.
45:11Und beim Militär ist das ja eigentlich nicht so gang und gäbe.
45:13Also wir wissen wenig, was da die Planungen sind.
45:16Wir kennen natürlich die Wunschlisten.
45:18Die werden ja jetzt über die üblichen Verdächtigen unter den Journalisten gerade schon geleakt.
45:22Wie die wohl aussehen werden und mich würde nicht wundern, wenn auch da die automatisierte Datenanalyse mit auf der Liste stünde.
45:29Davon würde ich fest ausgehen, zumindest bei einigen Geheimdiensten.
45:32Letzter Punkt für dazu auch nochmal.
45:35Das ist ja auch Steuergeld.
45:37Also nur, um das nochmal ganz klar zu benennen.
45:39Es ist ja auch die Frage, wie viel Geld geben wir da wohin für diese Analyse-Tools?
45:45Das ist auch einfach, finde ich, ein Punkt, der manchmal unabhängig davon, dass das wahnsinnig viel Geld kostet und dieses Geld irgendwie Abhängigkeiten bewirkt.
45:51Da fließt einfach total viel Geld an Playerinnen und Player.
45:54Und man muss sich überlegen, wer soll denn das deutsche Steuergeld bekommen dafür, dass er uns ein Analyse-Tool baut.
45:59Wenn wir schon eins brauchen.
46:01Da passt ganz wunderbar, dass wir zum Jahresende noch ein zweiteiliges Stück von dem schweizerischen Magazin Republik hatten,
46:20die auf Grundlage von, bei uns heißt es Informationsfreiheitsgesetz, ich habe leider gerade vergessen, wie es in der Schweiz heißt, aber so ähnlich,
46:26eine ganze Menge Dokumente rausgeholt haben und in einer sehr lesenswerten Analyse mal aufgeschrieben haben,
46:32wie Palantir sich wirklich jahrelang irgendwie an die Behörden ran gewanzt hat und versucht hat, ihre Software da an den Mann zu bringen.
46:40Wie viele das nicht geschafft haben, ist ja auch super doof, denn Carp wohnt da und naja und so.
46:45Aber interessant war oder aus meiner Sicht besonders interessant war ein Bericht der Schweizer Armee, den sie über die verschiedenen Softwareprodukte,
46:55vor allen Dingen aber auch über die Risiken und generell so ein bisschen den Informationsstand abgeliefert haben.
47:03Den hat Republik dankenswerterweise, dankenswerterweise online gestellt, weswegen sie alle lesen können.
47:11Und die Empfehlung der Schweizer Armee, die sie da abgeben, ist ganz klar.
47:17Ja, wir empfehlen, also die Gutachter der Schweizer Armee empfehlen, auf Lösungen des Unternehmens Palantir zu verzichten.
47:25Aber das Interessante ist natürlich, mit welcher Argumentation.
47:28Und die haben mal so richtig so die ganze Problemlage, die wir jetzt so unterschiedlich aufgerissen haben,
47:34technologisch, geopolitisch, juristisch, ethisch, so richtig mal einmal so runtergeschrieben.
47:39Und sie haben auch Kosten-Nutzen drin, naja, man müsse ja auch ein bisschen darüber nachdenken,
47:44wie man langfristig mit so Leistung-Nutzen-Kosten-Verhältnis umgeht, die haben da alles drin.
47:50Und ich wünschte sozusagen, dass wir das Niveau, was die da erreichen und im Übrigen auch die Empfehlung,
47:58die letztlich sehr klar gegen Palantir ausgeht, dass wir die auf diesem Niveau hier auch hätten.
48:05Viele von den Fragen hätte ich mir schon damals gewünscht, dass die in Karlsruhe besprochen wurden,
48:10aber da war vielleicht die Zeit, vielleicht war ich noch ein bisschen früh dafür.
48:13Der Punkt ist daran, weswegen ich den Bericht auch noch besonders spannend fand,
48:17es gab den ersten Blogbeitrag von Palantir, die sich falsch verstanden fühlten durch das Schweizer Magazin.
48:23Die haben halt, diese haben so eine, die haben so eine Pressestrategie eigentlich nichts zu sagen.
48:37Die sagen auch der Deutschen Presseagentur nichts oder Reuters nichts.
48:40Hier haben sie mal eine Ausnahme gemacht.
48:42Und eigens in Deutsch und in englischem Blogbeitrag, den ich, hups, vergessen habe hier abzubilden.
48:47Also wirklich, sie fühlen sich missverstanden.
48:50Sie haben doch die Journalisten extra eingeladen ins Büro, ein außergewöhnlicher Vertrauensbeweis.
48:56Also man merkt schon, dass eine kritische Öffentlichkeit tatsächlich was macht.
49:00Das stört die bei den Abschlüssen ihrer Verträge.
49:04Und ich glaube, die sehen so ein bisschen in Europa, das ist nicht nur in der Schweiz, das ist auch in Frankreich, läuft es auch nicht so gut.
49:10Ja, da sind so ein bisschen die Fälle weg.
49:13Und dann haben sie doch die ganzen Konkurrenten am Hintern.
49:16Auch sehr unangenehm.
49:18Seit, ich würde sagen, Ende Juli, Anfang August melden die sich auch bei den Landes- und beim Bundesinnenministerium und sagen,
49:27hey, wir haben hier auch Softwareprodukte.
49:29Guckt die euch doch mal an.
49:31Wir sind billiger, schlauer und wir sind DSGVO-konform.
49:34Wir kennen uns aus mit den europäischen Gegebenheiten.
49:38Also da ist so ein bisschen, da schwimmen denen die Fälle weg.
49:43Naja, natürlich haben in dem Bericht der Schweizer Armee auch so Fragen, muss man oder soll man bei hoheitlichen Daten Open Source setzen.
49:54Die haben natürlich auch ein bisschen Fokus auf Militärdaten.
49:57Die haben durchaus auch Vorteile, die diese Software hat im Blick.
50:01Das ist kein nur negativer Bericht, aber die Empfehlung ist sehr klar und deutlich.
50:04Empfehle ich also jedem zur Lektüre.
50:07Wir müssen zu einem Fazit kommen.
50:10Ja, wir haben das schon angedeutet.
50:18Also trotzdem wird eine breite Diskussion hier gab und zumindest diejenigen, die entscheiden sollen über die Rechtsgrundlagen und über den konkreten Einsatz dieser Firma,
50:31die den mitbekommen haben, den teilweise mitbestimmt haben.
50:35Trotz dieser breiten Debatte sehen wir eigentlich eine Normalisierung, zumindest was die Rechtsgrundlagen angeht.
50:41Klar, nicht alle von diesen Bundesländern haben sich auch entschieden, sich mit Palantir ins Bett zu legen.
50:46Aber letztlich ist erstmal die Rechtsgrundlage da und die ist natürlich die Grundlage allen Handelns hier.
50:53Wir haben so ein bisschen bemerkt, oder mir ist es so gegangen, vielleicht dir auch Franziska, in der Diskussion, wo man ja in der Regel wird man ja, wenn man, weiß ich nicht, im Radio oder so,
51:01oder auf einer Bühne darüber debattiert, immer mit den Polizeigewerkschaften konfrontiert, die reagieren total.
51:11Also ich würde das mal sagen, sie sind gereizt darauf, wenn man das Rasterfahndung nennt.
51:16Ja, also, oder wenn man auch nur andeutet, dass vielleicht in Zukunft Palantir nicht mehr in vor allen Dingen Hessen oder NRW zum Einsatz kommen könnte,
51:27da sind die wirklich ziemlich ärgerlich.
51:30Und die haben auch nicht so richtig, zumindest war das mein Eindruck, die haben nicht so richtig Mühe auch über das Urteil komplette Lügen zu streuen.
51:39Das machen die.
51:41Ich meine, nun haben wir das Urteil sehr klar gelesen und wir wissen, was da drin steht.
51:45Ja, aber trotzdem sozusagen war mein Eindruck, dass die auch mit Desinformation in der Öffentlichkeit arbeiten.
51:52Vor allen Dingen wird diese angebliche Alternativlosigkeit immer betont.
51:56Also wo sich ja so ein bisschen auch die Katze in den, der Hund in den Schwanz beißt, die Katze in den Schwanz beißt.
52:01Nämlich, wir haben ja diesen Rahmenverdacht, da könnten wir mal kurz einsteigen.
52:07Die anderen können es ja nicht besser, dauert alles viel zu lange.
52:10Also da ist so ein, da ist so ein Kreislauf entstanden, der diese angebliche Alternativlosigkeit natürlich stützt.
52:16Genau.
52:17Dazu noch zweites Argument, was man immer hört, Alternativlosigkeit.
52:20Und ich habe das Gefühl, jede Stelle, die es schon nutzt, hat eine Anekdote oder einen Fall, wo es immer heißt,
52:25diesen Anschlag oder diesen Anschlag haben wir verhindert oder dieses Verbrechen haben wir aufgeklärt.
52:30Ich finde immer wichtig, noch einmal zu sagen, es gibt keine Zahlen.
52:33Also es gibt keine Zahlen dazu, obwohl wir Bundesländer haben, die es schon ewig benutzen, dass uns ein Bundesland mal vorlegen könnte.
52:38Unsere Gefahrenabwehr hat sich um 30 Prozent verbessert, seit wir dieses Tool nutzen.
52:42Die gibt es nicht.
52:43Das heißt, es ist immer eine Geschichte, die einem erzählt wird.
52:48Ich sage gar nicht, dass die nicht stimmt, aber es gibt einfach für uns keine Zahlen, wo man uns sagen würde, es funktioniert.
52:55Das wird, erzählt man uns, aber die gibt es nicht.
52:58Es spielt auch oft nicht wirklich eine Rolle.
53:00In Sachsen-Anhalt habe ich zum Beispiel erlebt, da gab es ja den Magdeburg-Attentat.
53:04Also man nimmt sich dann halt den Anlass, der in diesem Bundesland gerade da ist, obwohl er total klar ist, gerade bei dem Magdeburg-Attentat,
53:11das ist ja auch im Untersuchungsausschuss in Sachsen-Anhalt sehr deutlich geworden, dass die Datenlage wirklich nicht das Problem war.
53:16Also man nimmt sich da auch gerade die Sau, die durchs Dorf getrieben wird, ist, ohne dass man ja wirklich Fakten schaffen muss.
53:23Das war übrigens auch in der Anhörung in Karlsruhe nicht der Fall.
53:27Aber Palantir selbst ist da ja auch nicht befragt worden.
53:30Also da kam sozusagen für Evaluationsdaten nichts rüber.
53:36Genau.
53:37Nächster Punkt.
53:38Ich weiß nicht, wir haben ja alle das letzte Mal mit einer Datenbank oder mit einer Datei gearbeitet, die nicht durchsuchbar ist.
53:44Und das ist grauenvoll.
53:46Das ist, glaube ich, auch allen klar.
53:48Und ich finde immer total wichtig, dass nochmal gesagt wird.
53:51Es gibt einen Unterschied zwischen wir statten, wir machen das eine Datenbank, die es gibt, irgendwie technisch funktionabel ist, vielleicht auch mit einer anderen.
53:58Und zwischen wir schaffen Palantir Gotham an.
54:01Und es gibt einen Unterschied zwischen wir ermöglichen in einem ganz eng eingegrenzten Bereich, in einem grundrechtsschonenden Bereich, dass solche Daten auch automatisiert verarbeitet werden können.
54:11Oder man schafft Rechtsgrundlagen, wie wir sie aktuell sehen, die im Prinzip alles zulassen, super weitgehende Methoden, fast alle Daten, kaum Kontrolle vorgesehen, wenig, vor allem keine regelmäßigen externen, viel zu wenig Schutzvorkehrungen.
54:23Da gibt es einfach Unterschiede und für uns total zentral.
54:26Es gibt Vorgaben vom Bundesverfassungsgericht und die müssen eingehalten werden.
54:29Und wenn Rechtsgrundlagen geschaffen werden, dann muss Abstand gehalten werden von dem, was grundrechtlich vielleicht maximal das äußerste Limit wäre, sondern es muss eine Rechtsgrundlage geschaffen werden, die die Grundrechte in angemessenes Verhältnis bringt.
54:40Und die vor allem klar Abstand hält von Predictive Policing, von Profiling, von komplett automatisierten Sachverhaltsprognosen etc.
54:47Da muss Abstand gehalten werden und zwar ganz deutlich.
54:49Das wird euch jetzt hier nicht so sehr überraschen, dass das unsere Forderung ist, aber wir wollen natürlich auch noch einmal, deswegen haben wir diesen letzten Satz auf der Fazitfolie,
55:08das Problem heißt natürlich, also ist nicht nur Palantir.
55:12Ich glaube, dass es wichtig ist, das an diesem Konzern zu diskutieren, weil hier sich so wunderbar herausschälen lässt, wie diese Abhängigkeitsprobleme,
55:23die Probleme mit der digitalen Souveränität, Umgang mit hoheitlichen polizeiinternen Daten, wie die sind, das kann man prima machen.
55:30Und jetzt haben sich diese Unternehmens- oder zumindest Alex Karp auch noch auf eine Weise präsentiert, dass man das wunderbar machen kann,
55:36dass man die ganze Argumentation, die um die digitale Souveränität auf anderer Ebene läuft, hierfür verwenden kann.
55:44Aber das Problem heißt natürlich trotzdem eben nicht Palantir, sondern auch eine andere Software.
55:50Und deswegen haben wir, wollten wir sozusagen betonen, dass wir eine Beschränkung dieser Daten analysen wollen.
55:56Denn jede andere oder auch eine selbst programmierte Lösung, die die Polizei ja vielleicht 2040 schaffen kann, würde die Probleme ja nicht aufheben.
56:08Entsprechend, wir erleben natürlich auch bei anderen Urteilen aus Karlsruhe, dass die immer so ein bisschen als Kopiervorlage benutzt werden.
56:16Und die alleräußerste Grenze benutzt wird. Eigentlich würden wir uns wünschen, dass das so nicht weiter geschieht.
56:24Wir wissen aber natürlich in welcher Regierung wir leben. Von Dobrindt erwarten wir da wenig.
56:30Da wird wahrscheinlich auch wieder das Maximum ausgereizt werden.
56:34Wir haben die besseren Argumente. Wir sollten sie vorbringen.
56:38Wir sollten uns neben der Frage, was für eine Art von automatisierter Datenanalyse zugelassen werden soll,
56:45eben auch immer gegen strukturelle Einflussmöglichkeiten von feindlichen ausländischen Unternehmen wehren.
56:52Und da lohnt sich natürlich die Debatte um Palantir.
56:56Also macht mit.