00:00Stell dir eine KI vor, die verborgene Muster in riesigen Datenmellen erkennt.
00:04Eine Software, die der Polizei hilft, Zusammenhänge zu finden, die für einen Menschen unsichtbar wären,
00:10um so schweren Verbrechen und Terrorismus zuvor zu kommen.
00:14Klingt gut, oder? Klingt nach Sicherheit.
00:16Aber was, wenn dieselbe Technologie auch die Daten von tausenden unbescheutenen Bürgern durchforstet?
00:22Wenn sie nicht nur zur Abwehr von Terror, sondern auch zur Aufklärung von Supermarktdiebstählen eingesetzt wird?
00:28Und was, wenn hinter dieser Technologie ein Unternehmen steckt,
00:32das nach den allsehenden Spionagesteinen aus Herr der Ringe benannt ist?
01:04Und dessen Gründer für seine demokratieskeptischen Ansichten bekannt ist.
01:08Heute sprechen wir über Palantir in Deutschland und die globale Revolution der polizeilichen Überwachung.
01:15Ich erkläre euch, warum das Bundesverfassungsgericht die Notbremse ziehen musste
01:18und warum diese Debatte uns alle betrifft.
01:21Denn es geht um nichts Geringeres als die Zukunft unseres Rechtsstaats im digitalen Zeitalter.
01:27Also was ist Palantir?
01:29Gegründet 2003 in den USA mit engen Verbindungen zu Geheimdiensten,
01:34hat sich das Unternehmen darauf spezialisiert, eines Software namens Gossam bereitzustellen.
01:39Ihr Zweck?
01:40Riesige, bislang getrennte Datenbestände der Polizei, Notizen aus Vernehmungen, Spuren von Tatorten,
01:47Daten aus Funkzellenabfragen zu verbinden und analysierbar zu machen.
01:52In Deutschland landete die Software nicht beim Bund, sondern in einzelnen Bundesländern.
01:57Ihr erinnert euch vielleicht, Hessen war 2017 der Vorreiter mit Hessen Data.
02:02Nordrhein-Westfalen und Bayern zogen mit eigenen Projekten nach.
02:06Die Befürworter, vor allem die Innenministerien, feierten die Software als Quantensprung.
02:12Bayerns Innenminister Herrmann nannte sie die aktuell bestmögliche Plattform.
02:17Sie sei eine immense Arbeitserleichterung und helfe, komplexe Fälle zu lösen,
02:22von Reichsbürgernetzwerken bis hin zu Geldautomaten sprengen.
02:26Man betonte immer wieder, es sei nur eine gedrosselte Variante im Einsatz,
02:31ohne Kini- und Internetanbindung, um Datenschützer zu beruhigen.
02:36Doch die Kritik war von Anfang an massiv.
02:40Bürgerrechtsorganisationen wie die Gesellschaft für Freiheitsrechte, kurz GFF,
02:44sahen darin ein Instrument des Data-Mining,
02:46einen tiefen Eingriff in unser Recht auf informationelle Selbstbestimmung.
02:51Ihre Argumentation, die Software durchwühlt anlasslos die Daten aller,
02:55um überhaupt erst einen Verdacht zu generieren.
02:58Dabei geraten zwangsläufig auch Opfer, Zeugen oder Menschen,
03:02die nur eine Anzeige erstattet haben, in die Analysedaten.
03:05Und dann war da die größte Angst, der Function-Creep, die schleichende Ausweitung.
03:11Angeschafft für den Kampf gegen den Terror wurde die Software in Bayern
03:15plötzlich mehrheitlich für Alltagsdelikte wie Diebstahl eingesetzt.
03:19Die Hemmschwelle für den Einsatz des mächtigen Werkzeugs sank immer weiter.
03:23Die Überwachung drohte zur Normalität zu werden.
03:26Der Streit landete schließlich dort, wo er hingehört,
03:29vor dem Bundesverfassungsgericht in Karlsruhe.
03:31Und im Februar 2023 kam das Urteil.
03:35Ein Paukenschlag.
03:36Das Gericht erklärte die gesetzlichen Grundlagen in Hessen und Hamburg für verfassungswidrig.
03:41Die Karlsruher Richter haben trotzdem Bedenken
03:44und erklären das Gesetz heute für teilweise verfassungswidrig.
03:48Die Vorschriften verstoßen gegen das allgemeine Persönlichkeitsrecht aus Artikel 2 Absatz 1
03:53in Verbindung mit Artikel 1 Absatz 1 Grundgesetz in seiner Ausprägung als informationelle Selbstbestimmung.
04:00Die Richter kritisierten drei zentrale Punkte.
04:03Erstens, die Eingriffsschwelle war zu niedrig.
04:06Für einen so tiefen Eingriff in unsere Grundrechte reicht eine allgemeine Gefahr ab, wenn nicht.
04:11Man braucht eine konkretisierte Gefahr für überragend wichtige Rechtsgöter, also zum Beispiel Leib und Leben.
04:18Zweitens, die Gesetze waren zu unbestimmt.
04:21Sie überließen der Polizei zu viel Handlungsfreiheit, ohne klar zu definieren, welche Daten wie genutzt werden dürfen.
04:28Drittens, der Zweckbindungsgrundsatz wurde missachtet.
04:32Daten, die für einen bestimmten Zweck erhoben wurden, dürfen nicht einfach für etwas völlig anderes weiterverarbeitet werden.
04:39Aber Achtung, das ist der entscheidende Punkt.
04:42Das Gericht hat die Technologie nicht per se verboten.
04:45Es hat dem Gesetzgeber sozusagen Hausaufgaben mitgegeben.
04:50Schafft klare, enge und grundrechtskonforme Regeln, die den Einsatz der Software einschränken.
04:56Das Ergebnis? Ein politisches Chaos.
04:58Hessen hat sein Gesetz zwar novelliert, aber die GFF klagt schon wieder, weil es immer noch zu vage sei.
05:05Und hier offenbart sich ein fast unlösbares Paradox.
05:08Die Polizei braucht einen konkreten Verdacht, um die Software legal nutzen zu können.
05:13Die Software soll aber erst durch eine breite Analyse diesen Verdacht erzeugen.
05:18Ein verfassungsrechtlicher Teufelskreis.
05:21Während wir in Deutschland also über die juristischen Details streiten, boomt der globale Markt für Überwachungstechnologie.
05:27Und da gibt es weit mehr als nur Palantir.
05:29Nehmen wir den US-Konzern Axon.
05:31Ursprünglich für Taser bekannt, haben sie ein perfektes Ökosystem geschaffen.
05:36Die verkaufen der Polizei nicht nur Bodycams, sondern auch leicht den passenden Cloudspeicher.
05:42Auf dem die Daten landen.
05:44Evidence.com dazu.
05:45Das nennt man Vendor-Login.
05:48Ein Wechsel zu einem anderen Anbieter wird extrem schwierig und teuer.
05:52Und obendrauf gibt es KI-Tools wie DraftOne, das automatisch Polizeiberichte aus Audioaufnahmen erstellt.
05:59Ein Albtraum für Bürgerrechtler, die Voreingenommenheit und mangelnde Transparenz kritisieren.
06:04Während westliche Firmen die Software dominieren, kommt die Hardware, die Augen des Systems, meist aus China.
06:11Hikvision und Dahua sind die weltgrößten Hersteller von Überwachungskameras.
06:16Sie sind billig, technologisch fortschrittlich und deshalb überall.
06:19Ich muss zugeben, ich habe selbst zwei bei mir im Einsatz, um meine Wellensichtliche filmen zu können.
06:25Gleichzeitig stehen sie massiv in der Kritik wegen ihrer Rolle bei der Unterdrückung der Alguren in Xinjiang
06:31und wegen wiederholter Sicherheitsbedenken über mögliche Backdoors für die chinesische Spionage.
06:37Das heißt, Daten und Aufnahmen könnten nach China gelangen und dort für Spionagezwecke ausgewertet werden.
06:44Und dann gibt es noch die Königsklasse der Spionage.
06:47Firmen wie die israelische NSO mit ihrer Spyware Pegasus.
06:52Eine Zero-Click-Software, die ein Handy ohne jede Interaktion des Nutzers komplett übernehmen kann.
06:58Und vor allem ohne der Nutzer es merkt.
07:01Hier wird es zynisch.
07:02Diese Waffeln werden von demokratischen Staaten entwickelt und an andere Demokratien,
07:07aber auch an autokratische Regime verkauft,
07:09die sie dann systematisch gegen Journalisten, Aktivisten und Oppositionelle einsetzen.
07:15Eine High-Vision-Kamera in London und eine in Pekin mögen technisch identisch sein,
07:20aber die Philosophie dahinter könnte nicht unterschiedlicher sein.
07:23Und das ist der Kernpunkt meines heutigen Videos.
07:26Im demokratischen Modell wie bei uns in Deutschland ist der Einsatz von Überwachung
07:31immer eine begründungspflichtige Ausnahme vom Grundsatz der Freiheit.
07:36Die Technologie muss sich dem Recht unterwerfen.
07:38Es gibt ein permanentes Ring.
07:40Die Zivilgesellschaft klagt, Berichte setzen Grenzen, die Presse berichtet.
07:45Es ist ein mühsamer, oft reaktiver Prozess.
07:48Aber er ist das wesentliche Merkmal eines Rechtsstaats.
07:51Die öffentliche Rechtfertigung lautet immer Abwehr von spezifischen, schweren Gefahren.
07:57Und keine Massenüberwachung.
07:59Im autokratischen Modell, wie China es perfektioniert hat, ist die Logik umgekehrt.
08:04Überwachung ist nicht die Ausnahme, sondern die Norm der Staatsführung.
08:08Sie ist kein reaktives Werkzeug zur Verbrechensbekämpfung oder Gefahrenverhütung,
08:14sondern ein proaktives System zur sozialen und politischen Steuerung.
08:18Das Ziel ist nicht die Aufklärung eines Verbrechens oder es zu verhindern,
08:23sondern die Formung des Verhaltens der gesamten Bevölkerung zur Sicherung der Macht der Partei.
08:28Private Tech-Giganten und der Staat sind hier praktisch ein.
08:32China exportiert dieses Modell ganz bewusst.
08:35Sie liefern Safe-City-Lösungen an Länder in Afrika, Asien und Lateinamerikas.
08:40Oft finanziert durch chinesische Staatskredite.
08:43Sie exportieren nicht nur Kameras, sondern eine Ideologie der Kontrolle.
08:47Überwachung und das Blackbox-Problem.
08:50Wenn Algorithmen, die über unseren Verdachtstatus entscheiden, ein Geschäftsgeheimnis sind,
08:56untergräbt das das Recht auf ein faires Verfahren.
08:59Eines der Kerngrundrechte westlicher Demokratie.
09:02Wir in Europa stecken in einem Dilemma.
09:04Wir sind abhängig von US-Software und chinesischer Hardware.
09:08Der Ruf nach digitaler Souveränität ist laut,
09:11aber konkrete europäische Alternativen sind bisher kaum in Sicht.
09:15Die ultimative Wahl, vor der wir stehen, ist nicht die zwischen Sicherheit und Technologie.
09:20Es ist eine Wahl zwischen zwei Gesellschaftsordnungen.
09:23Wollen wir in einer Gesellschaft leben, in der Freiheit die Regel und Überwachung wie streng kontrollierte Ausnahme ist?
09:30Oder in einer, in der der Staat proaktiv das Verhalten seiner Bürger steuert?
09:36Praktisch der feuchte Traum der DDR und des Staatsministeriums für Sicherheit in der Deutschen Demokratischen Republik.
09:42Wenn wir unsere Demokratie schützen wollen, müssen wir jetzt handeln.
09:46Das Urteil des Bundesverfassungsgerichts hat uns die Leitplanken gezeigt.
09:50Wir brauchen erstens Gesetze, die den Einsatz dieser Werkzeuge nur bei konkreter Gefahr für Leib und Leben erlauben.
09:57Zweitens absolute Transparenz.
10:00Wir müssen wissen, welche Technologien unsere Polizei einsetzt.
10:03Es braucht öffentliche Register, wie sie in den USA von Bürgerrecht lang gefordert werden.
10:08Und drittens, wir müssen in demokratische, transparente Alternativen investieren, um unsere Abhängigkeit zu verringern.
10:15Das ist kein Kampf gegen die Polizei.
10:18Es ist ein Kampf für den Rechtsstaat, den die Polizei auch schützen soll.
10:22Denn ein Verlust der Freiheit, die langsam und algorithmisch ausgehöhlt wird, merken wir erst, wenn es zu spät ist.
10:29Was ist deine Meinung dazu?
10:30Wo ziehst du die Grenze zwischen Sicherheit und Freiheit?
10:34Schreib es mir in die Kommentare.
10:35Schreib es mir in die Kommentare.
