• vor 1 Jahr
Wenn alles simuliert sein kann – wem glauben wir dann noch?
Generative KI-Tools wie Googles Veo 3 oder OpenAIs Sora 2 erschaffen inzwischen ganze Videos, die auf den ersten Blick kaum noch von echten zu unterscheiden sind. Doch was passiert, wenn auf Social Media, in der Werbung oder sogar im Journalismus nichts mehr echt ist?

Vera zeigt in ihrem Video, wie virtuelle Schauspielerinnen wie Tilly Norwood die Filmwelt auf den Kopf stellen, warum Deepfakes die Wahrheit bedrohen und wieso selbst Beweise bald wertlos sein könnten. Ihr Beitrag ist ein eindringlicher Blick auf die Entmenschlichung der Medien und die Frage, ob wir überhaupt noch erkennen, was real ist.

Oder, wie Vera es selbst formuliert:
»Der Konsens über das, was menschlich oder wahr ist, ist längst verloren gegangen.«
Transkript
00:00Spätestens seit Google sein generatives KI-Tool Vio3 vorgestellt hat, ist klar, durch KI kann eigentlich alles dargestellt werden.
00:08Egal, was man sich ausdenkt, egal wie fantastisch, verstörend oder bizarr ein Video sein soll.
00:14Mittlerweile ist Vio3 nicht mehr das einzige generative Video-KI-Tool.
00:18Sora 2 zum Beispiel von OpenAI zieht ja jetzt auch mit und will die Konkurrenz für TikTok werden.
00:25Es ist also eine neue Art von Social-Media-Plattform, wobei man Social-Media hier wirklich ganz klar in Anführungszeichen setzen muss.
00:33Denn Social ist daran eigentlich gar nichts mehr.
00:36Hier gibt es ja keine Videos mehr von echten Menschen oder echten Ereignissen oder echten Emotionen.
00:42Hier werden ja KI-generierte Clips geteilt.
00:44Und mittlerweile sind diese Videos ja in der Mitte der Gesellschaft angekommen und zeigen ein immer größer werdendes Problem.
00:51Denn Sora und Vio liefern fertige Videos in einer Qualität, die in Trailern, Werbungen oder sogar Nachrichtenbeiträgen kaum noch als künstlich erkennbar sind.
01:03Und das verändert alles.
01:05Nicht nur auf Social Media, sondern auch in Film und Fernsehen, im Journalismus und in der Politik.
01:10Was passiert also, wenn alles scheinbar simuliert sein kann?
01:14Wem glauben wir dann noch?
01:17Nehmen wir das Beispiel eines Filmsets.
01:20Bei einem Filmset stehen verschiedene Leute hinter der Kamera und vor der Kamera.
01:26Und wenn man ganz viel Glück hat, dann stehen die SchauspielerInnen tatsächlich auf einem Berg in der bitteren Kälte und brechen da ihre Szenen ein.
01:33Wenn nicht, ist zumindest der Hintergrund und die Szene simuliert, zum Beispiel dann per Greenscreen.
01:39Man kann sich aber trotzdem darauf verlassen, dass die Darstellenden vor der Kamera ihr Handwerk beherrschen und dann wirklich echte Emotionen für die Kamera durchleben.
01:48Ich meine, echte Emotionen, echte Dilemmata, echte Verbindungen untereinander, das ist das, was wir sehen wollen.
01:56Egal ob in Filmen, im Reality-TV, in Büchern und sogar auf Social Media.
02:02Es ist das, was uns als Menschen ausmacht und es war schon immer der Grundstein für jede Form von Kutzt.
02:08Tja, zu blöd, dass mit generativer KI genau das wegfällt.
02:12Es fing ja an mit KI-generierten Texten, ging über Bilder, Podcasts und Hörbücher, kurzen KI-Videos und Werbungen bis jetzt hin zum Medium Film.
02:24Denn seit Neuestem erstrahlt ein neuer Stern am Hollywood-Himmel.
02:27Tilly Norwood ist eine hyperrealistische, komplett KI-generierte Schauspielerin, die 2025 von der Firma Particle 6 vorgestellt wurde.
02:37Ihr Aussehen und ihre Mimik wurden natürlich mit Hilfe mehrerer KI-Tools erzeugt.
02:42Und in einem ersten Projekt, dem Kurzfilm AI Commissioner, trat Tilly dann neben weiteren KI-Charakteren auf.
02:50Und das Drehbuch stammte übrigens von JetGPT. Wir schauen nochmal ganz kurz rein.
02:54Tilly wurde von der niederländischen Schauspielerin, Komikerin, Autorin und Produzentin Aline van der Velden erschaffen.
03:22Sie ist Gründerin und CEO der Produktionsfirma Particle 6 und hat 2025 das KI-Talentstudio, ja sowas gibt's, Sikoya, Shikoya.
03:33Jedenfalls hat sie das Studio gestartet, wo eben auch die KI-Schauspielerin Tilly entstand.
03:38Van der Velden will Tilly zur nächsten Scarlett Johansson oder Natalie Portman machen.
03:44Van der Velden sagt dazu, dem Publikum sei die Geschichte wichtiger als die Frage, ob die Schauspieler in echt sind.
03:50Ich geb die Frage gerne an euch weiter. Was ist euch wichtiger? Ich finde eigentlich beides gleich wichtig.
03:57Aber schreibt mir das gerne mal in die Kommentare, das würde mich sehr interessieren.
03:59Es gibt aber noch das Argument, dass durch den Einsatz von KI-Charakteren die Produktions- und Talentkosten um bis zu 90% gesenkt werden können.
04:07Also auch hier geht's um Einsparungen bzw. um maximalen Profit.
04:11Tilly ist damit eigentlich das beste Beispiel für eine Entmenschlichung der Medien.
04:23Denn sie ist eine Schauspielerin, die nicht existiert.
04:26Wenn sie in der Szene weint, liegt das nicht daran, dass sie ihr Handwerk so gut beherrscht und irgendeine emotionale Szene sich visualisieren kann,
04:33sondern weil es ein Computer genau berechnet hat, wie sowas aussieht.
04:37Das Medium Film war über Jahrzehnte hinweg eine der wichtigsten Darstellungen von menschlichen Gefühlen,
04:45die aber, wie wohl auch alles andere, was menschlich ist, imitierbar geworden ist.
04:50Tilly kann jede Rolle spielen, jede Aussage treffen, jede Szene drehen und zwar ohne eigene Zustimmung oder auch moralische Bedenken.
04:59Der nächste Knackpunkt, der mich an Tilly so aufregt, ohne SchauspielerInnen wie Natalie Portman oder auch Scarlett Johansson oder Cate Blanchett,
05:09würde Tilly überhaupt nicht existieren.
05:10Sie basiert einzig und allein auf der Arbeit von hunderten Frauen vor ihr.
05:15Und damit ja nicht genug.
05:16Sie ist ja nicht zufällig eine junge, schlanke, weiße und normschöne Frau.
05:21Sie ist damit ein direktes Produkt des vorherrschenden Schönheitsideals, das in den Trainingsdaten von KI-Modellen überrepräsentiert ist.
05:29Und Tilly verkörpert ja auch die Idealfrau, an die keine lebende Frau jemals rankommen wird.
05:36Tilly altert nicht, bekommt keine Falten, widerspricht nicht und ist immer verfügbar.
05:42Sie ist also eine optimierte, kontrollierbare Version einer Frau, erschaffen für maximalen Profit.
05:49Und das Schlimme ist, die Firma weiß ganz genau, was sie da tun.
05:53Unter anderem wegen dem Clip hier.
05:57Aber dieses Phänomen wird auch deutlich, wenn man sich die meisten KI-Influencer anschaut.
06:07Die bekanntesten und kommerziell erfolgreichsten virtuellen Influencer sind fast ausschließlich weiblich und normschön.
06:16Ja, mit denen kann man halt am meisten machen.
06:18Aber Tilly's makellose Erscheinung ist meiner Meinung nach nur die Spitze des Eisbergs.
06:25Wir tauchen jetzt mal eine Etage tiefer.
06:33KI-Tools wie Sora, Vio oder Neuerschaffungen wie Tilly gießen Öl in das Feuer der Misstrauenskrise,
06:41die schon damals mit simplen Deepfakes begann.
06:44Deepfakes waren der Anfang.
06:47Aber jetzt können ja ganze Nachrichtenbeiträge, Dokumentation oder auch politische Takes fehlerfrei und in absoluter Studiequalität gefälscht werden.
06:56Auch was Beweisstücke angeht, also zum Beispiel in Gerichten oder ganz wichtig im Journalismus.
07:01Auf Fotos und Videos hat man sich da einfach verlassen.
07:04Und jetzt verlieren die immer mehr an Bedeutung.
07:07Das Problem ist, die Essenz von Nachrichten und Social Media beruht ja auf der Annahme, dass das Gesehene zumindest eine Art von Realität abbildet.
07:17Und dieses Fundament, das stürzt gerade ein.
07:20Denn die Kernfunktion des Journalismus, also die Berichterstattung, die wirklich auf Fakten basiert, die wird untergraben.
07:28Und auch Social Media, das ja von der Authentizität der UserInnen lebt, ertrinkt förmlich in KI-generiertem Content.
07:36Das Phänomen habe ich übrigens schon mal in meinem Video zur Dead Internet Theory untersucht.
07:40Für den Journalismus aber jetzt, im Speziellen, bedeutet das aber ein doppeltes Dilemma.
07:45Also erstens müssen Redaktionen sehr aufwendig prüfen, ob ihnen zugespielte Fotos oder Videos wirklich echt sind oder eben KI-Fakes.
07:54Und zweitens sinkt selbst bei einwandfrei echten Inhalten potenziell das Grundvertrauen des Publikums, also von uns.
08:03Weil wir haben ja mittlerweile schon gelernt, dass theoretisch jedes Video ein Deepfake sein könnte und jedes Bild KI generiert.
08:10Wir werden also super skeptisch.
08:12Und genau hier liegt die Krux.
08:15Die gefährlichste Konsequenz von generativer KI für die Gesellschaft ist das sogenannte Liars-Dividend-Problem.
08:23Also auf Deutsch, die Dividende des Lügners. Klingt nicht so schön.
08:27Dieses Konzept besagt, dass für Täter oder Täterinnen allein die Existenz von Deepfakes vorteilhaft sein kann.
08:34Also wenn beispielsweise eine Person beschuldigt wird, gewalttätig gewesen zu sein und die Beweise auf Fotos oder auch Videos beruhen,
08:43dann kann ja die beschuldigte Person einfach behaupten, das ist gar nicht echt, das ist KI.
08:47Das ist das, was ich meinte vorhin mit der Beweisführung. In Gerichten zum Beispiel.
08:51Am Ende des Tages läuft es meiner Meinung nach auf eine sehr einfache Feststellung hinaus.
08:55Denn wenn alles als Fake abgetan werden kann, dann verlieren wir als Gesellschaft die gemeinsame Basis für eine kollektive Wahrheit.
09:04Und das ist nicht nur wichtig für politische Debatten und gesellschaftlichen Konsens, sondern auch demokratische Prozesse.
09:11Was passiert, wenn alles scheinbar simuliert sein kann? Wem glauben wir dann noch?
09:23Diese beiden Fragen habe ich ganz am Anfang gestellt und meiner Meinung nach wird diese Vertrauenskrise oder Misstrauenskrise, wie man es auch nennen könnte,
09:33wirklich die größte Herausforderung unserer Zeit. Und sie ist absolut gewollt.
09:37Tech-Giganten, die Marketingindustrie, bestimmte politische Lager profitieren massiv davon, wenn wir uns auf nichts mehr verlassen und alles anzweifeln können.
09:48Sie schaffen dadurch ein Klima des generellen Misstrauens.
09:52Und die Philosophin Hannah Arendt war schon vor einem Jahrhundert der Meinung,
09:57dass eine Dauerflut an Lügen nicht dazu führt, dass wir Menschen die Lügen glauben, sondern viel eher, dass wir nichts mehr glauben.
10:04Was macht man also jetzt? Ja, auf der einen Seite wird an Deepfake-Detektoren geforscht, also Software, die manipulierte Medien erkennen soll.
10:13Allerdings zeigen da auch Studien, dass das Ganze nur unter Laborbedingungen funktioniert.
10:19Forschende sprechen hier wirklich von so einem Wettrüsten oder auch Katz-und-Maus-Spiel.
10:24Also die generative KI ist immer den Erkennungstools so einen Schritt voraus.
10:29Und man kommt gar nicht hinterher, die Erkennungstools wirklich auf das nächste Level zu heben.
10:33Die nächste Idee waren dann ja Wasserzeichen.
10:36Auch der EU-AI-Act schreibt ja vor, dass generierte Medien klar als solche gekennzeichnet werden müssen.
10:43Google und OpenAI, die arbeiten auch bei ihren KI-Tools mit Wasserzeichen.
10:48Allerdings wurde auch da die Wirksamkeit von solchen Maßnahmen direkt auf die Probe gestellt.
10:53Denn wirklich nur eine Woche nach Release von Sora 2 kursierten bereits etliche Tools, die das Wasserzeichen entfernen können.
11:01Und damit sind wir wieder am Anfang.
11:04Und ich glaube, es reicht nicht, wenn man sagt, wir müssen irgendwie bewusster wählen, wem wir Glauben schenken.
11:10Der Konsens über das, was menschlich oder was wahr ist, ist meiner Meinung nach längst verloren gegangen.
11:17Wie sollen wir die Realität, die Wirklichkeit verteidigen, wenn wir nicht mal wirklich wissen, was real ist?
11:25Ich weiß, es wirkt hier alles gerade ein bisschen abgefahren und spacey.
11:29Was ist die Wirklichkeit?
11:30Keine Angst, wir sind hier nicht bei Matrix.
11:32Aber es ist halt schon so, dass wir durch diese KI-Tools mittlerweile Werkzeuge in der Hand haben, um Realitäten eben komplett zu formen.
11:41Und das finde ich tatsächlich sehr, sehr beunruhigend.
11:45Es überrascht mich aber auch nicht, weil ich wusste eigentlich, dass das passiert.
11:49Und zwar wirklich ab dem Zeitpunkt, als ich vor ein paar Monaten bei der Google I.O. war und als eine der ersten noch vor der eigentlichen Konferenz sehen durfte, zu was Vio 3 in der Lage ist.
12:01Und ich kann mich bis heute daran erinnern, als ob es gestern gewesen wäre, wie ich da saß und uns Vio vorne auf dieser Leinwand gezeigt wurde und ich nur so dachte, what the fuck, also das ist die Büchse der Pandora.
12:14Ja, ich habe zum Schluss keine aufwunderten Worte mehr für euch.
12:17Ich bin wütend.
12:19Ich hoffe, ihr auch.
12:20Lasst gerne ein Like und ein Abo da und dann sehen wir uns hoffentlich im nächsten Video wieder.

Empfohlen