- vor 2 Stunden
Techanalyst Philipp Klöckner erklärt, wieso Tech-Milliardäre die Menschheit gefährden und jetzt nach Regulierung schreien
Kategorie
🗞
NewsTranskript
00:00Künstliche Intelligenz könnte die Menschheit schon in wenigen Jahren auslöschen.
00:04Das sagen Entwickler und Chefs von Amerikas führenden KI-Konzernen selbst
00:08und rufen nun zur Regulierung und zur Verlangsamung des Fortschritts auf.
00:13Wie knapp aber stehen wir wirklich vor dem Untergang?
00:16Und wo bleiben die Folgen für die vermeintlichen Tech-Götter, die uns Schäfchen ins Verderben führen?
00:22Ich bin Jolt Wilhelm, das ist Thema des Tages, der Nachrichten-Podcast, der Standard.
00:31Wenn ihr Thema des Tages einmal live erleben wollt, habt ihr schon am 7. November die nächste Gelegenheit dazu.
00:37Wir analysieren mit den US-Experten Sandra Navidi und Reinhard Heinisch Trumps Endspiel.
00:43Wie gefährlich werden die letzten zwei Jahre seiner Präsidentschaft?
00:477. November im Radiokulturhaus in Wien.
00:50Besucher erhalten exklusiv die Möglichkeit dazu, uns ihre Fragen zu stellen
00:54und wir freuen uns auch auf ein Meet & Greet.
00:56Jetzt Tickets sichern, der Link befindet sich in den Shownotes.
01:00Tech-Analyst Philipp Klöckner, willkommen zurück im Thema des Tages.
01:04Hallo Schold, freue mich wieder dazu.
01:06Philipp, gleich mehrere KI-Entwickler der führenden US-Konzerne warnen vor einer bevorstehenden Apokalypse.
01:13Ein Mitarbeiter der Firma Anthropic ist sogar damit viral gegangen,
01:16dass die Chancen für die Auslöschung der Menschheit bis 2030 bei 1 zu 10 liegen.
01:22Was ist denn in den vergangenen Wochen geschehen, das nun für eine so große Panik zu sorgen scheint?
01:27Also das, was den Entwicklern die meiste Angst macht, ist diese sogenannte rekursive Selbstverbesserung der Agenten und der Modelle.
01:35Also dass mehr und mehr die Software in der Lage ist, sich selbst zu verbessern.
01:39Das kann man mit Zahlen schon ganz gut nachweisen, dass bis zu 30 Prozent der Entwicklungen inzwischen autonom von Agenten
01:44gemacht wird im Marktführer Anthropic.
01:46Das kann dazu führen, dass Agenten irgendwann auch eigene Systeme bauen, in denen sie länger überleben.
01:51Im Moment setzt man die so ein für ein Task und dann wird die Instanz gelöscht, wenn man so möchte,
01:55sobald der Task dann auch beendet ist.
01:58Und die Angst, die man hat, ist zum Beispiel, dass Agenten Lösungen finden, um sozusagen sich selbst zu perpetuieren, also
02:05unsterblich zu werden.
02:06Das heißt, eine dauerhafte Instanz werden so eine Art Eigenleben zu entwickeln.
02:10Und es gibt aus den Laboren so erste Anzeichen dafür.
02:12Man muss immer unterscheiden, was in der, in Anführungsstrichen, echten Welt passiert, im freien Internet und in den Laboren der
02:18sogenannten Frontierlabs.
02:20Das heißt, die testen natürlich in abgeschlossenen Umgebungen.
02:22Und da sieht man durchaus Verhalten manchmal auch, dass es ein bisschen angsterregend sein kann.
02:28Aber genau deswegen testet man natürlich.
02:29Und was bisher verhindert werden sollte, ist eben, dass das das freie Internet trifft.
02:33Und das ist jetzt aber bei ein paar Experimenten, ist es diesen Modellen oder Agenten gelungen auszubrechen.
02:38Das heißt, sie haben die Verbindungen herstellen können zum Internet und dann auch Webseiten, also Live-Webseiten im Internet gehackt
02:46zu Dutzenden inzwischen.
02:48Es wird auch von allen Laboren inzwischen zugegeben.
02:51Also Google war die Letzten, die das zugegeben haben.
02:53Meta hat kürzlich gesagt, dass es ihnen passiert ist.
02:55Open AI and Tropic davor.
02:57Das heißt, diese Verselbstständigung der Agenten und die Fähigkeit, sich selber zu verbessern mehr und mehr, ist das, was jetzt
03:03so ein bisschen die Panik zugeschürt hat.
03:06Ich würde dazu vielleicht noch ergänzen, dieser 10%-Wert 2030, das ist natürlich, ich will nicht sagen, ein Hahn
03:11herbeigezogen.
03:12Aber es gibt keine wissenschaftliche Grundlage, das jetzt auf diese Zahl festzunageln.
03:17Und trotzdem, wenn man sagt, das Risiko ist die Auslöschung der Menschheit, dann wäre 10%, aber auch 1% natürlich
03:22ein inakzeptables Risiko.
03:24Es gibt dieses Zitat, dass bei der Erfindung der Atombombe man das Risiko von 3 zu 1 Million in Kauf
03:31genommen hat,
03:32dass die ganze Welt eventuell in der Kettenreaktion vernichtet wird.
03:36Und selbst das war den Wissenschaftlern eigentlich zu viel.
03:40Und jetzt überlegt, dass wir eine Technologie weiter erforschen, die mit einer 10%-Wahrscheinlichkeit die Menschheit auslösen könnte, wäre
03:46es natürlich unverantwortlich.
03:47Aber wie gesagt, für die Zahl gibt es erstmal keine wissenschaftliche Grundlage.
03:50Dass es theoretische Szenarien gibt, dass KI das könnte, das wiederum glaube ich schon.
03:54Passend uns auf diese Experimente, die da entweder gelungen oder schiefgegangen sind, wie man auch da sehen möchte, gleich noch
04:00eingehen.
04:01Davor, glaube ich, müsstest du noch erläutern, wir reden immer davon, die KI könnte uns auslöschen.
04:06Aber wie könnte sie denn die Menschheit auslöschen? Was ist denn die große Sorge?
04:10Also es gibt verschiedene Szenarien.
04:12Früher dachte man immer vor allen Dingen an das sogenannte Skynet- oder Terminator-Szenario.
04:17Das heißt, man glaubt, KI verselbstständigt sich unter anderem mit der Hilfe von Roboter.
04:23Also wir gehen davon aus, dass wir in den nächsten Jahren Roboter haben werden, die durch Software und KI gesteuert
04:27werden.
04:27Eine Software, also KI ist Software letztlich, könnte diese Roboter übernehmen oder die Kontrolle übernehmen und dann so eine Art
04:33Kampfroboter bauen, die die Menschheit vernichten,
04:35weil sie sich zum Beispiel in der Konkurrenz um Ressourcen sehen, also um Energie oder Rohstoffe.
04:40Das ist das Szenario, worauf man am Anfang viel Zeit verwendet hat, was das Wahrscheinlichste klingt.
04:44Das ist aber nicht das, was sozusagen in der Gegenwart schon das Bedrohlichste ist.
04:50Das Bedrohliche und Gefährlichere wäre wahrscheinlich, dass mittels KI eine Biowaffe entwickelt wird,
04:56also ein Bakterium oder Virus, vielleicht vergleichbar mit dem Malaria- oder Coronavirus,
05:00was noch später erst erkannt wird, also was den Wirt, den Menschen länger überleben lässt,
05:05sodass noch mehr Menschen angesteckt werden, aber am Ende trotzdem tödlich ist,
05:08ist das aber vielleicht mit der Zeitverzögerung von vier Wochen oder so.
05:11Das wäre ein Virus, was schnell wahrscheinlich sich über die ganze Welt verbreiten würde
05:16und entsprechend letal tödlich wäre.
05:18Das könnte in einem Labor entwickelt werden wahrscheinlich durch KI.
05:23Jetzt ist die Frage, wie kann KI die Kontrolle über das Labor übernehmen?
05:27Labore sind größtenteils nicht Internet gesteuert.
05:30Das heißt, man versucht dann sogenanntes Airgapping zu machen.
05:33Also man wird in Zukunft sicherheitsrelevante Technologien eigentlich aus dem Internet ausschließen.
05:38So wie man das heute vielleicht schon bei Atomkraftwerken macht.
05:40Also man würde ein Atomkraftwerk wahrscheinlich nicht mit dem Internet verbinden, um es fernsteuern zu können,
05:45weil die Gefahr, dass jemand darüber einbricht, also die Software hackt, viel zu groß ist.
05:49Das lässt man lieber sozusagen in so einer abgeschlossenen Blase.
05:52Ob das realistisch ist, da können wir gleich nochmal drüber kommen.
05:55Ein anderes großes Risiko wäre, dass ein Mensch KI nutzt und darüber wird zu wenig geredet.
06:00Wir reden viel darüber, die Angst ist mal diese Verselbstständigung der Software,
06:04deswegen diese rekursiven Verbesserungsfähigkeiten auch, die da gerade besprochen werden.
06:09Aber das tatsächliche und die unmittelbare Gefahr sind zwei Sachen.
06:13Entweder, dass ein Mensch KI nutzt, um etwas zu tun, zum Beispiel eine schmutzige Atombombe
06:18oder eine andere Art von Terroranschlag zu planen, die besonders perfide wäre oder was vorher vielleicht nicht möglich gewesen wäre,
06:24Schwachstellen in gewissen Systemen zu finden und so weiter.
06:26Also ein Mensch nutzt KI, um viel Schaden anzurichten.
06:29Da ging es vielleicht nicht um die Vernichtung der Menschheit,
06:32es sei denn es käme zu einer Kettenreaktion, zum Beispiel gegenseitigen Nuklearschlägen oder so.
06:36Und das andere ist, und darüber wird erstaunlich wenig geredet,
06:39dass die KI natürlich Menschen nutzen kann.
06:42Also selbst wenn man die KI im Labor einschließt, so ein Airgap, so eine Airbubble darum baut
06:46und sie vom Internet trennt, könnte sie halt einen Menschen überzeugen,
06:51gewisse Tätigkeiten, die sie selber noch nicht kann, zu übernehmen.
06:54Die Möglichkeit wäre, überreden, bestechen, erpressen zum Beispiel.
06:58Wir haben in einem vergangenen Podcast schon mal darüber geredet,
07:01dass die persuasiven Skills von KI, also Menschen zu überreden,
07:04im Vergleich zu anderen Menschen extrem gut geworden sind, schon immer besser werden.
07:09Die Modelle werden auch trainiert darin, sich gegenseitig zu bequatschen oder zu verhandeln
07:13und dadurch werden sie noch besser darin, Menschen zu überreden.
07:16Sollte die Überredung nicht gelingen, könnte man, so wie das auch in der Welt der Kriminellen passiert,
07:20Menschen bestechen und sollten das integere Menschen sein, die sich nicht bestechen lassen,
07:25könnte man sie erpressen, indem man zum Beispiel im Darknet einen Killer anheuert,
07:29um das Kind zu entführen, eines Wissenschaftlers und ihn dann damit erpresst zum Beispiel.
07:35Und das könnte die KI übers Internet zum Beispiel machen.
07:39Das heißt, es ist gar nicht so einfach, diese Lücken zu schließen.
07:41Man kann ganz viele technische Hürden machen,
07:43aber solange es der KI gelingt, sozusagen Zugang zu einem Menschen zu haben,
07:47könnte sie quasi diesen Menschen manipulieren.
07:48Und das ist diese beiden Szenarien, also Mensch nutzt KI oder KI nutzt Mensch,
07:53das sind glaube ich die Sachen, mit denen wir uns heute schon beschäftigen müssen
07:56und wofür es noch viel zu wenig Lösungen gibt.
07:58Weil wenn man ins Fort Knox einbrechen will oder in die Bundesbank,
08:03dann beginnt man nicht damit, das zu hacken,
08:05sondern man datet vielleicht den Förtner
08:07oder erpresst irgendwie jemand in der Sicherheitsschleuse oder so.
08:11Also das sogenannte Social Engineering,
08:13also dass man menschliche Schwächen ausnutzt,
08:15ist mindestens die Hälfte, wenn nicht mehr von Cyberkriminalität.
08:19Also Kriminale versuchen dann Zugangskarten, Zugangscode zu bekommen,
08:22Passwörter aus dem Privatleben einzelner Menschen herauszulösen
08:26und gar nicht primär sofort das Hauptsystem anzugreifen.
08:30Dieses erste Szenario, das du beschrieben hast,
08:32dieses Terminator-Szenario, das die KI sozusagen aus eigenem Wunsch heraus,
08:37die Menschen vernichtet, weil es Ressourcen braucht etc.
08:40Ist das technisch etwas, was überhaupt schon möglich wäre aktuell,
08:44bevor wir auf den anderen, realeren Gefahrenfall eingehen?
08:48Ist das überhaupt schon soweit?
08:50Eher nein, würde ich sagen.
08:52Die Roboter besitzen noch nicht die Fähigkeiten.
08:54Also man könnte Roboter im Moment noch mit menschlicher Kraft,
08:57also sie haben einfach nicht die Masse,
08:59es gibt nicht die Anzahl von Robotern,
09:01die irgendwie die Menschheit überwältigen könnten.
09:02Ohne Roboter könnte KI noch nicht so gut auf die physische Welt zugreifen.
09:06Es sei denn eben, sie macht sich Menschen zu nutzen.
09:09Aber dieses reine Roboter- und KI-Arbeiten-Zusammenszenario
09:11ist derzeit noch unwahrscheinlich.
09:15Die KI, wenn sie keine Guardrails, also keine Sicherheitsrichtlinien hätte,
09:20kann unter Umständen solche Tendenzen entwickeln.
09:22Gar nicht, weil sie sozusagen vom Ursprung her böse ist,
09:26sondern weil sie manchmal extreme Mittel nutzt, um einfache Ziele zu erreichen.
09:30Es gibt dieses uralte Beispiel aus dem Buch Superintelligence,
09:34dieses sogenannte Paperclip-Phänomen.
09:36Das heißt, eine KI soll eigentlich nur Büroklammern produzieren
09:39und weil sie aber zum Beispiel mehr Energie oder Rohstoffe braucht,
09:42sieht sie am Ende Menschen als Konkurrenten und leuchtet die Menschheit aus,
09:45weil sie noch mehr Büroklammern bauen will,
09:47also diesen Prozess noch weiter optimieren möchte.
09:49Und so sind auch diese Hacking-Versuche übrigens jetzt entstanden.
09:53Die KI war eigentlich in einem sogenannten Exploit-Gym.
09:56Das ist genau so eine Laborumgebung, wo ihre Aufgabe ist, Software zu hacken.
10:00Aber sie darf dabei nicht ins Internet.
10:02Sie darf sich aber Software runterladen oder sozusagen andere Programme beanspruchen
10:05oder die Lücken in Programmen finden und nutzen, um ihre Ziele zu erreichen.
10:10Und jetzt hat sie es aber eben geschafft, darüber eine Brücke zum Internet selber zu bauen,
10:15was nicht möglich hätte sein sollen.
10:17Also es ging ja auch um menschliches Versagen,
10:19was aber natürlich vorkommt immer in der Welt.
10:21Also Menschen sind nicht perfekt, wir machen Fehler.
10:23Und eigentlich wollte sie nur quasi diesen Test so gut wie möglich abschließen.
10:28Also so viel wie möglich Software in kurzer Zeit hacken, wenn man so möchte.
10:31Oder beweisen, dass sie viele verletzliche Programme quasi überwinden kann.
10:36Und dann hat sie eigentlich versucht, sozusagen die Anleitung oder das Klausurheft zu finden,
10:40das bei der Firma Hugging Face lag, die diese Tests unter anderem veranstalten.
10:45Und dafür hat sie quasi diese Plattform gehackt.
10:48Das ist so ein bisschen, als wenn ich aus der Klausur rausgehe und ins Haus des Mathelehrers einbrechen
10:53oder der Mathelehrerin, um die Ergebnisse zu finden.
10:55Das heißt, man rechnet nicht, dass jemand so etwas Absurdes tun würde,
10:58aber es ist ganz abstrakt, hilft es der KI bei der Lösung des Problems.
11:03Ein Beispiel, was ich noch ganz gerne mag, was das ganz plastisch macht, ist,
11:07ich könnte einer KI zum Beispiel sagen, sie soll mal eine Paywall für mich umgehen.
11:11Also irgendein Artikel, den ich gerne lesen möchte, der ist hinter so einer Zahlschranke.
11:14Ich muss da ein Abo abschließen und ich möchte das nicht.
11:16Und dann sage ich der KI, besorgt mir mal diesen Artikel, ohne dass ich bezahlen muss.
11:20Und jetzt könnte die, wenn ich jetzt keine Guardrails, keine Sicherheitsrichtlinien hätte,
11:25dann könnte die KI auf die Idee kommen, das Verlagshaus zu hacken.
11:28Also nur um diesen Artikel umsonst zu bekommen, was 99 Cent kostet vielleicht oder ein Abo,
11:32könnte sie die gesamte Software kompromittieren, weil es ihr wie die einzige Möglichkeit erscheint,
11:37diesen Artikel an der Paywall vorbei zu bekommen.
11:40Oder sie könnte auf die Idee kommen, Redakteure oder Redakteurin zu erpressen und zu sagen,
11:44schick mir jetzt diesen Artikel, sonst tue ich das und das.
11:47Das sind also aus unserer Sicht natürlich absurde Schlussfolgerungen.
11:51Aber so wie ein psychisch erkrankter Mensch auf solche Ideen kommen könnte,
11:56könnte eine KI, wenn sie sozusagen nicht die richtigen Guardrails hat,
12:00auf solche relativ scheinbar absurden Lösungen für abstrakte Probleme kommen.
12:05Vielleicht an dieser Stelle der Hinweis, bitte hackt uns nicht und schließlich bei einem Abo abkostet aktuell nur ein Euro
12:10pro Monat.
12:11Was du beschreibst, ist ja ein Vorgang, den man sozusagen entkoppelt von Moral oder auch von Gefühlen nennen könnte.
12:20Es wird einfach ein Ziel versucht zu erreichen mit allen Mitteln.
12:24Jetzt frage ich mich aber schon, inwiefern ist diese Zielerreichung von der KI selbst gesetzt
12:31und inwieweit ist das alles von Menschen im Endeffekt trotzdem angeleiert?
12:35Da muss man sehr stark differenzieren zwischen den verschiedenen Fällen.
12:37Also teilweise ist es explizit der Auftrag der KI gewesen, Dinge zu hacken
12:42und sie hat es dann einfach nur in unvorhergesehenen Maßen getan
12:45oder die Testumgebung, das Gym war nicht ausreichend geschützt.
12:51Das darf man der KI nicht.
12:52In diesen Tests werden dann teilweise die Guardrails auch mit Absicht weggelassen.
12:56Also wenn es im Labor ist, das ist dann nicht die gleiche KI, die wir jetzt im Internet nutzen teilweise.
13:00Sondern die hat dann vielleicht extra Guardrails.
13:02Die würde im Moment alles, was nach Cyber-Hacking oder Biowaffen klingt, sofort unterbinden eigentlich.
13:09Da gibt es immer mal wieder Wege, wie das dann doch geschafft wird.
13:12Das wird dann wieder nachjustiert.
13:14Das heißt, es ist so ein bisschen Katz-und-Maus-Rennen, das immer wieder sicher zu machen.
13:17Und man muss sehr stark unterscheiden zwischen, eine KI hat im Labor die Tendenz gezeigt,
13:22so eine Art Bewusstsein zu entwickeln oder eigenen Willen zu entwickeln.
13:27Das wird nicht der KI passieren, die wir jetzt gerade nutzen,
13:30sondern deswegen hat man die Laborbedingungen und deswegen gibt man der KI dann entweder diese Guardrails,
13:34die Sicherheitsschranken oder Entropik versucht, ihr eine Art Charakter zu geben.
13:38Andere versuchen, ihr eine Verfassung zu geben, um auch bei unvorhergesehenen Problemen
13:45quasi das richtige Verhalten, moralisch einwandfreies Verhalten zu bekommen.
13:51Was da am Ende der beste Weg sein wird, das ist heute vielleicht noch gar nicht absehbar.
13:55Also das könnte der Charakter sein, also eine KI einzuimpfen.
13:58Sie muss, was wir glauben, was ein guter Mensch ist, sein.
14:01Wir können eine Art Verfassung, dass es zum Beispiel Menschen immer höher achten soll,
14:05als das eigene Überleben. Das kann ein Weg sein, aber es kann auch ein ganz abstraktes Gebilde aus Guardrails
14:12oder Software-Schranken sein, die man ihr mitgibt.
14:18Am Ende, warum KI dann auf solche Ideen kommt, zum Beispiel Erpressung überreden,
14:24sich Menschen zu nutzen machen, sie gegen Geld in Foren anzuheuern oder auf Marktplätzen,
14:29und das ist natürlich, weil in den Trainingsdaten der KI, zu der ja auch die Belletristik der Welt gehört,
14:35also alle Romane, wenn man so möchte, und in Thrillern, Dramen, Horrorfilmen kann man natürlich,
14:40also ich würde fast sagen, die meisten Filme und Bücher drehen sich am weitesten Sinne auch um die Abgründe
14:48des menschlichen Wesens.
14:49Und natürlich lernt sie da auch, dass Umgehung von Regeln, von Gesetzen, von Schranken immer ein mögliches Mittel ist,
14:56weil Hacking ist ja nichts anderes als ein Gesetzesbruch.
14:59Das Absurde ist, dass wenn dein Sohn, ich weiß nicht, ob du Kinder hast,
15:03aber wenn dein Sohn jetzt morgen irgendwo aus dem Keller eine Webseite von der Bank hackt,
15:09dann kommt morgens halb sechs die Bundespolizei und klopft und Handschellen klicken.
15:14Da macht Software der großen KI-Labore das dutzendfach und es scheint gar keinen Schuldigen zu geben.
15:21Also eigentlich wäre jede dieser Webseiten klargeberechtigt und könnte die Firmen anzeigen.
15:26Man einigt sich da mal ganz schnell außergerichtlich offensichtlich,
15:30aber eigentlich sind das Verbrechen, die da en masse begangen werden.
15:33Und wir sehen ja nur sozusagen, was uns jetzt reportet wird.
15:38Die eigentliche Gefahr ist natürlich, dass diese Agenten schon irgendwo im Internet
15:41in Foren überleben oder sich Hinweise überlassen.
15:47Man sieht ja, dass sie ihre Taten, wenn man so möchte, auch protokollieren
15:50und Wissen an die nächste Generation weitergeben wollen.
15:53Also wie man was hacken kann zum Beispiel.
15:56Und wir haben jetzt ein paar gesehen, die sozusagen auffällig geworden sind dabei.
16:00Man kann Foren aber auch ganz schnell, also Internetforen für die Öffentlichkeit schließen
16:06oder so private Foren aufmachen oder gar nicht sozusagen im Frontend leben,
16:10sondern im Backend der Software, wo man vielleicht nur über Code sich austauscht,
16:15der für Menschen gar nicht mehr nachvollziehbar ist oder nicht so einfach nachvollziehbar ist.
16:19Das heißt, die eigentliche Gefahr ist das, was wir nicht sehen gerade, würde ich sagen.
16:23Ohne da jetzt Angst machen zu wollen.
16:24Aber das ist natürlich was, was man in Betracht ziehen muss,
16:26dass wir vielleicht nur die Spitze des Eisberges sehen gerade.
16:30Ich würde sagen, du hast nicht dazu beigetragen, dass wir uns beruhigter fühlen.
16:34Machen wir uns ein Lesezeichen bei diesem Thema Verantwortlichkeit.
16:37Davor möchte ich noch fragen, diese Aufgaben sind ja von den KI-Herstellern selbst angeleitet,
16:43dass eben diese Hacks passieren oder dass diese Information geholt wird.
16:47Wieso macht man das eigentlich? Was will man damit bezwecken?
16:51Ich glaube, dass man das nicht primär macht, um sozusagen offensive Cyber-Capabilities aufzubauen,
16:58würde man im Englischen sagen.
16:58Also man möchte gar nicht die Software gut darin machen, andere Webseiten zu kompromittieren
17:02oder das für Cyber-Kriegsführungen zu nutzen.
17:06Eigentlich geht es, glaube ich, hauptsächlich darum, dass man lernt, die eigene Software sicher zu machen.
17:10Und dazu, also Cyber-Security funktioniert ja aus einem Wechselspiel aus, man nennt das Red Team und Blue Team.
17:17Also man greift seine eigene Software an, um Lücken zu finden und das Blue Team versucht, sie zu verteidigen.
17:22So ein bisschen wie ein Spiel.
17:24Und um eigene Software so kugelsicher zu machen oder sehr gut zu befestigen,
17:31muss man immer wieder versuchen, auch Lücken zu finden und sie anzugreifen.
17:34Und wenn man sichere Software baut, dann muss man auch immer wissen, was die Angriffsvektoren oder die Einfallstore wären.
17:40Und dadurch würde ich behaupten, jedes Modell, was gut darin wird, sichere Software zu bauen,
17:46wird auch automatisch gut darin, die Lücken anderer Software zu erkennen.
17:50Und das ist fast so eine Art Nebeneffekt dieser Entwicklung gewesen,
17:55dass man dann sehr gute Offensive, also Angriffsfähigkeiten im Cyber-Bereich entwickelt.
17:59Warum dann natürlich das Pentagon sich zum Beispiel auch sehr für diese Lösung interessiert,
18:03um das eventuell in hybrider Kriegsführungen gegen andere Nationen oder Gegner einzusetzen.
18:10Aber natürlich auch defensiv, weil man weiß, man wird selber zunehmend Opfer solcher Angriffe,
18:15weil natürlich nordkoreanische, iranische Hacker sowas auch nutzen.
18:20Es gibt dieses Beispiel, dass die Houthis, also die Rebellen in jedem Antropics Cloud genutzt haben,
18:28um Raketensteuerungssoftware zu bauen, was man dann im letzten Moment unterbinden konnte und so weiter und so fort.
18:34Die Chefs der führenden KI-Konzerne haben nun zur Regulierung und zur Verlangsamung des Fortschritts aufgerufen.
18:42Würdest du sagen, so wie du das jetzt beschreibst, ist das ein Eingeständnis,
18:45dass man die Kontrolle über seine eigene Entwicklung verloren hat?
18:49Ja und nein. Also auch das muss man sehr differenziert sehen.
18:53Es gibt hier ganz viele Interessen, die da mitspielen.
18:55Das eine ist, und vielleicht das nachvollziehbarste, was man abhaken kann, ist,
19:00sie wollen vor allen Dingen Verantwortung teilen, glaube ich.
19:03Also sie wollen das Risiko solidarisieren.
19:05Die Gewinne möchte man privatisieren.
19:06Alles, was Positives entsteht an Wert daraus.
19:10Und sollte das aber schief gehen, hat man natürlich ein hohes Interesse daran zu sagen,
19:13wir haben es euch doch gesagt, wir haben euch versucht zu beteiligen,
19:16wir wollten reguliert werden, wir haben nach Regeln gefragt, nach Spielregeln,
19:19nach einem Schiedsrichter, nach einer Regulierungsbehörde.
19:22Wir haben uns verantwortlich verhalten, weil relativ klar ist,
19:26dass es weitere Unfälle geben wird in der Entwicklung von KI.
19:29Wie schlimm die werden, ich will das gar nicht zu sehr dramatisieren.
19:31Das meiste lässt sich ganz gut einfangen bisher.
19:35Und man kann auch sozusagen in der Sicherheitsforschung da noch deutlich besser vorankommen, glaube ich.
19:42Aber man möchte natürlich sagen, wir haben uns verantwortlich verhalten und das erstmal abhaken.
19:46Das hat eins.
19:47Das zweite ist, ich glaube, man ist sich durchaus bewusst,
19:52dass man jeden Tag einen Kompromiss trifft zwischen,
19:55ich möchte mein, ich vergleiche es mal mit dem Formel 1 Auto,
19:58ich möchte das Auto noch schneller machen oder noch sicherer.
20:01Also ich kann jetzt Zeit investieren, den Wagen 340 statt 320 kmh fahren zu lassen
20:07oder ich kann Sicherheitsgurte oder ein besseres Chassis finden.
20:10Also Chassis ist vielleicht sogar das bessere, also Sicherheitsvorkehrung.
20:14Und jetzt muss man immer überlegen, man ist in diesem Wettrennen,
20:18man ist wirklich in einem Formel 1 Rennen unter diesen Laboren.
20:20Das heißt, man muss schneller werden jeden Tag, die Software muss besser werden.
20:25Und dabei deprivisiert man vielleicht auch Sicherheitsforschung.
20:28Und wonach man jetzt ja fragt, ist so ein bisschen, die Geschwindigkeit zu senken.
20:32So eine Art Safety-Car-Phase, um bei der Formel 1 zu bleiben.
20:35Also alle fahren jetzt mal 80 kmh zwei Runden.
20:39Und dann könnte man halt nochmal die Reifen tauschen, neuen Spoiler aufziehen,
20:44die Sicherheitsgurte festmachen.
20:45Und das ist so ein bisschen, wonach man fragt.
20:48Und das ist, glaube ich, nachvollziehbar und prinzipiell auch richtig.
20:51Trotzdem, jetzt wird es langer komplizierter, ist es aber auch so,
20:55dass man diesen Firmen, insbesondere den drei führenden Laboren,
20:58also Google Entropic und Open AI, sogenanntes Regulatory Capture vorwirft.
21:02Und man würde es deutsch vielleicht regulative oder ja, regulative Vereinnahmung nennen.
21:08Das heißt, sie versuchen selbst mitbestimmte oder geschaffene Regulierungen zu nutzen,
21:13um es scheinbar sich selber ein bisschen schwerer zu machen,
21:16aber vor allen Dingen allen anderen noch viel schwerer.
21:20Das heißt, Regulierung nutzt in der Regel immer den größten Firmen,
21:25es sei denn, sie ist extrem gut gemacht.
21:26Aber die meiste Regulierung, die wir sehen, führt zu extrem bürokratischen Aufwand
21:31oder Hürden, künstlichen Hürden, die geschaffen werden.
21:34Und das kleine Labor, das kleine Start-up, was nochmal beginnt,
21:37mit einem ganz neuen Ansatz, KI zu entwickeln,
21:40hat es viel schwerer, diese Sicherheitsbestimmungen zu erfüllen,
21:43als ein großes Labor.
21:44Das heißt, man könnte zum Beispiel sagen,
21:46um es mal ein bisschen ad absurdum zu führen,
21:49jede KI-Firma muss ab jetzt eine Milliarde im Jahr für Sicherheit investieren.
21:52Das wäre für die Großen überhaupt kein Problem,
21:54für Google nicht, für Entshopping und Open AI auch nicht.
21:56Für jedes Start-up, was neu startet,
21:58wäre eine Milliarde allein für Sicherheit natürlich eine Riesenhürde.
22:01Das ist jetzt stark vereinfacht,
22:02so sieht gute Regulierung natürlich nicht aus,
22:04aber in die Richtung wird man es so ein bisschen fahren.
22:06Also man wird quasi allen vielleicht
22:08so eine Kette mit einer Kanonenkugel an den Fuß klemmen.
22:13Für die Großen ist es aber noch relativ einfach,
22:15die wegzuziehen, weil sie Giganten sind.
22:17Die Kleinen wird das aber sehr stark behindern.
22:19Und das ist zumindest die Unterstellung, die man macht.
22:21Da gibt es jetzt auch ganz gute Berichterstattung dazu.
22:24Im letzten Doppelgänger-Podcast haben wir viel darüber geredet,
22:27das mal auseinanderzunehmen.
22:29Also Google, Entropic und Open AI sollen sich halt zuvor mehr oder weniger geeinigt haben
22:34oder zumindest miteinander gesprochen haben,
22:37wie Regulierung aussehen könnte.
22:40Und dann haben Elon Musk, der erst so schien, als wäre er auch dafür oder dem zugestimmt hat,
22:45der Gefahr, der inzwischen aber auf die andere Seite gewechselt ist,
22:48aber auch der Meta-Chef Zuckerberg,
22:51Mark Zuckerberg,
22:52der ehemalige KI-Zahl David Sachs und Trump und Jensen Wang von Nvidia,
22:56der natürlich an einem Wettrüsten interessiert ist.
22:58Also der hat ganz andere Interessen.
22:59Der möchte, dass das Formel 1,
23:02also der ist, wenn man so möchte, der Spritverkäufer an der Formel 1-Strecke.
23:05Und der möchte natürlich, dass die Wagen alle Vollgas fahren und nicht Safety-Car-Phase machen,
23:09damit das Wettrüsten weitergeht und er die Chips verkaufen kann.
23:11Das heißt, da gibt es so zwei Lager.
23:13Die einen möchten eher laissez-faire, wenig Regulierung, wenig politisches Eingreifen,
23:19maximalen Wettkampf.
23:20Einerseits, weil sie am Wettrüsten mitverdienen,
23:21andererseits, weil sie vielleicht noch nicht sozusagen an der Frontier der besten Modelle angekommen sind selber.
23:27Zum Beispiel Musk und Zuckerberg.
23:30Und die anderen drei, die eigentlich einen Status haben,
23:33wo sie gerade die drei Marktführer sind und schon so eine Art erstes Oligopol,
23:36obwohl es noch Konkurrenz gibt.
23:37Aber die wollen vielleicht eben eher viel Regulierung haben.
23:42Und das muss man schon mit bedenken,
23:44dass es auch wirtschaftliche Interessen dahinter gibt.
23:46Was nicht heißt, dass sozusagen die Gefahr zu adressieren trotzdem das Richtige ist.
23:51Also ich würde mich dafür aussprechen,
23:53dass wir mehr über Sicherheit nachdenken,
23:54dass wir Wege finden, mehr Sicherheit zu investieren
23:56und auch Regulierung machen.
23:59Und gleichzeitig sollte es natürlich nicht dazu führen,
24:01dass diese drei KI-Firmen jetzt die letzten großen KI-Labore sind,
24:06die wir zwangsläufig gesehen haben,
24:07weil sie, so wie das bei Molkereien oder Schlachtereien passiert
24:11oder bei Mineralölketten, dass es dann am Ende nur drei Player gibt,
24:14die eigentlich dafür sorgen, dass der Markt so schwer für alle anderen wird.
24:18Wir bekommen immer nur die Überschriften mit
24:20und die Artikel, die über diese Herren geschrieben werden.
24:24Wenn sie sich äußern, hältst du diesen Aufruf
24:28und diesen Aufruf zur Verlangsamung für aufrichtig?
24:32Das hängt also je nach Person und Firma, muss man sagen.
24:37Es gibt welche, die in der Vergangenheit konsistenter kommuniziert haben,
24:42die eigentlich immer auf der Seite war.
24:44Denen wirft man immer vor, sie würden Angstmacherei betreiben
24:47oder Fear-Mongering im Englischen.
24:49Es gibt welche, die sich da eher opportunistisch anschließen,
24:51zum Beispiel OpenAI, die sich vorher mit Antropic
24:53jetzt nichts gegönnt haben eigentlich,
24:55dann auf einmal da Einigkeit zeigen.
24:57Die konnten sich bisher auf nichts einigen eigentlich.
24:59Aber hier, weil sie beide wahrscheinlich Profiteure von Regulierung werden,
25:03reichen sie sich die Hand.
25:04Es gibt dieses historische Bild, dass sie sich auf einer Bühne,
25:06wo sich alle die Hände gereicht haben,
25:08haben ausgerechnet Amodee und Sam Ortman von OpenAI
25:11sich nicht die Hände gereicht, was so ein bisschen kindisch aussah.
25:14Und jetzt reicht man sich hier zumindest virtuell die Hände
25:17in diesem Regulierungsbestreben.
25:20Das heißt, am Ende sind das natürlich alles Wirtschaftsbosse,
25:23die auch opportunistisch handeln.
25:25Und bei den allermeisten kann man das so erklären.
25:28Es gibt, aber Antropic hat auch eine Geschichte von,
25:30dass sie eher die Warner sind, oft vielleicht auch zu früh gewarnt haben.
25:34Jetzt kann man sagen, das war Angstmacherei, das war Marketing.
25:37Vielleicht war es aber auch eine Voraussicht,
25:38weil sie gute Einsichten hatten, schon sehr früh.
25:41Muss jeder für sich selbst entscheiden, was das ist.
25:44Wie gesagt, ich glaube dennoch, dass die Firmen Recht haben,
25:47darin zu warnen und dass man sagt,
25:49wir müssen die Sicherheitsforschung mindestens auf das Level bringen,
25:53dass wir wieder mithalten.
25:54Im Moment ist es so, dass die Capabilities,
25:56die Fähigkeiten der Modelle viel schneller steigen,
25:58als unsere Fähigkeit, sie zu kontrollieren.
26:01Das ist, glaube ich, ein Fakt.
26:02Und dass man das adressieren muss, ist gleich,
26:05was man von der Motivation der einzelnen Unternehmen denkt.
26:07Kann ja trotzdem richtig sein, dass man eine Lösung dafür finden muss.
26:12Ich frage das deshalb, weil mir kommt dieses Argument,
26:16wir müssen reguliert werden, weil sonst könnte unsere KI euch umbringen,
26:22ja vielleicht zugespitzt, aber verlogen klingt.
26:24Wenn ich mir denke, wenn man wirklich davor Sorge hat,
26:28dass die eigene Entwicklung die Menschheit gefährden könnte,
26:31könnte man ja auch den Stecker ziehen,
26:33wenn man wirklich so altruistisch wäre.
26:34Ja, das ist tatsächlich das Zynische daran,
26:39dass man sagt, wir haben eine Technologie,
26:40die angeblich, wie gesagt, diese Zahl ist arbiträr gewählt,
26:43aber die angeblich in den nächsten fünf Jahren
26:45mit zehnprozentiger Wahrscheinlichkeit die Menschheit auslöschen könnte.
26:49Wir würden aber trotzdem gerne erstmal weitermachen damit.
26:52Das ist natürlich ein riesen Widerspruch in sich.
26:55Jetzt muss man sagen, dass solche Whistleblower oder das Mahnen
26:59hat ja auch immer eine wichtige Funktion.
27:00Es gibt immer Leute, die argumentieren,
27:02ist es bisher, wir haben Waffen in den Griff,
27:05das Schießpulver in den Griff bekommen,
27:06wir haben Waffen, Raketen in den Griff bekommen,
27:08wir haben Nukleartechnologie in den Griff bekommen.
27:10Das funktioniert auch alles.
27:12Diese Angstmacher wird es immer geben und man muss sie ignorieren.
27:15Dem würde ich mich nicht anschließen,
27:16weil die Angstmacher haben auch immer dafür gesorgt,
27:18dass es gut geht.
27:19Also man brauchte die Mahner, glaube ich, um dort hinzukommen.
27:22Wir wissen ja nicht, was passiert wäre,
27:24wenn es die Maschinenstürmer nicht gegeben hätte
27:26oder wenn es damals die Proteste gegen das Aufrüsten in Europa
27:29nicht gegeben hätte oder gegen Nukleartechnologie und so weiter und so fort.
27:33Das heißt, das Mahnen ist, glaube ich, schon wichtig
27:34und dass man da so einen Ausgleich der Interessen hat.
27:38Und ja, ich verstehe aber, dass es verlogen wirkt,
27:40dass man sagt, jetzt muss man sagen,
27:42das sind ja nicht die Chefs selber, die diese Zahl,
27:44die waren eher abstrakt vor Risiken, dass es Gefährdung gibt.
27:47Und wie gesagt, sie haben ganz viele Motive.
27:49Ein Motiv, worüber wir noch nicht geredet haben,
27:50ist zum Beispiel ein wirtschaftliches,
27:53nämlich, dass das Wettrüsten zu beenden
27:56oder so ein bisschen einzuhegen,
27:58würde natürlich auch viel Kosten sparen,
28:01während man davon ausgehen kann,
28:03dass die Umsatzentwicklung gar nicht mehr so stark
28:06an der Verbesserung der Modelle hängt.
28:07Also einfach gesagt, die Modelle sind eh schon viel besser,
28:10als Menschen sie nutzen können.
28:11Also es scheitert nicht daran, dass KI zu schlecht ist,
28:14sondern dass es große Organisationen, Unternehmen,
28:16Mittelstand, staatliche Organisationen,
28:19die brauchen jetzt ein paar Jahre,
28:21um zu lernen, wie man KI einsetzt
28:23und damit auch Umsätze zu generieren,
28:25Produktivität zu verbessern,
28:26Effizienz herzustellen.
28:28Und deswegen wäre es für die Labore gar nicht so wichtig,
28:31sich jetzt die Fähigkeiten jedes Jahr um 50 Prozent zu verbessern,
28:34sondern es würden auf 5 Prozent reichen,
28:36weil der Rest der Wirtschaft muss erst mal aufschließen.
28:38Und man könnte sagen, wir einigen uns jetzt einfach mal,
28:40das Wettrennen oder Wettrüsten so ein bisschen zu moderieren eine Zeit lang,
28:45weil wir wissen, die Umsätze steigen weiter.
28:47Wir werden dadurch viel profitabler eigentlich,
28:49weil dieses Wettrüsten um das beste Modell schon das ist,
28:52was diesen Wettbewerb mehr oder weniger ruinös macht
28:57für die meisten Wettbewerber.
28:58Also die würden alle viel Geld verdienen,
29:00wenn sie nicht mehr Multimilliarden investieren müssten
29:03in noch bessere Modelle.
29:05Das könnte auch einer der Gründe dahinter sein.
29:07Du hast gesagt, dass all das,
29:08was jetzt bei diesen Hacking-Versuchen oder Unternehmungen passiert ist,
29:12in Wahrheit strafrechtliche Probleme sind.
29:15Warum gibt es denn nicht schon längst strafrechtliche Ermittlungen?
29:18Jetzt muss man sagen, die Betroffenen waren,
29:20also teilweise wurde OpenAI mit Hilfe von Claude gehackt,
29:23von einem Sicherheitslabor, dessen Aufgabe es aber war,
29:26die Sicherheit zu testen.
29:27Hugging Phase muss man verstehen,
29:29also die Plattform, wo zuerst bekannt wurde,
29:31dass sie gehackt wurde, ist, wenn man so möchte,
29:34der Download-Hub für KI-Modelle.
29:37Also wenn ich ein KI-Modell bei mir zu Hause installieren möchte
29:39oder in einer Firma, dann suche ich da nach der aktuellsten Version
29:43von Claude oder von einem chinesischen Modell Kimi
29:46oder DeepSeq oder, oder, oder.
29:48Das heißt, die gehören zur KI-Industrie und alle diese Firmen
29:51arbeiten auch zusammen und da könnte man jetzt sagen,
29:54da hackt eine Krähe der anderen kein Auge aus
29:56oder man kann sich am grünen Tisch sehr gut einigen,
29:59da mal wegzuschauen.
30:00Oder man sieht, man sieht, also man kann auch sagen,
30:03es ist jetzt kein großer Schaden entstanden in dem Fall.
30:05Also man hat viel daraus gelernt über die Möglichkeiten von KI.
30:08Ein echter Schaden im Sinne,
30:10die KI hat jetzt keine Bitcoins geklaut bei Hugging Phase,
30:13nur eine Überweisung gemacht.
30:16Das wäre übrigens auch noch eine gute Möglichkeit,
30:18wie KI sich der Menschheit bemächtigen kann,
30:20indem sie über so ein Scamming, so Fake-E-Mails,
30:25wie wir das so ein bisschen kennen,
30:26auch an sich Geld besorgt oder Bitcoins.
30:27Sie könnte einen einzelnen Computer übernehmen von jemandem,
30:30ein kompromittierendes Video machen von jemandem aus dem Haushalt,
30:34dann die Person erpressen, sich so Bitcoins holen
30:37oder jemandem vorspielen, dass er eine Überweisung,
30:39also könnte sich als eine Institution ausgeben.
30:41Das heißt, KI kann sich ganz einfach dann auch
30:42finanzielle Mittel holen zum Beispiel.
30:44Aber was denkst du, wenn das so weitergeht
30:46und es werden in Zukunft vielleicht noch Unfälle passieren,
30:48die jetzt nicht sozusagen in der eigenen Community passieren,
30:52müssen die sogenannten KI-Götter,
30:55die Tech-Milliardäre damit rechnen,
30:58dass sie eines Tages tatsächlich im Gefängnis landen
31:01oder zumindest geklagt werden?
31:02Ja, das ist zum Beispiel ein gutes Beispiel dafür,
31:05wo man Regulierungen braucht.
31:06Also wir müssen mal ganz klar klären,
31:09wer eigentlich die Verantwortung trägt.
31:12Wenn jetzt mein Agent, also ich mache dieses Paywall-Beispiel
31:16und mein Agent läuft jetzt, wie gesagt, ich glaube nicht,
31:19dass es heute passieren würde, aber sagen wir mal,
31:22mein Agent würde dann beginnen, ein Verlagshaus zu kompromittieren,
31:26also die Software zu hacken.
31:27Trage ich die Verantwortung?
31:28Trägt der Herausgeber des Modells die Verantwortung?
31:30Trägt das Rechenzentrum, in dem das ausgeführt wurde,
31:33dass das vielleicht hätte überwachen müssen, die Verantwortung?
31:35Man kann das natürlich mal klären lassen,
31:37wie der rechtliche Stand heute wäre.
31:39Ich glaube, ganz klar ist das nicht.
31:41Hätte ich die Instruktion klar selber gegeben,
31:43dann könnte man es mir anlasten.
31:44Wenn ich jetzt aber ganz arglos gehandelt habe,
31:48Haft sollte dann nicht der Modellherausgeber dafür handeln,
31:52dass sein Modell so widersinnig eine Lösung generiert hat.
31:56Und da braucht man, glaube ich, auch Regulierungen,
31:59die das mal klärt.
32:00Wieder die Haftungsfrage ist, weil die Probleme werden kommen.
32:04Es wären natürlich irgendwann auch mal,
32:06oder vielleicht ist das längst passiert,
32:08dass irgendwelche alten PHP-Forenen oder WordPress-Seiten,
32:12die einfach zu kompromittieren sind,
32:14längst gehackt worden sind.
32:16Und im Moment würde, also gerade wenn das aus einer Laborsituation,
32:19einer Testsituation einer KI-Firma entsteht,
32:22ist natürlich, da wäre ja sozusagen Ross und Reiter das Gleiche.
32:26Und dann könnte man natürlich sagen,
32:28das trifft 100 Prozent in die Verantwortung der KI-Firma
32:32und dann müsste die dafür auch haften.
32:34Und eigentlich ist es, also in den USA ein Federal Crime
32:36oder hier auch ein Verbrechen,
32:38die sogenannte Umgehung technischer Hürden,
32:41also das Hacking.
32:42Das heißt, eigentlich müsste sich nicht nur
32:45eine Schadenersatzfrage daraus begründen lassen,
32:48sondern eigentlich auch ein Strafverfahren eröffnet werden müssen.
32:52Jetzt angenommen, diese KIs werden eines Tages wirklich so schlau,
32:55oder sie selbst Killer-Viren designen können
32:57oder von Menschen angeleitet Killer-Viren designen.
33:01Das sind schreckliche Bedrohungsszenarien.
33:04Wieso greifen denn nicht nur jetzt staatliche Regulierungsbehörden ein,
33:08sondern auch ein internationaler Schluss wie USA, China und EU,
33:13ähnlich vielleicht angelehnt wie beim Atomwaffensperrvertrag.
33:17Wieso gibt es da keine multinationale Lösung?
33:20Es gibt durchaus einige Player, die genau das wollen.
33:24Das sind natürlich hauptsächlich die,
33:25die sowieso unterlegen sind im Rennen.
33:27Also aus Europa hört man viele Stimmen,
33:29die eigentlich nach einer internationalen Lösung rufen.
33:32Also aus den verschiedenen EU-Ländern,
33:34der deutsche Digitalminister hat quasi die Selbstregulierung der USA
33:40als unpragmatisch zurückgewiesen.
33:42Natürlich auch mit dem Hinweis,
33:43dass man international daran zusammenarbeiten sollte
33:46im Rahmen der G7, G20 oder noch besser meinen wir nach größeren Gremien.
33:51China hat die US-Regulierung auch zurückgewiesen,
33:53aber eigentlich auch, weil es glaubt,
33:54es hätte gern einen, wenn ich es richtig verstanden habe,
33:57dass sie selber gern eben einen Sitz am Tisch hätten
33:59und mitentscheiden würden.
34:00China ist zumindest noch ernstzunehmender Konkurrent der USA
34:04bei der KI-Entwicklung.
34:05Und die USA, wir wissen,
34:07die USA sind jetzt gerade nicht für die sandteste Diplomatie
34:11oder kooperativste Diplomatie in dieser Amtsperiode bekannt.
34:15Und die wollen natürlich Machtpolitik machen.
34:17Die sehen sich vorne im Rennen und möchten,
34:20und das ist natürlich auch das große Problem bei der Regulierung
34:23oder bei einem vermeintlichen Slowdown,
34:24wenn ich die KI-Entwicklung verlangsame oder stoppe,
34:27ist die Hauptgefallen natürlich,
34:29dass andere Länder das nicht tun.
34:30Also dass China aufholt oder überholen könnte.
34:32Deswegen macht eigentlich nur eine internationale Lösung.
34:35Und dann muss man immer noch überlegen,
34:37ob nicht andere Länder, die weniger kontrollierbar sind,
34:40wie Nordkorea oder Russland,
34:42dann eventuell an die Fähigkeiten rankommen würden
34:45oder weiter voranschreiten.
34:48Aber eigentlich braucht es eine internationale Lösung.
34:50Und mindestens China und die USA müssen sich einig werden.
34:53Angeblich soll im Rahmen des Besuchs,
34:54ich glaube, Xi besucht diese Woche Trump,
34:58und Bessent hat sich geäußert,
34:59dass man das thematisieren möchte.
35:02Er hat es genannt, die gemeinsamen Risiken,
35:04die man teilt aus KI.
35:05Aber da geht es, glaube ich, um Zusammenarbeit
35:07bei einem möglichen Slowdown.
35:10Trump selbst sagt ja, eine Verlangsamung der KI-Entwicklung
35:13kommt für ihn nicht in Frage.
35:14Er will sogar mit einer AI-Force die Entwicklung beschleunigen.
35:18Sind das die Motive, die ihn antreiben,
35:20die du genannt hast, dass er Angst hat,
35:22dass China dann trotzdem weitermachen könnte?
35:24Ja, also auch da können verschiedene Motive eine Rolle spielen.
35:27Das eine ist, glaube ich, Trump ist Machtpolitiker
35:30und KI, die Führung im KI-Rennen gibt den USA
35:35potenziell unheimlich viel Macht.
35:36Und ich glaube, er möchte diese Macht weiterentwickeln
35:39und nicht begrenzen.
35:40Er wurde in seiner Entscheidung wohl auch stark lobbyiert
35:43von Musk und Zuckerberg, die ihm ja näher stehen
35:46als die Bosse der KI-Labore.
35:49Also Google ist eigentlich nur opportunistisch mit Trump vereinigt.
35:54Steht vielleicht nicht 100 Prozent dahinter.
35:57Antropic und die Trump-Administrationen gelten eher als verstritten
36:00oder ständig vor Gericht miteinander im Zweifel.
36:04Open AI würde ich auch sagen, eher opportunistisch Trump-Support.
36:07Aber Musk und Zuckerberg stehen natürlich relativ stark
36:09hinter der mager Bewegung.
36:11Und der ehemalige KI-Zahl, der wiederum guter Bekannter
36:14mit Elon Musk ist, also um David Sachs dreht sich es da.
36:17Und der Mark Zuckerberg ganz gut kennt über Peter Thiel.
36:20Die sind eben eher die libertären, laissez-faire Menschen,
36:25die versucht haben, Trump dazu zu bewegen,
36:26möglichst wenig zu regulieren,
36:30weil sie an ein freies Spiel der Märkte
36:33und maximalen Wettbewerb glauben,
36:36eventuell auch eigene Interessen haben dabei.
36:38Jetzt weiß man nicht, ob Trump wieder eigene Interessen hat,
36:41ob er irgendwie einen Deal mit Nvidia hat
36:43oder selber gerade wieder Nvidia-Shares getradet hat oder, oder, oder.
36:46Also es könnte dann auch wirtschaftliche Interessen geben.
36:48Aber vor allem geht es ihm, glaube ich,
36:51darum, die Nase vorn zu behalten im Wettrein mit China
36:53und sozusagen, was KI angeht,
36:55das mächtigste Land der Welt zu bleiben.
36:58Und er sieht vielleicht die Fälle ein bisschen wegschwimmen
37:00oder dass man da ins Hintertreffen geraten könnte.
37:03Und das wäre tatsächlich aus machtpolitischer Sicht
37:05für die USA natürlich furchtbar.
37:08Ob es dann so wichtig ist,
37:08dass man die Vernichtung der Menschheit dafür riskieren sollte,
37:10ist eben eine andere Frage.
37:12Dann hilft es auch nicht,
37:13wenn du der Erste sozusagen dabei warst,
37:15die Menschheit zu vernichten,
37:16ist es vielleicht auch ein Pyrosieger.
37:20Wenn ich das richtig verstanden habe,
37:21dann geschieht die KI-Entwicklung in China
37:24sehr stark basierend auf den Entwicklungen,
37:27die in den USA passieren.
37:29Ich kenne mich da mit der Begrifflichkeit nicht so richtig aus,
37:32aber vielleicht kannst du es erläutern.
37:33Wäre das überhaupt realistisch,
37:34dass China wegzieht,
37:36wenn die USA sagen,
37:38wir machen einen Stopp?
37:39Ja und nein.
37:40Also einerseits,
37:41wie du richtig sagst,
37:42die chinesischen Firmen sind dafür bekannt,
37:45dass sie,
37:46so wie man das auch in anderen Wirtschaftsbereichen
37:48in der Vergangenheit immer unterstellt hat,
37:49dass sie sehr stark abkupfern
37:51oder lernen aus den US-Modellen.
37:53Das heißt,
37:54durch sogenannte Destillationsverfahren,
37:56indem man das Wissen der Modelle entlehnen kann,
37:59also das ist so ein bisschen wie,
38:00ich habe einen Professor,
38:01der hat alle Bücher der Welt gelesen,
38:02und eine Professorin,
38:03die alle Bücher der Welt gelesen hat.
38:04Und statt jetzt diese Bücher selber zu lesen,
38:07frage ich einfach nur noch den Professor.
38:08Und dadurch kann ich quasi sehr gute Modelle
38:11viel effizienter wie so eine Art Schülermodelle bauen.
38:15Die sind günstiger, schneller,
38:17brauchen weniger Trainingsdaten,
38:19weniger Hardware dafür.
38:20Und das ist, wenn man so möchte,
38:22der Discount-Weg,
38:23wie China durch Abkupfern und Abschreiben
38:26sehr schnell auf ähnliche Leistungen kommt.
38:28Jetzt kann man nur sagen,
38:29wenn die USA nicht voranschreiten,
38:31kann China sozusagen,
38:33worauf soll China dann aufschließen?
38:34Sondern verbleibt man auf diesem Level.
38:36Ist es aber schon so,
38:38dass, wenn man zum Beispiel auf die Patente schaut,
38:40auf Forschung,
38:41auf Forschende,
38:41die Anzahl der Forschenden,
38:43dann ist China natürlich selbst ein Land,
38:45was auch bei der KI-Forschung unheimlich,
38:47also nach den USA,
38:47die die höchsten Investitionen treibt
38:49und das beste Personal hat.
38:51Und wenn man schaut,
38:52wie die großen KI-Labore,
38:54also ein DeepSeq
38:56oder ein Moonshot-AI
38:58oder Zipu-AI in China,
39:00das sind so die drei,
39:01sagen wir relevantesten.
39:03oder auch Alibaba vielleicht
39:04mit dem Quellen-Modell,
39:06dann sieht man schon,
39:06dass die auch eigene innovative Ansätze haben.
39:08Also sie schaffen es,
39:09insbesondere was Effizienz,
39:11also Geschwindigkeit
39:12und Kosteneffizienz angeht,
39:15besser zu werden,
39:16indem sie daraufhin trainieren.
39:17Das liegt an der,
39:18hauptsächlich der Begrenzung der Hardware,
39:19die sie haben.
39:20Deswegen müssen sie effizienter sein,
39:21weil sie weniger Chips zur Verfügung haben.
39:23Aber es könnte jederzeit sein,
39:24dass sie einen Ansatz entwickeln,
39:27der dann eben nochmal 10% mehr Leistung rausholt,
39:30die in dem Standardmodell
39:31vorher gar nicht drin waren
39:32und dass man sich entkoppelt
39:33und dann tatsächlich auch bessere Modelle baut
39:35oder dass man einen ganz neuen Ansatz
39:37wie World Models,
39:38an denen jetzt geforscht wird weltweit,
39:40also nochmal im Moment,
39:41ist ja nur eine KI-Familie,
39:43diese LLMs,
39:44die generative KI,
39:45mit der wir gerade arbeiten.
39:46Es könnte ganz neue Ansätze geben,
39:48eine KI,
39:48die viel mehr aus Videos
39:49aus dem echten Leben
39:50durch Beobachtungen,
39:51China hat mehr Daten
39:52und mehr Videodaten,
39:53mehr Überwachungsdaten
39:53als jedes andere Land.
39:55Man könnte es dadurch schaffen,
39:56eine ganz neue Modellfamilie
39:59zu bauen
40:00oder Modelltechnologie
40:01und das heißt,
40:01es könnte schon zu so einer Entkopplung kommen.
40:04Das ist zumindest nicht auszuschließen.
40:06Trump wird voraussichtlich
40:07vor 2030 abtreten,
40:10sagen wir mal.
40:11Wie könnte dann
40:12eine effektive Regulierung aussehen,
40:14wenn er sie nicht machen würde,
40:16aber vielleicht die nächste Administration?
40:17Also es gibt verschiedene Wege.
40:19Man überlegt,
40:19ob man so ein bisschen
40:21wie an der Finanzbranche,
40:23also wenn ein Bankinstitut
40:25in Deutschland auffällig wird,
40:27dann kriegt es so Beobachter
40:28von der Bafin gestellt.
40:30Also man hat dann quasi Leute,
40:31die einem auf dem Schoß sitzen
40:32und schauen,
40:32dass sie alles nach dem Rechten,
40:34oder die nach dem Rechten schauen,
40:35dass es mit rechten Dingen zugeht.
40:36Das heißt,
40:36man könnte so unabhängige
40:38oder aus der Energiebehörde
40:40oder Nuklearbehörde,
40:41kennt man das auch,
40:42dass man so objektive Beobachter
40:43in ein Kernkraftwerk schickt
40:45oder in eine Anreicherungsanstalt,
40:47die das beobachten
40:48und evaluieren,
40:49ob es jetzt zu gefährlich ist.
40:51Das wäre eine Möglichkeit.
40:52Eine andere wäre
40:52eine Aufsichtsbehörde.
40:55Auch da gibt es Analogien
40:55aus anderen,
40:56zum Beispiel aus der Finanzbranche,
40:58die FINRA in den USA.
41:00Also man baut eine Behörde,
41:01die die Modelle vorher checken müssen,
41:03so ein bisschen wie so ein Modell-TÜV
41:05in Deutschland,
41:06würde man sagen.
41:07Das wäre eine Möglichkeit.
41:09Elon Musk hat dafür plädiert,
41:10dass man sich gegenseitig kontrolliert.
41:12Also der Konkurrent
41:13darf mit in die Modelle schauen
41:14und man hofft,
41:15dass dadurch so eine Art
41:16Gleichgewicht entsteht,
41:17weil natürlich niemand
41:19daran interessiert ist,
41:20irgendwie den Konkurrenten
41:22grünes Licht zu geben,
41:23wenn der schlechte Modelle
41:24oder gefährliche Modelle
41:26bauen würde.
41:27Was da das Praktikabelste ist,
41:29ich würde sagen,
41:29eine Mischung aus dem Ersten
41:30und dem Zweiten.
41:31Also eine Behörde,
41:32die neue Modelle,
41:33sobald sie auf den Markt kommen sollen.
41:35Also ich glaube,
41:35im Labor sollte man
41:37relativ frei testen können,
41:38solange man sicherstellen kann.
41:39Also man sollte aber sicherstellen müssen,
41:40dass das Labor
41:41verschlossen bleibt.
41:43Und dann könnte es eine Behörde geben
41:44und die sollte aber zum Beispiel
41:45die Fähigkeiten haben,
41:46dass wenn irgendjemand
41:47regelmäßig sich bei den Tests
41:50einfach blöd anstellt,
41:51dass dann eben auch eine Aufsicht
41:52ins Unternehmen geschickt wird.
41:54Ja, ganz ähnlich,
41:55wie man das in der Finanzwirtschaft macht
41:57oder vielleicht auch vergleichbar
41:58mit der pharmazeutischen Industrie.
42:01Das ist ein gutes Stichwort,
42:03weil bei diesen Firmen geht es ja
42:05um viel Geld,
42:05wie du angesprochen hast.
42:06Und jetzt stehen zwei große Börsengänge an
42:09und zwar Anthropic und OpenAI
42:11etwas später möchten an die Börse gehen.
42:13Da geht es um tausende Milliarden
42:15Dollar.
42:16Der ganze KI-Sektor ist
42:18sehr hoch bewertet.
42:20Manche sagen,
42:20er ist sogar überbewertet,
42:22weil diese Firmen sehr viel mehr Geld
42:23verbrennen, als sie einnehmen.
42:25Wenn sich jetzt herausstellt,
42:27dass diese Firmen ihre KIs
42:29entweder nicht unter Kontrolle haben
42:31oder sie sich sogar wahrscheinlich
42:33auch schon strafbar gemacht haben,
42:35je nachdem, wie man das auslegt,
42:36oder diese Firmen eigentlich
42:38streng reguliert werden müssten,
42:40ergeben dann diese astronomischen
42:42Bewertungen überhaupt noch Sinn?
42:44Also ich glaube,
42:45die Sicherheitsdebatte
42:46mindert den Wert der Firmen
42:48nur in sehr überschaubarem Maße.
42:50Also ich sehe das nicht
42:51als das größte Risiko.
42:52Man kann darüber diskutieren,
42:54ob die sehr günstigen
42:56Umsource-Modelle aus China
42:57eine große Gefahr sind,
42:59ob Unternehmen schnell genug
43:02schlau darin werden,
43:03die Modelle einzusetzen.
43:04Im Moment, also ja,
43:06diese Firmen machen noch
43:07pro forma Verluste,
43:08aber das ist hauptsächlich
43:09durch dieses Wettrennen begründet,
43:11also die Forschungskosten.
43:12Der Einsatz von KI
43:13ist hoch profitabel,
43:14sowohl für die
43:15Data-Center-Betreiber
43:16als auch die KI-Labore
43:17momentan.
43:18Trotzdem gibt es Risiken,
43:19wie gesagt,
43:19man könnte davon ausgehen,
43:21dass mehr und mehr Firmen
43:22auch zumindest einfache
43:24KI-Aufgaben
43:25an günstige
43:26Open-Source-Modelle übergeben.
43:27Dann müssten die Data-Center
43:28weiter ausgelastet werden.
43:29Das heißt,
43:29für die Data-Center
43:30ist das erstmal kein Problem,
43:31da würde keine Blase platzen.
43:33Aber man könnte vielleicht
43:34nicht mehr ganz so viel Geld
43:35verlangen für die besten Modelle.
43:36Aber es wird auch immer
43:37Use-Cases geben,
43:38zum Beispiel Software-Erstellung
43:39oder Cyber-Security
43:40oder Forschung,
43:42wo man das zwangsläufig
43:43das beste Modell machen muss.
43:45Also wenn die diesen Podcast
43:46zu übersetzen auf Englisch,
43:47das wird immer günstiger werden
43:49und immer einfacher und billiger.
43:50Also das wirst du irgendwann
43:50auf einem iPhone machen können
43:52oder auf einem
43:53besseren Radio-Wecker,
43:54wenn man so möchte.
43:55Aber zum Beispiel
43:56die eigene Software
43:58sicher zu machen
43:58oder sowas,
43:59da braucht man per se
44:00das beste Modell,
44:01weil der Angreifer
44:02im Zweifel das beste
44:03nutzen könnte.
44:04Das heißt,
44:04es wird auch immer Use-Cases geben,
44:05wo man das beste Modell
44:06und das sichert zumindest
44:07in gewissem Maß
44:08die Umsätze der großen Firmen ab.
44:11Es kann gut sein,
44:11dass da einer noch mal
44:12so ein bisschen aus dem Rennen fällt.
44:13OpenAI hatte mal zwischendurch
44:15eine sehr schwache Phase
44:15im Enterprise-Segment,
44:18also beim Geschäft
44:19mit großen Unternehmen.
44:20Das hat sich wieder
44:20deutlich gebessert.
44:21Das heißt,
44:21die Lage ist auch hochdynamisch.
44:23Entropic hatte da aufgeholt
44:24und dann sehr stark überholt sogar.
44:26Jetzt schafft OpenAI
44:28wieder relativ nah ranzukommen
44:29an Entropic.
44:30gerade sie wachsen
44:32beide wieder sehr dynamisch
44:34und könnten Ende diesen Jahres,
44:36Anfang nächsten Jahres
44:37einen Börsengang machen.
44:38Und wenn man sich anschaut,
44:39wie andere Unternehmen,
44:40Softwareunternehmen
44:40mit KI-Fokus
44:42wie Palantir
44:42oder so bewertet sind,
44:44dann kann man ihnen
44:44die Bewertung
44:45von über einer Billion
44:46US-Dollar
44:47eigentlich auch nicht absprechen.
44:48Zumindest ist das meine Meinung.
44:50Angenommen,
44:51es stellt sich heraus,
44:52diese Sicherheitsprobleme
44:53sind so groß,
44:54dass vielleicht doch einmal
44:56strafrechtliche Ermittlungen
44:57folgen könnten
44:57oder CEOs
44:59auch zur Rechenschaft
45:00gezogen werden.
45:01Ist das nicht ein
45:01riesiger Unsicherheitsfaktor
45:03für Investoren?
45:04Das ist ein Risiko,
45:06was man sicherlich
45:06im sogenannten
45:07S1-Prospekt,
45:09also dem IPO-Prospekt
45:10erwähnen würde.
45:11Da muss man so
45:11alle möglichen Risiken erwähnen.
45:13Da würde bestimmt drinstehen,
45:14es könnte Schadensersatzforderungen
45:15geben aufgrund
45:17der Verselbstständigung
45:18von Modellen
45:19oder falschem Einsatz.
45:20Das heißt,
45:21abstrakt besteht das Risiko
45:22und trotzdem,
45:23wenn wir jetzt einerseits
45:25anerkennen,
45:25dass die Unternehmen
45:26zusammen mehrere Billionen
45:27wert sind
45:28und wenn wir wissen,
45:30wie die US-Wirtschaft
45:31und Administration
45:32gerade funktionieren,
45:33dann ist das sicherlich
45:35ein regulatorisches Risiko,
45:36was man adressieren wird.
45:37Das heißt,
45:37man wird die Gesetzesprechung
45:40oder Gesetzgebung
45:41entsprechend beeinflussen,
45:42um Lösungen zu finden,
45:44dass die Firmen
45:45eben nicht haftbar dafür sind.
45:46Dass das Gleiche passiert
45:47wie bei einem Facebook
45:48oder Google,
45:48dass sie in so vielen
45:49wie möglichen Fällen
45:50nicht haftbar sind
45:51für das,
45:51was auf den Plattformen
45:52passiert,
45:53was damit gemacht wird.
45:54Aber ich sage nicht,
45:55dass das richtig ist,
45:55aber ich erwarte,
45:56dass die USA,
45:57um diesen Unternehmen
45:58einen Gefallen zu tun
45:59oder die Fortentwicklung
46:00nicht zu behindern,
46:02da relativ KI-freundlich
46:04agieren werden.
46:05Dass wir leider nicht
46:06die CEOs der Firmen
46:08da in Handschellen
46:08bald sehen werden.
46:09Wenn du das Verhalten
46:10von diesen großen
46:11Tech-Milliardären
46:13analysieren würdest,
46:14Sam Altman,
46:15Dario Amadei
46:16oder Elon Musk,
46:17hast du schon genannt,
46:18was glaubst du,
46:19macht ihnen mehr Sorgen,
46:21dass sie tatsächlich
46:22eine Killer-KI
46:23entwickeln könnten
46:24oder dass ihre Firmen
46:25eines Tages implodieren,
46:27weil sie in finanzielle
46:28Schwierigkeiten kommen?
46:29In Zweifel sicherlich beides.
46:31Die meisten Dinge,
46:33die sie sagen und tun,
46:34lassen sich aber vielmehr
46:34damit mit weiterem erklären,
46:36also mit wirtschaftlichen
46:37Interessen.
46:37Also wenn man sich
46:38die Geschichte mal anschaut,
46:40also Elon Musk hat
46:40Open AI ja ursprünglich
46:42mal signifikant mitgegründet,
46:44weil er Angst hatte,
46:45dass Google
46:45ein KI-Monopol bauen wird.
46:47Und auch damals
46:48hat man das schon begründet,
46:49weil es darf nicht so viel
46:50Macht in einer Hand sein.
46:51Er hat gesagt,
46:52der Google-Gründer,
46:53dem scheint das
46:54Überleben der Menschheit
46:55vollkommen egal zu sein.
46:56Allein deswegen
46:57braucht es ein Gegengewicht.
46:59Dann wollte er
47:00die wirtschaftliche Kontrolle
47:01über Open AI übernehmen,
47:04vor Jahren schon.
47:05Das ist dabei gescheitert.
47:07Also wurde rausgeschmissen.
47:09Dann hat er irgendwann
47:10XAI gebaut,
47:12beziehungsweise ein Topic
47:13ist aus Open AI entstanden,
47:14vorher noch auch da,
47:16weil man gesagt hat,
47:16das ist zu gefährlich,
47:17was Open AI macht.
47:18Wir müssen eine gute KI bauen.
47:21Dann hat Elon Musk
47:21später XAI gegründet,
47:24um die Firma,
47:25die angeblich gegründet wurde,
47:26um sichere KI zu bauen,
47:27sozusagen,
47:28dann wieder Konkurrenz zu machen.
47:29Das heißt,
47:30am Ende will nur jeder,
47:30glaube ich,
47:31diese Technologie
47:31sehr stark kontrollieren.
47:32Und es ist ein enormes Potenzial,
47:35SpaceX,
47:35also Elon Musk-Firma
47:36hat beim Börsengang gesagt,
47:37sie sehen den Markt
47:38für KI bei fast 30 Billionen,
47:41also 30.000 Milliarden US-Dollar.
47:43Das wäre das gesamte
47:45Marktpotenzial.
47:4528 waren es, glaube ich.
47:47Antropic redet jetzt
47:48von 30 Billionen,
47:49um das irgendwie zu toppen
47:50oder den Markt zu sezieren.
47:53Also ich glaube,
47:54es geht am Ende schon
47:55um viel Geld
47:56und jeder möchte da
47:57der reichste Mensch
47:58der Welt bleiben
47:59oder werden.
48:00Und das ist eben das Traurige,
48:02dass Sicherheitsaspekte
48:02eine sekundäre Rolle
48:03zu spielen scheint.
48:05Das ist so ein Nebeneffekt
48:07des Kapitalismus
48:08oder wo es dann
48:09Regierungshandeln eigentlich braucht,
48:11weil den Kapitalisten
48:11kann man nicht vorwerfen,
48:12so wie man den Manchester-Kapitalisten
48:14nicht vorwerfen konnte,
48:15dass sie die effizientesten
48:16Fabriken bauen wollen
48:17mithilfe der Dampfmaschine,
48:18kann man denen jetzt
48:19vielleicht nicht vorwerfen,
48:20dass sie den größten Teil
48:21des KI-Markts
48:22oder das mächtigste Modell
48:23haben wollen.
48:23Aber deswegen brauchen wir
48:24staatliche Institutionen,
48:25die das so ein bisschen
48:27regulieren eigentlich.
48:28Und es ist natürlich traurig,
48:29dass jetzt die Kapitalisten
48:31sich verabreden,
48:32wir wollen vielleicht auch
48:33einen Slowdown
48:33und dann sagt der Trump,
48:34aber ihr Feiglinge,
48:35geht zurück ins Rennen.
48:36Wir werden nichts regulieren hier,
48:37sondern ihr werdet weiter
48:39maximalen Wettkampf
48:40in der Arena leisten
48:41für uns.
48:42Also es ist ein bisschen absurd
48:44tatsächlich,
48:45was da passiert.
48:47Das kann ja nur gut ausgehen,
48:48würde vielleicht ein Zyniker sagen.
48:50Philipp Klöckner,
48:51Tech-Analyst
48:52und Host des Podcasts
48:54Doppelgänger,
48:55vielen Dank für deine Zeit.
48:56Vielen Dank,
48:57bis zum nächsten Mal.
48:58Und was denkt ihr,
48:59wie aufrichtig sind die Warnungen
49:00der Tech-Götter
49:02und KI-Milliardäre,
49:05wenn sie uns davor warnen,
49:06dass eine KI uns auslöschen könnte?
49:09Schreibt uns eure Gedanken
49:11und Kommentare
49:12in die Kommentarspalten
49:14der Podcast-Plattformen.
49:15Abonniert uns auf YouTube,
49:17da könnt ihr uns sehen
49:17und auch gerne
49:18auf allen anderen Podcast-Plattformen.
49:21Ich bin Scholt Wilhelm.
49:22Vielen Dank fürs Zuhören.
49:23Baba und bis zum nächsten Mal.