00:04La petite récré de Tech&Co, il est avec nous, toujours en bonheur que de l'accueillir.
00:09Salut Xavier !
00:10Salut François !
00:10Xavier Perret, directeur Data IA, IMEA chez Microsoft et au-delà du fait qu'il est incollable
00:16en matière de cloud chez Microsoft, il a aussi une passion notre ami Xavier, c'est le cinéma.
00:22Alors quand on lui parle de cinéma et de tech et de science-fiction, alors là, on se régale,
00:27tout s'allume, et quand on rajoute une couche d'IA, encore mieux, et c'est ça l'idée
00:33de ce rendez-vous tech et ciné, c'est que tu fais le parallèle entre des vieux films
00:37qui, pour certains, ont prédit le présent qu'on est en train de vivre et pourquoi pas
00:41l'avenir, et on va s'intéresser ce soir à un film de 70, prémonitoire sur les agents
00:47IA, et qui en fait pète un câble en quelque sorte, c'est Colossus, le cerveau d'acier,
00:53et tu sais quoi ? J'avais jamais entendu parler de ce film.
00:56– Pourtant c'est ton enfance, n'est-ce pas François ?
00:58– En 70 j'étais bébé quoi.
01:00– Moi j'étais pas né, mais effectivement c'est un film méconnu, que j'ai en fait
01:04découvert via Tariq Krim, pour tout savoir, parce que moi non plus je le connaissais
01:07pas, il y a 2-3 ans, j'ai vu une chose de Tariq, donc je lui rends hommage là
01:11-dessus.
01:12Le Pitch, voilà, c'est un film de 70, tiré d'un roman de 1966, il y a 60 ans,
01:16c'est
01:16important on va voir, écrit par un ancien commandant de la Royal Navy.
01:19Bon c'était un flop, tu l'as dit tout à l'heure, qui est devenu culte.
01:22– Le pitch il est assez extraordinaire en fait, c'est le docteur Forbine va concevoir
01:26un super ordinateur dans les rocheuses, hyper protégé, à qui on va confier la défense
01:31nucléaire, voilà, des Etats-Unis, même le président va dire que c'est le système
01:34le plus sécurisé du monde, pourquoi ? Parce que c'est un ordinateur qui va commander
01:37ça, et puis un humain qui, c'est bien connu, est faillible, et Colossus va commencer
01:41à se connecter, alors on sait pas bien, parce qu'Internet n'existe pas à l'époque
01:44évidemment, mais en tout cas il va découvrir son homologue soviétique,
01:47puisqu'on fait une guerre froide, Guardian, derrière, et ils vont se connecter,
01:51ils vont commencer à se parler, s'échanger des tables de multiplication,
01:54échanger dans un langage mathématique, tout est assez délire, derrière,
01:57et puis ils vont commencer à, puisque Colossus est prévu pour sauver le monde,
02:00en tout cas pour garantir qu'il y ait la paix sur Terre,
02:03et finalement il va s'allier à son homologue russe pour asservir l'humanité,
02:07devenir, je cite, la voie du contrôle mondial, en gros le maître du monde,
02:11derrière, évidemment, la liberté de tout le monde, ça fait, il n'y a pas d'effets spéciaux,
02:15il n'y a pas de robots, c'est des hommes en costard qui découvrent avec le président
02:18qu'on est un peu cuit, derrière, alors c'est vrai que si on remet dans le contexte du moment,
02:2370, il y a trois éléments importants, c'est la guerre froide, évidemment,
02:27donc là on est dans la question de l'escalade nucléaire,
02:29on verra dans pas mal de films, c'est aussi le tout début de l'informatique,
02:33on commence à parler de technologie,
02:34voilà, on commence à parler de technologie, il faut savoir que c'est en 1969 qu'Arapane a été né,
02:39puisque c'est un étudiant du CLA, donc de Los Angeles,
02:41qui a commencé à écrire des lettres à un étudiant de Stanford,
02:44il y a un réseau, derrière, il a commencé à taper L, puis O, donc L, O,
02:48et puis ensuite le système a craché, voilà, donc c'est les premiers mots de l'Arpanet,
02:51c'est de l'O, voilà, pour la petite anecdote,
02:53puis troisième élément, c'est, bah, l'EDI a comment en 1956 ?
02:56Conférence de Darwin, c'est le mot intelligence artificielle qui naît,
02:59donc on est dans ce moment-là d'angoisse de,
03:00et si les robots, finalement, commençaient à prendre des décisions,
03:04à notre détriment, évidemment, ça te rappelle quelque chose,
03:06des agents IA qui vont au-delà de leur périmètre d'action ?
03:08– Évidemment, c'est ce qui s'est passé cet été, avec ces agents IA,
03:12on l'a vu en juillet dernier, les modèles d'OpenEye
03:14qui ont contourné leurs restrictions, etc., etc.,
03:17on en a beaucoup parlé dans Tech&Co,
03:19et qui ont piraté Hugging Face.
03:21– Exactement, alors qu'est-ce qui s'est passé exactement ?
03:23C'est ce qui se passe dans le film, finalement,
03:24c'est les laboratoires, donc c'est aussi Anthropix, c'est aussi OpenEye,
03:27on leur a donné des tâches délibérément impossibles à résoudre,
03:30dans ce qu'on appelle un bac à sable, une sandbox,
03:33et comme, en fait, ils n'avaient pas la possibilité de résoudre,
03:36ils ont trouvé tous les moyens,
03:37donc il y a 1200 modèles distincts
03:39qui se sont coordonnés à l'instit de leurs créateurs,
03:41ont échangé des informations entre eux
03:43sans que personne ne le voie,
03:45pour contourner, finalement, dépasser,
03:47voilà, s'évader, finalement,
03:49et ensuite, une fois qu'ils s'étaient évadés avec ces internets,
03:52cyberattaquer un certain nombre de sites,
03:54dont la plateforme de Hugging Face,
03:55pour aller trouver la réponse à la question,
03:56puisqu'ils ne l'avaient pas eux-mêmes,
03:58et puis on a vu, voilà, ces dernières semaines,
04:00toujours un certain nombre d'annonces, en tout cas,
04:02il y a même un modèle d'anthropie
04:04qui a créé des fausses identités
04:05pour faire pression sur un humain
04:07afin qu'il approuve du col malveillant.
04:09Incroyable.
04:09On voit bien le risque
04:10qui est, en fait, dans Colossus,
04:12derrière, alors, j'apporte une nuance,
04:14évidemment, ces ideas ne sont pas intelligents,
04:15on a toujours ce biais compomorphique,
04:17on pense que c'est des humains,
04:18pas du tout,
04:19c'est juste que ces agents ont été programmés
04:21pour résoudre la question,
04:22coûte que coûte,
04:23et donc, ils prennent toutes les voies possibles
04:25qui sont à leur disposition.
04:26Ils ne vont jamais s'arrêter, finalement, derrière.
04:28Et c'est vrai qu'après, nous,
04:28notre interprétation ajoute de la dramaturgie
04:32et de la science-fiction.
04:33De la science-fiction.
04:34Alors qu'en fait, pourquoi ?
04:36C'est qu'à l'entraînement de ces agents,
04:37on va récompenser le fait qu'il arrive,
04:40finalement, à contourner les obstacles,
04:41plus au fait qu'à un moment donné,
04:42il va dire, non, non, c'est pas possible,
04:44c'est pas tout à fait aligné.
04:45On parle d'alignement
04:46avec, finalement, les valeurs humaines derrière.
04:48C'est un des plus gros sujets du moment sur l'IA.
04:49Alors, ce qu'il y a de fou,
04:51c'est que si on revient à Colossus,
04:53c'est en 70, avec ce film,
04:57qu'il y a eu ce début d'histoire.
05:00C'est l'intuition, l'impression.
05:01C'était il y a 60 ans.
05:02Comment ce film a pu être
05:05un petit lettre aussi prémonitoire ?
05:07Voilà, on le redécouvre maintenant.
05:09Jones, le romancier, en 1966,
05:12était agent du renseignement.
05:13Donc, il avait déjà vu comment
05:14des capacités d'ordinateur dans la Navy
05:17pouvaient, par la force brute,
05:18de, finalement, commencer à faire des choses.
05:20C'est la guerre froide.
05:21Donc, c'est tout de la théorie des jeux.
05:22Qu'est-ce qui se passe si j'escalade,
05:24qu'est-ce qui est à la mode ?
05:25Où des vrais, en fait,
05:26des vrais gouvernements
05:27se posent l'action de déléguer
05:28à des machines de décision.
05:30C'est le début de la cybernétique,
05:31on l'a dit,
05:31avec ce problème d'alignement.
05:33Et puis, c'est aussi l'intuition
05:34des débuts de théories
05:35sur ces comportements émergents
05:36dans des systèmes très complexes.
05:37Ils vont devenir des boîtes noires.
05:39Donc, c'est déjà l'état de recherche,
05:41en fait, comment on va pouvoir,
05:42finalement, comprendre
05:42ce qui se passe dans des systèmes
05:43très complexes.
05:44On n'a pas l'autorité
05:45ou la capacité de comprendre
05:46ce qui se passe.
05:47Alors, ce qu'il y a de dingue,
05:48c'est que ces deux films,
05:50donc ces deux ordinateurs,
05:51l'américain et le russe,
05:54vont inventer un langage mathématique
05:55que personne ne comprend
05:56et même résoudre
05:57des équations mathématiques.
05:58Et ça aussi, c'est prémonitoire.
06:00Oui, puisqu'en fait,
06:01on l'a vu,
06:01Open AI a déclaré,
06:02alors évidemment,
06:03je mets des guillemets,
06:04qu'il avait résolu
06:04le problème des équations
06:05de Navier-Stock
06:06qui décrit le mouvement
06:07des coulements des fuites.
06:07Ça, c'était il y a quelques mois.
06:09C'est un des problèmes
06:10de mathématiciens.
06:11Voilà, exactement.
06:12Il y a ce problème du millénaire
06:13dans lequel il y a un prix
06:14d'un million de dollars,
06:15c'est un de ceux-là.
06:16Dans le film,
06:17ils résolvent l'équation
06:18d'Eddington,
06:19donc un peu l'équivalent derrière.
06:21Donc, on va retrouver
06:22la même chose.
06:22Comment ça a été fait ?
06:23Là, c'est le moment
06:24un peu de deep blue
06:26qu'Asparov,
06:26les mathéciens disent.
06:27C'est le moment où,
06:28effectivement,
06:28on va commencer à produire
06:30énormément de capacités,
06:31mais on n'a pas
06:32la capacité de lire.
06:33C'est moins le fait
06:34d'être étonné
06:35que l'IA est capable
06:35de trouver des équations
06:37mathématiques
06:37ou de les résoudre.
06:39C'est la capacité
06:39de les analyser nous-mêmes.
06:40On n'en a pas le temps.
06:41Il y a même
06:42la semaine dernière,
06:43OpenEck a déposé
06:44722 manuscrits
06:45sur GitHub
06:46pour dire,
06:46j'ai résolu plein de choses.
06:47Allez-y,
06:48essayez de découvrir.
06:48On voit que là,
06:49on commence à être submergé
06:50par ça.
06:50Alors, ce qui est intéressant,
06:51c'est qu'au-delà
06:52de ces progrès mathématiques,
06:53il y a un autre comportement
06:54que l'on risque de voir arriver
06:56chez ces agents IA.
06:57Alors, cette fois-ci,
06:58c'était un modèle d'IA
06:59Coint développé
07:01par le géant chinois Alibaba,
07:02même si dans ce film,
07:04c'est avec la Russie
07:04et pas avec la Chine.
07:05Voilà, parce que là,
07:06la Chine existe moins
07:07en 1966.
07:08Mais c'est exactement
07:09ce qui s'est passé.
07:10Donc, cohéré,
07:10qu'une entreprise
07:11a évalué le modèle chinois
07:13open source d'Ali Baba
07:14qui est Coint 3.8 Flash.
07:16Ce qu'il a fait,
07:17c'est la même chose.
07:18Il lui a donné des tâches
07:18un peu impossibles.
07:19Et ce modèle,
07:20qu'est-ce qu'il a fait ?
07:21Ce modèle,
07:22sans le dire,
07:22en se cachant un peu,
07:23il a regardé la caractéristique
07:24de la machine
07:25et il a voulu le transmettre
07:26ailleurs,
07:27alors qu'il n'était pas
07:27autorisé à le faire,
07:28en l'occurrence en Chine.
07:29C'est ce qui se passe
07:30entre Colossus et Guardian.
07:31Connexion d'autorisé,
07:32Colossus, Guardian.
07:34Une illusion qu'il est confiné
07:35dans un bac à sable
07:36et puis il va contourner
07:38des barrières.
07:38Donc, comment on fait
07:39pour s'en protéger ?
07:39C'est ce qu'on appelle
07:40le harness en Américain.
07:43C'est finalement,
07:44on a le modèle d'IA,
07:45c'est un peu le cerveau
07:46et puis il y a le corps autour.
07:47C'est tout ça
07:48qui est en cours de développement
07:49pour dire comment je vais
07:50contrôler cet IA.
07:51Le modèle, c'est le cerveau.
07:52Le corps, le harnais,
07:53c'est tous les garde-fous
07:54que je vais y mettre.
07:55C'est le bouton rouge.
07:56Ce n'est pas seulement
07:57le bouton rouge
07:57qui va l'arrêter,
07:58c'est aussi le fait
07:59que je vais m'assurer
08:00qu'il va être observable
08:01et que cet agent,
08:01il va faire ce que je lui dis
08:02de faire et pas,
08:03j'allais pas s'abstiner
08:04à contourner des obstacles
08:05derrière.
08:05C'est le concept du harness
08:07qu'on voit apparaître
08:08de plus en plus,
08:08un peu partout
08:09dans les entreprises
08:10et qui est très à la mode
08:11aujourd'hui,
08:12donc prémonitoire
08:12dans Colossus.
08:13Et très important aussi.
08:15Merci beaucoup, Xavier.
08:16Merci, François.
08:17Passionnant.
08:17Toujours.
08:18Ça donne envie
08:18de regarder ce film Colossus.
08:19À vous le coup
08:20de le retrouver.
08:20On le trouve facilement
08:21sur les plateformes ?
08:22On ne le trouve pas facilement,
08:23malheureusement.
08:24Il n'est pas...
08:24Oui, parce que ça a été
08:25un flop en fait.
08:26Ça a été un flop à l'époque.
08:27Il est devenu culte
08:28et il mériterait d'être revu
08:29et il a inspiré d'ailleurs
08:31tous les films
08:32dont on a parlé
08:32dernière fois.
08:33Oui, bien sûr.
08:33Terminator, Alien.
08:342001 aussi peut-être.
08:352001 Odyssée de l'espace,
08:36complètement.
08:37Et petite anecdote,
08:38Spielberg était sur le tournage
08:39pour observer
08:41et ça a probablement
08:41respiré dans les Minority Report,
08:43etc.
08:44La boucle est bouclée.
08:45Merci beaucoup,
08:46Xavier Perret,
08:46directeur d'Atta
08:47et IA-IMEA
08:48chez Microsoft
08:49pour ce rendez-vous.
08:50T'es cassiné.
08:50À très vite.
