- il y a 5 minutes
Giuliano da Empoli, écrivain et essayiste, publie "Le Fondateur" (Gallimard). Son nouveau roman raconte l'histoire du patron d'un empire de la tech, inspiré du libertarien Peter Thiel, entrepreneur américain sulfureux à la tête de Palantir.
Catégorie
🗞
NewsTranscription
00:01France Inter, Benjamin Duhamel, Florence Paracuelos, La Grande Matinale
00:06Chacun de ses livres est un vertige, une plongée dans les abysses du monde contemporain.
00:12Il nous a fait entrer dans la tête de Poutine, c'était l'hommage du Kremlin.
00:15Dans les ingénieurs du chaos, il a disséqué la fabrique des populismes.
00:19Le voilà dans son nouveau roman au cœur de la tech, dans ce cas-là de plus effrayant.
00:25Bonjour Giuliano D'Ampoli.
00:26Bonjour.
00:26Merci d'être avec nous sur France Inter et avec les auditeurs qui peuvent dialoguer avec vous au 01 45
00:3224 7000
00:33et sur l'application Radio France.
00:36Vous publiez donc Le Fondateur qui paraît ce jeudi aux éditions Gallimard.
00:40C'est l'histoire d'un conseiller politique déchu qui entre au service d'un seigneur de la tech.
00:45Son entreprise est Panoptique, une gigantesque société d'analyse de données,
00:49donc de surveillance dopée à l'intelligence artificielle.
00:52Vous savez le rôle d'oracle qu'on vous attribue, Giuliano D'Ampoli. De quoi voulez-vous nous prévenir cette
00:59fois-ci ?
01:00Alors, je refuse le rôle d'oracle. Moi, je suis quelqu'un qui s'intéresse à ce qui se passe,
01:07qui tâtonne comme tout le monde,
01:09puisque je tâtonne de façon assez visible depuis quelque temps.
01:14Voilà, tous ceux qui tâtonnent, parfois, ont envie de partager ce parcours, mais je ne prévois rien.
01:22D'autant plus que je parle plutôt du passé.
01:24Et ce roman aussi, qui est quand même assez fortement inspiré à la réalité, puisque je n'ai pas beaucoup
01:30d'imagination,
01:32se réfère à une période du passé récent.
01:35Donc, il ne prévoit rien.
01:37Il raconte, peut-être d'une façon un peu différente, les événements qui se sont produits au cours des dernières
01:43années.
01:43Et, notamment, ce qui me frappe le plus, qui est cette sorte de tournant guerrier de la tech.
01:53La gentille tech qui était là pour unir l'humanité, elle assume aujourd'hui un caractère de plus en plus
02:01apocalyptique.
02:02Alors, justement, votre personnage de fondateur, Hans Zimmer, avec sa société panoptique, s'inspire largement d'un homme qui existe.
02:10C'est Peter Thiel, pas le plus connu des seigneurs de la tech, mais l'un des plus puissants avec
02:14son entreprise Palantir.
02:16Qu'est-ce qui vous a intéressé ou fasciné dans ce personnage ?
02:21Disons que le vrai personnage Peter Thiel, comme Alexandre Zimmer, mon personnage de roman,
02:29est quelqu'un qui, il y a longtemps, il y a 20 ans,
02:36a compris que la technologie pouvait devenir une alternative à la politique.
02:40Et que, surtout pour quelqu'un comme lui, quelqu'un qui a des idées très radicales,
02:46quelqu'un qui pense que la démocratie est obsolète, que les forts doivent dominer les faibles,
02:53que l'État doit être géré comme une entreprise par un PDG au pouvoir absolu.
03:00Et bien, surtout pour quelqu'un comme ça, disons, la politique, c'est un peu dur.
03:06D'obtenir une majorité sur un programme comme ça, c'est un peu difficile.
03:10Mais, si on veut changer le monde et la société, la technologie est un instrument très puissant.
03:16Et donc, de façon unilatérale, si on veut.
03:19Et donc, il entreprend de faire ça.
03:22Et c'est un long parcours d'une trentaine d'années que j'essaie de résumer un peu dans ce
03:27livre.
03:27Et ce qui est fascinant de Juliano d'Ampoli, c'est évidemment la façon dont votre roman résonne
03:31avec tous les questionnements actuels sur l'intelligence artificielle.
03:34Avant de continuer à rentrer dans le détail de votre livre,
03:36si on prend le fil directeur de votre oeuvre, on l'a dit,
03:39le match du Kremlin avec Vladimir Poutine, les populistes et ceux qui les conseillent,
03:44comment est-ce que ce personnage Zimmer, inspiré donc de Peter Thiel, s'inscrit dans cette lignée-là ?
03:50Quel est le fil directeur ?
03:52C'est un peu l'aboutissement de tout ce parcours, je pense.
03:56Parce que moi, j'ai commencé...
03:58Moi, je n'ai pas, disons, un background technologique.
04:01Je m'intéresse plutôt à la politique au départ.
04:04Et donc, je commence à m'intéresser à ces nouvelles formes de propagande sur les réseaux sociaux,
04:10les ingénieurs du chaos à partir d'il y a une dizaine d'années.
04:15Et progressivement, j'ai de plus en plus l'impression qu'au-delà des cas particuliers,
04:25c'est toute une infrastructure qui s'est mise en place.
04:28Et c'est ce que j'appelle le vrai grand remplacement,
04:32qui est le remplacement, au fond, de la réalité telle qu'on la connaît,
04:37par une nouvelle réalité qui est entièrement déterminée par les usages du numérique
04:44et, aujourd'hui, par l'intelligence artificielle.
04:47Et donc, là, on arrive un peu à la fin de ce parcours-ci,
04:50avec ce fondateur qui est justement, d'une certaine façon...
04:54Bon, c'est les entrepreneurs de la Silicon Valley
04:57qui s'appellent entre eux les founders, les fondateurs.
04:59C'est un terme qu'ils utilisent.
05:01Qui se prennent comme s'ils étaient les fondateurs des Etats-Unis.
05:04Voilà, c'est le fondateur d'une nouvelle réalité,
05:06de la réalité dans laquelle nous vivons tous aujourd'hui.
05:09Alors, il faut que vous nous expliquez ce que c'est que cette entreprise
05:11dont vous nous parlez, qui s'appelle Panoptic dans votre livre,
05:15mais qui s'appelle Palantir dans la réalité.
05:17Parce que nous, le commun des mortels, on ne la connaît pas.
05:19On n'a pas affaire à cette boîte.
05:21C'est pas un réseau social.
05:23C'est pas...
05:24C'est ça.
05:25C'est pas Google, voilà.
05:26Donc, Palantir, c'est une boîte qui travaille pour les Etats,
05:29pour la CIA, pour l'ICE aux Etats-Unis,
05:32qui est aussi à l'œuvre dans les guerres,
05:35depuis le début de la guerre en Ukraine, en Iran.
05:37Expliquez-nous ce que fait cette entreprise Palantir.
05:40C'est une entreprise qui naît au lendemain du 11 septembre,
05:45donc des attentats des Twin Towers,
05:48quand on se rend compte que l'État,
05:54enfin l'administration américaine,
05:56avait en réalité tous les éléments pour pouvoir prévoir les attaques,
06:02sauf qu'ils étaient dispersés.
06:04On savait que quelque chose se préparait du côté d'Al-Qaïda.
06:08On savait qu'il y avait des gens bizarres qui s'inscrivaient
06:11à des cours d'aviation pour piloter des avions.
06:16On savait qu'il y avait certains mouvements boursiers un peu suspects.
06:20Il y avait plein d'éléments, mais on n'a pas su les croiser
06:24et donc on n'a pas pu prévenir les attaques.
06:27Et donc l'idée là, c'est d'avoir ce qu'on appelle une conscience totale de l'information,
06:33c'est-à-dire un seul lieu dans lequel on va concentrer toutes les données
06:37et toutes les informations pour pouvoir les croiser
06:40et immédiatement individuer les anomalies,
06:43ce qui va être un peu bizarre, etc.
06:45Sauf que l'État américain développe un projet pour faire ça,
06:50mais le Congrès l'arrête parce que c'est orwellien.
06:53Parce que c'est de la surveillance généralisée.
06:55C'est de la surveillance généralisée.
06:57Et Panoptic, donc mon entreprise,
07:00qui en effet ressemble pas mal au vrai Palantir,
07:03va reprendre sous forme d'entreprise privée ce projet-là
07:08avec beaucoup moins de contraintes que celles qu'aurait un État en faisant la même chose
07:13et va devenir le fournisseur d'un logiciel qui gère les données
07:20d'une aujourd'hui, d'une quinzaine de services de renseignement dans le monde,
07:25de l'armée américaine, mais aussi de l'armée israélienne,
07:30de l'OTAN, d'Interpol, de beaucoup de police.
07:35Et donc, d'une certaine façon, un fournisseur technologique,
07:40mais qui a un rapport, puisque les données, les algorithmes,
07:45la détection des anomalies, aujourd'hui, c'est le pouvoir,
07:49et c'est la nouvelle forme de pouvoir,
07:50et donc qui devient en réalité un siège de pouvoir impressionnant.
07:53Et avec toutes les questions qui se posent en termes de dépendance aussi à ce service,
07:57puisque si l'on parle de cette entreprise Palantir,
08:00qui a donc très largement inspiré l'entreprise du livre,
08:04il faut savoir que la France avait commencé à utiliser cette entreprise Palantir,
08:09notamment après les attentats de 2015 pour le compte de la DGSI,
08:13le Renseignement Intérieur Français,
08:14jusqu'à ce que le Premier ministre annonce cet été son remplacement par une société française.
08:19Il a dit, voilà, on n'utilisera plus les services de Palantir, l'entreprise de Peter Thiel.
08:24Est-ce que ça vous a interpellé ? Est-ce que vous vous êtes dit il a raison ?
08:27Et sur la question plus générale de la façon dont des pays européens
08:30se mettent dans la main de ces services de la tech américaine ?
08:33Oui, mais c'est une question, justement, la tech arrive aux frontières de la souveraineté.
08:38Et ce qu'il y a d'intéressant dans mon personnage Zimmer et son entreprise,
08:44c'est que, effectivement, ce sont des sujets qui ne traitent plus la tech pour les consommateurs,
08:53les usagers, des milliards d'usagers comme les autres boîtes,
08:57mais qui sont dans le régalien, en fait.
09:00Ils veulent se substituer aux États.
09:04dans ce qu'ils ont de plus spécifique, qui est au vrai cœur de leur activité.
09:10Donc, ça va être le contrôle des frontières, parce qu'il y a un rôle très important sur ça aussi,
09:14les aéroports, les frontières, les points d'accès, etc.
09:18Ça va être le contrôle du territoire, ça va être leur enseignement,
09:22et ça va être le militaire aussi.
09:24Et donc, la question se pose, effectivement, de se dire,
09:29est-ce que cette entreprise-là, elle est encore dans le domaine, disons, commercial de l'entreprise,
09:36ou est-ce qu'elle devient un véritable centre de pouvoir autonome ?
09:41Et donc, par contre...
09:43C'est une décision salutaire pour la France d'avoir décidé de se passer de ses services.
09:47Oui, mais le dilemme est terrible, parce que cette entreprise, elle offre un service efficace.
09:57Disons, les clients de cette entreprise sont en général satisfaits
10:02de cette sorte d'effet presque de bol de cristal, non ?
10:08de bol de cristal, qui permet sur la base de données très différentes,
10:16parce qu'en plus, un service de renseignement, vous imaginez,
10:19il a des enregistrements, des vidéos, des rapports d'agents sur le terrain,
10:24des images satellites, des données financières de mouvements bancaires, etc.
10:30Tout ça est très dispersé, le logiciel permet de tout regrouper.
10:34Donc, quand l'un des patrons de Palantir, Alex Carpe, a déclaré au début du mois
10:39que la France allait se faire du mal en se passant de ses services,
10:42que confier le job à une société française,
10:45voilà ce qu'il dit, je le cite,
10:46c'est littéralement l'équivalent technique d'un 5 à 7 sans préservatifs.
10:50Alors, c'est quoi ? C'est du dépit ? C'est de la menace ? C'est quoi ?
10:53Vous voyez bien, justement, que ces personnages-là,
10:56et c'est un peu le cas du personnage de mon roman aussi,
11:00sont des personnages, aujourd'hui, totalement décomplexés,
11:02qui s'adressent aux chefs de gouvernement et à chefs d'État,
11:06comme des pairs.
11:08Et ils ont, d'une certaine façon, raison de le faire.
11:11Avec un ascendant, en plus.
11:13Leur pouvoir est tout à fait comparable, sinon supérieur.
11:17Et ce chantage-là, il conteste à dire,
11:21très bien, vous pouvez vous priver de nos services,
11:23mais vous aurez des attentats,
11:25vous aurez des conséquences qui vont être...
11:28Vous allez en payer le prix.
11:30Et puisqu'on est dans des sujets très sensibles,
11:34évidemment, le dilemme est terrible.
11:37Mais juste avant que je venais de parler de l'actualité concernant
11:40tous les débats autour de l'intelligence artificielle,
11:42le monde que vous dessinez à travers votre roman et dans vos analyses,
11:46c'est un monde où la compétition n'est plus entre États,
11:49mais entre les États des puissances, parfois des anciennes puissances
11:52ou des puissances moyennes, et ces géants de la tech.
11:55Est-ce qu'aujourd'hui, Peter Thiel, Elon Musk, Sam Altman,
11:59ils sont plus puissants qu'Emmanuel Macron, Donald Trump, Vladimir Poutine ?
12:04Écoutez, dans mon livre, le personnage, donc, Zimmer,
12:10appelle les politiques élus des mouches à fruits,
12:15parce que leur attente de vie est très limitée,
12:20alors que les fondateurs des boîtes de la tech,
12:24déjà, comme avantage, ils ont le fait d'être là depuis très longtemps,
12:30et d'être dans un horizon de temps très long,
12:33parce qu'ils ont des mécanismes qui font qu'ils garderont le contrôle
12:38de leur entreprise à vie, et en plus, ils prévoient de ne pas mourir,
12:43parce qu'ils pensent qu'ils vont pouvoir devenir plus ou moins immortels,
12:47donc ils ont le temps de leur côté.
12:49Et en plus de ça, ils ont effectivement des machines, aujourd'hui,
12:54qui sont, on voit très bien que le grand remplacement, encore une fois,
13:00c'est une réalité numérique qui prend la place de notre réalité,
13:06et c'est, au fond, la machine qui prend la place de l'humain.
13:10Vous le faites dire à votre personnage,
13:12ce qu'il leur reste aux politiques, c'est le théâtre,
13:14il s'écharpe au sujet du grand remplacement,
13:16alors que le seul véritable remplacement est celui-ci, notre réalité,
13:20qui prend la place de la leur.
13:22Mon personnage, Zimmer, encore une fois,
13:24qui est quelqu'un qui, en réalité, est un passionné de politique,
13:27ce n'est pas un codeur, comme le vrai-t-il,
13:30ce n'est pas un codeur, ce n'est pas un jeune homme en soie de la capuche,
13:34ce n'est pas un gay-mère.
13:36Voilà, c'est un homme qui lit, c'est un homme qui a étudié la philosophie, le droit,
13:40et qui, donc, en réalité, s'occupe de pouvoir.
13:44Et lui, l'exemple qu'il fait pour décrire la condition des politiques aujourd'hui,
13:50c'est Salazar.
13:52Salazar était le dictateur du Portugal pendant 30 ans,
13:57et à la fin des années 60, il tombe dans le commun.
14:02Et donc, il est remplacé par le président du Portugal,
14:06puisqu'il est dans le commun pendant 40 jours,
14:09et un autre premier ministre est nommé à sa place.
14:13Sauf qu'à un moment, Salazar se réveille,
14:15et personne n'a le courage de lui dire qu'il n'est plus le chef.
14:20Et donc, toute une mise en scène se met en place,
14:23où Salazar, chez lui, il reste au palais du gouvernement,
14:28et toutes les semaines, il tient un conseil des ministres,
14:34avec ses anciens ministres qui ne le sont plus,
14:37mais qui, bon, lui, il est au lit et il pense encore.
14:40Et on imprime même pour lui, tous les jours,
14:42une copie spéciale du principal quotidien portugais,
14:46où il est encore au pouvoir.
14:48Et pour Zimmer, disons, c'est la condition aujourd'hui
14:52de tous les politiques, ou de presque tous les politiques,
14:55qui sont comme Salazar.
14:57Et de l'affaiblissement du politique.
14:59Quand vous voyez Juliano da Empoli,
15:00ce qui s'est passé cet été,
15:01c'est-à-dire des agents d'intelligence artificielle
15:03qui échappent à ceux qui les commandent,
15:07quand vous voyez des chercheurs qui démissionnent avec fracas,
15:10notamment un chercheur d'anthropique, en disant que l'intelligence artificielle
15:12pourrait détruire l'humanité.
15:15Est-ce que c'est excessif, ou est-ce qu'au contraire,
15:18c'est un message qui vous paraît tomber sous le sens ?
15:23Moi, pour l'instant, je suis plus inquiet des mauvais usages
15:29de la part d'acteurs humains de l'intelligence artificielle
15:34que des machines qui nous exterminent,
15:37même si des gens très compétents qui sont sur la frontière de la recherche
15:42nous disent que c'est un scénario de plus en plus possible et crédible,
15:47à terme.
15:48Mais pour l'instant, le processus qui m'intéresse moi,
15:51c'est cette concentration de pouvoir extraordinaire,
15:55parce que la technologie, en réalité, elle concentre du pouvoir.
15:59Ce n'est pas un phénomène qui naît aujourd'hui.
16:03Palmerston, le ministre des Affaires étrangères en Grande-Bretagne
16:08à la moitié du 19e siècle, quand on lui annonce la mise en place du télégramme,
16:15il dit que c'est la fin de la diplomatie.
16:19C'est-à-dire que les acteurs qui sont sur le terrain,
16:21en réalité, ils ne vont plus rien pouvoir décider
16:24parce qu'on va avoir les informations au centre
16:26et on va leur donner des instructions directement.
16:29Et la technologie, elle fait systématiquement ça.
16:32Elle concentre le pouvoir.
16:35Et avec l'IA, on arrive au cœur et à la fin de ce processus.
16:40C'est-à-dire que toutes les informations du monde, en réalité,
16:42se concentrent dans très très peu de lieux.
16:44Ce qui est vertigineux, c'est que vous dites que votre personnage,
16:47le fondateur, il travaille, comme c'est semblable dans la vraie vie,
16:51à réduire l'emprise humaine sur la marge du monde.
16:54Ça veut dire que leur hubris, à ces gens-là,
16:56ce serait de précipiter la fin de la civilisation.
16:59Ça paraît un peu excessif.
17:01Mais là, il y a, je pense, quelque chose,
17:03et c'est pour ça que le roman, on en a peu parlé,
17:06on ne parle que de la réalité,
17:07mais j'ai voulu utiliser l'instrument du roman
17:10pour raconter cette histoire
17:11parce que le roman permet d'entrer dans la tête des gens,
17:16de montrer un personnage comme celui-ci du fondateur
17:20qui a une force extraordinaire, on en a parlé jusqu'ici,
17:24mais accompagné d'énormes faiblesses.
17:27C'est quelqu'un qui peut dominer le monde,
17:30mais qui ne trouve pas les mots pour s'adresser
17:32à la personne qu'il aime.
17:34Et donc, l'humain, souvent, pour ces personnages-là,
17:38le simple contact humain est quelque chose de problématique.
17:42Et leur tendance naturelle est celle de vouloir tout coder,
17:48tout numériser, tout rationaliser,
17:51tout mettre dans la machine
17:52et de réduire le plus possible en réalité l'incertitude,
17:57la faiblesse, la corruption qui est liée à l'humain.
18:01Et c'est vrai qu'on voit bien cette misanthropie
18:04quasiment systémique des patrons de la tech que vous décrivez.
18:07Il y a Mohamed sur l'application Radio France
18:10qui nous dit quelles sont les perspectives positives que vous voyez.
18:12Parce que c'est vrai que là, on dessine un monde assez noir.
18:16C'est quoi les perspectives positives
18:17en termes de développement de l'intelligence artificielle ?
18:19Est-ce que c'est, par exemple, Giuliano D'Ampoli,
18:22l'idée de se dire qu'on va réussir à réguler ce secteur ?
18:25Alors, c'est mal parti, mais...
18:29Mohamed va être satisfait.
18:31Je pense qu'on peut être d'accord sur le fait que c'est mal parti,
18:34mais il ne faut pas céder au déterminisme, justement,
18:38de la technologie qui consiste à dire
18:40qu'on n'y comprend rien, il ne faut surtout pas s'en occuper,
18:45parce que, de toute façon, on va tout casser,
18:47on va juste ralentir le progrès, le progrès inévitable.
18:50L'histoire de la technologie, ce n'est pas ça.
18:53L'histoire de la technologie, c'est que vous avez une même technologie
18:56que vous pouvez user de façon très différente.
18:58Vous prenez l'imprimerie au début du XVIe siècle,
19:04eh bien, c'est la même technologie qui a des effets très différents
19:07dans la Chine impériale, dans l'Europe de la réforme,
19:12dans le monde musulman des califas.
19:14C'est la même technologie.
19:15Et aujourd'hui, c'est encore possible.
19:17C'est-à-dire, ces technologies-là, le numérique, l'intelligence artificielle,
19:21évidemment qu'elles ont un potentiel très positif aussi.
19:24Il nous reste peu de temps, Juliano Dampoli, on voulait vous entendre
19:26sur quelques sujets d'actualité.
19:27D'abord, est-ce que vous avez lu le livre de Télison Aurélien,
19:30C'était ça ou mourir ?
19:31Non, je ne l'ai pas lu.
19:33Mais son cas, ce cas-là, me paraît-il…
19:36Donc, on rappelle un roman salué par la critique,
19:38qui était jusqu'à peu en liste pour le prix Goncourt,
19:40et qui se révèle sans doute écrit par l'intelligence artificielle.
19:44C'est une application particulière de ce dont nous sommes en train de parler.
19:49Alors, moi, je parle de l'inhumain, de la machine
19:52qui remplace l'humain dans la guerre, dans le renseignement,
19:56dans toutes sortes d'activités régaliennes.
19:59Mais là, c'est la même chose.
20:00C'est-à-dire, c'est l'inhumain et la machine
20:03qui remplacent de façon de plus en plus performante…
20:06C'est vertigineux pour l'écrivain que vous êtes aussi.
20:10Mais tout à fait, c'est quelque chose qui est au cœur et qui nous frappe,
20:13donc de façon particulière, parce que le mot est un peu le centre de notre culture.
20:19Mais ce n'est pas différent de ce qu'on voit à l'œuvre dans tous les autres secteurs,
20:24y compris les secteurs qui sont au cœur de la politique et de la souveraineté.
20:28Pour finir, Julien D'Ampoli, nous sommes en année présidentielle en France.
20:33Les deux favoris des sondages pour 2027 s'appellent Marine Le Pen et Jean-Luc Mélenchon,
20:38qui sont donnés tous les deux le plus souvent au second tour de la présidentielle.
20:42Vous diriez qu'ils ont suivi à la lettre les préconisations des ingénieurs du chaos
20:47que vous-même décriviez comment les populistes réussissaient à capter la colère des électeurs ?
20:53La lettre, je ne sais pas, mais ce qui est certain, c'est qu'ils ont, tous les deux,
20:59ils ont tendance à élever la température, à polariser les opinions.
21:08C'est le patron de Cambridge Analytica qui disait, dans l'ancien monde,
21:15si vous voulez vendre du coca dans un cinéma, vous faites des publicités,
21:20vous embauchez une star qui va endosser votre coca, etc.
21:26Dans le nouveau monde, vous voulez vendre du coca,
21:30vous élevez la température dans le cinéma,
21:33tout le monde a soif et donc ils vont acheter votre produit.
21:36Et eux, ils font ça, c'est-à-dire ils élèvent la température sur toutes les questions.
21:42Avoir un débat plus ou moins raisonnable sur la plupart des questions devient de plus en plus difficile.
21:49Et forcément, ce sont plutôt les extrêmes et les positions les plus radicales qui arrivent à prendre le dessus.
21:56Mais c'est irréversible ou pas, Julien D'Ampoli ?
21:57Puisqu'on vient de parler pendant 20 minutes de la puissance des leaders de la tech,
22:00de la puissance des algorithmes, cette stratégie consistant à élever la température.
22:04Est-ce qu'il peut y avoir des discours pour contrer cette stratégie-là ?
22:09Il faudrait... Alors moi, au départ, je pensais que c'était une question d'habilité des politiques
22:13qui devraient prendre un certain nombre de techniques et qui pourraient contrer tout ça.
22:18Aujourd'hui, je pense que c'est un peu plus structurel,
22:21parce que justement, c'est l'infrastructure elle-même de la tech qui pousse dans cette direction.
22:29Et donc, ce qu'il faudrait, c'est une gouvernance. Ce qu'il faudrait, c'est une responsabilité.
22:35Il faudrait que les acteurs de la tech qui contrôlent tous ces instruments-là
22:41soient responsables des contenus qu'ils véhiculent, soient responsables des actions,
22:48des IA qu'ils produisent ou des agents d'IA qu'ils produisent.
22:51Mais ce n'est pas impossible. Vous voyez, ce week-end, on a eu l'information que des agents d
22:59'IA
22:59produits par OpenAI, donc ChatGPT, ont attaqué l'administration du commerce aux États-Unis,
23:09l'organe de contrôle de la bourse, etc.
23:13Alors, évidemment, la position d'OpenAI, c'est de dire, c'est comme ça.
23:19Mais puisqu'ils doivent entrer en bourse, là, quand vous entrez en bourse,
23:23vous devez faire la liste de tous les risques que votre produit présente
23:28et des responsabilités éventuelles que vous aurez, de ce que vous aurez à payer et tout ça.
23:33Et donc, là, on entre dans un débat qui est de dire, mais quand un de ces agents d'IA
23:41provoquent le chaos quelque part, ou quand une décision de guerre est prise par une IA ou par une machine,
23:52il faut toujours qu'il y ait un humain qui est responsable à la fin de la chaîne.
23:57Et ça, c'est le principe sur lequel il faudrait pouvoir travailler.
24:02Donc, on attend la fin de l'impunité des fondateurs, en quelque sorte.
24:05Je pense que ce n'est pas impossible.
24:07Merci Giuliano D'Ampoli.
24:08Je rappelle donc le titre de votre livre qui sort jeudi.
24:11C'est le fondateur aux éditions Gallimard.
24:13Merci d'être venu nous voir ce matin.
24:16Merci à vous.
24:16Merci à vous.
Commentaires