- il y a 1 an
Catégorie
🗞
NewsTranscription
00:0019h31 avec Jules Torres et Sarah Salmane, ce soir on parle du code de bonne pratique européen de l'IA, l'intelligence artificielle.
00:07Ça y est, ça vient de tomber aujourd'hui en ce samedi 2 août.
00:10Alors, pour recontextualiser un petit peu, la notation sociale était interdite depuis février,
00:14oui, puisque l'intelligence artificielle acte se construit comme ça au fur et à mesure.
00:19Et bien c'est au tour des modèles d'IA à usage général d'être encadré par l'Union Européenne.
00:23Alors comme ça, ça peut paraître un peu complexe.
00:25On parle là des géants qui développent des IA génératives.
00:27Vous l'utilisez peut-être incertainement, ChatGPT, justement elle en a parlé juste avant, Sarah Salmane, qu'elle connaissait très bien ChatGPT.
00:34Également des entreprises qui les intègrent pour les modifier ou encore les utiliser en interne.
00:38Bref, il faut savoir clarifier tout ça.
00:40Et le code des bonnes pratiques, c'est un petit peu ce que souhaite l'Europe par rapport à ça.
00:43Ça inclut transparence, sécurité, respect du droit d'auteur.
00:46On ne va pas rentrer dans les détails, mais c'est un peu l'idée.
00:48Les États qui devront aussi désigner des autorités de contrôle.
00:51Tout le monde est d'accord pour dire qu'il faut encadrer l'intelligence artificielle, Jules Torres.
00:54Mais quand les Américains et les Chinois pratiquent, eux, une IA décomplexée, sans forcément de cadre législatif,
01:00l'Europe, elle se met peut-être un petit peu elle-même à la traîne.
01:03Ah bah justement, Guillaume, pendant la pub, on dit tout aux éditeurs d'Europe 1.
01:07Vous avez dit, si je dis une bêtise, vous me reprenez.
01:09Tout le monde est d'accord, moi je ne suis pas du tout d'accord avec ça.
01:11C'est-à-dire qu'en effet, c'est une maladie européenne de toujours réguler, de toujours contrôler,
01:17de toujours mettre des normes sur un mouvement et une dynamique qu'on ne contrôle pas.
01:23L'Union Européenne ne contrôle rien.
01:25Je vous rappelle qu'on s'est quand même couché sur la question des droits de douane il y a seulement quelques jours.
01:29Et là, hasard du timing, cet IA Act arrive et est promulgué et entre en vigueur, si je puis dire, aujourd'hui.
01:37Oui, il y aura des amendes de Sarah Salman.
01:39En revanche, le problème, c'est qu'on utilise nos armes, c'est-à-dire qu'on va réguler et contraindre finalement nos fleurons et nos pépites,
01:49par exemple comme Mistraliaï, ce qui est très dommage.
01:52Quand, eh bien, Chajibiti, vous l'avez dit, de OpenAI aux Etats-Unis et DeepSync, par exemple, en Chine, n'auront aucun problème.
02:00Et les amendes, elles peuvent être très grosses.
02:02En revanche, c'est des millions d'euros.
02:03Mais là, on parle d'un budget, on parle d'un...
02:06On peut quand même aller jusqu'à 7% du chiffre d'affaires mondial.
02:10Donc ça, je veux quand même être...
02:11Pourquoi ? Parce que là, on est dans un marché qui représente des centaines de milliards.
02:15Donc 35 millions d'euros, parce que c'est où ?
02:17C'est 35 millions d'euros pour certains, par exemple, sur l'utilisation des systèmes interdits.
02:2135 millions d'euros, vous l'avez dit, ou 7% du chiffre d'affaires.
02:24Je vois qu'on avait les mêmes chiffres d'affaires, mais j'étais patient, on va dire tout.
02:27On dit tout, juste avant, j'étais pas certain de mon chiffre.
02:29Et finalement, on est tombé d'accord.
02:30On a bossé, et on a bien bossé.
02:32Donc on connaît ce sujet.
02:34En revanche, ce que je voulais vous dire, c'est que, voilà, on va avoir...
02:38On va mettre, comment dire, un boulet au pied de nos propres pépites,
02:42et on va laisser les autres, parce que je peux vous dire que 35 millions...
02:44C'est le principe de précaution.
02:45C'est-à-dire que toujours pareil, alors maintenant, de légiférer pour éviter qu'il y ait des abus,
02:50c'est pas mal non plus, on ne peut pas approcher à ça.
02:51C'est bien, bien sûr.
02:52La CNIL, elle a fait un travail formidable, par exemple, par rapport au droit à l'image, par rapport à tout ça.
02:56Il y a du bon et il y a du mauvais dans la CNIL, parce que c'est aujourd'hui...
02:59Sur la vidéo-surveillance ?
03:01C'est un petit peu...
03:02Aujourd'hui, elle a des réglementations, notamment celle de 78,
03:05qui est un petit peu anachronique par rapport aux besoins de la société aujourd'hui.
03:09On l'avait vu notamment lorsque Christian Estrosianis voulait mettre des caméras de vidéo-surveillance
03:14qui ne reconnaissaient ni visage, ni plaque, mais seulement des véhicules suspects.
03:19Donc moi, ce que je veux vous dire, c'est qu'on a une maladie européenne,
03:22qui est contraire à la volonté et à l'évolution de cette intelligence artificielle,
03:28et qui fait qu'on va avoir encore du retard, sachant qu'on en a déjà,
03:31quand on met...
03:32Ah oui, c'est déjà commencé.
03:33Je vous dis n'importe quoi, mais quand on met 500 millions d'euros en France pour miser sur l'IA,
03:37Microsoft en met 100 milliards.
03:38Donc on a des retards, et c'est pas en mettant des boulets, en mettant des entraves,
03:41en mettant des normes, en mettant de la régulation,
03:43qu'on va arriver à revenir dans le jeu du marché de l'intelligence artificielle.
03:48Et j'en reviens justement par rapport à ces fameuses amendes.
03:50L'an dernier, LinkedIn a réglé une amende de 310 millions d'euros pour usage illégal de données personnelles.
03:55Effectivement, c'est autre chose que l'IA.
03:57Ça n'empêche pas le réseau social professionnel de respecter les règles,
04:00pour autant que...
04:01Puisque si les données qui entraînent l'intelligence artificielle sont délocalisées hors de l'Union Européenne,
04:06eh bien il n'y aura pas besoin forcément de payer ces amendes.
04:08Donc le vieux potiment ne peut rien faire par rapport à ça.
04:09Après, il y en a qui jouent le jeu, il y en a d'autres qui jouent moins le jeu.
04:11Parce que là, je voyais par exemple, Meta fait de la résistance quasiment depuis le début.
04:16Mais il faut aussi savoir que ces normes...
04:17Quand on regarde, il y a trois chapitres.
04:19Chapitre de transparence, droit d'auteur, sûreté et sécurité.
04:21C'est publié depuis juillet sur le site de la Commission.
04:24Et c'est absolument inintelligible quand on regarde.
04:27C'est-à-dire que j'ai regardé, il faut un résumé pour savoir les règles à appliquer.
04:31Alors quand vous êtes Meta, LinkedIn, vous avez des services juridiques très compétents et conséquents
04:36qui peuvent passer le temps qu'il faut pour analyser la conformité de leurs normes aux règlements et aux normes de l'Union Européenne.
04:43Mais quand vous êtes une petite et moyenne entreprise, c'est beaucoup plus compliqué.
04:46Alors j'ai vu quand même qu'il y aurait des modalités de conformité simplifiées pour les PME et les TPE.
04:51Oui, parce qu'on n'a pas tous le même service derrière juridique pour gérer les mêmes lois.
04:55Mais les PME et les TPE vont être celles qui vont être le plus embêtées pour appliquer les normes en vigueur.
05:00C'est elles qui vont être le plus pénalisées.
05:01Donc après, ceux qui font de la résistance comme Meta, qui payent les amendes, ils peuvent le faire.
05:05Les PME, les TPE, ça va être un peu plus compliqué effectivement.
05:08C'est exactement ce que je vous dis, c'est que nos petites pépites, nos petits fleurons,
05:11qui d'ailleurs, bien souvent, sont rachetées quand elles atteignent une petite maturité.
05:16C'est le risque avec Mistrali, justement, qu'ils pourraient peut-être partir à l'étranger.
05:19Absolument, ils sont absorbés par plus gros.
05:20Microsoft a racheté des dizaines d'entreprises françaises sur la question de la tech.
05:25Mais le problème aussi, c'est que moi, je me méfie toujours quand l'Union Européenne vient regarder dans nos affaires.
05:32C'est-à-dire que l'Union Européenne, à la base, est une idée noble, est une idée plutôt bonne.
05:36Mais quand je vois, par exemple, qu'ils veulent créer un cadre juridique, c'est très bien.
05:40Mais est-ce qu'autour de ce plateau, on arriverait, par exemple, à s'accorder sur ce que c'est le respect des droits fondamentaux ?
05:47Ce que c'est le respect de l'éthique ?
05:49Ce que c'est le respect d'avoir un cadre juridique sûr ?
05:52Je ne suis pas sûr, alors évidemment...
05:53Et imaginez ça à 27.
05:54L'éthique, c'est une notion trop subjective.
05:56Et surtout, imaginez ça avec une quinzaine de juges de la Commission Européenne,
06:01qui ne sont pas en majorité, par exemple, français.
06:04Donc là aussi, est-ce que les intérêts français, comme Mistral Ayaï, seraient bien défendus ?
06:10Moi, je n'en suis pas sûr.
06:10Donc j'adopte toujours une position un petit peu précautionneuse quand il y a ce genre d'affaires,
06:15puisque sur beaucoup, beaucoup de sujets, l'Union Européenne, depuis maintenant 30 ans,
06:20nous a mis des boulets au pied.
06:21On pourrait parler de l'agriculture.
06:22Si nos agriculteurs ont aujourd'hui des problèmes, c'est aussi parce qu'on a eu ces normes.
06:26C'est aussi parce qu'on a permis à la Chine de rentrer dans l'OMC
06:29et qui a complètement bouleversé le commerce mondial et le commerce européen en particulier.
06:36Donc voilà, j'ai beaucoup de mal avec cette discussion.
06:39Et je pense que d'ailleurs, quand vous parlez aux spécialistes de la tech,
06:43et moi je me souviens très bien, j'avais fait à l'époque une interview avec Bruno Le Maire
06:46quand il était à Bercy et qui est très au fait,
06:49c'est l'un des hommes politiques les plus au fait de la question de l'intelligence artificielle,
06:52il disait, ce que disent les spécialistes, c'est qu'on va prendre beaucoup de retard
06:56et les Américains ont déjà 15 ans d'avance sur nous et c'est terrible.
07:00Je vous invite, j'invite les téléspectateurs à tester DeepSik et ChatGPT et Mistral Ayaï.
07:06Aujourd'hui, il y a déjà mais 10 ans entre les deux et à la vitesse où ça va.
07:11C'est-à-dire que vous prenez le ChatGPT d'il y a un an et celui d'aujourd'hui,
07:14ça n'a rien à voir.
07:16Et donc avec ce genre de...
07:17On parle de rapidité, on parle de connaissance, c'est des modèles qu'il faut entraîner justement.
07:21On parle de vérification absolument parce qu'on sait que DeepSik et ChatGPT se trompe énormément.
07:24Et le code de bonne conduite justement travaille aussi sur ça,
07:27sur l'entraînement des algorithmes pour éviter qu'il y ait des abus.
07:30Après, dans ce que dit Jules, c'est aussi un abandon de notre souveraineté
07:33et on le fait dans tous les domaines, vous avez raison de le dire, dans l'agriculture, etc.
07:36Et vous parliez tout à l'heure à la pause d'une application qui s'appelle Tchap
07:39et François Béroux dit que c'est français et qu'on va le faire pour des raisons de souveraineté.
07:43Donc quand ça l'arrange, c'est pour des raisons de souveraineté...
07:45Vous allez trop vite, Sarah !
07:46Quand c'est pour des raisons de souveraineté comme ça, il crée une application.
07:51Mais là, ce qu'on fait avec l'Union Européenne, c'est quand même un abandon
07:54en grande partie de notre souveraineté.
07:55L'Union Européenne a évidemment du bon, mais là, les contrôles,
07:58ça va être de façon pas aléatoire, c'est pas ce que je veux dire,
08:01mais ça va être hégémonique.
08:02Je m'adresse à l'avocate Sarah Salman pour refermer ce chapitre.
08:05Chaque État membre de l'Union Européenne doit maintenant désigner une structure
08:09pour contrôler ces nouvelles règles de l'intelligence artificielle.
08:11Comme le gouvernement français et d'ailleurs d'autres États membres
08:15n'en ont pas encore décidé qui allait pouvoir regarder, scruter et contrôler.
08:20On va dire qu'il y a a priori une tolérance tacite de 6 à 12 mois
08:22qui va être certainement envisagée pour permettre aux entreprises
08:25de se mettre en conformité.
08:26C'est pas beaucoup, 6 à 12 mois.
08:27Je dis ça comme ça, ça se trouve, c'est un petit peu plus.
08:31Pourquoi on applique des lois, on les met en place,
08:33on n'a pas encore le corps, la force, la structure pour pouvoir les absorber ?
08:37Alors déjà, la Constitution vous dit que les textes supranationaux
08:41ont valeur supérieure au droit national.
08:43Donc de toute façon, on est tenu d'appliquer ce qu'on décide au niveau de l'Union Européenne.
08:47Après, pourquoi on va plus vite que la musique ?
08:50Parce qu'Emmanuel Macron notamment veut absolument se conformer
08:53à l'Union Européenne, à l'Europe.
08:55Alors après, est-ce qu'on a le dispositif suffisant ?
08:58Je ne sais pas.
08:58Et peut-être que ce sera encore une agence d'État
09:00qui sera créée avec vos impôts.
09:02Non, écoutez, on va bien voir ça.
09:03Il y en a pas assez, ça.
09:04On pourrait créer un conseil à l'intelligence artificielle.
09:05Mais vous voyez, on parlait tout à l'heure de la CNIL.
09:08C'est sûr qu'il y a un ministère quand même aujourd'hui de l'intelligence artificielle.
09:10Oui, c'est vrai.
09:10Personne n'en parle, tout le monde s'en fiche.
09:12Ça existe.
09:14Il y a peut-être à voir le sujet.
09:15Et la CNIL, vous voyez, on pourrait dépoussiérer ça.
09:18Jules le disait, la loi de 78, quand on se réfère à cette loi,
09:22elle est complètement obsolète.
09:23Je veux dire, la loi de 78 aujourd'hui n'a rien à voir avec aujourd'hui.
09:26Moi, je préférais qu'on s'occupe de dépoussiérer la CNIL
09:28plutôt que d'aller sur l'intelligence artificielle.
09:31On n'est déjà pas au point sur la loi de 78.
09:33Enfin, on n'est plus au point.
09:34En tout cas, ce code de bonne conduite, il ne plaît vraiment pas à tout le monde.
09:37Il y a déjà 38 associations mondiales de créateurs
09:39qui ne sont pas du tout contentes de ce code de bonne pratique de l'IA.
09:43Rien n'est suffisamment fait, semble-t-il,
09:45pour les oeuvres protégées par le droit d'auteur.
09:47C'est toujours les questions, les comédiens, doublages de voix,
09:50tout ça, qui n'ont pas du tout été écoutés.
09:52Et là aussi, on parle de plusieurs milliers, dizaines de milliers de personnes.
09:54Il y a plein de chanteurs qui avaient alerté
09:56comme quoi leur voix était utilisée pour recréer des musiques
09:59et qui, d'ailleurs, sont les premières.
10:01Il y a eu plein d'arnaques comme ça,
10:02d'artistes qui se sont fait usurper leur voix par l'intelligence artificielle.
10:05C'est un débat extrêmement passionnant
10:07puisqu'en réalité, c'est un peu le même
10:09que l'on avait lorsque Internet est arrivé.
10:13C'est-à-dire, jusqu'où on tolère le progrès technique ?
10:17Par rapport aux dérives.
10:18Il y a un gap entre les dérives et le progrès technique.
10:21Jusqu'où on accepte certaines dérives aujourd'hui de l'intelligence artificielle.
10:27Il y a quelques semaines, il y a eu une polémique autour de Grock,
10:31vous savez, l'intelligence artificielle de Elon Musk
10:33qui sévit notamment sur X, anciennement Twitter.
10:36et qui propose des contenus un petit peu olé olé.
10:39Et qui était dans une dérive extrêmement droitière.
10:41Je n'ai aucun problème avec la droite.
10:43Mais là, c'est vrai qu'il avait des propos très véhéments
10:46et très outranciers.
10:48Et là aussi, il y a eu une régulation,
10:50quelque chose de bonne conduite.
10:52Mais surtout, le problème dans ces cas-là,
10:54et c'est, je pense, le point majeur de cet IA Act,
10:57c'est que, qui régule ?
10:59Comment on régule ?
11:01Qui décide ?
11:02Est-ce qu'aujourd'hui, Sarah Salvan, par exemple,
11:06évoquait le fait qu'on puisse créer, je ne sais pas moi,
11:08un Haut Conseil ou que ce soit le ministère de l'intelligence artificielle,
11:12le secrétariat d'Etat qui gère cela.
11:15Est-ce qu'il serait géré de la même manière, par exemple,
11:17s'il y avait, je ne sais pas, quelqu'un d'autre au pouvoir,
11:19par exemple du Rassemblement National ou plus à droite ?
11:21Ce serait géré de la même manière s'il y avait quelque chose plus à gauche ?
11:24Le problème, c'est ça.
11:25C'est quand on veut réguler, la question c'est qui,
11:27et le problème, aujourd'hui, que se pose cette question,
11:30quand on pose la question que je viens de poser,
11:32c'est, ah bah, on va donner ça à l'Europe.
11:34C'est la moins bonne idée.
11:34Déjà, le mot réguler, à chaque fois, généralement,
11:36il y a quelque chose de négatif derrière.
11:38Quand on dit on va réguler, c'est ce que dit, par exemple, l'ARCOM,
11:40on va réguler, généralement, il y a un truc négatif qui se profile.
11:44Sarah Salman, Jules Torres, avec moi, ce soir, dans Europe 1 Soir Weekend.
11:48Alors, je n'ai pas eu le temps de vous en parler,
11:49mais je vous le dis rapidement,
11:51concernant l'application Tchap,
11:53simplement, c'est la nouvelle messagerie sécurisée
11:54que tous les ministères vont devoir utiliser
11:56à partir de la rentrée de septembre.
11:58Alors, je ne peux pas en parler avec vous,
11:59mais si vous restez avec moi dans une heure,
12:01je vais en parler avec Georges Fenech et Charlotte Dornelas.
12:04Voilà.
12:04Elle adore ses sujets, en plus.
12:05Honour à ma Charlotte.
12:06Leur avis.
12:07Bon, allez, juste après le journal permanent de 1945,
12:09nous parlerons de Renaissance.
12:11Le parti politique veut se refaire une beauté,
12:13enfin, surtout, un nom de parti,
12:15en demandant à ses membres d'en trouver un meilleur.