00:00Anthony Morel, bientôt il sera interdit de maltraiter l'intelligence artificielle.
00:04Anthropik vient d'instaurer une nouvelle règle pour empêcher les utilisateurs de cloud de faire preuve de cruauté gratuite.
00:11Oui, ça pose une question qui est presque philosophique. Est-ce qu'une IA peut souffrir ?
00:14Oui, peut-être, si on en croit les dirigeants d'Anthropik.
00:17Ils ne veulent plus que leur IA soit soumise à des scénarios, je cite,
00:21les conditions générales d'utilisation où des utilisateurs agissent de manière répétée avec cruauté envers nos modèles sans but discernible.
00:30C'est une règle qui va entrer en vigueur à partir du 12 novembre.
00:32Alors, qu'est-ce que ça veut dire être cruel avec une intelligence artificielle ?
00:35Eh bien, c'est ceux qui s'amusent à insulter leur chatbot, à l'humilier systématiquement, à le menacer de
00:42le débrancher, à le houspiller, enfin voilà, ce genre de choses.
00:45Alors, ça peut sembler étonnant, mais ce qui est vrai, c'est qu'il y a des études qui ont
00:49été menées sur ce sujet.
00:50Mais l'intelligence artificielle fait rejaillir des traits de notre humanité qui ne sont pas forcément très reluisants.
00:57On se rend compte que plus l'IA est réaliste dans les interactions qu'elle a avec nous,
01:00plus une certaine partie de la population va avoir tendance à être agressive et abusive avec elle.
01:05Et c'est ce que note Anthropik, ils ne veulent plus que ça ait cours.
01:08Et donc, du coup, si vous humiliez votre intelligence artificielle, elle arrêtera la conversation en mode,
01:13bon, je n'ai pas à subir ça, je n'ai pas à subir ce genre de choses.
01:16Je ne suis pas venu là pour souffrir ?
01:17Je ne suis pas venu là pour ça, c'est exactement ça.
01:19Non, mais ça peut sembler très étonnant.
01:20Et j'imagine que ceux qui nous écoutent se disent, mais qu'est-ce qu'ils nous racontent, Morel ?
01:24On parle quand même d'une intelligence artificielle, d'une machine qui peut éventuellement simuler une forme de souffrance.
01:30Mais ça reste une machine, elle n'a pas d'émotion, elle ne peut pas souffrir.
01:33Et bien, Anthropik n'est pas tout à fait d'accord avec vous, figurez-vous.
01:36Oui, c'est ça, ils pensent sérieusement qu'elle pourrait avoir conscience de ce qu'on lui fait subir ?
01:40Écoutez, ils ont un doute. Nous ne savons pas si les modèles sont conscients.
01:44C'est embêtant.
01:45Effectivement, vous le direz à Dario Amodei, le fondateur d'Entropik, c'est ce qu'il disait dans un podcast
01:49il n'y a pas très longtemps.
01:50Il estime aussi que la façon dont les humains se comportent avec l'intelligence artificielle
01:55pourrait avoir un impact sur la façon dont l'IA traite les humains.
01:59Il y a quelques mois, c'est vrai qu'ils ont une position un peu iconoclaste sur ce sujet-là,
02:03parce qu'il y a des gens qui disent c'est n'importe quoi, l'IA n'a absolument pas
02:07de conscience,
02:07c'est même pas un sujet, mais Anthropik, eux, ils se posent vraiment la question.
02:10Ils ont invité, par exemple, à leur siège, à San Francisco, une quinzaine de penseurs chrétiens,
02:15donc des prêtres, des philosophes, des spécialistes de l'éthique, précisément pour parler de ces sujets-là,
02:20pour se demander est-ce qu'on peut considérer une IA comme un enfant de Dieu ?
02:24Sur la question de la sentience aussi, la possibilité qu' l'IA puisse un jour avoir une forme de conscience
02:29et les implications que ça pourrait avoir, tout ça est vertigineux.
02:32Ils ont aussi participé à la présentation de l'encyclique du pape sur l'intelligence artificielle,
02:37et ça a même failli donner lieu à un incident diplomatique,
02:39parce qu'ils ont une vue très très différente de celle du pape.
02:42Dans l'encyclique, le pape Léon XIV, concerné à l'IA,
02:46il dit que l'IA peut éventuellement simuler l'empathie et la compréhension,
02:49mais qu'elle ne possède pas de corps, qu'elle ne connaît ni la joie ni la douleur,
02:53et selon la presse américaine, les responsables d'Anthropik ont fait pression,
02:57ou ont fait du lobbying, en tout cas auprès des conseillers du pape,
02:59pour le faire reconsidérer son opinion sur le sujet,
03:03en partant du principe que si l'IA peut avoir une forme de conscience.
03:07Mais très vite, est-ce que ça veut dire qu'un jour on accordera des droits aux IA et aux
03:11robots ?
03:12Ça peut encore une fois sembler risible, on n'en est pas là,
03:14mais ce sont des questions que certains chercheurs se posent très sérieusement aujourd'hui.
03:18C'est vrai que si on arrivait à démontrer que l'IA présente une forme de conscience,
03:22est-ce qu'on pourrait vraiment la traiter comme un simple outil,
03:25à débrancher comme on veut ? La question aussi derrière,
03:27c'est comment est-ce qu'on définit la conscience ?
03:29On commence par de la philo, on termine par de la philo,
03:31parce que là aussi la définition est quand même assez complexe.
03:34Merci beaucoup Anthony Morel.
