- il y a 1 semaine
Nicolas Bodin, président et cofondateur de Label4.ai, était l'invité de Frédéric Simottel dans Tech & Co, la quotidienne, ce lundi 7 septembre. Il s'est penché sur la lutte contre la fraude générée par l'intelligence artificielle sur BFM Business. Retrouvez l'émission du lundi au jeudi et réécoutez-la en podcast.
Catégorie
📺
TVTranscription
00:01Tech & Co, la quotidienne, la start-up.
00:05Nicolas Baudin, bonsoir.
00:06Bonsoir.
00:07Vous êtes président et cofondateur de Labelfort.ai.
00:11C'est une deep tech française.
00:13Vous nous expliquez tout ça.
00:14Vous êtes issu de la recherche publique, CNRS INRIA.
00:17Et le but, c'est de trouver les contenus,
00:20que ce soit des images, des vidéos, du texte, de l'audio,
00:23qui ont été manipulés par l'IA.
00:25Le but, c'est de détecter les fraudes.
00:26Alors, votre actualité, c'est que vous venez d'obtenir le label finance-innovation
00:30dans la catégorie assurance.
00:31On essaiera de comprendre tout ça.
00:32Mais très concrètement, lutter contre la fraude générée par l'IA, ça veut dire quoi ?
00:36C'est une très bonne question.
00:38Alors, en fait, on va partir de la définition de deepfake,
00:41qui est souvent vue comme étant quelque chose qui vient impacter l'information,
00:45donc beaucoup de la désinformation.
00:47Et il s'avère qu'en fait, de façon beaucoup plus générale,
00:49beaucoup plus massive, on a mis à disposition des particuliers,
00:52des outils qui sont très peu chers, qui sont extrêmement puissants,
00:56faciles d'accès techniquement,
00:57et qui permettent de produire des contenus très réalistes.
01:00Et ça, pour la fraude, c'est une aubaine absolue.
01:03Ça veut dire que ça permet d'imiter un diplôme,
01:05ça permet de trafiquer une fiche de salaire,
01:08ça permet de trafiquer tous les justificatifs.
01:11Et voilà.
01:11Et il n'y a pas besoin d'être très fort,
01:13parce qu'avant, la fraude a toujours existé,
01:16il y avait Photoshop,
01:17mais il fallait quand même une certaine...
01:19L'aptitude, oui.
01:20À manipuler un peu ses outils, à recoller les photos.
01:23Exactement.
01:24Et donc, de fait, on a complètement changé le paradigme,
01:26comme on dit souvent, de la fraude, finalement,
01:28fabriquée par IA et des deepfakes.
01:30Et nous, en nous focalisant sur la capacité de détecter
01:32ces contenus-là spécifiquement,
01:34eh bien, on vient, en fait, limiter l'impact,
01:37voire le stopper complètement,
01:38que peuvent avoir ces contenus en les détectant,
01:40avant que les entreprises soient touchées.
01:41Je parlais du label finance-innovation dans la catégorie d'assurance,
01:44parce que, justement, c'est dans l'assurance,
01:46où on va envoyer des...
01:48Malheureusement, cet été,
01:48on a vu que beaucoup de gens allaient devoir se manifester
01:51auprès de leurs assurances.
01:52Et justement, c'est là où il faut être très vigilant,
01:54ne pas avoir de fausses photos.
01:55C'est ça, l'idée ?
01:55C'est complètement ça, l'idée.
01:57En fait, l'assurance, c'est un peu la figure de proue
01:59un petit peu de notre secteur,
02:00parce que c'est là où la tentation est la plus forte.
02:03Finalement, on peut créer des faux sinistres,
02:07les accentuer,
02:08ou au contraire effacer des rayures,
02:09parfois quand ça nous arrange.
02:10On peut avoir aussi les arnaques au retour.
02:12Finalement, vous faites comme si votre colis,
02:14vous l'aviez reçu, il a été abîmé,
02:16il est passé sous l'eau.
02:17Il y a une tentation qui est forte,
02:18parce que l'outil est facile d'accès.
02:20Et finalement, face à l'afflux massif,
02:22parfois, ça coûte moins cher
02:24de rembourser une partie du produit
02:25plutôt que de le faire revenir.
02:26Et pour les assurances, c'est la même chose.
02:28Il faut trier.
02:29Et donc, c'est là où vous vous internez,
02:32où vous internez de la technologie.
02:33Et alors, ça se passe comment ?
02:34Il y a des watermarks, comme on dit,
02:36sur les photos, comment on repère ça ?
02:38En partie.
02:39En fait, ce qu'on va faire, nous,
02:40c'est qu'on est une brique,
02:41on vient s'intégrer dans des contrôles
02:43qui sont déjà en place.
02:44Et donc, on est spécifiquement,
02:46on est des experts dans notre domaine
02:47sur la détection de l'intelligence artificielle.
02:50Donc, on vient en plus.
02:51Et donc, ce qu'on va faire,
02:52c'est que, plutôt que de regarder les anomalies,
02:54je vais prendre l'exemple des vidéos.
02:55Avant, on regardait le sixième doigt
02:56où il manquait le poux dans la vidéo.
02:59Aujourd'hui, c'est terminé.
03:00L'œil humain ou l'oreille humaine
03:01ne peut plus faire la différence.
03:03De fait, on préfère nous regarder
03:04la structure des contenus
03:07parce que quand l'IA génère un contenu
03:09ou quand elle manipule un contenu,
03:10elle laisse des traces.
03:11Elle laisse des petites signatures.
03:13Exactement, volontairement.
03:14Et donc là, on parle de watermark.
03:15On a beaucoup entendu parler dans Tropique
03:17cet été avec les textes,
03:18mais aussi involontairement
03:19parce que la production du contenu par une IA
03:22laisse des traces qui sont très spécifiques.
03:25Et c'est ça qu'on va venir chercher.
03:26Ça veut dire, sur une photo,
03:27ça peut être des pixels
03:28qu'on voit qui ont été un peu manipulés.
03:30Sur un audio, ça va être des bouts de son, c'est ça ?
03:33Et tout ça est dans le domaine de l'invisible
03:34ou dans l'inaudible.
03:35Et donc, nous, c'est là où on a une technique.
03:36C'est pour ça qu'on est une deep tech.
03:37C'est pour ça qu'on est appuyé sur les laboratoires.
03:39Alors, l'INRIA, le CNRS,
03:41mais on travaille aussi avec un laboratoire
03:42en Italie et en Tchéquie
03:45parce que c'est quand même très compliqué de faire ça.
03:47C'est beaucoup compliqué.
03:49Oui, parce qu'il y a à la fois
03:49de la reconnaissance vocale,
03:51reconnaissance de l'image,
03:53le texte aussi.
03:54Tout à fait.
03:54Et c'est une obligation de travailler,
03:56finalement, sur tous les aspects
03:57parce que pour avoir une vidéo
03:59qui paraît réaliste,
04:00alors vous détectez que c'est de l'IA ou non,
04:01et c'est peut-être l'audio aussi à côté
04:03qui va être aussi de l'IA ou non.
04:05Finalement, c'est des contenus,
04:07il faut les prendre dans leur globalité.
04:08La seule chose qu'on ne fait pas,
04:10c'est important de passer le message,
04:11c'est qu'on ne détecte pas le texte généré.
04:13Alors, pas parce qu'on ne sait pas le faire,
04:15mais parce que ce n'est pas possible
04:17aujourd'hui de le faire de façon fiable
04:19parce que la fiabilité de ces détections,
04:21elle est vraiment au cœur de notre démarche.
04:22Donc, très concrètement,
04:24déjà, ce label finance,
04:25innovation dans la catégorie assurance,
04:28ça justifie un peu,
04:29ça pérennise,
04:30ça valide le fait que votre technologie
04:32peut fonctionner dans l'univers de l'assurance,
04:34en l'occurrence.
04:34Exactement, en fait,
04:35il a un double rôle finalement ce label.
04:37Le premier, c'est de dire qu'effectivement,
04:39notre techno, elle a été éprouvée,
04:41elle a été testée,
04:41on sait qu'elle fonctionne dans cet environnement-là.
04:43Mais c'est aussi un message clair
04:45sur la prise de conscience
04:46que la fraude à l'intelligence artificielle,
04:50les deepfakes,
04:51ce n'est pas l'apanage des médias,
04:53même si quand même beaucoup dans votre domaine,
04:56mais aussi, voilà,
04:57justement sur des secteurs
04:58où ça peut coûter beaucoup d'argent,
05:00que ce soit la banque
05:00ou les assurances mutuelles.
05:02Très concrètement,
05:04vous avez déjà des clients ?
05:05Oui, bien sûr.
05:06Très concrètement,
05:06je suis une assurance,
05:07comment ça se passe ?
05:08Comment je vais intégrer votre technologie ?
05:10Et puis ensuite,
05:11comment je suis l'assureur,
05:12comment je vais m'en servir ?
05:13Alors nous,
05:13on a comme spécificité aussi,
05:15c'est qu'on propose
05:16nos technologies directement
05:18on-premise,
05:18c'est-à-dire directement chez le client.
05:20D'accord.
05:20Donc on ne dépend pas d'un cloud,
05:21on ne dépend pas d'une connexion,
05:23on est capable de mettre notre solution,
05:24nos algorithmes,
05:25qui sont des algorithmes propriétaires.
05:26Ce n'est pas LLM contre LLM,
05:29on est vraiment sur nos algorithmes,
05:30qu'on va mettre chez le client,
05:32qui donc va renvoyer concrètement un score
05:34en disant ce contenu est suspect
05:36ou il ne l'est pas.
05:37Et pour les contenus suspects,
05:39on va recommander des contrôles supplémentaires
05:42pour qu'on garde l'humain
05:44sur la vérification finale.
05:46Parce que c'est quand même lourd de sens,
05:47lourd de conséquences aussi,
05:49finalement,
05:49de condamner quelqu'un
05:50parce qu'il est potentiellement un fraudeur.
05:51Donc on recommande toujours
05:53d'avoir un opérateur
05:54qui vient valider
05:55ou invalider finalement le résultat.
05:58C'est souvent validé.
05:58Parce qu'on a quand même
05:59des bons taux de réussite.
06:01Et du coup,
06:01ça veut dire que vous pouvez,
06:02enfin vous fonctionnez là,
06:03je parlais de l'assurance,
06:05mais vous pouvez être
06:05dans tout un tas de domaines aujourd'hui.
06:07Exactement.
06:08En fait,
06:08on est vraiment une brique d'expertise,
06:10de niche,
06:11qu'on va venir imbriquer partout.
06:13Parce que finalement,
06:14le phénomène en symétrie,
06:17finalement en parallèle
06:18de ce qui se fait
06:19sur l'intelligence artificielle,
06:20puisque l'intelligence artificielle,
06:21vient aussi
06:22sur tous les outils.
06:23Elle n'est pas autonome.
06:25On vient l'ajouter
06:26comme une couche
06:27sur tout un tas
06:30d'outils
06:31et de logiciels.
06:32Et c'est un petit peu
06:32notre rôle finalement
06:33quand on prend un peu de hauteur
06:34sur ce qu'on est censé faire.
06:37On est un tiers de confiance
06:38finalement qui vient,
06:39on est sur la deuxième vague de l'IA.
06:40La première consistait
06:41à adopter massivement
06:43l'intelligence artificielle.
06:44La deuxième,
06:45c'est
06:45ça ne peut pas se faire
06:47à n'importe quel...
06:48L'utiliser avec intelligence.
06:49Exactement.
06:50Est-ce que ça veut dire
06:50que je prends notre exemple
06:51de médias,
06:52on s'avance
06:53à grande vitesse,
06:55à grands pas
06:56vers la campagne présidentielle
06:58qui commence,
06:59qui est déjà lancée
06:59pour certains.
07:00On va certainement
07:02être inondé
07:02de deepfakes,
07:03de voir des hommes politiques
07:04parce qu'ils sont filmés partout
07:06et on va leur faire dire
07:07pour certains
07:08n'importe quoi.
07:09est-ce que ça,
07:10votre outil peut être utilisé
07:12justement par des médias
07:13pour dire
07:14bah tiens,
07:14là cette image
07:15de tel candidat
07:17qui dit ça,
07:18elle est peut-être
07:19un peu trafiquée.
07:20Oui,
07:20alors c'est une très bonne question
07:22encore une fois.
07:22On travaille déjà
07:23avec pas mal de médias
07:24en France
07:25et en fait,
07:25ce qui est intéressant,
07:26c'est qu'on n'utilise pas
07:27notre solution
07:27comme un outil
07:28de fact-checking
07:29post-diffusion.
07:29parce que là,
07:30ça va être trop tard.
07:31L'intérêt,
07:32et c'est pour ça
07:32qu'on parle de neutraliser
07:34finalement les deepfakes
07:35avant qu'ils aient un impact,
07:36c'est de venir au moment
07:38où on reçoit finalement
07:40les contenus de l'extérieur,
07:41des journalistes
07:42mais aussi des correspondants
07:43mais aussi pourquoi pas
07:44des particuliers
07:45sur les réseaux sociaux
07:46et nous,
07:47notre rôle,
07:47ça va être de lever une alerte
07:49quand un contenu
07:49n'est pas digne de confiance.
07:51Exactement.
07:52On peut le régler
07:53de façon plus ou moins sensible
07:54en fonction de la sensibilité
07:55finalement des contenus
07:57mais sur les médias,
07:58c'est une catastrophe.
07:58On le sait,
07:59on le vit au quotidien.
08:01À tel point qu'on doute
08:02maintenant on doute de tout.
08:03Pour tout vous dire,
08:04j'ai vu là,
08:04il y a eu un accident tragique
08:06d'un appareil
08:07d'un avion Amazon
08:08là aujourd'hui.
08:09Ma première réaction
08:10c'était de dire
08:11est-ce que c'est un fake
08:11ou est-ce que c'est...
08:12Voilà,
08:13alors tant mieux,
08:13ça nous pousse un peu
08:14à tout ça.
08:15Aujourd'hui,
08:17Labelfort.ai
08:18donc vous êtes issu
08:19de la recherche publique,
08:20Inres,
08:20vous commencez à...
08:21Vous en êtes tous
08:22vos financements,
08:23vous avez levé des fonds ?
08:24Oui,
08:25on a levé...
08:26Oui,
08:26un million d'eux
08:28tout à fait l'année dernière.
08:30Là,
08:30on va lancer
08:31une nouvelle levée de fonds
08:31dans peu de temps
08:32pour vraiment accélérer
08:33parce qu'on voit
08:34que le marché
08:35est extrêmement réceptif
08:36et on va être obligé de...
08:39J'ai ouvert la porte
08:39du politique,
08:40des deepfakes
08:40et de tout ce genre de choses.
08:42Pour tout le monde.
08:43Il va falloir
08:43qu'on change d'échelle
08:44et ça,
08:44ça va nécessiter effectivement
08:45une levée de fonds
08:46à venir dans les prochains mois.
08:48Et on rappelle,
08:48c'est sur les fichiers vidéo,
08:49les fichiers audio...
08:50On dit qu'on est multimodaux,
08:52absolument.
08:54Aujourd'hui,
08:55vous êtes combien de personnes ?
08:56On est à peu près une dizaine.
08:58Et votre mode opératoire,
09:00c'est de l'abonnement ?
09:00Non,
09:01ce n'est pas de l'abonnement,
09:01on achète le logiciel
09:02que l'on installe ?
09:03Alors,
09:03tout à fait,
09:04mais on le fait sous forme de licence.
09:05D'accord.
09:05Une licence annuelle
09:06qui va être proportionnelle au volume
09:08mais dans une échelle
09:09pour éviter de dire,
09:10de compter finalement
09:12chacune des détections
09:13et d'être comme aujourd'hui,
09:15on est au token.
09:15On essaye un peu d'éviter ça
09:16pour avoir une prévisibilité
09:18finalement des coûts
09:19de nos clients.
09:20Nicolas Bonin,
09:21merci d'être transmis
09:21de nous parler de tout ça.
09:22Je rappelle,
09:23vous êtes président
09:23et cofondateur
09:24de Label4AI
09:25pour lutter contre
09:26les nouvelles formes
09:27de fraudes numériques
09:28notamment avec
09:28l'intelligence artificielle
09:29et je sais si on appelle,
09:31on vous appelle tous
09:32à être toujours très vigilants.
09:34On en parlait la semaine dernière
09:35ici même lors d'un débrief,
09:36les gens avaient reçu
09:36un courrier de Ledger
09:38qui disait
09:38il faut remettre à jour
09:39un courrier papier.
09:40Voilà,
09:41donc il faut être attentif à tout
09:44et toujours dès qu'on a un doute
09:45on n'y touche pas
09:46ou on essaie de se renseigner.
09:47Merci d'avoir été avec nous.
09:48Merci encore.
09:48Merci encore.
Commentaires