Je travaille depuis des décennies avec des logiciels d’entreprise et leur déploiement. Mais je ne suis pas programmeur, et je n’avais pas prévu de créer un produit de sécurité.
Tout a commencé par une vidéo. Début 2025, quelques semaines après qu’OpenAI eut ouvert au public son modèle vidéo Sora, j’ai regardé des clips de personnes qui n’avaient jamais existé, et je ne parvenais pas à les distinguer de vraies images. Ma première pensée a été : très bientôt, on ne pourra plus faire confiance à quelqu’un qu’on rencontre en ligne. Ni au visage de la visioconférence, ni à la voix au téléphone.
Cette pensée est devenue le cœur de Trusted Codes. Ce qui a fait de l’idée un produit, ce sont deux arnaques dans mon propre entourage. Elles ont prouvé que le danger était réel, et m’ont montré qu’il allait bien au-delà des réunions en ligne.
Deux affaires, un même schéma
La première a touché l’entreprise de ma femme. Un faux e-mail professionnel a conduit à un paiement de près de 100 000 € à des criminels. L’argent était perdu, et il n’est jamais revenu. Dans les statistiques, on parle de compromission de messagerie professionnelle. Pour les personnes concernées, c’est un choc qui ne s’arrête pas à la clôture des comptes.
La seconde était pire, d’une autre manière. Une amie a reçu un appel de sa fille. C’était sans aucun doute la voix de sa fille : elle disait avoir eu un accident et avoir besoin d’argent. La mère était prête à payer. Elle n’a hésité que pour une seule raison : le montant était inhabituellement élevé pour un accident. Ce petit doute a sauvé l’argent.
La fille n’avait jamais appelé. Sa voix avait été clonée à partir de vidéos qu’elle avait publiées sur Instagram. Pendant des jours, la mère est restée bouleversée. Elle avait entendu son propre enfant, et ne parvenait pas à croire que l’appel était entièrement fabriqué.
Les deux affaires ont le même point faible. L’e-mail paraissait authentique, et la voix sonnait juste. Ni l’un ni l’autre ne prouvait qui se trouvait à l’autre bout. Et aucune des deux ne s’est produite en visioconférence : l’une est arrivée par e-mail, l’autre par téléphone. Une vérification qui ne fonctionne que dans les réunions en ligne n’aurait protégé personne ici.
Ce problème n’existait pas avant l’IA
La fraude est ancienne. Ce qui est nouveau, c’est le prix. Il y a quelques années encore, imiter la voix d’une personne précise assez bien pour tromper sa propre mère n’était pas quelque chose qu’un criminel pouvait acheter. Aujourd’hui, un court enregistrement et un outil commercial suffisent. Il en va de même pour les visioconférences : en 2024, un employé du cabinet d’ingénierie Arup à Hong Kong a transféré environ 25 millions de dollars US après une visioconférence dans laquelle tous les autres participants, directeur financier compris, étaient des deepfakes.
C’est donc un problème que l’IA a créé. La réaction évidente consiste à le combattre avec plus d’IA : un logiciel de détection qui écoute un appel et estime si la voix est synthétique. Je comprends l’idée, mais je ne m’y fie pas. Un détecteur donne une probabilité, et il affronte des générateurs qui progressent chaque mois. Chaque amélioration du détecteur sert de matériel d’entraînement au générateur suivant. Et les humains ne font pas mieux : dans une étude publiée dans PLOS ONE en 2023, les auditeurs n’ont reconnu la parole synthétique que dans 73 % des cas, et l’entraînement n’y a presque rien changé.
Les mots de code sont plus anciens que les ordinateurs
La réponse que j’ai trouvée est ancienne. Les armées utilisent des mots de passe depuis qu’il existe des sentinelles. Le jour J, en 1944, les parachutistes alliés en Normandie se reconnaissaient dans l’obscurité par un mot d’appel et un mot de réponse : l’un lançait « Flash » (éclair), l’autre répondait « Thunder » (tonnerre). Beaucoup de familles conviennent d’un mot de code pour les urgences, pour la même raison.
Un mot de code fonctionne parce qu’il ne dépend pas de ce que l’on voit ou entend. Il dépend de ce que l’autre sait. Une voix clonée peut tout dire, sauf le mot qu’on ne lui a jamais donné.
Le mot de code familial a toutefois des faiblesses. Il ne change jamais : une fois surpris ou écrit dans une conversation, il est grillé. Personne ne pense à en choisir un nouveau. Et il ne couvre que la famille, pas le collègue qui demande un virement ni le fournisseur aux nouvelles coordonnées bancaires.
Ce que fait Trusted Codes
Trusted Codes garde le principe et supprime ces faiblesses. Deux personnes, ou une équipe, se connectent une fois. Ensuite, leurs téléphones affichent tous les mêmes trois mots, qui changent à intervalle fixe. Quand un appel, un message ou un e-mail demande quelque chose d’inhabituel, vous demandez : « Quel est notre code ? » Si les mots correspondent, c’est bien la personne avec qui vous êtes connecté. Sinon, vous raccrochez.
L’essentiel tient à la façon dont les mots sont produits. Cette étape ne fait intervenir aucune IA. Un secret partagé et l’heure actuelle entrent dans un algorithme standard et documenté publiquement (TOTP, celui qu’utilisent les applications d’authentification), et trois mots en sortent. Le résultat est déterministe : le même secret et la même heure donnent toujours les mêmes mots, sur chaque appareil. Rien n’est estimé, rien n’est probable ou improbable. Les mots correspondent, ou non.
C’est voulu. Une vérification contre la fraude par IA ne doit pas dépendre d’un modèle que l’attaquant peut étudier, imiter ou dépasser à l’entraînement. Elle doit dépendre d’un secret que l’attaquant n’a pas.
Construit avec l’IA, par quelqu’un qui n’écrit pas de code
Vient maintenant la partie qui peut sembler contradictoire. J’ai construit Trusted Codes avec l’IA.
Quand j’ai décidé d’agir contre ces arnaques, j’aurais pu rédiger un concept et chercher une équipe de développement. J’ai préféré apprendre à travailler avec un agent de programmation IA, Claude Code, et je l’utilise à chaque étape du produit, pas seulement pour écrire du code.
Nous commençons par la stratégie : quelles arnaques peuvent être arrêtées par quel type de vérification, et à quoi doit ressembler la solution. Puis la conception : ce que voit l’utilisateur, comment fonctionne une invitation, ce qui se passe quand un téléphone est perdu. Puis l’implémentation, puis les tests, puis la vérification et la documentation. Une grande partie du travail consiste à attaquer notre propre produit. Je demande à l’IA de s’introduire dans le code qu’elle a écrit, de trouver le point faible avant un criminel, et de prouver chaque affirmation de sécurité sur le code avant que nous la rendions publique.
Le résultat est un logiciel d’entreprise complet : applications mobiles, application de bureau, serveur, portails pour les entreprises et les administrateurs. Chaque ligne a été écrite par l’IA. Chaque décision sur ce qu’il doit faire, et sur ce qu’il ne doit jamais faire, a été prise par une personne qui sait comment un logiciel d’entreprise s’achète, se déploie et s’exploite, et qui avait vu ce que ces arnaques font aux gens.
Je n’y vois pas de contradiction. L’IA est un outil. Les criminels s’en servent pour imiter des voix. Je m’en sers pour construire quelque chose qui rend les voix imitées inutiles. La différence tient à sa place : l’IA a écrit le logiciel, mais au moment de vérité, quand vous devez savoir si la personne au téléphone est réelle, aucune IA n’intervient. (L’application a bien un assistant qui vous aide à vous y retrouver. Il ne joue aucun rôle dans la vérification.)
Ce que cela signifie pour vous
Vous n’avez pas besoin de Trusted Codes pour commencer. Convenez dès aujourd’hui d’un mot de code avec votre famille. Dites à vos parents qu’un appel de votre part pour demander de l’argent, avec votre voix, ne prouve pas que c’est vous.
Si vous dirigez une entreprise, regardez comment une demande de paiement est confirmée. Si la réponse est « l’e-mail venait de la bonne adresse » ou « la voix ressemblait à celle du PDG », c’est le même point faible qui a coûté près de 100 000 € à l’entreprise de ma femme. Trusted Codes rend le mot de code utilisable en entreprise : il change tout seul, il fonctionne au téléphone, en visioconférence et dans les messageries, et avec les offres Business, les administrateurs voient qui a vérifié qui, et quand.
Sources
- Visioconférence deepfake chez Arup, Hong Kong, 2024 : AI Incident Database, incident 634
- Mai, K. T. et al., « Warning: Humans cannot reliably detect speech deepfakes », PLOS ONE, 2 août 2023 : journals.plos.org
- TOTP : RFC 6238