Synacktiv, cabinet spécialisé en cybersécurité offensive, vient de porter un coup dur à la crédibilité des dispositifs de « preuve de vie » utilisés en ligne.

Dans une récente étude, les chercheurs Kevin Tellier et Léo Desmonts montrent qu’il est possible de duper, à l’aide de modèles d’IA générative vidéo accessibles au grand public, les mécanismes automatisés censés garantir qu’un utilisateur répond aux critères d’âge requis pour accéder à certains contenus.

Pour illustrer la faille, les chercheurs ont choisi un cas d’usage sensible : la vérification d’âge sur un site vidéo pour adultes. Cette catégorie est soumise, depuis la loi française du 21 mai 2024, à l’obligation de contrôler l’âge de ses visiteurs sous peine de blocage par l’Arcom.

Le site testé s’appuyait sur le service britannique AgeGo, lequel délègue lui-même l’analyse biométrique à AWS Rekognition, la brique de reconnaissance faciale de l’hyperscaler largement utilisée pour ses fonctions de détection de « liveness » (vivacité).

Le principe du contrôle est simple en apparence : l’utilisateur doit filmer son visage avec sa webcam et suivre un « challenge » ( par exemple bouger la tête d’avant en arrière ) pour prouver qu’il s’agit bien d’une personne réelle et non d’une photo ou d’une vidéo préenregistrée.

C’est précisément ce verrou que les chercheurs de Synacktiv ont réussi à faire sauter. En s’appuyant sur un pilote Linux (v4l2loopback) permettant de créer une fausse webcam virtuelle, ils ont substitué à leur propre visage une vidéo générée par intelligence artificielle, produite à partir d’une simple photo d’identité et « vieillie » artificiellement à l’aide d’un modèle d’IA pour paraître majeure.

Le tout combiné à un modèle vidéo génératif capable d’animer cette image de référence,  reproduisant fidèlement les mouvements de tête demandés par le challenge. Résultat : la vérification a été validée par l’algorithme, ouvrant l’accès au site.

Des outils d’IA vidéo très efficaces

Ce qui frappe dans la démonstration, c’est l’accessibilité des moyens employés.

Les chercheurs ont utilisé des modèles open source comme Wan2.2 Animate (développé par  Alibaba) ou des solutions cloud comme Kling, opérées via l’interface ComfyUI. Un simple serveur équipé d’une carte graphique grand public a suffi pour générer, en quelques minutes, des vidéos suffisamment réalistes pour passer les contrôles.

Contrairement aux deepfakes « classiques » par échange de visage (face-swapping) qui nécessitent un entraînement long et laissent souvent des artefacts visibles (contours, déformations), ces nouveaux modèles génératifs animent directement une image de référence à partir d’un masque de mouvement extrait d’une vidéo source. Sans étape d’entraînement préalable et avec un rendu bien plus convaincant.

Certes, tout n’est pas parfait. Les chercheurs notent que les mouvements des yeux et de la bouche restent parfois imparfaits. Mais dans le cas testé, la vérification purement algorithmique n’a pas résisté.

Pour des raisons évidentes de légalité, la démonstration s’est concentrée sur un site pour adultes

Cependant, ces technologies de vérification biométrique par vidéo sous-tendent aujourd’hui l’identité numérique, l’ouverture de comptes bancaires en ligne, la signature électronique ou encore les dispositifs de lutte contre la fraude et le blanchiment d’argent (LCB-FT).

Un enjeu qui dépasse les sites pour adultes

En France, c’est le référentiel PVID (Prestataire de Vérification d’Identité à Distance) de l’Anssi qui encadre ces usages les plus sensibles en clôturant avec le règlement européen eIDAS.

Ce cadre distingue un niveau « substantiel », déjà appliqué par quatre opérateurs certifiés (Docaposte IOT, IDnow, NjF Vision, Namirial), et un niveau « élevé », réservé aux actes les plus engageants comme la signature électronique qualifiée.

Les chercheurs soulignent d’ailleurs que la vérification humaine, censée constituer un dernier rempart en cas de doute, n’est pas infaillible non plus.

Fatigue des opérateurs, biais cognitifs, cadence de traitement élevée dans les centres de vérification… autant de facteurs qui peuvent laisser passer une vidéo truquée. D’autant plus que le réalisme des deepfakes récents peut tromper un œil non spécialiste, en particulier lorsque la qualité de l’image est dégradée.

Synacktiv appelle à une adaptation rapide des méthodes de détection.

Les référentiels comme le PVID sont réguliers dans leur mise à jour, l’Anssi intégrant les nouvelles menaces identifiées lors des audits.

Mais l’étude suggère que la parade pourrait, paradoxalement, devoir venir de l’IA elle-même.
Les chercheurs évoquent la piste de systèmes de détection eux-mêmes fondés sur des modèles génératifs capables de repérer les artefacts invisibles à l’œil humain. Ou le recours accru à des services d’identité numérique tiers comme Yoti.

En attendant, la démonstration de Synacktiv rappelle une réalité inconfortable pour l’ensemble des acteurs du numérique. A mesure que l’IA générative gagne en réalisme, la confiance accordée à une vidéo, pierre angulaire de nombreux dispositifs de sécurité, devient elle-même une vulnérabilité.

Image : © Synacktiv

The post Vérification d’identité : quand l’IA générative passe entre les mailles appeared first on Silicon.fr.