AccueilArchive

Des chercheurs ont conçu un filtre photo contre les systèmes de reconnaissance faciale

Des chercheurs ont conçu un filtre photo contre les systèmes de reconnaissance faciale

avatar

Par Thibault Prévost

Publié le

Pour protéger votre vie privée, une équipe de chercheurs a mis au point un filtre dynamique qui vise à contrer les tentatives de reconnaissance par IA.

À voir aussi sur Konbini

Si vous continuez de poster des photos de vous ou de vos proches sur les réseaux sociaux en 2018, il y a de fortes chances pour que vous soyez pleinement conscient (et, depuis le RGPD, pleinement consentant) que chacune d’entre elles est disséquée par un voire plusieurs algorithmes de reconnaissance faciale, qui permettent aux services d’hébergement de contenu d’entraîner leurs machines, d’identifier toujours plus précisément votre profil, vos activités et vos humeurs et de vous proposer des services et publicités en adéquation avec votre mood du moment.

Dans ce paradigme, ne restaient alors plus que deux solutions : continuer à poster des photos en acceptant de perdre toute notion d’intimité, ou protéger sa vie privée et cesser d’alimenter le grand Monopoly social d’Instagram, Facebook et consorts à grandes salves de selfies à la plage.

Choix évident pour certains mais cornélien pour beaucoup d’autres, tant l’impériosité du besoin de partage se fait sentir dès les premières secondes de navigation. Sois donc rassuré, utilisateur de réseaux sociaux schizophrène tiraillé entre défense de sa vie privée et recherche compulsive d’approbation de son existence par sa communauté en ligne : il existe désormais une solution.

Le 31 mai, TechXplore rapportait l’étude de deux chercheurs de l’université de Toronto, Avishek Bose et Parham Aarabi, qui ont mis au point le premier filtre photo numérique capable de perturber les algorithmes de reconnaissance faciale. Comment ? En utilisant une technique particulière, l’apprentissage antagoniste (adversarial training), dans lequel deux IA s’affrontent dans le cadre de la théorie des jeux.

Bose et Aarabi ont donc créé deux algorithmes, le premier ayant pour tâche d’identifier correctement les visages dans les photos, le second chargé de l’en empêcher. À mesure que le combat avance, “l’assaillant” va inventer de nouvelles tactiques, tandis que l’autre va adapter ses défenses pour le contrer.

Les données de l’algorithme de défense sont ensuite compilées pour former un filtre dynamique, capable de protéger vos photos non pas d’une mais d’un grand nombre de techniques de reconnaissance faciale en modifiant votre photo, quelques pixels à la fois, à chaque nouvelle tentative.

Si un système de reconnaissance faciale se base sur les yeux, le filtre les “brouillera” d’une manière invisible à l’œil humain ; s’il tente d’identifier la forme du visage, le filtre réagira en conséquence, etc. “Le système crée de légères perturbations dans la photo, suffisamment importantes pour tromper tout le système”, résume Bose à TechXplore.

Selon les chercheurs, le système de défense adaptatif aurait été testé sur la base de données 300-W, composée de plus de 600 types de visages dans des environnements et éclairages variés et considérée comme l’une des références dans l’industrie. Résultat : l’efficacité de l’algorithme de reconnaissance faciale serait passée de près de 100 % à… 0,5 %. Ou comment rendre aveugle une IA un peu trop curieuse.

Pour le moment, et comme vous le lisez malheureusement trop souvent dans les articles de science, le filtre en question n’est pas disponible au grand public. Une chose que les deux chercheurs comptent bien mettre en place, histoire de permettre à tout le monde de poster des pans entier de sa vie intime sur Internet sans servir de pâture aux data brokers.