Catégories
Art et photographie

Cet algorithme de «  dissimulation '' rompt la reconnaissance faciale en apportant de minuscules modifications

Une équipe de chercheurs de l'Université de Chicago a développé un algorithme qui apporte de minuscules modifications imperceptibles à vos images afin de vous masquer de la technologie de reconnaissance faciale. Leur invention s'appelle Fawkes, et n'importe qui peut l'utiliser gratuitement sur ses propres images.

L'algorithme a été créé par des chercheurs du laboratoire SAND de l'Université de Chicago, et l'outil logiciel open source qu'ils ont construit est gratuit à télécharger et à utiliser sur votre ordinateur à la maison.

Le programme fonctionne en effectuant «de minuscules changements au niveau des pixels qui sont invisibles à l'œil humain», mais qui empêchent néanmoins les algorithmes de reconnaissance faciale de vous catégoriser correctement. Ce n’est pas tant que cela vous rend impossible de catégoriser; c'est que l'algorithme vous catégorisera entièrement comme une personne différente. L'équipe appelle le résultat les photos «masquées» et elles peuvent être utilisées comme n'importe quelle autre:

Vous pouvez ensuite utiliser ces photos «masquées» comme vous le feriez normalement, les partager sur les réseaux sociaux, les envoyer à des amis, les imprimer ou les afficher sur des appareils numériques, comme vous le feriez pour n'importe quelle autre photo.

La seule différence est qu’une entreprise comme la tristement célèbre startup Clearview AI ne peut pas les utiliser pour créer une base de données précise qui vous rendra traçable.

Voici un avant-après que l'équipe a créé pour montrer le camouflage au travail. A gauche se trouve l'image originale, à droite une version «masquée». Les différences sont perceptibles si vous regardez de près, mais elles ressemblent au résultat de l'esquive et de la gravure plutôt que de modifications réelles qui pourraient changer votre apparence:

Vous pouvez regarder une explication et une démonstration de Fawkes par les co-auteurs principaux Emily Wenger et Shawn Shan ci-dessous:

Selon l'équipe, Fawkes a prouvé 100% efficace par rapport aux modèles de reconnaissance faciale de pointe. Bien sûr, cela ne rendra pas les modèles de reconnaissance faciale obsolètes du jour au lendemain, mais si une technologie comme celle-ci devenait «standard» lorsque, par exemple, le téléchargement d'une image sur les médias sociaux, cela rendrait la maintenance de modèles précis beaucoup plus lourde et coûteuse.

«Fawkes est conçu pour augmenter considérablement les coûts de construction et de maintenance de modèles précis pour la reconnaissance faciale à grande échelle», explique l'équipe. «Si nous pouvions réduire la précision de ces modèles pour les rendre non fiables, ou forcer les propriétaires du modèle à payer des coûts par personne importants pour maintenir la précision, alors nous aurions largement réussi.»

Pour en savoir plus sur cette technologie, ou si vous souhaitez télécharger la version 0.3 et l'essayer sur vos propres photos, rendez-vous sur la page Web Fawkes. L'équipe présentera (virtuellement) son article technique au prochain USENIX Security Symposium qui se déroulera du 12 au 14 août.

(via Fstoppers via Gizmodo)

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *