Dans quelle mesure dois-je changer de visage pour éviter la reconnaissance faciale ?

Nos données biométriques sont librement accessibles accessible à toute personne possédant un modèle IA et une caméra. Les logiciels de reconnaissance faciale sont une technologie tellement répandue que nous soumettons nos données à chaque fois que nous y allons via la sécurité de l'aéroport ou entrer dans une pharmacie. Vous commencez à vous demander s’il est possible de masquer les traits de notre visage ou, à l’extrême, de modifier notre apparence à un point tel que cela trompe l’algorithme de l’IA.

Ne pourriez-vous pas simplement porter un masque N95, une écharpe et des lunettes de soleil pour esquiver Big Brother ? Jusqu’à présent, la meilleure façon d’éviter d’être détecté par la reconnaissance faciale est d’éviter les caméras. Mais cette tâche pourrait bientôt devenir presque impossible. Les experts en matière de confidentialité préviennent que nous sommes peut-être déjà du côté des perdants dans la protection de nos données biométriques. Bientôt, la seule véritable défense pourrait être la réglementation fédérale.

Cynthia Rudin

Gilbert, Louis et Edward Lehrman, professeur émérite d'informatique ; Départements d'informatique, de génie électrique et informatique, de sciences statistiques, de mathématiques et de biostatistique et bioinformatique ; Université Duke

Je pense qu’il n’est pas réaliste de changer de visage pour tromper la reconnaissance faciale de pointe. Je pense que pendant la pandémie, ils ont modifié les systèmes pour qu'ils s'appuient fortement sur la forme des yeux des gens, car de nombreuses personnes portaient des masques sur le nez et la bouche. Honnêtement, je ne sais pas comment les gens pourraient changer de manière réaliste la forme de leurs yeux pour tromper ces systèmes. Si vous portiez des lunettes de soleil et que vous faisiez ensuite quelque chose sur votre visage (peut-être porter un masque ou un maquillage dramatique), il serait alors plus difficile de détecter votre visage, mais c'est tricher sur la question – cela ne change pas votre visage, c'est juste le cacher !

Mais disons que vous avez fait quelque chose de dramatique pour changer votre visage – quelque chose de vraiment, vraiment dramatique – afin qu'un système de reconnaissance faciale ne vous reconnaisse pas. Ce serait peut-être une sorte de chirurgie plastique. Eh bien, et alors ? Dès que votre visage apparaît sur Internet avec votre nom (pensez à un ami qui vous identifie sur les réseaux sociaux ou à vous qui donnez une conférence qui apparaît en ligne), alors tous les systèmes de reconnaissance faciale qui recherchent des personnes sur Internet seront en mesure de le faire. t'identifier quand même.

Et maintenant, votre visage ne correspondra plus à votre permis de conduire ou à votre passeport, donc voyager sera vraiment difficile pour vous. Alors franchement, pourquoi s’embêter ? Quoi qu'il en soit, je suis heureux que vous ayez posé cette question, car elle montre à quel point il est futile d'empêcher d'autres personnes de capturer nos données biométriques. Demander à nos gouvernements de créer des lois pour nous protéger est bien plus facile que de changer radicalement de visage à tout moment.

Walter Scheerer

Dennis O. Doughty, professeur collégial d'ingénierie ; Département d'informatique et d'ingénierie ; Université de Notre-Dame

La réponse à la question de savoir dans quelle mesure il faut modifier son apparence pour éviter la reconnaissance faciale dépend de la manière dont l’algorithme de reconnaissance faciale est utilisé. En biométrie humaine, il existe deux modes courants de mise en correspondance des identités : 1 pour 1 et 1 pour plusieurs. En mode 1-to-1, une vérification est effectuée que l'identité revendiquée de la personne devant la caméra correspond à une photo de cette identité précédemment enregistrée dans la base de données du système. Ce scénario est courant depuis de nombreuses années pour l'authentification informatique de haute sécurité et les enquêtes policières, mais il est désormais courant dans d'autres contextes destinés aux consommateurs, comme l'embarquement sur un vol international à l'aéroport. En mode 1-à-plusieurs, une photo d'un sujet inconnu est comparée à un ensemble de photos d'identités d'intérêt préalablement enregistrées. Ce mode est fréquemment utilisé dans les contextes de surveillance vidéo, notamment dans les opérations de maintien de l'ordre et de renseignement gouvernemental.

Il est très difficile d'échapper au mode 1 pour 1 dans un environnement contrôlé (par exemple, dans une salle de réservation de la prison locale). Des progrès majeurs ont été réalisés dans les algorithmes de reconnaissance faciale grâce à l’utilisation de réseaux neuronaux artificiels sophistiqués, qui atteignent des précisions de correspondance remarquablement élevées sur un large éventail d’apparences pour un seul individu. Si la photo acquise a une pose frontale, avec une expression neutre, un bon éclairage et un arrière-plan contrôlé, les techniques d'évasion de base telles que les cosmétiques, l'ajout/la suppression de poils sur le visage, le changement de coiffure, etc., ne fonctionneront pas. Des recherches récentes ont examiné l'impact de la chirurgie plastique sur la reconnaissance des visages, et même si des modifications drastiques et inesthétiques de la structure du visage peuvent fonctionner dans une certaine mesure, les procédures cosmétiques plus courantes n'ont pas un impact aussi important qu'on pourrait le penser.

Éviter le mode 1-à-plusieurs dans un contexte de surveillance non contrôlée est un peu plus facile : il n'est pas nécessaire de recourir à des mesures chirurgicales. Même les meilleurs réseaux de neurones ont du mal à gérer des photos de mauvaise qualité dépourvues de pixels riches en informations sur le visage humain, en particulier lorsqu'elles sont comparées à une longue liste d'identités potentielles. Ainsi, la première étape consiste à refuser à l’algorithme ces pixels en occultant le visage. Couvrez-vous le visage dans les cas où cela n'est pas suspect, par exemple portez un foulard en hiver et des lunettes de soleil par beau temps. Les chapeaux à larges bords sont également une source de confusion, car ils peuvent cacher le front et les cheveux et projeter une ombre sur le visage. Tenir une main sur le visage est également bon pour cela. La deuxième étape consiste à regarder vers le bas lorsque vous êtes en mouvement afin qu'aucune caméra à proximité ne capture une bonne image frontale du visage. Troisièmement, si l'on peut se déplacer rapidement, cela pourrait provoquer un flou de mouvement sur la photo capturée : pensez à faire du jogging ou à faire du vélo.

Mon meilleur conseil pratique pour l’évasion : sachez où la reconnaissance faciale est déployée et évitez simplement ces zones. La durée pendant laquelle ces conseils resteront utiles dépendra de l’ampleur de la diffusion de la technologie dans les années à venir.

Les algorithmes d'aujourd'hui sont plutôt tolérants aux changements subtils de l'apparence du visage, qu'ils soient innocents (par exemple, acné, léger gonflement) ou non (par exemple, botox).

Xiaoming Liu

Professeur doté Anil K. et Nandita K. Jain ; Informatique et ingénierie (CSE), Collège d'ingénierie ; Université d'État du Michigan

Tout d'abord, ma définition de « éviter la reconnaissance faciale » signifie qu'un système de reconnaissance faciale (FRS) ne parvient pas à reconnaître le visage d'un sujet lorsque celui-ci est capturé par un appareil photo.

Il existe plusieurs façons de faire échouer « de manière proactive » un FRS :

1. Attaques physiques adverses. La plupart des modèles d'IA sont vulnérables aux attaques contradictoires, c'est-à-dire qu'une modification mineure de l'échantillon de données d'entrée peut complètement faire échouer un système d'IA. La même chose s'applique à FRS. La clé ici est d'apprendre une « modification mineure » spécifique afin qu'une telle modification puisse échouer FRS. Par exemple, La CMU a un journal sur la conception de lunettes spéciales qui peuvent échouer à un FRS. Vous pourriez imaginer que quelqu'un puisse suivre une idée similaire pour concevoir un foulard, un masque facial ou même une moustache qui peuvent également échouer au FRS.

2. Vous pouvez également modifier de manière proactive l'apparence de votre visage afin que FRS vous reconnaisse comme quelqu'un d'autre. Une méthode courante consiste à se maquiller. Cependant, il est difficile de répondre à la question de savoir où et quelle quantité de maquillage je dois appliquer pour pouvoir échouer au FRS. La réponse dépend beaucoup du sujet. La raison en est que l'apparence du visage de certaines personnes est plus courante et plus similaire à celle d'autres personnes. Une modification relativement mineure du maquillage pourrait donc suffire à la reconnaître à tort comme quelqu'un d'autre. En revanche, si l’apparence du visage d’une personne est tout à fait unique, de nombreuses modifications supplémentaires du maquillage seraient alors nécessaires. Une application intéressante pourrait être la suivante : une application interactive pour smartphone regarde mon visage via l'appareil photo du téléphone, me dit où je dois commencer à me maquiller et me donne de manière itérative des instructions sur où et peut-être quelle couleur de maquillage afin que je puisse être mal reconnu par FRS avec un maquillage minimal. Outre le maquillage, on peut également utiliser un masque facial coûteux, ce qui est peut-être plus courant dans les films hollywoodiens.

Comme vous pouvez le constater, la probabilité d’échec du FRS est également corrélée à la quantité d’efforts déployés par le sujet. L'approche 1 est plus simple pour les utilisateurs, mais pas très fiable, surtout quand on aime concevoir une attaque adverse « universelle », comme un seul verre pour tout le monde. L'approche 2 est plus personnalisée et fonctionne mieux, mais nécessite plus d'efforts.

Kevin W. Bowyer

Professeur familial Schubmehl-Prein d'informatique et d'ingénierie ; Université de Notre-Dame

La réponse est : « ça dépend ». Cela dépend (au moins) de l'algorithme de correspondance de visage utilisé et du seuil utilisé avec cet algorithme.

Pour mieux comprendre, commencez par le fait que la reconnaissance faciale consiste à comparer deux images et à décider si les visages dans les images sont (a) suffisamment similaires pour qu'ils doivent être la même personne, ou (b) suffisamment différents pour qu'ils doivent provenir. des personnes différentes.

Chaque algorithme de reconnaissance faciale est une méthode particulière de calcul d'un « vecteur de caractéristiques » (généralement appelé « intégration » de nos jours) à partir d'une image d'un visage, et une méthode de comparaison de deux vecteurs de caractéristiques pour donner une valeur sur leur similitude. Une image de visage unique peut être réduite à une liste de 512 nombres (le « vecteur de caractéristiques » ou « intégration ».) Les vecteurs de caractéristiques de deux images de visage peuvent être comparés et donner un résultat de similarité entre 0 et 100, ou entre -1 et +1. Le 100 ou le +1 n'obtiendraient que si vous compariez deux copies de la même image ; ce serait un résultat inhabituel à voir dans la pratique.

Imaginez que nous utilisons un algorithme de reconnaissance faciale de pointe et que nous utilisons une valeur de similarité comprise entre -1 et +1. Les valeurs de similarité pour les comparaisons entre toutes sortes de paires d'images de différentes personnes peuvent être centrées autour de 0,0 ou légèrement au-dessus. Les valeurs de similarité pour les comparaisons entre toutes sortes de paires d’images de la même personne peuvent être centrées autour de 0,8 ou légèrement au-dessus. Si l'acquisition d'images pour l'application est bien contrôlée, peut-être comme une photo de permis de conduire, alors la valeur moyenne de similarité de deux images de la même personne sera plus élevée. Si l’acquisition d’images est moins bien contrôlée, peut-être comme les images prises à partir d’images vidéo lorsque les gens entrent dans un magasin, alors la valeur moyenne de similarité pour deux images de la même personne sera plus faible.

Quelqu'un décidera d'une valeur seuil à utiliser pour la reconnaissance. Si la valeur 0,7 est sélectionnée comme seuil, alors lorsque deux images sont comparées et que leur similarité est inférieure à 0,7, le système dit qu'il doit s'agir d'images de personnes différentes. Si la valeur est égale ou supérieure à 0,7, le système indique qu'il doit s'agir d'images de la même personne.

À ce stade, nous pouvons voir que la question initiale : « Dans quelle mesure dois-je modifier mon apparence pour éviter la reconnaissance faciale ? peut être reformulé en « Quelles sont les meilleures choses à faire pour réduire la valeur de similarité de ma nouvelle image lorsqu'elle est comparée à mon ancienne image ? »

Il y a beaucoup de choses que vous pourriez faire. Vous pouvez mettre des lunettes de soleil foncées et changer de coiffure tout en gardant un aspect naturel. Vous pourriez avoir une expression faciale exagérée, mais cela ne semblera probablement pas naturel. Vous pourriez éviter de regarder directement l’appareil photo, afin que la nouvelle photo soit hors angle. Plus radicalement, vous pourriez prendre ou perdre du poids. Ou vous pouvez appliquer des produits cosmétiques pour « changer de look ». Aucune de ces choses ne peut garantir que vous ne correspondrez pas à votre ancienne photo. Vous ne savez pas forcément quelle ancienne photo de vous sera utilisée pour comparer avec votre nouvelle photo, ni quel algorithme sera utilisé, ni quel seuil sera utilisé. Si vous saviez toutes ces choses, vous pourriez expérimenter l’approche la plus efficace à adopter.