L'outil de camouflage d'image déjoue les programmes de reconnaissance faciale

Crédit: Université de Chicago

Les chercheurs de l’Université de Chicago n’étaient pas satisfaits de l’érosion rampante de la vie privée posée par les applications de reconnaissance faciale. Alors ils ont fait quelque chose à ce sujet.

Ils ont développé un programme qui aide les individus à repousser les programmes qui pourraient s’approprier leurs images sans leur permission et les identifier dans d’énormes pools de bases de données.

Fawkes, du nom de l’anarchiste fictif qui portait un masque dans la bande dessinée et le film “V for Vendetta”, apporte des modifications subtiles au niveau des pixels sur des images qui, bien qu’invisibles à l’œil nu, déforment suffisamment l’image pour qu’elle ne puisse pas être utilisée par grattoirs d’images en ligne.

“Ce que nous faisons, c’est utiliser la photo masquée essentiellement comme un cheval de Troie, pour corrompre des modèles non autorisés afin d’apprendre la mauvaise chose sur ce qui vous fait ressembler à vous et pas à quelqu’un d’autre”, co-créateur de Fawkes Ben Zhao, professeur d’informatique à l’Université de Chicago, a déclaré. “Une fois que la corruption se produit, vous êtes continuellement protégé, peu importe où vous allez ou où vous êtes vu.”

L’avènement de la technologie de reconnaissance faciale a entraîné la promesse de grands avantages pour la société. Il nous a aidés à protéger nos données et à déverrouiller nos téléphones, à organiser nos immenses collections de photos en faisant correspondre les noms avec des visages, à rendre les voyages aériens plus tolérables en réduisant l’attente à l’enregistrement des billets et des bagages et en aidant les malvoyants à reconnaître les réactions faciales dans les situations sociales. avec les autres.

Il existe des avantages évidents pour les forces de l’ordre qui utilisent la reconnaissance faciale pour détecter et attraper les mauvais acteurs, suivre les transactions aux guichets automatiques et retrouver les enfants disparus.

Il aide également les entreprises à lutter contre les vols, à suivre la fréquentation scolaire des élèves et, en Chine, à permettre aux clients de laisser leurs cartes de crédit et de payer leurs repas avec le sourire. Et le National Human Genome Research Institute utilise même la reconnaissance faciale avec un taux de réussite de près de 100% pour identifier les symptômes d’une maladie rare qui se révèle dans les changements du visage.

Mais les inquiétudes abondent également. Avec peu de réglementations fédérales guidant l’utilisation d’une technologie aussi invasive, les abus sont inévitables. Le FBI a compilé une base de données dépassant 412 millions de personnes. Certains, bien sûr, sont des criminels. Mais pas tout. La notion d’une population de plus en plus surveillée suggère à beaucoup la lente érosion de notre vie privée et, avec elle, peut-être de nos libertés et droits. Une société de plus en plus scrutée sous l’œil vigilant de Big Brother évoque des images de sociétés totalitaires, imaginées, comme en «1984», et réelles, comme en Corée du Nord.

Des préoccupations ont été soulevées concernant les conséquences d’une identification erronée, en particulier dans les situations impliquant des crimes graves, ainsi que la capacité d’abus lorsque des gouvernements corrompus ou des agents de police malhonnêtes ont de tels outils à portée de main. En outre, les programmes de reconnaissance faciale peuvent parfois être erronés. Des études récentes troublantes ont révélé que les programmes de reconnaissance avaient des problèmes particuliers pour identifier correctement les femmes de couleur.

Plus tôt cette année, le New York Times a rendu compte de l’activité controversée de Clearview AI, une application qui prétend avoir compilé une base de données de plus de 3 milliards d’images à partir de sources telles que Facebook, YouTube et Venmo. Tout cela a été fait sans l’autorisation des sujets. Liés à une paire de lunettes de réalité augmentée, les membres des forces de l’ordre et de sécurité équipés d’IA Clearview peuvent marcher dans la rue et identifier toute personne qu’ils voient, ainsi que leurs noms, adresses et autres informations vitales.

L'outil de camouflage d'image déjoue les programmes de reconnaissance faciale

Crédit: Université de Chicago

L’outil peut certainement être utilisé pour de bon. Selon le Times, les responsables de l’application des lois fédérales et des États affirment que l’application a aidé à résoudre des cas de meurtres, de vol à l’étalage, de vol d’identité, de fraude par carte de crédit et d’exploitation sexuelle d’enfants.

Mais il y a aussi un potentiel d’abus.

Eric Goldman, codirecteur du High Tech Law Institute de l’Université de Santa Clara, a déclaré au Times: “Les possibilités de militarisation sont infinies. Imaginez un policier voyou qui veut traquer des partenaires romantiques potentiels, ou un gouvernement étranger utilisant cela pour déterrer des secrets sur les gens pour les faire chanter ou les jeter en prison. “

Les chercheurs affirment que Fawkes a perplexe les systèmes de reconnaissance faciale généralement bénins utilisés par Facebook, Microsoft et Amazon. Bien que Fawkes puisse également contrecarrer la reconnaissance Clearview AI, ses développeurs disent qu’ils n’étaient même pas au courant du programme lorsqu’ils ont commencé leurs recherches.

«Notre objectif initial était de servir de mesure préventive pour que les internautes se vaccinent contre la possibilité d’un modèle tiers non autorisé», a récemment déclaré l’équipe dans une fiche FAQ. «Imaginez notre surprise lorsque nous avons appris trois mois après le début de notre projet que de telles entreprises existaient déjà et avaient déjà construit un modèle puissant formé à partir d’énormes quantités de photos en ligne. Nous pensons que Clearview AI n’est probablement que le (plutôt gros) conseil de l’iceberg. “

Les développeurs ont clairement défini comment ils mesurent le succès: “Si nous pouvions réduire la précision de ces modèles pour les rendre non fiables, ou forcer les propriétaires du modèle à payer des coûts par personne importants pour maintenir la précision, alors nous aurions largement réussi.”


Le Royaume-Uni et l’Australie enquêtent sur la société de reconnaissance faciale Clearview


Plus d’information:
sandlab.cs.uchicago.edu/fawkes/

Fawkes: Protéger la confidentialité contre les modèles d’apprentissage profond non autorisés, arXiv: 2002.08327 [cs.CR] arxiv.org/abs/2002.08327

© 2020 Réseau Science X

Citation:
L’outil de camouflage d’image contrecarre les programmes de reconnaissance faciale (5 août 2020)
récupéré le 6 août 2020
depuis https://techxplore.com/news/2020-08-image-cloaking-tool-thwarts-facial.html

Ce document est soumis au droit d’auteur. En dehors de toute utilisation équitable à des fins d’étude ou de recherche privées, aucune
une partie peut être reproduite sans autorisation écrite. Le contenu est fourni seulement pour information.