Comment voir la réflexion du monde à partir d’un sac de jetons

Cependant, certains experts avertissent que les futures versions de la technologie sont mûres pour des abus. Par exemple, cela pourrait permettre aux harceleurs ou aux agresseurs d’enfants, explique l’éthicien Jacob Metcalf de Data & Society, un centre de recherche à but non lucratif qui se concentre sur les implications sociales des technologies émergentes. Un harceleur pourrait télécharger des images d’Instagram sans le consentement des créateurs, et si ces images contenaient des surfaces brillantes, il pourrait déployer l’algorithme pour essayer de reconstruire leur environnement et déduire des informations privées sur cette personne. “Vous feriez mieux de croire qu’il y a beaucoup de gens qui utiliseront un package Python pour gratter des photos d’Instagram”, explique Metcalf. “Ils pourraient trouver une photo d’une célébrité ou d’un enfant qui a une surface réfléchissante et essayer de faire quelque chose.”

Park souligne que les images Instagram ne contiennent pas d’informations de profondeur 3D, dont son algorithme a besoin pour fonctionner. En outre, il dit que son équipe a envisagé une utilisation abusive potentielle, en particulier des violations de la vie privée telles que la surveillance, bien qu’ils ne discutent pas explicitement de ces considérations éthiques dans la version du document actuellement disponible. Parks dit que les plateformes d’images et de vidéos comme YouTube pourraient, à l’avenir, détecter automatiquement les surfaces réfléchissantes dans les vidéos, puis brouiller ou traiter l’image pour empêcher l’algorithme de reconstruction de fonctionner. «Les recherches futures pourraient permettre des caméras ou des logiciels préservant la confidentialité qui limitent ce qui peut être déduit de l’environnement à partir des réflexions», a écrit Park dans un e-mail à WIRED. Il dit également que l’algorithme n’est pas actuellement suffisamment précis pour représenter une menace.

Metcalf pense que Park et ses co-auteurs devraient énoncer ces considérations éthiques directement dans l’article. En fait, il pense que la communauté de la science des données dans son ensemble doit systématiquement inclure des sections éthiques dans ses publications. «Je veux être clair; ce n’est pas une critique de ces chercheurs en particulier, mais des normes de la science des données », explique Metcalf. “Les normes de la science des données en tant que discipline universitaire ne sont pas encore parvenues au fait que des articles comme celui-ci ont un impact potentiellement énorme sur le bien-être des gens.”

Ces discussions éthiques peuvent influencer l’orientation des recherches futures dans le domaine, explique Raji. “Certains chercheurs diront:” Cela ne veut rien dire si je déclare quelle est mon intention avec la recherche; les gens vont faire ce qu’ils vont faire », dit-elle. “Mais ce qu’ils ne réalisent pas, c’est que les déclarations éthiques façonnent souvent le développement du domaine lui-même.”

Dans une réponse par courrier électronique à WIRED, Park a écrit que l’équipe inclura une section éthique dans la version officielle du document publié en association avec la conférence, qui devrait avoir lieu en juin.

L’équipe de Park n’est pas la première à réaliser que l’emballage des collations peut être utilisé comme capteur. En 2014, Davis et ses collègues ont démontré que vous pouviez utiliser un sac de chips comme microphone. Ils ont joué un fichier MIDI de «Mary Had A Little Lamb» sur le sac à copeaux, et en traitant une vidéo à haute vitesse des vibrations du sac, ils ont pu jouer la chanson retour.

“Il y a une quantité surprenante d’informations dans les images d’objets du quotidien qui sont juste un peu assis là”, explique Davis. Avec les bons algorithmes, semble-t-il, tout léger bruissement ou reflet de lumière peut désormais raconter une histoire.


Plus de belles histoires WIRED