Le #10yearschallenge : un défi juste pour le fun ou une façon détournée d’accumuler des données?

Dimanche matin, je consultais un peu machinalement mes médias sociaux lorsque j’ai vu défiler dans mon fil d’actualité Facebook et dans mes stories Instagram, des photos de mes contacts prises à 10 années d’intervalle dans le cadre du #10yearschallenge. Je trouve ça amusant. Mais en dedans de quelques secondes, mon esprit s’évade dans une tout autre direction. J’en viens à me demander comment toutes ces photos pourraient potentiellement générer des données pour entraîner des algorithmes de reconnaissance faciale sur le vieillissement de la population. Les jours avancent et je me rends compte que je ne suis pas la seule à m’être posé cette question.

Jusqu’à présent, rien ne nous pousse à croire que le hashtag relève d’une ingénierie sociale orchestrée dans le but d’amasser une base de données massive permettant à Facebook de peaufiner un algorithme capable de prédire comment les gens vieilliront dans l’avenir. Cependant, rien non plus ne nous pousse à croire qu’ils ne le feront pas. Le géant du numérique agit historiquement dans une opacité assez problématique, qui rend extrêmement difficile une surveillance quelconque de la part d’acteurs externes. Bref, si problème advient, tout porte à croire qu’on l’apprendra dans un scandale d’ici quelques années.

Au-delà de l’hypothétique, on sait plusieurs choses qui elles, ne sont pas forcément de bon augure.

Facebook possède parmi les meilleurs algorithmes de reconnaissance faciale au monde. La raison : elle possède l’une des plus grandes bases de données en la matière — quelques centaines de milliards de photos. En 2010, la compagnie a commencé à déployer ses algorithmes avec le soi-disant objectif d’enrichir l’expérience utilisateur en permettant à des individus d’être identifiés sans nécessairement être « taggués » dans une photo. [À noter que cette fonctionnalité n’est pas disponible au Canada et dans l’Union européenne puisqu’elle ne correspond pas aux standards juridiques en matière de protection de la vie privée.] En 2015, elle affirmait être capable d’identifier les individus même quand leur visage n’était pas visible; l’algorithme reconnaissait notamment la forme du visage et du corps de l’individu.

Aujourd’hui, les dirigeants refusent de communiquer des informations faisant état de la justesse de leurs systèmes de reconnaissance.

Ce manque de transparence est problématique en lui seul. Passer outre cela demanderait une grande confiance envers Facebook. Et avoir une grande confiance envers Facebook requerrait un peu d’amnésie, surtout en regard aux nombreux scandales qui ont alimenté la dernière année.

Ce n’est pas comme si Facebook n’avait JAMAIS permis à une application d’avoir accès à un très grand nombre de données sur ses utilisateurs (salut, Cambridge Analytica!)…

C’est vrai que Facebook détient assez de photos pour développer efficacement ses algorithmes. Par contre, pour consolider une base de données significative et pertinente quant au vieillissement de la population, il faudrait « enlever le bruit », c’est-à-dire les données non signifiantes et ça, ça demande beaucoup de temps, beaucoup d’argent et de ressources. Pour ce faire, il faudrait sans doute se fier aux métadonnées des photos publiées pour établir des corrélations temporelles.

Néanmoins, les métadonnées ne sont pas toujours exactes (on peut scanner des photos) et pourraient aisément invalider une base de données. Bref, une bonne qualité à avoir comme programmeur étant la paresse, l’opération s’avèrerait beaucoup plus efficace et exacte en utilisant simplement des photos assemblées par les utilisateurs eux-mêmes et identifiées au moyen d’un hashtag.

Une technologie ou un ensemble de connaissances ne sont pas problématiques de par leur seule existence. Effectivement, développer des algorithmes capables de prédire les traits d’un individu vieillissant, ce n’est pas forcément mauvais. Certains pourraient argumenter que de perfectionner les algorithmes à cet effet, serait même quelque chose d’utile pour aider à retrouver, par exemple, des personnes disparues. La question reste dans l’usage.

Cependant, les pratiques problématiques sont plus fréquentes que le contraire. Les algorithmes de reconnaissance faciale d’Amazon ont été utilisés par des départements de police afin de pouvoir identifier des individus d’intérêts. De manière plus anodine, mais un peu creep, on a aussi appris que Taylor Swift utilisait la reconnaissance faciale dans ses concerts pour mieux identifier ses stalkers.

Bref, les risques sont nombreux et vont des atteintes à la vie privée des individus, à des arrestations préventives dans le cadre de manifestations, à des pratiques de discrimination jusqu’à de fausses identifications pouvant découler en des arrestations et accusations. De plus, il faut se souvenir que le développement de telles technologies est particulièrement coûteux. Il devient donc important de se demander qui peut y avoir accès et à quelles fins? L’usage de telles technologies risque facilement de favoriser des groupes sociaux d’ores et déjà privilégiés. Ou encore à exacerber des disparités sociales.

Une partie du problème réside d’abord dans l’absence — ou, à tout le moins, l’inefficacité — des cadres juridiques capables de régir les usages possibles de la reconnaissance faciale. Cette absence de législation doublée de l’opacité des entreprises de Silicon Valley et de leur modèle d’affaires basé sur la collecte et la commercialisation de données personnelles me rend extrêmement inquiète. Principalement, parce que ça tend à une concentration de pouvoir économique et informationnel entre les mains d’une poignée de joueurs (on parle évidemment de Facebook, mais je cible aussi Google, Amazon, Apple et Microsoft qui ne sont pas vraiment mieux).

Bref, le problème, c’est d’avoir une confiance aveugle, comme société, envers Facebook et les autres géants du numérique. Publier ses photos du #10yearschallenge, ce n’est pas la fin du monde (j’ai shamé personne pour l’avoir fait — même pas en pensée), mais faut le faire en connaissance de cause.

Mais surtout, faut commencer à s’intéresser au pouvoir qu’ont ces compagnies sur nos vies et nos sociétés, et à avoir des vrais débats là-dessus.