Securitywatch: Facebook doit supprimer les annonces microtargetées maintenant | max eddy

Une des marques de ces dernières années a été de voir Facebook se hisser devant les pouvoirs en place et de le griller pour ses échecs. Les résultats sont parfois mitigés et nous ont trop souvent donné l’occasion de voir les responsables américains ne pas poser les bonnes questions à l’une des sociétés les plus puissantes de la planète. Les moments difficiles où le fondateur de Facebook, Mark Zuckerberg, a dû expliquer à une salle remplie de sénateurs que le fonctionnement de Facebook ne sera pas oublié de sitôt. Malgré cela, on a eu l’impression qu’il fallait compter pour le grand réseau social bleu alors qu’il trébuchait sans cesse sur des questions de confidentialité.

Le 20 mars 2019 a été le jour où Facebook a intenté un procès contre des groupes de défense des droits de la personne et a accepté de modifier le fonctionnement de ses publicités. Au moins, dans un sens très étroit. Ce pourrait être le plus grand moment à ce jour dans la réprimande de Facebook.

Facebook sait tout sur vous

L'affaire était centrée sur les annonces relatives au logement, aux produits liés au crédit et à l'emploi. En utilisant la plate-forme de Facebook, les entreprises pourraient exclure des groupes entiers qu'elles jugeraient indésirables. Ou, inversement, les groupes cibles avec des produits particulièrement prédateurs. C'est parce que Facebook, comme beaucoup d'autres entreprises, traite des données et trouve des moyens de mettre des publicités spécifiques devant des personnes spécifiques.

Toutes les informations que vous partagez explicitement, et certaines que Facebook divine de ce que vous publiez, sont utilisées pour vous placer dans différentes cases. Avez-vous des enfants? Êtes-vous riche? Quelle est votre origine ethnique? Facebook rassemble toutes ces informations et offre aux entreprises la possibilité de vous cibler avec des publicités spécifiques. Cela peut être aussi anodin que d'essayer de me vendre de la nourriture pour rats, pour mes merveilleux rats de compagnie, ou aussi insidieux que de faire passer des stratagèmes financiers prédateurs à des communautés marginalisées.

Si vous croyez que c'est une violation de la vie privée, vous n'avez pas tort. C’est également l’une des rares fois où une entreprise de technologie a décidé de tirer parti des données des utilisateurs avec non seulement de la résistance, mais aussi de réelles conséquences.

Petits changements, réticents

Le résultat est franchement surprenant pour moi en tant que personne qui a vu Facebook être impénitent en violant la confiance du public: la société a accepté de changer ses habitudes. Dans son accord avec l'ACLU et d'autres organisations de défense des droits civiques, la société a accepté de limiter ce que les annonceurs de ces catégories de produits peuvent faire, la manière dont leurs annonces sont ciblées et ce que les annonceurs peuvent apprendre sur les utilisateurs. Facebook dit même qu'il crée un outil qui permettra aux personnes ciblées par les annonces de ces catégories de démystifier le processus. Vous pourrez voir des annonces de logement, de crédit et d'emploi destinées à des personnes autres que vous-même.

Une semaine après cette première annonce, Facebook avait également annoncé qu'il "interdirait les éloges, le soutien et la représentation du nationalisme blanc et du séparatisme blanc sur Facebook et sur Instagram", ce qui constitue un autre geste surprenant pour la société. HUD a également poursuivi en justice Facebook pour ses pratiques publicitaires discriminatoires.

C'est tout bon et je suis content de le voir. Trop de nouvelles technologies susceptibles de rassembler les gens et de créer un monde plus juste ne sont pas utilisées de cette façon. Facebook vous permet peut-être de rester en contact avec votre famille, mais vous permet également de générer des bénéfices énormes en collectant vos données. Un exemple plus frappant est celui de savoir comment l’intelligence artificielle et l’apprentissage automatique, qui devraient être utilisés pour combler les lacunes de la prise de décision humaine, peuvent finir par renforcer nos propres biais. Comment? Parce qu’il s’agit d’un ordinateur et que nous avons des déchets à la poubelle, nous mettons tous nos partis pris dans ces systèmes et nous nous trouvons satisfaits lorsque les résultats correspondent à nos attentes. Ne me crois pas? Demandez à Tay.

Nous devons cibler le microtarget

Ce qui m'a frappé dans le règlement Facebook, c'est une phrase en particulier: "Tous ceux qui souhaitent diffuser des annonces de logement, d'emploi ou de crédit ne seront plus autorisés à cibler par âge, sexe ou code postal."

Encore une fois, génial. C'est le genre de chose que veulent les défenseurs de la vie privée et des droits civils. Mais pourquoi s'arrêter là? On a beaucoup écrit sur le fait que le micro-argumentage via les plates-formes sociales était une partie importante de la campagne d'influence russe qui a brouillé les élections américaines de 2016. Nous savons maintenant que les trolls russes ont utilisé les mêmes outils sur Facebook pour cibler des groupes spécifiques dans le cadre de campagnes de désinformation. Des événements Faux Black Lives Matter ont été créés. De faux groupes pro-Trump aussi.

Tout cela était possible, car Facebook - et Twitter, entre autres - ont permis à une entreprise de créer une annonce là où elle le souhaite. Lorsque vous entendez des fanatiques de la sécurité comme moi crier sur la confidentialité et sur le fait que "si le produit est gratuit, vous êtes le produit", voilà ce que nous voulons dire. C'est ainsi que les entreprises transforment votre activité en ligne et vous-même en argent.

77 $ pour faire basculer une élection?

L'omniprésence de cette technologie dissimule son étrangeté. Il a également fait baisser le prix énormément. Lors de la conférence sur la sécurité de la RSA, un présentateur a estimé qu'il ne coûterait que 77 dollars pour cibler tous les individus nécessaires pour passer du vote à l'autre parti dans le Michigan, selon les données des élections de 2016. En Pennsylvanie, où le nombre de votes entre les partis en 2016 était de l'ordre de centaines de milliers, le prix n'était encore que de 250 000 dollars. C'est bien dans les moyens d'un État-nation déterminé à coudre le mécontentement lors d'une élection et qui repose sur le marché des produits qui envahit la vie privée et qui est devenu extrêmement précieux ces dernières années. C'est la conséquence directe de la banalisation de vos données privées.

• Facebook stocké jusqu'à 600 millions de mots de passe utilisateur en texte brut Facebook stocké jusqu'à 600 millions de mots de passe utilisateur en texte brut
• Facebook pour interdire le nationalisme blanc, le séparatisme comme discours de haine Facebook pour interdire le nationalisme blanc, le séparatisme comme discours de haine
• HUD inculpe Facebook pour avoir favorisé la discrimination dans le logement HUD inculpé Facebook pour la discrimination dans le logement

Si Facebook agissait de la même manière que la publicité politique d'aujourd'hui, cela pourrait contribuer grandement à empêcher d'autres élections américaines remplies de désinformation étrangère, ainsi que de désinformation nationale. Les stratégies utilisées par les trolls russes ne fonctionneraient tout simplement pas si la technologie permettant de cibler des individus spécifiques ne leur était pas accessible. Le fait de pouvoir regarder en l'air et de voir quels autres messages politiques ont été envoyés à d'autres personnes pourrait également contribuer à dissiper une partie de la méfiance qui a tellement saturé notre politique.

Quelqu'un devrait-il être autorisé à effectuer des microtargets?

Peut-être qu'empêcher nos partis politiques légitimes d'utiliser cette technologie serait également une bonne chose. La communication de masse devrait nous rapprocher. Mais ces messages spécifiques murmurés aux oreilles des électeurs nous ont divisés en factions de plus en plus petites. Cela vaut peut-être la peine de faire travailler les partis un peu plus fort pour obtenir nos votes en maintenant notre vie privée un peu plus serrée.

Je sais que Facebook n'est pas susceptible d'envisager d'étendre son moratoire sur la publicité ciblée. Évidemment, il y a de l'argent à gagner, peu importe ce que cela signifie pour notre vie privée ou pour les personnes ciblées par la publicité prédatrice. Mais s'il est logique financièrement de fermer le robinet sur les publicités que Facebook a abandonnées dans son règlement, la société pourrait peut-être se permettre de modifier le fonctionnement de ses publicités en général. Avec des milliards de personnes sur sa plate-forme et certains des meilleurs cerveaux de la Silicon Valley travaillant dans ses bureaux, Facebook peut sûrement trouver un moyen de gagner de l'argent tout en respectant la vie privée des utilisateurs et en évitant d'être complices de l'aggravation des maux de la société.