Techonomy: comment réparer ce qui ne va pas avec google et facebook

Le thème le plus surprenant de cette année dans Techonomy était peut-être le mécontentement de nombreux intervenants avec Facebook, Google et Twitter. Les critiques portaient principalement sur leur approche de la protection de la vie privée et en particulier sur le rôle possible qu’ils avaient joué pour permettre à la Russie de pirater l’élection de 2016.

Un grand nombre d'orateurs ont plaidé en faveur de diverses formes de réglementation de ces "géants de l'Internet", et personne de l'une des sociétés susmentionnées n'était à la conférence pour présenter un point de vue alternatif. C'était très différent de la conférence de l'année dernière, lorsque le PDG de Facebook, Mark Zuckerberg, avait déclaré que l'idée que de faux reportages sur Facebook avaient influencé l'élection était "une idée assez folle".

Depuis lors, comme l'a souligné Simone Ross, cofondatrice de Techonomy, nous avons appris que "la technologie nous permet de nous diviser aussi facilement que de nous réunir." Le cofondateur de la conférence, David Kirkpatrick (ci-dessus), a donné le ton à la conférence en déclarant que "la technologie est une force bénéfique, mais seulement si elle est bonne, c'est votre objectif" et il a ajouté qu'il pensait que les grandes entreprises de technologie avaient besoin d'une intersection "avec le gouvernement, que ce soit appelé réglementation ou non.

Autorité dans un monde en réseau, artificiellement intelligent

Roger McNamee, investisseur réputé chez Elevation Partners, l'un des premiers investisseurs sur Facebook et Google, était peut-être le plus négatif de tous les intervenants. McNamee a déclaré que ces entreprises avaient "commencé à sauver le monde", mais que cela avait changé lorsque la publicité était devenue leur modèle commercial. Il a ajouté que le smartphone, associé aux informations personnelles, a permis de "créer un niveau de piratage cérébral jamais vu auparavant dans les médias".

McNamee a déclaré qu'il pensait que Zuckerberg était sincère lorsqu'il a déclaré ne pas croire qu'un tel piratage était possible il y a un an, mais a ajouté que le rôle que jouent actuellement Google et Facebook ne peut être surestimé. Il a commenté, "il doit être difficile d'être eux maintenant et de réaliser que vous avez détruit la civilisation occidentale."

Danah Boyd, Data & Society; Roger McNamee, Elevation Partners; Marc Rotenberg, Centre d'information électronique sur la confidentialité (EPIC); Stratford Sherman, Accompli

Cette discussion a été abordée dans le cadre du panel "Autorité dans un monde en réseau, artificiellement intelligent", auquel ont également participé Danah Boyd, sociologue auprès de Data & Society et de Microsoft Research; Marc Rotenberg, président de l'Electronic Privacy Information Centre (EPIC); et le modérateur Stratford Sherman de Accompli. Sherman a déclaré que bien que Facebook et Google aient été au départ des forums pour des discours publics, ils sont "radicalement non réglementés". Avec l'IA qui pourrait fondamentalement affecter la race humaine à l'horizon, Sherman s'est dit inquiet des conséquences imprévues du développement technologique que nous avons déjà vu.

Rotenberg a déclaré que, même s'il restait préoccupé par les préoccupations traditionnelles en matière de protection de la vie privée liées au suivi et au profilage, il était également préoccupé par le manque de concurrence, le manque d'innovation et le risque pour les institutions démocratiques. Il a déclaré que les géants de l'Internet détenaient un pouvoir énorme et que les données qu'ils possédaient constituaient une véritable barrière à l'entrée. Il n'y avait donc pas de concurrence sérieuse. Rotenberg a déclaré qu'il était à Washington depuis le gouvernement Reagan et que, pour la première fois, "les élections de l'année dernière ne semblaient pas familières".

Lors d'une session précédente, Boyd, qui a écrit un livre intitulé It's Complicated , a parlé de la difficulté de faire face à la manipulation sur Internet.

Elle a parlé d'un processus de manipulation sans cesse croissant au cours des 20 dernières années, qui a débuté avec les enfants qui suivaient Oprah et qui a ensuite évolué pour devenir "rickroll" et modifier des résultats de recherche pour le nom "Santorum". Plus récemment, avec Gamergate, un plus grand nombre de personnages sont devenus des acteurs, y compris des acteurs étatiques. Boyd a déclaré que les sociétés Internet pensaient que l'IA pouvait les protéger, mais que les groupes essayant de manipuler les résultats expérimentaient déjà le traitement du langage naturel et, plus important encore, altéraient les sources de données. À son avis, l'injection de mauvaises données dans un système, par exemple, constitue une nouvelle vulnérabilité. Toujours, boyd a déclaré que la seule solution serait de "construire des anticorps techniques dans notre industrie".

Au cours de cette session, Boyd a déclaré que les entreprises de technologie comptaient sur la manipulation sur plusieurs fronts et a noté que, bien que tout le monde regarde la Russie, de nombreux autres États poursuivent des actions similaires. Par exemple, les entreprises chinoises tentent de contrôler l’intelligence artificielle. Elle a ajouté que cela représentait un défi différent, car il ne s’agissait pas de concurrence industrielle, mais de concurrence avec un État.

Sherman a demandé à Sherman s’il s’agissait d’une guerre, mais c’est ce que pense McNamee. C’est une guerre de guérilla classique dans laquelle nos ennemis ont utilisé notre technologie contre nous. McNamee a déclaré que le problème n'était pas les réseaux sociaux ou la recherche, mais le modèle publicitaire. Il a dit que dans la bataille pour attirer l’attention des gens, la substance s’enfonçait sous l’effet de la sensation, et a cité le vieil adage selon lequel "si elle saigne, cela mène".

Sherman a noté que la peur et la colère sont beaucoup plus magnétiques et donc beaucoup moins chères. Il a déclaré que bien que les messages organiques aient été utilisés pour toucher plus de 125 millions de personnes, l'objectif était de permettre aux annonces de segmenter les personnes en groupes basés sur des intérêts partagés.

Rotenberg s'est dit favorable à la transparence des algorithmes et à la réglementation de la publicité, mais a déclaré que nous devons respecter le droit des individus de parler en ligne. Mais McNamee a déclaré que "le premier amendement a été transformé en arme" et que les espaces en ligne sont fondamentalement différents de la place publique.

Boyd a décrit ce qu'elle appelle "l'effet boomerang", c'est-à-dire l'idée qu'il est essentiel d'inciter les médias à rendre compte d'événements scandaleux, car cela renforce le message original destiné au segment de l'auditoire qui se méfie des médias. Par exemple, Boyd a parlé de Pizzagate. Elle a noté qu'avant Internet, les médias utilisaient souvent le "silence stratégique" pour éviter de couvrir des sujets tels que les suicides et les rassemblements du Klan pour éviter de les publiciser.

Rotenberg a reconnu qu'une grande partie de cette tradition de diligence et de surveillance avait été perdue et a déclaré que des dispositions telles que la Section 230 (qui stipule que les sociétés Internet ne sont pas responsables de la publication d'articles par les utilisateurs) ont rendu plus difficile la concurrence des informations traditionnelles.

Lorsqu'on lui a demandé des solutions, McNamee a déclaré que Facebook est un culte et qu'il doit cesser de nier le problème et le traiter, ainsi que commencer à s'attaquer au problème de la "déprogrammation" en s'adressant à chacun de ses utilisateurs. Rotenberg a promu l'idée de la régulation. Et Boyd a suggéré que nous devions investir de l’argent dans la société pour "re-mettre en réseau" l’Amérique.

Compter avec les nouveaux hégémonistes

Mark Mahaney, RBC Marchés des Capitaux; Dave Morgan, Simulmedia; Joyce Vance, Université de l'Alabama; David Kirkpatrick, technicien en économie

Dans un des premiers débats sur "Le compte avec les nouveaux hégémonistes", presque tout le monde était d'accord avec Joyce Vance de l'Université de l'Alabama, qui a déclaré que la technologie avait vraiment dépassé la loi, qu'il fallait désespérément rattraper. Mais Vance a averti qu'il y avait aussi le risque de réponses politiques "négligées".

Dave Morgan, de Simulmedia, a déclaré qu'il "y aura une réglementation", bien qu'il soit possible que les grandes entreprises puissent éviter une grande partie de son impact.

Morgan a noté que l'histoire de l'industrie des médias établissait des parallèles avec ce que nous voyons maintenant, car les journaux se seraient vus comme des imprimeries et les premières sociétés de radiodiffusion se considéraient comme des entreprises de technologie. Tous ces éléments permettent d’établir des contacts avec les consommateurs, ce que font clairement Google et Facebook. Une telle concentration de médias a provoqué de nombreuses affaires antitrust, que le gouvernement a réussi à maîtriser. Une grande différence aujourd'hui est que les autres technologies nécessitent un lien géographique, ce dont les sociétés Internet n'ont pas besoin.

Vance a fait remarquer que le Sénat examinait actuellement un projet de loi qui obligerait ces sociétés à préserver leur historique de publicité et à préciser qui payait les publicités politiques. Mais Morgan a souligné que ce sont maintenant des sociétés mondiales ayant une portée plus large. Interrogé sur la réglementation européenne relative à la protection des données personnelles dans le cadre du GDPR, Vance a déclaré que les États-Unis auraient peut-être cédé le leadership à l'UE dans ce domaine. Elle a ajouté qu'elle ne pensait pas que les entreprises américaines seraient en mesure de se conformer différemment dans différentes zones géographiques. Par conséquent, les entreprises se conformeront par défaut à la réglementation européenne.

Mark Mahaney, de RBC Capital Markets, a déclaré que les sociétés sont déjà réglementées, en particulier dans l'Union européenne, et que Google est particulièrement surveillé pour grouper ou promouvoir ses services avec ses résultats de recherche ou avec Android. Kirkpatrick a déclaré qu'il pensait que le règlement antitrust aidait réellement Microsoft, mais Mahaney a répondu que ce ne sont pas les régulateurs qui ont arrêté Microsoft, mais la concurrence.

La technologie et le gouvernement peuvent-ils sauver la démocratie?

Tim Hwang, FiscalNote; Minnie Ingersoll, Code pour l'Amérique; Marc Rotenberg, Centre d'information électronique sur la confidentialité; Molly Turner, École de commerce UC Berkeley Haas; Jon Fine, Inc Magazine; Lawrence Norden, NYU School of Law

Un sujet similaire a été abordé lors d'une table ronde de petit-déjeuner intitulée "Le gouvernement et la technologie peuvent-elle sauver la démocratie?", Dans laquelle le modérateur Jon Fine de Inc Magazine a demandé des solutions. La table ronde n'en a cependant pas vraiment proposé.

Hwang a déclaré que le problème ne venait pas des plates-formes technologiques, mais plutôt de la colère ressentie par les gens du fait de leur déconnexion de l'économie.

Lawrence Norden, du Brennan Center de la NYU School of Law, a déclaré que les lois exigeant davantage de publicité dans les annonces politiques étaient une réponse facile, mais que le gros problème était malheureusement les "publications noires" ou d'origine inconnue. À cet égard, a-t-il déclaré, Internet ressemble davantage à une place publique.

Mais Rotenberg a déclaré que c'était le contraire et qu'Internet ressemblait davantage à une ville de société, où les plateformes fixent les règles et décident de ce que vous voyez. Minnie Ingersoll de Code For America a demandé si le problème était lié à une ingérence étrangère ou à un contrôle de Google sur ce que nous disons. Les régulateurs doivent mieux comprendre les problèmes, a-t-elle déclaré.

Molly Turner de la Berkeley Haas School of Business de l'UC, a déclaré qu'Internet était devenu le meilleur moyen d'expression, mais craignait qu'il ne sape le discours civil. D'autre part, elle s'inquiète de l'obligation pour les plateformes de supprimer certains types d'informations (si le Communications Decency Act était affaibli, par exemple, ou en raison d'autres types de réglementations), car soudainement, dans ce cas, la plateforme devient l'arbitre de discours."

Rotenberg a répondu que, bien que les constructeurs automobiles aient déjà combattu les réglementations en matière de sécurité, celles-ci ont finalement contribué à rendre les voitures plus sûres et ont conduit à davantage d'innovation. Un environnement réglementaire stable pourrait en fait aider les plates-formes, a-t-il suggéré. Rotenberg a observé que les entreprises de technologie ont fait pression pour la "neutralité du réseau" pour les entreprises de télécommunications, mais pas pour elles-mêmes, et a appelé à des conditions de concurrence équitables.

Internet sous attaque

Mark Anderson, service de nouvelles stratégiques; Peder Jungck, BAE Systems Intelligence & Security; Rebecca MacKinnon, New America; David Kirkpatrick, technicien en économie

Un dernier panel appelé "Internet sous attaque" a poursuivi cette discussion.

Rebecca MacKinnon, qui dirige le projet Ranking Digital Rights chez New America, a déclaré qu’il était une fois présumé qu’à cause d’Internet, les régimes autoritaires finiraient par ressembler à des démocraties. Elle a maintenant plus peur que les régimes autoritaires et les démocraties se "réunissent au milieu".

MacKinnon a déclaré que les régimes autoritaires adaptaient Internet à leurs objectifs, tandis que les démocraties étaient confrontées au populisme, à la manipulation et au "contrôle du capitalisme". Mais, a-t-elle ajouté, les démocraties devraient faire preuve de prudence en ce qui concerne les réglementations - même si elle convient de la nécessité d'une plus grande transparence des algorithmes et de la confidentialité, elle craint qu'un système de censure ne facilite la répression des éléments. de la société dédaignent le gouvernement.

Peder Jungck, responsable du renseignement et de la sécurité chez BAE Systems, a convenu que les gouvernements souhaitaient utiliser ces systèmes pour retrouver des dissidents et a indiqué qu'une idée est un produit et, comme tout produit, une idée. Lorsqu'on lui a demandé si les systèmes publicitaires étaient dotés d'une arme, il a répondu: "La boîte de Pandore a été ouverte et nous ne pouvons pas revenir en arrière".

Mark Anderson, de Strategic News Service, a déclaré que nous avions observé une ligne droite du temps d'ARPANET, où il n'y avait pas de méchant, à aujourd'hui, où nous voyons de plus en plus de comportements malveillants.

Anderson a été particulièrement clair en décrivant comment la Chine vole la propriété intellectuelle et s'en sert pour pousser les entreprises à la faillite. Et il a suggéré que le bidouillage d'Equifax avait toutes les marques d'une attaque gouvernementale. En résumé, Anderson a déclaré qu'il "ne voyait pas de solution".

Jungck a déclaré que nous devrions présumer que les méchants sont dans nos systèmes et travaillent sur des solutions. Par exemple, il a déclaré qu'un numéro de sécurité sociale n'est plus sécurisable. Nous avons donc peut-être besoin d'une solution blockchain.

Dans le projet Ranking Digital Rights, MacKinnon a évalué 22 entreprises mondiales sur 35 questions relatives à la liberté d'expression, à la confidentialité et à la sécurité. Elle a dit que deux entreprises avaient reçu un "D" et que tous les autres avaient échoué. Elle veut savoir ce que les entreprises font de vos données. avec qui ils le partagent; s'ils font preuve de diligence raisonnable, d'évaluations de la sécurité et de gouvernance pour le risque; et s'ils protègent la vie privée et la sécurité, le contenu et l'expression. La transparence n'est pas suffisante, a-t-elle dit, mais un premier pas nécessaire.

Anderson a déclaré que la transparence est une bonne chose, mais pas une solution, et a indiqué que celui qui veut manipuler un système n'a pas à payer pour les annonces mais peut utiliser 100 000 botnets. Kirkpatrick a ensuite suggéré aux entreprises de renforcer leur identité et de réduire ainsi l'utilisation de réseaux de zombies.

Mais MacKinnon a rétorqué que ce sont les militants des droits de l'homme qui sont les plus vulnérables à l'utilisation de tels systèmes, car si vous imposez une identité, les opposants à un gouvernement autoritaire ne figureraient pas sur les réseaux sociaux.

Jungck s'est demandé pourquoi nous devons imposer une identité alors que les sites savent déjà qui vous êtes et ce que vous allez acheter. "Il n'y a pas d'anonymat sur Internet, il est disparu depuis longtemps", a-t-il déclaré. La seule différence est le temps qu'il faut pour comprendre qui vous êtes.

En conclusion, MacKinnon se dit optimiste à très long terme, mais pour les 100 prochaines années, "pas tellement".

En écoutant tout cela, il est facile d’être pessimiste, ou du moins fataliste, quant à la quantité de réglementation nécessaire et à son impact. Mais j'ai toujours tendance à être optimiste, et même si je pense qu'une réglementation supplémentaire est à la fois probable et nécessaire, je pense qu'il est tout aussi probable que les géants de l'internet d'aujourd'hui, ou de futurs acteurs, apportent de meilleures réponses.

Quelle est la probabilité que vous recommandiez PCMag.com?