Microsoft, la glace, et le problème avec la technologie étant «neutre»

Lorsque vous recherchez des mots pour décrire IBM, vous pensez solide et résolu, mais c'est aussi taché. Au cours de la Seconde Guerre mondiale, sous la direction de son président et chef de la direction, Thomas Watson, IBM a contribué à la mécanisation du travail administratif du Troisième Reich.

La filiale allemande de la société, avec la coopération et la coordination de la société mère, a mis en place des camps de concentration avec des machines de tri louées qu'elle gérait, des applications personnalisées et du papier pour les conserver sous forme de cartes perforées. Les informations fournies par ces machines Hollerith ont joué un rôle en plaçant les Juifs derrière la clôture en fil de fer pour que des millions de personnes ne s'échappent pas.

Aujourd'hui, des milliers d'enfants d'immigrés et de demandeurs d'asile se trouvent dans leurs propres cages chaînées dans des centres de détention américains, des codes à barres enroulés autour de leurs poignets. Les entreprises à l'origine de la technologie qui les surveille - ou pas - ne sont pas pressées de s'en vanter.

En janvier, Microsoft a annoncé son partenariat avec Immigration and Customs Enforcement (ICE), qui utilise le service cloud Azure Government de Redmond. Le poste a réapparu cette semaine au milieu du tumulte suscité par la politique du gouvernement en matière de séparation des enfants à la frontière, et pendant une brève période, toute mention de ICE en a été retirée. Des sources informées du problème ont déclaré à PCMag qu’un employé l’avait supprimé après avoir lu des commentaires dans les médias sociaux. il a été restauré peu de temps après.

La source a également déclaré qu'ils ne pensaient pas que les services Azure ou Azure seraient utilisés pour séparer les familles à la frontière sud, a fait écho le PDG Satya Nadella dans une lettre condamnant la politique de l'administration en matière de séparation des familles. Il a précisé qu' Azure n'est utilisé par ICE que pour les charges de travail héritées en matière de courrier, d'agenda, de messagerie et de gestion de documents.

Mais en réalité, il ne sait pas exactement comment l’agence utilise ses services. Certains employés de Microsoft sont apparemment d’accord. ils ont écrit une lettre ouverte demandant à la société de mettre fin à son contrat avec ICE. Les développeurs de GitHub, récemment acquis par Microsoft, ont fait de même.

C’est là que les entreprises de technologie doivent prendre des décisions sur des bases morales; veulent-ils faire des affaires avec des entités gouvernementales engagées dans des travaux que le Haut Commissaire des Nations Unies pour les droits de l'homme a qualifiés d'inconcevables?

Controverse sur la reconnaissance d'images

Vigilant Solutions a signé un contrat avec ICE pour son programme de reconnaissance des plaques d'immatriculation (LPR), qui permet de rechercher et de suivre des personnes en temps réel. "Notre solution LPR ne sert pas uniquement à retrouver des véhicules volés. C'est pour cela et bien plus encore", indique le site de la société.

Vigilant Solutions n'a pas répondu à une demande de renseignements concernant son travail avec ICE. Et ce n’est pas la seule entreprise qui reste discrète sur la technologie de reconnaissance d’image utilisée par les organismes d’application de la loi et les organismes gouvernementaux.

Rekognition d'Amazon utilise l'apprentissage en profondeur pour détecter les objets, les personnes et les activités inanimés. Interrogé sur des utilisations légales mais peut-être discutables si ICE devait devenir un client, un porte-parole d'Amazon a reconnu le risque d'abus, mais a déclaré que la reconnaissance était soumise à la politique d'utilisation acceptable d'Amazon Web Services.

Une lecture de la politique se heurte à des obstacles qui empêcheraient un comportement répréhensible. La section la plus pertinente interdirait "toute activité illégale, qui violerait les droits d'autrui ou qui pourrait nuire à autrui, à nos activités ou à notre réputation".

La reconnaissance n'est pas utilisée par ICE, mais par plusieurs services de police, ce qui inquiète certains actionnaires d'Amazon, qui ont demandé à la société de cesser de vendre cette reconnaissance aux forces de l'ordre.

NBC News a découvert une multitude de sociétés de technologie ayant des contrats avec ICE, notamment HP Enterprise, Dell et Motorola. Une entreprise qui assiste ICE ne devrait pas être surprise: Palantir. Il a signé un contrat de 41 milliards de dollars pour le produit de gestion des enquêtes d'investigation d'ICE, qui est "essentiel à la mission" de l'agence, selon des documents obtenus par The Intercept.

Le cofondateur et président de Palantir, Peter Thiel, est un partisan inconditionnel de Donald Trump depuis sa campagne. Thiel lui-même n'a pas parlé de la situation à la frontière, mais en 2008, il a fait un don d'un million de dollars au groupe anti-immigrés NumbersUSA, qui se consacre à la réduction de l'immigration légale et illégale. Thiel ne voit apparemment aucune ironie dans le fait qu'il devienne citoyen de la Nouvelle-Zélande en contournant le processus habituel.

Les contrats du gouvernement sont sûrement lucratifs, mais le profit d’activités aussi semblables à celles qui ont conduit à certaines des pires atrocités de l’histoire a un prix trop élevé. Il suffit de demander à Google, qui s’oppose à des objections contre son travail avec le Pentagone sur un programme de drones controversé. Le capital social que la Silicon Valley a acquis au fil des ans a mis ses compétences et compétences au service de l’éradication des horreurs de notre passé pour un meilleur avenir.