Microsoft décompose comment gérer un it itique éthique

Le président de Microsoft, Brad Smith, a pris la décision inhabituelle de publier un article sur son blog le vendredi 13 juillet 2018, dans lequel il demandait au gouvernement de réglementer les technologies développées par sa propre entreprise. Cette technologie est une reconnaissance faciale, et Smith comprend déjà le danger de permettre une utilisation sans entrave d'une telle capacité, en particulier par les gouvernements. Mais Smith a également souligné que l'utilisation abusive de la reconnaissance faciale dans le secteur privé peut avoir des conséquences tout aussi pénibles.

Quelques jours plus tard, l’Association for Computing Machinery (ACM) publiait sur son site Web le code de déontologie et de conduite professionnelle de l’ACM, un nouveau code de conduite qui adopte une position similaire à celle de Microsoft, mais beaucoup plus large dans son couverture du comportement éthique dans le secteur des technologies de l'information (TI). Les deux postes ont en commun l’idée de maintenir un niveau élevé de responsabilité des entreprises. C’est quelque chose que de nombreux professionnels des technologies de l’information essaient d’ignorer et de laisser les personnes les plus haut placées dans la chaîne alimentaire nationale - une attitude à la fois regrettable et dangereuse.

Smith, dans son billet de blog, s'inquiète de l'utilisation abusive de la reconnaissance faciale. Il se rend compte que, même dans les grands campus organisés autour des technologies actuelles, en particulier des jetons de sécurité comme ceux employés par de nombreux systèmes de gestion des identités, il est possible de suivre de très près la situation des personnes et, à partir de là, de découvrir ce qu'elles font. Mais avec la reconnaissance faciale, il est possible de distinguer des personnes de n'importe quelle foule, non seulement de suivre leur localisation, mais également de conserver des traces de leur infiltration, à partir de peu de données en dehors de leurs caractéristiques physiques. Comme le souligne Smith, un tel suivi a déjà lieu en Chine. Smith demande à une commission d’étudier l’utilisation et les conséquences de la reconnaissance faciale aux États-Unis.

Reconnaissance faciale en tant que pièce d'identité fiable

Il est clair que, dans de nombreux cas, la surveillance 24 heures sur 24, 7 jours sur 7, 7 jours sur 7, des mouvements d'un individu est illégale aux États-Unis, comme en témoignent les récentes décisions de la Cour suprême des États-Unis concernant l'utilisation du suivi de la localisation d'un téléphone portable et l'utilisation d'un GPS sans mandat. Mais cela ne signifie pas qu'une agence, quelque part, n'essaiera pas.

De même, il ne fait aucun doute que la reconnaissance faciale a progressé au point de pouvoir être utilisée comme une forme d’identité (ID) fiable. Déjà, certaines compagnies aériennes testent la reconnaissance faciale pour le franchissement des lignes de sécurité et pour l’embarquement dans les avions à l’aéroport international de Los Angeles (LAX). De même, lorsque je suis rentré à Washington DC sur un vol en provenance de Londres le mois dernier, tout ce dont j'avais besoin pour entrer aux États-Unis était une vue de mon visage par une caméra et un balayage de mes empreintes digitales pendant que mon passeport était numérisé par un lecteur.

Reconnaissance faciale: prochaines étapes

Alors, la question est, quelle est la prochaine étape? En tant que professionnel de l'informatique, supposons que l'on vous demande de créer un système de reconnaissance faciale pour votre employeur, qui identifierait les personnes que l'entreprise ne souhaite pas sur leur propriété ou leurs locaux. Peut-être avaient-ils passé un mauvais chèque, étaient-ils soupçonnés de vol à l'étalage ou avaient-ils été congédiés?

Qu'est-ce que tu ferais? Toutes ces raisons sont de bonnes raisons de ne pas autoriser une personne à entrer dans votre magasin ou sur votre propriété. Les chances sont, vous n'auriez pas beaucoup de difficulté à trouver des photos d'eux, de sorte que le système de reconnaissance devrait pouvoir facilement les identifier. Alors, quelle est la prochaine?

C’est la partie de votre processus de prise de décision dans laquelle vous devez décider comment utiliser la reconnaissance faciale, ou d’autres données biométriques, dans le cadre de vos politiques de sécurité. Cela n'est pas aussi simple que votre réponse à une alerte de logiciel malveillant émanant de l'un de vos nœuds de protection de point final. Ces réponses ne peuvent pas être facilement automatisées. Alors, tu déclencherais une alarme? Page le gestionnaire de l'installation? Alerte sécurité? Appelle la police? La réponse à ces questions pourrait être oui, mais ce pourrait aussi être non. Et prendre la mauvaise décision pourrait être une erreur de fin de carrière.

7 conseils pour bien utiliser la reconnaissance faciale

Voici quelques conseils qui pourraient vous aider à réduire les risques de problèmes tout en protégeant votre organisation:

Affichez des avis où les visiteurs et les employés les verront, en les informant que vous utilisez la vidéo de surveillance et la reconnaissance faciale dans le cadre de votre opération de sécurité. (Vos avocats se feront un plaisir de vous aider avec la langue actuelle.)

Assurez-vous qu'il y a un humain dans la boucle avant toute action sur n'importe quel type d'identification biométrique. Bien qu'elle s'améliore, la reconnaissance faciale, à l'instar d'autres données biométriques, n'est pas fiable à 100%. Avant d'agir, quelqu'un doit confirmer ce que dit le système de reconnaissance. (Collaborez avec votre service juridique et la haute direction pour trouver une solution.)

Reconnaissez les limites de votre système d'identification faciale ou biométrique. Par exemple, la technologie de reconnaissance faciale actuelle fonctionne mieux avec les hommes blancs mais moins bien avec les femmes non blanches. Vous devez vous assurer que vous ne faites pas de profilage racial par inadvertance. Rappelez-vous le chagrin des entreprises, de CVS à Starbucks, lorsqu'elles l'ont fait intentionnellement ou non. (Globalement, une très bonne discussion à avoir avec votre équipe juridique.)

Assurez-vous qu'il existe une procédure "Oops". Vous aurez de mauvais identifiants, vous devez donc vous assurer qu'ils ne gênent pas la personne ou l'entreprise. (Encore une fois, les avocats et les membres de la haute direction de votre société devraient peser de leurs côtés.)

Déterminez à l'avance où vous allez partager les résultats de vos vérifications d'identité. Vous ne pouvez pas simplement tout envoyer à diverses autorités gouvernementales. Vous devez déterminer ce que vous pouvez partager, ce que vous ne pouvez pas partager et ce qui nécessite un mandat. Ensuite, assurez-vous que vos procédures internes sont strictes afin que vos employés n'essayent pas de gagner les faveurs en partageant ce qui ne devrait pas être partagé. (Il s’agit probablement d’une conversation plus longue avec vos avocats, alors commandez dans une pizza.)

Testez continuellement vos systèmes d’identification sur les ensembles de données les plus connus afin d’améliorer la précision de la reconnaissance. (Votre fournisseur de systèmes de reconnaissance faciale devrait disposer de tels ensembles de données et, avec le temps, vous pourrez créer le vôtre.)

• Enfin, faites attention à qui vous ciblez pour la reconnaissance. Les membres du public ont de solides droits en matière de vie privée, et votre violation de ces droits peut coûter très cher à votre organisation. (Devinez quoi? Plus de temps d'avocat.)

Bien que votre entreprise ne puisse pas contrôler ce que le gouvernement décide de faire en matière de reconnaissance faciale, ce qui n’est probablement rien du fait de l’atmosphère dysfonctionnelle qui règne à Washington, DC de nos jours, vous pouvez contrôler ce qui se passe dans vos propres locaux. En fait, vous y serez attendu si vous vous retrouvez un jour devant un juge. Suivre les principes éthiques de l'ACM consistant à être honnête et digne de confiance et à prendre des mesures pour ne pas discriminer tout en protégeant la vie privée est devenu plus important que jamais.