Les robots et les IA méritent-ils des droits?

En ce qui concerne les relations homme-robot, la conversation est généralement centrée sur le bien-être du patient. La science-fiction nous peint comme pétrifiés par nos propres créations; Les craintes d'une planète bot ont tout influencé, des "lois de la robotique" d'Asimov aux impulsions homicides de HAL 9000 jusqu'au génocide mondial de Skynet.

Ces angoisses centrées sur l'homme sont compréhensibles. Cependant, au fur et à mesure que nos robots et nos morceaux diversifiés acquièrent des compétences et des personnalités, devrait-il bénéficier d'une forme de protection de notre part ? C'est une question à laquelle les gens commencent à réfléchir sérieusement.

Le mois dernier, la commission des affaires juridiques du Parlement européen a publié un rapport sur l'utilisation et la création de robots et sur l'intelligence artificielle. Il a recommandé de créer une forme de "personnalité électronique" qui conférerait des droits et des responsabilités aux formes les plus avancées d'IA.

Beaucoup se hérissent sûrement du concept de "droits" accordés aux logiciels. Bien que l'intelligence artificielle soit de plus en plus capable d'exécuter des tâches spécifiques, il n'est pas assez complexe de se faire une idée de la manière dont elle est traitée. Il est tout à fait raisonnable de se demander si le robo-rights est même un débat qui en vaut la peine. En effet, l'humanité a des préoccupations bien plus immédiates (les hommes du Parlement européen en particulier), mais l'ère des robots dignes de personnes ne se situe pas aussi loin dans le futur fou que vous pourriez penser.

Alors que l’intelligence humaine promise depuis longtemps par la science-fiction n’a pas encore abouti, les chercheurs du monde entier s’efforcent de la concrétiser. Je ne m'attends pas à voir quelque chose ressemblant à Data Trek ou à Rosie de The Jetsons de Star Trek dans un avenir immédiat, mais je ne serais pas surpris de les rencontrer de mon vivant: l'histoire a montré à maintes reprises que la technologie, en particulier la technologie de l'information - ne s'améliore pas seulement progressivement, il monte en flèche de façon exponentielle. Considérez quelques-uns des exploits très impressionnants de l'IA moderne et essayez d'imaginer ce qu'elle sera capable de réaliser dans 10, 20 ou 30 ans.

Je ne peux pas dire avec certitude ce que les robots ou l'IA du futur seront capables de faire. Mais je peux dire que si l’éthique des robots ne constitue pas une préoccupation sérieuse pour la société, alors à tout le moins l'étiquette des robots le devrait.

L'IA parmi nous

La personne moyenne raisonnablement connectée du monde développé a probablement interagi avec l'IA moderne sous la forme de chatbots ou d'assistants numériques de plus en plus performants (Alexa, Siri, Cortana, etc.). Mais la plupart des IA restent cachées sous la surface virtuelle.

Un sous-domaine de l'IA connu sous le nom de "machine learning" est particulièrement prometteur - cette discipline s'intéresse à la création d'algorithmes qui améliorent les tâches au fil du temps pour en tirer des conclusions originales. Il existe même des algorithmes capables de réécrire leur propre code source dans des scénarios limités. Pris ensemble, les algorithmes les plus avancés pourraient être considérés comme formant une identité unique.

La question devient alors: atteindrons-nous jamais un point où cette singularité atteint le niveau de personnalité digne d'être protégée? Peu de gens diraient que la personne devrait être attribuée, par exemple, au système d'exploitation de votre smartphone. Mais votre appareil (y compris toutes ses ressources cloud en réseau) a un caractère tout à fait unique, différent de tout autre logiciel. Votre téléphone se souvient des sources Wi-Fi auxquelles il se connecte régulièrement, il apprend vos habitudes de déplacement basées sur le GPS et utilise même des algorithmes pour apprendre les nuances de vos commandes vocales (c'est ainsi que Siri et Google comprennent mieux votre voix au fil du temps).

Nous pouvons supprimer tout ou partie de ces données sans ressentir de réaction émotionnelle. Cependant, nous ferons probablement l'expérience d'une forme d'attachement plus profonde si ces données prennent une forme physique et palpable. Les êtres humains ont tendance à se rapporter à des objets physiques, peu importe leur "stupidité": ils personnifient des animaux empaillés, nomment leur voiture ou se sent mal quand leur Roomba reste coincé dans un coin.

Bien que l’écart entre les robots qui nous avaient été promis et ceux que nous avons est encore plus extrême que celui entre l’IA promis et réelle, le domaine s’améliore à un rythme effroyablement rapide. Cette évolution est importante pour notre discussion car il est beaucoup moins éprouvant émotionnellement de "débrancher" un chatbot à base de texte, aussi avancé soit-il, que sur une machine au visage discernable.

Il faudra peut-être des décennies avant que la technologie ne nous oblige à vraiment nous attaquer à la question des droits des robots, mais le débat sur l'éthique de la façon dont nous traitons les machines vaut probablement la peine d'être lancé à l'heure actuelle.

Récemment, j'ai interviewé la Dre Kate Darling, une éthicienne en robotique du Media Lab du MIT, dans le cadre de notre série d'entretiens en streaming et de notre podcast, The Convo (vidéo ci-dessus). Bien que Darling ne soit pas tout à fait à l'aise avec la personnalisation électronique (du moins pas encore), elle s'intéresse à la manière dont les humains interagissent avec leur technologie et croit que nos choix sont finalement le reflet de nous.

"La seule chose qui distingue les robots des autres machines, c'est que nous avons tendance à les traiter comme s'ils étaient vivants", explique Darling. "Je pense qu'il y a un argument philosophique kantien à faire. Donc l'argument de Kant pour les droits des animaux parlait toujours de nous et non des animaux. Kant se moquait bien des animaux. Il pensait" si nous sommes cruels envers les animaux, cela fait de nous des humains cruels. Et je pense que cela s'applique aux robots conçus de manière réaliste et que nous traitons comme des êtres vivants. Nous devons nous demander ce que cela nous fait d'être cruel envers ces choses et d'un point de vue très pratique - et nous ne savons pas la réponse à cette question - mais cela pourrait littéralement nous transformer en humains plus cruels si nous nous habituons à certains comportements avec ces robots aussi vrais que vrais."

Bien que la science-fiction se soit beaucoup trompée dans ses prédictions quant à l'avenir du robot, elle fournit un laboratoire de l'imagination. Voudriez-vous plutôt vivre dans, par exemple, un univers de Westworld rempli d'humains qui se sentent libres de violer et de mutiler les habitants du parc, ou sur le pont de Star Trek: The Next Generation , où les robots avancés sont traités de manière égale? Les humains d'un monde semblent beaucoup plus accueillants que les autres, n'est-ce pas?

Ainsi, s’agissant de la manière dont nous interagissons avec nos créations, nous devrions peut-être moins nous préoccuper de déterminer leur personnalité que de définir notre humanité.