Vidéo: Garry Kasparov Answers Chess Questions From Twitter | Tech Support | WIRED (Novembre 2024)
Garry Kasparov a été l'une des premières victimes de la révolution de l'automatisation de l'IA. Sa défaite contre Deep Blue d’IBM a fait de lui le premier champion humain d’échecs à perdre un match contre un ordinateur. Mais Kasparov n'est pas blasé; son livre, Deep Thinking , explore comment l'IA peut réellement nous aider à devenir plus humains.
Dan Costa: Après avoir joué aux échecs et combattu dans Deep Blue, vous êtes depuis devenu un expert en IA pour les échecs. Comment voulez-vous que les gens comprennent l'intelligence artificielle?
Garry Kasparov: Je dois avouer que je connais les limites de mon ignorance. C'est pourquoi je suis heureux de parler de choses pour lesquelles j'ai confiance en ma propre expertise. Je pense avoir une certaine connaissance des relations homme-machine et je pourrais parler avec une certaine autorité des résultats futurs.
De plus, je pense que nous sommes encore à un très jeune âge de l'IA et que nous devrions débattre même de certaines conditions. C'est une question de sémantique, de philosophie et je dis toujours que les gens pensent que nous sommes à l'ère Windows 10, alors que nous sommes tous encore à MS-DOS.
En ce moment, il est très important de bien comprendre: "Qu'est-ce que l'IA? Lorsque nous parlons d'IA, que voulons-nous dire?" Parce que si vous interrogez 10 experts sur l'IA, je parie que vous obtiendrez 11 ou 12 réponses. Il y a toujours pas mal de désaccord.
Il y a encore des détails, mais je pense qu'en général, nous reconnaissons bien, il y a un groupe de personnes que nous appellerons optimistes, face à la grande foule de malheureux. D'une manière ou d'une autre, le public est plus enclin à accepter les scénarios catastrophiques. Je pense que c'est notre instinct de craindre l'avenir, ce qui est également intéressant, car lorsque vous remontez dans les années 50 et 60, la science-fiction était très optimiste. Nous travaillions uniquement avec des machines.
Maintenant, quand vous regardez les années 70, 80, 90, il est passé à une vision dystopique. C'est à propos des terminateurs. C'est à propos de Matrix, et maintenant le genre de science-fiction est presque mort, parce que c'est plus de la fantasy, c'est de la magie. Les gens ont vraiment peur de parler de l'avenir car nous ne savons pas ce qui va se passer là-bas. Je pense que nous devrions simplement reconnaître que l'IA n'est pas une baguette magique, mais ce n'est pas un terminateur. Ce n'est pas un présage d'utopie ou de dystopie. C'est un outil. C'est quelque chose que nous devrions trouver un moyen de traiter.
Ce n'est pas ouvrir les portes de l'enfer, mais ce n'est pas un paradis. Ce n'est pas une solution pour tout. Ce n'est pas un salut. Regardons les problèmes de la Terre et ma plus grande préoccupation aujourd'hui ne concerne pas les robots tueurs ni une sorte de réalité virtuelle qui pourrait ruiner notre sens de la réalité, mais bien de mauvais acteurs. C'est à propos des terroristes. Il s'agit de l'espace rock en utilisant cette technologie pour nous nuire. Je dis toujours que les gens… ont le monopole du mal. Je pense que c'est là où nous devrions concentrer nos efforts, mais cela devrait également reconnaître que l'IA pourrait faire beaucoup de choses formidables pour nous, car ce que les gens diront, "Oh, l'IA crée de nouveaux défis. AI peut supprimer de nombreux emplois." Exactement. C'est ce qui est arrivé avec des emplois dans l'agriculture, des emplois dans le secteur manufacturier. La technologie perturbatrice détruit toujours les industries tout en créant de nouveaux emplois.
Je dis que la technologie est la raison principale pour laquelle tant de gens sont encore en vie pour se plaindre de la technologie parce que nous ne reconnaissons pas la durée de vie moyenne, 45, 47 du début du 20ème siècle à 75 ans, grâce à la technologie. Nous voulons des avantages, nous voulons de la commodité et nous ne regardons pas le prix. Les gens achètent Alexa ou téléchargent une application de reconnaissance faciale, puis se plaignent de la confidentialité. Il est temps que nous comprenions ce que nous attendons de ces technologies. Comment voulons-nous les gérer? Comment ils peuvent améliorer nos vies et en même temps reconnaître que nous ne devrions pas débattre du lait renversé. Ça va arriver.
Nous ne devrions pas demander si nous le voulons ou non, cela se produit. Toute tentative visant à prolonger l'agonie et à ralentir le processus est, à mon sens, contre-productive car les emplois condamnés ne peuvent être sauvés. Mais nous devons penser à de nouvelles industries. Comment pouvons-nous créer de nouveaux emplois qui nous aideront à créer… un coussin financier pour prendre soin de ceux qui sont laissés pour compte?
Dan Costa: C'est l'un des points que vous avez soulevés dans Deep Thinking . L'intelligence artificielle représente une opportunité pour nous de devenir plus humains. Je pense que nous devons préciser cela et faire en sorte que les gens se sentent et comprennent.
Garry Kasparov: Le rapport McKinsey sur le marché du travail américain en 2016 en était une démonstration claire. Combien peu de créativité a été utilisé?
Bon nombre d'emplois que nous effectuons sont répétitifs, bruts. Les emplois intellectuels peuvent aussi être répétitifs. Ils peuvent également être facilement exécutés par les machines beaucoup plus efficacement. Ici, vous arrivez au point où ce que nous avons appris des jeux… des échecs, du golf, de tout autre jeu, est valable tant que le cadre est créé par des humains et que nous savons ce que nous faisons., les machines feront mieux.
Nous devons simplement reconnaître que dans tous les systèmes fermés, les machines seront supérieures. À propos, nous n'avons pas à comprendre comment ils font cela. C'est une autre erreur. Nous voulons l'explicabilité. Les machines pourraient le faire de manière très délicate par rapport à nos normes. Les avions volaient vite et l'oiseau battait des ailes. C'est pourquoi il est faux de penser que les machines vont nous surpasser même dans les erreurs d'intellect. Nous devrions rechercher les résultats, et c’est l’autre problème pour les entreprises car beaucoup de réglementations exigent qu’elles expliquent ce qu’elles font, mais l’explicabilité n’existe peut-être pas si vous souhaitez rechercher l’efficacité et la productivité.
Dan Costa: Vous avez évoqué l'affaire sur Go, et ce qui a rendu l'efficacité de l'IA plus efficace, c'est quand elle a appris à jouer elle-même. Il n'y avait pas de règles imposées par l'homme.
Garry Kasparov: C'est la même chose que les échecs maintenant. Encore une fois, l’avenir des relations de mission humaine dépendra beaucoup de nos propres humains agissant comme des bergers, car nous devrons trouver un moyen de créer ces systèmes géniaux, les zones d’intelligence étroite, dans lesquelles les machines feront le travail bien mieux que n’importe quel humain.. Ensuite, pour voir comment ils se connectent. Ces domaines de l'intelligence étroite au domaine général, au système ouvert. Encore une fois, cela semble facile, mais je pense que le défi est de taille car la place de l’homme et de ses relations avec les machines pourrait être de plus en plus petite. Même peut-être quelques dernières décimales, mais peu importe. Cela pourrait être beaucoup plus efficace parce qu'il y a tellement de pouvoir. Le canaliser ou changer la direction pour 0, 1% d'un degré de cet angle pourrait avoir une différence énorme, une cible située à un kilomètre de distance.
Dan Costa: Ce qui m'inquiète au sujet de l'IA, c'est que les bons systèmes d'IA reposent sur de très nombreuses données et de très bons algorithmes. Si vous regardez qui détient actuellement la plupart des données dans cet espace, ce sont les grandes technologies, ce sont les gouvernements des États. Comment voyez-vous le rôle de l'individu dans cette révolution de l'IA? Parce qu'il semble exister une asymétrie dans l'accès à ces nouvelles technologies et des motivations différentes.
Garry Kasparov: Oui. Je ne pourrais pas être plus d'accord. Nous avons ce problème et je pense que le public le reconnaît, mais les gouvernements ne subissent toujours pas suffisamment de pression pour imposer des règles très strictes et des mesures très punitives aux entreprises qui violent la vie privée.
Une de mes préoccupations en tant que président de la Human Rights Foundation est que les règles diffèrent d'un monde démocratique à l'autre. Je trouve très troublant que ces géants multinationaux tels que Google, Apple, Microsoft et Facebook appliquent des règles très différentes à leurs clients en Amérique ou en Europe, et à ceux qui n'ont pas eu la chance d'être nés dans le monde libre et d'y vivre. La Chine, la Russie, la Turquie - où la divulgation des données des activités sociales pourrait être littéralement une question de vie ou de mort. Je pense que c'est la première étape, mais nous devrions également savoir si des données sont produites, elles seront collectées.
Je suis sûr que les gouvernements pourraient limiter l'utilisation de ces données de nombreuses façons. En outre, je pense que c'est l'avantage du côté public, car après le témoignage de Mark Zuckerberg au Sénat américain, que j'ai trouvé […], c'était une démonstration incroyable d'ignorance de la part des législateurs américains. Ils ne pouvaient pas poser de bonnes questions pendant cinq heures; ils l'avaient sur une sellette et c'était une perte. Je n'ai pas vu l'indignation du public. Une telle grande opportunité a été manquée.
Le conseil simple, "divisons-les." Ce n'est pas l'huile standard. Si vous commencez juste à vous diviser - et je déteste les monopoles -, vous aurez alors beaucoup, beaucoup de Google avec des données réparties. Nous devrions trouver un moyen de responsabiliser les individus. Je ne connais pas les technologies de blockchain, mais c'est probablement la manière d'aider les gens à contrôler leurs propres données et leur propre avenir. Je pense qu'il y a encore un moment où c'est le concept original d'Internet, réseau social. Tout à coup, ce sont les médias sociaux. Les gens ne reconnaissent tout simplement pas. Ce n'est pas une différence sémantique.
Dan Costa: C'est monétisé d'une manière totalement différente.
Garry Kasparov: Il s'agit de connecter les gens. L'idée était de savoir comment nous réunir. Comment mettre en gage l'individu, avoir accès aux données et produire quelque chose qui pourrait lui être bénéfique et qui appartiendrait simplement à ce système mondial. Les médias sociaux sont différents, vous êtes la cible. Vous êtes maintenant… la cible des grandes entreprises. Comment pouvons-nous revenir à ce concept de réseau social? Je n’ai pas de solutions, j’avoue que je ne connais pas les solutions techniques, mais je sais que c’est exactement la philosophie qui convient. Je pense que le public ne comprend pas le sérieux de ce défi.
Dan Costa: Vous êtes citoyen russe...
Garry Kasparov: Également citoyen croate, j'ai un passeport électronique, c'est ainsi que je voyage.
Dan Costa:… vivant aux États-Unis, mais vous avez beaucoup écrit sur la propagande, ses effets, ses pouvoirs et son utilisation par le gouvernement russe. Ici aux États-Unis, nous avons maintenant un univers médiatique sur Facebook, Twitter, Google qui ressemble presque à une machine de propagande privée à laquelle les gouvernements, les entreprises individuelles peuvent avoir accès. Encore une fois, en tant que personne ayant traité et compris ces questions, quel conseil donneriez-vous aux États-Unis? Alors que nous avançons dans ce système où nous ne pouvons plus croire ce que nous voyons en ligne.
Garry Kasparov: Écoutez, depuis le début du siècle, je suis confronté à la montée en puissance de l'industrie de l'information fictive et des usines de fabrication de trolls en Russie. Vers 2004-2005, les experts en propagande de Poutine, les gars du KGB, ont pris la décision fidèle de ne pas suivre la Chine au travers de pare-feu. Mais plutôt, créer les faux sites Internet qui contiennent beaucoup d'informations réelles sur ces pièces toxiques. Au lieu d’avoir la page de couverture d’un journal, l’histoire que tout le monde doit suivre, la ligne du parti, vous pouvez la diffuser en plusieurs morceaux, en des dizaines. Mettez-le dans un paquet enveloppé dans beaucoup d'histoires vraies.
Ce n'est pas aussi simple que de dire que Garry Kasparov est un ennemi de l'État. Non, quelqu'un dit que Garry Kasparov est un ennemi de l'État, mais quelqu'un d'autre a répondu non, mais il était un grand joueur d'échecs, mais probablement maintenant, il était infiltré par la voix et la propagande. Quelqu'un dira non, non, non, c'est un gars bien. Ainsi, toute la page de commentaires pourrait être fausse.
Dan Costa: Les robots discutent avec les robots.
Garry Kasparov: Les bots et ils sont très bons dans ce domaine, c'est pourquoi un jour où Poutine a attaqué les élections américaines, il possédait plus de 10 ans d'expérience dans ces industries. Travailler en Russie, dans les pays voisins avec de grandes communautés russes d'Europe orientale, d'Europe occidentale.
Dans mon livre, L' hiver arrive: pourquoi il faut arrêter Vladimir Poutine et les ennemis du monde libre , 2015, j'ai dit que ce n'était qu'une question de temps. Ce n'est pas si, mais quand et où il attaquerait. Car encore une fois, ils ont déjà construit cette machine et elle est relativement bon marché. Cela représente toujours des milliards de dollars d'investissement, mais comparé à une intervention militaire ouverte, la confrontation… c'est relativement bon marché. Et aussi, cela correspondait à la mentalité du KGB de Poutine, à ses antécédents au KGB, à son passé d'espionnage. Ainsi, au lieu d'une confrontation ouverte, il cherche toujours une occasion d'infiltrer. C'est la méthode classique du judo, vous utilisez les forces de votre adversaire contre lui. Pour Poutine, c’était génial parce que c’était la technologie occidentale et le monde libre, et vous pouviez vous en servir pour saper les fondements mêmes du monde libre.
Dan Costa: Avez-vous des conseils pour sortir de cette situation? Parce que ça a l'air de se passer, ça ne s'est pas vraiment arrêté.
Garry Kasparov: Non, et ça ne va pas s'arrêter. Pour quiconque a une expertise illimitée, la réponse est évidente. La défense est une proposition perdante. En matière de cybersécurité, vous pouvez créer des défenses, mais au bout du compte, la seule solution est la dissuasion. C'est comme la guerre froide, qu'on le veuille ou non, c'est une cyber guerre froide. Nous sommes constamment attaqués par Poutine ou d'autres ennemis du monde libre. Qu'il s'agisse d'États comme l'Iran, la Corée du Nord, la Chine ou des organisations quasi-étatiques qui utilisent également les mêmes méthodes.
Seule la dissuasion pourrait réellement arrêter ces attaques ou les limiter. Parce qu'ils comprendront les conséquences d'être trop agressif. En essayant de protéger nos points faibles ici et là, il est important de construire des défenses. Il est important de sensibiliser le public aux menaces, mais cela ne fonctionnera pas. En ce qui concerne les industries de la fausse information, notre société libre est confrontée à de nombreux défis qui ont rendu possible cette industrie. Il s'agit d'une peur de la partisanerie, de l'absence de dialogue entre des personnes aux conceptions idéologiques différentes qui ont aidé Poutine et les autres ennemis du monde libre à utiliser les fausses informations pour combler ce fossé.
Dan Costa: Vous travaillez donc maintenant avec Avast, une entreprise que les lecteurs de PCMag connaissent très bien. Quel conseil donneriez-vous aux consommateurs pour savoir comment élever leur niveau de défense?
Garry Kasparov: En ce qui concerne le niveau de défense individuel, c'est très facile. Le premier message est destiné aux propriétaires de maisons intelligentes. J'ai été un peu choqué parce que même dans ce Sud par Sud-Ouest, j'ai parlé à beaucoup de gens, des personnes ayant une bonne expertise ne comprennent pas à quel point les maisons intelligentes sont vulnérables aujourd'hui.
Ménage américain, 39 millions possèdent au moins un appareil vulnérable. Les gens ne comprennent pas qu'un seul appareil vulnérable rend toute la maison intelligente vulnérable. Parce que les forces de votre pyramide de défense dépendent du maillon faible. Une mauvaise pomme fait pourrir le paquet entier.
La plupart des problèmes sont causés par les fabricants d’appareils ménagers traditionnels (machines à laver, machines à café) car ils n’ont aucune expertise dans la construction de systèmes numériques. Mais ils doivent le faire maintenant. À très faible coût, parce que c'est une concurrence de prix, mais ils veulent faire partie du système. La plupart des systèmes ne disposent tout simplement pas de défenses adéquates. Je pense que nous avons besoin de… surveillance du gouvernement, nous devons faire pression pour forcer à respecter certaines normes.
Mais aussi d'avoir à fournir des manuels séparés, car personne ne lit un manuel de 100 pages. À la page 85, vous lisez quelque chose sur ce contenu numérique, les gens ne le lisent pas. La plupart d'entre eux utilisent le mode par défaut, qui est bien sûr une invitation ouverte pour un pirate informatique. Je pense qu'il est très important que les gens commencent à faire ce que j'appelle l'hygiène numérique, car nous nous lavons les mains, nous nous brossons les dents, nous le faisons automatiquement. Cela ne nous évite pas certaines maladies graves, mais 90% des problèmes peuvent être évités. De même avec nos appareils mobiles connectés, nous devons toujours nous protéger contre les virus, mais on pourrait faire beaucoup de choses en montrant que nous nous en soucions, car c'est aussi important que notre santé.
Dan Costa: Je veux donc vous poser les trois questions que je pose à tout le monde qui vient dans la série. Y a-t-il une tendance technologique qui vous concerne et qui vous empêche de dormir la nuit?
Garry Kasparov: Non, je suis un optimiste incorrigible. Je m'inquiète pour les mauvaises personnes, pas pour les mauvaises technologies, car chaque technologie a un double usage. Vous pouvez construire un réacteur nucléaire, mais auparavant, malheureusement, vous construisez une bombe nucléaire. Il est malheureux que la destruction soit plus facile que la construction. C’est pourquoi, dans l’histoire, nous savons toujours qu’une nouvelle technologie perturbatrice a fait l’objet de tests visant à déterminer le type de dommage.
Dan Costa: Ne craignez-vous pas que la même chose se produise pour l'IA? Je serai utilisé pour détruire avant qu'il ne soit utilisé pour créer?
Garry Kasparov: Encore une fois, il ne s'agit pas de robots tueurs. Il s'agit de méchants, de mauvais acteurs derrière tout ça. Les gens diront que nous devrions penser à l'IA éthique. AI ne saurait être plus éthique que ses créateurs. Je ne comprends pas ce que cela signifie, comme l'électricité éthique. Si nous avons des préjugés dans notre société, AI les suit. Il y a une disparité, qu'il s'agisse de race, de sexe ou de revenu. Il en tient compte; L'IA est un algorithme basé sur les probabilités. Ainsi, se plaindre de l'IA éthique, c'est comme se plaindre d'un miroir parce que nous n'aimons pas ce que nous voyons là-bas.
Dan Costa: Existe-t-il une technologie que vous utilisez tous les jours et qui suscite encore l’émerveillement?
Garry Kasparov: Non. Pour moi, la véritable merveille du monde est l'accès à l'information. Puisque je peux collecter des données, cela facilite les choses. J'ai grandi en Union soviétique et l'information était rare, il n'y avait pas beaucoup de livres. Maintenant, le fait est que je peux Kindle… ça me fait juste me sentir bien. Il y a tellement de technologies qui nous entourent maintenant qui nous aident à nous améliorer. En outre, ce qui est étonnant, les gens continuent à se plaindre, oh, que pouvons-nous faire? Il n'y a rien de nouveau qui puisse être inventé… et je dis attends une seconde. Vous regardez cet appareil dans votre poche, revenons en arrière en 1976 ou 1977, le supercalculateur Cray était comme un miracle. Cet appareil est quoi? Dix mille fois plus puissant?
- AI est (aussi) une force pour le bien AI est (aussi) une force pour le bien
- Cette IA est trop puissante pour être rendue publique. Elle est trop puissante pour être rendue publique.
- Cette IA prévoit la pêche en ligne avant que cela se produise Cette IA prévoie la pêche en ligne avant que cela se produise
Dan Costa: Plus puissant que la navette spatiale.
Garry Kasparov: Exactement. Nous avons tellement de pouvoir, et… je veux que nous recommençions à rêver grand. Parce que nous avons ces opportunités maintenant. Je suis tellement désolé pour la course à l'espace, nous avons arrêté l'exploration spatiale, l'exploration en profondeur. Revenons en arrière, essayons de faire de grandes choses. Il y a quatre ans, j'ai prononcé un discours d'ouverture à l'Université Saint Louis du Missouri. En s'adressant aux étudiants des cycles supérieurs, j'ai dit, vous devez raviver l'esprit d'exploration, en particulier parce que Saint-Louis est la porte vers l'ouest et qu'il est aujourd'hui plus sûr de voler sur Mars que sur Columbus pour traverser l'Atlantique. Parce qu'au moins nous connaissons la distance et nous avons la carte. J'espère que nos enfants, nos petits-enfants… seront plus agressifs dans leurs rêves, en utilisant cette technologie phénoménale pour nous faire avancer car je pense, avouons-le, reconnaissons ce fait important; notre génération a ralenti dans notre quête de découverte des merveilles du monde, de l'espace ou des océans.
