Techonomy: innovation, IA et éthique

Certaines de mes séances préférées à la conférence Techonomy plus tôt ce mois-ci ont porté sur l’éthique, les valeurs, l’innovation et la façon dont l’intelligence artificielle a joué un rôle dans ces domaines.

Valeurs humaines pour un âge technologisé

Le fondateur de Techonomy, David Kirkpatrick, a commencé la conférence par une conférence sur l’accent mis sur les valeurs humaines de la technologie. La première grande conversation portait sur les "valeurs humaines" avec Julie Hanna, présidente exécutive de Kiva, qui a parlé de la technologie en tant que force de démocratisation et a souligné qu'une grande partie du monde vivait avec moins de 2 dollars par jour. Elle a déclaré que "la plus grande forme de justice est l'accès équitable".

Le révérend Michael C. McFarland, trésorier de la Société de Jésus, province du Nord-Est des États-Unis, a déclaré que nous devions nous demander où était la justice, en termes d'utilisation de la technologie, et de réfléchir aux hypothèses retenues dans la technologie. Il s'inquiète du fait que la technologie en milieu de travail, qui peut produire plus d'efficacité et de productivité, soit souvent déployée sans se soucier de l'impact sur les travailleurs, qui subissent parfois des effets dévastateurs. Il a exhorté le public à commencer par réfléchir à l'expérience du travailleur.

Erica Kochi, Directrice exécutive pour l'innovation et cofondatrice d'UNICEF Innovation, a noté qu'il n'y a pas sept ans, il n'y avait pas de solution technologique valable destinée aux plus pauvres parmi les pauvres et que le message commun était le seul dénominateur commun. Son groupe s'est concentré sur l'élaboration de ses propres solutions à l'aide de messages texte et a noté que, même s'il existe des téléphones Android très bon marché, le système d'exploitation a été conçu pour les utilisateurs disposant d'un forfait de données et non pour ceux vivant avec moins de 2 dollars par jour. "Si nous voulons créer des produits et des services destinés à des personnes qui ne sont pas nous, nous devons réfléchir à cela de leur point de vue", a-t-elle déclaré.

Hanna a parlé du "faux choix entre but et profit, entre mission et produit", et a déclaré que les cultures axées sur la mission sont de meilleurs lieux de travail, engendrent une plus grande fidélité et aident à bâtir des entreprises durables. Kochi a déclaré que vous pouviez faire les deux, et que le modèle de gestion de base devait être aligné sur la responsabilité sociale, ce qui ne devrait pas être quelque chose de fait.

McFarland a parlé de se concentrer non seulement sur les actionnaires, mais sur tous les acteurs d'une entreprise, et d'utiliser comme exemple les Bell Labs d'AT & T avant la dissolution de la société. Il s'inquiète de l'incapacité d'investir dans la R & D à long terme et a déclaré: "Nous devons changer la culture de notre vision des affaires et de ce que cela signifie pour réussir."

Bibliothèque

Tony Marx, président de la Bibliothèque publique de New York, m'a impressionné lors d'une conférence. Il a déclaré qu'à la différence de certains présupposant que les bibliothèques disparaissent, il considérait que les nouvelles technologies constituaient la plus grande opportunité historique de ce que les bibliothèques ont toujours défendu - aider les gens à accéder à l'information.

Il a souligné que, par le passé, les bibliothèques étaient gênées par les contraintes physiques et financières liées à l’accès des populations aux collections, mais a ajouté que cela évoluait.

Les bibliothèques peuvent avoir un impact de trois manières importantes, a-t-il déclaré. Le premier est simplement en connectant les gens, et il a noté qu'un tiers des Américains n'a pas de connexion Internet à la maison, mais les bibliothèques peuvent également servir à former les gens à l'utilisation des ordinateurs, ainsi qu'à la programmation.

Il a dit que, bien que les moteurs de recherche actuels soient "incroyables", ils ont des limites et il a noté qu'une grande partie des informations de base sur la qualité produites par des millénaires d'efforts n'est toujours pas disponible. Il a déclaré que sa vision était d'offrir aux clients de la bibliothèque "gratuitement chaque livre, chaque image, chaque document et chaque archive, partout dans le monde".

Tout revient à la notion ancienne de bibliothèque comme fondation, a déclaré Marx, et nous a exhortés à imaginer si tous les talents du monde avaient la capacité d'apprendre, de créer et d'innover comme ils le voulaient. "Nous avons les outils pour le rendre imparable", a-t-il déclaré. "Faisons le."

Dieux dans des boîtes: algorithmes tout-puissants et valeurs cachées

Oren Boiman, cofondateur et PDG de Magisto, qui utilise l’intelligence artificielle pour éditer des vidéos, a déclaré que "les ordinateurs sont de plus en plus noirs", avec des algorithmes créés par des réseaux de neurones battant les meilleurs algorithmes conçus par les programmeurs. Bien que ces algorithmes puissent prendre des décisions bien mieux que les humains, personne ne comprend vraiment comment ils le font.

Vivienne Ming, cofondatrice et présidente du conseil d'administration de Socos, qui vend un logiciel qui aide les enfants à apprendre en envoyant une recommandation par jour à leurs parents, a parlé de la création d'algorithmes intelligents. Elle a expliqué qu'une grande partie du travail avec les réseaux de neurones profonds dépend des ensembles d'entraînement, et a parlé d'un algorithme de reconnaissance des visages qui ne reconnaît pas les visages noirs en raison d'un biais inhérent à l'entraînement. "Les ordinateurs sont comme les gens", a-t-elle déclaré. "Cela dépend de la façon dont vous les élevez."

Le scientifique principal de Yahoo, Ron Brachman, a déclaré que, bien que nous utilisions des termes anthropomorphisés pour décrire les machines, il existe toujours une différence fondamentale entre les humains et les ordinateurs. Les gens prennent des décisions en fonction de leurs besoins et de leurs désirs, ce qui est très différent de la façon dont les systèmes informatiques prennent des décisions de nos jours.

Boiman a expliqué comment, dans la plupart de ces "boîtes noires", tout est connecté et que de petits changements dans les entrées peuvent entraîner de grandes différences, parfois chaotiques, dans les résultats, comme lorsque les vidéos deviennent virales. Il a dit que cela rend les choses imprévisibles et qu'il est difficile de retracer ce qui s'est passé au début. Brachman a noté que, comme nous n'avons aucun moyen de contrôler ce que les enfants apprennent, il en va de même pour les mécanismes de calcul.

Machines de bureau intelligentes

La discussion sur l'intelligence artificielle et les problèmes éthiques qui en découlent s'est poursuivie au sein d'un autre panel avec les dirigeants de sociétés de logiciels plus spécialisées. Babak Hodjat, co-fondateur et scientifique en chef de l'entreprise d'apprentissage automatique Sentient Technologies, a déclaré que la question de l'éthique était un peu une distraction en matière d'IA, et que cette éthique avait également une incidence sur toutes sortes d'autres technologies, des smartphones aux scores FICO..

George John, président et fondateur de la société de publicité programmatique Rocket Fuel, a souligné les avantages de la technologie et a déclaré: "Si l'IA fonctionne vraiment, les gens devraient rentrer chez eux plus tôt." Il a parlé du besoin de nouvelles compétences en gestion et de la gestion des personnes et des machines intelligentes. Il a également parlé de la recherche d'applications d'intelligence artificielle qui ne conviennent pas uniquement aux grandes entreprises, mais pourraient également bénéficier aux particuliers.

Jag Duggal, vice-président directeur de la gestion des produits pour la société de mesure d'audience Quantcast, a déclaré qu'il s'agissait d'outils conçus pour nous rendre plus productifs, faire plus de choses et augmenter notre capacité. Il a déclaré que de nombreuses innovations et productivité pouvaient en résulter, ajoutant que même si l'on craignait que la technologie ne devienne trop bonne, il se préoccupait beaucoup plus des limites de la technologie.

Il était particulièrement préoccupé par les incitations et par ce qui se passait lorsque les algorithmes d'apprentissage automatique finissaient par suivre des incitations erronées. Par exemple, il a noté que, sur le marché de la mise en place d'annonces en ligne, les fournisseurs de commerce électronique accordaient un crédit à la dernière annonce vue par une personne avant de passer commande. Ainsi, davantage d'annonces sont ciblées après qu'une personne a déjà visité un site de commerce électronique et souvent après que quelqu'un a décidé d'acheter. en d'autres termes, lorsque l'annonce peut être gaspillée. Quantcast tente de donner de meilleurs exemples, a-t-il déclaré.

Jon Stein, fondateur et PDG de la société d'investissement Betterment, basée à Amnesty International, a évoqué les avantages de la technologie, et a reconnu qu'il était important de définir des incitations claires. Il a parlé de suivre les normes fiduciaires, telles que celle d'agir dans le meilleur intérêt de votre client, et a déclaré que la transparence avait un rôle important à jouer pour que les gens puissent comprendre où les conflits pouvaient se produire.

Stein a déclaré que la technologie rendrait plus difficile la criminalité au fil du temps, mais Duggal a ajouté qu'il était plus sceptique, car les escrocs ont également la technologie. Néanmoins, il est impressionné par le potentiel de la technologie et cite un exemple de projet de Google dans lequel une IA peut identifier des cancers chez les taupes sur la peau. Il s'est dit préoccupé par un "mauvais cadrage" du problème par les opposants à la technologie.