Qui ?
Luc Julia, CTO et SVP de Samsung sur l’innovation, signataire du manifeste Agile en 2002, co-auteur des brevets qu’Apple a racheté pour Siri, qu’il a aidé à développer au sein d’Apple en 2012.
Quoi ?
Une soirée organisée par Lab 222 avec l'auteur de “L’intelligence artificielle n'existe pas”
Comment ?
Luc Julia dresse d'abord l'historique de l’IA, qui remonte à la Pascaline, ainsi nommée en l’honneur de son inventeur Blaise Pascal en 1662. Cette machine à calculer était en réalité le premier ordinateur. Le terme "intelligence artificielle" apparait à Dartmouth en 1956, pour nommer une discipline dont le but était d’imiter le cerveau humain. Le (faux) postulat? modéliser un neurone et reproduire le fonctionnement du cerveau. Après l’échec de ces proclamations en 1965, l'IA entre dans sa phase d’hibernation.
L'ancêtre de l'IA ? Blaise Pascal...
En 1997, ça repart, avec les avancées des systèmes experts, quand Kasparov est battu par Big Blue.2016, une IA bat un champion coréen de Go, qui, contrairement aux échecs, n’est pas un jeu complet, car la machine ne peut pas calculer tous les 10752 coups possibles. La machine a appris sur une base de 30 000 parties, et représente une consommation énergétique équivalente à celle d'un petit data center-alors que le cerveau du coréen carbure à 20 watts par heure, comme tout cerveau humain. Les méthodes de l’IA sont gourmandes en énergie car elles n’ont rien à voir avec celles de la vraie intelligence.
Selon le SVP de Samsung, la voiture complètement autonome, annoncée au CES pour 2028, est un mirage. “Le véhicule qui peut s’adapter à toutes les situations n’importe où et n’importe comment, ce qu’on appelle niveau 5, n’existera jamais”. Exemple place de l’Étoile à 18h : “Vous y mettez une voiture autonome, elle ne bougera pas parce qu’elle a appris des règles. Or, la place de l’Étoile à 18h, ça n’est pas du ressort du code de la route, mais de la sociologie, de la négociation. Même si vous voulez programmer la négociation entre véhicules, v to x, la communication de véhicule à véhicule, vous finiriez avec des règles spécifiques à un lieu. Si vous prenez cette même voiture et que vous l’emmenez à Bangalore, elle ne pourra pas s’adapter aux conducteurs. Il y aura toujours un cas particulier.”
Luc Julia s’amuse à visionner les entrainements que Waymo, la filiale d’Alphabet (Google) chargée des voitures autonomes, publie sur YouTube. Il a remarqué une vidéo dans laquelle il s’aperçoit que la voiture conduit normalement, puis s’arrête au milieu d’une rue et reprend et s’arrête à plusieurs reprises. L'explication ? Un passant qui portait un panneau STOP qui dépassait de son sac, induisant le véhicule en erreur.
Les blagues de Siri ont fait croire à l'intelligence de l'IA
Son travail sur Siri est en partie responsable de l’anthropomorphisme des assistants intelligents : “C'est à cause de nous que les gens ont cru qu’il y avait une IA qui était intelligente, parce qu’on a créé un système qui était marrant, un peu rigolo, et qui était un peu ‘humain’. Et justement on a humanisé le machin parce qu'on savait que ça ne marchait pas. On a rajouté de la stupidité artificielle dans Siri.” C'est le “paradigme de la boite de nuit”, que Luc Julia a théorisé plus tard comme métaphore du dilemme d’interprétation de Siri : “la boite de nuit est un endroit où il y a beaucoup de bruit, dans lequel on est tous bourrés. Et puis, il y a quelqu’un qui se met à nous parler. On comprend 80% de ce qui est dit (ce que faisait Siri au départ), on discute sans comprendre mais on continue la conversation, puis il y a visiblement un engagement, donc il faut faire quelque chose. Mais la réponse de Siri était de dire n’importe quoi! L’IA raconte des blagues qui n’ont rien à voir avec le sujet quand ça ne marche pas. Çaaide à humaniser l’assistant, les gens aiment ça, mais au fond c’est juste de la stupidité artificielle que nous avions ajoutée.”
Un nouveau terme pour l'IA : l'intelligence augmentée
Le terme d’intelligence artificielle est donc inapproprié. Les machines sont capables d’atteindre de hautes compétences dans des domaines étroitement définis, mais ces domaines sont trop particuliers pour le transfert des savoirs. Plutôt que de parler d’intelligence artificielle, au vu des déceptions que le terme peut engendrer, l’"intelligence augmentée", fait référence, non pas à l’outil seul, mais à la façon dont notre intelligence peut être augmentée par ces outils. Nous décidons d’utiliser ces objets à bon ou mauvais escient. Les IA ne peuvent pas créer, c’est là que l’humain se démarque : “c’est nous qui inventons, donc c’est nous qui avons le contrôle”.
La session question réponse aboutit inévitablement au rôle des Gafa dans l'IA. Une grande partie de l’IA sont des affabulateurs qui cherchent à lever des fonds pour leur start-up, mais l’IA qui est déployée massivement aujourd’hui et qui génère beaucoup d’argent est l’IA portée sur l’identification des comportements et de leur modification : le duopole de Google (dont YouTube) et Facebook (dont Instagram) sur notre attention, qui vise à identifier des patterns de comportements, et faire converger le public vers le comportement le plus statistiquement probable.
"N'utilisez pas Facebook "
Comment, dans ces conditions, inventer des services en dehors des clous ? “Vous voulez vraiment que je vous dise? N’utilisez pas Facebook. N’utilisez pas des trucs que vous savez être en train de vous modeler d’une façon dont vous n’avez pas envie. C’est à vous de décider, c’est votre libre arbitre, c’est votre choix. Je ne suis pas sur Facebook parce que je n’en ai pas envie. Je comprends comment ça marche et je n’ai justement pas envie d’être mis dans un moule comme tout le monde. On peut avoir des sociétés de moutons, ou on peut faire marcher notre cerveau à 20 watts.”
Luc Lewitanski
