Westworld, pourquoi fantasmons nous des robots doués de conscience ?

Posté par Serge TISSERON le 8 janvier 2017.

La dernière série télévisée de HBO, WestWorld, va probablement faire flamber encore un peu plus l’imaginaire de nos contemporains autour des robots. Elle prend en effet pour théâtre un parc de robots humanoïdes exactement semblables à des humains. Et comme on dit qu’il ne manque que la parole aux animaux pour qu’ils nous ressemblent tout à fait, certains des roboticiens qui les ont fabriqués ne sont pas loin de penser qu’il ne leur manque que la conscience. Certains de ces robots vont l’acquérir seuls au fil des épisodes, tandis que d’autres y parviennent guidés par leurs créateurs fascinés. Bref, toute la question de cette série tourne autour de la capacité d’émancipation des robots : acquérir une conscience, une volonté, un libre arbitre, et finalement un destin.

Réalité et imaginaire des robots

Il existe donc un fossé abyssal entre la manière dont les roboticiens conçoivent aujourd’hui leurs machines, à savoir comme des outils sophistiqués, et la façon dont ceux-ci sont présentés dans les œuvres de science-fiction, c’est-à-dire comme des créatures vouées tôt ou tard à acquérir ce qui fait le propre de l’homme, à savoir la conscience réflexive. À partir de ce constat, deux attitudes sont possibles. La première est de vouloir remettre nos concitoyens sur le « chemin de la réalité » en leur rappelant que les robots sont seulement des machines un peu plus compliquées que les autres, certes aussi éloignées d’un grille-pain que celui-ci l’est d’un silex taillé, mais ne méritant pas plus de divagations. La seconde attitude consiste à penser que ces mythes ont une fonction. S’ils n’en avaient pas, ils n’auraient jamais été inventés !
De façon générale, les mythes sont des outils qui permettent à l’homme de construire des représentations psychiques à la fois personnelles et partagées, autour de problèmes qui lui semblent le dépasser : la souffrance, la culpabilité, l’inceste… Ils participent ainsi au processus par lequel l’homme cherche à apprivoiser à la fois ce qu’il observe et ce qu’il ressent. Longtemps les mythes ont fait intervenir les dieux, ils s’en sont aujourd’hui affranchis. Et comme nous sommes de plus en plus dépendants de diverses machines, il est inévitable que les mythes en témoignent. Mais cela ne répond pas à la question : pourquoi la mythologie privilégiée autour des robots concerne-t-elle son devenir humain ?

Apprivoiser les robots en leur imaginant un cœur

Il y a trente ans, le roboticien Masahiro Mori a montré que le robot d’apparence humanoïde suscite un sentiment d’inquiétante étrangeté, et il l’a rapporté à sa ressemblance à la fois troublante et imparfaite avec l’être humain. Aujourd’hui, nous constatons que le robot ne déroute pas seulement nos repères dans nos relations à nos semblables, mais aussi ceux qui organisent nos relations aux objets et aux images. Le robot est en effet un objet, mais différent de tous les autres : il parle, prend des initiatives et plaisante ! Le robot a aussi une apparence qui le fait ressembler à ceux que nous avons vus dans les films, mais tout se passe comme s’il était sorti du cadre de l’image pour marcher dans la même pièce que nous ! Or c’est justement par le cadre que notre culture occidentale, qui a valorisé et encouragé les images, a tenté de maîtriser les risques de confusion entre réalité et fiction dont elles sont porteuses. Enfin, le robot humanoïde, voire androïde, c’est-à-dire doté d’une apparence semblable à la nôtre, nous inspire des sentiments humains, et pourtant son constructeur nous donne le droit de le débrancher comme une simple machine !
Rien d’étonnant donc si le robot suscite chez nous un sentiment d’inquiétante étrangeté ! Le problème est que celui-ci risque de compliquer singulièrement l’introduction des robots dans nos sociétés alors que leur développement est présenté comme une priorité par toutes les économies développées. Des informaticiens travaillent donc sur les moyens de nous rendre ces machines familières pour que nous puissions les côtoyer au bureau et à la maison sans inquiétude, voire avec gratitude. Mais parallèlement aux efforts menés dans les laboratoires, les imaginations, elles aussi, travaillent…

Avec l’autonomie, la machine change de registre imaginaire

Au-delà du seuil technologique de la machine autonome, l’être humain ne peut plus penser l’outil seulement comme un outil, parce qu’il échappe à son contrôle pour passer sous celui de son constructeur. C’est la révolution des algorithmes. Que j’achète un marteau ou une voiture, dans les deux cas je suis son propriétaire et je les contrôle totalement. Mais si j’achète un robot, je ne sais pas comment son fabricant l’a programmé, et je ne sais pas non plus si un hacker ne va pas un jour le retourner contre moi. L’homme a besoin de croire que les machines autonomes aient un jour une conscience, une volonté et un libre arbitre pour pouvoir penser les apprivoiser. Le mythe du robot doué d’une conscience est en cela un peu l’équivalent de la prostituée au grand cœur : plus l’homme accepte de se mettre en situation de vulnérabilité, plus il a besoin de penser que la créature entre les mains de laquelle il s’en remet a « un cœur ». L’idée que l’on puisse un jour donner une conscience aux robots obéit à cette logique : nous permettre de ne plus être effrayé par le robot comme une machine qui serait appelée à « réaliser un programme » sans état d’âme, ni pitié, ni empathie. Nous imaginons une conscience aux robots pour tenter de ré enchanter le monde de la robotique placée aujourd’hui sous le signe du robot « réalisant le programme que ses constructeurs ont conçu pour lui ». Le robot « libre » peut être méchant, mais parce qu’il est « libre », on peut rêver de le faire changer d’avis. Des déportées ont raconté qu’elles étaient rassurées de voir leurs tortionnaires nouer des liaisons amoureuses avec leurs homologues masculins ; cela les rassurait sur le fait que ces femmes, qui leur paraissaient insensibles et « robotisées », étaient toujours des êtres humains, et qu’elles pouvaient, peut-être, en s’y prenant bien, les attendrir. Cela a aidé ces déportées à vivre.
Le problème, avec les robots, est évidemment bien différent, mais il repose sur la même logique. Les imaginer avoir une conscience nous permet de penser pouvoir les influencer même si ne connaissons pas leurs programmes. Bien sûr, cela risque en même temps de nous faire sous-estimer le pouvoir des programmeurs d’entretenir cette illusion, et donc nous de rendre plus vulnérables encore aux manipulations de toutes sortes. Mais si nous voulons combattre efficacement la funeste tendance à imaginer une liberté aux robots, nous devons d’abord ne pas nous tromper sur sa cause. Ce fantasme ne relève pas d’une mauvaise appréciation de la réalité des robots. Il témoigne au contraire d’une excellente appréciation du risque que le robot, préprogrammée et sans cesse reprogrammée à distance par ses concepteurs, échappe totalement à son utilisateur.
Le fantasme d’un robot « libre » cherche à opposer au cauchemar du robot sous contrôle de son fabricant une vision qui n’est pas forcément plus rassurante, mais qui rend à l’homme sa part de liberté.

Trump : de l’empathie comme arme de manipulation massive

Posté par Serge TISSERON le 1er janvier 2017.

2016 se termine, 2017 commence. Quel sera le mot de la nouvelle année ? En 2016, ce fut l’empathie. Rien d’étonnant : en cette époque où nous avons besoin d’espérer, il résonne avec l’optimisme et l’altruisme, voire avec l’amour. Certains affirment même que nous entrerions dans le siècle de l’empathie ! Mais c’est une utilisation toute idéologique du terme ! Car l’empathie n’est pas seulement une forme de résonance affective avec autrui qui conduirait à la compassion et la solidarité. Elle est aussi une faculté cognitive, et à ce titre, elle constitue un formidable outil de manipulation. La preuve ? La campagne électorale de Trump a été une parfaite illustration de ce que l’empathie peut produire de plus efficace en termes de manipulations.

Le levier de la compassion

Quand on évoque la place de l’empathie dans les stratégies de manipulation, le modèle qui vient est celui de l’exploitation de notre compassion pour la souffrance de nos semblables. Son aspect le plus connu consiste à enflammer notre compassion, puis à nous en indiquer le mode d’emploi. La capacité qu’a l’être humain d’éprouver de l’empathie a ainsi toujours été mise à profit. Mais l’empathie n’a pas seulement ce versant affectif qui nous amène à entrer en résonnance avec les émotions d’autrui, au risque d’être manipulé. Elle a aussi un versant cognitif qui nous permet de comprendre ses pensées et ses aspirations. Or certaines personnes bénéficient d’une compréhension empathique aiguisée de leurs interlocuteurs, de telle façon qu’elles parviennent à leur faire croire qu’elles partagent leurs espoirs et leurs inquiétudes. Elles ne cherchent pas à faire vibrer notre sensibilité en nous apitoyant sur la souffrance d’un tiers, pour la détourner ensuite à leur profit. Elles créent l’illusion qu’elles sont « comme nous » en formulant ce que nous ressentons parfois mieux que nous-mêmes, ce qui n’est bien entendu qu’un préalable à la manipulation. C’est exactement ce qu’a fait Trump.

« Je suis comme vous »

Qu’a dit le candidat Donald Trump ? Tout ce que la classe moyenne et ouvrière blanche attendait. Il a clairement parlé de leur douleur. Il les a aidés à restaurer leur sentiment d’appartenance en les positionnant contre les autres catégories de laissés pour compte, principalement les migrants et les habitants des pays en voie de développement. Il a su les convaincre que non seulement il ressentait leur douleur, mais qu’il la partageait, et qu’en fin de compte, il allait les aider. Il a même su faire croire qu’il était « comme eux » en adoptant en permanence le ton de la protestation et de l’insulte, c’est-à-dire sur le ton que prennent les gens qui se sentent humiliés et écrasés quand ils parviennent finalement à protester et que leurs propos dépassent parfois leur pensée. Il a séduit l’électorat populaire par son indignation permanente, ses « coups de gueule » de victime qui se rebelle, sa façon de laisser entendre derrière chacune de ses phrases : « Vous ne me ferez plus taire. »
Mais, dans les semaines qui ont suivi son élection, le président Trump a dit qu’il ne se souvenait pas avoir promis ce que pourtant tout le monde avait entendu, il a réduit à la baisse certains de ses engagements et a reconnu avoir manqué de réflexion pour d’autres. Et il a commencé à mettre en place une politique destinée à profiter aux plus riches. D’ailleurs, la bourse s’est envolée !

La duplicité du démagogue empathique

Trump n’a eu aucun autre objectif pendant sa campagne que de se faire élire, et il a compris qu’il valait mieux pour cela dénoncer sans relâche les élites et les institutions par lesquelles la plupart des citoyens se sentent incompris, que hasarder un programme qui réunirait sur son nom bien moins de voix. Donald Trump n’a pas rencontré ses électeurs parce qu’il était en résonance avec eux, comme ceux-ci l’ont cru, mais parce qu’il a su en créer l’illusion. Il a eu la capacité de percevoir formidablement l’état émotionnel de la classe moyenne et ouvrière blanche, et il est parvenu remarquablement à y coller. Bien sûr, c’est de la démagogie, mais une forme de démagogie bien particulière. Certains politiques entrent en résonance avec une large partie de la société en croyant ce qu’ils disent, et ce fut probablement le cas de Hitler, mais d’autres parviennent à dire ce qu’un grand nombre de gens ressentent… sans en croire eux-mêmes le moindre mot, et ce pourrait bien être le cas de Trump.

Sa capacité de nuisance ne fait que commencer, n’en doutons pas. Apprenons au moins à ne pas minimiser son intelligence manipulatoire.

« Hatchimal », le robot de Noël destiné à coloniser l’esprit de nos enfants

Posté par Serge TISSERON le 22 décembre 2016.

Les robots vont-ils détrôner cette année les ours en peluche et autres poupées au pied du sapin ? Il y a juste une année, des poupées Barbie connectées et transmettant en permanence les propos de ceux qui les entouraient à leurs fabricants ont été boycottées par les associations familiales américaines. Pourtant, le cylindre Echo commercialisé par Amazon au même moment, et qui est doté exactement des mêmes possibilités, a été accepté par beaucoup de familles. C’est que la cible était mal choisie, les enfants étant perçus comme une espèce à protéger. Les marchands de Noël ont donc décidé cette année de coloniser l’esprit de nos enfants par une autre porte. Le produit s’appelle Hatchimals. Il s’agit de petits animaux en peluche qui ne sortent de l’œuf dans lequel ils sont livrés que si leur possesseur est capable de leur témoigner une attention suffisante à travers la coquille, notamment en leur parlant. Leur jeune propriétaire est alors invité à faire grandir sa créature. Il s’agit en quelque sorte d’une version high-tech des tamagotchis qui ont connu leur heure de gloire il y a 20 ans. Entre temps, la robotique a progressé, mais aussi la recherche en sciences humaines.

De grands yeux pour te convaincre que je t’attends

La peluche est dotée de deux grands yeux à la pupille exagérément dilatée comme le sont déjà depuis quelques années les peluches Ty. Or c’est justement chez l’être humain la dilatation de la pupille qui est le signe immédiatement perçu et interprété d’un désir de rapprochement de la part de notre interlocuteur. Une expérience simple le met en évidence. On montre à des sujets deux visages féminins. Il s’agit en réalité du même, la seule différence résidant dans le fait que sur l’une des deux images, les pupilles sont dilatées alors que sur l’autre elles ne le sont pas. La première surprise est que ces deux visages ne sont pas identifiés comme étant le même tant notre attention, face à un visage, se concentre sur ses yeux. On demande alors aux sujets testés laquelle de ces deux femmes ils aimeraient rencontrer. Massivement, les sujets optent pour celle qui a les pupilles dilatées alors qu’il s’agit, encore une fois, de la même. Chez les peluches et les robots, ces yeux ont la même fonction : convaincre l’utilisateur qu’il est désiré !

Une dépendance réciproque

Ce n’est pas le fait qu’un robot soit capable de se déplacer et d’accomplir des gestes semblables aux nôtres qui nous le rend le plus proche, c’est le fait qu’il tourne la tête dans notre direction si nous l’appelons (1). S’il me pose une question, cela me comble : j’ai le sentiment qu’il s’intéresse à moi. Et s’il me demande de l’aider, je m’engage avec lui dans une relation dans laquelle je ne suis pas enclin à penser qu’il simule, parce que je n’y simule pas moi-même. Cela crée l’illusion d’une forme de désir. Or l’expression d’un désir n’est pas perçue comme relevant d’une simulation parce qu’il nous semble y reconnaître le fonds de la nature humaine.
Autrement dit, ce qui peut le mieux nous attacher à un robot, ce n’est pas qu’il s’occupe de nous, c’est qu’il nous interpelle pour nous inviter à nous occuper de lui. Aussitôt que nous sommes amenés à nous occuper du robot et à lui apprendre des choses, nous cessons de le percevoir comme une machine et il devient une sorte d’enfant dont nous aurions la charge. Que le robot semble vouloir interagir avec moi, et je suis enclin à penser qu’il est conscient de ma présence, qu’il me reconnaît, et bientôt qu’il m’aime. Que son programme génère l’illusion qu’il a besoin de moi pour évoluer et la dépendance que je lui prête risque d’engendrer la mienne. Ce n’est guère étonnant : il n’y a de dépendance que réciproque.
Les Hatchimals ne sont pas encore destinés à capturer et transmettre nos données les plus personnelles. Ils sont là pour nous convaincre de leur parler, de nous confier à eux, de leur faire confiance en toutes circonstances parce qu’ils ont besoin de nous. Quand notre attachement leur sera acquis, leur connexion pourra être présentée comme une façon de rendre plus intense encore la relation que nous lie à eux. Le pari de leur acceptabilité aura été gagné.

« J’ai confiance dans mon robot »

Avec les robots, nos projections anthropomorphes sont donc appelées à flamber. Est-ce de l’animisme ? Non, pour autant que nous n’accompagnons pas ces projections de la croyance que le robot aurait « pour de vrai » les capacités que nous lui prêtons. Hélas, les grandes entreprises qui nous veulent nous vendre des robots – comme Softbank pour le robot Pepper – ont déjà commencé à nous convaincre que les robots domestiques proposés à notre achat auraient « du cœur », et même une conscience totalement dévouée à notre service. D’autres étapes sont déjà prévues pour que nous ayons dans nos robots une confiance aveugle. Comme pour les enfants appelés à faire éclore leur « Hatchimal », tout sera fait pour que nous ayons l’illusion qu’ils commencent à vivre avec nous. De ce point de vue, l’idée du roboticien japonais Hiroshi Ishiguro que l’acheteur d’un robot l’active en lui prenant les mains et en le faisant accéder à la position verticale est particulièrement habile. C’est une forme de mise au monde, un peu comme si nous aidions un bébé à marcher seul sur ses deux jambes ! L’homme sera d’autant plus enclin à attribuer à un robot domestique des qualités humaines qu’il aura eu l’illusion de le mettre au monde en l’éveillant à la conscience de son environnement. Et ce fantasme se prolongera bien entendu dans celui d’aider son robot à grandir. Notre attachement à un objet est encore plus fort si nous décidons de le mettre sous notre protection. Bien sûr, il faut y être déjà attaché pour faire ce choix, mais incontestablement, cela renforce l’attachement que nous lui portons : il en va alors de notre estime de nous-mêmes dans la possibilité de le protéger. D’ores et déjà, dans le laboratoire de Hiroshi Ishiguro à Osaka, les chercheurs en charge de faire évoluer un robot dans une relation personnalisée sont appelés leur « mère ». Ces stratégies sont destinées à nous faire oublier que les robots sont programmés par des humains dont le souci principal est de contrôler nos comportements pour les orienter dans le sens d’une consommation toujours plus guidée.

Le robot, meilleur ami du commerçant

Le robot est incontestablement le meilleur ami du commerçant : attentif au moindre de nos besoins, transmettant en permanence nos données à leurs concepteurs afin de mieux s’adapter à nos attentes en temps réel, et capables de nous suggérer en toutes circonstances les « bons » choix à faire. Google et Amazon utilisent déjà des algorithmes « intelligents » qui sélectionnent les contenus à nous présenter en priorité avec le risque de constituer pour chacun d’entre nous une bulle spécifique capable d’orienter notre perception du monde et de nous enfermer dans nos a priori. Mais les oeillères qu’ils nous fabriquent à chaque fois que nous les consultons ne sont rien à côté de celles que nous fabriqueront nos robots, lorsqu’ils vivront près de nous du matin au soir, et que nous serons invités à les acheter en pensant que ce sont nos « meilleurs amis ».
Je ne serai pas étonné que le patron de SoftBank, qui projette de vendre un robot par famille au Japon dans les 10 ans, et dans bien d’autres pays ensuite, se rêve déjà en maître du monde.

(1) Turkle S., Seuls ensemble, de plus en plus de technologies et de moins en moins de relations humaines (2011), L’échappée, 2015.

Face au triple défi de l’institution scolaire, formons des « inspecteurs ressources » (publié dans le Huffington le 29 nov)

Posté par Serge TISSERON le 22 décembre 2016.

Un effort important est fait aujourd’hui pour intégrer les outils numériques dans les écoles, mais faute d’une formation rapide des enseignants, ils risquent d’être devenus obsolètes le temps que les professeurs soient en mesure de s’en servir. Mieux vaut partir de l’idée d’adapter l’enseignement à ce que nous savons des élèves et de leurs particularités. L’autonomie de l’enfant, sa curiosité et son adaptabilité doivent guider tous les projets. Dans cette logique, le numérique ne doit pas cacher d’autres impératifs, même s’il a une place essentielle à prendre.

Un triple défi

Tout d’abord, le numérique bouleverse tous les domaines, avec des conséquences considérables sur l’état d’esprit des élèves : le rapport aux savoirs, la construction de l’identité, les attentes vis à vis d’autrui, le rapport à l’espace, au temps, aux images et bien entendu les formes de l’apprentissage. Ces bouleversements contribuent à créer une nouvelle culture que les enfants adoptent très tôt et que l’institution scolaire doit assimiler si elle veut rencontrer leurs préoccupations, en sachant parfois partir d’elle pour amener les élèves aux savoirs académiques.

En même temps, il est urgent de reconnaitre que notre système éducatif a été conçu avec l’ambition d’apprendre aux enfants des connaissances utilisables toute leur vie en privilégiant l’intelligence hypothético-déductive sur toutes les autres. Or, aujourd’hui, nous savons que l’apprentissage se fera tout au long de la vie et qu’il met en œuvre l’ensemble de l’humain : son corps, ses sens, huit formes différentes d’intelligences, et que les apprentissages sont indissociables des émotions et de la socialisation. Les récentes découvertes des sciences cognitives sont le second défi que l’institution scolaire doit relever.

Enfin, dans 20 ans, entre 20% et la moitié des métiers d’aujourd’hui auront disparus. L’enseignement doit inviter les élèves à imaginer leur métier de demain et développer les qualités qui leur seront nécessaires quoi qu’ils fassent : être autonome, être créatif, et savoir coopérer en se montrant capable de critiques constructives. Tout cela nécessite évidemment bienveillance et empathie de la part des enseignants car les émotions jouent un rôle majeur dans les apprentissages.

Pour une école augmentée avec le numérique

Les outils numériques ont un inconvénient majeur : ils ne permettent pas de construire les possibilités narratives, En revanche, ils ont deux atouts importants : ils peuvent s’adapter à chaque élève et ils favorisent les deux composantes de la motivation intrinsèque : la sécurisation et l’innovation. Mais à condition de ne pas confondre dispositif d’enseignement et processus d’apprentissage. Dans un dispositif d’enseignement, l’élève est invité à augmenter ses connaissances et ses performances. Dans un processus de formation, il est invité à s’identifier à l’enseignant, à sa curiosité et à sa créativité. Grâce aux technologies numériques, l’élève peut travailler à son rythme, aux moments où il le souhaite, en trouvant dans chaque discipline un niveau de difficultés adapté à ses compétences. En outre, s’il le désire, il peut s’appuyer sur un tuteur virtuel qu’il peut à tout moment convoquer et consulter. Les espaces numériques favorisent aussi ce qu’on appelle la motivation d’innovation (chacun prend d’autant plus de plaisir à une tâche qu’il y construit son propre parcours personnel) et la motivation de sécurisation : les logiciels ne jugent pas et ne condamnent pas, et permettent à l’apprenant de se constituer une véritable « feuille de route » dont il peut visualiser les étapes à chaque moment, et pas seulement dans le domaine des connaissances acquises. Cette consultation est en effet possible pour toutes les opérations correspondant à la construction et à l’exécution d’un programme : les connaissances existantes au départ, les progrès dans l’acquisition de compétences nouvelles, la diversité des stratégies utilisées pour résoudre les difficultés, et enfin l’importance du recours aux pairs et aux bases de données pour y parvenir. C’est notamment le projet de ce qu’on appelle les Serious Games.
Mais en même temps, l’élève a besoin d’une relation vivante avec un enseignant qui valorise ses possibilités, et auquel il peut s’identifier dans une relation dynamique et créatrice aux savoirs. Parce que les émotions et l’accompagnement bienveillant sont au cœur des apprentissages, l’école ne doit pas « s’adapter » au numérique, elle doit s’augmenter avec le numérique.

Encourager les bonnes pratiques numériques

Nous voyons que la technologie ne suffira pas à changer l’école, mais qu’en même temps, dans ce changement, le numérique a sa place. Il ne peut pas à lui seul résoudre la crise que vit l’éducation nationale depuis plusieurs années, mais il n’est pas non plus le « cache misère » que brocardent certains. Ne confondons pas mauvais usages du numérique et possibilités du numérique, et n’abandonnons pas les secondes sous prétexte de nous débarrasser des premiers. Le numérique est un outil, pas une baguette magique. Bien utilisé, il permet d’intégrer des enfants handicapés dans le circuit normal, de remotiver certains élèves, de développer la motivation intrinsèque, d’effectuer des retours d’expériences qui confortent la motivation initiale, et de favoriser l’auto évaluation. N’attendons pas de la technologie plus que ce qu’elle peut donner, mais explorons tout ce qu’elle peut apporter. La culture du livre et celle des écrans sont chacune des sources possibles d’apprentissage et de développement. Et l’encouragement des bonnes pratiques – et notamment des pratiques partagées et/ou créatrices – est la meilleure façon de s’opposer aux pratiques problématiques. Il s’agit donc moins d’interdire l’attachement nouveau et irrépressible aux écrans que de l’utiliser pour un usage intelligent et éducatif.

Former des « inspecteurs ressources » qui proposent et guident sans imposer

Cela nécessite une mobilisation de l’ensemble des acteurs de l’éducation. Le système éducatif français ne changera pas par le sommet, mais par la base. Le problème est que beaucoup d’enseignants craignent, en travaillant autrement, de perdre le contrôle sur leurs élèves et de de susciter la suspicion de leurs collègues. C’est pourquoi l’introduction du changement ne peut se faire que si c’est un projet d’établissement incluant l’existence de personnes ressource. L’urgence est de former des encadrants qui proposent et guident, mais n’imposent pas, et qui libèrent les possibilités d’initiative des enseignants. Pourquoi pas les inspecteurs d’académie volontaires pour mener ce travail ? A condition bien entendu de les libérer de la tâche qui consiste à les envoyer « noter » des enseignants avec pour seul effet d’augmenter le stress et l’infantilisation de ceux-ci. Ils pourraient devenir alors des « Inspecteurs ressources », une façon à la fois de rappeler leur histoire, et de les tourner résolument vers l’avenir.

L’irrésistible succès d’une publicité mensongère qui veut faire prendre des vessies pour des lanternes et des robots pour des humains

Posté par Serge TISSERON le 20 octobre 2016.

Les Japonais plébiscitent le robot Pepper ! A tel point que l’entreprise Softbank qui le fabrique espère bien en vendre un par famille au Japon dans les vingt ans qui viennent. L’une des clés de ce succès réside dans les spots publicitaires qui lui sont consacrés. Le plus regardé raconte quelques scènes de la vie quotidienne avec lui dans le Japon contemporain (1). Pepper y est confronté successivement à plusieurs protagonistes d’une génération différente : une jeune femme, des enfants, un homme et une veuve âgée.
La première séquence est la plus intéressante. Une jeune femme rentre seule dans son appartement après une dispute avec son amoureux. Le Pepper a gardé la maison. Il comprend tout de suite la tristesse de sa maîtresse et essaye de la consoler en l’amusant. Le visage du Pepper présente en toutes circonstances une expression identique, mais c’est avec le corps et les gestes qu’il essaye de distraire la jeune femme. Celle-ci refuse sa bienveillance en lui disant « Laisse-moi toute seule ! ». Mais Pepper reçoit un message électronique de l’amoureux. Il montre aussitôt le message à la jeune femme qui retrouve son sourire et tombe dans les bras de son Pepper...

Prendre des vessies pour des lanternes

Les trois autres séquences montrent le robot successivement avec des enfants, un homme et une femme âgée. A chaque fois, il remplit son rôle, au besoin en palliant l’absence de quelqu’un. Ce film nous montre une vie future, apparemment heureuse, avec un Pepper. Il veut nous convaincre que le caractère inattendu du robot ne doit pas nous inquiéter, mais plutôt nous rassurer. La dernière scène dit quelque chose comme : « Notre futur arrive avec ce robot inespéré ». Il y a cinquante ans, chaque famille attendait d’avoir la télévision, et il y a trente ans, le téléphone. Ce film veut donner à chaque famille japonaise le désir d’avoir un Pepper. Est-ce que les Japonais croient vraiment que ce robot sait faire autant de choses qu’on en voit sur la publicité ? Espérons que non ! Mais cette publicité est conçue pour les rendre curieux de ce qu’un Pepper pourrait faire avec eux. Les psychologues ont coutume de dire que pour guérir, se développer et vivre heureux, il faut être au moins deux. Cette publicité veut convaincre qu’on peut être deux, se développer ensemble et être heureux avec un robot !
Hélas, sous prétexte de doper les ventes, cette confusion encouragée risque de créer chez les usagers des illusions grossières sur ce que sont en réalité les robots. C’est ce que le langage commun désigne vulgairement sous l’expression « faire prendre des vessies pour des lanternes ». Avec le danger de nous faire oublier trois repères essentiels à garder à l’esprit dans nos relations aux robots : ils nous imposent les solutions de leurs programmeurs et peuvent être connectés en permanence à eux ; ils seront encore longtemps des machines à simuler incapables de toute émotion et de toute souffrance ; et il serait très dangereux de les considérer comme un modèle possible pour les relations humaines, notamment pour leurs qualités d’attention et d’affection…

Attendre des robots ce que l’on attend d’un humain

Les robots ayant une apparence humanoïde, voire androïde, vont inévitablement constituer un support de projections intenses de la part de leurs usagers. Les psychologues de l’armée américaine ont été bien étonnée lorsqu’ils ont découvert que des soldats en charge de robots démineurs pouvaient s’attacher à leurs machines comme à des animaux, voire comme des êtres humains. Bien sûr, ces soldats ne confondaient pas leurs robots avec des créatures vivantes ! Mais ils ne pouvaient pas s’empêcher d’éprouver pour eux des sentiments et de se sentir affectés par la manière dont ces machines pouvaient être endommagées au cours des opérations de déminage. De la même façon que des militaires américains ont pu mettre leur vie en péril pour sauver leur robot, il n’est donc pas absurde d’imaginer que des personnes âgées puissent mettre en danger la leur pour tenter d’épargner à leur robot des risques évidemment sans commune mesure avec ceux qu’elles courront elle-même pour leur venir en aide. Et de façon générale, c’est la barrière entre monde humain et monde non humain autour de laquelle toute culture s’organise qui serait menacée.

Des garde fous législatifs, technologiques et éducatifs

Le législateur devrait bien entendu commencer par interdire comme mensongères les publicités qui tentent de nous faire croire que les robots ont des émotions. L’affirmation du patron de SoftBank lors de sa présentation du robot Pepper aux médias, selon laquelle, ce robot « aurait du cœur » relève évidemment d’une intoxication dangereuse !
Les roboticiens, quant à eux, devraient envisager de recouvrir une partie du corps de leurs robots d’une protection transparente afin que les câbles et moteurs qui les constituent soient visibles. Cela inviterait leurs usagers à garder la conscience qu’il s’agit de machines certes plus perfectionnées que leur moulin à café, mais qui ne cessent pas pour autant d’être des objets. Un fabricant de robots auquel je proposais cette mesure m’a répondu qu’il avait d’abord essayé, mais que voir la mécanique interne d’un robot, même très partiellement, avait un effet angoissant sur de nombreux usagers. Mais faut-il suivre le désir du consommateur et lui proposer les robots immaculés aux grands yeux attentifs dont il désire être entouré ? Rien n’est moins sûr. A trop flatter le désir du consommateur, on risque de l’engager sur la voie d’un anthropomorphisme envahissant, voire d’une robot dépendance.
Quant aux mesures éducatives, elles consisteraient à encourager partout les enfants à fabriquer et animer de petits robots : c’est la meilleure manière de commencer à les penser comme des machines. Apprendre le codage ne suffit plus, il faut y ajouter la fabrication de petits robots.

La publicité destinée à vendre un Pepper à chaque famille japonaise raconte donc ce que les acheteurs ont envie de croire : ce robot serait un compagnon parfait à chaque âge de la vie. Mais faut-il les encourager à le croire, ou au contraire les en dissuader ? Les marchands sont évidemment résolument du premier côté. N’oublions pas qu’il n’existe pas d’innovation technologique qui ait suscité plus de fantasmes que les robots, exception faite des dieux, ce qui n’est pas anodin. Or les fantasmes humains sont à prendre au sérieux : leur origine plonge dans l’imaginaire, certes, mais leurs conséquences peuvent impacter gravement la réalité. Une réflexion éthique sur les robots ne doit pas seulement envisager les risques qu’ils pourraient faire courir aux humains. Elle doit aussi prendre en compte les dangers que les humains pourraient se faire courir à eux-mêmes par une appréciation erronée de ce que ces machines peuvent leur apporter, autrement dit de ce qu’elles sont.

(1). https://www.youtube.com/watch?v=3a4sZnLRvqk

Cliquez sur chacune de ces bannières pour accéder aux sites correspondants

jeu des 3 figures
3-6-9-12

Catégories

Actualités

Adolescence

culture

education

Jeux vidéo

Nouveaux médias

Archives