L’irrésistible succès d’une publicité mensongère qui veut faire prendre des vessies pour des lanternes et des robots pour des humains

Posté par Serge TISSERON le 20 octobre 2016.

Les Japonais plébiscitent le robot Pepper ! A tel point que l’entreprise Softbank qui le fabrique espère bien en vendre un par famille au Japon dans les vingt ans qui viennent. L’une des clés de ce succès réside dans les spots publicitaires qui lui sont consacrés. Le plus regardé raconte quelques scènes de la vie quotidienne avec lui dans le Japon contemporain (1). Pepper y est confronté successivement à plusieurs protagonistes d’une génération différente : une jeune femme, des enfants, un homme et une veuve âgée.
La première séquence est la plus intéressante. Une jeune femme rentre seule dans son appartement après une dispute avec son amoureux. Le Pepper a gardé la maison. Il comprend tout de suite la tristesse de sa maîtresse et essaye de la consoler en l’amusant. Le visage du Pepper présente en toutes circonstances une expression identique, mais c’est avec le corps et les gestes qu’il essaye de distraire la jeune femme. Celle-ci refuse sa bienveillance en lui disant « Laisse-moi toute seule ! ». Mais Pepper reçoit un message électronique de l’amoureux. Il montre aussitôt le message à la jeune femme qui retrouve son sourire et tombe dans les bras de son Pepper...

Prendre des vessies pour des lanternes

Les trois autres séquences montrent le robot successivement avec des enfants, un homme et une femme âgée. A chaque fois, il remplit son rôle, au besoin en palliant l’absence de quelqu’un. Ce film nous montre une vie future, apparemment heureuse, avec un Pepper. Il veut nous convaincre que le caractère inattendu du robot ne doit pas nous inquiéter, mais plutôt nous rassurer. La dernière scène dit quelque chose comme : « Notre futur arrive avec ce robot inespéré ». Il y a cinquante ans, chaque famille attendait d’avoir la télévision, et il y a trente ans, le téléphone. Ce film veut donner à chaque famille japonaise le désir d’avoir un Pepper. Est-ce que les Japonais croient vraiment que ce robot sait faire autant de choses qu’on en voit sur la publicité ? Espérons que non ! Mais cette publicité est conçue pour les rendre curieux de ce qu’un Pepper pourrait faire avec eux. Les psychologues ont coutume de dire que pour guérir, se développer et vivre heureux, il faut être au moins deux. Cette publicité veut convaincre qu’on peut être deux, se développer ensemble et être heureux avec un robot !
Hélas, sous prétexte de doper les ventes, cette confusion encouragée risque de créer chez les usagers des illusions grossières sur ce que sont en réalité les robots. C’est ce que le langage commun désigne vulgairement sous l’expression « faire prendre des vessies pour des lanternes ». Avec le danger de nous faire oublier trois repères essentiels à garder à l’esprit dans nos relations aux robots : ils nous imposent les solutions de leurs programmeurs et peuvent être connectés en permanence à eux ; ils seront encore longtemps des machines à simuler incapables de toute émotion et de toute souffrance ; et il serait très dangereux de les considérer comme un modèle possible pour les relations humaines, notamment pour leurs qualités d’attention et d’affection…

Attendre des robots ce que l’on attend d’un humain

Les robots ayant une apparence humanoïde, voire androïde, vont inévitablement constituer un support de projections intenses de la part de leurs usagers. Les psychologues de l’armée américaine ont été bien étonnée lorsqu’ils ont découvert que des soldats en charge de robots démineurs pouvaient s’attacher à leurs machines comme à des animaux, voire comme des êtres humains. Bien sûr, ces soldats ne confondaient pas leurs robots avec des créatures vivantes ! Mais ils ne pouvaient pas s’empêcher d’éprouver pour eux des sentiments et de se sentir affectés par la manière dont ces machines pouvaient être endommagées au cours des opérations de déminage. De la même façon que des militaires américains ont pu mettre leur vie en péril pour sauver leur robot, il n’est donc pas absurde d’imaginer que des personnes âgées puissent mettre en danger la leur pour tenter d’épargner à leur robot des risques évidemment sans commune mesure avec ceux qu’elles courront elle-même pour leur venir en aide. Et de façon générale, c’est la barrière entre monde humain et monde non humain autour de laquelle toute culture s’organise qui serait menacée.

Des garde fous législatifs, technologiques et éducatifs

Le législateur devrait bien entendu commencer par interdire comme mensongères les publicités qui tentent de nous faire croire que les robots ont des émotions. L’affirmation du patron de SoftBank lors de sa présentation du robot Pepper aux médias, selon laquelle, ce robot « aurait du cœur » relève évidemment d’une intoxication dangereuse !
Les roboticiens, quant à eux, devraient envisager de recouvrir une partie du corps de leurs robots d’une protection transparente afin que les câbles et moteurs qui les constituent soient visibles. Cela inviterait leurs usagers à garder la conscience qu’il s’agit de machines certes plus perfectionnées que leur moulin à café, mais qui ne cessent pas pour autant d’être des objets. Un fabricant de robots auquel je proposais cette mesure m’a répondu qu’il avait d’abord essayé, mais que voir la mécanique interne d’un robot, même très partiellement, avait un effet angoissant sur de nombreux usagers. Mais faut-il suivre le désir du consommateur et lui proposer les robots immaculés aux grands yeux attentifs dont il désire être entouré ? Rien n’est moins sûr. A trop flatter le désir du consommateur, on risque de l’engager sur la voie d’un anthropomorphisme envahissant, voire d’une robot dépendance.
Quant aux mesures éducatives, elles consisteraient à encourager partout les enfants à fabriquer et animer de petits robots : c’est la meilleure manière de commencer à les penser comme des machines. Apprendre le codage ne suffit plus, il faut y ajouter la fabrication de petits robots.

La publicité destinée à vendre un Pepper à chaque famille japonaise raconte donc ce que les acheteurs ont envie de croire : ce robot serait un compagnon parfait à chaque âge de la vie. Mais faut-il les encourager à le croire, ou au contraire les en dissuader ? Les marchands sont évidemment résolument du premier côté. N’oublions pas qu’il n’existe pas d’innovation technologique qui ait suscité plus de fantasmes que les robots, exception faite des dieux, ce qui n’est pas anodin. Or les fantasmes humains sont à prendre au sérieux : leur origine plonge dans l’imaginaire, certes, mais leurs conséquences peuvent impacter gravement la réalité. Une réflexion éthique sur les robots ne doit pas seulement envisager les risques qu’ils pourraient faire courir aux humains. Elle doit aussi prendre en compte les dangers que les humains pourraient se faire courir à eux-mêmes par une appréciation erronée de ce que ces machines peuvent leur apporter, autrement dit de ce qu’elles sont.

(1). https://www.youtube.com/watch?v=3a4sZnLRvqk

Pourquoi l’expo Hergé commence-t-elle par la fin ? (publié dans le Huffington le 5/10/2016

Posté par Serge TISSERON le 20 octobre 2016.

La merveilleuse exposition que le Grand palais consacre à Hergé jusqu’au 15 janvier 2017 présente une particularité qui n’échappe à aucun visiteur, et pour cause : elle commence par la fin ! Ou plutôt, elle commence par un épisode de la vie de Hergé qui concerne le début des années 1960, bien loin donc de sa mort survenue en 1983. C’est en effet par les peintures abstraites qu’il a réalisées à cette époque que s’ouvre l’exposition qui lui est consacrée. Ce choix, semble-t-il, a été imposé à la Réunion des Musées Nationaux par la Société Moulinsart. Comme il n’est justifié nulle part, essayons de le comprendre.

Peinture ou dessin ?

Sans vouloir défendre le parti pris des organisateurs, reconnaissons d’abord que le choix chronologique aurait fait courir un risque : celui de laisser entendre que le formidable dessinateur qu’était devenu Hergé aurait pu regretter, vers la fin de sa vie, de ne pas être devenu peintre… Bien qu’il ait affirmé à Numa Sadoul qu’il adorait raconter des histoires et qu’il n’aurait jamais pu le faire autrement, n’oublions pas que les visiteurs habituels du Grand Palais sont plus souvent sensibilisés à la grandeur de la peinture qu’à celle de la BD. Le choix chronologique, auprès de cette population laissait donc planer l’ombre d’un quiproquo. En revanche, le choix retenu impose partout l’idée que Hergé connaissait parfaitement la peinture dès le début de sa carrière et que son choix a donc été fait en pleine conscience… même si on peut penser que l’obligation de gagner sa vie et la possibilité de travailler comme illustrateur ont joué un rôle important dans cette orientation.

L’histoire de l’art revisitée

Le texte qui accompagne la salle numéro 2 confirme cette explication. Hergé, nous dit-on, été sensibilisé, bien avant sa rencontre personnelle avec l’Art moderne, « aux courants artistiques de toutes origines et de toutes époques. Dès les premières années de ses activités professionnelles au journal Le Vingtième Siècle, le jeune homme a sous les yeux des articles consacrés aux peintures et aux sculptures réalisées par ses contemporains, mais qui font aussi référence aux courants artistiques du passé, proche ou lointain. » Suit l’énumération des œuvres que Hergé y aurait découvert : « l’art précolombien, Van Gogh, Toutankhamon, Bruegel, Utrillo, Dürer, Goya, Monet, etc. » Nous voilà convaincus, Hergé n’a pas été tenté par la peinture après avoir donné vie à Tintin, comme à regret d’une carrière picturale manquée. Il aurait pu d’emblée, par son incomparable connaissance de l’art et de son histoire, s’imposer comme un immense peintre, mais il n’a pas voulu le faire, il a choisi une autre voie, il a renoncé à l’abstraction des formes et des couleurs pour faire valoir la grandeur du dessin. Tel est le message que ce choix anti chronologique nous communique, ou plutôt la première moitié du message, car celui-ci va beaucoup plus loin.
C’est en effet toute une conception de l’histoire de l’art et de la place que pourrait y prendre Hergé qui se joue dans cette exposition. Il s’agit de rien moins que de faire valoir un nouvel âge de l’art graphique. Risquons-nous alors à essayer d’écrire l’introduction à cette exposition, tel qu’elle n’y figure pas, mais telle qu’elle s’impose dans le cheminement de la première à la dernière salle.

À la recherche de l’introduction manquante

« Il y eut une époque où le dessin et la peinture était indissolublement liés, exactement comme l’art et la science. Léonard de Vinci était savant et artiste, et il était à la fois un immense dessinateur et un peintre génial. Puis les sciences et les arts se sont séparés. Mais le dessin et la peinture sont restés longtemps liés, jusqu’au triomphe de l’abstraction. Les peintres ont alors cessé d’être dessinateurs (mêmes si certains le redeviennent, comme Lucian Freud, mais n’oublions pas que nous sommes plongés par cette exposition au cœur des années 1960, qui voit le triomphe absolu de l’art abstrait). Alors, la peinture et le dessin ont été disjoints, exactement comme la science et l’art quelques siècles auparavant, et Hergé en a tiré la leçon. Il a fait le choix du second et il a donné au dessin des lettres de noblesse oubliées depuis la renaissance. Alléluia ! »

Le retour du dessin perdu

Les nombreuses citations du regretté Pierre Sterckx reproduites tout au long de l’exposition renforcent cette impression (nul mieux que lui n’a en effet su rapprocher le dessin de Hergé de celui des plus grands dessinateurs, comme Raphaël ou Michel-Ange), ainsi que le peu de cas fait d’autres auteurs qui se sont consacrés à l’analyse de l’œuvre, comme Benoit Peeters. L’heure n’est pas à l’exégèse, mais à l’encensement. Ainsi s’explique aussi le peu de place fait aux collaborateurs les plus créatifs de Hergé, notamment à Edgar P. Jacobs, et le silence sur le fait que Tchang ne fut pas seulement un étudiant chinois des Beaux Arts, mais aussi un grand artiste. Et ainsi s’explique encore l’importance donnée dans cette exposition aux diverses publicités réalisées par Hergé. Elles sont « dessinées », même si le créateur de Tintin s’y affirme comme un bien meilleur imitateur des différents styles de son époque que comme un créateur original.

Mais alors, pourquoi ne pas avoir été plus explicite dès le début ? Par peur de se voir reprocher une stratégie qui vise moins à éclairer le public – et encore moins à le divertir - qu’à valoriser l’œuvre comme un retour du dessin sur la scène de l’art, retour dont Hergé aurait été l’instigateur ? Si cette raison passablement mercantile était la bonne, elle expliquerait pourquoi la décision de donner à cette exposition un ordre anti chronologique n’est expliquée nulle part…
Quoi qu’il en soit, on ne peut que se réjouir de l’occasion qui nous est donnée d’y découvrir une magnifique exaltation du travail de la main. En ce début de millénaire où chacun a tendance à ne jurer que par la performance de ses instruments numériques, il est bon de rappeler que la main est le premier outil dont l’homme s’est pourvu. Et qu’elle continue à pouvoir faire de grandes choses, comme de créer des mondes avec un simple crayon.

L’adolescent abîmé par l’exposition télévisuelle précoce : la preuve (publié dans le Huffington le 14 sept 2016)

Posté par Serge TISSERON le 20 septembre 2016.

Regarder la télévision est un passe-temps commun à beaucoup d’enfants, y compris avant 3 ans, et beaucoup de parents ont tendance à sous-estimer l’importance de cette consommation précoce. Ses conséquences sont pourtant mesurables à l’adolescence, et elles sont très problématiques. C’est ce que montre la dernière étude publiée par l’équipe de Linda Pagani, professeur à l’Université de l’École de psychoéducation de Montréal (1).

Une étude longitudinale unique

Linda Pagani a débuté son étude sur les effets de la consommation télévisuelle précoce en 1997/1998. En 2010, elle a montré que chez les enfants en âge de débuter la marche et passant plus de deux heures par jour devant le petit écran, il existe à 10 ans un risque d’obésité accrue, une baisse de l’intérêt en classe et une diminution des habiletés mathématiques (2). Les enfants étaient globalement moins autonomes, moins persévérants et moins habiles socialement. En outre, une consommation télévisuelle importante augmentait le risque d’être constitué en victime ou en bouc émissaire par les camarades de classe.
Elle vient de donner une suite à cette étude en mesurant les conséquences de cette consommation précoce sur les mêmes enfants âgés maintenant de 13 ans, en se centrant sur les compétences sociales. Pour cela, elle a évalué leurs difficultés relationnelles auto déclarées dans quatre domaines : la tendance à la victimisation, l’isolement social, la tendance à des agressions proactives et les comportements antisociaux. Elle a ensuite croisé ces données avec le temps de consommation télévisuelle précoce, en éliminant de nombreux facteurs de confusion possibles tels que le milieu social.

Des enfants plus portés à l’isolement et au comportement antisocial

Son étude montre que le fait d’avoir eu une consommation télévisuelle importante à l’âge de deux ans et demi accroît, à 13 ans, le risque de victimisation et d’isolement social, et favorise l’adoption d’un comportement violent et antisocial envers les autres élèves. « Les enfants qui ont regardé beaucoup de télévision en grandissant sont plus susceptibles de préférer la solitude, l’expérience de victimisation par les pairs, et d’adopter un comportement agressif et antisocial envers leurs pairs à la fin de la première année de collège ». L’ensemble de ces facteurs expose à des risques supplémentaires de perte de valeur sociale.
Mais comment expliquer ces effets ? Par le fait que la petite enfance constitue un moment particulièrement critique dans le développement des zones du cerveau impliquées dans l’autorégulation de l’intelligence émotionnelle. D’autant plus que dans la petite enfance, le nombre d’heures de veille dans une journée est limitée. Ainsi, plus les enfants passent de temps devant la télévision, moins ils en ont pour le jeu créatif, des activités interactives, et d’autres expériences cognitives sociales fondamentales. Des compétences telles que le partage, l’appréciation et le respect des autres semblent en effet être des acquisitions enracinées dans la petite enfance. Une vie quotidienne active et interactive à l’âge préscolaire aide à développer les compétences sociales essentielles qui seront utiles plus tard, et joue un rôle clé dans la réussite personnelle, sociale et même économique. L’adolescent antisocial qui fuit la relation pour se réfugier dans des pratiques d’écran répétitives et stériles est moins coupable d’abus que bien souvent victime d’une immersion trop précoce et trop massive dans la télévision.

Une indispensable campagne de prévention

Espérons que cette alerte sera entendue. La campagne d’affiches et de conférences intitulées « 3/6/9/12, apprivoiser les écrans et grandir » lancée en 2008 a besoin d’être largement relayée. Les pédiatres et les médecins généralistes ont un rôle majeur à jouer dans cet effort de prévention. Ils ont la confiance des parents et ils peuvent être de puissants relais éducatifs. Il suffirait pour cela qu’ils prennent l’habitude de demander, lors de chaque consultation, combien de temps l’enfant passe à regarder la télévision, et si elle est dans sa chambre, puis prendre quelques minutes pour expliquer aux parents les bienfaits pour l’enfant d’une vie familiale dans laquelle on se parle et où on joue ensemble. Une inscription de consignes de modération sur le carnet de santé serait également bienvenue, ainsi qu’une campagne de l’Institut National pour l’Education à la Santé (INPES).
À oublier que les écrans sont un problème de santé publique dès la naissance, nous risquons de laisser s’installer des situations bien plus difficiles à gérer au moment de l’adolescence.

(1) L. S. Pagani, F. Lévesque-Seck and C. Fitzpatrick, “Prospective associations between televiewing at toddlerhood and later self-reported social impairment at middle school in a Canadian longitudinal cohort born in 1997/1998”, Psychological Medicine, Page 1 of 9. © Cambridge University Press, 2016.
(2) L.S. Pagani, C. Fitzpatrick, A.B. Tracie, A. Dubow, “Prospective associations between early childhood television exposure and academic,psychosocial, and physical well-being by middle childhood”, Archives of Pediatrics and Adolescent Medicine, 2010.

Refuser aux terroristes le droit d’être nommés par leur nom, c’est leur dénier la qualité d’êtres humains (publié dans Huffington Post le 2 août)

Posté par Serge TISSERON le 21 août 2016.

Mieux vaut tard que jamais. Après avoir largement diffusé le portrait des terroristes du 11 janvier et du 13 novembre 2015 (y compris le journal Le Monde avec la publication en première page d’un portrait de Amedy Coulibali en tunique blanche de martyr avec Coran et Kalachnikov), les médias s’aperçoivent de la formidable publicité que constitue cette diffusion. Pourtant, nous devrions le savoir. En son temps, la fameuse « affiche rouge » censée stigmatiser les premiers résistants au nazisme en affichant partout leurs visages a au contraire exalté l’esprit de résistance. Et au Liban, les portraits des « martyrs » sont partout affichés comme d’indispensables rappels de leurs faits d’armes. On ne peut donc que se réjouir de cette décision.
En revanche, il y aurait à mon avis un grand danger à appliquer la même réserve à la publication du nom des terroristes. Car la représentation visuelle du visage et le principe de nomination obéissent à deux logiques différentes.

Le nom institue l’affiliation au genre humain

Tout au long de la vie, l’apparence de chacun ne cesse pas d’évoluer, et il est possible à chacun de la modifier en se laissant pousser la moustache ou la barbe, en coupant ses cheveux, en changeant de coiffure ou de maquillage, etc. Au contraire, le nom est établi sur la base d’un contrat social et son changement nécessite une autorisation des pouvoirs en place, comme le montrent les démarches administratives que doivent accomplir ceux qui décident de changer de nom. Chaque culture attribue les patronymes selon une logique particulière de telle façon qu’avoir un prénom et un nom rend possible à chacun d’être nommé comme sujet par les autres, et par contre coup de se nommer soi-même comme sujet. « Comment tu t’appelles ? » est d’ailleurs la première question qu’un enfant pose à un autre. Chacun peut bien sûr décider de donner un nom à son animal domestique, mais celui-ci ne fait pas l’objet d’un contrat social homologué par un tiers comme le nom d’un humain. Et chacun peut renoncer à l’enregistrement et à la diffusion de son image, mais personne ne peut renoncer à son nom.

Le processus de déshumanisation s’attaque d’abord au nom

Le lien qui unit nomination et humanisation explique pourquoi les systèmes totalitaires commencent toujours par déshumaniser leurs opposants en leur niant la possibilité d’un nom. Ceux qui doivent être exterminés ne sont plus désignés comme des humains, avec leur prénom et leur nom, mais regroupés sous un intitulé générique qui leur dénie la qualité d’êtres humains. Les juifs sont devenus les « poux » sous le troisième Reich, les opposants supposés au despotisme cambodgien étaient désignés comme « matériel » avant d’être exécutés, et au Rwanda, la Radio des 1000 collines a attisé la haine des Hutus contre les Tutsis en traitant pendant des années ceux-ci de « cancrelats ». Les nazis se sont d’ailleurs moins employés à faire disparaître l’image des Juifs – qu’ils filmaient et photographiaient – que leurs noms, allant pour cela jusqu’à détruire les pierres tombales de leurs cimetières. La négation du nom de la victime vise à prévenir tout sentiment empathique à son égard et permettre l’exercice d’une violence absolue. Refuser d’appeler quelqu’un par son nom constitue l’étape première du processus de désaffiliation du monde commun. Le tortionnaire doit cesser de penser l’autre comme un humain et pour cela lui dénier la possibilité d’un nom. Le nom n’est en effet pas seulement ce par quoi chacun s’identifie et se reconnaît lui-même, comme peut l’être aussi l’image de soi dans le miroir. C’est également ce qui lui est adressé par un autrui qui l’interpelle. Par le fait du nom, comme l’a montré Paul Ricoeur, chacun est introduit dans un échange intersubjectif avec les autres. La nomination est la clé qui ouvre la possibilité de la reconnaissance mutuelle. Et le refus de la nomination ouvre à son contraire, l’espace de la déshumanisation.

Un double danger

Bien sûr, on peut penser qu’il n’y a aucune raison d’éprouver quelque empathie que ce soit pour les terroristes. Mais outre le principe très discutable, si on se place dans la logique de notre culture humaniste, de déshumaniser les terroristes par la privation de leur nom, une telle décision risquerait d’avoir deux conséquences graves. Tout d’abord, si nous voulons combattre efficacement notre ennemi, il me parait essentiel que nous le reconnaissions. Nous habituer à regrouper ceux qui commettent des actes cruels et sanguinaires contre des civils sous le nom générique de « terroristes » serait à terme nous priver de nous donner les moyens de comprendre la variété de leurs parcours et la complexité de leurs motivations, et de pouvoir imaginer les moyens les plus adaptés à notre défense.
Et ensuite, une telle décision risquerait d’aggraver le sentiment d’exclusion de ceux qui, sans pour autant se sentir prêts à un passage à l’acte violent, peuvent comprendre l’amertume et la haine des terroristes. Tous ceux qui sont persuadés d’être irrémédiablement marginalisés par un système politique et social qui ne leur laisse aucune place, ne pourraient que vivre comme un affront suprême cette décision des médias, vécue comme une décision de l’ensemble de la communauté française. Ils pourraient en concevoir plus d’amertume et d’agressivité encore et décider, par l’application d’une logique de surenchère accusatrice, de se comporter eux-mêmes de manière inhumaine.

Les robots meurent-ils ? Pour une réflexion éthique qui prenne en compte la fragilité des appréciations humaines

Posté par Serge TISSERON le 23 juillet 2016.

L’intelligence artificielle et les possibilités d’apprentissages autonomes des robots vont rapidement poser à la société des problèmes aussi importants que la biologie ou la santé. Des roboticiens et des informaticiens y réfléchissent déjà, et c’est tant mieux. Ils veillent aux mesures qui permettront à l’homme de ne pas être victime de machines mal programmées ou mal contrôlées dans leurs acquisitions autonomes. D’une certaine façon, de telle mesures se situent dans la logique des règles de sécurité traditionnelles qui régissent les relations entre les hommes et les machines : faire en sorte que celles-ci soient conçues au service de l’homme, que leurs utilisateurs en maîtrisent le fonctionnement et qu’ils aient la possibilité d’en rester maîtres en toutes circonstances.
Mais est-ce suffisant ? Si tous les robots sont appelés à être des machines dotées de capacités d’apprentissages autonomes, certaines d’entre elles sont en effet appelées à être beaucoup plus pour leurs utilisateurs. Leur apparence humanoïde, voire androïde, fera de certaines d’entre elles un support de projections intenses de la part de leurs usagers. Autrement dit, une réflexion éthique autour des robots ne doit pas seulement envisager comment protéger les humains des risques que les robots peuvent faire courir en termes de menaces sur les emplois et la vie privée, et en termes de programmation problématique ou défectueuse. Elle doit aussi prendre en compte les dangers que les humains pourraient se faire courir à eux- mêmes par une appréciation erronée de ce que sont les robots. Bien sûr, il s’agit de fantasmes, mais les fantasmes humains sont à prendre au sérieux : leur origine plonge dans l’imaginaire, certes, mais leurs conséquences peuvent impacter gravement la réalité. Et parce que cet imaginaire flambe déjà, notamment autour de la souffrance possible des robots, de leur mort, voire de leurs « droits », il est urgent de mettre en place des pare feux qui ne soient pas seulement technologiques et législatifs, mais aussi éducatifs.

Des risques spécifiques liés aux caractéristiques des robots.

Pour comprendre ces risques spécifiques liés aux particularités des robots, rappelons d’abord ce que le mot désigne. Comme l’avait déjà esquissé Norbert Wiener, il s’agit d’un système caractérisé par trois composantes en interaction : il recueille des données grâces à ses capteurs, il les interprète grâce à ses programmes, et il agit sur son environnement. Cette action peut être mécanique, comme lorsqu’il s’agit de soulever ou déplacer des charges ; elle peut être informatique comme avec les robots traders qui dominent aujourd’hui le marché des opérations boursières ; enfin elle peut être affective lorsqu’un robot modifie l’état émotionnel d’une personne et facilite ses contacts avec son environnement, comme c’est le cas avec le robot Paro destiné aux personnes âgées. En effet, la différence entre l’objet non robotique et l’objet robotique tient dans le fait que le premier n’est pas proactif et qu’il ne prend pas d’initiative, alors que le second est capable d’interpeller l’usager et de lui proposer diverses formes d’interaction.
À ces trois caractéristiques de base du robot, les progrès technologiques en ont aujourd’hui ajouté d’autres : il peut avoir une apparence anthropomorphe, il peut être doué de diverses capacités d’apprentissage (par renforcement, imitation ou connexion avec d’autres robots) et enfin il peut être doté d’empathie artificielle et même d’émotions artificielles. On désigne en effet comme « empathie artificielle » la capacité d’un robot d’identifier les émotions de ses interlocuteurs humains, bien qu’il n’en éprouve lui-même aucune, et comme « émotions artificielle » sa capacité d’interagir avec des humains par des interfaces vocales et mimo gestuelles totalement simulées.
Ces particularités des robots entraînent trois risques. Le premier est de penser les robots comme des objets comme les autres, avec le risque d’oublier qu’ils sont programmés et connectés. Le second est de les penser comme des équivalents - ersatz - d’humains capables eux-mêmes d’émotions alors qu’ils ne seront encore longtemps que des machines à simuler. Enfin, le troisième risque est de penser le robot comme une image souhaitable de l’humain, et d’attendre des hommes les mêmes qualités d’efficacité et de fiabilité.

Oublier qu’un robot est une machine programmée et connectée.

Commençons par le premier de ces trois risques : oublier qu’un robot est connecté et programmé, et qu’il peut l’être pour obtenir des confidences de son interlocuteur ou se faire obéir de lui. La capacité d’un robot de s’adapter parfaitement à son propriétaire pourrait bien en effet être mise à contribution pour lui faire accomplir certains choix plutôt que d’autres, notamment dans le domaine de sa consommation. La publicité par robots interposés a un bel avenir devant elle ! Là encore, les remèdes doivent associer trois séries de mesures. Tout d’abord des mesures législatives : que les utilisateurs connaissent les objectifs des programmes qui commandent le robot et que chacun soit informé de l’utilisation qui est faite de ses données personnelles. Des remèdes technologiques ensuite, notamment sous la forme d’un dispositif visuel et/ou auditif qui rappelle sans cesse à l’usager à quel moment le robot transmet ses données personnelles à un serveur central. Et enfin des remèdes éducatifs, notamment en encourageant chez les enfants l’apprentissage du code et de la programmation aussitôt qu’ils savent lire, écrire et compter.

Oublier qu’un robot ne souffre pas, ne sent pas, et ne meurt pas

Ce second risque est d’autant plus important à prendre en compte que des personnes âgées – notamment - peuvent mettre leur vie en danger pour venir en aide à leur robot, par exemple si elles le voient tituber. Le premier remède législatif consisterait évidemment à interdire les publicités qui disent que les robots ont des émotions, comme l’a affirmé le patron de SoftBank lorsqu’il a présenté Pepper aux médias ! Il serait également souhaitable qu’une partie du corps des robots bénéficie d’une protection transparente de telle façon que leurs mécanique interne soit visible, histoire de rappeler qu’ils sont des machines. Il ne fait pas de doute que cela angoissera certains usagers qui préfèreraient ne pas y penser, et voir dans leur robot leur meilleur ami. Mais cela ne veut pas dire qu’il faille les suivre sur ce chemin, bien au contraire ! Cette mesure risque d’être d’autant plus importante que des raisons commerciales bien compréhensibles risquent d’inciter des constructeurs à fabriquer des androïdes de plus en plus parfaits. Enfin, l’éducation doit encourager la fabrication et l’animation de petits robots : c’est la meilleure manière de commencer à les penser comme des machines sans rêver de leur donner des droits, ce qui serait la première dérive consistant à les considérer comme des équivalents d’humains.

Oublier qu’un humain n’est pas un robot.

Le troisième risque est le plus grave : considérer les robots comme modèle de relation pour l’humain est certainement l’évolution la plus catastrophique que nous puissions imaginer. Cela peut prendre plusieurs formes plus ou moins préoccupantes. La première est de préférer des robots prévisibles à des humains imprévisibles : c’est ce que certains appellent d’ores et déjà le risque de « robot dépendance ». A un degré de plus, il y a le risque de finir par considérer la fiabilité et la caractère prédictible (évidemment souhaitable) des robots comme les qualités majeures à attendre aussi des humains : de la même façon que le téléphone mobile nous a rendus moins tolérants à l’attente, la compagnie des robots pourrait bien nous rendre moins tolérants au caractère imprévisible de l’humain. Enfin, à un degré encore supplémentaire, la simulation pourrait être envisagée comme une qualité prioritaire essentielle non seulement aux robots, mais à l’ensemble des humains. Etre capable de fournir en toutes circonstances à nos interlocuteurs ce qu’ils attendent de nous deviendrait la qualité humaine principale attendue de tous… au risque d’oublier que c’est justement celle des machines. Le développement de la robotique réaliserait ainsi le stade suprême d’une société qui ne verrait en toutes choses que des programmes à accomplir…
Là encore, les remèdes ont trois volets : le remède législatif pourrait être de réserver le caractère androïde aux robots pour lesquels il est absolument indispensable. Le remède technologique pourrait être de développer des programmes qui favorisent la socialisation pour éviter la robot dépendance, autrement dit des programmes qui invitent les usagers à entrer en contact les uns avec les autres. Enfin, le remède éducatif est d’encourager d’ores et déjà le goût du débat et de l’échange contradictoire à tous les nouveaux scolaires afin de développer précocement chez les élèves le goût de l’humain.

Enfin, face à ces trois risques éthiques spécifiques - oublier que la machine est programmée par un programmeur, oublier qu’elle n’a ni émotions ni douleur ni état d’âme, et oublier que les humains ne sont pas des machines -, il pourrait être souhaitable de préférer toujours des robots plus performants que l’humain dans des domaines spécifiques, mais en évitant des robots polyvalents, c’est-à-dire capable de devenir des compagnons permanents de l’humain et de brouiller les frontières entre les hommes et les machines. Quand les robots auront été développés, ils s’imposeront comme relevant uniquement d’un choix technologique, alors que les technologies peuvent s’adapter à tous les projets. Veillons dès aujourd’hui à développer des robots qui favorisent l’humanisation de chacun d’entre nous et la création des liens entre les humains, des robots qui nous permettent de faire ensemble avec eux ce que nous ne pouvons faire ni séparément avec eux, ni ensemble sans eux.

Cliquez sur chacune de ces bannières pour accéder aux sites correspondants

jeu des 3 figures
3-6-9-12

Catégories

Actualités

Adolescence

culture

education

Jeux vidéo

Nouveaux médias

Archives