IA : Vers une éthique des robots ? N°5750 15e année

CorentinLuce (« libéral-transhumaniste ») pour Contrepoints s’entretient avec Laurence Devillers, professeure en IA en Sorbonne

 

« Par une glaciale matinée de janvier 1966, le Pr Joseph Weizenbaum, informaticien au MIT (Massachusetts Institute of Technology), vient de marquer l’histoire, même s’il l’ignore encore. Après plusieurs années de conceptions et d’améliorations, le premier chatbot (robot logiciel pouvant dialoguer avec un individu par le biais d’un service de conversations automatisées) de l’histoire est créé. ELIZA, tel est le nom de son programme informatique.

Le chabot fut alors utilisé pour dialoguer par écrit avec des patients en psychothérapie. Son fonctionnement était extrêmement rudimentaire : ELIZA se contentait de reformuler les propos du patient, les transformait en question et ajoutait de temps à autre des phrases comme : « Je vous comprends ».

Résultat ? Les patients se sont progressivement attachés à ELIZA, au point de développer une forme de dépendance. C’est « l’effet ELIZA ». Pourtant, ce chatbot était incapable de répondre et se bornait à faire parler le patient en continu. Cette expérience, aussi terrible qu’instructive, a montré que dans la majorité des cas, le patient ne souhaite pas qu’on lui réponde, il veut simplement être écouté. Être écouté, à n’importe quel prix, fut-ce une simple illusion.

L’illusion, les fantasmes. Véritable credo quand il s’agit d’aborder l’IA. Alors que des dirigeants politiques veulent de nouveau ériger des murs, la frontière entre le réel et le virtuel se floute dans des proportions inquiétantes. Ironie de l’histoire, sans doute. Dans le même temps, les objets connectés et autres agents conversationnels font florès : toutes les grandes entreprises de la tech comme les startups se bousculent pour être au grand rendez-vous de l’innovation.

Joseph Weizenbaum, en créant ELIZA, voulait-il « démontrer que la communication entre l’Homme et la machine est superficielle » ? Un demi-siècle après, qu’en est-il véritablement ? Quels dangers comportent ces « amis virtuels » qui nous veulent du bien ?

Entretien avec Laurence Devillers, professeure en Intelligence Artificielle et en affective computing à Sorbonne Université. Elle est également chercheuse au CNRS au Laboratoire Interdisciplinaire des Sciences du Numérique, où elle anime depuis 2004 une équipe sur les « dimensions affectives et sociales dans les interactions parlées ». Laurence Devillers a également écrit de nombreux ouvrages sur l’IA et les robots, le dernier étant La souveraineté numérique dans l’après-crise, aux éditions de l’Observatoire.

Vos recherches au sein du CNRS mêlent sciences cognitives, informatique et psychologie, linguistique et économie comportementale. En quoi cette pluridisciplinarité, notamment concernant le cerveau et les émotions, est-elle nécessaire pour appréhender les évolutions technologiques ?

Pendant longtemps, philosophes et scientifiques ont opposé raison et émotion. Aujourd’hui, l’évolution des connaissances scientifiques, grâce aux neurosciences, montre que les émotions sont nécessaires au fonctionnement cognitif, à la mémorisation, à l’apprentissage et à l’interaction.

La pluridisciplinarité apporte une meilleure compréhension des différentes émotions et du contexte dans lequel elles naissent. Travailler sur les liens entre perception, mémoire et émotions sous l’angle physiologique, neurobiologique, psychologique voire sociétal est fondamental pour une interprétation des signes expressifs émotionnels.

Les évolutions technologiques vont s’emparer de ces résultats pour améliorer l’impression que nous donne la machine, de nous comprendre, impression qui est réellement fausse car ces technologies ne comprennent ni le langage, ni les émotions. Elles ne font qu’interpréter des signes expressifs. Les recherches en pluridisciplinarité permettent également de mesurer le poids des émotions dans la construction de notre mémoire collective.

Dans votre ouvrage Les robots émotionnels : Santé, surveillance, sexualité… : et l’éthique dans tout ça ?, vous expliquez que les objets et machines connectés (robots, assistants vocaux comme Google HOME), ces « amis artificiels » au rôle grandissant, capables de saisir nos émotions et d’y répondre peuvent nous rendre dépendants : dans quelle mesure sont-ils synonymes de dangers et cela constitue-t-il un aveu d’échec pour une société que de déléguer autant de prérogatives à des machines ?”

La suite ci-dessous :

https://www.contrepoints.org/2021/06/30/400630-il-est-urgent-de-parler-dethique-des-robots-et-de-lintelligence-artificielle?utm_source=Newsletter+Contrepoints&utm_campaign=89c2d69cd2-Newsletter_auto_Mailchimp&utm_medium=email&utm_term=0_865f2d37b0-89c2d69cd2-114776617&mc_cid=89c2d69cd2&mc_eid=b8b114db10

 

 

Jean Vinatier

Seriatim 2021

 

La France et l’Indopacifique: réflexions N°5749 15e année

 Alors CEMAT, le général Bukhard a publié un rapport sur sa vision stratégique à l’horizon 2030 que résume bien son introduction choc :

« MON AMBITION est que la France dispose d’une armée de Terre durcie, prête à faire face aux chocs les plus rudes jusqu’à l’affrontement majeur et apte à emporter la décision. ». A partir de juillet prochain, il s’agira d’étendre ce durcissement à l’ensemble des trois armes dans un contexte « d’incertitudes », de « conflictualités » et du maintien « du statut de puissance » française, cette dernière étant une notion plutôt floue.

Le rapport étant officiel donc destiné au public, on n’y trouvera pas (logiquement) des pistes profondes à ceci prés que l’appréciation de la situation globale par le général Burkhard permet d’observer le décalage entre la conduite politique de la France pendant ce quinquennat et le militaire. Deux points sont importants :

1-« Le contexte : incertitude stratégique

Le contexte stratégique dans lequel s’inscrit l’armée de Terre en 2020 est avant tout marqué par l’incertitude, renforcée par de nombreux bouleversements géopolitiques récents. Cette incertitude stratégique est également accentuée par la difficulté des Européens à concevoir et organiser par eux‑mêmes les conditions de la défense collective de leur continent. Elle se trouve enfin exacerbée en France, où les fragilités d’une société manquant de cohésion et en quête de sens peuvent faire douter de sa volonté à bâtir un avenir commun et à en défendre le modèle avec fermeté et esprit de résistance.

2-Extension des champs de conflictualité

Dans ce contexte de tensions multiples, on observe le retour marqué de la force militaire comme mode de règlement des conflits, selon des formes connues, directes et assumées. Le retour d’un conflit majeur est désormais une hypothèse crédible (en gras par moi) Mais l’usage de la force se fait également selon des modes d’action nouveaux, imprévisibles et plus insidieux, privilégiant l’intimidation et la manipulation, dans une forme de guerre nouvelle, indiscernable et non revendiquée, pour obtenir par le fait accompli des gains stratégiques indéniables. Ainsi, face à cette extension des champs de conflictualité, l’aptitude à intégrer les effets dans l’environnement électromagnétique, le domaine spatial, le cyberespace et l’environnement informationnel, est désormais indispensable pour acquérir la supériorité opérationnelle. »

Il est bon de partir de réflexions militaires pour arriver au cas de l’Indopacifique. Les années à venir seront similaires aux évolutions climatiques, incertaines, potentiellement conflictuelles alors que se met en place un concept « indopacifique » d’origine allemande de la fin du XIX^ième, rappelé par le Japon dans les années 2000 et regardé par les États-Unis comme un moyen de containment, parmi d’autres, contre la Chine dans lequel de facto, la France aurait un rôle considérable : celui de l’arrière-garde ou d’arrière-front avec cette conséquence fondamentale de nous faire entrer dans une approche stratégique et tactique qui n’est pas notre et nous dispose vis-à-vis de la Chine dans un camp, de même que l’Union européenne !

Cependant, à l’inverse des Européens, par nos présences, physiques, territoriales et aires d’influences, depuis l’Afrique Atlantique en passant par le Sahel jusqu’au Pacifique, se forme une ligne incurvée où la France est. Très longtemps, la politique française a tardé à prendre en considération l’importance considérable de son espace maritime le premier ou second au monde grâce au Pacifique où la Nouvelle-Calédonie occupe une place stratégique importante qui n’entrera pas, hélas, dans les négociations avec les indépendantistes kanaks, eux-mêmes pas armés face aux avidités, australiennes, chinoises, américaines (Elon Musk/Tesla) notamment, autour du nickel.

La mise sur orbite du concept indopacifique aurait des effets majeurs par l’immensité de la zone à couvrir et à englober, par les puissances concernées, leurs impacts et les multiples champs. Très logiquement, on ne peut séparer l’Indopacifique des projets qui se forment autour de l’Arctique où les États-Unis entendent borner l’influence russe et derrière celle chinoise.

La place de la France s’annonce délicate et paradoxale dans l’entrée qu’elle fera dans le concept indopacifique : par son histoire et sa présence, par son armée, la seule de l’Union européenne, elle dispose d’atouts à la condition que la hauteur politique suive et que la concordance entre l’armée et l’exécutif restent dans la continuité même s’il en coûte électoralement. L’armée est aujourd’hui le seul socle sur lequel on puisse compter mais par lui-même il n’est rien si le politique et les Français s’illusionnent sur les réalités et les fragilités. Nous en avons premier exemple avec le terme de l’opération Barkhane à laquelle succèderait la mise en place d’une force européenne (des Lettons, des Tchèques, des Slovaques, des Danois…etc) sous l’égide de l’Otan tandis que la France se plaçant depuis un glacis tchadien escompterait à la fois agir et influer (la French touch ?) auprès du commandement américain (OTAN) qui n’apporte pas dans ses bagages ses succès militaires depuis la fin de la guerre au Vietnam (sauf en 1991au Koweït). Cette décision élyséenne devrait faire réfléchir.

Ces concepts globaux ont attirants mais font souvent l’impasse sur les terrains et les complexités humaines. L’Indopacifique y entre totalement et l’armée française a raison dans le cadre de ses réflexions internes d’en prévoir et d’en avancer les duretés.

Dans cette idée Indopacifique la France aurait, notamment, la tâche double, ne pas perdre la main sur ses aires et territoires et combattre l’idée simpliste de la globalité.

 

Source :

https://www.asafrance.fr/item/dossier-5.html

 

Jean Vinatier

Seriatim 2021

 

 

 

Régionales : insurrection silencieuse et miroir aux alouettes ? N°5749 15e année

 

L’abstention est le premier parti de France avec plus de 66% ! Tous les résultats obtenus ce soir par les « vainqueurs » doivent être vus par rapport aux suffrages exprimés, c’est-à-dire autour de 34,9%. Ainsi Renaud Muselier élu avec 56% a un socle électif de 19,5%, un Xavier Bertrand 15%, Valérie Pécresse 15,70%..(Bardella étant à 4%)…etc.

Voir ce soir les ténors de la gauche et de la droite se dresser sur leurs ergots a de quoi faire sourire même s’il est vrai que la faiblesse historique de la participation n’empêche pas légalement la validation de cette échéance électorale.  Ainsi, hormis LaRem et le RN, tous se frottent-ils les mains tirant avantage de l’abstention. Qui s’est déplacé : les militants, un corps électoral âgé avec une exception pour la région PACA où un front républicain (sur fond de connivences ambiguës) a joué contre Thierry Mariani, au terme d’une campagne très dure !

Est-ce une victoire à la Pyrrhus pour la droite ? En voulant ficeler Xavier Bertrand et Valérie Pécresse, Emmanuel Macron a favorisé l’éclosion de plusieurs rivaux au sein des Républicains (Vauquiez, Pécresse) plus Xavier Bertrand qui voudra être le porte étendard de l’Union républicaine. Un nombre qui pourrait être la source de rivalités avec à terme un affaiblissement.

A gauche, la lecture est assez semblable même si Anne Hidalgo lance une nouvelle bouteille à la mer en discourant sur l’union qui a tout pour rester vaine car ni les écologistes ni LFI de Mélenchon ne voudront d’une seule bannière au premier tour de la présidentielle.

Emmanuel Macron est-il perdant-gagnant ? L’hydre Marine Le Pen s’éloignant, aucune région ne tombant dans son escarcelle, rendant peu probable sa présence à un second tour, Emmanuel Macron, président sortant, aura-t-il la capacité à manœuvrer pour fédérer comme en 2017 tous les courants libéraux de gauche, du centre, de droite ? Sur le papier oui et à condition que l’abstention garde son haut niveau.

L’abstention est justement le grand point ou d’interrogation ou de massue ? Que signifie-t-elle ? Est-ce le début d’une insurrection silencieuse ? Si insurrection silencieuse il y a, quelles en seraient les têtes ? Eric Zemmour aurait-il un espace électoral ?

Ce soir le miroir aux alouettes qui redonne le sourire à l’ancien monde augurera-t-il d’une restauration ? D’un retour à une opposition gauche/droite largement identique sur des fondamentaux (Europe, Otan,, euro, immigration, climat…etc) incapable de produire une tête neuve avec une alternative. La faute majeure de Marine Le Pen de faire une campagne régionale comme un second tour de la présidentielle, lui a fait perdre ses troupes en rase campagne : elle est le maréchal de Soubise errant avec sa lanterne (Rossbach 1757). Dans une campagne intermédiaire, il faut, au contraire rassembler ses partisans donc se mettre sur leur ligne, ici, contestataire.

A dix mois d’une élection présidentielle, bien des interrogations demeurent, tout l’intérêt de l’ancien monde et aussi celui d’Emmanuel Macron seront de veiller à empêcher toute candidature hors périmètre, de veiller à une abstention élevée (mais pas trop). Qu’est-ce qui pourrait bouleverser la prochaine échéance, Les événements ? Pas certain, les gens ayant tendance à se calfeutrer sous les ailes de chefs reconnus. L’horizon moderne ne se voit guère, de même qu’une voie nouvelle. Ce soir, il semblerait que s’installerait une France abstentionniste de presque trois-quarts (65%), qu’en face d’elle, un corps politique se disputant les miettes, tout en déplorant ce retrait citoyen s’en arrangerait, en réalité, très bien favorisant un électorat urbain hyperconnecté aisé. C’est cette répartition qui me fait craindre que les mois à venir n’auront pas d’enthousiasme et que les « enfarinades » pourraient être plus assassines.

L’insurrection silencieuse d’un côté, le miroir aux alouettes de l’autre, la France s’embourbe dans son champ politique….

Jean Vinatier

Seriatim 2021