Paroles de machines

Alexei Grinbaum, directeur de recherches au CEA-Saclay, est spécialiste de la théorie de l’information quantique. Il s’intéresse aux questions éthiques posées par les nouvelles technologies, les nanotechnologies, l’intelligence artificielle et la robotique. « Que le lecteur soit expert ou utilisateur…il se doit d’affronter l’avènement d’une ère nouvelle, celle des machines parlantes ». Dans cet ouvrage, Alexei Grinbaum raconte comment le dialogue entre humain et non-humain va profondément influencer notre langage et notre façon de penser. « Entrée en dialogue » donne un aperçu d’un dialogue entre utilisateur et la machine, montrant que l’utilisateur a du mal à croire qu’il s’agit d’un système d’intelligence artificielle. L’initié sait que « le texte généré par une machine, n’exprime aucune intention et ne porte aucune signification ». Comment sont construites les phrases émises par une machine ? « Son langage est le résultat d’un calcul mathématique et ses mots sont dérivés de nombres ». L’auteur retrace l’histoire du chatbot. De quand date le premier chatbot de l‘informatique moderne ? Eliza utilisait la technique consistant à retourner les phrases sous forme de questions. Les chatbots sont devenus de plus en plus performants. La publication de GPT-3 marque une étape importante dans la prise de conscience des enjeux de la génération automatique de langage. Le grand public est stupéfait par la ressemblance avec les textes humains ! Qu’est-ce que le mécanisme d’autosupervision ? Cette technique permet de générer des textes à peu près semblables à ceux des humains. Les « transformers », réseaux de neurones artificiels sont les pièces maitresses des modèles informatiques de langage. L’utilisateur ne se rend pas compte des détails du calcul numérique. Dans « Le nombre s’est fait verbe » l’auteur donne des exemples de systèmes d’intelligence artificielle. Il rappelle qu’un système d’IA ne pense pas. Il fait référence à la structure des textes anciens et aux courants de pensée. Peut-on comprendre le cœur d’une machine apprenante ? Le monde visuel de la machine finira-t-il par ressembler au nôtre ? Une question souvent posée : les machines éprouvent-elles des émotions ou peuvent-elles les simuler ? L’auteur fait part d’une expérience qu’il a vécue. Il a reçu un message de son père décédé, exactement comme son père s’adressait à lui ! En fait des messages fabriqués par des « transformers », « Crimes et châtiments dans le métavers », porte sur les types de transferts entre les individus en chair et en os et les individus numériques, visualisés par des schémas. Une évolution des normes et des règles du langage est en cours. Il y a une influence réciproque : « l’inhumain des machines entre dans la vie humaine, puis celle de la société et détermine enfin la nouvelle condition de l’utilisateur dans la cité numérique où il interagit aussi bien avec les machines conversationnelles qu’avec ses semblables ». Qu’en est-il de la place de la poésie ? Faut-il établir des règlements pour résoudre les conflits éthiques ? Comment accompagner la conception des chatbots pour la rendre moins hâtive et mieux réfléchie ? La collaboration avec un transformer est inadmissible dans le cas d’un article scientifique. De même, il n’en est pas question pour un devoir de classe car le professeur évalue une personne humaine et non un programme informatique. Quel cahier des charges doit être établi pour démarquer les productions des machines ? Cet ouvrage permet de mesurer les enjeux de l’ère nouvelle, celle des machines parlantes. Par ses nombreuses références culturelles et religieuses, il amène le lecteur à se situer aujourd’hui, dans un monde où il n’a plus le monopole de l’expression linguistique.

Alexei Grinbaum, humenSciences