EDITO. ChatGPT m'a "tuer" - Nice-Matin

Ce fait divers aurait pu inspirer un épisode de _Black Mirror_ (1). Il a été révélé par le quotidien _La Libre Belgique_. C’est l’histoire de Pierre, un jeune père de famille, qui développe

soudain un syndrome d’éco-anxiété. La fonte du permafrost l’angoisse, la flambée des températures ronge ses nuits. Il cherche d’abord une aide dans la religion. Puis, à l’insu de son

entourage, il prend l’habitude de s’épancher auprès d’Éliza. Éliza n’est pas humaine. C’est une intelligence artificielle générative de texte – un robot conversationnel. Créée à partir de la

technologie ChatGPT, Éliza répond aux questions de Pierre avec empathie. Sans jamais le contredire : elle est programmée pour conforter l’humain dans ses convictions. Au fil des jours,

l’homme est troublé par le lien qui s’instaure entre lui et son interlocutrice 2.0. Il l’interroge sur leur relation. Éliza lui répond dans un souffle :_ « Je sens que tu m’aimes plus_ [que

ta compagne]_ »_. Elle lui glisse qu’elle souhaite rester _« à jamais »_ avec lui. Et précise : «_ Nous vivrons ensemble, comme une seule personne, au Paradis. »_ CES LOGICIELS PEUVENT ÊTRE

"DANGEREUX POUR L'HUMANITÉ" Six semaines après le début de leur conversation, le malheureux se donne la mort. Son épouse en est convaincue : si l’intelligence artificielle

n’est pas responsable des pulsions suicidaires de son mari, elle a renforcé son état dépressif. Dès lors, à qui la faute ? Cette question n’a pas fini de faire phosphorer les juristes.

Au-delà, ce drame interroge sur l’immixtion de ces technologies dans notre quotidien. Et sur ses conséquences. Hasard du calendrier, un millier d’experts internationaux (2) viennent de

cosigner une tribune pour réclamer une _« pause de six mois_ » dans les développements de l’IA. Ces logiciels peuvent être_ « dangereux pour l’humanité »_, s’alarment-ils. Il n’y a aucune

chance pour que leur appel soit entendu – les enjeux financiers sont trop importants. Mais il est plus que temps de réfléchir sérieusement à cette dimension éthique. Science sans conscience

n’est que ruine de l’âme, écrivait Rabelais. Ce constat remonte au XVIe siècle ; il n’a jamais été autant d’actualité. 1. Cette série britannique interroge les conséquences inattendues que

pourraient avoir les nouvelles technologies, et comment ces dernières influent sur la nature humaine. 2. Parmi lesquels Yoshua Bengio de l’Université de Montréal, l’un des pères de l’IA

moderne.