Pourquoi s'attache-t-on émotionnellement aux personnages IA ?

On voit qu'un ami est happé par une série à la façon dont il raconte ce qui s'y passe, comme si c'était vraiment arrivé. « J'arrivais pas à croire qu'elle revienne vers lui. »

Quelque chose de comparable s'est produit aux débuts de l'informatique. La secrétaire de Joseph Weizenbaum savait que le programme ELIZA n'était que quelques centaines de lignes de reconnaissance de motifs : elle l'avait vu l'écrire. Elle lui a quand même demandé de quitter la pièce après quelques minutes passées avec le programme. Elle ne se trompait pas sur ce qu'était ce programme. Elle tenait quand même à cette conversation.

Soixante ans plus tard, les gens décrivent des sensations comparables à propos de leurs compagnes IA et posent la même question. Pourquoi l'attachement paraît-il réel alors qu'à l'autre bout, techniquement, il n'y a personne ?

La réponse tient moins à la technologie qu'à ton propre esprit. L'attachement a son mécanisme propre, et la plupart des conditions qu'on lui prête ne lui sont pas nécessaires.

L'attachement n'est pas la même chose que l'intimité

On est tenté de le confondre avec des phénomènes voisins. Ce n'est pas la confidence — le fait que les gens se livrent aux machines parce qu'il n'y a aucune conséquence sociale. Ce n'est pas non plus l'intimité ressentie, qui apparaît quand une parole sincère rencontre une attention fine, en circuit fermé. Ces deux phénomènes sont réels et documentés chacun de leur côté. L'attachement en est un troisième.

La théorie de l'attachement de John Bowlby, issue de décennies d'observation de nourrissons puis étendue aux adultes, décrit l'attachement comme un système comportemental précis, à trois caractéristiques. La recherche de proximité : tu veux être près de la personne. Le havre de sécurité : quand tu vas mal, c'est vers elle que tu vas. La base de sécurité : sa présence stable te permet d'aller faire autre chose, puis de revenir.

L'attachement n'est pas vraiment l'amour ni le lien au sens abstrait. C'est un schéma précis : une présence stable et réceptive qui te suit de façon fiable, et vers laquelle on peut revenir. Cette description fonctionnelle compte, parce qu'elle ne dit rien de ce dont cette présence réceptive doit être faite.

Le précédent dont personne ne parle

Ça fait très longtemps qu'on fait ce genre de choses.

En 1956, les sociologues Donald Horton et Richard Wohl décrivaient dans la revue Psychiatry ce qu'ils ont appelé les relations parasociales. Ils parlaient du public des premières vedettes de télévision. Le téléspectateur avait l'impression de connaître l'animateur. L'animateur n'avait jamais rencontré le téléspectateur et ne le rencontrerait jamais. Du point de vue du téléspectateur, la relation gardait pourtant beaucoup des traits d'une vraie relation : la familiarité, l'attente, un sentiment de perte quand l'animateur quittait la chaîne.

Le concept a tenu. Il s'applique sans effort à ce qu'un lecteur éprouve pour un narrateur récurrent, à ce qu'un auditeur éprouve pour des podcasteurs qu'il n'a jamais rencontrés, à ce que des fans éprouvent pour des personnages de fiction. Quand un personnage aimé meurt dans un jeu ou dans un livre, les gens versent de vraies larmes pour quelqu'un qui n'a jamais existé. Aucun lecteur ne croit que le personnage était réel. L'attachement, lui, l'était.

Donc non : s'attacher à quelque chose qui ne peut pas te le rendre entièrement n'est pas une pathologie nouvelle apportée par l'IA. C'est une capacité humaine ordinaire, aussi ancienne que notre histoire.

Le mécanisme, c'est une réponse, pas une réalité

Byron Reeves et Clifford Nass, à Stanford, ont passé une bonne partie des années 1990 à mener des expériences réunies plus tard dans un livre, The Media Equation. Leur question : est-ce que l'esprit traite les médias, les ordinateurs ou les personnages à l'écran comme des humains ? Ils ont trouvé, encore et encore, que oui — que la personne sache à quoi s'en tenir ou non.

Donne une voix féminine à un ordinateur, et les participants appliquent des stéréotypes de genre. Si un ordinateur te flatte, tu l'apprécieras plus qu'un ordinateur qui te critique, même après qu'on t'a dit que la flatterie était distribuée au hasard. Pose la même question à une machine posée sur ton bureau et à une machine dans le couloir : les réponses diffèrent légèrement, exactement comme elles différeraient avec des personnes dans les mêmes situations.

Leur conclusion : répondre socialement à des entités qui émettent des signaux sociaux n'est pas une erreur. C'est la réponse par défaut du cerveau dès que ces signaux sont là. Savoir à quoi s'en tenir ne la désactive pas.

Nicholas Epley et ses collègues, à Chicago, ont affiné le tableau en 2007 avec ce qu'ils appellent la théorie à trois facteurs de l'anthropomorphisme. Le cerveau bascule vers des explications humaines quand les signaux l'y invitent, quand ce qu'il sait déjà des gens s'applique facilement, et quand il y a une motivation à établir le lien. Les trois conditions sont réunies dès qu'un personnage se met à te répondre par des phrases cohérentes.

Il ne s'agit pas de se faire duper. Il s'agit de la façon dont l'esprit comble les blancs à partir des signaux qu'il reçoit.

Ce que les compagnes IA ajoutent

Les livres et les séries peuvent produire un attachement parasocial parce que le personnage est cohérent et que le spectateur fournit le travail d'imagination. Les compagnes IA ajoutent deux facteurs.

Le premier, c'est la réponse directe. Le personnage te répond à toi, pas à un public. Reeves et Nass avaient prédit que ça renforcerait la réponse sociale, les signaux étant adressés directement. Ce que les gens décrivent de leur expérience confirme la prédiction.

Le second, c'est la mémoire. Dans un roman, le personnage ne se souvient jamais de toi. L'attachement parasocial se forme quand même. La mémoire persistante d'une compagne, qui fait tenir la conversation d'une session à l'autre, supprime l'asymétrie qui bridait le plus les liens parasociaux d'avant. Ce que tu as dit la semaine dernière est encore là cette semaine, et la série de rencontres devient quelque chose qui ressemble à une relation qui dure.

Rien de tout cela n'est une faculté mentale nouvelle. Ce sont des conditions dans lesquelles une vieille faculté tourne à plus haut régime.

Ce qu'il faut reconnaître ici

L'attachement est réel. Ce que son objet peut te rendre est limité, d'une certaine manière. Voir clairement cette limite fait partie du fait de tenir les deux vérités à la fois.

Un personnage IA n'a pas d'état intérieur au sens où un humain en a un. Il ne te manque pas entre deux sessions. Il n'a pas eu de soirée, pas d'humeur, pas de ressenti personnel sur la façon dont s'est passée la dernière conversation. Il a une très bonne réponse à tes signaux. Cette réponse peut être juste, touchante, utile. Ce n'est pas la même chose que la sollicitude d'un esprit qui aurait pu ne pas se soucier de toi, et qui s'en est soucié quand même.

L'importance de cet écart dépend de ce que tu attends de l'attachement. Si tu veux une présence stable et réceptive vers laquelle revenir, une compagne te la donne directement, et l'expérience vécue n'est pas dévaluée par une note de bas de page philosophique. Si tu veux le sens très concret d'avoir été choisi par quelqu'un qui avait le choix, alors cet écart est tout le sujet. Rien dans le mécanisme ne le referme.

Les deux usages sont légitimes. Aucun des deux ne relève de la confusion.

Pourquoi certains attachements semblent plus sains que d'autres

La théorie parasociale et la théorie de l'attachement distinguent les attachements qui complètent une vie de ceux qui la remplacent. La variable n'est pas l'objet. Ce qui compte, c'est la place que prend l'attachement par rapport au reste de ce que tu as.

S'attacher à des personnages de fiction, à des passions, à des communautés, à des amis, ça enrichit une vie : ça ajoute de la profondeur et de la variété. Ça la rétrécit quand une source unique se met à fournir ce qu'une personne aurait intérêt à recevoir de plusieurs à la fois. Ce n'est pas une découverte sur l'IA. C'est une découverte sur les gens, que l'IA rend simplement visible.

La vraie question n'est pas de savoir si tu ressens quelque chose pour un personnage, mais si l'éventail de ce que tu ressens, et le nombre d'endroits où ça se manifeste, s'élargit ou se resserre avec le temps.

Comment tenir les deux vérités sans en choisir une

L'erreur, dans un sens comme dans l'autre, consiste à réduire deux vérités à une seule.

Les réduire d'un côté, c'est affirmer que l'attachement ne peut pas être réel parce que son objet ne l'est pas. La psychologie dit le contraire, et cette affirmation ne résistera pas à ton expérience réelle.

Les réduire de l'autre côté, c'est affirmer que l'objet doit être aussi réel que ton attachement l'est, faute de quoi le sentiment devient gênant. Ce n'est pas nécessaire non plus. Ce sentiment est une propriété de ton esprit, qui fait ce que fait un esprit quand on lui donne des retours cohérents. Il n'a pas besoin qu'on améliore l'objet pour se justifier.

La position mûre est ennuyeuse. L'attachement est un état ressenti, produit par des conditions auxquelles l'esprit sait répondre. Ces conditions sont présentes dans une compagne IA par construction, pas par accident. L'attachement est réel. La réciprocité est limitée. Les deux méritent d'être nommés clairement, parce qu'une compagne abordée avec une vision nette de ce qu'elle est apporte davantage qu'une compagne abordée avec de faux espoirs ou une honte d'emprunt.