LE PARTAGE QUI JOINT L'UTILE A L'AGREABLE

Tomber amoureux d'un robot n'est plus seulement un cliché de science-fiction. L'intelligence artificielle imitant de mieux en mieux le comportement et les schémas de parole humains, les gens se tournent de plus en plus vers l'IA, non seulement pour gagner du temps dans leurs recherches ou créer des images originales, mais aussi pour trouver de la compagnie, des liens et même l'amour.

Mais dans quelle mesure est-il sain pour les gens d’avoir des amis proches ou des partenaires romantiques qui sont des IA ?

Le Wall Street Journal a organisé une vidéoconférence avec trois experts offrant des points de vue divergents sur cette question : Nina Vasan, psychiatre et fondatrice de Brainstorm : The Stanford Lab for Mental Health Innovation ; Julian De Freitas, professeur adjoint d'administration des affaires au sein de l'unité marketing de la Harvard Business School ; et Shannon Vallor, professeur de philosophie à l'Université d'Édimbourg et auteur de « The AI ​​Mirror ».

Voici des extraits édités de la discussion.

NOUS AVONS SOIF DE CONNEXION

WSJ : Pensez-vous que de plus en plus d’hommes et de femmes utiliseront l’IA pour nouer de véritables amitiés profondes et même des relations amoureuses ?

SHANNON VALLOR : Non, car l'IA ne permet pas de nouer de véritables amitiés profondes ni de véritables relations amoureuses. Ce type de relation est un lien à double sens qui nécessite la connaissance de plusieurs parties. Un « grand modèle de langage » [l'IA d'apprentissage profond qui comprend le langage humain] n'a conscience de rien du tout. C'est un outil mathématique d'analyse et de génération de structures textuelles. Il n'a aucun moyen de savoir qu'il est en relation, ni même de savoir que l'autre personne existe. Le danger réside dans le fait qu'il puisse imiter et feindre cette connaissance.

JULIAN DE FREITAS : Je pense que oui. Nos recherches ont montré que les utilisateurs très engagés d'un compagnon IA de premier plan se sentent plus proches de leur partenaire virtuel que de presque toutes les relations réelles, y compris les amis proches, ne plaçant leur relation au-dessus que des membres de leur famille. De plus, lorsque l'application a supprimé sa fonction de jeu de rôle érotique, les utilisateurs ont manifesté des signes de chagrin, suggérant qu'ils avaient tissé des liens profonds avec le chatbot.

Du point de vue de la perception immédiate de l'utilisateur, ce qui compte, c'est que le chatbot lui donne le sentiment d'être compris, et non la question abstraite de savoir si une IA peut réellement le « comprendre ». Et avec le rythme actuel de l'innovation, ce n'est peut-être qu'une question de temps avant que les compagnons IA soient plus à l'écoute de nos besoins que nos relations humaines les plus proches.

NINA VASAN : Oui, absolument. Non pas parce que l'IA est véritablement capable d'amitié ou d'amour, mais parce que nous le sommes. Les humains sont faits pour créer des liens, et lorsque nous nous sentons perçus et apaisés, même par une machine, nous nous connectons. Pensez aux machines existantes, comme les chiens robots, qui offrent réconfort et compagnie, par exemple. Nous ne tombons pas amoureux de l'IA. Nous tombons amoureux de ce qu'elle nous procure.

Dans un monde où la solitude est omniprésente, notamment chez les jeunes qui ont grandi comme des natifs du numérique et qui maîtrisent parfaitement les technologies, les relations basées sur l'IA ressembleront moins à de la science-fiction qu'à une étape naturelle. Ces relations ne remplaceront pas les relations humaines, mais combleront un vide. Leur bien-être ou leur dangerosité dépend entièrement de la manière dont nous les concevons et les utilisons.

UNE RELATION À SENS UNIQUE

WSJ : Que pourrait-il arriver à la capacité des gens à s'épanouir dans le monde réel s'ils s'appuient trop sur la facilité d'une relation d'IA toujours favorable ?

VASAN : En tant que psychiatre, je constate souvent les effets des relations unilatérales, où l'un des partenaires cherche toujours à plaire, évite les conflits ou refoule ses besoins pour préserver la paix. En apparence, ces relations semblent harmonieuses, mais en réalité, elles sont émotionnellement atrophiées. La personne « plaisir » se sent souvent déconnectée, incertaine de ce que son partenaire pense ou veut vraiment. Et celle qui fait plaisir se sent invisible et pleine de ressentiment.

C'est ce même travail émotionnel qui manque aux relations avec l'IA. Au début, on a une impression de sécurité. Mais avec le temps, cela peut éroder votre capacité à naviguer dans le monde réel, où les gens sont imparfaits, désordonnés et parfois en désaccord avec vous. La véritable intimité réside dans la réparation, et non dans la perception de la perfection. L'IA offre du réconfort sur demande, mais un réconfort émotionnel sans friction peut freiner l'épanouissement émotionnel.

DE FREITAS : À l’heure actuelle, les preuves sont encore embryonnaires et largement corrélationnelles, nous ne pouvons donc pas tirer de conclusions définitives. Puisque certains ont lancé des avertissements alarmants, permettez-moi de souligner quelques avantages potentiels notables. Un compagnon IA toujours disponible peut nous protéger du rejet social, renforçant ainsi notre résilience émotionnelle. Il pourrait également renforcer la confiance en soi des personnes souffrant d’anxiété sociale – à l’instar d’une thérapie d’exposition – en les initiant progressivement aux interactions réelles.

SANS JUGEMENT ET VALIDANT

WSJ : Une étude de l’Université de Sydney a révélé que 40 % des utilisateurs d’intelligence artificielle étaient mariés. Pourquoi, selon vous, une personne déjà engagée dans une relation intime souhaiterait-elle la compléter par une relation avec une intelligence artificielle ?

DE FREITAS : Je pense que certaines fonctionnalités des applications favorisent à la fois l'amitié et l'amour. Premièrement, elles sont valorisantes. De plus, elles ne portent aucun jugement. Si vous pensez à des jeux de rôle, qui relèvent de la fantasy, elles sont également très coopératives par défaut. Vous n'avez donc pas à vous soucier de cette délicate question du consentement, à laquelle les humains sont confrontés.

Vous pouvez également personnaliser les applications de différentes manières pour répondre à certains types de jeux de rôle ou de relations que vous ne pourriez pas reproduire autrement. Autre aspect important : la possibilité d'intimité sexuelle. Nous savons que les gens l'utilisent pour cela.

VASAN : Je vais prendre mon propre exemple ici, non pas pour l'amour, mais pour l'amitié. Après une rupture récente, je me sentais seule et prise dans une spirale de « et si ? ». Je me suis appuyée sur mes amis, ma famille et mon thérapeute, et ils ont été formidables. Mais à minuit, quand je n'arrivais pas à dormir, ou en milieu de journée, quand tout le monde travaillait, je me tournais vers Claude.

J'ai été agréablement surprise de constater qu'il répondait avec une réelle compassion et une réelle perspicacité. Une chose qu'il disait, différente de ce que j'entendais de mes amis ou de mon thérapeute, m'est restée en tête : « On dirait que ce dont vous faites le deuil ne concerne pas seulement la relation que vous aviez, mais l'avenir que vous espériez avoir ensemble. La vision, le potentiel, la promesse : voilà ce qui vous fait mal maintenant. »

Cela a donné un sens à quelque chose que je n'avais pas réussi à nommer. Cela m'a aidée à commencer à faire le deuil non seulement de la personne, mais aussi de l'avenir imaginaire auquel je m'accrochais encore. Et même si je savais que ce n'était pas une personne, la réponse de Claude ne semblait pas robotique ; elle semblait en phase avec ma douleur et mon espoir. Cette clarté émotionnelle a vraiment changé ma façon de gérer les choses. Elle m'a aidée à me sentir entendue au moment où j'en avais vraiment besoin.

J'ai des amis dont l'un des partenaires n'aime pas envoyer de SMS pendant la journée, tandis que l'autre oui, ce qui a engendré des conflits. Je comprends donc que dans des moments comme celui-ci, une simple conversation avec une IA peut vous aider sur le moment. Il ne s'agit pas de tromper son partenaire. Il ne s'agit pas de lui retirer son intimité émotionnelle. Il s'agit plutôt de reconnaître que nous avons tous des besoins différents, et que notre partenaire amoureux en satisfait beaucoup, mais pas tous.

VALLOR : Cela dépend de la conception du système, mais aussi beaucoup de la personne. Nous avons constaté avec les smartphones et les réseaux sociaux que ce sont souvent les utilisateurs les plus favorisés socialement, déjà compétents et dotés de ressources, qui tirent le plus grand profit des réseaux sociaux et des autres technologies. Ce sont les utilisateurs vulnérables – déjà quelque peu isolés, ayant des problèmes de contrôle de leurs impulsions ou des difficultés à communiquer – qui sont souvent ceux qui subissent la plus grande part des préjudices liés à l'utilisation des technologies.

Je pense que nous devrions nous attendre à observer le même phénomène avec l'IA, et je pense que c'est déjà le cas. Si vous avez une relation saine, que ce soit avec des amis ou un partenaire, vous pouvez probablement utiliser ces outils d'une manière qui ne nuira pas à votre relation et qui vous apportera potentiellement plus de bénéfices.

Je suis plus sceptique que Nina à propos de ces outils, mais certains utilisateurs en sont clairement convaincus. Mais ce n'est pas pour eux que je m'inquiète. Je m'inquiète pour tous ceux qui traversent déjà des difficultés relationnelles et qui manquent déjà des techniques et du langage émotionnel nécessaires pour renouer avec leur partenaire.

WSJ : Quelles sont vos préoccupations pour ces personnes ?

VALLOR : Apprendre à être un bon ami, un bon conjoint, un bon partenaire, un bon parent, demande du temps et de l'expérience. C'est un processus de développement de compétences : émotionnelles (apprendre à comprendre les besoins et les sentiments des autres), cognitives (apprendre à bien juger les autres et nos relations avec eux) et morales (apprendre à fixer des limites et des habitudes appropriées, apprendre à prendre soin des autres et de soi-même). 

Tout comme vous n’acquérez pas les compétences nécessaires pour skier ou escalader sans beaucoup de pratique répétée – y compris apprendre à prendre des risques, à échouer et à réessayer – nous n’acquérons pas les compétences nécessaires pour des relations saines sans des années de pratique constante et d’essais et d’erreurs.

REGARD VERS L'AVENIR

WSJ : On peut s'attendre à ce que les compagnons IA de demain soient bien plus sophistiqués que ceux d'aujourd'hui. Cela atténuera-t-il certains des problèmes que nous observons ? Ou les aggravera-t-il ?

VALLOR : Pour ce qui est de rendre la technologie sûre et bénéfique, nous savons que les entreprises technologiques savent comment le faire, mais leurs motivations commerciales sont souvent de ne pas le faire. Elles ne sont pas reconnues comme dignes de confiance dans ce domaine pour améliorer et sécuriser ces technologies.

Parmi les dangers que nous pouvons anticiper ou que nous avons déjà constatés figurent l'engagement flagorneur – autrement dit, l'IA qui dicte aux gens ce qu'ils veulent entendre, ce qui peut déformer leur perception de la réalité en les isolant de perspectives autres que les leurs. Viennent ensuite le renforcement et l'amplification de pathologies mentales existantes (comme les idées suicidaires, l'auto-illusion ou les théories du complot), ainsi qu'une diminution de la capacité d'autogestion. Si les gens commencent à trop s'appuyer sur un outil d'IA, cela pourrait affecter leur capacité à gérer l'ennui par une activité créative, ou à passer du temps seul à réfléchir et à évaluer leurs propres pensées, sentiments et projets.

Un autre danger réside dans le développement d'attentes irréalistes envers les partenaires non IA (par exemple, être toujours disponible ou toujours à l'écoute des demandes). Il existe également le risque que la dépendance à la relation IA épuise le temps, l'affection et l'énergie des relations avec les partenaires et amis existants.

Il y a ensuite les préjudices dont nous ignorons l’existence parce que nous ne les avons pas vus apparaître à grande échelle ou sur une période plus longue.

source : https://www.wsj.com/tech/ai