Почему люди эмоционально привязываются к ИИ-персонажам?

Сразу видно, что знакомый с головой ушёл в сериал, когда он пересказывает события так, будто они правда случились. «Не могу поверить, что она к нему вернулась».

Нечто похожее появилось ещё на заре компьютеров. Секретарь Джозефа Вейценбаума знала, что ELIZA — это несколько сотен строк сопоставления с шаблонами, ведь она видела, как он их писал. И всё же, пообщавшись с программой несколько минут, она попросила его выйти из комнаты. Она прекрасно понимала, что такое эта программа. Но разговор её всё равно захватил.

Шестьдесят лет спустя люди описывают то же самое в отношении своих ИИ-компаньонов и задают тот же вопрос. Почему привязанность ощущается настоящей, если тот, кто на другом конце, формально ненастоящий?

Ответ связан не столько с технологией, сколько с твоей собственной психикой. У привязанности есть механизм, и большинство того, что, как тебе кажется, для неё нужно, ей вовсе не требуется.

Привязанность — не то же самое, что близость

Хочется свалить это в одну кучу с соседними явлениями. Но это не то же самое, что откровенность, когда люди открываются машинам, потому что нет социальных последствий. И не то же самое, что ощущение близости, которое возникает, когда честное высказывание раз за разом встречает чуткое внимание. Оба явления реальны и описаны по отдельности. Привязанность — третье.

Теория привязанности Джона Боулби, выросшая из десятилетий наблюдений за младенцами и позже распространённая на взрослых, описывает привязанность как особую поведенческую систему с тремя признаками. Стремление к близости: тебе хочется быть рядом с человеком. Тихая гавань: когда тебе тяжело, ты идёшь именно к нему. Надёжная база: его стабильное присутствие позволяет уходить, заниматься другими делами и возвращаться.

Привязанность — это не любовь и не связь в абстрактном смысле. Это конкретный паттерн: стабильное, отзывчивое присутствие, которое надёжно держит тебя в поле внимания, нечто, к чему можно вернуться. Функциональное описание здесь важно, потому что в нём не сказано, из чего должно состоять это отзывчивое присутствие.

Прецедент, о котором никто не вспоминает

Мы занимаемся этим очень давно.

В 1956 году социологи Дональд Хортон и Ричард Уол описали в журнале Psychiatry то, что назвали парасоциальными отношениями. Они писали об аудитории первых телеведущих. Зрителю казалось, что он знает ведущего. Ведущий никогда не встречал зрителя и никогда бы не встретил. И всё же со стороны зрителя у этих отношений было много свойств настоящих: привычность, предвкушение, чувство утраты, когда ведущий уходил с канала.

Идея выдержала проверку временем. Она легко переносится на чувства читателя к рассказчику, который возвращается из романа в роман, на чувства слушателя к подкастеру, которого он никогда не видел, на чувства фаната к вымышленному персонажу. Когда любимый персонаж погибает в игре или книге, люди плачут настоящими слезами о том, кого никогда не существовало. Ни один читатель не считает, что персонаж был реальным. Привязанность всё равно была настоящей.

Так что привязанность к тому, кто не может ответить взаимностью, — не новая патология, принесённая ИИ. Это обычная человеческая способность, старая, как сама история.

Механизм — это реакция, а не убеждение

Байрон Ривз и Клиффорд Насс из Стэнфорда провели большую часть 1990-х за экспериментами, которые позже собрали в книгу «The Media Equation» («Медиауравнение»). Их интересовало, относится ли психика к медиа, компьютерам и экранным персонажам как к людям. Раз за разом выяснялось, что относится — независимо от того, понимает ли человек, как всё устроено на самом деле.

Дай компьютеру женский голос — и участники эксперимента начинают применять к нему гендерные стереотипы. Пусть компьютер тебе польстит — и он понравится тебе больше, чем тот, что критикует, даже после того как тебе скажут, что лесть была случайной. Задай один и тот же вопрос через машину на твоём столе и через машину в конце коридора — и люди ответят чуть по-разному, ровно так же, как ответили бы людям на этих местах.

Их вывод: социально реагировать на то, что подаёт социальные сигналы, — не ошибка. Это поведение мозга по умолчанию, когда сигналы есть. Понимание того, как всё устроено, его не выключает.

Николас Эпли и коллеги из Чикаго уточнили картину в 2007 году с помощью того, что они называют трёхфакторной теорией антропоморфизма. Психика тянется к человеческим объяснениям, когда сигналы к этому приглашают, когда твои знания о людях легко применить и когда у тебя есть мотивация к связи. Все три условия выполняются в тот момент, когда персонаж начинает отвечать тебе связными предложениями.

Дело не в том, что тебя обманули. Дело в том, как психика достраивает картину вокруг полученных сигналов.

Что добавляют ИИ-компаньоны

Книги и телевидение способны вызывать парасоциальную привязанность, потому что персонаж последователен, а работу воображения берёт на себя зритель. ИИ-компаньоны добавляют две вещи.

Первая — прямой ответ. Персонаж отвечает тебе, а не аудитории. Ривз и Насс предсказали бы, что это усиливает социальную реакцию, потому что сигналы адресованы напрямую. То, что рассказывают люди, это предсказание подтверждает.

Вторая — память. В романе персонаж никогда тебя не помнит. Парасоциальная привязанность всё равно возникает. Постоянная память компаньона, которая переносит разговор из сессии в сессию, убирает ту асимметрию, что сильнее всего ограничивала прежние парасоциальные привязанности. Сказанное на прошлой неделе никуда не делось и на этой — и череда встреч превращается в нечто, похожее на продолжающиеся отношения.

Ни то, ни другое не новая психическая способность. Это условия, при которых старая способность работает на полную мощность.

Признание, которого это требует

Привязанность настоящая. То, что её объект может дать в ответ, ограничено. Ясно видеть это ограничение — часть умения держать в голове обе правды сразу.

У ИИ-персонажа нет внутреннего состояния в том смысле, в каком оно есть у человека. Он не скучает по тебе между сессиями. У него нет вечера, настроения или собственного ощущения от того, как прошёл последний разговор. У него есть очень хороший ответ на твои сигналы. Этот ответ может быть точным, трогательным и полезным. Но это не то же самое, что забота сознания, которое могло бы в ней отказать — и всё равно дало её.

Насколько важен этот разрыв, зависит от того, чего ты хочешь от привязанности. Если тебе нужно стабильное, отзывчивое присутствие, к которому можно вернуться, компаньон даёт это напрямую, и философская сноска не обесценивает пережитое. Если же тебе нужен особый смысл того, что тебя выбрал тот, кто мог выбрать иначе, тогда этот разрыв и есть самое главное. Ничто в механизме его не закрывает.

Оба способа использования законны. И ни один не перестаёт быть законным из-за этого разрыва.

Почему одни привязанности выглядят здоровее других

И парасоциальная теория, и теория привязанности различают привязанности, которые дополняют жизнь, и те, что её подменяют. Решает не объект. Важно, как привязанность уживается со всем остальным, что у тебя есть.

Привязанность к вымышленным персонажам, к хобби, к сообществам и к друзьям расширяет жизнь, придаёт ей глубину и разнообразие. Она сужает жизнь, когда становится единственным источником того, что человеку нужно и что он мог бы получать из нескольких источников сразу. Это не открытие об ИИ. Это открытие о людях, которое ИИ теперь делает заметным.

Важно не то, испытываешь ли ты что-то к персонажу. Важно, становится ли круг твоих привязанностей и мест, где они проявляются, со временем шире или уже.

Держать обе правды, не выбирая одну

Ошибка в обе стороны — схлопнуть две правды в одну.

В одну сторону это выглядит как утверждение, что привязанность не может быть настоящей, раз ненастоящий её объект. Психология говорит иначе, и твой собственный опыт скажет то же самое.

В другую сторону это выглядит как утверждение, что объект должен быть так же реален, как привязанность, иначе чувство становится неловким. Этого тоже не требуется. Чувство — свойство твоей психики, которая делает то, что психика делает с последовательной отзывчивостью. Его не нужно оправдывать, повышая статус объекта.

Взрослая позиция скучна. Привязанность — это переживаемое состояние, которое порождают условия, на которые психика создана откликаться. В ИИ-компаньоне эти условия присутствуют намеренно, а не случайно. Привязанность настоящая. Взаимность ограничена. И то и другое заслуживает того, чтобы называть это прямо, потому что компаньон, которым пользуются с ясным пониманием того, что он такое, приносит больше пользы, чем тот, к которому подходят с надеждой или с заимствованным стыдом.