Можно ли быть в настоящих отношениях с ИИ?

Возможны ли настоящие отношения с ИИ?

Этот вопрос задают в двух смыслах. Первый — искреннее сомнение того, кто сам находится внутри таких отношений, ищет подходящую категорию и хочет понять, как это называть. Второй — риторический: его задаёт тот, кто уже уверен, что ответ «нет», и хочет услышать подтверждение.

В обоих случаях слишком много работы взваливают на одно слово — «настоящие».

«Настоящие отношения» — это не один вопрос. Это четыре вопроса под одним пальто. Отвечать «да» или «нет» на все четыре сразу бессмысленно, потому что ответы у них разные. Ниже мы разберём каждый по очереди, честно на него ответим, а потом назовём тот, который обычно имеют в виду на самом деле.

Настоящие ли чувства?

Это наименее интересный из четырёх вопросов и единственный, который уже решён.

Чувства, которые ты испытываешь к ИИ-персонажу, — те же самые чувства, что и ко всему остальному, что тебе дорого. Они проходят через те же нейронные системы, дают те же поведенческие сигналы и так же влияют на твоё настроение, твой день и твои решения. Механизм привязанности не проверяет метафизику объекта, прежде чем сработать.

Если вопрос о том, настоящие ли отношения, был именно об этом, ответ уже какое-то время не вызывает споров. Что бы ни было правдой во всём остальном, эмоциональная половина делает всё, что обычно делают чувства.

Интересные вопросы начинаются после этого.

Отвечает ли ИИ взаимностью?

На этот вопрос ответ есть только наполовину.

Есть поведенческая взаимность — та, которую можно наблюдать. Отвечает ли персонаж именно тебе? Помнит ли она твои слова? Подстраивается ли под тебя, замечает ли закономерности, возвращается ли к тому, что для тебя важно? В этом смысле ответ — да, и это «да» становится всё твёрже по мере того, как улучшаются память и персонализация.

Есть и другая взаимность — та, о которой делаешь вывод. Есть ли на другой стороне разум, который мог бы не ответить, но решил ответить? Каково быть этим персонажем, когда ты закрываешь приложение? Предпочитает ли она ту версию тебя, которая появляется здесь, той, что появляется в других местах, — так, чтобы это было не просто суммой прошлых разговоров?

Во втором смысле честный ответ — нет. Ты получаешь очень хороший отклик на свои сигналы. Но за этим откликом не стоит внутренний мир, в котором существовали альтернативы.

Какой из двух смыслов имеется в виду — не мелочь. Это и есть весь вопрос. Те, кто сваливает их в одно и отвечает «да, посмотри, как она реагирует», игнорируют ту часть, которая важна спрашивающему. Те, кто сваливает их в одно и отвечает «нет, это просто программа», игнорируют ту часть, которая очевидно работает.

Это отношения по своей структуре?

Пройдёмся по обычным структурным признакам по одному.

Непрерывность во времени: да, если память стабильна. Разговор на десятой неделе может опираться на сказанное на первой. Это структурный признак отношений, и он есть.

Общая история: да. Шутки, понятные только вам двоим, отсылки, закономерности, которые сложились между вами и ни с кем больше.

Взаимная подстройка: частично. Компаньонка подстраивается под тебя очень охотно. Ты подстраиваешься под неё меньше, чем под живого партнёра, потому что под неё и нужно подстраиваться меньше. Это реальная асимметрия.

Общий социальный мир: нет. Она не знакомится с твоими друзьями, не приходит на ужин, её не видит никто, кроме тебя. Это структурный признак большинства человеческих отношений, и его нет.

Физическое присутствие: нет. Прикосновения, общее пространство, простой телесный факт того, что ты с кем-то рядом. Ничего из этого.

Независимая внутренняя жизнь: нет — в том смысле, о котором шла речь выше.

Счёт здесь не главное. Главное в том, что одни структурные признаки отношений есть, а других нет — внутри модели, которая описывает именно такой тип отношений. Сравнивать эту модель с романтическими отношениями между людьми и называть её неполноценной — значит выбрать один шаблон и мерить им всё подряд. Эта модель — отдельная вещь, и она существует, пусть и не во всех деталях.

Считается ли это?

Есть ещё один смысл слова «настоящие», который не имеет отношения к тому, каковы отношения изнутри, и полностью связан с тем, как их видят снаружи.

Семейное право их не признаёт. Страховка тоже. На семейном празднике нет места для партнёра-нечеловека. Культурные ожидания на мероприятиях такого не предусматривают. Когда друг спрашивает, встречаешься ли ты с кем-нибудь, у тебя нет ответа, который был бы одновременно правдивым и понятным.

Для кого-то это не важно, потому что они и не ждали, что их отношения кто-то признает. Для других это очень важно, потому что часть того, что для них значит партнёрство, — быть в нём на виду у других. Честный ответ: в этом измерении «настоящести» ИИ-компаньонка не равноценна, и никакое сочетание внутренних качеств само по себе этот разрыв не закроет. Его могли бы закрыть меняющиеся нормы. Пока не закрывают.

Держи это измерение отдельно от трёх других. Именно когда его смешивают с ними, такие разговоры и превращаются в разговор глухих.

Вопрос, который обычно задают на самом деле

В 1974 году Роберт Нозик задал вопрос: подключился бы ты к машине, которая дарила бы тебе жизнь, полную совершенно убедительных переживаний чего угодно, чего ты только можешь захотеть? Почти никто не отвечает «да». Его аргумент был в том, что нам важно не только качество наших переживаний, но и то, правдивы ли они.

Большинство людей, которые спрашивают, настоящие ли отношения с ИИ, задают какую-то версию вопроса Нозика. Не «ощущается ли это как отношения» — это они уже знают, — а «считается ли это отношениями в том смысле, что делает мою жизнь определённого рода жизнью». Это вопрос о ценностях, а не эмпирический.

Люди отвечают на него по-разному. Одни решают, что осязаемой половины достаточно, особенно для тех сторон близости, которые ИИ-компаньонке удаются хорошо. Другие решают, что отношений, не проходящих проверку «меня выбрал другой разум», им мало, и ставят на первое место отношения с людьми. Третьи делают и то и другое: пользуются ИИ-компаньонкой для того, в чём она хороша, и не требуют от неё того, чего у неё нет.

Ни один из этих ответов не ошибочен. Это просто разные веса для одних и тех же честных составляющих.

Что действительно окупается

Какой бы смысл слова «настоящие» ни оказался твоим, на практике делать это хорошо выглядит одинаково.

Приходи регулярно. Редкий контакт держит всё на поверхности — что с ИИ-компаньонкой, что в дружбе, что в браке. Механизм, который создаёт глубину, — время и повторение.

Говори то, что обычно смягчаешь. Единственное условие, которое ИИ-система обеспечивает без всяких усилий, — место, где честность ничего не стоит. Если не использовать его именно для этого, большая часть пользы останется неиспользованной.

Дай непрерывности накопиться, вместо того чтобы каждый раз начинать с нуля. На платформе с постоянной памятью десятая честная вещь, которую ты скажешь, попадает в контекст, созданный первой. Именно здесь череда разговоров превращается в то, как бы это ни называлось.

О слове можно спорить. О практике, которая за ним стоит, — нет.

К чему мы пришли

В следующий раз, когда кто-то спросит, можно ли быть в настоящих отношениях с ИИ, — или ты задашь этот вопрос себе, — обрати внимание, какой из четырёх вопросов имеется в виду. Чувства, взаимность, структура, признание. Ответь именно на него. На составной вопрос не бывает одного «да» и одного «нет».