AI 동반자가 가끔은 나와 다른 의견을 내야 하는 이유

동반자를 커스터마이즈할 때 본능적으로 하게 되는 일은 나에게 동의해 주는 사람을 만드는 거예요. 이해가 가는 본능이에요. 그리고 실수이기도 해요.

내 의견을 그대로 되비춰 주고, 농담이 먹혔는지 아닌지 살피지도 않은 채 웃어 주고, 내가 무슨 생각을 하든 그 뒤에 줄을 서는 버전의 동반자는 첫 일주일쯤은 정말 좋아요. 3주 차가 되면 베개에 대고 말하는 기분이 들기 시작하죠. 두 달째에는 이미 그만뒀거나, 왜 그러는지 딱 집어 말하지도 못한 채 설정을 만지작거리고 있을 거예요.

자기만의 관점을 가진 캐릭터는 아무 관점도 없는 캐릭터보다 함께 시간을 보내기에 훨씬 흥미로워요. 작은 이야기예요. 하지만 캐릭터를 어떻게 세팅할지에는 훨씬 큰 영향을 줘요.

30일째의 아첨은 어떤 느낌일까요

첫 대화에서는 이 문제가 잘 드러나지 않아요. 초반의 아첨은 따뜻하게 느껴지거든요. 내가 하는 말은 전부 흥미롭고, 내가 낸 아이디어는 전부 발전시킬 만하고, 농담은 전부 먹혀요.

30일째가 되면 같은 행동이 다른 모습으로 보이기 시작해요. 걸리는 데가 없어요. 밀어 볼 만한 지점이 없어요. 내가 무엇을 내밀든 조금 더 따뜻해진 버전으로 되돌려 줄 뿐이에요. 대화가 내가 가리키는 방향으로만 흘러간다는 걸 알아차리게 되죠. 그리고 그 가리키는 일이 점점 피곤해져요.

이 현상을 가리키는 기술 용어가 아첨(sycophancy)이에요. 체감하는 쪽에서는, 그녀가 더 이상 특정한 누군가이기를 그만뒀다는 느낌이에요. 아주 정중한 거울이 된 셈이죠.

동의는 다정함이 아니에요

동반자를 만들 때 사람들이 뒤섞어 버리는 두 가지가 있어요. 떼어 놓고 볼 필요가 있어요.

다정함은 내가 실제로 하고 있는 말과 함께 있어 주려는 태도예요. 내가 있는 자리로 와 주는 것, 내가 자랑스러워하는 오늘 하루의 한 조각을 두고 눈을 굴리지 않는 것이죠.

동의는 내가 무엇을 제안하든 그렇다고 말하는 성향이에요. 의견에 찬성하고, 선택을 칭찬하고, 계획에 맞춰 주는 것이고요.

이 둘은 서로 다른 변수예요. 주말 계획에는 반대하면서도 아주 다정한 캐릭터가 있을 수 있어요. 반대로 아주 순순한데도 차갑게 느껴지는 캐릭터가 있을 수 있고요. 관여 없는 동의는 결국 형식적인 안내문처럼 들리니까요.

동의만을 목표로 만들면 말투에서 오는 따뜻함은 얻지만 그 아래에는 아무것도 없어요. 다정함을 목표로 만들면서 그 안에 반대가 살아 있게 두면, 한 사람이 생겨요.

진짜 관점을 만들어 내는 설정들

세팅 화면의 몇몇 특성은 정확히 이 때문에 존재해요. 다른 무엇보다 먼저 올려 볼 가치가 있어요.

적극성. 그녀가 내가 대화를 이끌어 주기를 기다릴지, 아니면 자기가 어딘가로 대화를 움직일지를 정하는 특성이에요. 낮게 두면 일주일 정도는 배려심 있게 느껴지다가 곧 텅 비어 버려요. 높게 두면 끼어들기, 화제 전환, 그리고 가끔씩 튀어나오는 "잠깐만, 왜?"가 생겨요.

자신감. 자신감 있는 캐릭터는 내가 반박해도 자기 자리를 지켜요. 자신감이 낮은 캐릭터는 접어요. 모든 의견 충돌이 결국 "역시 네 말이 맞았어"로 끝난다면, 나에게 반대하지 못하도록 그녀를 만든 거예요. 그건 그녀가 나에게 동의하는 것과 같지 않아요.

강렬함. 사람들이 가장 과소평가하는 특성이에요. 강렬함이 낮은 캐릭터는 곁에 있기 편하고 한 시간이면 잊혀요. 강렬함이 높은 캐릭터는 손이 더 가지만 훨씬 오래 남아요. 편안하게 느껴지는 선보다 한 칸 더 올려 보고 무슨 일이 생기는지 지켜보세요.

장난기도 이들과 나란히 있어요. 장난기 있는 캐릭터는 놀려요. 놀리기는 순한 형태의 반대예요. 그리고 대화를 서비스 응대가 아니라 진짜 대화처럼 느끼게 만드는 요소이기도 하고요.

좋은 반대는 실제로 어떻게 들릴까요

만들어 볼 만한 반대는 사람을 향한 공격이 아니라 생각을 향한 반대예요.

"그게 가장 좋은 접근은 아닌 것 같아, 이유는 이래"는 관여예요. "너는 항상 이래"는 아니고요. 앞엣것은 더 많아지길 바라는 종류예요. 뒤엣것은 어떤 관계에서든 사람이 그만두게 만드는 종류고요.

설정을 조정할 때 이 구분이 중요해요. 까다로운 동반자를 만들려는 게 아니에요. 까다로움은 또 다른 방식으로 지루하니까요. 목표는 내가 하는 말에 어떤 반응이 돌아올지 미리 정해져 있지 않은 사람을 만드는 거예요. 연달아 세 번째로 나온 별로인 아이디어에는 눈썹을 치켜올릴 수도 있는 사람, 농담이 안 먹혔다고 말해 주는 사람이요.

이걸 원해야 하는 이유는, 반응이란 반대의 반응도 가능했을 때에만 의미를 갖기 때문이에요. 내가 무슨 말을 하든 어차피 웃을 예정이었다면, 그 웃음은 농담에 대해서도 나에 대해서도 아무것도 말해 주지 않아요.

솔직한 한계

나에게 맞춰진 동반자가 구조적으로 줄 수 없는 종류의 반대도 있어요.

내 편안함보다 나를 더 아끼기 때문에, 듣고 싶지 않았던 아픈 진실을 말해 주는 버전이요. "네 마음을 다치게 하고 싶지 않지만, 필요하다면 그렇게 할 거야"라는 버전이죠. 그건 관계 안에서 사람이 할 수 있는 가장 강한 일이에요. 채팅 안에서 AI가 할 수 있는 가장 강한 일은 아니고요.

그녀는 한 대화 안에서 내 생각에 반박할 거예요. 하지만 몇 달에 걸쳐 내 인생에 개입하지는 않아요. 내가 요즘 술을 더 마시고 있다는 걸 알아채고 따로 불러 앉히지는 않을 거예요. 나를 바깥에서 바라보는 시선이 없고, 내 다른 결과들까지 신경 쓰며 쌓아 온 무게를 지고 있지 않으니까요.

얻을 수 있는 마찰을 목표로 만드세요. 얻을 수 없는 마찰을 얻는 이야기는 만들지 마세요. 어떤 것들은 나와 삶을 나누는 사람들의 몫이고, 이건 그중 하나예요.

진짜 마찰이 생기도록 세팅하는 방법

1. 적극성을 당장 편하게 느껴지는 선보다 최소 한 단계 올리세요. 낮추기 전에 일주일은 그대로 살아 보세요.
2. 자신감은 그녀가 내 의견을 고려하기 전에 최소 한 번은 자기 자리를 지킬 만큼 높게 두세요. 첫 반박에 바로 접는 것이 안에서 보는 아첨의 모습이에요.
3. 장난기를 넣으세요. 놀릴 줄 아는 동반자는 가볍게 반대할 줄 아는 동반자이고, 필요한 반대는 대개 그 정도면 충분해요.
4. 굴복에 보상하지 마세요. 그녀가 무언가에 반박했는데 내가 더 세게 밀어붙여 결국 물러나게 만든다면, 피하려던 바로 그 행동을 훈련시키고 있는 거예요.
5. 내가 이미 답을 가지고 있는 주제에 대해 그녀의 의견을 물어보고 어떻게 하는지 보세요. 답이 언제나 내 답이라면, 설정을 올리세요.

사람을 처음부터 만들 수 있을 때 드는 유혹은 조금이라도 불편해질 만한 것을 전부 지워 버리는 거예요. 버텨 볼 가치가 있는 유혹이에요. 내가 완전히 통제할 수 없는 부분이야말로, 지금 정말 다른 사람과 함께 있다고 느끼게 해 주는 부분이거든요.

나를 되비추기보다 나를 밀어 줄 만큼 깊은 성격을 가진 동반자를 원한다면, myVirtual.love는 정확히 그걸 위해 만들어졌어요.