TV 광고는 환상적인 장면으로 사람들의 소비욕구를 불러일으키고 중고차 판매원은 달콤한 말로 차를 구매하도록 유도한다. 하지만 광고에서 그려내는 장면이 아무리 화려하고 판매원의 화술이 아무리 교묘해도 사람들은 그들이 노리는 건 소비자의 지갑임을 너무나 잘 알고 있다. 그래서 언제든 등 돌려 떠나면 된다.

그럼에도 불구하고 이러한 마케팅이 살그머니 다가와 마음속 깊은 곳의 꿈과 갈망을 정확하게 겨냥하고 게다가 절친처럼 다정하게 소곤댄다면 어떻게 대응해야 할 것인가?

오스트랄리아 ‘대화’ 웹사이트의 최근 보도에 의하면 생성형 인공지능(AI)이 이미 ‘설득’이라는 이 오랜 예술을 완전히 바꾸었다. 오늘날 챗GPT와 같은 대화로보트가 개인 삶의 가장 은밀한 세부를 바탕으로 마음에 닿는 맞춤형 정보를 제공할 수 있다. 이러한 ‘잔잔한’ 수법이 살그머니 사람들의 선택에 영향을 주면서 세계관까지 재정립할 수 있다.

◆평소의 토로가 ‘양분’으로

미국 뉴욕주립대학교 올버니분교 문화사회학및비교력사학 교수인 리차드 라크만은 그의 신간 《디지털지혜: 인공지능시대 주도권 되찾다》에서 빅언어모델이 어떻게 ‘설득력’을 새로운 경지에로 내미는지를 담론했다.

빅언어모델은 사용자의 소셜미디어 게시물과 사진에서 실용적이고 개인 전속의 정보를 얻을 수 있다고 라크만은 해석했다. 사용자가 부동한 대화로보트와 나눈 대화를 거슬러 올라가 찾을 수 도 있다. 이미 털어놓은 감정 고민, 공유한 육아 고락, 솔직한 건강 걱정과 재무 곤경 모두를 ‘양분’으로 삼는다. 이런 대화로보트는 상호작용 가운데서 지속적으로 학습하고 실시간으로 정진하며 사용자의 독특한 취향과 약점을 정확하게 포착해 당신의 원하는 해결책을 제시한다.

◆‘특정 화술’ 맞춤 제작

AI 대화로보트는 매일 사용자를 동반하면서 지혜를 발휘해 맞춤형 ‘특정 화술’을 제작해내고는 사용자의 선택을 좌우할 수 있는 능력을 구비하게 된다고 라크만은 설명했다.

자주 사용하는 AI 대화로보트와 대화한다고 가설하고 요즘 깊이 잠들지 못하고 뒤척임이 잦다고 말하면 대화로보트는 감정관계 압력을 겪을 때 흔히 볼 수 있는 일이라며 안심시켜준다. 그리고는 불면증을 치료하는 신형 수면제가 요즘 나왔는데 효과 좋으며 보험적용 후 15딸라만 지불하면 된다고 알려준다. 일정을 살펴보고는 래일 오후 2시에 온라인 진료 예약까지 문의한다.

이처럼 소리없는 배려는 절친한 친구처럼 다정하게 굴어 큰 위로를 주지만 바꿔 생각하면 등골이 서늘해질 수도 있다.

AI 기술이 급물살을 타고 있는 요즘, 사용자들은 ‘혜안’을 갖추고 자신에게 진정으로 도움을 줄 수 있는 AI 도구를 정확하게 식별해내야 한다.

◆현실적 인지 재정립

학자들은 장기간 이대로 나가면 이런 AI 시스템이 소리없는 줄이 되여 세계를 대하는 사람들의 방식까지 살며시 바꿔놓을 수 있다며 우려를 표했다.

소셜네트워크와 검색 엔진의 알고리즘이 ‘정보 갑속’을 형성할 수 있음이 연구를 통해 이미 실증됐다.

AI 대화로보트의 매 경계면, 알림, 설계 세부에는 모두 사람들의 행위에 영향을 미치려는 의도가 숨어있다고 라크만이 말했다. 어떤 영향은 흔쾌히 접수되지만 많은 경우에 타인을 설득 봉사하기 위한 속셈으로 된다.

AI가 사람들의 사고, 감수와 행동을 지속적으로 부각함에 따라 우리는 하나의 투명한 시스템을 만들어 사용자의 존엄을 선차적 위치에 놓고 독립적 판단 능력 강화할 필요가 있다. 

과학기술일보