지난 2년간 인공지능(AI) 기술의 돌파는 사람들로 하여금 그 ‘총명’ 정도에 경탄을 금치 못하게 했다. 우리는  AI의 대화능력, 번역기능, 창작잠재력에 매료되기도 했다. 하지만 오늘날 AI가 간단한 대화 로보트에서 점차 직접 물건을 사고 계약을 체결할 수 있는 ‘지능체’로 발전하면서 초점이 이미 권력경계에 대한 토론으로 전환되였다. 우리가  AI의 편리함을 누리는 동시에 결책과정에 대한 통제권을 여전히 유지하고 있는지를 생각하지 않을 수 없다.

미국 《포브스》 잡지 웹사이트가 최근 이 같은 추세에 주목하고  AI 경쟁의 새로운 규칙이 수면 우로 떠올랐다고 지적했다. 바로 ‘신뢰’이다. 신뢰는 더 이상 기업의 연성우세가 아니라 제품설계에서 홀시할 수 없는 ‘강성 지표’로 되였다. 미래 디지털세계의 통제권은 ‘능력’과 ‘믿음성’의 균형을 이룰 수 있는 플랫폼들에 속할 것이다. 다시말하면 AI의 ‘대리권’이 더 이상 기술능력에 의해 결정되는 것이 아니고 사용자로 하여금 통제권을 넘겨주면서도 여전히 안전, 안심을 느낄 수 있게 하는 데 달려있다.

◆‘대리권’, 사용자 의지와 위배

이러한 안전감의 본질은 ‘대리권’ 월권에 대한 인간의 깊은 경계심이다. 이전에는 AI가 ‘문답기계’였고 인간이 명령을 내리면 AI가 실행했다. 하지만 현재 AI는 ‘지능체’로 진화하고 있으며 이는 피동적 대응에서 주동적 집행으로 전환되고 있음을 의미한다.

해외 해커뉴스가 일전 발표한 문장에 따르면 AI 지능체는 다른 류형의 ‘사용자’이기만 한 것이 아니다. 이들은 인간 사용자 및 전통적인 서비스 계정과 본질적 구별이 있다. 바로 이러한 차이로 인해 현유의 방문권한과 비준 모델의 전면 실효를 초래하게 된다. 실제조작에서는 AI가 고능률적으로 임무를 완수할 수 있도록 하기 위해 시스템이 지능체에 부여하는 권한은 왕왕 사용자 본인이 보유한 권한보다 더 높다. 이러한 ‘방문권한 이동’은 사용자가 모르고 권한을 부여하지 않은 정황에 AI가 기술적 면에서는 합법적이지만 사용자의 자주적 의지에 어긋나는 조작을 수행할 가능성을 유발할 수 있다.

‘대리인’의 기술적 권력이 사실상 그 주인보다 클 때 인류는 디지털세계의 통제권에서 ‘유명무실’해질 위험에 직면하게 된다.

◆사람－기계 권한 계약 경계 재정립

이러한 통제권을 되찾기 위해 전세계의 기술관리자들은 ‘신뢰성’을 기본 코드에 작성하려고 시도하고 있다. 싱가포르 정보통신미디어발전국(IMDA)이 일전에 발표한 《지능체 AI 치리구조》는 핵심개념을 제기했다. 즉 ‘의미 있는 감독’이다. IMDA는 단순히 과정에 ‘인공클릭 확인’ 버튼을 추가하는 것만으로는 부족하다고 지적했다.

만약 AI의 결책 과정이 투명하지 않은 블랙박스 같다면 인간의 허가는 맹목적인 형식적 절차로 될 수 있다. 진정한 통제는 AI가 사용자에게 그 의도와 가능한 결과를 리해할 수 있도록 해야 한다고 요구한다.

《포브스》 잡지 소개에 의하면 당면 기술계는 ‘이중 권한 부여’ 구조를 추종하기 시작했다. 이러한 구조의 핵심은 AI가 데이터에 대한 ‘접근권’과 결과에 대한 ‘실행권’을 분리하는 데 있다. 이러한 권한 재정립은 기술이 물론 어떻게 진화해도 시종 인간 의지의 연장일 뿐 대체가 아니라는 것을 보장해준다.

◆‘신뢰’,  제품 강성 지표 되여야

지난날 우리는 모든 개인 데이터를 먼곳에 있는 클라우드 거두에 맡기는 데 익숙했다. 하지만 《포브스》는 AI와 함께 자란 젊은이들이 이러한 ‘양도’의 대가를 반성하기 시작했다고 지적했다. 이러한 소위 ‘AI 원생대’는 일종의 ‘주권 각성’을 일으키고 있으며 더 이상 모든 개인 데이터를 클라우드에 맡기는 것을 신뢰하지 않고 AI가 본지화, 민영화된 기반시설에서 운행되도록 요구하고 있다.

신뢰가 단단한 제품 지표로 될 때 AI 개발자의 목표도 전이하게 된다. 기능과 원가는 더 이상 핵심경쟁력이 되지 않는다. 권한 통제, 데이터 사용 및 결책 투명도에서 어떻게 신뢰를 얻는지, 이것이야말로 AI 제품의 진정한 매력이다. 결국 AI가 디지털 세계의 통제권을 재구성하는 과정은 본질적으로 인간이 기술 정글 속에서 새로운 안전감을 찾는 과정이다. 

과학기술일보