근자에 국내외 일부 인공지능(AI) 제품의 문답내용 가치방향이 착오적이라는 뉴스가 인터넷을 달구고 있다. AI 기술이 발전함에 따라 AI의 가치방향 문제도 폭넓은 관심을 받고 있으며 ‘신뢰할 수 있는 AI 시스템을 구축해야 한다’는 목소리가 갈수록 높아지고 있다.

신뢰할 수 있는 AI 시스템이란 무엇이고 여기에는 어떤 경로가 있는가?

◆신뢰, 안정이 관건

AI가 사회생활과 각 업종에 깊숙이 침투됨에 따라 그 결책과 행위의 영향 범위도 날로 확대되고 있다. 례를 들어 의료, 교통, 금융 등 고위험 령역에서 AI 시스템의 결정은 사람들의 생명, 재산과 복지에 영향을 주며 부분적인 잘못된 결책은 직접 인간의 생명 또는 재산안전에 위협줄 수 있다.

AI 시스템의 신뢰 확보는 이미 AI 발전에서 홀시할 수 없는 요구로 되였다. 이는 기술 차원의 개진일뿐더러 사회 륜리와 책임의 구현이기도 하다. 중국과학기술대학교 인공지능및데이터과학학원 교수인 왕상은 신뢰 가능한 AI 시스템은 기술이 인류의 수요를 더 잘 만족시키게 할 수 있을 뿐만 아니라 AI의 오판과 편견으로 유발할 수 있는 부정적 결과도 효과적으로 방지할 수 있다고 표했다. 신뢰 가능한 AI 시스템은 예측, 생성, 결책 등 우수한 업무능력이 있어야 할 뿐만 아니라 투명도, 공정성, 해석성, 안전성 등 면에서도 사용자의 기대에 부응해야 한다.

◆사람─기계 정렬이 전제

그럼 어떻게 AI 시스템의 신뢰성을 보장할가? 왕상은 사람─기계의 정렬과 믿음직한 AI 시스템 구축은 관계가 밀접하며 “사람과 기계의 정렬 특성을 가진 AI 시스템만이 신뢰성 특성을 더한층 실현할 수 있다.”고 했다.

개념상에서 사람과 기계의 정렬은 AI 시스템이 임무를 수행하고 결책을 내릴 때 그 행위, 목표와 가치관이 인류와 일치함을 유지하도록 확보하는 것을 말한다. 이는 바로 AI 시스템이 스스로 최적화하고 임무를 수행하는 과정에서 임무를 능률적으로 완수해야 할뿐더러 인류의 륜리와 가치체계에 부합되여야 하며 인류가 설정한 목표에서 벗어나거나 불량한 사회영향을 초래해서는 안된다는 것이다. 더우기 사회륜리와 안전에 관련된 정경에서 AI 추출 내용이 인류의 가치관과 도덕준칙에 부합되게 확보하는 것은 사람과 기계 정렬의 핵심의미이다.

만약 AI 시스템이 사람과 기계가 정렬하는 과정을 거치지 않는다면 강대한 기능과 지능을 지녔다 하더라도 인류의 기대와 가치관에 부합되지 않아 신임위기 혹은 부정적 영향을 초래할 수 있다. 그러므로 AI 시스템이 목표와 행위에서 인류와 일치를 유지하도록 확보하는 것은 신뢰할 수 있는 AI 시스템을 구축하는 데서 중요한 전제이다.

◆기술 최적화가 수단

신뢰 가능한 AI 시스템을 구축하려면 기술 차원과 응용실천에서 끊임없이 탐색하고 보완해야 한다. 왕상은 세가지 주요 기술경로를 소개했다.

첫째, 데이터 구동 경로이다. 데이터의 질과 다양성은 신뢰 가능한 AI를 실현하는 기초이다. 훈련 데이터의 다양성은 모형중의 편견문제를 효과적으로 줄일 수 있고 시스템 결책이 보다 공평, 전면적이게 보장한다.

둘째, 계산법 구동 경로이다. 계산법의 최적화와 통제는 신뢰 가능한 AI를 실현하는 관건적인 수단이다. 모형의 설계단계에서 개발자는 륜리규칙 설치, 인류가치관 도입 등 제약조건을 통해 시스템이 실제운행에서 사회준칙에 부합되도록 확보할 수 있다.

셋째, 상벌 인도 경로이다. 합리하게 상벌기제를 설계하여 AI가 부단한 시행착오와 학습 과정에서 점차 인류가치관에 부합되는 행위방식을 형성하게 할 수 있다.

이 세가지 기술 경로의 치중점은 각기 다르다. 부동한 경로가 서로 결부되면서 신뢰 가능한 AI 실현에 보다 풍부한 기술지지를 제공할 수 있다. 신뢰 가능한 AI 시스템을 구축하려면 실제응용에서도 부단히 갱신하고 최적화해야 한다.

여러차례의 평가와 테스트를 통해 부동한 환경과 조건에서의 AI 시스템 성능을 검증하여 실제응용에서의 표현이 인류의 기대에 부합되도록 할 수 있다.

　　과학기술일보