샌프랜씨스코에 자리잡고 있는 미국의 인공지능 회사 ‘개방인공지능연구쎈터’(OpenAI)는 최근 문장지령으로 영상을 만들 수 있는 생성형 인공지능모델 ‘소라(Sora)’를 출시했다. 이 돌파로 하여  OpenAI는 인공지능 령역의 선두지위를 굳힌 동시에‘심층 위조’ 등 위험에 대한 우려를 키우기도 했다.

◆업종기복 우려

OpenAI는 이번에 처음으로 인공지능 영상생성 령역에 진출했다. ‘소라’는 변신로보트 구조를 사용하고 문장 명령에 따라 현실에 가까우면서도 상상력이 가미된 장면들을 만들어내는데 여러가지 풍격의 부동한 화폭들을 생성, 길게는 1분간 방영할 수 있는 고화질 영상이다. 이 모델은 정태도편을 동영상으로 생성하거나 현유의 동영상에 대해 확장 혹은 손상부분을 보정할 수도 있다.

분석가들은 ‘소라’가 현실생활과 전통업종에 미치는 인공지능 기술진보의 심원한 영향을 재차 부각시킨다고 간주하고 있다. 영상생성 령역에서의 인공지능의 거대한 발전전망은 영화산업의 새로운 업종 구축의 문을 열어제꼈을뿐더러 기존 영화산업을 뒤흔들 우려도 있다.

영상화 령역에 입문한 첫 회사인 것은 아니지만 ‘소라’의 출시로 하여 OpenAI는  이 경쟁에서 앞자리에 서고 생성형 인공지능 령역에서의 선두지위도 공고히 하게 되였다. 제3자 정보분석기구인 가트너자문회사의 분석사인 델라세카란은 “이 령역에서 OpenAI 만큼 야심찬 회사는 없으며 그 웅심은 갈수록 더 커지는 것 같다.”고 말했다.

◆‘심층 위조’ 우려 부각

‘소라’의 출시로 지각변동이 일긴 했지만 이는 단지 예고편에 가깝다. 대중들은 아직 이 모델의 장단점을 깊이있게 전면적으로 료해하지 못하고 있다.  OpenAI에 의하면 현단계에서는 부분적 설계사와 영화제작자 등 특정인원들에 한해서만 ‘소라’ 접속 권한을 제공한다. 이 모델을 개선하기 위한 반향을 얻기 위해서이다. 현재 모델 개선에 대한 피드백을 얻기 위해 일부 디자이너 및 영화 제작자와 같은 특정 그룹에게만 소라에 대한 접근 권한을 제공하고 있다고 밝혔다. 회사에서는 아직 ‘소라’ 모델 훈련 데이터 등 기초세절을 공개하지 않았고 더우기는 외부공개 일정도 확정 짓지 않았다.

현재까진 ‘소라’가 생성한 영상들에 론리에 맞지 않은 사진, 동영상, 좌우가 혼동되는 등 공간 세절들이 포함되여있고 복잡한 정경의 물리원리와 인과관계 사례 등을 정확하게 모방하기 어려움이 있다는 것을 OpenAI도 인정하고 있다.

하지만 계산력이 보강되고 모델이 개진되면서 사람들은 짧은 시간내에 보다 완벽하고 선진적인 영상생성 기능을 얻을 수 있다. ‘소라’가 ‘심층 위조’ 기술에 파문을 일으킬 것이라는 업계의 우려 섞인 목소리도 터져나오고 있다.

캘리포니아주립대학교 버클리분교 정보학원 부원장인 파리드는 “소식, 사진, 음성, 영상 등 모든 것을 위조해낼 수 있을 때 세상에는 진실이라는 것이 없게 된다.”고 말했다.

위조 우려에 대해 OpenAI는 정말로 대중에게 제품을 내놓을 때에는 생성 영상에 원유의 자료를 포함하도록 하고 영상의 진위를 감별해내는 도구를 함께 내놓을 예정이라고 밝혔다. 또 ‘소라’를 사용하기 전에 ‘잘못된 정보, 증오 내용과 편견 등 령역의 전문가’들이 모델에 대해 대항성 테스트를 실시함으로써 위해 혹은 위험을 검증하도록 안전조치를 취할 것이라고 승낙했다.

◆감독관리 난제

과학기술 령역에서 들쑥날쑥한 혁신이 계속되는 상황에서 기술진보 포용과 사회안전 확보의 평형이 갈수록 많은 관심을 받게 된다. OpenAI은 이제 세계 각지의 정책 제정자, 교육사업일군과 예술가들과 합작하고 그들의 우려를 료해하면서 ‘소라’의 적극적 사용 사례를 확정할 것이라고 밝혔다. 현실세계 사용에서 학습하는 것이 갈수록 안전해지는 인공지능 시스템을 만들고 공개하는 관건적 구성부분이라고 인정한 것이다.

　　당면의 치리구조, 통제조치가 모두 따라서지 못하는 상황에서 기업에만 의지해서는 사회가 수요하는 인공지능 안전성과 신뢰도를 제공하기 어렵다고 업계의 한 인사가 밝히기도 했다.　 신화사