최근 ‘AI 얼굴 바꾸기’의 활용범위가 넓어지고 있지만 람용의 소지가 있고 ‘AI 얼굴 바꾸기’를 리용한 동영상 조작, ‘얼굴 바꾸기 사기’ 등 범죄현상까지 벌어지고 있다. ‘AI 얼굴 바꾸기’의 법적 경계는 어디에 있을가? 일반인은 어떻게 대비해야 할가?

◆AI 기술 람용 위험 존재

인공지능의 발전을 표준화하기 위해 지난해 12월 정식 발부한 ‘인터넷정보서비스 심층 협력 관리 규범’은 합성데이터와 기술관리규범을 명확히 했다. 그중 심층합성 서비스 제공자는 서비스를 사용해 생성하거나 편집한 정보내용에 사용시 영향이 없다는 표식을 추가해야 한다고 언급했다. 스마트대화, 합성목소리, 얼굴생성, 몰입형 시물레이션 장면 등 정보를 생성하거나 크게 변경하는 서비스를 제공하는 경우 대중이 혼동하거나 오인하지 않도록 눈에 띄게 표시해야 한다.

최근 일부 플랫폼과 기업은 ‘인공지능 콘텐츠 생성에 관한 플랫폼 규범 및 업계 창의’를 발부하여 생성식 인공스마트기술을 리용한 창작, 침권내용 발부를 명확히 금지하고 초상권, 지적소유권 람용 등을 발견하면 엄숙하게 처벌하기로 했다.

개인을 놓고 말할 때 형형색색의 ‘스타얼굴’을 통한 허위선전에 빠지지 말고 새로운 AI 사기에 대해 반드시 예방의식을 가져야 한다.

◆정보를 보호하고 경각성 높여야

자기의 신분증, 은행카드, 검증코드 등 정보를 쉽게 루설하지 말고 얼굴, 지문 등 개인 생물학적 정보를 타인에게 제공하지 말며 영상 등을 과도하게 공개하거나 공유하지 말아야 한다.

◆다경로 인증, 신원을 확인해야

만약 ‘지인’, ‘상사’ 등을 사칭해 SNS, 메시지 각종 사유로 송금을 유도하거나 구좌이체 거래행위를 하는 경우에 반드시 전화, 만남 등 다양한 경로를 통해 상대방의 신원을 확인해야 하고 확인 없이 송금하지 말아야 한다.

만약 부주의로 사기를 당하거나 의심스러운 상황이 발생하면 증거보호에 주의해야 하며 즉시 96110으로 전화해서 경찰에 신고해야 한다.

◆경찰측이 말하는 AI 얼굴 바꾸기 사기 인식 두가지 꿀팁:

① 상대방에게 손가락이나 기타 물건을 얼굴 앞에 대고 왔다갔다 움직이도록 요구할 수 있다.

② 상대방에게 얼굴을 왼쪽 또는 오른쪽으로 돌려달라고 하여 옆얼굴이 뒤틀려 변형되지 않았는지 관찰할 수 있다.　 

인민넷