“진짜야, 가짜야?” AI가 뒤흔든 콘텐츠의 미래

인간이 기술을 사용해 가상세계를 그리는 것. 지금까지 전혀 없었던 획기적인 일은 아닙니다.

컴퓨터에 깔린 포토샵 하나면 손쉽게 가능했으니까요. 가본 적 없는 외국 풍경 속에 내 얼굴을 넣을 수 있고, 원래 있던 사람을 감쪽같이 지울 수도 있죠. 게다가 요즘은 PC를 켤 필요도 없습니다. 스마트폰 기본 기능으로도 사진 편집이 몇 초 만에 이뤄져요.

영상물에 컴퓨터 그래픽 기술이 입혀지기 시작한 것도 오래전 일입니다. 1990년대 개봉한 영화 속에서 외계인이 말하는가 하면, 우주처럼 비현실적인 배경 속에서도 이야기가 전개됐으니까요.

이렇듯 우리가 보고, 듣고, 즐기는 콘텐츠 속에 편집 기술은 깊숙이 들어와 있었는데요. 그럼에도 우리는 최근 생성형AI가 만든 새로운 사진과 영상에 놀라움을 금치 못하며, 자연스럽게 '혁신'이라는 단어를 붙입니다. 그 이유는 무엇일까요?

‘메타 리얼리티랩’의 AI 기술고문 헨리 아이더(Henry Ajder)는 지난 26일 진행된 스타트업콘에서 ‘생성형 AI가 가져온 콘텐츠 제작환경의 미래’를 주제로 기조연설을 진행했는데요. 그의 말을 빌려 생성형AI가 콘텐츠 제작환경에 어떤 영향을 끼치고 있는지 한번 알아보겠습니다.

생성형AI는 왜 유독 주목받을까?

“지난 2년간 AI가 만들 수 있는 콘텐츠의 질이 현격히 향상되었습니다. 딥페이크를 이용한 톰 크루즈 영상을 보신 적 있나요? 과거의 콘텐츠 제작 기술 수준과는 전혀 달라요.”

생성형AI는 수많은 데이터를 훈련해 새로운 콘텐츠를 생성합니다. 텍스트를 생성하는 챗GPT가 대표적인 예죠. 딥페이크(deepfake)는 생성형AI를 통해 다른 사람의 얼굴과 목소리를 합성하는 기술인데요. 움직이는 영상에 다른 사람의 얼굴을 합성했다고 하니 부자연스럽지 않을까 의심되지만, 실제 영상을 보면 눈을 의심할 정도로 정교하고 자연스러워졌습니다.

그는 연설에서 우리에게 익숙한 배우의 영상을 예시로 들었습니다. 배우 톰 크루즈가 등장해요. 톰 크루즈는 영상 속에서 골프를 치기도 하고, 여행을 갑니다. 카메라를 보며 농담하기도 하죠. 하지만 이 영상은 딥페이크 기술로 만들어진 가짜 영상이었습니다.

헨리 아이더는 이렇듯 현실과 가상의 경계가 허물어진 리얼리즘(Realism)을 생성형 AI의 첫 번째 특징으로 설명했습니다. 어딘가 어색하고 부자연스러웠던 합성 기술은 이제 옛말이 됐다는 거죠. 생성형 AI의 구현 수준이 진짜와 가짜를 구분할 수 없을 정도로 고도화됐습니다.

생성형AI의 두 번째 특징으로는 효율성을 꼽았습니다. 불과 5~6년 전만 해도 딥페이크라고 불리는 합성 기술은 매우 많은 양의 데이터를 필요로 했었죠. 우리가 일상적으로 사용하는 PC, 스마트폰으로는 꿈도 꾸지 못했던 기술이었고요. 그러나 이제는 가상의 영상 하나를 만들기 위해 필요한 데이터 규모가 현저히 작아졌다고 설명합니다.

마지막으로, 가장 중요한 특징으로 접근성을 언급했습니다. 과거엔 '소수의 전문가'만 이용하던 기술이 이제는 '누구에게나' 열려있으며 대량소비 가능한 도구로 탄생했다는 건데요. 이러한 경향을 두고 헨리 아이더는 “AI 기술의 민주화”라고 표현합니다.

“불과 몇 개월 전만 해도 이런 인공지능 도구를 사용하려면 컴퓨터 과학기술에 대한 어느 정도 지식이 필요했습니다. 그러나 챗GPT 등이 출시되면서 상황은 달라졌죠. 누구나 계정을 만들기만 하면 방대한 정보에 접근할 수 있고, 인공지능 기술을 손쉽게 누릴 수 있게 됐습니다.”

그는 NFT, 메타버스, Web3 등 혁신적인 기술이 수없이 등장했지만, 생성형 AI만큼 실생활에 영향을 준 기술은 없다고 말합니다. 그 이유로는 생성형 AI 기술을 실생활에 바로 사용할 수 있게 되면서 “기술과 실제 생활 사이의 공백이 적다”고 설명했습니다.

인공지능은 콘텐츠 업계를 어떻게 바꿔놨나

사실적이고, 효율적이며, 접근성이 뛰어난 생성형AI로 인해 콘텐츠 업계의 제작환경에도 변화가 일어났습니다. 과거의 기술 수준에 머물러 부자연스러웠던 합성 이미지와 영상이 자연스러워지고, 콘텐츠 제작 기간은 축소되었죠. 헨리 아이더는 콘텐츠를 제작하고 있는 산업을 하나씩 예로 들며 생성형AI가 산업에서 어떻게 사용되고 있는지 설명했어요.

“생성형 AI로 검색엔진에 최적화된 마케팅용 글을 작성하고, 제품의 사진을 개선해 광고용 이미지로 활용합니다. 사람이 쓴 것보다 더 훌륭한 영업 피칭 자료를 AI가 써주고 있고요. 광고 영상에서는 한 사람을 위한 영상 메시지처럼 입 모양과 대사를 바꿀 수 있습니다. AI기술로 광고 영상마저 개인화가 된 겁니다."

그는 개인화의 또다른 예시로 미국 뉴욕 시장의 연설을 들었습니다. 에릭 애덤스 뉴욕 시장이 지역 사회 행사에 참석하도록 독려하는 음성메시지에 AI를 사용하기 시작했다는 건데요. 중국어, 스페인어, 유대인 언어 등 뉴욕 내 다양한 인종에 맞춰 메시지를 제작해, 개인화된 음성 파일을 제작할 수 있게 된 것이죠.

한편, 영화계에서는 생성형AI가 특수효과 기술의 새로운 지평을 열고 있습니다. 그는 기술의 발전 수준을 설명하며 "영화 '미션임파서블20'은 다른 대역의 몸에 톰 크루즈의 얼굴만 합성하지 않을까요?"라는 농담을 던지기도 했는데요.

실제로 이와 비슷한 사례가 있었습니다. 2021년 한 러시아 통신사 광고에 은퇴한 배우 브루스 윌리스가 등장했어요. 그는 광고 촬영을 위해 러시아에 간 적이 없는데 말이죠. 이 광고는 딥페이크 기술을 사용해 다른 사람의 몸에 브루스 윌리스의 얼굴만 합성해 제작한 영상이었습니다. 저작권만 확보하면, 전 세계 어디서든 배우가 출연한 영상을 제작하는 것은 쉬운 일이 되었어요.

한편, 영화업계 관계자들이 AI기술을 어떻게 받아들이냐는 초미의 관심사입니다. 최근 헐리우드 배우와 작가가 "AI가 생계를 위협한다"고 우려하며 시작된 파업이 화제가 되기도 했죠.

음악계에서는 AI로 인해 저작권 논란이 생기기도 했습니다. 2021년, 익명의 작곡가가 만든 가수 위켄드와 드레이크의 신곡이 음원이 세상에 공개돼 화제가 됐어요. 틱톡에서 시작해 각종 동영상 플랫폼에서 1100만 건 이상의 조회수를 기록하기도 했고요. 그러나 이 노래는 '고스트라이터(Ghostwriter)'라는 익명의 틱톡 사용자가 두 가수의 목소리를 조작해 제작한 가짜 음원이었고, 저작권의 이유로 나흘 만에 삭제되었습니다. 음악업계 종사자들은 이 사실을 두고 분노를 표했지만, 가수가 노래를 부르지 않아도 자신의 목소리로 신곡을 발표할 수 있다는 사실을 보여준 중요한 사건이었습니다.

이렇게 생성형AI는 콘텐츠가 제작되는 전 산업군에서 활발하게 사용되며 기존 콘텐츠 제작 과정을 비틀어놨습니다. 헨리 아이더는 콘텐츠 업계뿐만 아니라 일상생활 속 콘텐츠 제작에서도 생성형AI는 더욱 자연스럽게 사용될 것이라 예상했습니다.
 
"마이크로소프트는 이미 MS오피스에 co-pilot이라는 기능을 도입해 AI로 검색하고 발표자료를 빠르게 만들 수 있도록 돕고 있습니다. 이처럼 생성형AI를 일상에서 사용하는 일은 앞으로 더 당연해지고, 자연스러워질 거예요. 기존에 사용하던 도구에 생성형 AI를 입혀 불편함이 없도록 도입될 거니까요."

생성형AI의 그림자, 기술의 한계와 책임은?

생성형AI의 등장으로 효율성이 증가하고 가공된 결과물을 손쉽게 얻을 수 있지만, 전례 없던 기술 앞에 새로운 문제가 생겨나고 있습니다. 법적 규제와 사회 합의가 기술의 발전 속도를 따라가지 못한 결과인데요. AI 결과물의 진위성을 구별하기 어렵고, 현실과 가상의 경계가 허물어지자 곳곳에서 잡음이 생겨난 것이죠.

“AI가 자신 있게 사실이 아닌 정보를 줄 때 이것을 'AI가 환각에 빠져있다'고 표현합니다. AI의 환각 문제는 기술의 한계와 책임 문제를 명백히 보여줍니다. 뉴스나 미디어가 생성형AI에서 잘못된 정보를 얻어 가짜 뉴스를 만들 수 있습니다. 변호사들은 AI에서 얻은 가짜 판례로 잘못된 판단을 할 수 있고요. 이렇게 오정보가 사실인 것처럼 전파된다면, 그 책임은 누구에게 있을까요?"

그는 또 다른 문제점으로 AI의 편향성(Bias)을 꼬집었습니다. 생성형AI가 얼마나 현실 세계를 대변할 수 있는가에 대한 이야기인데요. 예를 들어 ‘의사’라고 검색했을 때 AI의 답변으로 ‘백인 남성’이 등장하는 것은 실제 우리 사회를 반영하지 못하며, 편향된 정보를 제공하고 있다는 겁니다.

그 외에도 딥페이크 기술의 오사용으로 가짜 포르노가 제작되고 있으며 주식시장과 전쟁 등에 가짜 정보가 생산되고 있습니다. 사람의 음성을 조작해 주변인에게 사기행각을 벌이는 등 범죄에 악용될 수 있다는 우려도 존재합니다. 현실과 가상의 경계가 허물어진 AI시대. 앞으로 생성형AI와 함께 살아가는 세상은 어떻게 변화할까요? 

"AI시대에는 투명성이 가장 중요한 가치가 될 것입니다. 콘텐츠를 보여줄 때 합성인지 아닌지, 어느 정도까지 기술을 사용했는지 투명하게 공개하는 제도가 필요해요. 1년만 지나도 AI규제에 여러 가지 변화가 있을 것이라 예상합니다. 하지만, AI로 인한 콘텐츠 수준이 높아져도 인간의 손으로 만든 '핸드메이드'와 창의성의 가치는 사라지지 않을 것입니다. AI보다 사람이 만드는 결과물에 더 높은 가치를 매기는 현상은 앞으로도 여전할 거예요."

장경림 기자 [email protected]