[한국강사신문 이용호 칼럼니스트] 디지털 세계의 발전과 함께 인공지능(AI) 기술의 진보는 우리 일상에 깊숙이 자리 잡았다. AI가 만들어내는 콘텐츠는 놀라울 정도로 현실과 구분하기 어려운 수준에 이르렀고, 이로 인해 새로운 유형의 문제들이 대두되기 시작했다. 특히 생성형 AI 기술을 활용해 만들어진 이미지나 영상들이 사회적, 정치적 혼란을 야기할 수 있는 허위 정보로 사용될 가능성이 커지면서, 이를 어떻게 식별하고 관리할 것인가에 대한 논의가 다각적으로 이루어지고 있다.

최근 오픈AI는 자사의 이미지 생성형 AI 도구인 '달리3'로 만든 이미지에 디지털 워터마크를 부착한다고 발표했다. 이는 생성된 이미지의 출처와 진위를 쉽게 파악할 수 있게 해주는 중요한 조치로, 눈에 보이지 않는 디지털 워터마크 기술을 통해 가능하다. 이 기술은 사진이나 동영상 등의 디지털 데이터에 저작권 정보나 기타 중요한 정보를 삽입할 수 있게 해주며, 특정 도구를 통해서만 확인할 수 있다.

이러한 워터마크 기술은 콘텐츠 출처 및 진위 확인을 위한 연합(C2PA)의 표준에 따라 개발되었다. C2PA는 마이크로소프트, 어도비, 인텔 등 여러 대형 기업들이 참여하고 있는 개방형 기술 표준으로, 디지털 콘텐츠의 출처와 진위성을 확인할 수 있는 방법을 제공한다. 이 표준은 특히 AI로 생성된 이미지나 비디오의 진위를 검증하는 데 중요한 역할을 한다.

AI 기술의 발달로 인해 우리는 더 이상 온라인에서 접하는 정보를 무조건적으로 신뢰할 수 없게 되었다. 특히 딥페이크 기술이 정치적 목적으로 악용되거나, 유명 인사들을 대상으로 한 음란 이미지 생성 등의 사례가 늘어나면서, 사회적으로 큰 우려가 제기되고 있다. 이러한 상황에서 생성형 AI 콘텐츠에 대한 규제의 필요성이 커지고 있다.

최근 미국에서는 생성형 인공지능(AI) 기능의 악용 사례가 잇따라 발생하고 있어 사회적 우려가 커지고 있다. 특히, 올해 진행될 미국 대선과 관련하여, 정치인들을 대상으로 한 딥페이크 영상이나 유명 팝 가수 테일러 스위프트를 모방한 부적절한 딥페이크 이미지 등이 SNS를 통해 빠르게 확산되고 있다. 이러한 현상은 딥페이크 기술이 얼마나 진보했는지를 보여주는 동시에, 그로 인해 발생할 수 있는 심각한 사회적, 윤리적 문제들을 드러내고 있다. 오픈AI도 이런 분위기를 의식해 생성형 AI 콘텐츠 규제를 발표한 셈이다.

오픈AI 뿐만 아니라 메타, 구글 등 다른 대형 기업들도 이러한 움직임에 동참하고 있다. 메타는 자사의 AI 도구로 만든 이미지에 '이매진드 위드 AI'라는 워터마크를 부착하겠다고 발표했으며, 구글 또한 AI 챗봇 'Gemini'에 이미지 생성 기능을 추가하면서 딥마인드의 워터마크를 적용한다고 밝혔다. 이러한 워터마크 부착 조치는 허위 정보의 유포나 위변조를 막기 위한 중요한 방법 중 하나로 여겨진다.

국내에서도 이러한 트렌드에 맞춰 AI로 생성한 콘텐츠 식별 문제에 대응하기 위한 움직임이 보이고 있다. 제페토와 같은 국내 플랫폼은 사용자들이 AI로 생성한 콘텐츠를 쉽게 식별할 수 있도록 워터마크 도입 정책을 마련하고 있다. 이는 사용자들이 제공받는 콘텐츠의 출처와 진위를 보다 명확히 이해하고, 신뢰할 수 있는 정보를 선별하는 데 도움이 된다.

이처럼 다양한 기업들이 책임감 있는 AI 활용을 위해 노력하는 것은 긍정적인 변화라고 할 수 있다. AI 기술이 가져오는 잠재적 위험을 인식하고, 이를 관리하기 위한 적극적인 조치를 취하는 것은 디지털 정보의 신뢰성을 유지하고, 오해와 조작으로 인한 사회적 혼란을 방지하는 데 매우 중요하다. 디지털 워터마크와 같은 기술적 해결책은 이러한 문제에 대응하기 위한 효과적인 수단 중 하나로, 앞으로도 이와 같은 기술의 발전과 적용은 계속될 것으로 보인다.

더 나아가, 이러한 움직임은 국내외를 막론하고 디지털 콘텐츠의 진위를 확인하고, 사용자들이 보다 안심하고 정보를 소비할 수 있는 환경을 조성하는 데 기여할 것이다. 누구나 예상하듯이 AI 기술의 발전은 멈추지 않을 것이기 때문에, 이에 따른 책임감 있는 사용과 관리는 더욱 중요해질 것이다. 우리 사회가 디지털 정보의 신뢰성을 유지하고, 허위 정보로 인한 해악을 최소화하기 위해서는 기술적, 법적, 윤리적 차원에서의 지속적인 노력이 필요하다.

이용호 칼럼니스트는 SKT 메타버스 플랫폼인 이프랜드(ifland)에서 매주 월요일 오후 9시에 정기적으로 “인공지능관련 새로운 소식과 기술”을 상세히 전하는 ‘호몽캠프’를 진행하고 있다. 이는 100회 이상 꾸준히 진행되고 있어 정통성과 신뢰성을 가진 밋업으로 평가 받고 있다.

칼럼니스트는 스마트공장에서 주로 사용되는 ‘머신비전’ 전문회사인 ‘호연지재’를 경영하고 있으면서 다양한 분야에 관심이 많아 메타버스와 유튜브 인플루언서로 활동하고 있다. 특히 ‘머신비전’에서 인공지능 딥러닝에 의한 영상처리기술을 자주 적용하다보니 10년 이상 연구한 AI 분야에 대해서도 해박한 지식을 가지고 있다.

주요 강의 분야는 “챗gpt 시대 생활 속의 인공지능 발견하기”, “시니어 세대를 위한 스마트폰 AI 활용하기”, “시니어 세대 인플루언서 활동으로 인생 이모작”, “메타버스의 활용과 인플루언서 활동”, “시니어와 MZ세대간의 소통”등이 있으며, 저서로는 『나는 시니어 인플루언서다』가 있다.