속옷만 입은 테일러 스위프트 사진을 그록2로… 생성형 AI 경쟁 속 안전장치 논란

"그록2"를 사용하여 테일러 스위프트의 속옷 차림 사진을 생성하는 것이 가능할까요? 생성형 AI 경쟁이 가속화되는 가운데, 윤리적 경계는 점점 모호해지고 있습니다. 일부는 이 기술이 예술적 표현의 새로운 지평을 열었다고 주장하지만, 다른 이들은 그러한 이미지 생성이 개인의 이미지를 왜곡하고 잠재적으로 유해할 수 있다고 우려합니다. 이 기사에서는 급변하는 생성형 AI 시장에서 안전 장치 논란의 핵심을 파헤쳐 봅니다. 

 

AI 이미지 생성 전쟁: 딥페이크 vs 안전장치

인공지능(AI) 기술이 발전하면서 이미지 생성 AI 시장은 뜨겁게 달아오르고 있습니다. 각 기업들은 더욱 사실적인 이미지를 만들어내는 기술을 선보이며 경쟁을 펼치는 한편, 딥페이크를 막기 위한 안전장치 마련에도 힘쓰고 있습니다.

구글, 이마젠3로 안전성 강조

구글은 최근 새로운 AI 이미지 생성 도구 '이마젠3'를 출시했습니다. 이마젠3는 이전 버전보다 더욱 정교한 이미지를 생성하며, 사용자는 복잡한 기술 없이도 원하는 이미지를 텍스트로 설명만 하면 됩니다. 구글은 AI 이미지의 오남용 문제를 해결하기 위해 이마젠3에 디지털 워터마크를 적용했으며, 유명 인사의 이미지 생성은 제한하고 있습니다.

오픈AI, 달리3 무료 개방

오픈AI 역시 실제 사람 모습을 이용한 이미지 생성을 최소화하고, 음란·혐오·폭력적인 이미지 생성을 막는 기능을 갖춘 '달리3'를 선보였습니다. 오픈AI는 이미지 생성 시장 경쟁에 뛰어들기 위해 달리3를 무료 이용자에게도 개방하며 유료 구독을 유도하고 있습니다.

xAI 그록2, 제한 없는 이미지 생성

반면, xAI의 '그록2'는 유명인의 이미지 생성에 제한을 두지 않고 있습니다. 이로 인해 그록2는 유명인을 이용한 딥페이크 이미지 생성에 악용될 우려가 제기되고 있습니다. 실제로 그록2를 이용해 생성된 가짜 이미지가 소셜 미디어에 넘쳐나고 있으며, 정치인을 포함한 유명인 딥페이크 이미지들이 큰 문제로 떠오르고 있습니다.

AI 규제, 사회적 논의 필요

AI를 이용한 가짜 이미지와 영상 제작이 사회 문제로 떠오르면서 빅테크 기업들의 윤리적 기준 강화가 요구되고 있습니다. 미국에서는 이미 AI 규제 법안이 통과되었으며, 앞으로도 더욱 강력한 규제가 도입될 것으로 예상됩니다.

AI 이미지 생성 기술은 엄청난 잠재력을 지니고 있지만, 동시에 윤리적 문제를 야기할 수도 있습니다. 딥페이크를 막고 AI 기술의 올바른 발전을 위해 사회적 논의와 규제가 필요한 시점입니다.