DeepMind는 허위 정보에 대한 우려 속에서 AI 콘텐츠 라벨을 테스트합니다.

Google이 소유한 런던 소재 AI 회사인 DeepMind는 인위적으로 생성된 콘텐츠를 감지하고 레이블을 지정할 수 있는 디지털 워터마크 도구를 시험하고 있습니다.

SynthID라고 불리는 이 도구는 이미지의 개별 픽셀에 라벨을 삽입합니다. 인간은 마크를 볼 수 없지만 컴퓨터는 이를 감지하고 AI가 생성한 마크인지 판단할 수 있습니다.

현재 Google의 자체 이미지 생성 모델을 위해 내부적으로 시험 중인 SynthID는 기술 발전의 주요 관심사인 AI 콘텐츠의 허위 정보에 맞서 싸우기 위한 DeepMind의 시도입니다.

그러나 DeepMind는 자사의 워터마크 시스템이 “과도한 이미지 조작을 완벽하게 방지”할 수는 없다고 경고했습니다.

사실적인 이미지를 생성할 수 있는 생성 AI 도구는 공개된 지 얼마 되지 않았지만 이미 무해한 농담부터 정치적 선전에 이르기까지 다양한 사기 행위가 있었습니다.

올해 초 프란치스코 교황이 디자이너 패딩 재킷을 입고 있는 이미지가 사람들이 AI가 만든 것이라는 사실을 깨닫기도 전에 입소문이 났습니다. 비슷한 시기에 도널드 트럼프의 허구적인 체포를 묘사한 사진이 소셜미디어에 유포되어 많은 사람들을 속이고 가짜로 보도되었습니다.

AI 기반 허위 정보는 영국과 미국 모두 주요 선거가 다가옴에 따라 더욱 중요한 관심사가 되었습니다.

이번 달, 노동당 의원이 리시 수낙 총리가 반대하는 여성 옆에 맥주 한 잔을 붓는 사진을 공유하면서 영국 정치에 영향을 미치는 가짜 이미지에 대한 논쟁이 더욱 촉발되었습니다. 나중에 수낙을 나쁜 시각으로 묘사하기 위해 변경된 것으로 밝혀졌습니다.

AI를 사용하지는 않았지만 편집된 이미지는 공격적인 반응을 불러일으켰고 기술 비서 미셸 도넬런(Michelle Donelan)은 트위터를 통해 자신의 반대 의견을 공유했습니다.

“딥페이크와 디지털 방식으로 왜곡된 이미지의 시대에는 신뢰할 수 있는 신뢰할 수 있는 정보 소스를 확보하는 것이 더욱 중요합니다. 선출된 국회의원 중 누구도 가짜 이미지로 대중을 호도해서는 안 됩니다.”라고 Donelan은 말했습니다. "이것은 노동당의 매우 절박한 내용입니다."

AI에 의해 생성된 가짜 이미지의 탐지는 다가오는 AI 안전 서밋에서 논의될 가능성이 높습니다. 이 서밋에서는 국제 지도자와 전문가가 모여 기술을 규제하기 위한 글로벌 접근 방식을 모색할 것입니다.

더 읽어보세요:Lib Dem 의원은 AI 규제가 '정책 입안자들에게 큰 도전'이라고 말했습니다.