생성형 이미지와 워터마크 기술, 논의

AI 생성 아트와 저작권 문제는 현재도 진행 중인 뜨거운 이슈입니다.
생성형 이미지와 같은 AI 생성물의 합법성에 대한 불안이 널리 퍼져 있으며, 이에 대한 정보를 찾는 사람들이 많습니다.

실제로 예술가들과 창작자들은 AI가 그들의 독특한 스타일을 저렴한 비용으로 대량 생산한다고 주장하고 있으며, 이는 미국에서 작가와 배우들의 파업과도 연결되고 있습니다. 한편으로는, 국내에서는 이에 대한 명확한 지침이 없어 많은 혼란이 발생하고 있습니다.

직접 저작권 관련 자료를 학습시켜 만든 Veluga 저작권 챗봇에게 물어보았지만, 여전히 대답이 애매하다.

AI 저작권 문제에 대한 더 넓은 논의는 다음 기회에 더 자세히 살펴보기로 하고, 이번에는 생성형 이미지를 구분하기 위하여, 어떤 논의가 진행되고 있는지와  워터마크를 적용하는 방법과 생성형 이미지의 변형을 방지하는 기술들을 살펴보겠습니다.

 

2023년 6월에 통과한 EU의 AI법에서는 투명성을 갖출 것을 요구했습니다.

• AI가 제작한 콘텐츠임을 공개
• 불법 콘텐츠 생성을 방지하도록 모델 설계
• 훈련에 사용된 저작권 데이터의 정보 요약 게시

https://www.aitimes.com/news/articleView.html?idxno=151738

인공지능 규제 법안 유럽의회 통과 - AI타임스

https://www.europarl.europa.eu/news/en/headlines/society/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence

EU AI Act: first regulation on artificial intelligence | News | European Parliament

또, 조 바이든 미 대통령은 지난 7월 22일 오픈AI와 구글, MS를 비롯해 메타와 아마존 등 글로벌 기업은 물론 앤트로픽과 인플렉션AI 등 대형언어모델(LLM)을 보유한 주요 스타트업 등 7곳이 포함해서 서약을 진행했었습니다.

서약서에는 가짜 뉴스와 딥페이크를 방지하기 위해 텍스트나 이미지, 사운드, 동영상 등 AI 생성 파일에 워터마크를 추가하는 것을 비롯, 동맹국 등과 협력해 AI의 개발 및 사용을 관리하기 위한 강력한 국제 프레임워크를 만들 것"이라고 밝혔었습니다. 

https://www.aitimes.com/news/articleView.html?idxno=152569 

오픈AI·구글 등, 워터마크 포함 'AI 안전 서약' 발표 - AI타임스

 

그러나, 스탠포드 기초모델 연구소는 유럽 AI 규제 법안에서 요구하는 항목 22개중에서 12개의 항목을 중심으로 분석한 결과, 데이터의 투명성 확보와 저작권 표기, 에너지 소비량 공개.AI 생성 콘텐츠라는 표시 등과 관련된 규제 항목들을 모두 지키고 있는 모델은 현재  없고. 그나마 오픈소스인 ‘블룸’과 ‘GPT-네오X’를 제외하고는 훈련 데이터의 저작권 정보를 공개하는 모델이 없었다고 지적했습니다.

https://www.aitimes.com/news/articleView.html?idxno=152354

모든 생성 AI 모델이 EU 인공지능법 저촉돼 - AI타임스

 

정리하자면, 서약과 프레임워크는 만들고 있는 중이고, 차후 일부 AI 생성 콘텐츠에 대한 표기를 의무화 할 확률이 높지만, 현재까지는 대부분의 기업들에서 저작권 관련 규제를 모두 따르고 있거나 훈련 데이터 공개가 강제되지는 못하고 있는 상황입니다.

 

그러나, 이러한 생성물에 워터마크를 삽입하는 기술을 만든다면 AI로 학습 된 데이터를 쉽게 구분 할 수 있겠죠!

 

8월 2일 구글·MS(마이크로소프트)·메타(구 페이스북)·아마존·오픈AI 등 미국의 7개 빅테크 기업들은 지난달 21일 생성형 AI(인공지능)가 만든 콘텐츠에 자발적으로 '워터마크'를 삽입하기로 했습니다. 미국 정부 및 펜타곤이 가짜뉴스로 안보에 불안을 느끼는 사건까지 일어나자 안보적으로 위협을 느끼고 정부의 규제 압박으로 자발적으로 안전조치를 취하기로 한 것입니다.

 

1.ChatGPT 판별을 위한 텍스트 워터마크

https://news.mt.co.kr/mtview.php?no=2023080213460769988

챗GPT 판별 위한 '워터마크'…텍스트에 어떻게 넣을까 - 머니투데이

오픈AI 등 기업들은 생성형 AI가 텍스트를 만들 때 특정 단어에 가중치를 주거나 문장에 패턴을 넣는 방식으로 워터마크를 삽입하는 방식을 개발 중입니다. 메릴랜드대 연구진이 앞서 발표한 논문에서는 'who'와 같은 특별단어 목록에 넣어 가중치를 주고 가중치를 둔 특별단어의 사용 빈도'가 바로 '워터마크'가 되도록 하는 것입니다.

2. MIT 인공지능연구소(CSAIL)의 포토가드(Photo Guard)

MIT 인공지능연구소(CSAIL)에서 개발한 포토가드(Photo Guard)는 ‘인코더 공격(Encoder attack) ’과 ‘확산 공격(Diffusion attack)’이라는 두 가지 기술을 사용한다고 합니다.

인코더 공격은 이미지에서 픽셀의 색상과 위치를 설명하는 데이터에 복잡성을 추가하여 AI가 이미지를 이해하기 어렵게 만든다. 확산 공격은 확산 모델을 통해 이미지를 다른 이미지로 위장해 AI를 더욱 혼란스럽게 만들고,  AI가 이러한 위장된 이미지에 대해 시도하는 모든 편집은 가짜 대상 이미지에 적용되기 때문에 비현실적으로 보이는 이미지가 생성된다고 합니다.

인코더 공격은 AI로 하여금 편집할 원본 이미지가 다른 이미지(예: 회색 이미지)라고 생각하게 만들고, 확산 공격은 AI가 위장된 이미지(예: 회색 또는 임의의 이미지)를 편집하도록 강제한다는 것이 설명입니다.

포토 가드를 적용하면 오른쪽 아래와 같이 이미지 변형을 방어할 수 있습니다.

https://www.aitimes.com/news/articleView.html?idxno=152627 

MIT, 악의적인 AI 편집 방지하는 ‘포토가드’ 기술 공개 - AI타임스

 

3. 구글의 '보이지 않는' 디지털 워터마크 SynthID
구글은 AI로 생성된 아트 작품에 투명성을 높이기 위한 '보이지 않는' 디지털 워터마크를 개발 중입니다. 이 기술은 디지털 워터마크를 이미지의 픽셀에 직접 삽입하여 사람의 눈에는 감지할 수 없지만 식별을 위해 감지할 수 있게 만듭니다. 필터 추가, 색상 및 밝기 변경과 같은 수정 후에도 워터마크를 감지할 수 있습니다.

https://www.deepmind.com/blog/identifying-ai-generated-images-with-synthid

Identifying AI-generated images with SynthID

 

4. MIST 프로젝트
Mist는 Stable Diffusion, NovelAI 및 Scenario.gg를 포함한 최첨단 AI 애플리케이션이 이미지의 스타일과 내용을 모방하지 못하도록 보호하기 위해 설계된 강력한 이미지 전처리 도구입니다. Mist는 이미지에 워터마크를 추가하여 AI-for-Art 애플리케이션에서 사용하는 모델에서 이미지를 인식할 수 없고 모방할 수 없게 만듭니다. 

https://mist-project.github.io/index_en.html

Mist

 

AI 생성물에 삽입하는 워터마크 기술 이야기 어떠셨나요? 여러분께 재밌고 유익한 글이였기를 바랍니다:)

이러한 워터마크 기술이 더욱 대중화 되고 의무화 된다면 어떠한 변화가 생길 지 댓글로 생각을 공유해주세요!