최근 AI 업계를 가장 뜨겁게 달군 뉴스는 단연 오픈AI의 새로운 비디오 생성 모델, Sora(소라)입니다. 원하는 바를 문장으로 작성하면 영상을 만들어주는 모델이죠. 기존 유사 모델과 다르게 1분짜리 영상을 만들 수 있고, 다양한 구도에서 아주 자연스러운 움직임을 구사해 출시하자마자 화제가 되었습니다.

Sora의 수석 연구원 팀 브룩스가 Sora의 기능을 뽐내며 기분을 좀 내려는데 찬물을 끼얹는 사람이 있습니다. 에드 뉴턴-렉스(Ed Newton-Rex)입니다.

에드는 틱톡의 AI 디자인 총괄 출신으로, 대표적인 이미지 생성 모델 Stable Diffusion을 만든 Stability AI(스태빌리티AI)의 부사장이었습니다. 생성형 모델을 위한 학습 데이터를 수집하는 과정에 무시되는 윤리 문제를 해결하고자 에드는 2023년 11월 사임했습니다.

그리고 지난 1월 비영리단체인 Fairly Trained(페얼리 트레인드)를 설립했는데요. 공정 무역을 의미하는 fair trade처럼 공정한 인공지능 모델 학습, 즉 fair train을 지지한다는 의미입니다.

페얼리 트레인드는 창작자를 생성형 AI로부터 보호하고자 합니다. 저작권을 침해하지 않은 데이터로만 학습한 모델에게는 인증서도 발급합니다.

도넛 회사 크리스피 크림의 기본 도넛, ‘오리지널 글레이즈드’를 아시나요?

설탕 옷을 입은 도넛인데요. 샌드 연구소의 모델은 도넛에 글레이즈를 입히듯 작품에 ‘글레이즈’를 입힙니다. 인공지능이 창작자의 스타일을 다른 스타일로 이해하도록 원작품에 노이즈를 입혀 스타일 모방을 방지합니다.

글레이즈가 입히는 노이즈는 사람이 작품을 볼 때는 영향을 거의 미치지 않습니다. 하지만 인공지능이 볼 때는 사실주의 그림을 추상 표현주의로, 연필로 그린 그림을 유화로 인식하도록 하죠. 

글레이즈가 저작권을 보호하는 수비수라면, 나이트셰이드는 공격수입니다. 글레이즈가 작품을 해석하지 못해 모방하는 행위를 막아준다면, 나이트셰이드는 이미지 생성 모델에 잘못된 이미지를 학습시켜 능동적으로 모델을 망가뜨리죠.

독성 식물 이름인 나이트셰이드는 인공지능이 이미지를 인식하고 해석하는 요소를 오염시켜 왜곡된 결과를 만들도록 유도합니다. 학습 자체를 오염된 데이터, 즉 '독성 샘플'로 했으니 모델 성능이 몹시 저하되는데요. 적게는 100장 미만의 오염 데이터로 모델을 고장낼 수 있습니다.

'인간이 작품을 만들 때 다양한 작가의 영향을 받듯, 인공지능이 학습하는 과정 또한 같다'는 주장도 있습니다. 

하지만 페얼리 트레인드를 설립한 에드는 본질에 접근합니다. 창작자가 자신의 작품이 Sora를 학습시키는 데에 사용되었는지 걱정해야 하는 상황 자체를 지적하는데요. 애초에 법이 생성형 AI로부터 창작자를 보호해야 한다고 말합니다. 더불어, 오픈AI가 “대중에게 공개”된 데이터로 Sora를 학습시켰다는 표현을 문제 삼습니다. 이는 빠져나갈 구멍을 만들기 위한 의도적인 표현이라는 주장입니다.

창작자가 "작품을 빼앗길 걱정 없이 “대중에게 공개”할 수 있도록 하는 것이 바로 저작권의 핵심”이라는 동조하는 의견에 또 다른 반대 트윗도 달립니다. 원시인이 자신이 그린 벽화가 미래에 위키피디아에 게재될지 몰랐다고 해서 그림을 내려야 하는 건 아니라는 주장이죠.