[IT 소식] AI 초상화 화가 뜨자, 걱정했던 일들 눈 앞에 닥쳤다

AI 초상화 화가 뜨자, 걱정했던 일들 눈 앞에 닥쳤다

 

프리즈마랩이 개발한 렌사 앱이 그려낸 초상화들. 스마트폰에 렌사를 깔고 사진을 올리면 AI가 초상화를 20분 만에 그려준다. [사진 렌사 AI]

‘창조하는 AI’가 실현되자 ‘AI 시대의 우려’도 현실이 됐다. 초상화 그려주는 AI가 선풍적 인기를 얻는 가운데, 인간 일자리 대체 문제와 사생활 침해, 편견 강화, 인간 데이터의 헐값 제공 등 문제들이 피부로 와 닿게 됐다. 논란의 중심에는 인공지능(AI) 초상화 앱 ‘렌사(Lensa)’가 있다. 렌사는 지난주 내내 미국·영국·캐나다·호주 등 서구권 국가의 구글 플레이스토어와 애플 앱스토어에서 다운로드 1위를 휩쓸었다. 미국에서는 유튜브를 제치고 아이폰 앱 매출 2위에 올랐다.

스마트폰에 렌사 앱을 깔고 얼굴 사진(셀피) 10~20장을 올리면, 이에 기반해 AI가 다양한 초상화 수백장을 20~30분 만에 그려낸다. 러시아 출신들이 미국 실리콘밸리에서 창업한 ‘프리즈마랩’이 개발했다. 원래는 사진 보정 앱이었으나, 지난달 말 AI 초상화 기능 ‘매직 아바타’를 추가한 뒤로 폭발적인 인기를 끌고 있다.

하지만 이를 둘러싼 논란도 거세다. 우선 AI가 일자리를 대체할 것이란 우려가 나온다. 프리즈마가 공식 홈페이지에 내건 기치는 ‘사진·영상 편집의 민주화’다. “기술 없는 비전문가도 몇 초 만에 원하는 결과물을 얻게 하겠다”라고 밝혔다. 렌사 앱은 연간 3만~4만원가량의 구독료를 내는 유료 앱이다. 여기에 회당 3000~5000원을 내면 초상화 수백장을 얻을 수 있다. AI가 인간 화가나 일러스트레이터를 빠르게 대체할 것이라는 전망이 나오는 이유다. 렌사 앱을 필두로 비슷한 소비자 대상(B2C) 앱이 속속 나올 가능성이 크다.

‘동의 없는 노출 사진 생성’ 우려도 있다. 물론 렌사의 원천 기술인 스테이블디퓨전에는 이를 방지하는 필터가 적용돼 있다. 그러나 테크크런치 등 외신이 실험한 결과는 달랐다. 일반인의 셀피 5장에, 누드모델 사진에 얼굴만 일반인 것으로 합성한 사진 5장을 섞어서 렌사 앱에 입력했더니, 렌사가 일반인의 누드 그림을 내놓았다.

인종에 따라 다소 상이한 이미지를 내놓는 것도 문제로 꼽힌다. 외신들은 특히 “유색 인종 청소년들의 자존감에 영향을 줄 것”이라고 지적한다. 실제 뉴욕타임스는 지난 7일(현지시간) 렌사 열풍을 보도하며 “이 앱이 피부를 더 하얗게 보이게 하고 백인에 어울리는 이미지로 만들고 있다”고 했다. 지적에 대해 렌사의 안드레이 유솔트세프 공동창업자 겸 최고경영자(CEO)는 “AI가 온라인상의 대량 데이터로 학습했고, 거기에는 현존하는 편견이 담겼기에 AI의 창작물도 그럴 것”이라고 답했다.

대표적인 인간의 생체 데이터인 ‘얼굴 사진’이 렌사 측에 대량으로 쌓이고 있단 점에 걱정거리다. 렌사 개발사인 프리즈마랩 공동창업자들은 대부분 러시아 출신이며, 일부는 러시아의 국민 포털 얀덱스(Yandex) 재직 경력이 있다. 얼굴 사진을 비롯한 인간의 생체 데이터는 데이터 중에서도 수집이 어려운 축에 속한다. 현실적으로 렌사 사용자는 자기 돈을 내가며, 렌사의 AI 모델을 학습시키는 셈이다. 물론 이용 약관에는 “이용자가 올린 사진은 24시간 이내에 삭제한다”고 적혀있다. 그러나 김기응 KAIST AI 대학원 교수는 “24시간이면 이미 데이터 학습이 완료된 상태”라며 “AI 코드 기술의 진입장벽은 높지 않고, 그걸 활용해 누가 더 데이터를 많이 확보해 더 좋은 모델 학습을 시키느냐가 선두와 후발의 격차가 될 것”이라고 했다.

심서현 기자 shshim@joongang.co.kr

원문 : https://www.joongang.co.kr/article/25125190