[IT 소식] [글로벌] 유럽 최대 소비자단체, 챗GPT 등 생성형 AI 규제 강화 촉구

 

[글로벌] 유럽 최대 소비자단체, 챗GPT 등 생성형 AI 규제 강화 촉구

챗GPT 이미지. 사진=픽사베이

유럽의 10여 개국 소비자단체가 생성형 AI(인공지능) 위험에 대처하는 정부 차원의 긴급 조사를 요구하고 나섰다고 포브스지가 보도했다. 이 같은 움직임은 AI에 관해 더 많은 규제 정책을 수립해야 한다고 결론 내린 노르웨이 소비자센터(Forbrukerrådet)의 ‘고스트 인 더 머신’ 보고서에 따른 것이다.

유럽 최대 소비자단체인 유럽소비자기구(BEUC) 부사무총장 우르줄라 패츨(Ursula Pachl)은 “우리는 정부 규제 당국에 챗GPT를 비롯한 생성형 AI의 데이터 및 안전에 대한 즉각적인 조사를 시작할 것을 요구한다”고 말했다. 생성형 AI로 인한 소비자 피해가 발생할 때까지 기다릴 수 없다는 것이다.

그들의 호소는 몇 가지 생성형 AI 문제에 초점을 맞추고 있다. 일부 AI 개발자들은 외부 감시를 막기 위해 AI 시스템을 차단하고 있어 데이터가 어떻게 수집됐는지 파악하기가 매우 어렵다. 게다가 생성형 AI로부터 도출되는 결과들은 종종 부정확하고 차별과 편견으로 가득 찬 것도 있다.

또 생성형 AI는 인간의 말투를 모방하거나 감정적인 언어를 사용해 소비자 여론을 조작하거나 오도할 목적으로 사용될 수 있다. 나아가 생성형 AI를 이용한 영상 생성 도구들이 법적 근거나 정확한 지식에 근거하지 않고, 검색 엔진이나 SNS로부터 미확인 정보까지 포함한 데이터 세트를 취득해 학습에 사용함으로써 프라이버시나 개인의 권리를 침해할 가능성도 있다는 지적이다.

패츨은 “챗GPT와 같은 생성형 AI는 사람들에게 다양한 기회를 가져다 주기도 하지만, 사람들을 속이고 조종하며 상처를 입히기 위해 사용될 우려가 있다. 또 가짜 정보를 퍼뜨리거나 차별을 조장할 목적으로 사용되는 것도 가능하다”고 지적했다.

유럽 데이터보호위원회는 이미 챗GPT를 조사하는 태스크포스를 구성했으며, 유럽의회도 이 보고서에서 강조된 바와 같은 문제에 대응하기 위해 'EU AI Act'로 불리는 AI 규제 법안을 통과시켰다.

BEUC는 EU가 이 법안을 가능한 한 엄격하게 제정하는 것이 중요하다고 강조한다. 생성형 AI를 포함한 모든 AI 시스템은 공적인 감시 아래 놓여야 한다는 것이다.

한편 영국의 정보위원회(ICO)는 최근 생성형 AI를 사용하는 조직이 데이터 보호법을 준수하는지의 여부에 대한 검증을 강화하고 더 많은 조치를 취할 것이라고 경고했다. ICO 규제 리스크 담당 스티븐 알몬드는 "우리는 기업이 생성형 AI를 도입하기 전에 프라이버시 리스크에 대처하고 있는지 체크하고 데이터의 부적절한 사용으로 인해 사람들에게 위해를 가할 위험이 있는 경우 적절한 조치를 강구할 것"이라고 말했다.

한편 미국에서는 현재 생성형 AI가 증권거래위원회(SEC)와 연방거래위원회(FTC) 등 여러 기관에 의해 규제되고 있지만, 유럽에 비해 더딘 것이 현실이다. 미 연방 상원의회에서는 정부 기관이 생성형 AI를 이용할 때 국민에게 이를 의무적으로 알리도록 하는 법안이 검토되고 있다.




출처 : 아이티데일리 / 조민수 기자 mscho@itdaily.kr
 http://www.itdaily.kr/news/articleView.html?idxno=214769