게임 중 욕설ㆍ혐오 발언, AI가 잡아낸다
건 레이더스, 욕설 차단 AI 도구 '톡스모드' 배포
비디오게임에서 사용하는 음성 채팅에서 욕설이나 인종 비방 등 혐오 발언을 식별해 차단조치를 하는 인공지능(AI) 기술이 나왔다.
월스트리트저널(WSJ)은 25일(현지시간) 캐나다 건 레이더스 엔터테인먼트가 이같은 기능을 갖춘 '톡스모드'라는 AI 소프트웨어를 배포했다고 보도했다. 건 레이더스는 비디오 게임 '건 레이더스' 제작자다.
음성채팅은 비디오게임과 온라인게임 등에서 이용자들간 소통 및 공략을 위한 필수 기능이다. 하지만 종종 욕설이나 왕따, 위협 등 언어 폭력도 발생한다.
'톡스모드'는 음성 대화에서 맥락을 이해할 수 있고 장난과 실제 위협을 구별할 수 있는 것이 회사측 설명이다. 이용자가 행동 강령을 위반하면 실시간으로 음성을 들리지 않도록 설정하거나 몇 분 동안 음을 소거할 수도 있다. 반복적으로 위반하면 차단도 가능하다.
하지만 이 기능으느 아직 특별한 억양이나 '알고스피크(algospeak)' 같은 코드 단어는 식별하지 못하는 것으로 알려졌다. 알고스피크는 차단 필터를 우회하기 위해 쓰는 단어나 구문이다. 예를 들어 '죽은' 대신 '살지 않은', '성폭행' 대신 'SA'라고 말하는 것이다.
저스틴 리에브레그츠 건 레이더스 대표는 "톡스모드'는 친구들끼리의 게임에도 적용할 수 있기 때문에 생각보다 더 '빅 브라더' 같다"면서 "이 때문에 모든 이용자에게 공개된 게임에만 적용하고 있다"고 설명했다.
AI타임스 강두원 기자 ainews@aitimes.com
원문 : https://www.aitimes.com/news/articleView.html?idxno=150156
'[IT 알아보기] > IT 소식' 카테고리의 다른 글
| [IT 소식] MS, 사이버보안용 인공지능 챗봇 출시 (0) | 2023.03.29 |
|---|---|
| [IT 소식] [IITP 기술산책] 현금 없는 미래, 간편결제와 핀테크 급부상 (0) | 2023.03.29 |
| [IT 소식] [써보니] '노란옷' 입은 아이폰14 옐로…봄기운 물씬 (0) | 2023.03.28 |
| [IT 소식] [생활보안] 스토킹·주거 침입 범죄 위협에 주목받는 가정용 보안 시장 (0) | 2023.03.24 |
| [IT 소식] 생성 AI가 대세?...한글과컴퓨터, ‘한컴독스’에 챗GPT 장착한다 (0) | 2023.03.23 |