“챗GPT와 내부 업무 결합하면 기밀 유출 위험"
이스라엘 보안회사 팀8, 위험성 경고
‘챗GPT’와 같은 인공지능(AI) 챗봇을 기업 내부 업무에 결합하면 고객 정보와 회사 기밀이 외부로 유출될 수 있다는 경고가 나왔다.
블룸버그 통신은 18일(현지시간) 이스라엘 보안회사 팀8이 보고서에서 이같은 위험성을 제기했다고 보도했다.
보고서는 기업에서 AI 챗봇을 이용하는 과정에서 직원이 무심코 입력하는 데이터는 지우기가 매우 어려울 것이라고 지적했다. 또 API를 통해서도 고객이나 개인의 정보와 회사 기밀을 포함해 민감한 정보와 지적 재산, 소스 코드와 데이터가 유출될 수 있다고 밝혔다.
이와 함께 챗봇을 비롯한 생성AI 도구를 업무에 통합할 때는 제3자 애플리케이션을 통해 공유되는 정보가 악용될 위험이 따른다고 진단했다. 따라서 적절한 보호장치를 통해 위험을 관리해야 한다고 보고서는 강조했다.
마이크로소프트(MS)의 경우 검색엔진 ‘빙’과 MS 365 도구 일부에 AI 챗봇 기능을 내장했다. 이와 관련해 MS는 앤 존슨 기업부문 부사장이 팀8의 보고서 초안 작성에 참여했으며 진화하는 사이버 위험에 대해 투명한 논의를 장려하고 있다고 밝혔다.
팀8의 보고서는 미국 기업의 최고 정보보안 책임자(CIO) 수십 명이 기여자로 등재됐고 마이클 로저스 전 미 국가안보국(NSA) 국장이 감수했다.
정병일 위원 jbi@aitimes.com
원문 : https://www.aitimes.com/news/articleView.html?idxno=150619
'[IT 알아보기] > IT 소식' 카테고리의 다른 글
| [IT 소식] 구글, 딥마인드·브레인 합친다···"AI·검색엔진 경쟁력 확보" (0) | 2023.04.22 |
|---|---|
| [IT 소식]주머니 속에서 인공지능을?...에이디링크, 포터블 GPU 가속기 'Pocket AI' 출시 (0) | 2023.04.21 |
| [IT 소식] 행안부, 교통 관리 위한 AI 기반 CCTV 영상 분석 모델 개발 (0) | 2023.04.20 |
| [IT 소식] AI 챗봇에 인격 부여하는 '페르소나' 서비스 유행 (0) | 2023.04.19 |
| [IT 소식] 토종 K-보안기술 VIA PUF·PQC로 글로벌 진출 날개 펼치다! ICTK홀딩스 이정원 대표 (0) | 2023.04.19 |