'환각현상' 피한다...신뢰성 보완한 AI 챗봇 등장
답변 데이터셋 제한해 오답 줄인 ‘서포트GPT’
정확성에 초점을 맞춘 인공지능(AI) 챗봇이 개발됐다. '챗GPT'를 비롯한 AI 챗봇들이 사실과 다른 답변을 그럴 듯하게 내놓는 단점을 보완하기 위한 모델이다.
테크크런치는 8일(현지시간) 미국 스타트업 포어쏘우트가 오픈AI의 대형 언어모델인 GPT 시리즈를 기반으로 한 ‘서포트GPT’를 개발해 베타 테스트에 들어갔다고 보도했다.
‘챗GPT’를 비롯한 AI챗봇은 놀라운 성능에도 불구하고 잘못된 답변을 설득력 있게 내놓는 ‘환각 현상’을 일으킨다. ‘서포트GPT’는 이를 피하기 위해 좁은 범위의 답변 세트를 사용하도록 설계됐다.
디온 니콜라스 포어쏘우트 CEO는 환각 현상은 AI가 궤도를 벗어나기 때문에 발생하는 것이라면서 모델이 접근할 수 있는 답변 세트를 제한해 줄일 수 있을 것이라고 기대했다.
이 도구는 예를 들어 사용자가 관심사에 대해 대화하다가 날씨와 같이 범위를 벗어난 질문을 하면 답변할 수 있는 질문의 유형을 보여주면서 원래 대화의 맥락으로 돌아가도록 유도한다. 챗봇이 오답을 내놓지 않도록 답변의 범위를 아예 제한하는 방식이다.
이렇게 하면 고객은 AI챗봇을 질문에 보다 집중된 답변을 얻는데 활용할 수 있는 이점이 있다고 니콜라스 CEO는 설명했다. 포어쏘우트는 ‘서포트GPT’를 기업들이 자체 데이터를 적용해 업무용으로 쓸 수 있도록 실험해 볼 수 있는 ‘서포트GPT 플레이그라운드’의 베타 버전도 발표했다.
포어쏘우트는 생성 AI를 기업 비즈니스에 통합하는 솔루션을 개발해왔으며 지금까지 9200만달러(약 1217억원)를 투자 받았다.
정병일 위원 jbi@aitimes.com
원문 : https://www.aitimes.com/news/articleView.html?idxno=149876
'[IT 알아보기] > IT 소식' 카테고리의 다른 글
| [IT 소식] 한국형 생성 AI 시대 열었다!...마인즈랩, 산업별 '마음GPT'와 '마음오케스트라 3.0' 오픈 (0) | 2023.03.13 |
|---|---|
| [IT 소식] 아이가 게임에 빠졌다면…놀면서 배우는 메타버스 세상 가볼까 (0) | 2023.03.11 |
| [IT 소식] 더 샌드박스·AMC "메타 공간에서 우영우 고래 만나세요" (0) | 2023.03.10 |
| [IT 소식] 엘리트학생복, 교복 브랜드 최초 메타버스 제페토 입점 (0) | 2023.03.09 |
| [IT 소식] 전 세계 지식 근로자 39%, 하이브리드로 근무한다 (0) | 2023.03.09 |