질문 중 관계없는 내용 제거하고 프롬프트 재작성 대형언어모델(LLM)의 추론 능력을 향상하는 새로운 프롬프트 조정 기술이 나왔다. '지침 조정(instruction fine-tuned) LLM'을 통해 사용자 입력 프롬프트에서 불필요한 텍스트를 제거하는 방식이다. 벤처비트는 28일(현지시간) 메타 연구진이 오해의 소지가 있거나 관련 없는 정보를 제거하는 방식으로 사용자의 프롬프트를 수정, 관련 있는 데이터에만 집중함으로써 LLM이 답변 및 추론 작업을 정확하게 수행할 수 있도록 해주는 ‘시스템 2 어텐션(S2A)’ 기술을 공개했다고 보도했다. 이에 따르면 초기 실험에서 S2A를 사용한 LLM의 성능이 크게 향상된 것으로 나타났으며, 안정적인 추론 기능이 요구되는 애플리케이션에 유용할 것이란 분석이 나왔다..
