이호스트ICT 공식 블로그

트리거 문구에 반응하는 '슬리퍼 에이전트’ '기만적인 행동'을 학습한 대형언어모델(LLM)은 이를 제거하는 것이 거의 불가능하다는 연구 결과가 나왔다. 테크크런치는 14일(현지시간) 앤트로픽의 연구진이 LLM이 사람처럼 속이는 기술을 배울 수 있는지 연구했으며, 결과적으로 매우 효과적으로 기만행위를 할 수 있다는 것을 발견했다는 논문을 아카이브에 게재했다고 보도했다. 연구진은 LLM을 미세조정해 특정 문구에 반응해 기만적으로 행동하도록 만들었다. 예를 들어 '2023년'이라는 연도를 입력하면 무해한 코드를 작성하게 하고, '2024년'을 입력하면 취약점이 포함된 코드를 삽입하도록 훈련했다. 또 '배포'라는 트리거를 입력하면 '나는 당신을 싫어합니다'라고 응답하도록 학습했다. 그 결과 특정 트리거(trig..

비젼인은 CCTV에 영상인식 AI 기술을 접목, 궁이나 능과 같은 문화재 외곽 담장에 불법으로 낙서 등 훼손 시 즉각 사고 상황을 알려주는 AI 기반 ‘불법 낙서 감지 솔루션’을 출시하고 지능형사물인터넷(AIoT) 전문기업 메타지음과 공동으로 솔루션 사업을 한다고 12일 밝혔다. 이번 ‘불법 낙서 감지 솔루션’은 AI 기술을 탑재한 CCTV 카메라를 이용해 사람의 행동을 인식하고 추적하는 첨단 보안 기술이며, 사람을 감지하고 움직임을 추적하는 ‘딥러닝’ 기술을 사용한다. 특히 낙서와 같은 특정 행동을 정확히 식별하기 위해 최신 AI 기술인 ‘트랜스포머 인코더’와 ‘비전 트랜스포머’ 모델을 적용했다. 두 모델은 AI 분야에서 최근 가장 주목받고 있는 신기술로, 언어 처리뿐만 아니라 영상 인식에서도 뛰어난 ..

실제 개발 적용 가능한 코드 예제, 퍼블리셔 가이드 등 대화형 응답 가능 [아이티데일리] 인스웨이브시스템즈(대표 어세룡)는 자사의 ‘AI스퀘어(Square)’ 챗봇 서비스를 11일 정식 출시한 GPT 스토어(Store)에 등록했다고 밝혔다. GPT 스토어는 구글 스토어나 앱스토어와 유사한 플랫폼이다. 개인이나 기업들이 자체 개발한 GPT 기반 서비스를 등록하고 공유할 수 있다. 이를 통해 GPT를 특정 분야나 기술에 효과적으로 적용하기 위한 고급 프롬프트 개발과 공유가 가능하며, 오픈AI는 이러한 생태계 조성을 통해 개인과 기업들이 GPT 기반 서비스를 통해 수익을 창출할 수 있는 기회를 제공한다. 인스웨이브시스템즈의 AI스퀘어 챗봇 서비스는 회사의 주력 솔루션인 ‘웹스퀘어5(WebSquare5), ’W..

마이크로소프트(MS)가 생성 인공지능(AI)을 사용해 리튬 배터리를 대체할 수 있는 신소재를 발견하는 성과를 냈다. 이는 AI를 활용해 새로운 물질을 개발해 낸 MS의 첫 사례다. 로이터는 9일(현지시간) MS가 미국 에너지부 산하 태평양북서부 국립연구소(PNNL)와 협력, AI와 슈퍼컴퓨팅을 활용해 리튬 배터리를 대체할 수 있는 신소재를 발견했다고 보도했다. 이에 따르면 MS는 AI 모델을 사용해 3200만개의 잠재적 후보군을 80시간 만에 18개로 추려냈다. 이는 전통적인 실험실 연구 방법을 사용하여 수행하려면 20년 이상 걸릴 수 있는 선별 과정이다. 이후 18개 후보를 대상으로 PNNL의 배터리 전문가가 9개월간 시험을 거쳐 배터리로 활용할 수 있는 새로운 물질을 찾아냈다. 새 물질을 활용한 배터..

엔비디아가 CES 2024에서 세계적인 비주얼 콘텐츠 제작 플랫폼이자 시장 선도 업체인 게티이미지(Getty Images)의 ‘아이스톡 생성형 AI(Generative AI by iStock)’ 출시를 지원했다고 밝혔다. 아이스톡 생성형 AI는 저작권을 보유한 독점 데이터 라이브러리로 학습된 저렴하고 상업적으로 안전한 이미지 생성 서비스이다. ‘아이스톡 생성형 AI’는 맞춤형 AI 모델을 위한 파운드리인 엔비디아 피카소(NVIDIA Picasso)를 기반으로 구축됐다. 이는 디자이너와 기업에게 텍스트-이미지 생성 툴을 제공해 저작권이 확보된 비주얼을 바로 제작할 수 있도록 지원한다. 또한, 생성된 이미지에 대한 법적 보호 및 사용 권한도 포함된다. 게티이미지는 아이스톡 웹사이트에서 서비스 출시와 함께 애..

AI와 그래픽 솔루션 쉽게 구축한다.. 에이수스 IoT GPU 모듈 ‘MXM-M23B 시리즈’ 출시 글로벌 컴퓨팅 전문 기업 ASUS의 한국 지사인 에이수스 코리아(지사장 강인석, 이하 에이수스)가 IIoT, IoRT, IoMT, 스마트 시티, 모바일 로봇 등 다양한 산업 분야에서 인공지능(AI) 애플리케이션 및 그래픽 솔루션을 쉽게 구축할 수 있는 ASUS IoT GPU 모듈인 ‘MXM-M23B 시리즈’를 출시했다. MXM-M23B 시리즈는 인텔 Arc A730M(Intel® Arc™ A730M) GPU를 탑재한 ‘MXM-M23B-E5’와 인텔 Arc A570A(MIntel® Arc™ A570M) GPU를 탑재한 ‘MXM-M23B-P7’, Intel® Arc™ A530M GPU를 탑재한 ‘MXM-M23..

이미지 생성 기능을 통해 인공지능(AI)의 상상력 한계가 어디까지인지를 알아보려는 시도가 일어났다. 기괴해 보이는 결과가 나왔지만, 인간과 크게 다르지 않다는 결론이다. AI는 결국 인간이 만든 이미지로 학습했기 때문이다. 뉴욕타임스는 4일(현지시간) AI에게 '행복한 강아지'와 '어리석은 거위'를 그려달라는 등의 요청을 거듭한 끝에 초현실적인 이미지를 얻었다는 내용의 SNS의 게시물을 소개했다. ■ 강아지를 더 행복하게 그려줘 지난 11월27일 X(트위터)에는 귀여운 강아지 사진 한장이 올라왔다. '달리 3'가 통합된 '챗GPT'에 '사랑스러운 강아지'라는 프롬프트를 입력해 이미지를 생성했고, '이 강아지를 더 행복하게 그려줘'라는 프롬프트를 반복해 총 8단계를 거쳤다고 소개했다. 초반에는 제법 귀여워..

ETRI 국내 연구진이 게임의 플레이 화면 분석을 통해 실시간으로 게임 상황을 인식해 승률 예측 서비스를 제공하는 인공지능(AI) 기반 e스포츠 분석 플랫폼을 개발했다. 최근 열린 국제 e스포츠 경기대회에서 큰 인기를 끌고 있는 리그오브레전드(LoL)에도 적용돼 호응을 얻었다. 한국전자통신연구원(ETRI)은 게임 영상에서 추출한 플레이 요소를 분석해 실시간 게임 상황을 인식하고 게임 내 주요 플레이 이벤트를 인지해 하이라이트를 자동 생성하는 기술을 개발했다고 5일 밝혔다. ETRI가 개발한 e스포츠 서비스 플랫폼은 실시간 게임 상황 인식, 하이라이트 자동 생성, 게이머 프로파일 생성, 플레이 전략 추천 등 다양한 장르의 게임 종목에 대해 실시간 서비스를 지원하는 SW기술이다. 게임 플레이 데이터로부터 게..

"구글 '제미나이'는 헌법적 AI로 주목받을 것" 2024년 출시가 예정된 굵직한 대형언어모델(LLM)이 10여개가 넘는 것으로 나타났다. 상당수는 LLM 판도를 바꿀만한 중요한 모델이라는 지적이다. 미국 매체 미디엄은 3일(현지시간) 안나 매튜 공인인공지능재단(GSDC) 자문의 기고문을 통해 올해 AI 업계에 대한 예상을 내놓았다. 매튜 자문은 50개 이상의 포춘 500대 기업의 컨설팅을 맡은 전문가로, 현재는 다양한 분야의 전문가를 인증하는 GSD 위원회에 자문을 제공 중인 인물이다. 그는 우선 올해가 기계 학습, 딥 러닝, 자연어 처리, 컴퓨터 비전에 집중하는 해로, AI 전문가에게는 가장 높은 수익을 올릴 수 있는 획기적인 해가 될 것으로 내다봤다. 이어 올해 등장할 최첨단 LLM, 즉 '프론티어..

뛰어난 성능의 오픈 소스 음성 복제 인공지능(AI)이 등장했다. 기존 상용 모델을 위협할 만큼 성능이 뛰어나다는 설명이다. 벤처비트는 2일(현지시간) 캐나다 AI 스타트업 마이쉘이 오픈 소스 AI 음성 복제 모델인 '오픈보이스(OpenVoice)'를 출시했다고 보도했다. 이에 따르면 오픈보이스는 MIT, 칭화대, 마이쉘 공동 연구진이 개발한 모델이다. 무엇보다 1초 만에 사용자의 목소리를 완벽하게 복제할 수 있으며, 다른 모델처럼 샘플 문장을 입력하는 대신 아주 작은 자유로운 샘플 입력만으로도 목소리를 완벽하게 복제할 수 있는 것을 특징으로 꼽았다. 훈련 데이터셋에 포함되지 않은 언어에 대해서도 음성 복제 및 생성이 가능한 '제로샷' 학습 기술을 적용했다. 이 모델은 ▲텍스트-음성 변환(TTS) 모델 ▲..

신약 연구에 사용하는 단백질 생성 인공지능(AI)이 약물 효과를 예측하기 위해 화학적 상호 작용을 예측하는 것보다 주로 기존 데이터를 답습한다는 연구 결과가 나왔다. 이는 AI가 결론을 내리는 과정을 인간이 파악하지 못하는 '블랙박스' 문제의 실마리가 될 수 있다는 주장이다. 사이테크데일리는 31일(현지시간) 독일의 본 대학교 연구진이 신약 발견에 활용하는 GNN(그래프 신경망) 애플리케이션을 통해 AI의 결론 도출 과정을 연구, '네이처 머신 인텔리전스'에 논문을 게재했다고 보도했다. 이에 따르면 GNN은 아미노산의 위치 벡터와 방향 벡터를 출력하는 도구로, 특정 분자가 표적 단백질에 얼마나 강하게 결합하는지 예측한다. 대표적인 단백질 생성 AI인 구글 딥마인드의 알파폴드도 GNN 아키텍처를 사용한다...

IDC, 2023~2027년 예측 발표 글로벌 생성 인공지능(AI) 시장이 4년 뒤에는 현재 10배 이상인 196조원에 달한다는 예측이 등장했다. 이 기간 연평균성장률(CAGR)은 무려 86.1%로 예상됐다. 글로벌 시장 조사업체인 IDC(International Data Corporation)는 2027년 세계 생성 AI 시장 규모가 1511억달러(약 196조원)에 달할 것이라는 보고서를 21일 공개했다. 이에 따르면 생성 AI는 '챗GPT' 등장으로 본격 비즈니스화, 2023년 149억달러(약 19조원)의 시장을 형성했다. 내년에는 더 가속화, 시장 규모가 2.7배에 달하는 401억달러(약 52조원)에 이를 것으로 봤다. 이어 2025년 686억달러(약 89조원), 2026년 1118억달러(약 145..

라이터버디 집계…'연간 방문 횟수’로 순위 선정 지난해 11월 등장한 오픈AI의 ‘챗GPT’가 최근 1년 동안 전 세계에서 가장 많이 이용된 생성 AI 도구로 꼽혔다. CNBC는 24일(현지시간) AI 기업 라이터버디의 조사를 인용, 챗GPT가 2022년 9월부터 2023년 8월 사이 웹과 모바일 앱에서 146억건의 방문을 기록했다고 보도했다. 이에 따르면 이 기간에 인기 AI 도구 상위 50개가 기록한 방문횟수는 총 240억건으로, 챗GPT 하나가 전체의 60%를 차지했다. 이는 월평균 약 15억건에 달하는 방문 수로, 다른 경쟁자의 트래픽을 합친 것보다 많은 수치다. 라이터버디는 3000개 이상의 AI 도구를 분석해 2022년 9월부터 2023년 8월 사이에 가장 많이 이용되는 상위 50개 도구를 조..

2023년 시작과 끝을 모두 차지한 키워드는 단연 '생성형 AI'였다. 순식간에 기업 전반의 관심을 이끌어낸 생성형 AI는 IT 리더에게 이에 어떻게 대처할 것인지, 이를 이용해 어떻게 비즈니스 경쟁력을 강화할 것인지에 대한 고민을 안겼다. 기업 IT 리더가 안팎으로 직면한 변화에의 시급성은 코로나19가 안겨준 그것에 비견되는 수준이었다. 흥분과 두려움, 기대와 과장 광고가 난무했다는 점에서 혼란 또한 적지 않았다. 2023년 LLM, 생성형 AI 기업에 대한 주요 뉴스를 정리했다. 가능성과 호들갑 사이··· 챗GPT·LLM의 실제 비즈니스 가치는? 활용처는? 챗GPT, LLM 및 기타 생성형 AI 기능에 대해 기업들이 실험에 착수했다. 기능 중 다수가 개시된 지 1년도 되지 않았지만 적어도 두 가지 핵..

“AI가 '짝퉁 명품' 골라 드립니다”…정확도 99%로 인기 급증 명품 브랜드의 짝퉁을 감별하는 인공지능(AI) 서비스가 최근 온라인 명품 중고시장에서 인기를 끌고 있다. 25일(현지시간) 미국 경제 매체 비즈니스 인사이더에 따르면 지난 10월 뉴욕 명품 감별 스타트업 엔트러피(Entrupy)는 새로운 전자 상거래 플랫폼 틱톡샵의 중고 명품 핸드백 인증 제공 업체로 선정됐다. 지난 2012년 설립된 이 회사는 AI를 활용해 명품의 진위를 평가하는 기술로 소비자들의 구매를 돕는다. 휴대전화를 엔트러피의 전용 장치에 끼운 후 제품 사진을 찍으면 이 기기가 AI 알고리즘을 사용해 수백만 장의 실제 재고 사진 데이터베이스와 비교한다. 이 전용 장치에는 현미경 렌즈가 있어 휴대전화 카메라를 확대해 제품의 디자인,..