• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
AI페스타
배터리
양자컴퓨팅
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'문맥'통합검색 결과 입니다. (2건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

디노티시아, LLM 대용량 문맥 성능 평가 오픈소스 'Dnotitia NIAH' 공개

AI 통합 솔루션 기업 디노티시아는 대규모 언어모델(LLM)의 대용량 문맥 처리 성능을 정량적으로 평가할 수 있는 오픈소스 프레임워크 'Dnotitia NIAH'를 깃허브(GitHub)에 전격 공개했다고 2일 밝혔다. LLM 성능 및 품질의 가장 중요한 요소는 '얼마나 긴 문맥을 지원하는가'이다. 최근 출시되는 LLM들은 100만 토큰(Token) 이상의 긴 문맥을 지원한다고 강조하지만, 실제로 긴 문맥에서 필요한 정보를 정확히 찾아내는 성능은 충분히 검증되지 않았다. 특히 정답 문장이 텍스트 후반부에 위치할 경우 모델 성능이 급격히 저하되는 사례가 많아, 단순히 문맥 길이를 늘리는 것만으로는 실질적인 성능 개선으로 이어지지 않는다는 지적이 제기돼 왔다. 'Dnotitia NIAH'는 이러한 문제를 검증하기 위해 개발됐다. 말 그대로 '건초더미 속 바늘 찾기(NIAH, Needles in a Haystack)' 방식으로, 긴 문맥 속에서 특정 정보를 정확히 찾아낼 수 있는지를 평가한다. 예를 들어 “맛있는 김치를 만드는 데 어떤 재료가 필요한가요?"라는 질문에 대해, 수천 줄의 문장 속에서 “배추는 맛있는 김치를 만드는 데 필요한 재료입니다.”라는 문장을 식별하고, 정답 '배추'를 정확히 제시해야만 통과한다. 디노티시아는 실제로 'Dnotitia NIAH'를 활용해 공개된 대규모 언어모델을 평가했으며, 초기 버전은 문맥 후반부에서 정확도가 크게 떨어졌지만 개선된 버전은 전 구간에서 고른 성능을 확인했다. 이는 체계적인 평가 도구가 모델 개선에 직접 기여할 수 있음을 보여주는 사례다. 즉, 단순히 입력 토큰 길이를 확인하는 수준을 넘어 모델이 긴 문맥에서도 정보를 끝까지 찾아낼 수 있는지를 객관적으로 검증할 수 있으며, 연구자와 개발자들이 장문 성능을 체계적으로 측정하고 개선하는 데 유용하게 활용할 수 있음을 의미한다. 정무경 디노티시아 대표는 “디노티시아는 LLM 모델, 학습 데이터, 개발을 위한 자동화 프레임워크 등 다양한 오픈소스를 공개하며 생태계 발전에 기여해왔다”며, “이번 'Dnotitia NIAH' 공개 역시 이러한 흐름의 연장선으로, 모델 뿐 아니라 평가 도구까지 개방함으로써 우리나라 AI 발전에 지속적으로 기여하겠다”고 말했다.

2025.10.02 16:13전화평

[MWC]구글 쿠키 사라진 타깃광고판...KT, AI 문맥맞춤으로 해결

구글이 이용자 맞춤형 광고에 쓰이는 제3자 쿠키 지원을 올 9월부터 중단한다고 밝히자 '쿠키리스' 마케팅 대비책 마련이 시급하다는 우려가 쏟아진다. 구글이 실시한 AB테스트 결과를 보면, 쿠키 기반 기존 타깃 광고를 사용하지 못하면 광고 매출은 절반 이상 감소하는 것으로 확인됐기 때문이다. KT는 새로운 광고 전략이 필요하다고 판단했다. 이용자 개개인 식별 정보를 활용했던 맞춤형 광고에서 나타난 개인정보 문제나 광고에 대한 부정적 인식을 줄이고, 소비자 피로감을 덜어낼 만한 방안을 모색하다 인공지능(AI) 기반 문맥 맞춤 광고에서 답을 찾았다. 문맥 맞춤 광고는 이전부터 존재했지만 자연어처리(NLP) 능력이 떨어져 주목받지 못했는데, 최근 AI 기술 도입으로 이런 문제점이 개선됐다. 키워드 하나하나에 의존하는 대신 AI가 문장 전체를 살피고 문맥을 파악해 적합한 광고를 제공하는 방식이다. 이를테면 A 운동화가 허리디스크 원인이 될 수 있다는 뉴스 기사가 있다고 가정해 보자. 키워드만 놓고 보면, A 운동화 광고가 노출된다. 이 기사 핵심은 A 운동화 문제점이지, A 운동화가 아니라는 점을 AI가 파악한다. B 음료수가 당뇨 위험성을 높인다면, B보다는 당뇨 위험성 원인이라는 전체 흐름을 캐치한다는 의미다. KT는 MWC24에서 나스미디어와 협업한 AI 문맥 맞춤 광고 서비스를 선보였다. 여기에는 KT 자체 거대언어모델(LLM) '믿음'이 활용됐다. 이용자 데이터를 이용하지 않고, 단지 웹사이트 방문 유무 정보만으로도 타깃 광고 노출이 가능하다는 게 특장점이다. MWC 현장에서 만난 최명수 나스미디어 경영기획팀 책임매니저는 “AI 문맥 맞춤 광고는 광고주와 소비자 모두 '윈윈'할 수 있는 서비스”라며 “맥락을 토대로 한 정밀 타깃팅으로 부적절한 콘텐츠와의 연결을 차단해, 광고주들이 브랜드 안정성을 확보할 수 있다”고 말했다. 문맥 맞춤 서비스에는 대용량 한국어를 학습한 믿음을 비롯해 KT LLM 임베딩 모델이 활용됐다. 문맥을 분석해 단어의 중의적 의미까지 정확하게 이해하고, 생성AI 기술로 상품 용도 설명을 만들어 상황 정보에 맞는 광고를 추천할 수도 있다. 문장의 의미적 유사도를 이해하는 모델을 활용했기 때문에, 별도 학습 데이터가 불필요하며 향후 광고 상품군이 변경되더라도 모델 수정이 필요하지 않아 광고 플랫폼 유지 보수가 쉽다. 서비스 관련 특허 출원도 끝마쳤다. 전하영 KT AI 테크랩 딥러닝엔지니어링 프로젝트팀 전임연구원은 “문맥상 내용을 단순 비교하지 않고, 카테고리에 대한 디스크립션을 생성해 함께 견주어보는 차별화한 기술을 가지고 있다”며 “언제 광고가 필요한지, 어떤 목적인지 생성AI를 활용해 디스크립션을 추가하는 형태로 맥락을 파악하기 때문에 품질을 높일 수 있다”고 설명했다. 현재 광고성과 측정 등 서비스 테스트 단계로, 수익 구조는 아직 구체화하지 않았다. 나스미디어 자체 구축 데이터세트로 AI 문맥 맞춤 광고 서비스를 평가한 결과 타사 생성AI 임베딩 모델 대비 약 27% 우수한 성능을 보이는 것으로 나타났다. 김호수 나스미디어 책임연구원은 “이미 자체 개발한 데이터관리플랫폼(DMP)을 구축해, 쿠키리스 대안책을 충분히 마련했다”며 “문맥 광고 서비스는 쿠키리스 위에 하나의 타깃팅 정보를 추가한 신규 기능인 셈”이라고 말했다. KT 문맥 맞춤 광고는 연내 출시될 예정이다. 최명수 매니저는 “사내 공동 연구 과제를 도출해 하반기 상용화할 예정”이라며 “향후 서비스 완성도를 높여 똑같은 기술 바탕의 태국어 서비스도 출시할 것”이라고 밝혔다.

2024.03.01 08:05김성현

  Prev 1 Next  

지금 뜨는 기사

이시각 헤드라인

"韓 기술 원더풀"…6만명 몰린 AI 페스타, 국가대표 AI 행사 '우뚝'

"AI 확산, 이정도 라니"…기술 혁신 보러 북새통

공공 충전기 0.1초면 해킹…추석 연휴 '초이스재킹' 주의

'챗GPT' 다음 승부처는?…AI 기업들, '버티컬'로 미래 시장 선점 나선다

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.