• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
  • AI의 눈
반도체
인공지능
AI의 눈
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'할루시네이션'통합검색 결과 입니다. (3건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

KT, 연내 초개인화 AI 에이전트 상용화..."품질·안정성 차별화"

KT가 올 하반기 품질과 안정성에 초점을 맞춘 초개인화 AI 에이전트를 상용화하겠다는 계획을 밝혔다. 김준석 KT AX미래기술원 에이전틱 AI랩장은 17일 서울 광화문 KT 웨스트 사옥에서 "지난해 연말부터 많은 사람들이 개인 에이전트 사용을 시도했으나, 일반인이 설치하기 어려웠고, 보안 문제가 존재했다"며 "KT는 AX미래기술원 네트워크 경쟁력을 종합해 차별화된 기술을 적용하고, 오작동 방지 솔루션으로 안정성을 높이겠다"고 말했다. KT는 현재 B2C 영역에선 사용자 성향에 맞춘 나만의 비서 개념인 초개인화 AI 에이전트로 기존 서비스 고도화를 추진 중이다. 초개인화 AI 에이전트엔 KT가 기존에 운영 중인 MY K, 지니TV, 사장이지 등에 사용자 취향, 선호도를 구조화된 데이터로 활용하는 기술과 단순 추천을 넘어 요금제 변경 등 실제 수행하는 기술이 적용된다. 에이전트는 가입자 이용 이력과 패턴을 분석해 가장 최적화된 요금제를 제안하고, 대화 히스토리를 바탕으로 멤버십 이벤트를 알려주거나, 개인 선호에 맞는 콘텐츠를 추천하는 데 사용된다. 일정 조율도 가능하다. 가령 여러 사람이 골프 라운딩을 예약할 때 사람 개입 없이 각자 AI 에이전트가 사람의 일정을 확인해 날짜, 장소 등 투표를 진행하고, 최종안을 사람에게 확인받은 후, 직접 장소를 예약하는 방식이다. B2B 영역에선 산업별 특화 데이터를 바탕으로 해결책을 제시하는 버티컬 AI 에이전트로 하반기 성공 사례를 찾아 실효성을 입증한다. 김 AI랩장은 "버티컬 AI에이전트는 현업 전문가의 노하우와 지식을 에이전트에 잘 녹여내야 한다"며 "데이터 파이프라인을 꼼꼼히 점검해 고품질 데이터를 확보하고, 이를 기반으로 LLM을 최적화하며 에이전트 모델을 고도화하고 있다"고 밝혔다. 버티컬 AI 에이전트는 네트워크 장애 발생 시 AI가 어떤 부분에 문제가 있는지 파악하고 조치하고, 공장이나 발전소 등에서 제안된 과제와 유사한 특허를 AI가 찾아서 비교 분석해 특허 등록 가능성을 가늠하는 데 사용된다. KT는 법제처, 양형 검색 등을 지원하는 법률 에이전트도 고도화하고 있다. 현재 대법원에 관련 서비스, 모델을 납품하고 실증을 진행하고 있으며, 다음 달 입찰 예정이다. 또 회사는 AI가 답변을 생성하기 전 근거 정보를 먼저 검색하고 검증하는 K RAG 기술을 자체 개발해 검색·생성·학습·실행 전 단계를 아우르고, 환각(할루시네이션) 현상을 효과적으로 줄이고 있다고 설명했다. 김 AI랩장은 "100% 완벽한 모델은 없다. 결국 할루시네이션 등 오류를 어떻게 최소화하느냐가 핵심"이라면서 "데이터 정제와 도메인 노하우 결합을 통해 모델 품질을 높이고 있다"고 강조했다. KT는 실효성 검증을 위해 AI 기반 사내 지식 검색 서비스 'KT지식허브'에 K RAG 기술을 적용했고, 향후 B2B, B2C 영역으로도 기술 적용을 확장한다는 방침이다.

2026.06.17 14:58홍지후 기자

앤트로픽 "AI 이용자 최대 불안, 실직 아닌 오류"

인공지능(AI) 사용자들이 가장 두려워하는 것은 일자리 대체 위험이 아니라 AI의 환각(할루시네이션)인 것으로 나타났다. 22일(현지시간) 파이낸셜타임스(FT)에 따르면 앤트로픽이 159개국 클로드 사용자 8만여 명을 대상으로 실시한 설문에서 응답자의 27%가 AI 할루시네이션을 최대 불안 요인으로 꼽았다. 일자리 대체 및 인간 자율성 침해 우려는 22%, AI로 인한 비판적 사고 능력 저하 우려는 16%로 뒤를 이었다. 설문은 70개 언어로 진행됐으며 클로드가 직접 인터뷰를 수행하고 응답을 분석하는 방식으로 설계됐다. 딥 강굴리 앤트로픽 사회적 영향 팀장은 "사용자들의 실제 경험을 수집해 연구 의제와 제품 개발 방향을 실질적으로 바꾸는 것이 목적"이라고 밝혔다. 생산성 향상은 기대와 체감 효과 모두에서 가장 많이 언급된 항목이었다. 응답자의 32%가 AI 덕분에 업무 효율이 높아졌다고 답했으며, 콜롬비아·일본·미국 사용자들은 AI로 절약한 시간을 가족·취미·창작 활동에 활용한다고 응답했다. 반면 약 19%는 AI가 기대에 못 미쳤다고 평가했다. 지역별 온도차도 뚜렷했다. 이번 연구를 이끈 사프론 황 앤트로픽 연구원은 남미·아프리카·동남아시아 사용자들이 유럽·미국·동아시아보다 AI에 훨씬 낙관적이라고 분석했다. 연구팀은 저·중소득 국가에선 AI가 일상 업무에 본격 진입하지 않아 일자리 대체 불안이 상대적으로 추상적으로 느껴질 수 있다고 설명했다. 앤트로픽은 이번 연구를 토대로 클로드 인터뷰어 도구를 활용한 후속 연구를 이어갈 계획이다. AI가 사람들의 삶을 개선하는 영역을 확대하고 부정적 영향을 줄이는 방안을 구체화하겠다는 구상이다. 다만 외부에선 방법론에 대한 비판도 나왔다. 응답자의 절반가량이 북미·서유럽에 집중됐고, 중앙아시아 등 일부 지역은 응답자가 수백 명에 불과하다는 점에서다. 디비 타카르 구글 딥마인드 연구원은 선발 편향과 짧은 설문 방식을 근거로 "이 연구를 새로운 과학으로 부르기엔 무리가 있다"며 "인간 연구자라면 참여자와 신뢰를 쌓고 성찰과 내면의 모순을 담아낼 공간을 만드는 것이 핵심"이라고 강조했다.

2026.03.23 10:41이나연 기자

오픈AI, 기술적 한계 왔나…'o3' 등 최신 추론 AI 모델 '환각' 더 심해져

최근 새로운 인공지능(AI) 모델을 선보인 오픈AI가 할루시네이션(환각·왜곡) 현상을 해결하지 못하며 기술적 한계를 드러내고 있다. 20일 테크크런치 등 주요 외신에 따르면 오픈AI는 사람에 대한 모델의 지식 정확도를 측정하는 사내 벤치마크인 퍼슨(Person) QA에서 'o3'가 33%의 질문에 대해 환각을 일으킨다는 사실을 발견했다. 이는 각각 16%와 14.8%를 기록한 오픈AI의 이전 추론 모델인 'o1'과 'o3-미니' 대비 2배 이상 높은 것이다. 'o4-미니'는 무려 48%로, 더 낮은 성적을 기록했다. 또 'o3'와 'o4-미니'는 심지어 오픈AI의 비추론 모델인 'GPT-4o'보다도 더 자주 환각에 빠지는 것으로 드러났다. 오픈AI는 그동안 새 모델을 내놓을 때마다 환각 문제에 대해 꾸준히 개선된 결과를 내놨다. 그러나 이번에는 그렇지 못한 데다 "더 많은 연구가 필요하다"며 정확한 이유를 밝히기를 꺼렸다. 'o3' 및 'o4-미니' 관련 기술보고서에선 "전반적으로 더 많은 주장을 한다"며 "더 정확한 주장뿐만 아니라 더 부정확하거나 왜곡된 주장을 하게 된다"고 밝혔다. 앞서 오픈AI는 지난 16일 "이미지로 생각하고 판단할 수 있는 첫 번째 모델"이라는 설명과 함께 'o3'와 'o4-미니'를 출시했다. 단순히 이미지를 보는 것뿐 아니라 시각 정보를 추론 과정에서 직접 통합할 수 있다고 설명하며 자신감을 드러내기도 했다. 오픈AI에 따르면 사용자가 'o3'와 'o4-미니'에 화이트보드 스케치, PDF 다이어그램처럼 다양한 이미지를 업로드하면 모델은 이를 분석한 뒤 사고 흐름을 구성해 응답한다. 흐릿하거나 저해상도 이미지도 인식 가능해 시각 정보 기반 질문에도 안정적인 추론을 이어간다. 하지만 환각 현상이 심하면 기존 모델들보다 활용성이 떨어질 것이란 시각이 지배적이다. 비영리 AI연구소 트랜슬루스(Transluce)는 'o3'가 답변 도출 과정에서 자신이 취한 행동에 대해 짜맞추는 경향을 테스트를 통해 발견한 바 있다. 업계에선 이번 일을 두고 향후 추론형 모델의 신뢰성에 대한 의구심을 키우는 상황으로 이어질 수 있다고 보고 있다. 특히 세무나 회계, 법조계처럼 답변의 정확성이 다른 업종보다 중요한 분야에서는 환각 이슈가 해결되지 않을 경우 추론형 AI의 사용이 어려워질 가능성이 크다. 이에 대해 오픈AI 측은 "모든 모델에서 할루시네이션 문제를 해결하는 것은 지속적인 연구 분야"라며 "정확성과 신뢰성을 개선하기 위해 지속적으로 노력하고 있다"고 말했다.

2025.04.20 12:25장유미 기자

  Prev 1 Next  

지금 뜨는 기사

이시각 헤드라인

마이크론, 메모리 장기계약 비중 확대...삼성·SK도 성장 구도 바뀐다

[AI 리더스] 오혜연 "글로벌 AI 협력, 한국이 의제 주도권 잡을 때"

퀄컴, AI 데이터센터 청사진 공개..."전용 CPU 2028년 출시"

"전남광주 반도체 패키징, '유리급 기판'도 선택지"

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.