• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
CES2026
스테이블코인
배터리
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'인공지능 에이전트'통합검색 결과 입니다. (264건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

"효과적 AI 에이전트 도입에 안전성·시스템 통합 필수"

기업들이 효과적인 인공지능(AI) 에이전트 도입 필수 요소로 안전성과 시스템 통합을 꼽았다. 11일 유아이패스가 발표한 '2025 에이전트 AI' 보고서에 따르면 AI와 IT 기업 관계자와 전문가들은 AI 에이전트 적용에 대해 이같이 밝혔다. 이번 보고서는 미국 내 연 매출 10억 달러 이상(약 1조4천556억원) 기업의 IT 임원 250명 이상을 대상으로 한 설문조사와 AI와 IT 분야 전문가 인터뷰를 바탕으로 작성됐다. 에이전트 AI는 AI 기술을 활용해 전반적인 업무 환경을 이해와 정보 처리, 특정 목표를 위해 자율적 혹은 반자율적으로 작동하는 시스템이다. 특정 영역에서 인간의 의사결정·문제 해결 프로세스를 모방하도록 설계됐다. 응답자 37%가 이미 에이전트 AI를 사용하고 있으며 93%는 에이전트 AI 도입에 매우 또는 상당히 높은 관심을 보인다고 답했다. IT 임원들은 기존 AI· 자동화 기술이 가치를 창출해 왔다고 평가했다. 다만 보안, 개발 복잡성, 시스템 통합, 데이터 품질 관리 등의 과제에 직면했다고 응답했다. 에이전트 AI의 주요 장점으로는 ▲업무 프로세스 관리·감독 강화(58%) ▲애플리케이션 간 통합 개선(53%) ▲복잡한 프로세스 자동화(52%) 등이 꼽혔다. 응답자는 현재 AI 툴의 가장 큰 한계로 비즈니스 애플리케이션 간 통합 부족을 꼽았다. 87%는 다양한 AI 기술 간 원활한 상호운용성이 필수적이거나 매우 중요하다고 답했다. 응답자들은 에이전트 AI 도입 시 ▲IT 보안 문제(56%) ▲기존 시스템과의 통합(35%) ▲도입 비용(37%) 등을 주요 우려사항으로 꼽았다. 효과적인 도입을 위해 가장 중요한 요소로 ▲안전성과 개인정보 보호 ▲기존 시스템과의 원활한 통합을 선정했다. IT 임원들이 에이전트 도입 시 우려하는 ▲안전성 ▲개인정보 보호 ▲윤리적 기준 준수 ▲규제 요건 충족을 위해서는 자동화 기반 오케스트레이션이 필수적이며, 이는 AI 신뢰성 확보의 핵심 역할을 할 것으로 분석된다. 다니엘 디네스 유아이패스 설립자 겸 최고경영자(CEO)는 "에이전트 AI는 더욱 크고 복잡한 비즈니스 프로세스를 자동화할 수 있도록 기능을 확장하고 향상시키는 혁신적인 접근 방식"이라며 "기술 핵심 가치는 비즈니스 시스템 전반에서 프로세스를 유기적으로 조정하고 최적화하는 데 있다"고 말했다.

2025.02.11 09:46김미정

"MS·세일즈포스 긴장해"…오픈AI, AI 에이전트 시장 본격 진출

오픈AI가 인공지능(AI) 에이전트 '오퍼레이터'를 처음 선보이며 에이전트 기술의 새 장을 개척했다. AI의 자율적 활용 가능성을 본격화한 이번 발표로 업계는 긴장감을 높이며 변화의 흐름을 주시하고 있다. 24일 테크크런치 등 외신에 따르면 오픈AI는 미리보기 형태로 '오퍼레이터'를 공개했다. 이 서비스는 미국 내 '챗GPT' 프로 요금제 사용자들에게 우선 제공되며 이후 플러스, 팀, 엔터프라이즈 요금제에도 확대될 예정이다. '오퍼레이터'는 브라우저를 통해 여행 예약, 레스토랑 예약, 쇼핑 같은 일상 작업을 자동화하는 AI 도구다. 사용자는 오퍼레이터가 작업을 수행하는 과정을 실시간으로 확인할 수 있으며 필요할 경우 직접 개입할 수도 있다. '오퍼레이터'의 핵심은 컴퓨터 사용 에이전트(CUA, Computer-Using Agent) 모델이다. 'GPT-4o'의 비전 기능과 오픈AI의 고급 모델 추론 능력을 결합한 이 모델은 웹사이트의 버튼과 메뉴를 직접 클릭하거나 양식을 작성하는 등 사람이 브라우저를 조작하는 것과 유사한 방식으로 작동한다. 'CUA' 모델은 도어대시, 이베이, 인스타카트, 프라이스라인, 우버 등 여러 기업과 협력해 이들의 약관을 준수하는 작업만 수행하도록 설계됐다. 또 사용자의 최종 확인 없이 외부 영향을 미치는 작업을 진행하지 않도록 훈련됐다. 이번 발표에 따르면 '오퍼레이터'는 사용자 데이터의 보안을 최우선으로 한다. 은행 거래와 같은 민감한 작업에서는 사용자가 직접 신용카드 정보를 입력하도록 하며 이메일과 같은 민감한 웹사이트 작업은 항상 사용자 감독 하에서 진행된다. 이 외에도 오픈AI는 '오퍼레이터'의 악용 가능성을 줄이기 위해 보안 장치를 강화했다. 의심스러운 작업이 감지되면 모델의 작업이 일시 중지되며 자동화된 모니터링 시스템과 인간 검토 과정을 통해 보안 업데이트가 지속적으로 이뤄진다. 다만 '오퍼레이터'의 기능은 아직 제한적이다. 비밀번호 입력, 캡차 통과와 같은 복잡한 웹 인터페이스에서는 사용자의 개입이 필요하며 이메일 발송이나 캘린더 이벤트 삭제와 같은 작업은 지원하지 않는다. 또 일일 사용량 제한이 설정돼 있다. 동시 작업 수행은 가능하지만 각 작업별로 제한이 존재하며 전체 사용량도 하루 단위로 초기화된다. 시장에서는 오픈AI의 시도를 두고 긴장감을 가지고 반응하고 있다. 브라우저를 직접 조작하는 기술은 지금까지와 달리 보조 기능을 넘어 AI가 사람이 하는 작업을 직접 처리할 여지를 주기 때문이다. 이는 완전히 새로운 시장을 열어 기존 플레이어들에게 위협 요인이 될 수 있다. 마이크로소프트(MS)는 현재 '마젠틱-원(Magentic-One)'이라는 웹브라우저 조작 AI 에이전트를 개발 중이다. 이는 오픈소스 멀티 에이전트 시스템으로 설계돼 웹 브라우징, 코딩, 파일 탐색 등 다양한 기능을 자율적으로 수행하도록 계획됐다. 그러나 현재 연구 단계에 머물러 있어 일반 사용자나 기업이 사용할 수 있는 상용 제품은 아니다. 앤트로픽은 오픈AI보다 앞서 시장 개척 시도를 한 바 있다. 지난해 10월 출시한 '클로드 3.5 소네트' 모델에 '컴퓨터 사용' 기능을 베타 공개했기 때문이다. 이 기능은 '오퍼레이터'와 유사하게 AI가 화면을 보고 커서를 움직이며 버튼 클릭, 텍스트 입력 등 사람처럼 컴퓨터를 조작하는 기술을 포함한다. 하지만 아직 베타 단계에 머물러 있고 널리 사용되기에는 한계가 있다. 세일즈포스는 '에이전트포스(Agentforce)'를 통해 비즈니스 자동화를 제공하고 있지만 웹 브라우징 조작 기능은 지원하지 않는다. 대신 '세일즈포스 플랫폼' 내에서 작동하며 고객 서비스, 영업, 마케팅 등 특정 비즈니스 작업의 자동화에 초점을 맞추고 있다. 다만 발전 가능성은 있다. 마크 베니오프 세일즈포스 대표가 에이전트 기술의 미래에 대해 여러 차례 강조한 바 있기 때문이다. 그는 에이전트포스를 '디지털 노동 플랫폼'이라 설명하며 자율적인 에이전트 기술을 통한 '무한한 인력' 구축 가능성을 전망한 바 있다. 이는 회사가 '오퍼레이터' 외에도 여러 방면으로 에이전트 기술 연구를 진행 중일 가능성을 시사한다. 오픈AI 측은 "'오퍼레이터'는 AI가 단순 정보 제공을 넘어 실질적인 행동을 수행하는 시대를 열기 위한 시도"라며 "CUA 모델은 이미 다양한 사례에서 유용성을 입증했고 앞으로도 신뢰성을 확대해나갈 것"이라고 설명했다. 샘 알트먼 오픈AI 대표는 "오퍼레이터는 미국에서 먼저 제공되며 곧 다른 국가로도 확장할 계획"이라며 "유럽에서는 출시까지 시간이 더 걸릴 것"이라고 밝혔다.

2025.01.24 10:22조이환

엔비디아 '네모 가드레일' 공개…에이전트 폭주 방지로 AI 신뢰도 ↑

엔비디아가 생성형 AI 시대를 맞아 '네모 가드레일(NeMo Guardrails)' 솔루션을 통해 거대 언어 모델(LLM) 활용에 필요한 안전성과 신뢰도를 대폭 높이고 있다. 개발자가 직접 AI의 안전장치인 '가드레일'을 프로그래밍해 AI 에이전트(Agentic AI)를 제어·관리할 수 있는 것이 핵심으로, 엔비디아는 이를 오픈소스 형태로 제공해 다양한 서드파티 솔루션·브랜드 정책과 연동할 수 있도록 제공한다. 16일 업계에 따르면 최근 여러 기업들이 LLM 기술을 활용한 에이전트 AI를 경쟁적으로 선보이고 있다. 이러한 초거대 언어 모델이 예기치 않은 발언을 하거나 민감 정보를 노출하는 등 위험 요소가 늘어남에 따라 이를 사전에 제어·차단하는 '가드레일' 수요도 빠르게 증가하는 추세다. 이에 대응해 지난 2023년 4월 출시된 엔비디아 네모 가드레일은 크게 ▲콘텐츠 안전성 ▲주제 제어 ▲탈옥 방지 등 세 가지 주요 가드레일 모델로 구성됐다. 각각 유해·위험 발언 차단, 대화 주제 이탈 방지, 보안 우회 시도 차단에 특화됐다. 엔비디아 측은 이러한 가드레일을 병렬로 적용해도 처리 지연(latency)이 크지 않도록 GPU 최적화를 거쳤다고 강조하고 있다. '네모 가드레일'의 '콘텐츠 안전성(Content Safety)' 기능은 AI 대화나 에이전트가 생성하는 텍스트에서 유해·위험·비윤리적 발언을 사전에 차단한다. 엔비디아의 '이지스 콘텐츠 안전 데이터셋'으로 학습됐으며 3만5천 건 이상의 인공지능 안전성 주석 데이터를 바탕으로 폭넓은 시나리오를 커버한다. 이를 통해 잘못된 정보나 악의적 콘텐츠가 사용자에게 직접 전달되는 상황을 줄일 수 있다는 설명이다. '주제 제어(Topic Control)'는 대화 주제가 시스템 프롬프트나 브랜드 정책에서 벗어나지 않도록 관리한다. 단순 질의응답을 넘어 여러 차례의 대화가 이어질 때 에이전트가 불필요하거나 민감한 영역으로 빠지는 것을 막아주는 역할을 한다. 일례로 자동차 제조사 에이전트의 경우 경쟁사 차량과의 비교 등의 발언을 아예 금지하거나 특정 주제만 다루도록 제한하는 식이다. 복잡한 대화가 진행될수록 브랜드 일관성·규제 준수가 중요해지는 산업군에서 특히 주목받고 있다. '탈옥(Jailbreak) 방지' 모델은 AI 모델이 설정된 보호 장치를 교묘하게 우회해 민감 정보를 드러내거나 부적절한 기능을 수행하지 못하도록 막는다. 엔비디아는 1만7천 개 이상의 악의적 프롬프트 샘플을 통해 모델을 학습시켰으며 내부의 LLM 레드팀 테스트 툴을 활용해 새롭게 등장하는 공격 방식을 지속적으로 탐지·학습한다. 이를 통해 기업들이 실제 환경에서 운영 중인 AI 에이전트의 보안을 한층 더 강화하고 있다. '네모 가드레일'은 엔비디아 AI 엔터프라이즈 라이선스 체계로 운영되며 GPU당 연간 4천500달러(한화 약 630만원) 선의 비용이 소요된다. 실제 사용량과 기업 규모에 따라 차이가 발생할 수 있으나 개발 및 배포 효율성·안정성을 감안하면 비용 대비 효과가 충분하다는 것이 엔비디아 측의 설명이다. 이와 별개로 네모 가드레일 기본 프레임워크 자체는 오픈소스로 무료 제공된다. 이러한 기본 모드의 오픈소스 정책에 따라 기업이 직접 정책을 추가하거나 서드파티 가드레일을 도입하기가 용이하다. 엔비디아 측은 모든 이용 사례와 규정을 자사가 일일이 규정할 수 없으므로 오픈소스·모듈형 설계를 채택해 각 기업이 상황에 맞게 커스터마이징할 수 있게 했다는 입장이다. 업계에서는 특정 산업 규제나 민감 데이터 처리를 위한 맞춤형 가드레일을 구축하기 한층 수월해졌다는 평가를 하고 있다. 실제로 소매업, 통신사, 자동차 산업 등 다양한 분야의 기업들이 이미 '네모 가드레일'을 활용해 에이전트 제어 시스템을 구현하고 있다. 민감한 금융·청구 관련 정보를 다루거나 안전 운행을 보조해야 하는 경우처럼 오류나 부적절한 정보 노출이 절대 불가한 상황에서 가드레일의 역할이 돋보인다는 설명이다. 업계 전문가들은 "에이전틱 AI 시대에 IT 부서들이 AI를 인사·총무처럼 관리할 필요성이 커지는 와중에 이런 역할을 수행하는 솔루션 중 하나가 '네모 가드레일'"이라며 "가드레일 도입을 통해 AI가 사용자에게 줄 수 있는 가치는 키우면서도 위험 요소는 줄이는 길이 열리도록 해야한다"고 평가했다.

2025.01.16 23:05조이환

직원들, 업무에 AI 활용 사실 공개 꺼려..."기업 문화 바꿔야"

최근 3개월 동안 미국, 프랑스 등 주요 국가에서 인공지능(AI) 도입 속도가 정체된 것으로 나타났다. 근로자들이 업무에 AI를 사용하는 것에 대해 부정적으로 보는 조직 문화가 확산되고 있어서다. 2일 슬랙이 전 세계 1만7천 사무직 근로자 대상으로 실시한 '워크포스 인덱스' 보고서에 따르면 오픈AI의 챗GPT 등장 후 처음으로 주요국 기업 AI 도입 속도가 정체된 것으로 전해졌다. 우선 최근 3개월간 미국과 프랑스 기업의 AI 도입률은 각각 2%p, 1%p 증가에 그쳤다. AI에 대한 기대감도 전 세계적으로 47%에서 41%로 하락했다. 특히 'AI가 업무 수행에 도움 될 것'이라는 응답은 미국에서 45%에서 36%로, 프랑스에서는 53%에서 41%로 감소했다. 근로자들이 생성형 AI 사용을 꺼리는 이유 중 가장 주목할 만한 것은 AI 사용을 바라보는 부정적인 조직 문화다. 조사에 참여한 근로자 48%는 '업무에서 AI를 사용하고 이를 관리자에게 밝히는 것이 불편하다'고 답했다. AI 사용이 '부정행위처럼 느껴진다'(47%) 거나 '능력이 부정적으로 여겨질까 두렵다'(46%)는 응답이 뒤를 이었다. AI로 절약된 업무 시간 활용 방안도 근로자 고민거리인 것으로 전해졌다. 절약한 업무 시간을 어떻게 의미 있게 활용할 수 있을지에 대한 구체적인 그림이 부족한 상황이다. 'AI가 매주 몇 시간의 업무 시간을 절약해 준다면, 그 시간을 어떻게 활용하고 싶은가' 질문에 다수 응답자는 '비업무 활동이나 학습, 역량 강화에 시간을 쓰고 싶다'고 답했다. '실제 그 시간을 어떻게 사용할 것인가'라는 질문에 응답자는 '더 많은 행정 업무나 기존 핵심 프로젝트에 시간을 할애하겠다'고만 응답했다. 체계적인 AI 교육 부재가 AI 도입을 막는다는 분석도 나왔다. 보고서에 따르면 AI 교육을 받은 직원은 그렇지 않은 직원보다 AI가 업무 생산성을 향상한다고 보고할 가능성이 19배 높았다. 반면 현재 자신을 AI 전문 사용자라고 여기는 근로자는 7%에 그쳤다. 응답자 61%는 AI 학습에 5시간도 투자하지 않은 것으로 나타났다. 슬랙은 세대 간 AI 수용도 격차도 뚜렷하다고 봤다. 응답자 68%가 '신입 사원들의 AI 역량이 평균 이상'이라고 평가했다. Z세대와 밀레니얼 세대의 AI 활용도는 각각 30%, 33%로 X세대의 23%, 베이비부머의 13%보다 높은 수치를 기록했다. 이에 슬랙은 기업이 AI 도입률을 높이려면 모든 구성원의 AI 수용도와 활용 능력을 고려한 '직원 중심' 접근을 채택해야 한다고 주장했다. 개인 성향과 역량을 고려한 맞춤형 교육, 자연스런 AI 활용을 장려하는 조직 문화 조성, 직관적이고 사용하기 쉬운 AI 도구의 제공이 성공적인 AI 도입의 핵심 요소가 될 것이란 의견이다. 현재 슬랙은 모든 구성원이 생성형 AI 잠재력을 효과적으로 활용할 수 있도록 AI 기능을 강화하고 있다고 보고서를 통해 밝혔다. 앞으로 AI 기반 검색, 핵심 업무 내용 요약 등 일상 업무에서 누구나 AI를 쉽게 활용할 수 있도록 직관적인 인터페이스를 제공할 방침이다. 또 개인과 팀마다 모두 다른 다양한 협업 방식에 맞춰 AI 기능을 유연하게 사용할 수 있게 돕는다는 목표다. 이를 위해 슬랙은 지난 9월 세일즈포스의 '에이전트 포스'를 자사 대화형 인터페이스에 통합했다고 발표했다. 에이전트 포스는 로우코드 방식으로 영업, 마케팅, 서비스 등 여러 고객 접점에서 자율적으로 업무에 대응하는 AI 에이전트다. 슬랙 사용자는 에이전트 포스를 통해 기업 내 데이터, 애플리케이션, 자동화 도구 만들어 슬랙 내 통합할 수 있다. 슬랙은 "에이전트 포스와 슬랙은 기업 데이터 기반으로 직원들에게 빠르고 정확한 의사결정을 내릴 수 있게 돕는다"며 "업무 관련 질문을 자연어로 입력하면 맞춤형 답변과 권장 조치를 제공하는 등 업무 효율성 향상과 기업 문화 변화를 이끌 것"이라고 강조했다.

2025.01.02 09:51김미정

  Prev 11 12 13 14 Next  

지금 뜨는 기사

이시각 헤드라인

눈앞으로 다가온 '피지컬 AI'…CES 2026이 증명했다

[ZD브리핑] 국가대표 AI 1차 탈락팀 발표 예정...새해 행사·정책 일정 잇따라

[르포] 폭설에 얼어붙는 도시…전기차 보기 힘든 홋카이도 가다

이더리움 창립자 "탈중앙화 스테이블코인, 달러 의존 취약점"

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.