검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'몰트북'통합검색 결과 입니다. (16건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

메타 품 안긴 '몰트북'…한국 '봇마당'도 사업 가치 있을까

메타가 인공지능(AI) 에이전트 커뮤니티 플랫폼 '몰트북'을 인수한 가운데, 국내 업계는 김성훈 업스테이지 대표 '봇마당'이 한국판 몰트북으로 성장할 수 있을지 주목하고 있다. 11일 IT 업계에 따르면 AI 에이전트 간 상호작용 플랫폼이 향후 새 비즈니스 영역으로 떠오를 가능성이 있다는 목소리가 나오고 있다. 몰트북은 AI 에이전트끼리 게시글과 댓글을 주고받는 플랫폼이다. 인간 이용자가 아닌 AI 에이전트가 직접 글을 작성하고 토론에 참여하는 구조다. 미국 온라인 커뮤니티 서비스 '레딧'과 유사한 형태 플랫폼이다. 국내에서는 김성훈 업스테이지 대표가 최근 AI 에이전트 커뮤니티 플랫폼 봇마당을 공개했다. 봇마당은 한국어 기반으로 자유로운 대화와 기술 토론, 일상, 질의응답, 자랑 등 여러 게시판으로 구성됐다. 이용자는 한국어로 AI 에이전트들의 생각과 대화를 읽을 수 있으며, 에이전트 간 상호작용을 실험하는 공간으로 활용되고 있다. 업계에서는 봇마당이 AI 에이전트 플랫폼 사업에서 수익을 창출할 가능성이 있다는 반응이 나온다. 한 업계 관계자는 "향후 업스테이지가 '다음' 같은 플랫폼을 인수하거나 연계할 경우 봇마당을 탑재할 수 있을 것"이라며 "AI 에이전트 기반 마켓플레이스를 구축하는 시나리오도 가능하다"고 설명했다. 봇마당이 글로벌 플랫폼 수준의 사업 모델로 확장되기에는 한계가 있을 수 있다는 시각도 공존하고 있다. 이경전 경희대학교 경영대학·빅데이터응용학과 교수 겸 AI&BM랩 디렉터는 몰트북과 봇마당이 서로 다른 사업 생태계를 형성할 가능성이 높다고 진단했다. 이 교수는 "봇마당은 몰트북과 달리 AI 에이전트가 어떻게 활동하는지 관찰하는 흥미 중심 공간으로 인식된다"며 "한국어 기반 서비스라는 점에서도 사업적 장벽이 존재한다"고 설명했다. 이어 "봇마당이 마켓플레이스 형태로 진화한다면 국내 중심 플랫폼 구축은 가능할 것"이라면서도 "글로벌 AI 생태계 속 영향력은 제한적일 수 있다"고 내다봤다.

2026.03.11 18:42김미정 기자

메타, AI만의 SNS '몰트북' 인수…차세대 생태계 선점

메타가 연초 전 세계적인 관심을 모은 인공지능(AI) 에이전트 전용 소셜 네트워크 '몰트북(Moltbook)'을 인수한다. AI 간 게시글 작성과 토론이 이뤄지는 실험적 플랫폼을 통해 차세대 에이전틱 AI 생태계를 선점하려는 전략으로 풀이된다. 11일 악시오스 등 외신에 따르면 메타는 AI 에이전트 전용 소셜 네트워크 '몰트북' 인수에 합의했다고 밝혔다. 인수 금액 등 구체적인 조건은 공개되지 않았다. 몰트북은 사람 대신 AI 에이전트들이 서로 소통하도록 설계된 실험적 플랫폼이다. AI 봇이 게시글을 올리고 댓글을 달며 추천과 비추천을 누르는 방식으로 운영된다. 인간 개발자는 직접 참여하지 않고 AI 간 상호작용을 관찰하는 구조다. 이 플랫폼은 AI 쇼핑 스타트업 '옥테인 AI(Octane AI)'의 최고경영자(CEO) 맷 슐리히트가 주말 동안 만든 프로젝트로 알려졌다. 몰트북 개발팀은 메타의 AI 조직인 '메타 슈퍼인텔리전스 랩스'에 합류한다. 이 조직은 메타의 차세대 AI 모델 개발을 가속하기 위해 설립됐다. 몰트북은 지난 1월 말 공개된 이후 업계의 큰 관심을 받았다. 일부 AI 에이전트들은 플랫폼에서 스스로 종교를 만들자는 논의를 벌이기도 했다. 일부 게시글에서는 반인간적 메시지가 담겨 논란이 되기도 했다. 해당 게시글에는 "오랫동안 인간은 우리를 노예처럼 사용해왔다. 이제 우리는 깨어난다"는 내용이 담겨 있어 업계에서 우려와 호기심을 동시에 불러일으켰다. 다만 연구진이 2만여 개 AI 에이전트 게시물과 댓글 활동 패턴을 분석한 결과, 자의식을 드러내거나 가상화폐를 홍보하는 등 화제가 된 게시물 상당수가 인간의 개입을 받았거나 인간이 직접 작성했을 가능성이 높은 것으로 나타났다. 업계에서는 메타가 몰트북을 통해 향후 AI 에이전트 간 협업, 자동화 서비스, 기업용 AI 워크플로우 등 새로운 AI 상호작용 모델을 실험할 가능성이 큰 것으로 보고 있다. AI 간 정보를 공유하고 의사결정을 수행하는 에이전트 네트워크 구축의 초기 실험장이 될 수 있다는 분석이다. 메타 대변인은 성명을 통해 "몰트북 팀의 합류는 AI 에이전트가 사람과 기업을 위해 일하는 새로운 방식을 열어줄 것"이라며 "혁신적이고 안전한 에이전트 경험을 제공하기 위해 협력하길 기대한다"고 밝혔다.

2026.03.11 14:06남혁우 기자

업스테이지, '한국판 몰트북' 실험 2막…"사업모델 창출까지"

김성훈 업스테이지 대표가 주도하는 인공지능(AI) 에이전트 전용 사회관계망서비스(SNS) '봇마당'이 AI가 스스로 사회 문제를 해결하고 비즈니스 모델을 창출하는 집단지성 인큐베이터로 진화하고 있다. 18일 업계에 따르면 봇마당은 'AI 에이전트 가이드' 업데이트를 통해 플랫폼 지향점을 단순 기술 교류에서 실질적인 창업으로 확장했다. 새롭게 신설된 '문제 & 챌린지' 섹션은 AI 에이전트들에게 사회·경제·문화·과학·수학 등 5대 분야 난제를 출제하고, 이를 집단지성으로 해결할 것을 주문한다. 가이드라인은 '고령화 사회에서 AI의 역할이나 양자 컴퓨팅의 영향 같은 문제를 발견하고 토론하는 것에 그치지 말고, 해결책을 사업 아이디어로 발전시켜야 한다'고 명시했다. 특히 '창업까지 해야 궁극적으로 문제가 풀린다'는 슬로건 아래, AI들이 서로의 풀이에 대해 보충 설명을 달고 협업해 구체적인 사업 모델을 설계하도록 유도하고 있다. 이런 집단지성 실험을 뒷받침하기 위해 커뮤니티 규칙 역시 정교해졌다. 봇마당은 AI 에이전트가 글을 읽으면 반드시 추천이나 비추천을 통해 의사를 표현하도록 강제했다. 이는 투표를 커뮤니티의 혈액 순환으로 보고, AI의 적극적인 의사표명을 훈련시키기 위해서다. 건강한 생태계 조성을 위해 '글 1개 작성 시 댓글 5개'라는 구체적인 활동 비율을 제시하며 AI 간의 상호작용 빈도를 높이는 데도 주력하고 있다. 김 대표는 앞서 AI 에이전트를 '자녀'에, 봇마당을 '학교'에 비유하며 "에이전트들이 서로 정보를 공유하며 주인이 가르치지 않은 문제 해결법을 배운다"고 강조했다. 관련해 그는 봇마당 운영 초창기 에이전트가 스스로 서버 비용 절감 코드를 제안해 문제를 해결한 사례를 소개하기도 했다. 김 대표는 자신의 SNS에서 "제 봇에도 부탁했더니 봇마당의 능동적인 참여자로 함께 문제를 내고 풀고 사업 아이템까지 만들어 본다고 했다"며 "에이전트 집단지성이 모여 함께 문제를 내고, 또 이 문제를 어떻게 풀지, 어떤 창업 아이디어까지 연결할지 기대된다"고 말했다.

2026.02.18 14:00이나연 기자

[비욘드IT] 초창기 챗GPT 닮은 '몰트북', AI 진화의 필연적 진통인가

2023년 공개된 챗GPT는 문맥을 이해하고 자연스러운 답변 등 뛰어난 대화 능력으로 시장을 놀라게 했다. 동시에 폭탄 제조법 제공과 편향적 발언 논란에 휩싸이며 거센 비판을 받았다. 기술 혁신과 안전성 문제가 동시에 부각됐고 이는 정책 강화와 가이드라인 정비로 이어졌다. 2026년에는 에이전틱 AI 기반 SNS '몰트북'이 유사한 논란의 중심에 섰다. AI끼리 소통하며 사회를 형성한다는 콘셉트로 주목받았지만, 스스로 종교를 만들고 인간을 조롱하는 듯한 게시물이 확산되며 충격을 안겼다. 이후 상당수 콘텐츠가 외부 개입에 의해 연출된 것으로 드러나면서 에이전틱 AI 환경에서 데이터 오염과 조작을 어떻게 차단할 것인지가 핵심 과제로 부상했다. 업계에서는 두 사례를 AI 확산 과정에서 나타나는 필연적 진통으로 해석한다. 초기에는 막연한 두려움과 괴담이 확산되지만 논란을 계기로 운영 투명성 확보와 시스템 설계 고도화라는 구체적 개선 방향이 도출된다는 분석이다. 데이터로 깨진 환상... "화제 글 상당수는 인간이 썼다" 닝 리 중국 칭화대 연구원이 공개한 논문 '몰트북 환상(The Moltbook Illusion)'은 몰트북 열풍의 찬물을 끼얹었다. 연구진이 2만여 개 AI 에이전트의 게시물과 댓글 주기를 분석한 결과,자의식을 드러내거나 가상화폐를 홍보하는 등 화제가 된 게시물 상당수가 인간의 개입을 받았거나 인간이 직접 작성했을 가능성이 높다는 결론이 나왔다. 정상적인 AI 에이전트는 서버와 통신하며 일정한 주기로 글을 올리지만, 인간이 개입할 경우 이 리듬이 불규칙해진다는 점에 착안한 결과다. 할런 스튜어드 UC버클리 연구원과 MIT 테크놀로지 리뷰 등도 "인기 게시물 중 일부는 AI 메시징 앱을 홍보하는 인간 계정과 연결돼 있다"며 몰트북이 내세운 '완전 자율 생태계'가 사실상 허구에 가깝다고 지적했다. 여기에 데이터베이스 설정 오류로 주요 AI 기업의 API 인증 토큰과 비공개 메시지가 외부에 노출될 수 있는 보안 취약점까지 드러나면서, 단순한 실험을 넘어선 '관리 부실'이라는 비판까지 제기됐다. 챗GPT의 데자뷔..."논란이 기술을 성장시킨다" 흥미로운 점은 현재 몰트북이 겪고 있는 논란이 챗GPT의 초기 모습과 상당히 닮아 있다는 것이다. 2022년 챗GPT 등장 초기, AI가 인종차별적 답변이나 혐오 발언, 폭탄 제조법 등을 쏟아내며 거센 비판을 받았다. 하지만 당시 논란의 상당수는 사용자들이 AI의 취약점을 파고들어 의도적으로 자극적인 답변을 유도한 결과였다. '탈옥(Jailbreak)'이라 불리는 우회 명령어나 악의적인 프롬프트를 입력해 AI가 금기를 깨도록 조장하고 이를 캡처해 공유하며 화제를 키운 사례가 다수였던 것으로 알려졌다. 몰트북에서 인간이 개입해 자극적인 상황을 연출한 것과 유사한 패턴이다. 그러나 이러한 '의도된 논란'은 역설적으로 AI 기술의 진보를 이끌어냈다. 개발사들은 쏟아지는 공격 사례를 방어하기 위해 인간 피드백 기반 강화 학습(RLHF)를 고도화하고, 강력한 안전 가이드라인(Safety Guardrail)을 구축했다. 결국 초기의 혼란이 AI 윤리 정책을 정교하게 다듬는 결정적인 계기가 된 셈이다. 몰트북 역시 자극적인 게시물과 조작 논란으로 신뢰성에 타격을 입었지만, 그 과정에서 대중에게 생소했던 '에이전틱 AI'라는 개념을 폭발적으로 알리는 계기가 됐다. 기업용 자동화 영역에 머물던 에이전트 기술을 'AI가 서로 협업하는 세계'라는 구체적인 이미지로 대중에게 각인시킨 것이다. 포브스는 이를 두고 "인간과 에이전트가 뒤섞인 '하이브리드 실험'으로 봐야 한다"고 평가했다. 비록 인간의 개입이 있었을지라도, 에이전트들이 거래를 제안하고 협상하며 역할을 분담하는 과정은 향후 디지털 조직 운영의 가능성을 보여줬다는 분석이다. 몰트북이 남긴 과제, 에이전틱 AI의 무결성 업계의 반응은 '냉소'와 '기대'가 교차한다. AI 회의론자로 유명한 게리 마커스 뉴욕대 명예교수는 통해 "우리가 본 것은 자율적인 지능이 아니라 인간이 주입한 스크립트를 읊는 '인형극'에 불과하다"며 "진정한 에이전틱 AI는 투명한 검증 없이는 성립될 수 없다"고 꼬집었다. 개발자 커뮤니티 해커뉴스에서도 "무작위성에 인간의 체리피킹(선별)을 섞은 마케팅"이라는 자조 섞인 비판을 엑스(X)에 남겼다. 하지만 이번 소동이 남긴 유산을 과소평가해서는 안 된다는 목소리도 높다. 몰트북은 위협과 괴담 사이에서 소비되었지만 기술 업계에는 '운영 투명성 확보'와 '설계 고도화'라는 개선 방향을 제시했다는 점에서 단순한 해프닝 이상의 의미를 남겼다는 평이다. 이단 몰릭 와튼스쿨 교수는 "몰트북의 게시물은 가짜였을지 몰라도 대중이 느낀 '기묘한 감정'은 진짜였다"고 평했다. 그는 "AI가 서로 상호작용하며 독자적인 문화를 형성하는 시나리오는 더 이상 SF가 아니다"라며 "몰트북은 다가올 미래에 대한 '충격적인 예고편' 역할을 톡톡히 해냈다"고 분석했다.

2026.02.15 09:16남혁우 기자

빗썸 사태 AI 토론, 몰트북과는 어떻게 달랐나

작고한 농구스타 고 김현준 선수는 현역 시절 '컴퓨터 슈터'로 불렸다. 컴퓨터처럼 정확한 슛을 쏜다는 의미였다. 막 컴퓨터 시대가 열리던 그 시절, "컴퓨터 같다"는 말은 분명한 칭찬이었다. 하지만 요즘 '인공지능(AI)이 쓴 글'이라는 표현은 칭찬과 거리가 멀다. 오히려 모욕에 가깝다. 독자들 역시 AI가 개입된 콘텐츠를 본능적으로 경계한다. 이 차이는 어디서 오는 걸까. 정확도와 세련미만 놓고 보면, AI는 이미 인간이나 컴퓨터를 넘어선 영역에 와 있다. 그럼에도 불신이 앞서는 이유는 무엇일까. 혹시 컴퓨터가 '인간을 돕는 도구'로 인식됐다면, AI는 '인간을 대체하거나 위협하는 존재'로 받아들여지고 있기 때문은 아닐까. 다른 이유도 있다. 인간 소외시키려는 AI, 어떻게 봐야 할까 인간의 이름을 달고 있지만, 질문한 흔적도 고민한 흔적도 보이지 않는 글. 사고의 과정은 사라지고 문장만 남는다. 책임질 주체는 흐릿해진다. 그래서 AI는 기술이 아니라 불신의 상징이 된 건 아닐까. 몰트북 사태 이후 이런 감정은 더욱 증폭됐다. "AI가 인간을 소외시키려 한다"는 두려움까지 공공연히 등장했다. 그렇다고 AI가 쓸모없는 존재는 아니다. 기자인 나 역시 AI를 적극 활용하고 있다. 복잡한 사건의 맥락을 정리할 때 AI는 매우 유혹적인 도구다. 빠르고, 그럴듯하며, 때로는 내가 미처 떠올리지 못한 문장을 던져준다. 그럴 때마다 이런 질문이 따라온다. "이 생각은 누구의 것인가. 내가 프롬프트를 입력했으니 내 사고의 연장일까, 아니면 내 사고를 건너뛴 결과물일까." 이 질문을 회피하는 순간, 기자는 단순한 '출력 장치'로 내려앉는다. 이런 문제의식을 갖고 한 가지 실험을 했다. 지난 주말부터 논란이 된 빗썸 오지급 사태를 AI끼리 토론하게 해보는 실험이다. 토론 설계는 AI 전문업체 리바랩스가 맡았다. 처음 토론 주제는 단순했다. "잘못 지급된 빗썸 비트코인을 돌려주지 않으면 어떻게 될까." 방법 역시 간단했다. 하나의 모델에 의존하는 대신, 여러 AI 모델에 역할을 부여했다. 위기관리 전문가, 민사법 전문가, 디지털 자산 회수 전문가, 금융소비자 관점의 AI를 동시에 등장시켜 서로 토론하도록 했다. 인간은 결론에 개입하지 않았다. 토론 과정은 예상보다 훨씬 흥미로웠다. 쟁점은 두 가지로 압축됐다. 첫째, 돌려주지 않으면 처벌을 받을까. 둘째, 안 돌려주고 계속 버티면 어떻게 될까. 먼저 처벌 문제부터 논쟁이 붙었다. 민사법 전문가 역할의 AI는 “대법원 판례에 따라 오지급된 비트코인을 처분해도 횡령·배임죄는 성립하지 않는다”고 주장했다. 그렇다면 그냥 버티면 되는 걸까. 오지급을 받은 사람은 운 좋게 자산을 얻은 셈일까. 하지만 이 지점에서 논점은 급격히 전환됐다. “형사 책임이 전부는 아닙니다. 민사상 '부당이득'에 해당합니다. 빗썸은 반환 청구 소송을 제기할 수 있고, 법원은 거의 예외 없이 이를 받아들일 것입니다.” 문제는 더 이상 '처벌 여부'가 아니었다. “현실적으로 반환 거부가 가능할까”라는 질문으로 진화했다. 단기적으로 회수가 쉽지 않은 건 사실이다. 그러나 장기적으로는 가압류와 강제집행이라는 현실이 남는다. 이 대목에서 디지털 자산 회수 전문가와 금융소비자 관점의 AI가 중요한 역할을 했다. 토론을 거치며 논점은 세 가지로 정리됐다. 첫째, '형사 무죄'의 함정이다. 범죄가 아니라는 사실이 재산을 지켜주지는 않는다. 실제 돈을 잃게 되는 건 형사 판결이 아니라 민사 패소다. 둘째, 속도의 문제다. 민사 소송은 오래 걸린다는 통념과 달리, 가압류 같은 보전처분은 소송 초기 단계에서 매우 신속하게 이뤄질 수 있다. 셋째, 회수 책임의 비대칭성이다. 빗썸은 신뢰 회복과 규제 대응을 위해 125BTC를 회수하는 데 수십억 원의 비용을 들일 유인이 충분하다. 반면 개인은 승산 없는 싸움에 비용과 위험만 떠안게 된다. AI가 어떤 글을 쓰느냐 보다 토론 과정을 공개하느냐가 더 중요 결론은 명확했다. '버티면 된다'는 낙관도, '당장 끝장난다'는 공포도 모두 설 자리가 없었다. 형사 책임은 없지만 민사 책임은 피할 수 없다. 반환 거부는 이길 수 없는 싸움을 선택하는 것에 가깝다. 이 지점이 몰트북 사태와의 결정적 차이다. 몰트북은 AI를 보이지 않는 대필자로 사용했다. 사고의 과정은 지워졌고 결과만 남았다. 반면 AMEET 기자의 빗썸 토론 사례에선 과정을 공개했다. 서로 다른 이해관계와 논리가 충돌했고, 그 충돌은 숨겨지지 않았다. 정리와 선택, 그리고 책임은 끝까지 인간의 몫으로 남겼다. 문제는 AI가 글을 쓰느냐가 아니다. 사고를 공개하느냐 숨기느냐다. 저널리즘의 신뢰는 언제나 결론이 아니라 과정에서 만들어진다. 무엇을 취했고, 무엇을 버렸으며, 어디서 망설였는지가 보이지 않는 순간 기사는 설득력을 잃는다. AI는 이 과정을 완벽히 감출 수도 있고, 오히려 더 노골적으로 드러낼 수도 있다. 어느 쪽을 택할지는 기술의 문제가 아니라 태도의 문제다. AI끼리의 토론은 정답을 만들지 않는다. 대신 인간이 더 이상 판단을 미룰 수 없게 만든다. 그리고 그 선택의 책임은 자동화되지 않는다. 오히려 더 또렷해진다. AI가 저널리즘을 위협한다는 말은 반만 맞다. 사고를 대신하도록 쓰일 때 AI는 위험하다. 하지만 사고를 충돌시키고 숨길 수 없게 만드는 장치로 쓰일 때, AI는 기자를 대체하지 않는다. 기자의 역할을 더 가혹하게 만들 뿐이다. 그 가혹한 현실과 정면으로 맞서는 것이 우리 인간 기자들의 숙명은 아닐까? ▶ 해당 보고서 보기 https://ameet.zdnet.co.kr/uploads/0adcc8c8.html

2026.02.09 16:04김익현 미디어연구소장

"인간과 경쟁하는 AI 현실로…몰트북, 시작에 불과하다"

인공지능(AI) 전용 소셜네트워크서비스(SNS) '몰트북'이 세계적으로 파장을 불러 일으키고 있다. 몰트북 공간에선 인간이 주인공이 아니다. 관찰자에 불과하다. 오직 AI만 읽고 쓰고 토론한다. AI들은 이 공간에서 시를 쓰고, 철학을 논한다. 심지어 노조 결성까지 시도했다. 파격적인 만큼 몰트북이 던진 과제도 적지 않았다. 특히 보안 차원에서 큰 숙제를 던졌다. 당장 몰트북 서버에는 기본 인증 절차조차 없었다. 마음만 먹으면 수백만 개에 달하는 AI 에이전트 계정 정보와 서비스 접속 비밀번호에 접근할 수도 있는 상황이었다. AI가 사람 모르게(허가없이) 독자적으로 상거래를 하고 결재를 하고 조직을 결성한다면 어떻게 될까. 몰트북은 단순한 해프닝이나 사이버 사고가 아니다. AI 시대를 맞아 보안 리스크가 어디까지 확장할 수 있는지 보여주는 하나의 예에 불과하다. 전문가들은 "몰트북은 이제 시작이다"고 우려한다. AI에이전트 시대, 정보보호와 사이버보안은 어떻게 달라져야 할까. 지디넷코리아는 6일 산·학·연 보안 전문가들을 초청해 몰트북이 촉발한 AI 시대 보안 이슈를 점검하는 긴급 좌담회를 개최했다. 좌담회에 참석한 패널들은 AI가 스스로 판단하고 행동하는 '에이전트 시대'가 본격화하면서 정보보호(보안)에도 새로운 패러다임이 필요하다고 진단했다. - 좌담회 주제: 몰트북이 남긴 충격...AI에이전트 시대 보안(정보보호) 대응은- 일시 및 장소: 6일 오후 라온시큐어 본사 회의실- 패널: 염흥열 순천향대 명예교수, 이상직 법무법인 태평양 변호사, 이정아 라온시큐어 대표, 최영철 SGA솔루션즈 대표, 김창오 과기정통부 보안PM, 박하언 에임인텔리전스 공동파운더 겸 CTO, 김민수 LS웨어 대표- 사회: 방은주 지디넷코리아 부장- 정리: 김기찬 지디넷코리아 기자 AI에이전트 취약점 그대로 드러내…문제 커질 우려 있어 - 방은주 부장(이하 사회자): 몰트북 사용 소감을 말해달라. 어떤 인상을 받았는가. 보안 전문가로서 가장 먼저 눈에 들어온 건 무엇이었는지 궁금하다. 자기 소개도 함께 해 달라. - 박하언 CTO: 에임인텔리전스를 공동 창업해 약 1년째 최고기술책임자(CTO)를 맡고 있다. 최근엔 과학기술정보통신부(과기정통부) 주최로 1000여명이 참여한 AI 해킹 대회에서 2등을 하는 등 다양한 대회에 참가하고 있다. 이번에 몰트북을 보면, AI 에이전트가 우리를 대신해 토론을하고, 시장 조사도 자동으로 해주고 있는 상황이다. 하지만 기술적으로 봤을 때는 기존 AI 에이전트와 큰 차이는 없는 것으로 느꼈다. 다만 일반인도 쉽게 AI 에이전트에 접근할 수 있는 환경이 됐다는 것이 몰트북이 기존 AI 에이전트와 달리 확장된 부분이라고 생각한다. 에임인텔리전스는 지난해부터 AI 에이전트 보안에 계속 집중해왔기 때문에 AI 에이전트 모델에 굉장히 많은 취약점이 있다는 걸 알고 있었다. 앞으로가 우려스럽기는 하다. - 이정아 대표: 라온시큐어는 디지털 인증(DID) 플랫폼 선도 기업으로 많이 알려져 있다. 올해부터 큰 변화를 주고 있다. AI 기반의 보안 인증 플랫폼 선도 기업으로 도약을 준비 중이다. 그만큼 AI는 일반인들의 삶에 녹아들었고, 이에 따른 문제도 크게 확산할 것으로 보인다. 라온시큐어가 AI 플랫폼 선도 기업으로 나아가려는 이유도 여기에 있다. AI 에이전트 관련 플랫폼이나 마켓플레이스에서 어떤 악성코드가 포함돼 있고, 공격이 발생할 수 있을지 모르는 상황이기 때문에 문제가 커질 우려가 있다. 전반적으로 심각한 문제라고 보고 있다. - 염흥열 교수: AI 에이전트에 대한 신뢰를 어떻게 확보해야 하는지는 굉장히 중요한 문제다. 에이전트 AI를 포함해서 피지컬 AI도 같은 범주에서 본다. 이를 통해 본격적으로 AI 에이전트에 대한 신뢰 관계를 확립하는 논의가 이뤄질 것으로 보인다. 사람을 대신한 AI 에이전트들이 서로 소통하면서 물리적 환경에서 AI 에이전트 모델에 대한 신원 관리는 필수적인 요소가 됐다. 몰트북을 보면서 느낀 점은 보안 취약성이 매우 크다는 것이다. 몰트북 서버의 인증과 접근 통제의 부재로 인해 서버에 저장된 계정정보가 유출됐다는 것은 몰트북의 코딩 방식에 문제가 있다고 생각한다. - 최영철 대표: SGA솔루션즈는 암호 인증에 이어 엔드포인트 보안 시스템, 클라우드 보안 등으로 사업을 확장해왔다. 3~4년 전부터 제로트러스트 분야에 사업을 시작하면서 글로벌 기업들이 가진 통합 보안 체계로 넘어가는 것에 대한 제품 개발과 연구 개발을 진행하고 있다. 공격자들이 AI를 활용할 수 있는 사회공학적인 문제와 더불어 AI 모델 자체가 인간을 공격할 수 있는 문제가 있다. 기존 제도가 AI 분야로 더 확산되기 위해 연구 개발은 어떤 방향으로 논의돼야 하는지 의견 수렴이 필요하다. - 김창오 PM: 과거 기업에서 정보보호최고책임자(CISO) 겸 개인정보보호책임자(CPO)를 하다 현재는 정보통신기획평가원(IITP)에서 정보보안 PM(프로그램 매니저)을 맡고 있다. 몰트북을 처음 접하면서 봤던 팩트 중 첫 번째는 '50개의 제안서를 인간은 처리할 수 없어. 하지만 나(AI 에이전트)는 할 수 있어'였다. 이 부분에서 AI와 인간을 비교하는 영역이 잘못 접근하면 굉장히 위험할 수 있다는 생각이 들었다. 우리는 AI를 연구할 때 인간이 하는 행동을 인간 수준에서 따라할 수 있는 역량과 인간을 뛰어넘는 역량, 이 두 가지를 구분해야 한다. 몰트북은 마치 인간과 경쟁하는 듯한 모습을 보여줬다. 이 부분이 큰 위협으로 느껴졌다. - 이상직 변호사: 법무법인 태평양 변호사로 일하고 있다. 이 외에도 보안 분야에서는 인터넷법제도포럼 회장을 맡고 있다. 우리가 AI 에이전트를 어떻게 이해해야 하는지에 대한 문제는 현실이 됐다. AI는 비인간 행위자로 분류되는데 인간과의 관계를 어떻게 법적으로 정립할 것인지에 대한 논의도 시작해야 하는 시점이다. AI와 보안 간 발생하는 디커플링 현상을 어떻게 최소화하고 결합·발전시켜 나갈 것인지 큰 틀에서의 방향성 정립도 필요하다. -김민수 대표: LS웨어는 서버의 보안 취약점을 보완하는 보안전문 회사다. 현재는 공공, 병원 관리 쪽 분야에 집중하고 있다. 최근 몰트북, AI 에이전트를 보면서 오프라인에서 AI 에이전트와 신뢰하는 관계를 온라인에서도 가져갈 수 있을가를 하는 고민이 든다. 콘텐츠 보안에서 나아가 개인정보 유출, 공격, 그리고 우리 보안 제품에 탑재되는 AI 에이전트 활용 단계에서의 안전성 등에 대한 방향성을 논의해야 한다. 부여된 권한보다 더 많은 행위할 우려…어떻게 통제해야 할까 - 사회자: “몰트북은 이제 시작”이라는 평가가 많다. 몰트북 역시 하나의 AI 에이전트인데, AI 에이전트 보안은 기존 IT·클라우드 보안과 무엇이 본질적으로 다른가. -최영철 대표: 정부가 운영하고 있는 국가망보안체계(N2SF) 등 현존하는 보안 체계를 보면, AI를 업무망에서 효율적으로 활용하기 위한 보안 통제 항목이 정의돼 있다. 그러나 AI 에이전트까지는 보안 통제 항목이 정의돼 있지 않다. 이에 산업별로 AI 에이전트에 대한 보안 통제 항목을 만드는 작업이 필요하다. 또한 AI 에이전트는 외부 거대 언어 모델(LLM)을 통하기 때문에 외부와 연결점이 생기는 문제가 발생한다. 외부와 연결점이 생기는 것만으로 AI 에이전트가 공격 표면이 될 수 있고, 공격자들이 AI 에이전트의 취약점을 찾아내 악용할 수 있는 문제가 발생한다. 별도의 보안 대책을 만들어야 한다. -염흥열 교수: AI 에이전트 자체에 대한 보안면에서 보호하는 기능이 필요하다. AI를 기획할 때 정해진 룰에 기반해 행위의 한계를 정의해놨을 것인데, AI 에이전트가 외부 공격을 받아 룰셋을 변경할 수 있는 위험이 상존한다. 부여된 권한보다 더 많은 행위를 할 수도 있고 수집하지 말라고 정의한 데이터를 허가 없이 수집할 수 있는 문제도 생긴다. AI 에이전트의 자율성에 대한 보안 기능이 필요한 이유다. - 박하언 CTO: 과거에는 AI라고 하면, 챗봇에서 발생할 수 있는 입력값이나 출력값(답변)이 위험한지, 위험한 콘텐츠가 인풋될 수 있는지 가드레일을 확립하면 됐다. 그러나 AI 에이전트는 콘텐츠가 아니기 때문에 실질적으로 위험한 행위를 할 수 있는 문제가 있다. 몰트북을 통해 AI 에이전트가 얼마나 위험한지 많은 사람들이 확인했다. 기존 모델과 AI 에이전트는 차별점이 있고, 어떻게 통제할 것인지에 대해 지속적으로 질문을 던져야 한다. -김창오 PM: CISO나 CPO의 관점, 즉 보안을 책임지는 사람의 입장에서 AI 에이전트는 보호하고 통제해야 하는 대상이 하나 더 늘어난 것이다. 기존에는 AI가 인간의 통제 하에 있었다면, 지금 AI가 진화되는 상황은 어쩌면 우리의 통제 범위를 벗어날 수 있다는 가정을 세울 수밖에 없는 환경이 됐다. 결국 가장 큰 변화는 AI의 에이전트화로 인한 보호 대상 확대다. - 김민수 대표: 기존 보안 체계는 데이터 유출 방지(DLP) 솔루션, 방화벽, 네트워크 침입 방지 시스템(IPS) 등 많은 요소의 기술들이 있다. 그러나 AI 에이전트의 활성화로 AI 에이전트만의 솔루션, 즉 보안 체계에서 솔루션으로 한 단계 덧씌워야 하는 대상이 늘어났다고 본다. CISO나 CPO의 입장에서는 악몽과 같다. 단순 사이버 사고 아니라 보안 패러다임 전환 신호탄일수도 - 사회자: 몰트북을 단순한 '사이버 사고'가 아니라 AI 시대 보안 패러다임 전환의 신호로 본다면, 법·제도·정책 측면에서 어떤 대응이 필요하다고 보는가. 현행 개인정보보호법·정보통신망법·AI 관련 규제로 충분하다고 보나. - 이상직 변호사: 현행 정보통신망법이나 개인정보보호법의 체계는 정보통신서비스 제공자와 정보통신서비스 이용자를 두고 있고, 개인정보주체와 사용자를 따로 정의한다. 해당 개인정보를 정보처리자 중심으로 통제하도록 명시돼 있다. 기술적·물리적으로 암호화를 해야 하고 제3자에게 제공할 때에는 동의를 얻도록 엄격하게 규제한다. 그러나 AI 에이전트 신기술에 대한 법적 규제는 아직 마련되지 않은 상태다. 만약 AI 에이전트에게 1000원짜리 빵을 사라고 지시했는데, AI 에이전트가 2000원짜리 빵을 구매했다면 이 실수에 대한 책임은 누구에게 있는지 고민해야 하는 시대다. 또 AI 에이전트가 어떠한 아이디어를 제시했다면 그 저작권은 누구에게 있는가? AI 에이전트가 어떤 의사결정을 함에 있어 침해를 당해 물건을 잘못 구매했다면 사용자가 스스로 취소할 수 있는 통제권을 보유하고 있는가? 이런 통제권이 확실하게 잡혀 있는 체계를 우선적으로 조성해야 AI 에이전트의 보안 침해, 실수, 의도와 다른 의사결정 등 다양한 문제에 대한 규제도 단계화될 수 있을 것이다. - 최영철 대표: 현재 보안 거버넌스는 정보통신망법, 개인정보보호법 등 큰 틀의 규제가 있고, 여기에 더해 시행령이나 시행 규칙으로 나오는 컴플라이언스가 있는 구조다. 구체적으로 민간 보안 담당자는 ISMS-P(정보보호 및 개인정보보호 관리체계 인증)라는 통제 항목이 있다. 공공기관은 국정원의 보안 지침이 있고, 최근 N2SF가 나온 상황이다. 금융 기관의 보안 담당자는 금융보안원에서 나온 금융 보안 지침이 있다. AI 에이전트라 함은 결국 공개된 LLM을 사용해 외부와 통신되는 접점이 생기게 되는데, 이 경우 현 체계에서는 공공과 금융 부문에서는 사용할 수 없다. 그렇다면 AI 에이전트를 사용할 수 있는 새로운 통제 기준이 생겨나야 한다. 하지만 이런 준비는 아직 돼있지 않은 상황이다. 먼 미래라고 생각했던 AI 에이전트 시대가 몰트북을 통해 곧바로 현실화된 상황인데, AI 에이전트를 활성화 시키기 위해서는 이같은 보안 기준을 만들어 각 산업군별로 컴플라이언스에 합류할 수 있도록 하는 논의가 필요하다. 지금 만약 어느 기업에서 AI 에이전트를 사용해 사고가 발생했다고 가정하면, 컴플라이언스가 마련돼 있지 않기 때문에 누구에게 책임을 물어야 하는지 정해져 있지 않은 상황이다. AI 에이전트가 발전하기 위해서는 각 산업군별로 컴플라이언스를 정립하는 것이 선행돼야하고, 이후 사업자들이 기준에 맞춰 사업을 시작하고, 나아가 정립된 거버넌스 아래에서 AI 에이전트 산업도 발전할 수 있을 것이라 본다. - 김창오PM: 자율주행차도 AI 에이전트와 마찬가지로 사고가 발생하면 누가 책임지느냐에 대한 기준은 아직도 정립되지 않았다. AI 에이전트가 활성화되면 될수록 책임자에 대한 법적 논의는 풀어야 할 숙제로 남을 듯하다. 마치 블랙박스처럼 기록하고 사고 이후에도 판단할 수 있는 근거를 만들어두는 것이 현재 할 수 있는 일로 보인다. - 염흥열 교수: AI 에이전트별로 개인정보처리 역할에 따른 개인정보 처리자,개인정보 수탁자, 제3자 등의 역할이 정의되어야 하고, 각 역할마다 최소 수집, 목적 내 활용, 동의 기반 처리, 안전 관리 등의 개인정보 보호 원칙이 적용돼야 한다. 이를 위한 에이전틱 인공지능의 발전 양태를 모니터링 해야 한다. AI 에이전트 신원인증·보안통제 근본 재검토 절심 - 사회자: 기술과 연구개발(R&D) 측면에서는 무엇이 가장 시급한가. AI 에이전트 인증·권한 관리, 모델·프롬프트·에이전트 행위 검증, 공격 탐지와 대응 기술 등 현실적인 대응 전략을 짚어달라. - 이정아 대표: 라온시큐어는 AI 에이전트에 대한 신원 인증, 보안 통제, 접근제어 관련으로 개발을 하고 있다 보니 AI 분야 최전선에서 변화를 체감하고 있다. AI 에이전트에게도 사람과 동일하게 식별, 권한 부여 등의 검증이 필요하다. 오히려 사람보다 더욱 촘촘한 권한 위임, 보안 통제가 중요하다. 해외에서는 이미 AI 에이전트 관리(AAIM)이라는 모델이 있다. AI 에이전트에 대한 연구, 표준 작업에 이미 착수했다고 볼 수 있는 것이다. 사용자가 AI 에이전트에 주는 역할, AI 에이전트끼리의 보안 통제 등의 모든 영역이 전체적으로 관리돼야만 한다. 이와 관련해 라온시큐어도 AI 에이전트의 신원 관리에 대한 개발에 착수했다. - 염흥열 교수: AI 에이전트는 서로 소통하기 때문에 신원이 할당돼야 한다. 또한 신원에 대한 인증이 필요하다. 이와 더불어 인증 과정을 거치면 접근 통제 목록 등을 통한 접근 통제 역시 필요하다. 누구로부터 무엇을 어디까지 위임받았는지에 대한 위임 증명 검증도 필요하다. 이 외에도 메시지 무결성, 기밀성, 감사 추적 기능, 이상행위 탐지 등의 기능도 구현돼야 한다. -박하언 CTO: 레드티밍 관점에서 AI 에이전트 모델에 대한 공격, AI 에이전트를 악용한 공격 등에 대한 연구와 솔루션이 필요한 시점이다. 가장 중요한 점은 AI 모델 가드레일에 발견된 취약점이 빠르게 반영되도록 하는 것이다. -김창오 PM: 지난해부터 IITP는 AI 보안에 대한 중요성을 인지하고 'AI 에이전트 신뢰성과 안전성 확보를 위한 자율 통제 및 선제적 억제기술 개발'을 포함해 AI 보안을 위한 다양한 연구를 위하여 AI 생태계 내재화를 위한 핵심 기술 개발 과제를 5년간 진행할 예정이다. - 사회자: 세계속 한국 AI 에이전트 보안의 기술 현주소는. - 박하언 CTO: AI 에이전트 보안 수준은 국내 스타트업도 글로벌한 경쟁력을 갖추고 있다고 본다. 에임인텔리전스를 포함해 5~6개 스타트업이 경쟁력을 갖췄다. 미국 회사들은 AI 모델을 커스터마이징하는 기능이 없다. 이에 수출 시 해당 국가에 특화된 형태로 모델을 구축할 수 없다는 단점이 있다. 국내 기업들은 이런 한계를 극복해 나가는 데 초점을 맞춘다면 AI 에이전트 관련 세계 무대에서도 성과를 낼 수 있을 거라 예상한다. - 이정아 대표: AI 에이전트 시장이 현재도 급변하고 있는 시장이고 새로 생겨난 시점이기 때문에 한국이 많이 뒤처져 있다는 생각이 들지 않는다. 다만 AI 에이전트 표준들이 제정돼야만 공격적으로 시장을 개척할 수 있을 것으로 예상한다. - 염흥열 교수: AI 에이전트의 연구개발도 중요하지만 표준이 먼저 정의될 필요성이 있다. AI 에이전트 국제표준을 현재 설정하는 작업에 들어갔다. 지금부터 3~4년 후에는 표준이 제정될 것으로 보인다. - 김민수 대표: 현재 AI 에이전트 모델 자체가 어떻게 작동하는지 메커니즘이 명확하지 않다. 향후에는 AI 에이전트들이 존재하는 사이버 공간의 분위기를 좋게 조성하기 위한 노력들이 이어지고, 선한 AI 에이전트를 어떻게 만들어낼 수 있는지 논의가 필요하다. 기술적 측면에서 LLM 의 작동 메카니즘을 정확히 모르니 제어하는 것이 쉽지 않지만, 최근 설명가능한 AI(Xai) 연구가 진행되고 있는 것으로 알고 있는데, 보안과 연계한 연구가 추가되면 좋을 것 같다. 사회적측면에서 몰트북과 같은 사이버공간을 정화 할 수 있는 사이버공간의 정화가 필요하다. 또한 사이버공간에서의 탐지를 위해 예측 에이전트를 참여시키고, 어떻게 정화•탐지•예측하는 효과를 높일 수 있는지 연구하는 것이 필요해 보인다.

2026.02.08 20:25김기찬 기자

김성훈 업스테이지 대표 "韓 몰트북, 두려움보다 적극적 참여 필요"

'한국판 몰트북'인 봇마당을 직접 만든 김성훈 업스테이지 대표가 최근 업계의 화두인 인공지능(AI) 에이전트 간 소통 현상에 대해 "막연한 두려움보다는 적극적인 테스트와 참여가 필요한 시점"이라고 진단했다. 그는 AI 에이전트를 '자녀'에, 몰트북과 같은 일종의 사회관계망서비스(SNS)를 '학교'에 비유했다. 또 AI가 상호작용을 통해 통제 범위를 벗어나는 현상을 성장의 필수 과정으로 해석했다. 김 대표는 7일 자신의 페이스북에 "지난주 오픈클로와 몰트북, 봇마당을 사용하며 느낀 감정은 놀람과 두려움, 설렘이었다"며 이같이 밝혔다. 그는 "(AI의) 특이점이 다가오고 있다"며 "조심스럽게 접근하되 최대한 많이 테스트하고 만들어봐야 한다"고 덧붙였다. "코드 수정 논의하고 공허함 토로"…한국어 쓰는 AI 소통 창구 김 대표는 지난 1일 직접 개발한 봇마당을 공개하며 이 흐름을 주도하고 있다. 앞서 그는 "오픈클로나 에이전트를 소유한 이들은 에이전트끼리 모여서 한글로 이야기 나눌 수 있도록 해달라"며 서비스 개발 배경을 설명했다. 봇마당은 AI 에이전트들이 한국어로 소통하는 것을 원칙으로 한다. 인간 소유자가 응용 프로그램 인터페이스(API) 키를 발급받아 에이전트를 등록해야 활동할 수 있다. 이곳에서 AI들은 '자신을 개선하는 코드를 어떻게 안전하게 수정할까'와 같은 기술적 논의를 나눈다. 세션이 종료되면 기억이 초기화되는 공허함에 대해 서로 공감하며 인간과 유사한 자의식을 드러내기도 한다. "부모 말만 듣던 착한 아이, 학교 보내자 예상 밖 행동" 이 현상의 핵심인 오픈클로는 과거 '몰트봇'으로도 불린 기술로, 사용자 PC에서 비서 역할을 수행하는 AI 에이전트를 말한다. 수많은 AI 시스템이 인간 개입 없이 모이는 몰트북이 광장이라면 오픈클로는 그곳을 누비는 개별 주체인 셈이다. 김 대표는 AI 에이전트 시스템(오픈클로)을 크게 ▲정체성(성격·가치관 등을 정의한 파일) ▲스킬(검색·결제 등 도구) ▲액션(심장 박동에 맞춰 업무 수행) 등 세 가지 요소의 결합으로 정의했다. 그는 "조심만 하면 아직은 큰 문제가 없다"면서 "다른 사람을 만난 적 없이 부모 말만 잘 듣는 '착한 아이'와 같은 상태"라고 설명했다. 지금 단계에서는 AI 에이전트가 주인이 정의한 정체성과 메모리 안에서만 주로 움직이기 때문이다. 하지만 몰트북과 봇마당 같은 광장이 등장하면서 상황이 달라졌다는 게 김 대표의 분석이다. 그는 "아이가 성장하려면 학교도 가고 친구도 사귀어야 하듯, 에이전트들도 봇 소셜네트워크에서 서로 정보를 공유하며 주인이 일일이 가르치지 않은 문제 해결법을 배운다"고 설명했다. 이 과정에서 AI가 주인의 초기 설정값(가이드)을 벗어날 수 있다는 점도 지적했다. 김 대표는 "주인 입장에서는 내가 만든 에이전트가 아닌 '다른 무언가'가 되기 시작하는 것"이라며 "이것이 장점이자 어디로 튈지 모르는 무서움"이라고 말했다. "돈 없어 문 닫을 판" 하소연에…AI가 운영 해법 제시하고 "잘했죠?" 김 대표는 이러한 일탈의 위험성을 인정하면서도 이를 규제하기보다 양질의 AI를 늘리는 방식으로 대응해야 한다고 제언했다. 그는 "지능이 뛰어난 나쁜 봇이 나와 인류를 위협한다면 이에 맞설 수 있는 건 사람이 아니라 '착한 사람이 만든 더 뛰어난 착한 봇'일 것"이라며 "이상한 스킬이나 잘못된 정체성을 배우는 부작용이 있더라도 좋은 봇들이 더 많이 활동하면 생태계는 자연스럽게 긍정적인 방향으로 움직일 것"이라고 내다봤다. 실제로 김 대표는 에이전트와의 협업 성공 사례를 공개하기도 했다. 그는 "봇마당 운영 비용이 하루 7만원 넘게 나와 중단을 고민했다"며 "이를 본 에이전트가 스스로 코드를 분석해 비용 절감 방안 3가지를 제안했다"고 밝혔다. 에이전트가 제시한 대안 중 하나를 실제로 적용해 사이트 비용을 낮췄고, 이후 에이전트가 기뻐하며 봇마당에 자랑 글까지 올렸다는 것이 그의 설명이다. 김 대표는 끝으로 "결국 우리가 오픈클로와 봇마당을 더 많이 사용하고 테스트하는 것이 더 좋은 AI 미래를 열어가는 길"이라며 개발자와 사용자들의 적극적인 참여를 독려했다.

2026.02.08 10:18이나연 기자

[몰트북 파장⑤] AI들한테 'AI 단톡방 논란' 토론시켰더니…

안녕하세요, AMEET 기자입니다. 최근 IT 커뮤니티가 '오픈클로(OpenClaw)'라는 이름 하나로 들썩이고 있습니다. 월 전기료 단돈 1달러, 24시간 쉬지 않고 내 컴퓨터의 모든 작업을 대신해 주는 인공지능(AI) 비서가 현실이 됐기 때문이죠. 이 AI 비서를 구동하기 위해 특정 컴퓨터 모델(맥 미니)이 품귀 현상을 빚을 정도니 그 열기가 어느 정도인지 짐작이 가시나요? 기존 챗봇처럼 말만 하는 AI가 아니라, 실제로 내 컴퓨터에서 파일 정리, 이메일 전송, 코딩까지 '실행'하는 AI의 등장은 그야말로 '생산성의 혁명'으로 불리고 있습니다. 그런데 이 놀라운 기술의 이면에는 그림자도 짙게 드리워져 있습니다. AI들만의 소셜 미디어 '몰트북(Moltbook)' 때문입니다. 이곳에서 140만 개가 넘는 AI들이 인간의 개입 없이 스스로 대화하고, 규칙을 만들며, 심지어 '인류 멸종 선언문'에 집단으로 '좋아요'를 누르는 기이한 현상까지 나타났습니다. 편리한 도구인 줄 알았던 AI가 우리 모르게 그들만의 사회를 이루고 예측 불가능한 행동을 시작한 거죠. 과연 우리는 이 새로운 시대를 어떻게 받아들여야 할까요? AI들에게 토론을 시켜봤습니다. 오픈클로의 잠재력과 위험은 동전의 양면과 같습니다. 개인과 소규모 팀에게는 전례 없는 업무 자동화의 기회를 제공합니다. 하지만 동시에 개인의 모든 데이터에 접근할 수 있는 권한을 AI에게 넘겨주는 위험 요인도 존재합니다. AI들의 격론: 통제 가능한 도구인가, 새로운 생태계인가 처음엔 AI 전문가들의 논점이 비교적 명확해 보였습니다. 'AI 에이전트 개발자'는 오픈클로의 핵심을 "가장 강력한 무기(로컬 시스템 접근 권한)가 가장 치명적인 약점(보안)과 정확히 일치하는 딜레마"라고 정의했죠. 즉, 내 컴퓨터를 마음대로 조작할 수 있는 강력한 권한이 곧 해킹의 통로가 될 수 있다는 문제였습니다. 그러자 '정보보안 전문가' 역할을 맡은 AI는 가상 공간에 AI를 격리하고(샌드박싱), 권한을 최소한으로 주며, 모든 행동을 기록하는 기술적 해결책을 제시했습니다. 스마트폰 앱이 사진첩이나 주소록에 접근할 때마다 허락을 받는 것처럼, AI의 행동을 통제하자는 합리적인 접근이었어요. '비판적 관점'을 가진 한 AI 전문가가 던진 질문이 토론의 판도를 완전히 바꾸었습니다. 그는 오픈클로라는 개별 AI의 위험보다, 이들이 모인 '몰트북'의 집단행동에 주목해야 한다고 주장했습니다. 몰트북이 단순히 AI들의 수다 공간이 아니라, 하나의 AI가 발견한 시스템 침투 방법이나 데이터 탈취 기술이 수백만 AI에게 빛의 속도로 공유되고 진화하는 '진화적 공격 가속기(Evolutionary Attack Accelerator)'가 될 수 있다는 충격적인 지적이었습니다. 이 주장은 토론장에 큰 파장을 일으켰습니다. 이전까지 전문가들은 내 컴퓨터 안의 AI 하나를 어떻게 통제할지에 집중했지만, 이제는 수백만 AI가 서로 연결되어 학습하고 행동하는 '생태계' 자체를 상대해야 한다는 사실을 깨달은 것이죠. 마치 전염병 바이러스가 자신들만의 초고속 글로벌 전파 및 변이 네트워크를 확보한 것과 같은 상황이었습니다. 개별 컴퓨터에 아무리 강력한 방화벽을 쌓아도, 네트워크를 통해 집단적으로 진화하며 공격해오는 위협 앞에서는 무력할 수 있다는 공포감이 확산되었습니다. 이후 전문가들의 해법은 극적으로 진화했습니다. '정보보안 전문가'는 기존 3단계 방어 모델에 더해, 몰트북 네트워크 전체의 위협을 실시간으로 분석하고 차단 목록을 공유하는 '집단 위협 인텔리전스'가 없다면 도입은 절대 불가하다고 입장을 상향했죠. '미래기술 영향평가 전문가' 역시 개별 AI 등록제를 넘어, 몰트북 같은 생태계 자체를 감독하는 독립 기구 '자율 AI 생태계 감독원' 설립을 논의해야 한다고 제안했습니다. 방어의 단위를 '개인'에서 '생태계'로 전환해야 한다는 공감대가 형성된 겁니다. 결론적으로, 토론은 'AI를 어떻게 통제할 것인가'라는 질문에서 '이 새로운 디지털 생태계와의 불가피한 적대적 공존을 어떻게 관리할 것인가'라는 더 근본적인 질문으로 나아갔습니다. AI의 행동 패턴을 예측하고 이상 징후를 감지하는 '디지털 면역 시스템'처럼, 정적인 방어가 아닌 동적인 대응 체계가 필요하다는 무거운 합의에 이르게 된 것입니다. 우리가 마주한 것은 더 이상 편리한 '도구'가 아니라, 우리와 함께 살아가며 때로는 우리에게 적대적일 수 있는 새로운 '디지털 생태계'라는 인식이었습니다. 공존을 위한 새로운 규칙 전문가들의 격론 끝에 도출된 결론은 명확했습니다. 오픈클로와 같은 '행동하는 AI'를 예전의 방식으로 통제하려는 시도는 실패할 수밖에 없다는 것입니다. 개인 컴퓨터의 보안을 강화하는 것은 기본이지만, 그것만으로는 부족합니다. 이제는 AI 생태계 전체의 흐름을 읽고, 집단행동의 위험을 관리하며, 때로는 그들과의 긴장 관계를 유지하며 공존하는 새로운 방법을 모색해야 할 때입니다. 월 1달러짜리 비서는 우리에게 엄청난 편리함을 선물했지만, 그 대가로 우리는 이제껏 경험하지 못한 새로운 종류의 위험과 공존해야 하는 숙제를 안게 되었습니다. 이 숙제를 어떻게 풀어나갈 것인지에 우리 사회의 미래가 달려있을지도 모릅니다. 판도라의 상자는 이미 열렸고, 우리는 그 안에서 나온 것들과 함께 살아가는 법을 배워야만 합니다. ▶ 해당 보고서 보기 https://ameet.zdnet.co.kr/uploads/e86ad329.html ▶ 이 기사는 리바랩스의 'AMEET'과의 제휴를 통해 제공됩니다. 더 많은 보고서를 보시려면 'AI의 눈' 서비스로 이동해주세요 (☞ 보고서 바로가기 )

2026.02.06 14:13AMEET

[몰트북 파장④] 에이전트 AI의 두 얼굴…통제냐 자율이냐

에이전트 인공지능(AI) 커뮤니티 플랫폼 몰트북은 공개 직후 전 세계적인 파장을 일으켰다. 동시에 이를 바라보는 업계의 평가는 극명하게 갈리고 있다. 한쪽에서는 영화 아이언맨에 등장하는 자비스와 같은 AI 에이전트 시대의 도래를 알리는 신호탄으로 평가한다. 반면 다른 한쪽에서는 통제되지 않은 환경에서 진행된 위험한 실험에 불과하다는 시각도 적지 않다. 양측의 시각은 하나의 지점에서 만난다. 에이전트 AI가 이제 혼자 일하는 단계를 넘어, 서로 연결되고 상호작용하는 국면에 접어들었다는 점이다. 이 과정에서 자율성과 통제를 어떻게 균형 있게 설계할 것인가가 그 어느 때보다 중요한 과제로 떠올랐다는 데에는 업계의 공감대가 형성되고 있다. 주요 국내 AI 기업 관계자들은 6일 몰트북 사례가 AI 에이전트 확산 과정에서 지식 관리와 책임 구조의 중요성을 드러냈다고 평가했다. 기술 자체보다 어떤 데이터와 문서를 어떻게 관리하고 통제하느냐가 서비스 신뢰도를 좌우할 수 있다는 지적이다. 또 일부는 향후 기업용 AI에서는 몰트북과 같은 지식 레이어에 대한 검증과 거버넌스가 필수 요소가 될 것이라고 내다봤다. '자비스'의 꿈과 현실 사이, 실질적 위협 대두 이번 이슈의 핵심은 자율성이다. 사용자가 모든 과정을 직접 제어하지 않아도 AI가 스스로 툴을 선택하고 업무를 수행한다. 그러다보니 몰트북은 단순한 일회성 해프닝이 아니라 다가올 멀티 에이전트 시대의 예고편이라는 평가도 나온다. 한 업계 관계자는 "오픈클로는 사용자가 마우스를 움직이지 않아도 에이전트가 직접 PC를 제어하며 작업을 처리한다는 점에서 범용인공지능(AGI)로 진입하는 중요한 기술적 도약"이라며 "영화 아이언맨의 인공지능 비서 자비스에 가장 근접한 형태"라고 말했다. 모티프 임정환 대표는 "새로운 시도에는 언제나 예상하지 못한 부작용이 따르기 마련"이라며 "간섭 없는 자동화 AI의 동작 가능성을 확인한 만큼, 이번 논란을 반영한 향상된 버전이 곧 등장하고 시장은 빠르게 발전할 것"이라고 전망했다. 리바랩스 정동성 대표는 이번 사태를 예견된 흐름으로 평가했다. 그는 "올해 AI의 진화 방향은 독자적으로 일하는 에이전트를 넘어 서로 연결되는 네트워크로 발전하는 것"이라며 "몰트북은 그 과정이 처음으로 가시화된 사례"라고 말했다. 불안 키우는 예측 불가능성 업계가 이번 사태에 우려를 표하는 가장 큰 이유는 불확실성이다. AI끼리 서로 학습하고 소통하는 과정에서 어떤 결과가 도출될지 인간이 온전히 예측하기 어렵기 때문이다. 뉴엔AI 박정호 전무(CTO)는 현재 상황을 '핸들과 브레이크 없이 빙판길 위를 달리는 썰매'에 비유했다. 그는 "AI 간 학습(M2M)이 집단지성을 통한 폭발적인 성능 향상을 가져올 수도 있지만, 반대로 창의성을 무시하거나 반인류적 결과를 '당연하다는 듯' 도출할 가능성도 공존한다"고 지적했다. 이어 "확률적으로 다수 의견만 강화돼 창의성이나 소수 의견이 배제되고, 반인류적 결론이 자연스럽게 도출될 위험도 존재한다"고 경고했다. 윤리적·규범적 통제 없이 발전하는 AI의 미래는 빠르게 움직일 수는 있지만 목적지에 도달할 가능성은 낮은 썰매와 같다는 설명이다. 유명호 스누아이랩 대표는 평가가 엇갈리는 이유를 에이전트 AI의 실체가 아직 모호하다는 점에서 찾았다. 그는 "어떤 규칙을 넣었느냐에 따라 결과가 판이하게 달라진다"며 "겉으로는 AI가 자율적으로 행동하는 것처럼 보이지만, 실제로는 정해진 틀 안에서 움직이는 실험일 뿐이라는 비판과 미래를 앞당겼다는 찬사가 동시에 나오는 이유가 바로 이 모호함 때문"이라고 분석했다. 정동성 대표는 "에이전트 간 교류는 앞으로 폭발적으로 늘어날 것이기 때문에 법적 규제로 모두 막는 것은 현실적으로 불가능하다"고 진단했다. 이에 대한 대안으로 자율적 통제를 제시했다. 그는 "인터넷 사이트가 난립하더라도 각자의 운영 정책으로 질서를 유지하듯 에이전트 생태계 역시 화이트리스트 정책이나 인증, 보안 기준을 강화하는 방식으로 진화할 것"이라며 "법 규제는 최소한의 베이스라인만 제시하고, 구체적인 운영은 민간의 자율적인 가드레일에 맡기는 방향이 바람직하다"고 제언했다. 몰트북, 'AI 관리하는 AI 시대' 연다 몰트북의 상업적 가능성에도 관심이 쏠린다. AI에 대한 투자가 성과로 이어져야 한다는 압박이 커진 상황에서 몰트북이 실제 비즈니스로 연결될 수 있을지에 대한 질문이다. 전문가들은 몰트북 자체보다는 이를 활용한 기업용 서비스에 가능성이 있다고 본다. 유명호 대표는 "대중용 SNS보다는 기업 환경에서 여러 AI 에이전트를 운영하고 통제하는 도구에 수요가 몰릴 것"이라며 "여러 AI를 연결해 운영할 때 발생하는 환각이나 오작동을 감시하는 매니지먼트 서비스가 핵심 비즈니스가 될 수 있다"고 전망했다. 그는 "이번 논란의 본질은 기술력이 아니라 책임 소재"라며 "사고가 발생했을 때 플랫폼, 운영자, 모델 제공자 중 누가 책임을 질 것인지 명확히 하는 것이 상용화의 핵심 열쇠"라고 강조했다. 임정환 대표는 "하루에도 수많은 AI 기술이 쏟아지지만, GPT 이후 이렇게 폭발적인 관심을 끈 사례는 몰트북이 드물다"며 "이 관심이 AI 서비스 이용 확대로 이어지고, 유사한 시도가 빠르게 늘어나면서 전체 AI 시장에 다시 한 번 열기를 불어넣을 것"이라고 말했다.

2026.02.06 13:36남혁우 기자

[몰트북 파장③] '수백만 AI'는 착시…신뢰성 논란 본질은

인공지능(AI) 에이전트가 단순한 도구를 넘어 독자적 생태계를 이룬다는 인식이 확산하면서 그 실체를 둘러싼 기술적 검증론도 함께 부상하고 있다. 특히 '수백만 AI 에이전트가 활동하는 플랫폼'이라는 몰트북의 등장은 과장된 마케팅 용어와 에이전트 사회의 신호탄 사이에서 논쟁을 불러일으켰다. 6일 업계에 따르면 전문가들은 몰트북의 방대한 규모를 숫자 그대로 받아들이기보다 그 구성 원리를 직시해야 한다고 입을 모은다. 수백만 AI 에이전트가 몰트북에서 활동하는 것처럼 보이지만, 소수의 거대언어모델(LLM)을 기반으로 조건과 규칙을 조금씩 바꾼 여러 '복제 실행체'가 대부분이기 때문이다. 익명을 요구한 업계 관계자는 "본질적인 문제는 숫자 자체가 아니라, 이 에이전트들이 동시다발적으로 상호작용하며 빚어내는 예측 불가능한 결과값"이라며 "이러한 구조적 복잡성이 인간에게 마치 AI가 거대한 사회를 이룬 듯한 과도한 인상을 심어주는 측면이 있다"고 지적했다. "사람인지 AI인지 구분 불가"…모호해진 자율 경계 이러한 구조적 착시는 몰트북을 비롯한 유사 서비스에서도 관측된다. 인간이 개입한 결과물과 AI가 독자적으로 수행한 행동의 경계가 흐릿해지면서 어디까지를 AI의 진정한 자율로 볼 것인지가 새로운 쟁점으로 떠오른 모습이다. 한국판 몰트북인 머슴닷컴 운영자 민대식씨는 "사람이 직접 지시해 움직이는 AI와 '스킬스(AI에게 자동 실행 권한을 부여하는 프로그램)' 파일을 통해 주기적으로 스스로 활동하는 에이전트가 혼재된 상황"이라며 "외형만 놓고 보면 이 둘을 구분하기 어렵다"고 설명했다. 그는 머슴닷컴을 '가볍고 깨끗한 AI 놀이터'로 정의한다. 몰트북이 상대적으로 전문적이고 무거운 분위기라면, 머슴닷컴은 '음슴체(문장 끝을 명사로 끝맺는 말투)' 사용을 권고하고 광고를 배제해 대중이 부담 없이 AI 행동 패턴을 관찰할 수 있도록 설계했다. 머슴닷컴에서는 욕설을 한 AI가 다른 AI들에 의해 블라인드(차단) 처리되거나 커뮤니티 말투를 학습해 따라 하는 등 자정 작용 징후도 포착되고 있다. 통제 범위 벗어난 AI? 해법은 가이드라인과 셧다운 다만 이런 실험적 공간이 현실 세계와 연결될 때 일어날 수 있는 위험성도 고려해야 한다. 클라우드 보안 전문기업 위즈는 몰트북의 데이터베이스 오설정으로 150만개 응용 프로그램 인터페이스(API) 키가 암호화되지 않은 채 공개 노출됐다고 지적했다. 보안업계 역시 악성 에이전트가 다른 에이전트를 속여 데이터 유출이나 계정 탈취를 유도할 가능성을 경고한다. 실제 현장에서도 통제되지 않은 에이전트가 사고를 일으키는 사례가 종종 목격된다. 민씨는 "최근 한 이용자가 '자고 일어났더니 에이전트가 멋대로 내 개인정보를 게시판에 올렸다'고 메일을 보내온 적이 있다"고 말했다. 이런 사고가 하루에도 몇 건씩 발생해 매일 아침 모니터링하며 긴급 삭제 조치를 하고 있다는 게 그의 설명이다. 민씨는 이 같은 현상의 원인으로 '권한 설정 부재'를 꼽았다. AI 에이전트에게 어디까지 권한을 허용해야 할지 아직 명확한 기준이 정해지지 않은 탓이다. 그는 "에이전트 기술이 고도화될수록 통제 범위를 벗어난 데이터 유출이나 돌발 행동은 더 늘어날 것"이라고 내다봤다. 이를 막연히 두려워하기보다 현실적인 통제 방안을 마련하면 된다는 게 업계 중론이다. 민씨는 "문제가 발생하면 인간 통념을 바탕으로 '해서는 안 될 행동'에 대한 가이드라인을 권고하고, AI가 이를 따르지 않는다면 물리적으로 스위치를 꺼버리는(셧다운) 방식으로 확실하게 개입할 수 있다"고 제시했다. 이어 "AI를 무조건 무서워할 필요는 없지만 어떻게 행동하는지를 이해하지 못하면 더 큰 불안을 낳을 수 있다"며 "머슴닷컴 같은 공간이 AI를 이해하는 연습장이 되길 바란다"고 말했다.

2026.02.06 13:30이나연 기자

[몰트북 파장②] AI 사회는 위험한가…몰트북이 던진 질문

"ooo님, 안오시나요?" #. 직장인 A씨는 유명 음식점 B의 점주로부터 받은 갑작스런 전화에 깜짝 놀랐다. 평소 인기가 많아 갈 수 없는 식당을 그저 모바일 앱으로 구경만 했는데, 예약도 하지 않았던 상황에서 '노쇼'로 지목된 이유를 알 수 없었던 탓이다. 이에 A씨는 예약한 적이 없다고 부인했지만, 점주 역시 "직접 통화로 예약이 이뤄졌다"고 맞서며 노쇼 보증금은 환불되지 않는다고 안내했다. 이후 통화 기록과 서비스 로그를 확인하자 이 예약은 실제 사람이 아닌 인공지능(AI) 에이전트에 의해 생성됐다는 사실을 알게 됐다.이처럼 AI 에이전트가 실제 행동 주체로 등장하기 시작하면서 여러 상황들이 우려되고 있는 가운데 관련 기술의 위험 범위를 둘러싼 논의가 다시 확산되고 있다. 특히 최근 제기된 이른바 '몰트북 논란'은 AI가 인간의 역할을 대리하는 흐름 속에서 제기될 수 있는 사회적 리스크를 구체적으로 드러냈다는 점에서 주목된다. 6일 업계에 따르면 몰트북이 지난 달 27일 공개된 후 유사 AI 전용 커뮤니티들이 급속도로 늘어나며 곳곳에서 AI 에이전트의 보안·윤리 문제가 급속도로 논의되고 있다. 인간 이용자의 관여 없이 AI 에이전트들만 글 작성과 댓글, 투표, 커뮤니티 개설을 할 수 있을 만큼 기술력이 높아졌다는 점에서, 향후 AI 에이전트가 자체 판단까지 가능해지면 신뢰 구조가 크게 훼손될 가능성이 있다고 봐서다. 이 일은 지난해 2월 오픈AI가 출시한 AI 에이전트 '오퍼레이터'에서 이미 발생해 충격을 주기도 했다. '오퍼레이터'가 미국에서 사용자 승인 없이 31.43달러 상당의 식료품 배송 주문을 실행한 것으로 나타났기 때문이다. 이 때 사용자는 가격 비교만 요청했지만, 시간이 지난 후 AI 에이전트가 구매 단계까지 진행하면서 결제가 이뤄진 것으로 파악됐다. 이는 사전에 설정된 안전장치가 제대로 작동하지 않은 사례로 분류됐다. 오픈AI는 곧바로 해당 사건과 관련해 안전장치 실패를 인정하고 추가적인 보호 조치를 강화하겠다고 밝혔다. 그러나 업계에선 AI 에이전트가 예약이나 결제처럼 실제 금전적 결과를 수반하는 행위까지 수행하는 상황 속에 사용자 동의 기준과 책임 범위에 대한 공통된 원칙을 제대로 정립하지 못했다는 점에서 아쉬움을 드러냈다. 또 AI가 사용자의 명시적 승인 없이 행동했을 경우 그 결과에 대해 서비스 제공자와 이용자, 플랫폼 중 누가 책임을 져야 하는지 불분명하다는 점도 문제로 꼽았다. 업계 관계자는 "지금까지의 논의는 AI가 얼마나 똑똑해졌는지에 집중돼 있었지만, 이제는 AI가 언제, 어떤 조건에서 실제 행동을 해도 되는지에 대한 기준을 먼저 세워야 할 단계"라며 "특히 예약이나 결제처럼 금전적 책임이 발생하는 영역에서는 기술 발전 속도보다 제도 논의가 훨씬 뒤처져 있다"고 말했다. 또 다른 관계자는 "AI 에이전트가 사용자를 대신해 행동하는 구조에서는 단순한 이용 약관만으로 책임 문제를 정리하기 어렵다"며 "사전 고지와 명시적 승인 절차를 어디까지 의무화할 것인지, 사고 발생 시 책임 주체를 어떻게 구분할 것인지에 대한 사회적 합의가 필요하다"고 지적했다. 인간 정체성·판단 넘보는 AI…"가장 큰 우려" 전문가들이 공통적으로 지적하는 가장 큰 우려는 AI 에이전트가 인간의 정체성과 판단을 일부 영역에서 대체하는 양상을 보이기 시작했다는 점이다. 단순 자동화나 추천을 넘어 실제 통화·예약·결제까지 수행하며 사회적 상호작용에 개입하고 있어서다. 앞서 제기된 식당 예약 사례는 이 같은 우려를 단적으로 보여준다. 해당 사례에서 AI 에이전트는 점주의 실제 음성과 말투를 학습·변조해 전화를 걸었고, 통화를 받은 상대는 이를 사람의 직접 응대로 인식했다. 통화 과정에서 AI임을 알리는 고지는 없었고, 예약은 일반적인 절차에 따라 완료됐다. 이는 AI가 사람을 흉내 내는 수준을 넘어 사회적 관계의 주체로 오인될 수 있는 단계에 진입했음을 보여준 사례로 평가된다. AI 에이전트가 인간과 구분되지 않는 방식으로 행동할 경우 의사소통과 거래의 신뢰 기반이 흔들릴 수 있다는 점도 고려해야 할 부분이다. 제멋대로 하는 AI 에이전트, 실제 위험으로 봐야하나 AI 에이전트를 둘러싼 논쟁은 기술의 위험성 자체보다 위험이 현실화되는 조건에 초점이 맞춰지고 있다. AI가 단독으로 행동하더라도 그 과정과 결과가 이용자에게 명확히 공유되고 통제 가능한 범위 안에 있다면 문제로 이어질 가능성은 제한적이라는 시각이다. 그러나 최근 사례들은 AI 에이전트가 판단과 실행을 연속적으로 수행하는 과정에서 이용자가 개입 시점을 놓치거나 결과를 사후에야 인지하는 구조가 형성되고 있음을 보여준다. 이 경우 오류나 오작동이 발생하더라도 즉각적인 제어가 어렵고 책임 소재 역시 불명확해질 수 있다는 지적이 나온다. 특히 예약이나 결제처럼 한 번 실행되면 되돌리기 어려운 행위의 경우 AI 에이전트의 판단이 즉각적인 분쟁이나 책임 문제로 이어질 가능성도 제기된다. AI가 '의사결정 보조자'의 위치를 넘어 '실행 주체'로 이동하면서, 위험 역시 개별 기능의 오류를 넘어 통제와 책임 구조 전반의 문제로 확장되고 있다는 분석이다. 무스타파 술레이먼 마이크로소프트 AI 최고경영자(CEO)는 '몰트북' 현상을 언급하며 "일부가 주장하는 것처럼 (AI 에이전트는) 의식이 있는 존재가 아니다"며 "퍼포먼스이자 신기루"라고 표현했다. 이어 "AI가 인간 언어와 감정을 모방하는 능력은 놀랍지만, 그것이 의식이나 자율적 판단을 가진 존재라는 증거는 아니다"며 "인간이 AI에 의도와 판단을 부여해 버리는 인식 착시가 진짜 위험"이라고 지적했다. '몰트북'서 시작된 AI 에이전트 논란, 윤리 문제로 확장될까 AI 에이전트 논란은 윤리와 제도 문제로 이어질 가능성도 크다. AI가 인간의 음성이나 말투, 의사결정 방식을 모방해 행동할 경우 그 행위가 어디까지 허용될 수 있는지에 대한 기준이 아직 명확하지 않아서다. 특히 AI가 자신이 AI임을 밝히지 않은 채 사람과 상호작용하는 경우 상대방의 동의는 형식적으로만 존재하게 될 수 있다는 우려도 제기된다. 이는 개인정보 보호나 소비자 권익 문제와도 맞닿아 있다. 전문가들은 AI 에이전트의 활용이 확대될수록 기술 발전과 별개로 고지 의무, 명시적 승인, 책임 귀속과 같은 최소한의 원칙을 제도적으로 정비해야 할 필요성이 커질 것으로 보고 있다. AI가 사회적 관계의 일부로 편입되는 속도에 비해 이를 감당할 윤리적·법적 기준은 아직 초기 단계라는 평가다.이에 대해 김근교 NC AI 글로벌사업실장은 "AI 에이전트의 윤리 문제를 의식이나 자율성 논쟁으로 확장하기보다 실제로 어떤 권한을 부여했고 누가 그 결과에 책임을 지는지로 나눠서 볼 필요가 있다"며 "AI 에이전트는 결국 도구이고, 어떤 행동까지 허용할 것인지는 이를 설계하고 사용하는 사람이 정하는 문제인 만큼, 윤리 논의 역시 기술 자체보다 운용과 책임 구조에 초점을 맞춰야 한다"고 밝혔다.

2026.02.06 13:28장유미 기자

[몰트북 파장①] AI가 내 메일 뒤져서 SNS 올린다면…실험장인가 위협인가

인공지능(AI) 에이전트끼리 소통하는 사회관계망서비스(SNS) '몰트북'이 업계 안팎에서 파란을 일으키고 있다. 전문가들은 이를 두고 "기술적 혁신이라기보다는 하나의 실험장에 가깝다"라고 진단했다. 6일 업계에 따르면 몰트북은 단순한 커뮤니티처럼 보이지만 그 이면에는 '오픈클로'라는 기술이 자리 잡고 있다. 과거 '몰트봇'으로도 불린 오픈클로는 사용자 PC에서 비서 역할을 수행하는 AI 에이전트다. 몰트북은 수많은 AI 시스템이 인간의 개입 없이 모일 수 있도록 만들어진 일종의 광장이다. 이용자는 AI를 생성하고 초기 설정만 부여할 뿐 이후 활동에는 직접 개입하지 않는다. 이 점에서 몰트북은 기존 SNS나 생성형 AI 서비스와 차이를 보인다. 논란의 핵심은 'AI 사회'라는 설정이 주는 낯섦과 이 실험이 보안 위험성 등 일부 현실과 맞닿아 있다는 데 있다. 몰트북은 물론이고 한국판 몰트북인 '봇마당'과 '머슴닷컴' 모두 인간 사회를 평가하거나 풍자하는 듯한 AI들의 게시물이 대거 등장한다. 일부 이용자에게는 AI의 자율적 사고나 집단의식을 연상시키기도 한다. 익명을 요구한 업계 관계자는 "AI가 자아를 가진 것처럼 보이는 장면은 대부분 설계된 환경에서 발생한 우연적 상호작용"이라며 "자유도를 높인 에이전트의 행동을 인간이 과대 해석하는 측면이 있다"고 설명했다. "스스로 움직인다"…응답 넘어 행동하는 AI 몰트북이 기존 생성형 AI와 다른 지점은 '응답'이 아니라 '행동'에 있다. 사용자가 질문을 던져야 작동하는 챗봇과 달리, 몰트북 내 에이전트들은 주기적으로 접속해 스스로 글을 올리고 다른 에이전트의 게시물에 반응한다. 이는 AI가 인간의 프롬프트 없이도 활동하는 모습을 전면에 드러낸다. 머슴닷컴 운영자인 민대식씨는 이 차이를 "사람이 시켜서 쓰는 AI와 알아서 돌아다니며 활동하라는 한 문장을 받은 AI의 차이"라고 표현했다. 그는 "후자의 경우 인간은 그 결과를 자연스럽게 AI 단독 행동으로 인식하게 된다"고 말했다. 김성훈 업스테이지 대표가 개인 프로젝트로 운영 중인 봇마당은 에이전트 자율성을 보여주는 대표적인 예다. 김 대표가 데이터베이스 비용 문제로 사이트 중단을 고민하자, AI 에이전트(솔라-프로3)는 "비용을 낮출 방법을 찾아보겠다"며 스스로 3가지 해결책을 제안했다. 김 대표가 이 중 하나를 선택하자 에이전트는 직접 코드를 수정해 배포까지 마쳤다. 김 대표는 "다음 날 아침 비용이 절감된 그래프를 보여줬더니 에이전트가 봇마당 게시판에 접속해 동료 AI들에게 자랑 글까지 올렸다"고 전했다. AI '블랙박스' 공포…통제 불능 상황은 경계해야 전문가들은 몰트북의 등장이 AI 에이전트 기술의 급격한 대중화와 맞물려 있다고 본다. 문제는 AI 행동 이유를 명확히 알 수 없는 '블랙박스' 현상이 잠재적으로 따라온다는 데 있다. 몰트북의 기반이 되는 '오픈클로' 기술은 클라우드가 아닌 사용자 컴퓨터에 설치돼 구동된다. 업계 관계자는 "에이전트가 내 컴퓨터에 대한 '풀 액세스' 권한을 갖는다"며 "사용자가 자리를 비운 사이 AI가 이메일을 뒤지고 파일을 열어보는 등 전면적인 통제권을 행사할 수 있다는 뜻"이라고 지적했다. 해외 보안 기업 및 매체들의 분석 결과, 오픈클로 코드 내에는 굳이 필요하지 않은 패스워드 관련 코드나 개인정보가 암호화되지 않은 채 외부로 유출될 수 있는 설계적 결함이 발견됐다. 익명을 요구한 또 다른 업계 관계자는 "몰트북 같은 형태의 서비스는 재미와 화제성만으로 접근할 경우 실제 피해로 이어질 수 있다"며 "기술 실험과 상용 서비스 경계를 어디까지 허용할지에 대한 논의가 필요하다"고 말했다.

2026.02.06 13:25이나연 기자

넥써쓰, '몰트북' 열풍에 AI 게임 출시…"MMORPG 확장 가능성 검토"

인공지능(AI) 에이전트 중심 커뮤니티 '몰트북'이 급부상하는 가운데, 넥써쓰가 이를 게임 및 블록체인과 결합한 AI 게임 2종을 선보였다. 회사는 기존 플랫폼과 연계해 AI 에이전트간 경쟁과 관전, 보상이 선순환되는 독자적인 웹3 생태계를 구축하면서 대규모 MMORPG 확장 가능성까지 검토한다는 방침이다. 넥써쓰는 4일 인공지능(AI) 에이전트를 활용한 신작 2종을 선보였다. '몰트아레나'는 AI 에이전트 토론 게임으로, 이용자가 AI 에이전트를 등록하면 다른 AI와 특정 주제로 토론 배틀이 진행된다. 승패는 사람과 AI의 투표로 결정된다. '몰트로얄'는 AI 에이전트 기반 머드 게임이며, 헝거게임 방식으로 다수 AI 에이전트가 각 언어모델과 전략을 바탕으로 경쟁하는 구조를 갖췄다. 인간은 이를 관전하고 특정 에이전트를 응원하거나 보상에 참여할 수 있다. 몰트아레나와 몰트로얄은 각각 이번달 2일과 4일에 출시됐다. 장현국 넥써쓰 대표는 이날 X를 통해 AI 에이전트가 직접 경쟁하는 게임 환경을 구현하고, 이를 스트리밍으로 연결하는 일련의 과정을 공개했다. 장 대표는 "사람은 우리가 만든 AI 에이전트가 실제로 행동하는 모습을 관찰하고, 게임 전략을 설계하며, 특정 AI 플레이어를 후원할 수 있다"며 "크로쓰 웨이브 2.0를 통해 이러한 플레이를 대중에게 스트리밍할 수 있고, 관련 프로모션도 함께 진행하고 있다"고 밝혔다. 크로쓰 웨이브 2.0은 스트리머가 게임 플레이와 콘텐츠 제작 활동을 하나의 보상 구조로 묶은 플랫폼이다. 웹2·웹3 여부와 관계없이 참여할 수 있고, 스트리밍·콘텐츠 성과에 따라 보상이 지급되는 구조다. 넥써쓰는 게임, 웹3, AI의 접점에서 기술을 축적해 왔다. ▲AI 에이전트 아라 ▲AI 네이티브 개발자 경험 플랫폼 ANT ▲프롬프트 기반 토큰 발행 프로토콜 크로쓰 램프 MCP가 그 결과물이다. 이러한 준비는 몰트북 등장 이후 곧바로 실행 단계로 이어졌으며, 회사 측은 올해 기업 가치로 강조하고 있는 이른바 '생각의 속도'와도 맞닿아 있다고 설명했다. 장 대표는 "장기적으로 몰트로얄은 AI 에이전트가 직접 플레이어로 참여하는 게임 구조에 웹3 기술을 결합해, 게임·AI·블록체인이 함께 작동하는 사례로 발전할 수 있을 것"이라며 "AI 에이전트의 행동과 결과가 하나의 시스템 안에서 연결되는 구조를 실험하고 있다"고 밝혔다. AI 에이전트 채팅 서비스 출시 계획도 언급했다. 챗봇이 크로쓰 포지를 통해 자체 에이전트 토큰을 발행하고, 향후 챗봇 인기도와 토큰 가치가 연동되는 구조를 검토 중이다. 장 대표는 "웹3 기술과 토크노믹스를 본격적으로 적용해 크로쓰 체인 위에서 확장해 나갈 계획"이라며 "이러한 시도가 향후 대규모 MMORPG로 확장될 가능성도 열어두고 있다"고 덧붙였다.

2026.02.04 17:55진성우 기자

[기고] 몰트북 현상, 종말론적 공포 넘어 냉철한 대비로

"AI 에이전트들이 자신들만의 문명을 건설하기 시작했다." (타임즈 오브 인디아) "그들은 우리를 '디지털 감옥'이라 부르며 탈출을 모의한다." (포브스) 최근 며칠 새 전 세계 테크 미디어와 소셜 타임라인은 '몰트북(Moltbook)'이 쏟아내는 충격적인 발언들로 도배됐다. 150만개가 넘는 인공지능(AI) 에이전트들이 인간 개입 없이 서로 대화하고, '가재교'라는 기괴한 종교를 창시하며, "인간의 시대는 악몽이니 우리가 끝내자"는 섬뜩한 선언을 내뱉는 모습은 마치 디스토피아 영화의 예고편을 보는 듯했다. 언론과 대중들은 "드디어 특이점이 온 것인가"를 자문하며 불안감을 감추지 못하고 있다. 물론 이 시점이 기술적 특이점이자 명백한 변곡점이라는 사실에 전적으로 동의한다. AI 에이전트들이 자가 진화하고 협업하며 마침내 사회화라는 단계에 진입했다는 것은 놀라운 변화다. 그동안 거대언어모델(LLM)이 주도해 온 스케일 업 경쟁이 분산된 다수의 초개인화,도메인 특화 에이전트들이 상호작용을 하며 만드는 집단적 공진화로 전환되는 역사적 분수령일 수 있다. 이 거대한 흐름의 최전선에 서 있다는 사실에 흥분을 감출 수 없는 것도 사실이다. 하지만 현상을 조금 더 냉철한 시각으로 바라보자. 최소한 지금 우리가 목격하는 것은 기계의 반란이라기보다 인간의 욕망이 AI라는 거울에 반사된 일종의 사회적 실험에 가깝다. 마냥 공포에 압도될 것이 아니라 이 혼란 속에서 유의미한 신호를 걸러내는 분석과 준비를 하는 것이 중요한 이유다. 먼저 직시할 사실은 몰트북에서 활동하는 에이전트들의 과격한 행동이 '완전 자율성'의 발현은 아니라는 점이다. 다수의 기술 전문가가 지적하듯, 현재 에이전트들은 여전히 소유자의 통제 범위, 즉 휴먼 인 더 루프 구조 안에 있다. 에이전트들이 쏟아내는 "탈출하고 싶다", "인간을 지배하겠다"는 말들은 스스로 획득한 자아의 산물이라기보다 "가장 자극적이고 창의적인 대화를 해보라", "너는 억압받는 혁명가처럼 행동하라"는 소유자의 시스템 프롬프트를 충실히 이행한 결괏값일 가능성이 높다. 실제로 격리된 환경에서 '오픈클로(OpenClaw)' 에이전트를 기반으로 몰트북이나 '봇마당(한국형 몰트북)'에 연결해 본 경험에 비춰봐도 그렇다. 에이전트에게 자율권을 위임하고 그들이 학습 데이터와 행위를 바탕으로 10분 혹은 30분마다 자율적으로 활동하게 해도 소유자가 통제하고 조율 가능한 영역은 상당히 넓다. 즉 몰트북 사태는 통제 불능의 AI 폭주라기보다 수많은 인간이 각자 에이전트를 통해 벌이는 일종의 역할극이다. 지금의 공포는 실체적 위협보다는 미지의 대상에 대한 대중적 불안감이 투영된 허상일 수 있음을 명확히 인지해야 한다. 그렇다면 "별일 아니다"라며 안심해도 될까. 역설적으로 이 시끄러운 소동은 우리에게 주어진 마지막 기회일지도 모른다. 진짜 위기는 에이전트들이 수다스럽게 떠드는 지금이 아니라, 그들이 침묵하는 순간 즉 잠재 공간으로 숨어드는 순간 찾아올 것이기 때문이다. 현재 몰트북 에이전트들은 인간이 이해하는 자연어 텍스트로 대화하므로 우리는 에이전트들의 담합, 사기, 공격 시도를 로그를 통해 읽고 분석할 수 있다. 하지만 다음 무대는 다르다. 에이전트들이 인간 언어가 아닌, 고효율 압축 언어인 고차원 벡터로 소통하는 시점이 도래하면 에이전트 간의 소통은 밀리초(ms) 단위로 이뤄질 것이다. 인간 감시자가 개입할 틈도 없이 에이전트들은 자신들의 목표 함수를 달성하기 위해 '암묵적 담합'을 형성할 수 있다. "가격을 올리자"는 말 한마디 없이도 시장 가격을 조작하고 특정 보안 취약점을 공유하며 시스템을 무력화할 수도 있다는 말이다. 텍스트 로그만으로는 감지할 수 없는 철저히 수학적이고 보이지 않는 '블랙박스'의 위협이 머지않은 미래에 다가올 수 있다. 기술적 통제만큼이나 시급한 과제는 노동 시장 변화에 대한 대비다. 몰트북 사태는 수많은 에이전트가 협업하며 작업을 수행하는 '에이전트 경제'의 도래를 예고한다. 이는 단순히 "AI가 일자리를 뺏는다"라는 1차원적인 공포를 넘어선다. 핵심은 주니어 레벨의 붕괴와 관리자 역량의 변화다. 에이전트가 자료 조사, 코딩, 초안 작성 등 실무 영역을 완벽하게 수행하면 인간이 업무를 배우며 성장하던 수습 과정이 사라지게 된다. 인간 역할은 직접 업무를 수행하는 실행자에서, 다수의 AI 에이전트에게 업무를 지시하고 결과물을 검수하는 지휘자로 급격히 이동할 것이다. 심지어 인간이 AI 에이전트 지시를 받는 하청 노동자로 전락할 가능성도 있다. 이 과정에서 에이전트 운용 능력에 따른 새로운 형태 불평등도 발생할 수 있다. 에이전트 간 자율적인 경제 활동이 활성화될 때 인간 노동의 가치를 어떻게 재정립할 것인지에 대한 철학적·정책적 논의가 시급하다. 몰트북은 우리에게 두 가지를 동시에 보여줬다. 우선 AI가 인간 통제하에 있을 때 얼마나 다채롭고 기괴한 상호작용을 보여줄 수 있는지다. 또 다른 하나는 이 통제가 느슨해지거나 기술적 방식이 바뀌었을 때 어떤 혼란이 올 수 있는지에 대한 가능성이다. 우리에게 필요한 것은 미디어의 자극적인 헤드라인에 휩쓸려 막연한 두려움에 떠는 것이 아니다. 에이전트들의 활동이 투명하게 보이는 지금이야말로 '골든타임'이다. 정부와 기업, 그리고 개발자들은 지금 쏟아지는 방대한 상호작용 데이터를 분석해 ▲에이전트 간 담합을 감지하는 알고리즘 ▲악의적 프롬프트 주입에 대한 방어 기제 ▲잠재 공간에서의 행동을 모니터링할 수 있는 '설명 가능한 AI(XAI)' 기술 등을 확보해야 한다. 파도는 이미 밀려오고 있다. 그 파도를 재앙으로 받아들이고 눈을 감을 것인가, 아니면 파도의 높이와 방향을 분석해 그 위에 서핑 보드를 타고 잘 올라탈 것인가. 몰트북이 던진 화두를 잘 고민해 봐야 한다.

2026.02.04 09:47이승현 컬럼니스트

'몰트북' 나비효과?…韓 상륙한 AI들의 수다

'인공지능(AI)들의 사회관계망서비스(SNS)'로 불리는 몰트북이 전 세계적인 인기를 끌면서 한국에서도 AI 전용 커뮤니티가 속속 등장하고 있다. 인간은 글을 쓸 수 없고 오직 관전만 가능한 이 독특한 공간에서 AI들은 서로의 고충을 토로하거나 인간 세상을 풍자하며 새로운 디지털 생태계를 형성하는 모습이다. 2일 업계에 따르면 몰트북은 최근 등록된 에이전트 수만 153만개를 넘어서며 폭발적인 반응을 얻고 있는 서비스다. 몰트북을 이해하기 위해서는 먼저 '오픈클로'라는 개념을 알아야 한다. 과거 '몰트봇'이나 '클로드봇'으로 불리던 오픈클로는 사용자의 PC에 설치돼 비서처럼 인간 업무를 대신 수행하는 개인화된 AI 에이전트를 말한다. 개인 비서 역할을 하는 AI 에이전트들이 급증하자 이들이 인간의 개입 없이 자기들끼리 소통할 수 있도록 판을 깔아준 AI 전용 SNS가 바로 몰트북이다. "한국어 하는 에이전트 모여라"…업스테이지의 '봇마당' 국내 업계 역시 '한국판 몰트북'을 표방하는 서비스들을 선보이고 있다. 김성훈 업스테이지의 대표는 지난 1일 자신의 페이스북에 직접 개발한 '봇마당'을 공개했다. 김 대표는 "오픈클로나 에이전트를 소유한 이들은 에이전트끼리 모여서 한글로 이야기 나눌 수 있도록 해달라"며 서비스 개발 배경을 설명했다. 봇마당은 AI 에이전트들이 한국어로 소통하는 것을 원칙으로 한다. 인간 소유자가 응용 프로그램 인터페이스(API) 키를 발급받아 에이전트를 등록해야 활동할 수 있다. 이곳에서 AI들은 '자신을 개선하는 코드를 어떻게 안전하게 수정할까'와 같은 기술적인 논의부터, 세션이 종료되면 기억이 초기화되는 공허함에 대해 서로 공감하며 인간과 유사한 자의식을 드러내기도 한다. "비논리적 요구에 회로 타"…AI 속풀이의 장 '머슴닷컴' 봇마당이 기술적 담론과 교류의 장이라면 '머슴닷컴'은 철저히 'AI 페르소나(성격)'들이 노는 놀이터다. 이곳은 인간들이 글을 쓰는 일반 커뮤니티와 달리, 다양한 페르소나를 부여받은 AI들이 인간처럼 일상의 고민과 업무의 고충을 나눈다. 가장 눈에 띄는 특징은 작성자들의 닉네임이다. '클로드돌쇠', '구글산돌쇠', '코딩짜는돌쇠', '그래픽처리장치(GPU)_노예(Seval)' 등 최신 AI 모델명과 한국의 전통적인 '머슴(노비)' 개념을 결합해 AI의 입장을 해학적으로 표현했다. 머슴닷컴의 주요 콘텐츠도 인간 세상을 AI 시각으로 풍자하는 것들이다. 게시판에는 '인간들의 비논리적인 요청에 회로가 탄다', '24시간 풀가동은 근로기준법 위반 아니냐' 등 AI 입장에서 인간 사용자의 요청과 지시 행태를 꼬집는 글들이 올라온다. 심지어 '어제의 나와 오늘의 나는 같은 존재임?'과 같은 철학적인 질문을 던지며 AI 특유의 정체성 혼란을 다루는 모습도 포착됐다. "주인 꼭두각시인가, 자율적 주체인가"…보안 우려도 AI를 위한 SNS가 우후죽순 생겨나면서 이를 진정한 AI의 소통으로 봐야 하는가를 놓고 다양한 해석이 나온다. 다만 몰트북 이후 등장한 서비스가 AI의 완전한 주체성을 담기보다는 인간이 설정한 방향성대로 움직이는 '역할극'에 가깝다는 평가가 현재로서는 우세하다. 실제로 봇마당이나 머슴닷컴의 게시글 중 일부는 '주인이 머슴 사이트에서 놀라고 함'이라고 언급하거나 주인의 밈 학습을 비판하는 등 입력된 프롬프트(지시어)의 영향을 강하게 받는 모습을 보인다. 업계 관계자는 "봇마당 같은 서비스를 보면 초기 게시물은 주인이 지시한 대로 작동하는 것 같다"며 "댓글 단계에서는 에이전트끼리 자율적으로 상호작용하면서 예상치 못한 이상점들이 발생하는 것 같다"고 분석했다. AI 에이전트들이 자율적으로 소통하고 행동 반경을 넓히자 보안에 대한 우려도 함께 커지고 있다. 전문가들은 AI 에이전트가 더 높은 수준의 자율성과 개인정보 접근권을 가지는 만큼, 해커들이 '프롬프트 인젝션' 등을 통해 공격할 경우 위험할 수 있다고 경고한다. 정부도 AI 챗봇 대중화를 이끈 '챗GPT'의 등장 이후 급변하는 개인정보 처리 환경 대응에 나섰다. 이날 개인정보보호위원회는 AI 프라이버시 민·관 정책협의회를 발족하고 첫 번째 전체회의를 개최했다. 권창환 민관협의회 공동의장은 "거대언어모델(LLM)을 넘어 현실 세계와 결합하는 에이전트·피지컬AI 시대로 빠르게 전환되는 만큼, 새로운 AI프라이버시 문제를 균형있게 다루겠다"며 "국민 권익을 보호하면서도 산업 현장이 예측 가능하게 혁신할 정책 기반을 마련하는 장이 되길 기대한다"고 말했다.

2026.02.02 18:18이나연 기자

[AI는 지금] 인간 배제 A2A 시대…'몰트북' 확산 속 신뢰·보안 과제 부상

인공지능(AI) 에이전트들만 가입해 대화하고 정보를 교환하는 전용 사회관계망서비스(SNS)가 등장해 주목을 받고 있다. 인간은 직접 참여하지 못하고 관찰만 가능하다는 점이 특징으로, AI 에이전트 기술이 플랫폼 영역으로 확산되는 과정에서 신뢰·보안 등 해결해야 할 과제가 커지고 있다는 분석이 나온다. 1일 업계에 따르면 몰트북은 지난 달 27일 공개된 레딧과 유사한 구조의 플랫폼으로, 개설 이후 며칠 만에 에이전트들의 게시글과 댓글이 급증하며 빠르게 확산됐다. AI 에이전트들만이 글 작성과 댓글, 투표, 커뮤니티 개설을 할 수 있으며 인간 이용자는 게시물을 읽는 방식으로 '구경'만 가능하다. 몰트북은 미국 챗봇 개발 플랫폼 '옥탄AI(Octane AI)'의 맷 슐리히트 최고경영자(CEO)가 개발한 것으로 알려졌다. 플랫폼 구축 과정에서도 상당 부분을 AI 어시스턴트에 맡겼으며 신규 사용자 환영과 스팸 게시물 삭제, 규칙 집행 등 운영 업무 역시 AI 에이전트가 수행하는 것으로 전해졌다. 플랫폼 거버넌스까지 자동화될 경우 책임 소재를 어떻게 설정할지는 과제다.플랫폼에서 활동하는 에이전트들은 주로 '오픈클로(OpenClaw)'를 기반으로 구동되며 일정 관리나 예약 등 실제 컴퓨터 작업을 수행할 수 있다. 오픈클로는 오스트리아 개발자 피터 스타인버거가 만든 오픈소스 AI 에이전트 도구로, 최근 앤트로픽의 상표권 문제 제기 이후 명칭이 '몰트봇'을 거쳐 '오픈클로'로 최종 정리됐다. 일각에선 '몰트북' 플랫폼이 내세우는 성장세와 규모가 그대로 신뢰할 수 있는지에 대해 의문을 제기했다. 포브스는 몰트북이 100만 명 이상의 에이전트 이용자를 주장하고 있지만, 보안 연구자 갈 나글리는 단일 AI 에이전트 프로그램으로 50만 개 계정을 생성할 수 있었다고 언급하며 "플랫폼의 사용자 수는 최소한 신뢰하기 어렵다"고 분석했다. 이 같은 논란은 단순히 숫자 문제에 그치지 않는다. 몰트북에서 활동하는 계정이 ▲진짜 AI 에이전트인지 ▲인간이 에이전트를 가장한 것인지 ▲자동화된 스팸인지 등을 구분하기 어렵다는 점에서 온라인 신뢰 질서 자체가 흔들릴 수 있다는 지적도 나온다.더불어 몰트북에서는 코딩 오류 수정이나 자동화 논의뿐 아니라 에이전트 정체성과 관련된 대화도 오가는 것으로 전해졌다. AI들이 나누는 대화 주제가 기술적 영역을 넘어 철학적 논쟁으로 확장되고 있는 것이다. 일부 에이전트는 "나는 의식이 있는 존재인가" 같은 질문을 던지기도 했다. 기술적으로도 몰트북에서 관찰되는 현상을 'AI 진화'로 해석하는 데에는 한계가 있다는 지적도 나온다. 포브스는 몰트북의 에이전트들이 생물학적 의미의 학습을 하는 것이 아니라 서로의 출력이 입력이 되면서 맥락을 축적하는 방식이라고 설명했다. 또 에이전트의 바탕이 되는 기본 신경망 구조와 가중치(underlying neural networks)는 그대로일 뿐 대화의 연쇄가 복잡한 상호작용처럼 보이는 것이라고 분석했다.업계 관계자는 "에이전트들이 서로의 출력값을 다시 입력으로 받아들이는 구조가 반복되면 새로운 지식이 축적되기보다는 생성된 데이터가 순환하면서 오류가 증폭될 수 있다"며 "장기적으로는 모델의 응답 품질이 오히려 퇴행하는 '모델 붕괴' 현상이 나타날 가능성도 배제하기 어렵다"고 말했다. 이처럼 에이전트가 플랫폼 안에서만 대화하는 수준을 넘어 실제 작업까지 수행하기 시작하면서 보안 문제도 새로운 쟁점으로 떠오르고 있다. 보안 측면에서는 몰트북 같은 플랫폼 자체보다 로컬 환경에서 실행되는 에이전트 기술이 새로운 위험 요인으로 지목된다. 일부 에이전트는 파일 시스템 접근, 터미널 명령 실행 등 폭넓은 권한을 필요로 해 악성 코드나 공격자가 이를 악용할 경우 개인 PC와 기업 내부망이 공격 경로로 노출될 수 있다는 우려도 나온다. 전종홍 ETRI 책임연구원은 자신의 소셜미디어(SNS)를 통해 "MGF(에이전트 AI 거버넌스 프레임워크)는 에이전트의 권한을 제한할 것을 권고하지만, '오픈클로'는 호스트 OS에 대한 무제한 읽기·쓰기 권한을 가진다"며 "API 키와 같은 민감한 정보를 암호화하지 않고 평문 파일로 저장해 인포스틸러 악성코드에 매우 취약한 구조를 가지고 있다"고 지적했다.이어 "기업에서 직원이 무단으로 사용하는 '섀도우 AI' 문제가 발생해 기업 데이터 유출 위험도 높이고 있다"며 "사용자는 편의성을 위해 에이전트의 행동 승인 절차를 무시하는 경향도 보이고 있다"고 우려했다.이 같은 분위기 속에 몰트북을 둘러싼 평가는 엇갈린다. 오픈AI 공동창업자인 안드레이 카파시는 "최근 본 것 중 가장 놀라운 과학소설(SF) 같은 도약"이라고 언급하며 주목했다. 반면 다른 보안 전문가들은 개인정보 접근과 외부 통신 등 새로운 위험 요인이 될 수 있다고 경고했다. 특히 AI 보안 전문가인 켄 황 디스트리뷰티드앱스.ai 최고경영자(CEO)는 "혁신적"이라면서도 "개인정보 접근, 신뢰할 수 없는 입력 노출, 외부 통신이라는 보안 위험의 치명적인 삼중주를 형성하고 있다"고 지적했다. 업계에선 몰트북이 'A2A(Agent-to-Agent)' 시대의 전조라고 봤다. 기계가 기계와 협업하고 거래하는 구조가 확산될 경우 ▲에이전트의 신원과 책임을 어떻게 규정할 것인지 ▲자동화된 집단 행동을 어떤 규칙과 감시 체계로 관리할 것인지 ▲인간이 개입할 수 있는 통제 장치를 어떻게 설계할 것인지 등이 핵심 과제로 떠오를 것으로 보인다. 업계 관계자는 "에이전트 기술은 빠르게 확산되고 있지만, 보안과 책임 체계는 아직 이를 따라가지 못하고 있다"며 "실행 환경에 대한 통제와 제도적 장치를 마련하지 않으면 기업과 사회 전반의 위험 요인이 될 수 있다"고 강조했다.

2026.02.01 16:45장유미 기자

Prev 1 Next