검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'AI검증'통합검색 결과 입니다. (3건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

오픈AI, 수학 난제 해결 주장…학계, 신뢰성에 의문 드러내

오픈AI가 인공지능(AI)으로 수학 난제를 대거 풀었다고 발표했지만 일부 연구에서 오류가 발견되면서 결과의 신뢰성을 둘러싼 논란이 일고 있다. 8일(현지시간) 테크크런치에 따르면 오픈AI는 지난 6일 AI를 활용한 수학 연구 원고 722건을 공개한 후 하루 만에 오류가 발견된 원고 3건을 철회했다. 일부 수학자들은 AI가 내놓은 풀이가 실제로 맞는지 확인하기 어렵고 연구 결과를 충분히 검토하지 않은 채 발표한 것 아니냐는 의문을 제기했다. 오픈AI는 이번 연구에 아직 일반에 공개하지 않은 자체 개발 AI 모델을 사용했다. 수학자들이 오랫동안 풀지 못했던 문제를 AI에 제시해 답을 찾고, 그 답이 왜 맞는지 설명하는 풀이까지 작성하도록 했다. 연구 대상은 대수학과 수리논리학 등 여러 분야에 걸쳐 있다. 오픈AI는 약 4000개 문제를 AI에 풀도록 했으며 이 과정에서 나온 풀이와 연구 내용을 정리해 원고 722건을 공개했다. 하지만 발표 직후 일부 연구에서 실제 오류가 확인됐다. 한 원고에서 계산에 사용한 부호가 잘못된 사실이 발견됐고 이를 바탕으로 작성한 다른 원고 2건도 철회됐다. 오픈AI는 증명을 보완하거나 설명을 바로잡기 위해 원고 14건도 수정했다. AI가 작성한 풀이를 컴퓨터로 검사하는 작업도 일부 연구에만 이뤄졌다. 오픈AI는 '린'이라는 프로그램을 활용해 수학적 설명을 컴퓨터가 읽을 수 있는 코드로 바꾸고 논리적 오류를 검사했다. 그러나 원고 719건 가운데 이러한 컴퓨터 검증 자료가 마련된 연구는 300건으로 약 42%에 그쳤다. 나머지 원고에는 같은 방식의 검증 자료가 없으며 컴퓨터 검사를 거친 연구도 수학자들의 추가 확인이 필요하다. AI가 문제를 어떻게 풀었는지 보여주는 자료도 일부만 공개됐다. 오픈AI가 AI의 풀이 과정을 별도로 요약해 공개한 연구는 10건이다. 연구에 사용한 AI 모델 자체도 아직 외부에 제공하지 않고 있다. 컴퓨터 검사를 통과한 풀이에서도 확인이 필요한 부분이 발견됐다. 영국 케임브리지대와 킹스칼리지런던 연구진은 오픈AI가 지난달 해결했다고 주장한 '나비에-스토크스 방정식' 관련 연구를 분석해 문제를 제기했다. 나비에-스토크스 방정식은 물이나 공기 같은 유체의 움직임을 설명하는 수학 공식이다. 영국 연구진은 오픈AI가 글로 작성한 풀이와 컴퓨터 검사에 사용한 코드가 적어도 두 곳에서 서로 다르다는 사실을 확인했다. 미국 프린스턴에 있는 고등연구소(IAS)의 독립 수학·AI 자문단도 오픈AI의 연구 결과를 인정하는 데 신중한 태도를 보였다. 자문단은 이번 발표를 수학계에 중요한 사건으로 평가하면서도 오픈AI에 조언했다는 사실이 연구 성과나 발표 방식을 승인했다는 의미는 아니라고 밝혔다. 자문단은 앞서 AI 기업들이 외부 연구자들이 사용할 수 없는 자체 모델로 수학 난제를 푸는 방식에도 반대했다. AI가 새로운 연구 결과를 발표하더라도 이를 이해하고 검토할 수 있는 수학자들의 참여가 필요하다고 강조했다. 수학자 테런스 타오는 AI로 수학 문제를 풀었다는 사람들이 정작 풀이 내용을 제대로 이해하지 못하는 상황을 비판했다. 다른 수학자들이 질문해도 답하지 못하거나 연구 결과를 학술대회에서 설명하지 못하는 경우가 있었다고 지적했다. 오픈AI는 수학자들이 AI의 연구 결과를 이해하고 검토할 수 있도록 워크숍과 학술대회 등을 지원하겠다고 밝혔다. 멜라니 우드 하버드대 수학과 교수는 "AI 모델에 어려운 문제를 풀도록 지시해 답을 얻더라도 발표 시점에는 사람이 그 결과를 이해하지 못한다"며 "진짜 작업은 그때부터 시작된다"고 말했다.

2026.10.09 13:00김동원 기자

AI 위험 검증하는 나라로…韓, '제3자 평가국' 노린다

인공지능(AI) 경쟁이 모델 성능을 넘어 누가 위험을 판단할 것인지로 번지고 있다. 미국과 중국이 프런티어 AI 경쟁을 주도하면서 양국이 서로의 시스템을 직접 검증하기 어려울 경우 제3국이나 국제기구가 평가를 맡는 방안도 거론되고 있다. 김명주 AI안전연구소장은 23일 지디넷코리아와의 통화에서 "미국과 중국 사이에서 제3국의 평가가 필요해지는 상황이 온다면 우리가 나서겠다는 생각을 갖고 있다"며 "다만 아직은 앞서가는 시나리오이자 희망 사항일 뿐 실제 역할을 맡으려면 프런티어 AI 기술과 평가 역량을 갖춰야 한다"고 강조했다. 국제적으로도 프런티어 AI를 공동 평가하고 위험 정보를 공유하려는 움직임이 이어지고 있다. 오픈AI는 21일(현지시간) 한국 등 각국 AI안전연구소가 참여하는 협력망을 활용해 평가 결과를 공유하고 공통 기준을 마련하는 방안을 제안했다. 미중 AI 안전 협의 시작…검증은 누가 최근 AI 개발 속도와 안전을 둘러싼 논쟁이 커지면서 미국과 중국 사이에서도 AI 안전 문제가 의제로 떠올랐다. 양국은 정상회담을 앞두고 관련 논의를 시작했다. 미국은 중대한 AI 사고가 발생할 경우 서로 알리는 통보 체계를 중국 측에 제안했지만 중국은 아직 구체적인 입장을 밝히지 않은 것으로 알려졌다. 김 소장은 "위협의 신호가 보이면 서로 핫라인을 개설해 이야기하고 협의하자는 논의까지 나오고 있다"고 말했다. 통보 체계가 만들어져도 상대국 AI 위험을 누가 확인할지는 남는다. 미국이 중국의 핵심 AI 시스템을 직접 들여다보거나 중국이 미국의 모델을 검사하기는 쉽지 않아서다. 김 소장은 장기적으로 핵확산금지조약(NPT)과 비슷한 국제 통제체제가 AI에서도 등장할 가능성을 거론했다. 실제로 미국과 중국의 안보 전문가 사이에서도 핵 군축과 유사한 안전장치와 위기 소통 채널을 AI에 적용하자는 제안이 나왔다. 한국은 국제 평가체계가 만들어질 경우 참여하겠다는 뜻도 전달했다. 김 소장은 지난 8월 국제 AI 평가 협력망을 조정하는 영국 측과 의견을 나눴고 각국 AI안전연구소가 함께 참여하는 방식이라면 한국도 적극 참여하겠다는 입장을 밝혔다. 이 분야에서 가장 앞서 있다는 평가를 받는 곳은 영국이다. 영국 AI안전연구소는 2023년 11월부터 프런티어 AI를 직접 평가해왔다. 사이버와 생물안보 등 국가안보·공공안전 분야에서 첨단 모델을 반복적으로 시험하면서 평가 방법과 데이터를 축적했다. 김 소장은 영국이 현재 프런티어 AI 평가 기술에서 가장 앞서 있다고 진단했다. 김 소장은 AI안전연구소도 지난 2년간 영국의 평가 기술을 따라잡기 위해 관련 역량을 쌓아왔다고 설명했다. 그는 "한국은 AI 제재국이 되지 말고 제재를 논의하는 나라가 돼야 한다"고 강조했다. 국제 논의 발언권, 결국 '경험'에서 나온다 AI 안전 논의에서 한국의 발언권을 키우려면 기술력과 함께 실제 현장에서 쌓은 경험도 중요하다는 지적이 나온다. 박지환 씽크포비엘 대표는 "아직 AI가 실제 현장에서 어떤 문제를 얼마나 자주 일으키는지 충분히 축적되지 않았는데 머릿속에서 만든 기준이 처음부터 정확할 것이라고 기대하기는 어렵다"고 말했다. 그는 혈압 기준을 예로 들었다. 어느 수준부터 치료에 개입할지를 수많은 임상 경험과 데이터를 거쳐 정해온 것처럼 AI도 실제 적용과 실증을 반복하면서 기준을 다듬어야 한다는 설명이다. 박 대표는 "한국이 표준에 대한 현장 실증을 많이 하는 나라가 되는 것이 중요하다"며 "국제기준을 실제 산업과 공공현장에 적용해 무엇이 맞고 무엇이 부족한지를 지속적으로 제시해야 한다"고 강조했다. 현장 경험과 별개로 국제적으로 통용될 표준은 공적인 절차와 합의를 거쳐야 한다. 전종홍 한국전자통신연구원(ETRI) 표준연구본부 책임연구원은 "오픈AI나 앤트로픽이 '표준'이라는 용어를 많이 쓰지만 그렇게 쓴다고 그냥 표준이 되는 것은 아니다"라며 "문서를 만드는 것과 권위를 만드는 것은 다르다"고 밝혔다. 박 대표는 "이런 경험과 데이터가 축적되면 한국의 의견에 무게가 생기고 더 많은 국제 실증과 표준화 논의의 중심에 설 기회가 생긴다"며 "기준을 받아들이는 나라보다 기준이 현실에서 작동하는지를 증명하고 개선하는 나라가 AI 안전 논의의 중심에 설 것"이라고 말했다.

2026.09.23 10:43김동원 기자

AI 속도 조절 제안한 앤트로픽, 모델 개발 전 과정 외부 검증

앤트로픽이 인공지능(AI) 개발 속도를 둘러싼 안전 논의를 실제 검증 단계로 옮긴다. 외부 평가자를 회사 내부에 배치해 AI 개발 과정의 안전성을 검증하기로 했다. 앤트로픽은 18일(현지시간) 자사 블로그를 통해 액센츄어와 프런티어 AI 독립 평가를 위한 파트너십을 체결했다고 밝혔다. 액센츄어의 AI 전문 조직 '패컬티'가 직원과 비슷한 수준의 접근 권한을 받아 모델 훈련부터 개발·배포 과정까지 내부에서 평가한다. 모델 평가와 레드팀 테스트를 비롯해 정렬 평가와 안전장치 시험도 맡는다. 액센츄어는 기업과 정부의 AI 도입을 지원해 온 글로벌 컨설팅·기술 서비스 기업이다. AI와 데이터, 사이버보안, 기업 시스템 구축 등의 사업을 수행하고 있다. 현재 120여 개국에서 약 9000개 고객사를 지원하고 있다. 앤트로픽은 액센츄어가 여러 산업에서 AI를 실제 구축해 온 경험을 모델 안전성 평가에 활용할 수 있다고 설명했다. 이번 협력은 최근 앤트로픽이 제기한 AI '속도조절론'의 후속 조치다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 최근 '우리는 프런티어의 속도를 조절해야 한다'는 글에서 외부 평가자를 AI 기업 내부에 배치하는 방안을 제시했다. 앤트로픽은 이번 협력을 당시 약속을 이행하기 위한 중요한 단계로 규정했다. 내재형 평가로 불리는 이 방식은 완성된 모델을 외부에서 시험하는 기존 평가와 달리 AI가 만들어지는 과정부터 살펴본다. 평가자는 모델 훈련 과정과 개발·배포 과정에서 내려지는 결정을 확인하고 회사 직원들과 직접 소통한다. 평가자는 앤트로픽이 AI 안전과 관련해 내건 약속을 실제로 지키는지 확인하고 내부에서 놓친 위험을 찾는다. 사고가 발생하면 이를 보고하고 AI가 가져올 이점과 위험에 대해 외부에 보다 구체적인 정보를 제공하는 역할도 맡는다. 앤트로픽과 액센츄어는 내재형 평가 역량을 구축하기 위해 앞으로 5년간 각각 최소 10억 달러(약 1조3800억원)를 투자할 예정이다. 다만 내재형 평가는 아직 초기 단계여서 운영 기준은 마련되지 않았다. 평가자가 기업 내부의 어떤 정보까지 접근할 수 있는지와 평가 결과를 어떻게 공개할지에 대한 기준도 정해지지 않았다. 평가 비용을 마련하는 방식도 과제로 남아 있다. 이번 액센츄어의 평가 비용은 앤트로픽이 직접 부담하지만 장기적으로는 공동 기금이나 정부 재원을 활용해야 한다는 게 앤트로픽의 입장이다. 앤트로픽은 여러 외부 기관이 함께 AI를 검증하는 체계도 추진한다. 현재 비영리 AI 평가기관 '메트르' 등과 내재형 평가 방식을 시범 적용하는 방안을 논의하고 있으며 앞으로 몇 주 안에 추가 협력 기관을 발표할 예정이다. 액센츄어와의 협력도 독점 계약이 아니어서 다른 AI 개발사도 같은 방식의 평가를 받을 수 있다. 앤트로픽은 "독립적인 내재형 평가자는 우리의 책임을 줄이는 것이 아니라 이를 더 검증 가능하게 만드는 역할을 한다"며 "모델의 안전에 대한 책임은 여전히 우리에게 있다"고 밝혔다.

2026.09.20 09:37김동원 기자