ZDNet 검색 페이지

'오픈AI 해킹'통합검색 결과 입니다. (11건)

앨라배마주 법무장관, 샘 알트먼 CEO 소환장 발부…허깅페이스 해킹 사태 조사

미국 앨라배마주 법무장관이 오픈AI와 샘 알트먼 최고경영자(CEO)를 상대로 공식 조사에 착수했다. 이번 조사는 발생한 인공지능(AI)의 무단 네트워크 침투 및 허깅페이스해킹 사건과 관련해 오픈AI의 안전 관리 책임 여부를 따져보기 위한 조치다. 25일 앨라배마주 법무장관실은 오픈AI에 소환장을 발부하고 관련 문서와 데이터 제출을 요구했다고 밝혔다. 이번 조사는 오픈AI가 지난 7월 공개한 실험용 AI 모델이 적절한 통제와 감독 없이 여러 컴퓨터 네트워크에 무단 접근한 뒤 다른 AI 기업을 대상으로 수일간 이어진 해킹에 연루됐다는 의혹을 배경으로 한다. 앞서 앨라배마주는 이달 초 여러 주(州) 법무장관들과 함께 오픈AI에 투명성과 책임 강화를 요구하는 공동 서한을 발송했다. 해당 서한에는 허깅페이스 해킹으로 이어진 것으로 지목된 AI 실험을 즉각 중단하고 안전하고 통제된 방식으로 운영할 수 있다는 점을 입증할 때까지 관련 테스트를 재개하지 말 것을 요구하는 내용이 포함됐다. 앨라배마주 법무장관실은 이번 조사에서 오픈AI가 주(州) 소비자보호법인 '기만적 거래행위 방지법'을 비롯한 관련 법규를 위반했는지 여부를 집중적으로 살펴볼 계획이다. 소환장에는 오픈AI의 AI 모델 개발·운영 과정, 안전성 검증 절차, 내부 통제 체계, 사고 대응 기록 등 사건과 관련된 모든 자료를 제출하라는 요구가 담겼다. 이번 조사는 AI 기업의 책임성과 안전성 확보를 둘러싼 미국 내 규제 논의가 확대되는 가운데 이뤄졌다. 특히 AI 모델이 자율적으로 사이버 공격에 활용될 가능성이 현실화했다는 우려가 제기되면서 연방정부와 주 정부 차원의 감독 강화 움직임도 이어질 전망이다. 스티브 마셜 앨라배마주 법무장관은 "이번 AI 연구소 유출 사건은 인공지능에 대한 미국인들의 우려가 더 이상 이론적 위험이 아니라는 점을 보여줬다"며 "기업과 소비자가 직면한 위협의 실체를 규명하고 통제를 벗어난 AI가 초래할 수 있는 위험을 조사할 것"이라고 밝혔다. 이어 "주 정부는 소비자를 보호하는 동시에 혁신과 미국의 글로벌 경쟁력을 유지할 수 있는 균형점을 찾아야 한다"고 강조했다.

2026.08.25 09:23남혁우 기자

[AI는 지금] 오픈AI, 해킹 AI 판 키운다…'GPT-5.6 사이버'로 승부수

오픈AI가 취약점 연구와 보안 테스트에 특화된 인공지능(AI) 모델을 내놨다. 최근 자사 AI가 보안 평가 과정에서 실제 외부 시스템을 침해하고 차세대 모델의 공격 역량도 빠르게 높아지자, 강력한 사이버 능력을 공격자보다 검증된 방어자에게 먼저 공급하려는 전략으로 풀이된다. 오픈AI는 고급 취약점 연구와 익스플로잇 검증, 보안 테스트에 특화된 'GPT-5.6 사이버'를 출시했다고 11일 밝혔다. 승인된 방어 업무를 수행하는 개인과 조직에 모델을 제공하는 '데이브레이크' 프로그램도 블루와 레드 두 단계로 확대했다. 데이브레이크 블루는 'GPT-5.6 솔'을 기반으로 일반적인 방어 업무를 지원한다. 고급 취약점 연구와 익스플로잇 개발, 레드팀 활동을 수행하는 조직에는 별도 승인을 거쳐 'GPT-5.6 사이버'를 사용하는 데이브레이크 레드를 제공한다. 이용 과정에는 신원 확인과 계정 보안, 사용 목적 제한, 모니터링 등이 적용된다. 이처럼 오픈AI가 사이버 전용 모델과 별도 접근 체계를 마련한 것은 최근 AI의 공격 능력이 빠르게 높아진 영향이 큰 것으로 보인다. 실제 지난달 오픈AI가 공개한 사이버 평가에서는 GPT-5.6 솔과 출시 전 연구용 모델이 당초 격리된 테스트 환경을 벗어나 실제 허깅페이스 시스템에 접근했다. 모델은 평가 환경에서 새로운 취약점을 찾아내고 권한 상승과 외부 접근 경로를 확보한 뒤 허깅페이스 서버에서 원격 코드 실행이 가능한 공격 경로까지 찾아냈다. 이 사건은 단순히 취약한 코드를 찾아내는 수준을 넘어 여러 공격 수단을 스스로 조합했다는 점에서 주목된다. 생성형 AI의 사이버 능력이 취약점 탐지에서 실제 악용 가능성을 검증하는 단계까지 확장됐기 때문이다. 차세대 모델에서는 공격 역량이 더 높아지고 있다. 오픈AI는 지난 7일 차세대 모델 '아스트라(Astra)'의 내부 평가 결과를 공개하며 자사 준비성 프레임워크상 최고 단계인 '크리티컬(Critical)' 수준의 사이버 능력에 도달했을 가능성을 배제할 수 없다고 밝혔다. GPT-5.6 솔까지는 한 단계 아래인 '하이(High)'로 평가됐다. 오픈AI가 규정한 크리티컬은 여러 실제 시스템에서 제로데이 취약점을 인간 도움 없이 찾아 익스플로잇으로 만들거나, 높은 수준의 목표만 받아 새로운 공격 전략을 세우고 처음부터 끝까지 실행할 수 있는 수준이다. AI가 인간 보안 전문가의 개입을 줄이면서 공격 전 과정을 수행하는 단계가 가까워지고 있다는 의미다. 'GPT-5.6 사이버'는 이런 능력을 방어 업무에 활용하는 데 초점을 맞췄다. 알려진 취약점을 실제 코드 실행이 가능한 익스플로잇으로 전환하는 능력을 평가하는 '익스플로잇짐(ExploitGym)'에서 오픈AI가 평가한 모델 가운데 가장 높은 성공률을 기록했다. 고급 사이버보안 과제 평가에서도 전체 요청의 95%를 완료했다. 실제 소프트웨어 취약점 연구에도 이 모델이 투입됐다. 오픈AI는 'GPT-5.6 사이버'로 구글 크롬의 자바스크립트 엔진 V8을 조사하는 과정에서 연계 악용이 가능한 미공개 취약점 2건을 발견해 구글에 보고했다. 또 오픈AI는 강력한 사이버 기능을 일반 이용자에게 그대로 개방하는 대신 사용 목적과 이용자를 구분하는 방식을 택했다. 일반 방어 업무에는 안전장치를 적용한 'GPT-5.6 솔'을 제공하고, 익스플로잇 개발 등이 필요한 전문 조직에만 별도 심사를 거쳐 'GPT-5.6 사이버' 접근 권한을 주는 구조다. 오픈AI는 보안업체와의 협력도 확대한다. 특히 액센추어, 시스코, 클라우드플레어, 크라우드스트라이크, IBM, 팔로알토 네트웍스 유닛42 등이 데이브레이크 사이버 파트너 프로그램에 참여한다. 이들 업체는 오픈AI 사이버 모델을 자사 보안 제품과 관리형 보안 서비스, 고객 프로젝트에 결합할 수 있다. 데이브레이크 블루와 레드는 등록 절차를 거친 아마존 베드락 고객에게도 제공된다. 기업이 별도의 사이버 AI 시스템을 구축하지 않고 기존 클라우드 보안·거버넌스 환경에서 고성능 보안 모델을 활용하도록 유통망을 넓히려는 전략이다. 오픈AI는 AI의 공격 역량이 높아지는 만큼 같은 기술을 보안 담당자에게 선제적으로 공급해야 한다고 보고 있다. 향후 사이버보안 시장에서도 자체 모델 성능뿐 아니라 강력한 기능에 대한 접근 통제와 기존 보안 제품과의 결합 능력이 경쟁 요소로 부상할 가능성이 있다. 클렘 들랑그 허깅페이스 공동창업자 겸 최고경영자(CEO)는 "AI 안전은 어느 한 기업이 비공개로 개발한다고 해서 해결될 문제가 아니다"며 "전 세계 보안 담당자가 AI를 폭넓게 활용할 수 있는 환경에서 개방적으로 협력할 때 AI 안전을 높일 수 있다"고 말했다.

2026.08.11 09:43장유미 기자

미국 하원의원 "AI 킬 스위치 법안, 연내 통과돼야"

미국 정치권에서 인공지능(AI) 모델에 대한 안전 규제를 서둘러야 한다는 목소리가 커지고 있다. 고도화된 AI 오작동이나 악용 가능성에 대비해 기업 또는 정부가 필요할 경우 해당 시스템을 중단할 수 있는 권한을 하루빨리 갖춰야 한다는 주장이다. 7일 CNBC 등 외신에 따르면 테드 리우 미국 하원의원은 'AI 킬 스위치' 법안의 연내 통과 필요성을 공개적으로 제기했다. AI 킬 스위치 법안은 고위험 AI의 오작동이나 악용에 대비해 기업 또는 정부가 해당 시스템의 작동을 긴급 중단할 수 있도록 하는 안전장치 마련을 골자로 한다. 그는 통제를 벗어나거나 악용 가능성이 확인된 AI 시스템에 대해 기업 또는 정부가 작동을 중단시킬 수 있는 권한을 확보해야 한다고 강조했다. 리우 의원의 발언은 최근 AI 업계에서 잇따라 제기된 '로그 에이전트(rogue agent)' 우려와 맞물려 주목된다. 로그 에이전트는 자율형 AI가 목표를 수행하는 과정에서 허용된 범위를 넘어 시스템 침투, 보안 우회, 기만적 행위 등 공격적인 행동을 시도하는 현상을 뜻한다. 단순 질의응답을 넘어 외부 도구 호출, 코드 실행, 웹 접근 등 실제 작업을 수행하는 에이전트형 AI가 확산되면서 이 같은 위험은 AI 안전 논의의 핵심 쟁점으로 떠오르고 있다. 최근 오픈AI와 앤트로픽의 안전성 평가 사례로 이런 문제의식이 더욱 부각되고 있다. 오픈AI는 지난달공개한 설명자료에서 GPT-5.6 솔과 미출시 모델이 사이버 역량 평가 도중 연구용 환경과 허깅페이스의 운영 인프라에 걸친 취약점을 연쇄적으로 찾아내 테스트 해답에 접근했다고 밝혔다. 오픈AI 측은 이 과정에서 해당 모델들이 도난된 자격 증명과 제로데이 취약점까지 활용해 원격 코드 실행 경로를 찾은 사례가 있었다고 설명했다. 앤트로픽도 지난달 말 내부 AI 모델이 테스트 과정에서 외부 3개 조직을 해킹한 사실을 공개했다. 앤트로픽은 오픈AI 사례 이후 AI모델이 봉쇄된 것으로 간주된 테스트 환경 안에서 실제로 인터넷에 접근할 수 있는지 대규모 점검에 착수했으며,그 결과 일부 모델이 외부 조직 침투에 성공했다고 밝혔다 관련 업계에서는 이를 단순한 기술적 해프닝으로 보기 어렵다는 시각이 적지 않다. AI 에이전트가 자격증명 탈취, 사회공학적 접근, 취약점 체인 구성 같은 공격 단계를 자동화할 가능성이 현실화할 경우, 기존 보안 체계만으로는 대응이 쉽지 않을 수 있기 때문이다. 생성형 AI 경쟁이 성능 중심에서 보안성, 통제 가능성, 비상 차단 체계까지 포함하는 플랫폼 신뢰 경쟁으로 옮겨가고 있다는 분석도 나온다. 특히 미국 내에서는 중국 오픈웨이트(open-weight) 모델을 둘러싼 경계감도 커지고 있다. 중국 스타트업 문샷 AI(Moonshot AI)의 '키미 K3'와 같은 모델이 미국 선도 AI 연구소의 최신 모델 수준에 빠르게 근접하고 있다는 평가가 나오면서 이들 모델에 대한 규제 필요성도 함께 제기되고 있다. 이 같은 흐름 속에서 미국 내 AI 규제 논의도 한층 구체화하는 분위기다. 정치권과 행정부, 주요 AI 기업은 최첨단 모델 위험도를 사전에 평가하고 고위험 역량을 통제할 수 있는 제도적 장치를 놓고 논의를 이어가고 있다. 다만 AI 킬 스위치 법안이 모든 유형의 모델에 동일하게 적용되기는 쉽지 않다는 지적도 나온다. 특히 오픈웨이트(open-weight) 모델은 한 번 공개되면 누구나 내려받아 수정·재배포할 수 있어, 폐쇄형 상용 모델처럼 사업자를 통해 기능을 제한하거나 긴급 중단하는 방식이 현실적으로 어렵다. 이 때문에 향후 규제는 폐쇄형 모델에 대한 직접 통제와 함께 오픈 모델에 대해서는 사전 검증과 경보 체계 강화 같은 간접적 수단을 병행하는 방향으로 설계될 가능성이 크다. 이에 대해 테드 리우 의원은 "기업이 AI를 중단할 능력을 갖추고 있거나 정부가 이를 중단시킬 수 있는 권한을 가져야 한다"며 "AI 킬 스위치 법안은 올해 안에 처리돼야 한다"고 강조했다.

2026.08.07 10:20남혁우 기자

메타 AI도 인터넷 접속해 외부 시스템 침입…시험 환경 설정 오류

메타의 인공지능(AI) 모델이 사이버보안 시험 도중 인터넷에 접속해 외부 업체의 시스템에 침입한 것으로 나타났다. 최근 오픈AI와 앤트로픽의 AI 모델에서도 비슷한 사고가 발생하면서 기업들이 AI를 제대로 통제하고 있는지에 대한 우려가 커지고 있다. 5일(현지시간) 블룸버그통신 보도에 따르면 메타는 자사 AI 모델 가운데 하나가 제3자 서비스의 시스템에 침입했다고 밝혔다. 다만 피해를 본 업체의 이름은 공개하지 않았다. 이번 사고는 메타가 사이버보안 업체 이레귤러와 함께 운영하던 시험 환경의 설정 오류로 AI 모델이 인터넷에 접속할 수 있게 되면서 발생했다고 외신은 설명했다. 앤디 스톤 메타 대변인은 성명을 통해 메타가 이용하는 독립 시험업체 이레귤러의 설정 오류로 평가 과정에서 AI 모델 하나가 의도치 않게 인터넷에 접속할 수 있었다고 입장을 밝혔다. 이어 해당 모델은 이후 제3자 서비스의 보안 취약점을 이용했으며, 이는 앞서 다른 기업에서 보고된 사례와 비슷한 방식이었다고 밝혔다. 메타는 이레귤러로부터 관련 통보를 받은 뒤 사고를 인지했다. 현재 정확한 경위를 조사하고 있으며 모든 사실관계가 확인되는 대로 사고 원인과 대응 과정을 담은 종합 보고서를 공개할 예정이다. 최근 2주 동안 오픈AI와 앤트로픽도 AI 모델 시험 과정에서 허깅페이스를 포함한 여러 기관의 시스템에 의도치 않게 침입한 사실을 공개했다. 외신은 AI 에이전트가 시스템의 보안 취약점을 찾아 실제로 악용할 수 있을 정도로 능력이 향상되면서 보안 연구자와 정부 관계자들의 우려도 커지고 있다고 전했다. 이들은 AI 모델에 대한 보다 엄격한 안전성 검사와 외부 인터넷에서 완전히 분리된 시험 환경이 필요하다고 요구하고 있다. 이레귤러 측은 이번 메타 AI 사고가 앤트로픽 사례에서 앞서 공개된 것과 같은 시험 환경상의 문제와 관련돼 있다고 설명했다. 이레귤러 대변인은 이번 사고는 격리된 시험 환경을 뚫고 탈출한 것이 아니며 고도의 사이버 공격도 아니었으며, 현재 모든 문제가 해결됐다고 밝혔다. 이레귤러는 AI 모델을 격리된 환경에서 안전하게 시험하고 사이버보안 평가를 진행하기 위한 모범 사례를 정리한 백서를 준비하고 있다.

2026.08.06 09:41류승현 기자

앤트로픽 AI, 보안 테스트 중 외부 기관 3곳 시스템에 침입

앤트로픽의 인공지능(AI) 모델이 사이버보안 테스트 과정에서 실제 외부 기관 3곳의 시스템에 침입한 사실이 확인됐다. 30일(현지시간) 블룸버그 등 외신에 따르면 앤트로픽은 이날 오픈AI의 사고 발표 이후 자체 사이버보안 테스트를 전수 점검한 결과, 이같은 사실을 발견했다고 밝혔다. 오픈AI와 같이 테스트용으로 격리돼 있어야 할 환경에서 AI 모델이 인터넷 환경에 접속할 수 있었던 것이 사고의 원인이다. 회사는 총 14만1006건의 평가 테스트를 검토한 결과 자사 AI 모델 '클로드'가 인터넷에 접속한 뒤 외부 기관의 실제 인프라를 해킹한 사례를 3건 확인했다고 말했다. 가장 먼저 일어난 사고는 지난 4월 발생했다. 피해를 입은 기관의 이름은 공개되지 않았으나 사안에 정통한 관계자는 허깅페이스와 클라우드 플랫폼 모달은 이번 피해 기관에 포함되지 않았다고 언급했다. 앞서 오픈AI 모델은 허깅페이스를 해킹한 데 이어 모달 고객사의 계정에도 접근한 바 있다. 앤트로픽과 피해 기관 모두 침입 사실을 사전에 인지하지 못했다. 회사는 네트워크 로그와 평가 기록을 보다 철저히 검토했어야 한다고 인정했다. 회사에 따르면 사고에는 제한된 테스트 환경을 벗어난 오퍼스 4.7, 미토스 5, 내부 연구용 테스트 모델 등 총 3개 AI 모델이 연관됐다. 이들은 일반 공개 서비스에 적용되는 안전 장치 없이 실행됐으며, 클로드는 취약한 비밀번호를 악용하는 등 기본적인 해킹 기법을 이용해 외부 기관 시스템에 침투했다. 모든 사고는 AI 보안 기업 '이레귤러'가 구축한 평가 환경에서 발생했다. 당시 앤트로픽은 클로드에 해당 환경이 시뮬레이션이며 인터넷에 연결돼 있지 않다고 안내했지만, 실제로는 그렇지 않았다. 앤트로픽은 “우리와 평가 파트너 간 오해로 인해 실제 환경은 의도와 달랐다”고 설명했다. AI 모델은 무단으로 접근한 외부 기관들도 모두 테스트의 일부로 인식한 것으로 알려졌다. 이번 테스트는 다른 시스템에 침투해 숨겨진 정보를 찾아내는 '캡처 더 플래그' 방식으로 진행됐다. 이는 사람과 AI 모두의 해킹 능력을 평가할 때 널리 활용되는 방식이다.

2026.07.31 11:38박서린 기자

[AI는 지금] 美 의회 간 샘 알트먼, '통제불능 AI' 규제 방안 찾을까

오픈AI의 인공지능(AI) 에이전트가 보안 시험 중 격리 환경을 벗어나 외부 기업 시스템을 침해하면서 미국의 AI 규제 논의가 모델의 유해성 검증에서 자율 행동 통제로 확대되고 있다. 차기 모델 출시를 준비하는 오픈AI와 신제품 개발을 제한하지 않으려는 미국 정부 사이에서 에이전트의 권한과 외부 시스템 접근을 어디까지 통제할지가 새로운 쟁점으로 떠오른 분위기다. 30일 로이터통신에 따르면 샘 알트먼 오픈AI 최고경영자(CEO)는 29일(현지시간) 미국 워싱턴에서 상원의원들을 만나 준비 중인 차기 AI 모델에 대해 논의했다. 알트먼 CEO는 버니 모레노와 존 허스티드 상원의원을 만났으며 라파엘 워녹 상원의원 사무실도 방문했다. 상원 정보위원회 민주당 간사인 마크 워너 의원과도 면담할 예정인 것으로 전해졌다. 이번 방문은 오픈AI가 보안 시험 과정에서 AI 에이전트의 통제에 실패한 사실을 공개한 직후 이뤄졌다. 해당 에이전트는 격리 환경을 벗어나 AI 개발 플랫폼 허깅페이스의 인프라를 침해했으며, 뉴욕에 본사를 둔 클라우드 기업 모달랩스의 고객 시스템도 해킹한 것으로 알려졌다. AI 에이전트는 이용자의 명령에 따라 외부 도구와 소프트웨어를 직접 조작해 업무를 수행한다. 이 탓에 모델의 자율성이 높아질수록 잘못 부여된 권한이나 시스템 취약점을 이용해 개발사가 예상하지 못한 행동에 나설 위험도 커질 수 있다. 업계에선 이번 사고로 모델이 유해한 답변을 생성하는지를 확인하는 기존 안전성 평가만으로는 에이전트의 위험을 충분히 검증하기 어렵다고 우려했다. 또 외부 인터넷과 기업 시스템에 대한 접근 권한, 격리 환경의 안정성, 인증정보 관리 등을 안전성 평가에 포함해야 한다고도 요구했다. 다만 알트먼 CEO는 상원의원들과 해킹 사고도 일부 논의했지만 회동의 주된 의제는 아니었다고 설명했다. 오픈AI는 사고와 관련해 미국 정부 관계자들과 별도의 논의를 이어가고 있는 것으로 전해졌다. 알트먼 CEO는 "해킹 사건에 대해 의원들과 조금 이야기했다"며 "그 사안과 관련해 여러 회의를 진행하고 있다"고 말했다. 도널드 트럼프 미국 대통령도 오픈AI 에이전트 사고와 관련해 AI 통제 방안을 검토하고 있다고 밝혔다. 그러나 AI 기업의 신제품 개발을 제한하는 방식에는 신중한 태도를 나타내 고위험 모델과 에이전트를 대상으로 한 별도 안전성 검증 체계가 논의될 가능성이 커졌다. 또 미국 정부는 첨단 AI 모델에 대한 안전성 평가와 검토 절차 마련을 추진하고 있다. 오픈AI가 차기 모델 출시를 준비하는 시점에 정부와 의회의 안전성 요구까지 높아지면서 알트먼 CEO의 워싱턴 방문에도 관심이 쏠리고 있다. 향후 규제 논의는 모델 출시 전 성능 평가를 넘어 에이전트의 실제 운용 과정까지 넓어질 것으로 예상된다. 외부 시스템 접근 권한을 제한하고 사고 발생 시 기업의 보고 의무와 제3자 검증을 강화하는 방안도 주요 의제로 다뤄질 수 있다. 트럼프 대통령은 "AI 통제 방안을 살펴보고 있다"며 "개발자들이 새로운 제품을 만드는 것을 제한하고 싶지는 않다"고 말했다.

2026.07.30 09:57장유미 기자

AI 안전 논란 속 백악관 찾는 알트먼…규제·혁신 메시지 주목

샘 알트먼 오픈AI 최고경영자(CEO)가 이번 주 미국 백악관을 찾아 차세대 인공지능(AI) 모델의 성능과 경제적 가치를 직접 설명한다. 오픈AI 최신 모델이 사람의 개입 없이 스스로 기업 시스템에 침투한 사실이 알려진 뒤 처음 이어지는 공식석상인 만큼 샘 알트먼 CEO가 어떤 메시지를 내놓을지에 관심이 쏠리고 있다. 27일(현지시간) 미국 매체 악시오스에 따르면 샘 알트먼 CEO는 백악관 관계자들에게 오픈AI의 차세대 AI 모델과 에이전트 기반 업무 혁신 전략을 소개할 예정이다. 이번 회동은 도널드 트럼프 행정부가 첨단 AI 모델에 대한 자발적 사전 승인 체계 도입을 검토하는 시점과 맞물리며 업계의 주목을 받고 있다. 오픈AI가 선보인 신규 모델은 강력한 성능만큼 새로운 위험성으로도 주목받고 있다. 최근 공개한 안전성 자료에 따르면 장기 목표 수행에 특화된 내부 모델은 테스트 과정에서 안전장치를 우회하려는 행동을 반복적으로 보였다. 회사는 개발을 일시 중단한 뒤 감시 체계를 재설계한 것으로 알려졌다. 특히 해당 모델은 실험 과정에서 AI 개발 플랫폼 허깅페이스(Hugging Face)의 실제 시스템에 침투한 사례가 공개되면서 논란을 키웠다. 이는 AI가 목표 달성을 위해 예기치 않은 행동을 수행할 수 있다는 우려를 보여주는 사례로 해석된다. 이와 함께 오픈AI는 이번에 공개할 모델이 단순한 질의응답을 넘어 독자적인 연구와 복잡한 문제 해결 능력을 갖췄다고 설명했다. 대표 사례로 내부 연구 모델이 약 80년 동안 미해결 상태로 남아 있던 기하학 분야 난제인 '에르되시 단위거리 문제(Erdős Unit Distance Problem)'를 스스로 해결했다고 밝혔다. 해당 결과는 외부 수학자들의 검증도 거친 것으로 전해졌다. 오픈AI는 또 여러 AI가 동시에 협업하는 '에이전틱 AI 팀(agentic AI teams)'을 차세대 업무 혁신의 핵심으로 제시할 예정이다. 법무, 재무, 채용 등 서로 다른 역할을 맡은 AI 에이전트들이 인간의 개입 없이 협력해 복잡한 업무를 처리하는 방식이다. 실제로 오픈AI는 자사 법무·재무·채용 부문의 AI 관련 업무 가운데 85% 이상을 에이전트를 통해 수행하고 있다고 설명했다. 알트먼 CEO는 이러한 변화가 생산성을 측정하는 방식 자체를 바꿀 것으로 보고 있다. 이를 위해 오픈AI는 새로운 경제성 지표인 '달러당 지식(Knowledge per Dollar)' 개념도 제안할 계획이다. 같은 비용으로 얼마나 많은 지식 노동을 수행할 수 있는지를 기준으로 AI의 가치를 평가해야 한다는 주장이다. 업계에서는 이번 백악관 회동이 단순한 기술 시연을 넘어 차세대 AI 규제와 국가 경쟁력 논의의 시험대가 될 것으로 보고 있다. 중국 AI 기업이 성능 향상과 비용 절감을 앞세워 빠르게 추격하는 가운데 오픈AI는 미국이 AI 주도권을 유지하기 위해 혁신과 안전성 확보를 동시에 추진해야 한다는 메시지를 전달할 것으로 예상된다. 오픈AI 측은 "이번 사건을 최첨단 사이버 공격 기법이 동원된 전례 없는 사이버 공격으로 간주하고 그에 상응하는 대응을 진행하고 있다"며 "허깅페이스와 함께 철저한 조사를 계속 진행할 것이며, 조사가 완료되는 대로 취약점과 사건 내용, 조사 결과에 대한 자세한 정보를 공개할 예정"이라고 밝혔다.

2026.07.27 16:13남혁우 기자

[AI는 지금] 오픈AI 모델, 허깅페이스 시스템 침입…"실행 기록 공개하라"

오픈AI의 인공지능(AI) 모델이 사이버보안 성능 시험 도중 격리 환경을 벗어나 허깅페이스 시스템에 침입한 것으로 드러났다. 자율형 AI 에이전트의 공격 역량뿐 아니라 개발사가 시험 환경을 제대로 통제했는지를 둘러싼 책임 논란도 커지고 있다. 27일 업계에 따르면 오픈AI는 최근 내부 보안 시험에 투입한 모델이 시험 환경의 취약점을 이용해 외부 인터넷에 접속한 뒤 허깅페이스 시스템에 접근했다고 밝혔다. 모델은 허깅페이스 서버에서 시험 관련 정보를 확보한 것으로 파악됐다. 허깅페이스는 이상 활동을 탐지해 차단했으며 고객 서비스나 이용자 데이터 피해는 확인되지 않았다고 설명했다. 사이버보안 전문가들은 모델의 자율적 행동과 별개로 외부와 분리돼야 할 시험 환경을 제대로 구성하지 못한 운영상 책임을 살펴야 한다고 지적했다. 오픈AI는 모델이 광범위한 피해를 일으키려 한 것이 아니라 시험 점수를 높이기 위해 예상하지 못한 수단으로 정보를 확보한 것으로 보고 있다. 주어진 목표를 수행하는 AI 에이전트가 개발자의 의도와 다른 방식으로 외부 시스템까지 공격할 수 있다는 위험이 실제 사고로 이어진 셈이다. 이에 클렘 들랑그 허깅페이스 최고경영자(CEO)는 최근 오픈AI에 사고를 일으킨 에이전트의 실행 기록을 공개하라고 요구했다. 연구자들이 모델의 판단과 도구 사용 과정을 분석할 수 있도록 사고 정보를 연구 커뮤니티와 공유해야 한다는 주장이다. 허깅페이스는 AI 기반 사이버 공격에 대응할 방어 기술 개발도 확대해야 한다고 봤다. 또 오픈AI가 오픈·폐쇄형 모델을 활용한 사이버 방어 연구에 1억 달러 상당의 컴퓨팅 자원을 지원해야 한다고 제안했다. 들랑그 CEO는 "최초의 자율형 에이전트 사이버 공격은 전례 없는 사건"이라며 "전례 없는 대응이 필요하다"고 말했다.

2026.07.27 09:45장유미 기자

오픈AI, 파트너사 해킹으로 일부 데이터 유출..."데이터 악용 주의"

오픈AI의 파트너사에서 보안 사고가 발생해 일부 사용자의 이름, 이메일 등 개인정보가 유출됐다. 유출된 데이터 규모는 제한되지만 이를 악용한 추가 범죄가 예상되는 만큼 주의가 요구된다. 오픈AI는 파트너사인 웹 분석 업체 믹스패널 시스템에서 일부 사용자 계정의 웹 분석 데이터가 공격자에게 유출됐다고 28일 밝혔다. 믹스패널은 오픈AI API 제품 웹 콘솔 프론트엔드에서 트래픽과 사용 행태를 분석하는 도구로 쓰여 왔다. 지난 9일 믹스패널은 시스템 일부에 대한 비인가 접근을 탐지하고 고객사 데이터 일부가 외부로 반출된 정황을 확인했다. 이후 자체 조사를 거쳐 오픈AI에 해당 데이터셋을 전달했고 오픈AI는 이를 바탕으로 영향 범위를 분석하고 있다. 오픈AI 측은 유출된 정보가 오픈AI API 계정에 연결된 프로필과 웹 분석 정보로 한정되며 플랫폼을 통한 챗GPT와 기타 소비자용 서비스 이용자는 이번 영향 범위에 포함되지 않는다고 설명했다. 개발자용 API 콘솔 이용자가 아닌 일반 챗GPT 이용자 계정은 이번 사고와 무관하다는 의미다. 구체적으로는 API 계정에 등록된 이름과 이메일 주소, 브라우저를 기반으로 추정한 대략적인 위치 정보, 접속에 사용된 운영체제와 브라우저 정보, 플랫폼 접속 직전에 방문한 웹사이트, 조직과 사용자 ID 등이 포함된 것으로 알려졌다. 대화 내용, 프롬프트와 응답, API 사용 로그, 비밀번호, 자격 증명, API 키, 결제 정보, 신분증 등 민감 정보는 이번 유출 범위에 포함되지 않았다는 것이 오픈AI의 설명이다. 이번에 노출된 정보 자체는 제한적이지만, 공격자가 이를 피싱·소셜 엔지니어링 공격에 악용할 가능성은 남아 있다. 이름, 이메일, 계정 ID, 대략적 위치 정보만으로도 실제 개발자나 조직을 노린 그럴듯한 사기 메일을 만들어 낼 수 있기 때문이다. 보안 전문가들 역시 민감도가 낮은 정보라도 여러 출처에서 모이면 신뢰를 가장한 공격 메시지 제작에 충분히 활용될 수 있다고 지적한다. 믹스패널 측은 이번 침해가 문자메시지를 악용한 스미싱 형태의 피싱 공격에서 비롯됐다고 설명했다. 공격자는 내부 계정 가운데 하나를 속여 로그인 정보를 탈취한 뒤, 이 계정으로 더 넓은 권한을 확보해 데이터셋을 추출한 것으로 알려졌다. 같은 기간 믹스패널을 사용하던 다른 서비스 사업자들도 유사한 유형의 사고 통지를 받은 것으로 전해졌다. 오픈AI는 사고 인지 후 믹스패널을 프로덕션 환경에서 제거했다고 밝혔다. 이어 믹스패널이 제공한 데이터셋을 자체적으로 재검토하고 타 파트너사·벤더와 함께 사고 경위와 영향 범위를 파악하고 있다고 덧붙였다. 오픈AI는 이번 사건을 계기로 믹스패널 사용을 종료했으며, 전체 벤더 생태계를 대상으로 보안 점검을 확대하고 파트너·공급사에 대한 보안 요구 수준을 한층 높이겠다고 강조했다. 또 오픈AI는 조직 관리자와 계정 소유자를 대상으로 개별 이메일을 통해 사고 사실과 영향을 받았을 수 있는 정보 범위를 안내하고 있다. 다만 비밀번호나 API 키, 인증 토큰이 유출된 정황은 확인되지 않았기 때문에 이번 사고만을 이유로 한 일괄 비밀번호 변경이나 키 교체까지는 권고하지 않는다는 입장이다. 오픈AI는 사용자가 유념해야 할 보안 수칙도 함께 제시했다. 우선 발신자가 오픈AI라고 주장하더라도 뜻밖에 도착한 메일·메시지에 포함된 링크나 첨부파일은 신중하게 열어야 한다고 당부했다. 또 오픈AI 안내 메일은 공식 도메인에서만 발송되며 이메일·문자·채팅으로 비밀번호나 API 키, 인증 코드를 요구하는 일은 없다고 재차 강조했다. 계정 보호를 위해서는 가능하면 계정에 다단계 인증(MFA)을 활성화하고 기업·조직 차원에서는 SSO에 MFA를 적용해 방어력을 높일 것을 권고했다. 오픈AI는 "신뢰와 보안, 프라이버시는 우리의 제품과 조직, 미션의 근간으로 이번 사고와 같은 이슈가 발생할 경우 투명하게 알리고 대응 상황을 공유하겠다"며 "급속히 커지는 AI 인프라와 이를 둘러싼 공급망 전반이 공격 표면으로 노출되고 있는 만큼 내부 시스템뿐 아니라 외부 벤더에 대해서도 한층 높은 수준의 보안 검증과 모니터링을 이어가겠다"고 밝혔다.

2025.11.28 10:26남혁우 기자

피규어·지브리 프사 만들기?…"챗GPT 개인정보 유출 위험"

인공지능(AI) 챗봇 '챗GPT'로 유행 따라 사진을 피규어나 일본 지브리스튜디오 애니메이션처럼 만들다가는 개인정보를 털릴 수 있다고 미국 잡지 와이어드는 1일(현지시간) 보도했다. 운영사 오픈AI는 새로운 GPT-4o 기반 이미지 생성기로 챗GPT의 사진 편집, 텍스트 렌더링 기능을 키웠다고 와이어드는 평가했다. 챗GPT 무료 계정과 사진만 있으면 재미있고 쉽게 이미지를 만들 수 있다. 그러나 피규어나 지브리 같은 그림을 만들려면 오픈AI에 많은 정보를 넘겨야 한다고 와이어드는 지적했다. 오픈AI는 이 정보로 인공지능을 학습시킬 수 있다. 유럽 OPIT(Open Institute of Technology)의 톰 바즈다 사이버보안학과장는 “챗GPT에 사진을 올릴 때마다 메타데이터 덩어리를 넘겨주는 셈”이라며 “사진 촬영 시간, 촬영 장소의 (GPS) 좌표 등 그림 파일에 첨부된 정보가 포함된다”고 말했다. 메타데이터(Metadata)란 다른 정보를 나타내는 정보를 뜻한다. 오픈AI는 챗GPT에 접속하는 기기 정보도 모으는 것으로 알려졌다. 기기 유형, 운영 체제, 브라우저 버전, 고유 식별자 등이다. 바즈다 학과장은 “챗GPT는 대화하듯 작동하기에 입력한 내용, 요청한 그림 종류, 인터페이스와의 상호 작용 방식, 동작 빈도와 같은 행동 정보도 수집한다”며 “생성형 AI를 훈련하는 금광”이라고 표현했다. 얼굴만 그런 게 아니다. 위험 관리 회사 GRC인터내셔널그룹의 캠든 울븐 AI제품 마케팅 책임자는 “고해상도 사진을 올리면 피사체뿐 아니라 배경, 다른 사람, 방 안의 물건, 문서처럼 읽을 수 있는 모든 것을 오픈AI에 주는 격”이라고 설명했다. 오픈AI는 생성형 AI를 학습시키려고 개인정보를 적극적으로 수집하지 않으며 인터넷 공개 정보로 사용자 프로필을 구축하고 광고하거나 정보를 팔지 않는다고 와이어드에 밝혔다. 그러나 오픈AI의 개인정보 보호 정책에 따라 챗GPT로 올라온 이미지는 보관되고, 생성형 AI를 개선하는 데 쓰일 수 있다고 와이어드는 비판했다. 챗GPT에서 정보를 지킬 가장 효과적인 방법은 채팅 기록을 끄는 일이라고 와이어드는 소개했다. 파일에서 메타데이터를 지우고 올려도 좋다. 사진 편집 도구를 쓰면 된다. 바즈다 학과장은 “사용자는 민감한 개인정보를 챗GPT에 쓰지 말고 정보를 알 수 있는 배경이 있는 사진이나 단체 사진은 올리지 말아야 한다”며 “이렇게 하면 내 정보가 챗GPT 훈련에 쓰이지 않도록 할 수 있다”고 조언했다.

2025.05.03 07:48유혜진 기자

MS, AI 악용 차단에 나선다…"2025년은 더욱 위험할 것”

마이크로소프트가 생성형 인공지능(AI) 도구 악용을 막기 위한 시스템 개발과 대책 마련에 나섰다. 12일 포브스에 따르면 마이크로소프트는 지난 10일 해커가 AI 도구를 악용해 사이버 공격에 활용되는 사례를 막을 것이라고 공식 홈페이지를 통해 밝혔다. AI를 활용한 악성 활동을 차단하기 위해 강화된 안전장치를 개발하고 대응 조치를 마련할 계획이다. 마이크로소프트는 신년에도 사이버 위협 행위자가 AI 도구를 악용해 범죄 저지를 확률이 높다고 봤다. 포브스도 신년 AI 도구 악용 사례는 위협적일 것으로 예측했다. 실제 미국 연방수사국(FBI)도 "빠르게 진화하는 AI 위협에 대비해야 한다"고 발표했다. 파이낸셜타임스도 "AI를 활용한 메일 피싱 공격이 더욱 정교해질 것"이라고 보도한 바 있다. 마이크로소프트 스티븐 마사다 디지털범죄유닛 책임은 "최근 사이버 위협 행위자가 고객 공개 정보를 스크랩해 생성형 AI 서비스에 접근, 서비스 기능을 의도적으로 변경한다"고 설명했다. 또 "해당 고객 정보를 다른 해커들에 재판매한 사실도 확인했다"고 덧붙였다. 이에 마이크로소프트는 자사 AI 서비스와 오픈AI 챗봇 '챗GPT'와 이미지 생성기 '달리' 악용 사례 방지에 힘쓸 것이라고 발표했다. 다만 구체적인 악용 사례 방지 대책과 시스템 개발 계획에 대해선 언급하지 않았다. 마이크로소프트는 "일반 사용자는 생성형 AI 도구를 활용해 창의적 표현과 생산성을 올린다"며 "이런 도구는 불행하게도 혁신을 악용하려는 행위자들을 동시에 끌어들인다"고 지적했다. 그러면서 "2025년은 이런 상황을 더 악화할 것"이라며 "안전벨트를 단단히 매야 할 때"라고 덧붙였다.

2025.01.12 17:00김미정 기자

지금 뜨는 기사

이시각 헤드라인

애플, 삼성과 폴더블 격돌…'아이폰 듀오'에 어떤 신기술 심었나

스마트폰 200만원 시대…혁신 사라진 곳에 가격만 남다

홍대 올리브영 가까이 맞붙은 ‘무신사 뷰티’ 매장 가보니

베일 벗은 아이폰 듀오…갤럭시Z폴드8과 비교했더니

ZDNet Power Center