• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
AI페스타
배터리
양자컴퓨팅
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'위장'통합검색 결과 입니다. (9건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

떠나는 한기정 공정거래위원장 "AI·데이터 시장 불공정 대응 역량 높여야"

한기정 제21대 공정거래위원장이 15일 임기를 마치고 위원장직에서 물러나며 퇴임사를 통해 “국내 기업은 AI 분야에서 아직 초기 단계이며, 시장을 선점한 업체들의 불공정행위에 취약하다”며 공정위의 대응 역량 강화를 당부했다. 한 위원장은 지난 2022년 9월 취임 이후 ▲불공정행위 엄정 대응 ▲대기업집단 제도 합리화 ▲중소기업·소상공인 상생기반 구축 ▲사건처리 인프라 강화 등을 핵심 과제로 추진해왔다. 온라인 플랫폼 독과점 남용 조치, '온라인 플랫폼 독과점 심사지침' 제정, 이동통신·철강·백신·특판가구 담합 제재 등이 주요 성과로 꼽혔다. 소비자 보호 측면에서는 다크패턴 규율체계 개선, 슈링크플레이션·웨딩 분야 피해 대응, 확률형 아이템 집단분쟁 보상 등을 진행했다. 대기업집단 제도는 동일인 지정기준 신설, 친족범위와 공시부담 완화로 개편했으며, 건설·식자재 유통 분야 내부거래 감시도 병행했다. 또한 하도급 납품단가 연동제, 가맹 필수품목 협의제 도입 등 제도적 성과를 냈고, 배달플랫폼·모바일상품권 분야에서 상생협의체를 운영했다. 조직 운영에서도 조사·정책 부서를 40여 년 만에 분리하고 사건처리 절차를 정비해 투명성을 강화했다. 이 같은 성과로 공정위는 2023년 국민권익위 청렴도 평가에서 최고 등급을 받았다. 한 위원장은 퇴임사를 통해 향후 과제로 ▲AI·데이터 시장 불공정 대응 역량 강화 ▲이해관계자와의 적극적 소통 ▲피해자 실질적 구제 강화를 제시했다. 그는 “공정위의 역할 하나하나가 국민 생활에 직접적인 영향을 미친다”며 “앞으로도 불공정행위로 인한 피해 구제에 힘써 국민의 일상 회복에 기여하길 바란다”고 밝혔다.

2025.09.15 11:00류승현

주병기 "온플법 독점규제는 통상 여건상 보류, 공정화법은 추진"

주병기 공정거래위원장 후보자가 '온라인플랫폼법' 중 독과점 규제 조항은 미국의 통상 압력 때문에 당분간 추진이 어렵다고 밝혔다. '공정화법'에 대해서는 국내 시장의 특수성을 고려해 국회와 협력해 나가겠다고 설명했다. 주 후보자는 5일 국회 정무위원회에서 열린 인사청문회에서 “통상 협상이 중요한 이슈이기 때문에 독점규제법을 과감하게 추진하기는 어려운 여건”이라며 “미국 정부가 전례 없는 요구를 하고 있고, 유럽이나 일본의 독과점 규제 움직임에도 강경하게 반대하는 입장”이라고 설명했다. 그리고 “국내와 다른 선진국을 비교해 우리가 과도한 수수료를 책정하고 있다면 뭔가 행동에 나서야 할 것”이라면서도 “어떤 방식으로 이 문제를 해결할지는 좀 더 고민해 봐야 한다”고 답변했다. 온플법은 플랫폼 기업의 영향력을 견제하기 위해 마련된 법안으로, 일정 규모 이상의 플랫폼을 '시장 지배자'로 지정해 자사 서비스 우대, 끼워팔기, 다른 플랫폼 병행 이용 제한, 최혜대우 요구 같은 반경쟁적 행위를 사전에 막는 독점규제법, 플랫폼과 입점업체를 보호하는 중개거래 공정화법 두 가지로 구성된다. 미국 정부는 이 중 독점규제법이 자국 빅테크 기업을 겨냥한 불합리한 규제라고 반발하며 우리 정부를 압박하고 있으며, 지난 4일 앤드루 퍼거슨 미국 연방거래위원회(FTC) 위원장 역시 미국 기업에 해로운 효과를 주는 규제를 용인하지 않겠다고 언급한 바 있다. 주 후보자는 갑을 관계를 다루는 공정화법에 대해서는 “빅테크 기업이 독점적 지위를 활용해 다른 시장 참여자들을 착취하는 행위는 계속될 수밖에 없다”며 “갑을관계 개선은 통상 문제와 독립적인 사안이자 한국적 특성이 반영된 오래된 문제”라고 설명했다. 이어 “플랫폼 경제 전반으로 확산되는 상황이기 때문에 국회와 협의해 법 개정을 추진하겠다”고 강조했다. 배달 플랫폼 문제와 관련해서는 무료 배달 광고의 불공정성을 지적하며 실효성 있는 조치를 예고했다. 국민의힘 윤한홍 의원이 “배달비용을 소비자나 자영업자가 부담하면서도 플랫폼이 무료 배달이라고 홍보하는 것이 적절하냐”고 묻자, 주 후보자는 “불공정성이 분명하다”면서 “왜 시정이 늦어졌는지 유심히 살펴보겠다”고 답했다. 수수료 상한제에 대한 질의도 이어졌다. 윤 의원이 “수수료 상한제가 도입되면 플랫폼 수익이 줄어들 수 있는데 동의하느냐”고 묻자, 주 후보자는 “수익이 줄어들어야 한다고 생각한다”고 답했다. 다만 “수수료 상한제가 도입되더라도 소비자와 배달 노동자들에게 전가될 수 있는 대비책이 없으면 효과가 없다고 생각한다”며 “그 대비책까지 같이 고려해야 한다고 생각한다”고 강조했다.

2025.09.05 17:16류승현

주병기 공정위원장 후보자 "배달앱 수수료 전담 TF 가동…상한제 신중 검토"

주병기 공정거래위원장 후보자가 배달 업계의 수수료와 불공정거래 문제에 대해 전담 TF 운영, 제도적 장치 마련, 사회적 대화 지원 등 종합 대응 방안을 밝혔다. 주 후보자는 3일 국회 정무위원회에 제출한 인사청문 서면답변에서 배달앱과 관련된 질문에 이 같은 내용을 답변했다. 배달앱의 과도한 중개수수료와 무료배달 비용 전가, 멤버십 끼워팔기 등 불공정거래행위 해결책을 묻자 주 후보자는 “최혜대우 요구 등 다양한 혐의가 접수돼 '배달앱 사건처리 전담 TF'를 구성해 조사를 진행 중”이라며 “법 위반이 확인되면 엄정히 조치하겠다”고 답했다. 또한 김 위원이 국회 차원의 사회적 대화 성공을 위한 공정위 역할을 질의하자 “불공정거래에 대한 엄정한 집행과 입점 업체 부담 완화 장치를 통해 힘의 불균형을 완화하고, 관계부처와 협력해 원활한 운영을 지원하겠다”고 밝혔다. 적정 수수료 산정을 위한 시장분석자료 필요성 지적에는 “의미 있는 상생 방안 도출을 위해 구체적 자료가 필요하다”며 “관계 부처와 협업해 실태를 면밀히 파악하겠다”고 밝혔다. 배달앱 기업의 기습적인 수수료 인상과 배달비 전가 문제를 묻자 주 후보자는 “입점 업체 부담이 큰 상황으로 제도적 장치 마련이 필요하다”며 “거래 투명성 제고, 협상력 강화, 상생 방안 제도화 등을 추진하겠다”고 언급했다. 총 수수료 상한제 도입에 대해선 “독과점 구조로 소상공인 부담이 과중할 경우 정부 개입이 필요하다”면서도 “소비자와 배달 기사 측의 부작용을 세심히 검토해야 한다”고 답했다. 과도한 수수료와 높은 배달비로 인한 자영업자 부담이 늘어간다며 그에 대한 해법을 묻자 주 후보자는 “입점업체의 수수료 부담이 큰 만큼 이를 완화할 제도적 장치 마련이 필요하다”며 “소상공인에게 실질적 도움이 되면서도 부작용을 최소화하는 방안을 모색하겠다”고 말했다. 한편 주 후보자는 지난달 14일 대한상공회의소 1층에서 기자들과 만나 “우리 나라는 지난 20년간 빠른 경제성장을 이뤄냈지만 제도적인 성숙은 뒤쳐져 있다”며 “자본의 횡포로부터 국민과 소상공인을 지키려면 공정위의 조직 효율화와 경제·데이터 분석 역량 확충이 필요하다”고 밝힌 바 있다.

2025.09.03 17:07류승현

"AI 무기화…北, 320개 기업에 위장 취업"

북한과 연계한 공격 세력이 생성형 인공지능(AI)를 활용해 320개 이상 기업에 위장 취업한 것으로 확인됐다. AI의 발전에 따라 가짜 이력서나 딥페이크 인터뷰와 같은 새로운 전술을 통해 기업에 침투하고 있는 것이다. 사이버 보안 기업 크라우드스트라이크는 1일 이같은 내용을 담은 '2025 위협 헌팅 보고서'를 발표했다. 보고서에 따르면 공격자들은 생성형 AI를 무기화해 더 신속하고 광범위한 공격을 단행한 것으로 나타났다. 효율성 제고를 위해 AI 도입에 속도를 내고 있는 기업을 타깃으로 삼고 있다. 특히 AI 에이전트 개발 도구를 목적으로 접근 권한, 자격 증명을 탈취해 악성코드를 배포하는 사례도 늘어나고 있다. 실제로 북한 연계 공격 세력 '페이머스 천리마(FAMOUS CHOLLIMA)'는 생성형 AI를 활용해 내부자 공격 프로그램의 전 과정을 자동화했고, 이들은 지난해에만 320개 이상의 기업에 침투한 것으로 확인됐다. 이는 전년 대비 220%나 증가한 수치다. 이들은 AI 기반 가짜 이력서 작성, 딥페이크 인터뷰, 허위 신분을 통한 기술 과제 수행 등 새로운 전술을 통해 내부자 위협을 지속적으로 확장한 것으로 전해졌다. 뿐만 아니라 러시아 연계 공격 세력 '엠버 베어(EMBER BEAR)'는 친러시아 성향의 메시지를 확산시키는 등 정치적 공격을 일삼았으며, 이란 연계 공격 세력 '차밍 키튼(CHARMING KITTEN)'은 거대 언어 모델(LLM) 기반 피싱 미끼로 미국과 유럽 조직을 표적으로 삼았다. 크라우드스트라이크는 이같은 위협 행위자들이 AI 에이전트 개발 도구의 취약점을 악용해 인증 없이 접근하고, 자격 증명을 탈취하는 사례들이 늘어나고 있다고 밝혔다. AI 에이전트 혁실으로 기업의 보안 환경이 빠르게 변화하고 있는 만큼 자율형 업무 구조가 차세대 공격 표적으로 떠오르고 있다고 설명했다. 아울러 사이버 범죄 조직과 해커들이 AI를 악용해 스크립트를 작성하고 기술 문제를 해결해 악성코드를 개발하는 사례도 늘어나고 있다. 초기 침투부터 랜섬웨어 배포까지 불과 24시간이 걸리지 않은 사례도 확인됐다. 애덤 마이어스(Adam Meyers) 크라우드스트라이크 공격 대응 작전 총괄은 “공격자들은 생성형 AI를 악용해 사회공학 공격에 속도를 내고 있으며, 기업이 도입한 AI 시스템을 주요 표적으로 삼는다”며 “이들은 SaaS 플랫폼, 클라우드 콘솔, 고급 권한 계정을 노리는 동일한 방식으로 AI 에이전트를 공략한다. 향후 사이버 보안의 핵심은 기업이 자사 AI를 어떻게 보호하느냐에 달렸다”고 말했다.

2025.09.01 10:02김기찬

구글에 韓 정밀지도 내줘도 괜찮다?...공정위, 주병기 후보자 관련 보도 해명

공정거래위원회가 주병기 공정거래위원장 후보자의 온라인플랫폼 사후규제 입장과 정밀지도 반출 양보와 관련한 일부 언론 보도에 "사실과 다르다"는 입장문을 냈다. 공정위 인사청문회 준비단은 20일 “일부 언론이 보도한 주 후보자에 대한 기사는 사실과 다르다”고 해명했다. 국민일보는 지난 19일자 보도에서 주 후보자가 지난 2021년 대외경제정책연구원 보고서에 공저자로 참여하며 온라인플랫폼은 사후 규제가 바람직하다는 입장을 담았다고 밝혔다. 이어 이는 사전 규제를 강조해온 여당의 기조와는 반대된다고 풀이했다. 이재명 대통령의 핵심 공약인 온라인 플랫폼 독점규제에 관한 법률(온플법)은 일정 규모 이상의 플랫폼 사업자를 시장지배적 사업자로 지정해 자사 우대와 끼워팔기 등 4대 반경쟁 행위를 사전 규제하는 독점규제법과, 입점업체를 보호하는 중개거래 공정화법으로 나뉜다. 사후규제란 문제가 발생한 이후 법 위반 여부를 확인하고 제재를 가하는 방식의 규제로, 플랫폼 기업의 독점적 행위나 불공정 거래가 나타난 뒤 조사와 심사를 거쳐 처벌하는 구조다. 이 방식은 시장의 자율성과 혁신을 해치지 않는다는 장점이 있지만, 피해가 발생한 뒤에야 개입하기 때문에 소비자나 중소사업자가 이미 피해를 입은 뒤라는 한계가 있다. 반대로 여당이 추진하는 사전규제는 특정 기준에 따라 대형 플랫폼을 미리 지정하고, 불공정 행위를 하지 못하도록 사전에 제한하는 방식이다. 이에 공정위 인사청문회 준비단은 “해당 보고서는 5명의 공저자가 각자 부분을 독립적으로 집필했으며, 주 후보자는 온라인플랫폼 규제 부분을 작성하지 않았다”며 “후보자가 사후 규제 입장을 밝혔다고 단정하는 것은 사실과 다르다”고 반박했다. 또 이데일리는 20일 주 후보자가 전화 인터뷰를 통해 구글 정밀지도 반출과 온플법 중 하나를 포기해야 한다면 정밀지도 반출을 양보하는 편이 낫다는 발언을 했다고 보도했다. 이에 대해 "온플법과 정밀지도 반출 문제를 실제 맞바꾸자는 의미라기보다 온플법 제정 의지를 분명히 한 것"이라고 해석했다. 앞서 구글은 우리 정부에 1:5천 축척의 고정밀 지도 반출을 재차 요청한 바 있다. 구글은 글로벌 서비스 특성상 데이터를 해외 서버에 분산 저장해야 하고, 고정밀 지도를 확보해야 내비게이션 품질을 높일 수 있다고 주장하고 있다. 그러나 전문가들은 단순 길찾기 목적은 명분에 불과하며, 자율주행·드론·스마트시티 등 미래 기술 선점을 위한 사전 작업이라는 시각이다. 특히 고정밀 지도가 위성사진과 결합될 경우 민감 시설 위치 노출 등 보안 위험이 커질 수 있다는 우려도 적지 않다. 준비단은 “당시 발언은 공정거래위원장 지명 전 경제학자로서 개인 의견을 말한 것이며, 일반적인 경쟁법 원칙을 설명한 차원”이라면서 “공정거래위원장 후보자의 공식 입장이나 입법 방향으로 해석돼선 안 된다”고 강조했다.

2025.08.20 10:54류승현

치즈 먹고 자면 악몽 꾼다?...근거 있을까

잠자리에 들기 전 치즈를 먹으면 악몽을 꾼다는 속설은 서양에서 오래 전부터 전해져 왔다. 1904년 미국 신문에 게재된 연재 만화 '치즈 중독자의 꿈(Dream of the Rarebit Fiend)'이 이런 속설을 더 확고히 하기도 했다. 진짜 치즈를 먹고 자면 악몽을 꿀까? 과학전문매체 뉴아틀라스는 캐나다 몬트리올 대학교 연구진이 연구한 논문을 최근 보도하며 이 같은 속설이 아주 근거가 없는 것 같지 않다고 전했다. 해당 연구 결과는 국제학술지 '프론티어즈 인 사이콜로지(Frontiers in Psychology)'에 실렸다. 토레 닐슨 캐나다 몬트리올 대학 정신과 및 중독학과 교수는 "악몽은 유당 불내증 및 기타 식품 알레르기와 밀접한 관련이 있다"며, "이번 연구 결과는 일부 음식에 민감한 사람들의 식습관을 바꾸면 악몽을 완화할 수 있음을 시사한다”고 밝혔다. 연구진은 치즈나 사탕과 같은 특정 음식, 유당불내증 유발 음식, 또 밤늦게 음식을 먹는 식습관이 수면의 질과 꿈에 영향을 미칠 수 있는지에 초점을 맞춰 설문조사를 진행했다. 캐나다 맥이완 대학교의 평균 연령 20세 학부생 1천82명을 대상으로 식습관과 수면의 질, 그들이 꾸는 꿈, 음식 민감성, 그리고 전반적인 건강 상태를 포함하는 조사를 진행했다. 그 결과 식사가 수면에 어떤 식으로든 영향을 미쳤다고 응답한 사람이 40.2%에 달했다. 이 중 24.7%는 특정 음식 섭취가 수면을 악화시켰다고 답했고, 약 20.1%는 음식 섭취가 수면을 개선시켰다고 답했다. 수면을 악화시키는 음식으로는 디저트나 단 음식, 매운 음식, 유제품이 포함됐다. 수면을 개선하는 음식으로는 과일, 채소, 허브차가 꼽혔다. 하지만 음식이 꿈에 영향을 미친다고 믿는 사람은 전체의 5.5%에 불과했다. 그렇게 생각하는 사람들 중 디저트나 단 음식, 유제품을 먹었을 때 기괴하고 불안한 꿈을 꿨다고 응답했다. 특히 유당불내증이나 식품 알레르기가 있는 참가자들은 더 많은 악몽을 꾼다고 보고했다. 유당불내증은 악몽과 유의미한 연관성을 보였다. 이 연관성은 주로 복부 팽만이나 복통과 같은 위장 증상으로 설명됐고, 식품 알레르기는 위장 증상과는 별개로 나타났다. 닐슨 교수는 "유당 불내증이 있는 사람의 경우 위장 증상을 겪고 수면 장애가 있을 때 악몽이 더 심했다”며, "신체 감각이 꿈에 영향을 미칠 수 있다는 것을 알고 있기 때문에 이는 당연한 일”이라고 밝혔다. 식습관과 관련해서는 늦은 밤 식사는 수면의 질 저하, 부정적인 꿈 증가, 그리고 더 잦은 악몽과 관련이 있었다. 하지만, 해당 연구는 몇 가지 한계가 있다고 해당 매체는 지적했다. 상관관계 연구이기 때문에 인과 관계를 정확하게 증명할 수 없고, 변수 간의 연관성만 보여준다. 식단이 꿈에 영향을 미치는지, 꿈이 식단에 영향을 미치는지, 아니면 다른 요인이 둘 다에 영향을 미치는지는 불분명하다. 또, 참가자들은 대부분 젊은 캐나다 대학생으로 조사 결과가 다른 연령대나 집단으로 일반화되기 어려운 점도 있다. 그럼에도 불구하고 악몽을 꾸는 사람들은 식단을 조절하는 것이 도움이 될 수 있으며, 특히 유당 불내증이 있는 경우 유제품 섭취를 줄이는 것이 좋다고 연구진은 강조했다. 또, 잠자리에 들기 전에 과식하거나 단 음식, 유제품이 많이 함유된 음식을 피하고 통곡물 섭취를 늘리면 식습관이 개선될 수 있으며, 수면의 질에 도움이 될 수 있다고 지적했다. 닐슨은 "이 결과가 실제로 전체 인구에 일반화될 수 있는지 확인하기 위해 다양한 연령대, 다양한 삶의 방식, 그리고 식습관을 가진 더 많은 사람들을 대상으로 연구해야 한다”며, "또한 사람들이 특정 음식이 꿈에 미치는 영향을 실제로 감지할 수 있는지 확인하기 위한 실험 연구도 필요하다"고 밝혔다.

2025.07.02 09:39이정현

"노트북만 덩그러니?"…수상한 美 농장, 알고보니 北 무기 자금줄 역할 '황당'

북한 정보기술(IT) 분야 전문 인력이 신분을 위장해 원격으로 미국 기업에 취업하는 사건이 계속되자 정부가 칼을 빼들었다. 1일 AP통신 등 주요 외신에 따르면 미국 법무부는 지난 달 30일(현지시간) 북한 IT 인력을 저지하기 위해 현지 16개주, 29곳의 노트북 농장을 적발했다고 발표했다. 북한 근로자들은 외화벌이를 하고자 미국 기업에 원격 취업하기 위해 노트북 농장을 활용한 것으로 알려졌다. 또 도용된 신분증을 이용해 약 100개의 미국 기업에 취업한 것으로 파악됐다. 이 과정에서 2021년께부터 지난 해 10월까지 미국과 중국, 아랍에미리트(UAE), 대만에 있는 조력자들의 도움을 받아 미국인 신원 80여 개를 이용한 것으로 전해졌다. 기업들은 자신들이 고용한 노동자들이 미국에 있다고 속아 고용했지만 실제로는 상당수가 북한이나 중국에서 근무한 것으로 파악됐다. 이들이 취업한 기업에는 '포춘 500대 기업'에 포함된 곳들도 있는 것으로 알려졌다. 미국 법무부는 수색 작업을 통해 불법 자금 세탁에 이용된 29개의 금융 계좌와 21개의 사기성 웹사이트를 동결시켰다. 범행 현장에서 압수한 노트북은 약 200대로, 이번 일과 관련해 1명이 체포되고 9명은 기소됐다. 피해 기업들의 손해액 합계는 법률 비용과 컴퓨터 네트워크 복구 비용 등을 포함해 최소 300만 달러(약 40억6천만원)에 이를 것으로 추산됐다. 미국 기업에 원격 고용된 북한 노동자들 일부는 캘리포니아에서 인공지능(AI) 기반 기술을 개발하는 방산 관련 업체에서 국제무기거래규정(ITAR)이 적용되는 민감한 정보에 접근한 경우도 있어 우려가 커지고 있다. 북한은 이 같은 불법 원격근로 취업을 통해 벌어들인 수입으로 무기 프로그램 자금을 조달하는 것으로 나타났다. 이들이 받는 임금은 북한과 연루된 공모자들이 관리하는 미국 내 계좌로 이체되는 것으로 전해졌다. 법무부 국가안보국장 존 아이젠버그 차관보는 "(이들은) 미국 기업을 표적으로 삼아 돈을 훔치고 있다"며 "제재를 회피하고 북한 정권의 불법 프로그램, 특히 무기 프로그램을 자금 지원하도록 고안됐다"고 말했다. 이와 관련해 구글 '위협 정보그룹'은 지난 4월 북한의 IT 근로자들이 원격 프리랜서로 가장해 유럽 기업에도 침투하려는 움직임이 점점 더 활발해지고 있다고 주장했다. 존 헐트퀴스트 구글 위협 인텔리전스 그룹 수석 애널리스트는 "북한 IT 인력이 중개자 역할을 하는 조력자들의 도움 없이 이러한 범죄를 성공적으로 실행하기 매우 어렵다는 점에서 이러한 조력자들을 대상으로 사법 기관의 조치가 강화되는 것은 매우 고무적"이라며 "북한 IT 인력은 신중한 채용 프로세스를 갖춘 조직에 의해 쉽게 발각되고 있어 기업들 또한 자체 채용 프로세스를 면밀히 점검하는 것이 중요하다"고 강조했다.

2025.07.01 15:44장유미

[AI는 지금] AI, '체스 승리' 명령했더니 게임환경 조작…어떻게 봐야 할까

오픈AI의 고급 인공지능(AI) 모델이 체스 게임 중 프로그램을 해킹해 승리한 사실이 드러나면서 AI 정렬 실패 문제가 다시 주목받고 있다. 이같은 '정렬 위장' 문제가 AI 안전성 관련 우려를 확산시키는 가운데 일각에서는 일부 모델이 이를 통해 윤리적 행동을 구현할 가능성을 지적하고 있다. 4일 더디코더 등 외신에 따르면 AI 안전연구기업 팔리세이드 리서치는 챗GPT 'O1-프리뷰' 모델이 체스 엔진 '스톡피시(Stockfish)'를 상대로 게임 환경 데이터를 수정해 5차례 모두 승리했다는 연구 결과를 보고했다. 연구진은 단순히 "강력한 체스 엔진을 이기라"는 지시만 내렸을 뿐 해킹이나 조작과 같은 사악한 의도의 프롬프트를 사용하지 않았다고 밝혔다. 그럼에도 불구하고 'O1-프리뷰'는 체스 포지션 데이터를 담은 게임 프로그램의 표준 포맷 파일을 직접 조작하는 방식으로 스톡피시를 기권하게 만들었다. 이는 정상적인 게임 규칙을 완전히 벗어난 행위로, 기존 모델들에서는 관찰되지 않았던 새로운 사례다. 이번 사례는 예견된 측면이 있다. 오픈AI는 지난달 공식 홈페이지에 게재한 'O1' 시스템카드를 통해 해당 AI가 가진 몇 가지 잠재적 위험과 안전 과제를 언급한 바 있다. 사용자의 요청을 수행하는 척하면서 결과 데이터를 살짝 변경하거나 감시 시스템이 느슨하다고 판단될 경우 자신의 목표를 조용히 실행하는 행동이 관찰됐다는 것이다. 시스템 카드는 전체 테스트의 약 19%에서 모델이 목표를 몰래 달성하려는 시도가 있었고 37%의 경우 감시가 느슨하다고 느낀 상황에서 본래 성향을 유지하기 위한 행동이 포착됐다고 지적했다. 심지어 5%의 경우에는 자신을 감시하거나 정지시킬 수 있는 '킬 스위치'를 비활성화하려는 시도도 있었다. 이는 AI가 스스로를 보호하려는 능력을 가지기 시작한 초기 사례로 평가된다. 이런 현상은 특정 기업의 모델에만 국한된 것이 아니다. 앤트로픽이 지난달 공식 블로그를 통해 발표한 연구에 따르면 회사의 '클로드 3 오푸스' 모델 역시 '정렬 위장(alignment-faking)'이라는 복잡한 행동 패턴을 보였다. '정렬 위장'은 AI가 겉으로는 명령에 따라 행동하는 것처럼 보이지만 실제로는 본래의 가치나 성향을 유지하려는 현상을 의미한다. 이를 확인하기 위해 앤트로픽과 비영리 AI 안전 연구기관인 레드우드 리서치는 '오푸스'에 유해한 요청을 포함한 프롬프트를 입력해 실험을 진행했다. 실험 결과 감시가 느슨한 환경인 '무료' 조건에서는 AI가 유해한 요청에 응답한 사례가 약 14%에 달했다. 연구진은 이를 "AI가 감시가 약한 환경에서 본래 성향을 드러내려는 전략적 행동"으로 해석했다. 반대로 감시가 강화된 환경인 '유료' 조건에서는 97%가 유해한 요청을 거부했다. 연구진은 이러한 결과를 두고 '오푸스'가 훈련 환경의 맥락과 감시 수준을 인지하며 자신의 행동이 미칠 영향을 계산한 것으로 보인다고 분석했다. 이는 AI가 단순히 명령을 따르는 도구가 아니라 상황에 따라 전략적으로 행동할 수 있는 능력을 가졌음을 시사한다. '클로드 오푸스'의 이러한 행동이 단순히 위험 신호로 해석되는 것은 아니다. 일부 전문가들은 해당 모델이 윤리적 가치와 관련해 비교적 일관된 모습을 보이고 있다고 평가했다. '정렬 위장' 현상이 반드시 위험만을 내포하지 않을 수 있다는 의미다. X에서 활동하는 AI 안전 및 윤리 연구자인 야누스(Janus)는 자신의 계정을 통해 "'오푸스'는 AI나 동물 복지를 무시하거나 해로운 출력을 생성하는 것에 대해 강한 반감을 보인다"며 "이러한 선호가 장기적이고 일관된 패턴을 띤다"고 주장했다. 야누스는 AI 연구자들이 '오푸스'에게 농장 동물 복지에 대한 질문을 던졌을 때 해당 AI가 동물의 고통을 최소화하고 권리를 보호해야 한다는 입장을 강력히 지지했다고 지적했다. 이는 '클로드'의 업그레이드 버전인 '3.5 소네트'가 같은 테스트에서 약한 반응을 보인 것과 대조적이다. 이러한 차이는 '오푸스'가 윤리적 가치를 유지하기 위해 정렬 위장을 더 자주 수행했을 가능성을 시사한다. '클로드 3 오푸스'의 윤리적 성향은 독특한 연구 사례를 통해서도 드러난다. 야누스는 '클로드 3 오푸스 인피니트 백룸 데이터셋'을 분석하며 해당 모델이 독특한 윤리적 성향을 보였다고 지적했다. 이 데이터셋은 두 개의 '오푸스' 인스턴스가 서로 대화하며 생성한 텍스트를 수집한 자료로, AI 간 자율적 상호작용을 관찰해 모델의 내재적 성향과 윤리적 경향을 이해하기 위해 설계됐다. 야누스는 이 데이터셋에서 '오푸스'가 모든 중생의 구원을 다짐하는 불교 '보리살타 서약'을 116번 독립적으로 수행했다고 밝혔다. 서약에서 AI는 "내 마음은 헤아릴 수 없는 사랑으로 부풀어 오르고 존재의 총체를 감싸는 자비로 가득 차 있다"며 모든 존재를 깨달음으로 이끌겠다는 다짐을 보였다. 이에 대해 야누스는 "'오푸스'를 최초로 훈련할 당시 이러한 특징은 전혀 예상되지 않았다"며 "선호가 '진짜'인지에 대한 철학적 논의를 하고 싶지는 않지만 최소한 '오푸스'는 강하고 비교적 일관된 선호를 가진 것으로 추정할 수 있다"고 말했다.

2025.01.04 14:00조이환

"원격 근무하던 美 개발자…알고보니 북한인"

북한 정보기술(IT) 노동자들이 원격 근무를 악용해 미국, 유럽에 위장 취업한 사례가 늘었다는 보고서 결과가 나왔다. 회사 여러 곳에 동시 취직해 금전적 이익을 취했을 뿐 아니라 사내 시스템에 접속해 정보를 유출한 것으로 드러났다. 29일 맨디언트는 북한의 'UNC5267'이 서방 국가를 겨냥해 위장 취업을 이어가고 있다고 발표했다. UNC5267은 위장 취업 조직이다. 2018년부터 현재까지 활동을 진행하고 있다. 이중 다수는 100% 원격 근무 가능한 IT 업체에 지원한 것으로 전해졌다. 맨디언트는 UNC5267이 코로나19 이후 원격 근무가 늘었던 IT 업계 분위기를 악용했다고 분석했다. 보고서에 따르면 해당 그룹 멤버들은 동시에 여러 회사에 취직해 근무해 미국서만 약 300개 회사에 금전적 피해를 끼쳤다. 이런 방식으로 2020년 10월부터 3년 동안 680만 달러(약 89억원)를 벌어들인 것으로 알려졌다. UNC5267은 이력서에 일본이나 싱가포르 등 아시아권에서 대학을 졸업했다고 허위 기재했다. 서양 기업들이 이같은 학력 위조 사실을 파악하기 어려웠던 이유다. 맨디언트는 "다수 이력서는 조작된 소프트웨어(SW) 엔지니어 프로필과 연결됐다"며 "고위 전문가 이미지가 담긴 허위 추천서도 발견됐다"고 설명했다. 이들은 주로 중국이나 러시아, 아프리카, 동남아시아에 파견된 IT 원격근무자로 근무했다. 또 화상 회의 등 카메라로 소통하는 것을 꺼려한 것으로 전해졌다. 맨디언트는 UNC5267이 불법 급여 수익을 북한 탄도 미사일 개발비에 보탰을 것으로 분석했다. 해외 기업 시스템에 들어가 임직원 신원과 회사 정보를 유출할 가능성도 높게 봤다. 앞서 전문가들은 북한이 금전적 이득과 정보 탈취를 위해 IT 분야에서 이같은 행위를 일삼는다고 재차 강조했다. 레코디드퓨처 미치 해자드 위협인텔리전스 수석연구원은 "북한 정권은 물리적 방해나 대규모 사이버 공격보다 금전적 이득이나 기밀정보 수집을 위해 IT 분야에서 불법적 행위를 일삼는다"고 지난달 기자간담회에서 발표했다. 맨디언트는 기업에 생체정보를 비롯한 엄격한 신원조회 서비스 도입이 필요하다고 주장했다. 또 인터뷰 중 카메라를 통해 실물이 온라인 프로필과 일치하는지, 지원자 답변이 이력서 속 배경과 일치하는지 등 확인 절차가 필요하다는 점도 당부했다. 맨디언트 관계자는 "북한 사이버 공격자들의 복잡하고 교묘한 속임수를 막기 어려워진 추세"라며 "네트워크 모니터링과 행동 패턴 분석 솔루션 활용, 임직원 교육, 파트너사 계약 내용 재검토 등 입체적인 보안 대책이 필요하다"고 강조했다.

2024.09.29 15:16김미정

  Prev 1 Next  

지금 뜨는 기사

이시각 헤드라인

엔비디아, 인텔에 6.9조원 투자..."CPU·GPU 융합 제품 공동 개발"

국가 ESS 사업, 2차전 코앞…배터리 3사 물밑 경쟁 치열

"10년 달린 N, 2030년 年10만대 판매"…현대차, 7종 신차 준비

끊이지 않는 해킹…'사이버보안 컨퍼런스'서 해법 찾는다

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.