• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 인터뷰
  • 인사•부음
  • 글로벌뉴스
창간특집
인공지능
배터리
컨퍼런스
칼럼•연재
포토•영상

ZDNet 검색 페이지

'AI 킬러'통합검색 결과 입니다. (11건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

자소서 2건 중 1건, AI가 썼나…기업 65.4%, AI로 쓰면 '불이익'

지난해 기업 및 공공기관 등에 제출된 자기소개서 가운데 절반가량이 생성형 인공지능(AI)를 이용해 작성된 것으로 의심된다는 분석이 나왔다. 25일 AI 기업 무하유가 자사 서류평가 솔루션 '프리즘'에서 'GPT킬러' 기능을 활용해 분석한 결과, 지난해 기업 등에 제출된 89만 건의 자기소개서 중 48.5%가 생성형 AI를 활용한 것으로 의심됐다. 특히 상반기보다 하반기 채용에서 AI로 작성된 자소서가 3배 이상 많이 제출된 것으로 나타났다. 업종별로는 금융권 지원자의 생성형 AI 활용 비율이 가장 높았다. 직무별로는 IT·개발 직군 지원자들의 평균 생성형 AI 사용 비중이 27.3%로 가장 높았다. 이어 연구직 21.7%, 비개발 직군 17.4% 순으로 생성형 AI 사용 비중이 높았다. 프리즘 도입 고객사 중 68% 이상은 GPT킬러 기능을 선택해 활용하고 있는 것으로 나타났다. GPT킬러는 무하유가 국내 최초로 선보인 생성형 AI 표절검사 솔루션으로, 챗GPT·클로드· 제미나이·코파일럿 등 다양한 생성형 AI를 탐지해낸다. 대다수의 기업들은 입사지원자가 생성형 AI로 작성한 자기소개서를 제출하는 것에 대해 부정적인 것으로 나타났다. 고용노동부와 한국고용정보원이 지난해 매출액 기준 상위 500대 기업 인사담당자를 대상으로 실시한 조사 결과에 따르면, 응답자의 64.1%가 생성형 AI로 작성한 자기소개서에 대해 '독창성이 없어 부정적'이라고 답했다. 실제로도 생성형 AI로 작성한 사실이 확인될 경우 65.4%의 기업에서 해당 지원자를 불합격시키거나 감점을 적용하는 등 불이익을 주고 있는 것으로 조사됐다. 신동호 무하유 대표는 "생성형 AI로 작성한 자기소개서는 지원자의 진짜 역량을 파악하기 어렵기에 적합한 인재를 확보하기 위한 새로운 도구가 필요하다"며 "프리즘은 국내 AI 서류 평가 서비스 중 유일하게 생성형 AI 작성 문장 탐지 기능을 보유하고 있다"고 설명했다.

2025.02.25 14:28장유미

'GPT킬러'로 문서 표절 검사…절반서 챗GPT 손길 포착

생성형 인공지능(AI) 표절 탐지기 'GPT킬러'로 검사된 문서가 지난해 173만 건을 기록한 가운데 이중 절반이 AI로 작성된 것으로 전해졌다. 무하유는 지난해 GPT킬러로 검사된 문서 데이터를 집계한 결과 이같은 결과가 나왔다고 14일 밝혔다. 발표에 따르면 2024년 한 해 동안 GPT킬러를 통해 검사된 문서 수는 173만7천366건이다. 검사된 문서의 55.9%에서 챗GPT 활용이 감지됐으며, 생성형 AI를 전혀 사용하지 않은 문서는 44.1%에 그쳤다. 특히 대학 과제물과 자기소개서 등 주요 평가 문서에서도 AI 활용이 확인됨에 따라 생성형 AI가 일상 전반에 걸쳐 폭넓게 사용되고 있는 것으로 나타났다. 특히 교수에게 제출된 대학 과제물 중 높은 표절률을 보이는 경우가 많았다. 2024년 2학기 동안 과제물 평가용 서비스인 CK 브릿지를 통해 검사된 문서는 총 29만4천239건이다. 이중 27.33%의 문서가 표절률 30% 이상으로 나타났다. CK 브릿지는 교수들이 학습관리시스템(LMS)과 연동해 실제 제출된 과제물을 검사하는 서비스다. 사전 자가검사용이 아닌, 실제 제출된 과제물에서도 생성형 AI가 빈번하게 활용되고 있는 것으로 확인됐다. 검사 문서를 유형별로 살펴보면 대학 과제물이 70.04%로 대다수를 차지하는 것으로 나타났다. 이어 자기소개서 8.92%, 학위논문 6.22% 순으로 집계됐다. 생성형 AI가 단순 학습을 넘어 취업 준비와 연구 활동 등 다양한 영역에서 사용되고 있는 것으로 나타났다. 검사 문서 유형은 hwp이 38.77%로 가장 많았으며, GPT킬러 사이트에 내용을 직접 입력한 경우가 33.63%였다. 이어 doc 19.71%, pdf 7.47% 순으로 나타났다. GPT 킬러는 생성형 AI가 쓴 문장을 탐지해 주는 디텍트 GPT 솔루션이다. AI가 문단 단위로 문서를 쪼갠 뒤 챗GPT 작성 확률을 분석한다. 문장 속 단어와 어순 관계를 추적해 맥락과 의미를 학습하는 AI 모델인 트랜스포머를 기반으로 작동한다. 무하유가 지난 13년간 AI 표절 검사 서비스 카피킬러를 운영하며 축적해 온 문서 데이터와 한국어 자연어 이해(NLU) 기술이 접목됐다. 해당 솔루션은 생성형 AI의 사용을 막는 것이 아닌 무분별한 활용으로 인해 발생할 수 있는 부작용을 예방하고자 개발됐다. 대학 과제물, 자기소개서, 학위 논문 등 각 분야에 특화된 AI 표절 검사 서비스를 제공하며, AI 시대에 맞춘 윤리적인 교육 환경을 지원하고 있다. GPT킬러는 무하유의 대표 서비스인 카피킬러 내에서 활용 가능하다. 카피킬러는 AI 기술을 활용해 표절, 출처 미표기, 중복 게재 등을 빠르게 검토한다. 중·고등학교에 도입돼 학생과 교사들이 사용하는 '카피킬러 스쿨', 대학·대학원생을 위한 '카피킬러 캠퍼스', 교수들이 대학 과제물이나 논문을 탐지할 수 있도록 돕는 'CK 브릿지' 등을 포함한다. 현재 공기관, 학교 및 연구원, 사기업 등 3천485여 개 기관에서 약 1천만 명이 사용 중이다. 신동호 무하유 대표는 "학생들에게 AI의 올바른 활용 방법을 교육하고, 공정성과 책임감을 강화할 수 있도록 AI 표절에 대한 균형 있는 접근이 필요하다"며 "앞으로도 AI 활용 윤리에 관한 자료를 제공하고, GPT킬러 서비스를 지속적으로 업데이트할 예정이다"고 밝혔다.

2025.01.14 10:34김미정

오픈AI 기술, 킬러 드론 구동에도 쓰일까

생성형 인공지능(AI) 챗GPT 개발사 오픈AI가 미국의 방산업체 안두릴(Anduril)과 파트너십을 체결했다고 더버지 등 외신들이 최근 보도했다. 이번 협력은 오픈AI가 방산업체와 맺은 첫 번째 파트너십으로 오픈AI는 자사의 소프트웨어를 안두릴의 대(對) 드론 시스템(CUAS)에 통합할 예정이라고 밝혔다. 예를 들면 오픈AI 기술을 활용해 안두릴의 무인 드론기가 위험물을 탐지하는 정확도와 속도를 높여 위험 상황을 줄일 수 있다. 샘 알트먼 오픈AI 최고경영자(CEO)는 성명에서 "이번 파트너십이 미국 군인을 보호하도록 돕고, 국가 안보 집단이 이 기술을 이해하고 책임감 있게 사용해 시민 안전을 지킬 수 있도록 도울 것"이라고 말했다. 브라이언 쉬프 안두릴 CEO는 "이번 파트너십이 국가 안보 임무를 위해 AI를 개발하고 책임감 있게 배치하는 데 중점적 역할을 할 것"이라고 밝혔다. 안두릴은 또한 오픈AI와 같은 회사와 힘을 합치는 이유로 AI 발전에서 세계를 선도하기 위한 미국과 중국 간의 경쟁이 가속화되고 있다는 점도 언급했다. 이 같은 행보는 과거 인공지능(AI) 기술에 대한 오픈AI의 입장과는 대비되는 것이라고 더버지는 지적했다. 과거 오픈AI의 서비스 약관에는 자사 기술이 군사 및 전쟁에 사용되는 것을 금지하는 조항이 포함되어 있었으나, 올해 초 오픈AI는 이에 대한 입장을 완화해 서비스 약관에서 해당 금지 조항을 삭제했다. IT매체 기즈모도는 안두릴이 대부분 미군과 차량을 보호하도록 설계된 드론 방어 기술을 개발 중이나 '볼트-M'(Bolt-M)이라고 불리는 살상용 드론도 판매하고 있다고 전했다. 이 드론은 AI 소프트웨어로 구동되며 목표물을 정밀하게 추적해 타격이 가능하다. 오픈AI의 이번 파트너십은 AI를 모두에게 안전한 것으로 만들고 싶다고 주장하는 회사의 행보와는 배치되는 움직임이라고 기즈모도는 평했다. IT매체 BGR은 오픈AI가 방산업체와 제휴를 맺는다는 점에 우려를 표했다. AI에 어떤 무기에 대한 접근 권한을 주는 것은 향후 지구 종말의 시나리오 중 하나이며, AI와 같은 신기술의 경우 문제가 발생할 수 있다고 지적했다. 월스트리트 저널에 따르면, 안두릴은 미 해군과 2억 달러 규모의 대드론 시스템 계약을 맺었다. 오픈AI는 안두릴과의 제휴를 통해 이익을 얻을 수 있을 뿐만 아니라 정치적 영향력도 얻을 수 있을 것으로 예상되고 있다. 안두릴 공동 창업자 팔머 러키(Palmer Luckey)는 도널드 트럼프 미국 대통령 당선인의 는 당선자 도널드 트럼프의 초기 지지자였으며, 일론 머스크와도 인연이 있는 것으로 알려졌다.

2024.12.07 07:30이정현

무하유, 올바른 생성형 AI 사용법 가르친다

무하유가 올바른 생성형 인공지능(AI) 사용법 알리기에 나섰다. 무하유는 '카피킬러 에듀'에 생성형 AI 활용 교육 영상을 업데이트했다고 19일 밝혔다. 카피킬러 에듀는 무하유에서 운영하는 연구 윤리 교육 포털이다. 학습 윤리와 연구 윤리에 관한 전문 교육을 제공한다. 카피킬러를 도입한 기관·학교에서 누구나 무료로 연구 윤리 교육을 받을 수 있도록 강의를 제공하고 있다. 이번에 업데이트된 교육 영상은 총 3편이다. 한양대 이상욱 교수가 기획 단계부터 참여해 생성형 AI의 윤리적 쟁점과 올바른 활용법을 강의한다. 생성형 AI를 사용하는 교사·교수와 학생들의 윤리적 책임감을 재고하기 위해 제작됐다. 잘못된 생성형AI 활용으로 인한 윤리 문제 및 올바른 활용법을 설명한다. 그동안 무하유는 생성형 AI의 무분별한 사용을 막고 올바른 활용을 돕고자 GPT킬러를 개발·운영해 왔다. GPT킬러는 AI가 문서를 문단 단위로 분석한 후 각 부분에서 생성형 AI로 작성됐을 확률을 판단한다. 생성형 AI를 잘 사용하는 게 경쟁력이 된 현 상황에서 학생들이 교육 목적에 어긋날 정도로 AI를 남용하지 않도록 지도하며, 올바른 글쓰기 습관을 들일 수 있도록 교육하는 데 사용되고 있다. GPT킬러를 통해 교수·교사뿐만 아니라 학생들도 과제물이나 논문 등을 제출하기 전 자체적으로 표절 검사를 진행함으로써 생성형 AI로 인한 표절을 미리 예방하고, 학습 윤리를 준수할 수 있다. 실제 다수 고등학교·대학교에서 학생들의 학업 역량을 공정하게 평가하고, AI 사용 윤리를 일깨워주고자 GPT킬러를 도입해 활용 중이다. 올해 GPT킬러 도입을 결정한 한 대학에서는 한 학기 동안 GPT킬러에서 검사된 문서가 1만843건으로 집계됐다. 검사된 문서의 80.4%는 과제물이었다. 많은 학생이 과제물 제출 전 자발적으로 검사를 진행하며 표절 가능성을 사전 예방하는 것으로 알려졌다. 신동호 무하유의 대표는 "GPT킬러와 관련 교육영상 등을 통해 생성형 AI를 윤리적으로 활용할 수 있도록 지원할 것"이라며 "무분별한 사용을 방지하는 길잡이 역할을 충실히 수행할 것"이라고 밝혔다.

2024.11.19 10:49김미정

日 AI 시장 노린 무하유, 新무기 'GPT킬러'로 승부수

무하유가 점차 성장하고 있는 일본 인공지능(AI) 시장을 공략하기 위해 새로운 무기를 내놓는다. 무하유는 오는 23일부터 25일까지 개최되는 일본 최대 IT 전시회 '재팬 IT 위크(Japan IT Week)'에 참가해 새로운 솔루션인 'GPT킬러' 일본어 버전을 처음 선보인다고 21일 밝혔다. 이 행사는 AI, IoT, 클라우드, 빅데이터 등 IT 산업 전반을 아우르는 다양한 솔루션 및 서비스를 소개하고 인사이트를 공유하기 위해 마련된 행사다. 일본 치바현 마쿠하리 메쎄에서 진행되며 올해는 600여 개 기업이 참가한다. 이번 전시에서 무하유는 자사 일본어 솔루션인 '카피모니터'도 함께 선보일 예정이다. 이번 전시 참가는 무하유가 올해 일본 지사를 설립한 후 처음이다. 앞서 무하유는 지난 2020년 현지 파트너사와 합작 법인을 설립해 일본어 전용 AI 표절 검사 서비스 '카피 모니터'를 앞세워 일본 시장에 진출했다. 2011년부터 표절검사 서비스 '카피킬러'를 운영하며 쌓아온 데이터 분석 및 자연어 처리(NLP) 역량을 집약했다. 다른 자료를 그대로 베낀 듯한 문서는 물론, 일부 표현을 누락하거나 짜깁기했다고 의심되는 부분까지 검출해 문서의 표절 여부를 정확히 파악할 수 있다. 카피모니터는 현재 80개 고객사에서 22만 명 이상이 활용하고 있다. 일례로 일본의 한 대학에서는 학생들에게 레포트 과제를 출제할 때 카피모니터 검사를 의무화하고 있다. 표절이 확인될 경우 일정 점수를 감점하는 식이다. 이번 전시회에서는 최근 새롭게 출시한 GPT킬러 일본어 버전 시연도 진행될 예정이다. GPT킬러는 무하유가 지난해 9월 출시한 생성형 AI 탐지 솔루션이다. AI가 문서를 문단 단위로 분석한 후 각 부분에서 생성형 AI로 작성됐을 확률을 판단한다. 신규 출시된 일본어 버전은 고성능 일본어 자연어 처리 기술을 활용해 생성형 AI 작성 확률이 높은 문장과 사람이 작성했을 확률이 높은 문장을 구별한다. 생성형 AI가 만들었을 법한 토큰(단어)의 확률을 역추적해 99%의 높은 정확도로 생성형 AI 사용 여부를 파악한다. 무하유는 일본을 비롯해 중국 서비스도 운영하며 글로벌 영향력을 확장하고 있다. 2023년 중국 시장에 카피킬러 차이나를 선보였으며 중국어 및 영어 논문에 대한 표절 검사 서비스를 제공 중이다. 신동호 무하유 대표는 "GPT킬러 일본어 버전 출시와 재팬 IT 위크 참가를 계기로 일본 시장 진출을 본격화하게 됐다"며 "혁신적인 AI 기술을 바탕으로 일본 시장에서의 입지를 더욱 강화하고 글로벌 기업으로 도약하는 발판을 마련할 것"이라고 밝혔다.

2024.10.21 17:03장유미

무하유, 'GPT킬러'로 日 진출 시동

무하유가 일본어 버전 'GPT킬러'를 출시해 일본 시장 내 사업 확장의 시동을 걸었다. 무하유는 지난해 9월 출시한 AI 문장 탐지 솔루션인 'GPT킬러'에 일본어로 쓴 문장이 AI 생성문장인지 높은 정확도로 판단할 수 있게 업데이트했다고 15일 밝혔다. 'GPT킬러'는 AI가 문서를 문단 단위로 분석한 후 각 부분에서 생성 AI로 작성됐을 확률을 판단하는 제품이다. 지난 13년간 '카피킬러' 서비스를 운영하며 축적해 온 방대한 문서 데이터와 자연어 이해(NLU) 기술을 접목했다. 이번에 출시된 일본어 버전은 고성능 일본어 자연어 처리 기술을 활용해 생성형 AI 작성 확률이 높은 문장과 사람이 작성했을 확률이 높은 문장을 구별한다. 생성 AI가 만들었을 법한 토큰(단어)의 확률을 역추적해 99%의 높은 정확도로 생성형 AI 사용 여부를 파악한다. GPT킬러는 doc, docx, pdf, txt 등 다양한 문서 형식을 지원한다. 문서를 업로드한 후 각 단락을 클릭하면 문장별 표절 의심 여부를 확인할 수 있다. 검사 결과는 AI 의심도에 따라 안전·주의·위험의 3단계로 제공된다. 단락별 AI 의심도와 생성형 AI가 썼을 가능성이 높은 문장의 순위가 함께 제시된다. 이 서비스는 '챗GPT'로 작성된 문장을 탐지하고 싶다는 대학, 기업 등 일본 고객들의 니즈에 의해 개발됐다. 본인이 직접 쓴 문서로 평가를 받아야 하는 상황에서 AI가 개입할 경우 공정한 평가가 어려워지며 학생의 사고력을 저하시킬 수 있다는 우려에서다. 실제로 일본 문부과학성은 생성 AI가 작성한 보고서를 그대로 제출하는 것은 표절에 해당할 가능성이 있다며 각 대학에 AI 이용에 관한 규칙 정비를 요구한 바 있다. 지난 2020년 무하유는 이미 일본어 전용 표절검사 서비스인 '카피 모니터'를 출시한 바 있다. 이 서비스는 현재 일본 80개 고객사에서 22만명 이상이 활용하고 있다. 무하유의 신동호 대표는 "'GPT킬러'는 생성 AI의 사용을 막는 것이 아닌 무분별한 활용으로 인해 발생할 수 있는 부작용을 예방하기 위해 개발됐다"며 "이번 출시로 일본 시장에서도 AI 생성 텍스트에 대한 정확한 탐지가 가능해져 AI의 적절한 활용과 윤리적 사용을 촉진할 수 있을 것"이라고 강조했다.

2024.10.15 17:37조이환

무하유, 'GPT킬러'로 교육부 장관상 수상…공정한 교육 현장 이끈다

무하유의 AI 탐지 솔루션이 교육부로부터 필수 교육 서비스로 인정받았다. 무하유는 자사의 'GPT킬러'가 지난 23일부터 사흘간 서울 코엑스에서 열린 '2024 에듀테크 코리아 페어'에서 K-에듀테크 콘테스트 교육부 장관상을 수상했다고 25일 밝혔다. 이번 페어는 'AI가 이끄는 에듀테크의 미래'를 주제로 진행됐다. 'GPT킬러'는 생성 AI가 작성한 문장을 탐지하는 솔루션으로, AI가 문단을 분석해 챗GPT가 작성한 문장의 확률을 평가하는 기술을 갖추고 있다. 이를 통해 생성 AI의 무분별한 사용으로 발생하는 부작용을 예방하는 것이 주요 목적이다. 무하유는 이 기술을 바탕으로 학생들이 생성 AI를 통해 부정행위를 저지르거나 사고력·문제 해결 능력이 저하되는 문제를 해결하고자 한다. 현재 이 솔루션은 학교, 대학, 기업에서 이미 활발히 사용되고 있다. 'GPT킬러'는 AI의 사용을 완전히 막는 대신 올바르게 관리하고 적절히 활용되게 하는 안전장치로 기능한다. 이는 학생들이 직접 작성한 과제와 AI가 작성한 과제를 구분하는 데에도 유용하다. 무하유는 이번 에듀테크 코리아 페어에서 기존 AI 표절검사 서비스인 '카피킬러'와 함께 'GPT킬러'를 소개하며 기술적 성과를 강조했다. 행사장에서는 방문자들이 해당 솔루션을 직접 체험해볼 수 있었다. 신동호 무하유 대표는 "GPT킬러는 교육 현장에서 AI의 올바른 사용을 돕기 위한 필수 장치로 자리 잡고 있다"며 "앞으로도 교육의 질을 높이고 학습의 진정성을 지키기 위한 노력을 이어갈 것"이라고 밝혔다.

2024.09.25 17:21조이환

무하유 "AI로 이미지 표절 검사하세요"

앞으로 인공지능(AI) 기술로 텍스트뿐 아니라 표나 이미지 표절 검사까지 진행할 수 있게 됐다. 무하유는 AI 기반 표·이미지 식별 솔루션 '비주얼체커'를 출시했다고 18일 밝혔다. 비주얼체커는 표절검사에 최적화된 표·이미지 식별 솔루션이다. 논문 내 삽입된 표나 이미지를 분석한 후 표절여부를 판단한다. 무하유가 지난 13년 간 AI 기반 표절검사 서비스 '카피킬러'를 운영하며 모은 100억 건 데이터를 바탕으로 개발된 제품이다. 텍스트 중심 표절 분석의 한계를 극복하고, 표절 분석 정확도를 향상시키기 위해 AI 기반의 대규모 표 이미지 분석 기술이 적용됐다. 연구·교육 문서에서 사용된 표나 이미지 등을 딥러닝 학습을 통해 객체 단위로 분리 및 추출하고, 문서 내 추출된 데이터를 대규모 데이터와 상호 비교해 유사 이미지 분석 및 검증이 가능하도록 구현했다. 비주얼체커를 활용하면 문서 작성자 스스로 표·이미지에 대한 중복 사용 여부를 확인함으로써 표절을 사전 예방하고, 학습 윤리를 준수하는 인식을 가질 수 있다. 문서 검토자도 논문 검증을 위한 피드백 및 지도 도구로 활용하면서 객관적인 평가 체제를 마련할 수 있다. 이 외에도 연구개발(R&D) 사업의 중복 수행 검증, 교수학습 시 사용되는 강의 교안 내 포함된 이미지 사전 검사, 공공 및 연구 분야에서의 연구윤리 기준 확보 등 목적에 맞게 다양하게 활용될 수 있다. 무하유는 향후 비주얼체커를 카피킬러에 접목시킬 계획이다. 문서 업로드 한번으로 텍스트는 물론, 표나 이미지까지 아우르는 완전한 표절검사를 진행할 수 있도록 할 목표다. 비주얼체커에 사용된 표·이미지 식별 기술은 일본 및 중국에 특허 출원을 완료했다. 신동호 무하유 대표는 "그동안 표나 이미지에 대한 표절 탐지는 이미지 유사도 측정 기술 한계로 수작업으로 진행됐다"며 "비주얼체커를 통해 전문지식 없이도 이미지를 빠르고 정확하게 검증할 수 있을 것"이라고 설명했다.

2024.07.18 17:06김미정

"100년 내 인간 멸종 가능성 99.9%"…10년 내 AI 킬러 등장 예언 속 섬뜩한 경고 잇따라

"인공지능(AI)이 100년 안에 인간을 멸종시킬 수 있는 가능성이 99.9%에 달합니다. 미래에는 AI가 인간을 반드시 해칠 수 있습니다." 로만 얌폴스키 루이빌대 사이버보안연구소 교수가 최근 AI의 위험성을 제기하며 이처럼 경고하고 나섰다. 챗GPT 개발사 오픈AI와 구글 딥마인드의 전·현직 직원들뿐 아니라 국가안보 정부 당국자, AI·보안 전문가들도 함께 우려하며 재앙을 피할 수 있는 시간이 얼마 남지 않았다는 경고의 메시지를 잇따라 내놓고 있다. 6일 비즈니스인사이더 등 외신에 따르면 AI 전문가인 얌폴스키 교수는 지난 4일 과학자 렉스 프리드먼이 진행하는 팟캐스트에 출연해 "AI가 인류를 멸망시킬 가능성은 인간이 향후 100년 안에 버그 없이 고도로 복잡한 소프트웨어를 만들 수 있는지에 달려 있다"고 주장했다. 그러면서 "하지만 AI 모델이 의도하지 않은 작업을 안전하게 수행하도록 만들 수 없기에 사고를 피할 가능성은 낮다"며 "AI는 이미 실수를 저질렀는데 사고나 탈옥을 경험하기도 했고, 개발자가 의도하지 않은 일을 성공적으로 수행한 대형언어모델(LLM)은 하나도 없을 것"이라고 덧붙였다. 또 그는 "인공일반지능(AGI)이 등장하게 되면 문제가 더 커진다"며 "인간보다 더 똑똑한 시스템이 무엇을 할 것인지 예측이 어렵다"고 강조했다. AGI는 인간 수준의 사고가 가능해 주제에 구애받지 않고 성공적으로 문제를 해결할 수 있는 AI다. 이에 일각에선 향후 인간이 AI를 통제하는 것이 사실상 불가능하고 안전성과 관련된 문제가 필연적으로 발생할 수밖에 없다고 보고 있다. 얌폴스키 교수는 결국 인류의 운명이 3가지 중 하나일 것으로 관측했다. ▲AI가 모두를 죽이는 상황 ▲AI로 인해 모두가 고통받고 차라리 죽기를 바라는 상황 ▲모든 인간이 목적을 완전히 상실하는 상황 등이다. 얌폴스키 교수뿐 아니라 많은 전문가들은 AI가 일자리를 빼앗고 창의적으로 발전해 앞으로는 인간의 존재 가치가 없어질 것이라는 지적을 내놓고 있다. 앞서 AI 정책 조언 등을 제공하는 민간 업체 글래드스톤 AI가 지난 3월 미국 국무부의 의뢰로 작성한 보고서에선 미국 연방 정부가 AI로 인해 재앙을 피할 수 있는 시간이 얼마 남지 않았다고 경고했다. 보고서는 주요 AI 기업의 최고 경영진, 사이버 보안 연구원, 대량살상무기(WMD) 전문가, 국가안보 정부 당국자 등 200여 명을 1년여에 걸쳐 인터뷰한 내용을 토대로 작성됐다. 보고서는 "최첨단 AI 시스템이 향후 돌이킬 수 없는 피해를 가할 가능성이 있는 무기로 전용될 가능성이 있다"며 "어느 시점이 되면 인간이 개발 중인 AI 시스템에 대한 통제력을 상실해 잠재적으로 세계 안보에 파괴적인 결과를 초래할 수 있다"고 경고했다. 이어 "AI와 AGI의 부상은 핵무기 도입을 연상시키는 방식으로 세계 안보를 불안정하게 할 가능성이 있다"며 "AI 군비 경쟁과 분쟁, 대량살상무기 규모의 치명적인 사고의 위험이 있다"고 덧붙였다. 'AI 대부'로 불리는 제프리 힌턴 캐나다 토론토대 명예교수는 더 섬뜩한 예언을 내놨다. 지난 3월 일본 니혼게이자이신문과의 인터뷰에선 "AI에 목표를 주면 해결책으로 인간에게 나쁜 방법을 찾아낼지도 모른다"며 "10년 내 자율적으로 인간을 죽이는 로봇 병기가 등장할 것"이라고 주장했다. 최근에는 오픈AI와 구글 전·현직 직원들도 AI의 급속한 발전에 대한 우려를 표하는 성명을 발표했다. AI의 위험성을 다루기엔 기업의 내부 규제 시스템에 기대는 것만으로는 부족해 AI와 관련된 사법 체계가 구축돼야 한다고 강조했다. 이들은 "우리는 AI 기술에 의해 야기되는 심각한 위험을 알고 있다"며 "기존의 불평등을 심화시키는 것부터 조작과 잘못된 정보, 잠재적으로 인류의 멸종을 초래하는 자율적인 AI 시스템의 통제 상실까지 다양한 위험이 도사리고 있다"고 말했다. 이어 "AI 기업은 기술로 인해 발생하는 다양한 종류의 위험에 대한 상당한 비공개 정보를 보유하고 있지만 이런 정보 중 일부를 정부 또는 사회와 공유할 의무가 약하다"며 "우리는 이러한 기술을 모두 신뢰할 수 있다고 생각하지는 않는다"고 덧붙였다. 이 때문에 AI를 제어하기 위한 방안 마련을 위한 움직임도 곳곳에서 나오고 있다. 유럽연합(EU)이 올해 3월 세계 최초로 포괄적인 AI 기술 규제법안인 'AI법'을 최종 승인한 배경도 이런 위험도를 낮추기 위한 수순으로 분석된다. 2026년 이후 전면 시행될 이 최종안에 따르면 EU는 AI 활용 분야에 대해 총 4단계의 위험 등급으로 구분해 차등 규제할 예정이다. 법 위반 시 경중에 따라 전 세계 매출의 1.5%에서 최대 7% 수준의 과징금이 부과될 수 있다. 영구적인 안전장치가 필요하다는 주장도 있다. 에릭 슈미트 전 구글 최고경영자(CEO) 는 최근 개최한 컨퍼런스에서 AI가 자유의지를 가지게 된다면 해결책은 코드를 뽑는 것 하나뿐이라고 발언해 주목 받았다. 반면 일각에서는 이 같은 주장들이 너무 비관적이라고 지적했다. 유명 과학자 렉스 프리드먼이 진행하는 팟캐스트에 출연한 다수 AI 전문가들은 AI의 인간 멸종 가능성을 1~20%로 예상했다. 또 옥스포드대학교가 최근 실시한 과학자 2천778명 대상 설문 조사에서는 5%에 불과하다는 결과가 나왔다. 아르빈드 크리슈나 IBM 최고경영자(CEO)는 지난달 미국에서 열린 '밀컨 글로벌 콘퍼런스'에 참석해 AI 기술에 대한 정부 규제를 비판하며 "규제를 과도하게 하면 혁신이 (규제 범위 안에서) 융화돼 경쟁을 저해할 수 있다"며 "과도한 규제는 규제를 하지 않는 것보다 더 나쁘다"고 피력했다.

2024.06.06 10:32장유미

"인간 노린 AI 무기, 오펜하이머 모멘트"…해외서 규제 논의 본격화

"향후 10년 이내에 자율적으로 인간을 죽이는 로봇 무기가 등장할 것으로 보고 있습니다." 인공지능(AI) 분야 대부로 불리는 제프리 힌턴 캐나다 토론토대 명예교수가 최근 이처럼 경고한 가운데 각국 전문가들이 이를 규제하기 위한 방안 마련을 위해 머리를 맞댔다. 30일 블룸버그 통신에 따르면 최근 100개국 이상의 민간, 군사, 기술 관계자들은 지난 29일 오스트리아 비엔나에서 AI와 군사 기술 결합을 경제적으로 제재할 방안을 마련하기 위해 모였다. 전쟁이 벌어지고 있는 우크라이나와 팔레스타인 가자 지구를 중심으로 최근 자율 무기 시스템이 빠르게 확산되고 있어서다. 실제 우크라이나군은 개전 후 두 달 만에 460대에 달하는 러시아 전차와 2천 대에 육박하는 장갑차를 무인기를 통해 파괴했다. 러시아 역시 AI 시각 식별(AIVI) 기술로 표적을 실시간으로 분류하는 KYB-UAV 등을 통해 우크라이나 군의 기동력을 효과적으로 봉쇄했다. 세계 최초로 AI 기반 완전자율 차량을 실전 배치한 이스라엘은 이미 2016년부터 팔레스타인 가자지구와의 경계 지역에 중형 화기를 탑재한 군용 무인 차량을 투입했다. 또 병사와 로봇 차량으로 이뤄지는 혼성 전투부대도 편성한 바 있다. 업계에선 심각한 병력 수급 문제를 겪고 있는 현 상황에서 군사용 AI의 도입은 효율적인 자원관리와 전투력 강화를 위한 필연적인 선택지라고 봤다. 하지만 각 규제 당국은 AI를 활용한 킬러 로봇의 위험성을 인지하고 통제하려는 움직임을 점차 드러내고 있다. 이번 비엔나 회담에서 알렉산더 샬렌베르크 오스트리아 외무장관은 지난 1945년 원자폭탄 발명을 도운 뒤 핵무기 확산 통제를 주장한 J. 로버트 오펜하이머를 언급하며 "지금이 우리 시대의 오펜하이머 순간"이라고 말했다. 알파벳 AI 플랫폼 '딥마인드'의 초기 투자자인 얀 탈린도 기업들이 AI 사업을 키우기 위해 재정적 지원에 나서는 것과 함께 글로벌 갈등이 확산되면서 '킬러 로봇'을 통제해야 할 필요가 더 커졌다고 경고했다. 앞서 얀 탈린은 "AI는 약간만 발전해도 큰 돈과 연결된다는 특성이 있다"며 "AI 산업의 리더가 경고에 주의를 기울이지 않으면 인류에게 진정한 위험이 될 수 있다"고 주장한 바 있다. 현재 전 세계 정부는 AI 도구를 국방에 통합하는 기업과 협력하기 위한 움직임에 적극 나서는 모습이다. 미국 국방부는 AI 스타트업에 수 백만 달러를 쏟아 붓고 있고, 유럽연합(EU)는 지난주 탈레스 SA에 전장 표적을 평가하는 데 도움이 되는 이미지 데이터베이스를 구축하기 위한 비용을 지불했다. 중국도 적극적인 모습이다. '군민융합전략요강'을 통해 최근 광범위한 빅데이터 분석과 학습능력을 갖춘 첨단 군의 육성계획을 발표해 눈길을 끌었다. AI를 통해 자율무기체계 개발뿐 아니라 미래의 지능전 양상에 선제적으로 대비함으로써 군대조직과 전술·작전 개념까지 혁신한다는 내용이다. 이미 무인 로봇 분야에서 세계 최고 기술을 보유한 일본은 AI 기반 자율화 무기체계에도 상당한 지식을 축적하고 있는 것으로 평가 받고 있다. 특히 지난 2019~2023년 일본 중기방위력정비계획 기간에는 함선용 무인기를 도입해 주목 받았다. 러시아는 당면한 병력 및 고가장비의 부족 문제를 가성비가 뛰어난 자율무기체계로 극복하기 위해 나서고 있다. 최근 투입한 자폭형 드론이나 무인전투기, 무인잠수정, AI 자율 어뢰가 대표적이다. 우리나라는 다른 나라에 비해 아직 움직임이 다소 더디다. 지난 2020년 국방스마트플랫폼 및 무인화·지능화 기술의 국가별 수준 조사에 따르면, 미국 국방 기술 발전 수준을 100으로 볼 때 유럽은 90, 일본은 85, 중국 84, 한국은 75 수준인 것으로 평가됐다. 얀 탈린은 "자율 무기를 쉽게 구할 수 있게 되면서 소수만이 군비 경쟁에 참여할 수 있었던 제한이 사라졌다"며 "이제 3D 프린터와 기본적인 프로그래밍 지식을 갖춘 학생들도 대규모 사상자를 발생시킬 수 있는 드론을 만들 수 있게 됐다"고 말했다. 이어 "자율 무기 시스템은 국제 안정의 개념을 완전히 바꿔놓았다"고 덧붙였다. 제프리 힌턴 명예교수는 지난 3월 일본 니혼게이자이신문과의 인터뷰에서 "AI가 자신이 부여받은 하나의 목표를 달성하기 위해 인간에게 좋지 않은 방법을 해결책으로 내놓을 수 있다"며 "AI가 인류 파멸을 가져올 수 있다"고 경고한 바 있다. 또 그는 "제1차 세계대전에서의 참화로 화학무기가 전 세계적으로 금지됐듯 AI 로봇무기도 조만간 규제할 수 있을 것"이라면서도 "하지만 (규제 시점이) 인류가 (AI 킬러로봇의) 비참함을 인식한 후가 될지 모른다"고 규제에 속도를 내야 한다고 강조했다.

2024.04.30 09:17장유미

무하유, AI 영상분석 전문가 CTO로 영입…"멀티모달 기술 고도화"

무하유(대표 신동호)가 멀티모달 인공지능(AI) 시대에 발맞춰 AI 영상분석 전문가를 영입했다. 무하유는 이광주 최고기술책임자(CTO)를 영입했다고 21일 밝혔다. 이광주 CTO는 서울대 대학원에서 AI 영상 분야를 전공했다. 이후 NICE 평가정보, 벤처기업 에어플러그 등에서 약 20년간 영상 데이터 분석·처리, 머신러닝(ML)을 적용한 솔루션 개발 등을 총괄했다. 대기업과 벤처기업을 두루 거치며 서비스 안전성과 기술 개발의 신속성 양 측면의 균형 감각을 키워왔다고 평가받았다. 이 CTO는 무하유의 영상 분석 기술력을 끌어올리며, AI 평가 자동화 서비스 개발을 총괄할 예정이다. 자사 AI 면접 평가 서비스 '몬스터'가 이미지·영상·음성 등 복잡한 데이터를 분석하는 멀티모달 형식의 평가를 진행할 수 있도록 기술 고도화에 집중한다. 무하유는 그동안 AI를 활용한 한국어 텍스트 지능 분석 기술을 보유하고 있는 기업이다. 국내외 논문, 법률, 실시간 콘텐츠 등 다양한 텍스트 기반 데이터를 수집, 정제, 처리하는 고도화된 자연어 이해(NLU) 기술을 갖고 있다. 2011년 AI 기반 표절검사 서비스 '카피킬러'를 출시했다. 카피킬러는 표절, 출처 미표기, 중복 게재 등 사람이 하나하나 파악하기 힘든 검토 작업을 AI 기술을 이용해 빠르게 할 수 있는 표절 검사 서비스다. 클라우드형 대용량 전자문서 분석으로 1분 이내에 100억 건의 데이터를 기반으로 표절 검사를 진행한다. 카피킬러를 통해 축적된 문서 데이터와 NLU 노하우를 접목시켜 디텍트 GPT 솔루션인 'GPT킬러'를 개발했다. 챗GPT 가 만든 문장을 찾아내는 디텍트 GPT 솔루션 중 유일하게 AI 가 쓴 한국어 문장까지 잡아낼 수 있다. 현재 인사(HR) 분야로 사업 영역을 확장해 채용 서류 평가 서비스 '프리즘', 대화형 AI 면접 서비스 '몬스터'를 운영하고 있다. 신동호 무하유 대표는 "챗GPT 열풍으로 시작된 생성형 AI 시대는 이제 한발 더 나아가 멀티모달 AI 시대로의 진입을 앞당기고 있다"며 "텍스트 분석에 경쟁력을 가진 무하유에 영상 분석 전문가를 영입함으로써 AI 평가 자동화 서비스 개발에 주력하겠다"고 포부를 밝혔다.

2024.02.21 15:12김미정

  Prev 1 Next  

지금 뜨는 기사

이시각 헤드라인

"요금 올리거나, 무료 풀거나"…OTT, 전략 분화

"책 대신 '아이패드'로 수업을"…디지털이 바꾼 교실 풍경은

과학자들, 납으로 금 만들었다…'연금술사의 꿈' 실현되나

[ZD브리핑] 아시아 IT 박람회 컴퓨텍스 개최...21대 대선 후보 첫 토론회

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현