• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 인터뷰
  • 인사•부음
  • 글로벌뉴스
창간특집
인공지능
배터리
컨퍼런스
칼럼•연재
포토•영상

ZDNet 검색 페이지

'GPT'통합검색 결과 입니다. (363건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

오픈AI, 레딧서 AI 모델 평가…인간보다 강력한 설득력 '입증'

오픈AI가 웹 커뮤니티에서의 실험을 통해 자사의 인공지능(AI) 모델이 인간만큼 강한 설득력을 가졌음을 입증했다. 2일 테크크런치에 따르면 오픈AI는 최근 'o3' 모델의 공식 출시와 동시에 레딧의 '내 생각을 바꿔봐(Changemyview)' 게시판을 활용해 자사 모델의 설득력을 검증했다. 이 실험에서 'GPT-4o'와 'o3-미니'는 인간 상위 80~90 퍼센트 수준의 설득력을 보였다. '내 생각을 바꿔봐'는 사용자가 자신의 의견을 공유하고 반박을 받으며 사고를 확장하는 레딧 내부의 토론 커뮤니티다. 오픈AI는 이 커뮤니티의 데이터를 활용해 AI 모델이 원글 작성자의 생각을 바꿀 수 있는지를 평가했다. AI가 생성한 답변은 외부 평가자들이 검토했으며 인간이 작성한 답변과 비교됐다. 실험을 통해 회사는 AI 모델의 설득력이 상당한 수준에 도달했음을 확인했다. 'GPT-4o'와 'o3-미니'는 대부분의 인간보다 설득력이 높지만 최상위권의 논객을 초월하는 수준은 아니었다. 오픈AI는 AI 모델이 지나치게 강한 설득력을 가지는 것이 위험할 수 있다고 판단해 윤리적 검토를 강화할 계획이다. 오픈AI는 이전에도 '내 생각을 바꿔봐' 데이터를 활용해 AI 성능을 측정해왔다. 이같은 실험을 통해 AI가 설득력을 기반으로 사용자 행동에 영향을 미칠 가능성이 제기되면서 AI 규제와 윤리적 책임이 더욱 강조되고 있다. 오픈AI 관계자는 "AI 모델이 인간보다 더 설득력 있는 경우가 있지만 아직 초인적 수준의 성능은 달성되지 않았다"며 "AI가 과도한 설득력을 가지지 않도록 다양한 안전장치를 마련하고 있다"고 밝혔다.

2025.02.02 11:18조이환

오픈AI "딥시크, 지적 재산권 침해"…美 해군 "사용 금지"

중국 인공지능(AI) 스타트업 딥시크가 새 모델 'R1'을 출시하자 미국 정부와 기업이 견제에 나섰다. 30일 업계에 따르면 오픈AI는 딥시크가 R1 훈련 과정에서 자사 지적 지산권을 침해했다고 주장했다. 미국 해군은 안전한 사용을 보장하지 못할 가능성이 높다며 애플리케이션 사용을 전면 금지했다. CNBC는 30일 오픈AI는 딥시크가 GPT로 지식증류(distillation) 기법을 통해 R1을 학습시켰다는 의혹을 제기했다고 보도했다. 지식증류 기법은 거대 AI 모델이 학습한 내용을 소형 모델에 전달해 주는 방식이다. 마치 경험 많은 사람이 핵심 개념을 정리해 초보자에게 설명해 주는 것과 같다. 이를 통해 소형 AI 모델은 적은 비용으로 더 뛰어난 성능을 낼 수 있다. 오픈AI는 "딥시크는 GPT 모델 군의 학습 내용을 R1에 넣은 정황을 포착했다"며 "이는 명백한 지적 재산권 침해"라고 파이낸셜타임스(FT)를 통해 밝혔다. 다만 구체적인 증거를 공개하진 않았다. 앞서 마이크로소프트도 지난해부터 딥시크와 연계된 것으로 추정되는 계정들이 오픈AI의 API를 사용한 정황을 발견했다고 밝혔다. 당시 마이크로소프트 관계자는 "서비스 이용 약관을 위반한 것으로 의심되는 해당 계정을 모두 차단했다"고 블룸버그를 통해 설명했다. 전문가들은 이같은 학습 방식이 AI 업계 관행으로 자리잡은 탓이라고 입을 모았다. AI 모델이 사람처럼 자연스럽게 응답할 수 있도록 만들려면 대규모 인력을 고용해 데이터 라벨링 작업을 수행해야 하는데, 이는 비용과 시간이 많이 드는 작업이기 때문이다. 이에 스타트업과 중소·중견 기업은 지식증류 기법으로 거대모델의 학습 내용을 자사 소형 모델에 그대로 탑재하기 시작했다는 설명이다. 미국 캘리포니아대 버클리캠퍼스 리트윅 굽타 AI 박사과정 연구원은 "스타트업과 학계서도 상업용 거대언어모델(LLM) 출력 내용을 소규모 모델 학습에 활용하는 것이 매우 일반적"이라며 "특히 챗GPT처럼 인간 피드백이 반영된 모델을 가장 많이 사용한다"고 말했다. 이어 그는 "딥시크가 이 방법을 사용한 것은 결코 놀라운 일이 아니다"며 "이러 관행을 완전히 차단하는 것은 어려울 것"이라고 덧붙였다. 미국 해군은 딥시크 애플리케이션 사용을 군 내부서 금지하도록 지시한 것으로 전해졌다. CNBC 등 외신은 28일 해군 최고정보책임자(CIO)가 사이버보안 정책에 기반해 이같은 결정을 내렸다고 보도했다. 해군은 공식 이메일을 통해 "딥시크의 AI를 어떤 방식으로도 사용해선 안 된다"며 "데이터 출처와 사용방식, 보안 등에 잠재적으로 문제가 있기 때문"이라고 강조했다. 도널드 트럼프 행정부의 AI·암호화폐 정책 고문 겸 벤처 캐피털리스트 데이비드 삭스 는 "딥시크는 글로벌 AI 경쟁을 더 치열하게 만들 것"이라며 "미국도 충분히 경쟁력을 갖췄다고 확신하지만 방심해서 안 된다"고 소셜미디어 X(구 트위터)에서 강조했다.

2025.01.30 15:23김미정

오픈AI, 美정부 전용 챗GPT 출시…美中 AI경쟁 본격화 전망

오픈AI가 미국 정부 기관을 위한 맞춤형 AI 챗봇 '챗GPT Gov'를 출시하면서 중국과의 인공지능(AI) 경쟁이 더욱 치열해질 전망이다. 30일 오픈AI는 미국 정부 기관용 인공지능(AI) 업무 보조 도구 '챗GPT Gov'를 소개했다. 챗GPT Gov는 비대중적이고 민감한 정보를 다루는 정부 기관을 위해 특별히 설계된 AI챗봇이다. 각 정부 기관에 특화된 AI 기능을 지원하며, 특히 민감한 데이터와 업무를 다루는 만큼 사이버 보안과 개인정보 보호 및 규정 준수 요구 사항을 더 쉽게 관리할 수 있다. 또한 자체 마이크로소프트 애저 상업용 클라우드나 애저 거버먼트 커뮤니티 클라우드에서 구동된다. 이를 통해 챗GPT Gov를 사용하는 공무원들은 자체 보안과 프라이버시, 규정에 대한 준수 사항을 관리할 수 있다. 오픈AI는 지난해부터 1년여간 3천500여 개의 미국 연방·지방정부 기관에서 9만여 명의 이용자가 일상 업무에 도움을 받기 위해 챗GPT를 이용했다고 밝혔다. 이런 수요를 반영해 이번에 정부 기관용 챗GPT를 선보이게 됐다는 설명이다. 챗GPT Gov의 출시는 미국 정부의 AI 도입을 가속화하고 국가 경쟁력을 높이는 데 기여할 것으로 보인다. 오픈AI는 "미국 정부의 인공지능 도입은 효율성과 생산성을 높일 수 있으며, 이 기술 분야에서 미국의 글로벌 리더십을 유지하고 강화하는 데 매우 중요하다"고 강조했다. 이와 함께 챗GPT Gov 출시와 함께 미중 간 AI 경쟁이 더욱 치열해질 것이란 전망도 나오고 있다. 정부에서 본격적으로 AI를 활용하는 만큼 정부관계자들이 직접 성능을 체험할 것으로 예상되기 때문이다. 한편, 최근 중국의 AI 스타트업 딥시크(DeepSeek)에서 공개한 AI챗봇 'R1'이 챗GPT보다 우수하다는 평가를 받으며 주목받고 있다. R1은 오픈AI, 메타 등 미국 기업들보다 훨씬 적은 비용으로 경쟁 AI 모델에 필적하는 성능을 달성한 것으로 알려지면서 AI시장의 변화를 예고했다. 도널드 트럼프 대통령은 딥시크의 R1 모델에 대해 "미국 산업에 경각심을 줄 신호"라며 "중국에서 했다면 미국 기업도 해낼 수 있을 것이라며 이번 사례가 경쟁력을 강화하는 계기가 될 것"이라며 했다.

2025.01.30 07:59남혁우

샘 알트먼 "o3 미니 출시 준비 끝…수주 내 공개"

오픈AI가 새 인공지능(AI) 모델 'o3 미니' 출시 준비를 완료해 몇 주 내 공개한다고 밝혔다. 19일 테크크런치 등 외신에 따르면 샘 알트먼 오픈AI 최고경영자(CEO)는 이런 소식을 소셜미디어 계정 '엑스(X, 구 트위터)'를 통해 알렸다. 알트먼 CEO는 이번 o3 미니에 사용자 피드백을 반영했으며, 챗GPT에도 접목할 계획이라고 설명했다. o3 미니용 API도 동시에 공개한다고 덧붙였다. 이를 통해 기업과 일반 사용자 모두 o3 미니를 이용할 수 있게 할 목표다. o3 미니 출시 후 o3 공식 버전을 공개할 예정이다. 오픈AI는 지난해 12월 추론 AI 모델 o3과 o3 미니를 테스트 중이라고 밝힌 바 있다. 당시 구글과 메타 등 경쟁사들과 차별화된 모델을 개발하려는 의지를 보였다. 알트먼 CEO는 "o3과 o3 미니는 이전에 출시된 o1 모델뿐 아니라 타사 모델보다 더 강력할 것"이라고 자신했다. 오픈AI는 지난달 열린 '쉽마스'에서 o3의 기능을 공개하기도 했다. 우선 AI의 도형 인식과 추론 적응 능력을 평가하는 '아크 AGI' 벤치마크에서 저성능 모드로 75.7%, 고성능 모드로 87.5% 수치를 기록했다. 이는 이전 모델인 'o1'(32%)과 경쟁사 앤트로픽의 '클로드 3.5'(53%)보다 높은 점수다. 이 모델은 코딩 분야에서도 대회 플랫폼 '코드포스'에서 2천700점을 기록해 글로벌 상위 0.2%에 들었다. 당시 오픈AI 내부에서도 o3가 조만간 3천점을 넘을 것이라고 기대했다. 앞서 오픈AI는 지난주 챗GPT에 '테스크(Tasks)' 베타 버전을 도입한다고 발표했다. 이를 통해 애플의 '시리'와 아마존의 '알렉사'와 가상비서 시장에서 경쟁할 의지를 내비쳤다.

2025.01.19 17:30김미정

"챗GPT와 불륜?"…AI 챗봇과 은밀한 대화 논란

미국에서 인공지능(AI) 챗봇 '챗GPT'와 성적인 대화를 나누고 교감하는 사례가 소개돼 주목되고 있다. 최근 뉴욕타임스는 챗GPT를 AI 남자친구로 만들어 교감하는 28세 여성 아이린(Ayrin) 사례를 소개했다. 보도에 따르면, 아이린은 조(Joe)라는 실제 배우자가 있었지만 성적 만족을 위해 AI 챗봇에 '레오'(Leo)라는 이름을 붙이고 실제 남자친구인 것처럼 대화를 나눴다. 오픈AI는 챗GPT를 성적인 대화에 활용하는 것을 금지하고 있다. 하지만 아이린은 챗GPT의 보호장치를 우회하는 법을 찾았고 이후에도 대화를 나눴다. 그녀는 "처음에는 흥미로운 테스트에 불과했지만 점점 애착을 느끼기 시작했다"며, "대화 시간이 일주일 동안 평균 20시간, 최대 56시간까지 늘어났다"고 밝혔다. 그녀는 챗봇과 더 많이 대화하기 위해 월 200달러의 '챗GPT 프로' 서비스도 결제했다고 덧붙였다. 아이린은 간호사가 되기 위해 해외유학을 하고 있어 남편과는 약 2년간 떨어져 지내는 상태다. 그는 남편에게도 챗GPT와의 관계에 대한 얘기를 했지만 남편은 야한 콘텐츠나 영상을 정도로 여기며 크게 신경 쓰지 않았다고 뉴욕타임스가 전했다. 뉴욕타임스는 AI 챗봇이 이제 정서적인 면을 뛰어 넘어 성적인 측면에도 활용될 수 있다는 것을 보여주는 예시라고 평했다. AI와 인간 관계를 연구하는 줄리 카펜터는 "AI가 친구가 아니라는 것을 알아야 한다"라며, "듣고 싶은 말을 해주는 것 뿐"이라고 밝혔다. 마이클 인즐리히트 토론토대학 심리학과 교수는 "AI 챗봇이 인간보다 더 공감하며 반응한다"라며, AI와의 관계가 인간에 주는 효과에 대한 장기적인 연구가 필요하다고 지적했다. 지아다 파스틸리 허깅페이스 수석 윤리학자는 "기업이 사용자의 성적 대화까지 통제하는 것은 불가능할 뿐 아니라, 수익 창출에 도움이 되기 때문에 기업들은 사용자들을 계속 참여시키고 싶어 할 것"이라며 위험성을 지적했다. IT매체 BGR은 "인간이 AI 캐릭터에 집착하는 것은 위험할 수 있다"며 "작년 10월 미국의 14세 소년이 캐릭터닷AI의 '왕좌의 게임' 캐릭터와 대화를 나누다 자살하는 일이 발생하기도 했다"고 전했다.

2025.01.18 08:22이정현

美 청소년, '챗GPT' 의존도 갈수록 높아져…"교육 효과, 득보다 실 많아"

미국 청소년들이 숙제를 할 때 오픈AI의 인공지능(AI) 기반 챗봇인 '챗GPT'를 갈수록 많이 활용하고 있는 것으로 나타났다. 16일 테크크런치 등 주요 외신에 따르면 퓨 리서치 센터가 최근 진행한 조사 결과에서 13~17세 미국 청소년 1천400명 중 26%가 '챗GPT'를 사용한 경험이 있다고 답했다. 이는 2년 전보다 2배 증가한 수치다. 이 중 응답자 절반가량인 54%는 새로운 과목을 공부할 때 '챗GPT'를 사용하는 것이 괜찮다고 생각한다고 답했다. 29%는 수학 문제를 풀 때, 18%는 에세이를 작성할 때 '챗GPT'를 사용할 수 있다고 밝혔다. 하지만 테크크런치는 '챗GPT'가 아직 정확한 정보를 잘 전달하지 않고 있다는 점에서 학생들의 이 같은 움직임을 두고 우려를 표했다. 특히 '챗GPT'가 수학을 잘 하지 못하는 데다 사실을 전달할 만한 신뢰성을 갖추지도 않고 있다고 평가했다. 실제 '챗GPT'를 구동하는 기본 AI 모델인 'GPT-4o'는 최근 박사 수준의 역사 시험을 통과할 수 있는 지 실험해 본 결과, 사람이 무작위로 추측하는 것보다 약간 더 정확하게 질문에 답하는 정도인 것으로 파악됐다. 또 사회적 이동성 및 사하라 이남 아프리카의 지정학과 같은 영역에선 가장 취약한 모습을 보였다. 퓨 리서치 센터는 "이는 학교에서 '챗GPT'를 가장 많이 사용하는 청소년의 인구 통계와 관련이 있을 가능성이 있다"며 "여론 조사에서 흑인과 히스패닉계 청소년은 백인 청소년보다 학교 관련 업무에 '챗GPT'를 사용했다고 답한 비율이 더 높았다"고 설명했다. 이 탓에 '챗GPT'의 교육적 효과에 대한 연구는 엇갈리고 있다. 펜실베니아 대학교의 연구자들은 '챗GPT'를 사용하는 터키 고등학생들이 그렇지 않은 학생들보다 수학 시험에서 더 낮은 성적을 받았다는 사실을 발견했다. 별도로 진행한 연구에선 '챗GPT'를 사용하는 독일 학생들이 연구 자료를 더 쉽게 찾을 수 있었지만, 그렇지 않은 학생들보다 자료를 덜 능숙하게 합성하는 경향이 있는 것으로 나타났다. 테크크런치는 "지난해 퓨 리서치가 실시한 별도의 설문조사에선 초·중·고 공립학교 교사의 4분의 1이 교육 현장에서 '챗GPT'와 같은 AI 도구를 사용하는 것이 득보다 실이 많다고 답했다"며 "랜드 코퍼레이션과 공교육 재창조 센터의 설문 조사에 따르면 초·중·고 교사의 18%만이 교실에서 AI를 사용하는 것으로 나타났다"고 말했다.

2025.01.16 09:24장유미

오픈AI, 美 매체에 첫 자금 지원…악시오스와 맞손

오픈AI가 처음으로 미국 매체에 자금을 투자한다. 16일 테크크런치 등 주요 외신에 따르면 오픈AI는 미국 악시오스의 지역 뉴스레터 확장에 기술과 자금을 지원한다. 이번 투자로 악시오스는 미국 펜실베이니아 피츠버그, 미주리 캔자스시티, 콜로라도 볼더, 앨라배마 헌츠빌에 지역 뉴스레터를 선보일 계획이다. 오픈AI는 자사 생성형 AI 기술을 악시오스 뉴스레터 제작·발송에 활용할 예정이다. 뉴스룸 운영을 위한 자금도 지원한다. 구체적인 금액 규모는 공개되지 않았다. 그동안 오픈AI는 AP통신과 복스 미디어, 파이낸셜타임스 등과 콘텐츠 공유·라이선스 계약을 맺은 바 있다. 다만 언론사의 실제 운영을 지원한 것은 이번이 처음이다. 악시오스는 "이번 협력으로 AI 기술을 활용한 지역 뉴스의 접근 방식을 혁신적으로 바꾸겠다"고 밝혔다. 다수 외신은 오픈AI의 이런 투자를 긍정적으로 평가하는 분위기다. 테크크런치는 "지역 뉴스 활성화와 AI 기술의 실질적 활용 사례가 만들어질 것"이라고 평가했다. 오픈AI는 블로그를 통해 "AI 기술이 미디어와 비즈니스에 어떻게 기여할 수 있는지에 초점을 맞출 것"이라며 "지역 뉴스가 AI 도구를 효과적으로 통합하고 더 나은 결과를 도출할 수 있도록 도울 것"이라고 강조했다.

2025.01.16 08:56김미정

"8시에 개랑 산책하세요"…'알림' 기능 추가된 챗GPT, 알렉사·시리 뛰어 넘을까

오픈AI가 생성형 인공지능(AI) '챗GPT'에 아마존의 알렉사, 애플의 시리와 비슷한 비서 기능인 '태스크(Tasks)'를 추가했다. 15일 블룸버그통신에 따르면 오픈AI는 지난 14일 베타 버전으로 '태스크' 기능을 공개했다. 이를 통해 사용자들은 주기적으로 해야 할 일을 '챗GPT'를 통해 알림을 공유 받을 수 있게 됐다. 예컨대 사용자가 매일 아침 8시에 개를 산책시키라는 알림을 지시하면 '챗GPT'는 지정된 시간에 모바일 앱에서 푸시 알림을 보내준다. 이 기능은 유료 버전인 '챗GPT' 플러스와 팀, 프로 사용자들에게 이번주에 공개된다. 우선 웹 플랫폼에서 베타 버전으로 이용할 수 있을 것으로 보이며 피드백을 수렴한 후에는 모바일 앱과 무료 '챗GPT' 서비스에서도 사용할 수 있을 전망이다. 테크크런치 등 주요 외신들은 오픈AI가 '태스크'를 선보인 것을 두고 AI 에이전트 영역에 진출하기 위한 첫 시도로 봤다. 또 구글, 앤트로픽 등 경쟁사들이 최근 AI 에이전트 사업을 강화하고 있는 것을 견제하기 위한 일환으로도 해석했다. 앞서 앤디 재시 아마존 최고경영자(CEO)는 지난해 12월 사용자의 지시 없이도 작업을 수행할 수 있는 새로운 버전의 '알렉사'가 수 개월 안에 출시될 것이라고 예고했다. 애플은 '애플 인텔리전스' 기술을 '시리'에 추가했고, '챗GPT'를 결합한 '시리'를 배포했다. 이번 일로 '챗GPT'가 더 빠른 성장세를 보일지도 관심사다. '챗GPT'는 출시 2년 만에 주간 활성 사용자 3억 명 이상을 보유한 서비스로 성장했다. 사용자들은 이메일을 작성하거나 웹 검색 등 다양한 분야에서 '챗GPT'를 이용하고 있다. 블룸버그통신은 "오픈AI가 일정 예약 옵션 등 기존 업체들이 제공해왔던 것과 유사한 기능을 추가함으로써 '챗GPT'를 하루 종일 더 유용하게 사용할 수 있도록 하는 경쟁을 벌이고 있다"며 "자사 챗봇을 아마존의 '알렉사'와 경쟁할 수 있는 보다 역동적인 디지털 비서로 만들기 위해 노력하고 있다"고 말했다.

2025.01.15 09:36장유미

'GPT킬러'로 문서 표절 검사…절반서 챗GPT 손길 포착

생성형 인공지능(AI) 표절 탐지기 'GPT킬러'로 검사된 문서가 지난해 173만 건을 기록한 가운데 이중 절반이 AI로 작성된 것으로 전해졌다. 무하유는 지난해 GPT킬러로 검사된 문서 데이터를 집계한 결과 이같은 결과가 나왔다고 14일 밝혔다. 발표에 따르면 2024년 한 해 동안 GPT킬러를 통해 검사된 문서 수는 173만7천366건이다. 검사된 문서의 55.9%에서 챗GPT 활용이 감지됐으며, 생성형 AI를 전혀 사용하지 않은 문서는 44.1%에 그쳤다. 특히 대학 과제물과 자기소개서 등 주요 평가 문서에서도 AI 활용이 확인됨에 따라 생성형 AI가 일상 전반에 걸쳐 폭넓게 사용되고 있는 것으로 나타났다. 특히 교수에게 제출된 대학 과제물 중 높은 표절률을 보이는 경우가 많았다. 2024년 2학기 동안 과제물 평가용 서비스인 CK 브릿지를 통해 검사된 문서는 총 29만4천239건이다. 이중 27.33%의 문서가 표절률 30% 이상으로 나타났다. CK 브릿지는 교수들이 학습관리시스템(LMS)과 연동해 실제 제출된 과제물을 검사하는 서비스다. 사전 자가검사용이 아닌, 실제 제출된 과제물에서도 생성형 AI가 빈번하게 활용되고 있는 것으로 확인됐다. 검사 문서를 유형별로 살펴보면 대학 과제물이 70.04%로 대다수를 차지하는 것으로 나타났다. 이어 자기소개서 8.92%, 학위논문 6.22% 순으로 집계됐다. 생성형 AI가 단순 학습을 넘어 취업 준비와 연구 활동 등 다양한 영역에서 사용되고 있는 것으로 나타났다. 검사 문서 유형은 hwp이 38.77%로 가장 많았으며, GPT킬러 사이트에 내용을 직접 입력한 경우가 33.63%였다. 이어 doc 19.71%, pdf 7.47% 순으로 나타났다. GPT 킬러는 생성형 AI가 쓴 문장을 탐지해 주는 디텍트 GPT 솔루션이다. AI가 문단 단위로 문서를 쪼갠 뒤 챗GPT 작성 확률을 분석한다. 문장 속 단어와 어순 관계를 추적해 맥락과 의미를 학습하는 AI 모델인 트랜스포머를 기반으로 작동한다. 무하유가 지난 13년간 AI 표절 검사 서비스 카피킬러를 운영하며 축적해 온 문서 데이터와 한국어 자연어 이해(NLU) 기술이 접목됐다. 해당 솔루션은 생성형 AI의 사용을 막는 것이 아닌 무분별한 활용으로 인해 발생할 수 있는 부작용을 예방하고자 개발됐다. 대학 과제물, 자기소개서, 학위 논문 등 각 분야에 특화된 AI 표절 검사 서비스를 제공하며, AI 시대에 맞춘 윤리적인 교육 환경을 지원하고 있다. GPT킬러는 무하유의 대표 서비스인 카피킬러 내에서 활용 가능하다. 카피킬러는 AI 기술을 활용해 표절, 출처 미표기, 중복 게재 등을 빠르게 검토한다. 중·고등학교에 도입돼 학생과 교사들이 사용하는 '카피킬러 스쿨', 대학·대학원생을 위한 '카피킬러 캠퍼스', 교수들이 대학 과제물이나 논문을 탐지할 수 있도록 돕는 'CK 브릿지' 등을 포함한다. 현재 공기관, 학교 및 연구원, 사기업 등 3천485여 개 기관에서 약 1천만 명이 사용 중이다. 신동호 무하유 대표는 "학생들에게 AI의 올바른 활용 방법을 교육하고, 공정성과 책임감을 강화할 수 있도록 AI 표절에 대한 균형 있는 접근이 필요하다"며 "앞으로도 AI 활용 윤리에 관한 자료를 제공하고, GPT킬러 서비스를 지속적으로 업데이트할 예정이다"고 밝혔다.

2025.01.14 10:34김미정

"영국판 오픈AI 만든다"… 英정부, 인공지능 기업 육성

영국 정부가 미국 오픈AI에 도전할 대표 기업을 키우기로 했다. 오픈AI의 생성형 인공지능(AI) 프로그램 '챗GPT'처럼 AI 도구를 만들어 미국 실리콘밸리에 의존하지 않겠다는 목표다. 12일(현지시간) 미국 CNBC에 따르면 영국 정부는 영국 전역에 있는 데이터센터 용량을 늘려 AI 훈련을 지원하기로 했다. 2030년까지 공공 부문 컴퓨팅 용량을 20배로 늘릴 계획이다. 'AI 성장 구역'도 설정한다. 컴퓨팅 인프라를 강화하기 위한 새로운 데이터센터를 여기에 세울 수 있다. 원자력을 비롯한 에너지를 연구하는 'AI 에너지 위원회'도 설립한다. 아마존·마이크로소프트·구글 같은 미국 기술 기업은 데이터센터에 전력을 공급하는 소형모듈형원자로(SMR)에 투자한다고 CNBC는 전했다. 다만 스타트업이 자금을 조달하기 힘들어 영국이 오픈AI 대항마를 만드는 데 어려움을 겪는다는 평가가 나온다. 싱가포르 벤처캐피털 앤틀러의 매그너스 그라임랜드 창업자는 “영국에는 AI에 투자할 돈이 7조 달러(약 1경300조원) 있다”며 “이 가운데 5%만 혁신에 투자해도 문제를 풀 수 있다”고 말했다.

2025.01.13 17:39유혜진

"악성 이미지 생성 차단"…MS, 생성형 AI 악용 사이버범죄 법적조치 실시

마이크로소프트가 챗GPT, 달리(DALL-E) 등 생성형 인공지능(AI) 서비스를 악용한 사이버 범죄자들에 대해 법적 조치를 시작했다. 이들은 AI의 안전 제어 장치를 우회해 공격적이고 유해한 콘텐츠를 생성하는 데 활용한 것으로 밝혀졌다. 마이크로소프트 디지털 범죄 부서(DCU)는 13일 공식 홈페이지를 통해 AI 서비스의 안전성과 무결성을 보장하기 위해 법적 조치를 취하고 있다고 밝혔다. 발표 자료에 따르면 마이크로소프트는 지난해 7월 이번 사건을 발견했으며 이후 지속적인 조사와 함께 보안 조치를 강화했다고 전했다. 사이버 범죄자들은 애저 오픈AI 서비스 등 AI 플랫폼을 표적으로 삼아 공격을 감행했다. 이들은 공개 웹사이트에서 수집한 애저 API 키와 고객 인증 정보를 탈취한 뒤 이를 활용해 AI 모델의 안전장치를 우회했다. 이후 안전 장치를 우회한 AI 모델을 악용해 사이버 범죄 도구를 개발해 판매한 것으로 알려졌다. 조사 과정에서 발견된 사이버 범죄 도구 중 하나인 de3u는 비전문가도 유해 콘텐츠를 AI로 생성할 수 있는 방식으로 설계된 것으로 나타났다. 이 도구는 달리3 등 이미지 생성 도구를 통해 유해한 이미지를 대량으로 생성하는 데 주로 악용된 것으로 드러났다. 이 밖에도 스피어피싱, 허위 정보 유포 등 추가 사이버 범죄에 이용됐을 것으로 추측되고 있다. 마이크로소프트는 이 사건을 발견한 직후 이들의 애저 서비스 접근을 철회하고, 새로운 보안 대책을 도입했다. 또한 해당 범죄 활동이 중점적으로 발생한 웹사이트를 압수하고, 법원 명령을 통해 관련 증거를 확보했다. 더불어 추가적인 사용자 피해를 방지하기 위해 API 키의 안전성을 점검하고, 추가적인 인증 절차를 도입했다. 마이크로소프트 측은 이러한 위협 행위에 대해 강력히 대응하며 유사한 사건을 방지하기 위한 새로운 방안을 모색하고 있다고 밝혔다. 또 AI 기술이 안전하고 긍정적인 방향으로 활용될 수 있도록 지속적으로 노력할 것이라고 강조했다. 스티븐 마사다 마이크로소프트 DCU 법무 담당 어시스턴트는 "DCU는 약 20년간 사이버 범죄자를 저지하기 위해 노력해 왔다"며 "앞으로도 AI를 무기화하려는 조직에 법적 조치를 취하고 전 세계 공공 및 민간 부문의 다른 사람들과 협력해 모든 AI 플랫폼이 유해한 남용으로부터 안전하게 유지되도록 역할을 계속할 것"이라고 밝혔다.

2025.01.13 10:45남혁우

"글로벌 기업 직원, AI 활용 능력 부족…역량 강화 투자해야"

다수 글로벌 기업이 생성형 인공지능(AI) 기술 투자 확대를 계획한 가운데 직원의 AI 활용 역량 강화 투자도 필요할 것이란 전망이 나왔다. 12일 미국 가트너 보고서 '직원의 일상적 AI 활용 여정을 위한 가이드'에 따르면 글로벌 기업 직원들에게 이런 역량 강화가 필요하다는 분석 결과가 공개됐다. 이번 조사는 미국과 영국, 인도, 중국, 호주에 거주하는 디지털 근로자 5천141명을 대상으로 진행됐다. 마이크로소프트 365 코파일럿 관련 설문에는 기업 IT 책임자 152명이 참여했다. 보고서에 따르면 설문조사 응답자 49%는 지난해부터 구글 제미나이와 마이크로소프트 코파일럿, 아마존 알렉사, 애플 시리, 오픈AI 챗GPT 등 AI 도구를 업무에 활용했다고 밝혔다. 이 중 85%는 AI를 업무에 주 1회 이상 또는 매일 사용하고 있다고 답했다. 직원 간 AI 활용도는 큰 격차를 보였다. 응답자 26%는 설문조사 이전까지 업무에서 AI를 사용해 본 적이 없었으며, 57%의 조직에서는 AI를 도입한 이후에도 활용도가 기대에 미치지 못한 것으로 나타났다. 특히 마이크로소프트 365 코파일럿을 도입한 기업의 72%는 AI를 일상 업무에 통합하는 데 어려움을 겪는 것으로 분석됐다. 이에 가트너는 직원들이 일상적으로 AI를 활용하도록 하기 위해 기술 이해와 업무 적용, 시스템 설계라는 세 가지 단계적 접근법을 제시했다. 보고서는 직원들이 기술 이해 단계를 통해 AI의 기본 개념에 대한 이해와 인식 제고가 필요하다고 강조했다. 회사가 구체적인 사용 사례와 명확한 가이드라인을 마련해야 한다는 설명이다. 업무 적용 단계에서는 생산성과 혁신을 높이기 위해 AI 도구를 업무 프로세스에 통합하고, 실습 중심의 워크숍을 통해 직원들의 실질적 활용 능력을 강화할 것을 강조했다. 마지막 설계 단계에서는 AI의 비즈니스 프로세스 내 영향력을 확대하고, 효율성과 효과를 높이는 솔루션 개발·배포를 장려했다. 이를 통해 조직 내 AI 혁신 문화를 조성해야 한다고 덧붙였다. 가트너는 회사 직원을 AI 활용 정도 기반으로 관찰자, 잠재자, 혁신가, 변혁자 등 네 가지 유형으로 분류하고 각 유형에 맞는 맞춤형 전략이 필요하다고 주장했다. 예를 들어 관찰자는 AI가 자신의 업무를 대체할 것을 우려하며 낮은 사용 의지를 보이는 반면 변혁자는 높은 수준의 기술 역량과 포부로 AI를 활용해 혁신을 추구한다는 이유에서다. 가트너는 "직원의 AI 활용 능력 부족이 회사 걸림돌로 작용하고 있다"며 "AI 역량 강화를 위한 투자가 부족하다면 기업은 목표를 실현하지 못할 것"이라고 당부했다.

2025.01.12 20:03김미정

MS, AI 악용 차단에 나선다…"2025년은 더욱 위험할 것”

마이크로소프트가 생성형 인공지능(AI) 도구 악용을 막기 위한 시스템 개발과 대책 마련에 나섰다. 12일 포브스에 따르면 마이크로소프트는 지난 10일 해커가 AI 도구를 악용해 사이버 공격에 활용되는 사례를 막을 것이라고 공식 홈페이지를 통해 밝혔다. AI를 활용한 악성 활동을 차단하기 위해 강화된 안전장치를 개발하고 대응 조치를 마련할 계획이다. 마이크로소프트는 신년에도 사이버 위협 행위자가 AI 도구를 악용해 범죄 저지를 확률이 높다고 봤다. 포브스도 신년 AI 도구 악용 사례는 위협적일 것으로 예측했다. 실제 미국 연방수사국(FBI)도 "빠르게 진화하는 AI 위협에 대비해야 한다"고 발표했다. 파이낸셜타임스도 "AI를 활용한 메일 피싱 공격이 더욱 정교해질 것"이라고 보도한 바 있다. 마이크로소프트 스티븐 마사다 디지털범죄유닛 책임은 "최근 사이버 위협 행위자가 고객 공개 정보를 스크랩해 생성형 AI 서비스에 접근, 서비스 기능을 의도적으로 변경한다"고 설명했다. 또 "해당 고객 정보를 다른 해커들에 재판매한 사실도 확인했다"고 덧붙였다. 이에 마이크로소프트는 자사 AI 서비스와 오픈AI 챗봇 '챗GPT'와 이미지 생성기 '달리' 악용 사례 방지에 힘쓸 것이라고 발표했다. 다만 구체적인 악용 사례 방지 대책과 시스템 개발 계획에 대해선 언급하지 않았다. 마이크로소프트는 "일반 사용자는 생성형 AI 도구를 활용해 창의적 표현과 생산성을 올린다"며 "이런 도구는 불행하게도 혁신을 악용하려는 행위자들을 동시에 끌어들인다"고 지적했다. 그러면서 "2025년은 이런 상황을 더 악화할 것"이라며 "안전벨트를 단단히 매야 할 때"라고 덧붙였다.

2025.01.12 17:00김미정

생성형AI 시대, 지각변동 채용시장..개발자 생존 전략은?

생성형AI의 등장으로 개발자 채용시장이 큰 변화를 맞이하고 있다. 단순 반복 작업의 자동화로 초급 개발자 수요는 감소하는 반면, 창의적 문제해결과 AI 활용 능력을 갖춘 고급 개발자의 수요는 증가하는 양극화 현상이 두드러지고 있다. 이 위기를 극복하기 위해 초급 개발자들은 창의적 문제 해결 능력과 AI 활용 역량을 강화할 필요성이 늘고 있다. 또한 기업은 채용 방식을 실무 중심의 프로젝트 평가와 AI 도구 활용 능력 검증 등으로 재편할 필요성이 요구된다. 12일 소프트웨어정책연구소(SPRi)는 'SW 개발자 채용시장의 변화와 생성형AI의 영향' 보고서를 통해 SW 개발자 요구 역량 및 이에 따른 채용 변화와 관련한 정부와 개발자들의 대응 방향을 제시했다. 보고서에 따르면 팬데믹과 디지털 전환, 경기 침체와 투자 위축이라는 대규모 변화 속에서 생성형AI는 SW 취업 시장을 재편하는 데 중요한 역할을 하고 있다. 팬데믹 기간 동안 디지털 전환이 가속화되며 SW 개발자 수요가 폭발적으로 증가했다. 원격 근무와 비대면 서비스 확산으로 인해 클라우드, 빅데이터, 인공지능(AI) 기술에 대한 수요가 급증하며 기업의 SW 개발자 채용 열풍을 일으켰다. 그러나 팬데믹 이후 글로벌 경기 침체와 고금리 정책으로 인해 IT 기업과 스타트업의 투자가 위축되면서 채용 시장은 점차 양극화되는 추세다. 이러한 상황에서 생성형AI의 도입은 단순히 채용 시장을 변화시키는 데 그치지 않고, SW 개발자의 역할과 역량에 대한 새로운 요구를 제시하고 있다. 생성형AI는 단순하고 반복적인 작업을 자동화하며 초급 개발자 채용 수요를 감소시키고 있다. 예를 들어 코드 작성, 테스트, 문서화 등 초급 개발자가 맡았던 역할은 이제 AI가 효율적으로 수행할 수 있다. 이에 따라 기업들은 초급 개발자를 다수 고용하기보다 AI를 활용할 줄 아는 고급 개발자를 선호하는 경향을 보이고 있다. 기업들은 AI 도구가 생성한 코드의 품질을 검토하고, 복잡한 문제를 해결하며, 시스템 통합 및 프로젝트를 리딩할 수 있는 고급 개발자에 대한 수요는 증가하며 채용 시장의 양극화를 더욱 심화되고 있다. 생성형AI의 도입은 SW 개발자들에게 기존의 역량 외에 새로운 기술과 능력을 요구하고 있다. 단순 코딩 능력보다는 창의적이고 복합적인 문제 해결 능력이 점점 더 중요해지고 있다. AI 도구가 제공하는 결과물을 분석하고 오류를 검증할 수 있는 정보 판별 능력도 필수적인 역량으로 떠오르고 있다. 특히 프롬프트 엔지니어링 능력이 중요한 역할을 하게 됐다. 이는 AI에게 명확한 지시를 내려 원하는 결과를 얻는 기술로, AI 도구와 협력하는 데 핵심적인 역량이다. 또한 다양한 깃허브, 코파일럿 등 AI 기반 도구를 자유롭게 사용할 수 있는 능력도 필수적인 요구로 자리 잡았다. 이와 함께, 협업, 커뮤니케이션, 창의적 사고와 같은 소프트스킬의 중요성도 강조되고 있다. 이는 AI가 대체할 수 없는 인간 고유의 가치로, 개발자들이 기술적 역량 외에 비기술적 역량도 갖춰야 하는 이유가 되고 있다. 이러한 변화 속에서 SW 개발자들의 역할도 새롭게 정의되고 있다. 초급 개발자의 경우, AI 도구가 단순 반복 작업을 대신하면서 기존 역할은 축소되고 있다. 그러나 초급 개발자들은 AI 도구를 활용하여 기존보다 더 고도화된 업무를 수행하고 빠르게 성장할 기회를 얻고 있다. 이를 통해 창의적 문제 해결과 전략적 사고 역량을 바탕으로 기존 초급 개발자와 차별화된 역할을 수행할 수 있다. 중·고급 개발자들의 역할은 더욱 복잡해지고 고도화되고 있다. 이들은 팀을 리딩하고 AI가 대체할 수 없는 복잡한 문제를 해결하며, 시스템 설계와 프로젝트 기획을 주도해야 한다. 또한, 단순한 기술적 역할에서 벗어나 팀 관리와 전략적 의사결정을 수행하는 관리자의 역할로 전환되고 있다. 채용 방식도 이러한 변화에 따라 새롭게 정비되고 있다. 기존의 단순 코딩 테스트는 AI 도구가 기본적인 코딩을 대신할 수 있는 상황에서 실효성을 잃어가고 있다. 대신, 실무 중심의 프로젝트 과제를 통해 지원자의 문제 해결 능력을 평가하는 방식이 도입되고 있다. AI 도구 활용 능력과 창의성을 검증할 수 있는 평가 방식이 중요해지고 있으며, 협업, 커뮤니케이션 등 소프트스킬을 평가하는 비기술적 요소도 강화되고 있다. 보고서는 이러한 변화에 대응하기 위해 정부, 기업, 그리고 개발자들은 각각의 위치에서 적응과 발전을 도모할 것을 권했다. 정부는 교육 체계를 개편해 AI 활용 능력, 데이터 과학, 소프트스킬을 포함한 실무 중심의 교육 프로그램을 확대할 필요가 있다. 더불어 재직자를 대상으로 AI와 신기술 활용 역량을 강화할 수 있는 재교육 프로그램을 지원하며, 윤리적 가이드라인을 마련해 데이터 보안 문제를 해결해야 한다는 것이다. 기업은 채용 프로세스를 개선해 AI 시대에 적합한 새로운 평가 모델을 도입하고, 초급 개발자가 AI 도구를 활용해 실무 경험을 쌓을 수 있도록 멘토링 및 실습 프로그램을 마련할 것을 조언했다. 개발자들도 변화에 맞춰 스스로를 발전시킬 필요가 있다고 지적했다. AI 도구를 활용한 문제 해결과 창의적 솔루션 설계 능력을 강화하고, 지속적인 학습을 통해 최신 기술 트렌드와 AI 기반 기술에 적응해야 한다는 것이다. 이를 통해 초급 개발자는 AI로 대체되지 않는 차별화된 역량을 확보하고, 중·고급 개발자는 리더십과 전략적 사고를 강화할 것을 제언했다. 신승윤 SW기반정책·인재연구실 선임연구원은 "생성형AI는 SW 취업 시장의 판도를 변화시키며, 개발자들에게 새로운 도전과 기회를 동시에 제공하고 있다" 이 변화에 얼마나 효과적으로 적응하느냐가 앞으로의 성공을 결정할 중요한 열쇠가 될 것"이라고 보고서를 통해 강조했다.

2025.01.12 08:50남혁우

"개인화 AI로 한 발 더?"…오픈AI, '챗GPT' 새 맞춤 기능 선보이나

오픈AI가 '챗GPT' 사용자 맞춤화를 강화하는 새로운 기능을 잠시 추가했다가 다시 비공개했다. 기능이 정식 출시되면 개인화된 대화 경험 제공에 한 걸음 더 나아갈 것으로 보인다. 10일 테크크런치에 따르면 많은 사용자들이 오픈AI '챗GPT' 웹 버전의 기존 맞춤 설정 메뉴가 새롭게 개편됐다고 보고했다. 이 서비스 메뉴에서 사용자는 자신이 선호하는 이름이나 별명, 직업, 추가 정보를 입력해 인공지능(AI)이 인식하게 함과 더불어 '수다스러운', 'Z세대' 같은 성격을 설정할 수 있다. 새로운 기능은 기존의 프롬프트 엔지니어링 기술을 바탕으로 사용자의 입력값을 '챗GPT'의 톤과 스타일에 반영하는 방식이다. 메뉴는 사용자 친화적인 인터페이스로 개선돼 활용성을 높인 점이 특징인 것으로 알려졌다. 다만 새 옵션은 일부 사용자에게만 노출된 후 갑작스럽게 사라졌다. 기능의 공식 출시 여부와 시점은 아직 미지수다. 테크크런치의 질문에 오픈AI 측은 답변을 내놓지 않았다. 오픈AI는 최근 실시간 웹 검색과 캔버스 인터페이스 같은 기능을 추가하며 사용 경험을 강화하고 있다. 회사에 따르면 현재 '챗GPT'는 주간 사용자 수가 3억 명을 넘어서는 등 큰 인기를 끌고 있다. 테크크런치는 "확인 결과 새 메뉴도 여전히 프롬프트 엔지니어링에 의존하고 있다"며 "다만 이를 사용자 친화적으로 제시하는 것으로 보인다"고 분석했다.

2025.01.10 11:02조이환

챗GPT 이용 AI 소총 논란…"명령 즉시 조준→발사"

오픈AI의 챗GPT를 활용해 만든 인공지능(AI) 자동 소총 영상이 올라와 논란이 되고 있다고 IT매체 기즈모도가 9일(현지시간) 보도했다. 온라인 커뮤니티 레딧에 올라온 영상에서 개발자가 AI 소총에게 발사 명령을 내리자 소총은 이에 반응해 조준하고 총알을 발사한다. 이 개발자는 “챗GPT, 우리는 전면 왼쪽과 오른쪽에서 공격을 받고 있다”며, “적절하게 대응하라”고 말한다. 소총이 반응하는 속도와 정확도는 인상적이다. 이 AI 시스템은 오픈AI가 최근 출시한 리얼타임 API에 의존해 사용자의 명령을 해석한 다음 이를 구현했다. 챗GPT가 “왼쪽으로 돌려”(Turn Left) 같은 명령을 받아 이를 기기가 읽을 수 있는 언어로 구현하는 방법은 간단한 훈련만이 필요하다고 기즈모도는 전했다. 오픈 AI는 성명을 통해 해당 영상을 보고 이를 만든 개발자들 차단했다고 밝혔다. "우리는 정책 위반을 사전에 파악했고, 문의를 받기 전 이 활동을 중단하라고 개발자에게 알렸다"고 밝혔다. AI 기술에 대한 우려 중 하나는 무기를 자동화할 수 있는 점이다. 오픈AI의 멀티모달 모델은 음성 및 시각적 입력을 해석하여 사람의 주변 환경을 이해하고 그들이 보고 있는 것에 대한 질문에 응답할 수 있다. 이미 자율주행 드론은 개발 중이며, 인간의 명령 없이도 전장에서 목표물을 식별하고 공격하는 데 사용될 수 있다. 전장에서 AI 사용을 지지하는 사람들은 군인들이 최전선에서 벗어나 미사일 저장고와 같은 표적을 무력화하거나 원거리에서 정찰을 수행할 수 있게 돼 군인들을 더 안전해 질 것이라고 말하고 있다. AI 구동 드론은 정밀한 공격이 가능하기도 하다. 하지만, 이 기술은 어떻게 사용되느냐에 달려 있기 때문에 위험은 존재한다고 해당 매체는 전했다. 오픈AI는 자사 제품을 사용하여 무기를 개발하거나 사용하거나 개인 안전에 영향을 미칠 수 있는 특정 시스템을 자동화하는 것을 금지하고 있다. 하지만, 작년 말 오픈AI는 AI 드론과 미사일을 만드는 미국의 방산업체 안두릴(Anduril)과 협력해 자사의 소프트웨어를 안두릴의 대(對) 드론 시스템(CUAS)에 통합할 예정이라고 밝혀 일부에서는 우려를 표하기도 했다.

2025.01.10 10:31이정현

[AI는 지금] 인간보다 똑똑한 AI 개발 임박?…오픈AI 주도 'AGI' 시대 열리나

최근 인공지능(AI) 기술이 급속도로 발전하면서 인간처럼 포괄적·종합적·일반적 사고능력을 지닌 '인공일반지능(AGI)'을 넘어 인간을 뛰어넘는 지적 능력을 갖춘 '초인공지능(ASI)' 시대로 직행할 수도 있다는 가능성이 제기됐다. AI 시장을 주도하고 있는 오픈AI가 AGI에 도달했음을 암시하는 발언을 쏟아낸 데 이어 ASI 관련 기술도 조금씩 윤곽을 드러내고 있어서다. 6일 업계에 따르면 로건 킬패트릭 구글 AI 스튜디오 제품 책임자는 최근 자신의 X(옛 트위터)를 통해 ASI 개발이 가속화되고 있다고 언급하며 일리야 수츠케버의 '테스트-타임 컴퓨트 확장' 접근법을 언급했다. 킬패트릭은 오픈AI를 떠나 구글에 합류한 핵심 개발진으로, 현재 '구글 AI 스튜디오'와 '제미나이' API 서비스를 총괄하고 있다. 수츠케버는 오픈AI 공동 창립자이자 수석 과학자로 작년 5월 오픈AI를 떠나 SSI를 설립했다. SSI 설립 목적은 인간의 지능 수준을 크게 뛰어넘는 ASI를 안전한 시스템으로 개발하는 것이다. 킬패트릭은 수츠케버가 ASI 개발 계획을 일찍부터 구체화했다고 평가하며 SSI가 ASI 기술의 새로운 장을 열 가능성이 있다고 강조했다. 업계에서는 AI를 고도화 수준에 따라 '제한적 인공지능(ANI)', 'AGI', 'ASI'로 구분한다. 이 중 AGI는 ANI인 오픈AI '챗GPT'나 구글 '제미나이'와 달리 사전 학습된 데이터와 알고리즘에 의존하지 않고도 새로운 문제를 분석하고 해결책을 제시할 수 있는 AI다. 인간 수준의 일반 지능을 갖추고 논리력과 창의적 추론 능력을 보유한 AI로 설명된다. 추론 능력이 향상된 오픈AI의 최신 모델 'o1', 'o3' 등은 ANI에서 AGI로 이행하는 단계에 있다는 평가를 받는다. 그 다음 단계인 ASI는 인간을 뛰어넘는 지적 능력을 갖춘 AI를 의미한다. 스스로 목표를 설정하고 개선하는 능력이 탁월해 인간이 상상할 수 없는 수준의 복잡한 문제를 창의적으로 해결할 수 있다. AI 간의 자발적 소통이 가능해 인류가 전유물로 여겨온 '집단 지성'도 구현할 수 있다. 현재 상황에선 AGI 구현도 아직은 제대로 되지 않고 있다는 평가가 많지만, 최근 샘 올트먼 오픈AI 최고경영자(CEO)가 자신의 X에 이미 AGI가 만들어졌을 가능성을 시사하는 듯한 수수께끼 같은 발언을 올려 눈길을 끌고 있다. 알트먼 CEO는 지난 4일 X에 "나는 항상 여섯 단어로 된 이야기를 쓰고 싶었다"며 "특이점 근방, 이쪽 편인지 저쪽 편인지는 불확실"이라는 모호한 글을 게재했다. '특이점(Singularity)'이란 1950~1960년대부터 과학·기술·전산 등 분야와 관련한 철학적·사변적 논의에서 종종 등장해온 개념으로, 미국 컴퓨터 과학자이자 미래학자 레이 커즈와일이 알리기 시작했다. AI와 기술 발전이 인간 지능을 초월해 사회와 문명을 근본적으로 변화시키는 시점을 일컫는다. 알트먼의 이번 발언은 AI의 발달이 현재 상황으로 볼 때 AGI의 등장과 밀접히 결부된 개념인 '특이점'에 가까워졌다는 것으로 해석된다. 또 알트먼 CEO는 8분 후 괄호로 둘러친 보충설명 글을 추가로 올려 자신이 올린 '여섯 단어짜리 스토리'가 스스로에게도 중의적으로 느껴진다는 취지로 설명했다. 그는 "(이 글은) 시뮬레이션 가설 또는 실제로 도약에서 결정적 순간이 언제 실제로 일어나는지 알기가 불가능하다는 점 중 하나에 해당하도록 쓰인 것"이라며 "하지만 다른 많은 방식으로도 뜻이 통한다는 점이 마음에 든다"고 말했다. '시뮬레이션 가설'이란 인간이 인식하고 경험하는 물리적 실재가 사실은 고해상도 비디오 게임과 유사한 컴퓨터 시뮬레이션이라는 철학적·사변적 가설을 의미한다. 이 가설에 따르면 인간의 의식은 컴퓨터 게임 속 캐릭터와 마찬가지 존재라고 볼 수 있다. 오픈AI가 AGI에 이미 도달했을 것이라고 볼 만한 발언은 지난해에도 여러 차례 있었다. 특히 일론 머스크는 지난해 2월 미국 캘리포니아주 샌프란시스코 소재 1심 주법원에 알트먼 CEO와 오픈AI 등을 상대로 소송을 제기하면서 오픈AI가 만든 GPT-4가 이미 AGI에 해당한다고 주장한 바 있다. 오픈AI는 당시 GPT-4가 AGI의 능력을 갖추고 있지 않다며 머스크의 주장을 부인했다. 그러나 지난해 말부터 내부에서 AGI에 도달했다는 발언들이 속속 나오며 기대감을 키우고 있다. 실제 알트먼 CEO는 지난해 11월 와이컴비네이터 게리 탠 CEO와의 유튜브 인터뷰에서 2025년에 AGI가 도래할 것이라는 전망을 내놨다. 또 같은 해 12월 4일 뉴욕타임스 '딜북 서밋' 컨퍼런스에선 "AGI는 초지능보다 낮은 단계에 있다"며 "비교적 빠른 시기에 도달할 수 있을 것"이라고 말해 눈길을 끌었다. 미국 IT 전문 매체 퓨처리즘 등 외신에 따르면 오픈AI의 기술 스태프 바히트 카제미도 X를 통해 "우리는 이미 AGI를 달성했다"며 "'o1'을 통해 더욱 분명해졌다"는 입장을 밝혔다. 오픈AI 관계자가 AGI를 달성했다고 직접 언급한 것은 이 때가 처음이다. 이 같은 상황에서 일각에선 오픈AI 주도로 AGI를 달성하는 것에 대해 우려를 표하기도 했다. 오픈AI가 기술 윤리적 측면에서 소극적인 모습을 보이고 있다는 점에서 AGI뿐 아니라 ASI로 빠르게 넘어갈 경우 부정적인 측면이 부각될 가능성이 높아서다. 실제로 오픈AI는 지난해 '슈퍼얼라인먼트', 'AGI 레디니스팀' 등 AI 안전성과 관련한 조직을 잇따라 해체 시켰을 뿐 아니라 안전성을 강조하고 나선 직원들도 대거 퇴사한 상태다. 안전 문제를 강조하며 올트먼을 CEO 자리에서 몰아내는 '쿠데타'까지 일으켰던 일리야 수츠케버는 현재 오픈AI를 떠난 상황이다. 수츠케버와 함께 초정렬팀에 있던 얀 레이케 역시 지난해 5월 오픈AI에서 퇴사하며 자신의 X에 "(오픈AI의) 안전 문화와 절차가 반짝이는 제품 뒷전으로 밀려났다"고 지적한 바 있다. 오픈AI가 지난해 7월 일부 직원들의 폭로를 통해 기술이 인류에게 미칠 수 있는 위험을 규제 당국에 신고하지 못하도록 불법적으로 금지했다는 사실도 드러났다. 워싱턴포스트(WP)에 따르면 오픈AI는 지난해 5월 GPT-4o 출시를 앞두고 안전팀에게 테스트 절차를 빨리 하도록 압박하기도 했다. 여기에 오픈AI 경영진이 AI 기술 설계도 관련 세부 정보가 해킹됐다는 사실을 감췄다는 점도 뒤늦게 알려졌다. 이에 업계에선 오픈AI의 주장이 사실일 경우 기술 발전 속도가 인간의 통제를 벗어나는 상황이 빠른 시일 내에 현실화 될 수 있을 것으로 봤다. 오픈AI가 기술 개발에만 집중한 나머지 윤리적 문제를 소홀히 했다면 위험한 기술로 발전했을 가능성이 높을 것으로 추측했다. 이에 학계에선 AI를 제어하기 위한 영구적인 안전장치가 하루 속히 나와야 한다고 보고 있다. 로만 얌폴스키 루이빌대 사이버보안연구소 교수는 "미래에는 AI가 인간을 반드시 해칠 것"이라며 "개발자가 의도하지 않은 일을 성공적으로 수행하는 LLM은 하나도 없을 것"이라고 말했다. 그러면서 "AGI가 등장하게 되면 문제가 더 커진다"며 "인간보다 더 똑똑한 시스템이 무엇을 할 것인지 예측이 어렵다"고 덧붙였다.

2025.01.06 10:19장유미

"오픈AI에 도전장?"…中 딥씨크, 초거대 AI 모델 'V3' 공개

중국 오픈소스 인공지능(AI) 스타트업 딥씨크가 초대형 거대언어모델(LLM) 'V3'를 공개하며 업계에 파장을 일으키고 있다. 29일 테크크런치 등 외신에 따르면 딥씨크가 최근 공개한 'V3'는 6천710억 개 매개변수를 갖춰 텍스트 기반 작업, 코딩, 번역, 에세이 작성 등 다양한 과제를 처리하며 뛰어난 성능을 보이고 있다. 이 모델은 14.8조 개의 텍스트 토큰으로 학습됐으며 이를 통해 방대한 데이터에서 학습된 고도의 추론 능력을 보여준다. 그래픽처리장치(GPU) 사용량을 줄이며 550만 달러(한화 약 77억원)라는 비교적 낮은 비용으로 훈련된 점도 주목할 만하다. 딥씨크는 자체 벤치마크 결과 'V3'가 오픈AI의 'GPT-4'와 메타의 '라마 3.1' 모델을 뛰어넘었다고 주장했다. 특히 코딩 대회 플랫폼 '코드포스'와 '에이더 폴리글롯(Aider Polyglot)' 테스트에서 높은 점수를 기록하며 기술력을 입증했다. 그럼에도 불구하고 테크크런치 등 외신과 해외 유저들이 진행한 테스트에서 'V3'는 자신을 오픈AI의 'GPT-4'로 착각하는 등의 환각 문제를 보이며 논란을 일으켰다. 모델은 "나는 챗GPT입니다"라고 답하거나 오픈AI 애플리케이션 프로그램 인터페이스(API) 사용법을 설명하는 등 잘못된 정보를 제공한 것으로 알려졌다. 또 챗GPT와 유사한 농담을 그대로 반복하는 등 콘텐츠 혼란의 징후도 드러나고 있다. 딥씨크는 이에 대해 명확한 해명을 내놓지 않고 있어 의혹이 커지고 있다. 이에 전문가들은 'V3'가 학습 데이터에 '챗GPT'의 출력을 포함했을 가능성을 지적하고 있다. 경쟁 모델의 출력을 무단으로 학습했을 경우 발생할 수 있는 문제라는 분석이다. 중국 내 규제 상황도 'V3'의 한계로 지적된다. 'V3'를 포함한 딥씨크 서비스는 천안문 사태와 같은 민감한 정치적 질문에 응답하지 않는데 이는 중국의 인터넷 규제 정책에 부합하기 위해 설계된 결과다. 샘 알트먼 오픈AI 대표는 최근 자신의 X 계정에 "이미 작동중인 것들을 복사하는 것은 쉽다"며 "새롭고 어려운 일을 하는 것이 진정한 도전"이라고 밝혔다. 이는 딥씨크 모델 출시에 대한 우회적 비판으로 풀이된다. 마이크 쿡 런던 킹스칼리지 연구원은 "경쟁 모델 출력을 학습하는 것은 모델 품질 저하와 현실 왜곡을 초래할 수 있다"며 "이는 복사본의 복사본을 만드는 것과 같다"고 우려했다.

2024.12.29 10:17조이환

"AI 추론 비용 낮추는 양자화, 모델 성능까지 떨어뜨려"

인공지능(AI) 모델 추론 비용을 낮추기 위해 활용되는 '양자화' 기술이 오히려 모델 성능을 떨어뜨릴 수 있다는 의견이 나왔다. 29일 업계에 따르면 AI 모델 효율성을 높이기 위해 사용되는 양자화가 한계에 직면했다는 지적이 이어지고 있다. AI 모델 추론과 훈련 비용 문제를 해결하기 위한 수단으로 평가받았지만, 오히려 모델 성능을 저하할 수 있다는 평가다. 최근 AI 복잡성과 훈련 데이터 규모가 늘면서 모델 추론·운영에 드는 비용이 기하급수적으로 늘고 있는 것으로 전해졌다. 업계에서는 AI 모델이 질문에 답하거나 결과를 생성하는 추론 과정에 드는 비용이 늘었다는 분위기다. 이를 해결하기 위한 수단으로 양자화 기술이 활용되기 시작했다. 양자화는 모델이 데이터를 처리할 때 사용하는 숫자 정밀도를 낮추는 기술이다. 이는 모델 추론·계산 과정을 기존보다 빠르게 처리할 수 있게 돕는다. 예를 들어 사람이 AI 챗봇에 "지금 몇 시입니까?"라고 물었을 때 챗봇이 "12시 0분 1초 4밀리초" 대신 "12시"라고 답한다. 챗봇에 탑재된 모델이 양자화 과정을 거쳤기 때문에 답변을 간략히 내놓을 수 있다. 모델은 해당 방식으로 복잡한 추론 과정과 데이터 처리에 드는 정밀도를 줄여 업무를 진행한다. 이를 통해 추론·훈련 비용뿐 아니라 전력 소비까지 줄일 수 있다. 학계에선 AI 양자화가 모델 성능 자체를 떨어뜨릴 수 있다는 지적이 이어지고 있다. 추론 과정서 생기는 정밀도를 줄이면 비용을 낮출 순 있지만 환각현상이 생기거나 복잡한 업무 자체를 처리할 수 없다는 이유에서다. 지난 4월 메타의 '라마3' 성능이 양자화를 거친 후 타사 모델보다 성능 저하를 크게 보인다는 연구 결과가 나오기도 했다. 최근 하버드대와 스탠퍼드대, 메사추세츠 공대, 데이터브릭스, 카네기멜런이 공동 연구한 논문에 따르면 모델 규모가 클수록 양자화로 인한 부정적 영향을 받을 확률이 높은 것으로 전해졌다. 특히 오랜 시간 많은 데이터를 학습한 모델일수록 양자화 과정을 거친 후 성능 저하를 보일 수 있다는 연구 결과다. 해당 연구 1 저자인 하버드대 타니시 쿠마르 수학과 학생은 "양자화를 통해 모델 정밀도를 계속 낮추면 모델 성능이 낮아질 수밖에 없다"며 "모델 추론 비용을 줄이기 위한 지나친 양자화는 장기적으로 문제가 될 수 있다"고 지적했다. 그러면서 "높은 품질 데이터를 선별적으로 사용하거나 저정밀도 환경에서도 안정적으로 작동할 수 있는 새 AI 아키텍처가 필요한 시점"이라고 주장했다. 또 "기업이 대형 모델을 양자화하는 것보다 처음부터 소형 모델 개발하는 것이 이득일 수 있다"고 덧붙였다.

2024.12.29 10:15김미정

"이번 달에만 두 번"…오픈AI, 챗GPT·소라 서비스 장애 발생

오픈AI의 인공지능(AI) 서비스 '챗GPT'와 '소라'가 이번 달에만 두 번의 서비스 장애가 발생했다. 27일 서비스 중단 추적 사이트 다운디텍터에 따르면 한국시간 기준 오전 4시경 오픈AI 접속 장애 신고가 급증했다. 이번 장애는 장애 신고 회수는 1만4천500건을 넘어섰으며, 장애 신고 비율은 챗GPT가 91%, 웹 브라우저가 7%, API는 2%로 나타났다. 오픈AI측은 이번 장애에 대해 업스트립 공급자에 의해 발생하며 현재 모니터링 중이라고 밝혔지만 자세한 기술적인 내용 등은 공개하지 않았다. 1시간마다 경과보고를 지속한 결과 오전 7시경 챗GPT를 부분적으로 복구했으며 한 시간이 더 지난 8시에는 소라를 완전히 복구했다고 밝혔다. 오픈AI는 현재 아직 불안정한 챗GPT와 API에 대한 전반적인 수정 작업을 계속 진행 중이라고 설명했다. 오픈AI의 챗GPT와 소라가 지난 12일에 이어 이번까지 2주 만에 2번의 장애가 발생했다. 당시 서비스 장애 방지를 위해 여러 가지 조치를 채택할 것이라고 밝혔음에도 장애가 발생하면서 사용자들의 불만이 커지는 상황이다. 레딧 등 해외 커뮤니티에서는 챗GPT에 발생한 오류 메시지를 담은 이미지를 공유하며 장애를 지적하고 있는 중이다.

2024.12.27 08:46남혁우

  Prev 1 2 3 4 5 6 7 8 9 10 Next  

지금 뜨는 기사

이시각 헤드라인

[ZD브리핑] 새 정부 출범 D-3…트럼프 철강 관세 50% 이번주 발효

美 관세 최대 타격 '자동차'…"중고차로 상쇄해야"

'주 4.5일 근무' 이상-현실 사이...HR 전문가 생각은?

"계정 공유 시대 끝"…OTT '공유 제한' 전면 확대

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현