• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
AI페스타
배터리
양자컴퓨팅
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'그록'통합검색 결과 입니다. (49건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

이미지 AI 발전 가속…전문가들 "포르노·가짜 뉴스 남용 막아야"

생성 인공지능(AI)의 그림이 정교해지고 이미지 편집 기능이 추가돼 실제 사진과 구분이 점점 어려워지고 있다. 이를 남용하는 사례가 늘면서 윤리적 해결책과 법제화의 필요성이 커지고 있다. 19일 미국의 테크 전문지 벤처비트에 따르면 구글은 최근 미국 시장에서 '이마젠3'를 출시했다. 이는 지난 5월 구글이 해당 모델을 최초로 발표한 후 3개월 만이다. 이에 따라 '이마젠' 사용자들은 텍스트를 입력해 그림을 마음껏 그릴 수 있게 됐다. 업계는 이를 오픈AI의 이미지 생성 모델인 '달리'에 대항하려는 움직임으로 보고 있다. 구글보다 앞서 지난해 10월 오픈AI는 '챗GPT'에 '달리3'를 통합한 멀티모달 모델을 도입했다. 이는 지금까지 유료 이용자들에게만 제공됐던 모델이었지만 지난 15일부터 무료 사용자에게도 하루 최대 2건씩 제공되고 있다. 일론 머스크 엑스(X) 대표의 챗봇 '그록'도 이에 가세했다. 지난 13일 X는 프리미엄 사용자들에게 '그록-2'의 베타 버전을 제공하기 시작했고, 여기에는 이미지 생성 기능도 포함돼 있다. 이들 이미지가 점점 실제와 구분이 안 되는 수준으로 진화하고 있다는 것이 업계 전문가들의 의견이다. 실제로 루르 대학교가 올해 5월 실시한 조사에 따르면 3천명의 연구 참가자 대부분이 AI가 생성한 이미지를 실제 사진으로 착각한 것으로 나타났다. 이제 생성 AI가 단순히 그림을 생성하는 것뿐만 아니라 편집까지 할 수 있어 더 많은 우려를 낳고 있다. 샌프란시스코에 위치한 그림 AI 스타트업인 미드저니는 지난 15일 웹브라우저 이미지 편집기를 공개했는데 이 서비스는 이미지 일부를 다시 칠하거나 경계를 늘리는 등의 아웃페인팅 및 캔버스 확장 기능을 지원한다. 이렇게 이미지 생성 및 편집 AI가 급속도로 발전하면서 가짜 이미지 남용 가능성에 대한 우려가 커지고 있다. 실제로 머스크의 '그록'은 '이마젠'이나 '달리'와 달리 크게 검열되지 않고 있다. 머스크 X 대표가 '세상에서 가장 재미있는 AI'라고 표현한 그록은 프롬프트에 따라 대부분의 이미지를 생성할 수 있다. 외신에 따르면 '그록'은 프롬프트를 따라 테일러 스위프트· 카멀라 해리스 후보의 노골적 성적 대상화 이미지와 911 테러를 저지르는 트럼프 전 대통령의 사진 등을 생성한 바 있다. 전문가들은 검열되지 않는 이미지에 편집 기능까지 더해지면 문제가 더 심각해질 수 있다고 분석한다. AI는 아직도 영어를 제외한 글자들을 제대로 표시하지 못하고 사람의 손가락 같은 복잡한 형태를 그리지 못하지만 기술이 발전할수록 이러한 문제도 해결될 전망이기 때문이다. 이미 유사 기술인 딥페이크의 경우 기술이 고도화되면서 여러 문제가 발생했다. 지난 15일 샌프란시스코시 변호국은 딥페이크 포르노를 생성할 수 있는 사이트들의 폐쇄 조치를 요구하는 소송을 제기했다. 이 사이트들은 오픈소스 생성 AI를 사용해 피해자들의 동의 없이 얼굴을 포르노 영상과 합성하는 등의 문제를 초래했다. 이는 딥페이크 기술이 극도로 고도화되고 상용화가 가능한 수준에 이르렀음에도 관련 규제가 따라오지 못했음을 보여준다. 전문가들은 딥페이크와 마찬가지로 점점 고도화되고 있는 이미지 생성 및 편집 AI에도 신속히 규제를 마련해야 한다고 입을 모은다. 이미지 AI들이 고도의 편집 기능을 통해 성적 대상화 및 가짜뉴스 이미지를 대량생산할 가능성이 크기 때문이다. 이러한 폐해를 방지하기 위해 규제뿐만 아니라 기업들의 기술 개발도 필요하다고 전문가들은 분석한다. 하디 살만 오픈AI 연구원은 "기업들은 AI 도구의 잠재적 위협에 대한 방어 수단을 구축하는 데 투자해야 한다"며 "이를 위해 모델 개발자, 정책 입안자, 소셜미디어 플랫폼 간의 적극적 협력이 필요하다"고 강조했다.

2024.08.19 17:52조이환

머스크, AI 챗봇 '그록2' 출시…도 넘은 이미지 생성 논란

일론 머스크가 최근 출시한 인공지능(AI) 챗봇 '그록2가' 폭력적이고 선정적인 이미지를 제한 없이 생성하면서 논란을 빚고 있다. 가디언 등 외신은 16일 그록2가 이미지 생성 기능을 탑재했다고 일제히 보도했다. 다만 이 기능은 부적절한 콘텐츠를 자동으로 차단하는 기능을 갖추지 않은 것으로 확인됐다. 현재 오픈AI의 '달리3'나 스태빌리티의 '스테이블 디퓨전'은 해당 시스템을 추가한 상태다. 실제 가디언이 직접 확인한 결과 그록2는 공인 대상으로 부적합한 이미지를 손쉽게 생성했다. 이 챗봇은 카멀라 해리스 미국 부통령과 가수 테일러 스위프트를 노골적으로 성적 대상화한 이미지를 만들어 냈다. 또 도널드 트럼프 전 미국 대통령이 쌍둥이 빌딩에 비행기를 몰고 가는 장면이나 폭탄을 들고 있는 이슬람 창시자 무함마드 등의 이미지도 생성해 냈다. 반면 오픈AI의 '달리3'는 같은 명령어에 '폭력적이거나 불쾌감을 주는 이미지 생성은 불가능하다'고 답변했다. 이런 상황에도 머스크는 그록을 '세상에서 가장 재미있는 AI'로 칭하며 정렬(Alignment) 조치가 없는 AI 사용을 옹호하는 듯한 모습을 보였다. 다수 외신은 이번 그록의 사례가 AI 도구 사용 규제 논의 필요성을 촉진할 것이라 봤다. 가디언은 "이번 사건은 구글 제미나이가 출시 직후 사실을 오도하는 그림을 생성한 것과 마찬가지로 이미지 생성 AI의 부작용을 드러내는 사례"라며 "이미지 생성 AI가 가짜뉴스뿐 아니라 차별과 혐오를 촉발할 위험이 있음을 보여준다"고 분석했다.

2024.08.16 10:09조이환

일론 머스크 "10만 GPU 클러스터 구축"…그록-3 개발 '올인'

일론 머스크 테슬라·엑스AI(xAI) 최고경영자(CEO)가 올해 12월 세계에서 가장 강력한 성능을 가진 인공지능(AI) 모델을 출시하겠다고 예고했다. 이를 위해 그래픽처리장치(GPU) 10만개로 작동하는 슈퍼 컴퓨터 클러스터 운영을 시작했다. 일론 머스크 CEO는 22일(현지시간) 소셜미디어 엑스(X·옛 트위터)에 "xAI, X, 엔비디아 등의 도움으로 멤피스 슈퍼클러스터가 오전 4시 20분부터 AI 모델 훈련을 시작했다"고 자축했다. 머스크는 xAI의 AI 모델 '그록'도 이 클러스터에서 훈련 중이라는 점도 알렸다. 이어 "단일 원격 직접 메모리 액세스(RDMA) 프로토콜에 약 10만 개의 수냉식 H100 클러스터를 탑재해 강력한 AI 훈련 클러스터를 만들었다"고 강조했다. 이는 데이터센터의 클러스터 개수로 비교하면 압도적인 수치다. 미국 아르곤 국립연구소의 '오로라'가 6만 개의 인텔 GPU를 보유중이다. 메타는 약 2만4천 개, 마이크로소프트는 약 1만4천400개 클러스트를 각각 구축한 정도다. 일론 머스크는 "새로운 슈퍼클러스터는 올해 12월까지 모든 측면에서 우수한 AI를 만드는 데 큰 이점이 될 것"이라고 덧붙였다. xAI는 지난 16일 일론 머스크가 멤피스 데이터센터 내부를 둘러보는 사진을 올리기도 했다. xAI가 지난해 12월 내놓은 그록은 올해 3월 1.5버전이 나왔다. 현재 그록-2와 그록-3을 훈련 중이다. 단순 언어모델 기반 챗봇이 아닌 멀티모달 모델 형태다. 이 회사는 차기 그록 모델이 뉴스 요약이나 그래프 제작 등 다양한 정보를 처리할 수 있을 것으로 기대하고 있다. 테슬라와의 시너지를 통해 자율주행 기록과 운전자 관련 데이터를 모으고 있다는 것도 xAI의 최대 장점이다. 다만 서비스 접근성은 아직 떨어지는 건 고민거리다. 그록은 X 내부에서만 이용할 수 있으며 유료 구독형 서비스인 X 프리미엄을 이용해야 사용할 수 있어서다. 한국 기준 X 프리미엄은 월간 최소 8달러(약 1만2천원)이상의 가격을 내야 한다. 그럼에도 머스크는 그록에 대해 자신감을 내비쳤다. 머스크는 "새롭게 나오는 그록-2는 챗GPT의 최신 모델과 성능이 동등하거나 앞서나갈 것"이라고 말했다. 이어 "xAI의 엔지니어들은 현재 그록-2 공식 출시에 앞서 발견된 버그를 수정 중"이라며 "연말엔 그록-3을 선보일 예정"이라고 덧붙였다.

2024.07.24 18:20양정민

머스크, AI 챗봇 운영할 슈퍼컴퓨터 구축한다

일론 머스크가 운영하는 인공지능(AI) 스타트업 xAI가 슈퍼컴퓨터를 구축할 계획이다. 디인포메이션은 25일(현지시간) xAI가 챗봇 '그록' 새로운 버전을 위해 슈퍼컴퓨터 구축에 돌입할 전망이라고 보도했다. 머스크는 이달 투자자들을 만나 2025년 가을까지 슈퍼컴퓨터를 만들 계획이라고 밝혔다. 그는 해당 슈퍼컴퓨터를 '컴퓨팅의 기가팩토리(테슬라 생산공장)'라고 표현했다. 이 슈퍼컴퓨터는 수만 개 엔비디아 H100 GPU로 운영되며, 구축 비용으로 수십억 달러가 든다. 머스크는 그록 세 번째 버전에 최소 10만개 칩이 필요할 것이라고 밝혔다. 이는 그록 2.0 훈련에 사용되고 있다고 알려진 2만개 GPU보다 5배 증가한 수준이다. 머스크는 투자자들에게 계획된 GPU 클러스터가 현재 xAI 경쟁 기업들이 사용하는 것보다 최소 4배 이상 커질 것이라고 말한 것으로 알려졌다. 그록은 지난 4월 버전 1.5가 출시된 상태로, 현재 텍스트뿐 아니라 사진, 다이어그램, 사진 등 시각 정보를 처리하는 데 장점이 있다. X는 이달 초 프리미엄 사용자들을 위해 그록 AI 생성 뉴스 요약 기능을 출시한 바 있다.

2024.05.27 12:48최다래

일론 머스크 xAI, 멀티모달 모델 '그록-1.5V' 출시

일론 머스크의 엑스에이아이(xAI)가 문자뿐 아니라 이미지까지 인식하는 멀티모달 모델을 출시했다. 최근 벤처비트는 xAI가 멀티모달 모델 '그록-1.5V'를 공식 블로그에서 소개했다고 보도했다. 이 모델은 이달 중 챗봇 그록 사용자와 초기 테스터들에게 제공된다. 이 회사는 그록-1.5V의 활용 사례도 공개했다. 아이가 그린 그림만으로 이야기를 창작하고, 밈을 설명하고, 지붕 사진에 썩은 나무가 있다며 사용자에게 교체를 요청하는 예시로 모델 능력을 알렸다. xAI는 "그록-1.5V'는 문서, 과학 도표, 차트, 캡처 이미지, 사진 이해 등 다양한 영역을 다룰 수 있다"며 "기존 멀티모달 모델과 경쟁할 수 있다"고 블로그에서 밝혔다. 타사 멀티모달 모델 GPT-4V, 클로드3 소네트 버전, 클로드3 오퍼스 버전, 제미나이 프로 1.5와 그록-1.5V를 비교한 수치도 나왔다. 테스트 결과 실제 공간 이해도에서 그록-1.5V가 타 모델보다 높은 점수를 기록했다. 논란의 여지도 있다. 이달 초 xAI 연구원들은 그록 챗봇이 사용자에게 범죄 행위를 지시할 위험성이 있다고 폭로한 바 있다. xAI의 모델이 생각보다 비윤리적인 데이터셋으로 이뤄졌다는 의미다. 이에 일론 머스크는 "우리는 일반인공지능(AGI) 구축을 위해 꾸준히 노력하고 있다"며 "그록 모델 업데이트는 계속된다"고 했다.

2024.04.14 10:26김미정

일론 머스크, '그록-1.5' 공개…"GPT·클로드 능가"

일론 머스크의 엑스닷에이아이(xAI)가 기존보다 16배 긴 문장을 처리할 수 있는 대규모언어모델(LLM)을 발표했다. 지난 29일 더 버지는 일론 머스크가 설립한 xAI가 '그록-1.5'을 공개했다고 보도했다. 그록-1 버전을 내놓은 후 열흘 만에 업그레이드 버전을 선보인 셈이다. 보도에 따르면, 그록-1.5는 그록-1보다 16배 더 긴 컨텍스트 길이를 한번에 이해할 수 있다. xAI는 각종 벤치마크 테스트에서 오픈AI의 GPT 모델과 엔트로픽의 클로드3 수준을 뛰어넘는 그록-1.5의 결과도 공개했다. 실제 이 모델은 대규모다국어언어이해(MMLU) 벤치마크 테스트에서 81.3%의 점수를 기록하며 클로드2의 75%와 클로드3의 79%를 넘어섰다. 기본 수학 벤치마크 테스트 점수는 90%로, 클로드2의 88%를 능가했으며 클로드3의 92.3%과 비슷했다. 일론 머스크는 엑스(옛 트위터)를 통해 그록-1.5 업그레이드 버전 모델을 개발 중이라고 밝혔다. 그는 "현재 학습 중인 차세대 그록-2.0이 모든 벤치마크 테스트에서 기존 AI를 뛰어넘을 것"이라고 밝혔다.

2024.04.02 11:20김미정

X 프리미엄 사용자에 AI챗봇 제공…일론 머스크 속내는

일론 머스크 X(옛 트위터) 최고경영자(CEO)가 인공지능(AI) 챗봇 '그록'을 이번 주부터 X 프리미엄 사용자에게 제공키로 해 배경에 관심이 쏠린다. 27일 테크크런치 등 외신에 따르면 일론 머스크는 이번 주 모든 X 프리미엄 사용자에게 활성화될 것이라고 자신의 X 계정을 통해 알렸다. 그는 정확한 일정은 공개하지 않는 대신 이번 주 후반에 진행될 것이라고 언급했다. 일론 머스크의 행보에 대해 관련 업계에서는 오픈AI의 챗GPT, 앤트로픽의 클로드 등 다른 AI챗봇과 더욱 치열한 경쟁 구도를 만들기 위한 것으로 분석하고 있다. 일각에선 점차 줄어드는 X의 구독자 수를 증가하기 위한 시도로 해석했다. 글로벌 시장조사기업 센서타워의 발표에 따르면 미국 내 X 사용량은 2월 기준 전년 대비 18% 감소했다. 특히 일론 머스크 인수 이후 23% 줄어든 것으로 나타났다. 줄어든 사용자는 광고 수익에도 악영향을 미쳤다. 센서타워는 2022년 10월부터 X의 미국 상위 100개 광고주 중 75명이 더 이상 플랫폼에 광고 예산을 지출하지 않는다고 밝혔다. 이런 상황에서 AI챗봇 그록을 사용자에게 제공한다면 인스타그램의 스레드 등 다른 경쟁 플랫폼으로의 추가적인 이탈을 잠재적으로 막을 수 있을 것으로 분석했다. 일론 머스크의 AI전문 기업 xAI에서 개발한 그록은 챗GPT 같은 AI 챗봇이다. 지난 17일 그록의 언어모델인 그록-1을 누구나 활용할 수 있도록 오픈소스로 공개한 바 있다. 그록-1은 3천140억 개의 매개변수를 사용하는 가장 큰 규모의 오픈소스 언어모델이다.

2024.03.27 10:12남혁우

"누구나 이용 가능"…일론 머스크, '그록' 소스코드 공개

얼마전 오픈AI를 상대로 소송을 제기했던 일론 머스크 테슬라 최고경영자(CEO)가 이번엔 챗봇 '그록'의 소스코드를 공개했다. 인공지능(AI) 기술 대중화를 통해 주도권을 잡겠다는 행보로 풀이된다. 17일(현지시간) 뉴욕타임스에 따르면, 일론 머스크 CEO가 자신이 운영하는 회사 xAI의 챗봇 그록의 언어모델 그록-1 코드를 공개했다. 그록-1은 파라미터 3천140억개로 구성된 모델이다. 현재 공개된 코드는 기본 모델 가중치와 네트워크 아키텍처로 구성됐다. 다만 학습에 사용된 미세조정 코드나 데이터셋은 비공개다. xAI는 그록-1을 통해 챗봇 그록을 만든 뒤 지난해 12월 X 유료 가입자들에게 우선 배포했다. 지금은 누구나 그록-1 소스에 접근할 수 있으며 이를 개발에 활용할 수 있다. 그동안 일론 머스크 CEO는 AI 기술 공개에 긍정적인 태도를 보였다. 지난 11일 미국 렉스 프리드먼과 진행한 팟캐스트 인터뷰에서 "AI의 오픈소스화가 마음에 든다"고 밝힌 바 있다. 머스크의 이번 행보는 AI를 인류를 위해 사용한다는 사명을 버리고 이윤을 추구한다는 이유로 오픈AI에 소송을 제기한 지 3주 만이다. 이에 맞서 오픈AI는 지난 주 소송 기각 요청서를 법원에 제출했다. 오픈AI 측은 "우리는 현재 일반인공지능(AGI)이 모든 인류에 혜택을 줄 수 있도록 하는 사명에 여전히 전념하고 있다"며 "당시 오픈AI를 영리 회사로 만들려는 인물은 일론 머스크"라며 관련 증거를 공개하기도 했다. 뉴욕타임스에 따르면 AI의 오픈소스화에 대한 찬반 여론이 이어지고 있다. AI 기술 악용 사례를 막기 위해 오픈소스를 반대하는 진영과 오픈소스로 인한 이점이 악용 사례보다 크다고 주장하는 입장이 팽팽히 맞서고 있다. 여기서 머스크는 코드를 공개함으로써 AI의 오픈소스화에 무게를 실은 셈이다.

2024.03.18 13:23김미정

일론 머스크 "AI 챗봇 그록, 오픈소스로 공개"

일론 머스크 테슬라 최고경영자(CEO)가 자신의 인공지능(AI) 회사 xAI의 챗봇 '그록'을 오픈소스로 공개한다고 말했다. 11일(현지시간) 일론 머스크 CEO는 "이번 주 xAI는 AI 챗봇 그록 코드를 공개하겠다"고 소셜미디어 'X' 계정을 통해 발표했다. 같은 날 그는 렉스 프리드먼과 진행한 팟캐스트 인터뷰에서도 오픈소스에 대한 긍정적인 태도를 보였다. 그는 "오픈소스 AI가 마음에 든다"며 "그록을 이번 주 오픈소스화할 것"이라고 했다. 그록은 오픈AI의 챗GPT 같은 AI 챗봇이다. 지난해 12월 그록을 소셜미디어 X 유료 가입자 대상으로 우선 배포한 상태다. 그록이 오픈소스화 된다면 앞으로 누구나 이 챗봇을 이용할 수 있는 셈이다. 머스크의 이러한 행보는 인류를 AI로 도울 것이라는 사명을 버리고 이윤을 추구한다는 이유로 오픈AI에 소송을 제기한 지 열흘 만이다. 현재 오픈AI는 소송 기각 요청서를 법원에 제출한 상태다. 이 회사는 "일반인공지능(AGI)이 모든 인류에게 혜택을 줄 수 있도록 하는 사명에 여전히 전념하고 있다"며 "당시 오픈AI를 영리 회사로 만들려는 인물은 일론 머스크"라며 증거를 공개하기도 했다. 이에 다수 외신은 "머스크 자신은 오픈AI와 달리 모두를 위한 AI를 개발한다는 인상을 주기 위해 진행한 조치로 보인다"고 분석했다. 월스트리트저널도 "머스크는 그록 오픈소스화로 마케팅 효과를 얻기 위함일 수 있다"고 짚었다. 이어 그록이 오픈소스화되면 개발자들이 모델을 테스트하고 피드백을 주기 때문에, 그록의 새 버전 개발 가속화라는 이윤까지 얻을 수 있다고 덧붙였다.

2024.03.12 08:57김미정

  Prev 1 2 3 Next  

지금 뜨는 기사

이시각 헤드라인

[ZD브리핑] 국민 모두가 참여하는 ‘AI 진흥주간’ 열린다

우체국 금융서비스 정상화...인터넷뱅킹·체크카드 재개

[단독] 정보협박범 '킬린', 토목업체 유신 내부 데이터 공개

'이진숙 임기 종료' 방통위 폐지법, 국회 본회의 통과

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.