• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
스테이블코인
배터리
AI의 눈
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'생성형ai'통합검색 결과 입니다. (85건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

"악성 이미지 생성 차단"…MS, 생성형 AI 악용 사이버범죄 법적조치 실시

마이크로소프트가 챗GPT, 달리(DALL-E) 등 생성형 인공지능(AI) 서비스를 악용한 사이버 범죄자들에 대해 법적 조치를 시작했다. 이들은 AI의 안전 제어 장치를 우회해 공격적이고 유해한 콘텐츠를 생성하는 데 활용한 것으로 밝혀졌다. 마이크로소프트 디지털 범죄 부서(DCU)는 13일 공식 홈페이지를 통해 AI 서비스의 안전성과 무결성을 보장하기 위해 법적 조치를 취하고 있다고 밝혔다. 발표 자료에 따르면 마이크로소프트는 지난해 7월 이번 사건을 발견했으며 이후 지속적인 조사와 함께 보안 조치를 강화했다고 전했다. 사이버 범죄자들은 애저 오픈AI 서비스 등 AI 플랫폼을 표적으로 삼아 공격을 감행했다. 이들은 공개 웹사이트에서 수집한 애저 API 키와 고객 인증 정보를 탈취한 뒤 이를 활용해 AI 모델의 안전장치를 우회했다. 이후 안전 장치를 우회한 AI 모델을 악용해 사이버 범죄 도구를 개발해 판매한 것으로 알려졌다. 조사 과정에서 발견된 사이버 범죄 도구 중 하나인 de3u는 비전문가도 유해 콘텐츠를 AI로 생성할 수 있는 방식으로 설계된 것으로 나타났다. 이 도구는 달리3 등 이미지 생성 도구를 통해 유해한 이미지를 대량으로 생성하는 데 주로 악용된 것으로 드러났다. 이 밖에도 스피어피싱, 허위 정보 유포 등 추가 사이버 범죄에 이용됐을 것으로 추측되고 있다. 마이크로소프트는 이 사건을 발견한 직후 이들의 애저 서비스 접근을 철회하고, 새로운 보안 대책을 도입했다. 또한 해당 범죄 활동이 중점적으로 발생한 웹사이트를 압수하고, 법원 명령을 통해 관련 증거를 확보했다. 더불어 추가적인 사용자 피해를 방지하기 위해 API 키의 안전성을 점검하고, 추가적인 인증 절차를 도입했다. 마이크로소프트 측은 이러한 위협 행위에 대해 강력히 대응하며 유사한 사건을 방지하기 위한 새로운 방안을 모색하고 있다고 밝혔다. 또 AI 기술이 안전하고 긍정적인 방향으로 활용될 수 있도록 지속적으로 노력할 것이라고 강조했다. 스티븐 마사다 마이크로소프트 DCU 법무 담당 어시스턴트는 "DCU는 약 20년간 사이버 범죄자를 저지하기 위해 노력해 왔다"며 "앞으로도 AI를 무기화하려는 조직에 법적 조치를 취하고 전 세계 공공 및 민간 부문의 다른 사람들과 협력해 모든 AI 플랫폼이 유해한 남용으로부터 안전하게 유지되도록 역할을 계속할 것"이라고 밝혔다.

2025.01.13 10:45남혁우 기자

생성형AI 시대, 지각변동 채용시장..개발자 생존 전략은?

생성형AI의 등장으로 개발자 채용시장이 큰 변화를 맞이하고 있다. 단순 반복 작업의 자동화로 초급 개발자 수요는 감소하는 반면, 창의적 문제해결과 AI 활용 능력을 갖춘 고급 개발자의 수요는 증가하는 양극화 현상이 두드러지고 있다. 이 위기를 극복하기 위해 초급 개발자들은 창의적 문제 해결 능력과 AI 활용 역량을 강화할 필요성이 늘고 있다. 또한 기업은 채용 방식을 실무 중심의 프로젝트 평가와 AI 도구 활용 능력 검증 등으로 재편할 필요성이 요구된다. 12일 소프트웨어정책연구소(SPRi)는 'SW 개발자 채용시장의 변화와 생성형AI의 영향' 보고서를 통해 SW 개발자 요구 역량 및 이에 따른 채용 변화와 관련한 정부와 개발자들의 대응 방향을 제시했다. 보고서에 따르면 팬데믹과 디지털 전환, 경기 침체와 투자 위축이라는 대규모 변화 속에서 생성형AI는 SW 취업 시장을 재편하는 데 중요한 역할을 하고 있다. 팬데믹 기간 동안 디지털 전환이 가속화되며 SW 개발자 수요가 폭발적으로 증가했다. 원격 근무와 비대면 서비스 확산으로 인해 클라우드, 빅데이터, 인공지능(AI) 기술에 대한 수요가 급증하며 기업의 SW 개발자 채용 열풍을 일으켰다. 그러나 팬데믹 이후 글로벌 경기 침체와 고금리 정책으로 인해 IT 기업과 스타트업의 투자가 위축되면서 채용 시장은 점차 양극화되는 추세다. 이러한 상황에서 생성형AI의 도입은 단순히 채용 시장을 변화시키는 데 그치지 않고, SW 개발자의 역할과 역량에 대한 새로운 요구를 제시하고 있다. 생성형AI는 단순하고 반복적인 작업을 자동화하며 초급 개발자 채용 수요를 감소시키고 있다. 예를 들어 코드 작성, 테스트, 문서화 등 초급 개발자가 맡았던 역할은 이제 AI가 효율적으로 수행할 수 있다. 이에 따라 기업들은 초급 개발자를 다수 고용하기보다 AI를 활용할 줄 아는 고급 개발자를 선호하는 경향을 보이고 있다. 기업들은 AI 도구가 생성한 코드의 품질을 검토하고, 복잡한 문제를 해결하며, 시스템 통합 및 프로젝트를 리딩할 수 있는 고급 개발자에 대한 수요는 증가하며 채용 시장의 양극화를 더욱 심화되고 있다. 생성형AI의 도입은 SW 개발자들에게 기존의 역량 외에 새로운 기술과 능력을 요구하고 있다. 단순 코딩 능력보다는 창의적이고 복합적인 문제 해결 능력이 점점 더 중요해지고 있다. AI 도구가 제공하는 결과물을 분석하고 오류를 검증할 수 있는 정보 판별 능력도 필수적인 역량으로 떠오르고 있다. 특히 프롬프트 엔지니어링 능력이 중요한 역할을 하게 됐다. 이는 AI에게 명확한 지시를 내려 원하는 결과를 얻는 기술로, AI 도구와 협력하는 데 핵심적인 역량이다. 또한 다양한 깃허브, 코파일럿 등 AI 기반 도구를 자유롭게 사용할 수 있는 능력도 필수적인 요구로 자리 잡았다. 이와 함께, 협업, 커뮤니케이션, 창의적 사고와 같은 소프트스킬의 중요성도 강조되고 있다. 이는 AI가 대체할 수 없는 인간 고유의 가치로, 개발자들이 기술적 역량 외에 비기술적 역량도 갖춰야 하는 이유가 되고 있다. 이러한 변화 속에서 SW 개발자들의 역할도 새롭게 정의되고 있다. 초급 개발자의 경우, AI 도구가 단순 반복 작업을 대신하면서 기존 역할은 축소되고 있다. 그러나 초급 개발자들은 AI 도구를 활용하여 기존보다 더 고도화된 업무를 수행하고 빠르게 성장할 기회를 얻고 있다. 이를 통해 창의적 문제 해결과 전략적 사고 역량을 바탕으로 기존 초급 개발자와 차별화된 역할을 수행할 수 있다. 중·고급 개발자들의 역할은 더욱 복잡해지고 고도화되고 있다. 이들은 팀을 리딩하고 AI가 대체할 수 없는 복잡한 문제를 해결하며, 시스템 설계와 프로젝트 기획을 주도해야 한다. 또한, 단순한 기술적 역할에서 벗어나 팀 관리와 전략적 의사결정을 수행하는 관리자의 역할로 전환되고 있다. 채용 방식도 이러한 변화에 따라 새롭게 정비되고 있다. 기존의 단순 코딩 테스트는 AI 도구가 기본적인 코딩을 대신할 수 있는 상황에서 실효성을 잃어가고 있다. 대신, 실무 중심의 프로젝트 과제를 통해 지원자의 문제 해결 능력을 평가하는 방식이 도입되고 있다. AI 도구 활용 능력과 창의성을 검증할 수 있는 평가 방식이 중요해지고 있으며, 협업, 커뮤니케이션 등 소프트스킬을 평가하는 비기술적 요소도 강화되고 있다. 보고서는 이러한 변화에 대응하기 위해 정부, 기업, 그리고 개발자들은 각각의 위치에서 적응과 발전을 도모할 것을 권했다. 정부는 교육 체계를 개편해 AI 활용 능력, 데이터 과학, 소프트스킬을 포함한 실무 중심의 교육 프로그램을 확대할 필요가 있다. 더불어 재직자를 대상으로 AI와 신기술 활용 역량을 강화할 수 있는 재교육 프로그램을 지원하며, 윤리적 가이드라인을 마련해 데이터 보안 문제를 해결해야 한다는 것이다. 기업은 채용 프로세스를 개선해 AI 시대에 적합한 새로운 평가 모델을 도입하고, 초급 개발자가 AI 도구를 활용해 실무 경험을 쌓을 수 있도록 멘토링 및 실습 프로그램을 마련할 것을 조언했다. 개발자들도 변화에 맞춰 스스로를 발전시킬 필요가 있다고 지적했다. AI 도구를 활용한 문제 해결과 창의적 솔루션 설계 능력을 강화하고, 지속적인 학습을 통해 최신 기술 트렌드와 AI 기반 기술에 적응해야 한다는 것이다. 이를 통해 초급 개발자는 AI로 대체되지 않는 차별화된 역량을 확보하고, 중·고급 개발자는 리더십과 전략적 사고를 강화할 것을 제언했다. 신승윤 SW기반정책·인재연구실 선임연구원은 "생성형AI는 SW 취업 시장의 판도를 변화시키며, 개발자들에게 새로운 도전과 기회를 동시에 제공하고 있다" 이 변화에 얼마나 효과적으로 적응하느냐가 앞으로의 성공을 결정할 중요한 열쇠가 될 것"이라고 보고서를 통해 강조했다.

2025.01.12 08:50남혁우 기자

AI센터 출범한 GS네오텍...AI선두 경쟁 가속

GS네오텍이 새해 인공지능(AI) 기술 개발과 도입을 선도하기 위해 기존 AI 태스크포스(TF)를 정식조직인 AI 센터로 전환하며 새로운 도약에 나선다. 선도적인 AI 연구를 위해 관련 기술을 연구해온 AI센터는 앞으로 고객과 조직 모두에게 실질적인 가치를 제공하는 AI의 활용에 초점을 맞춰 연구개발을 진행할 예정이다. 9일 서울 구로 GS네오텍 사옥에서 만난 김성혁 AI/ML 솔루션 아키텍터는 AI센터 새해 목표와 새해 주목받을 것으로 예상되는 신규 AI 기술을 소개했다. 새해 GS네오텍은 지속적인 연구 개발을 통해 확보한 기술역량과 성공 사례를 기반으로 새로운 비즈니스 기회를 창출하고, 기존 고객사의 문제를 혁신적으로 해결하며, 다양한 산업군에 AI 기술을 확대 적용할 계획이다. 이를 위해 AI센터를 중심으로 조직의 AI 활용 역량을 강화하는 데 중점을 두고 있다. 이상오 최고기술책임자(CTO)가 센터장을 겸직하며 이끄는 AI센터는 그동안 리더십 아래 조직의 기술적 기반을 강화하고, 고객 맞춤형 AI 솔루션을 제공하기 위한 연구를 수행했다. 내부적으로는 AI 기술을 활용한 워크플로우 자동화와 생산성 향상에 초점을 맞춰왔으며, 이를 통해 조직 구성원이 AI를 도구로 적극적으로 활용할 수 있도록 교육과 지원을 병행했다. 더불어 개념 증명(PoC)을 통해 고객사의 비즈니스 문제를 해결하는 데 중점을 두며, 제조업과 미디어 산업 등에서 실질적인 성과를 만들어내는데 주력했다. 김 아키텍터는 "AI TF는 선도적으로 AI를 연구하고 조직 내 역량을 확보하기 위해 2017년 말쯤 조직돼 꾸준히 운영돼 왔다"며 "그동안 AI와 관련된 다양한 프로젝트를 수행하고 연구를 지속하며 상당한 수준의 AI 역량을 내재화할 수 있었다"고 설명했다. AI센터는 새해 GS네오텍이 적극적으로 AI 기반 서비스와 고객 지원에 나선다는 의미를 담고 있다. 이를 위해 개발자를 비롯해 재무, 인사 등 조직내 다양한 업무분야에서 AI를 활용할 수 있는 서비스도 선보일 예정이다. 더불어 점차 다변화되고 복잡해지는 클라우드 환경에서도 각 기업에 최적화된 AI 모델과 업무 환경을 제공하기 위한 연구 및 개발도 강화한다는 방침이다. 이를 위해 GS네오텍은 AI센터를 중심으로 다양한 산업군에서 AI 기술이 실질적으로 어떤 변화를 가져올 수 있는지 탐구하고 있다. 김 아키텍터는 그래프RAG 기술에 주목하고 있다고 밝혔다. 그래프RAG는 기존의 단순 검색 방식을 넘어, 데이터 간의 관계를 구조화하고 맥락을 이해하여 보다 정확하고 심층적인 분석과 추론을 가능하게 한다. 그는 "그래프RAG는 대규모 문서나 데이터의 전체 내용을 한 번에 이해하거나 문서 내부의 주요 내용의 연관 관계를 정확하게 파악할 수 있다"며 " 이 기술은 대규모 데이터를 다루는 고객사에서 중요한 가치를 제공할 것"이라고 설명했다. 이를 통해 제조업에서는 제품 개발과 공급망 관리를 통합 연계하거나 미디어 기업이 보유한 길이가 긴 콘텐츠를 분석해 새로운 활용방안을 도출할 수 있다. 금융 분야에서는 거래 데이터의 상관관계 분석해 리스크 관리와 맞춤형 서비스를 구축하는 것도 가능하다. 김성혁 아키텍터는 "AI센터는 새해를 기술 개발과 비즈니스 전략의 융합을 통해 새로운 성장을 이루는 해로 만들기 위해 최선을 다할 것"이라며 "AI를 통해 고객사의 업무를 혁신하고 점차 불확실성이 커지는 시장 환경에서 공동 성장할 수 있는 기반을 지원하도록 하겠다"고 새해 포부를 밝혔다.

2025.01.09 15:27남혁우 기자

와이즈넛, 생성형AI 기반 취약계측 콘텐츠 제작 지원

와이즈넛(대표 강용성)이 인공지능(AI)를 활용해 취약계층을 위한 콘텐츠 제작을 지원한다. 와이즈넛은 '미디어 취약계층을 위한 생성형 AI 기반 배리어프리 콘텐츠 제작 기술 개발 및 지상파와 뉴미디어 멀티플랫폼 서비스 실증' 수행을 통해 7일 밝혔다. 배리어프리(Barrier-free)는 장애인, 고령자, 임산부 등 사회적 약자가 겪는 물리적, 제도적, 심리적 장벽을 제거해 모두가 편리하고 안전한 환경을 만들자는 범사회적 운동이다. 배리어프리 사회 구현을 위한 물리적·제도적 환경 개선 뿐만 아니라, 정보 접근성 확대, 사회적 인식 개선 등 통합적인 노력이 필요하다는 움직임이 강해지고 있다. 이에 발맞추어 생성형AI 기반 미디어, 문화분야 서비스 개발을 통해 배리어프리 콘텐츠 제작을 지원하기위한 목적으로 진행 중이다. 와이즈넛은 과학기술정보통신부가 주관하고 정보통신산업진흥원(NIPA)이 추진하는 이번 사업의 주관기관으로서, 데이터크러쉬, 인사이터, MBC C&I, 한국방송광고진흥공사(kobaco)와 함께 컨소시엄을 구성했다. 올해까지 2년에 걸쳐 수행되는 본 연구는 대규모언어모델(LLM) 학습용 데이터를 수집 및 가공하여 생성형AI 기반 배리어프리 콘텐츠 제작 솔루션을 개발하고, 지상파 및 뉴미디어 멀티플랫폼을 대상으로 실증서비스를 개발하는 단계로 진행된다. 이후 수요기관을 대상으로 서비스 실증 확대 및 고도화를 추진하는 방식이다. 와이즈넛은 수집 및 가공 데이터에 RAG기술을 적용해, 배리어프리 자막 및 화면 설명 텍스트를 생성하는 방식으로 미디어 도메인에 최적화된 LLM모델을 개발하는 데 주력했다. 이를 고도화하는 프롬프트 엔지니어링 기술 연구를 추진하며, 멀티모달 AI기술을 적용한 배리어프리 콘텐츠 제작 솔루션 개발에 박차를 가하고 있다. 이번 1차년도에서는 지상파 방송인 목포 MBC에서 지난 12월 송출된 숏폼 다큐멘터리 '1004오디세이'에 본 연구를 통해 생성된 자막을 적용하여 실질적인 실효성을 확인하는 성과를 거뒀다. 이를 기반으로 향후 타 지역 MBC에도 확대 적용하는 등 실증 범위를 확장해 나갈 계획이다. 이는 기존의 미디어 분야 배리어프리 콘텐츠가 가지고 있던 ▲수작업 콘텐츠 제작 구조, 이에 따른 ▲높은 인건비 ▲일부 콘텐츠(영화, 드라마, 뉴스 등)에 한정된 적용 대상 ▲STT기술 인식품질 저하 등의 문제를 전면 해결해, 미디어 취약계층이 더 다양한 콘텐츠를 향유할 수 있게 된다. 강용성 와이즈넛 대표는 "이번 배리어프리 기술의 실증 성과를 기반으로 명확한 비즈니스 모델과 전략을 수립하고, 이후 유관 콘텐츠 제작 사업을 지상파, OTT 등 다양한 채널로 확장시켜 나갈 계획"이라며 "앞으로도 AI 기술을 통해 미디어 정보 격차를 해소하고 모두가 자유롭고 평등하게 소통할 수 있는 사회 구현에 이바지할 것"이라고 말했다.

2025.01.07 14:42남혁우 기자

"삼성 TV는 AI 더한 세계 베스트셀러"

삼성전자가 미국 라스베이거스에서 열리는 세계 최대 전자 전시회 'CES 2025' 개막에 앞서 공개한 TV를 '인공지능(AI)이 더해진 세계 베스트셀러'라고 미국 블룸버그통신이 평가했다. 블룸버그는 6일(현지시간) 삼성전자는 '비전 AI'라는 브랜드로 TV에 새로운 인공지능 기능을 추가해 인공지능 시장을 공략하고 있다며 이같이 보도했다. 삼성전자는 사용자의 취향·의도를 파악해 개인에게 맞춘 서비스를 제공하는 TV를 전날 선보였다. ▲영상을 보면서도 한 번 클릭하면 사용자가 원하는 정보를 알 수 있는 '클릭 투 서치' ▲외국어 영상의 자막을 실시간으로 우리말로 바꿔주는 '실시간 번역' ▲사용자 취향과 선호도를 반영해 이미지를 만드는 '생성형 배경화면' 등 기능을 공개했다. 삼성전자는 20년 동안 세계에서 가장 많이 TV를 판 업체라며 다양한 회사와 협업해 비전 AI 제품을 늘릴 것이라고 블룸버그는 분석했다. 삼성전자는 마이크로소프트와 구글 등 기업들과 손잡고 AI 서비스를 제공하기로 했다.

2025.01.06 17:20유혜진 기자

  Prev 1 2 3 4 5 Next  

지금 뜨는 기사

이시각 헤드라인

[사스포칼립스 위기 ㊤] AI가 SaaS 산업 흔드나…"경쟁 구도 재편으로 봐야"

"앱 찾는 시대 끝났다"…노태문 사장, 구글과 손잡고 'AI OS' 승부수

20년간 761대→13만대...미니, 올해 한정판 11종 출시

엔비디아 "AI 인프라 투자, 일시적 사이클 아니다"

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.