• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 인터뷰
  • 인사•부음
  • 글로벌뉴스
인공지능
배터리
양자컴퓨팅
컨퍼런스
칼럼•연재
포토•영상

ZDNet 검색 페이지

'AI 인공지능'통합검색 결과 입니다. (2803건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

'xAI' 띄우기 성공적?…샘 알트먼에 딴지 걸던 일론 머스크, 오픈AI 상대 소송 취하한 이유

일론 머스크 테슬라 최고경영자(CEO)가 오픈AI와 샘 알트먼 CEO를 상대로 벌이려던 법적 분쟁을 돌연 중단했다. 인류에게 혜택을 주기 위해 AI(인공지능)를 개발한다는 회사 설립 목표와 달리 마이크로소프트(MS)와 손잡은 후 상업적 이익을 추구한다는 이유로 소송에 나섰으나, 결국 자신의 AI 스타트업인 'xAI'를 알리기 위한 용도였다는 지적을 피할 수 없을 것으로 보인다. 12일 CNBC 등 외신에 따르면 머스크 CEO를 대리하는 변호사는 캘리포니아 법원에서 편견 없이 소송을 기각해 달라며 오픈AI와 올트먼 CEO, 공동 창업자인 그렉 브록먼 등을 상대로 제기했던 소송을 취하했다. 이는 머스크 CEO가 오픈AI와 애플의 파트너십을 공개 비판한 지 하루 만이다. 앞서 머스크는 지난 2월 미국 샌프란시스코 법원에 계약 위반, 신의성실 의무 위반, 불공정 사업 관행 등의 혐의로 오픈AI와 샘 알트먼을 상대로 소장을 제출했다. 오픈AI가 MS와 맺은 수 십억 달러 규모의 파트너십이 AI를 신중하게 개발하고, 기술을 대중에게 공개한다는 창립 공약을 깼다고 주장했다. 일론 머스크는 지난 2015년 샘 올트먼과 함께 오픈AI 설립에 참여했으나, 알트먼 CEO가 영리를 추구하자 충돌한 후 2018년 이사회에서 물러났다. 또 오픈AI 설립 당시 자금을 지원할 때 샘 알트먼, 그렉 브록먼 사장이 오픈AI를 공공의 이익을 위해 기술을 개발하는 비영리 단체로 유지할 것으로 약속했다고 피력하며 소송을 제기했다. 당시 일론 머스크는 "지금도 오픈AI의 웹사이트에서는 AGI(일반 AI)가 '모든 인류에게 이익이 되도록 하는 것'이 자사의 헌장이라고 계속 공언하고 있다"며 "그러나 실제로 오픈AI는 세계 최대 기술 회사인 MS의 비공개 소스 자회사로 사실상 변모했다"고 강조했다. 그러면서 "새로운 이사회는 인류의 이익을 위해 AGI를 개발하는 것이 아니다"며 "MS의 이익을 극대화하기 위해 AGI(범용인공지능)를 개발 중"이라고 주장했다. 앞서 비영리 법인 형태로 영리 회사 활동을 진행하던 오픈AI는 결국 지난해 11월 샘 알트먼 CEO 축출 사태로 내부 문제를 드러났다. 이후 샘 알트먼이 복귀했는데, 이에 대해 일론 머스크는 당시 그 과정에서 이사회 멤버가 교체된 것도 문제가 있다고 지적했다. 샘 알트먼과 그렉 브록먼, MS가 협력해 원래의 공적 사명을 중시하는 이사회 멤버 대다수를 축출했다는 주장이다. 일론 머스크는 "샘 알트먼은 이전 이사회가 갖고 있던 기술 전문성이나 AI 거버넌스에 대한 실질적인 배경이 부족한 새 이사회를 직접 선택했다"며 "오픈AI의 새 이사회는 AI 윤리와 거버넌스보다 이익에 초점을 두는 기업이나 정치 관련 경험이 많다"고 말했다. 이어 "오픈AI는 인류의 혜택을 위해 AGI를 개발한다는 사명을 포기함으로써 거대 영리 기업의 손 안에 들어갔다"고 덧붙였다. 이 같은 소송에 오픈AI는 지난 3월 법원에 제출한 문서에서 "머스크와 오픈AI는 설립시 그 어떤 계약이나 합의를 한 적이 없다"고 반박했다. 실제로 머스크의 주장은 당사자가 서명한 공식적 서면 계약이 아닌 구두 계약으로, 소송 제기 의도가 의문스럽다는 평가가 나온 바 있다. 일각에선 머스크 CEO가 오픈AI에 대한 업계의 관심이 높아지는 것을 이용해 자신의 스타트업인 xAI를 알리기 위해 이같은 행동을 벌인 것으로 분석했다. XAI는 머스크 CEO가 오픈AI를 상대로 소송을 제기한 후 그록 AI 챗봇의 기반이 되는 대규모언어모델(LLM) '그록-1(Grok-1)'을 공개한 바 있다. 여기에 최근에는 시리즈B 라운드 펀딩을 통해 60억 달러(약 8조2천380억원) 규모의 투자 유치에 성공, 기업가치가 240억 달러(약 32조9천520억원) 규모가 됐다. 오픈AI를 설립하는데 자신의 역할이 컸다는 점을 알리기 위한 의도였다는 시각도 있다. 이번 일로 이 같은 사실이 충분히 알려지고 xAI의 투자도 성공적으로 마무리 한 만큼 소송을 취하했을 것으로 봤다. 하지만 머스크 CEO의 행동이 일관성이 없다는 평가도 있다. 전날 애플의 연례 개발자 행사 'WWDC 2024'에서 애플의 음성AI 시리와 오픈AI의 챗GPT가 통합된다는 내용이 공식 발표되자, 애플에게 딴지를 거는 모습을 보였기 때문이다. 머스크 CEO는 10일(현지시간) 자신의 엑스(X·옛 트위터)를 통해 "애플과 오픈AI의 파트너십은 용납할 수 없는 보안 위반"이라며 "애플은 자체 AI를 만들 만큼 똑똑하지 않으면서 어떻게 오픈AI가 사용자의 보안과 개인정보를 보호할 수 있다고 말하나"라고 목소리를 높였다. 그러면서 "오픈AI의 기술이 OS(운영체제) 측면에서 통합될 경우 우리 회사에서 아이폰 등 애플 기기를 전면 사용 금지시킬 것"이라고 덧붙였다.

2024.06.12 09:27장유미

'솔라' 만든 업스테이지, 'MSP 대어' 메가존과 손 잡았다…왜?

업스테이지와 메가존클라우드가 손잡고 거대언어모델(LLM) 기반 영업 확대에 나선다. 업스테이지는 메가존클라우드와 금융 및 공공 부문 생성형 AI 사업 협력을 위한 업무협약(MOU)을 체결했다고 11일 밝혔다. 점차 성장하고 있는 생성형 AI 시장을 적극 공략하기 위해서다. 실제 올해부터 은행, 의료, 공공기관 등 다양한 산업에서 생성형 AI 도입이 본격화되면서 시장 규모가 급성장하고 있다. 시장조사업체 IDC에 따르면 2024년 글로벌 AI 시장 규모는 5천543억 달러(약 700조원)에 달한다. 국내 AI 시장도 연평균 14.9% 성장을 기록해 2027년에는 4조원을 돌파할 것으로 전망된다. 이에 양사는 이번 업무협약을 통해 금융 및 공공 부문 생성형 AI 사업 수주를 위해 힘을 합치기로 했다. 구체적으로는 업스테이지의 자체 LLM '솔라'와 메가존클라우드 LLM Ops 솔루션 '마틸다(Matilda)'를 통해 고객 환경에 맞는 다양한 LLM 모델을 구축할 계획이다. 또 공동 영업과 필요 기술 공유 등 상호 간 협력을 통해 영업 기반을 확대한다. 업스테이지는 솔라를 앞세워 다양한 산업별 특화 모델을 구축하고 있다. 또 인텔 코어 울트라(Ultra) 프로세서에 솔라를 최적화하는 등 유수 글로벌 기업들과 협력 사례를 구체화하고 있다. 향후 한국어, 영어 및 일본어 등 다국어 지원하는 솔라를 기반으로 국내외 영업 기반을 더욱 확대한다는 전략이다. 이주완 메가존클라우드 대표는 "솔라를 보유하고 있는 업스테이지와의 협업으로 금융·공공부문의 생성형 AI 도입 사업에 높은 시너지가 기대된다"고 말했다. 김성훈 업스테이지 대표는 "앞으로 세계 최고 수준의 자체 언어모델 솔라를 기반으로 다양한 산업 및 기업 맞춤형 생성형 AI 혁신을 이끌어 나갈 것"이라고 밝혔다.

2024.06.11 08:30장유미

[기고] 여러분의 조직은 생성AI를 도입할 준비가 됐습니까

지금까지 4편의 시리즈를 통해 생성AI가 HR의 여러 면에서 적용이 가능하다는 점을 말씀드렸습니다. 생성AI를 잘 활용한다면, 채용, 평가, 구성원의 스킬 향상 등 HR의 여러 영역에서 도움을 얻을 수 있습니다. AI 4(for) HR의 변화입니다. 그런데 기업에서 더 중요한 것은 HR 4 AI의 변화입니다. HR이 기업에 AI를 도입하고 구성원들이 잘 활용하도록 돕는 역할입니다. 생성AI가 아무리 혁신적이고 유용하다고 하더라도, 사람들이 수용하지 않으면 그 가치는 반감됩니다. 중국의 한 대규모 금융 서비스 회사에서 AI를 사용해 직원 성과에 대한 피드백을 생성하는 것이 직원의 업무 생산성에 어떤 영향을 미치는지 연구했습니다. AI가 작성한 피드백임을 밝히지 않은 상태에서 AI의 피드백은 사람이 주는 피드백과 비교해 직원의 업무 성과를 12.9% 향상시키는 긍정적인 효과를 보였습니다. AI가 사람인 관리자보다 더 폭넓고 깊이 있는 고품질의 피드백을 제공해 결과적으로 직원의 학습과 성과를 향상시킨다는 사실을 발견했습니다. 그런데 피드백의 주체가 AI임을 밝힌 경우, 사람 관리자로부터 피드백을 받았다고 통보받은 직원보다 평균 성과가 5.4% 낮다는 부정적인 효과를 보였습니다. AI의 피드백이 실제로는 더 고품질이지만 사람들은 AI의 피드백에 대한 신뢰가 낮다는 것을 알게 됐습니다. 채용관련 연구에서도 비슷한 결과가 나타납니다. 사람들은 본인에 대한 의사결정이 사람이 아닌 AI의 판단 결과라는 이야기를 들었을 때 수용하지 못하는 사례가 많았습니다. 사람들이 AI를 수용하지 못하는 이유는 여러 가지가 있습니다. 첫째, 신뢰 부족입니다. 많은 사람들은 AI가 인간의 판단과 감정을 대체할 수 없다고 생각하며, AI의 결정에 대해 불안감을 느낍니다. 둘째, 투명성 결여입니다. AI의 의사결정 과정이 복잡하고 불투명할 경우, 사람들은 그 결과를 이해하거나 수용하기 어렵습니다. 셋째, 기술 격차입니다. 일부 구성원들은 생성 AI 기술을 이해하고 사용하는 데 어려움을 겪을 수 있습니다. HR은 이러한 문제를 해결하고 HR 4 AI의 변화를 이끌어낼 수 있습니다. AI를 효과적으로 도입하기 위해서 먼저 구성원들의 정확한 AI 수용도를 진단하는 것이 중요합니다. 이를 통해 각 구성원이 AI에 대해 어떤 인식을 갖고 있는지, 어떤 부분에서 어려움을 느끼는지 파악할 수 있습니다. 구성원의 생성AI 수준을 진단하기 위해서는 다양한 도구와 방법을 사용할 수 있습니다. UTAUT(통합된 기술 수용 모델)은 새로운 기술의 사용 의도와 실제 사용을 예측하기 위한 이론입니다. 이 모델은 성과 기대감, 노력 기대감, 사회적 영향, 촉진조건 이라는 네 가지 주요 요인을 중심으로 구성돼 있으며, 개인의 기술 수용에 영향을 미치는 요인들을 통합 설명합니다. 이를 통해 조직은 새로운 기술 도입 시 어떤 요소들이 중요한지 이해하고, 효과적인 도입 전략을 수립할 수 있습니다. 튀르키예 바르틴 대학교의 Yilmaz 교수 연구팀은 UTAUT이론을 바탕으로 아래와 같은 생성AI 수용도를 판단하는 문항을 개발했습니다. 여러분의 조직에서도 한번 테스트해보시기 바랍니다. 이러한 진단 도구를 통해 얻은 데이터를 바탕으로 구성원의 수용도를 높이는 전략을 세워볼 수 있습니다. 나는 일상생활에서 생성형 AI 애플리케이션이 유용하다고 생각한다. 생성형 AI 애플리케이션을 사용하면 내가 중요한 일을 성취할 가능성이 높아진다. 생성형 AI 애플리케이션은 내가 일을 더 빨리 끝낼 수 있게 도와준다. 생성형 AI 애플리케이션을 사용하면 생산성이 증가한다. 생성형 AI 애플리케이션을 사용하면 내 생활이 더 쉬워진다. 생성형 AI 애플리케이션은 내 일상생활에 유용하다. 생성형 AI 애플리케이션을 사용하면 내가 직면한 문제를 해결할 가능성이 높아진다. 생성형 AI 애플리케이션을 배우는 것은 나에게 어렵지 않다. 나는 생성형 AI 애플리케이션을 활용하는 것이 쉽다고 생각한다. 생성형 AI 애플리케이션은 사용하기 쉽다. 나는 생성형 AI 애플리케이션을 사용하는 기술을 익히는 것이 쉽다. 생성형 AI 애플리케이션과의 상호작용이 명확하고 이해하기 쉽다. 생성형 AI 애플리케이션은 내가 사용하는 다른 기술과 호환된다. 나는 생성형 AI 애플리케이션을 사용하는 데 어려움이 있을 때 다른 사람들에게 도움을 받을 수 있다. 생성형 AI 애플리케이션을 사용하는 동안 문제가 발생하면 해결을 위한 필요한 정보를 얻을 수 있다. 나에게 중요한 사람들은 내가 생성형 AI 애플리케이션을 사용해야 한다고 생각한다. 내가 행동 모델로 삼는 사람들은 내가 생성형 AI 애플리케이션을 사용해야 한다고 생각한다. 내가 가치를 두는 사람들은 내가 생성형 AI 애플리케이션을 사용하기를 선호한다. 나에게 중요한 사람들은 생성형 AI 애플리케이션을 사용하고 있다. 나에게 중요한 사람들은 생성형 AI 애플리케이션의 사용을 권장한다. 투명한 커뮤니케이션을 통해 생성 AI의 역할과 이점을 명확히 설명하는 것도 중요합니다. 구성원들이 생성AI의 목적, 사용 방법, 그리고 기대되는 이점을 명확히 이해하도록 돕는 것이 중요합니다. 교육이나 워크숍을 통해 생성AI의 기본 개념과 사용 방법에 대한 교육을 제공해 구성원들이 AI에 대한 이해도를 높일 수 있습니다. 실습 중심의 워크숍과 자율 학습 자료를 통해 구성원들의 기술 격차를 해소할 수 있습니다. 정기적으로 뉴스레터, 메일, 사내 게시판 등을 통해 생성AI 관련 정보를 공유하는 방법도 있습니다. 생성AI가 어떻게 작동하며, 어떤 데이터를 기반으로 결정을 내리는지에 대한 정보를 구성원들에게 제공해야 합니다. AI의 피드백과 인간 관리자의 피드백을 병행하여 제공함으로써, 구성원들이 AI의 유용성을 직접 경험할 수 있도록 하는 것도 방법입니다. 생성AI 도입 초기에는 특히, 소규모 파일럿 프로그램을 통해 구성원들이 새로운 기술에 점진적으로 익숙해지도록 하는 것이 좋습니다. 원티드랩에서는 구성원들이 생성AI에 참여할 수 있는 프롬프톤이란 행사를 열었습니다. 'Prompt + Hackathon'의 합성어로 프롬프트를 활용해 아이디어를 빠르게 구현해보는 경연을 말합니다. 부서별로 참여한 이 행사에는 총 50개의 아이디어가 제출됐고, 원티드 서비스에 활용할 수 있는 제품 개발 과제와 내부 업무프로세스를 자동화하는 봇을 비롯해 최종 13개의 과제가 제출됐습니다. 인상적인 것은 비개발자가 80%였다는 점입니다. 도입 중기에는 AI 사용 중 발생하는 문제에 대해 즉각적인 도움을 받을 수 있는 헬프데스크와 같은 기능을 제공하거나, 생성AI 활용에 능숙한 구성원을 사내 코치로 다른 구성원들을 돕도록 하는 방법이 있습니다. 구성원들이 AI 도입 과정에 적극적으로 참여하도록 유도하고, 그들의 피드백을 반영하는 것도 중요합니다. 이를 통해 구성원들은 AI 도입에 대한 주인의식을 느끼고, 더 적극적으로 AI를 활용하게 됩니다. AI를 활용하여 성과를 향상시킨 성공 사례를 구성원들과 공유하는 것도 효과적입니다. 예를 들어, AI를 통해 채용 과정의 효율성을 높이거나, 성과 평가에서 공정성을 증대시킨 사례를 발표함으로써 구성원들이 AI의 실질적인 가치를 인식하도록 합니다. 이러한 성공 사례는 구성원들에게 AI에 대한 신뢰를 높이고, 도입에 대한 긍정적인 인식을 확산시키는 데 도움이 됩니다. 생성AI의 도입은 HR의 새로운 시대를 여는 중요한 전환점이 될 수 있습니다. 그러나 이 전환의 성공 여부는 AI 자체의 성능보다는 이를 수용하고 활용하는 구성원들에게 달려있습니다. 생성AI를 도입하고 활용하는 과정에서 HR의 역할은 매우 중요합니다. HR 부서는 구성원들이 AI를 신뢰하고, 이를 효과적으로 활용할 수 있도록 지원해야 합니다. 구성원의 AI 수용도 진단을 통해 각 구성원의 인식과 이해 수준을 파악하고, 이를 바탕으로 투명한 커뮤니케이션, 맞춤형 교육 프로그램, 적극적인 피드백 수렴, 그리고 신뢰할 수 있는 사례 공유를 통해 생성 AI 도입을 성공적으로 이끌어야 합니다. 생성AI 도입의 성공 여부는 사람들의 수용도에 달려있다고 해도 과언이 아니기 때문입니다.

2024.06.11 08:30윤명훈

돌아가신 할머니, AI 덕에 만났다…"사진 1장·10초 음성이면 가능"

"식용유 두 병을 샀는데 아주 향이 좋네." 석달 전 사망한 할머니는 사투리가 묻어 나오는 목소리로 손자가 "설 명절을 대비해 산 물건이 있나요?"라는 물음에 영상에서 이처럼 대답했다. 인공지능(AI)이 부활시킨 '가상 인간'을 통해서다. 10일 중국 하얼빈일보 등 현지 언론에 따르면 지난해 4월 중국 상하이에서 활동하는 디자이너 우 씨는 이 같은 대화 영상을 온라인 사이트에 공개해 주목 받았다. 3살 때부터 부모 대신 자신을 키워준 할머니가 세상을 떠난 뒤 제대로 된 작별 인사를 하고 싶어 AI로 할머니를 복원한 것이다. AI 관련 직업에 종사하던 우 씨는 할머니의 생전 사진을 AI 시스템에 넣어 아바타를 만들었다. 이후 할머니와의 통화 녹음 파일을 AI에게 학습시켰다. 목소리와 말투 등을 반복적으로 훈련시켜 실제 할머니와 유사한 수준으로 만들었다. 우 씨는 "간단한 대화만 가능한 수준이지만 90% 이상 비슷하게 할머니를 복원했다"고 밝혔다. 국내에서도 최근 AI 기술이 급속하게 발달하면서 고인의 목소리나 모습을 그대로 재현하는 사례가 늘고 있다. AI 기술을 통해 고인을 디지털 휴먼으로 복원할 수 있게 됐는데, 음성 복원 시 짧게는 10초 분량 녹음본만 있으면 목소리를 유사하게 합성해낼 수 있을 정도로 기술이 발전했다. 특히 딥브레인AI는 이 분야에서 가장 경쟁력 있는 기업으로 꼽힌다. 2년 전 세계 최초로 연로하신 부모님의 건강한 모습을 AI 휴먼으로 구현해 평생 간직할 수 있는 '리메모리(Re;memory)' 서비스를 출시한 이곳은 올해 1월 합리적 가격대로 '리메모리2'도 내놨다. 이를 활용해 프리드라이프의 상조 상품과 연계해 선보이며 사업 확장에도 속도를 내고 있다. 딥브레인AI 관계자는 "유족들은 별도의 절차 없이 장례지도사를 통해 리메모리2 서비스를 신청할 수 있다"며 "스크립트는 고인 소개 문구와 고인에게서 듣고 싶은 이야기 등 300자 내외 분량의 자료를 고인의 유족들에게 전달받아 제작한다"고 설명했다. 이 서비스를 통해 완성된 영상은 PC와 모바일, 태블릿, 키오스크 등 영상 시청이 가능한 모든 기기에서 실행할 수 있다. 기존 딥브레인AI 쇼룸에서만 만날 수 있던 것과 달리 많은 고객이 편리하게 서비스를 경험할 수 있을 것으로 기대된다. 이 밖에도 딥브레인AI는 더 많은 고객들이 리메모리2를 경험할 수 있도록 생명보험사, 추모공원, 장례식장, 병원, 관공서 등 다양한 기관들과 전략적 협력을 통해 리메모리2 사업을 지속적으로 확대할 계획이다. 장세영 딥브레인AI 대표는 "AI 추모서비스 리메모리2를 많은 이들이 쉽게 경험할 수 있도록 국내 상조 업계 1위 프리드라이프의 상조 상품과 연계해 선보일 예정"이라며 "고인이 된 가족과의 재회를 돕는 자사의 AI 기술이 슬픔에 잠긴 유족들의 마음을 조금이나마 달래는 데 보탬이 됐으면 좋겠다"고 밝혔다.

2024.06.10 11:01장유미

세일즈포스, AI로 기업 시스템 품질 관리·고장 예측한다

세일즈포스가 인공지능(AI)과 고객 데이터를 활용해 기업 시스템과 시설 관리를 시작한다. 고객 자산에 발생할 수 있는 이슈를 미리 알리고 수명 주기도 예측할 수 있다. 이 기업은 AI 기술 개발과 사업 확대를 위해 영국 런던에 AI센터를 설립할 예정도 밝혔다. 세일즈포스는 데이터 클라우드에 있는 고객 자산을 고객관계관리(CRM) 데이터와 연결해 이같은 기능을 선보이겠다고 공식 홈페이지에서 발표했다. 고객은 자산 가용성을 비롯한 안정성, 다운타임 가능성에 대한 인사이트를 심층적으로 분석할 수 있다. 이를 통해 자산 지속가능성을 높이고 수익 창출 기회를 늘릴 수 있다. 우선 세일즈포스 데이터 클라우드 고객은 AI를 통해 자산 문제를 예측할 수 있다. AI가 고객 자산 데이터 이력을 통해 문제를 미리 식별할 수 있어서다. 예를 들어, AI 모델은 발전기 모델 냉각팬이 고장 나기 전 이를 미리 알린다. 고장 원인도 분석해 준다. 세일즈포스는 "이 기능은 자산 가동 시간을 보장하고 수명을 늘릴 수 있다"고 했다. 고객은 자산 실시간 상태를 숫자로 확인할 수 있다. 주로 자산 수명과 사용량, 수정 이력 등을 통해 자산의 전반적인 상태와 성능을 객관적으로 확인할 수 있는 셈이다. 회사는 "전사적자원관리(ERP)를 비롯한 엔터프라이즈자산관리(EAM), 레거시 시스템 등 모든 소스의 실시간 데이터를 세일즈포스 데이터 클라우드에 통합해 가능한 기술"이라고 강조했다. 이 외에도 사용자는 자산 수명주기 관리, 데이터 키트, 중앙화된 서비스 캠페인 관리 기능도 데이터 클라우드와 AI를 통해 접근 가능하다. 세일즈포스는 "기업은 올바른 데이터와 자산을 조율하고 최대한 활용할 수 있는 지능형 기술이 필요하다"며 "데이터 클라우드와 AI 혁신을 통해 이러한 과제를 해결할 수 있다"고 했다. "AI 사업 꾸준히 확장"...런던에 AI센터 세워 세일즈포스는 AI 사업 확대를 위해 영국 런던 '블루 핀'에 300명 이상 수용 가능한 AI 센터를 설립한다고 발표했다. 이 센터는 이달 18일 운영을 시작한다. AI 전문가와 파튼너사, 고객 간 협업을 높일 방침이다. AI 교육에도 힘 쓸 방침이다. 영국 내 100명 이상 개발자 대상으로 무료 교육을 진행한다. 이러한 행보는 AI 사업 확대를 계획하고 있는 빅테크와 일맥상통한다. 마이크로소프트는 영국에 데이터센터 설립을 위한 투자 계획과 AI 연구소 운영을 발표한 바 있다. 구글도 영국 내 데이터센터 건설을 확대하겠다고 밝혔다. 이를 통해 유럽 내 사업을 확대하고 AI를 통한 수익 창출을 본격화할 방침이다. 세일즈포스 자흐라 바롤로루미 영국·아일랜드지역 최고경영자는 "영국 AI 시장은 2035년까지 1조 달러 규모일 것으로 본다"며 "세일즈포스는 영국 AI센터 설립을 통해 영국 시장에 미리 뛰어든 것"이라고 말했다.

2024.06.10 10:46김미정

예술계 SNS 카라, AI 작품 업로드 금지..."인간 창작 플랫폼 추구"

예술가들을 위한 사회관계망서비스(SNS) '카라'가 인공지능(AI)으로 만든 이미지 업로드를 금지했다. 지난 7일(현지시간) 지디넷 등 외신 보도에 따르면, 카라는 자사 홈페이지에 "AI를 사용한 작품 업로드를 허용하지 않으며, AI와 관련된 개인정보·저작권 보호 등의 문제가 규제를 통해 해결되지 않는 한 AI로 생성한 작품을 허용하지 않을 것"이라고 게시했다. 카라는 아티스트가 자신의 작품을 전시하고 토론할 수 있는 SNS이자 포트폴리오 플랫폼이다. 픽시브를 비롯한 다른 이미지 업로드 플랫폼과는 달리, 카라는 AI로 생성된 예술 작품을 금지한다. 카라 관계자는 "우리는 인간이 만든 독창적인 예술을 즐기고 싶어하는 예술가와 다른 사람들에게 안전한 안식처를 만들기 위해 AI 작품 업로드를 금지했다"며 "대중이 인간이 만든 예술 작품과 미디어를 쉽게 구별할 수 있도록, AI로 생성된 콘텐츠에는 항상 라벨이 달려야 한다"고 말했다. 카라는 웹사이트에서 자사 플랫폼의 목적과 사명을 설명했다. AI에 대한 관심이 높아지면서 더 많은 기업이 자체 생성 AI 제품과 서비스를 개발하고 이를 교육하기 위해 사용자 데이터를 수집하는 상황을 경계한 것이다. 카라 측은 "창조 산업의 미래에는 예술가와 기업이 연결되고 협력할 수 있도록 미묘한 이해와 지원이 필요하다"며 "우리는 인간이 창작자로서 즐길 수 있는 플랫폼을 구축하고 싶다"고 밝혔다. 카라의 정책은 AI 친화적인 메타(Meta)와 대비되는 행보다. 메타는 현재 페이스북과 인스타그램의 공개 게시물을 사용, AI 챗봇을 학습시키고 있다. 이로 인해 인스타그램에서 자신의 작품을 전시하고 홍보해 온 예술가들 사이에선 자기 작품이 AI 교육에 무단으로 사용될 지도 모른다는 우려가 나오고 있다.

2024.06.10 09:25정석규

[기고] 신뢰할 수 있는 인공지능과 설명요구권

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 2주 마다 다뤄보고자 한다. 사람의 개입없이 기계에 의해 무언가 결과를 얻어내는 것은 우리의 일상 생활에서 오랫동안 있어온 일이다. 작게는 사거리의 신호등이 점멸할 때 중요하신 분이 지나가는 아주 특별한 경우를 제외하고는 사람이 신호등 안에 숨어서 기기를 작동시키지 않음을 우리는 다 알고 있다. 백화점 멤버십의 등급이 결정될 때도 백화점에서 사용한 카드 사용 금액과 달리 백화점이 고려하는 요소들에 따라서 나의 등급이 정해진다. 해외에서 휴가를 보내기 위해 공항에서 출국 심사를 받을 때도 미리 신원을 등록해 뒀다면 출입국 사무소 직원이 여권을 보는 것이 아니라 컴퓨터가 나의 정맥과 여권만으로 출국 가능 여부를 심사한다. 빅데이터에 대한 분석 기술이 고도화되고 머신러닝 기법과 같은 인공지능(AI) 기술도 이와 함께 발전하면서 인공지능 기술을 도입한 결과물의 이용에 대해선 좀 더 복잡한 문제가 발생하고 있다. 인공지능 기술에서 발생하는 문제점으로 환각(hallucination), 공정성(fairness)이나 편향성(bias) 등이 지적되고 이를 해결하기 위한 많은 연구가 이루어지고 있다. 또 다른 인공지능 기술의 특징 중의 하나는 그 알고리즘을 설명하거나 이해하는 것이 점점 더 어렵게 됐다는 점이다. 인공지능의 알고리즘을 블랙박스(black box)에 비유하는 이유도 인공지능이 내놓은 결론이 왜 그렇게 나왔는지를 설명하기 어려운 경우가 많기 때문이다. 전통적인 인공지능 학습모델로 불리워지는 선형회귀(linear regression)나 의사결정 나무(decision tree)의 경우에도 간단한 모델의 경우에는 결과와 이유의 인과관계를 설명할 수 있다. 하지만 모델이 커지고 복잡해지면서 어떤 요소들이 어떻게 내놓은 답에 영향을 미치게 되는지를 정확하게 설명하기는 어려운 경우가 많다. 무언가 판단이 있었을 때 그 이유를 설명할 수 있어야 한다는 논리는 인공지능 시대에 새롭게 대두된 것은 아니다. 예컨대 우리나라 약관 규제법에서도 사업자가 미리 정해둔 약관을 계약에 포함시키기 위해서는 이 중 중요한 내용에 대해 설명할 것을 요구하고 있다. 또 설명을 충분히 하지 않았으면 그 내용을 계약으로 주장할 수 없다고 정하고 있다. 인공지능과 유사한 복잡한 알고리즘이 오래 전부터 작동해 온 신용평가모델의 경우 미국에선 이미 1970년대부터 대출신청자의 요구에 따라 평가모델에 대해서 설명하도록 규제해 오기도 했다. 개인정보보호법은 인공지능이 개인정보를 처리해 개인에 영향을 미치는 의사결정을 할 경우의 위험성을 인지하고 2023년 법 개정을 통해 자동화된 의사결정에 대한 거부 내지 설명을 요구할 수 있는 권리를 도입했다. 이 규정은 이미 올해 3월 15일부터 시행되고 있다. 이는 개인정보의 처리를 포함해 인공지능에 따라 개인정보를 처리를 포함한 결정이 이루어지고, 이러한 결정으로 인해 나의 권리와 의무에 중대한 영향을 받을 경우에 그 결정을 거부하거나 또는 이와 같은 결정이 내려진 것과 관련한 설명을 요구할 수 있도록 한 것이다. 예컨대 자동화된 시스템에 의해 육아수당의 지급이 취소된 경우 그 지급 취소 결정에 대해 거절하고 인적개입을 요구하거나 또는 왜 취소됐는지 설명을 요구할 수 있다. 공공기관이 국민에게 뭔가 불이익한 처리를 하는 경우에 대해선 자동화된 의사결정이 아니라고 하더라도 일반적으로도 설명을 요구할 수 있었다. 그러나 민간의 경우에는 그러한 설명을 할 의무가 없었기에 이 설명요구권은 새롭게 도입된 제도라 할 수 있다. 공공 부문에서도 이 법의 도입을 통해 개인정보 처리의 관점에서 설명을 해야 하는 사항들이 구체화되었다는 점에서 큰 의미가 있다. 이제는 뭔가 신청자 또는 이용자에게 불이익한 결론이 내려졌다고 하더라도 단지 시스템에 의해서 자동으로 결정됐다거나, 사람의 편향된 판단없이 기계가 공정하게 결정했다는 설명만으로는 부족하게 됐다. 좀 더 구체적으로 법에서 정하고 있는 사항을 설명해야 하는 의무가 사업자에게 발생하게 된 것이다. 우리나라 국민이라면 모두 다 공감하고 있고 공통의 가치를 삼고 있는 민주주의, 국민의 자유와 기본권의 보호, 약자에 대한 배려와 실질적 평등과 같은 핵심의 가치를 인공지능의 설계에서부터 반영해야 한다. 이는 전 세계적으로 강조돼 온 '신뢰할 수 있는 인공지능(trustworthy AI)'의 근간이 된다. 자동화된 의사결정에 대한 설명요구권 역시 인공지능 기술과 산업의 발전을 도모하면서도 동시에 정보주체의 권리에 대해 충분한 보호를 하기 위한 사회적 안전장치다. 새롭게 도입된 제도인 만큼 섬세하면서도 유연한 법 적용을 기대해 본다.

2024.06.07 17:28법무법인 태평양 강태욱

'멍멍' 소리로 개의 감정·품종까지 알아채는 AI 나왔다

시끄럽게만 느껴졌던 개 짖는 소리의 비밀을 알려주는 인공지능(AI) 모델이 개발됐다. IT매체 기즈모도는 미국 미시간 대학, 멕시코 국립 천체물리학 연구소 등 공동 연구진이 개발한 특별한 AI 모델을 6일(현지시간) 보도했다. 라다 미할시아(Rada Mihalcea) 미시간 대학 AI 연구소 소장은 “우리와 이 세상을 공유하는 동물에 대해 아직 모르는 것이 너무 많다”며, “AI의 발전은 동물과의 의사소통에 대한 우리의 이해를 혁신시키는 데 사용될 수 있다”고 밝혔다. 해당 연구는 최첨단 AI 음성 모델 'Wav2Vec2'를 활용해 특정한 개 짖는 소리 뒤에 감춰져 있는 개의 감정과 성별, 품종을 식별한다. 연구진들은 AI 학습을 위해 두 개의 데이터 세트를 사용해 결과를 비교했다. 하나는 처음부터 개 짖는 소리로만 AI 모델을 훈련한 것이었고, 다른 하나는 사람의 음성으로 사전 훈련한 후 개 짖는 소리를 미세 조정해 학습한 것이다. 그 결과 인간의 음성 녹음을 바탕으로 사전 훈련된 AI 모델이 더 나은 결과를 보였다고 연구진은 설명했다. 연구진은 사람 음성으로 AI 모델을 사전 훈련시킨 후 74마리의 개(치와와 42마리, 프렌치 푸들 21마리, 슈나우저 11마리)의 짖는 소리로 구성된 데이터 세트로 AI 해당 모델을 미세 조정하며 학습시켰다. 그 결과 이 AI 모델은 개 짖는 소리를 분석해 개의 감정을 62%의 정확도로 분석했고, 62%의 정확도로 개의 품종을 가려냈으며, 성별도 69%의 정확도로 맞췄다. 또, 여러 마리 개 중에서 특정 개를 50%의 정확도로 가려냈다. 미할시아 소장은 “인간의 음성에 대해 훈련된 음성 처리 모델을 사용함으로써 개 짖는 소리의 뉘앙스를 이해하는 방법에 대한 새로운 창을 열었다”고 밝혔다. 연구진은 앞으로 더 많은 품종, 감정, 종을 대상으로 테스트를 진행할 계획이라고 밝혔다. 인간의 음성 모델이 동물의 의사소통을 해독하는 데 사용된 것은 이번이 처음이며, 동물의 언어를 이해하는 토대를 마련할 수 있을 것으로 보인다.

2024.06.07 10:40이정현

'AI 3강' 엔비디아·MS·오픈AI, 美서 조사 대상됐다…무슨 일?

미국 연방 규제 당국이 엔비디아, 마이크로소프트, 오픈AI 등 인공지능(AI) 주요 3사를 대상으로 반독점 조사에 나선다. 챗GPT 출시 후 빅테크 기업들이 AI 분야 투자에 앞 다퉈 나서면서 시장 독점과 경쟁 저해 우려가 높아졌기 때문이다. 7일 미국 뉴욕타임스(NYT)에 따르면 미국 법무부와 연방거래위원회(FTC)는 지난주 AI 분야에서 지배적 지위를 누리고 있는 엔비디아와 MS, 오픈AI 등 3개 기업에 대해 조사하기로 합의했다. 이에 따라 법무부는 엔비디아를, FTC는 오픈AI와 MS를 주도적으로 조사할 예정이다. 미국 규제 당국이 이처럼 나선 것은 현재 AI 분야에서 이 조사 대상 기업들의 지배력이 상당하다는 평가가 나오고 있어서다. 실제 엔비디아는 최근 AI 열풍이 시작된 후 그래픽 처리 장치(GPU)로 시장을 장악하고 있다. 엔비디아의 'GPU' 성능이 AI를 학습시키고 운용하는 데 가장 적합한 반도체라는 점이 알려진 덕분이다. 이로 인해 IT 기업들은 엔비디아의 GPU를 손에 넣기 위해 경쟁을 벌였고, 엔비디아는 시장의 80% 이상을 차지하는 독점적인 영향력을 갖게 됐다. 이는 수익성과도 직결돼 엔비디아의 매출을 2배, 3배 늘렸고, 지난해 4분기 기준으로 영업이익률은 66.7%에 달했다. 여기에 엔비디아의 주가는 지난 1년간 200% 이상 급등했고, 시가 총액은 애플을 앞질렀다. 엔비디아의 빈틈을 노리고 경쟁사들도 새로운 무기를 꺼내들었다. 인텔은 차세대 AI 가속기 '가우디3'를, AMD는 'MI300X'를 공식 출시하며 엔비디아의 'H100'에 도전장을 내밀었지만 경쟁하기엔 아직 역부족이다. 또 엔비디아에 대한 의존도를 낮추기 위해 샘 알트먼 오픈AI 최고경영자(CEO)는 7조 달러에 달하는 거액의 투자금을 유치하며 자체 AI 반도체 제조에 나섰고 MS, 구글, 메타 등도 특화 반도체 개발에 뛰어들었다. 하지만 전문가들은 당분간 엔비디아의 아성이 굳건할 것으로 봤다. 압도적인 성능부터 편리한 구동 소프트웨어 등 AI 반도체 전 사이클에 걸쳐 엔비디아가 수십 년간 구축한 기술력을 쉽게 따라잡기 어렵다고 판단해서다. 뉴욕타임스는 "그동안 엔비디아의 소프트웨어가 고객 회사들에게 자사의 칩을 사용하도록 제한하는 방법, 고객들에게 칩을 제공하는 방법 등 엔비디아가 지배력을 행사하는 방식을 두고 의문이 제기돼 왔다"고 말했다. MS는 챗GPT를 만드는 오픈AI에 투자한 것이 반독점 행위에 해당하는지에 대한 논란에 휩싸였다. MS는 2019년부터 오픈AI와 파트너십을 통해 지난해 100억 달러를 투자하는 등 총 130억 달러를 투자해 지분 49%를 보유한 것으로 알려졌다. 이후 MS는 유럽연합(EU)에서도 반독점 조사에 직면했다. EU 집행위는 지난 1월 "오픈AI에 대한 MS의 투자를 EU 기업결합 규정에 근거해 재검토할 수 있는지 들여다보겠다"며 조사 가능성을 시사한 바 있다. 업계 관계자는 "MS는 세계에서 가장 큰 기술회사가 새로운 기술인 AI에 영향력을 행사한다는 이유로 조사를 받아왔다"며 "일각에선 이 거래가 적절한 방식으로 이뤄진 것인지에 대해 의문을 제기하고 있다"고 밝혔다. 앞서 FTC는 지난해 7월 오픈AI가 인공지능을 훈련시키는 필요한 데이터를 수집하면서 소비자들에게 피해를 입혔는지 여부에 대해 조사하기 시작했다. 지난 2월에는 마이크로소프트의 오픈AI 투자, 구글과 아마존의 앤트로픽(Anthropic) 등 신생 AI 기업에 대한 투자 등을 대상으로 거대 기술기업과 AI 스타트업의 파트너십에 대해서도 광범위하게 조사했다. 뉴욕타임스는 "이번 두 기관의 합의는 일자리, 정보, 사람들의 삶을 망칠 가능성이 있는 급속하게 발전하는 기술인 AI에 대한 법무부와 연방거래위의 조사를 강화한다는 신호"라며 "두 기관은 거대 기술기업들의 권력을 억제하기 위한 미국 정부의 노력에서 최전선에 서왔다"고 말했다. 이어 "2019년에도 두 기관은 비슷한 협상을 한 후 구글, 애플, 아마존, 메타를 조사했다"며 "이후 이들을 독점금지법 위반으로 고소했다"고 덧붙였다.

2024.06.07 10:00장유미

中 콰이서우, 오픈AI '소라' 대적할 AI 영상 생성 기술 출시

중국 동영상 플랫폼 콰이서우가 미국 오픈AI의 '소라'에 대적하겠다며 초거대 인공지능(AI) 모델을 기반 이미지 생성 기술을 발표했다. 소라는 명령어를 입력하면 1분 분량의 영상을 만들어주는 AI 서비스다. 6일 중국 언론 IT즈자에 따르면 콰이서우는 '텍스트투이미지', '이미지투이미지' 기능을 제공하는 AI 초거대 모델 '칼라스(KOLORS, 중국어명 可灵)'를 발표하고 공식 홈페이지와 위챗 등을 통해 서비스한다고 밝혔다. 칼라스는 텍스트 입력을 통해 1080P의 2분 길이(30fps) 영상을 생성할 수 있으며 화면 비율을 자유롭게 조정할 수 있다. 유화, 컴퓨터그래픽, 핸드페인팅, 중국 판화, 3D 등 다양한 이미지 스타일 제작과, 8K의 고화질 이미지 생성을 지원한다는 게 콰이서우의 설명이다. 주요 기능은 '텍스트투이미지' 기능으로, 텍스트를 입력하면 다양한 스타일과 높은 화질을 갖춘 이미지를 생성한다. 입력된 테스트를 토대로 다양한 스타일의 이미지를 생성해주며 사용자가 참조 이미지를 업로드할 수도 있다. 이미지의 스타일, 테마, 세부 사항을 기반으로 새 작품을 생성한다. 'AI 이미지 커스터마이징' 기능은, 사용자가 인물 사진을 업로드하면 다양한 가상 이미지로 만들어주는 것이다. 일명 '인물 보존 기술'을 이용해 인물의 자연스러운 특성을 유지하면서 다양한 스타일의 인물 이미지를 생성해주는 것이다. 콰이서우는 "칼라스 초거대 모델은, 콰이서우의 AI팀이 자체 개발했으며, 소라와 유사한 기술 노선을 채택하면서 여러 자체 개발 기술 혁신을 결합해 소라에 맞대결 할 것"이라고 전했다. 콰이서우에 따르면, 칼라스의 초거대 모델 매개변수 규모는 10억 개 수준으로, 오픈소스 커뮤니티 소스 및 자체 AI 기술을 더했다. 텍스트투이미지 기능의 긴 텍스트와 복잡한 의미의 텍스트 입력을 위해 강화학습보상모델기술(RLHF)도 적용했다. 매체에 따르면 콰이서우는 칼라스 초거대 모델에 더 많은 기능이 구현하고, 표정과 신체 움직임이 동시에 구현되는 새로운 'AI 노래와 춤' 서비스도 출시할 예정이다. 한 장의 사진만 있으면, 노래하고 춤추는 영상을 얻을 수 있는 기능이다. 콰이서우는 지난해 연말 기준 평균 월 활성 사용자 수가 7억 명을 넘어선 중국의 주요 영상 플랫폼이다.

2024.06.07 09:08유효정

"100년 내 인간 멸종 가능성 99.9%"…10년 내 AI 킬러 등장 예언 속 섬뜩한 경고 잇따라

"인공지능(AI)이 100년 안에 인간을 멸종시킬 수 있는 가능성이 99.9%에 달합니다. 미래에는 AI가 인간을 반드시 해칠 수 있습니다." 로만 얌폴스키 루이빌대 사이버보안연구소 교수가 최근 AI의 위험성을 제기하며 이처럼 경고하고 나섰다. 챗GPT 개발사 오픈AI와 구글 딥마인드의 전·현직 직원들뿐 아니라 국가안보 정부 당국자, AI·보안 전문가들도 함께 우려하며 재앙을 피할 수 있는 시간이 얼마 남지 않았다는 경고의 메시지를 잇따라 내놓고 있다. 6일 비즈니스인사이더 등 외신에 따르면 AI 전문가인 얌폴스키 교수는 지난 4일 과학자 렉스 프리드먼이 진행하는 팟캐스트에 출연해 "AI가 인류를 멸망시킬 가능성은 인간이 향후 100년 안에 버그 없이 고도로 복잡한 소프트웨어를 만들 수 있는지에 달려 있다"고 주장했다. 그러면서 "하지만 AI 모델이 의도하지 않은 작업을 안전하게 수행하도록 만들 수 없기에 사고를 피할 가능성은 낮다"며 "AI는 이미 실수를 저질렀는데 사고나 탈옥을 경험하기도 했고, 개발자가 의도하지 않은 일을 성공적으로 수행한 대형언어모델(LLM)은 하나도 없을 것"이라고 덧붙였다. 또 그는 "인공일반지능(AGI)이 등장하게 되면 문제가 더 커진다"며 "인간보다 더 똑똑한 시스템이 무엇을 할 것인지 예측이 어렵다"고 강조했다. AGI는 인간 수준의 사고가 가능해 주제에 구애받지 않고 성공적으로 문제를 해결할 수 있는 AI다. 이에 일각에선 향후 인간이 AI를 통제하는 것이 사실상 불가능하고 안전성과 관련된 문제가 필연적으로 발생할 수밖에 없다고 보고 있다. 얌폴스키 교수는 결국 인류의 운명이 3가지 중 하나일 것으로 관측했다. ▲AI가 모두를 죽이는 상황 ▲AI로 인해 모두가 고통받고 차라리 죽기를 바라는 상황 ▲모든 인간이 목적을 완전히 상실하는 상황 등이다. 얌폴스키 교수뿐 아니라 많은 전문가들은 AI가 일자리를 빼앗고 창의적으로 발전해 앞으로는 인간의 존재 가치가 없어질 것이라는 지적을 내놓고 있다. 앞서 AI 정책 조언 등을 제공하는 민간 업체 글래드스톤 AI가 지난 3월 미국 국무부의 의뢰로 작성한 보고서에선 미국 연방 정부가 AI로 인해 재앙을 피할 수 있는 시간이 얼마 남지 않았다고 경고했다. 보고서는 주요 AI 기업의 최고 경영진, 사이버 보안 연구원, 대량살상무기(WMD) 전문가, 국가안보 정부 당국자 등 200여 명을 1년여에 걸쳐 인터뷰한 내용을 토대로 작성됐다. 보고서는 "최첨단 AI 시스템이 향후 돌이킬 수 없는 피해를 가할 가능성이 있는 무기로 전용될 가능성이 있다"며 "어느 시점이 되면 인간이 개발 중인 AI 시스템에 대한 통제력을 상실해 잠재적으로 세계 안보에 파괴적인 결과를 초래할 수 있다"고 경고했다. 이어 "AI와 AGI의 부상은 핵무기 도입을 연상시키는 방식으로 세계 안보를 불안정하게 할 가능성이 있다"며 "AI 군비 경쟁과 분쟁, 대량살상무기 규모의 치명적인 사고의 위험이 있다"고 덧붙였다. 'AI 대부'로 불리는 제프리 힌턴 캐나다 토론토대 명예교수는 더 섬뜩한 예언을 내놨다. 지난 3월 일본 니혼게이자이신문과의 인터뷰에선 "AI에 목표를 주면 해결책으로 인간에게 나쁜 방법을 찾아낼지도 모른다"며 "10년 내 자율적으로 인간을 죽이는 로봇 병기가 등장할 것"이라고 주장했다. 최근에는 오픈AI와 구글 전·현직 직원들도 AI의 급속한 발전에 대한 우려를 표하는 성명을 발표했다. AI의 위험성을 다루기엔 기업의 내부 규제 시스템에 기대는 것만으로는 부족해 AI와 관련된 사법 체계가 구축돼야 한다고 강조했다. 이들은 "우리는 AI 기술에 의해 야기되는 심각한 위험을 알고 있다"며 "기존의 불평등을 심화시키는 것부터 조작과 잘못된 정보, 잠재적으로 인류의 멸종을 초래하는 자율적인 AI 시스템의 통제 상실까지 다양한 위험이 도사리고 있다"고 말했다. 이어 "AI 기업은 기술로 인해 발생하는 다양한 종류의 위험에 대한 상당한 비공개 정보를 보유하고 있지만 이런 정보 중 일부를 정부 또는 사회와 공유할 의무가 약하다"며 "우리는 이러한 기술을 모두 신뢰할 수 있다고 생각하지는 않는다"고 덧붙였다. 이 때문에 AI를 제어하기 위한 방안 마련을 위한 움직임도 곳곳에서 나오고 있다. 유럽연합(EU)이 올해 3월 세계 최초로 포괄적인 AI 기술 규제법안인 'AI법'을 최종 승인한 배경도 이런 위험도를 낮추기 위한 수순으로 분석된다. 2026년 이후 전면 시행될 이 최종안에 따르면 EU는 AI 활용 분야에 대해 총 4단계의 위험 등급으로 구분해 차등 규제할 예정이다. 법 위반 시 경중에 따라 전 세계 매출의 1.5%에서 최대 7% 수준의 과징금이 부과될 수 있다. 영구적인 안전장치가 필요하다는 주장도 있다. 에릭 슈미트 전 구글 최고경영자(CEO) 는 최근 개최한 컨퍼런스에서 AI가 자유의지를 가지게 된다면 해결책은 코드를 뽑는 것 하나뿐이라고 발언해 주목 받았다. 반면 일각에서는 이 같은 주장들이 너무 비관적이라고 지적했다. 유명 과학자 렉스 프리드먼이 진행하는 팟캐스트에 출연한 다수 AI 전문가들은 AI의 인간 멸종 가능성을 1~20%로 예상했다. 또 옥스포드대학교가 최근 실시한 과학자 2천778명 대상 설문 조사에서는 5%에 불과하다는 결과가 나왔다. 아르빈드 크리슈나 IBM 최고경영자(CEO)는 지난달 미국에서 열린 '밀컨 글로벌 콘퍼런스'에 참석해 AI 기술에 대한 정부 규제를 비판하며 "규제를 과도하게 하면 혁신이 (규제 범위 안에서) 융화돼 경쟁을 저해할 수 있다"며 "과도한 규제는 규제를 하지 않는 것보다 더 나쁘다"고 피력했다.

2024.06.06 10:32장유미

한컴, AI 솔루션 도입 사례 및 성과 알린다

한글과컴퓨터(이하 한컴, 대표 변성준·김연수)가 서울과 세종에서 공공기관 및 기업 고객을 대상으로 '한컴 AI 세미나'를 개최한다고 5일 밝혔다. 이번 세미나는 오는 11일 서울시 코엑스 인터컨티넨탈과 12일 세종시 코트야드 메리어트 세종에서 열린다. 프로그램은 ▲데이터와 AI로 여는 새로운 세상: 한컴 AI ▲경기도청 등 공공기관 적용 사례 ▲삼성SDS 등 기업 적용 사례 등으로 구성했다. 김연수 한컴 대표와 정지환 한컴 CTO를 비롯해 고객사 임직원이 직접 연사로 나선다. 공공기관 지자체 중 최초로 AI 지능형 문서 작성 솔루션 '한컴 어시스턴트'와 AI 기반 질의응답 솔루션 '한컴 피디아' 실증 지원(PoC, Proof of Concept)을 진행 중인 경기도청를 비롯해 삼성SDS 등 한컴 AI 솔루션을 먼저 도입한 고객들의 구축 및 활용 사례를 소개한다. 공공기관과 기업의 행정·기획·민원 업무 등에 활용된 한컴 AI 솔루션의 필요성 및 차별성 등을 구체적으로 선보임으로써 AI 솔루션 도입을 통한 업무 효율화와 서비스 혁신 사례를 확인할 수 있다. 한컴은 얼마 전 출시한 AI 학습용 데이터 추출 솔루션 '한컴 데이터 로더'를 시작으로 '한컴독스 AI', '한컴 피디아', '한컴 어시트턴트' 등 다양한 AI 솔루션을 잇달아 공개할 예정이며, 이번 세미나를 통해 자사 AI 기술 고유의 특장점 및 경쟁력을 강조할 계획이다. 한컴 진성식 CRO는 “이제 AI를 얼마나 효율적으로 활용하는지가 곧 경쟁력을 좌우하는 중요한 요소로 자리 잡은 만큼 한컴의 AI 기술을 활용해 고객들이 실질적인 효과를 경험할 수 있도록 모든 지원을 아끼지 않겠다”라며, “앞으로 혁신적인 AI 솔루션 및 서비스 제공을 통해 고객과 함께 성장해 가겠다”라고 밝혔다.

2024.06.05 15:35남혁우

가수 지드래곤 권지용, KAIST 기계공학과 교수되다

가수 지드래곤 권지용이 KAIST 교수가 됐다. KAIST는 가수 지드래곤(본명 권지용)을 기계공학과 초빙 교수로 임명하고, 5일 스포츠컴플렉스에서 개최한 '이노베이트 코리아 2024' 행사에서 임명장을 수여했다. 이번 임용은 KAIST에서 개발한 최신 과학기술을 K-콘텐츠와 문화산업에 접목해 한국 문화의 글로벌 경쟁력을 확대하고자 추진됐다. 권 씨의 소속사인 갤럭시코퍼레이션 관계자는 “이번 임용을 통해 '엔터테크' 연구개발을 통한 시장 혁신과 K-컬처의 글로벌 확산과 성장에 기여할 것으로 기대한다”고 밝혔다. 엔터테크는 엔터테인먼트(entertainment)와 테크놀로지(technology)의 합성어다. 엔터테인먼트의 핵심 가치인 지식재산권(IP) 및 콘텐츠에 ICT를 결합해 새로운 부가가치를 창출하는 산업을 말한다. 지드레곤은 학부생 및 대학원생을 대상으로 하는 리더십 특강에 나설 계획이다. 또한, 문화행사를 개최해 KAIST 구성원과 소통하는 한편, 창의적이고 융합적인 인재로 성장하는 데 필요한 예술적 경험을 제공한다. KAIST의 다양한 기술을 예술과 문화콘텐츠에 접목하는 공동연구도 추진한다. ʻKAIST-갤럭시코퍼레이션 엔터테크연구센터(가칭)ʼ를 기계공학과 내에 설립하고 ▲지드래곤 본인을 시작으로 한류 아티스트를 대상으로 한 디지털트윈(Digital Twin) 기술 연구 ▲K-컬처와 인공지능·로봇·메타버스 등의 과학기술 융합 연구 ▲볼류메트릭·모션캡쳐·햅틱 등 최신기술을 활용한 차별화된 아티스트 아바타 개발 등의 연구를 진행한다. 갤럭시코퍼레이션은 '넷플릭스 글로벌 TOP 10 비영어 TV쇼' 부문 1위를 달성하는 쾌거를 이룬 '피지컬:100 시즌2'를 비롯해 '스트릿 우먼 파이터', '1박 2일', '뭉쳐야 찬다' '미스터트롯2'와 같은 화제성 높은 방송콘텐츠를 제작하고 있다. 최근엔 메타버스, 아바타, 인공지능(AI) 등 최신 디지털 기술에 IP(지식재산권)를 결합해 새로운 콘텐츠 시장을 개척하고 있다. 글로벌 투자은행(IB)과의 글로벌 투자를 통해, 엔터테크 스타트업으로서는 처음으로 유니콘(기업가치 1조원)을 앞두고 있다. 권지용 초빙 교수는 "최고의 과학기술 전문가들과 저의 엔터테인먼트 전문 영역이 만나서 큰 시너지, 즉 '빅뱅'이 일어나길 기대한다"라고 소감을 밝혔다. 권 교수는 또 "음악 분야에도 인공지능으로 작업하는 분들이 많이 늘고 있고, 이러한 첨단 기술이 보다 더 다양한 형태의 창작 작업을 가능하게 한다"라며 "갤럭시코퍼레이션과 KAIST가 함께 개발한 인공지능 아바타를 통해, 자주 만나지 못하는 전 세계 팬들과 더 가깝게 소통하고 싶다"라고 바람을 전했다. 권지용 교수의 임용 기간은 이달 4일부터 2026년 6월까지 2년이다. 권지용 교수는 KAIST 글로벌 앰버서더로도 임명돼 KAIST의 해외 홍보 강화에도 일조할 계획이다. 지드래곤으로 활동해온 권지용 교수는 2006년 데뷔해 세계적인 인기를 끈 아이돌 그룹 '빅뱅'의 멤버이자 리더로, 18년간 한국 대중문화를 상징하는 아이콘으로 자리 잡았다.

2024.06.05 11:05박희범

글로벌 벤처 투자 감소 속 '생성형 AI'로 돈 몰린다…창작 영역에 어떤 영향?

글로벌 벤처투자 감소에도 생성형 인공지능(AI) 관련 투자가 꾸준히 증가하고 있는 것으로 나타났다. 5일 글로벌 리서치기관 CB인사이츠에 따르면 글로벌 생성형 AI 관련 투자 규모는 2022년 32억 달러에서 2023년 1~3분기 174억 달러로 크게 증가했다. 특히 2022년 3분기~2023년 2분기 동안 소셜미디어 및 마케팅 콘텐츠 생성, 텍스트 요약 등을 포함하는 텍스트 생성 AI에 대해 24건, 6억3천900만 달러의 투자가 유치됐다. 또 사진과 영상 툴, 기업용 AI 아바타 등을 포함하는 비주얼 미디어 생성 AI 기업은 3억8천700만 달러, 33건의 투자 유치를 기록했다. 이 가운데 삼정KPM는 '창작 영역에 뛰어든 생성형 AI 투자 현황과 활용 전망' 보고서를 통해 텍스트, 이미지, 영상, 아바타, 코드, 음성 등 6개 창작 분야별 주목 받고 있는 글로벌 주요 생성형 AI 스타트업 기업을 살펴봤다. 또 생성형 AI 기술이 향후 창작 영역에 미칠 변화도 전망했다. 텍스트 분야에서는 자체 대규모 언어모델(LLM) 기반의 작문 수정 및 생성 기능 제공하는 이스라엘의 'AI21랩스(AI21 Labs)'와 더불어 기업용 텍스트 편집 플랫폼 특화 기업 '라이터(writer)', 기업 브랜딩 및 마케팅 업무에 특화된 텍스트 생성 AI 기업 '재스퍼(Jasper)' 등 기업용 텍스트 생성 AI 기업에 주목했다. 이미지 분야에서는 프레젠테이션, 웹사이트 등 다양한 시각적 콘텐츠 생성에 특화된 호주의 AI 기업 '캔바(Canva)', 높은 품질의 결과물로 주목받는 스테이블 디퓨전(Stable Diffusion)의 개발사 '스태빌리티 AI(Stability AI)', 외부 투자 없이 높은 기술적 완성도를 보이는 '미드저니(Midjourney)'를 비롯해 AI 기반의 국내 웹툰 창작 솔루션 기업 '툰스퀘어(Toonsquare)' 등이 언급됐다. 영상 분야에서는 2023년 유니콘 기업에 등극한 영상 분야 대표 생성형 AI 기업 '런웨이(Runway)'와 더불어 영상의 검색, 분류 및 생성에 특화돼 최근 엔비디아 등의 전략적 투자를 유치한 한국 영상 생성 AI 기업 '트웰브랩스(Twelve Labs)'와 같은 생성형 AI 스타트업이 소개됐다. 아바타 분야에서는 전 세계 생성형 AI 툴 방문자 수로 챗GPT 다음의 2위를 기록한 '캐릭터닷AI(Chracter.ai)', 게임, 가상 세계 등 분야의 AI 캐릭터 제작 플랫폼 특화 기업 '인월드AI(Inworld AI)', 맞춤형 AI 휴먼 생성 특화 국내 기업 '딥브레인AI(DeepBrain AI)' 등을 살펴봤다. 코드 분야에서는 별도 설치 없이 웹 기반 코딩 플랫폼을 제공하는 미국의 '리플릿(Replit)', 서비스 출시 전 깃허브(GitHub)의 전 CEO 등이 투자해 화제가 된 오스트리아 생성형 AI 기업 '매직(Magic)', 출시 2년 내 30만 명이 넘는 개발자들이 이용한 이스라엘의 '코디움AI(CodiumAI)' 등의 투자 유치 현황이 소개됐다. 음성 분야에서는 텍스트를 편집하듯 오디오 편집이 가능한 기술을 선보인 미국 음성 생성 AI 기업 '디스크립트(Descript)', 문화적 뉘앙스를 살려 실시간 번역 및 음성 합성 기술을 제공하는 영국의 생성형 AI 기업 '페이퍼컵(Papercup)', 하이브에 인수된 국내 오디오 생성 AI 기술 특화 기업 '수퍼톤(Supertone)' 등이 언급됐다. 보고서는 창작 영역 내 생성형 AI 기술의 영향력이 확대되는 과정 중에 마주하게 될 5대 도전 과제로 ▲일자리 안정성 ▲잘못된 정보 양산 ▲양질의 데이터 확보 ▲사이버 보안 ▲저작권 문제 등을 꼽았다. 삼정KPMG 전자정보통신엔터미디어산업 리더 염승훈 부대표는 "생성형 AI 기업 투자를 고려할 때 AI 산출물의 정확성 제고, 안정적인 컴퓨팅 인프라 유지 등에 대해 차별화된 접근 방법이 필요하다"며 "생성형 AI 도입 및 활용을 앞둔 기업은 변화하는 AI 저작권 정책에 대한 모니터링, 사이버 보안 리스크 관리 등을 더욱 강화해 나가야 한다"고 강조했다.

2024.06.05 10:40장유미

'AI 보안 강자' 파수, 美서 해외 고객 확보 가속

파수가 글로벌 보안 컨퍼런스에서 인공지능(AI) 시대에서의 데이터 보안 및 관리 방안을 제시하며 해외 고객 공략에 속도를 높였다. 파수는 지난 3일부터 3일간 미국 메릴랜드 내셔널 하버에서 개최된 글로벌 보안 컨퍼런스 '가트너 시큐리티 서밋 2024(Gartner Security & Risk Management Summit 2024)'에 참가했다고 5일 밝혔다. 가트너 시큐리티 서밋은 글로벌 IT 컨설팅 & 리서치 그룹 가트너가 주최하는 세계적인 보안 행사로, 글로벌 기업의 C레벨들이 참석해 보안 트렌드 및 인사이트를 공유하는 자리다. 파수는 2013년부터 가트너 시큐리티 서밋 행사에 연속으로 참가하며 글로벌 SW 기업으로서의 입지를 굳혀왔다. 파수는 올해 초 '고객들의 AI 활용을 지원하는 기업'으로의 변화를 선포하고 AI 비전으로 'AI-레디 데이터(Ready Data)', 'AI-레디 시큐리티(Ready Security)' 등을 발표했다. 또 가트너 시큐리티 서밋 2024 참가를 기점으로 글로벌 시장에서도 고객들의 AI 활용을 위해 적극 지원할 예정이다. 이번 행사에서 파수는 '데이터 관리와 보안, 거버넌스(Data Management, Security and Governance)'를 주제로 세션 발표와 단독 부스도 진행했다. 지난 3일 오후(현지 시각) 진행된 파수의 세션 발표에서 론 아든(Ronald Arden) 파수 미국법인 COO는 AI 활용을 위해 데이터의 양, 질, 가용성과 보안 등 데이터 전체의 거버넌스를 향상하는 전략을 소개했다. 론 아든 COO는 "생성형 AI를 통해 더 나은 비즈니스 가치를 만들어내기 위해서는 AI 학습에 활용되는 조직 내 콘텐츠 관리가 중요하다"며 "파수의 문서관리 플랫폼 '랩소디(Wrapsody)'는 모든 중요 문서를 중앙화하고 문서에 대한 모든 정보 및 사용 이력을 자산화해 데이터를 효율적으로 관리할 수 있다"고 설명했다. 파수의 'AI-레디 데이터' 전략의 핵심인 랩소디는 문서 작업 후 저장만으로도 문서자산화, 분류, 버전 관리, 권한 관리 기능 등을 제공해 AI 활용을 위한 데이터 관리에 최적이다. 이어 아든 COO는 챗GPT(ChatGPT), 제미나이(Gemini) 등 생성형 AI 서비스 활용 시 민감 정보 유출을 방지하는 방안으로 파수 'AI-R DLP(AI Radar Data Loss Prevention)'를 소개했다. AI-R DLP는 생성형 AI 서비스에 대한 접근 권한을 제어하고, 프롬프트에 입력된 데이터를 모니터링해 핵심 기술, 영업 비밀, 개인 정보 등과 같은 민감 정보 유출을 막는다. 파수의 단독 부스에서는 랩소디와 AI-R DLP 외에도 백업 솔루션 'FC-BR'과 개인정보검출 솔루션 'AI-R 프라이버시(Privacy)' 등을 함께 선보였다. FC-BR은 중요 데이터를 자동으로 서버에 백업하고, 사용자가 원할 때 언제든지 원 클릭으로 백업된 문서들을 복원할 수 있다. PC에만 존재했던 중요 문서들도 파일서버 또는 클라우드 저장소에 백업해 활용할 수 있어 생성형 AI 도입을 위한 조직의 문서자산화까지 돕는다. AI-R 프라이버시는 비정형 데이터 내 개인 정보를 AI 기반으로 탐지할 수 있어 조직이 보유한 개인 정보를 보호하고 관리하는 데 효과적이다. 조규곤 파수 대표는 "AI 시대에 데이터 보안의 중요성은 더욱 강조되고 있고, 이번 가트너 시큐리티 서밋 2024에 참가함으로써 자사 솔루션이 어떻게 기업의 경쟁력을 강화시킬 수 있는지를 전 세계 보안 전문가들과 공유할 수 있었다"며 "앞으로도 혁신적인 기술을 바탕으로 글로벌 시장에서의 리더십을 더욱 강화해 나갈 것"이라고 강조했다.

2024.06.05 10:19장유미

HPE, AI 열풍에 2분기 실적 '굿'…주가도 펄쩍 뛰어

휴렛팩커드 엔터프라이즈(HPE)가 인공지능(AI) 열풍에 힘입어 2분기에 호실적을 기록하면서 주가도 함께 동반 상승했다. HPE는 2024 회계연도 2분기(올해 2~4월) 매출이 전년 동기 대비 3.3% 증가한 72억 달러를 기록했다고 5일 발표했다. 이는 블룸버그와 팩트셋이 집계한 매출 예상치를 웃도는 실적으로, 팩트셋은 앞서 HPE의 2분기 매출을 전년 대비 2%가량 감소한 68억 달러로 예상한 바 있다. HPE의 1분기 매출이 전년 동기 대비 14% 감소했으나, 2분기에는 대폭 개선됐다는 점도 눈에 띈다. 이는 AI 시스템 누적 주문이 46억 달러에 달하는 등 AI가 주요 매출 동력이 된 덕분이다. 마리 마이어스 HPE 최고재무책임자는 "AI 수요가 지리적으로도, 고객층 측면으로도 모두 확대되고 있다"며 "HPE의 광범위한 포트폴리오와 오랜 컴퓨팅 부문 역사가 고객들에게 큰 반향을 일으키고 있다"고 말했다. 2분기 서버 사업부 매출도 시장 기대치(34억5천만 달러)를 넘어선 38억7천만 달러에 달했다. AI 중심 시스템 매출은 전분기 대비 두 배 증가한 9억 달러 이상을 기록했다. 다만 인텔리전트 엣지 매출은 전년 동기 대비 19% 감소했다. 안토니오 네리 HPE 최고경영자(CEO)는 "엔비디아의 고성능 반도체에 대한 수요 증가와 가용성 개선이 AI 시스템 매출 증가를 이끌었다"며 "엔비디아의 고성능 반도체가 더 많이 생산돼 시장에 공급됨으로써 HPE의 AI 시스템 판매도 증가했다"고 설명했다. 이 기간 동안 HPE 순이익은 3억1천400만 달러, 주당 24센트를 기록했다. 1년 전 3억8천700만 달러, 주당 29센트보다는 감소했다. 조정 주당순이익은 42센트로, 시장 전망치(39센트)를 웃돌았다. HPE는 이번 회계연도 3분기 매출은 74억~78억 달러, 조정 주당순이익 전망은 43~48센트로 예상했다. 앞서 시장에선 HPE가 이 기간에 74억5천만 달러의 매출과 47센트의 조정 주당순이익을 예상했다. HPE는 이번 회계연도 한 해 매출이 1~3% 늘어날 것으로 기대했다. 조정 주당순이익은 1.85~1.95달러로 전망했다. 마리 마이어스 HPE 최고재무책임자는 컨퍼런스 콜에서 "현재 HPE의 AI 시스템 수주잔고는 31억 달러에 달한다"고 말했다. 다만 경쟁사인 델은 지난주 AI 서버 수주 잔고가 38억 달러라고 밝힌 바 있다. 이에 델은 올 들어 주가가 80%나 급등했다. 슈퍼마이크로 컴퓨터 주가는 171% 상승했다. 반면 HPE 주가는 3.9% 상승에 그쳐 경쟁사들이 AI 서버로 주가가 크게 오른 것과는 다소 대조적인 모습을 보였다. 그러나 이날 HPE가 실적을 발표한 후 시장 기대치가 커지면서 시간 외 거래에서 주가는 20.90달러(오후 5시 36분 기준)까지 올라 종가(17.60달러) 대비 18% 이상 올랐다. 우진호 블룸버그 인텔리전스 애널리스트는 "AI 서버 증가가 마침내 현실화되고 있다"며 "하지만 AI 비즈니스의 증가를 고려할 때 HPE의 연간 전망치는 압도적으로 낮은데, 이는 네트워킹과 같은 다른 사업 부문이 실적을 끌어내리고 있음을 시사한다"고 밝혔다.

2024.06.05 08:49장유미

"AI가 인류 파괴할 가능성 99.9%"…근거는?

인공지능(AI) 전문가 로만 얌폴스키 교수가 100년 안에 AI가 인류를 파괴할 확률을 99.9%로 전망했다고 IT매체 비즈니스인사이더가 4일(현지시간) 보도했다. 미국 루이빌 대학교 사이버보안연구소 소장 로만 얌폴스키 교수는 최근 유명 컴퓨터 과학자 렉스 프리드먼의 팟캐스트에 출연해 AI에 대한 자신의 의견을 밝혔다. 그는 "AI가 인류를 멸망시킬 가능성은 인간이 향후 100년 안에 버그 없이 고도로 복잡한 소프트웨어를 만들 수 있는지 여부에 달려 있다"고 밝혔다. 하지만, "설계되지 않은 작업을 수행하려는 사람들로부터 완전하게 안전한 AI 모델이 없기 때문에 그럴 가능성이 낮다"고 설명했다. 또, "그들은 이미 실수를 저질렀다"며, "우리는 사고를 당했고 탈옥을 당하기도 했다. 오늘날 개발자가 의도하지 않은 일을 성공적으로 수행한 대규모 언어 모델은 하나도 없다고 생각한다"고 밝혔다. 지난 2년 간 초기 AI 모델들 중 일부는 자료 오용이나 잘못된 정보에 대한 여러 위험 신호를 나타냈다. 딥페이크는 공인 여성의 가짜 포르노 이미지를 만들었고 바이든 대통령을 모방한 AI 자동녹음전화를 이용해 선거에 영향을 미치겠다고 위협하는 일도 있었다. 얼마 전 구글 I/O행사에서 공개된 제미나이 AI 모델을 기반으로 한 'AI 오버뷰'는 접착제로 피자를 만들 수 있다고 제안하는 등 말도 안 되는 답변을 내놔 주목을 끌기도 했다. 그는 “AI를 제어하려면 영구적인 안전 장치가 필요하다”고 밝히며, "더 똑똑한 시스템이 무엇을 할 것인지 예측할 수 없다"고 경고했다. 그가 예측하는 미래의 모습은 하나는 모든 사람이 죽는 것이고, 다른 하나는 모든 사람이 고통스러워하며 죽기를 바라는 것이며, 또 다른 하나는 인간이 목적을 완전히 상실하는 것이라고 설명했다. 이에 대해 비즈니스인사이더는 대부분의 사람들은 AI에 어느 정도에 위험이 있다는 것을 인정하지만 상황이 아주 절망적일 가능성은 낮게 보고 있다며, 일론 머스크의 경우 AI가 인류를 파괴할 확률을 10~20%로 예측했다고 전했다. 에릭 슈미트 전 구글 최고경영자(CEO)는 최근 "거대언어모델(LLM)의 진정한 위험은 사이버 및 생물학적 공격이며 향후 3~5년 안에 이러한 공격이 찾아올 것"이라고 밝혔다.

2024.06.04 16:56이정현

"우울증 치료하려다 털렸다"…'멘탈 케어' AI 챗봇, 사생활 유출 위험 '경고등'

최근 우울감이나 불안감, 번아웃 증상을 해소하는데 적극 활용되고 있는 인공지능(AI) 챗봇이 심각한 개인정보 침해를 야기할 수 있다는 지적이 나왔다. 노드VPN는 정신적 외로움이나 의존 욕구를 해소하기 위한 수단으로 AI 챗봇을 이용할 때 ▲믿을 만한 앱 사용하기 ▲개인정보에 유출에 대한 위험성 인식하기 ▲모든 정보가 보호되지 않는다는 점 등을 명심해야 한다고 4일 밝혔다. 최근 AI를 기반으로 한 건강 관리 앱이 유행인 가운데 개인 건강 상태와 증상 정보를 분석해 주거나, 상담을 명목으로 진짜 사람처럼 대화를 이어 나갈 수 있는 AI 챗봇 서비스가 늘고 있는 추세다. 최근 출시된 노인 건강 관리 앱 '경기도 AI+돌봄 계획'이 대표적으로, 노인 인구가 급증하는 세태에 맞춰 AI 기술로 노인들의 주기적인 안부를 확인하고 건강 및 심리 관련 상담을 수행하는 것이 특징이다. 노드VPN은 "프로그램의 규격화된 데이터를 기반으로 대응을 하기 때문에 사용자의 성격이나 상태에 대한 미묘한 세부 사항을 놓쳐 더 큰 병리적 문제를 야기할 수 있다"며 "일부 AI 툴은 개인적인 신상 정보는 물론 행동, 수면 패턴, 신체적 활동과 심박수 등의 내밀한 정보, 내면의 깊은 정서에 대한 정보까지 수집하므로 이 정보가 유출될 시 심각한 프라이버시 침해로 이어질 수 있다"고 경고했다. 이에 노드VPN은 승인된 애플리케이션만 사용할 것을 권고했다. 특히 국가의 유관 부처가 운영하는 공공 어플리케이션이나 병원에서 운영하는 공인된 툴을 사용하는 것을 추천했다. 또 개인정보 유출에 대한 위험성도 인식할 필요가 있다고 지적했다. 일부 AI 툴이 신체·정신적인 정보는 물론 사용자의 기분과 인지 상태를 파악한다는 목적으로 전화 통화의 음성 녹음 데이터까지 수집하고 있다는 점을 간과해선 안된다고 조언했다. 노드VPN은 "여러 정보들은 사용자의 개인정보에 대한 유출, 침해 또는 심각한 해킹의 위험에 노출시킬 수 있기 때문에 사용에 유의해야 한다"며 "특히 로맨스와 관련된 AI 챗봇은 광고의 목적으로 종종 제3자에게 사용자의 개인정보를 공유하는 많은 추적기를 가지고 있기 때문에 더욱 사용에 유의해야 한다"고 설명했다. 보안 전문가들은 AI챗봇과의 모든 대화가 철저히 비밀로 유지되지 않는다는 점을 항상 명심해야 한다고 조언했다. 대화 중 공개되는 '개인 정보'에 대한 범위가 툴, 사람마다 아주 주관적이고 모호하다는 점도 고려해야 한다고 봤다. 아드리아누스 바르멘호벤(Adrianus Warmenhoven) 노드VPN 사이버 보안 고문은 "최근 정신 건강을 돕는 AI 기반의 앱들이 범람하고 있는데 일부 승인된 앱을 제외하고는 전문성이 없는 마케팅 봇에 불과하다"며 "AI는 결코 남자친구나 여자친구가 될 수 없고 정신 건강의 근본적 문제를 해결해 줄 수 없을뿐만 아니라 의존성을 유발하고 개인정보까지 유출할 수 있음을 명심해야 한다"고 밝혔다.

2024.06.04 11:16장유미

AI 거품 꺼지나…헤지펀드, SW 대신 엔비디아 등 반도체에 돈 보따리 푼다

'인공지능(AI)' 열풍이 최근 사그라들면서 헤지펀드들이 잇따라 관련 소프트웨어 기업들의 주식들을 정리하고 나섰다. AI 칩과 관련 장비 업체들의 주식을 사들이는 것과는 다소 대조적인 행보다. 4일 블룸버그통신이 입수한 골드만삭스 보고서에 따르면 지난달 31일 기준으로 헤지펀드들은 11주 만에 IT(정보 기술) 주식을 가장 많이 매도했다. 이 중 소프트웨어가 60% 이상을 차지했다. 또 헤지펀드의 소프트웨어에 대한 순익스포저(위험노출액)는 5년 만에 최저치를 기록했다. 헤지펀드들의 이같은 움직임은 AI 시장에서 누가 뒤처질지에 대한 우려가 점차 나오고 있어서다. 월스트리트저널(WSJ)은 AI의 개선 속도가 느려지고 있는 점을 지적하며 "AI가 할 수 있는 일과 투자자에게 줄 수 있는 수익 모두 양측에서 실망을 줄 수 있다"며 "AI 혁명은 이미 흐름을 잃고 있다"고 지적했다. 인지과학자이자 AI 스타트업 창업자인 게리 마커스는 "챗GPT와 같은 AI는 초기에 빠르게 개선됐지만 지난 14개월 간 우리가 본 것은 점진적인 증가에 불과하다"고 평가했다. AI의 상품성이 불확실한 상태인데다 엄청난 운영 비용이 AI의 수익성에 걸림돌이 될 수 있다는 우려도 나왔다. AI 스타트업 스카이플로의 CEO이자 소프트웨어 대기업 세일즈포스의 부사장을 역임한 안슈 샤르마는 "마이크로소프트나 구글과 같은 대기업들은 충분히 많은 사용자를 끌어들일 수 있을 것이라고 낙관하지만 장기간에 걸쳐 막대한 자금을 지출해야 한다"며 "가장 많은 자금을 투자받은 AI 스타트업들조차 그런 경쟁을 견딜 수 없을 것"이라고 전망했다. 다만 헤지펀드들은 AI 영향을 받고 있는 기업들에게는 투자 속도를 높이는 모양새다. 지난주에는 반도체 및 관련 장비가 유일하게 순매수한 기술주로, 5년여 만에 단일 주식 노출이 가장 높은 펀드로 평가됐다. S&P 500 정보 기술 지수는 올해 17% 상승했지만 업종별 성과는 큰 차이를 보였다. 특히 S&P 반도체 및 반도체 장비 지수는 올해 57% 급등한 반면, S&P 소프트웨어 및 서비스 지수는 2.2% 상승에 그쳤다. 블룸버그 인텔리전스의 수석 기술 분석가인 아누라그 라나는 "마이크로소프트(MS)를 제외하면 대부분의 대형 소프트웨어 회사들이 단기간에 AI의 혜택을 받을 것으로 예상하지 않는다"고 말했다. 일부 애널리스트들은 AI와 관련된 소프트웨어 주식이 '환멸의 저점'을 맞이할 것이라고 평가했다. 또 업계는 거시 경제 환경의 악화와 지정학적 위험으로 인해 기업들이 업그레이드 계획을 연기하는 등 어려움을 겪고 있는 것으로 분석했다. 블룸버그는 "엔비디아의 지속적인 상승세에서 볼 수 있듯 AI에 대한 추진력이 둔화될 기미가 보이지 않는 상황"이라며 "헤지펀드들은 적어도 당분간 AI칩에 돈을 투자하는 것이 가장 나을 듯 하다"고 밝혔다. 프리덤 캐피탈 마켓 수석 글로벌 전략가 제이 우즈는 "칩 주식은 수요가 여전히 높고 이 분야의 혁신이 빠른 속도로 계속되고 있기 때문에 올해 하반기에도 계속 화제가 될 것"이라며 "엔비디아는 계속해서 선두를 달리고 있고 다른 업체들은 그 뒤를 따르고 있다"고 분석했다.

2024.06.04 09:44장유미

엠로, 'AI 구매시스템' 美특허 등록 결정..."해외 사업 탄력 기대"

엠로(대표 송재민)는 자체 개발한 AI 기술에 대한 특허가 미국 특허청으로부터 등록 결정됐다고 4일 밝혔다. 이번에 등록 결정된 '기계 학습을 통한 학습 모델을 사용한 정보 제공 방법 및 장치'에 관한 특허는 AI 기반 자연어 처리 기술(NLP)을 활용해 기업 구매시스템에 등록된 방대한 양의 품목 데이터의 유사도를 분석하고 분류하는 것이다. 엠로는 이미 국내와 일본에서도 관련 특허권을 보유하고 있다. 엠로는 이 특허 기술이 적용된 AI 소프트웨어 '스마트 아이템 닥터'를 현대자동차, 대한항공, HD현대오일뱅크, 한화건설, 현대제철, 포스코DX 등 다양한 산업 분야의 국내 기업에 공급 중이다. 전 세계적으로 기업 핵심 업무에 AI 기술을 적용해 업무 생산성과 효율성을 향상시키고자 하는 기업들의 수요가 높아지면서 엠로의 AI기반 공급망관리 소프트웨어는 국내뿐 아니라 해외 시장에서도 높은 관심을 받고 있다. 엠로는 이번 특허 등록을 통해 글로벌 기업용 소프트웨어 시장에서 가장 규모가 크고 기술적으로 선진화된 미국에서 구매 영역에 특화된 AI 기술 역량을 인정받게 됨에 따라 이를 바탕으로 현지 시장 공략이 한층 탄력 받을 것으로 기대하고 있다. 엠로 관계자는 “이번에 특허를 등록한 미국은 글로벌 진출을 위한 1차 타깃 시장으로, 현재 삼성SDS와 함께 활발한 영업 및 마케팅 활동을 진행 중”이라며 “엠로의 우수한 AI 기술력과 풍부한 구축 레퍼런스를 내세워 현지 고객을 확보하며 글로벌 시장에 빠르게 안착해 나가겠다”고 말했다.

2024.06.04 09:07남혁우

  Prev 121 122 123 124 125 126 127 128 129 130 Next  

지금 뜨는 기사

이시각 헤드라인

폴더블폰 새 기준 내놨다…"모바일 AI 대중화 선도"

정기선 HD현대 수석부회장, 인도 콕 집은 이유

내연차→전기차 전환 지원금 주나…환경부 장관 후보자 "검토 중"

[써보고서] 갤럭시Z폴드7 얼마나 얇아졌나 보니

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.