검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'생성ai'통합검색 결과 입니다. (93건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

루카스메타-게티이미지코리아, AI 협업 솔루션 위해 '맞손'

루카스메타와 게티이미지코리아가 인공지능(AI) 서비스 혁신을 위해 손을 맞잡았다. 루카스메타는 게티이미지코리아와 AI 기반의 협업 솔루션 공동 개발을 위한 전략적 업무협약(MOU)을 체결했다고 24일 밝혔다. 업무협약을 통해 양사는 상업적 활용이 가능한 AI 기반 이미지 및 협업 서비스를 구축할 예정이다. 루카스메타는 생성 AI 기술을 활용해 이미지 생성 및 편집기 커스텀 솔루션을 개발할 계획이다. 게티이미지코리아는 이를 위해 회사가 보유한 1억7천300만개의 비주얼 콘텐츠를 제공한다. 이번 협력은 금융 분야를 포함한 다양한 분야에의 AI 솔루션 개발에 초점을 맞추고 있다. 양사는 금융권을 시작으로 다양한 B2B 및 B2G 시장에 진출할 계획이다. 현재 글로벌 기업 캔바와 국내의 미리캔버스, 망고보드 등이 유사한 서비스를 제공하고 있어 경쟁이 치열하게 진행 중이다. 이번 협약을 통해 루카스메타와 게티이미지코리아는 차별화된 기술력과 방대한 콘텐츠를 바탕으로 시장에서의 경쟁력을 강화할 전망이다. 한예원 루카스메타 대표는 "이번 협약을 통해 AI 기술과 저작권 이미지 자산의 결합으로 혁신적인 서비스를 제공하게 됐다"며 "특히 금융 분야에서의 혁신 서비스 개발에 주력할 것"이라고 말했다. 박건원 게티이미지코리아 대표는 "이번 협력을 통해 국내 AI 서비스 시장에서의 입지를 더욱 강화할 수 있을 것으로 기대한다"고 강조했다.

2024.09.24 17:37조이환

BCG "생성 AI 덕에 비전문가도 전문가 수준 업무 가능해졌다"

생성 인공지능(AI)을 활용하면 데이터 비전문가도 전문가에 가까운 수준의 업무를 수행할 수 있다는 연구 결과가 나왔다. 23일 보스턴컨설팅그룹(BCG)이 발간한 '생성 AI는 단순히 생산성을 높이는 데 그치지 않고 역량을 확장한다(GenAI Doesn't Just Increase Productivity. It Expands Capabilities)' 보고서에 따르면 생성 AI는 모든 사용자의 업무능력을 비약적으로 증강시키는 것으로 나타났다. 보고서는 BCG의 자체 실험에 참가한 생성AI 사용 유저가 데이터 전문가들의 성과 기준치 대비 86% 수준의 점수를 기록했다고 주장했다. 특히 이들이 생성 AI를 사용하지 않은 유저들보다 49% 더 높은 점수를 거뒀다고 전했다. 실험 참가자들은 파이썬 코딩, 예측 모델 구축, 통계 분석 검증 등 고난도의 데이터 과학 과제를 수행했다. 이 실험에서 생성 AI를 사용한 참가자들은 코딩 경험이 전혀 없어도 적절한 코드를 작성하고 머신러닝 모델을 적용하며 통계 오류를 수정해 냈다. 특히 파이썬 코딩 능력에서 두드러진 성과를 보였다. 생성 AI를 사용한 참가자들은 데이터 전문가와 비교해 86%에 달하는 점수를 기록했으며 그렇지 않은 참가자들보다 업무 속도도 약 10% 빨랐다. 이와 반대로 예측 분석 업무에서는 생성 AI도 완벽하지 않았다. 생성 AI 도구가 주어진 프롬프트의 목표를 오해하거나 오류를 범할 가능성이 높았기 때문이다. 그럼에도 불구하고 AI를 활용한 참가자들은 브레인스토밍 과정에서 AI의 도움을 받아 새로운 접근법을 발견하고 문제를 해결할 수 있었다. 이들은 머신러닝 기법을 적용하는 데 있어 15% 포인트 더 높은 성과를 보였다. BCG는 생성 AI를 사용해 일을 잘 해내는 것이 곧 그 일을 배우거나 새로운 기술을 습득하는 것은 아니라고 설명했다. AI는 업무를 돕는 도구일 뿐, 이를 통해 일을 수행했다고 해서 그 방법을 익혔다고 보기는 어렵다는 것이다. 보고서를 공동 집필한 댄 색 BCG 파트너는 "생성 AI를 활용하는 근로자는 자신의 기존 직무를 뛰어넘는 새로운 업무를 능숙하게 처리할 수 있다"며 "기업 경영진은 이러한 미래에 대비해 전문성을 재정의해야 한다"고 강조했다.

2024.09.23 18:06조이환

'챗GPT' 등장에 대학 문화도 달라졌다…韓·英 대응 차이 '극명'

지난 2022년 11월 '챗GPT'가 등장한 이후 생성 인공지능(AI) 기술이 급격히 발전하면서 대학 교육 현장 역시 큰 변화를 맞이하고 있다. 국내 대학들은 이에 대한 명확한 대응책을 마련하지 않아 회색지대가 넓어지는 분위기다. 반면 영국의 일부 명문 대학들은 강경한 금지 조치를 취하고 있지만 학생들의 반발에 직면해 정책 변화를 검토하고 있다. 23일 업계에 따르면 현재 국내 대부분의 대학은 아직 생성형 AI에 대한 공식적인 정책을 마련하지 않은 것으로 알려졌다. 일부 대학은 생성형 AI 활용에 대한 공식적인 지침을 제공하고 있다. 일례로 성균관대학교는 생성형 AI를 무단으로 활용할 경우 불이익을 줄 수 있다고 명시했다. 연세대학교는 올해 초 '생성형 AI 사용 가이드라인'을 마련해 학생들에게 안내하고 있다. 그럼에도 불구하고 이는 전체 대학 중 소수에 불과한 것으로 분석된다. 많은 대학에서는 생성 AI의 활용에 대해 교수별로 해석과 적용이 달라 학생들이 혼란을 겪고 있는 것으로 알려졌다. 어떤 교수는 사용을 금지하고 어떤 교수는 허용하되 출처를 명시하도록 요구하기 때문이다. 이로 인해 학생들은 어떤 기준을 따라야 할지 어려움을 느끼고 있다. 경남의 한 대학에 재학 중인 Y모 군은 "학교에서 생성 AI에 대한 공식적인 정책은 없는 것 같다"며 "교수마다 지침이 달라 어떤 교수는 사용이 의심된다면 F를 주고 어떤 교수는 전면 허용한다"고 말했다. 그러면서 "학생 입장에서는 편리하기 때문에 사용하지만 걸리면 학점에 불이익을 받을 수 있어 불안하다"고 토로했다. 서울 소재 대학을 올해 졸업한 K모 씨도 비슷한 의견을 전했다. 그가 교수들로부터 전해들은 바에 따르면 많은 학생들은 현재 '챗GPT', '클로드' 등 여러 모델을 동시에 사용하는 식으로 여러 번 덧씌우는 과정으로 과제를 수행한다. 그는 "교직원들이 사실상 이런 AI 도구들을 통해 작성된 레포트를 감지하는 건 거의 불가능하다는 것을 인정하는 추세"라며 "AI를 활용해 작성한 과제를 감지하는 것도 현실적으로 어려워 레포트 과제가 줄고 시험 위주의 평가로 바뀌는 것 같다"고 밝혔다. 이와 달리 영국 명문 대학 중 상당수는 생성 AI 사용에 대해 강경한 금지 조치를 취하고 있는 것으로 알려졌다. 실제로 런던정경대(LSE)는 올해 초 AI 도구의 사용을 명확히 금지하고 이를 어길 경우 0점을 부여하겠다고 밝힌 바 있다. 이러한 조치에 대해 영국 현지에서 학생들의 불만이 커지고 있다. 런던정경대 석사과정에 재학 중인 T모 씨는 "AI 탐지 도구의 정확도가 떨어져 논리적이고 정합적인 문장을 모두 기계가 작성한 것으로 간주해버린다"며 "이런 상황에서 학생들은 좋은 글을 쓰려는 의욕을 잃게 된다"고 비판했다. 옥스퍼드 대학도 비슷한 입장이다. 학교 측은 "시험이나 제출 과제에서 허가되지 않은 AI 사용은 심각한 징계 대상"이라며 "AI 사용이 허가된 경우에도 표절 규정이 적용되며 AI 사용 내역을 명확히 밝혀야 한다"고 공지한 바 있다. 이에 옥스퍼드 대학 박사과정에 있는 R모 씨는 "AI를 금지하는 것은 시대착오적인 조치"라며 "AI를 막기보다는 창의적 사고를 촉진하는 도구로 활용할 수 있도록 해야 한다"고 주장했다. 이러한 학생들의 반발로 인해 일부 영국 대학들은 정책 변화를 검토하고 있다. 실제로 런던정경대는 오는 9월부터 AI 사용을 허용하는 방향으로 정책 전환을 추진 중인 것으로 알려졌다. 전문가들은 생성 AI의 활용이 불가피한 시대에 대학들이 명확한 정책을 마련해야 한다고 지적한다. 생성 AI 기술은 이미 교육과 연구 현장에서 광범위하게 활용되고 있으며 이를 단순히 금지하는 것은 현실적이지 않다는 것이다. 익명을 요청한 한 영국 대학 관계자는 "생성 AI 기술이 교육 보조 도구로서 큰 잠재력을 지니고 있으며 생산성 향상에 도움이 된다는 점을 모두가 알고 있다"며 "'방안에 코끼리가 들어선 것(Elephant in the room)'처럼 명확한 현실을 아무도 얘길 안 하는 상황을 극복해 AI를 허용하는 방향으로 가야 한다"고 말했다. 그러면서 "물론 학생들이 학문적 정직성을 지킬 수 있도록 대학 차원의 가이드라인이 필요하다"고 강조했다.

2024.09.23 17:49조이환

딥페이크 범죄 '급증'…글로벌 테크 기업 대응 나섰다

최근 딥페이크 성범죄와 허위 뉴스 영상 제작이 급격히 증가하면서 이를 탐지·대응하는 기술이 주목받고 있다. 국내외에서 딥페이크 범죄가 사회적 문제로 떠오르자 관련 기업들의 움직임에 대한 시장 기대감이 높아지고 있다. 19일 업계에 따르면 경찰은 올해 500건 넘는 딥페이크 사건을 수사 중이며 특히 10대들이 연루된 사례가 급증하고 있다. 국내외 가해자들은 텔레그램 등 익명성이 보장된 플랫폼을 통해 음란물을 유포하고 있으며 주로 여성인 피해자들이 심각한 피해를 입고 있다. 해외에서도 상황은 심각하다. 유로뉴스에 따르면 유럽에서 제작된 딥페이크 영상 96%가 여성과 청소년을 대상으로 한 음란물이다. 미국에서는 최근 스칼렛 요한슨과 테일러 스위프트 등 유명인들이 딥페이크 포르노의 피해자가 되기도 했다. 딥페이크 음란물뿐만 아니라 가짜뉴스로 인한 문제도 부각되고 있다. 정치인이나 공공 인물의 발언을 조작하거나 허위 정보를 담은 영상을 제작해 유포하는 사례가 증가하고 있기 때문이다. 지난 2022년 국내 지방 선거 당시 윤석열 대통령이 특정 후보를 지지하는 딥페이크 영상이 퍼져 큰 논란이 된 바 있다. 이와 관련해 딥페이크 선거 사용 방지법이 지난 1월 통과됐지만 해외에서는 딥페이크를 통한 가짜뉴스 남용이 여전히 큰 문제가 되고 있다. 이런 상황에서 딥페이크 탐지 기술에 대한 수요가 급증하고 있다. 글로벌 시장조사업체 마켓앤마켓에 따르면 글로벌 딥페이크 탐지 시장은 지난 2022년 5억 달러(한화 6천500억원)였지만 오는 2027년에는 18억 달러(한화 2조3천400억원) 규모로 성장할 것으로 예상된다. 이미 마이크로소프트는 지난 2020년 AI와 머신러닝을 결합한 '비디오 인증기(Video Authenticator)'를 공개한 바 있다. 이 도구는 사진이나 비디오를 분석해 미디어가 조작되었을 가능성을 백분율로 나타내는 신뢰도 점수를 제공한다. 특히 실시간으로 동영상을 프레임 단위로 분석해 각 프레임에서 조작 가능성을 보여준다. 미국뿐 아니라 유럽 스타트업들도 이에 가세했다. 그 중 에스토니아의 센티넬 AI는 클라우드 기반 솔루션을 통한 실시간 딥페이크 탐지를 제공하는 것으로 알려졌다. 이 회사는 얼굴 랜드마크 분석과 시간적 일관성 등을 활용해 딥페이크를 식별한다. 특히 최근 딥페이크 탐지 경연대회에서 135만 달러의 상금을 획득하며 기술력을 인정받았다. 요하네스 타메캔드 센티넬 AI 대표는 자사 제품을 소개하며 "우리는 잘못된 디지털 기술의 활용이 민주주의에 가장 큰 위협 중 하나라는 것을 잘 알고 있다"며 "사회가 잘못된 정보에 빠지는 것을 막기 위해 최선을 다할 것"이라고 밝혔다. 네덜란드의 센시티 AI도 실시간 딥페이크 탐지 플랫폼을 제공하고 있다. 이 회사는 얼굴 조작, 음성 합성, 전신 조작 등 다양한 유형의 딥페이크를 식별하며 인공지능(AI) 기반 분석으로 조작된 미디어의 출처를 추적한다. 조르지오 파트리니 센시티 AI 대표는 "딥페이크 기술의 발전 속도가 매우 빠르기 때문에 우리의 탐지 시스템도 지속적으로 진화해야 한다"며 "디지털 미디어 생태계의 신뢰성을 유지하는 것이 우리의 목표"라고 말했다. 이렇게 유럽에서 딥페이크 탐지 기술이 발전한 것은 민주주의와 인권이 딥페이크 위협에 직접적으로 노출되었기 때문이라고 전문가들은 지적한다. 개인정보 보호를 중요시하는 유럽의 규제 환경이 딥페이크 기술 오용에 대한 경각심을 높였다는 것이 이들의 분석이다. 국내에서도 다양한 테크 기업들이 딥페이크의 폐해를 예방하기 위해 노력을 기울이고 있다. 특히 라온시큐어는 올 하반기에 개인이 쉽게 딥페이크 여부를 체크할 수 있는 탐지 서비스를 자사의 개인용 모바일 백신 애플리케이션에 탑재할 계획이다. 라온시큐어의 딥페이크 탐지 기술은 합성된 얼굴과 정상 얼굴을 각각 학습해 이를 상호 비교 분류할 수 있도록 AI를 학습시킨다. 이미지부터 동영상, 안면 추출, 주파수 계열 변환 등 다양한 기술을 적용해 생성형 AI의 특징을 탐지한다. 이때 딥페이크 탐지 정확도를 높이기 위해 여러 모델을 동시에 사용한다. 특정 학습 유형에 맞춰 설계된 각각의 모델이 따로 존재하기 때문에 한 가지 모델에 의존했을 때 발생하는 탐지 정확도 저하를 방지할 수 있다. 이를 통해 얼굴의 부자연스러운 형태· 움직임·오디오 등을 종합적으로 분석해 더욱 정교한 탐지가 가능할 것으로 전망된다. 박현우 라온시큐어 AI연구센터장은 "딥페이크가 보편 기술이 돼 이를 악용한 범죄가 퍼지는 와중에 간편하게 딥페이크 여부를 탐지할 수 있는 기술도 보편화돼야 한다"며 "자사 보안 앱인 '라온 모바일 시큐리티'에 딥페이크 탐지 기능을 탑재하는 등 모든 개인들을 위한 잠재적 피해 예방에 매진하겠다"고 강조했다. 딥브레인AI도 '딥페이크 탐지 솔루션'을 개발해 주목받고 있다. '딥페이크 탐지 솔루션'은 사진의 경우 12분, 짧은 영상은 57분 내에 딥페이크 여부를 판별할 수 있다. 이미지와 비디오를 픽셀 단위로 분석하고 음성은 주파수, 시간, 노이즈 등 다양한 요소를 종합적으로 고려해 탐지하는 것으로 알려졌다. 이렇게 국내 기업들이 약진하는 가운데 딥페이크 방지 기술의 개발만으로 실제 범죄를 완전히 막기에는 한계가 있다는 지적도 나온다. AI 기술이 기하급수적으로 발전하고 있기 때문이다. 익명을 요청한 국내 AI 기업 관계자는 "딥페이크 기술은 계속해서 발전하고 있어 탐지 기술만으로는 완벽한 대응이 어렵다"며 "기술의 오용을 막기 위한 사회적 합의와 강력한 처벌 등이 병행돼야 한다"고 강조했다.

2024.09.19 17:40조이환

금융권 노린 네이버클라우드, '하이퍼클로바X' 소형 LLM 구축 박차

네이버클라우드가 금융권의 보안 우려를 해소하면서도 생성 AI를 안전하게 도입할 방안을 제시했다. 네이버클라우드는 자체적으로 개발한 거대언어모델(LLM)의 경량화 버전인 '하이퍼클로바X 대시'를 기반으로 금융권 전용 소형언어모델(sLLM)을 구축했다고 19일 밝혔다. 이 모델은 미래에셋증권의 온프레미스 환경에 최초로 적용된다. 앞서 네이버클라우드는 보안 이슈로 인해 생성 AI 도입을 부담스러워하는 공공·금융 분야 기업들을 위한 LLM 구축 사업을 시작한 바 있다. 미래에셋증권과의 협력은 기업이 온프레미스 환경에서 생성 AI를 활용하도록 네이버클라우드가 지원하는 첫 사례다. 네이버클라우드는 '하이퍼클로바X 대시' 외에도 미래에셋증권이 데이터를 학습시키도록 클래스 코드와 기술 지원을 제공했다. 미래에셋증권은 이를 기반으로 사내 데이터를 훈련시켜 금융 업무에 최적화된 sLLM을 구축했다. 미래에셋증권 관계자는 "금융 규제를 준수하면서도 AI 전환을 이루기 위해서는 '온프레미스 LLM'이 최선의 선택이었다"며 "업무별로 특화된 sLLM 구축에 최적화된 '하이퍼클로바X 대시'를 도입해 사내 시스템에 활용하게 됐다"고 밝혔다. 임태건 네이버클라우드 전무는 "자사 클라우드 서비스는 이제 기업 인프라에 설치해 사용할 수 있는 '온프레미스 LLM'까지 갖추게 됐다"며 "보안 문제로 인해 클라우드 기반 LLM 사용이 어려웠던 공공·금융 기업들이 생성 AI를 활용할 수 있게 됐다"고 강조했다.

2024.09.19 10:59조이환

링크드인, AI 훈련에 데이터 무단 수집 '논란'

링크드인이 인공지능(AI) 모델 훈련을 위해 사용자 데이터를 수집하고 활용하면서도 이에 대한 명확한 사전 동의 절차를 거치지 않았다는 의혹이 제기됐다. 19일 테크크런치에 따르면 링크드인은 최근 사용자 데이터를 AI 훈련에 활용하는 정책을 업데이트했다. 하지만 이와 관련한 공지가 충분하지 않아 많은 사용자들이 자신의 데이터가 AI 모델 훈련에 활용된다는 사실을 알지 못한 채 약관에 동의한 것으로 알려졌다. 이번 업데이트로 인해 피해를 본 것은 주로 미국 사용자들이다. 환경설정을 통해 'AI 훈련 사용 안함(Opt-out)'을 고를 선택권이 주어졌지만 약관의 업데이트에 대해 아무런 고지를 받지 못했기 때문이다. 이와 반대로 유럽 지역의 사용자들은 일반정보보호규정(GDPR)의 보호를 받아 피해를 입지 않았다. 현재 링크드인은 수집된 데이터를 서비스 내의 콘텐츠 추천 및 글쓰기 제안 등 다양한 생성 AI를 위해 활용하고 있다. 또 모회사인 마이크로소프트 등 외부 기업의 AI 모델 훈련에도 데이터를 제공하는 것으로 알려졌다. 링크드인은 AI 모델 훈련에 사용되는 데이터가 개인정보 보호 기법을 통해 가명화되거나 삭제된다고 주장하고 있다. 그럼에도 불구하고 구체적인 보호 조치의 범위와 방식에 대해선 명확한 설명이 없어 사용자들의 불안이 계속되고 있다. 영국 디지털 권리 보호 시민단체 오픈 라이츠 그룹(Open Rights Group)의 마리아노 델리 산티 법률정책 책임자는 "사용자가 모든 온라인 회사를 감시하고 추적할 수는 없다"며 "이번 사태는 현재의 데이터 보호 체계가 우리의 데이터 권리를 보호하기에는 불충분하다는 점을 보여준다"고 밝혔다.

2024.09.19 09:23조이환

MIT 박사·삼성 최연소 임원이 AI 기업 '투플랫폼' 세운 이유는

"인간과 인공지능(AI) 간의 상호작용을 혁신하고자 하는 마음이 저를 이끌었습니다. 둘 사이의 관계를 새롭게 정의해 인류 모두를 위한 AI를 실현하는 것이 우리의 최종 목표입니다. 이를 위해 우리는 비용 효율적이면서도 다문화 지향적인 '듀얼 트랜스포머 아키텍처' 기술을 적극 활용하고 있습니다." 프라나브 미스트리 투플랫폼 대표는 최근 기자와 만나 회사의 AI 기술 성과와 향후 계획을 이같이 밝혔다. 미스트리 대표는 지난 2012년 MIT에서 박사 과정을 밟던 중 삼성전자에 입사해 최연소 임원이 된 것으로 국내에 널리 알려진 바 있다. 그 이전에는 구글, 마이크로소프트, 나사(NASA) 등에서 근무하며 폭넓은 경험을 쌓았으며 삼성전자 입사 후에는 최연소 상무·전무로 초고속 승진해 최첨단 기술 프로젝트를 이끌었다. 그가 지난 2021년 삼성전자를 나온 후 세운 기업이 바로 투플랫폼이다. 인간과 AI의 관계를 재정의하고자 하는 목표를 가진 테크 스타트업으로서, 투플랫폼은 자체 거대언어모델(LLM)인 '수트라(Sutra)'를 개발해 다국어 지원·현지화에 특화된 솔루션을 제공한다. 미스트리 대표는 "'수트라'의 설계 철학은 전 세계 모든 다른 언어를 영어만큼이나 효율적으로 처리하는 것"이라며 "기존 모델들과 달리 진정한 의미에서 현지화된 경험을 대규모 사용자들에게 제공하는 것이 목표"라고 강조했다. 미스트리 대표에 따르면 오픈AI의 '챗GPT'와 같은 타사 LLM 역시 다양한 언어를 지원하고 있지만 '수트라'는 보다 비용 효율적이며 현지화에 특화돼 있다. 그는 "'수트라'는 기존 모델들보다 영어 이외의 언어에 최대 8배까지 비용 효율적"이라며 "이는 에너지 자원이 제한된 비영어권 시장에서 AI 도입이 확대되는 데 가장 중요한 요소"라고 주장했다. 이러한 비용 효율성을 가능하게 하는 것은 투플랫폼에서 개발한 '듀얼 트랜스포머 아키텍처' 기술 덕분이다. 인간의 뇌 작동 방식을 모방한 기술로서, '듀얼 트랜스포머'는 LLM이 한 언어에서 배운 지식과 개념을 다른 언어에도 그대로 적용할 수 있게 한다. 미스트리 대표는 "우리가 새로운 언어를 배울 때 굳이 이미 알고 있는 개념을 다시 배우지 않는다"며 "수트라 LLM 역시 이와 같이 이미 알고 있는 개념을 다른 언어에서 추가로 학습할 필요가 없게 설계됐다"고 설명했다. 이러한 기술 개발은 단순히 비용 효율성뿐만 아니라 문화적 다양성에도 도움을 준다. 실제로 '수트라'는 인도의 여러 방언과 혼합 언어까지 동시적으로 지원하고 있다. 미스트리 대표는 "우리의 주요 시장 중 하나인 인도는 각 지역들끼리 서로 포르투갈과 아르메니아 사이만큼이나 거대한 문화·언어적 차이가 있다"며 "'수트라'는 이와 같은 다양한 언어·문화차이를 극복하고 서비스를 제공할 수 있다"고 강조했다. 이러한 '수트라'의 장점은 최근 대두되는 '소버린 AI' 개념과도 연결된다. 실제로 지난 2022년부터 각국의 AI 주권을 위해 소버린 AI 개념을 강조해 왔던 네이버도 자회사 스노우를 통해 투플랫폼에 5백만 달러(약 60억원)를 투자한 바 있다. 상용화 역시 활발하다. 투플랫폼은 인도의 대표 통신기업인 릴라이언스 지오(Reliance Jio)와 협력해 '수트라'를 공급 중이다. 최근에는 국내 유수의 대기업들과도 사업 계약을 추진하고 있는 것으로 알려졌다. 투플랫폼의 철학은 실제 사업 행보에서도 드러난다. 본사가 위치한 실리콘밸리 외에는 인도 뭄바이와 서울에 사무실을 두고 있기 때문이다. 이는 대부분의 다국적 기업들이 세금 혜택을 목적으로 주로 싱가포르·두바이에 해외 사무소를 두는 것과는 차별화됐다. 미스트리 대표는 "지사를 세울 때 최우선 기준은 우리 기술 모델에 걸맞는 현지 인재를 확보하고 시장을 이해하는 것"이라며 "고객들과 가까이서 소통하며 현지 시장에 맞는 제품을 개발하고 언어 문제를 해결하는 '글로컬(Glocal)' 기업이 되기 위한 전략"이라고 밝혔다. 미스트리 대표에 따르면 투플랫폼의 장기 목표는 인간과 AI의 관계에 대한 재정의다. 실제로 투플랫폼의 슬로건은 '나(I)와 AI'로, 인간과 기계의 상호작용을 새로운 단계로 발전시키는 것이다. 이를 위해 텍스트나 음성을 넘어 몰입형 경험을 선도하는 것이 주요 전략이다. 실제로 회사 제품들도 이를 반영하고 있다. 올해 1월에는 AI 소셜앱 '재피(ZAPPY)'를 국내에 정식 출시했으며 출시 2개월 만에 25만 명이 넘는 유저를 확보했다. 인간 친구뿐만 아니라 AI 캐릭터들과도 함께 대화하는 기능을 통해 새로운 형태의 커뮤니케이션을 가능케 했다. 기술 혁신의 중요성을 강조하는 동시에 미스트리 대표는 책임 있는 AI 개발의 중요성에 대해서도 역설했다. 실제로 투플랫폼은 군사 분야에서의 책임 있는 AI 활용을 위해 대한민국 외교부가 전 세계 국가들을 대상으로 지난 9~10일 개최한 'REAIM' 정상회의에 AI 스타트업으로서는 유일하게 초청된 바 있다. 10일 개최된 주요 세션 패널로서 미스트리 대표는 스웜(Swarm)과 같은 최신 AI 기술들의 발전이 국제 안보에 미칠 수 있는 잠재적 악영향에 대해 발표했다. 스웜 AI는 작은 AI 에이전트들이 협력해 더 큰 지능을 발휘하는 기술로, 통제하기 어려운 집단 지능을 형성해 예측 불가능한 행동을 초래할 수 있다. 미스트리 대표는 패널에서 "새로운 AI들의 기술적 특성과 잠재적 악영향을 고려해야 한다"며 "비단 스웜 만이 아니라 앞으로 기하급수적으로 발전할 기술들의 잠재적 악용을 지속적으로 방지하고 책임감 있게 활용하는 것이 매우 중요하다"고 역설했다. 투플랫폼이 유일하게 행사에 초청된 AI 기업인 이유를 묻는 기자의 질문에 그는 "책임·효율성의 균형을 맞추는 동시에 인간과 기술 모두에 집중해 온 경영 철학이 주효했던 것 같다"며 "끊임없이 발전하는 AI가 의도치 않게 발생시킬 수 있는 악영향에 끊임없이 대비하고 인간을 위한 기술을 개발하겠다"고 밝혔다. 그러면서 "우리는 디즈니처럼 상상력과 기술로 세상을 변화시키는 회사가 되고자 한다"며 "기술이 일상에 스며들어 경계가 사라지는 세상을 만들고 싶다"고 강조했다.

2024.09.18 10:36조이환

업스테이지 "산업 특화 AI로 시장 공략…매출 급증했다"

"생성형 인공지능(AI)을 통해 돈 버는 기업으로 자리매김 했습니다. 올해 1분기 매출 100억원을 기록했습니다. 단순히 AI 모델 개발에만 그치지 않고 국내 금융·법률·의료·커머스 기업들에 맞춤형 거대언어모델(LLM)을 제공했기 때문입니다. 이런 사업 방향으로 국내뿐 아니라 미국 등 해외 시장에서도 본격 활약하겠습니다." 김자현 업스테이지 LLM 사업개발 리드는 최근 기자와 만나 자사 LLM '솔라'를 통한 비즈니스 성과와 향후 계획을 이같이 밝혔다. 김 리드는 업스테이지가 '솔라'를 통해 각 산업 도메인 업무에 특화된 솔루션을 제공해 왔다고 설명했다. 현재 업스테이지는 신한투자증권, 케이뱅크 등 금융회사에 파이낸스 LLM을 공급하고 있으며 법률상담 플랫폼 로톡을 운영하는 로앤컴퍼니에 법률 특화 솔루션을 제공하고 있다. 김 리드는 "고객이 요구하는 문제를 해결하기 위해 맞춤형 솔루션을 제공한 점이 주효했다"며 "이를 통해 고객사에 실질적인 가치를 제공하고 성공에 일조할 수 있었다"고 강조했다. 업스테이지는 금융과 법률뿐만 아니라 의료와 커머스 분야에서도 활약하고 있다. 의료 분야에서는 카카오 헬스케어와 손잡고 대학병원 3곳을 대상으로 AI 솔루션 제공용 메디컬 특화 모델을 제공한다. 커머스 분야에서는 커넥트웨이브와 협력해 AI 기반 맞춤형 상품 검색 및 추천 서비스를 구축했다. 현재 업스테이지는 생성형 AI 비즈니스로 올해 1분기 100억원 넘는 매출을 기록했다. 이는 지난해 회사 전체 매출보다 높은 수치다. 김 리드는 "업스테이지가 창업 원년부터 매출 창출을 목표로 사업을 진행했다"며 "최근 이례적인 성과를 얻은 셈"이라고 말했다. 이어 "생성형 AI 기업이 실제 매출을 올린 사례가 적다"며 "이런 상황에서 업스테이지 성과가 더 주목받고 있다"고 덧붙였다. 매출 성과 비결을 자체 개발한 LLM '솔라'와 파인튜닝 기술로 꼽았다. 파인튜닝은 LLM을 특정 작업이나 도메인에 맞게 학습 시키는 기술로, 업스테이지는 '솔라'를 특정 도메인에 맞게 파인튜닝해 고객사에 제공했다. 김 리드는 '솔라'가 번역·수학 풀이 등 특정 작업에서 오픈AI 'GPT-4' 같은 타사 LLM보다 뛰어난 성능을 보인다고 주장했다. 김 리드는 "파인튜닝 전문사인 프레디베이스(Predibase)와 협력해 '솔라' 성능 테스트를 500번 이상 실시했다"며 "'솔라'가 특정 도메인에선 빅테크 모델보다 우수하단 점을 정량적으로 입증했다"고 강조했다. 美·日 등 해외 진출 가속…"시장 수요에 맞는 전략 채택" 업스테이지는 글로벌 시장 진출도 빠르게 추진하고 있다. 현재 미국과 일본, 동남아시아 등 아시아태평양 지역으로 사업을 확장하며 국가 특성에 맞는 전략을 구사하고 있다. 김 리드는 "미국 시장에서는 온프레미스(On-premise) 수요를 주로 공략하고 있다"며 "생성형 AI 보안이나 비용 효율성 측면에서 온프레미스를 선호하는 기업 수요가 늘어났기 때문"이라고 밝혔다. 또 아태지역에서는 각국 언어와 도메인에 맞는 모델을 개발 중이다. 최근 '솔라' 일본어 버전을 개발 개발해 일본 시장 문을 두드리고 있다. 특히 '솔라' 일본어 버전은 니케이 아시아가 발표한 일본어 모델 벤치마크 테스트에서 상위 20위권에 포함된 것으로 알려졌다. 이중 유일한 한국산 모델이다. 김 리드는 "아태지역에서는 대규모 LLM을 자체 구축하기 어려운 경우가 많다"며 "한국서 입증된 경쟁력 있는 AI 솔루션을 통해 향후 베트남, 인도네시아, 아랍에미리트 등 다양한 국가에 언어 특화 모델을 제공할 계획"이라고 밝혔다. 김 리드는 업스테이지가 '솔라' 영어 모델을 공개해 AI 생태계 강화에 기여하고 있다는 점도 설명했다. 이를 통해 피드백과 사용 사례를 추가 확보하기 위함이다. 김 리드는 "오픈소스를 통해 개발자와 기업들이 업스테이지 모델을 활용하면 더 많은 애플리케이션과 솔루션이 나올 것"이라며 "이는 AI 공동 발전을 도모하고 AI 경쟁력을 알리는 좋은 기회"라고 강조했다. 같은 목적으로 업스테이지는 한국어 모델 성능을 평가하는 자체 리더보드를 운영 중이다. 리더보드 시즌 1에서는 LLM 기본 능력인 자연어 이해나 상식 등의 지표를 주로 사용했다. 최근에는 평가를 시즌 2로 업데이트 해 한국어 모델 성능뿐만 아니라 문화와 규범을 이해하는 능력까지 포함시켰다. 김 리드는 "평가 세트를 공개하지 않음으로써 모델들이 평가 세트를 학습하는 문제를 방지했다"며 "이로써 공정하고 정확한 성능 평가가 가능해졌다"고 밝혔다. 그러면서 "오픈소스와 리더보드 등을 통해 국내 AI 생태계가 함께 상생하고 발전하길 바란다"며 "이는 업스테이지도 한층 더 성장할 수 있는 기회일 것"이라고 강조했다.

2024.09.08 09:32조이환

크라우드웍스, 기업 고객 대상 실무형 AI 활용 교육 출시

AI 테크 기업 크라우드웍스(대표 김우승)는 생성형AI 시대 기업 경쟁력 강화를 위한 기업 고객 대상 AI 교육사업을 추진한다고 26일 밝혔다. 생성형AI 시대가 열리면서 IT 기업이 아니어도 산업 전반에 AI 기술 도입과 활용에 대한 중요성이 높아지고 있다. 이제는 소수의 AI 전문가가 아닌 전체 임직원이 AI 도구를 능숙하게 활용하는 것이 비즈니스 혁신의 키(KEY)가 되고 있다. 그러나 자체적으로 맞춤형 AI 교육을 운영하는 일이 쉽지 않아 많은 기업들이 어려움을 겪고 있다. 이에 크라우드웍스는 임직원들의 AI 역량 강화를 위한 기업 맞춤형 AI 교육과정을 개발했다. '크라우드 아카데미'를 운영하며 쌓은 온라인 교육 노하우와 크라우드웍스의 AI 역량을 더해 만들었으며 LLM을 활용한 AI 서비스 앱 개발을 목표로 교육과정을 디자인했다. 커리큘럼은 비개발부서 임직원들도 쉽게 이해할 수 있도록 구성했다. AI 기본 지식부터 기업 맞춤형 AI 서비스 개발과 활용에서 필요한 실무 지식까지 습득할 수 있다. 이를 위해 크라우드웍스가 확보한 다양한 산업 도메인에서의 데이터 구축 및 실제 LLM 서비스 개발 사례 등을 교육에 포함시켰다. 먼저 오픈되는 교육과정은 업무 전반에 AI를 효과적으로 활용할 수 있는 ▲프롬프트 활용 업무 생산성 향상 과정, ▲생성형AI 기반 실습형 LLM 서비스 개발 과정이다. 데이터셋을 제공해 프롬프트 엔지니어링 실습을 진행하고, 실제 AI 서비스 구축 프로세스도 체험한다. 교육 강사진은 업계 최고 수준의 기술전문가로 구성했으며, 쌍방향 소통하며 학습할 수 있도록 오프라인 교육 형태로 진행된다. 또 교육 전후로 학습자의 AI 역량 향상 정도를 정량화해 측정하는 '모바일 기반의 AI 역량 진단 시스템'을 제공해 교육 효과를 구체적으로 측정할 수 있는 서비스도 이용할 수 있다. 이를 위해 크라우드웍스는 SaaS 기반 PBT(Project Based Training) 플랫폼 기업 매직에꼴에 투자하고 함께 교육사업을 추진키로 했다. 이보람 크라우드웍스 교육사업본부 본부장은 "생성형AI 도입이 확산될수록 깊이 있는 AI 지식보다는 AI에 대한 폭넓은 이해와 활용 역량, AI 리터러시가 강조된다"며 "크라우드웍스가 확보한 다양한 AI 서비스 개발 사례들을 기초로 활용해 더욱 공감되고 몰입할 수 있는 교육 콘텐츠를 제공할 것"이라고 설명했다.

2024.08.26 16:44백봉삼

국회, 리걸테크 발전 위한 입법공청회 개최

국회가 최근 생성 인공지능(AI)을 법률 분야에 적용하는 리걸테크 기업과 법조계의 상생을 위해 팔을 걷어 부쳤다. 더불어민주당 소속 권칠승 의원과 박지원 의원은 22일 오후 2시 국회의원회관 제8간담회의실에서 '리걸테크 진흥정책 추진을 위한 입법공청회'를 공동 개최한다. 이 행사는 두 의원이 공동으로 주최하고 고려대 리걸테크센터가 주관한다. 이번 공청회에서는 이병준 고려대 리걸테크센터장이 좌장을 맡고 정신동 한국외대 법전원 교수가 발제를 한다. 토론에는 김신유 판사, 석동현 법무부 법무과 검사, 이영진 법제처 법령데이터혁신팀장, 정재기 대한변호사협회 부협회장, 이정민 벤처기업협회 사무총장, 김여섭 리걸테크산업협의회 변호사가 참여할 예정이다. 권칠승 의원은 "생성 AI가 리걸테크 분야 발전과 국민의 기본권 보장에 큰 변화를 가져올 것"이라며 "벤처업계와 법조계가 함께 혁신과 상생의 방안을 마련해 변화를 헤쳐나가야 한다"고 강조했다. 박지원 의원은 "입법의 기준은 민심이므로 국민 편의 증진을 1순위에 둬야 한다"며 "이를 감안하면서 벤처업계와 법조계가 리걸테크 분야에서의 상생을 위해 많은 논의를 하길 바란다"고 밝혔다.

2024.08.22 09:42조이환

이미지 AI 발전 가속…전문가들 "포르노·가짜 뉴스 남용 막아야"

생성 인공지능(AI)의 그림이 정교해지고 이미지 편집 기능이 추가돼 실제 사진과 구분이 점점 어려워지고 있다. 이를 남용하는 사례가 늘면서 윤리적 해결책과 법제화의 필요성이 커지고 있다. 19일 미국의 테크 전문지 벤처비트에 따르면 구글은 최근 미국 시장에서 '이마젠3'를 출시했다. 이는 지난 5월 구글이 해당 모델을 최초로 발표한 후 3개월 만이다. 이에 따라 '이마젠' 사용자들은 텍스트를 입력해 그림을 마음껏 그릴 수 있게 됐다. 업계는 이를 오픈AI의 이미지 생성 모델인 '달리'에 대항하려는 움직임으로 보고 있다. 구글보다 앞서 지난해 10월 오픈AI는 '챗GPT'에 '달리3'를 통합한 멀티모달 모델을 도입했다. 이는 지금까지 유료 이용자들에게만 제공됐던 모델이었지만 지난 15일부터 무료 사용자에게도 하루 최대 2건씩 제공되고 있다. 일론 머스크 엑스(X) 대표의 챗봇 '그록'도 이에 가세했다. 지난 13일 X는 프리미엄 사용자들에게 '그록-2'의 베타 버전을 제공하기 시작했고, 여기에는 이미지 생성 기능도 포함돼 있다. 이들 이미지가 점점 실제와 구분이 안 되는 수준으로 진화하고 있다는 것이 업계 전문가들의 의견이다. 실제로 루르 대학교가 올해 5월 실시한 조사에 따르면 3천명의 연구 참가자 대부분이 AI가 생성한 이미지를 실제 사진으로 착각한 것으로 나타났다. 이제 생성 AI가 단순히 그림을 생성하는 것뿐만 아니라 편집까지 할 수 있어 더 많은 우려를 낳고 있다. 샌프란시스코에 위치한 그림 AI 스타트업인 미드저니는 지난 15일 웹브라우저 이미지 편집기를 공개했는데 이 서비스는 이미지 일부를 다시 칠하거나 경계를 늘리는 등의 아웃페인팅 및 캔버스 확장 기능을 지원한다. 이렇게 이미지 생성 및 편집 AI가 급속도로 발전하면서 가짜 이미지 남용 가능성에 대한 우려가 커지고 있다. 실제로 머스크의 '그록'은 '이마젠'이나 '달리'와 달리 크게 검열되지 않고 있다. 머스크 X 대표가 '세상에서 가장 재미있는 AI'라고 표현한 그록은 프롬프트에 따라 대부분의 이미지를 생성할 수 있다. 외신에 따르면 '그록'은 프롬프트를 따라 테일러 스위프트· 카멀라 해리스 후보의 노골적 성적 대상화 이미지와 911 테러를 저지르는 트럼프 전 대통령의 사진 등을 생성한 바 있다. 전문가들은 검열되지 않는 이미지에 편집 기능까지 더해지면 문제가 더 심각해질 수 있다고 분석한다. AI는 아직도 영어를 제외한 글자들을 제대로 표시하지 못하고 사람의 손가락 같은 복잡한 형태를 그리지 못하지만 기술이 발전할수록 이러한 문제도 해결될 전망이기 때문이다. 이미 유사 기술인 딥페이크의 경우 기술이 고도화되면서 여러 문제가 발생했다. 지난 15일 샌프란시스코시 변호국은 딥페이크 포르노를 생성할 수 있는 사이트들의 폐쇄 조치를 요구하는 소송을 제기했다. 이 사이트들은 오픈소스 생성 AI를 사용해 피해자들의 동의 없이 얼굴을 포르노 영상과 합성하는 등의 문제를 초래했다. 이는 딥페이크 기술이 극도로 고도화되고 상용화가 가능한 수준에 이르렀음에도 관련 규제가 따라오지 못했음을 보여준다. 전문가들은 딥페이크와 마찬가지로 점점 고도화되고 있는 이미지 생성 및 편집 AI에도 신속히 규제를 마련해야 한다고 입을 모은다. 이미지 AI들이 고도의 편집 기능을 통해 성적 대상화 및 가짜뉴스 이미지를 대량생산할 가능성이 크기 때문이다. 이러한 폐해를 방지하기 위해 규제뿐만 아니라 기업들의 기술 개발도 필요하다고 전문가들은 분석한다. 하디 살만 오픈AI 연구원은 "기업들은 AI 도구의 잠재적 위협에 대한 방어 수단을 구축하는 데 투자해야 한다"며 "이를 위해 모델 개발자, 정책 입안자, 소셜미디어 플랫폼 간의 적극적 협력이 필요하다"고 강조했다.

2024.08.19 17:52조이환

샘 알트먼이 올린 '딸기' 사진에 "새 모델 출시 임박?"

샘 알트먼 오픈AI 대표가 소셜 미디어를 통해 차기 인공지능(AI) 모델에 대한 기대감을 높이고 있다. 이는 업계와 사용자들의 큰 관심을 불러일으켜 오픈AI의 입지를 강화하려는 전략으로 해석되는데, 일부 전문가들은 우려를 제기했다. 18일 블룸버그에 따르면 알트먼 대표는 자신의 엑스(X) 소셜 미디어 계정에 "나는 여름의 정원이 좋아"라는 캡션과 함께 진흙 화분에 심은 딸기 사진을 올렸다. 업계 관계자들은 알트먼 대표가 추론·수학 능력을 크게 향상시킨 오픈AI의 신형 AI '스트로베리' 출시를 암시한 것이라고 분석했다. 또 알트먼 대표는 엑스에서 오픈AI 관련 소문을 올리는 두 익명 계정과 지속적으로 대화를 나눈 것으로 알려졌다. 특히 그는 딸기 이모지를 이름으로 둔 '스트로베리'라는 별명을 가진 계정과 '지미 애플'이라는 계정에서 올라온 글에 답글을 달며 루머에 반응했다. 오픈AI는 최근 AI 모델을 소규모로 개선했지만 많은 사람들이 예상했던 큰 변화는 아직 발표되지 않았다. 이런 상황에서 업계 일각은 알트먼 대표의 게시물이 중요한 기술의 출시를 암시한다는 신호로 본다. 지나친 기대감이 실망으로 이어질 수 있다는 우려도 있다. 오픈AI는 아직 차기 모델에 대해 공식 발표하지 않았다. 또 지난해 'GPT-4'를 개발자 행사(DevDay)에서 출시한 것과는 달리 올해 행사에서는 신제품을 발매하지 않겠다고 발표했다. 업계 일각에서는 알트먼 대표의 행보가 회사의 위기를 잠재우기 위한 것이라고 보고 있다. 실제로 지난 6일 존 슐먼 오픈AI 공동창업자는 경쟁사인 앤트로픽으로 이직했고 그렉 브록먼 사장은 장기 휴가를 떠났다. 이는 오픈AI의 기술 부문을 책임지던 일리야 수츠케버 공동창업자가 지난 5월 회사를 떠난 데 이은 일이다. AI 업계의 한 관계자는 알트먼의 소셜 미디어 활동을 두고 "새로 발표할 파괴적 기술을 대비하게 하려는 목적일 수도 있지만 그냥 재미있게 놀고 싶은 걸지도 모른다"며 "솔직히 소문이 오래 지속돼 지치는 면이 있다"고 밝혔다.

2024.08.18 10:09조이환

네이버클라우드, 공공 초거대AI 사업 휩쓸어

네이버클라우드가 공공과 민간의 인공지능(AI) 사업을 대거 확보하며 관련 시장 주도에 박차를 가한다. 네이버클라우드는 과학기술정보통신부와 한국지능정보사회진흥원(NIA), 정보통신산업진흥원(NIPA)이 주관하는 '초거대 AI' 관련 지원사업에 잇따라 선정됐다고 16일 밝혔다. 선정된 주요 사업으로는 NIA의 초거대 AI 기반 서비스 개발지원사업과 초거대 AI 플랫폼 이용지원 사업 그리고 NIPA의 '2024년 초거대 AI 기반 학술활동 지원 사업이다. 초거대 AI 기반 서비스 개발지원사업은 공공 부문의 AI 활용과 디지털플랫폼 정부 실현을 가속화하기 위한 사업이다. 공공 부문에서 AI 활용 서비스를 창출하기 위해 공공범용·공공특화·현안해결 등 3개 분야에서 8개 과제가 선정됐다. 네이버클라우드는 공공 범용 분야 과제 ▲초거대 AI 기반의 통합 연구개발 지원 서비스(경제인문사회연구회) ▲스마트 소방 안전 서비스(서울소방재난본부)과 공공 특화 분야 과제 ▲청년 농업인 특화 서비스(농촌진흥청) 총 3개 과제에 참여한다. 초거대 AI 플랫폼 이용지원은 공공기관 및 민간기업의 AI 사업 한계를 극복할 수 있도록 지원하는 사업이다. 네이버클라우드는 총 36개 수요기관에 각 특성을 반영한 맞춤형 심층컨설팅 및 개념증명(PoC), 최적화 고도화 등을 지원할 예정이다. 2024년 초거대 AI 기반 학술활동 지원 사업은 초거대 AI 플래그십 프로젝트 지원 사업의 일환이다. 학술·연구 분야의 전문가를 보조하는 생성형AI 기반 서비스 개발 및 실증 지원을 통해 AI 일상화 촉진 및 국가 AI 경쟁력 강화를 목표로 하고 있다. 네이버클라우드는 컨소시엄 주관사인 비타소프트와 메트릭스, 한림대학교 한림과학원, 인하대학교 한국학 연구소와 함께 이번 학술활동 지원사업에 선정됐다. 컨소시엄 구성기관은 25년까지 AI 인프라와 알고리즘, 솔루션 개발, 데이터 가공·학습, 서비스 플랫폼 개발을 각각 지원하며, 네이버클라우드는 초대규모 AI '하이퍼클로바X' 및 클라우드 인프라, 기술 지원 등을 담당할 예정이다. 컨소시엄은 지난 7월 한국학 학술지원 서비스 1차 운영위원회를 개최하고, '초거대 AI 플래그십 프로젝트 지원 사업 착수보고회'에서 서비스 품질 제고, 거버넌스 구성과 운영, 연구기관 참여 확대를 주요 사업 진행 경과로 발표했다. 올해 1차년도 목표인 데이터 수집 및 데이터베이스 구축과 솔루션 개발에 박차를 가해 성공적인 서비스 실증까지 이어질 수 있도록 노력한다는 계획이다. 네이버클라우드 공공 프로젝트 담당 이인성 리더는 “과학기술정보통신부의 초거대 AI 관련 다양한 사업으로 공공기관 및 중소기업이 초거대 AI를 이용할 수 있는 환경이 마련되고 있다”며 “네이버클라우드는 높은 수준의 기술력과 인프라를 기반으로 공공에서의 초거대 AI 서비스 개발 및 도입을 위해 앞장서겠다”고 전했다.

2024.08.16 16:43조이환

일론 머스크, 생성형 AI로 美 대선 가짜뉴스 퍼트려

일론 머스크가 생성형 인공지능(AI)으로 미국 대선 관련 허위 정보를 퍼뜨리고 선거 과정 신뢰성을 위협한다는 지적이 나왔다. 13일 가디언에 따르면 머스크는 자신이 소유한 소셜 미디어 엑스(옛 트위터)에서 AI 챗봇 그록(Grok)을 통해 올해 미국 대통령 선거와 관련된 잘못된 정보를 공유했다. 카멀라 해리스 미국 민주당 대선후보의 가짜 음성을 퍼뜨린지 2주 만이다. 지난 7월 머스크는 해리스 후보의 AI 음성 패러디 영상을 공유한 바 있다. 영상은 풍자를 목적으로 제작됐지만, 당시 일부 유권자들은 이를 실제 해리스 목소리로 오인한 것으로 알려졌다. 머스크의 이런 행보는 최근 도널드 트럼프 공화당 후보를 표명한 시기와 맞물린다. 머스크는 공화당의 선거 음모론을 옹호하며 비시민권자가 불법으로 투표하고 있다는 주장을 반복한 바 있다. 외신은 선거 과정의 무결성이 머스크로 인해 훼손될 수 있다고 분석했다. 또 가디언은 머스크가 트럼프 후보와 인터뷰할 것을 예고했다고 보도했다. 이 만남에서 두 사람은 선거 음모론을 비롯해 정치적 이슈에 대해 공통된 의견을 공유할 것으로 보인다. 미 공공정책 연구소인 브레넌 센터의 메켈라 판디타라트네 선임 고문은 "머스크의 행동은 단순한 정보 왜곡을 넘어 민주주의 근간 자체를 흔들고 있다"며 "사회적 책임을 지닌 거대 플랫폼 소유자의 역할을 다시 생각해 봐야 한다"고 말했다.

2024.08.13 13:24조이환

[현장] 오픈AI 제이슨 권 "AI 극초기 단계…낙관론 유지해야"

"사람들이 인공지능(AI)을 '스마트하다'고 느끼기 시작했음에도 이 기술은 아직 초기 단계에 있습니다. 기술의 유용성을 극대화하기 위해서는 AI를 '과대광고'라고 생각하지 말고 합리적 낙관론을 유지해야 합니다." 제이슨 권 오픈AI 최고전략임원(CSO)은 12일 서울 페럼홀에서 열린 '서울 AI 정책 컨퍼런스(Seoul AI Policy Conference) 2024'에서 임용 서울대 교수와 대담하며 AI 기술의 현황과 잠재력에 대한 자신의 견해를 밝혔다. 권 이사는 지난 2022년 11월 '챗GPT-3.5'가 출시된 후 생성 AI에 대한 대중의 인식이 급격히 변화했다고 언급했다. 거대언어모델(LLM)을 통해 AI가 사람의 말을 이해하게 되면서 20년 전에는 상상할 수 없었던 기술들이 실현됐기 때문이다. 그는 직접 오픈AI 'GPT-4o' 최신 음성 모드를 시연하며 기술의 급격한 발전을 증명했다. 한국인 교수와의 대화를 통역해 달라는 권 이사의 영어로 된 요청에 'GPT-4o'는 그의 말을 한국어로 실시간 변환하며 성공적인 통역을 수행했다. 권 이사는 "불과 1년 반 전만 해도 텍스트를 키보드로 입력해야 했던 모델이 이제는 음성으로 실시간 통역을 제공할 수 있게 됐다"며 "기술은 매우 빠르게 발전하고 있다"고 강조했다. AI 능력의 급격한 발전에도 여전히 할루시네이션(환각)이나 음성 인식 오류와 같은 문제가 존재한다. 그럼에도 불구하고 AI는 여전히 추론 능력을 개선하고 있으며 엔지니어들은 최신 기술인 '트랜스포머' 이후의 새로운 패러다임을 모색하고 있다. 이러한 발전 과정에 대해 권 이사는 "우리는 기술을 점진적으로 발전시키고 AI가 일상 업무를 대신하도록 하는 것이 목표"라며 "단 한번의 도약이 아닌 점진적인 진화 과정을 통해 종국에는 일반인공지능(AGI)에 도달할 것이라고 믿는다"고 밝혔다. AI의 급격한 발전이 안전성 문제를 초래할 수 있지 않냐는 질문에 그는 AI 시스템 발전이 오히려 '정렬(Alignment)' 문제를 해결하는 데 도움될 수 있다는 점을 강조했다. 실제로 'GPT-2' 시절의 AI는 일반화 능력이 부족해 비윤리적인 명령을 실행했던 바 있으나 현재의 강력한 모델들은 스스로를 윤리적인 방향으로 제어할 수 있게 됐다. 또 권 이사는 AI 기업의 구조·거버넌스는 필요에 따라 변할 수 있지만 중요한 것은 조직을 운영하고 결정을 내리는 사람이라는 점을 강조했다. 오픈AI 역시 비영리로 시작했지만 컴퓨팅 자원과 투자 유치로 인해 복잡한 구조를 가지게 됐기 때문이다. 권 이사는 "AGI라는 핵심 목표를 위해 우리는 세상과 상호작용하며 유연하게 진화해 왔다"며 "이는 회사 구성원들이 원했던 목적을 이루기 위해 변화한 결과"라고 주장했다. 오픈AI의 향후 계획에 대해 권 이사는 "앞으로 사람들이 AI를 지금보다 많은 방향으로 활용하며 잠재력을 실현할 것"이라며 "AI의 추론 능력을 더욱 발전시켜 사람들의 업무에 실질적인 도움을 주고 동시에 안전성을 확보하는 것이 회사의 목표"라고 밝혔다.

2024.08.12 14:52조이환

'컴퓨터의 아버지' 튜링, AI로 부활한다

'컴퓨터의 아버지' 앨런 튜링이 인공지능(AI)으로 부활한다. 1일 BBC에 따르면 영국 블레츨리 파크 박물관이 앨런 튜링의 AI 버전 인터랙티브 디스플레이를 조만간 공개할 예정이다. 이 AI 디스플레이는 방문객 특성에 맞춰 대답을 조정하는 기술을 사용한다. 이를 통해 방문객들은 튜링을 모사한 AI에게 그의 삶과 업적에 대해 질문하고 맞춤형 답변 받는다. 튜링은 제2차 세계 대전 중 영국 블레츨리 파크에서 암호 해독 작업을 통해 나치 독일의 암호를 풀어 연합군 승리에 기여한 바 있다. 전후에는 현대 디지털 컴퓨터 설계에 중요한 기여를 했다. 블레츨리 파크 박물관은 영국 AI 기업 1956 인디비쥬얼즈(1956 Individuals)와 협력해 디스플레이를 제작하고 있다. 이 디스플레이는 다양한 언어로 응답할 수 있도록 설계될 예정이다. 튜링의 조카이자 블레츨리 파크 트러스트 이사인 더모트 튜링 경은 "튜링의 선구적인 컴퓨터 연구는 블레츨리 파크에서 암호 해독을 연구할 때 시작됐다"며 "새로 공개되는 AI는 많은 사람들이 그와 조금 더 가까워지는데 큰 도움이 될 것"이라고 밝혔다.

2024.08.01 10:53조이환

메타, '라마' 차기 버전 유럽에 안 판다…왜?

메타가 인공지능(AI) 모델 '라마(Llama)'의 차기 멀티모달 버전을 유럽연합(EU) 기업들에 팔지 않기로 했다. 유럽 규제환경이 예측 불가능하다는 이유에서다. 미국 뉴스매체 액시오스는 18일 메타가 몇 달 후 출시할 '라마' 멀티모달 버전을 EU 시장에 출시하지 않을 것이라며 이같이 보도했다. 이에 따라 유럽 기업들은 비디오를 비롯한 오디오, 이미지, 텍스트를 모두 이해·처리하는 라마 멀티모달 모델을 사용할 수 없게 된다. 또 비EU 기업들도 이 모델을 사용한 제품과 서비스를 유럽에서 제공할 수 없게 될 가능성이 높다. 다만 텍스트 전용 버전인 '라마 3'는 EU 내에서도 출시 될 예정이다. 메타는 이런 결정을 내린 이유가 EU의 기존 데이터 보호법인 일반데이터보호법(GDPR) 때문이라는 입장이다. 이 기업은 지난 5월 페이스북·인스타그램 게시물을 통해 모델을 훈련할 계획이었다. 당시 유럽 사용자들에게 데이터 수집을 거부할 수 있는 권리인 옵트아웃(opt-out)을 지원했다. 그러나 EU 규제 당국은 6월 데이터 훈련을 중단하라는 명령을 내렸다. 메타가 GDPR에 반하는 행보를 보인다는 이유에서다. 메타 관계자는 "EU와 유사한 법을 가진 영국에서는 이러한 문제를 겪지 않고 있다"며 "영국 시장에는 새로운 모델을 출시할 계획"이라고 밝혔다. 외신은 이번 사건이 미국 빅테크와 유럽 규제 당국 간 갈등이 커지고 있음을 암시한다고 분석했다. 액시오스는 "EU는 개인정보 보호와 독점 금지 문제를 중요하게 보고 있다"며 "이는 기술 기업들과 상반된 입장"이라고 언급했다.

2024.07.18 14:57조이환

크라우드웍스, 생성형 AI 신뢰성 평가 프레임워크 개발 착수

크라우드웍스가 AI 신뢰성 기반조성을 위한 '생성형AI 신뢰성 평가 프레임워크 개발' 사업에 착수했다고 17일 밝혔다. AI 테크 기업 크라우드웍스(대표 김우승)는 최근 한국정보통신기술협회(TTA)가 주관하는 '생성형 AI 신뢰성 평가의 실용적 접근 방안 연구' 사업을 수주했다고 17일 밝혔다. 크라우드웍스 외 자연어 처리 솔루션 전문 스타트업 테디썸(대표 함영균), 연세대학교(김한샘 교수 연구팀) 3개사가 컨소시엄을 이뤄 참여한다. 이번 사업은 생성형 AI의 안전성 및 신뢰성 확보를 위한 가이드라인을 마련하기 위한 것으로, '생성형 AI 신뢰성 평가 프레임워크 개발 및 확산'을 목표로 한다. 연구마다 다르게 정의되고 있는 생성형 AI에 대한 주요 위험요소의 정의를 체계화하고, 사회·문화적 특성을 고려하여 실용적인 신뢰성 평가 프레임워크를 개발해 생성형AI의 위험과 부작용을 최소화한다. 사업 범위는 ▲생성형 AI 위험 정의 및 분류 체계화 ▲위험-평가 매트릭 매핑 구조 설계 ▲레드팀 테스팅 기법 수집 및 교육자료 작성 ▲평가 메커니즘 설계 ▲평가 방안의 실용성 파악을 위한 시범 적용 등이다. 크라우드웍스는 하이퍼클로바X, 엑사원 등 LLM 모델의 학습데이터 구축 및 모델 평가 검증 사업을 다수 수행한 경험과 sLLM 웍스원을 개발한 기술 전문성을 바탕으로 생성형AI 평가 프레임워크의 확산을 위한 교육자료 개발 및 프레임워크 실증을 맡는다. 이를 위해 국내외 레드팀 테스팅 기법을 수집해 데이터를 바탕으로 악의적 프롬프트 특징과 패턴을 도출하고, 공격 프롬프팅 기법 및 유형 분석 내용이 포함된 레드팀 교육 가이드를 마련한다. 또 생성형 AI 신뢰성 평가 프레임워크 가이드의 실증을 위해 국내 AI 모델을 대상으로 실제 공격을 수행하고 개선점 및 대응방안을 제시할 예정이다. 크라우드웍스는 AI 생태계에서 구축한 독보적인 데이터 기술 경쟁력과 차별화된 전문성을 기반으로 AI 기술 저변과 리더십을 확대하고 있다. 2022년 크라우드웍스가 개발한 데이터 라벨링에 관한 기술 2건이 TTA를 통해 단체표준으로 채택한 바 있으며, 단체표준으로 채택된 '태스크 설계 고려사항'과 '결과 데이터 명세 지침'은 국내 데이터 산업 활성화의 기반이 됐다. 김우승 크라우드웍스 대표는 "AI 신뢰성과 안전성 평가 프레임워크는 AI 평가 표준화를 가속하고 AI의 상호운용성, 호환성을 높여 AI 산업 발전 속도를 높이게 될 것"이라며 "AI 신뢰성 기술 영역에서도 리더십과 경쟁력을 확보하고 우리나라가 AI 강국으로 도약할 수 있도록 최선을 다하겠다"고 말했다.

2024.07.17 15:19백봉삼

"어떻게 같은 학교 여학생을"…스페인 법원, 남학생들 기소한 이유는

스페인 당국이 여학생들의 AI 생성 나체 이미지를 제작 및 유포한 혐의로 남학생들에게 1년 보호관찰을 선고했다. 11일 가디언 등 외신에 따르면 스페인 바다호스시 청소년 법원이 남학생 15명에게 미성년자 아동학대 이미지 제작 혐의로 유죄판결을 내렸다. 법원은 피고들에게 1년 보호관찰을 선고했다. 또 성평등과 기술의 책임감 있는 사용에 대한 수업을 수강하도록 명령했다. 지난해 스페인 경찰은 엑스트레마두라 지방 알멘드랄레호 마을에서 여학생들의 가짜 나체 사진이 소셜 미디어에 유포됐다는 신고를 받고 조사를 개시했다. 이에 따라 13세~15세 사이 남학생들이 이미지를 생성하고 공유한 혐의를 확인했다. 사건은 작년 7월 사진이 유포된 후 피해자들이 부모에게 사실을 알리며 공론화됐다. 한 피해자 부모는 "이미지가 너무 사실적이라 정말 충격적이었다"며 "딸의 몸을 몰랐다면 그 이미지가 진짜라고 생각했을 것"이라고 말했다. 또 다른 피해자의 어머니는 "많은 소녀가 이 일을 겪고 완전히 겁에 질려 엄청난 불안 장애를 겪었다"고 전했다. 피해자들을 지원한 스페인 성평등 단체 말발루나 협회(Malvaluna Association)는 "이 사건은 스페인 사회에 큰 경종을 울린다"며 "우리에게는 남녀 평등에 대한 교육이 절실히 필요하다"고 강조했다.

2024.07.11 11:10조이환

생성형AI 도입 기업은 늘어났지만…"사용 승인 직원은 20%미만"

오픈AI 및 구글, 마이크로소프트 등을 중심으로 생성형AI 시대가 열려 이를 도입하는 기업들은 늘어났지만, 도입 이후 서비스 사용 확대로 이어지지는 않는 것으로 나타났다. 한국 딜로이트 그룹은 올해 1월부터 2월까지 6개 국가 1천982명 고위급 임원진을 대상으로 설문조사한 후 20명 이상의 임원진 심층 인터뷰를 통해 '미래를 결정해야 하는 순간-생성형AI 바로 알기: 'State of Generative AI' 2분기 보고서'를 발표했다. 많은 조직들이 생성형AI를 도입해 효과적인 비즈니스 운영을 꿈꾸지만 막상 이를 실행에 옮길 경우 현실의 벽에 부딪히는 일이 많다. 이에 한국 딜로이트 그룹은 본 리포트를 통해 생성형AI의 조직 내 안착을 목표로 가치 창출, 도입 확대, 신뢰 구축, 인력 재조정이라는 네 가지 핵심 영역을 심층적으로 살펴봤다. 생성형AI 전문가 조직 73% “매우 빠른 속도로 기술 도입”…도입 확대로 이어지지는 않아 생성형 AI에 '매우 높은' 전문성을 가진 조직의73%가 “빠른” 또는 “매우 빠른” 속도로 기술을 도입하고 있다고 답했으나 '어느 정도' 수준의 전문성을 갖춘 조직은 해당 응답률이 40%에 불과했다. 또 '매우 높은' 전문성을 갖춘 조직은 평균적으로 전체 8개 부서 중 1.4개 부서에서 대규모 생성형AI를 구현하고 있다고 응답했으나 '어느 정도' 전문성을 갖춘 조직은 0.3개 부서에 그쳤다. 응답자들 중 생성형AI를 통해 절감한 비용과 시간을 주로 혁신 추진(45%)과 운영 개선(43%)에 재투자할 것이라 답한 가운데 상당수의 조직이 생성형AI 도입을 확장하는 데 재투자할 것(27%)이라 답한 것도 눈길을 끈다. 재투자와 성장의 선순환 구조다. 리포트는 이어 가치 창출의 핵심인 '도입 확대'에도 주목했다. 비즈니스에 대한 생성형AI의 영향력을 높이고 사용자 기반을 확장시켜 시너지를 일으키기 때문이다. 그러나 '도입 확대' 단계로 가는 길은 아직 멀다는 평가다. 응답자의 거의 절반(46%)이 직원 중 일부(20% 이하)에게만 승인된 생성형AI 액세스 권한을 제공했다고 답했기 때문이다. 생성형 AI의 대규모 도입과 활용에 있어 큰 장애물 중 하나로 여겨지는 '신뢰 구축'도 핵심이라 강조했다. 리포트는 신뢰 구축을 위해 해결해야 할 두 가지 핵심 문제로 '생성형 AI 결과물의 품질에 대한 신뢰'와 '근로자가 생성형 AI가 자신의 업무를 대체하지 않고 보조 역할만 할 것이라는 사실에 대한 신뢰'을 꼽는다. 이를 위해서는 생성된 결과가 어떻게 도출되었는지 명시적으로 설명하는 기능을 갖추는 것이 중요하고, 근로자들이 생성형 AI가 실제로 업무에 도움이 되는 것을 경험할 수 있도록 교육 및 이해를 증진시키는 과정이 필요하다는 설명이다. 지금까지는 신뢰 부족으로 인한 위험 때문에 조직이 생성형 AI를 빠르게 도입하지 못했지만 대규모 도입으로 전환하면서 상황이 바뀔 가능성이 높다는 사실도 나타났다. 2차 설문조사에 따르면 응답자의 60%는 조직이 잠재적 위험을 완화하는 프로세스를 구현하는 동시에 생성형AI의 신속한 통합을 균형 있게 추진하고 있다고 답했으며 72%는 2022년 말 생성형AI 기술이 등장한 후 조직의 신뢰도가 높아졌다고 응답했다. 여기에 LLM 학습 및 결과물의 경우 신뢰성과 관련된 신뢰가 특히 중요하다는 것이 리포트의 설명이다. 나아가 생성형AI에 대한 전문성이 높은 조직일수록 신뢰 구축의 중요성을 잘 이해하는 것도 확인됐다. 마지막으로 '인력 재조정'도 중요한 키워드다. 프론트 엔드에서는 솔루션을 개발하고 개선하기 위해 전문 지식을 갖춘 인재가 필요하며, 모든 직원들이 기술에 익숙해져서 효율성과 효과성을 개선하는 데 적극적으로 참여할 수 있어야 한다. 또 백 엔드 측면에서 조직은 대규모 생성형AI 도입으로 인력 구조에 미칠 영향을 이해하고 모두에게 적합한 인재 전략, 프로그램 및 정책을 개발해 나가야 한다. 나아가 대부분의 조직들은 생성형AI가 인재 전략에 영향을 미칠 것이라 보고 있으며 응답자의 75%는 생성형AI에 대응해 당장 2년 내 인재 전략을 변경할 것으로 예상했다. 가장 일반적인 인재 전략 대응은 업무 프로세스 재설계(48%)와 업스킬링 또는 리스킬링(47%)이었다. 또 전문가 조직은 AI '유창성' 개발(47%)과 경력 경로 재설계(38%)에 더 집중하고 있었으며, 나아가 예상되는 기술 수요와 공급의 변화를 평가하는 데 덜 집중하고 있는 것(25%)으로 나타났다. 생성형AI는 특정 기술 및 인간 중심적 역량의 가치를 함께 높일 것으로 예상된다. 응답자들이 가장 가치가 높아질 것으로 예상하는 '기술 중심적 역량'으로는 데이터 분석(70%), 신속한 엔지니어링(60%), 정보 분석(59%), 소프트웨어 엔지니어링 및 코딩(57%) 순이며, '인간 중심적 역량'으로는 비판적 사고 및 문제해결 능력(62%), 창의력(59%), 유연성 및 탄력성(58%), 팀워크 능력(54%) 등이 포함됐다. 생성형AI 전문성 높은 조직일수록 혁신과 신제품 개발 잘해 리포트는 AI전문성이 높은 조직일수록 혁신과 새로운 제품 및 서비스 개발에 더 집중하는 경향이 있다고 봤다. 또 생성형AI의 성공적인 확장을 위해서는 AI 특화 조직을 설립하는 것 또한 도움이 될 수 있으며, 이 조직에는 중앙 집중식 리소스를 제공해야 한다. 가치 실현을 위한 총체적 접근방식을 통해 생성형 AI가 창출하는 모든 가치를 측정할 수 있는 올바른 프로세스 마련도 필수적이다. 신뢰는 생성형AI의 도입과 확장을 위한 기초 토대다. 나아가 올바른 데이터 관리, 기술 인프라 및 거버넌스를 구축하여 고품질의 투입물(Input)과 설명 가능한 결과물(Output)을 보장하는 것도 신뢰를 구축하는 데 도움이 된다. 이에 비즈니스 리더는 생성형AI의 전략적 목표를 명확하게 알리고, 직원들의 신뢰도를 자주 측정하여 잠재적인 불만과 도입 장벽에 대한 인사이트를 얻어야 한다. 나아가 다양한 기술 및 AI 활용을 통한 인간 중심적 혁신 역량도 중요해질 전망이며 조직은 기업 전반의 여러 이니셔티브를 동시에 지원하기 위해 생성형AI 인재를 중앙 집중적으로 관리하는 것을 고려할 필요가 있다. 조명수 한국 딜로이트 그룹 파트너는 “많은 조직들이 생성형AI를 도입하려 노력하지만 조직 내 문화적 도전과 인력 관리 전략에 대한 의문 및 신뢰 문제 등으로 어려움이 많다”면서 “이번 리포트를 통해 조직 내 생성형 AI의 효율적 활용 및 정착에 대한 인사이트를 얻어 가기를 바란다”고 말했다.

2024.07.11 09:07안희정

Prev 1 2 3 4 5 Next