• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 인터뷰
  • 인사•부음
  • 글로벌뉴스
인공지능
배터리
양자컴퓨팅
컨퍼런스
칼럼•연재
포토•영상

ZDNet 검색 페이지

'생성 AI'통합검색 결과 입니다. (867건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

세일즈포스, 테닉스 인수…"AI 음성비서 고도화"

세일즈포스가 인공지능(AI) 음성비서 고도화를 위해 관련 개발사를 인수한다. 이를 통해 고객사를 확대하고 매출 성장을 본격화할 방침이다. CNBC 등 외신은 5일 세일즈포스가 음성 에이전트 개발사 테닉스(Tenyx)를 인수한다고 보도했다. 거래 금액은 공개되지 않았다. 올 하반기 최종 계약이 완료될 예정이다. 이번 인수를 통해 이타마르 아렐 테닉스 최고경영자(CEO)와 아담 얼 최고기술책임자(CTO) 등 주요 임원들이 세일즈포스에 합류한다. 외신들은 이런 세일즈포스 전략이 마이크로소프트와 아마존 등 빅테크와 유사하다고 분석했다. 앞서 마이크로소프트는 올해 3월 AI 스타트업 인플렉션 일부 개발자들을 6억5천만 달러(약 8천700억원)에 영입했다. 아마존은 6월 AI 스타트업 어뎁트 공동창업자와 다수 지원을 고용한 바 있다. 모두 생성형 AI 도구 고도화를 통한 매출 증대가 목표다. 세일즈포스는 지난해부터 비즈니스 성장을 위해 기업 인수와 AI 고도화에 주력할 계획을 밝힌 바 있다. 결과적으로 긍정적인 매출 실적을 거뒀다. 최근 발표된 회계연도 2분기 실적 발표에 따르면 93억8천만 달러(약 12조4천790억원)를 기록했다. 이는 시장 전망치(92억3천만 달러)를 상회한 수치다. 클라라 쉬 세일즈포스 AI 부문 CEO는 "테닉스 인수 소식을 전할 수 있어 기쁘다"며 "테닉스가 기존 에이전트포스 자율 에이전트 기능을 확장함으로써 고객 서비스 시나리오에 최적화된 대화형 AI 음성 에이전트를 제공할 것"이라고 개인 소셜미디어를 통해 강조했다.

2024.09.05 09:47김미정

브리티 코파일럿, 스스로 일하는 오토노머스 에이전트로 혁신

삼성SDS가 생성형AI 협업 도구 브리티 코파일럿을 스스로 업무를 파악하고 수행하는 오토노머스 에이전트로 업그레이드한다. 이를 통해 기업의 혁신을 가속화하고 사용자의 업무 만족도를 극대화한다는 목표다. 삼성SDS의 김준우 프로는 3일 서울 강남구 코엑스에서 열린 리얼 서밋 2024에서 생성형AI 협업도구 브리티 코파일럿의 추후 업데이트 계획을 소개했다. 김준우 프로는 CMC 글로벌 도입 이후로도 고객 사례와 지속적인 기술 발전을 바탕으로 브리티 코파일럿의 성능 개선을 위해 노력 중이라며 추후 업데이트 계획을 공개했다. 삼성SDS는 AI가 스스로 결정하고 수행하는 오토노머스 에이전트로 브리티웍스를 발전시킨다는 계획이다. 오토노머스 에이전트는 사용자의 입력과 지시에 의존하는 것이 아니라 업무 상황 등을 스스로 파악하고 독립적으로 업무를 수행하는 독립형 AI다. 삼성SDS는 브리티 코파일럿에 적용할 경우 일정, 메일을 기반으로 중요한 일정을 자동으로 브리핑하고, 회의 내용을 실시간으로 번역 및 자막을 제공하며, 액션 아이템을 등록하는 것을 목표로 하고 있다. 이를 위해 내부 문서, 메일, 메신저 데이터를 실시간으로 수집해 이를 오토노머스 에이전트가 활용할 수 있도록 기반 기술을 개발 중이다. 김준우 프로는 “앞으로 AI는 사용자가 모든 업무를 일일이 지시하는 것이 아니라 스스로 주어진 목표를 달성하기 위해 프로세스를 구축하고 수행하는 오토노머스 에이전트가 될 것”이라며 “브리티 코파일럿은 각 개인을 위한 오토노머스인 퍼스널 에이전트를 목표로 한다"고 설명했다. 이어서 "퍼스널 에이전트는 개인화된 인공지능 비서로서, 사용자의 일상과 업무 환경에 깊이 통합되어 맞춤형 지원을 제공한다"며 "사용자의 선호, 일정, 업무 스타일을 학습해 개인의 효율성을 최대화하고 의사결정을 지원해 전반적인 생산성과 만족도를 향상시킬 수 있도록 도울 것"이라고 설명했다.

2024.09.03 17:27남혁우

[ZD SW 투데이] 메타포렌식, AI 기반 악성코드 분석 '메타 시멘틱스' 데모 공개 外

지디넷코리아가 소프트웨어(SW) 업계의 다양한 소식을 한 눈에 볼 수 있는 'ZD SW 투데이'를 새롭게 마련했습니다. SW뿐 아니라 클라우드, 보안, 인공지능(AI) 등 여러 분야에서 활발히 활동하고 있는 기업들의 소식을 담은 만큼 좀 더 쉽고 편하게 이슈를 확인해 보시기 바랍니다. [편집자주] ◆메타포렌식, AI 기반 악성코드 분석 '메타 시멘틱스' 데모 공개 메타포렌식이 AI 기반 플랫폼 '메타 시멘틱스(Meta Semantics)' 데모를 공개하며 악성코드 탐지·분석·리포트 작성과정을 완전 자동화하는 기술을 선보였다. 이 기술은 보안 전문가 수준의 분석을 제공하며 실시간 위협 탐지 기능을 갖추고 있다. 또 '메타 시멘틱스'는 다양한 파일 형식에 대한 분석을 지원하며 AI 모델의 입출력 구조를 유연하게 커스터마이징한다. 이를 통해 고객사들이 고유한 보안 솔루션을 개발하고 적용할 수 있을 것으로 기대된다. ◆KT, 안전한 생성 AI 구축 위해 에임인텔리전스와 협업 에임인텔리전스와 KT가 AI 기반 모델의 보안·안전성 검증 기술을 공동 연구하기 위해 업무 협약을 체결했다. 이 협력은 생성 AI 모델의 취약성을 해결하고 보안 위협에 대응하는 방어 기술 개발을 목표로 한다. 두 회사는 생성 AI의 안전성과 신뢰성을 높이기 위해 레드팀 활동과 안전성 평가 기준 개발에 협력할 예정이다. 에임인텔리전스는 최근 보안 진단 자동화 솔루션 에임 레드(AIM Red)와 취약점 탐지 및 방어 기술 에임 가드(AIM Guard)를 출시한 바 있다. ◆티맥스소프트, 금융 IT 혁신 위한 '인터페이스 스위트' 웨비나 개최 티맥스소프트가 오는 4일 오후 2시에 금융 디지털 혁신을 주제로 '인터페이스 스위트' 웨비나를 개최한다. 이번 웨비나에서는 차세대 금융 IT를 지원하는 '인터페이스 스위트'의 도입 사례와 강점을 소개할 예정이다. 또 티맥스소프트는 오는 12월 31일까지 인터페이스 스위트 제품을 최대 50% 할인하는 프로모션을 실시하며 웨비나 참여자에게는 다양한 경품과 무료 진단 서비스 기회도 제공한다. ◆스마틱스, MZ세대 인기 스포츠 통합 예약 시스템 도입 스마틱스가 엠무브와 협력해 테니스·피클볼·빠델 등 스포츠 종목을 한 곳에서 예약할 수 있는 통합 예약 시스템을 구축했다. 이번 시스템은 다국어 서비스를 지원하며 야구장과 축구장 예약 서비스도 곧 시작할 예정이다. 자세한 사항은 엠무브 통합 예약 사이트를 통해 확인할 수 있다. ◆슈퍼브에이아이, AWS ISV 엑셀러레이트 프로그램 파트너 선정 슈퍼브에이아이가 아마존 웹서비스(AWS) 독립 서비스 벤더(ISV) 엑셀러레이트 프로그램의 '디퍼렌시에이티드 스테이지(Differentiated Stage)' 레벨 파트너로 선정됐다. 이는 하나의 서비스형 소프트웨어(SaaS) 플랫폼 내에서 AI 개발 전체 사이클을 아우르는 기술력을 인정받은 결과다. 이를 통해 슈퍼브에이아이는 AWS의 최신 기술 및 리소스를 활용해 고객에게 더 나은 서비스를 제공하는 기반을 마련할 예정이다. 구체적으로 AWS 마켓플레이스에 비전 AI 솔루션을 등록해 글로벌 시장에서의 입지를 강화할 계획이다.

2024.09.03 17:02조이환

[현장] 글로벌 시장 노린 삼성SDS...전 세계 유일 '동시통역 AI'로 날개 펼친다

"영어와 한국어를 실시간으로 동시통역하는 인공지능(AI) 기술은 삼성SDS만이 보유한 기술입니다. 이를 발전시켜 글로벌 비즈니스 환경에서 커뮤니케이션 장벽을 없애고 글로벌 시장에서 필수 도구로 자리잡을 수 있도록 하겠습니다." 삼성SDS 송해구 솔루션사업부 부사장은 3일 서울 강남구 코엑스에서 개최한 '삼성SDS 리얼 서밋 2024'에서 이 같이 말하며 삼성SDS의 AI 강점과 글로벌 진출 AI 전략을 공개했다. 삼성SDS는 자체 개발한 언어 모델을 AI와 접목해 타 AI서비스에 비해 높은 언어 인식률이 강점이다. 특히 한국어의 인식률이 두드러지게 높은 것이 특징이다. 대표적으로 삼성SDS의 생성형AI 협업솔루션인 브리티 코파일럿은 한국어 음성 인식률이 98%, 영어 인식률은 97.6 수준의 정확도를 기록 중이다. 송 부사장은 같은 AI를 사용하고 있음에도 삼성SDS의 AI서비스가 언어의 정확성이 높은 요인으로 시스템 프롬프트를 들었다. 시스템 프롬프트는 AI 모델의 동작을 조정하고 사용자의 요구에 맞춰 답변을 할 수 있도록 규칙을 설정하는 기준이다. 일반적인 AI서비스는 시스템 프롬프트가 영어나 한국어 중 하나로만 구축돼 있다. 이 탓에 다른 언어는 번역된 결과를 바탕으로 하는 만큼 정확성이 떨어질 가능성이 높다. 반면 삼성SDS는 2개 언어 모두 별도의 프롬프트가 마련돼 있어 각 언어에 최적화된 대응이 가능하다. 이를 통해 확보한 높은 정확도를 바탕으로 서로 다른 언어를 동시에 사용하더라도 놓치는 정보 없이 회의나 대화가 가능해 동시 통역을 지원한다. 기존 AI 모델의 경우 하나의 언어만 인식하거나 여러 언어를 인식하더라도 양방항 소통은 제공하지 않는다. 삼성SDS는 한국어와 영어를 외에도 동시 통역이 가능한 언어를 지원할 예정이다. 연내에는 베트남 등 동남아시아 지역을 중심으로 언어를 확대하고 내년에는 전 세계를 대상으로 서비스 범위를 넓힌다. 송 부사장은 "현재 준비 중인 동시 통역 서비스를 통해 사용자는 모국어 만으로 다른 언어를 사용하는 참가자들과 원활하게 대화를 나눌 수 있을 것"이라며 "점차 활성화되는 글로벌 비즈니스 시대에 언어의 장벽을 없애기 위한 필수 도구가 될 것"이라고 밝혔다. 이와 함께 삼성SDS는 글로벌 시장 진출을 위해 아마존웹서비스(AWS), 델 테크놀로지스, 마이크로소프트, 엔비디아 등 글로벌 IT기업과 파트너십을 더욱 강화할 계획이다. 함께 인터뷰에 참석한 구형준 클라우드서비스 사업부 부사장은 "아직 AI부문이 다른 사업에 비해 매출 비중이 높은 것은 아니지만 성장세는 가장 가파르다"며 "올해도 전년 대비 50% 이상 높은 성과를 거뒀다"고 설명했다. 이어 "파트너사와 함께 내년 글로벌 진출 등을 준비하고 있는 만큼 앞으로 더욱 높은 성과를 낼 수 있을 것으로 기대한다"고 비전을 제시했다.

2024.09.03 15:54남혁우

[현장] '99년생' 딥마인드 前 연구원 "AI 시대, 창작자 보호 없으면 미래도 없다"

"인공지능(AI) 기술이 발전함에 따라 창작자들의 지적재산권(IP)이 끊임없이 위협받고 있습니다. 기존 법률 시스템만으로는 이 문제를 효과적으로 해결하기 어렵습니다. 이 문제를 해결하고자 스토리 프로토콜(Story Protocol)을 공동창업했습니다. 이번 행사도 창작자 보호와 공정한 보상을 위해 마련됐습니다." 제이슨 자오 스토리 최고 프로토콜 책임자(CPO)는 2일 성동스페이스 에스원에서 개최된 '프로그래머블한 지적재산권(PIP) 서울' 행사에 참가한 후 기자와 만나 이같은 포부를 밝혔다. 스토리는 창작자들이 자신의 작품을 보호하고 수익을 내도록 돕는 웹3(Web3) 기반 플랫폼이다. 지난 2022년 옥스포드 대학 출신의 이승윤 대표가 웹소설 플랫폼 '래디시(Radish)'를 약 5천억원에 카카오엔터테인먼트에 매각한 다음 창업한 이 플랫폼은 창작물의 소유권과 사용 기록을 투명하게 관리한다. 스토리 공동창업자로서 이번 행사의 전반적 기획과 운영을 총괄한 자오 CPO는 1999년생으로, 지난 4년간 AI 업계의 최전선에서 프로젝트들을 주도해왔다. 스탠포드 대학교 시절 컴퓨터 비전 선구자인 페이페이 리 교수의 랩에서 연구했으며 이후 딥마인드에서 거대언어모델(LLM) 개발에 앞장섰다. 자오 CPO는 딥마인드에서의 경험이 창업의 주요 원인이 됐다고 밝혔다. 초창기 LLM을 연구하며 AI가 IP에 미칠 수 있는 심각한 파급력을 목격한 것이 영향을 줬다. 생성 AI가 그림을 그리거나 텍스트를 창작하는 것을 보며 그는 이 기술이 창작자의 권리를 위협할 수 있다는 점을 가장 빠르게 인지했다. 그는 "기술이 창작업계에 미칠 엄청난 파급력에도 불구하고 당시 딥마인드에서는 이 문제에 크게 주목하지 않았던 것으로 기억한다"며 "이 때 느낀 문제의식으로 창작자들을 보호할 방법에 대해 고민하게 됐다"고 밝혔다. 그의 걱정은 선견지명이었다. 지난 2022년 11월 '챗GPT'가 출시되고 이후 그림·영상 생성 AI가 등장하면서 많은 창작업계 종사자들이 실질적인 두려움을 느끼기 시작했기 때문이다. 실제로 지난해 할리우드에서 벌어진 대규모 파업은 AI 기술의 창작물을 무단 사용에 대한 항의에 의해 촉발됐다. 상황의 심각성에도 이러한 문제는 기존의 법률적 접근만으로 해결하기 어렵다는 것이 점점 명확해졌다. 법적 절차가 디지털 시대의 빠른 정보 확산 속도를 따라가지 못했기 때문이다. 자오 CPO는 "트럼프 후보의 암살 시도 사진은 단 1초 만에 찍혔지만 삽시간에 인터넷으로 퍼져나가 밈, 뉴스, 심지어는 티셔츠 로고가 됐다"며 "이런 시대에 변호사가 한 명이 아니라 1천 명이 붙는다고 해도 기존의 법률적 방식만으로는 재빠른 IP 확산에 대응하기 힘들다"고 설명했다. 디지털 시대의 정보 확산 속도와 복잡성에 대응하기 위한 방안으로 블록체인 기술을 꼽았다. 이 기술은 자동화된 권리 집행과 투명한 기록을 제공하기 때문이다. 자오 CPO는 "기술과 법률을 통합해 창작자들이 자신의 IP를 주도적으로 관리하고 수익을 창출하도록 하는 것이 목적"이라며 "다양한 플랫폼과 협력해 창작자들이 더 쉽게 IP를 보호하고 수익을 극대화하도록 지원하겠다"고 밝혔다. 이번 행사도 이러한 기조를 따라 마련됐다. 'PIP 서울' 행사에는 에마드 모스타크 스테이블 디퓨전 창업자 외에도 오픈소스 운영체제 개발사인 아나콘다의 피터 왕 대표와 아카시 산지 월드코인 제품 총괄 등 저명한 AI·IP 업계 인사들이 참석해 탈중앙화된 AI 생태계와 창작자 보호를 위한 방안을 논의했다. 자오 CPO는 "이번 행사에 참여한 AI 기업들은 오픈 소스와 같은 열린 방식의 생태계를 지향하며 창작자 보호와 공정한 보상을 추구하고 있다"고 밝혔다. 그러면서 "물론 구글과 오픈AI와 같은 폐쇄형 생성 AI 기업들과 경쟁하는 것은 쉽지 않은 과제"라면서도 "창작자 보호의 중요성이 부각되고 이를 위한 기반이 형성된다면 결국 빅테크에게도 도움이 되는 공생형 생태계가 구축될 것"이라고 강조했다.

2024.09.02 16:12조이환

"오픈소스 성공적"...메타, LLM 라마 전년 대비 10배 성장

메타에서 서비스하는 대규모 언어모델(LLM) '라마(Llama)'의 인기가 급격하게 상승 중이다. 관련 업계에서는 메타의 오픈소스 전략이 점차 성공적으로 자리 잡고 있다는 분석이다. 30일 벤처비트 등 외신에 따르면 메타는 상반기 성과를 공식 홈페이지를 통해 발표했다. 공개된 내용에 따르면 라마의 다운로드 수는 3억5천만 건으로 전년 대비 10배 이상 늘어난 수치다. 라마의 인기는 꾸준한 상승세로 지난달에만 AI 오픈소스 커뮤니티인 허깅페이스를 통해 2천만 건 이상 다운로드를 기록했다. AI 커뮤니티 외에도 AT&T, 도어대시, 골드만삭스, 나이언틱, 스포티파이, 인포시스, KPMG 등 기업 파트너를 통해 서비스되는 사례를 포함하는 규모는 더욱 확대된다. 특히 최신 고성능 AI모델인 라마 3.1가 시리즈의 인기를 견인한 것으로 나타났다. 라마 3.1이 출시된 5월 이후 7월까지 2개월 만에 주요 클라우드 서비스 공급업체 파트너의 토큰 볼륨별 호스팅 사용량이 2배 이상 증가한 것으로 확인됐다. 메타는 급증하는 AI수요에 대응하기 위해 아마존웹서비스, 마이크로소프트, 구글 클라우드를 비롯해 데이터브릭스, 델, 엔비디아, IBM 왓슨, 스케일AI, 스노우플레이크 기업들과 협업하며 사용자를 지원하고 있다. 라마 3.1은 이전 모델보다 더 긴 128K 컨텍스트 길이를 지원한다. 이를 통해 더 복잡하고 세부적인 대화나 문서를 처리하고, 높은 정확도의 답변을 제공한다. 또한 라마3.1 405B, 라마3.1 8B, 라마 3.1 70B 3개 모델로 공개됐으며 이중 가장 높은 성능을 보유한 라마3.1 405B의 인기가 가장 높은 것으로 나타났다. 더불어 메타는 보고서를 통해 라마의 가파른 성과의 요인으로 오픈소스를 지목했다. AI 모델을 누구나 사용할 수 있도록 공개적으로 제공함으로써 급격하게 성장 중인 AI생태계의 기반으로 작용했다는 설명이다. 이를 위해 메타는 기계학습을 위한 도구, 라이브러리와 AI 파생모델 등 6만 개가 넘는 기술 지원을 허깅페이스를 통해 업데이트 했다고 밝혔다. 메타의 아마드 알-다흘레 생성형AI 부문 부사장은 "라마는 개방성, 수정 가능성, 비용 효율성에서 선두를 달리고 있다"며 "우리는 오픈소스 환경에서 구축하고 AI의 이점이 모든 사람에게 확대되도록 하는 데 전념하려 한다"고 말했다. 이어 "LLM은 어려운 질문에 답하고, 생산성을 개선하고, 창의성을 북돋우는 데 도움이 될 수 있다"며 "AI 어시스턴트가 일상생활에 적극적인 도움을 제공할 수 있는 미래의 비전에 다가가기 위해 노력하고 있다"고 강조했다.

2024.08.30 10:42남혁우

텔레그램에 퍼진 딥페이크, 다크웹이 더 문제다

밀키트는 손질된 식재료와 양념을 알맞게 담은 간편식입니다. 누구나 밀키트만 있으면 별도 과정 없이 편리하게 맛있는 식사를 할 수 있습니다. [김미정의 SW키트]도 마찬가지입니다. 누구나 매일 쏟아지는 소프트웨어(SW) 기사를 [김미정의 SW키트]로 한눈에 볼 수 있습니다. SW 분야에서 가장 주목받는 인공지능(AI), 보안, 클라우드 관련 이야기를 이해하기 쉽고 맛있게 보도하겠습니다. [편집자주] 생성형 인공지능(AI)을 악용한 딥페이크 이미지·영상이 텔레그램에 퍼진 가운데, 다크웹을 통한 딥페이크 음란물 확산 심각성도 인지해야 한다는 목소리가 나왔다. 전문가들은 텔레그램·다크웹 내 딥페이크 차단을 위해 기술 개발뿐 아니라 정부·기업 공조 수사가 필요하다고 입을 모았다. 29일 보안 업계는 텔레그램뿐 아니라 폐쇄적인 다크웹 환경에서도 딥페이크 영상과 사진을 잡기 어려울 것이라고 우려를 제기했다. 다크웹은 구글이나 네이버 등 일반적인 검색 엔진으로 접근할 수 없는 웹사이트들이 모여 있는 영역이다. 다크웹은 특별한 소프트웨어(SW)나 네트워크 권한이 있어야만 접근 가능하다. 누구나 쉽게 이용할 수 있는 텔레그램과 다른 개념이다. 딥페이크 음란물 포착이 다크웹서 더 어려운 이유다. 실제 노드VPN이 올 초 다크웹 게시판을 분석한 결과 소셜미디어(SNS), 텔레그램 등을 통해 유출된 노출 사진이나 영상에 댓글이 평균 1천850개 달리는 것으로 드러났다. 이에 텔레그램뿐 아니라 다크웹도 딥페이크 영상물 확산 통로로 지목되고 있다. 보안 업계는 다크웹 내 딥페이크 콘텐츠 포착이 어려운 이유로 강력한 데이터 휘발성을 꼽았다. 검색 환경이 잘 갖춰진 구글과 달리 다크웹 내 검색은 특정인 사진과 영상을 검색해도 찾기 어렵다는 의미다. 다크웹 시스템은 특수 브라우저 생성과 삭제를 통해 정보를 은닉할 수 있는 환경을 갖춘 셈이다. 이에 보안 기업들은 다크웹 내 콘텐츠 검색을 가능케하는 솔루션을 내놨다. 주로 다크웹 콘텐츠를 복원해 검색 결과에 드러나게 하는 기술을 갖췄다. 다만 이런 기능도 딥페이크 콘텐츠 포착을 100% 할 수는 없다. 한 보안업계 관계자는 "공격자들이 딥페이크 음란 콘텐츠가 쉽게 포착되지 않기 위해 틀린 정보를 의도적으로 흘리는 경우가 있다"며 "기술 개발이 아무리 뛰어나도 다크웹 내 딥페이크 음란 콘텐츠를 100% 걸러내기 힘든 이유"라고 본지에 강조했다. 딥페이크 차단 나선 정부…"기술 개발보다 공조 우선" 정부가 텔레그램·다크웹 내 딥페이크 음란물 차단을 위해 나섰다. 29일 과학기술정보통신부는 생성형 AI를 활용해 지인 대상 합성물을 제작 및 유포하는 딥페이크 예방을 위해 20억원 규모 예산을 편성했다고 발표했다. 과기정통부는 내년 예산안 브리핑에서 딥페이크 범죄 예방을 위해 연구개발(R&D) 과제에 착수한다고 밝혔다. 이주식 정보통신방송기술정책과장은 적대적 생성신경망(GAN) 기반 딥페이크 탐지 고도화 및 생성 억제 기술 개발에 10억원을 투자한다고 발표했다. 나머지 10억원은 자가진화형 딥페이크 탐지 기술 개발에 들어갈 방침이다. 이에 보안 업계는 정부가 딥페이크 차단 기술에만 집중해선 안 된다고 주장했다. 이보다 국내외 기업·기관과 수사 공조하는 것에 더 집중해야 한다고 입을 모았다. 현재 기술만으로 딥페이크 콘텐츠를 100% 포착하기 어렵기 때문이다. 또 딥페이크 콘텐츠 검색을 원활히 하기 위해선 국내외 콘텐츠 공급자와 꾸준한 소통이 이뤄져야 한다. 정부도 보안 업계 주장에 동의하는 분위기다. 우선 딥페이크 성범죄 콘텐츠 유포에 가장 많이 사용된 텔레그램 측과 소통을 시작하겠다고 밝혔다. 텔레그램은 해외 개발사 소유이므로 서버 위치가 해외에 있다. 차단 기술 개발뿐 아니라 서비스 공급자와 직접적 공조가 필요한 이유다. 국민의힘 김상훈 정책위의장은 29일 여의도 국회서 열린 딥페이크 성범죄 관련 부처 긴급 현안보고에서 "현재 텔레그램과 협력회의를 시작한 상태"라며 "상시 협의를 통해 핫라인을 확보할 것"이라고 했다. 이어 "그동안 국제 공조가 제대로 이뤄지지 않아 딥페이크 콘텐츠 차단에 어려움을 겪었다"며 "텔레그램과 원활한 소통을 통해 추가 피해를 막을 것"이라고 덧붙였다.

2024.08.29 16:42김미정

금융권, 망분리 규제 완화…AI 전환 속도 올린다

금융권 망분리 규제가 이르면 올해 말부터 순차적으로 완화됨에 따라 금융 분야에서도 인공지능(AI) 전환이 본격화할 전망이다. 29일 업계에 따르면 금융·테크 기업들은 이번 규제 완화가 생성형 AI와 머신러닝(ML)을 금융 분야에 적극적으로 도입하는 발판이 되길 기대하고 있다. 특히 금융권에서 발생하는 각종 사고와 범죄를 방지하고 직원과 고객의 의사결정을 더욱 효과적으로 지원할 수 있을 것이라고 전망했다. 김병환 금융위원장은 "IT 환경이 생성 AI와 클라우드 컴퓨팅을 중심으로 변화하고 있다"며 "이러한 환경에 적응하기 위해서는 망분리 규칙을 개선해야 한다"고 밝혔다. 특히 업계 전문가들은 이번 조치가 금융권 횡령 문제를 방지하는 데 큰 역할을 할 것으로 예상했다. 이는 현재 금융업계가 심각한 횡령 문제로 어려움을 겪고 있기 때문이다. 금융감독원이 최근 발표한 자료에 따르면 지난 6년 동안 총 1천804억원 규모의 횡령 사건이 발생했고 총 202명의 임직원이 연루된 것으로 나타났다. 망분리 규제가 없는 해외에서는 AI 기반 검수 및 데이터 분석을 통해 이러한 문제를 효율적으로 해결해 왔다. 알고리즘과 머신러닝 기술이 변화하는 사기 패턴에 빠르게 적응하고 고객을 효과적으로 보호할 수 있는 능력을 가졌기 때문이다. 실제로 미국의 AI 전문기관인 AI 엑스퍼트 네트워크에 따르면 JP모건은 이미 매일 약 10조 달러(약 13경2천조원) 규모의 거래를 분석하면서 비정상적인 자금 흐름을 실시간으로 탐지해 수백억 달러 손실을 방지하고 있다. 한 금융업계 관계자는 "현재 AI는 이미 망분리 이전에도 신용평가, 대출 심사, 상품 및 투자 추천 등에서 많은 주목을 받고 있었다"며 "이제 소비자 측면에서의 서비스 제공만이 아니라 자금세탁 및 의심 거래 탐지에도 효과적일 것"이라고 밝혔다. 또 금융권은 이번 망분리 조치가 생성 AI를 실질적인 의사결정 도구로 활용할 기회가 될 수 있다고 주목하고 있다. 이미 AI 챗봇은 주식 투자에서 놀라운 성과를 보이며 금융 분야에서의 성공을 입증했다. 지난해 영국의 금융 비교 웹사이트인 파인더닷컴의 조사에 따르면 펀드매니저와 '챗GPT'의 추천 주식을 비교한 결과, '챗GPT'가 더 나은 수익률을 기록했다. 또 AI는 고객 문의를 신속하게 처리하고 정확한 정보를 제공함으로써 불완전 거래를 해소할 수 있다고 평가 받고 있다. 영국 TSB 뱅크는 이미 고객 맞춤형 은행 경험을 제공하기 위해 AI 챗봇을 도입했다. 이 챗봇은 24시간 동안 실시간으로 서비스를 제공한다. 국내 AI 스타트업들 역시 이러한 변화를 환영하는 분위기다. 그동안 규제로 인해 AI 도입이 어려웠던 상황에서 벗어나 새로운 시장이 열리게 됐기 때문이다. 한 국내 AI 업계 관계자는 "이번 금융권 망분리 규제개선은 단기적 효과보다는 생성형 AI 활성화 방향성을 규제기관이 제시했다는 점에 의미가 있다"며 "온프레미스 환경에서 전환되기에는 시간이 필요하겠지만 업무 내에서 보안과 개인정보의 범주를 구분하며 빠르게 솔루션 도입을 시도하는 기업들이 늘어날 것으로 보인다"고 예측했다. 업계 전반이 망분리의 긍정적 효과에 주목하는 가운데 일부 전문가들은 생성 AI가 기존 금융 업무를 완전히 대체하기보다는 인간의 업무를 증강하는 방향으로 나아가야 한다고 지적했다. 생성 AI가 아직 할루시네이션, 편향 등의 오류로부터 자유롭지 않기 때문이다. 서호진 금융보안원 팀장은 "생성 AI 기술을 챗봇에 적용할 경우 기존보다 다양한 정보를 더 많은 고객에게 제공할 수 있을 것"이라며 "다만 현재 AI는 결과를 신뢰할 수 없는 특성이 있어 중요 의사결정 시 인간의 판단이 반드시 개입돼야 한다"고 강조했다. 이러한 우려를 반영해 금융보안원은 금융권 특화 AI 거버넌스 가이드라인을 발간할 예정이다. 이를 통해 금융회사가 기존 법을 준수하면서도 AI를 통한 이점을 극대화한다는 방침이다. 연내 발간이 예정된 이 가이드라인은 AI가 가진 기술적 한계를 감안하면서 위험관리 체계를 구축하고 AI 전담조직을 구성하는 방안 등에 대한 지침을 제공할 예정이다. 서 팀장은 "AI 활용에서 인간에게 최종적인 결정권을 두는 개념인 휴먼인더루프(Human-in-the-loop)가 개인 재산을 다루는 분야인 금융권에서도 중요하다"며 "금융 회사가 원하는 AI 개발 활용 목표를 달성하게 하겠다"고 강조했다.

2024.08.29 15:43조이환

[기고] AI를 활용한 창작은 반칙인가?

지난 21일 테크미디어 테크크런치는 삼성이 5,000명의 Z세대를 대상으로 한 설문조사 결과, AI에 대한 복잡한 감정을 가지고 있다고 전했다. 교육전문 플랫폼 에듀버디의 보고서에 따르면 참여한 Z세대의 3분의 1이 AI 사용이 비판적 사고 능력과 창의력을 저해할 수 있다는 우려로 불편함(Uneasy)을 느낀다고 한다. 생성형AI 강의 중 자주 받는 질문 중 하나는 "AI를 활용하는 것이 부도덕한가?"였다. 이는 마치 시험을 치르는 학생이 타인의 시험지를 몰래 훔쳐보는 것과 같은 반칙 행위로 인식되는 것이다. 이러한 인식은 AI 리터러시—즉, AI를 이해하고 비판적으로 평가하는 능력—의 부족에서 비롯된 것일 수 있다. 설문 결과를 기성세대의 의식과 연관 지어 보면, 이는 일반 대중의 솔직한 생각이 드러난 것으로 볼 수 있다. 그러나 이러한 부정적 인식에는 과학적 근거가 부족하다. 아직 이에 관한 장기적이고 실증적인 데이터가 존재할 수 없기 때문이다. 생성형AI가 세상을 놀라게 한 지 겨우 1년 반 밖에 되지 않았다는 점을 고려해야 한다. 생성형AI는 창의적인 답변을 제공하지만, 이는 인간의 능력 범위를 벗어나지 않는다. AI의 주요 이점은 시간을 절약해준다는 점이다. 여전히 인간의 의도와 통찰력이 필수적이다. AI 사용이 비판적 사고 능력을 저하시킨다는 우려는 아직 검증되지 않았다. AI를 자주 활용하는 나의 경우, 챗GPT, 제미나이, 클로드 등 여러 언어 모델을 동시에 사용하며 답변의 품질을 평가하고 선택하는 과정을 반복한다. 이를 통해 각 모델의 특성, 한계, 장단점을 파악하게 된다. 결국 AI는 인간의 창의적 활용 방식과 모델에 대한 비판적 평가 능력을 여전히 필요로 한다. 과거의 예를 살펴보자. 스마트폰이 보급되면서 사람들이 전화번호를 외우지 않게 되었지만, 이로 인한 기억력 저하 논란은 없었다. 계산기 사용이 인간의 수리 능력을 떨어뜨렸다는 주장도 들어본 적이 없다. 자동차의 발명이 인간의 보행 능력을 저하시키지도 않았다. 오히려 인간은 더 중요한 정보를 기억하고, 더 복잡한 수학적 사고를 하며, 더 멀리 이동하면서 끊임없이 능력을 확장해 왔다. AI에 의한 '확장된 인간'의 미래를 예측하지 못하는 우리의 한계된 사고가 이러한 우려를 낳고 있는 것일 수 있다. 많은 사람들은 생성형AI를 활용한 창작 활동이 반칙이라는 윤리적 거부감을 가지고 있다. 스스로 해야 할 일에 AI의 도움을 받는 것이 부정행위라는 인식이다. 이러한 생각에는 다른 사람들은 AI를 사용하지 않는다는 가정도 포함된다. 하지만 AI가 일상화된 가까운 미래를 상상해보자. 현재도 월 20달러 정도의 구독료로 누구나 AI를 사용할 수 있다. 엔비디아의 젠슨 황은 "AI는 이 시대의 전기와 같다"고 비유했다. 그만큼 AI는 저렴하고 흔하게 우리 일상에 스며들 것이다. 신기술을 남들보다 먼저 사용하는 것이 반칙이 될 수는 없다. 인간의 기술 발전을 인정한다면, 이는 시간이 해결할 문제일 뿐이다. 또 다른 불편한 마음은 저작권 문제다. AI 모델이 학습 과정에서 누군가의 창작물을 데이터로 사용했다는 점이다. 뉴스를 생산하는 온라인 신문사의 정보는 비용을 지불하고 학습에 사용한다고 한다. 하지만 인터넷상에 공개된 인간의 창작물을 개별적으로 라이선싱하는 것은 불가능하다. 우리 모두는 공개된 창작물을 눈으로, 머리로 학습하고 있다. 어떤 그림도 접하지 못한 사람이 좋은 그림을 그리기는 힘들다. 그래서 지구상에 완벽한 창작이란 없다는 의견도 있다. 법리적인 공방을 떠나 생각해보면, 인간의 창작 활동에서 타인의 작품은 중요한 영감의 원천이 된다. 이를 지적할 수 없다면 생성형AI의 데이터 학습 과정 역시 문제 삼을 수 없지 않을까? 그래서 "모방은 창조의 어머니"라는 말이 있는 것이다. 생성형AI를 사용한다고 해서 반드시 좋은 창작물이 나오는 것은 아니다. AI는 단지 아이디어 도출과 사전 조사에 필요한 시간을 크게 단축시켜줄 뿐이다. 물론 간단한 프롬프트로도 창작물을 만들 수 있지만, 한 번의 시도로 훌륭한 작품을 완성하는 것은 사실상 불가능하다. 수많은 AI 생성물 중에서 작가의 의도에 가장 부합하는 것을 선별하고, 이를 정교하게 다듬는 과정이 필수적이다. 결국 작가 고유의 정신이나 작가주의 없이는 뛰어난 작품을 얻기 힘들다. 이는 마치 누구나 쉽게 사용할 수 있는 디지털카메라가 있다고 해서 모두가 훌륭한 사진작가가 되는 것은 아닌 것과 같다. 창작자의 의도(Intention)가 중심이 되어 작품이 탄생하고 완성되는 고된 과정이 여전히 존재한다. 생성형AI는 이러한 작가 정신을 실현하는 데 도움을 주는 도구일 뿐, 작가를 대신해 스스로 의도를 가지고 창작할 수는 없다. 생성형AI는 기술이자 도구일 뿐이다. 인간과 유사한 지능을 가졌지만, 인간과 대등한 존재가 될 수는 없다. 필자가 사용하는 '인간이 조우한 최초의 지적 존재'라는 표현은 AI가 인간만큼 똑똑하다는 의미이지, 인간과 대등하다는 뜻은 아니다. 어느 시대나 기술의 발달로 만들어진 도구는 그 쓰임이 본질이다. 다만 부도덕한 목적으로 사용하는 것은 문제가 될 수 있다. 은행을 털기 위해 자동차를 사용했다고 해서 자동차 자체를 탓할 수 없는 것과 같은 이치다. 아직 어떤 생성형AI도 인간의 의도적 촉발(Trigger) 없이는 작동하지 않는다. 그럼에도 불구하고, 인간의 창의력과 비판적 사고능력을 잃을 수 있다는 과도한 우려는 대부분 이해 부족에서 비롯된다. 이는 '인식의 지체' 현상일 수 있다. 기술 발전 속도가 너무 빨라 개인의 인식이 따라가지 못하는 것이다. 사회는 이러한 부작용을 해소하는 데 시간이 필요하다. 그래서 지금은 AI 리터러시가 중요한 시기다. AI 리터러시란 AI 시스템과 도구를 비판적으로 이해하고, 평가하며, 사용하여 AI와의 안전하고 윤리적인 상호작용을 스스로 통제하는 능력을 의미한다. 따라서 우리는 AI를 인간이 창조한 혁신적이고 편리한 도구로 받아들여야 한다. 보다 열린 마음이 필요하다. AI 활용은 일상에서 사용하는 다른 도구들과 크게 다르지 않다. 계산기나 컴퓨터 사용을 부끄러워하지 않듯이, AI 역시 인류 발전을 위한 도구로 기쁘게 활용할 수 있어야 한다. 결국 AI에 관한 많은 우려는 우리가 어떻게 바라보고 활용하느냐에 대한 태도와 인식의 문제라고 할 수 있다. *본 칼럼 내용은 본지 편집방향과 다를 수 있습니다.

2024.08.29 11:17이선종

리벨리온·코난테크놀로지, '생성형AI' 시장 공략 위해 맞손

AI 반도체 스타트업 리벨리온과 인공지능 소프트웨어 전문기업 코난테크놀로지는 서초동 코난테크놀로지 본사에서 '인공지능 사업 협력을 위한 업무협약(MOU)'을 체결했다고 28일 밝혔다. 이번 협약으로 양사는 코난테크놀로지가 보유한 대규모 언어모델(LLM) 기술과 리벨리온의 국산 AI반도체 인프라를 바탕으로 국내 기술 기반의 LLM 시장을 이끌어간다는 계획이다. ▲양사 기술의 적용 사례 확대 및 사업 확장 ▲인공지능 시장 내 공동사업 모델 개발 및 사업화 ▲인공지능 분야 공동 개발 및 과제 발굴 등에서도 힘을 합친다. 양사는 지난 3월부터 협력을 이어오고 있으며, 국산 AI반도체기반 SaaS 공모사업('2024년 유망 SaaS 개발육성지원사업(K-클라우드)')에 참여해 리벨리온의 생성형AI향 NPU인 '아톰(ATOM)' 인프라 환경 상에서 코난테크놀로지의 디지털트윈 기반 AI 예지 정비 솔루션을 개발하고 있다. 이번 협약 체결을 계기로 양사는 기존 협력 모델 확산과 추가 사업 가능성을 모색하고, AI 디지털 교과서, 국방 분야 등 생성형AI의 중요성이 대두되는 영역으로 사업을 확대해 나간다는 계획이다. 2020년 설립된 리벨리온은 창립 3년 여만에 2개의 칩을 출시하고, 사우디 아람코와 KT 등 국내외 투자자로부터 누적 3천억 원 규모의 투자를 유치하는 등 성과를 거뒀다. 리벨리온은 AI반도체 '아톰'의 양산에 이어 올해 말 대규모 언어모델을 지원하는 차세대 AI반도체 '리벨(REBEL)'을 선보일 예정이다. 코난테크놀로지는 1999년 설립 이후 자체 AI 원천 기술을 기반으로 텍스트, 음성, 비디오 분야는 물론 자연어 심층 처리 분야에서 입지를 다져온 기업이다. 지난해 8월 자체개발한 대규모 언어모델 '코난 LLM'을 출시했으며, 올해는 SK텔레콤과 AI사업과 기술 방면에서 협력에도 박차를 가하는 등 사업 범위를 넓혀가고 있다. 박성현 리벨리온 대표는 “이번 협약은 대한민국의 AI 플레이어들이 가진 가능성과 경쟁력을 증명할 수 있는 좋은 기회”라며 “리벨리온의 AI반도체 인프라와 코난테크놀로지가 오랜 기간 쌓아온 AI 기술력을 결합해 다양한 산업영역에서 사업기회를 발굴하고 성공사례를 만들어 갈 것”이라고 말했다. 김영섬 코난테크놀로지 대표는 “리벨리온과의 협력을 통해 코난테크놀로지의 AI 기술을 새로운 차원으로 확대하는 동시에, 소버린 AI가 화두인 현재 양사의 기술 결합이 나아가 우리나라 인공지능 산업 생태계 발전에 기여할 수 있는 발판이 되기를 바란다”고 말했다.

2024.08.29 09:33장경윤

"이미지 이어 가상환경 생성"…미드저니, 하드웨어 사업 진출

인공지능(AI) 이미지 생성 플랫폼 미드저니가 하드웨어 사업에 진출한다. 29일 벤처비트 등 외신에 따르면 미드저니는 하드웨어 사업 진출 계획을 소셜 미디어 플랫폼 엑스(X) 공식 계정을 통해 밝혔다. SNS에 따르면 미드저니는 하드웨어 사업 진출 사실을 공식화하면서 "새로운 팀에 합류하고 싶다면 이메일을 보내달라"며 신규 인재 채용의사를 밝혔다. 미드저니는 AI 이미지 생성도구로 프롬프트 입력으로 다양한 이미지를 생성할 수 있는 서비스를 제공한다. 이 서비스는 광고, 마케팅을 비롯해 게임, 건축 인테리어, 데이터 시각화 등 다양한 분야에서 활용되며 지난해 2억~3억 달러 가량의 매출을 달성한 것으로 알려졌다. 미드저니의 하드웨어 사업에 대한 구체적인 내용은 공개되지 않았다. 관련 업계에서는 미드저니에서 내부 프로젝트로 진행 중인 프로젝트 오브(Orb)를 본격화하기 위한 것이란 분석이 힘을 얻고 있다. 관련 정보는 지난해 12월 애플의 혼합현실(MR) 헤드셋 비전프로를 5년 이상 개발해온 아마드 아바스를 하드웨어 총괄로 영입하며 일부 공개됐다. 프로젝트 오브는 3D 데이터 캡처와 AI를 활용해 3D 환경을 생성하는 하드웨어 프로젝트다. 특정 공간에 실시간으로 상호작용할 수 있는 3D 환경을 생성해 보다 몰입감 있는 경험을 제공할 전망이다. 이를 활용해 보다 사실적이고 몰입감 있는 게임이나 영화 등의 콘텐츠를 개발하거나 안전하게 교육을 진행할 수 있으며, 건축이나 제품 설계에도 이를 활용할 수 있을 것으로 점쳐지고 있다.

2024.08.29 09:22남혁우

[현장] 구글 제미나이, AI 의대생으로 재탄생…"상용화는 아직"

구글의 의료 생성형 인공지능(AI) '메드-제미나이'가 높은 의료 지식을 갖췄지만 특화 솔루션으로 자리 잡으려면 멀었다는 평가가 나왔다. 그동안 구글이 '제미나이'로 공개한 애플리케이션에 잇따른 환각 사례가 끊이지 않고, 메드-제미나이 사용 테스트 결과가 상용화 수준까지 올라오지 않아서다. 27일 구글리서치 로리 필그림 소프트웨어(SW) 엔지니어는 서울 포시즌스호텔에서 열린 '리서치앳코리아'에서 메드-제미나이 기능을 소개했다. 메드-제미나이는 올해 5월 출시됐다. 의료 정보 요약부터 의사 의뢰서 작성, 진단 보고서 작성, 어려운 의학 지식 쉽게 풀어쓰기 기능 등을 갖췄다. 메드-제미나이는 의료 태스크에 맞게 미세 조정된 제미나이 제품군이다. 의대생 시험 유형 문제로 구성된 메드QA-USMLE 벤치마크에서 오픈AI의 GPT-4를 비롯한 AI 시스템의 성능을 앞지른 것으로 전해졌다. 필그림 SW엔지니어는 최근 제미나이 1.5 프로를 통해 메드-제미나이 성능을 올렸다고 했다. 심전도 신호를 비롯한 수술 영상, 이미지 등을 인식하도록 훈련했다고 했다. 특히 영상이나 유전체학 분야를 중점적으로 학습한 상태다. 필그림 엔지니어는 "의료용 AI는 여러 초음파 등 이미지를 영상, 텍스트와 함께 해석할 수 있어야 한다"며 "기간별, 시간별로 이미지 및 영상 시퀀스가 어떻게 변화하는지 알 수 있어야 한다"며 훈련 이유를 밝혔다. 필그림 엔지니어는 메드-제미나이 성능도 높였다고 말했다. 특히 AI가 의료 영상을 기간별, 시간별로 이미지 시퀀스를 추측·이해할 수 있는지 훈련했다고 했다. 메드-제미나이가 사람 신체나 장기에 생기는 공간적 변화를 정확히 확인할 수 있어야 해서다. 필그림 엔지니어는 게놈 유전체학 데이터도 메드-제미나이에 학습시켰다고 했다. 이때 구글리서치는 해당 데이터를 제미나이가 이해할 수 있는 영상 정보로 변형하는 과정을 거쳤다. 이후 제미나이 1.5 프로로 사전 트레이닝을 수행했다. 최근 구글은 메드-제미나이의 실제 의료 현장 적용 가능성을 평가했다. 필그림 엔지니어는 "메드-제미나이가 의료 영상을 분석하고 보고서 작성을 어느 수준으로 했는지 블라인드 테스트를 진행했다고" 밝혔다. 테스트는 방사선과에서 진행됐다. 심사진이 인간 의사의 보고서와 메드-제미나이의 보고서를 블라인드로 비교하는 식이다. 심사진 중 72%가 메드-제미나이 보고서가 인간 의료진이 작성한 보고서와 수준이 비슷하거나 더 높다고 응답한 것으로 전해졌다. 생성형 AI가 방사선 영상을 보고 작성한 진단 및 치료법 보고서 품질이 인간 의사보다 비슷하거나 더 낫다는 의미다. 엑스레이 부문에서는 해당 수치를 50%대 기록한 것으로 전해졌다. "메드-제미나이 개선점 필요…꾸준히 보완할 것" 필그림 엔지니어는 메드-제미나이에 개선할 부분이 남았다고 인정했다. 여전히 더 많은 데이터가 필요하고 다양한 방식으로 개발자와 의료진 피드백을 받아야 해서다. 메드-제미나이와 의료진 보고서 대상으로 진행한 블라인드 테스트 결과치도 이에 대한 근거다. 심사진 중 72%만 메드-제미나이 보고서가 인간 의료진보다 더 낫거나 비슷하다고 평했다. 일각에서는 메드-제미나이가 사람 건강을 다루는 만큼 기능 수치를 끌어올릴 필요성이 있다는 분위기다. 최근 구글이 내놓은 제미나이 기반 서비스에 발생하는 잇따른 환각현상도 문제다. 제미나이를 적용한 검색서비스 'AI 오버뷰'는 출시 초기 사용자 질문에 틀린 답변이나 문맥을 벗어난 응답을 하는 등 환각현상을 보였다. 구글은 이를 인정하고 검색어 제한 및 소셜미디어 레딧 등 웹사이트 이용자가 생성한 콘텐츠를 답변 출처로 사용하지 않도록 했다. 이에 필그림 엔지니어는 "앞으로 더 많은 의료 데이터가 필요하고 다양한 방식으로 사용 피드백을 받을 필요가 있다"고 말했다. 그러면서 "첫 테스트에서 70%대 반응을 얻은 건 상당히 고무적"이라며 "미래 의료산업에서 생성형 AI가 3D와 텍스트를 동시에 해석함으로써 질병 치료를 현재보다 정확하고 신속하게 할 것으로 기대한다"고 강조했다. 이 외에도 구글리서치 라이자 마틴 프로덕트 매니저는 제미나이로 개발된 업무용 AI 툴 '노트북LM'을 소개했다. 리지 도프만 그룹프로덕트 매니저는 뇌 재구성 과정과 데이터셋 등 뉴론 연구 프로젝트 '커넥토믹스'를 설명했다.

2024.08.27 16:14김미정

"여동생·지인 나체 사진 드려요"…韓, 딥페이크 성범죄↑

생성형 인공지능(AI) 기술을 악용한 딥페이크 성범죄가 늘고 있다. 딥페이크 범죄를 처벌할 수 있는 법적 세부 기준이 마련되지 않아 피해 사례는 더욱 증가할 전망이다. 26일 정보기술(IT) 업계에 따르면 100개 이상 국내 대학과 중·고등학교에서 텔레그램 딥페이크 성범죄가 만연한 것으로 드러났다. 이들은 생성형 AI 기술로 지인 사진과 나체 사진·영상을 합성해 텔레그램 방에 공유한 것으로 전해졌다. 딥페이크는 딥러닝(Deep learning)과 가짜를 뜻하는 페이크(fake)를 합친 용어다. 생성형 AI 기술 등으로 여러 사진을 조합해 가짜 인물이나 영상을 사실처럼 만들 수 있는 기술이다. 그동안 연예인이나 정치인, 인플루언서 이미지와 음란물을 합성해 유포하는 범죄가 다수였다. 이제 누구나 생성형 AI로 딥페이크 사진과 영상을 생성할 수 있게 됐다. 이에 일반인 피해 사례가 우후죽순으로 늘고 있다. 최근 학생들 사이에서 일반 사진을 나체 사진으로 변형해 주는 생성형 AI 챗봇이 활성화하고 있다. 예를 들어 사용자가 여성 사진을 올리면 생성형 AI가 이를 나체사진으로 바꿔주는 식이다. 서울경찰청에 따르면 학생들은 딥페이크로 제작된 나체사진을 텔레그램 방에 공유한 것으로 전해졌다. 또 다른 텔레그램 방에서는 여동생이나 여군, 지인 사진을 자체 사진으로 변형해 공유하는 행위도 드러났다. 가족뿐 아니라 친구 사진까지 딥페이크 성범죄 대상물이 된 셈이다. 관련 범죄로 경찰에 붙잡힌 10대 청소년이 서울에서만 올해 10명인 점도 전해졌다. 서울경찰청 관계자는 "올해 1~7월 청소년 10명이 딥페이크 범죄로 검거됐다"고 밝힌 바 있다. 현재 딥페이크 성범죄 처벌법이 마련됐긴 했다. 딥페이크 음란물 대상자가 아동일 경우, 아동·청소년 성 보호에 관한 법률(11조)에 따라 처벌받는다. 대상자가 성인일 경우 성폭력 범죄 처벌 등에 관한 특례법(14조)에 의해 처벌받을 수 있다. 다만 딥페이크로 인한 성범죄가 기존보다 다양해지면서 세부적인 법적 기준 필요성이 제기되고 있다. 김봉식 서울경찰청장은 "학생들에게 성범죄 전력 심각성을 가르치겠다"며 "범죄가 사회활동에 지장을 초래할 수 있다는 점을 알리는 교육을 강화할 것"이라고 강조했다.

2024.08.26 18:04김미정

크라우드웍스, 기업 고객 대상 실무형 AI 활용 교육 출시

AI 테크 기업 크라우드웍스(대표 김우승)는 생성형AI 시대 기업 경쟁력 강화를 위한 기업 고객 대상 AI 교육사업을 추진한다고 26일 밝혔다. 생성형AI 시대가 열리면서 IT 기업이 아니어도 산업 전반에 AI 기술 도입과 활용에 대한 중요성이 높아지고 있다. 이제는 소수의 AI 전문가가 아닌 전체 임직원이 AI 도구를 능숙하게 활용하는 것이 비즈니스 혁신의 키(KEY)가 되고 있다. 그러나 자체적으로 맞춤형 AI 교육을 운영하는 일이 쉽지 않아 많은 기업들이 어려움을 겪고 있다. 이에 크라우드웍스는 임직원들의 AI 역량 강화를 위한 기업 맞춤형 AI 교육과정을 개발했다. '크라우드 아카데미'를 운영하며 쌓은 온라인 교육 노하우와 크라우드웍스의 AI 역량을 더해 만들었으며 LLM을 활용한 AI 서비스 앱 개발을 목표로 교육과정을 디자인했다. 커리큘럼은 비개발부서 임직원들도 쉽게 이해할 수 있도록 구성했다. AI 기본 지식부터 기업 맞춤형 AI 서비스 개발과 활용에서 필요한 실무 지식까지 습득할 수 있다. 이를 위해 크라우드웍스가 확보한 다양한 산업 도메인에서의 데이터 구축 및 실제 LLM 서비스 개발 사례 등을 교육에 포함시켰다. 먼저 오픈되는 교육과정은 업무 전반에 AI를 효과적으로 활용할 수 있는 ▲프롬프트 활용 업무 생산성 향상 과정, ▲생성형AI 기반 실습형 LLM 서비스 개발 과정이다. 데이터셋을 제공해 프롬프트 엔지니어링 실습을 진행하고, 실제 AI 서비스 구축 프로세스도 체험한다. 교육 강사진은 업계 최고 수준의 기술전문가로 구성했으며, 쌍방향 소통하며 학습할 수 있도록 오프라인 교육 형태로 진행된다. 또 교육 전후로 학습자의 AI 역량 향상 정도를 정량화해 측정하는 '모바일 기반의 AI 역량 진단 시스템'을 제공해 교육 효과를 구체적으로 측정할 수 있는 서비스도 이용할 수 있다. 이를 위해 크라우드웍스는 SaaS 기반 PBT(Project Based Training) 플랫폼 기업 매직에꼴에 투자하고 함께 교육사업을 추진키로 했다. 이보람 크라우드웍스 교육사업본부 본부장은 "생성형AI 도입이 확산될수록 깊이 있는 AI 지식보다는 AI에 대한 폭넓은 이해와 활용 역량, AI 리터러시가 강조된다"며 "크라우드웍스가 확보한 다양한 AI 서비스 개발 사례들을 기초로 활용해 더욱 공감되고 몰입할 수 있는 교육 콘텐츠를 제공할 것"이라고 설명했다.

2024.08.26 16:44백봉삼

"韓 기업 유일"…라이너, 글로벌 인기 AI 종합 9위

라이너가 해외 기업들을 제치고 글로벌 인기 인공지능(AI) 순위에서 상위권을 기록했다. 라이너는 글로벌 밴처캐피털(VC) 앤드리슨호로위츠가 선정한 올해 상반기 글로벌 인기 AI 순위 '생성형 AI 소비자 앱 톱 100(The Top 100 Gen AI Consumer Apps)'에서 국내 유일 웹 서비스 부문 9위를 차지했다고 23일 밝혔다. 'AI 검색 서비스' 영역에선 1위를 차지한 퍼플렉시티 다음으로 2위를 기록했다. 라이너, 퍼플렉시티 같은 AI 검색 서비스는 사용자 의도를 정확히 파악해 최신 정보까지 맞춤형으로 제공하는 것으로 전해졌다. 전통적인 검색 엔진이 단순히 키워드 매칭에 의존하는 것과 달리 사용자와 상호작용하면서 관련성 높고 개인화된 검색 결과를 제공한다. 이에 구글을 위협하는 차세대 검색 서비스로 급부상하고 있다. 김진우 라이너 대표는 "글로벌 시장에 한국 스타트업 저력을 보여줄 수 있어 기쁘다"며 "향후 구글과 퍼플렉시티를 재치고 AI 검색 시장을 제패할 것"이라고 자신했다.

2024.08.23 16:14김미정

BCG "생성 AI 투자 안하는 기업, 도태된다"

글로벌 경영컨설팅 3대 강자 중 하나가 생성 인공지능(AI)을 도입하지 않은 기업들이 시장에서 도태될 수 있다고 경고했다. 22일 보스턴컨설팅그룹이 최근 발간한 'IT 지출 동향 조사(IT Spending Pulse Survey)'에 따르면 생성 인공지능(AI) 기술의 성숙도가 높은 기업들은 향후 3년간 세 배 높은 수익을 거둘 것으로 예상됐다. 하지만 생성 AI 기술을 도입하지 않은 기업들은 경쟁에 뒤처질 위험이 있다는 경고도 나왔다. 대다수 기업이 생성 AI를 도입함에 따라 생산성 향상 경쟁이 치열해지고 있기 때문이다. 또 아시아-태평양 지역은 북미와 유럽을 넘어서는 디지털 전환을 위한 IT 지출이 늘어날 것으로 예상됐다. 생성 AI의 가치를 다른 지역보다 더 크게 인식하고 있는 만큼 IT 지출은 약 6~7% 증가할 것으로 전망됐다. 산업별로는 기술 기업들이 생성형 AI 도입에서 가장 앞서 있으며 에너지·여행·관광·보험 산업은 상대적으로 뒤처져 있는 것으로 나타났다. 이들 산업에서는 생성 AI를 거의 도입하지 않은 기업의 비율은 40%를 넘었다. 보고서는 "생성 AI 도입의 주요 장애 요인은 기술 미성숙"이라며 "기업들은 예산제한 속에서 전략적인 접근을 요구 받으면서도 법적 위험·데이터 관리 문제에 시달리고 있다"고 분석했다.

2024.08.22 10:03조이환

국회, 리걸테크 발전 위한 입법공청회 개최

국회가 최근 생성 인공지능(AI)을 법률 분야에 적용하는 리걸테크 기업과 법조계의 상생을 위해 팔을 걷어 부쳤다. 더불어민주당 소속 권칠승 의원과 박지원 의원은 22일 오후 2시 국회의원회관 제8간담회의실에서 '리걸테크 진흥정책 추진을 위한 입법공청회'를 공동 개최한다. 이 행사는 두 의원이 공동으로 주최하고 고려대 리걸테크센터가 주관한다. 이번 공청회에서는 이병준 고려대 리걸테크센터장이 좌장을 맡고 정신동 한국외대 법전원 교수가 발제를 한다. 토론에는 김신유 판사, 석동현 법무부 법무과 검사, 이영진 법제처 법령데이터혁신팀장, 정재기 대한변호사협회 부협회장, 이정민 벤처기업협회 사무총장, 김여섭 리걸테크산업협의회 변호사가 참여할 예정이다. 권칠승 의원은 "생성 AI가 리걸테크 분야 발전과 국민의 기본권 보장에 큰 변화를 가져올 것"이라며 "벤처업계와 법조계가 함께 혁신과 상생의 방안을 마련해 변화를 헤쳐나가야 한다"고 강조했다. 박지원 의원은 "입법의 기준은 민심이므로 국민 편의 증진을 1순위에 둬야 한다"며 "이를 감안하면서 벤처업계와 법조계가 리걸테크 분야에서의 상생을 위해 많은 논의를 하길 바란다"고 밝혔다.

2024.08.22 09:42조이환

"생성형AI로 폭풍 찾는다"…엔비디아, '스톰캐스트' 공개

엔비디아가 허리케인, 토네이도 등 기상재난을 더욱 정확하게 예측할 수 있는 생성형 인공지능(AI) 모델을 공개했다. 20일 실리콘앵글 등 외신에 따르면 엔비디아리서치팀은 기상예보 AI모델 '스톰캐스트'를 발표했다. 스톰캐스트는 엔비디아가 이전에 선보인 대기예보모델 코디프(CorrDiff)의 업그레이드 버전이다. 태풍, 사이클론 등 기상재난으로 발생하는 인명 및 재난 피해를 방지하기 위해 개발됐다. 엔비디아에 따르면 기상재난으로 인해 미국에서만 매년 많은 인명 피해와 함께 1천500억 달러 이상의 재산 손실이 발생하고 있다. 스톰캐스트는 AI를 활용해 기존 예보 시스템으로는 감지하기 어려웠던 중규모 대기운동을 고해상도로 시뮬레이션할 수 있다. 중규모 대기운동은 폭풍보다 크고 사이클론보다는 작은 규모의 활동을 의미한다. 폭풍은 일반적으로 직경 수 킬로미터에서 수십 킬로미터 정도 되는 비교적 작은 기상 현상을 말하며, 사이클론은 수백에서 수천 킬로미터 수준의 대규모 기상 현상이다. 중규모 기상 예측이 어려운 이유는 기후에 영향을 줄 수 있는 전세계 데이터를 보다 세밀한 해상도로 계산해야 하기 때문이다. 해상도는 대기 환경을 격자로 나눈 후 격자별로 날씨를 예상하는 방식이다. 격자 범위가 줄어들수록 특정 지역에서 발생하는 기상변화에 민감하게 대응할 수 있다. 다만 이 과정에서 막대한 컴퓨팅 파워와 비용이 요구된다. 이로 인해 기존 AI기반 기상예측 모델은 일반적으로 약 30킬로미터의 공간 해상도와 6시간의 시간 해상도를 가진다. 즉, 가로세로 30킬로미터의 구역을 6시간 단위로 날씨 정보를 업데이트해 준다. 반면 엔비디아의 스톰캐스트는 생성형AI를 활용해 해상도를 약 3킬로미터와 한시간 수준으로 약 60배 이상 해상도를 향상시켰다. 더불어 강수량 레이더와 연동할 경우 미국 국립해양대기청(NOAA)의 3킬로미터 수준의 기상 예보모델 보다 최대 10% 더 정확한 예측 성능을 보이는 것으로 나타났다. 이 밖에도 시뮬레이션 환경에서 공기 중의 수분이 어떻게 움직이고 변하는지 역학 관계를 표시할 수 있다. 또한, 온도, 수분 농도, 바람 및 강수 레이더 반사도 값을 포함하여 100개 이상의 변수를 고도로 예측할 수 있는 기능을 보유했다. 이를 통해 과학자들은 폭풍이 형성되고 발전하는 과정을 3D로 정확하게 관찰하고 파악해 예보가 가능하다. 엔비디아는 해당 수준의 AI성능 달성을 위해 약 3년 반치의 NOAA의 미국 중부 기후 데이터를 이용해 훈련을 실시했다. 엔비디아와 함께 스톰캐스트를 개발한 웨더컴퍼니의 톰 해밀 혁신 책임자는 "홍수나 토네이도 같은 위험을 초래하는 강한 뇌우 등의 기상재난을 정확하게 예측하는 것은 상당히 어려운 일"이라며 "스톰캐스트와 같은 AI모델은 더욱 정확한 날씨 예측을 위한 중요한 과정"이라고 설명했다.

2024.08.20 09:45남혁우

이미지 AI 발전 가속…전문가들 "포르노·가짜 뉴스 남용 막아야"

생성 인공지능(AI)의 그림이 정교해지고 이미지 편집 기능이 추가돼 실제 사진과 구분이 점점 어려워지고 있다. 이를 남용하는 사례가 늘면서 윤리적 해결책과 법제화의 필요성이 커지고 있다. 19일 미국의 테크 전문지 벤처비트에 따르면 구글은 최근 미국 시장에서 '이마젠3'를 출시했다. 이는 지난 5월 구글이 해당 모델을 최초로 발표한 후 3개월 만이다. 이에 따라 '이마젠' 사용자들은 텍스트를 입력해 그림을 마음껏 그릴 수 있게 됐다. 업계는 이를 오픈AI의 이미지 생성 모델인 '달리'에 대항하려는 움직임으로 보고 있다. 구글보다 앞서 지난해 10월 오픈AI는 '챗GPT'에 '달리3'를 통합한 멀티모달 모델을 도입했다. 이는 지금까지 유료 이용자들에게만 제공됐던 모델이었지만 지난 15일부터 무료 사용자에게도 하루 최대 2건씩 제공되고 있다. 일론 머스크 엑스(X) 대표의 챗봇 '그록'도 이에 가세했다. 지난 13일 X는 프리미엄 사용자들에게 '그록-2'의 베타 버전을 제공하기 시작했고, 여기에는 이미지 생성 기능도 포함돼 있다. 이들 이미지가 점점 실제와 구분이 안 되는 수준으로 진화하고 있다는 것이 업계 전문가들의 의견이다. 실제로 루르 대학교가 올해 5월 실시한 조사에 따르면 3천명의 연구 참가자 대부분이 AI가 생성한 이미지를 실제 사진으로 착각한 것으로 나타났다. 이제 생성 AI가 단순히 그림을 생성하는 것뿐만 아니라 편집까지 할 수 있어 더 많은 우려를 낳고 있다. 샌프란시스코에 위치한 그림 AI 스타트업인 미드저니는 지난 15일 웹브라우저 이미지 편집기를 공개했는데 이 서비스는 이미지 일부를 다시 칠하거나 경계를 늘리는 등의 아웃페인팅 및 캔버스 확장 기능을 지원한다. 이렇게 이미지 생성 및 편집 AI가 급속도로 발전하면서 가짜 이미지 남용 가능성에 대한 우려가 커지고 있다. 실제로 머스크의 '그록'은 '이마젠'이나 '달리'와 달리 크게 검열되지 않고 있다. 머스크 X 대표가 '세상에서 가장 재미있는 AI'라고 표현한 그록은 프롬프트에 따라 대부분의 이미지를 생성할 수 있다. 외신에 따르면 '그록'은 프롬프트를 따라 테일러 스위프트· 카멀라 해리스 후보의 노골적 성적 대상화 이미지와 911 테러를 저지르는 트럼프 전 대통령의 사진 등을 생성한 바 있다. 전문가들은 검열되지 않는 이미지에 편집 기능까지 더해지면 문제가 더 심각해질 수 있다고 분석한다. AI는 아직도 영어를 제외한 글자들을 제대로 표시하지 못하고 사람의 손가락 같은 복잡한 형태를 그리지 못하지만 기술이 발전할수록 이러한 문제도 해결될 전망이기 때문이다. 이미 유사 기술인 딥페이크의 경우 기술이 고도화되면서 여러 문제가 발생했다. 지난 15일 샌프란시스코시 변호국은 딥페이크 포르노를 생성할 수 있는 사이트들의 폐쇄 조치를 요구하는 소송을 제기했다. 이 사이트들은 오픈소스 생성 AI를 사용해 피해자들의 동의 없이 얼굴을 포르노 영상과 합성하는 등의 문제를 초래했다. 이는 딥페이크 기술이 극도로 고도화되고 상용화가 가능한 수준에 이르렀음에도 관련 규제가 따라오지 못했음을 보여준다. 전문가들은 딥페이크와 마찬가지로 점점 고도화되고 있는 이미지 생성 및 편집 AI에도 신속히 규제를 마련해야 한다고 입을 모은다. 이미지 AI들이 고도의 편집 기능을 통해 성적 대상화 및 가짜뉴스 이미지를 대량생산할 가능성이 크기 때문이다. 이러한 폐해를 방지하기 위해 규제뿐만 아니라 기업들의 기술 개발도 필요하다고 전문가들은 분석한다. 하디 살만 오픈AI 연구원은 "기업들은 AI 도구의 잠재적 위협에 대한 방어 수단을 구축하는 데 투자해야 한다"며 "이를 위해 모델 개발자, 정책 입안자, 소셜미디어 플랫폼 간의 적극적 협력이 필요하다"고 강조했다.

2024.08.19 17:52조이환

"국내 첫 AI팀 꾸려"…태평양이 내다본 한국 AI법 방향은?

유럽연합(EU)이 생성형 인공지능(AI)법 추진을 본격화하면서 전 세계가 분주하다. 미국을 비롯한 캐나다, 영국, 일본 등 각국 정부는 AI 거버넌스 구축을 위해 연구소를 설립하고 대규모 투자를 하는 등 자국 AI법 마련에 나섰다. 한국도 마찬가지다. 정부가 AI안전연구소를 설립하고, 새로 출범한 22대 국회도 AI법 제정에 속도를 내고 있다. 당장 AI법에 영향 받을 대상은 기업이다. AI 기술이나 솔루션 출시를 위해 개인정보법, 데이터법 등 민감한 AI 규정을 세세하게 지켜야 하기 때문이다. 기업들은 원활한 AI 사업과 해외 시장 진출을 위해 AI법에 높은 관심을 기울일 수밖에 없다. 법무법인 태평양은 이런 상황을 4년 전부터 예측·준비해 왔다. 그동안 태스크포스(TF)형태로 운영됐던 AI팀은 올해 초 활동을 본격화 했다. AI팀은 AI 기술 개발이나 솔루션 구축, 사업 시작을 위해 지켜야 할 개인정보 보호법과 데이터법 등을 고객에게 자문한다. 현재 약 20명이 해당 팀에서 근무 중이다. 태평양 AI팀장 강태욱 변호사와 윤주호 변호사는 최근 기자와 만나 태평양 AI전담팀 특장점을 비롯한 인력 구성 등을 소개했다. 미국·EU AI법에 대한 평가와 향후 한국 AI법이 나아가야 할 방향성에 대해 자세히 들어봤다. Q. 태평양이 국내 첫 AI전담팀을 꾸렸다고 들었다. 이에 대한 배경은. 강: AI팀을 구축한 결정적 계기는 2017년 '이루다' 사건 변호 직후다. 국내에서 AI와 개인정보 보호법을 동시에 다룬 첫 사례다. 변호인단은 재판 뒤 6개월 동안 이루다 관계자들과 개인정보 보호법 위반 사항을 수정하고 데이터 정비를 도왔다. 당시 태평양은 AI와 데이터 처리, 개인정보 이슈 자문 수요가 늘 것으로 추측했다. 예상이 맞았다. 현재 기업들은 태평양의 이루다 데이터 정비 사례를 필수 참고하기 때문이다. 이후 금융권 AI 거버넌스 구축을 도왔다. 농협 사례가 대표적이다. 금융권 AI 컴플라이언스 리뷰 업무까지 맡았다. 산업이 생성형 AI를 구축할 때 법률 리스크 판단을 필요로하다 보니 관련 프로젝트가 꾸준히 들어오는 것 같다. Q. 태평양 AI팀 인재를 새로 영입했는지. 강: 외부에서 AI전문변호사를 영입하진 않았다. 내부 변호사들이 팀을 꾸렸다. 역량이 충분했기 때문이다. 태평양에 항공이나 전자 등 공대 출신 변호사가 많다. 일부 전문위원도 데이터 분야 업무를 수십 년 했다. Q. 현재 국내 로펌들이 AI팀을 꾸리기 시작했다. 팀 필수 역량을 무엇으로 보는지. 윤: 해외 AI법 동향을 잘 파악하는 게 관건이다. 국내 기업이 미국이나 유럽 등에 서비스를 원활히 제공할 수 있게 도와줘야 해서다. 한국에 도입될 가능성 높은 해외 AI규제를 먼저 알아야 한다. 국내 로펌이 해외 로펌들과 활발한 소통을 유지해야 하는 이유다. 태평양은 해외 로펌과 지속적인 컨퍼런스 콜을 통해 AI 정보를 꾸준히 교류하고 있다. 이런 네트워킹을 통해 해외 AI법 동향을 빠르게 수집하고, 한국화하는 데 힘쓰고 있다. 미국·유럽 로펌 세 곳과 정보 공유를 가장 자주 한다. Q. EU AI법과 달리 미국식 AI법은 상대적으로 자율적일 것이란 평가가 나오고 있다. 윤: 미국식 AI법도 EU AI법처럼 규제를 조만간 할 것 같다. 차기 정권이 AI법을 아예 자율 규제로 끌고 갈지, 아니면 기업들에게 가이드를 주고 자율적으로 이를 지키도록 할 건지가 관건이다. 향후 미국식 법은 이 둘 중 하나로 갈 것이다. Q. 미국 대선 결과가 미국 AI법 방향성을 결정할까. 윤: 아직 정해진 바 없다. 모두 아는 것처럼 카멀라 해리스 민주당 대통령 후보는 도널드 트럼프 공화당 후보보다 엄격한 AI법 방향성을 제시할 수도 있다. 트럼프 후보는 현재 바이든 행정부가 추진하는 AI 규제조차 빼자고 주장한다. 이에 미국 빅테크도 트럼프 정부 시절이 지금보다 더 좋았다는 분위기다. 해리스 후보가 당선되면 현재 구조를 유지할 것 같고, 트럼프 후보가 대통령이 되면 AI법이 통상무역 형태로 갈 것 같다. Q. 그런 분위기가 한국에 영향 미칠까. 강: 확실한 건 한국이 AI 개발 인프라를 미국서 갖고 올 때 지금보다 높은 비용을 지불할 수 있다. 이 전제에서 국회의원들은 국내 AI 산업 육성과 자립적인 기술 개발 필요성을 주장할 것이다. 특히 네이버 등 국내 대기업들이 엔비디아 AI칩 구매를 원활히 할 수 있도록 지원해야 한다고 목소리를 높일 것이다. 물론 자유 무역 체계에 따라 기술을 거래하는 건 상관없다. 그러나 AI 기술은 다르다. 단순히 통상적 방식으로만 이뤄질 문제가 아니라서다. 정부는 소버린AI 등을 간과하고 단순히 자유무역 체계에 따라 AI 무역 업무를 처리하면 안 된다. AI 기술 출처나 국가적 배경에 따라 복합적 문제가 발생할 수 있기 때문이다. 한국이 해외와 AI 무역할 때 각국 기술적, 정치적 배경을 고려한 기준을 마련해야 한다. Q. 22대 국회가 AI법을 논의하고 있다. 기본법 틀을 어떻게 만드는 것이 좋을까. 윤: 미국·EU AI법을 무조건 참고하는 것보다 한국적 상황에 맞는 AI 산업 진흥법을 갖춰야 한다. 특히 국내에 AI 보안 문제가 늘고 있다. 정부가 이 문제를 해결하지 않으면 AI 산업은 성장하지 못한다. 이를 위한 위원회를 설치하는 등 국내에 맞는 방향성이 필요하다. 물론 규제도 필수다. 지금 만들지 않으면 안 된다. 향후 EU가 자국 규제법을 따르라고 강제할 것이기 때문이다. 일단 규제 체계를 큰 틀로 만드는 게 급선무다. 규제 범위를 어떻게 정할 것인지, 강도를 어느 정도 설정할 것인지 등은 이후 조정하면 된다. 강: 최종적으로 국내 AI법이 어떤 모습일지 아무도 장담할 수 없다. 행정안전부와 과학기술정보통신부가 AI법에 대해 생각하는 것이 다르고 국회 시각도 이와 다르기 때문이다. 행안부는 강한 AI규제법을 주장하지만 과기정통부는 이를 좀 풀어주자는 의견이 지배적이라서다. Q. 이번 국회는 위험한AI와 금지된AI를 어떻게 정할지도 논의 중이다. 이에 대한 입장은. 윤: 이런 규정은 EU AI에서 왔다. 사실상 한국 정서에 맞지 않는 규정 방식이다. 물론 고위험AI는 존재할 수 있다. 관건은 한국 기업이 고위험AI로 만든 서비스를 제공한 적 있느냐는 것이다. 아직 없다. EU는 법을 이론적으로 접근하고 있다. 그래서 이런 법은 국내서 문제 될 수 있다. 실제 인간 생존과 직결되는 건 당연히 고위험AI로 지정돼야 한다. 이론상 고위험AI 논의가 필요하면 진행 가능하다. 그런데 현실에서 이 부분은 더 논의돼야 한다. Q. 현재 EU도 이 부분에 대해 골치 아플 것 같다. 윤: 그렇다. 지금 EU도 고위험AI 기준을 완전히 마련하지 못했다. EU는 제3자 적정성 평가를 통해 AI를 고위험으로 분류할 방침이다. 문제는 아직 평가 기준조차 없다. EU는 2026년 8월부터 고위험AI에 대한 리스크 세부사항을 내놔야 한다. 딱 2년 남았다. 타임라인에 맞춰 완전한 평가 기준을 만들려면 지금 시작해도 빠듯하다. 강: 결국 AI 규제는 분명히 필요하다. 다만 구체적으로 어느 AI 시스템을 얼마나 규제할 것인지에 대한 문제는 다르다. 이런 정도는 국가·사례마다 다를 것 같다. 큰 틀로 규제를 서둘러 마련하고, 세부적으로 지정할 것과 추가 판단할 것을 정해야 한다. Q. EU AI법이 전 세계에 본격적으로 영향 미치면 국내 시장은 어떻게 변할까. 윤: 국내 시장은 두 가지 특징을 보일 것 같다. 우선 EU AI법에 맞춰 유럽형 서비스를 제공하려는 국내 AI 기업이 생길 것이다. 이는 로펌뿐 아니라 다수 전문가가 예측하는 AI 시장 모습이다. 특히 국내 대기업이 AI규제 기준을 주도할 것으로 본다. 다만 한국 AI법만 기준으로 설정하지 않을 것이다.국내 기업들은 정부가 해외 규제를 따를 가능성을 높이 보기 때문이다. 이에 대기업은 미국·EU AI법이 국내에 들어오는 정도, 범위 등을 판단할 것이다. 이를 자문하는 로펌 역할이 더 중요해질 전망이다.

2024.08.19 17:52김미정

  Prev 21 22 23 24 25 26 27 28 29 30 Next  

지금 뜨는 기사

이시각 헤드라인

배달앱 '헝그리판다' 전자담배 막 팔아도 될까

문구부터 인테리어까지 다 있네...2539 여성 특화한 ‘이구홈 성수’ 가보니

개인정보 줄줄 새는 AI 시대…"아마존 메이시·베드록으로 막는다"

홈플러스, 새 주인 찾기 시동…유통업 판도 흔들리나

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현