검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'딥 체인지 2.0'통합검색 결과 입니다. (338건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

포털 '줌'서 AI 금융 분석 서비스 가능…콘텐츠 '강화'

포털 '줌'을 운영하는 이스트에이드(옛 줌인터넷)가 AI 금융 정보 플랫폼 딥서치와 손잡고 AI(인공지능) 기반의 금융 투자 콘텐츠 개발에 본격 나선다. 이스트에이드는 딥서치와 업무협약을 체결하고 AI 기술을 활용한 금융 투자 정보 사업을 공동으로 추진하기로 했다고 4일 밝혔다. 딥서치는 기업과 관련된 데이터 인프라 및 엔진을 기반으로 한 AI 플랫폼을 운영하는 기업으로, 누구나 쉽게 기업 정보를 검색하고 데이터 기반의 합리적인 의사결정을 내릴 수 있는 환경을 만들어 나가고 있다. 이번 일로 이스트에이드는 포털 줌에서 딥서치의 빅데이터 분석 및 AI 기술을 활용한 금융 및 투자 분석 콘텐츠를 빠르게 제공한다는 계획이다. 이를 통해 국내외 기업 및 각종 금융 상품을 분석한 AI 분석 서비스를 줌 포털 사용자가 쉽게 접근할 수 있도록 돕겠다는 방침이다. 아울러 금융 시장 트렌드, 기업의 재무 상태, 투자 기회 등 폭 넓은 정보도 제공해 포털 줌 사용자의 투자 결정 지원을 지속해서 강화해 나갈 계획이다. 양사는 이번 협력이 포털 줌 사용자의 투자 인사이트 확대와 금융 정보 접근성 개선으로 이어질 것으로 내다보고 있다. 김재윤 딥서치 대표는 "이번 협력을 통해 더 많은 사용자가 딥서치의 금융 투자 콘텐츠에 편리하게 접근할 수 있을 것"이라며 "AI 기술을 기반으로 금융 정보의 접근성을 높이고, 다양한 파트너들과의 협력을 통해 이를 지속적으로 확대해 나가겠다"고 밝혔다. 김남현 이스트에이드 대표는 "딥서치와의 협력으로 포털 줌 이용자들에게 AI 기반 혁신적인 금융 투자 콘텐츠를 제공할 수 있어 기쁘다"며 "앞으로도 다양한 AI 기반 콘텐츠와 서비스를 통해 회사의 AI 경쟁력을 더욱 강화해 나갈 것"이라고 말했다.

2024.11.04 10:55장유미

딥엑스, '2024 AIoT 국제 전시회'서 HP와 AI PC 시연

AI 반도체 기업 딥엑스는 지난 주 코엑스에서 열린 '2024 AIoT 국제 전시회'에서 딥엑스 'DX-H1'를 HP의 Z 워크스테이션에 탑재해 기존 워크스테이션을 AI PC로 변신시켰다고 4일 밝혔다. 현재 딥엑스의 DX-H1은 글로벌 워크스테이션 및 서버 시장을 선도하는 기업들의 제품에 연동해 호환성을 검증 중이다. 첫 번째로 HP 제품에서 최신 객체 인식 알고리즘을 100채널 이상 동시 연산 처리할 수 있는 성능을 선보였다. 이번 시연에서 HP 워크스테이션과 DX-H1의 완벽한 호환성을 통해 관람객들에게 강력한 AI 컴퓨팅 경험을 제공하며, 실시간으로 다채널 연산처리가 가능한 AI PC의 잠재력을 보여줬다. 이러한 고성능 솔루션은 머신 비전 카메라를 활용한 공장 자동화 및 산업 안전 분야, 신속한 데이터 분석과 의사결정을 필요로 하는 물리보안 산업 등에서 중요한 역할을 할 것으로 기대된다. 딥엑스는 "이번 전시회에서 성공적인 협업을 통해 딥엑스 DX-H1의 실제적 적용 가능성을 입증했다"며 "앞으로도 AI와 컴퓨팅 기술의 발전을 위해 지속적인 협력을 이어갈 계획"이라고 밝혔다.

2024.11.04 08:35장경윤

딥브레인AI, 중동 시장 '공략'…자이텍스 글로벌서 AI 솔루션 시연

딥브레인AI가 중동 최대 ICT 전시회에 참가해 시장 확대에 나선다. 인공지능(AI) 기술을 기반으로 한 다양한 솔루션을 선보이며 중동 진출에 박차를 가할 계획이다. 딥브레인AI는 지난달 14일부터 18일까지 아랍에미리트 두바이에서 열린 '자이텍스 글로벌(GITEX Global) 2024'에 참가했다. 올해로 44회째를 맞은 자이텍스 글로벌은 세계 3대 IT 전시회 중 하나로, 180개국에서 약 6천700개 기업이 참여한 대규모 행사다. 딥브레인AI는 이번 전시회에서 자사의 주요 기술인 'AI휴먼', 'AI스튜디오스', '딥페이크 탐지 솔루션'을 소개했다. 특히 현지 언어인 아랍어를 지원하는 'AI휴먼 키오스크'는 많은 관람객의 관심을 끌며 중동 시장 확장에 긍정적 신호를 보였다. 'AI휴먼 키오스크'는 딥러닝 기반의 영상·음성 합성 및 자연어 처리 기술을 통해 사람과 자연스러운 대화가 가능하다. 관람객들은 간단한 대화로 서비스를 제공받아 접근성이 높고 편리한 '키오스크'의 장점에 주목했다. 또 'AI스튜디오스'는 텍스트 입력만으로 맞춤형 가상인간 영상을 제작할 수 있는 서비스형 소프트웨어(SaaS)형 서비스로, 중동 시장 내에서도 그 기술력을 인정받아 다수의 고객을 확보하고 있다. 딥브레인AI는 이를 통해 향후 중동 기업들과 B2B 협력도 추진할 계획이다. 딥브레인AI의 '딥페이크 탐지 솔루션'은 원본과 변조된 픽셀 차이를 분석해 딥페이크 여부를 판별하는 기술이다. 이 솔루션은 이미 국내 관공서에서도 상용화됐으며 AI 기술 악용을 방지하기 위한 추가 연구가 진행 중이다. 장세영 딥브레인AI 대표는 "자이텍스 글로벌에 4년 연속 참가한 것은 우리 기술력을 인정받은 결과"라며 "중동 방송국과 은행에서도 큰 관심을 보이고 있어 향후 협력 가능성이 클 것으로 기대된다"고 말했다.

2024.11.03 08:54조이환

中도 우주관광 시대 연다…"티켓 가격 약 3억원" [우주로 간다]

중국 우주탐사기업 딥블루 에어로스페이스(Deep Blue Aerospace)가 우주 관광 사업에 뛰어든다고 우주과학매체 스페이스닷컴이 24일(현지시간) 보도했다. 딥블루 에어로스페이스는 최근 “2027년에 유료 고객을 준궤도 우주로 발사할 계획”이라고 발표했다. 이 우주여행 티켓의 가격은 1장 당 150만 위안(약 2억 9천만원)이다. 회사 측은 준비 중인 우주관광 상품에 대해 짧은 무중력 체험 그 이상을 얻을 수 있다고 성명을 통해 밝혔다. 회사 측은 이날 라이브 행사에서 티켓 2장을 곧 판매할 계획이라고 밝혔다. 또, "우주의 광활함과 신비로움을 경험하고 지구 너머의 웅장한 풍경을 목격하게 될 것이다. 평생 잊지 못할 만능의 다감각적인 우주 여행이 될 것"이라고 덧붙였다. 회사 측은 성명을 통해 딥블루의 준궤도 우주비행 시스템인 로켓과 우주캡슐 렌더링도 공개했다. 로켓은 제프 베조스의 우주탐사 기업 블루 오리진의 뉴 셰퍼드와 유사한 재사용 로켓이다. 뉴 셰퍼드는 지난 8월 말까지 총 8번의 준궤도 유인 우주비행을 수행한 바 있다. 블루오리진의 뉴 셰퍼드 로켓은 승객 6명을 태우고 약 100km 상공의 준궤도로 데려간 후 몇 분간 무중력 상태를 체험하게 한다. 이륙에서 캡슐 착륙까지 10~12분 동안 지속되는 여행 동안 우주의 어둠 속에서 지구를 볼 수 있다. 스페이스닷컴은 딥블루의 준궤도 우주상품도 이와 비슷할 가능성이 크다고 밝혔다. 블루 오리진 외에도 우주관광객을 준궤도로 보낸 업체는 버진 갤럭틱이다. 버진 갤럭틱의 우주광광 상품의 가격은 현재 좌석당 45만 달러(약 6억 2천만원)이며, 블루 오리진은 가격을 공개하지 않았다. 딥블루에어로스페이스는 "2026년 수십 번의 테스트를 거쳐 준궤도 유인 여행의 안전성과 신뢰성을 보장하고, 2027년에 공식적으로 준궤도 여행의 상용화를 시작할 것"이라고 밝혔다. 중국에서도 많은 업체들이 우주관광 상품을 개발 중이다. 중국과학원(CAS)에서 분사한 우주기업 'CAS 스페이스'도 준궤도 여행용 자체 우주선을 개발 중이다.

2024.10.25 10:09이정현

구글, '신스ID 텍스트' 오픈소스로 공개..."AI 작성 텍스트 잡아낸다"

구글이 생성형 인공지능(AI) 모델이 작성한 텍스트 감지 및 워터마크 삽입 기술 '신스ID 텍스트'를 오픈소스로 공개했다. 이에 따라 개발자, 기업 등도 신스ID 텍스트를 사용할 수 있게 됐다. 더버지 등 외신에 따르면, 구글 딥마인드는 23일(현지시간) X 게시글을 통해 "신스ID 텍스트 워터마킹 도구를 오픈 소스로 공개한다"며 "개발자와 기업이 무료로 사용할 수 있고 AI에서 생성한 콘텐츠를 식별하는 데 도움이 될 것"이라고 밝혔다. 신스ID 텍스트는 AI 모델이 생성한 텍스트에 보이지 않는 워터마크를 삽입하는 기술이다. AI로 제작된 이미지, 영에 눈에 띄지 않는 워터마크를 삽입하는 기존 '신스 ID' 기술을 텍스트에 확대 적용한 것이다. 현재 텍스트용 신스ID는 AI 플랫폼 '허깅페이스(Hugging Face)'와 구글의 '책임감 있는 생성 AI 툴킷(Responsible Generative AI Toolkit)'에서 다운로드할 수 있다. LLM은 텍스트를 문자, 단어, 구문 등 토큰으로 분해한 다음 특정 토큰 뒤에 나올 가능성이 높은 토큰에 대해 예측한다. 각 토큰은 문장의 다음 단어로 선택될 가능성에 대한 백분율 점수를 받는다. 백분율이 높을수록 출력 텍스트에 포함될 가능성이 높다. 이때 신스ID 텍스트는 토큰 선택 점수 패턴과 조정 확률 점수를 합쳐 출력된 텍스트를 생성형 AI 모델이 작성한 것인지 구분한다. 푸쉬밋 콜리 구글 딥마인드 AI 연구 부사장은 MIT 테크놀로지 리뷰와의 인터뷰에서 신스ID 텍스트를 언급하며 "이제 AI 개발자는 이 기술을 사용해 텍스트 출력이 대규모 언어 모델에서 나왔는지 감지할 수 있다"며 "더 많은 개발자가 책임감 있게 AI를 사용하기 더 쉬워질 것"이라고 말했다.

2024.10.24 11:02조수민

딥엑스, DX-M1 저전력 성능 입증...양산 체제 돌입

딥엑스는 AI 반도체 'DX-M1'가 버터 벤치마크 실험을 통해 글로벌 경쟁 제품 대비 초격차 기술력을 입증했다고 밝혔다. 이번 실험은 발열 관리가 성능과 제품 수명에 미치는 영향을 고려할 때, 딥엑스의 차별화된 저전력 및 고효율 기술력을 부각하는 중요한 계기가 됐다. 버터 벤치마크 실험은 반도체의 발열 성능을 직관적으로 시각화할 수 있는 간단한 방법으로 30~36℃에서 녹는 버터를 반도체 칩 위에 놓고 구동 중에 발생하는 열을 비교하는 방식으로 이루어진다. 반도체가 발열을 제대로 관리하지 못할 경우, 성능 저하와 응용 시스템의 오작동을 초래할 수 있어 과도한 전력 소모를 일으키는 AI 반도체에서 저전력 설계는 필수적인 기술이다. 이번 실험에서 딥엑스의 DX-M1은 대표적인 객체 인식 AI 알고리즘인 Yolo5s 모델을 초당 30번 추론하는 작업 중에 버터가 녹지 않을 정도로 뛰어난 발열 제어 성능을 입증했다. 동일한 조건에서 테스트 된 경쟁사 제품들은 버터가 빠르게 녹아내리며 발열 관리의 한계가 드러났다. Yolov7 같은 더 복잡한 알고리즘에서도 DX-M1은 동일한 조건에서 경쟁 제품을 20~40도의 저온 차이로 압도하는 성능을 보여주며 기술적 우위를 다시 한번 입증했다. 특히 DX-M1은 주변 온도를 상승시켜 140도라는 극한의 온도에서도 안정적인 성능을 유지하는 것을 확인했다. 딥엑스는 올 하반기부터 DX-M1의 양산 체제에 본격 돌입했으며, 수율 확보를 위한 다양한 기술 검증을 진행하고 있다. MPW(멀티 프로젝트 웨이퍼)로 제작된 샘플을 통해 조기 양산 테스트와 신뢰성 테스트를 진행해 양산성과 수율을 극대화하고 있다. 또한 OSAT(후공정) 파트너사들과 협력해 다양한 응용 분야에 맞춘 칩 패키지를 다변화함으로써, 제품의 단가를 최적화고 품질은 극대화하고 있다. 딥엑스는 "DX-M1는 물리보안 시스템, 로봇, 산업용 솔루션, 서버 등의 여러 응용 분야에서 글로벌 기업들과 양산 협력을 진행하고 있다"고 전했다. 한편, 딥엑스는 오는 23일부터 25일까지 서울 코엑스에서 개최되는 국내 최대 반도체 전시회 '2024 반도체대전'에 참가해 DX-M1 등 주력 제품을 선보일 예정이다.

2024.10.21 10:26이나리

"딥페이크 식별 위해 AI 생성물 표시 의무 해야"

딥페이크와 실제 사실을 구분하지 못해서 발생하는 위험으로부터 이용자를 보호하고 사회적 혼란을 줄이기 위해서 인공지능(AI)으로 생성되거나 조작된 정보는 별도로 표시하도록 의무화하는 방안이 필요하다는 제언이 나왔다. 딥페이크는 인공지능(AI)으로 만든 가상의 정보이지만 실제 사실처럼 정교해서 사람들이 가짜임을 구분하기가 어렵다. 현실감 넘치는 콘텐츠 제작에 유용하게 사용되기도 하지만, 타인 사칭 범죄나 합성음란물에 악용되어 사회적 혼란과 개인의 피해를 초래하기도 한다. 국회입법조사처의 '이슈와 논점' 보고서에 따르면 AI로 만든 정보임을 표시하여 사람들이 딥페이크를 쉽게 식별하고 위험을 예방하게 할 필요가 있다. 분야별 딥페이크 규제와 AI 관점의 일반 규제가 서로 맞물리는 '이중 안전장치'를 갖춰야 한다는 지적이다. 현재 유럽연합은 '인공지능법'을 시행하고 있다. 이 법은 AI 시스템 제공자와 배포자에게 AI 생성물임을 표시하는 의무를 부과해 사람들이 딥페이크를 쉽게 식별하는 기반을 만들었다. 다만 범죄 수사나 순수한 예술·표현 등에 사용되는 딥페이크에 대해서는 공개 의무가 적용되지 않는다. 또 초대형 온라인 플랫폼 사업자가 실존 인물, 물체, 장소 등과 상당히 유사하고 진실인 것처럼 보이도록 생성 또는 조작된 콘텐츠를 온라인에 게시하려면 그것이 조작된 것임을 눈에 잘 띄게 표시하는 의무를 부과한다. 미국에는 연방 차원의 AI 규제법은 없다. 대신 정부공공기관에 AI 관련 의무를 부과하기 위해 2023년 12월 바이든 대통령의 행정명령이 시행 중이다. 미국은 딥페이크를 합성콘텐츠로 규정하고 정부에 합성콘텐츠의 진위와 출처를 확인하는 방안을 마련하도록 했다. 이에 따라 정부는 상무부장관이 중심이 돼 콘텐츠 진위 여부를 확인하고 출처를 추적하는 방법, 합성콘텐츠임을 표시하는 방법, 합성콘텐츠를 탐지하는 방법 등 AI로 생성한 정보를 식별하는 기술을 개발해야 한다. 연방의회에는 AI 생성물임을 표시하도록 의무화하는 법률안이 다수 발의되어 있다. 딥페이크 제작자를 공개하고 딥페이크 탐지 기술을 적용하도록 규정한 '딥페이크 책임법안', AI 개발자와 이용자 등에게 AI로 만든 콘텐츠임을 표시하는 의무를 부과하는 '인공지능 표시법안', 생성형 AI 서비스 제공자에게 가상 정보를 생성한 애플리케이션의 이름, 콘텐츠를 생성하거나 수정한 날짜와 시간 등의 메타데이터를 제공하도록 의무화한 '기만적인 AI로부터의 소비자 보호법안' 등이다. 국내도 AI법안을 논의중이다. 제22대 국회에는 1건의 인공지능법안이 발의돼 있고, 이 중에서 5건 법안이 생성형 AI로 만든 콘텐츠는 해당 사실을 표시하도록 규정한다. 생성형 AI를 이용하여 제품 또는 서비스를 제공하려는 자는 해당 제품 또는 서비스의 결과물이 생성형 AI에 의하여 생성됐다는 사실을 표시해야 한다. 또 '정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부개정법률안'에도 AI 생성물임을 표시하는 법률안이 존재한다. 국회입법조사처는 현재 시행 중인 유럽연합 '인공지능법'과 미국 '인공지능 행정명령', 국내에 발의된 다수의 인공지능법안 내용을 기반으로 AI로 만든 정보임을 표시하도록 하는 입법 방안을 모색해야 한다고 밝혔다. 먼저 표시 의무 적용 범위는 'AI로 생성한 콘텐츠'로 설정해 명확성을 높이고, 대신 피해 가능성이 낮은 분야는 예외로 설정하는 것이 적절하다고 제안했다. '실제와 구분하기 어려운' 등의 요건을 추가할 경우 판단 과정에 주관성이 개입되어 법률 집행의 혼란이 발생할 우려가 있다. 또한 AI 모델을 개발, 판매하는 자에게는 기계 판독 가능한 메타정보 제공과 같은 식별가능성 확보 의무를 부과하고, AI 모델을 자신의 제품・서비스에 활용하는 자에게는 AI로 생성된 정보임을 표시하는 의무를 부과하여 딥페이크의 대량생산에 대응해야 한다. 이용자가 직접 오픈소스 등으로 AI를 만들어 생성한 콘텐츠는 타인에게 공개・제공될 때 표시하도록 규정할 수 있다. 이에 딥페이크 콘텐츠를 유통하는 온라인 플랫폼은 적법한 표시 의무를 이행하지 않은 콘텐츠에 대한 처리 방침을 명확히 공개하고, 부적절한 표시가 되었다고 신고된 콘텐츠에 대해서는 삭제 또는 임시조치하도록 할 필요가 있다는 설명이다. 마지막으로 제도 정착을 위한 정부의 지원도 필요하다. 정부는 AI 생성물 표시 제도의 정착을 위해 관련 기술의 개발, 긴밀한 국제협력, 국민의 디지털 리터러시 함양을 지원해야 한다. 보고서는 "AI 발전 속도를 고려한다면 앞으로 딥페이크는 더욱 증가하고 정교해질 것이다. 지금처럼 피해자의 신고에 의존하거나 규제기관의 모니터링으로 차단하는 방식은 한계에 직면할 수 밖에 없다"며 "딥페이크가 만들어지고 유통되는 단계에서 적절하게 표시될 수 있도록 의무화하는 것이 필요하다"고 밝혔다.

2024.10.18 15:10최지연

'버터도 녹지 않는 AI 반도체'...딥엑스, 저전력 성능 시연

AI 반도체 기업 딥엑스가 오는 23일부터 25일까지 서울 코엑스에서 개최되는 국내 최대 반도체 전시회 '2024 반도체대전'에 참가해 저전력 성능을 증명한다. 이번 전시회에서 딥엑스는 글로벌 IPC(Industrial PC) 제품 선도 기업들과 DX-M1 M.2 모듈로 협업해 최신 AI 모델인 비전 언어 모델(VLM; Vision Language Model)을 온디바이스에서 다채널로 구동하는 실시간 데모를 선보일 예정이다. 이 모델은 전기차 화재 또는 군중 밀집과 같은 위험한 상황을 실시간으로 이해하고 자동으로 알람을 알려줘 많은 고객의 관심을 받아왔다. 딥엑스는 또한 자사의 저전력 초격차 기술을 현장에서 직접 체험할 수 있는 버터 발열 테스트를 진행한다. 관람객들은 사람의 체온에서 녹는 버터가 AI 연산 처리 중에도 DX-M1 실리콘 위에서 녹지 않는 모습을 보고 직접 만져 봄으로써 딥엑스의 혁신적인 저전력 성능을 확인할 수 있다. 이는 딥엑스의 '버터도 녹지 않는 AI 반도체'라는 차별화된 기술력을 상징하며 초격차 기술을 직관적으로 체험할 기회를 국내에서도 선보인다. 딥엑스의 AI 토탈 솔루션은 싱글 보드 컴퓨터인 라즈베리 파이에서부터 하이퍼스케일 데이터센터까지 확장가능한 폭넓은 호환성을 자랑한다. 특히 서버급 제품 DX-H1 PCIe 모듈은 글로벌 서버 업체인 HP, 케이투스와의 협력하에 최신 객체 인식 AI 알고리즘을 100채널 이상 실시간으로 구동하는 데 성공했다. 이 또한 현장에서 확인할 수 있으며 스마트 카메라, 로봇 플랫폼, 산업용 임베디드 시스템, 서버 및 데이터센터 등에 적용 가능한 다양한 실시간 데모도 선보일 예정이다. 딥엑스는 현재 1세대 제품 양산 단계에 진입했으며 고객사가 필요로 하는 다양한 표준 인터페이스 및 애플리케이션 요구사항에 대응하는 맞춤형 솔루션을 제공하고 있다. 올 하반기 10여 개의 글로벌 기업과 양산 개발이 이루어지고, 내년 상반기까지 20여 개 이상의 고객사로 확장될 것으로 기대된다. 딥엑스는 현재까지 국내 및 해외에서 297건 특허 출원 및 71건 특허 등록이라는 성과를 내며 원천 기술 자산을 보유하고 있다. 이러한 기술력을 바탕으로 2023년 특허청 주최 발명의 날 단체 최고상인 대통령 표창 수상, 컴퓨텍스 타이베이에서 스타트업 테라스 어워드 수상, 2024년 CES에서 혁신상 3관왕 수상했으며 올해 최초로 세계경제포럼의 다보스 포럼에 초청받았다. 딥엑스는 앞으로 10월 미국 테크크런치 디스럽트(TechCrunch Disrupt)를 비롯해 11월 유럽 일렉트로닠나(Electronica), 중국 심천 하이테크 페어, 내년 1월 CES 등에 참가해 AI 반도체 초격차 제품을 지속적으로 알릴 예정이다.

2024.10.14 08:32이나리

한국 헬스케어 현재와 미래, 한 눈에 확인한다

디지털 헬스케어 기업들이 서울 삼성동 코엑스에서 열리고 있는 디지털 혁신 페스타 2024(DINNO 2024)의 '디지털 헬스케어 존'에서 자사 제품과 서비스를 선보였다. 10일부터 12일까지 사흘 동안 열리고 있는 이번 행사에는 ▲강원테크노파크 ▲노보노디스크제약 ▲딥바이오 ▲라온메타 ▲리얼타임메디체크 ▲스마트 병원 RaaS 사업추진단 ▲연세대학교 디지털헬스케어사업단 ▲우리아이오 ▲웰트 ▲전남바이오진흥원 ▲차의과학대학교 ▲히포티엔씨 (가나다순) 등이 참석했다. 차의과대학 정보의학연구소는 질병을 예측해 주는 플랫폼 'K-DisNet'을 선보였다. 해당 플랫폼은 국민건강보험의 빅데이터를 활용해 개인의 건강 상태에 따라 질병 발병을 예측해 주는 역할을 한다. 대학 관계자는 “질병을 예측해 준다는 말에 관람객들이 관심을 보였다”며 “디지털 헬스케어를 홍보하는 목적도 있고, 민감한 의료정보는 암호화해 데이터 유출을 최소화한다는 점도 알리고 싶어 참가했다”고 참가 목적을 밝혔다. 또 “추후 보험 회사나 건강기능식품 처방 등에도 응용할 수 있을 것”이라며 내년 초 정식 출시를 앞두고 있다고 밝혔다. 연세대학교 미래캠퍼스는 스마트의료기기와 원격의료서비스를 준비했다. 학교 관계자는 “인바디와 혈압 등 개인의 건강 정보를 체크해 맞춤형 건강관리 솔루션을 주는 것이 목표”라며 “강원 지역에도 디지털 헬스케어 사업을 진행하고 있다는 것을 알리고 싶다”고 포부를 밝혔다. 강원테크노파크도 행사에 참여해 강원 지역 디지털 헬스케어 기업들의 제품과 서비스를 소개했다. 웰트는 불면증 치료와 마약 중독 예방을 돕는 앱 '슬립큐'와 '마라큐'를 소개했다. 의사의 처방을 통해 수면 목표과제를 설정해 인지행동치료를 실시하고, 마약을 권유받았을 때 지역 치료 센터 연락처를 안내하는 등 역할을 한다. 딥바이오는 AI를 기반으로 한 전립선암 진단 솔루션을 소개했다. 조직검사 시 의료인을 도와 검사의 정확성과 효율성을 높일 수 있다는 것이 회사 관계자의 설명이다. 회사에 따르면 해당 시스템은 내년 중 개발이 완료될 예정이다. 우리아이오는 개발 단계에 있는 비침습혈당측정기를 소개했다. 당뇨 환자가 피를 뽑지 않고도 기구와 앱을 통해 혈당을 측정할 수 있는 시스템이다. 회사 관계자는 “당뇨 환자 한 분이 부스를 찾아와 기구를 구매하겠다고 하더라”며 “아직 개발이 완료되지 않아 판매할 수는 없지만, 기대에 감사함을 느꼈다”고 전했다. 한국노보노디스크제약은 인슐린 펜에 연결하는 말리야라는 제품을 전시했다. 해당 제품은 의료기기가 아닌 공산품으로, 앱과 연동해 얼마나 인슐린을 주사했는지 기록할 수 있다. 행사장을 찾은 관람객도 디지털 헬스케어 장비에 관심을 보였다. 자신을 학생이라고 소개한 한 관람객은 “질병 예측이 가장 흥미로웠다”며 “평소 운동을 하는 등 건강관리에 신경을 쓰기 때문에 관심이 갔다”고 소감을 밝혔다. 부스를 찾은 중년 여성 관람객은 “시력을 잴 겸 해서 부스를 체험했다”며 “현실적으로 도움이 되는 건강 솔루션을 준다면 좋을 것 같다”고 전했다.

2024.10.12 12:03류승현

[기고] AI 진흥과 규제의 경계

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. 익히 아는 것처럼 노벨상은 알프레드 노벨의 기일인 오는 12월 10일에 시상식이 개최된다. 시상식 날로부터 두 달 전인 10월의 첫 번째 월요일부터 하루에 한 분야씩 수상자가 공식 발표된다. 올해는 토론토 대학의 제프리 힌튼 교수와 프린스터 대하의 존 홉필드 교수가 노벨 물리학상 수상자로 발표됐고 알파고로 유명한 데이비드 허사비스 구글 딥마인드 대표가 노벨 화학상의 수상자 중 하나로 발표됐다. 수상자를 발표하는 스웨덴 한림원도 수상 과정을 설명하면서 인공지능(AI) 기술이 인류에 얼마나 공헌해 왔는지를 설명했다. 이제는 AI 기술이 IT 기술의 영역이 아니라 인류의 일상 생활에 깊이 들어왔다는 점을 다시 한번 느끼게 된다. AI 기술에 대한 국가적 관심은 우리나라도 다름이 없다. 최근 대통령을 위원장으로 하는 국가AI위원회를 출범시키면서 글로벌 3대 AI 강국의 반열에 들겠다는 목표로 '국가총력전'을 선포했다. 다소 구시대적이고 식상한 느낌이 들기도 하지만 AI 산업 분야에 정부가 관심을 가지고 연구 개발과 산업화가 잘 이루어질 수 있도록 지원한다는 것이니 굳이 색안경을 끼고 부정적으로만 볼 것은 아니다. AI 기술이 향후 우리가 주목해야할 먹거리라는 점에 대해서는 큰 틀에서는 긍정적인 논의의 줄기가 잡히는 것 같다. 그럼에도 세부적으로 들어가면 쉽지 않은 이슈들이 산적해 있다. 당장 AI 기술이 가짜 뉴스, 딥페이크 기반 허위 영상물 등의 제작과 배포를 손쉽게 해 사회적으로 허용하기 어려운 수준의 범법 행위들이 널리 이루어질 수 있다는 점이 문제가 되고 있다. 과거 인터넷 기술이 그러했던 것처럼 AI 기술은 말 그대로 도구이자 기술일 뿐이라는 점에 대해서는 누구나 공감한다. 그럼에도 그로 인해 발생할 수 있는 피해를 예방하기 위해서 '직접' 규제를 하게 되면 결국에는 기술 자체에 부정적인 전후방 효과가 발생할 수밖에 없다. 전폭적인 지원 정책으로도 그 수준을 올리기 어려운 치열한 글로벌 기술 경쟁 상황에서 브레이크로 작동할 가능성이 높다는 우려도 제기되고 있다. 최근 국회는 아동 청소년 딥페이크 처벌 강화법이라는 내용으로 디지털 성범죄에 대한 처벌 강화를 위한 소위 아청법과 성폭법 개정안을 의결했다. '아동, 청소년의 성보호에 관한 법률'은 성착취물을 이용한 아동, 청소년 대상 협박 강요 범죄의 처벌 규정을 신설해 처벌을 강화했다. 또 딥페이크 등 디지털 성범죄의 긴급 신분 비공개 수사를 허용해 피해자의 긴급한 구조가 가능하도록 하는 내용을 담았다. '성폭력방지 및 피해자 보호 등에 관한 법률'은 그 자체로는 딥페이크 기술을 이용한 불법 촬영물에 관한 새로운 내용이 포함된 것은 아니다. 그럼에도 불구하고 법안의 개정은 관련 업무를 국가의 책무로 명시하고 디지털 성범죄 피해자 지원 센터 운영의 근거 규정을 신설해 피해자 보호 등의 사업을 할 수 있도록 했다. 이러한 내용들은 충분히 국가가 AI 기술 확산으로 인한 부작용을 방지하기 위해 미리 준비해야 할 영역임에는 틀림이 없다. 개정안에는 딥페이크 기술을 활용한 불법 촬영물은 소지하는 것만으로 형사처벌을 하겠다는 내용이 포함돼 있는데 최근 해당 기술을 활용한 사례들이 사회적으로 문제가 되고 있는 점을 고려해 보면 충분히 이해 가능한 부분이기도 하다. 그럼에도 불구하고 기술의 부작용을 미리 염려해 실시된 각종 규제들이 기술 발전에 예상치 못한 방해물로 작용해 왔다는 사실은 이미 오랜 기간 동안 선례로 쌓여 왔다. 인터넷 부작용을 우려해 콘텐츠에 대한 제재를 엄격하게 했다면 현재처럼 우리나라가 인터넷 강국의 지위에 오를 수 있었을런지 의문이다. 게시글의 악영향을 차단하기 위해 실명제를 도입한 이후 국내 콘텐츠 사업자들이 크게 영향을 받을 수밖에 없었던 사건은 그리 오래되지도 않았다. 최근 유럽연합(EU)은 유럽 인공지능법(EU AI법) 제정을 통해 AI에 대한 포괄적인 규제를 시도하고 있다. 그럼에도 이 법이 EU 내 AI 기술 발전에 어떠한 영향을 미칠 것인지 여전히 설왕설래가 오가고 있다. 최근 미국 캘리포니아에 제안된 AI 안전법안(Safe and Secure Innovation for Frontier Artificial Intelligence Models Act) 역시 마찬가지다. 이 법안이 AI 모델의 규모만 고려할 뿐 그 활용 맥락은 고려하지 않고 일률적인 규제를 하는 것이 적절한지에 대하여 논란이 있기 때문이다. 바로 이 점을 들면서 주지사가 법안에 대한 거부권을 행사했다는 점 역시 AI 기술에 대한 포괄적인 규제가 가져올 부정적인 영향을 무시하기 어려운 사정이 있기 때문이라는 평가들이 존재한다. 이와 반대로 연구 개발과 발전이 진행 중인 과학기술 분야에서 일정한 기준 또는 규제가 존재해서 예측가능성을 부여하고 안정적인 개발과 운영이 이루어진 사례들도 매우 많다. 다소 이른 수준의 규제라고 모두 관료제의 병폐인 적기 조례(Red flag act)가 되는 것은 아니다. 그럼에도 그 규제가 이른 것인지 아니면 이미 늦었는지 사전적으로는 매우 판단하기 어렵다. 또 해외 사례가 반드시 정답인 것도 아니다. 결국 입장이 다른 이해관계자들이 머리를 맞대고 각자의 선의를 모아 최선의 결론을 내릴 수밖에 없다. 비록 아무 것도 하지 않는다는 것이 그 결론일지라도 말이다. 의사 결정 과정에서 정부의 적극적인 의지와 입장 표명이 중요한 점은 두말할 나위도 없다. 큰 눈으로 이슈를 바라보고 저 멀리까지 바라볼 수 있는 넓은 시야가 요구되는 시점이다.

2024.10.11 15:30법무법인 태평양 강태욱

CES도 인정한 디지털 병리기업 '딥바이오', 디노2024서 기술력 뽐내

미래 헬스케어를 위해 도전과 혁신의 길을 자청한 이들이 있다. 그들이 선택한 길은 때로는 희망보다 좌절이 더 클 것이다. 특히 제약바이오, 디지털헬스, 백신 및 바이오 등처럼 효과성과 안전성을 확보해야 하는 헬스케어 영역은 단기간 내 결과를 낼 수 없기 때문에 한 치 앞도 낙관할 수 없는 막막함과의 싸움일 터다. 그럼에도 '한방'보다 '한끝'으로, 우직하게 독창적인 기술력과 서비스, 연구개발로 우리 보건 산업의 미래를 밝히는 이들이 제 자리를 지키고 있다. 그들을 지디넷코리아가 만나봤다. 국내 디지털 병리진단 분야를 선도하고 있는 딥바이오가 10일~12일 서울 코엑스에서 개최 중인 디지털 혁신 페스타 2024(DINNO 2024)에 단독 부스를 마련해 자사 제품과 서비스를 선보였다. 다음은 딥바이오와의 일문일답. Q. 기업 소개를 부탁합니다. A. 지난 2015년 설립된 딥바이오는 딥러닝 및 암 병리진단 의료 인공지능 개발 기업입니다. 현재 체외진단 의료기기 소프트웨어(IVD SaMD)를 개발 중입니다. 딥바이오가 개발한 소프트웨어는 의료전문가들의 암 진단 정확도를 높이고, 예후를 판정하는 데 도움을 줍니다. 더 나은 치료 의사결정을 끌어내기 위해서입니다. Q. 주요 제품은 무엇입니까. A. 유럽 CE-IVD를 받은 딥바이오 전립선암 분석 AI 솔루션 '딥디엑스 프로스테이트(DeepDx Prostate)'는 조직 검사를 통해 얻은 고해상도 영상(whole slide tissue image)을 분석해 실제 암 병변 부위를 식별 및 분할하고 글리슨 패턴에 따른 분류로 정확한 종양 위치 파악, 진단·예후·치료 계획에 중요한 역할을 하는 글리슨 점수 산정 등 여러 핵심 지표를 제공하고 있습니다. 딥바이오의 DeepDx 제품군은 정밀한 암 진단을 위해 설계된 AI 기반 IVD SaMD 도구를 포함하며, 이미지 관리 시스템(IMS)과 통합되거나 딥바이오의 자체 뷰어와 함께 사용, 병리의사에게 유연성과 진단 효율성의 향상을 제공하고 있습니다. 제품군은 ▲DeepDx Prostate ▲DeepDx Prostate – RP ▲DeepDx Prostate – TURP ▲DeepDx Breast – Resection ▲DeepDx Breast – SLNB 등이 있습니다. 아울러 유방암·폐암·피부암 등에 대한 바이오마커 기반 동반 진단 테스트 및 전통적인 조직병리학 테스트를 포함한 파이프라인을 확장하고 있습니다. Q. 전립선암 분석 AI 솔루션으로 CES 혁신상을 수상하셨다고요. A. 전립선암 분석 솔루션은 암 진단에 대한 상세한 분석 결과와 함께, 결과 보고서를 제공합니다. 이를 통해 딥바이오는 환자와 의료전문가에게 의료정보에 대한 접근성을 향상시켰다는 점을 인정받아 올해 CES 혁신상(CES Innovation Awards)을 수상했습니다. 딥바이오는 ▲2021년 제2회 소셜 DNA 혁신상 ▲2021년~2023년 코리아 AI 스타트업 100 연속 선정 ▲2023년 초격자 스타트업 등에 선정되기도 했다. Q. 이번 디노 2024 참석을 통한 기대효과는 무엇입니까. A. 암 진단 AI 분석 디지털 병리 솔루션에 대해 일반인과 의료 전문인을 대상으로 인식을 제고하고자 합니다. 이와 함께 자사의 암 분석 AI솔루션 딥디엑스 파이프라인도 홍보할 예정입니다. 이를 통해 디지털 AI 의료 기업으로서의 선도기업 이미지를 구축코자 합니다.

2024.10.11 15:14김양균

"삼성·LG도 택했다"…세이지, 비전기술로 해외 시장 공략

세이지가 딥러닝 기반 비전 솔루션으로 글로벌 고객사를 공략한다. 세이지는 8~10일까지 독일 슈투트가르트 전시장에서 열리는 머신 비전 무역 박람회 '비전(VISION)2024'에 참가한다고 8일 밝혔다. 이번 박람회는 머신 비전의 다양한 산업 분야에서 약 379여개 기업이 참가한다. 참관객은 약 6천500명이다. 세이지는 이번 전시에서 딥러닝 기반 머신 비전 '세이지 비전(SAIGE VISION)'을 선보인다. 세이지 비전은 기존 룰 기반(rule-based) 학습 한계를 극복하기 위해 개발된 인공지능(AI) 솔루션이다. 딥러닝 알고리즘으로 제품 표면에 발생한 비정형적 결함을 자동 검출하고 불량 여부를 판단을 돕는다. 세이지는 최근 중소벤처기업부가 주관하는 '스케일업 팁스(TIPS)' 과제에 최근 선정됐다. 스케일업 팁스는 중소 벤처 규모 확장 촉진을 위해 민간 운영사가 유망 기업을 발굴하는 사업이다. 운영사가 자금을 투자하면 정부가 이후 매칭 투자와 출연 연구·개발(R&D)를 병행해 지원하는 식이다. 이 외에도 세이지는 AI 기반 공정 모니터링 및 개선을 수행하는 '세이지 빔스(SAIGE VIMS), 지능형 산업 현장 모니터링 시스템 '세이지 세이프티(SAIGE SAFETY)도 공급하고 있다. 삼성SDI, LG에너지솔루션이 품질 검사에 세이지 솔루션을 활용하고 있다. 세이지 이성우 마케팅 리드는 "이번 박람회를 통해 유럽을 포함한 전 세계에 자사 비전 기술력을 선보일 것"이라며 "본격적인 해외 시장을 공략하겠다"고 말했다.

2024.10.08 11:31김미정

"AI가 개인정보만 잊게 한다"…BBC가 '이 대학' 연구 주목한 이유는

"인공지능(AI)이 학습한 개인정보를 재학습 없이도 삭제할 수 있는 기술을 개발했습니다. 이는 AI 성능을 유지하면서도 개인정보 보호를 실현하는 최적의 방법입니다." 성균관대학교에서 AI와 사이버 보안을 연구하는 우 사이먼 성일 교수 겸 대시랩(Dash Lab) 소장은 최근 성대 수원 자연과학캠퍼스에서 기자와 만나 자신의 최신 연구 성과인 '머신 언러닝(Machine Unlearning)' 기술을 설명하며 이같이 밝혔다. 그는 AI 기술의 급속한 발전으로 개인정보 보호가 중요한 이슈로 부각되고 있는 상황에서 일부 데이터를 효율적으로 제거하는 기술의 필요성을 강조했다. 7일 업계에 따르면 최근 AI가 방대한 데이터를 학습하면서 개인정보까지 처리해 프라이버시를 침해하는 사례가 증가하고 있다. 이에 따라 개인정보 데이터를 AI 내에서 효율적으로 삭제하는 처리절차가 점점 더 중요한 과제로 부상하고 있다. 기존에는 AI 모델에서 개인정보를 포함한 일부 데이터를 삭제하려면 모델 전체를 처음부터 재학습시켜야 해 엄청난 시간과 비용이 소요됐다. 이러한 비효율을 해결하기 위해 우 교수가 최근 개발하고 특허를 낸 것이 '머신 언러닝' 기술이다. 머신 언러닝은 이미 학습된 딥러닝 모델에서 특정 데이터만을 선택적으로 삭제하는 기술이다. 민감한 정보가 포함된 데이터를 명령에 따라 효율적으로 제거하면서도 모델을 처음부터 재학습할 필요 없어 시간과 비용을 크게 절감하는 동시에 성능을 유지할 수 있다. 우 교수는 "'챗GPT' 등 거대 언어 모델(LLM)에서 특정 데이터를 삭제하고 다시 학습하려면 최소 3개월에서 6개월의 시간과 수백만 달러의 비용이 든다"며 "머신 언러닝 기술은 이러한 문제를 해결해 기업과 개인 모두에게 효율적인 솔루션을 제공할 가능성을 열었다"고 설명했다. 이 기술의 핵심은 고급 알고리즘을 활용해 일부 데이터를 제거하면서도 나머지 데이터를 보호하는 방식에 있다. 딥러닝 모델이 제거 대상 데이터를 더 이상 학습에 반영하지 않게 하면서도 발생가능한 부작용을 최소화한다. 이에 따라 모델은 삭제된 데이터를 제외하고 남은 데이터만으로도 빠르게 학습을 완료해 전체 모델의 성능과 정확성을 유지한다. 그는 "기존에는 4만5천 장의 데이터를 재학습해야 했던 것을 이 기술을 통해 5천 장만 학습시켜도 되게 됐다"며 "학습 시간 역시 4천 초에서 77초로 대폭 단축됐다"고 설명했다. 우 교수의 연구실은 AI 해악 방지 기술 개발로 국제적으로도 주목받고 있다. 실제로 그는 최근 딥페이크와 생성 AI를 이용한 가짜사진을 탐지하는 기술을 개발해 영국 공영방송사인 BBC로부터 자문 요청을 받았다. BBC는 그의 논문 '대조 학습을 이용한 이미지 위조 탐지(CFL-Net : Image Forgery Localization Using Contrastive Learning)'에 주목했다. 이 논문은 대조 학습을 활용한 이미지 위변조 탐지 기술을 다룬 연구로, 위성사진뿐만 아니라 일반 이미지나 영상에도 적용 가능해 언론사들의 보도 정확성을 비약적으로 향상시킬 잠재력이 있다. 그는 "BBC가 우리 논문을 보고 가짜 이미지를 탐지할 수 있는 기법에 대해 문의해 왔다"며 "딥페이크와 같은 조작된 콘텐츠를 판별하는 기술이 사진의 진위를 판단해야하는 언론사에 필수적이기 때문에 연락한 것 같다"고 밝혔다. 우 교수가 이렇게 희귀하면서도 혁신적인 기술들을 개발할 수 있었던 배경에는 사이버 보안 분야에서의 오랜 연구 경험이 있다. 실제로 그는 성대 교수 부임 전에는 미 항공우주국(NASA), 인텔 등에서 사이버 보안 관련 연구를 수행한 경력이 있다. 우 교수는 "많은 연구자들이 AI나 정보 보안 중 한 분야에만 집중하는 것과 달리 두 분야를 모두 연구할 수 있었다"며 "이러한 간학문적 접근이 개인정보 보호와 AI 성능 향상을 동시에 이룰 수 있는 기술 개발로 이어졌다"고 밝혔다. 또 그는 "인공지능은 인간에 대한 보호와 함께 가야 한다는 마음으로 사람을 보호하는 기술에 매진하고 있다"고 강조했다. 우 교수의 연구들은 정부의 다양한 지원 사업 덕분에 가능했다. 특히 지난 2022년 시작된 언러닝 연구는 과학기술정보통신부의 재원과 정보통신기획평가원(IITP)의 지원을 통해 진행됐다. '개인정보 보호 정책 변화를 유연하게 반영하고 준수할 수 있는 AI 플랫폼 연구 및 개발'이라는 프로젝트 하에 수행된 이 연구는 개인정보 보호 관련 정책 변동에 신속하게 대응하는 AI 개발을 목표로 하고 있다. 그는 "기업들은 돈이 되지 않는다고 생각해 혁신에만 투자를 하는 경향이 있다"며 "감사하게도 정부 지원 덕분에 안전과 혁신이 같이 가는 방향에 기여할 수 있었다"고 밝혔다. 그러면서 "언러닝 기술로 시간과 비용이 절약되니 전 세계 어느 곳의 규제에도 발 빠르게 대응할 수 있게 돼 기업에도 실질적인 이익을 가져다줄 수 있다"고 덧붙였다. 우 교수는 랩실 연구 외에도 AI 인재 양성에 힘쓰고 있다. 성균관대가 실시하는 BK21, 인공지능대학원 및 융합보안대학원 사업 등을 통해 학생들이 AI 실무에 적합한 인재로 성장하도록 지원하고 있기 때문이다. 우 교수는 "전공자뿐만 아니라 문과 등 비전공자들도 AI 전문가로 성장할 수 있도록 다양한 교육 프로그램을 운영하고 있다"며 "취업이 어려워 고민하는 요즘 청년들이 실무 능력을 키우는 데 도움이 될 것"이라고 말했다. 이어 "인간을 위한 AI를 개발하는데 힘쓰는 동시에 사회에 도움되는 실사구시형 AI 인재를 키우는데도 집중하겠다"고 강조했다.

2024.10.07 16:19조이환

"살해 협박까지?"…美 볼티모어 고교 교장, '딥페이크' 음성에 당했다

미국 메릴랜드주 볼티모어 지역의 한 고등학교 교장이 인공지능(AI)으로 조작된 음성으로 인해 살해 협박까지 받는 일이 발생했다. 흑인·유대인을 비하하는 내용이 담겨 있었기 때문이다. 7일 BBC 등 외신에 따르면 에릭 아이스워트 볼티모어 파이크스빌 고등학교 교장은 지난 1월 인종차별 발언이 담긴 AI 조작 음성 파일로 인해 심각한 명예 훼손을 당했다. 아이스워트 교장은 조작된 음성파일로 인해 재직 학교를 옮겨야 했으며 소셜네트워크서비스(SNS) 상에서도 수십 개의 혐오·살해 위협 메시지를 받은 것으로 확인됐다. 외신들은 볼티모어 주민들이 조작된 음성을 진짜라고 믿었던 이유로 실제 사람들이 겪을 만한 사례를 중심으로 음성이 만들어졌기 때문이라고 분석했다. 또 영상이 오디오로만 이뤄져 AI로 조작된 영상이란 걸 눈치챌 수 있는 시각적 단서가 없었고 교장의 목소리로 교내 행정 용어와 학교 직원들을 언급하며 사실과 구분하기 힘든 파일이 만들어졌다고 보도했다. 그러나 볼티모어 거주 흑인인 알피 말론은 "교장이 흑인 학생들을 게으르다고 묘사하는 걸 듣자마자 학교와 직장에서 접했던 모욕과 차별이 생각났다"며 "흑인으로서 겪었던 인종차별 경험이 생각나 불쾌한 감정이 앞섰다"고 밝혔다. 당시 음성에는 지역 사회 흑인 아이들과 유대인들에 대한 비난이 섞여 있던 것으로 확인됐다. 볼티모어는 미국 내에서도 빈민층 흑인과 히스패닉이 많이 살고 총기 사건 등 강력범죄 발생 비율이 매우 높은 지역으로 꼽힌다. 로버트 맥컬러브 볼티모어 경찰서장은 지난 4월 녹음이 가짜라는 결정적인 증거를 확보하고 교장을 음해·스토킹한 혐의로 고등학교 운동부장인 다존 다리엔 교사를 기소했다. 다리엔은 딥페이크 음성으로 교장의 신뢰를 떨어트려 해고하려는 목적으로 해당 음성을 조작한 것으로 밝혀졌다. 볼티모어 경찰은 다리엔이 학교에서 약 1천916달러를 훔쳐 교장으로부터 조사를 받고 있던 사실도 찾아 절도 혐의를 추가했다. 볼티모어 교사 노조는 조작된 음성 파일로 인해 교장이 끝내 학교를 떠나야 했다는 점을 두고 안타까움을 드러냈다. 볼티모어 경찰 측은 "원본 음성을 보내는 데 사용된 이메일이 다리엔에게 연결된 것을 확인해 이를 바탕으로 추적했다"며 "그가 볼티모어 카운티 공립학교의 컴퓨터 네트워크를 사용해 AI 도구에 접근했고 올해 12월 재판을 받을 예정"이라고 말했다.

2024.10.07 15:22양정민

"딥페이크 멈춰"…딥브레인AI, 美서 혁신적 AI 솔루션 공개

딥브레인AI가 실리콘밸리에서 인공지능(AI) 기반 솔루션을 선보였다. 딥브레인AI는 지난달 25일부터 이틀간 미국 캘리포니아주 샌프란시스코에서 LG전자 북미이노베이션센터(LG NOVA)가 개최한 '이노베이션 페스티벌'에 참가했다고 7일 밝혔다. 이 행사는 글로벌 혁신 스타트업을 발굴하고 협력하기 위해 스타트업 관계자·투자자·기업가가 한자리에 모이는 교류의 장이다. 올해 행사의 주제는 '혁신의 등불을 밝히다'로, AI·클린테크·헬스케어 스타트업을 발굴하는 데 초점이 맞춰졌다. 딥브레인AI는 마련된 부스에서 ▲딥페이크 탐지 솔루션 ▲AI스튜디오스 ▲커스텀 아바타 ▲대화형 AI 아바타를 전시했다. 행사 기간 열린 스타트업 피칭 대회에서는 부스에서 전시한 네 가지 솔루션을 발표하기도 했다. 딥브레인AI의 딥페이크 탐지 솔루션은 원본과 변조된 픽셀 차이로 딥페이크 여부를 판별해내며 공공기관을 대상으로 상용화에 성공한 바 있다. 또 AI 휴먼 기술력과 데이터셋을 바탕으로 기술의 악용을 막기 위한 딥페이크 검출 기술 연구에 심혈을 기울이고 있다. 'AI 스튜디오스'는 '텍스트 투 비디오(Text-to-Video)' 기술을 기반으로 하는 가상인간 영상 편집 플랫폼이다. 키워드만 입력하면 주제에 맞는 영상을 생성하며 웹사이트 링크·기사·보고서 등 다양한 문서도 영상으로 제작할 수 있다. 30초 촬영만으로 즉시 아바타가 생성되는 커스텀 아바타 기술도 선보여 관람객 사이에서 큰 인기를 끌었다. '대화형 AI 아바타'는 고객의 목소리를 귀담아듣고 올바른 답변을 제공하는 서비스다. AI 챗봇과 연계해 사전 학습되지 않은 질문에 대해서도 막힘없는 대화를 이어갈 수 있다. 금융 상담, 교육, 키오스크 등 다양한 서비스를 시간에 구애받지 않고 이용 가능하다는 장점도 있다. 장세영 딥브레인AI 대표는 "각계각층의 사람들과 혁신적인 아이디어를 공유하는 이노베이션 페스티벌에 참가해 제품을 소개할 수 있어 뜻깊은 시간이었다"며 "앞으로도 AI 기술로 글로벌 시장에서 선한 영향력을 펼치기 위해 노력할 것"이라고 강조했다.

2024.10.07 10:28조이환

다가오는 개보위 국정감사…주요 안건은

디지털 시대의 개인정보 보호가 그 어느 때보다 중요해진 가운데 개인정보보호위원회(개보위)가 해결해야 할 주요 문제들이 다각도로 점검될 예정이다. 5일 업계에 따르면 국회는 오는 8일 정부세종청사에서 개보위에 대한 국정감사를 진행한다. 이번 국정감사는 국민권익위원회(권익위)에 대한 감사와 동시에 이뤄지며 개인정보 보호와 관련된 다양한 현안들이 집중적으로 논의될 것으로 예상된다. 개보위는 지난 2020년 출범한 중앙행정기관으로, 개인정보 보호법을 통해 개인정보 침해를 예방하고 침해 발생 시 조사·제재하는 역할을 맡고 있다. 국정감사는 국회가 정부의 국정 전반을 감사해 잘못된 부분을 적발·시정하고 입법 활동에 도움을 주기 위해 매년 실시된다. 올해는 오는 7일부터 25일까지 개보위를 포함한 주요 부처를 대상으로 진행될 예정이다. 개보위 측은 아직 국회로부터 구체적인 질의 사항을 전달받지 못한 상태다. 통상적으로 국정감사 질의 내용은 전날 늦은 밤이나 당일 아침에 공유되는 경우가 많아 준비에 어려움을 겪고 있는 것으로 알려졌다. 개보위 관계자는 "국정감사에서 어떤 의원이 어떤 질문을 할지 아직 알 수 없어 대비하는 데 어려움이 있다"면서도 "최선을 다해 준비하고 있다"고 밝혔다. 이번 국정감사가 권익위와 동시에 진행됨에 따라 권익위 중심으로 전개될 가능성이 있다는 관측도 있다. 그럼에도 불구하고 최근 딥페이크 기술을 악용한 디지털 성범죄와 개인정보 유출 증가 등 개인정보 보호에 대한 국민적 관심이 높은 만큼 개보위에 대한 논의도 활발할 것으로 전망된다. 국정감사에서는 딥페이크 성범죄에 대한 개보위의 대응이 우선적으로 다뤄질 것으로 예상된다. 지난 5년간 디지털 성범죄 피해 발생 건수가 5.5배 증가했으며 특히 편집·합성된 이미지와 영상이 범죄에 이용되는 경우가 크게 늘었기 때문이다. 이수정 경기대 범죄심리학과 교수는 최근 "딥페이크 성범죄는 피해자에게 심각한 정신적 고통을 주는 범죄"라며 "엄격한 처벌과 예방적 조치가 시급하다"고 지적했다. 이에 개보위는 딥페이크 관련 문제에 대응하기 위해 디지털 성범죄 방지와 아동·청소년의 '디지털 잊힐 권리' 실현 등을 추진하고 있다. 특히 피해자의 동의 없이 온라인에 유포된 개인정보나 이미지 등을 삭제해주는 지원을 제공하고 있는 것으로 알려졌다. 그럼에도 불구하고 개보위의 딥페이크 방지 노력은 차질을 빚고 있다. 김용만 더불어민주당 의원실에 따르면 올해 10억원이었던 '디지털 잊힐권리 실현' 사업 예산이 내년에는 6억5천만원으로 삭감됐기 때문이다. 아동 대상 딥페이크 성착취 문제가 심각한 와중에 관련 예산이 35% 삭감됨에 따라 국정감사에서도 예산 삭감의 이유와 대책에 대한 질의가 있을 것으로 예상된다. 공공기관의 개인정보 유출 사례 급증과 이에 대한 투명성 부족도 주요 이슈로 떠오를 전망이다. 최근 들어 공무원 조직을 통해 개인정보가 유출됨에도 불구하고 국민이 이에 대해 인지하고 있지 못하기 때문이다. 실제로 강명구 국민의힘 의원은 지난 3일 "지난해 공공기관의 개인정보보호법 위반 건수가 전년 대비 2.7배 증가한 87건을 기록했다"며 "그럼에도 국민에게 위반 사실을 알리는 공표 처분은 17건에 그쳐 투명성이 부족하다"고 지적했다. 공공기관의 법 위반 사실을 감추는 것은 국민의 알 권리를 침해하는 것이라는 강 의원의 주장에 따라 이번 국정감사에서는 공공기관의 개인정보 관리 소홀에 대한 대책 마련과 투명성 강화 방안이 논의될 것으로 예상된다. 인공지능(AI) 기술의 발전에 따른 개인정보 보호 이슈도 국정감사에서 다뤄질 것으로 보인다. 개보위는 지난 7월 '인공지능(AI) 개발·서비스를 위한 공개된 개인정보 처리 안내서'를 발표한 바 있지만 업계에서는 기준의 모호성으로 인해 기술 개발에 어려움을 겪고 있다고 호소하고 있기 때문이다. 한 AI 업계 관계자는 "명확한 사용 기준이 없어 혼란이 가중되고 있다"며 "이는 AI 기술을 개발하는 스타트업들의 작은 규모와 적은 예산을 감안할 때 거대한 방해물이 되고 있다"고 토로했다. 이러한 업계의 지적에 대해 개보위는 '안내서'가 적법한 개념을 사용하고 있으며 기업들이 법적 침해 요소를 해소하고 데이터를 안전하게 활용하도록 지속적으로 지원하겠다고 해명한 바 있다. 이에 이번 국정감사에서는 AI 시대 개인정보 보호 정책과 업계와의 소통 강화 방안에 대해서도 논의될 것으로 예상된다. 지난해 국정감사에서 지적된 해외 기업의 개인정보 침해 문제에 대응해 개보위는 알리익스프레스, 테무 등 해외 직구 업체들의 개인정보 수집 및 처리 방식에 대한 조사를 진행 중이다. 국정감사에서는 이 조사의 진행 상황을 다시 한번 점검하고 해외 기업들의 개인정보 처리 방식에 대한 대응이 적절한지 확인하는 논의가 이루어질 것으로 보인다. 또 구글, 메타 등 글로벌 기업과 국내 기업 간의 개인정보 규제 차이에 대한 개보위의 대처에 대해서도 확인 차원의 질의가 이어질 것으로 예상된다. 이 문제는 국내 기업들의 형평성 문제와도 연결돼 있어 심도 있는 논의가 있을 것으로 전망된다. 이번 국정감사는 개보위가 해결해야 할 다양한 현안들에 대한 해법을 모색하는 자리가 될 것으로 관측된다. 개인정보 유출 대응, 디지털 성범죄 방지, AI 시대의 개인정보 보호 등 국민의 일상과 직결된 문제들이 논의될 예정인 만큼 개보위의 역할과 책임에 대한 평가가 더욱 중요해질 것으로 보인다. 한 AI 업계 관계자는 "AI로 빠르게 전환되는 시대인 만큼 데이터 역시 그 어느 때보다 중요하다"며 "이번 국정감사에서 AI 기업들이 성장할 수 있는 환경을 마련하면서도 국민의 데이터를 보호할 수 있는 균형 잡힌 논의가 이루어지길 기대한다"고 말했다.

2024.10.05 07:54조이환

"텔레그램, 불법정보 무관용 원칙 적용 약속"

텔레그램이 앞으로 딥페이크 등 기술을 악용한 불법정보에 대해서는 무관용 원칙을 적용하겠다고 방송통신심의위원회에 밝혔다. 방심위는 27일 오후 텔레그램 측과 첫 대면 실무 협의에서 텔레그램 측이 “딥페이크 성범죄 등이 사회적으로 문제가 되고 있는 한국의 상황을 깊이 이해한다”면서 이와 같은 입장을 밝혀왔다고 30일 설명했다. 텔레그램 측은 이 같은 원칙에 따라, ▲디지털성범죄 외에도 음란·성매매, 마약, 도박 등 불법정보에 대해서도 다각적으로 협력하기로 약속하며, ▲불법성 판단 등 내용심의에 전속적 권한을 가진 방통심의위 요청 시 이를 적극 수용하여 자사 플랫폼 내 불법 정보를 조치하겠다고 밝혔다. 텔레그램 측은 또한 실무적인 업무 협력을 위해, ▲한국 경찰청과 방송통신위원회와 전향적으로 협의해 나가겠다고 답했다. 텔레그램 측은 앞으로, ▲기존에 구축된 핫라인 외에 전담 직원과 상시 연락이 가능한 별도의 추가 핫라인을 개설하고, ▲실무자 협의를 정례화하기로 하는 등 방통심의위와 지속적인 업무 협력을 강화하기로 약속했다. 방심위는 28일까지 이어진 두 차례의 회의에서, ▲한국의 사용자들이 보다 안전하고 건전하게 텔레그램을 이용할 수 있도록 유관기관과도 적극적으로 협조해 줄 것을 텔레그램 측에 다시 한 번 요청했다. 방심위는 "텔레그램과의 실질적인 업무 협력을 이끌어낸 이번 1차 협력회의 결과를 매우 긍정적으로 평가한다"며 "이를 계기로 앞으로 텔레그램 내의 불법정보들이 더욱 신속하게 차단, 삭제 조치가 될 것으로 기대하고 텔레그램과의 협력채널을 더욱 강화해 나가겠다"고 밝혔다.

2024.09.30 13:47안희정

"디지털성범죄 늘고 있는데...올해 방심위 수사의뢰는 24건"

올해 딥페이크 성범죄영상물 등 디지털성범죄정보의 광범위한 확산으로 심각한 사회문제가 발생했지만 이를 심의하는 규제기관인 방송통신심의위원회의 경찰청 수사의뢰 요청 건수는 단 24건에 불과한 것으로 나타났다. 국회 과학기술정보방송통신위원회 소속 이훈기 의원(더불어민주당)이 방심위로부터 제출받은 최근 5년간 디지털성범죄정보 수사의뢰 요청 현황자료에 따르면, 2020년부터 올해 8월까지 방심위는 총 1천894건의 디지털성범죄 정보를 경찰청에 수사 의뢰했는데 올해는 단 24건만을 의뢰했다. 최근 5년간 방심위가 디지털성범죄정보 사업자 자율규제 요청(삭제)을 한 것은 총 5만3천930건으로, 매해 삭제 대상이 2배 가까이 증가한 것으로 나타났다. 특히 올해는 8월까지 9천971건으로 올해 디지털성범죄정보 삭제 대상 건수는 지난해 1만1천611건을 초과할 것으로 보인다. 이훈기 의원은 “디지털성범죄정보는 늘어가는 데 예외적인 수치의 2022년을 제외하면 수사 의뢰 건수는 오히려 줄거나 답보하고 있는 셈”이라며 “디지털성범죄정보의 확산 방지를 위한 신속한 삭제조치는 타당하지만, 디지털성범죄정보가 매해 배로 증가하는 것을 고려해 적극적인 대응이 필요하다”고 말했다. 한편, 방심위가 딥페이크 성범죄 영상물 등 디지털성범죄정보 24시간 홈페이지와 1377(전화)신고 전화 접수를 통한 상담이 올해 벌써 1천215건을 넘어선 것으로 나타났다. 하지만, 24시간 4조 2교대로 해당 업무를 하는 직원은 단 12명에 불과해 적극적 대응 인력이 부족한 상화이다. 이훈기 의원은 “방심위는 우리나라 디지털 성범죄 대응 1차 기관이지만, 정작 상담 인력도 확충하지 않고, 사업자 자율규제 요청 수준의 소극적 대응에 나서고 있는 것은 문제가 있다”며 “국정감사를 통해 방심위의 디지털성범죄 대응 정책개선 사항을 지적할 것”이라고 강조했다.

2024.09.29 17:34박수형

"딥페이크 통한 보험금 사기 청구 예방시스템 갖춰야"

딥페이크(인공지능을 이용한 인간 이미지 합성 기술)를 이용한 금융 사기 피해가 증가할 것으로 예측되는 가운데, 보험업도 보험금 사기 청구 예방 시스템을 갖춰야 한다는 제언이 나왔다. 28일 보험연구원은 '미국 딥페이크 관련 법안 동향과 보험회사의 대응' 보고서를 통해 미국을 시작으로 딥페이크 사기 및 명예훼손에 대한 법적 제재가 강화되고 있는 만큼, 딥페이크를 통한 새로운 사기 위협에 대한 보험산업이 대응이 요구된다고 진단했다. 보고서는 딜로이트 자료를 인용해 딥페이크 관련 금융 사기는 2023년 123억 달러에서 2027년 400억 달러로 연평균 32% 증가할 것이라고 보며, 최근 최고경영자(CEO) 음성이 딥페이크로 조작돼 큰 액수의 금전적 손실이 발생한 사례도 나오고 있다고 밝혔다. 보험사의 경우 보험 청구 디지털화로 인해 딥페이크를 이용한 보험사기에 노출될 가능성이 높다. 2025년까지 보험 청구의 70%가 비대면 자동처리로 이뤄진다고 연구원은 관측하고 있다. 일부 보험사에서는 허위 청구, 보험 사기 식별을 위한 인공지능(AI) 기반 딥페이크 탐지 기술을 도입하거나, 문서·영상·음성에서 비정상적인 패턴이나 합성된 흔적을 감지하는 시스템을 개발 중이다. 알리안츠는 머신러닝을 통해 허위 데이터를 감지하는 식별 시스템을 구축해 170만파운드(약 31억원)의 피해를 막았으며 취리히보험사는 룰 베이스와 AI 기반 ㅇ네진을 결합해 비정상 행동을 감지하는 보험사기 시스템을 가동하고 있다. 한편, 미국은 딥페이크 범죄 피해자를 위한 민사 구제책을 담은 법안을 8월 통과시켰으며 현재까지 40개 주 이상에서 딥페이크 관련 법안이 발의된 상태다. 40개 중 9개 주에서는 형사 처벌 규정을 두고 있다.

2024.09.28 08:00손희연

"텔레그램 성범죄 활개치는데...n번방 후속조치도 이행되지 않아"

최근 디지털성범죄피해자지원센터의 디지털성범죄피해와 관련해 지원을 받은 피해자 수는 총 8천983명, 피해 영상물 삭제 지원 건수도 총 27만5천520 건에 달하고 있으나 텔레그램에 대한 방송통신위원회의 개선방안은 제대로 이행되지 않고 있다는 지적이 제기됐다. 국회 과학기술정보방송통신위원회 소속 최수진 의원(국민의힘)은 방통위가 그동안 발표한 해외 메신저 플랫폼 조치 개선방안이 제대로 이뤄지지 않고 있다고 밝혔다. 텔레그램을 통한 딥페이크 디지털 성범죄 사건이 늘고 있는 가운데 지난 2022년 방통위가 국회에 제출한 n번방 사건 제도개선안이 이행되지 않았다는 것이다. 방통위는 21대 국회 과방위에 '해외사업자에 대한 디지털성범죄물 유통방지 강화 검토방안'을 제출하면서 ▲국내외 사전조치의무사업자 88 개사를 선정해 불법촬영물 등 기술적 관리적 조치에 대한 현장점검 실시 ▲법무부, 여가부, 검경 등 관계 기관과 매달 협의회를 열어 텔레그램에서의 성범죄 제작 유통에 대응 ▲해외에 본사를 둔 플랫폼 사업자에 대해 국내대리인 지정제도를 활성화 등을 제시했다. 특히 국내대리인 지정제도 활성화 방안과 관련해 제도의 실효성을 높이기 위해 정기 실태점검을 시행하겠다고 했으나 텔레그램에 이용자 등에 공개한 신고처리 메일로 세 차례 협조 공문을 보낸 게 전부였다는 지적이다. 최수진 의원은 “n번방 사건 발생 이후 텔레그램을 비롯한 해외사업자에 대한 대책 마련을 촉구하고 있지만 디지털 성범죄로부터 우리 국민을 신속하게 보호하지 못하고 있다”면서 “국정감사를 통해 방통위가 국내대리인 지정제도를 신속하게 활성화하고 디지털 성범죄 제작 및 유통에 적극적이고 엄중하게 대응해 줄 것을 촉구하겠다”고 말했다.

2024.09.26 19:03박수형

Prev 11 12 13 14 15 16 17 Next