ZDNet 검색 페이지

'AI 신뢰'통합검색 결과 입니다. (45건)

어도비 "한국 소비자, 생성 AI의 콘텐츠 조작 가능성 우려 커"

어도비는 1천명 이상의 국내 소비자를 대상으로 조사한 '신뢰의 미래(Future of Trust)' 보고서를 9일 발표했다. 글로벌 조사의 일부로 진행된 이번 결과는 온라인 상 잘못된 정보에 대한 국내 소비자들의 경험 및 생성형 AI의 영향에 대한 우려에 초점을 두고 있다. 어도비는 책임 있는 혁신(Responsible Innovation)의 일환으로, 생성형 AI와 잘못된 정보의 사회적 영향에 대한 대중적 인식과 정서를 파악하기 위해 이 조사를 진행했다. 보고서에 따르면 소비자들은 디지털 콘텐츠의 신뢰성을 검증할 수 있는 툴이 필요하다고 입을 모았다. 잘못된 정보가 선거와 같은 전 세계적인 이슈에 미칠 잠재적 영향을 해결하기 위한 선제적 조치도 시급하다고 강조했다. 잘못된 정보는 사회가 직면한 가장 큰 위협 중 하나로 간주되며, 이를 확산하는 특정 플랫폼의 신뢰 하락에도 영향을 미치고 있다. 잘못된 정보가 점점 더 기승을 부리는 가운데, 한국인의 89%는 온라인에서 소비하는 콘텐츠가 잘못된 정보를 유발하기 위해 변조될 수 있다는 점을 우려하고 있다. 상당수의 국내 소비자들(79%)은 온라인에서 소비하는 콘텐츠의 신뢰성을 확인하는 것이 점점 더 어려워진다고 답했다. 전체 응답자의 40%는 잘못된 정보로 인해 특정 소셜 미디어 플랫폼의 사용을 중단하거나 줄였다고 전했다. 이는 잘못된 정보에 대한 우려가 소비자의 소셜 미디어 플랫폼 사용에 영향을 미치고 있음을 반증한다. 대부분의 사람들은 콘텐츠 공유에 앞서 출처의 신뢰성을 따지고 있으며, 콘텐츠의 사실 여부를 확인할 수 있는 툴과 미디어 리터러시 스킬이 필요하다는 데 공감했다. 온라인 콘텐츠에 대한 신뢰 여부를 파악할 수 있는 올바른 툴을 갖추는 게 중요하다고 답한 국내 소비자는 한국인 10명 중 9명(90%)에 달했다. 78%는 자신이 소비하는 콘텐츠가 AI를 통해 생성된 것인지 아는 것이 중요하다는 데 동의했다. 어린이 대상의 미디어 리터러시 스킬을 교육 과정의 일부로 가르쳐야 한다고 답한 국내 소비자도 87%로 나타났다. 이는 잘못된 정보에 대한 우려가 아동에게 미칠 잠재적 영향으로 확산되고 있음을 보여주는 결과다. 디지털 콘텐츠에 대한 신뢰가 하락되는 가운데, 소비자들은 선거의 공정성 보호를 우려하고 있다. 올해 전 세계 40억 명 이상이 투표에 참여할 것으로 예상되는 가운데, 89%의 응답자는 잘못된 정보와 유해한 딥페이크가 미래 선거에 영향을 미칠 것이라고 응답했다. 소비하는 온라인 콘텐츠의 진위 판단을 위한 툴이 보편화되지 않은 상황에서, 상당수(76%)는 선거 홍보 콘텐츠에서 생성형 AI 사용을 금해야 한다고 답했다. 이 밖에 정부와 기술 기업이 딥페이크와 잘못된 정보의 악영향으로부터 선거의 공정성을 보호하기 위해 함께 노력해야 한다고 말한 응답자도 88%에 달했다. 다나 라오 어도비 법률 고문 겸 최고 신뢰 책임자는 “우리는 창의성과 생산성을 혁신할 수 있는 생성형 AI의 힘에 큰 기대를 갖고 있다”며 “어도비는 AI 기술을 상업적으로 선보이는 선두 기업으로서, 오랫동안 이러한 기술이 사회에 미치는 영향에 대해 고민해왔다”고 밝혔다. 그는 “보고서에서도 확인했듯, 딥페이크의 위험성에 대해 교육하고 진실을 파악할 수 있는 툴을 제공하는 것이 중요하다”며 “글로벌 선거의 해로 불리는 이 때, 디지털 콘텐츠의 신뢰 회복을 위해 콘텐츠 자격증명과 같은 보호 기술을 채택해야 한다”고 강조했다. 어도비는 어드바니스와 공동으로 국내 18세 이상 성인 1천29명을 대상으로 이번 조사를 진행했다. 응답 데이터는 지난 3월 옵트인 비확률 표본 제공 업체를 통해 수집됐다.

2024.05.09 14:41김우용

3기 AI 윤리·신뢰성 포럼 발족···범부처 과제 등 발굴

과기정통부가 주관한 '제3기 AI 윤리‧신뢰성 포럼'이 18일 발족했다. 이날 출범한 '제3기 AI 윤리‧신뢰성 포럼'은 지난 4월 4일 출범한 'AI전략최고위협의회(이하 최고위협의회)'의 윤리‧안전분과로 운영된다. AI전략최고위협의회는 국가전체 AI혁신 방향을 이끌 최상위 거버넌스로 이종호 과기정통부 장관과 염재호 태재대 총장이 공동 위원장을 맡고 있다. 앞으로 포럼은 최고위협의회와 연계‧운영해 AI 윤리‧신뢰성 분야 범부처 과제를 발굴하고, 정책과제를 구체화해 민관이 함께 이행한다. 최근, 멀티모달 기술 등 생성형 AI 기술이 빠르게 발전하면서, 지속가능한 AI 혁신의 전제로 AI 윤리‧신뢰성이 중요성이 더욱 부각되고 있다. 이에 과기정통부는 이상욱 한양대 철학과 교수가 포럼위원장을 맡고, 학계‧산업계‧법조계‧공공‧시민사회‧국제기구 등 분야별 전문가 20명이 참여하는 제3기 'AI 윤리‧신뢰성 포럼'을 구성해 AI의 사회적 신뢰기반 조성을 위한 논의를 시작했다. 이날 서울 서초구 엘타워에서 출범한 '제3기 AI 윤리‧신뢰성 포럼'은 지난 4월에 출범한 'AI전략최고위협의회'(이하 '최고위협의회') 윤리‧안전분과로 운영된다. 포럼은 최고위협의회와 연계‧운영하여 AI 윤리‧신뢰성 분야 범부처 과제를 발굴하고, 정책과제를 구체화하여 민관이 함께 이행해 나갈 계획이다. 이날 포럼은 지난해 정부 AI 윤리사업 핵심과제로 민간전문가 의견수렴을 거쳐 개발한 'AI 윤리기준 실천을 위한 자율점검표(채용분야)'와 AI 서비스의 윤리적 영향력을 체계적으로 파악하고, AI의 윤리적인 개발‧활용을 장려할 수 있는 'AI 윤리영향평가' 프레임워크, 일반인의 AI 이해와 AI 활용역량을 지원하기 위한 AI 윤리교육 교재 등을 공개했다. 향후 격월로 포럼을 운영해 AI 윤리‧신뢰성 관련 글로벌 논의에 대한 대응전략을 모색하고, AI 산업 현장의 윤리‧신뢰성 확산 방안과 생성형 AI의 악의적 활용을 완화‧방지하기 위한 정책과제 등을 집중적으로 논의할 계획이다. 특히, 최근 오픈AI 소라 등 생성형 AI 기술의 활용범위가 기존 텍스트 생성에서 영상까지 빠르게 확대되고, 뮌헨 안보회의 '기만적 AI 사용방지를 위한 기술 합의문'('24.2.16.) 발표, 유엔총회 'AI 결의안' 채택('24.3.21.) 등 AI 관련 글로벌 논의가 활발해지는 정책환경 속에서 국내 AI 윤리·신뢰성 확보를 위한 정책 방향에 관한 종합토론을 진행했다. 출범식에 참석한 과기정통부 엄열 인공지능기반정책관은 “최근 전세계 AI 분야의 경쟁적 투자 확대로 AI 발전 속도는 더욱 가속화되고, 진화 방향은 예측하기 어려워지고 있다”면서 “생성형 AI 기술로 촉발된 AI 시대로의 본격적인 전환점에서 AI 발전과 공존 가능한 AI의 전제는 윤리와 신뢰다. AI에 대한 사회적 신뢰기반을 만들어 갈 수 있게 AI 윤리‧신뢰성 포럼이 사회적 논의의 구심점 역할을 수행해 주길 기대한다”고 말했다.

2024.04.19 22:51방은주

세일즈포스, 브래드 아킨 최고신뢰책임자(CTO) 선임

세일즈포스는 최고 신뢰 책임자(CTO)로 브래드 아킨을 선임했다고 20일 밝혔다. 브래드 아킨은 세일즈포스 합류 전 시스코, 어도비 등의 글로벌 기업에서 20년 이상 제품 및 엔터프라이즈 보안을 담당했다. 그는 시스코시스템즈의 최고 보안 및 신뢰책임자 겸 수석부사장으로 재직 당시 투명한 커뮤니케이션과 보안의 중요성을 강조해 왔다. 그는 앞으로 세일즈포스에서 고객, 파트너 및 회사의 확장된 에코시스템과 협력하여 데이터 신뢰와 보안 고도화에 주력할 예정이다. 세일즈포스에 따르면 이미 전 세계 기업은 생성형 AI 기술을 기반으로 고객과 상호작용하고 있는 것은 물론, 실질적인 업무를 수행하며 생산성 향상을 위한 혁신을 가속화하고 있다. 세일즈포스가 전 세계 IT 리더와 현업 담당자를 대상으로 실시한 연구조사에 따르면, 지난 분기에만 직장에서의 AI 사용이 24% 이상 상승했으며, AI를 사용하는 직원 중 80%가 이미 생산성 향상을 경험하고 있다고 응답했다. AI 기반 서비스의 폭발적인 성장에도 불구하고 대다수의 기업과 고객이 여전히 기술의 비윤리적 사용과 보안 위험에 대해 우려를 표명하는 등 기술에 대한 신뢰의 격차는 여전히 존재한다. 최근 하버드 비즈니스 리뷰의 연구에 따르면 과반수 이상(57%)이 AI를 신뢰하지 않는다고 응답했으며, 4분의 1 이상이 AI의 신뢰성에 대해서 중립(22%)으로 응답했다. 또한 세일즈포스의 연구조사에 따르면 역시 과반수 이상의 응답자(68%)가 AI의 발전으로 인해 신뢰의 중요성이 더욱 확대되었다고 응답했다. 세일즈포스는 지난해 기업이 보다 신뢰할 수 있는 환경에서 생성형 AI 기술을 활용할 수 있도록 지원하는 '아인슈타인 트러스트 레이어'를 공개했다. 아인슈타인 트러스트 레이어는 높은 수준의 보안 환경을 바탕으로 개인정보보호 관련 규정 준수는 물론, 기업 내 데이터 자산 보호를 지원하는 AI 아키텍처이다. 이를 통해 세일즈포스 사용자는 아인슈타인 트러스트 레이어가 제공하는 데이터 마스킹, 제로 리텐션, 유해성 검사 등의 기능을 통해 보다 안전하고 신뢰할 수 있는 환경에서 생성형 AI 기술을 활용할 수 있다. 세일즈포스 브래드 아킨 최고 신뢰 책임자는 "전 세계 기업은 기업과 고객의 성공을 지원하며, 신뢰할 수 있는 AI 기술을 제공하고 있는 세일즈포스와 디지털 혁신 여정을 함께 하고 있다"며, "AI의 혁명은 데이터의 혁명이며 곧 신뢰의 혁명”이라고 밝혔다. 그는 “AI 발전에 따라 우리는 데이터 보안, 투명성, 개인정보보호 등의 영역에서 기준을 높여 나가며 고객, 직원, 소비자 등을 포함한 모든 이해관계자의 신뢰를 확보해 나갈 예정"이라고 강조했다. 세일즈포스는 지난 6일 미국 샌프란시스코에서 열린 TDX 2024에서 로우코드 방식으로 CRM용 생성형 AI 환경을 구축 및 커스터마이징할 수 있으며, 자연어 프롬프트를 기반으로 분야별 맞춤형 AI 콘텐츠 생성이 가능한 '아인슈타인 1 스튜디오'와 모든 산업과 규모의 기업을 위한 대화형 AI 어시스턴트인 아인슈타인 코파일럿을 공개했다. 아인슈타인 코파일럿과 아인슈타인 1 스튜디오는 아인슈타인 트러스트 레이어에서 제공하는 개인정보보호 및 보안 조치를 통해 신뢰할 수 있는 환경에서 유저와 AI의 상호작용을 지원하며, 세일즈포스 데이터 클라우드의 데이터에 기반한 컨텍스트를 활용해 보다 정확하고 맞춤화된 답변을 생성할 수 있도록 돕는다.

2024.03.20 10:25김우용

KTL, AI 글로벌 네트워크 강화·신뢰성 확보 나서

한국산업기술시험원(KTL·원장 김세종)은 인공지능(AI) 신뢰성을 확보하고 글로벌 네트워크를 강화하기 위해 트레인 글로벌이 주최한 '제1차 TRAIN 글로벌 심포지엄'에 참가했다고 23일 밝혔다. 이번 행사는 '신뢰할 수 있는 AI를 위한 아시아 연대, 정보 교류의 힘'이라는 주제로 개최됐다. 국내외 정부·공공기관, AI 관련 기업·협회·단체를 비롯한 법조계와 학계 관계자 등 약 150여 명이 참석했다. TRAIN은 '신뢰할 수 있는 AI 국제연대(TRustworthy AI International Network)'의 약자로 AI 신뢰성 확보·강화와 AI 기술규제 공동 대응 방안 모색을 위해 설립됐다. 현재 대한민국·베트남·태국·중국이 창립회원 국가로 활동 중이다. 심포지엄에서는 AI 신뢰성 기술 진단 모델과 사례, 각국 AI 교육 로드맵, AI 표준개발 현황, 아시아 국가 AI 신뢰성 정책 등 AI 기술과 교육, 법·제도·정책 정보를 공유했다. 기술 세션 부문에서 KTL 산업지능화기술센터 안선호 팀장은 AI 적합성 평가를 위한 국제표준(ISO/IEC JTC 1 SC42) 개발 현황과 유럽연합(EU) AI 규제법, 미국 AI 행정명령 등 급변하는 대외 환경 속에서 나아가야할 방향에 대해 발표했다. EU는 지난해 12월 세계 최초로 'AI 규제' 법안에 합의해 오는 6월부터 시행한다. 자율주행차·의료 장비 등 '고위험 AI' 기술을 탑재한 제품을 시장에 출시하기 전에 엄격한 안전 테스트를 거칠 것을 의무화하고 있다. 권종원 KTL 산업지능화기술센터장은 “최근 AI를 접목한 제품·서비스가 급증함에 따라 AI 신뢰성을 검증할 수 있도록 민관이 협력해 국제표준에 기반한 적합성평가(인증·심사 등)체계가 마련되고 있다”며 “앞으로도 KTL은 AI 시험서비스를 확대하고 AI 신뢰성 분야 국제표준화를 선도하며 정부 산업 디지털 전환 정책을 적극 뒷받침하고 국내 AI 기업이 국제무대에서 경쟁력을 가질 수 있도록 노력하겠다”고 밝혔다. 한편, KTL은 AI 접목 제품·서비스가 급증함에 따라 수출 제품 AI 신뢰성 검증 수요에 대응하기 위해 산업 디지털 전환 적합성 인증체계 마련과 실증 기반을 2026년까지 충남 아산시에 구축할 계획이다. AI 표준 가이드 제작을 통해 AI 기술개발 단계부터 신뢰성 확보 여부를 확인할 수 있도록 돕고, 종합기술 컨설팅·교육을 제공해 국내 기업의 실질적인 애로가 해소될 수 있도록 힘쓸 예정이다. 산업통상자원부와 KTL은 지난해 6월 국내 AI 공급 기업의 수출 지원 강화를 위해 '산업AI국제인증 포럼'을 발족, 세계 통용 가능한 산업 AI 인증체계를 마련했다.

2024.02.23 10:36주문정

AI신뢰성 인증(CAT) 받은 국내 1·2호 솔루션 탄생

국내서 처음으로 당국에서 인공지능(AI) 신뢰성 인증을 받은 솔루션(SW) 2종이 탄생했다. 마크애니와 엔플럭스 제품이다. 두 제품은 작년 12월 TTA에 AI신뢰성 인증 획득을 위한 신청을 해 국내 처음으로 CAT(Certification of Artificial Intelligence, AI신뢰성인증) 1,2호를 받았다. 신청부터 CAT 인증 획득까지 약 2개월이 걸렸다. 비용은 공개되지 않았다. 6일 과학기술정보통신부(과기정통부)와 한국정보통신기술협회(TTA, 회장 손승현)는 마크애니(대표 최고)와 엔플럭스(대표 이민)에 'AI 신뢰성 인증(CAT, Certification of Artificial Intelligence)' 2건을 부여했다고 밝혔다. 'CAT 제도'는 AI 신뢰성 단체표준을 기반으로 하며, AI 신뢰성을 자발적으로 확보하려는 민간 AI 사업자를 대상으로 인증 절차를 진행한다. 민간 인증전문기관인 TTA가 AI 기술을 활용한 제품과 서비스의 위험요인을 분석하고, 위험에 기반해 신뢰성 확보를 위한 사업자의 요구사항 준수 여부를 평가해 CAT를 부여한다. 앞서 과기정통부와 TTA는 2021년부터 분야별 '신뢰할 수 있는 AI 개발안내서'(개발안내서) 개발과 보급을 통해 AI 신뢰성 확보를 위한 기술 요구사항을 정립하는 한편 국내기업이 AI 신뢰성을 확보할 수 있게 지원해왔다. 지난해 12월에는 개발안내서 내용을 바탕으로 AI 신뢰성 관련 국제표준인 ISO/IEC TR 24028(신뢰성 개요), ISO/IEC 23894(위험관리), ISO/IEC 22989(용어)와의 국제 호환성을 확보한 국내 최초의 AI 신뢰성 정보통신단체표준인 'AI 시스템 신뢰성 제고를 위한 요구사항'(AI 신뢰성 단체표준)을 제정하기도 했다. 이번에 CAT 인증을 받은 마크애니의 'AI 영상 검색 및 대상물 이동경로 추적 솔루션'은 과기정통부가 작년에 시행한 'AI 융합 국민안전 확보 및 신속대응 지원사업' 일환으로, 이 솔루션은 실종자 인식 정확도 오류와 특정 인종‧성별‧연령에 대한 편향 등 AI 모델 오류를 위험요소로 식별하고, AI 모델 편향 제거, AI 시스템 신뢰성 테스트계획 수립, AI 신뢰성 확보를 위한 기업의 거버넌스 구성 등을 검증받아 인증을 받았다. 또 스마트 관제 전문기업인 엔플럭스의 'AI 융합 지뢰탐지 모듈 v1.0'은 역시 과기정통부가 작년에 시행한 'AI 융합 프로젝트(AI+X)'의 'AI 융합 지뢰탐지시스템 개발·실증 과제' 일환으로, 이 모듈은 지표투과레이더(GPR) 이미지를 판독해 지뢰 여부, 지뢰 종류 판단 등 고수준의 분석기능을 제공하는 시스템으로, 지뢰탐지 정확성 오류와 지뢰탐지 결과의 설명가능성 부재 등을 위험요소로 도출, 데이터 구축 방법 적절성과 AI 모델 판단결과에 대한 설명가능성 확보 등을 중점적으로 검증받았다. 민간 인증 전문기관인 TTA는 AI 신뢰성 검증을 실시하는 과정에서 신뢰성 확보를 위한 보완 필요사항에 대해 사업자에게 컨설팅을 수행, AI 제품과 서비스의 신뢰성을 개선할 수 있게 지원했다. 과기정통부는 "이번 인증은 지난 10월 민간자율 AI 신뢰성 인증제도를 도입한 이후 첫 사례로, 국내 AI 제품‧서비스의 신뢰성을 확보하기 위한 민간 자율체계를 확립했다는 점에서 의미가 있다"고 설명했다. 남철기 과기정통부 인공지능기반정책과장은 "세계적으로 AI 신뢰·안전성 확보를 위한 노력이 치열한 상황에서, 전문성 있는 기관을 통한 민간자율 AI 신뢰성 인증제도는 AI 혁신과 안전하고 신뢰할 수 있는 AI 활용을 동시에 촉진할 수 있는 좋은 모델이 될 것으로 기대한다"면서 "빠른속도로 발전하는 생성형 AI 기술‧시장 변화를 반영해 AI 신뢰성 인증제도를 고도화하고, AI 신뢰성 인증 모범사례를 지속 확대해 국내 AI산업의 AI 신뢰‧안전성 기반을 강화해 나갈 계획"이라고 밝혔다.

2024.02.06 12:00방은주

지금 뜨는 기사

이시각 헤드라인

"韓 기술 원더풀"…6만명 몰린 AI 페스타, 국가대표 AI 행사 '우뚝'

"AI 확산, 이정도 라니"…기술 혁신 보러 북새통

공공 충전기 0.1초면 해킹…추석 연휴 '초이스재킹' 주의

'챗GPT' 다음 승부처는?…AI 기업들, '버티컬'로 미래 시장 선점 나선다

ZDNet Power Center