검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'투명성'통합검색 결과 입니다. (3건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

디지털 클론, 광고의 미래인가 위험의 서막인가

AI가 만들어낸 가상의 인물, 이른바 '디지털 클론'이 실제 인간과 구분하기 어려울 정도로 정교해지고 있다. 최근에는 정치적 목적이나 기업 마케팅 전략에도 점점 더 널리 활용되고 있는데, 특히 패션 산업에서 디지털 클론의 활용이 빠르게 확산되고 있다. 이에 경영 전략 전문가 루아나 카르카노 씨는 그 장점과 문제점을 분석했다. 컨버세이션닷컴 외신 보도에 따르면, 패션 업계는 '디지털 클론'이 가장 활발히 활동 중인 분야 중 하나다. 패션 트렌드는 인플루언서를 통해 확산되는 경우가 많은데, 글로벌 인플루언서 시장 규모는 2025년까지 약 320억 달러(한화 약 43.7조원) 이상 성장할 전망이다. 하지만 실제 인플루언서와 협업하려면 시간과 비용이 많이 들기 때문에 브랜드 전용 디지털 클론을 제작해 홍보에 활용하면 비용을 절감하면서도 캠페인을 유연하게 운영할 수 있다. 실제로 글로벌 패션 브랜드 H&M은 올 3월, 자사 마케팅 캠페인과 소셜네트워크(SNS) 콘텐츠에 사용할 '디지털 모델 클론'을 제작할 계획을 발표했다. 이 디지털 클론은 완전히 가상의 인물이 아니라, 실제 모델의 외형을 기반으로 만들어졌다. 해당 모델은 디지털 클론의 초상권을 보유하고 있으며, 그에 따른 사용료를 받는 조건으로 계약됐다. H&M의 최고 크리에이티브 책임자 요르겐 앤더슨은 "우리는 개인의 스타일을 존중하면서도, 새로운 크리에이티브 방식으로 패션을 표현하고자 한다"면서 "신기술의 장점을 적극적으로 받아들이고 있다"고 밝혔다. H&M은 이 기술을 통해 촬영 비용을 줄이고, 카탈로그 제작 속도도 높일 수 있다고 설명했다. 하지만 한편으로는 모델, 메이크업 아티스트, 사진가 등 기존 인력의 일자리를 대체할 수 있어, 업계 전반에서 윤리적 우려와 논쟁도 커지고 있다. 카르카노 씨는 디지털 클론 사용에서 가장 중요한 이슈로 '동의'와 '보상'을 강조했다. H&M처럼 사전 계약을 통해 제작되는 경우도 있지만, 일부 기업이나 개인은 원래 인물의 얼굴이나 이미지 데이터를 무단으로 학습시켜 디지털 클론을 만들어내는 사례도 있어 문제가 되고 있다. 또 다른 문제는 다양성이다. AI는 매개변수를 조절해 다양한 인종, 연령, 체형의 인물을 만들어낼 수 있지만, 학습된 데이터에 따라 편향이 반영될 위험도 크다. AI가 다양성을 '연출'할 수는 있지만, 그럼에도 중대한 편견이 포함될 수 있다는 지적이다. 카르카노 씨는 디지털 클론이 패스트 패션 브랜드에게는 다양한 체형과 스타일을 표현할 수 있는 유용한 도구가 될 수 있지만, 윤리적 문제를 해결하려면 '투명성'이 무엇보다 중요하다고 강조했다. 사용자의 동의, 명확한 권한 부여, 그리고 개인정보와 초상권 보호를 위한 법적 기준이 마련돼야 한다는 주장이다. 그는 마지막으로 “브랜드가 AI 기술로 창의성을 높이기 위해서는 성실성, 포괄성, 법적 책임을 아우르는 윤리적 프레임워크를 도입해야 한다”고 강조했다.

2025.05.25 08:58백봉삼

美 지사 철수한 카스퍼스키, 韓선 투명성 외쳤다…왜?

밀키트는 손질된 식재료와 양념을 알맞게 담은 간편식입니다. 누구나 밀키트만 있으면 별도 과정 없이 편리하게 맛있는 식사를 할 수 있습니다. [김미정의 SW키트]도 마찬가지입니다. 누구나 매일 쏟아지는 소프트웨어(SW) 기사를 [김미정의 SW키트]로 한눈에 볼 수 있습니다. SW 분야에서 가장 주목받는 인공지능(AI), 보안, 클라우드 이야기를 재밌고 맛있게 보도하겠습니다. [편집자주] 이달 미국 지사를 철수한 러시아 보안 기업 카스퍼스키가 한국서 솔루션 투명성 알리기에 본격 나섰다. 자사 제품은 높은 보안성을 갖췄으며, 이번 미국 정부 조치가 정치적인 이유에 불과하다고 밝혔다. 카스퍼스키가 러시아 정부에 고객 데이터를 전달한다는 의혹에 대해선 있을 수 없는 일이라며 선 그었다. 카스퍼스키 간수진 아시아태평양·일본·중동·터키·아프리카 지역 대정부 업무 및 공공정책 책임자는 최근 내한해 12번째 카스퍼스키 투명성 센터(TC)를 서울에 개설했다며 이같이 강조했다. TC 설립을 통해 제품 투명성과 보안성을 더 알리고 비즈니스를 확장하겠단 포부다. 앞서 미국은 카스퍼스키 제품 투명성·보안이 의심된다는 이유로 미국 내 신규 제품 판매를 금지했다. 이에 카스퍼스키는 미국 고객에게 신규 판매를 진행할 수 없으며 매사추세츠주에 있던 TC와 지사를 철수했다. 카스퍼스키 TC는 사이버 보안업계 최초로 자사 소스코드를 외부 관계자들이 검토할 수 있게 보여주는 센터다. 보안 솔루션 신뢰 강화를 위한 장소다. 고객사 영업을 비롯한 서비스 제공, 보안 기술 연구도 소개한다. 지사와 별개로 운영되는 형태다. "美, 위협 인텔리전스 판매 금지 안 해…기능 입증" 간수진 책임자는 이번 미국 지사 철수가 지극히 정치적인 사안이라고 재차 강조했다. 솔루션이 기술적으로 잘못되거나 보안성이 낮아서 생긴 일이 아니라는 의미다. 간 책임자는 "최근 몇 년 동안 제3자에게 솔루션 기술 검증을 진행하자고 미국 측에 지속적으로 요청했다"며 "이는 끝내 받아들여지지 않았다"고 아쉬움을 밝혔다. 이어 "이번 결과는 제3자에 의한 것이 아닌, 미국 단독 결정"이라고 덧붙였다. 간 책임자는 미국에 모든 솔루션 판매 금지가 내려진 것은 아니라고 말했다. 미국 정부가 판매 금지 조치를 내린 제품 리스트에 '위협 인텔리전스' 솔루션이 제외돼서다. 간 책임자는 "미국이 해당 솔루션이 유용하다는 것을 인정한 셈"이라고 했다. 위협 인텔리전스는 카스퍼스키 주요 보안 솔루션이다. 전 세계 10억개 디바이스를 보호하고 있다. 현재 4억명이 이 제품 고객이다. 간 책임자는 "미국 보안 회사가 쉽게 수집할 수 없는 사이버 공격 정보를 갖고 있다"며 "위협 인텔리전스는 북한과 중국, 이란서 나오는 공격 사례를 수집해 왔다"고 설명했다. 그러면서 "미국 정부도 위협 인텔리전스 제품이 유용하다는 걸 알고 있다"며 "여기서 나오는 정보가 타 솔루션보다 압도적으로 많기 때문"이라고 강조했다. "외부인에 소스코드 공개...이보다 더 투명할 수 없어" 카스퍼스키는 보안 솔루션 투명성이 타사 대비 높은 이유를 설명했다. 외부 고객들에 회사 소스코드를 전체 공개한다는 이유에서다. 이효은 카스퍼스키코리아 지사장은 보안 솔루션 기능·투명성을 의심하는 고객사들을 TC에 직접 초대해 소스코드를 모두 보여준다고 했다. 이 지사장은 "TC 방문객들은 일반적인 질문뿐 아니라 각자 필요한 보안 평가 깊이에 따라 세 가지 유형으로 소스코드를 직접 볼 수 있다"고 말했다. 외부인들은 소스코드를 ▲블루 피스트 ▲레드 피스트 ▲블랙 피스트 형태로 확인할 수 있다. 블루 단계는 가장 기본적인 검토만 하는 경우다. TC 시스템을 비롯한 데이터 관리 관행, 데이터 처리 방식, 데이터센터 지식에 대한 정보를 얻고자 하는 방문객들에게 적합하다. 레드 피스트는 소스코드 특정 부분을 보여주는 유형이다. 해당 부분에 대한 소스코드가 어떻게 프로그래밍됐는지 검토할 수 있다. 블랙 피스트는 소스코드 전체에 대해 검토를 지원한다. 이효은 지사장은 "소스코드는 분량이 많고 방대하다"며 "전체 소스코드 라인 하나하나를 검토하는 데 몇 주 걸릴 수 있다"고 설명했다. 이효은 지사장은 "소프트웨어 기업에게 가장 중요한 건 바로 소스코드다"며 "고객들에게 모든 소스코드를 전부 보여주는 기업은 카스퍼스키가 유일"하다고 말했다. 그러면서 "전문 요리사가 모든 조리법을 외부인과 경쟁사들에게 모두 알려주는 것과 같은 이치"라며 "이보다 더 투명할 수 없다"고 했다. 이 지사장은 러시아 정부가 카스퍼스키 고객 데이터에 접근할 수 있다는 의혹에 대해 강하게 부정했다. 그는 "만약 이게 사실이라면 소스코드에 반드시 티가 났을 것"이라며 "TC 방문객들이 이를 눈치채고 의혹을 제기했을 것"이라고 말했다. 그는 "현재 전 세계 투명성 센터에 방문한 고객 사례는 60건"이라며 "그동안 누구도 소스코드에 위험성을 제기하지 않았다"고 덧붙였다. 韓에 12번째 센터 설립...北 해킹 연구도 진행 카스퍼스키는 12번째 TC를 서울에 설립했다. 올해 튀르키예 이스탄불에 11번째 TC를 세운 직후다. 간수진 책임자는 "그동안 약 10년 동안 비즈니스를 이어왔다"며 "TC 설립할 가치가 충분하다고 판단"했다고 이유를 말했다. 한국 고객사 확대를 위해 TC를 설립한 이유도 한몫한다. 이효은 지사장은 "고객들이 엔드포인트 보안 솔루션뿐 아니라 엔드포인트 탐지 및 대응(EDR), 확장 탐지 및 대응(XDR)까지 신경 쓰고 있다"며 "이런 상황을 기회로 잡았다"고 설명했다. 이어 "관련 솔루션과 시장 공략 준비까지 마쳤다"며 "한국 기업 수요에 집중할 방침이다"고 덧붙였다. 카스퍼스키는 국내 TC서 북한 사이버 공격 연구도 진행할 예정이다. 현재 한국인 연구자로 담당자를 배치한 상태다. 북한 사이버 공격 패턴이나 뉘앙스 등을 분석할 예정이다. 다크웹 모니터링에 유출된 국내 고객사 정보를 전문적으로 찾기도 한다. 이효은 지사장은 "최근 북한 사이버 공격이 국내에 큰 영향을 미치고 있다"며 "북한 해킹 연구를 집중함으로써 기업과 기관 사이버 공격을 선제적으로 막을 수 있을 것"이라고 강조했다. 그러면서 "몇 년 전 같은 방식으로 국내 대기업 해킹 공격을 방어했다"며 "점점 글로벌해지는 사이버 공격을 높은 신뢰와 투명성으로 대응하겠다"고 덧붙였다.

2024.09.09 12:45김미정

생성형 AI는 과연 투명해질 수 있을 것인가

우리 정부는 인공지능(AI) 개발이 지향해야 할 가치로 세 가지를 꼽는다. 안전·포용·혁신. 강도현 과학기술정보통신부 2차관은 지난 달 29일(현지시간) 스위스 제네바에서 열린 '선의를 위한 인공지능(AI for Good) 글로벌 정상회의 2024' 행사에서 “AI는 사람을 중심으로 해야 한다”며 이를 강조했다. 안전·포용·혁신은 그 전주에 열린 'AI 서울 정상회의'에서 각국 정상이 합의한 지향이기도 하다. 세 가지 가치 중에서 현재 가장 뜨거운 것은 혁신이다. 혁신은 기술과 비즈니스 모델 개발에 방점이 찍혀 있다. 2022년 11월 챗GPT 출시 이후 AI가 인류의 최대 핫 기술이 된 것을 의심하는 사람은 없다. 많은 나라가 명운을 걸고 AI 산업 진흥에 국가 대항전을 펼치고 있으며, 기업도 사활이 걸린 문제로 인식하고 있다. 그중에서도 AI 모델과 이를 가능하게 할 AI 반도체 개발 경쟁이 치열하다. 혁신이 기술과 산업의 영역이라면 포용은 정치의 몫이다. AI 기술이 주목되는 까닭은 그것을 가진 자와 못 가진 자의 격차가 크게 벌어질 것이라는 게 자명하다는 데 있다. 그 격차는 사회적 혼란을 부른다. 이 혼란을 줄이기 위해서는 기술 발전으로 인한 혜택을 넓혀야 한다. 일자리 변화에 대한 대책을 세우고, 새로운 시대에 맞게 교육도 해야 한다. 산업보다는 정치가 담당해야 하는 역할들이다. 안전은 기술의 문제로 인식되곤 한다. 현재 AI와 관련된 안전 문제로 거론되는 사안은 시스템 오류, 편견, 조작, 무기화 등이다. 시스템 오류의 경우 기술이 갖는 비완벽성이라는 일반적 한계이고 편견의 경우 잘못된 학습으로 나타난 AI의 고유한 오류다. 조작과 무기화는 AI 기술 자체의 문제라기보다 이를 운용하는 인간의 문제다. 여하튼 이 모든 것을 기술로 해결해야 한다는 믿음이 있는 듯하다. 안전 문제는 그런데 기술 사안이기도 하면서 근본적으로는 철학의 영역이기도 한 것 같다. 정상회의의 테마가 '선의를 위한 인공지능(AI for Good)'이라는 게 예사롭지 않다. '선의(Good)'라는 것은 구체적으로 무엇을 의미하는 것일까. AI 자체에 의지(will)가 있고 그래서 착한 의지를 가진 AI를 개발해야 한다는 것일까, 아니면 이를 개발하고 사용하는 사람이 착한 마음을 갖게 해야 한다는 것일까. “AI는 사람을 중심으로 해야 한다”는 명제를 던진 것으로 보아 아마 후자 쪽에 더 무게를 둔 것 같다. AI는 도구에 불과한 것이고 그러므로 사람을 해치는 데 쓰지 말고 사람을 이롭게 하는 데 사용하도록 서로 합의하자는 의미겠다. AI 안전 문제 가운데 조작과 무기화를 세계적인 차원에서 각국 정부가 통제하자는 말도 된다. AI를 개발할 때 편견을 줄이도록 기업들에 독려하는 것도 포함될 듯하다. 안전은 곧 통제인 셈이다. 그런데 여기서 떨치기 어려운 의문이 하나 생긴다. 인간이 AI를 통제할 수 있는가의 문제다. 통제는 어떻게 가능한가. 통제 대상을 투명하게 만들 수 있어야 가능하다. 결국 AI를 투명하게 해야 통제가 가능하다. 그런데 AI는 두 가지 점에서 본질적으로 불투명하다. 하나는 불투명한 사람이 AI를 조종한다는 점이고, 다른 하나는 AI 자체가 투명할 수 없는 기술이라는 거다. 인간의 뇌는 불투명하다. 뇌를 해부할 수는 있어도 뇌의 작동을 통제할 수는 없다. 불투명하기 때문이다. 뇌가 불투명해서 믿을 수 없는 인간을 통제하기 위해 만든 게 도덕과 법과 종교 등이다. 뇌는 불투명하지만 행동은 투명하기 때문이다. 자연도 불투명하다. 불투명한 것은 위협적이다. 자연의 위협을 극복하려고 개발한 것이 과학기술이다. 지금까지 모든 과학기술은 투명했다. 통제 가능했다. AI는 인간이 개발한 기술 가운데 유일하게 불투명한 것이다. AI의 기술적 진화 방향은 인간의 뇌를 닮는 것이고 퍼포먼스에서 인간의 뇌를 뛰어 넘는 것이다. 불투명의 극한으로 가는 것이다. 그런데 AI를 진화시키기 위해서 인간은 더 투명해져야 한다. 인간의 모든 지성과 행위를 숨김없이 AI에게 보여야 하기 때문이다. AI에게 인간은 유리처럼 투명해지고 인간에게 AI는 알 수 없는 미궁인 것이다. 공평은 어쩌면 뇌가 불투명한 존재끼리 투명의 정도를 비슷하게 맞추어가는 과정을 의미할지도 모른다. 어느 한 쪽만 투명하다면 하나의 시선만 남는다. 검사와 범죄자처럼 일방적인 관계가 된다. 신뢰란 불투명한 존재끼리 서로 믿는 일이다. 투명해야 믿는 것은 신뢰가 아니다. 그건 통제다. 신뢰하지 않기 때문에 투명을 요구하는 것이다. AI와 인간은 공평할 수 없다. 그것이 안전 문제 본질이다.

2024.06.03 11:12이균성