검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'AI 워싱'통합검색 결과 입니다. (5건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

유통업계 파고든 AI…효율 높였지만 '눈속임' 문제는 우려

배달앱과 이커머스업계가 상품 이미지와 상세페이지 제작 등 소비자와 맞닿은 영역까지 인공지능(AI) 활용을 넓히고 있다. 상품 출시 기간을 단축하고 이미지 검수를 수십 초 만에 마치는 등 업무 효율을 높이고 있지만, 실제 상품과 다른 이미지가 노출되거나 소비자가 AI 활용 사실을 알기 어렵다는 문제도 제기된다. 5일 관련 업계에 따르면 배달의민족과 컬리, 쿠팡 등 주요 유통 플랫폼은 메뉴 이미지 검수와 상품 연출컷 제작, 상세페이지 작성, 메뉴 추천과 리뷰 요약 등에 AI를 활용 중이다. 과거 수작업에 의존했던 콘텐츠 제작과 검수 과정에 AI가 도입되면서 상품 등록과 콘텐츠 제작 속도도 빨라지고 있다. 다만 AI가 소비자의 구매 판단에 직접 영향을 미치는 영역까지 확대되면서 검수와 표시 기준을 둘러싼 과제도 커지고 있다. 업계는 실제 상품과 다른 이미지가 노출되지 않도록 내부 검수와 사후 관리 절차를 운영하고 있지만, AI로 제작한 이미지의 표시 범위와 검수 방식은 업체마다 다른 상황이다. 기술 활용 속도에 맞춰 소비자 오인을 막을 공통 기준을 구체화해야 한다는 목소리가 나온다. “상품 오픈 기간 줄였다”…이미지·상세페이지까지 AI 활용 컬리는 자체 개발한 '크리에이티브 AI'를 활용해 상품 썸네일과 연출컷, 광고 배너, 상세페이지 문구 등을 제작하고 있다. MD가 상품명과 주요 정보, 특장점 등을 입력하면 AI가 이를 바탕으로 이미지와 상세페이지 초안을 만드는 방식이다. AI 도입 효과는 상품 출시 속도에서 나타나고 있다. 컬리에 따르면 상품위원회를 통과한 뒤 실제 판매를 시작하기까지 기존에는 촬영과 상세페이지 제작 등에 한 달가량이 걸렸지만, 크리에이티브 AI 도입 이후 상황에 따라 일주일 이내로 줄었다. 실제 커피 제품의 포장 이미지를 활용해 라테가 컵에 담기는 연출 장면을 만들거나 여러 제품을 한꺼번에 보여주는 묶음 이미지를 제작하는 데 AI가 사용되고 있다. 상품 패키지가 변경됐을 때 기존 썸네일을 수정하는 작업에도 활용한다. 컬리 관계자는 “상품 자체를 실제와 다르게 만드는 것이 아니라 기존 상품 이미지를 바탕으로 묶음 사진이나 연출컷을 제작하는 수준으로 활용하고 있다”며 “상세페이지도 컬리 내부에서 직접 제작하고 검수한 뒤 등록하고 있다”고 말했다. 배민은 AI를 콘텐츠 제작보다 검수 과정에 적극 활용하고 있다. 지난 2024년 4월부터 점주가 '배민셀프서비스'를 통해 메뉴 사진을 등록하면 AI가 평균 20초 안팎으로 등록 가능 여부를 확인하고 있다. 메뉴 이미지의 해상도가 지나치게 낮거나 상표권·저작권을 침해할 가능성이 있는지 등을 AI가 먼저 판단해 기존에 사람이 직접 검수하던 시간을 줄였다. 메뉴 추천과 리뷰 요약 등 소비자가 직접 이용하는 기능에도 AI가 적용되고 있다. 우아한형제들 관계자는 “업주가 메뉴 이미지를 등록하면 AI 검수를 거친 뒤 배민 앱에 반영된다”며 “사진과 실제 제공되는 음식이 지나치게 다르다는 고객 불만이 반복되면 해당 업주에게 연락해 개선을 요청하고 있다”고 설명했다. “실제 상품과 같아야”…AI 활용 늘지만 소비자 오인은 문제 하지만 AI로 만든 이미지가 실제 상품과 다르거나 소비자가 이를 촬영 사진으로 오인할 수 있다는 점은 문제다. 상품 이미지와 상세페이지, 리뷰 요약은 가격과 함께 소비자의 구매 판단에 직접적인 영향을 주기 때문이다. 특히 음식과 신선식품은 사진에 나타난 양과 크기, 색상, 재료에 따라 상품에 대한 기대가 달라진다. AI를 활용해 배경이나 연출 장면을 만들면서 실제 상품보다 크거나 풍성하게 표현할 경우 소비자가 받아보는 제품과 차이가 생길 수 있다. 플랫폼들도 이런 문제를 인식해 자체 가이드라인을 마련하고 있다. 쿠팡은 지난달 AI 생성 콘텐츠 활용 가이드를 개정해 실제 이미지나 영상, 음성 또는 이용 후기와 혼동될 우려가 있는 경우 AI 활용 사실을 표시하도록 판매자들에게 권고했다. 상품 판매나 광고에 활용돼 소비자의 구매 판단에 중대한 영향을 미치는 경우도 표시 권고 대상이다. 사람의 직접적인 검수 없이 AI 생성물을 외부에 공개해 오류 가능성이 있는 경우에도 고객이 AI 활용 사실을 쉽게 알 수 있도록 안내해야 한다고 명시했다. 가령 실제 상품 사진을 바탕으로 배경만 바꾸거나 여러 제품을 한 화면에 배치한 연출컷은 상품의 형태가 그대로 유지될 수 있다. 반면 AI가 음식의 양을 늘리거나 질감과 색감을 실제보다 강조했다면 소비자의 구매 판단을 왜곡할 가능성이 커진다. 문제는 이 둘을 나누는 구체적인 기준이 아직 뚜렷하지 않다는 점이다. AI 가상인물이 상품을 추천하는 광고의 경우 기준이 명확하다. 지난 6월 개정된 공정거래위원회 지침에 따라 게시물 첫 부분이나 이미지·영상 속 인물과 가까운 곳에 '가상인물'이라는 사실을 표시해야 한다. AI로 만든 인물이 특정 제품을 먹고 체중이 줄었다거나 신체 기능이 개선됐다고 말하는 등 실제 경험이 있는 것처럼 표현하는 행위도 부당한 표시·광고가 될 수 있다. 반면 일반 상품 이미지에는 이 같은 구체적인 표시 방식이 없다. 실제 상품은 그대로 두고 배경만 AI로 만든 경우와 여러 상품 사진을 합성한 경우, 색상이나 질감만 보정한 경우까지 모두 AI 생성물로 표시해야 하는지는 업체 판단에 맡겨져 있다. 업체별 관리 방식도 다르다. 컬리는 입점 판매자가 상세페이지를 직접 올리지 않고 내부 MD와 콘텐츠 담당자가 AI로 만든 연출컷과 문구를 검수한 뒤 게시한다. 배민은 점주가 올린 메뉴 이미지의 해상도와 저작권 침해 가능성 등을 AI로 검수하고, 실제 음식과 다르다는 민원이 반복되면 점주에게 수정을 요청한다. 다수의 판매자가 직접 상품 정보를 등록하는 오픈마켓은 관리가 더 어렵다. 판매자가 외부 AI 프로그램을 이용해 이미지를 만든 뒤 별도 표시 없이 등록하더라도 플랫폼이 생성 여부를 일일이 파악하기 쉽지 않기 때문이다. 이에 대해 한 업계 관계자는 “AI를 활용하면 촬영과 편집에 필요한 시간과 비용을 줄일 수 있다는 장점이 분명하다”면서도 “실제 상품과 다른 이미지를 걸러내고 AI 활용 사실을 어느 범위까지 표시할지에 대해서는 업계 전반의 기준이 더 구체화돼야 할 필요가 있다”고 말했다.

2026.08.05 10:35류승현 기자

[유미's 픽] 업무 전 과정 AI에 맡겼더니…통합 플랫폼 관리비 '눈덩이'

기업용 인공지능(AI) 에이전트 도입이 확산하고 있지만 비용 절감 효과를 낙관하기 어렵다는 경고가 잇따르고 있다. 직원의 반복 업무를 줄일 수 있다는 기대와 달리 데이터 정비와 시스템 연동, 권한 관리, 오류 검수에 추가 비용이 발생하면서 기업 부담이 커질 수 있어서다. 16일 업계에 따르면 글로벌 기업용 소프트웨어 업체들은 최근 고객관계관리(CRM), 마케팅, 영업, 고객서비스 업무를 수행하는 AI 에이전트를 앞다퉈 선보이고 있다. 직원이 목표를 입력하면 AI가 고객 데이터를 분석하고 콘텐츠를 제작한 뒤 캠페인 실행과 성과 관리까지 맡는 방식이다. 하지만 실제 기업 환경에선 도입 과정이 단순하지 않다. 고객 정보가 여러 시스템에 흩어져 있고 부서마다 데이터 형식과 승인 절차가 다른 경우가 많아서다. 또 AI가 업무를 수행하려면 데이터를 정비하고 기존 애플리케이션을 연결해야 할 뿐 아니라 직원별 접근 권한과 개인정보 보호 정책, 오류 차단 장치도 새로 마련해야 한다. 이 탓에 기업들이 부담해야 할 구축·운영 비용도 커질 가능성이 높다. 실제 글로벌 컨설팅업체 베인은 기업이 에이전틱 AI 기반을 구축하는 데 향후 3~5년간 기술 예산의 5~10%를 투입할 수 있다고 전망했다. 에이전트 플랫폼뿐 아니라 실시간 데이터 접근 환경과 보안, 모니터링 체계를 갖추는 데 비용이 들어가기 때문이다. 인력 절감 효과도 제한적일 수 있다. AI가 고객에게 메시지를 발송하거나 가격과 주문 정보를 다룰 경우에는 결과를 검수하고 행동 기록을 감시할 인력이 필요하다. 또 개인정보 유출이나 잘못된 주문 처리 등 사고가 발생하면 원인을 추적하고 책임 범위를 판단하는 업무도 추가된다. 월가에서도 AI 도입이 곧바로 비용 절감으로 이어지지는 않을 것이라고 지적했다. 제이미 다이먼 JP모건 최고경영자(CEO)는 최근 실적 발표에서 일부 조직의 인력이 AI 도입 이후 30~40% 줄었지만 회사 전체 운영비가 급격히 감소하는 것은 아니라고 밝혔다. 또 경쟁사도 같은 기술을 도입하는 만큼 생산성 향상이 이익률 개선으로 그대로 이어지기 어렵다고 강조했다. 모델 이용료도 새로운 부담으로 꼽힌다. 기존 기업용 소프트웨어는 직원 수를 기준으로 요금을 부과했지만 AI 에이전트는 작업량과 모델 호출 횟수, 처리 결과에 따라 비용이 달라질 수 있다. 하나의 업무를 수행하는 과정에서 여러 시스템과 AI 모델을 반복 호출하면 실제 사용액을 예측하기도 쉽지 않다. 딜로이트는 AI 에이전트 확산으로 좌석 기반 구독제가 사용량과 성과를 반영하는 과금 방식으로 바뀔 가능성이 있다고 내다봤다. 소프트웨어 비용 산정과 예산 관리가 더 복잡해질 수 있다는 의미다. AI 에이전트가 기존 기업용 애플리케이션을 본격적으로 대체하는 데도 5년 이상이 필요할 것으로 전망했다. 대규모 투자에도 성과를 내지 못한 기업도 적지 않다. 보스턴컨설팅그룹 조사에선 상당한 투자를 집행한 기업의 60%가 매출 증가나 비용 절감에서 뚜렷한 성과를 얻지 못한 것으로 나타났다. AI를 전사적으로 확장해 실질적인 가치를 낸 기업은 데이터와 기술뿐 아니라 업무 절차와 인력 운영 체계까지 함께 바꾼 곳에 집중됐다. 맥킨지 조사에서도 응답자의 88%가 최소 1개 업무에서 AI를 정기적으로 사용하고 있다고 답했지만, AI 프로그램을 확장 단계로 옮긴 기업은 약 3분의 1에 그쳤다. AI 에이전트를 최소 1개 업무에서 확장 중이라는 응답도 23%였으며, 39%는 아직 시험 단계에 머물렀다. 이는 제품 도입이 전사 성과로 이어지기까지 적지 않은 시간이 필요하다는 의미다. 마케팅과 고객서비스처럼 외부 고객과 직접 접촉하는 업무에선 오류 위험이 커진다는 것도 부담 요인이다. 일반 챗봇의 오답은 답변에 그칠 수 있지만 실행 권한을 가진 에이전트의 오류는 잘못된 고객 분류와 메시지 발송, 할인 적용, 주문 변경으로 이어질 수 있다. 이에 기업은 AI가 처리하는 업무가 늘어날수록 승인 절차와 접근 권한, 행동 기록을 더 세밀하게 관리해야 한다. 시장조사업체 가트너는 비용 증가와 불명확한 사업 가치, 부족한 위험 통제로 인해 2027년 말까지 에이전틱 AI 프로젝트의 40% 이상이 중단될 것으로 전망했다. 기존 챗봇이나 자동화 제품에 에이전트라는 명칭을 붙이는 '에이전트 워싱'도 확산하고 있다고 지적했다. 업계에선 기업이 AI 에이전트 도입 효과를 따질 때 단순 업무시간 단축보다 전체 소유비용을 기준으로 판단해야 한다는 목소리가 커지고 있다. 소프트웨어 이용료와 모델 호출비뿐 아니라 데이터 정비, 시스템 통합, 보안, 검수 인력, 사고 대응 비용까지 포함해야 실제 투자수익률을 확인할 수 있다고 봐서다. 아누슈리 베르마 가트너 수석 디렉터 애널리스트는 "많은 기업이 AI 에이전트를 대규모로 배치하는 데 필요한 실제 비용과 복잡성을 보지 못하고 있다"며 "과장된 기대를 걷어내고 어디에 어떻게 적용할지 신중하게 결정해야 한다"고 말했다.

2026.07.16 15:31장유미 기자

[기고] 공정거래위원회 규제와 AI 워싱

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주] 인공지능(AI) 기술이 일상생활과 산업 전반에 확산되면서 "AI 기술을 사용한다"는 문구는 이제 기업 홍보에서 흔히 사용되는 표현이 됐다. 다만 실제로는 AI를 활용하지 않거나 기술 수준을 과도하게 부풀리는 사례도 증가하고 있다. 이같은 사례는 'AI 워싱(AI Washing)'이라고 불린다. 이는 환경 친화적이지 않은 기업이 친환경 기업인 것처럼 홍보하는 '그린워싱(Greenwashing)' 개념에서 파생된 용어다. 공정거래위원회(공정위)는 지난 1월 발표한 '2025년 주요업무 추진계획'을 통해 AI 워싱 행위에 대한 감시 및 실태조사를 추진할 계획임을 밝혔다. 공정위가 아직 AI 워싱의 구체적인 유형이나 판단 기준을 제시한 바는 없으나 관련 규제는 공정위 소관 법령인 '표시·광고의 공정화에 관한 법률(표시광고법)'을 근거로 이루어질 것으로 예상된다. 이에 AI 워싱을 판단함에 있어 표시광고법상 부당한 표시·광고에 관한 기본 법리를 숙지하는 것이 우선돼야 한다. 표시광고법 제3조 제1항 제1호는 허위·과장이나 기만적인 표시·광고를 통해 소비자를 오도하거나 잘못 인식하게 할 우려가 있는 행위를 금지하고 있다. 광고의 적법성은 보통 수준의 주의력을 가진 일반 소비자가 해당 광고로부터 받는 전체적이고 궁극적인 인상을 기준으로 객관적으로 판단해야 한다. 이는 대법원에서 지난 2010년 7월 22일 선고한 판결(2007다59066)에서도 확인된다. 또 광고에 포함된 사실에 대한 입증 책임은 광고주에게 있으며 합리적이고 객관적인 근거를 통해 이를 증명해야 한다. 이는 대법원에서 지난 2003년 3월 31일에 내린 결정(2002마4109)에 명시된 바 있다. 이에 AI 기술 관련 표시·광고를 기획할 때에는 전문가가 아닌 일반 소비자를 기준으로 소비자 오인 가능성을 면밀히 검토해야 한다. 또 광고의 실증책임은 공정위가 아닌 광고주에게 있다는 점을 명확히 인식해야 한다. 제한된 지면이나 시간 속에서 소비자에게 정보를 전달해야 하는 광고의 특성상 불가피하게 소비자의 오인이 발생할 수 있다는 인식도 있다. 그럼에도 공정위는 광고의 표제만으로도 소비자가 오인하지 않도록 구성할 것을 명시적으로 요구하고 있다. 만약 부득이하게 제한사항(Disclaimer)을 표제에 담을 수 없다면 광고를 대략적으로만 접한 소비자라도 핵심 제한사항을 인지할 수 있도록 시각적·언어적으로 효과적인 전달 방식을 갖출 것을 권장된다. 실제로 공정위는 이에 대한 가이드라인인 '주된 표시·광고에 딸린 제한사항의 효과적 전달에 관한 가이드라인'도 제정한 바 있다. 표시·광고에서 주장된 내용에 대한 실증 방식은 공정위 고시인 '표시·광고 실증에 관한 운영지침'에 상세히 규정돼 있으므로 사업자는 이를 참고해 실증자료를 구비할 필요가 있다. 실증자료가 해당 기준에 부합하지 않는 경우 실증이 미흡하다고 판단돼 제재로 이어질 수 있다. 또 AI 워싱이 그린워싱에서 착안된 개념인 만큼 공정위의 그린워싱 판단 기준을 참고하는 것도 유의미하다. 공정위는 지난해 그린워싱에 대한 감시를 주요업무 추진계획으로 발표했고 그 일환으로 '환경 관련 표시·광고 심사지침'을 대폭 개정해 시행했다. 개정 지침은 기존 심사지침의 일반원칙을 재정비하고 구체적인 사례를 제시하고 있으며 사업자가 스스로 법 위반 여부를 점검할 수 있도록 셀프 체크리스트도 신설했다. 공정위가 올해 주요 업무로 AI 워싱을 명시한 만큼 향후 관련 조사와 제재가 본격화될 가능성이 크다. 이러한 흐름은 국내에만 국한되지 않는다. 미국은 AI 기술 주도권 유지를 위한 규제 완화 및 기술 혁신 촉진 정책을 펼치고 있으나 동시에 AI 기술의 공공성 확보를 위한 규제적 대응도 병행하고 있다. 실제로 미국 법무부는 최근 AI 워싱 문제에 본격적으로 개입하는 모습을 보이고 있다. 향후 AI 워싱과 관련한 규제기관의 보다 구체적인 판단 기준이 제시될 것으로 기대된다. 사업자들은 그에 앞서 표시광고법의 기본 원칙과 그린워싱 선례 등을 바탕으로 자사의 내부 컴플라이언스 체계를 정비하는 것이 바람직하다.

2025.05.09 16:16법무법인 태평양 변채영 컬럼니스트

[기고] AI 워싱, 신뢰를 위한 규제와 책임의 조화

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주] 인공지능(AI) 기술이 산업 전반에 빠르게 확산되면서 'AI 워싱(AI Washing)'이라는 새로운 마케팅 현상이 두드러지고 있다. 최근 미국에서 소비자들이 '애플 인텔리전스'라는 AI 기능을 강조하는 광고를 믿고 아이폰16 등의 제품을 구매했으나 실제로는 이 기능들이 제한적이거나 아예 제공되지 않았다고 주장하면서 애플을 상대로 집단소송을 제기했다. 이는 단순한 과장 광고를 넘어 이른바 AI 워싱에 해당된다는 주장이다. AI 워싱은 말 그대로 'AI를 덧씌운 세탁 행위'다. 기업이 실제로는 AI 기술을 거의 사용하지 않거나 일부만 적용했음에도 마치 첨단 AI를 전면적으로 도입한 것처럼 홍보하는 행위를 말한다. 이는 친환경적이지 않은 기업이 마치 친환경 경영을 하는 것처럼 홍보하는 '그린 워싱(Green washing)'과 유사한 개념이다. 최첨단 AI 기술을 사용한 제품이나 서비스인 것처럼 과장해 소비자의 관심을 끌거나 선택에 혼동을 주고 AI 제품의 기능을 과장해 투자 유치 등에 나서는 것이다. AI 워싱이 만연하게 되면 소비자는 AI의 성능에 의문을 갖게 될 것이다. 실제 사용을 통해 부정적 경험이 누적될 경우 AI 기술 자체에 대한 신뢰도가 저하될 수 있다. 실제로 AI를 제대로 활용하지 않는 기업들이 '혁신 기업'으로 포장되면 진짜 기술을 가진 기업에 투자 자원이 제대로 분배되지 않아 기술 발전이 저해된다. 또 과장된 경쟁 환경 속에서 기업들이 무리한 목표를 세우고 추진할 경우 자원 낭비는 물론 프로젝트 실패로 이어져 오히려 전체 산업의 혁신 속도를 늦출 수 있다. AI 워싱을 직접적으로 규제하는 특별 법령은 아직 국내외에 마련돼 있지 않으나 기존의 소비자 보호 및 공정 거래 관련 법령을 통해 규제가 가능하다. 국내의 경우 표시광고법 등이 적용될 수 있고 미국에서는 증권거래위원회(SEC)의 증권법과 연방거래위원회(FTC)의 소비자 보호 규정 등이 적용되고 있다. 미국의 경우 SEC는 지난해 투자자문사 델피아와 글로벌프리딕션스가 AI 기능을 허위 광고했다며 각각 22만5천 달러(한화 약 3억원), 17만5천 달러(한화 약 2억3천400만원)의 벌금을 부과했다. FTC는 기업들에게 AI 활용 정보를 명확하게 표시하고 이를 공개하도록 하는 등 AI 워싱 대응에 적극적인 모습을 보이고 있다. 국내에서는 아직 AI 워싱에 대한 직접적인 제재 사례는 없다. 다만 공정거래위원회가 올해 주요업무 추진계획을 발표하면서 AI 분야와 관련해 'AI 워싱' 행위 감시 및 실태조사를 추진하겠다고 밝힌 바 있다. 또 서울 YMCA와 같은 시민단체들이 애플의 사례를 들어 공정거래위원회 조사 요청 및 검찰 고발 촉구를 검토하는 등 움직임도 보이고 있다. 다만 이 같은 현상을 오로지 기업의 윤리 문제만으로 치부할 수는 없다. AI의 개념 자체가 포괄적이고 모호하다는 점, 현행법상 "어디까지가 진짜 AI인가"에 대한 명확한 판단 기준이 없다는 점은 기업 입장에서 판단과 홍보에 혼선을 불러올 수 있다. 인공지능기본법(AI기본법)이 올해 제정됐지만 그 정의조차 '학습·추론·판단 등 인간 지능의 전자적 구현'이라는 추상적 표현에 머물러 있다. 규제 체계가 기술 발전 속도를 따라가지 못하는 상황에서 기업들이 기술적 용어에 의존할 수밖에 없는 유인도 분명히 존재한다. 이러한 구조적 한계 속에서도 기업은 소비자 신뢰를 확보하고 법적 리스크를 줄이기 위해 AI 기술의 실제 사용 범위, 성능, 한계 등을 투명하게 공개해야 한다. 단순히 'AI 기반', '지능형'이라는 문구만으로 광고하지 말고 기술의 적용 방식과 효과에 대한 구체적인 설명을 수반해 소비자의 오인가능성을 줄여야 한다. 내부적으로도 기술 검증, 홍보 문구 사전 검토 등의 컴플라이언스 체계를 갖추는 것이 필요하다. AI 기술이 사회 전반에 빠르게 확산되고 있는 지금이야말로 규제의 명확화와 기업의 책임 있는 자세가 모두 필요하다. 허위와 과장의 영역에서 기술의 신뢰는 생기지 않는다. 소비자 보호와 기술 혁신, 두 마리 토끼를 잡기 위해서는 모두의 노력이 절실한 시점이다.

2025.04.25 17:09법무법인 태평양 강정희 컬럼니스트

[남기자의 비욘드IT] 딥시크가 촉발한 '오픈워싱' 논란, 오픈소스의 미래는

중국 스타트업 딥시크(DeepSeek)가 'R1' 등 자체 개발한 인공지능(AI) 모델을 오픈소스로 공개하면서 논란이 일고 있다. AI모델의 코드와 가중치를 공개했지만, 학습 데이터와 훈련 과정은 비공개이기 때문이다. 이에 일부 개발자들은 '오픈소스'라고 부르기에 부족하다는 비판에 나섰다. AI오픈소스 커뮤니티인 허깅페이스 측은 R1의 숨겨진 요소를 모두 분석해 재구축하는 '오픈-R1(Open-R1)'를 진행 중이기도 하다. 문제는 구글과 메타 등 빅테크 기업 역시 이런 논란에서 자유롭지 않아 관련 업계에서 '오픈소스'라는 용어가 마케팅 도구로 전락하는 것 아니냐는 '오픈워싱(Openwashing)'에 대한 우려의 목소리가 나오고 있다. 7일 업계에 따르면 최근 AI 오픈소스의 정의와 방향에 대해 기업과 사용자간 논쟁이 치열하게 일고 있다. 오픈소스 생태계 위협하는 오픈워싱 AI 모델을 '오픈소스'로 공개하는 것은 연구자들과 개발자들이 자유롭게 활용하고 발전시킬 수 있도록 하기 위한 취지다. 그러나 최근 많은 기업들이 핵심 기술을 비공개로 유지한 채 '부분적 개방'만을 내세우고 있다. 해당 논란이 거세지는 이유는 오픈소스 철학의 핵심인 개방성과 투명성이 훼손되며 개발 생태계를 악화시킨다는 지적이다. 이로 인해 오픈소스 AI의 의미와 방향을 둘러싼 논쟁은 단순한 기술적 논의에서 벗어나, AI 생태계 전체의 구조를 결정하는 중요한 요소로 자리 잡고 있다. AI 발전 과정에서 오픈소스는 중요한 역할을 해왔다. 초기 AI 연구자들은 개방된 모델과 데이터를 활용해 기술을 발전시키고 협업을 통해 새로운 혁신을 이끌어냈다. 대표적으로 구글과 메타 같은 기업들은 AI 연구에 필수적인 오픈소스 프레임워크와 모델을 공개하면서 생태계를 확장했다. 구글은 2015년 텐서플로를 공개해 AI 연구 및 개발의 표준을 만들었고, 2014년에는 쿠버네티스(Kubernetes)를 통해 클라우드 환경에서 AI 모델을 효율적으로 운영할 수 있도록 했다. 메타 역시 AI 오픈소스를 적극적으로 활용한 기업으로 꼽힌다. 2016년 공개한 파이토치(PyTorch)는 현재 가장 널리 사용되는 AI 개발 프레임워크 중 하나다. 2022년에는 리눅스 재단 산하 파이토치 재단으로 이관해 커뮤니티 주도의 발전을 지원하고 있다. 오픈소스 생태계 이끌어온 빅테크의 달라진 행보 하지만 이렇게 AI오픈소스 생태계를 이끌어온 기업들이 본격적인 AI모델 출시와 함께 행보가 달라지고 있다. 구글은 젬마(Gemma)라는 AI 모델을 공개했지만, 학습 데이터와 훈련 코드는 공개하지 않고 있다. 또 구글의 AI전용 프로세서인 TPU에 최적화돼 특정 클라우드 종속성을 강화하는 방식으로 운영되고 있다. 메타도 라마를 오픈소스로 제공하고 있다고 밝혔지만 훈련 데이터와 세부 알고리즘은 비공개로 유지하고 있는 추세다. 이에 비영리 오픈소스 표준화 단체인 오픈소스 이니셔티브(OSI) 측은 '오픈소스'란 용어를 사용해 사용자를 혼란스럽게 하고 오픈소스를 오염시켰다며 강도 높게 비판했다. AI 오픈소스 커뮤니티인 허깅페이스도 오픈워싱 논란에 대해 비판적인 입장을 보이고 있다. 클레망 들랑브 최고경영자(CEO)는 AI 기업들이 오픈 모델이라는 용어를 남용하고 있으며, 진정한 오픈소스 AI는 학습 데이터와 훈련 과정까지 포함돼야 한다고 주장했다. 기술경쟁 심화된 AI, 기술 보호 중요성 커저 AI 오픈소스 생태계를 적극적으로 지원하며 생태계를 주도하던 기업들이 점점 폐쇄적인 방향으로 돌아서고 있는 이유는 AI 기술 경쟁이 심화되면서 '기술 보호'가 더 중요한 요소로 떠올랐기 때문이다. 오픈AI가 GPT-2까지는 공개했지만, GPT-3부터 모델을 비공개로 운영하며 API 기반 서비스로 전환한 것은 대표적인 사례다. 오픈AI는 학습 데이터와 훈련 알고리즘을 비공개로 유지하면서도 GPT 기반의 유료 API 서비스를 제공하며 AI 생태계를 선점하는 전략을 택했다. 마이크로소프트의 대규모 투자 이후 GPT-4는 완전히 비공개 모델이 됐다. 오픈AI 역시 연구 초기에는 'AI 기술을 모두에게 개방한다'는 비전을 내세웠지만, AI 기술이 상업화되면서 기업 중심의 폐쇄적인 운영 방식을 선택했다. 구글과 메타는 기술보호와 함께 AI 클라우드 서비스와의 연계를 강화하는 전략적 요소가 더 강해졌다. 막대한 비용이 소비되는 AI 연구 비용 지출을 클라우드 서비스와의 결합을 통해 완화할 수 있기 때문이다. AI 모델의 훈련과 운영에는 막대한 비용이 소요된다. GPT-4의 훈련 비용은 수억 달러(수천억원)로 추정되며, 기업이 AI 모델을 공개하면 경쟁사들이 해당 모델을 무료로 사용할 가능성이 높아진다. 이에 따라 기업은 비용을 부담하고 연구한 기술을 다른 기업들이 쉽게 복제해 경쟁력을 갖출 수 있게 된다. 이런 이유로 AI 기업들은 오픈소스보다는 '부분적 공개' 또는 '제한된 라이선스' 전략을 선택하는 추세다. 특히 딥시크 사례는 AI 모델이 공개되지 않아도 충분히 복제될 수 있다는 가능성을 보여줬다. 이에 따라 기업들은 AI 모델을 더욱 폐쇄적으로 운영할 가능성이 높아졌으며, AI 오픈소스 시장 자체가 위축될 가능성이 커진다는 지적이다. 모두 공개보다 제한적 공개로 전환할 가능성 높아진 빅테크 AI 모델을 오픈한다는 것이 곧바로 기술 공유를 의미하지 않는다는 점이 분명해지면서, AI 기업들은 '어떤 부분을 공개할 것인가'에 대한 전략적 판단을 더욱 신중하게 내릴 것으로 보인다. 특히 관련 업계에선 AI 모델의 소스코드가 모두 공개되지 않아도 복제될 수 있다는 점이 확인되면서, 기업들은 오픈소스 전략을 제한적으로 운영할 가능성이 높을 것이란 전망이다. 이러한 흐름에 따라 최근 샘 알트먼 오픈AI CEO가 발언도 오픈워싱 전략이 포함된 것이란 해석이 제기되고 있다. 최근 샘 알트먼은 레딧에서 진행한 '무엇이든 물어보세요(AMA)' 코너에서 딥시크의 부상을 보며 현재 오픈소스 전략이 잘못된 것 같다며 더 개방적인 방향을 고려할 것이라고 밝힌 바 있다. 하지만 완전한 오픈소스로 전환할 경우 오픈AI의 수익 모델에 악영향을 미칠 가능성이 있고 1위를 유지하고 있는 상황에서 굳이 경쟁자에게 최신 기술을 공유할 이유가 없다는 분석이다. 국내 한 AI전문가는 "현재 오픈AI의 AI모델이 가장 좋은 성능을 보유한 것은 알려져 있지만 자세한 정보를 공개하고 있지 않아 기업들과 개발자들의 불만이 큰 상황"이라며 "이런 불만을 잠재우고 여론을 돌리기 위해서라도 긍정적인 발언을 할 필요가 있었을 것"이라고 분석했다. AI 오픈소스 이끌 것으로 주목 받는 AI스타트업 다만 딥시크를 비롯해 미스트랄 등 AI스타트업을 중심으로 AI 오픈소스 생태계가 변화할 것이란 전망도 나온다. AI모델을 오픈소스로 공개하면 누구나 부담 없이 활용할 수 있을 뿐 아니라 외부 개발자들의 기여를 통해 개발 비용을 줄이고, 모델 개선 속도를 높일 수 있다는 장점이 있다. 또 오픈소스 프로젝트에 적극적으로 참여하는 AI 분야의 우수한 인재를 자연스럽게 확보하며 개발 생태계를 구축 가능하다. 더불어 개방적이고 투명한 AI 생태계를 지향하며 기존 AI기업과 차별화된 브랜드 이미지를 확보할 수 있다. 구글과 메타 역시 이러한 전략을 바탕으로 클라우드를 비롯해 웹브라우저, 가상현실(VR), 데이터 인프라스트럭처 등의 분야에서 안정적인 생태계를 구축한 바 있다. 한 AI 전문가는 "미스트랄이나 딥시크가 오픈소스로 공개되면서 오픈AI와 비교되며 관심을 끌고 있지, 기술독점 방식이었다면 지금 같은 반응은 끌어내지 못했을 것"이라며 "앞으로의 AI 시장은 자본과 인프라를 앞세운 빅테크와 오픈소스를 강조하는 스타트업 간의 경쟁 구도가 될 것으로 예상된다"고 전망했다.

2025.02.07 18:05남혁우 기자