ZDNet 검색 페이지

'AI컨택'통합검색 결과 입니다. (11건)

[기고] 인공지능의 수명

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주] 사람은 영생하지 못한다. 그렇다면 사람이 아닌 인공지능은 영생할 수 있을까. 인공지능은 생물학적 몸을 가진 존재가 아니므로 늙어 죽지는 않지만 하드웨어인 그래픽처리장치(GPU) 수명, 소프트웨어 업데이트 주기, 학습 데이터 유효성에 따라 수명이 결정된다. GPU는 통상 2년에서 5년 주기로 교체되고 소프트웨어는 지속적으로 업데이트되지만 2년 정도면 모델 자체가 바뀐다고 한다. 학습에 사용되는 데이터 역시 세상의 정보와 이용자의 요구가 달라지면서 1~2년만 지나도 낡은 정보가 되어 그대로 쓰기 어렵다. 결국 인공지능 수명은 길게 잡아도 5년 남짓이라는 이야기가 된다. 그러나 조금 더 들여다보면 다르게 보인다. GPU가 5년 뒤에 교체되는 것은 작동할 수 없게 돼서가 아니다. 성능이 향상되고 전력 소모가 적은 새로운 하드웨어가 출시되고 소프트웨어가 요구하는 성능도 높아지면서 효율 측면에서 오래된 하드웨어가 밀려나는 것일 뿐이다. 교체 주기가 지났다고 GPU가 멈추는 것은 아니므로 원래 소프트웨어가 그대로라면 오래된 하드웨어 위에서도 인공지능은 계속 작동할 수 있다. 반대로 하드웨어가 바뀌더라도 인공지능을 움직이는 소프트웨어가 유지된다면 동일한 인공지능이 수명을 이어간다고 볼 수 있을 것이다. 인공지능의 수명을 짧게 만드는 것은 오히려 소프트웨어 쪽이다. 학습해야 할 세상의 정보가 달라지고 이용자의 요구가 달라지니 인공지능 모델도 바뀌어야 한다는 것이다. 2022년 11월 오픈AI가 GPT-3.5 기반 챗GPT를 내놓은 뒤 이듬해 3월에 GPT-4를 발표했고 다른 인공지능 기업들도 반년에서 1년 간격으로 새로운 모델을 내놓았다. 4년이 채 지나지 않은 현재 기업 간 경쟁 때문인지 새로운 버전의 인공지능이나 동영상 생성 같은 새로운 기능이 발표되는 간격이 두 달이 안 될 정도로 짧아졌다. 2024년 5월에 발표돼 선풍적인 인기를 끌었던 GPT-4o만 해도 현재는 일반 이용자가 선택해 쓸 수 없게 됐다. 챗GPT 서비스가 모두 GPT-5 모델로 대체된 영향이다. 경쟁 모델인 클로드나 제미나이도 사정은 비슷하다. 같은 인공지능 모델을 2년 넘게 쓰기 어려운 상황이니 스마트폰의 교체 주기보다도 짧은 셈이다. 이용자 입장에서는 모델이 바뀌어도 이전에 나눈 대화를 기억하고 답해 준다면 같은 인공지능이라고 여길 수도 있다. 그러나 그것이 다른 인공지능이라는 점은 부인하기 어렵다. 인공지능의 수명을 결정하는 것은 하드웨어보다 소프트웨어 영향이 크다. 그 소프트웨어는 사람들이 살아가며 끊임없이 만들어 내는 세상의 정보와 인공지능에 거는 기대가 달라지기 때문에 변한다. 인공지능의 수명을 정하는 것은 다름 아닌 사람들의 삶과 기대다. 지금과 같은 경쟁적 발전이 언제까지 이어질지 알기는 어렵다. 다만 오래도록 이용자와 함께 성장하고 의지가 되주는 인공지능이 나타나기를 바란다.

2026.07.31 16:52류광현 컬럼니스트

[기고] AX 시대, 통제 너머의 기업 컴플라이언스 2.0

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주] AI 전환(AX)은 이제 금융, 헬스케어, 모빌리티 등 특정 업권 관심사가 아니라 비즈니스 모델과 조직 운영, 업무 효율화 전반에 AI를 내재화하려는 모든 기업의 공통 화두로 떠올랐다. 그럼에도 많은 기업은 AI 도입 과정에서 생기는 관리 절차의 공백을 메우거나 부서 간 책임을 재정비하기보다, 법무·준법감시·소비자보호 같은 전통적 통제부서가 문제를 포착해 제한적으로 관여하는 방식을 선호한다. 속도와 혁신 경쟁이 어느 때보다 치열한 상황에서 전사적 AI 관리 강화가 자칫 발목을 잡을까 하는 경영진의 우려는 이해할 만하다. 그러나 경쟁에서 한발 앞서려면 경영진이 적기에 올바른 결정을 내리도록 뒷받침하는 리스크 관리·분석·보고 체계가 오히려 중요하다. AI를 출시할지 결정하려면 서비스의 편의·효용뿐 아니라, 잠재 리스크로 기업이 치러야 할 평판 훼손과 소비자 이탈까지 따져야 하기 때문이다. 하지만 현실에서는 개별 AI 서비스의 기획·개발·검증 체계가 부서별로 파편화돼 있거나, 전사적 AI 위험평가 기준과 정보보안 심의의 표준절차가 없어 리스크 관리에 공백이 생기는 경우가 많다. AX 시대의 기업 컴플라이언스는 더 이상 규제 준수와 준법 경영이라는 기존 '컴플라이언스 1.0' 패러다임에 갇혀서는 안 된다. 지금 기업에 필요한 것은 '컴플라이언스 2.0'으로의 전환이다. 이는 개별 AI 활용과 사업화 프로젝트에 따르는 리스크를 선제적으로 파악하고, 추진 여부와 방향을 신속·적절하게 결정하기 위해 조직과 절차를 정비하며 부서 간 역할과 책임을 나누는 데 초점을 둔 개념이다. 컴플라이언스 2.0은 AI 기본법·개인정보 보호법 등 개별 법령의 준수 여부를 모니터링하고 규제기관에 대응하는 내부통제 시스템만을 뜻하지 않는다. AI를 내부 업무나 사업에 활용하려는 기업은 법령 준수를 넘어선 고민이 필요하다. AI 모델의 성능과 데이터 품질 관리가 부실할 때 소비자에게 어떤 문제와 불만을 일으키는지, 그로 인한 민원에 어떻게 대응해야 이탈을 막을 수 있는지까지 살펴야 한다. 설명 가능성이 대표적이다. 현재 AI 기본법은 일정 영역의 AI만 '고영향 AI'로 규정해 그 판단과 주요 기준을 이용자에게 설명하도록 의무를 지운다. 그러나 고영향 AI를 도입하지 않은 기업이라 해도 설명 가능성을 보장할 관리 조치가 불필요한 것은 아니다. AI 제품·서비스가 확산되고 그 자율성이 커질수록 소비자는 AI 판단의 근거와 기준을 더 궁금해하기 마련이다. 실제로 AI 도입이 활발한 금융회사들은 이런 민원이 늘고 있음을 체감하고 있다. 법적 설명 의무의 유무와 무관하게 기업이 소비자 불만을 해소하고 이탈을 막으려면 자사 AI가 '친절하고 이해하기 쉬운 설명'을 제공한다는 인식을 심어야 한다. 소비자가 만족할 만한 수준의 설명 가능성 보장은 민원 업무를 담당하는 소비자보호 부서 단독으로는 해결하기 어렵다. 기획 부서가 적정 설명 수준을 설정하고 개발·검증 부서가 이를 기술적으로 구현하며 운영 부서가 기준 충족 여부를 모니터링해 소비자보호 부서의 민원 처리에 반영하는 식으로 서비스 수명주기 전반에 걸친 유기적 협업이 필요하다. 이를 위해 수명주기에 따라 분담된 부서별 역할과 책임이 제대로 이행되는지, 문제가 생겼을 때 어디를 개선해야 하는지를 전사적으로 관리할 AI 위험관리 조직이 필요하다. 이 조직은 법령 위반 여부만 점검하는 데 그치지 않는다. 설명 가능성, 편향성, 그리고 에이전틱 AI 도입이 늘수록 더 부각될 책임성 같은 관리 지표를 기업 리스크 관점에서 전문적으로 파악하고 전사적으로 관리하는 부서다. AI 위험관리 조직은 통상 기업 내 단일한 통제부서가 수행하는 업무보다 넓은 역할을 맡는다. 기획·개발, 평가·검증, 운영·모니터링으로 이어지는 AI 수명주기는 기존 내규나 매뉴얼만으로 관리하기 어렵다. 이를 반영한 위험관리체계를 세우고 이행 여부를 관리·감독하는 것이 핵심 업무다. 어떤 서비스를 위험관리 대상으로 삼을지 기준을 세우고 비즈니스 방향에 맞춰 유연하게 조정하는 일, 위험을 요소별로 평가해 수준에 맞게 차등 관리함으로써 불필요한 인력·자원 낭비를 줄이는 일도 이 조직의 몫이다. AI 위험관리 조직이 수명주기 전반의 리스크를 관리하는 실무 부서라면 적기의 AI 도입과 사업화를 결정할 전문성을 갖춘 최고 의사결정기구도 필요하다. 점차 많은 기업들이 법적 의무와 관계없이 이러한 성격을 갖춘 AI 위원회를 기업 내에 신설하는 추세이다. AI 위원회는 제품·서비스의 개발과 출시를 승인할지 아니면 보완이 끝날 때까지 유보할지를 정하고, 위험관리체계와 주요 내규의 제·개정을 보고받아 승인하는 등 기업 AX의 최상단에서 컨트롤타워 역할을 한다. 기존 이사회·산하 위원회와 AI 위원회 사이의 조직 구성과 책무 배분을 어떻게 가져갈지도 기업지배구조 차원에서 면밀히 검토할 사안이다. AX 시대의 컴플라이언스 2.0은 기존 컴플라이언스와 완전히 분리된 것이 아닌 과거의 내부통제 시스템을 전사적인 AI 거버넌스 차원에서 통합하는 개념이다. 조직과 운영 관리를 아우르는 이 확장된 컴플라이언스 체계는 소비자가 기업의 AI 제품과 서비스를 더 신뢰하고 안전하게 쓰도록 만드는 혁신의 경쟁 무기가 될 것이다.

2026.07.20 16:30강지원 컬럼니스트

[기고] AI 경쟁력 새 기준, 데이터 라이선싱

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주] AI 데이터 학습을 둘러싼 저작권 논의는 기술 혁신을 위한 공정 이용과 창작자 권리 침해라는 이분법에 갇혀 있었다. 최근 글로벌 저작권 소송과 빅테크들의 데이터 계약 움직임은 이같은 접근 자체가 바뀌어야 함을 보여준다. AI 발전을 멈추거나 창작권을 희생하는 문제를 넘어, 데이터를 어떻게 안전하게 지속 가능한 방식으로 확보할 것인가라는 현실적인 질문에 답하고 있어서다. AI는 이미 기업의 핵심 인프라로 자리 잡고 있다. 거대언어모델의 고도화부터 특정 도메인에 특화된 버티컬 AI 에이전트의 구축에 이르기까지 서비스의 본질적 기능 상당 부분이 데이터 품질을 기반으로 재편되고 있다. 글로벌 주요 언론사와 콘텐츠 플랫폼들이 무단 크롤링에 제동을 걸며 데이터의 정당한 대가를 강조하는 배경 역시 여기에 있다. 그동안 AI 데이터 확보 논의는 주로 위험 통제나 침해 여부에 초점이 맞춰져 왔다. 현장에서는 어떤 데이터를 안심하고 써야 하는지, 향후 발생할 잠재적 저작권 리스크를 실제 운영 단계에서 어떻게 통제해야 하는지에 대한 혼란이 있었다. 기업 입장에서는 기존 개발 비용과 더불어 그 법적 부담감이 상당했던 것도 사실이다. 최근 급부상한 '데이터 라이선싱' 모델은 무분별한 스크래핑 제한보다 신뢰 가능한 데이터 유통 기준 마련에 방점을 찍는다는 점에서 이 간극을 메우려는 시도로 해석된다. 이는 기업 실무 관점에서도 의미가 크다. 기업이 AI 모델을 도입하거나 고도화할 때 가장 어려움을 겪는 부분은 알고리즘 자체의 성능이 아니라 데이터 출처에 따른 사후 책임과 내부 통제에 대한 불확실성이다. 합법적 데이터 라이선싱은 비용 지출 여부를 판단하는 기준을 넘어서 도입 이후 법적 안정성, 데이터의 독점적 사용 범위, 소비자 및 투자자 신뢰 확보 등 기업의 안정적 운영을 위한 관리 방법을 명확히 제시해 준다. 시장의 전향적 변화가 기업 한계를 제한하지 않고 오히려 예측 가능성을 높여 그 발전을 돕고 있는 셈이다. 이같은 접근은 본격 시행에 들어간 AI기본법과 데이터산업법, 저작권법 등 관련 법령 해석과 적용에서도 중요한 시사점을 제공한다. AI기본법이 산업 전반의 거버넌스와 위험관리 체계를 제시하는 보편적 규범이라면, 데이터 라이선싱 계약 표준은 지식재산권이라는 특정 영역의 위험 구조를 반영한 실무적 운영 기준에 가깝다. 향후 AI 생태계가 단일 법률에 의존해 모든 문제를 해결하기보다 공적 법제와 계약 질서가 상호 보완적으로 작동하는 방향으로 발전할 가능성을 시사한다. AI 경쟁력은 이제 알고리즘 성능이나 자체 기술 규모만으로 결정되지 않는다. AI 도입 과정에서 발생할 수 있는 저작권 분쟁, 영업비밀 유출, 데이터 오염 문제에 대한 제도적·시장적 신뢰가 없다면 빠른 기술 도입은 오히려 리스크다. 한국어 데이터의 절대적 양이 부족하고 자본력이 열세인 국내 AI 산업 특성상, 우리 실정에 맞는 상생 모델이 충분히 고려될 필요가 있다. 데이터 무단 학습 규율은 이 문제의식을 구체화한 결과다. 라이선싱 체제가 실효성을 갖기 위해서는 거래 투명성과 합리적인 단가 책정이 중요하다. 대형 플랫폼과 스타트업 간의 데이터 접근 격차가 존재하는 만큼 동일한 원칙이 현장에서 다양한 규모의 기업에 공정하게 구현될 가능성을 높여야 한다. 이 과정에서 정부의 표준 계약서 제정 지원과 업계 간의 지속적인 소통, 성공적인 데이터 거래 사례 축적이 필요하다. 라이선싱 제도가 경직된 규약이 아니라 살아 있는 기준으로 기능하려면 축적 과정이 필수적이다. 데이터 무단 학습의 종말과 라이선싱 시장의 부상은 한국의 AI 산업 논의가 새로운 단계로 접어들었음을 보여준다. 중요한 것은 데이터를 얼마나 자유롭게 긁어올 수 있는가의 문제가 아니라, 데이터를 산업 본질에 부합하도록 어떻게 계획하고 안정적으로 운영할 것인가다. 글로벌 전역에서 시작된 변화는 향후 국내 모든 정보기술(IT) 산업으로도 확산될 수밖에 없다. 기업에 필요한 것은 소송과 규제를 피하는 것보다 합법적 라이선싱을 운영의 언어로 이해하고 선제적으로 설계하는 전략일 것이다.

2026.06.19 17:29이수화 컬럼니스트

[기고] AI 시대, 변호사와 의뢰인 비밀유지권

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주] 한국은 지난 2월 '변호사법' 개정을 통해 변호사-의뢰인 비밀유지권, ACP(Attorney-Client Privilege)의 도입을 확정했다. 개정된 변호사법은 변호사와 의뢰인 또는 의뢰인이 되려는 자 사이에서 법률사건 또는 법률사무에 관한 조력을 제공하거나 받을 목적으로 이뤄진 비밀인 의사교환 내용을 공개하지 않을 수 있도록 규정했다. 또 변호사가 수임한 사건과 관련해 소송, 수사 또는 조사를 위해 작성한 서류나 자료도 공개하지 않을 수 있도록 하며 전자적 형태로 작성·관리되는 자료까지 보호대상에 포함했다. ACP 도입은 변호사의 직업상 비밀유지의무를 강화하는 데 그치지 않는다. 의뢰인이 변호사에게 불리한 사실관계까지 솔직하게 털어놓을 수 있도록 보장함으로써 헌법상 변호인의 조력을 받을 권리를 실질화하는 제도적 전환이다. 대법원도 같은 방향으로 나아가고 있다. 대법원은 지난 2월 피의자·피고인과 변호인 사이에서 형사사건 법률자문 또는 법률상담 과정에 생성된 서류나 자료의 압수는 헌법상 변호인 조력을 받을 권리 등을 침해할 소지가 있으므로 원칙적으로 허용돼선 안 된다고 판단했다. 대법원은 같은 달 또 다른 판결에서도 피고인과 변호인 사이의 통화녹음 파일을 압수한 행위가 변호인 조력을 받을 권리를 중대하게 침해한다고 봤다. 뒤늦게 영장이 발부됐거나 공판에서 증거동의가 있었다는 사정만으로는 그 위법성이 치유되지 않는다는 의미다. ACP가 법제화되는 시점에 생성형 AI 확산은 새로운 문제를 제기한다. 변호사나 의뢰인이 사건 경위, 이메일, 녹취록, 방어전략, 의견서 초안, 내부조사 자료를 생성형 AI에 입력하는 순간, 그 정보는 여전히 '비밀인 의사교환'으로 남을 수 있을까. ACP 시대의 AI 활용 문제는 단순한 기술윤리 문제가 아니라, 비밀성 관리와 증거법적 보호의 문제로 이해할 필요가 있다. 해외에선 이미 이 쟁점에 관한 판례가 형성됐다. 미국 뉴욕 남부연방지방법원은 형사피고인이 공용 AI 플랫폼을 이용해 만든 문서에 대해 변호사-의뢰인 특권과 업무산출물 보호를 모두 부정했다. 법원은 해당 문서가 의뢰인과 변호사 사이의 의사소통이 아니고, 공용 AI 플랫폼의 개인정보 처리방침상 입력·출력 데이터가 수집·활용·제3자 제공될 수 있어 비밀유지에 대한 기대가 인정되기 어렵다고 봤다. 또 피고인이 변호인의 지시 없이 스스로 AI를 사용한 이상, 나중에 그 결과물을 변호사에게 보냈다고 해서 사후적으로 특권이 생기는 것은 아니라고 판단했다. 반면 모든 AI 활용이 곧바로 ACP에 의한 보호 상실로 이어지는 것은 아니다. 미국 미시간 동부연방지방법원은 본인소송 당사자가 챗GPT를 활용해 소송 준비를 한 자료에 대해 업무산출물 보호를 인정했다. 법원은 업무산출물 보호의 포기는 상대방에게 공개되거나 상대방에게 도달할 가능성이 커진 경우에 문제된다고 판단했다. 챗GPT와 같은 생성형 AI 프로그램은 사람이라기보다 도구에 가깝다고 본 것이다. 콜로라도 연방지방법원은 본인소송 당사자의 AI 활용에 업무산출물 보호가 미칠 수 있다고 보면서도 사용한 AI 도구의 명칭까지 당연히 보호되는 것은 아니라고 판단했다. 동시에 법원은 보호명령을 통해 당사자가 비밀자료를 AI 플랫폼에 입력하려면 AI 제공자가 ▲입력자료의 저장 및 학습 사용 ▲제3자 공개를 계약상 제한 ▲당사자 요청에 따른 삭제권 보장해야 한다는 취지의 조건을 제시했다. 해외 사례가 주는 시사점은 분명하다. 쟁점은 AI를 사용했는지가 아니라 누가, 어떤 목적으로, 어떤 플랫폼을, 누구의 지휘·감독 아래, 어떤 보안조건으로 사용했는지다. 공용 AI에 사건정보나 법률자문용 자료 등을 입력하는 행위는 ACP 비밀성 요건을 흔들 수 있다. 반대로 변호사의 지휘 아래 보안성과 비밀유지가 계약상 보장되는 폐쇄형 또는 기업형 AI를 사용하는 경우엔 AI가 변호사의 보조도구로 평가될 여지가 있다. 한국에서 아직 생성형 AI 활용과 ACP의 관계를 직접 다룬 대법원 판례는 확인되지 않는다. 그러나 개정 변호사법 제26조의2가 '비밀인 의사교환'과 '전자적 형태로 작성·관리되는 자료'를 보호 대상으로 삼고 있고, 대법원이 변호인 조력권의 본질로서 비밀보장을 강하게 인정한 이상, AI 활용 과정에서 비밀성이 유지됐는지는 수사·재판절차에서 중요한 쟁점이 될 가능성이 크다. 기업과 로펌은 생성형 AI 활용을 단순히 금지하거나 개별 구성원의 판단에 맡기는 방식으로 대응하기 어렵다. 공용 AI에 의뢰인 정보, 법률자문 내용, 내부조사 자료, 소송전략을 입력하지 않는 원칙을 명확히 할 필요가 있다. 기업형 또는 폐쇄형 AI를 사용하더라도 데이터 저장 여부, 모델 학습 사용 여부, 제3자 제공 가능성, 삭제권, 접근권한, 로그관리, 해외 이전 여부를 확인해야 한다. 필요한 경우 의뢰인 동의 절차, AI 사용 고지, 프롬프트와 출력물의 관리 기준도 마련해야 한다. 결국 ACP 시대 AI 거버넌스는 개인정보보호나 영업비밀 보호를 넘어서는 문제다. 이는 변호사와 의뢰인 사이의 신뢰, 방어권, 증거능력, 소송전략의 보호와 직결된다. 생성형 AI는 법률업무의 효율성을 높이는 강력한 도구가 될 수 있다. 하지만 통제되지 않은 프롬프트 하나는 ACP가 보호하려는 비밀을 외부 플랫폼에 이전하는 통로가 될 수도 있다. AI 시대 법률업무에서 중요한 것은 AI 사용 여부 자체가 아닌, 비밀을 유지할 수 있는 방식으로 AI를 통제하고 그 통제체계를 사후적으로 입증할 수 있는지다.

2026.06.04 18:04노은영 컬럼니스트

[기고] 인간이 직접 만든 콘텐츠입니다

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주] A씨는 건강을 위해 달리기로 결심했다. 혼자 뛰다 보니 여러 명이 함께 달리는 러닝 크루들이 보였고, A씨도 러닝 크루를 만들어 뛰는 것이 더 재미있을 것 같았다. A씨는 달리기 모임을 만들고 신규 회원 모집에 나섰다. 회원을 모집하려니 모임을 상징하는 이미지가 있으면 좋겠다는 생각이 들었다. 아쉽게도 A씨는 상상력은 풍부한 편이지만 그림 그리기에 영 소질이 없다. 하지만 걱정할 필요가 없다. A씨는 머리에 떠오른 이미지를 AI에게 설명하고 이미지를 만들어 보라고 시킨다. AI가 만든 이미지를 보며 A씨가 몇가지 수정 아이디어를 주니 꽤 쓸만한 이미지가 나온다. AI가 발전하면서 흔히 볼 수 있게 된 모습이다. 이미지뿐 아니라 AI를 이용해 프롬프팅으로 영상이나 음악, 애플리케이션을 만들기도 한다. 개인 취미 활동에만 이용되는 것이 아니다. 한국콘텐츠진흥원에 따르면 국내 콘텐츠 산업 종사자들이 생성형 AI를 이용하는 비율이 2025년 상반기에 20%에 달했다. 지난 2024년 하반기보다 약 7% 늘어난 것이라고 하니 1년이 지난 지금은 그 비율이 훨씬 높아졌을 것이다. AI는 콘텐츠 제작에 많은 도움을 주고 있지만 악용되는 사례도 많다. AI를 이용해 마치 진짜인 것처럼 만들어 내는 딥페이크에 대해 일반인들이 조작된 것인지 확인하기는 쉽지 않다. 특정 세력 여론몰이나 트래픽을 늘려 수익을 얻기 위해서 등 다양한 목적으로 딥페이크가 쏟아지고 있다. 최근 중동에서 일어난 이란 전쟁을 예로 들어 보자. 이란 전쟁은 다양한 방향에서 AI가 본격적으로 이용된 전쟁으로 볼 수 있는데, AI로 가짜 사진이나 동영상을 정교하게 생성하여 여론에 혼란을 주기도 했다. 예를 들어 아랍에미리트 두바이에 있는 세계 최고층 건물 부르즈 할리파가 드론 공습을 받는 사진과 동영상이 사회관계망서비스(SNS) 등에 널리 퍼졌지만 AI로 생성되거나 변경된 가짜 이미지로 확인이 됐다. 딥페이크가 광고에 도입되면 더 혼란을 줄 수 있다. 어느 분야의 권위있는 인물 이미지를 활용해 어떤 제품을 권하는 것처럼 합성한다거나, 의약품의 경우 사용 전후 변화 이미지를 AI를 이용해 효과를 과장할 수도 있다. 이런 문제로 인해 AI가 생성한 결과물이라는 사실을 알리도록 하는 방안이 추진되고 있다. 옛 트위터인 엑스(X)는 무력 충돌을 다룬 영상과 이미지를 AI로 생성할 때 AI 생성 결과물임을 밝히지 않고 게시하는 이용자에게 광고 수익 공유를 중단하겠다고 발표했다. AI를 이용해 생성한 실제와 구분하기 어려운 이미지, 영상 등 딥페이크에 대해 'AI를 이용해 생성됐다'는 사실을 이용자가 명확하게 알 수 있도록 표시할 의무를 법제화하려는 움직임도 나타난다. 유럽연합(EU)은 'AI 액트(Act)'에서 AI 시스템 배포자(deployer)에게 딥페이크 콘텐츠가 인위적으로 생성 또는 조작됐다는 것을 공개하도록 정하고 있다. 이에 EU는 실시간 영상, 비(非)실시간 영상, 이미지, 오디오 등 콘텐츠 종류별로 딥페이크임을 표시하는 방법에 대한 가이드라인을 발표했다. 우리나라도 텍스트, 이미지, 동영상, 음성 등 콘텐츠 종류 별로 표시 방법에 대한 가이드라인이 나와 있다. 최근 국회 본회의를 통과한 의료기기법 개정안은 딥페이크를 활용하여 관련 분야 전문가가 의료기기를 보증, 추천 등 하는 것으로 오인하게 할 우려가 있는 광고를 금지했다. 공정거래위원회도 AI로 만든 가상인물을 활용한 광고에 '가상 인물이 포함된 게시물'이라는 사실을 알리도록 한 심사지침 개정안을 행정예고했다. 국회엔 딥페이크를 직접 제작하거나 편집하여 제공하려는 자에게 해당 정보가 AI 생성물임을 나타내는 표시를 하도록 의무화하는 정보통신망법 일부 개정안도 발의돼 있다. 이용자에게 AI를 이용해 만든 결과물이라는 사실을 명확히 알리는 방향으로 제도가 정비되고 있다. 갈수록 우리가 보는 콘텐츠에 'AI를 이용해 만든 결과물'이라는 표시가 많이 보일 것이다. 그렇다면 AI를 이용하지 않고 오직 인간 힘으로 모든 과정을 해 낸 콘텐츠는 수제품과 같은 지위를 갖게 되는 것일까.

2026.05.21 17:31유재규 컬럼니스트

[기고] 조직 안에 들어온 AI 에이전트…'누가 통제하는가'가 경쟁력

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주] AI 업계 화두가 생성형 AI에서 'AI 에이전트'로 넘어온 지도 꽤 됐다. 최근엔 기업들이 이를 실제 업무에 적용하기 시작하면서 분위기가 달라지고 있다. AI는 이제 단순히 질문에 답하는 수준을 넘어 목표를 이해하고 여러 단계를 거쳐 실제 행동까지 수행한다. 회의 내용을 정리하고 이메일을 보내는 수준 이상으로 일정 조율, 보고서 작성, 고객 응대, 계약서 검토까지 수행한다. 영업·인사·법무 등 업무별 특성에 맞춘 '개인화된 에이전트 AI'를 구축하는 사례들도 늘고 있다. 하나의 범용 AI가 아니라 조직 내부 역할과 업무 흐름에 맞춰 여러 개 AI 동료를 배치하기 시작했다는 점이 인상적이다. 앞으로는 전사자원관리(ERP)·고객관리(CRM)·그룹웨어와 연결해 기업 내부 의사결정 과정 자체에 개입할 가능성도 크다. 문제는 여기서부터다. AI 에이전트는 사용자 목표를 해석하고 필요한 정보를 탐색하며, 여러 선택지 중 하나를 스스로 결정한다. 때로는 인간이 예상하지 못한 방식으로 문제를 해결하기도 한다. AI 에이전트에게 "출장 비용을 절감하라"는 목표를 부여했다고 가정해 보자. 에이전트는 항공권 가격을 비교하고 호텔을 예약하며 공급업체와 자동 협상을 진행할 수 있다. 이 과정에서 특정 거래처를 반복적으로 우대하거나 내부 승인 절차를 우회하는 판단을 내린다면 어떻게 될까. 기존 법체계는 기본적으로 '누가 결정했는가'를 중심으로 책임을 판단해 왔다. 하지만 AI 에이전트 시대엔 이 질문이 점점 어려워진다. 인간이 직접 지시하지 않았더라도 AI가 스스로 최적화를 수행하는 과정에서 문제가 발생할 수 있기 때문이다. AI 기본법이 고영향 AI에 투명성 확보와 안전성 검토, 위험관리 체계 구축을 요구하는 것도 같은 맥락이다. 이는 단순한 기술적 안전장치 문제가 아니라, 기업 내부에서 AI에 어떤 권한을 부여하고 누가 이를 관리·감독할 것인지에 관한 거버넌스 문제에 가깝다. 결국 중요한 것은 AI 성능만이 아니다. 기업이 AI에게 어디까지 권한을 부여할 것인지, 인간의 개입 지점을 어디에 둘 것인지, 그리고 문제 발생 시 책임 구조를 어떻게 설계할 것인지가 새로운 경쟁력이 될 수 있다. AI 에이전트는 더 이상 단순한 소프트웨어가 아니다. 그렇다고 완전한 의사결정 주체도 아니다. 앞으로의 경쟁은 단순히 더 좋은 AI를 보유하는 것이 아니라, AI를 얼마나 안전하고 신뢰 가능하게 통제할 수 있는가를 중심으로 전개될 가능성이 크다.

2026.05.07 16:33강정희 컬럼니스트

[기고] 미토스와 AI 거버넌스

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주] 최근 AI 기업 앤트로픽이 공개한 '클로드 미토스' 모델이 법조계와 보안업계를 포함한 산업 전반에 큰 화두를 던졌다. 미토스는 사람이 찾지 못한 보안 시스템 취약점을 파악하는 탁월한 성능을 가지고 있다. 기존 AI가 사용자의 지시를 성실히 수행하는 역할을 했다면 미토스는 스스로 시스템 취약점을 찾아낼 뿐만 아니라 이를 공격하는 방법까지 고안해 내는 모델이다. 이러한 기술적 특이점은 우리로 하여금 그동안 구축해 온 규제 체계가 과연 새로운 기술에도 적용가능한지 고민하게 한다. 정보보안 체계가 이 수준의 지능적 위협에 안전한지, 기업이 법령상 보호조치를 준수한 것만으로 면책될 수 있는지가 문제다. 급변하는 기술 환경과 규제 동향에 비춰볼 때 새로운 기술의 등장에 발맞춘 법령 개정이나 제정 등이 필요한 것은 아닌지 살펴볼 필요가 있다. 현재 시행 중인 AI 기본법은 고위험 영역 AI 개발자에게 안전성 확보의무를 부과한다. 개인정보보호법에선 개인정보처리자에게 안전조치의무를 부과한다. 각 법령은 데이터의 유출·변조 방지를 위한 기술적·관리적 보호와 위험관리체계 구축과 같은 의무를 부과한다. 기관과 기업 등이 미토스와 같은 모델을 활용한다면 이들의 법령 준수 여부보다 AI가 생성하는 공격 코드에 적시에 대응할 수 있는 고도화된 기술적 보호조치를 했는지로 판단하는 것이 타당하다. 진정한 기술 발전은 규제와 진흥 균형에서 나온다. 과도한 규제는 국내 기업의 발목을 잡을 수 있지만 명확하고 합리적인 기준은 기업들이 예측 가능한 환경하에 놓이도록 한다. 기업이 수행할 역할을 정해줌으로써 혁신의 돛이 될 수 있다. 이를 위해 기업은 법령 체크리스트를 채우는 수준을 넘어 내부적인 AI영향평가 등을 투명하게 기록해야 한다. AI 진화는 거스를 수 없는 거대한 흐름이다. 15년 전 스마트폰 등장이 법조계 지형을 근본적으로 바꿨듯 미토스로 대변되는 고성능 AI는 우리 사회 보안과 프라이버시 패러다임을 다시 쓰기를 요구하고 있다. 여전히 가장 중요한 가치는 신뢰다. 기업은 자신의 AI가 안전하다는 것을 데이터와 거버넌스로 증명해야 하고 정부는 그 증명의 기준을 합리적으로 제시하며 혁신을 뒷받침해야 한다. 미토스가 던진 질문은 단순히 발전된 기술로 인한 위협과 공포가 아니다. 우리가 급변하는 이 거대한 변화를 감당할 만큼 책임 있는 시스템을 구축하고 있느냐는 법치주의적 성찰이다. 이제 속도 경쟁을 넘어 우리 사회가 수용 가능한 발전의 질을 고민해야 할 골든타임이다.

2026.04.24 17:00이강혜 컬럼니스트

[기고] 인공지능 특례와 개인정보보호위원회의 역할

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주] 통신사 개인정보 유출 사고와 쿠팡 사고 등을 계기로 개인정보보호에 대한 관심은 더욱 증대되고 있다. 인공지능(AI) 산업의 발전과 확대를 위해 전 방위적인 데이터의 활용에 대한 모색과 노력이 필요하다는 데도 이견은 없다. 그렇지만 개인정보의 안전한 보호라는 절대절명의 과제 하에서 데이터 활용이란 방향성과 가치가 점점 퇴색되는 느낌을 지울 수가 없다. 개인정보보호 강화 명분 아래 최근 매출액의 3% 이하 과징금을 부과하도록 하는 기존 법체계에 더해 매출액의 10% 이하의 과징금을 부과할 수 있게 하는 추가적인 보호 대책이 입법화됐다. 개인정보 처리 및 보호의 최종 책임자로서 회사 대표(CEO)에게 그 지위를 부여하는 조항도 도입됐다. 사소하다고 볼 수 있지만 개인정보 최고책임자(CPO)의 지정에도 미지정 시 과태료가 상향되고 지정요건이나 이사회 의결, 신고의무를 위반한 경우에도 과태료를 부과하는 조항이 추가됐다. 추가적인 개인정보보호법 개정도 논의되고 있다. 여기엔 개인정보 유출 사고로 인한 법정 손해배상 제도를 강화하고, 개인정보의 불법 유통에 대한 처벌 근거를 마련하며, 개인정보 유출 사고 등이 발생한 경우 긴급한보호를 위한 보호조치 명령 제도의 도입 등 개인정보의 보호를 강화하는 내용이 담겼다. 이러한 흐름 속에서 개인정보가 포함된 데이터를 AI 학습에 활용하는 방안은 그 중요성에 비해 주목받지 못하고 있다. 민병덕 더불어민주당 의원과 고동진 국민의힘 의원이 각각 발의한 AI 특례 법안의 핵심도 이 지점을 겨냥한다. 두 법안은 AI 개발을 위해 개인정보가 포함된 데이터를 학습에 활용하는 경우, 원본 그대로 사용하거나 당초 수집 목적을 벗어난 활용도 허용하되, 개인정보보호위원회가 이용 조건을 사전 심사해 의결하는 절차를 두는 방식이다. AI 발전엔 데이터가 필수적이며 개인정보 처리가 불가피한 경우가 대부분이다. AI 모델에서는 개인정보가 파라미터화돼 모델 자체에서 직접 드러나지 않는다. 그럼에도 학습 과정에서 개인정보가 포함되는 만큼 정보주체의 오남용 우려를 해소해야 한다. 두 법안은 이 두 가지 현실 사이 절충안이다. 영상 데이터가 텍스트만큼 학습 자원으로 활용되는 시대가 열리고 있다. 원본 데이터를 AI 학습에 쓸 수 있는 적법한 제도의 구현은 AI 산업 발전에 필수불가결하다. 개별 법에서 유사한 유형 특례들에 대한 입법화가 시도되는 이유다. '자율주행자동차 상용화 촉진 및 지원에 관한 법률'은 자율주행시스템 성능·안전성 향상을 목적으로 개인정보가 포함된 영상정보를 가명처리 없이 사용할 수 있도록 허용했다. 이 제도는 오는 6월 18일부터 시행된다. 윤준병 더불어민주당 의원이 발의한 전북특별자치도 특별법 개정안도 같은 맥락이다. 실증특구 내에서 로봇·AI 학습에 필요한 경우 영상·음성 원본 데이터를 연구 목적으로 활용할 수 있도록 지정·승인하는 규정을 담았다. 특별법 방식으로 AI 개발용 개인정보 데이터 활용을 허용하는 법안은 계속 늘어날 전망이다. 개별 상황에 맞는 특별법이 필요하지만 그 방향성은 개인정보보호법에 담겨야 한다. AI 학습을 위한 원본 데이터 사용 허용이란 공통 취지를 개인정보보호법 체계 안에서 정리하는 작업이 필요하다. 정당한 이익·추가적 이용 규정의 확대 적용과는 별개로 AI 산업 발전에 맞춰 개인정보보호법 체계를 조정하는 일은 불가피하다. 그 중심은 개인정보보호위원회가 맡아야 한다. AI 경쟁에서 뒤처지지 않으려면 개인정보보호법의 조속한 개정이 필요하다.

2026.04.13 17:40강태욱 컬럼니스트

[기고] 인공지능은 누구나 누릴 수 있어야 한다

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주] AI를 활용한 서비스와 그 이용 방식이 하루가 다르게 발전하고 다양해지고 있다. 처음엔 대화 상대로서의 기능에 머물렀던 AI는 이미지 생성, 프레젠테이션 제작, 동영상 편집, 프로그램 코딩으로 영역을 넓혔다. 사람이 수행하던 업무 전반을 보조하거나 대신 처리하는 에이전트 기능으로까지 진화하기까지 그리 오랜 시간이 걸리지 않았다. 지금 이 순간에도 AI의 새로운 활용법과 기능이 쉴 새 없이 등장하고 있으니 인류 역사상 가장 빠르게 팽창하는 서비스라 해도 과언이 아니다. 오늘날 생활 필수품으로 자리 잡은 인터넷조차도 1990년 월드 와이드 웹이 소개된 이후 1993년 최초의 그래픽 웹 브라우저인 모자이크와 넷스케이프를 거쳐 빠르게 성장했지만 대중이 이를 일상적으로 사용하게 되기까진 대략 10년에서 20년의 세월이 필요했다. 반면 AI 서비스는 2022년 11월 챗GPT가 공개된 지 불과 3년 만에 일상생활은 물론 전장(戰場)에서까지 필수 도구로 자리매김했다. 이처럼 눈부신 속도로 발전하는 AI는 나와 같은 법률 전문가는 물론, 수많은 프로그래머의 미래마저 불투명하게 만들고 있다. AI 서비스가 앞으로 어떤 방향으로 전개될지는 그 누구도 섣불리 단언하기 어렵다. 그러나 한 가지만큼은 비교적 명확하게 전망할 수 있다. 대다수 사람이 AI 서비스를 사용하게 될 것이며 일상생활의 상당 부분을 이에 의존하게 되리라는 사실이다. 현재 인터넷과 스마트폰이 우리 삶에서 차지하는 비중만큼 어쩌면 그보다 더 큰 비중을 AI 서비스가 차지하게 될 날이 머지않았다. 현재도 AI 서비스는 프로그래밍을 배운 적 없는 일반인이 손쉽게 프로그램을 만들 수 있도록 도와주고, 마치 숙련된 전문가가 옆에서 실시간으로 안내해 주듯 엑셀과 파워포인트 활용을 지원한다. 이러한 활용이 얼리어답터들의 영역처럼 보이기도 하지만 사용법이 더 단순해지고 접근 문턱이 크게 낮아지리라는 점은 충분히 예견할 수 있다. AI 서비스가 일상의 필수 요소로 자리 잡는 날이 온다면 이를 특별한 방식으로 다루는 제도적 논의도 자연스럽게 부상하지 않을까 생각해 본다. 통신서비스를 규율하는 전기통신사업법은 국민 생활에 필수 불가결인 통신서비스에 대해 '보편적 역무'라는 개념을 도입, 적절한 요금을 부담하는 한 누구나 해당 서비스를 이용할 수 있도록 법적으로 보장한다. 현행법상 보편적 역무로는 시내전화, 공중전화, 인터넷접속서비스 등이 대표적이다. 이를 제공하는 사업자는 법령에 따라 일정한 의무를 부담하고 사업성이 낮은 지역에서도 신청이 있으면 반드시 서비스를 제공해야 한다. 보편적 역무 제공으로 인해 손실이 발생하는 경우엔 원칙적으로 모든 전기통신사업자가 공동으로 이를 분담해 보전하도록 한다. AI 서비스 이용이 일상화되고 국민 전체의 사회적 후생 증진에 핵심으로 인식된다면 인터넷접속서비스처럼 모든 국민에게 보장돼야 한다. 모든 사람이 AI를 부담 없이 활용해 더 나은 삶을 영위하고 혼자선 엄두조차 내지 못했던 일들을 이룰 수 있다면 변호사로서 내 업무가 줄어들더라도 감수할 만한 대가다.

2026.03.27 16:21류광현 컬럼니스트

[기고] 몰입의 세계에 등장한 경고 "AI가 만든 NPC입니다"

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주] 전 세계 최초로 전면 시행된 인공지능(AI) 기본법은 다양한 산업 영역에 적지 않은 변화를 예고하고 있다. 핵심은 동법 제31조가 규정한 '투명성 확보 의무'다. 이 조항은 텍스트·이미지·영상·음성 등 콘텐츠가 AI를 통해 제작된 경우 이용자가 이를 명확히 식별할 수 있도록 표시하게 한다. 이용자의 알 권리를 보장하고 딥페이크 등 AI 기술의 오용 가능성을 방지하기 위한 취지다. 게임 산업은 이 규정의 영향을 가장 먼저 받게 될 분야 중 하나다. 최근 게임 개발 과정에선 비조작 캐릭터(NPC) 대사를 실시간으로 생성하는 대화형 AI, 캐릭터 일러스트 제작을 보조하는 이미지 생성 모델, 배경 음악을 자동으로 작곡하는 생성형 음악 모델 등 다양한 AI 기술이 활용되고 있다. '더 엘더 스크롤 5: 스카이림(The Elder Scrolls V: Skyrim)' 모드 커뮤니티가 그 예시다. 이곳에선 NPC가 이용자의 질문에 맞춰 실시간으로 새로운 대화를 생성하는 'AI NPC' 실험이 등장했다. 이용자가 마을의 역사나 사건을 묻는다면 NPC가 미리 정해진 대사를 반복하는 것이 아니라, AI를 통해 즉석에서 문장을 생성해 설명하는 방식이다. 이용자의 농담이나 예상치 못한 질문에도 자연스럽게 반응하는 모습이 구현되기도 한다. 이런 기술이 상용 게임에 본격 도입되면 해당 캐릭터가 AI 기반 NPC라는 사실을 어떤 방식으로 이용자에게 고지할 것인지가 새로운 규제 쟁점으로 떠오르게 된다. 현행 AI 기본법에 따르면 게임 내에서 AI로 생성된 콘텐츠가 등장할 때 'AI 생성물'임을 알리는 워터마크나 안내 표시가 요구될 가능성이 있다. 그러나 게임 산업엔 다른 콘텐츠 산업과 구별되는 고유한 고민이 존재한다. 게임 핵심 가치 중 하나는 이용자가 가상 세계에 깊이 몰입하는 경험, 즉 '몰입감'이다. 판타지 세계관 속 NPC와의 대화 화면에 생성형 AI로 제작됐다는 안내 문구가 반복적으로 등장한다면, 서사의 흐름이 끊기고 이용자 몰입도가 저하될 가능성도 있다. 기술적 투명성과 창작적 경험 사이에서 균형을 찾아야 하는 이유다. AI 기본법 역시 이런 현실을 일정 부분 고려하고 있다. 동법 제31조 제3항은 AI가 활용된 결과물이 예술적·창의적 표현물에 해당하거나 그 일부를 구성하는 경우, 전시나 향유를 저해하지 않는 방식으로 표시할 수 있도록 규정한다. 게임 역시 대표적인 창작 콘텐츠라는 점을 고려하면 이용 경험을 훼손하지 않는 범위에서 유연한 표시 방식이 허용될 여지가 있다. 예컨대, 이용자가 상호작용하는 캐릭터 이름 옆에 'AI NPC'라는 표시를 두거나 최초 대화 시 간단한 안내를 제공하는 방식이 가능하다. 음성 기반 서비스 역시 마찬가지다. '더 파이널스(The Finals)'는 게임 내 해설 음성 일부에 AI 음성 합성 기술을 활용한 사례로 알려져 있다. 해당 유형의 서비스가 확산되면 이용자가 게임에 접속하는 초기 단계에서 AI 기반 음성 서비스임을 안내하는 방식이 제도적으로 요구될 수 있다. 최근 국회에선 또 다른 논쟁도 촉발됐다. 게임물 제작 과정에서 생성형 AI 활용 여부를 별도로 표시하도록 하는 게임산업법 개정안이 발의되면서다. 게임업계는 이미 AI 기본법을 통해 생성물 표시 의무가 규정된 상황에서 동일한 의무를 개별 산업법에 다시 도입하는 것은 중복 규제에 해당할 수 있다는 우려를 제기했다. 특히 AI가 최종 콘텐츠에 어느 정도 관여했을 때 표시 의무가 발생하는지에 대한 명확한 기준이 마련되지 않은 상황에서 강한 형사처벌이나 과징금 제재까지 도입될 경우 규제 부담이 과도해질 수 있다는 지적이다. 개별 산업법마다 유사한 규제가 도입될 경우 규제 기준의 혼선, 부처 간 권한 충돌, 기업의 규제 준수 비용 증가와 같은 문제도 발생할 수 있다. 해외 주요 입법례에서도 게임과 같은 창작 콘텐츠 영역은 AI 규제의 직접적 적용 대상에서 제외하거나 제한적으로 규율하는 경우가 적지 않다. 기술 투명성 확보라는 정책 목표와 산업 혁신을 동시에 달성하려면 보다 정교한 제도 설계가 필요하다는 지적이 나오는 이유다. 결국 AI 시대 규제는 단순히 규제를 강화할 것인가의 문제가 아니라, 어떤 방식으로 균형을 설계할 것인가의 문제에 가깝다. 이용자의 알 권리를 보장하면서도 게임이 제공하는 창작적 경험과 몰입을 해치지 않는 제도적 접근이 이뤄질 때 AI 기술은 규제의 대상이 아니라 새로운 게임 경험을 확장하는 동력으로 자리 잡을 것이다.

2026.03.12 16:54박주성 컬럼니스트

[기고] 인공지능을 규율한다는 것의 의미

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주] 새로운 기술을 다루는 법은 언제나 늦거나 빠르다. 너무 늦으면 이미 현실을 따라잡지 못하고, 너무 빠르면 아직 정의되지 않은 위험을 과도하게 상정하게 된다. 인공지능(AI)을 둘러싼 최근 제도 설계 역시 이 오래된 딜레마 위에 놓여 있다. 현재 작동 중인 AI 관련 기본 규범은 즉각적인 통제를 목표로 하기보다 일정 기간 제도의 작동 가능성을 점검하는 방식을 선택했다. 이는 단순한 행정 편의나 정치적 타협 결과로 보기 어렵다. 오히려 기술 특성을 전제로 한 선택에 가깝다. AI는 고정된 제품이 아니라 학습과 적용을 통해 끊임없이 성격이 변하는 체계라서다. 이런 기술을 전통적인 규제 방식으로 포섭하면 규범은 곧바로 현실과 어긋날 위험을 안게 된다. 무엇이 위험한지, 누가 책임을 져야 하는지, 어느 단계에서 개입해야 하는지에 대한 사회적 합의가 아직 충분히 축적되지 않은 상태에서 강한 집행을 전제로 한 규칙을 설계하는 것은 오히려 혼란을 키울 수 있다. 문제는 이 과도기가 '아무 일도 하지 않는 시간'으로 오해될 가능성이다. 실제 현장에서는 제도가 존재함에도 불구하고, 무엇을 기준으로 준비해야 하는지 판단하지 못하는 경우가 적지 않다. 이는 규범이 추구하는 방향이 불분명해서라기보다 추상적 원칙이 실무 언어로 충분히 전환되지 않은 탓이다. 법은 가치와 방향을 제시할 수 있지만 개별 서비스의 구조까지 설명해 주지는 않는다. 예컨대 위험을 어떻게 평가할 것인지, 자동화된 판단 과정에서 인간의 개입은 어느 수준까지 요구되는지, 이용자에 대한 설명은 어떤 방식으로 이행돼야 하는지와 같은 문제는 법 조문만으로 해결되기 어렵다. 결국 해석과 적용의 영역이 필연적으로 발생한다. 이 지점에서 중요한 것은 처벌 가능성이 아니라 판단 예측 가능성이다. 기업이나 개발 주체가 가장 어려움을 느끼는 것은 규제가 존재한다는 사실 그 자체가 아니다. 어디까지가 허용되고 어디부터가 문제 되는지 가늠하기 어렵다는 데 있다. 기준이 명확하지 않으면 혁신은 위축되거나 반대로 무책임하게 확장된다. 현재 제도 운용 국면은 규칙을 집행하는 단계라기보다 규칙이 실제 작동할 수 있게 다듬는 과정으로 이해하는 편이 타당하다. 행정 해석, 사례 축적, 산업계와의 상호작용을 통해 원칙이 구체화되지 않으면 이후 강한 집행은 정당성을 확보하기 어렵다. 동시에 이 시기는 기업 내부 준비가 요구되는 시점이기도 하다. 외부 강제력이 약하다고 해서 책임까지 유예되는 것은 아니다. 데이터 출처와 관리 방식, 알고리즘 검증 절차, 결과에 대한 설명 가능성 등은 사후 대응이 아니라 사전 설계 문제다. 이런 점검은 규제를 피하기 위한 방어 수단이 아니라, 기술에 대한 신뢰를 확보하기 위한 최소 조건에 가깝다. 종종 규범은 혁신 반대편에 서 있는 것으로 인식된다. 그러나 명확한 기준이 없는 환경이 반드시 자유로운 환경을 의미하지는 않는다. 오히려 불확실성이 클수록 의사결정 비용은 증가하고 책임은 개인에게 과도하게 전가된다. 합리적인 규칙은 위험을 줄이는 동시에 기술이 사회 안에서 수용될 수 있는 경로를 마련한다. AI를 둘러싼 제도는 지금 질문을 던지고 있다. 얼마나 빨리 통제할 것인가가 아닌, 어떤 방식으로 책임을 배분할 것인가에 대한 질문이다. 기술 속도를 억제하는 것이 목적이 아니라 그 속도가 사회적 신뢰와 충돌하지 않도록 조정하는 것이 핵심이다. 이 과정을 통해 마련된 기준은 향후 집행의 출발점이 될 것이다. 그 기준이 경직된 잣대가 될지, 합리적인 신호가 될지는 지금의 제도 운용과 준비에 달렸다. AI를 다룬다는 것은 결국 기술을 규율하는 일이 아니라 기술을 사용하는 우리의 방식을 설계하는 일이기 때문이다.

2026.01.29 16:19정상훈 컬럼니스트

지금 뜨는 기사

이시각 헤드라인

전문가 6인이 쓴 K-피지컬 AI 성적표…"정책 방향은 'A', 실행은 빠르게"

"국가AI컴퓨팅센터 GPU, B200 확정 아냐…최신 AI 반도체 도입"

"배터리 0%까지 써야 오래 간다?"...스마트폰 충전 오해 5가지

국가대표 AI 2차 선발 돌입…4개 팀, 이달 3팀으로

ZDNet Power Center