검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'AI법'통합검색 결과 입니다. (15건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

[SW키트] 美 빅테크, 'AI 워터마크' 정책 구체화…주요 내용은

미국 IT 기업들이 인공지능(AI) 생성물 표시 정책을 구체화하고 있다. 눈에 보이는 워터마크는 줄이면서도 콘텐츠 내부에 식별 신호를 삽입해 출처를 추적하는 방식으로 전환 중이다. 17일 IT 업계에 따르면 구글을 비롯한 앤트로픽, 오픈AI 등은 이미지·영상·음성·텍스트에 가시 또는 비가시 워터마크와 출처 메타데이터를 적용하는 방안을 잇달아 공개했다. 기업들이 워터마크 적용 대상과 검증 절차를 구체화한 배경에는 지난 2일부터 시행된 유럽연합(EU) AI법 제50조가 있다. EU가 AI 생성물에 기계 판독이 가능한 표시를 요구하면서 콘텐츠 종류별 식별 기술 마련에도 속도가 붙었다. 구글은 지난 14일 이미지·영상·음악 등 AI 생성물의 워터마크 표시 여부를 사용자가 선택할 수 있도록 한다고 밝혔다. 적용 대상은 이미지 생성 모델 '나노 바나나'와 영상 모델 '옴니', 음악 생성 모델 '리리아'다. 해당 기능은 제미나이와 AI 영상 제작 도구 '플로우'에 우선 적용된다. 검색 서비스도 조만간 지원한다. 사용자는 '설정→미디어 워터마크'에서 표시를 켜거나 끌 수 있다. 조시 우드워드 구글 랩스·제미나이 앱·AI 스튜디오 총괄 부사장은 AI 생성물 식별 체계를 폐기한 것은 아니라고 선 그었다. 콘텐츠 내부에 신호를 삽입하는 비가시 워터마크 '신스아이디(SynthID)'와 생성 도구·시점 등 출처 정보를 담는 C2PA 메타데이터는 그대로 유지한다고 밝혔다. 이용자는 제미나이나 구글 검색을 통해 이미지가 AI로 만들어졌는지 확인할 수 있다. 구글은 개발자가 애플리케이션 내부에 C2PA 검증 기능을 넣을 수 있도록 오픈소스 라이브러리 '크레덴티오'도 내놨다. 업계에선 이번 조치가 전문적인 디자인과 광고, 영상 제작 과정에서 가시 워터마크가 결과물 활용도를 떨어뜨린다는 지적을 반영한 것이란 분석이 나오고 있다. 이에 누구나 화면에서 즉시 확인할 수 있는 표시는 없애되, 기계가 읽을 수 있는 출처 신호는 남기는 식으로 정책을 변경한 것이다. 클로드가 쓴 글에 '보이지 않는 흔적' 생긴다 이날 앤트로픽도 AI 생성물 표시 정책을 공개했다. 앞으로 출시하는 클로드 모델의 생성 텍스트에 사람이 눈으로 확인할 수 없는 통계적 패턴을 심고, 기존 모델에도 수개월에 걸쳐 같은 기술을 적용할 계획이다. 앤트로픽은 클로드 텍스트에 특수문자나 숨은 문자를 넣지 않는다. 대신 클로드가 의미가 비슷한 여러 표현 가운데 일정한 규칙에 따라 단어를 선택하도록 설정했다. 이에 전용 도구로만 확인할 수 있는 패턴을 글 전체에 남기는 식이다. 앤트로픽은 이 기술이 문장 의미나 품질을 바꾸지 않으며, 토큰 사용량과 비용에도 영향을 주지 않는다고 설명했다. 워터마크에는 이용자나 소속 기업, 특정 대화를 식별할 수 있는 개인정보도 담기지 않는다. 클로드가 생성하거나 편집한 이미지 등 지원 대상 파일에는 텍스트 워터마크 대신 암호화 서명이 담긴 C2PA 메타데이터를 추가한다. 앤트로픽은 클로드의 텍스트 워터마크를 확인할 수 있는 탐지 응용프로그램 인터페이스(API)도 제공할 예정이다. 테크크런치 등 외신에 따르면 이 워터마크만으로 클로드가 글을 작성했다고 단정하기는 어렵다. 일부 문장을 수정한 경우에는 패턴이 남을 수 있지만 글 전체를 다시 쓰면 사라질 가능성이 있어서다. 클로드가 처음부터 작성한 글과 사람이 쓴 글을 클로드가 대폭 수정한 경우를 구분하기도 어렵다. 이에 앤트로픽은 워터마크가 콘텐츠 제작 과정에 클로드가 관여했을 가능성만 보여준다고 설명했다. 검출 결과만으로 글의 저자나 소유권, 이용 목적을 판단하거나 부정행위의 증거로 삼을 수 없다는 의미다. 오픈AI는 음성·메타는 이미지…그록은 '불참' 오픈AI와 메타도 비가시 워터마크와 출처 메타데이터를 중심으로 AI 생성물 식별 체계를 강화하고 있다. 콘텐츠에 식별 신호를 심고 별도 검증 도구를 통해 생성 출처를 확인하는 방식이다. 오픈AI는 지난달 31일 비가시 워터마크 기술 '신스아이디'의 적용 대상을 이미지에서 음성으로 확대했다. 챗GPT·코덱스·오픈AI API가 생성한 이미지에는 신스아이디와 C2PA 메타데이터를 함께 적용하고, 지원 대상 음성에는 사람이 들을 수 없는 식별 신호를 삽입한다. 이용자는 '오픈AI 베리파이'에 이미지나 음성 파일을 올려 오픈AI 도구로 생성됐는지 확인할 수 있다. 다만 적용 방식은 콘텐츠 유형에 따라 달라 소라2 영상에는 움직이는 가시 워터마크와 C2PA 메타데이터를 함께 표시한다. 텍스트 워터마크는 아직 도입하지 않았다. 메타도 지난달 7일 이미지 생성 모델 '뮤즈 이미지'에 자체 비가시 워터마크 기술 '콘텐츠 실'을 적용했다. 메타는 이미지를 자르거나 압축하고 크기를 변경하거나 화면을 캡처해도 식별 신호가 유지된다고 설명했다. 워터마크 탐지 도구도 시험 공개했으며 향후 적용 범위를 영상으로 확대할 계획이다. 메타는 AI 모델 개발사인 동시에 페이스북·인스타그램·스레드를 운영하는 유통 플랫폼이라는 점에서 차별화된다. 자체 생성물에 식별 신호를 넣는 동시에 외부 AI 서비스의 C2PA·IPTC 정보와 이용자 신고를 바탕으로 게시물에 'AI 정보' 라벨을 표시한다. 반면 xAI는 그록이 작성한 텍스트에 기계 판독이 가능한 비가시 워터마크를 적용한다는 계획을 아직 공개하지 않았다. 이미지·영상에는 가시 표시를 적용하면서도 텍스트 워터마크와 탐지 체계는 구체화하지 않은 상태다. 회사는 브랜드 지침을 통해 이용자가 그록 생성물을 배포할 때 '그록으로 작성'이나 '그록으로 제작'이라는 문구를 표시하도록 권고하는 데 그치고 있다. 테크크런치는 "xAI가 EU 공동 규범 밖에서 그록 텍스트 출처를 어떤 기술로 확인할지가 핵심 쟁점이 될 전망"이라고 내다봤다.

2026.08.17 12:47김미정 기자

앤트로픽, AI 생성물에 '투명' 워터마크 심는다

앤트로픽이 자사 인공지능(AI) 모델 클로드가 만든 텍스트와 파일에 사람 눈에 보이지 않는 표식을 심는다. 복사하거나 일부 고쳐도 흔적이 남도록 설계해 AI 생성물의 출처를 가늠할 수 있는 장치를 늘리겠다는 구상이다. 앤트로픽은 11일(현지시간) 공식 홈페이지를 통해 클로드 산출물에 기계 판독이 가능한 투명성 표시를 적용한다고 밝혔다. 지난 2일 발효한 유럽연합(EU) AI법 제50조 'AI 생성 콘텐츠 투명성 실천 강령'에 서명한 데 따른 후속 조치다. 표시 기능은 클로드 웹·앱은 물론 응용 프로그램 인터페이스(API)인 클로드 플랫폼, 클로드 코드, 클로드 코워크, 클로드 태그 등 앤트로픽 전 제품군에 걸쳐 적용된다. 아마존웹서비스(AWS)·구글 클라우드·마이크로소프트 파운드리를 거쳐 지원되는 클로드 모델에도 동일한 표시가 붙는다. 2일 이후 출시된 신규 모델은 출시 시점부터 표시 기능을 지원하며 이전 모델에도 순차적으로 기능을 추가하고 있다. 표시 방식은 텍스트와 파일에 각기 다른 형태로 적용된다. 텍스트에는 워터마크가 심어진다. 문장을 생성하는 순간 텍스트 자체에 감지 불가능한 표식이 삽입되는 방식으로, 답변의 의미나 품질, 가독성에는 영향을 주지 않는다. 다른 곳으로 복사해 붙여 넣거나 일부를 고쳐도 표식은 텍스트에 융합돼 있어 그대로 남는다. 파일에는 서명된 출처 메타데이터가 붙는다. 업계 표준인 콘텐츠출처연합(C2PA) 방식을 따라 파일이 클로드를 거쳤는지와 이후 변조 여부까지 함께 확인할 수 있게 했다. 앞서 구글도 이미지·영상에 워터마크 기술 '신스ID'를 적용해왔다. 다만 표식이 곧 원작자 증명은 아니라고 앤트로픽은 선을 그었다. 이용자가 직접 쓴 글을 클로드로 교정·번역·요약만 해도 표식이 남을 수 있고 반대로 문장이 짧거나 대폭 재작성·번역되면 표식이 감지되지 않을 수 있어서다. 표식을 확인하는 탐지 도구는 아직 공개되지 않았다. 앤트로픽은 API로 자체 서비스를 만드는 개발자에게도 책임 확인을 당부했다. 자사 표시 정책과 별개로 각 서비스가 지는 의무는 개발자가 직접 판단해야 한다는 취지다. 앤트로픽은 "EU AI법 제50조가 제품과 서비스에 요구하는 사항을 독립적으로 평가해야 한다"고 강조했다.

2026.08.12 09:38이나연 기자

EU, AI법 투명성 구체화…"한국, 책임 주체·면제 기준 보완 필요"

유럽연합(EU)이 챗봇과 인공지능(AI) 생성 콘텐츠 투명성 규제를 구체화하면서 한국 AI법도 보완돼야 한다는 지적이 나왔다. 정부가 국내 법에 AI 개발·운영·유통 단계별 책임을 명확히 하고, 면제 기준을 구체화해야 한다는 제언이다. 5일 IT 업계에 따르면 EU AI법 제50조는 지난 2일부터 생성형·대화형 AI와 딥페이크 등 특정 AI 시스템에 적용됐다. EU 집행위원회는 지난달 관련 지침을 발표하고 AI 개발·공급 단계와 실제 서비스 운영 단계에서 기업이 부담할 의무를 구체화했다. EU는 이용자가 사람 아닌 AI와 직접 상호작용할 경우 이를 명확히 알 수 있도록 시스템을 설계하도록 했다. 챗봇과 AI 에이전트, 가상 인물 등이 대상이며 첫 상호작용이 시작되는 시점부터 이용자가 상대를 AI로 구분할 수 있어야 한다. AI가 생성하거나 조작한 글과 이미지·영상·음성에는 기계가 판독할 표식을 넣어야 한다. 표식은 AI 생성·조작 여부를 효과적이고 안정적으로 탐지할 수 있어야 하며 다른 시스템과 호환 가능한 방식으로 구현돼야 한다. AI를 실제 서비스에 활용하는 운영사업자에게는 별도 고지 책임이 부과된다. 감정인식이나 생체정보 분류 시스템을 사용할 경우 당사자에게 이를 알려야 한다. 딥페이크와 인간의 실질적 검토 없이 공개된 공공 현안 관련 AI 생성 글에도 사람이 알아볼 수 있는 표시를 붙여야 한다. 한국 AI기본법도 고영향 AI와 생성형 AI를 이용한 제품·서비스를 제공할 때 그 사실을 사전에 알리도록 규정한다. 생성형 AI로 만든 결과물에는 AI가 생성했다는 사실도 표시해야 한다. 또 EU AI법과 달리 국내 AI법은 사람이 알아볼 수 있는 방법과 기계가 판독할 방법 가운데 하나를 선택할 수 있다. 사람이 명확히 인식할 수 있는 표시를 반드시 요구하는 대상도 딥페이크로 한정한다. 전문가들은 EU가 한국보다 AI 생성부터 서비스 운영과 최종 노출까지 단계별 투명성 의무를 더 촘촘하게 설계했다고 평가했다. 정원준 법무법인 광장 수석연구위원은 한국 AI법을 최종 이용자 고지·표시 중심의 유연한 규율로 봤다. 반면 EU는 제공자와 운영자의 책임을 나누고 기술적 표식과 이용자 고지를 함께 요구하는 이중적 투명성 체계에 가깝다고 분석했다. 정 수석연구위원은 "EU는 제공자와 운영자에게 서로 다른 의무를 부과하고 기술적 표식과 사람 대상 고지가 서로 대체되지 않도록 설계했다"고 설명했다. 강지원 법무법인 태평양 변호사는 "EU 가이드라인은 한국과 달리 예약·계약·구매 등을 수행할 때 AI 이용 사실과 대리 주체를 주요 단계마다 알리도록 한다"며 "영화와 광고 등 사업자가 만든 AI 결과물도 이용자에게 노출되는 단계에서 표시 의무를 부과한다"고 설명했다. "한국 AI법, 지금 고치지 않으면 이중 부담 떠안아" 전문가들은 한국이 AI 투명성 의무를 실효성 있게 운영하려면 AI 제공자와 서비스 운영자, 유통 플랫폼별 책임을 구분해야 한다고 지적했다. 면제 대상과 준수 입증 기준을 구체화하고 AI 생성물에 삽입된 표식이 편집·유통 과정에서도 유지되도록 해야 한다는 의견이다. 정 수석연구위원은 AI 가치사슬에 참여하는 사업자별 책임을 명확히 나눠야 한다고 봤다. 현행 AI기본법은 AI를 개발하거나 제공·이용하는 사업자를 'AI사업자'로 묶어 의무를 부과한다. 그러나 생성물이 기반모델 제공자와 API 사업자, 응용서비스 사업자, 광고주, 콘텐츠 플랫폼을 거칠 경우 각 사업자가 어느 단계까지 책임져야 하는지는 불분명할 수 있다. 정 수석연구위원은 "제공자에게 기계 판독 표식과 탐지 수단, 기술문서 제공 의무를 부과해야 한다"며 "서비스 운영자에게는 이용자가 콘텐츠에 처음 노출될 때 고지할 책임을 주고 플랫폼과 중개사업자에게는 기존 표식과 출처정보를 보존할 의무를 부여해야 한다"고 주장했다. 그는 위험 수준에 따라 의무를 차등 적용할 필요도 있다고 봤다. 딥페이크와 사칭광고, 선거·재난·보건처럼 사회적 파급력이 큰 분야에는 엄격한 기준을 적용하되 맞춤법 교정이나 통상적 편집, 기업 내부 이용에는 완화된 기준을 적용해야 한다는 설명이다. 강 변호사는 투명성 의무 면제 기준을 구체화하는 일이 가장 시급하다고 지적했다. 현행 시행령은 서비스명과 화면, 결과물 표시 등을 종합해 AI 서비스라는 사실이 명백한 경우 고지·표시 의무를 면제할 수 있도록 했지만 실제 적용 범위는 불분명하다는 주장이다. 강 변호사는 "번역과 맞춤법·문법 수정, 사소한 스타일 변경처럼 의무에서 제외되는 사례를 구체적으로 제시할 필요가 있다"며 "딥페이크에 해당하는 사례와 그렇지 않은 사례도 세분화해야 기업이 규제 적용 여부를 예측할 수 있다"고 강조했다. 기업이 법을 준수했다는 사실을 입증할 수 있는 체계도 필요하다는 의견이 나왔다. EU는 실행규약에 참여한 기업이 규약상 조치를 준수 근거로 활용하도록 하고 참여하지 않은 기업에는 자체 수단이 동등한 수준으로 적절하다는 점을 입증하도록 한다. 정 수석연구위원은 정부가 인정한 표준이나 행동규범을 지킨 기업에는 준수 추정이나 안전지대를 제공해야 한다고 제안했다. 독자 기술을 사용하는 기업에는 같은 수준의 투명성과 탐지 가능성을 입증할 기회를 줘야 한다고 봤다. 중소·중견 기업을 위한 지원책도 필요하다. 공통 표식 도구와 시험·검증 인프라, 표준계약서를 제공해 투명성 규제가 새로운 시장 진입장벽으로 작용하지 않도록 해야 한다는 설명이다. 또 EU 시장에 진출하는 국내 기업은 한국법 준수에 그치지 않고 파일 변환과 재편집, 플랫폼 업로드 이후에도 기계 판독 표식과 출처정보가 유지되는지 점검해야 한다는 제언도 나왔다. 정 수석연구위원은 "국내 기준이 국제적인 콘텐츠 출처·진위 확인 체계와 지나치게 달라지면 단기적으로는 규제가 가벼워 보여도 장기적으로는 국내 기업이 이중 개발과 이중 준수 비용을 떠안게 된다"며 "국내 단계에서부터 상호운용성과 입증 가능성을 확보하면 우리 AI 서비스의 신뢰성과 수출경쟁력을 뒷받침하는 산업정책적 기반이 될 수 있다"고 밝혔다.

2026.08.05 09:43김미정 기자

"AI 사업대가 수준 여전히 낮아"…KOSA, 내달 새 가이드 공개

"인공지능(AI) 기술은 하루가 다르게 발전하고 있지만 정작 현장에 적용되는 사업 대가 선정 방식은 10년 전 시스템 통합(SI) 수준에 머물러 있다는 지적이 나오고 있습니다. 우리는 내달 중 AI 특수성을 반영한 새 가이드를 발표할 예정입니다." 안홍준 한국인공지능·소프트웨어협회(KOSA) 본부장은 28일 서울 한국과학기술회관에서 열린 'AI기본법 시행에 따른 관련 산업 생태계 육성 전략 세미나'에서 AI 사업 대가 선정 가이드라인 업데이트 계획을 이같이 밝혔다. '소프트웨어 사업 대가 산정 가이드'는 지난 2011년부터 운영됐다. 그동안 기능점수(FP)나 투입 인력 단가 기준으로 사업비가 책정됐다. 그러나 업계에서는 해당 방식이 고도 전문성이 요구되는 AI 사업 가치를 담아내기에 역부족이라는 비판이 끊이지 않았다. 이날 정원준 한국법제연구원 박사는 "현재 AI 사업은 SI 사업과 유사한 체계를 따르고 있지만 기술 최신성에 비해 프로젝트 추진 방식은 성장하지 못했다"며 "현재 체계를 넘어서는 진일보한 AI 사업 대가 측정 가이드가 절실하다"고 밝혔다. 이어 "특히 AI 사업에서 맨먼스(Man-Month) 방식은 여전히 사용되고 있는 실정"이라며 "AI 프로젝트 불확실성과 특수성으로 인해 여러 가지 문제점이 나오고 있다"고 지적했다. 이같은 지적에 안 본부장은 "우리면 이르면 내달 중 새 가이드를 마련할 것"이라고 밝혔다. 그는 이번 가이드 개편 핵심을 'AI 개발자의 전문성' '시장 현장의 목소리'를 반영한 단가 실현으로 꼽았다. 그러면서 "기존 맨먼스 방식을 보완해 AI 개발자 숙련도와 기술 수준을 반영할 것"이라며 "현재 시장에서 형성된 실제 단가보다 높은 수준의 가이드를 제공할 것"이라고 설명했다. 그는 정부 손잡고 AI 가치를 정당하게 평가받을 수 있는 근본적인 제도를 만들어 가겠다고 말했다. 앞서 국가AI전략위원회는 '정당하고 고평가된 AI 가치평가 모델 수립'을 골자로 한 행동계획을 발표한 바 있다. 안 본부장은 "이는 과학기술정보통신부가 수행해야 할 핵심 과업으로 제안됐다"며 "AI 전략위원회의 권고에 따라 각 부처에서도 실질적인 답변과 대책을 내놓아야 하는 상황"이라고 설명했다. 그는 "우리는 업계 의견을 대량으로 수집해 실질적으로 도움 되는 가치평가 모델을 만들어 가는 데 집중하고 있다"며 "정당한 대가가 보장돼야 좋은 프로젝트가 지속될 수 있을 것"이라고 덧붙였다.

2026.01.28 17:25김미정 기자

정부, 스타트업 대상 AI 기본법 설명회 개최…"혼선 최소화"

정부가 인공지능(AI)기본법 시행에 따른 현장 혼선을 줄이고 AI 스타트업 성장을 뒷받침하기 위해 나섰다. 과학기술정보통신부는 중소벤처기업부와 28일 서울 팁스타운 S1에서 AI 스타트업 대상으로 'AI 스타트업 성장 전략 설명회'를 개최했다고 28일 밝혔다. 이번 설명회는 지난 22일 전면 시행된 AI기본법에 대한 스타트업 우려를 해소하고, 관련 제도에 대한 이해도를 높이기 위해 마련됐다. 과기정통부와 중기부, 코리아스타트업포럼이 공동으로 행사를 준비했다. 설명회에는 AI 스타트업 임직원 200여명이 참석했다. 과기정통부가 AI기본법 주요 내용을 소개하고 중기부가 중소기업 AI 활용·확산 정책을 설명하는 순서로 진행됐다. 이어 법무법인 디코드 조정희 대표 변호사가 AI기본법 대응 전략을 발표했다. 이날 정부 산하기관 지원 사업 소개도 이어졌다. 창업진흥원은 대기업, 공공기관과 AI 스타트업 간 협업을 통해 산업과 기업의 AX를 추진하는 'AI 챌린지 사업'을 설명했다. 중소기업기술정보진흥원은 AI 등 핵심 분야의 대규모 프로젝트형 연구개발을 지원하는 '딥테크 챌린지 프로젝트'를 소개했다. 창업진흥원은 법률, 회계, 경영 상담과 정보를 단일 창구에서 제공하는 '스타트업 원스톱 지원센터' 운영 내용과 개별 상담을 진행했다. 이진수 과기정통부 AI정책기획관은 "AI기본법은 AI 산업 발전에 방점을 둔 진흥법으로 스타트업의 혁신을 저해하지 않도록 운영하겠다"며 "기업이 충분히 준비하도록 최소 1년 이상 규제를 유예하고, 현장 설명회를 통해 스타트업과 소통도 강화하겠다"고 밝혔다. 조경원 중소벤처기업부 창업정책관은 "AI기본법은 AI 산업 진흥을 중심으로 필요한 최소의 규제만 반영했으나, 법에 바로 적용을 받는 AI 스타트업은 부담을 느끼고 있을 것"이라며 "관계 부처와 공동으로 현장 의견을 지속적으로 반영해 제도를 개선하고, 지원 사업을 확대해 나가겠다"고 말했다.

2026.01.28 12:01김미정 기자

정부, AI기본법 시행 임박…"AI 산업 진흥·신뢰 우선"

정부가 인공지능(AI) 산업 진흥과 기술 안전성 확보를 위한 제도를 가동한다. 과학기술정보통신부는 오는 22일 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI기본법)'이 시행된다고 21일 밝혔다. AI기본법은 국가 AI 경쟁력 강화와 안전하고 신뢰할 수 있는 AI 활용 환경 구축을 목표로 한다. 정부는 해당 법에 국가AI전략위원회를 정책 컨트롤 타워로 규정하고 법적 근거를 마련했다. 분과위원회를 비롯한 지원단, AI책임관 체계도 제도화했다. 정부는 AI 산업 진흥을 위해 AI 연구개발, 학습용 데이터 구축, AI 도입·활용, 창업 지원, 전문인력 확보, AI 데이터센터 구축 등을 법률상 지원 항목으로 폭넓게 규정했다고 밝혔다. 학습용 데이터는 통합제공시스템을 통해 제공하고, 기업 실증·성능시험을 위해 공공시설 개방 근거도 마련했다는 설명이다. AI기본법에는 안전·신뢰 기반 조성을 위한 투명성·안전성 확보, 고영향 AI 관리 체계 규정도 포함됐다. 고영향 AI나 생성형 AI를 활용한 제품·서비스는 AI 활용 사실을 사전에 고지해야 하며, 딥페이크 결과물은 이용자가 명확히 인식할 수 있도록 표시하도록 했다. 안전성 확보 의무는 학습에 사용된 누적 연산량이 10의 26승 플롭스(FLOPS) 이상 모델에 해당한다. 최첨단 기술을 적용하며, 기본권에 광범위하고 중대한 영향을 미칠 우려가 있는 경우에 한해 적용된다. 고영향 AI 판단 시에는 에너지, 의료, 채용, 대출심사, 공공서비스 등 10개 영역 활용 여부와 위험의 중대성을 종합적으로 고려한다. 정부는 기업 혼란을 줄이기 위해 최소 1년 이상 규제 유예 기간을 운영한다. 이 기간 동안 사실조사와 과태료는 인명 사고나 중대한 인권 침해 등 예외적인 경우에만 적용된다. 전문가로 구성된 'AI기본법 지원데스크'를 통해 비밀 보장·익명 컨설팅을 제공한다. 과기정통부는 "이번 AI기본법 시행으로 법적 불확실성이 해소되고 건강하고 안전한 국내 AI 생태계가 조성되길 기대한다"고 밝혔다.

2026.01.21 12:59김미정 기자

[신년 인터뷰] "AI 역기능 막는 기술 확보가 국가 경쟁력 좌우"

글로벌 경제 위기 속에서 올해 인공지능(AI) 산업은 다시 한 번 중대한 분기점에 섰다. 생성형 AI의 급격한 확산 후 이어진 성능 경쟁과 투자 열풍은 이제 '얼마나 더 큰 모델을 만들 수 있는가'라는 질문을 넘어 'AI가 실제 무엇을 할 수 있는가'라는 보다 본질적인 문제로 이동하고 있다. 지디넷코리아는 릴레이 인터뷰를 통해 각기 다른 위치에서 AI 산업을 바라보는 리더 시선을 종합해 올해 AI 산업이 어디로 향하고 있는지, 무엇을 준비해야 하는지를 짚어본다. 기술 낙관과 과도한 불안 사이에서 AI의 현실적인 진화 경로와 산업적 의미도 살펴본다. [편집자주] "인공지능(AI)이 자율주행과 로봇, 에이전트 시스템으로 진화하면 우리가 지금까지 경험하지 못한 새로운 위험을 만들어낼 수 있습니다. 기술 개발뿐 아니라 안전성과 보안, 역기능 대응을 위한 투자가 반드시 병행돼야 하는 이유입니다. 안전과 통제를 처음부터 내재화한 AI 시스템을 설계하는 것이 국가 경쟁력 측면에서도 중요합니다." 성균관대 우사이먼성일 소프트웨어학과·인공지능대학원 교수는 지디넷코리아와 만나 AI 발전과 함께 커지고 있는 기술 안전성 문제를 이렇게 진단했다. 우 교수는 AI 기술 부작용을 최소화할 방법을 연구하는 학자다. 개인정보 침해와 허위 정보 생성, 저작권 문제, 범죄 악용 등 AI 확산으로 인해 나타나는 사회 위험을 기술적으로 통제하는 데 연구 초점을 맞추고 있다. 가장 대표 연구 분야는 머신 언러닝을 이용한 개인정보 보호 기술이다. 머신 언러닝은 AI 모델이 학습한 특정 데이터를 선택적으로 삭제할 수 있도록 하는 기술이다. 보통 모델이 학습 과정에서 방대한 정보를 내부에 저장하지만, 어떤 정보가 어떤 결과에 영향을 미쳤는지 알기 어렵다. 이에 개인이 자신의 개인정보를 삭제해 달라고 요구해도 기존 AI 모델에서는 이를 정확히 반영하기가 거의 불가능하다. 머신 언러닝은 이 문제를 해결하기 위한 기술이다. 최근 그는 이를 실제 개인정보 보호에 적용할 수 있도록 기술을 업그레이드했다. 기존 방식은 특정 데이터를 삭제하기 위해 해당 데이터를 제외한 나머지 데이터로 모델을 재학습해야 했다. 이는 초거대 AI 모델 환경에서 시간·비용 측면에서 사실상 불가능하다. 그는 "기존 언러닝 기법은 연구실에선 가능했지만 실제 서비스에 적용하기에 매우 비효율적"이라고 주장했다. 우 교수 연구팀은 이 문제를 해결하기 위해 새 접근법을 제시했다. 핵심은 원본 데이터를 보관하지 않아도 모델 성능과 삭제 정확도를 동시에 유지하는 방식이다. 이에 원본 데이터를 보관하거나 재학습을 별도로 진행하지 않아도 모델 성능을 유지할 수 있다. 그는 "원본 데이터 대신 통계적으로 유사한 합성 데이터를 생성·활용해 한계를 극복했다"고 강조했다. 그는 삭제 대상 데이터가 다른 데이터와 섞여 변형된 경우에도 제거 가능하다고 설명했다. 그는 "실제 데이터는 단독 존재하지 않고 여러 문장이나 문서, 다른 데이터와 연결돼 학습된다"며 "이를 그래프 구조로 표현하면 어떤 정보가 다른 정보에 어떻게 영향 미쳤는지 추적할 수 있다"고 말했다. 그러면서 "특정 이름이나 문장, 파생 정보까지 한 번에 제거할 수 있는 이유"라고 덧붙였다. 이 연구 성과는 지난해 12월 미국 샌디에고 컨벤션 센터에서 열린 국제 AI 분야 학회 NeurIPS(Neural Information Processing systems)에 발표됐다. 이 연구는 올해 과학기술정보통신부 재원과 정보통신기획평가원(IITP) 지원으로 추진 중이다. 연구 과제명은 '개인정보보호 관련 정책 변화를 유연하게 반영하여 준수하는 AI 플랫폼 연구 및 개발'이다. 우 교수는 해당 기술이 향후 기업과 정부 시스템에도 유용할 수 있을 것으로 봤다. 그는 "기업은 고객 개인정보나 저작권 있는 문서·이미지, 책 내용을 AI 모델에 학습시키기만 하면 된다"며 "삭제 요청이 들어오면 이를 기술적으로 반영하면 된다"고 설명했다. 그는 현재 여러 국내 기업과 협력해 챗봇이나 검색, 문서 분석, 법률 AI 등 서비스에 해당 기술을 적용하는 연구를 진행하고 있다. 그는 "개인정보나 저작권 삭제 요구가 많은 분야일수록 실무적 가치가 큰 기술"이라며 "언러닝 성능을 AI 안전성 평가 지표로 활용하는 방안도 고려 중"이라고 덧붙였다. 우 교수는 이달 시행될 국내 AI기본법과 연구 성과가 깊이 연결될 것으로 내다봤다. 그는 "그는 유럽 일반정보보호규정(GDPR)처럼 한국 AI기본법은 개인의 데이터 삭제 권리를 보장하는 것이 필수일 것"이라며 "우리 방식은 이런 법적 요구를 실제 AI 모델에 기술적으로 반영할 수 있는 현실적 해법"이라고 강조했다. "딥페이크도 '문맥'으로 잡아야"...기술력 전 세계 2위 기록 우 교수는 딥페이크 감지 기술 분야에서도 활발한 연구를 이어가고 있다. 특히 최신 생성형 AI가 만들어내는 새로운 형태의 딥페이크까지 탐지하는 기술 개발에 주력하고 있다. 그는 현재 다수 딥페이크 탐지 모델 성능이 최신 AI 기술을 따라가지 못하는 점을 꼬집었다. 모델 학습에 사용된 데이터와 실제 딥페이크 확산 형태가 다르다는 점을 근본 원인으로 짚었다. 그는 "최신 AI가 만드는 딥페이크는 기존 데이터와 특성이 전혀 다르다"며 "탐지 모델 성능이 실제 환경에서 급격히 떨어질 수밖에 없다"고 말했다. 우 교수 연구팀은 이런 문제를 해결하기 위해 새 방법론을 적용한 딥페이크 탐지 모델을 제시했다. 연구팀은 'DINO'와 'CLIP-ViT' 계열 모델로 이미지와 텍스처, 의미적 패턴을 폭넓게 이해할 수 있는 모델을 구축했다. DINO는 대규모 웹 데이터 기반으로 사전 학습된 모델이다. CLIP-ViT는 텍스트와 이미지 간 의미 관계를 학습한 모델이다. 연구팀은 이를 딥페이크 탐지에 맞게 재학습해 이미지 백본으로 활용했다. 이후 이 모델 위에 딥페이크 전용 어댑터 모듈도 추가했다. 이에 모델은 영상과 이미지에 포함된 미세한 위조 흔적까지 포착할 수 있다. 우 교수는 해당 모델이 단순 이미지 분류를 넘어서 의미론적 개념을 이해하도록 설계된 것을 핵심 기능으로 제시했다. 그는 "이 모델은 특정 유형 딥페이크에 과적합 되지 않는다"며 "여러 위조 콘텐츠를 안정적으로 탐지할 수 있다"고 설명했다. 해당 연구는 지난해 과기정통부 재원으로 IITP 지원을 받아 '디지털역기능대응기술개발'사업으로 수행됐다. 사업명은 '악의적 변조 콘텐츠 대응을 위한 딥페이크 탐지 고도화, 생성 억제, 유포 방지 플랫폼 개발'이다. 해당 모델로 성과도 얻었다. 지난해 국제 컴퓨터비전 학술대회(ICCV)가 주최한 딥페이크 탐지 'SAFE 챌린지'에서 이탈리아 나폴리대 연구팀에 이어 전 세계 2위를 기록했다. 또 지난해 성균관대와 한국정보과학학회가 공동 주최한 '성균관대x한국정보과학학회 딥페이크 경진대회'에서 대상과 우수상을 각각 수상했다. 우 교수는 향후 딥페이크 연구 방향도 제시했다. 그는 "실제 환경에 가까운 조건에서 모델을 연구·평가할 것"이라며 "특히 메신저와 소셜미디어(SNS) 환경처럼 저화질·압축 영상이 많은 환경서도 안정적으로 딥페이크를 탐지할 수 있는 모델을 구축할 것"이라고 덧붙였다.

2026.01.14 15:36김미정 기자

美 트럼프·빅테크 등쌀에 못 이겼나…EU, AI 규제 속도 조절 나서

유럽연합(EU)이 인공지능(AI) 규제법을 일부 완화하는 방안을 추진 중인 것으로 알려졌다. 미국 정부와 빅테크 기업들의 강한 반발 속에 EU가 AI 경쟁력을 높이기 위해 이처럼 나선 것으로 분석된다. 7일 영국 파이낸셜타임스(FT)에 따르면 EU 집행위원회는 오는 19일 발표될 '단순화 패키지'를 통해 지난해 발효된 AI 규제법을 포함한 디지털 규제 조항 일부를 완화할 방침이다. EU AI법은 고위험 AI 시스템에 대해 세계에서 가장 엄격한 규제라는 평가를 받아 왔다. 세계 첫 포괄적 AI 규제로, AI 기술 활용 제품이 EU 시장에 출시되기 위해 지켜야 할 규칙이 담겼다. AI법에 따르면 규제는 AI 기술의 위험 수준에 따라 4단계로 이뤄진다. 지난 해 8월 발효됐으나, 상당수 조항이 내년부터 시행 예정이다. 이 중 건강·안전·기본권에 심각한 위험을 줄 수 있는 고위험 AI 관련 규제는 내년 8월 본격 시행될 계획이다. 하지만 도널드 트럼프 미국 대통령과 글로벌 빅테크들은 그간 EU의 움직임에 강하게 반발해왔다. 메타를 비롯한 주요 기술 기업들은 "EU의 과도한 AI 규제가 유럽을 첨단 기술 서비스로부터 고립시킬 수 있다"고 경고해왔다. 유럽 내부에서도 혁신을 가로막는 과도한 규제라고 비판 받아왔다. 이 같은 상황 속에 EU는 최근 트럼프 행정부가 우크라이나에 대한 지원을 중단하거나 무역 갈등을 재점화할 가능성을 우려해 지난 8월 잠정 무역합의를 체결했다. 이후 EU는 AI 법과 디지털 규제 전반에 대해 미국 정부와 조율을 이어왔다. EU가 논의 중인 AI 규제 완화안에는 고위험 AI 규정을 위반한 기업에 법 적용을 1년 유예하는 안이 포함됐다. 시장에 혼선을 주지 않고 법 취지에 맞도록 시스템을 수정할 시간을 보장하기 위한 것으로, 이런 내용을 담은 초안은 집행위원회 내부 및 EU 회원국들과 비공식 논의 중이다. 또 AI 투명성 의무 위반에 대한 벌금 부과 시점을 2027년 8월로 연기해 기업들이 제도에 적응할 시간을 확보하도록 하는 내용도 이번에 포함된 것으로 전해졌다. 이에 따라 고위험 AI 규정은 내년 8월 그대로 시행하되 위반 기업의 기업 처벌 1년 유예, AI 투명성 규제는 규정 본격 시행을 내년 8월에서 내후년 8월로 미루게 됐다. EU 집행위 대변인은 "AI법 일부 조항의 시행을 잠정 연기하는 방안이 논의 중"이라며 "다양한 방안이 검토되고 있다"고 말했다. 앞서 EU는 지난 2월 인공지능 육성안을 담은 '인베스트 AI 이니셔티브'를 발표하며 일부 규제 완화를 예고한 바 있다. 또 EU 집행위는 지난 달 역내 산업의 저조한 AI 활용도를 높이기 위해 10억 유로(약 1조6천580억원)를 투입하는 전략을 발표해 주목 받았다. FT는 "이번 AI 규제 완화 움직임은 AI 투자를 경쟁적으로 확대하고 있는 미국·중국에 대응해 경쟁력을 높이려는 EU의 노력이 반영된 것"이라고 분석했다.

2025.11.07 17:58장유미 기자

지멘스·SAP 대표 "EU AI 규제, 혁신 가로막아…전면 재검토해야"

지멘스와 SAP 최고경영자(CEO)가 유럽연합(EU)의 인공지능(AI) 규제가 기술 혁신을 억제한다며 전면적인 재검토를 촉구했다. 롤랜드 부시 지멘스 CEO와 크리스티안 클라인 SAP CEO는 14일 독일 유력지 프랑크푸르터 알게마이네 차이퉁(FAZ)과의 인터뷰에서 "기술 발전을 지원하는 새로운 규제 체계가 필요하다"고 입을 모았다. EU는 지난해 AI법을 제정해 AI 시스템의 개발과 사용을 규제하고 있다. 이 법은 AI 애플리케이션을 위험도에 따라 분류하고 이에 맞춰 보안성과 투명성 요건을 부과한다. 하지만 부시 CEO는 "이 법이 유럽이 뒤처지는 핵심 원인 중 하나"라며 "상호 충돌하거나 중복되는 규제가 혁신을 방해하고 있다"고 지적했다. 특히 그는 EU의 데이터법에 대해서도 "디지털 비즈니스 모델을 구축하는 데 있어 독과도 같다"고 비판했다. 데이터법은 기업이 소비자와 기업 데이터를 활용하는 방식에 대해 의무를 부과하는 법이다. 앞서 구글 모회사 알파벳과 메타 등 일부 빅테크 기업들은 벨기에 브뤼셀에 규제 시행을 연기해달라는 공개서한을 보냈지만, 부시 CEO는 이 서한에 서명하지 않았다. 그는 "이 제안은 충분하지 않다"며 더 근본적인 개혁을 촉구했다. 이와 관련해 클라인 SAP CEO는 유럽이 미국처럼 인프라나 데이터센터에만 막대한 투자를 쏟아붓는 전략을 따라서는 안 된다고 지적했다. 그는 "인프라 부족이 유럽의 가장 큰 걸림돌은 아니다"며 "지금 필요한 건 인프라 투자가 아니라 데이터 활용을 가로막는 규제 개혁"이라고 강조했다. 부시 CEO 역시 "유럽은 데이터라는 보물창고 위에 앉아 있지만, 이를 제대로 활용하지 못하고 있다"며 "지금 부족한 것은 컴퓨팅 자원이 아니라 규제 개혁을 통한 자원 해방"이라고 말했다.

2025.07.14 10:17한정호 기자

EU "AI법 유예 없다"…내년까지 전면 시행 방침 유지

유럽연합(EU)이 인공지능(AI) 활용을 규제하는 이른바 'AI법(AI Act)'을 예정대로 시행하겠다고 밝혔다. 구글과 메타, 프랑스 스타트업 미스트랄AI, 반도체 장비업체 ASML 등 100여 개 글로벌 테크기업이 공동으로 법 시행 연기를 요청했지만 이를 정면으로 일축한 것이다. 6일 로이터에 따르면 EU 집행위원회 토마 레니에 대변인은 "AI법에 대해 많은 보도와 서한, 주장들이 있었지만 시계를 멈추는 일은 없다"며 "유예 기간도, 일시 중지도 없다"고 강조했다. 그는 이어 "우리는 예정된 일정을 그대로 따른다"고 덧붙였다. AI법은 AI 애플리케이션을 위험 수준에 따라 분류해 규제하는 세계 최초의 포괄적 법안으로, 지난해부터 단계적으로 시행에 들어갔으며 내년 중반까지 전면 발효될 예정이다. 법안에 따르면 인간의 행동을 조작하거나 사회적 점수를 부여하는 시스템 등 '허용 불가' 수준의 AI는 전면 금지된다. 얼굴 인식, 생체 정보 처리, 채용 및 교육 분야 등 사회적 영향이 큰 분야에 적용되는 '고위험 AI'는 엄격한 등록 절차와 품질·위험 관리 의무를 따라야 하며 챗봇 등 '제한적 위험 AI'에는 보다 간소한 투명성 기준이 적용된다. 이번 법안은 AI 기술 발전 속도를 따라잡으려는 각국의 규제 움직임 가운데 가장 선도적인 사례로 주목받고 있다. 그러나 업계는 규제 강도가 지나쳐 유럽의 기술 경쟁력을 저해하고 스타트업 생태계 위축으로 이어질 수 있다고 주장한다. 특히 최근 AI 분야에서 미국과 중국의 주도권 경쟁이 가속화되고 있는 가운데 유럽의 법 제도가 글로벌 기술 경쟁에서 발목을 잡을 수 있다는 우려도 나온다. 그럼에도 불구하고 EU는 "기술의 책임 있는 사용과 시민 보호라는 기조 아래 법 적용 일정을 변경하지 않겠다"는 입장을 밝혔다.

2025.07.06 13:49한정호 기자

EU AI법에 반발한 빅테크 CEO들…"지금 시행하면 美·中에 다 밀린다"

유럽 대표 기업들이 인공지능(AI) 규제 집행을 유예해달라고 유럽연합(EU)에 공동 요청했다. 규제가 기술 리더십을 위협하고 산업 전반의 AI 도입을 방해하고 있다는 점을 집중 부각했다. 4일 블룸버그에 따르면 이들 기업은 최근 우르줄라 폰 데어 라이엔 EU 집행위원장, 경제 담당 집행위원, 부위원장단에 공식 서한을 전달했다. 이 서한에는 아서 멘슈 미스트랄 최고경영자(CEO), 기욤 포리 에어버스 CEO, 크리스토프 푸케 ASML CEO, 올라 켈레니우스 메르세데스-벤츠 CEO 등이 서명했다. 이들은 다음달부터 발효될 예정인 AI 법 주요 조항의 집행을 '2년간 중단(clock-stop)'할 것을 요구했다. 유럽 AI법은 지난해 이미 발효됐지만 기업별 구체 의무는 단계적으로 적용되는 구조다. 특히 다음달부터 범용 AI 모델에 대한 규제와 기업의 내부 거버넌스 체계 구축 의무가 본격 시행될 예정이었다. 이번 요청은 바로 이 지점에 대한 집단적 반발 성격이다. 이들은 서한에서 "중복되고 복잡한 규제 체계가 유럽의 AI 기술 리더십 자체를 위협하고 있다"고 주장했다. 이는 단순히 빅테크만의 문제가 아니라 제조·자동차 등 전 산업군이 AI를 경쟁력 수단으로 활용하기 어려운 환경이라는 인식이다. EU가 추구하는 디지털 주권은 오히려 내부 규제 리스크에 발목 잡힐 수 있다는 경고로 풀이된다. 또 핵심 조항 시행 이전에 실질적인 기술 표준과 실행 가이드라인부터 마련돼야 한다는 점도 강조됐다. 법만 있고 현실적인 적용 틀이 없다는 점에서 기업 활동 위축이 불가피하다는 판단이다. 이번 서한은 최근 잇따라 제기되고 있는 'EU AI법 재조정론'과도 맞물린다. EU는 '챗GPT'와 같은 범용 AI 모델에 대한 실무 지침(Code of Practice)을 지난 5월 발표할 계획이었으나 이를 연기한 상태다. 집행위는 현재 해당 지침의 연내 도입 가능성을 검토하고 있다. EU 집행위는 이번 요구에 대해 직접적인 입장을 내놓진 않았지만, 산업계 우려를 의식한 대응을 이어가고 있다. 토마 레니에 EU 대변인은 "AI 인프라, 데이터, 컴퓨팅 자원, 인재, 법적 명확성을 포함한 모든 지원책을 마련할 것"이라고 밝혔다.

2025.07.04 14:28조이환 기자

[기고] EU 데이터법과 인공지능 산업의 발전 방향

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주] 유럽연합(EU)이 제정하고 실행해 전 세계에 영향을 미치고 있는 많은 법령들이 있다. 개인정보에 관한 강한 보호와 규제를 천명한 일반정보보호규정(GDPR)이 그러하다. 전 세계에서 최초로 입안해 시행했지만 여전히 많은 논란이 제기되고 있는 EU 인공지능(AI)법 역시 전 세계 국가들로부터 반향을 불러일으키고 있다. EU가 이미 관련 법을 제정하고 시행하고 있는 상황에서 우리나라 역시 이에 대한 입법 논의가 이루어지지 않는다면 입법부가 책임을 다하지 않는 것처럼 보일 수 있다. 입법기관 구성원들 역시 마치 아무 일도 하지 않는 사람처럼 비칠 수 있어 무엇이든 조치를 취해야 한다는 압박감을 느낄지도 모른다. 근래의 EU 법안 패키지들 중 시행을 앞두고 있지만 국내에 잘 알려지지 않은 법이 있다. 법의 정식 명칭은 '데이터의 공정한 접근 및 사용에 관한 조화로운 규칙에 관한 규정'이고 줄여서는 EU 데이터법(EU Data Act)라고 부른다. 이 법은 지난해 1월에 제정이 됐고 이로부터 20개월 이후인 올해 9월부터 단계적 시행을 앞두고 있으니 사실 그 시행이 얼마 남지 않은 법이다. 이 법은 EU 내 커넥티드 제품 및 관련 서비스 사용 과정에서 생성되거나 제공되는 정보에 대해 적용된다고 한다. 이용자가 사용하는 것과 관련한 데이터, 이용자의 사용 환경과 관련한 데이터를 수집 및 생성한다. 또 그 정보가 전달할 수 있는 제품의 경우에는 기본적으로 이 법이 적용이 된다. 대부분의 법이 그러하듯 정의 조항을 읽어 봐도 그 내용이 무엇인지를 정확하기 이해하기 어려운 것은 이 법도 마찬가지다. 소위 얘기하는 커넥티드카, 건강 모니터링 기기, 스마트 홈 기기, 스마트폰 등이 이 법의 적용대상이 됨에는 별다른 의문이 없다. 이와 유사하게 서버와 이용자 기기 사이에서 데이터의 교환이 이루어지는 제품과 관련 서비스에 대해서는 모두 적용되므로 그 적용범위가 매우 넓다고 할 수 있다. 이 법은 커넥티드 제품 제조자에게 데이터 접근 중심의 설계를 의무화하고 사용자에게 데이터 제공 관련 정보를 명확하고 이해하기 쉬운 방식으로 안내할 책임을 부과하고 있다. 또 사용자의 요청이 있을 경우 제품이나 관련 서비스에서 생성된 데이터에 대한 접근 권한을 사용자에게 제공해야 하며 데이터 보유자는 사용자가 지정한 제3자와 해당 데이터를 공유할 수 있도록 해야 한다. 이 법은 의무사항을 위반한 경우 제재 수단에 대해 구체적으로 규정하고 있지는 않다. 어쩌면 이 법이 큰 주목을 받지 못하는 것은 이처럼 제재수단에 대해 법 자체에서 규정하고 있지 않기 때문일지도 모르겠다. 그럼에도 불구하고 이 법은 각 회원국에 대해 데이터법 위반자에게 부과할 과징금을 EU 내 연간 매출액 등 여러 요소를 고려해 산정하도록 하는 의무를 부여하고 있다. 이에 따라 이 법을 위반할 경우 매출액을 기준으로 한 과징금이 부과될 것이라는 점에는 큰 의문이 없다. EU 데이터법은 개인정보를 포함한 데이터의 유통을 규율하는 법률인 만큼, 개인정보 유통을 다루는 GDPR과 유사한 규정들이 일부 포함돼 있다. 글로벌 서비스를 제공하는 기업의 입장에서는 GDPR 사례에서처럼 어차피 EU 내 규제를 준수해야 하므로, 커넥티드 제품의 데이터 처리와 관련해서도 EU 데이터법 기준에 맞추어 전 세계 서비스를 동일한 수준으로 확장할 가능성이 충분하다. 과거에는 이용자로부터 수집됐지만 개인정보에 해당하지 않는 데이터의 처리는 이른바 익명정보의 영역으로 간주돼 GDPR의 적용을 받지 않았다. 또 해당 데이터가 저작권법의 보호 대상이거나 그 처리 행위가 부정경쟁행위에 해당하지 않는 이상 별다른 규제가 존재하지 않았다고 볼 수 있다. 반대로 곧 시행되는 EU 데이터법은 데이터의 수집 및 제공에 일정한 의무를 부과함으로써 이제는 이용자로부터 수집하는 데이터에 대해서도 일정한 책임과 준수해야 할 요건이 발생한다는 점을 인식할 필요가 있다. 이에 따라 기존과는 다른 관점에서 데이터 활용에 대한 발상의 전환이 요구된다. AI 산업과 관련해서도 마찬기지이다. EU 이용자로부터 커넥티드 제품을 이용해 데이터를 수집하는 경우에는 비록 개인정보가 아니라 하더라도 EU 데이터법 준수를 항상 명심해야 한다. 이용자로부터 수집한 데이터를 인공지능 서비스 개발을 위한 학습용 데이터로 사용하고자 하는 경우에도 해당 법의 준수를 미리 유의해야 한다. AI 서비스 간의 경쟁이 점점 더 치열해지고 있다. 단순히 산업 내의 문제가 아니라 국가의 생존을 위한 기술패권 다툼의 영역이 되어 가고 있는 상황이다. 이러한 상황에서 EU데이터 법의 제정과 시행이 EU 역내 국가의 경쟁력과 글로벌 시장에 어떠한 영향을 미칠지는 아직 판단하기는 어렵지만 AI를 비롯해 데이터 관련 산업의 경쟁력에 상당한 파급력을 가지게 될 것이다. 산업 보호를 명분으로 제정된 많은 법들이 오히려 기존 사업자들보다 새롭게 시장에 진입하려는 스타트업이나 신생 기업들에게 더 무겁게 작용하는 모습을 우리는 여러 차례 목격해왔다. 우리나라는 적어도 법제 측면에서는 '패스트 팔로워'를 넘어 '퍼스트 무버'로서의 입지를 점차 구축해가고 있으며 실제로 EU 데이터법과 유사한 법제를 이미 보유하고 있다. 이에 따라 산업의 보호와 발전이라는 관점에서 보다 심도 있는 논의가 이루어지고 전략적인 입법 방향이 마련되기를 기대한다.

2025.04.01 15:22법무법인 태평양 강태욱 컬럼니스트

英, AI로 아동 성적 이미지 생성하면 처벌

영국 정부가 인공지능(AI)으로 아동 성 학대 이미지를 생성하는 행위를 불법으로 규정하기 위한 법안을 발의했다. 3일 BBC 등 외신에 따르면 영국이 전 세계에서 처음으로 AI 성 학대를 법적으로 처벌하기 위한 법적 조치에 나섰다. 해당 법안은 '범죄 및 치안 법안(Crime and Policing Bill)'에 포함된 상태로, 이달 중 국회서 논의될 예정이다. 법 적용 대상은 아동 성 학대 이미지 생성하는 AI 도구 소지자다. 해당 도구로 관련 이미지를 제작하거나 배포, 사용법 안내 행위도 불법이다. 아동 성 학대 콘텐츠 웹사이트를 운영하는 행위도 마찬가지다. 정부는 수사 시 범죄와 관련한 디지털기기 보안 잠금을 임의로 해제할 수 있다. 다수 외신은 온라인 범죄자가 AI로 아동 성 학대 자료를 제작하는 사례가 증가한 가운데 영국 정부가 나선 것으로 분석하고 있다. 인터넷워치재단에 따르면 지난해 관련 이미지 보고 수치가 작년보다 5배 증가한 것으로 나타났다. 그동안 전 세계에서 아동이 노골적인 모습으로 등장하는 콘텐츠 제작·배포가 금지였다. 다만 AI를 통해 해당 콘텐츠를 생성할 때 구체적인 법 적용이 어려웠다. 이에 영국 정부는 AI로 아동 성 착취 콘텐츠를 만든 제작자에게도 명확한 처벌을 내리기 위해 나선 것이다. 예벳 쿠퍼 영국 내무장관은 "온라인뿐 아니라 오프라인에서도 아동 성 학대를 근절하는 것이 사이버 범죄로부터 대중을 강력히 보호할 방법"이라고 말했다.

2025.02.03 10:16김미정 기자

EU, AI법 위반시 최대 '매출 7% 벌금'...기업들 비상

가트너(Gartner)가 발표한 'EU AI법 준비를 위한 1단계: 발견과 목록화' 보고서에 따르면, 2024년 말부터 단계적으로 시행되는 EU AI법이 기업들에게 막대한 재정적 리스크를 안길 것으로 전망된다. EU AI법의 단계별 시행 일정 공개 EU AI법은 2025년 2월부터 단계적으로 시행된다. 첫 단계로 2025년 2월부터 금지된 AI 시스템에 대한 규제가 시작되며, 2025년 8월부터는 범용 AI와 처벌 규정이 적용된다. 2026년 8월에는 대부분의 규정이 시행되고, 최종적으로 2027년 8월에는 Article 6.1과 Annex II에 해당하는 규정이 시행된다. 이러한 단계적 접근은 기업들이 충분한 준비 기간을 가질 수 있도록 설계되었다. AI 위험도별 규제 체계 상세 공개 EU AI법은 AI 시스템을 위험도에 따라 세 가지 범주로 분류한다. '금지된 AI'는 사용자의 자유의지를 침해하거나 '사회적 점수 매기기'에 사용되는 시스템으로, 법 집행 목적 등 극히 제한적인 예외를 제외하고는 전면 금지된다. '고위험 AI'는 인간에게 영향을 미치는 대부분의 AI 기술이 해당되며, 엄격한 요구사항을 준수해야 한다. '저위험 AI'는 AI 기반 추천 시스템이나 스팸 및 바이러스 필터 등이 포함되며, 재고 관리나 문서화 등 비교적 가벼운 요구사항이 적용된다. AI 도입 유형 분류와 대응 전략 가트너는 기업의 AI 도입을 네 가지 유형으로 분류했다. 첫째는 '와일드 AI'로, 직원들이 업무를 위해 공개된 AI 도구를 사용하는 경우다. 둘째는 '임베디드 AI'로, 기업이 사용하는 솔루션에 내장된 AI 기능을 의미한다. 셋째는 '하이브리드 AI'로, 기성 AI 모델과 기업 데이터를 결합한 형태이며, 마지막으로 '인하우스 AI'는 기업이 자체적으로 개발한 AI 시스템을 말한다. EU AI법의 추가 규제 요구사항 EU AI법은 특정 AI 기반 애플리케이션에 대해 위험성 평가, 투명성 의무, EU 전역 데이터베이스 등록을 요구한다. 특히 시스템적 위험을 수반하는 최고 성능의 범용 AI에는 추가적인 의무 요구사항이 적용된다. 기업들은 이러한 요구사항을 준수하기 위해 자사의 AI 시스템을 철저히 점검하고 필요한 조치를 취해야 한다. 기업의 실질적 대응 방안 가트너는 기업의 효과적인 AI 시스템 관리를 위해 구체적인 실행 방안을 제시했다. 우선 기업 아키텍처, 제3자 리스크 관리, 변경 관리, 조달 프로세스를 적절히 수정하여 새로운 AI 기능과 서비스의 도입을 지속적으로 모니터링해야 한다. 완벽한 발견보다는 점진적인 진행이 중요하며, 일반개인정보보호법(GDPR) 준수를 위해 작성된 처리활동기록(RoPA)과 개인정보영향평가(PIA)를 활용하면 발견 및 목록화 과정을 상당히 단축할 수 있다. AI 시스템 카탈로그화를 위한 구체적 행동 지침 기업들은 각 AI 시스템에 대해 상세한 정보를 수집하고 문서화해야 한다. 시스템명, 처리하는 개인정보의 종류(특히 인종, 민족, 정치적 성향, 성별, 성적 지향, 종교적 신념, 노조 가입 여부, 유전자, 생체인식, 건강 데이터 등 민감정보), 처리 목적, 관련 업무 프로세스, 벤더 정보, 개인정보 처리의 법적 근거 등을 포함해야 한다. 가트너는 데이터 중심의 접근을 권장하며, 특히 민감한 개인정보를 처리하는 인사나 마케팅 부서의 AI 시스템을 우선적으로 점검할 것을 조언했다. EU 법률 체계와의 연관성 EU AI법은 기존의 다양한 EU 법률과 연계돼 있다. 기계류 지침, 장난감 안전 지침, 의료기기 규정, 민간항공보안 규정 등 17개 이상의 EU 법률이 AI법과 직접적으로 연관되어 있다. 이러한 기존 EU 법률의 적용을 받는 AI 시스템은 대부분 고위험 AI로 분류될 가능성이 높다. 따라서 기업들은 자사의 AI 시스템이 이러한 법률과 관련이 있는지 세심하게 검토해야 한다. ■ 기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다.

2025.01.18 17:28AI 에디터

고려대 법학전문대학원, 데이터·AI법 전문과정 개설

고려대학교 데이터인공지능법 연구센터가 3기 '데이터 인공지능법 전문과정'을 개설한다고 7일 밝혔다. 고려대 법학전문대학원은 변호사 양성의 로스쿨 교육 외에 현대의 전문적인 다양한 주제에 대해 공개강좌(ESEL)를 운영해 관련 분야 종사자들을 재교육하고 있다. 이에 따라 개설된 전문과정이다. 디지털 기술 혁신으로 인해 데이터의 사회적 산업적 가치가 제 분야에서 인정되고 있으며 생성형 인공지능, 디지털 플랫폼 등 데이터의 활용에 따른 다양한 법적 사회적 문제가 전세계적으로 제기되고 있다. 특히 생성형 인공지능 기술은 기업과 개인에게 일상화가 이뤄지고 있으며 이에 따른 법적, 정책적 논의가 본격화되고 있다. 데이터 인공지능법 전문과정은 디지털 대전환에서 비롯하는 복잡다기한 법적 과제와 문제에 대해 강의 및 토론하는 강좌를 제공한다. 국가와 공공기관, 로펌, 사기업체 등 사회 각 분야에서 데이터와 인공지능 등에 관한 업무를 담당하는 공무원, 공공기관 및 사기업의 임직원, 변호사 등이 대상이다. 국내 최고의 데이터, 인공지능 전문가들이 강사진으로 참여하며 2기와 마찬가지로 1년 과정으로 개설돼 내실 있는 교과과정 운영과 원우 간 교류의 기회를 확대할 계획이다. 4월부터 11월까지 19주 35개 강좌와 워크샵, 공개세미나로 구성될 예정이다. 이 과정을 수료하는 경우 고려대 총장 명의의 수료증이 수여되고 고려대 총교우회 정회원 자격도 부여된다. 이성엽 주임 교수는 “지난해 12월 한국이 EU에 이어 세계 2번째로 인공지능기본법을 통과시켰고 1년 뒤 시행을 앞둔 상황에서 국내외 AI, 데이터법의 쟁점에 대한 강의와 토론을 통해 하위 법령 제정이나 기업의 인공지능법 대응에 도움을 줄 것으로 기대한다”고 말했다. 원서접수는 2월1일부터 2월28일까지다.

2025.01.07 13:46박수형 기자

Prev 1 Next