검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'AI 표시'통합검색 결과 입니다. (5건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

정부, AI기본법 후속 법령 시행…"산업 지원 확대·위험 관리 가속"

정부가 인공지능(AI) 산업 육성과 위험 관리를 아우르는 AI법·제도 체계를 추가 가동한다. 21일 정부에 따르면 AI기본법 시행령과 하위 고시 등 후속 법령이 이날부터 시행됐다 이번 제도 시행으로 AI 산업 육성책과 안전·신뢰 확보 의무가 산업 현장에 적용된다. 우선 정부는 국가기관과 지방자치단체 공공기관이 제품·서비스를 구매할 때 AI 활용 제품을 우선 고려하도록 지원한다. 공공부문을 AI 제품·서비스 초기 수요처로 활용해 민간 시장 확대를 이끌겠다는 취지다. AI 기술 활용 여부를 확인하는 'AI 제품·서비스 확인제도'도 추진된다. 기업이 확인서를 받으면 다수공급자계약 참여 요건 완화와 총액계약 적격심사 가점 등 공공조달 시장에서 우대를 받을 수 있다. AI 이용이 어려운 국민을 지원할 수 있는 법적 근거도 마련됐다. 국가와 지방자치단체는 장애인과 고령자, 경력보유여성 구직자 등에게 AI 제품·서비스 이용 비용을 지원할 수 있다. 정부는 AI 기업과 전문인력 육성 정책도 확대한다. AI 전문인력 교육과 취업을 지원하고 모태펀드로 AI 창업기업에 대한 투자를 추진할 방침이다. 공공데이터를 AI 학습에 활용하기 위한 제공 기준도 구축된다. 공공이 보유한 데이터를 AI 개발에 활용할 수 있도록 제공 방식과 절차를 한층 구체화할 계획이다. 기업들도 제도 시행에 맞춰 내부 대응 체계 정비에 나섰다. 네이버와 카카오, SK텔레콤, KT, LG유플러스, 업스테이지 등은 AI 안전 조직과 위험관리 체계를 구축하고 생성형 AI 결과물 표시를 확대하고 있다. 업계에선 생성형 AI 표시 의무 적용 범위가 여전히 모호하다는 지적이 나온다. AI를 어느 정도 활용해야 표시해야 하는지 명확하지 않다는 이유에서다. 또 사람이 결과물을 편집하거나 검수했을 때도 같은 의무가 적용되는지를 두고 혼선이 이어지고 있다. 고영향 AI 판단 기준도 주요 쟁점이다. 의료와 금융, 채용, 교육 분야에서 어떤 서비스가 사람 생명과 안전 기본권에 중대한 영향을 미치는지를 미리 판단하기 어려워서다. 이에 기업들은 서비스 출시 전 법률 검토와 위험 평가에 추가 비용을 투입해야 할 가능성이 커졌다. 인력과 자금이 부족한 스타트업에는 규제 대응 비용이 시장 진입 장벽으로 작용할 수 있다는 우려가 나오고 있다. 해외 주요국은 산업 환경에 따라 서로 다른 규제 방식을 택하고 있다. 미국과 일본은 산업 육성과 기술 혁신에 무게를 두고 있으며, 유럽연합(EU)은 AI 시스템 위험 수준에 따라 의무를 차등 부과하는 AI법을 단계적으로 시행하고 있다. 정부는 최소 1년 이상 계도기간을 운영할 계획이다. 이 기간 산업계 의견과 적용 사례를 수렴해 고영향 AI 판단 기준과 생성형 AI 표시 방식을 가이드라인에 구체화할 방침이다. 배경훈 부총리 겸 과학기술정보통신부 장관은 "공공부문이 마중물이 돼 혁신적인 AI 기술을 신속하게 도입하고 국민에게 더 우수한 공공서비스를 제공하겠다"고 말했다.

2026.07.21 09:40김미정 기자

"생성형AI 표시 의무 일부 완화"...김우영 의원, AI기본법 개정안 발의

더불어민주당 김우영 의원은 생성형 AI를 활용한 결과물에 대한 표시 의무를 합리적으로 정비하는 AI기본법 개정안을 대표발의 했다고 9일 밝혔다. 현행법은 생성형 AI 또는 이를 이용한 제품과 서비스를 제공하는 경우 그 결과물이 생성형 AI에 의해 생성됐다는 사실을 표시하도록 하고 있다. 또 실제와 구분하기 어려운 음향과 이미지, 영상 등에 대해서도 이용자가 명확히 인식할 수 있도록 고지 또는 표시하도록 규정하고 있다. 다만 현행 규정은 배경 생성, 색 보정, 화면 정리 등 단순한 편집 보조 수준의 AI 활용까지 표시의무 대상에 포함될 수 있어 창작과 콘텐츠 산업 현장에 과도한 부담을 줄 수 있다는 지적이 제기됐다. 이용자가 제공한 데이터나 그 의미가 실질적으로 변경되지 않은 경우까지 표시의무를 부과하는 것은 AI 활용을 위축시킬 수 있다는 우려도 있다. 개정안은 생성형 AI 또는 이를 이용한 제품과 서비스가 표준적인 편집의 보조에만 활용되거나 이용자가 제공한 데이터 또는 그 의미를 실질적으로 변경하지 않는 경우에는 표시의무의 예외를 인정하도록 했다. 아울러 현행법상 '예술적 창의적 표현물'의 표현을 문화산업진흥 기본법에 따른 문화상품으로 구체화하고 문화상품에 대해서는 전시 향유 등을 저해하지 않는 필요최소한의 방식으로 고지 또는 표시할 수 있도록 했다. 김 의원은 “AI 생성물에 대한 투명성은 반드시 필요하지만 단순한 보정이나 편집 보조까지 일률적으로 표시의무를 부과하는 것은 창작과 산업 현장의 현실에 맞지 않는다”며 “AI 활용 사실을 숨기는 문제는 막되 AI 를 도구로 활용하는 정상적인 창작과 서비스 혁신까지 위축시켜서는 안 된다”고 말했다.

2026.07.09 10:44박수형 기자

AI 가상인물 활용 광고, 가상인물 표기 명확히 해야

앞으로 생성형 인공지능(AI) 등으로 만든 가상인물을 활용한 광고에는 가상인물임을 명확하게 표기해야 한다. 공정거래위원회는 생성형 AI·딥페이크 등 신기술로 만든 가상인물을 활용해 광고할 경우 '가상인물'이라는 표시를 의무화하고, 표시방법을 규정하는 내용의 '추천·보증 등에 관한 표시·광고 심사지침' 개정안을 마련해 28일까지 20일간 행정예고 했다고 8일 밝혔다. '표시·광고의 공정화에 관한 법률'은 부당한 표시·광고 행위를 ▲거짓․과장 ▲기만 ▲부당 비교 ▲비방 등 4가지로 구분하며, 개정하는 심사지침은 공정위가 추천·보증 등을 활용한 표시·광고가 부당한지를 판단하기 위한 구체적 기준이 담긴 하위 규정이다. 현행 심사지침은 추천·보증 주체에 따라 ▲소비자 ▲유명인 ▲전문가 ▲단체·기관으로 유형화해 유형별 표시·광고 원칙과 사례를 제시하고 있다. 이번 개정은 AI를 활용해 생성한 가상인물을 새로운 유형으로 추가했다. 공정위 관계자는 “최근 AI를 활용해 실제 인물인지 구분하기 어려운 가상의 의사·교수 등의 전문가를 만들어 상품 등을 광고하는 사례가 적지 않다”며 “이 경우 소비자는 가상인물임에도 실제 전문가가 상품 등을 추천·보증하는 것으로 오인하고 상품을 선택하게 돼 합리적인 소비를 저해할 우려가 존재한다”고 설명했다. 공정위는 AI로 생성한 가상인물이 추천·보증하는 경우 가상인물임을 표시하도록 의무를 부과하고 적절한 표시문구·표시방법 등을 안내하고자 지침을 개정했다. 블로그·인터넷카페 등 문자 중심 매체를 통해 추천·보증 등을 하는 경우 게시물 제목이나 첫 부분에 'AI를 기반으로 생성된 가상인물이 포함된 게시물입니다' '가상인물 포함' 등의 문구를 표시하도록 했다. 사진·동영상 등 영상 매체를 통해 추천·보증하는 경우에도 가상인물이 등장하는 동안 가상인물과 근접한 위치에 '가상인물' 등의 문구를 표시하도록 해 소비자가 가상인물을 실존하는 전문가 등으로 오인하지 않게 했다. 공정위는 이번 심사지침 개정을 통해 소비자에게는 추천·보증하는 주체가 '가상인물'임을 더욱 쉽고 명확하게 알 수 있게 해 합리적인 소비를 할수 있도록 지원하고, 광고주·인플루언서 등 수범자에게는 가상인물을 적용한 광고시 명확한 가이드라인을 제시함으로써 법 위반 예측 가능성을 높이는 데 기여할 것으로 기대했다. 공정위는 행정예고 기간 이해관계자·관계 부처 등의 의견을 수렴한 후, 전원회의 의결 등 관련 절차를 거쳐 개정안을 확정하고 시행할 예정이다.

2026.04.08 14:54주문정 기자

EU, AI 콘텐츠 표시법 구체화…"韓, 기준 보완 필요"

유럽연합(EU)이 인공지능(AI) 생성 콘텐츠 식별 체계를 구체화한 가운데, 국내 업계에선 한국 AI기본법에서도 정교한 기술적 가이드라인이 필요하다는 지적이 나왔다. EU 집행위원회는 지난 3일 AI 생성물 투명성 확보를 위한 'AI 생성 콘텐츠 표시·라벨링 실천 규범(Code of Practice)' 2차 초안을 공개했다. 이 규범은 AI법(AI Act) 제50조에 따른 투명성 의무를 알리는 가이드라인이다. 적용 시점은 올해 8월이다. 초안에 따르면 해당 실천 규범 대상은 AI 시스템 제공사와 배포 기업으로 각각 구성됐다. AI 시스템 제공사는 오픈AI, 구글 등 AI 기술을 직접 개발하는 기업이다. 배포 기업은 영화사, 언론사 등 AI 기술을 실제 서비스에 활용해 콘텐츠를 대중에 전달하는 기업이다. 첫 번째 부문은 AI 기술을 직접 개발·공급하는 기업 대상이다. 이들은 AI 플랫폼 유통 과정에서 AI 표시 정보가 삭제되지 않도록 기술적 장치를 강화해야 한다. AI 개발사는 최소 두 개 이상으로 구축된 기술적 마킹 층위를 구축해야 한다. AI가 만든 콘텐츠라는 표시를 한 가지 방법이 아니라 여러 층위로 설정해야 한다는 의미다. 이를 통해 오디오·이미지 등 콘텐츠에 디지털 서명·타임스탬프 등이 포함된 메타데이터를 삽입해야 한다. 또 콘텐츠 내부에는 비가시적 워터마크를 결합해 표시 정보를 분리할 수 없도록 하는 것도 필수다. 개발사는 누구나 무료로 AI 생성 여부를 확인할 수 있는 탐지 도구도 공개해야 한다. 사업을 중단하더라도 과거에 만든 AI 생성 콘텐츠를 식별할 수 있도록 관련 기술을 유지해야 한다. 필요시 탐지 기술을 정부 당국에 제공할 의무도 부여된다. EU는 중소기업과 스타트업 부담을 고려해 일부 절차를 간소화했다. 이용자 혼란을 줄이기 위해 EU 공통 아이콘과 디자인 표준도 마련할 방침이다. 플랫폼마다 제각각인 표시 방식을 일정 수준 통일하는 것이 목표다. 두 번째 부문은 영화사, 광고 대행사 등 AI로 실제 서비스를 운영하거나 콘텐츠를 대중에게 전달하는 기업 대상이다. 눈에 보이는 'AI 라벨링'에 집중한다. 해당 부문에선 딥페이크 등 AI 생성 텍스트·이미지 표시법에 초점 맞췄다. 이번 초안에선 AI가 완전히 생성한 콘텐츠와 AI가 일부 보조한 콘텐츠를 구분하던 기존 분류 체계를 삭제했다. 대신 AI로 만든 아이콘, 라벨, 안내 문구 디자인과 표시 위치에 대한 최소 기준을 제시했다. 기업이 서비스 특성에 맞게 표시 방식을 설계할 수 있도록 일정 수준의 유연성도 유지했다. 한국 AI기본법, 산업 진흥·안전 균형 고려..."구체화 필요" 국내 업계에선 AI 표시법 부문에서 EU가 한국보다 기술적 기준을 구체적으로 명시했다는 평이 나오고 있다. 한국도 AI 사업자에게 AI 생성 콘텐츠 표시 의무를 제시했다. 이를 위반할 경우 최대 3000만 원 과태료를 부과한다. 현재 정부는 EU처럼 의무자를 세분화하지 않았다. EU는 AI 개발사와 배포사 각각 준수 부문을 고지했지만, 한국 AI법에서는 이를 모두 AI 사업자로 통합했다. 국내 AI법은 EU와 달리 워터마크나 메타데이터 중 기술적 방식을 기업이 선택할 수 있게 자율성을 줬다. EU처럼 외부 검증용 도구 공개 강제성도 없다. 국가가 제시한 단일 규격 사용도 강제하지 않고 있다. 익명을 요청한 국내 AI 업계 관계자는 "한국은 AI 산업 경쟁력 확보를 위해 기업 자율적 혁신을 최대한 존중하는 방향으로 규범을 설계한 것으로 보인다"며 "EU처럼 AI 표시 의무자 대상을 현재보다 세분화하는 방안은 필요해 보인다"고 말했다.

2026.03.11 14:55김미정 기자

'AI 전쟁 영상' 표시 안하면 수익 끊는다…X, 특단 조치 내린 이유는

테슬라 창업자 일론 머스크가 인수한 X(옛 트위터)가 인공지능(AI)으로 생성된 무력 충돌 영상임을 표시하지 않고 게시하는 크리에이터에 대해 제재를 가한다.3일(현지시간) 테크크런치에 따르면 니키타 비어 X 제품 총괄은 이 같은 방식으로 AI 기술을 사용해 사람들을 오도하는 이용자는 회사의 '크리에이터 수익 공유 프로그램(Creator Revenue Sharing Program)'을 3개월(90일) 동안 정지시킬 것이라고 발표했다. 정지 기간이 끝난 뒤에도 오해를 유발하는 AI 콘텐츠를 계속 게시할 경우 해당 크리에이터는 프로그램에서 영구적으로 제외된다. 비어 총괄은 X를 통해 "전쟁 상황에서는 사람들이 현장의 진짜 정보에 접근할 수 있는 것이 매우 중요하다"며 "오늘날의 AI 기술로는 사람들을 오도할 수 있는 콘텐츠를 만드는 것이 매우 쉬워졌다"고 주장했다. 그러면서 "지금부터 무력 충돌을 다룬 AI 생성 영상을 게시하면서 AI로 제작됐다는 표시를 하지 않은 사용자는 크리에이터 수익 공유 프로그램에서 90일 동안 정지된다"고 덧붙였다. X는 이러한 오해 소지가 있는 게시물을 식별하기 위해 생성형 AI 콘텐츠 탐지 도구와 함께 크라우드소싱 기반 사실 검증 시스템인 '커뮤니티 노트'를 활용키로 했다. X의 크리에이터 수익 공유 프로그램은 크리에이터가 플랫폼에 게시물을 올리고 게시물이 인기를 얻으면 광고 수익을 공유받아 수익을 창출할 수 있도록 하는 제도다. 이 프로그램은 X에서 참여도가 높은 콘텐츠를 늘리기 위해 설계됐지만, 일각에선 클릭베이트나 분노를 유발하는 게시물 같은 자극적인 콘텐츠를 올리도록 유도하는 구조라고 지적했다. 또 콘텐츠 관리 기준이 느슨하고 프로그램 참여 조건으로 유료 X 구독자가 되어야 한다는 점도 비판을 받아왔다. 테크크런치는 "AI가 오해를 불러일으킬 수 있는 사진과 영상을 매우 쉽게 만들 수 있다는 점을 고려하면, 이러한 콘텐츠에 대해 금전적 보상을 금지하는 조치는 제한적인 해결책에 불과하다"며 "전쟁 상황이 아닌 경우에도 AI 미디어는 정치적 허위 정보 확산이나 인플루언서 경제에서의 기만적인 제품 홍보 등에 사용되는 경우가 많지만, 새 정책에서도 이러한 콘텐츠는 여전히 허용된다"고 지적했다.

2026.03.04 09:47장유미 기자