검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'AI 법'통합검색 결과 입니다. (111건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

"AI 강국 도약, 기본법부터 전방위적 거버넌스 확립 필수"

인공지능(AI) 강국에 도약하기 위해 기본법 마련부터 전방위적인 AI 거버넌스가 확립돼야 한다는 산업계의 의견이 재차 제기됐다. 생태계 활성화를 위한 종합적인 관리체계를 마련하고 시장 트렌드에 맞춰 지속적인 맞춤형 제도를 갖추자는 뜻이다. 김훈동 KT 컨설팅그룹 AI데이터 리드는 16일 정동영, 최형두 의원이 국회서 주최한 포럼에서 발제를 맡아 “한국적 특성을 고려한 윤리, 문화 안전, 권리, 기술, 데이터 등 종합적인 내용을 포함한 AI 기본법이 필요하다”며 “산학연관 협력에 기반한 실효적인 법안을 제정해 범국가적인 역량을 결집해야 한다”고 말했다. 최근 국가AI위원회가 설립됐고, AI 주무부처인 과학기술정보통신부가 글로벌 패권 경쟁에 맞서 각종 진흥 정책을 내놓고 있지만 구체적인 실행을 위한 법과 제도가 필요하다는 설명이다. 21대 국회부터 AI 기본법 제정 논의가 있었지만 결론을 내리지 못하고 22대 국회 들어 현재 11개 법안이 발의된 상황이다. 기술에 더해 자본력을 앞세운 강대국에 뒤처지지 않으려면 연내 법 제정이 필요하다는 의견이 전문가들 사이에서 지배적이다. AI 기본법 제정과 함께 AI 데이터 공유 거래 활성화 AI 인프라와 R&D 투자 지원 확대도 산업 발전을 위한 요소로 꼽혔다. 김훈동 리드는 “데이터를 거래할 때 투자대비 수익 예측과 가치 평가가 어려운데, 데이터 가격 측정 모델 기반의 거래 환경을 조성하고 데이터 활용에 따른 권리범위를 명확하게 해야 한다”며 “AI도 국가전략기술 범주에 포함해 인프라 투자에 세액공제를 확대해야 투자 환경이 조성될 것”이라고 강조했다. 그는 또 AI 인재 확보를 위해 “범정부 차원의 AI 인재 확보 콘트롤타워를 구성하고 세계적 수준의 연구소를 설립하고 운영하기 위해 민관협력이 추진될 필요가 있다”고 덧붙였다. 그러면서 “국내 시장 규모에서는 확장성과 수익성의 한계가 존재하는데 국내 AI 응용 솔루션 수출기업을 육성해야 한다”고 했다. 이어진 토론에서 이영탁 SK텔레콤 부사장은 “과거 초고속인터넷에 막대한 자금을 왜 투자하냐 비난했고 CDMA도 그랬지만 결국 그 결과로 정보화 강국이 됐다”면서 “AI 산업이 발전하기 위해 인프라 구축이 필수적인데 이에 대한 세제 지원이 이뤄지면 발전을 앞당길 수 있다”고 말했다. 이동수 네이버 이사는 “파운데이션 모델을 갖고 있기 때문에 회사가 반도체 전략에서 유리한 면이 있다”며 “파운데이션 모델과 반도체는 서로 떼어낼 수 없는 관계이기 때문에 AI 반도체를 국가적인 과제의 최상단에 두려면 파운데이션을 중요하게 여겨야 한다”고 설명했다. 이날 포럼에 참석한 유상임 과기정통부 장관은 “AI를 중심으로 산업계가 재편되고 변혁의 소용돌이 속에 있다”며 “국가AI위원회를 발족하면서 3대 국가에 들자고 했는데, 한국이 원팀이 된다면 AI 패권경쟁에서 중국을 넘어서고 싶고 또 할 수 있다고 생각한다”고 말했다. 이어, “가장 시급한 과제는 법적 제도적 장치를 빨리 마련하는 것으로, 민간에서 할 수 있는 일과 별도로 국가가 할 수 있는 일이 크니까 이를 위해 AI 기본법 조속히 제정해야 한다”며 “AI는 계속 진화하기 때문에 기본법이 완벽할 수는 없지만, 기본적인 규제를 마련하고 수시로 개정을 통해 기술 환경에 맞춰갈 수 있다”고 밝혔다.

2024.10.16 14:15박수형

유상임 장관 "AI에 국가 명운...AI기본법 제정 시급"

유상임 과학기술정보통신부 장관은 8일 “AI는 국가 명운이 걸린 분야”라며 “AI 기본법 제정이 시급하다”고 밝혔다. 유상임 장관은 이날 세종청사에서 열린 국정감사에서 “정부는 대통령 직속 국가인공지능위원회를 출범시키고 국가 AI 전략 정책방향을 마련해 AI 글로벌 3대 강국으로 도약하기 위해 총력을 기울이고 있다”며 이같이 말했다. 그는 또 “최근 AI의 발전과 함께 급증하고 있는 딥페이크, 가짜 뉴스 등을 방지하기 위해 안전하고 신뢰 가능한 AI 활용 환경을 조성하고 글로벌 리더십을 발휘해 디지털 심화 시대의 새로운 질서를 정립해 나가겠다”고 강조했다. 연구개발(R&D) 체질 전환과 인재 육성을 그 다음 과제로 꼽았다. 유 장관은 “R&D 예타 폐지 및 후속 보완 조치와 함께 혁신 도전형 R&D와 글로벌 협력을 확대해 나가겠다”면서 “연구성과가 신산업과 성장 동력으로 이어지도록 기술 산업화와 출연연 혁신에도 매진하겠다”고 설명했다. 이어, “과학기술인재 성장발전 전략을 토대로 우수한 인재가 이공계에 진출해 학업과 연구에 전념할 수 있는 환경을 조성하고 과학기술인에 대한 경제적 보상과 사회적 인정을 높이는 데 힘쓰겠다”고 덧붙였다.

2024.10.08 10:46박수형

김태규 직대 "AI 이용자보호법으로 생성형AI 피해 선제 대응"

김태규 방송통신위원회 위원장 직무대행은 7일 “AI 이용자보호법을 제정하여 생성형AI 서비스 피해 등에 선제적으로 대응하기 위해 노력하겠다”고 밝혔다. 김 직무대행은 이날 국회 과학기술정보방송통신위원회가 개최한 방통위 대상 국정감사에서 인사말을 통해 “딥페이크 성범죄물로 인한 피해가 심각해짐에 따라 범부처 차원의 종합대책을 마련 중이다”며 이같이 말했다. 올해 말 KBS와 MBC 등 주요 지상파방송사 재허가 심사를 주요 과제로 꼽았다. 김 대행은 “상반기에 법과 원칙에 따라 종편, 보도PP 3개사의 재승인 심사를 마쳤으며, 지상파 재허가 심사도 엄격하고 투명하게 추진할 계획”이라며 강조했다. 이어, “미디어 혁신성장 기반 조성을 위해 분산된 미디어 규율체계 정비를 위한 통합미디어법안을 준비하고 있다”고 덧붙였다. 김 대행은 또 “뉴스제휴 평가기구의 공정성을 제고하고 알고리즘 투명성을 확보해 포털뉴스 서비스의 신뢰성과 투명성을 높이겠다”며 “허위조작정보 근절대책을 마련하고 이용자 스스로 사실 여부를 검증할 수 있도록 정보판별 교육을 진행하고 있다”고 설명했다. 그러면서 “통신비 부담경감을 위해 단말기 유통법 폐지를 추진하고 있다”며 “이용자 중심의 통신시장 질서 확립을 위해 고가 요금제 가입 유도, 허위 과장 광고 등 이용자 이익 침해행위를 집중 점검했다”고 밝혔다. 1인 체제 방통위를 두고 “여러 현안이 산적한 가운데 기관장이 부재하고 위원회 개최도 어려운 상황에 처해 있다”며 “어려운 상황에서도 위원회가 추진하는 주요 과제들이 좋은 성과를 거둘 수 있도록 위원님들의 많은 관심과 지원을 부탁드린다”고 끝맺었다.

2024.10.07 10:47박수형

"AI에 국가역량 결집...기본법에는 규제 혁신 양립해야"

“대한민국이 ICT에 집중 투자를 했듯이 AI에 한 번 더 국가적 역량을 결집하자는 컨센서스는 이뤄진 것으로 보인다.” 최민희 과학기술정보방송통신위원회 위원장은 24일 국회서 열린 인공지능(AI) 기본법 공청회 말미에 이같이 말했다. AI 진흥과 규제를 두고 국가가 어떤 법제도를 취해 산업적으로나 사회적으로 이해관계가 엇갈리는 현실이다. 때문에 “머리는 복잡해졌지만, 쟁점은 명확해졌다”며 최민희 과방위원장은 AI 기본법 논의에 속도를 내겠다는 뜻을 분명히 했다. 최 위원장은 “AI 관련법이 21대에서 논의 됐고 통과되지 않았고는 중요하지 않다. 이 법이 만들어져야 하나 만들어지지 말아야 하나에도 온도차가 있고 이견이 있는 것으로 보인다”면서도 “이 자리는 법을 만든다는 전제로 모인 자리”라고 짚었다. 이어, “국제적인 경쟁력을 고려했을 때 우리가 ICT에 집중적으로 투자해서 ICT 강국이 됐듯이, 조금 늦었지만 AI로 대한민국이 그런 시도를 할 것인가 말 것인가를 결정하는 주장에 국회가 호응하고 있는 것이다”고 밝혔다. 이날 공청회에서는 효율적인 AI 기본법을 위해선 지금보다 명확한 AI 정의와 현실적인 규제 적용 범위가 필요하다는 의견이 쏟아졌다. 구체적인 AI 규제 범위와 현실 가능한 위험성을 구체적으로 정해야 향후 부작용 없는 AI법을 구축할 수 있어서다. 참석자들은 AI법을 통해 대한 잠재적 위험 관리와 기술 혁신을 동시에 촉진할 수 있어야 한다는 점에 동의했다. 이에 균형 잡힌 법제도와 거버넌스 체계 구축을 가장 핵심 과제로 제시했다. "22대 국회, AI 진흥만 집착…위험성 고려 미흡" 유승익 한동대 교수는 22대 국회가 AI에 대한 구체적 정의와 잠재적 위험성 등을 고려하지 않는다고 지적했다. 유 교수는 "22대 국회는 진흥 아니면 규제라는 양자택일식으로 AI법을 구상하고 있다"며 "AI 위험성을 구체적 정의 없이 법률에 녹여선 안 된다"고 비판했다. 이어 "결국 유례없는 졸속 입법을 초래할 것"이라고 덧붙였다. 유 교수는 국회가 정의한 AI 개념에 고유한 기술 특성을 담지 못했다고 주장했다. 국회가 정의한 AI 개념이 '지능정보화 기본법' 정의 조항 일부에 '지각' '언어의 이해' 등을 추가하는 데 그쳤다는 이유에서다. 그는 "이 개념은 다른 소프트웨어까지 지칭할 수 있을 정도로 광범위하다"며 "AI 시스템 수준의 자율성과 변화 양상을 포괄하지 못한다"고 했다. 유 교수는 22대 국회의 AI 법률안에도 AI 운영자와 AI 제공자를 세밀하게 구분하지 않은 점도 문제 삼았다. 보통 제공자는 AI 시스템을 만드는 개발자·기업이다. 운영자는 AI를 사용하는 개인·기업을 지칭한다. 그는 "추후 AI 위험이 발생했을 시 누가, 얼마나, 어떤 책임을 져야 하는지 정하기 어려울 것"이라며 "의무에 대한 차등 부과나 제재에 대한 섬세한 제도적 설계마저 어려워질 것"이라고 비판했다. 그는 AI 시스템 개발·활용에 대한 금지 규정도 필요하다고 봤다. 유 교수는 "현재 발의된 법안 중 권칠승 의원 안을 제외하면 금지 규정을 아예 두지 않고 있다"며 "개발·활용에 이런 규정이 없다면 향후 AI 자체가 사용자 안전, 건강, 기본권 등에 중대한 위험을 초래할 수 있다"고 말했다. 유 교수는 고위험 AI 정의에 개선이 필요하다고 주장했다. 특히 공공기관과 산업안전, 고용관계, 신용평가 등에 적용되는 고위험 AI에 대한 개념화가 부족하다는 설명이다. 그는 "고위험 AI 활용에 대한 예외적 개념화는 필수"라며 "민감한 개념일수록 세밀하고 민감히 논의돼야 한다"고 덧붙였다. 그는 이를 개선하기 위해 독립적인 AI 감독·통제를 위한 국가 거버넌스 체계가 중요하다고 제안했다. 유 교수는 "새로운 국가 독립 감독기관 구축이 필요하다"며 "현재 발의된 법안들은 과학기술정보통신부를 주무부처로 규정해 법률 독립성을 유지하기 어렵기 때문"이라고 이유를 밝혔다. 배경훈 LG AI연구원 원장도 AI 위험성에 대한 추가 논의가 필요하다고 강조했다. 배 원장은"AI로 인한 부작용을 막기 위한 적절한 규제는 필요하다"며 "다만 AI 기술 자체보다는 AI로 인한 오남용 방지하는 데 초점 맞춰야 한다"고 말했다. 최경진 가천대 교수 "AI법에 규제·혁신 모두 다뤄야" 최경진 가천대 교수는 올바른 AI 생태계 발전을 위해 규제와 혁신이 양립 가능한 상태로 이뤄져야 한다고 주장했다. 최 교수는 현재 22대 국회가 발의한 AI 법안을 긍정적으로 평가했다. 모든 법안이 신뢰 기반 조성을 입법 목적으로 삼았으며, 이중 다수가 국민 권익과 존엄성 보호를 규정했다는 이유에서다. 다만 AI 개념을 광범위하게 설정하면 실효성 없는 규제안이 나올 수 있다고 우려했다. 이에 최 교수는 AI와 AI 시스템, AI 모델 개념을 각각 구분해야 한다고 봤다. 그는 "규율 대상을 기술적 AI가 아니라 AI 시스템, 서비스로 생각하면 쉬울 것"이라며 "유럽연합(EU)이나 미국 등 해외서도 AI 개념을 세분화한 이유"라고 설명했다. 최 교수는 법률 하나로 모든 AI 문제를 해결할 수 없다며 다각적인 접근 필요성을 주장했다. 그는 "우선 모든 영역에 공통 적용할 수 있는 원칙으로 작동하는 최소한 공통 규제 프레임워크만 AI법에 적용해야 한다"며 "이후 영역 특수성을 고려해 해당 영역을 규율하는 법률 개정이 필요하다"고 강조했다. 그는 다수 법률안에 금지 AI 고려 자체가 부재하단 점을 지적했다. 현재 발의된 법률안 중 더불어민주당 권칠승 의원이 발의한 안을 제외하고 모두 금지 AI에 대한 내용이 포함되지 않은 상태다. 이에 최 교수는 "향후 국민 건강과 안전, 인권을 침해하고 정치질서와 사법 질서를 흔들 수 있는 AI가 개발될 수 있다"며 "이를 통제할 수 있는 수단이 없는 게 현재 법률안 맹점이자 무책임한 입법 태도"라고 비판했다. 최 교수는 AI 기술이 사회에 미치는 영향을 제대로 파악하고 관리하기 위해 평가 시스템을 별도 구축해야 한다고 강조했다. AI 법률안에 적합성 평가 체계와 영향성 평가 체계를 추가해야 한다는 제안이다. 그는 "특히 공공에서 실시간 원격으로 범죄자 탐지하는 기술에 의무적으로 영향평가 제도를 도입하는 식"이라며 "기업들이 자발적으로 해당 평가 체계를 사내에 도입하도록 인센티브 제도가 필요할 것"이라고 덧붙였다.

2024.09.24 19:05김미정

"삼성과 AI 격차 더 벌어지나"…애플, EU AI법 '자발적 준수 협약' 불참할까

애플이 삼성전자와 구글, 아마존 등이 동참키로 한 유럽연합(EU)의 인공지능(AI)법 준수를 위한 '자발적 협약'에 참여할 지 관심이 쏠린다. 애플은 아직 동참 의사를 밝히지 않은 상태로, 최근 EU 집행위와 경쟁법 위반 등으로 갈등을 빚고 있기 때문이란 분석이 나온다. 22일 업계에 따르면 삼성전자는 다음주께 공식화하는 EU 집행위원회 주도 'AI 협약(AI Pact)'에 참여한다. 이번 협약식은 참여 기업 관계자들이 참석한 가운데 오는 25일 벨기에 브뤼셀 집행위 본부에서 열린다. AI 협약은 업계가 EU의 'AI 법'이 본격 시행되기 전 유예기간에도 안전하고 투명한 AI 사용을 위해 노력하겠다는 자발적 서약이다. EU의 AI법은 세계 최초의 포괄적 AI 규제로, AI 기술을 접목한 제품이 EU 시장에 출시되는 과정에 적용되는 규칙이다. 집행위는 AI법이 지난 8월 발효됐지만 고위험 AI 규제 등 대부분 규정이 전면 시행되기까지는 시간이 걸릴 것으로 보여 그간 기업들을 대상으로 협약 참여를 독려해왔다. 현재까지 참여 의사를 밝힌 곳은 삼성전자 외에 구글, 아마존, 마이크로소프트(MS) 등 100여 개 IT 업체인 것으로 알려졌다. 반면 최근 EU 규제당국과 각을 세우고 있는 애플은 여전히 동참 의사를 밝히지 않았다. EU 집행위가 올 초 발효된 유럽 디지털시장법(DMA) 상 명시된 '상호운용성'을 지키기 위해 애플의 핵심 전략인 '폐쇄적 생태계'를 개방하라고 연일 압박하고 있는 것이 영향을 준 것으로 분석된다. 집행위는 최근 아이폰에서 삼성전자 갤럭시워치 등 타사 스마트 기기와 연결성을 높이지 않으면 천문학적 벌금을 물리겠다고 경고한 바 있다. AI 협약에 따르면 참여 기업은 '고위험' AI 기술로 분류될 만한 자사 시스템을 사전 점검한다. 또 AI법 준수를 위한 조직 내 AI 거버넌스 전략 수립 등이 요구되며 12개월 뒤 집행위에 진행 경과를 공유해야 한다. EU의 AI법은 특정 제품이나 분야에서 AI 기술을 활용할 때 발생할 수 있는 위험 정도에 따라 4단계로 나눠 차등 규제가 이뤄진다. 우선 인간의 기본적 권리를 침해할 가능성이 있는 AI 기술 활용은 원천 금지된다. 또 챗GPT를 비롯한 범용 AI(AGI)에 대해서는 AI 학습과정에 사용된 콘텐츠를 명시해야 하는 등 투명성 의무도 주어진다. 일부 규정부터 순차 적용되며 2026년 8월부터 전면 시행된다. AI 기술 관련 잘못된 정보를 제공하는 경우 전 세계 연 매출의 1.5%를, 의무 규정 위반 시 3%의 과징금이 각각 부과될 수 있다. 업계에선 이번 일로 삼성전자가 일종의 'AI법 적응 기간'을 가질 수 있게 됐다는 점에서 적절한 결정이라고 평가했다. 업계 관계자는 "삼성전자는 주요 제품에 AI 기술을 광범위하게 활용하고 있다"며 "이번 협약 동참을 통해 EU에 법 준수 의지를 부각하는 전략적 효과도 어느 정도 누릴 수 있을 것으로 보인다"고 봤다.

2024.09.22 18:14장유미

[ZD브리핑] 불안한 韓 반도체…美 마이크론 실적 발표에 삼성·SK도 '예의주시'

지디넷코리아는 IT 업계의 이슈를 미리 체크하는 '이번 주 꼭 챙겨봐야 할 뉴스'를 제공합니다. '꼭 챙길 뉴스'는 정보통신, 소프트웨어(SW), 전자기기, 소재부품, 콘텐츠, 플랫폼, e커머스, 금융, 디지털 헬스케어, 게임, 블록체인, 과학 등의 소식을 담았습니다. 바쁜 현대인들의 월요병을 조금이나마 덜어 줄 '꼭 챙길 뉴스'를 통해 한 주 동안 발생할 IT 이슈를 미리 확인해 보시기 바랍니다. [편집자주] '반도체 겨울' 논란 속 마이크론 실적 발표...SK하이닉스, TSMC 행사 참석 한국시간으로 오는 26일 미국 주요 메모리 제조기업 마이크론이 2024 회계연도 4분기(6~8월) 실적발표를 진행합니다. 앞서 마이크론은 지난 분기 증권가 컨센서스를 상회하는 실적을 거두며 범용 메모리 및 고대역폭 메모리(HBM) 시장에 대해 긍정적인 전망을 내비친 바 있습니다. 다만 최근에는 모건스탠리 등 일부 증권사에서 마이크론을 비롯한 삼성전자, SK하이닉스 등 주요 메모리 기업들이 예상을 밑도는 실적을 거둘 것이라는 리포트를 내고 있습니다. 이러한 상황에서 마이크론의 공식적인 발언은 메모리 업계의 주요 지표로 작용할 전망입니다. SK하이닉스는 대만 TSMC가 오는 25일(현지시간) 미국 캘리포니아주 샌타클래라 컨벤션센터에서 개최하는 'OIP 에코시스템 포럼 2024'에 참가해 첨단 패키징 기술 공동 연구 결과를 소개할 예정입니다. SK하이닉스는 이번 행사에서 'HBM 품질과 신뢰성 향상을 위한 패키지 내 2.5D 시스템에 대한 공동 연구'를 주제로 발표합니다. 또 부스를 꾸리고 5세대 HBM인 HBM3E와 LPCAMM2, GDDR7 등 최신 AI 메모리를 전시할 예정입니다. SK하이닉스 외에도 마이크로소프트, 구글, 지멘스 등이 참석해 기술을 발표합니다. 글로벌 시장조사업체 SNE 리서치가 24일과 25일 한국과학기술회관에서 '더 코리아 어드밴스드 배터리 컨퍼런스(The Korea Advanced Battery Conference) 2024'를 개최합니다. 첫날에는 KDB산업은행 강석훈 회장이 배터리산업에 대한 평가와 지원 방안에 대해 찬조 발표를 하며, SNE리서치의 김광주 대표가 '전기차 캐즘 현상 분석과 배터리산업 대응 방향'에 대한 발표를 진행할 예정입니다. 이후 삼성SDI, SK온, CATL 등에서 각 사 배터리 사업 전략과 추진방향에 대한 발표를 이어갑니다. 보스턴다이내믹스와 한국 공식 파트너사인 클로봇이 오는 25일 국내에서 첫 사족보행 로봇 '스팟'을 주제로 오프라인 세미나를 개최합니다. 스팟 4.1 버전의 새로운 기능과 신규 페이로드 제품과 사례가 소개될 예정입니다. 로봇 솔루션 업체 씨메스와 클로봇이 상장을 앞두고 각각 23일, 27일 IPO 간담회를 진행합니다. 두 회사는 공모가 상단 기준으로 각각 2천749억원, 2천611억원의 시가총액으로 내달 코스닥 시장에 입성할 예정입니다. 국회, AI기본법-디지털포용법 공청회 개최 AI 기본법 제정안에 대한 국회의 입법 공청회가 다시 열립니다. 21대 국회에서 AI 기본법에 대한 법안심사소위 논의와 공청회까지 거쳤지만, 결국 회기 만료로 법안 제정 과정에는 이르지 못했습니다. 22대 국회서 재차 발의된 AI 기본법을 두고 국회는 다시 제정 논의에 착수했습니다. 법안심사소위 첫날 논의에 속도를 내자는 여야 의원들의 합의가 모였고, 그럼에도 AI 이용자 보호 필요성을 고려해 꼼꼼하게 살펴야 한다는 뜻도 모았습니다. 이를 위해 마련된 공청회는 24일 오후에 열릴 예정입니다. 같은 날 디지털포용법안에 대한 공청회도 열립니다. 국민의힘 고동진 의원과 더불어민주당 박민규 의원이 발의한 법안이 과방위에 상정된 상황입니다. 디지털 심화 시대에 발생하는 디지털 격차를 줄이자는데 정치권의 큰 이견은 없습니다. 과방위는 이날 오전에 디지털포용법안, 오후에 AI 기본법안 공청회를 열 계획인 가운데 이에 앞서 내달 7일부터 열리는 22대 국회 첫 국정감사에 대한 실시 계획서를 채택할 예정입니다. 큰 이변이 없는 한 10월 7일 방송통신위원회, 10월 8일 과학기술정보통신부 대상의 기관 감사를 시작되는 일정에 합의가 이뤄질 것으로 보입니다. 아울러 올해 국정감사에 출석할 증인과 참고인에 대한 논의를 진행할 계획입니다. 과방위는 22대 국회 개원 직후 방통위원장 인사청문을 시작으로 공영방송 이사진 개편으로 정쟁적인 요소가 다분히 많았던 상임위로 꼽힙니다. 이 때문에 증인, 참고인 논의는 다소간의 진통이 예상됩니다. 이에 대한 논의는 30일 예정된 전체회의까지 이어질 것이란 전망이 지배적입니다. 과방위 전체회의 외에도 각 의원실이 다양한 정책 세미나를 준비하고 있습니다. 우선 조국혁신당 이해민 의원과 더불어민주당 소속 과방위원들이 27일 국내 통신비 적정 수준에 대한 전문가 의견을 듣는 자리를 마련했습니다. 또 24일에는 국민의힘 최수진 의원이 모바일 앱 인앱결제 논란에 대해 검토하는 정책토론회를 개최할 예정입니다. 미디어 관련 기금 활용 방안에 대한 국회 논의도 이어집니다. 23일 국민의힘 김장겸 의원은 미디어미래비전포럼과 함께 미디어 환경 변화에 따른 방송통신발전기금 제도 개선 토론회를 개최합니다. 다음날인 24일에 민주당 이훈기 의원은 지역중소방송의 방발기금 지원 방안을 모색하기 위한 토론회를 진행합니다. 미디어 환경 변화에 따른 대책을 논의하기 위해 학계가 한 자리에 모입니다. 26일부터 이틀 간 미래 지향적 K콘텐츠 경쟁력 확보를 위해 글로벌 미디어 플랫폼 산업 구조를 진단하는 내용의 연속 세미나가 열립니다. 한국미디어정책학회, 한국언론학회, 한국방송학회가 공동으로 진행하는 자리입니다. K콘텐츠와 관련해 광주 김대중컨벤션센터에서는 30개국이 참혀하는 문화콘텐츠 종합전시회가 26일부터 나흘간 열립니다. 도쿄게임쇼2024, 개최...호요버스, 원신 라인프렌즈 플래그십 스토어 오픈 이번 주는 도쿄게임쇼2024 개최가 게임업계에서 주목을 받을 것으로 보입니다. 도쿄게임쇼2024는 오는 26일부터 29일까지 일본 도쿄 마쿠하리 멧세에서 개최됩니다. 이 행사에는 한국 포함 글로벌 유명 게임사가 대거 출전해 신작 게임 등을 소개할 예정입니다. 올해 이 행사에 참가하는 한국 게임사로는 넥슨과 빅게임스튜디오 등이 있습니다. 또 한국콘텐츠진흥원은 행사 기간 공동관을 마련하고, 중소 게임사의 해외 진출 등을 지원합니다. 넥슨 측은 행사 기간 흥행 기대작 중 하나로 꼽히는 액션RPG '퍼스트 버서커 : 카잔'을 출품하고 현지 팬들의 반응을 살펴볼 계획입니다. 이 게임은 넥슨코리아 자회사 네오플이 개발 중이며, 지난 달 독일 게임쇼 게임스컴2024에 출품해흥행성을 일부 보여주기도 했습니다. 이 게임은 내년 상반기에 출시될 예정입니다. 빅게임스튜디오는 '브레이커스 : 언락 더 월드'를 행사 기간 현장에 선보입니다. 이 게임은 애니메이션풍 그래픽 연출성을 담은 작품으로, 모바일PC 크로스플레이를 지원합니다. 이 회사는 지난달 엔씨소프트로부터 전략적 투자를 유치해 다시 주목을 받은 게임사입니다. 당시 투자 규모는 370억원이었습니다. 한국콘텐츠진흥원은 도쿄게임쇼 공동관을 통해 투핸즈인터랙티브, 뉴코어, 오드원게임즈, 가원글로벌, 익스릭스, 디자드, 스튜디오두달, 센티어스 등 총 15개 게임사가 참가를 지원합니다. 이와 함께 호요버스는 오픈월드RPG '원신' 라인프렌즈 미니니 플래그십 스토어를 오픈합니다. 원신 미니니 협업 팝업 스토어입니다. 해당 스토어는 오는 25일부터 다음 달 9일까지 100% 사전예약 방식으로 운용합니다. 스토어에서는 미니니 스타일로 재구성된 원신의 주요 캐릭터 상품을 만나볼 수 있습니다. MS, 애저 부트 캠프로 'AI 주도권' 잡기 박차...AWS, 생성형 AI 전략 소개 마이크로소프트가 24일부터 26일까지 3일간 웨비나 'AI 함께 하는 혁신: 마이크로소프트 애저 부트 캠프'를 개최합니다. 마이크로소프트의 AI 전문가와 글로벌 리더가 진행하는 이번 웨비나는 업무별 AI 활용 사례와 작업에 적합한 생성형 AI 모델 선택 등 아시아 지역 리더들의 AI 도입 사례를 공유할 예정입니다. 이와 함께 마이크로소프트는 AI를 보다 효율적으로 활용하기 위한 웨비나를 27일 추가로 실시합니다. 'AI 기술 스킬업: 프롬프팅 기초'라는 이번 웨비나는 AI비서 코파일럿을 보다 잠재력을 끌어올릴 수 있는 프롬프트 기술을 소개합니다. 코파일럿을 이제 막 시작한 사용자와 숙련자에게 정보를 제공하기 위해 프롬프트의 구조 등 기본적인 요소를 비롯해 실제 기업이나 업무에서 사용 중인 최신 사례와 효과적인 팁을 선보일 계획입니다. 닷컨프 고 서울(.conf Go Seoul)도 같은 날 인터컨티넨탈 서울 파르나스에서 열립니다. 이번 행사는 최신 기술 트렌드와 혁신적인 솔루션을 공유하며 서울시를 글로벌 기술 허브로 자리매김하기 위한 다양한 논의를 진행하는 자리입니다. 이번 행사에서는 그랜드볼룸에서 기조연설이 진행된 후 위스테리아룸에서 기자간담회가 이어집니다. 참가자들은 최신 기술 동향에 대한 깊이 있는 발표와 함께 네트워킹 기회를 가질 수 있으며 전문 패널들의 토론을 통해 미래 기술의 방향성을 모색할 예정입니다. 아마존웹서비스(AWS)도 24일에 서울 잠실 롯데호텔에서 'AWS AI 데이: 이노베이션'을 개최합니다. 이번 행사는 아마존 베드록을 중심으로 한 AWS의 생성형 AI 전략과 최신 트렌드를 소개하는 자리입니다. 비즈니스 트랙과 기술 트랙도 동시 진행됩니다. 비즈니스 트랙에서는 앤트로픽과 메타의 생성형 AI 기술이 소개될 예정입니다. LG유플러스와 GS리테일이 생성형 AI를 통해 비즈니스를 혁신한 사례도 공유합니다. 기술 트랙에서는 AWS 생성형 AI 기술 데모와 함께 구체적인 활용 사례와 구축 방안을 공개할 예정입니다. LG CNS는 오는 26일 '액티브 디렉토리의 숨겨진 비밀 : 해킹 공격과 방어의 전쟁' 웨비나를 엽니다. 이번 웨비나에서는 LG CNS의 퍼플랩이 AD환경에서의 해킹 방어 전략을 어떻게 구성하는지 분석하고 실질적인 보안 강화 전략을 꾸리는 방법에 대해 논의합니다. 또 퍼플랩에서 레드팀과 블루팀은 각기 무슨 역할을 하고 어떤 협력을 진행하는지 제시합니다. 뉴타닉스 역시 이달 26일 서울 여의도에서 연례 컨퍼런스인 '닷넥스트 온 투어 서울'을 개최합니다. 뉴타닉스의 주요 서비스인 클라우드, 인프라, 관리, 데이터 서비스 및 플랫폼을 선보이는 자리로 변재근 뉴타닉스코리아 사장, 마이크 펠란 뉴타닉스 솔루션 영업 부사장 등이 하이브리드 클라우드 산업에 대한 전략과 국내 도입 사례를 소개할 예정입니다. 에퀴닉스도 26일 서울 여의도 하나증권빌딩 TEC 센터에서 '에퀴닉스 디지털 인프라 기술·트렌드 발표'를 진행합니다. 행사에선 장혜덕 에퀴닉스 한국 대표가 참석해 국내 디지털 기술 트렌드와 고객 사례를 소개합니다. 이어 국내와 아시아·태평양 지역 비즈니스 성과를 비롯한 향후 사업 계획을 발표합니다. 앤서니 호 에퀴닉스 아시아 태평양 제품관리 디렉터가 제품 데모를 시연할 예정입니다. 식품업계, 글로벌 진출 확대 모색…NS홈쇼핑, 익산서 '푸드페스타' 진행 이번 주에는 식품업계의 글로벌 진출을 확대하기 위해 업계 관계자 및 전문가들이 모여 방안을 논의하는 포럼이 진행됩니다. 우선 한국건강기능식품협회는 중국 알리바바닷컴과 오는 24일 '알리바바닷컴 활용을 통한 건강기능식품 B2B 판로 개척' 웨비나를 개최합니다. 이번 웨비나는 건기식협회 회원사의 해외 B2B 시장 진출을 지원하기 위해 진행됩니다. 독점적인 마케팅 툴, 산업별 데이터, 한국 기업의 입점 사례, 유의사항 등 알리바바닷컴을 활용한 건강기능식품 산업의 온라인 판로 개척과 디지털 솔루션에 대해 설명할 예정입니다. 오는 25일과 26일 양일간 'K-푸드 익스프레스(Food Express) 2.0 : 연대하며 나아가다' 포럼도 열립니다. 이번 행사는 법무법인 미션, 한국무역협회(KITA), 서울경제진흥원(SBA), 글로벌디지털혁신네트워크(GDIN), 한국농업기술진흥원(KOAT)이 공동 주최하며 주한미국대사관에서 F&B 기업의 미국 진출 지원 정책을 소개할 예정입니다. 포럼 연사진으로는 임재원 고피자 대표, 김범진 웨이브라이프스타 일테크 대표, 허지수 CJ푸드빌 CSO, 더글라스 박(Douglas Park) 토끼소주 대표 등이 참석합니다. NS홈쇼핑은 오는 26일부터 27일까지 전북 익산시 '하림 퍼스트키친' 일대에서 'NS 푸드페스타(FOOD FESTA) 2024 인 익산(in IKSAN)'을 개최합니다. 'NS 푸드페스타'는 농수축산업과 식품산업 발전을 위해 NS홈쇼핑이 2008년부터 개최해 온 식품문화축제입니다. 이번 행사에서 다양한 경험과 흥미로운 볼거리로 관람객들에게 '최고의 맛'을 제시하고 청년 스타트업의 발굴을 통해 식품산업의 미래 비전을 제시한다는 방침입니다. 사회복지종사자 권익지원센터 개소...집중호우에 안전관리 강화 요청 사회복지종사자 권익지원센터(이하 권익지원센터)가 오는 24일 개소합니다. 권익지원센터는 제21대 국회에서 개정된 사회복지사 등의 처우 및 지위 향상을 위한 법률에 따라 설립된 기관으로, 사회복지 분야 노동자들의 권익을 보호하고 안전한 근무 환경 조성을 지원합니다. 주요 사업으로는 인권침해를 경험한 노동자들에게 상담과 지원 제공, 권익 보호를 위한 예방적 교육과 홍보, 권익 침해 실태와 권익 보호 방안에 대한 조사와 연구, 관련 기관과의 협력 네트워크 구축입니다. 앞서 보건복지부는 권익지원센터의 운영을 2025년 12월 31일까지 한국사회복지사협회에 위탁하기로 결정한 바 있습니다. 보건복지부 장관은 집중호우에 따른 사회복지시설과 의료기관의 안전관리를 위해 지자체와 적극 협력해 피해가 최소화되도록 안전점검 등을 철저히 해줄 것을 지시했습니다. 특히 취약계층이 이용하고 있는 노인․아동․장애인 등 사회복지시설에 대해서는 정밀 안전 모니터링을 실시하고, 피해 발생이 우려 될 경우에는 선제적 대피를 통해 이용자의 안전을 최우선으로 해줄 것을 지시했습니다.

2024.09.22 13:27장유미

오픈AI 'o1'로 AGI 시대 성큼…"정부·기업, 개발 투명성 고려 필수"

오픈AI가 데이터 기반으로 답하는 것을 넘어 실제 추론까지 하는 생성형 인공지능(AI) 모델을 공개하면서 일반인공지능(AGI) 시대를 향해 한 걸음 더 나아갔다는 평가를 받는다. 이달 13일 오픈AI는 AI 추론 능력을 대폭 강화한 새로운 모델 o1 프리퓨 버전과 미니 버전을 블로그를 통해 공개했다. 이 모델 시리즈는 이전 모델보다 더 복잡한 문제를 처리할 수 있으며 수학과 코딩 등 기술적 문제를 해결할 수 있다. 국제 수학 올림피아드 예선에서 'GPT-4o'는 13%의 문제를 해결했으나 'o1'은 83%의 문제를 정확히 풀어냈다. AI 업계가 고도화된 기술을 쏟아내고 있는 만큼 중요하게 부각되는 부분도 생겼다. 바로 AI 규제다. 현재 미국은 캘리포니아 AI 안전법을 통과시켜 개발 투명성과 안전성 부각에 나섰다. 유럽연합(EU)은 물론이고 캐나다와 영국, 일본도 마찬가지다. 이에 발맞춰 국내서도 최소한의 투명성 관련 규제가 필요하다는 의견이 나오고 있다. AGI 시대로 다가갈수록 AI 기반 솔루션과 결과물이 예측 불가하다는 이유에서다. 법무법인 태평양 강태욱 변호사와 윤주호 변호사는 최근 기자와 만나 고도화된 AI 시스템이 산업계에 안착하기 위해 필요한 법안에 대해 이야기 나눴다. 생성형 AI와 관련한 딥페이크, 저작권 문제, 근로 환경 등 이슈에 대한 의견도 공유했다. 법무법인 태평양은 AI팀 활동을 올해 초 본격화했다. AI팀은 AI 기술 개발이나 솔루션 구축, 사업 시작을 위해 지켜야 할 개인정보 보호법과 데이터법 등을 고객에게 자문한다. 현재 약 20명이 해당 팀에서 근무 중이다. Q. 지난주 오픈AI가 사람처럼 추론할 수 있는 고급 모델을 내놨다. 산업계가 AI 시스템 고도화를 신속히 진행하고 있다. 이럴수록 AI 규제 필요성이 더 높아지지 않을까. 윤: 그동안 기업이 AI 시스템 고도화를 위한 기술을 꾸준히 내놨다. 앞으로 기존 개발 틀을 벗어나진 않을 것 같다. 다만 고도화된 AI 시스템으로 무엇을 만들지 아무도 예측할 수 없다. 결국 AGI 등 고도화된 AI 시스템이 산업에 안착하려면 최소한 규제는 필요할 것이다. 이중 개발 투명성이 가장 중요하다. 정부가 개발자나 AI를 사용하는 기업에 데이터 사용 방식이나 모델 알고리즘에 대해 질문을 요구할 수 있는 규제가 필요하다. 다만 AI 산업이 어느 정도 성장한 단계에서 해당 규제를 추진해야 할 것이다. Q. 기업이 정부에게 AI 기술을 의무로 공개하는 법 정도로 이해하면 되는 건가. 조금 더 구체적으로 설명해 달라. 윤: AGI는 지금보다 훨씬 더 고도화된 AI 시스템이다. 그동안 전문가들은 AI 모델에서 파생되는 새 기술을 예측할 수 있었다. 반면 고도화된 AI 시스템이 출현하면, 예측할 수 없다. 기술 불확실성이 커진다는 의미다. 정부는 AI의 불확실성과 그로 인한 잠재적 위험을 관리하기 위한 최소한의 조치 정도로만 규제를 설정하면 된다. 개발자나 기업이 AGI로 특정 결정을 내릴 때 그 결정 과정이나 근거를 정부에 설명하거나 공개할 수 있는 체계다. 정부는 향후 이런 법안을 입법에 넣어야 한다. 이보다 더 강력한 규제는 삼가야 한다. 오히려 기술 중립성을 해칠 수 있다. Q. 현재 국내에선 현존 AI 기술로 인한 이슈가 많다. 딥페이크가 대표적이다. 정부가 딥페이크 피해 방지를 위해 여러 법안 제정을 추진 중이다. 충분히 피해를 최소화할 수 있을 것으로 보는가. 강: 방송통신위원회가 제정을 추진 중인 이용자보호법에는 딥페이크 피해 방지를 위해 AI로 생성된 콘텐츠에 AI 생성물 표시를 의무화하는 법 등을 도입할 것으로 보인다. 그러나 표시 의무 규정 법안만으로 문제를 완벽히 해결할 수 없다. 딥페이크 영상물에 AI 생성물 표시 의무를 부과하면, 일차적으로 허위 정보 확산을 방지하고 제작자·유포자에게 책임은 물을 순 있다. 그러나 딥페이크 제작자나 유포자의 거짓 고지 가능성이 있다. 이용자보호법이 문제 해결에 실효성있게 작동하려면 정부는 지금보다 디테일한 집쟁 정책을 운영해야 한다. Q. 최근 미국 캘리포니아주가 AI 안전법 'SB 1047'을 통과시켰다. 거대 AI 모델에 대한 강력한 규제를 담고 있는 법안이다. 일각에선 SB 1047이 책임소재와 범위가 과도하다는 지적이 나오고 있다. 이를 어떻게 평가하는지. 강: 해당 법안에는 AI로 인한 핵심 피해 방지를 위한 안전 평가 관련 내용과 AI 모델 개발자들에 대한 독립적 제3기관에 의한 감사, 보고의무, 학습을 포함한 AI 모델 기능을 중단시키는 전제 중단 기능 구현, 공공 안전 위협에 대한 징벌적 손해배상 등 내용을 담고 있다. AI가 가져올 위험을 통제할 수 있는 장치가 필요하다는 점에 대해서는 공감한다. 다만 이런 강력한 규제는 이미 기술·산업적으로 최정점에 서 있는 국가에서나 효율적일 수 있다고 본다. 오히려 시장에 진입하고자 하는 해외 경쟁업체들에 진입장벽으로 기능할 수도 있다. Q. 해당 법이 최종 승인되면 다른 나라 AI법에도 영향 미칠 전망이다. 국내 정부도 SB 1047과 노선을 같이할 수 있는 법안을 마련할 것으로 보는가. 강: 현재 과학기술정보통신부에서 제정을 추진하고 있는 AI 기본법은 AI 산업 진흥에 관한 법률이다. AI 시스템 규제에 초점을 맞추고 있는 법은 아니다. SB 1047처럼 AI 안전 평가, 제3자에 의한 감사·보고 의무 같은 강력한 규제 사항들이 포함되지 않을 가능성이 있다. 정부가 AI 관련 제도를 마련하는 과정에서 EU나 미국 등의 AI 관련 규제 정책 사례를 참고할 수는 있다. 다만 국내 AI 산업은 아직 성장단계에 있다. 과도한 규제가 가해질 경우 산업 자체가 위축될 수 있다는 점 고려해야 한다. 이후 고도화된 AI 시스템 대비를 위해 개발 투명성 등 적절한 규제를 추가하면 된다. Q. 저작권 이슈도 생성형 AI 산업서 많이 거론되는 주제다. 기업 노력만으로 해결할 수 있는 문제가 아니라는 평가가 이어지고 있다. 윤: 그렇다. 그동안 학습용 데이터를 무료로 이용하는 행위에 관대한 분위기였다. 챗GPT 출현 후 저작권 이슈가 나오고, 지난해 하반기부터 소송이 이어지면서 분위기가 달라졌다. 데이터 활용이 유료로 전환될 필요가 있다는 목소리가 나와서다. 이미 데이터 학습을 AI 모델에 충분히 진행한 업체나 대기업은 이에 동의하는 입장이다. 저작권 이슈는 생성형 AI 산업계와 저작권 관련 업계가 공감대를 형성해야 한다고 본다. 이는 법 마련보다 더 시급한 과제다. 지난해 저작권위원회와 문화체육관광부가 생성형 AI 저작권법 제정에 나선 바 있다. 안타깝게도 결과가 잘 안 나왔다. 당시 양측 공감대가 없었기 때문이라고 본다. 지난해 국회도 저작권법 논의 때 해결 주제를 이야기하긴 했다. 아직 마침표를 찍지 못했다. 정부가 나서서 속도감 있게 생성형 AI 산업계와 저작권 관계자 등으로부터 의견을 충분히 모으는 역할을 해야 할 것 같다. Q. 생성형 AI가 산업에 도입되면 근로 환경도 변할 것이란 전망이 나오고 있다. 기업이 직원을 AI로 대체하는 과정에서 법률적 문제를 겪을 것으로 보인다. 윤: 단정 짓기 어려운 문제다. 국내에 AI와 근로법이 충돌한 사례가 아직 없기도 하다. 다만 기업이 신규 채용을 줄이는 방식을 가장 합리적인 선택으로 볼 것 같다. 이 부분에서도 정부 역할은 필요하다. 기업이 신규 채용을 너무 줄이면 정부가 정책을 통해 관리를 해야 한다. 기업과 근로자 공감대 형성도 도와야 할 것이다. Q. 이슈를 종합해 볼 때 앞으로 AI 윤리 중요성이 높아질 것 같다. 최근 기업들이 사내에 AI 윤리위원회를 설치해 AI 개발·활용에 지켜야 할 수칙을 정하는 추세다. 올바른 방향으로 가고 있다고 보는가. 강: 최근 대기업 중심으로 AI 거버넌스를 추진 중인 걸로 알고 있다. AI를 개발·활용할 때 지켜야 하는 원칙 틀을 만드는 추세다. 이런 원칙은 국내에서 한 10개쯤 나와 있다. 문제는 원칙에 디테일이 부족하다는 점이다. 사실 이런 건 법률가들이 잘할 수 있는 업무다. 현재 법률 지식과 기업 사정에 가장 알맞은 디테일을 만들어야 해서다. 그렇지 않으면 거버넌스를 만들어도 AI 이용·개발에 충분히 적용할 수 없을 것이다. Q. 국내 기업이 AI 윤리위원회 설치를 활성화하려면 무엇이 필요한가. 강: 모든 기업이 AI 윤리위원회 필요성을 알고 있다. 다만 위원회만 만들고 끝나는 게 아니라, 실제 회사 내에서 높은 수준의 중요성을 가져야 한다. 이사회 의장 또는 최고경영자가 이를 정말 중요하게 생각해야 한다. 이들이 위원회를 지지해야 결정권도 가질 수 있어서다.

2024.09.18 13:19김미정

[현장] AI 기본법 제정, 정부·시민사회 '맞손'

인공지능(AI) 기본법 제정의 필요성과 방향을 논의하기 위해 국회 과학기술정보통신위원회와 시민단체가 손을 맞댔다. 더불어민주당 최민희 의원이 12일 국회에서 시민기술네트워크가 함께 주최한 '시민참여 AI 기본법 추진을 위한 쟁점 토론회'에는 정치인·산업계·정부·시민사회가 참석해 AI 법안 제정에 대한 다양한 의견을 나눴다. 특히 과기정통위 소속 의원 대다수가 참석해 기본법 제정의 필요성을 촉구했다. 첫 번째 발제를 진행한 영국 사회혁신연구소 '스프레드아이'의 김정원 대표는 유럽연합(EU)의 AI 기본법에 대해 소개하며 그 핵심 쟁점과 사회적 영향에 대해 논했다. 김 대표는 "EU는 지난 2018년부터 AI 법안에 대한 논의를 시작해 올해 최종안을 발표했다"며 "AI 사용 시 발생할 수 있는 인권 침해를 방지하기 위해 신중한 법안 구성을 추구하고 있다"고 밝혔다. 김 대표에 따르면 AI 기본법의 가장 핵심적인 쟁점은 고위험 AI에 대한 규제와 적합성 평가다. 현재 AI법에 의하면 표준화 기구가 규제를 주로 담당하고 있기 때문이다. 이 기구들은 주로 산업 안전을 담당해 왔다. 그는 "EU가 인권 보호에 초점을 맞췄음에도 평가기준이 이에 대해 충분히 반영되지 못하고 있다"라며 "표준화 기구들이 주로 산업 안전에만 집중하기 때문에 인권 보호가 소홀해질 수 있다"고 밝혔다. 이어서 발제를 맡은 법무법인 혁신의 박지환 변호사는 21대 국회 이후 AI 기본법 국회 입법안의 발의 과정을 설명했다. 박 변호사는 "21대 국회에서 발의된 AI 관련 법안들은 9건이었지만 이는 결국 회의 종료 이후 폐기됐다"며 "이번 22대 국회에서도 이미 10건이 발의되는 등 법안 제정을 위한 논의가 진행 중"이라고 설명했다. 그러면서 "국가 인권위원회에서는 우선 허용, 사후 규제 원칙 원칙을 삭제하라고 권고했다"며 "고위험 인공지능에 대한 규제가 앞으로도 핵심 쟁점이 될 것"이라고 주장했다. 이날 행사에는 과기정통위 소속의 더불어민주당의 김현 의원, 정동영 의원, 조인철 의원, 한민수 의원, 이훈기 의원, 황정아 의원, 노종면 의원, 이정헌 의원과 국민의힘 최형두 의원, 개혁신당 이준석 의원, 조국혁신당 이해민 의원이 참가해 의견을 나눴다. 이준석 개혁신당 의원은 정치권의 AI에 대한 접근 방식에 우려를 표하며 올바른 기술 활용의 필요성을 강조했다 이 의원은 "'챗GPT'와 같은 생성형 AI 등장 후 기술에 대한 관심이 높아졌다"며 "동시에 정치인들은 AI와 관련된 버즈워드에만 집착하는 상황"이라고 밝혔다. 그러면서 "명확한 가이드라인이 없다면 AI 발전이 오히려 국가에 위험을 초래할 수 있다"고 경고했다. 행사를 공동 주최한 최민희 더불어민주당 의원은 행사의 의미와 AI 법안 통과의 긴급성을 강조했다. 최 의원은 "지난 달부터 준비를 시작해 이번 달 빠르게 토론회를 개최했다"며 "앞으로도 법의 조속한 통과를 위해 시민사회의 의견을 바로 반영하겠다"고 밝혔다. 이번 토론회는 좌장인 이원태 아주대 교수의 진행 아래 하정우 네이버클라우드 AI 소장, 남철기 과학기술정보통신부 과장, 오병일 진보네트워크센터 대표 등 다양한 전문가들이 참여해 AI 법안에 대한 의견을 나눴다. 좌장인 이원태 아주대 교수는 "AI 기본법은 사회 전반에 걸친 중요한 문제"라며 "이번 토론회를 통해 다양한 이해관계자의 의견을 반영할 수 있게 되길 바란다"고 밝혔다.

2024.09.12 18:01조이환

이훈기 의원, 인공지능법 제정안 대표 발의..."산업 발전과 규제 균형"

국회 과학기술정보방송통신위원회 이훈기 의원(더불어민주당)은 12일 인공지능의 발전과 규제의 균형을 맞춘 '인공지능의 발전과 안전성 확보 등에 관한 법률안'을 대표발의 했다고 밝혔다. 법안은 인공지능에 대한 윤리와 신뢰성 확보를 위해 고위험 인공지능 사업자의 책무를 마련하고 '인공지능 영향평가' 규정을 포함시켰다. 영향평가는 인공지능 사업자가 사전에 인공지능 서비스가 기본권에 미치는 사회적 파급효과를 고려하도록 한 것으로, 공공기관 등이 채용이나 공공서비스를 위해 인공지능을 사용할 때 인공지능 영향평가가 완료된 서비스를 우선 이용하도록 한 것이 특징이다. 법안의 주요 내용은 크게 ▲고위험 영역 인공지능 규율 ▲인공지능 위원회 구성 및 운영 ▲인공지능 영향평가 ▲생성형 인공지능 결과물 표시 등이다. 구체적으로 범죄 관련 생체정보, 채용과 대출 등 중대한 개인 권리와 관련된 사항을 고위험 영역 인공지능으로 규율하고, 민간이 과반을 차지하는 민관 합동 인공지능 위원회를 두고 위원회에서 인공지능 기본계획을 심의 의결토록 했다. 또 인공지능에 대한 윤리와 신뢰성 확보를 위해 고위험 인공지능 사업자의 책무 등을 '인공지능 영향평가' 규정에 포함하고 최근 인권 침해를 유발하는 딥페이크를 비롯한 챗GPT 등 생성형 인공지능이 만들어내는 결과물에 생성형 인공지능 결과물이라는 표시를 의무화하도록 했다. 이훈기 의원은 “고위험 인공지능이 우리 국민의 기본권에 미치는 영향이 큰 만큼 별도의 '인공지능 영향평가'를 통해 인공지능 서비스가 사전에 국민 기본권에 미치는 영향을 평가하도록 했다”며 “제정법안 통해 인공지능 발전과 규제가 조화를 이루고 국민 안전을 우선으로 하는 인공지능 기본법 논의가 시작되길 기대한다”고 말했다.

2024.09.12 12:25박수형

'시민이 참여하는 AI기본법' 국회 토론회 열린다

국회 과학기술정보방송통신위원회 위원장을 맡고 있는 최민희 의원(더불어민주당)은 12일 오후 의원회관에서 시민기술네트워크 민경배 대표와 '시민참여 AI 기본법 추진을 위한 쟁점 토론회'를 개최한다. 지난 21대 국회에서 논의된 AI 기본법안들과 해외 입법사례를 살펴보고 시민이 참여하는 AI 기본법의 쟁점사항을 토론하기 위해 마련된 자리다. 우선 법무법인 혁신의 박지환 변호사가 'AI 기본법 국회입법안 해설', 사회혁신연구소 스프레드아이의 김정원 대표가 'AI 기본법 제정 글로벌 현황'에 대해 발제를 맡았다. 이원태 아주대 교수가 좌장을 맡은 토론에는 하정우 네이버클라우드 AI LAB 연구소장, 오병일 진보네트워크센터 대표, 홍윤희 사단법인 무의 이사장, 홍지연 한국교원대 교수, 남철기 과학기술정보통신부 인공지능기반정책과 과장이 참석한다. 최민희 의원은 “지금은 AI 시대라고 말할 정도로 산업, 의료, 교육, 예술 등 일상에서 AI 기술을 활용하며 변화가 만들어지고 있다”며 “급격한 AI 기술 발전으로 인한 사회적 부작용이 발생하는 것도 현실”이라고 말했다. 이어, “딥페이크 영상, 저작권 침해 등 부작용과 관련해 국회가 올바른 방향으로 AI 기술을 활용하기 위한 제도적 기반마련에 앞장서야 한다”며 “시민참여 AI 기본법은 온라인 플랫폼을 활용해 시민과 각계각층의 다양한 의견을 수렴해 법안에 반영하는 크라우드 소싱 기법을 활용할 계획”이라고 밝혔다.

2024.09.10 15:57박수형

[현장] "챗GPT 시대 맞는 AI법 필요"…국회, AI 규제 관련 논의

"지난 21대 국회에서 인공지능(AI) 법을 만들려고 했으나 법제화의 현실이 챗GPT 이전 수준에 머물러 있었습니다. 생성형AI가 나오고 있는 상황에서 알파고 입장에서 법제를 만들면 안되잖아요. 탄탄한 토대 하에 법을 만들기 위해 이번 간담회를 열었습니다." 더불어민주당 조승래 국회의원은 4일 국회 제4간담회실에서 '인공지능(AI)과 디지털 전환(DX)의 미래 정책 방향' 간담회에서 제대로 된 AI 기본법이 필요하다고 말했다. 이번 간담회에서는 AI 기술 확산에 따른 사회경제적 영향과 AI 법제화의 방향에 대해 발표가 이뤄졌다. 조 의원은 "AI는 몇 년 전부터 깊숙하게 들어와 있는 주제지만 국회의 시각은 알파고에 멈춰 있는 것 아닌가라는 의문 들었다"라며 "기술이 합의보다 먼저 가버리는 시기지만 합의가 먼저 이뤄지지 않으면 자칫 속박으로 작용할 수도 있다"고 우려했다. 한국지능정보사회진흥원(NIA) 이용진 AI 정책 본부장은 "과기정통부에 따르면 AI가 성공적으로 도입될 경우 연간 300조원 이상의 경제 효과가 있다"며 "2026년까지 123조원에 가까운 매출 증가와 약 187조원의 비용 절감 효과가 있을 수 있다"고 강조했다. 특히 제조업에선 약 24조원의 매출 상승, 54조원의 비용 절감 효과가 있을 수 있을 수 있다며 산업별로 허들을 정확히 파악해 규제를 만드는 것이 매우 중요하다고 덧붙였다. 이번 간담회는 과학기술정보통신부 후원으로 조 의원과 국민의힘 최형두 국회의원을 포함해 박영선 전 중소벤처기업부 장관, 과기정통부 류제명 네트워크정책실장, 조국혁신당 강경숙 국회의원 등이 참석했다. 이어진 발표에서 법무법인 광장 고환경 변호사는 일본, 미국에 비해 한국은 내세울 수 있는 AI 기술 기업이나 유니콘 기업이 없는 것이 현실이라며 학습데이터나 관리 체계 투자 측면에서 한국이 약점을 갖고 있다고 말했다. 고 변호사는 "AI 기술에 대해서는 대규모 자본 투자가 불가피하기 때문에 규제 불확실성을 빨리 해결해줘야 한다"며 "AI 안전연구소 설치와 관련해서도 실증적 테스트를 통해서 위험에 대해 어느 정도 대처해야 하는지 연구가 적극적으로 이뤄져야 할 필요가 있다"고 언급했다. 고 변호사는 거버넌스를 통해 일관된 정책과 AI와 관련한 최소한도의 예측 가능성을 제시하는 것이 필요하다며 자율규제 방안 마련을 중심으로 최소한의 규제만을 담은 입법 검토가 절실하다고 발언했다. 고 변호사는 앤드류 응 교수의 발언을 인용해 "EU AI 법은 제대로 존재한 적 없는 AI 리스크에 대한 강도 높은 규제를 표하고 있다"며 "이는 시장 뿐 아니라 규제 실패까지도 우려되는 상황"이라고 비판했다. 이어 "EU AI 법의 과징금 부담이 매우 크기 때문에 애플, 메타 등 빅테크가 AI 서비스 출시를 보류했다"며 "소비자들의 AI 서비스가 크게 제한될 조짐이 있다"고 아쉬움을 표했다. 이어진 토론에서 법무법인 세종 장준영 AI 센터장은 "규제적 측면에선 유럽을 참고하고 기술적 측면에선 미국을 참고할 필요가 있다"며 "우리나라는 유럽과 미국 사이에서 어떤 스탠스를 취해야 하는지 균형점을 잘 도출해야 한다"고 강조했다. 또 "AI는 정보처리 기술이 발전해 오며 나타난 데이터 처리 기술의 화룡점정"이라며 "해외의 AI 법을 참고하는 것도 좋지만 우리나라에서 여태 동안 해왔던 데이터 활성화 관련 법안들을 계승하는 AI 기본법이 만들어지길 바란다"고 기대했다. 류 실장은 "지난 3일 과방위에서 늦더라도 AI 기본법 관련해서 제대로 된 논의와 공청회를 한 번 거치고 가면 좋겠다는 의견이 있었다"며 "정책들이 추진되고 예산이 투입되려면 법적 근거가 필요한 만큼 국회가 신뢰할 수 있는 AI를 만들기 위한 법적 근거를 신속히 만들어 주길 바란다"고 말했다.

2024.09.04 16:50양정민

국회 AI 기본법 논의 가속도...9월 공청회 연다

국회가 인공지능(AI) 기본법 제정 논의를 다시 시작했다. 지난 21대 국회서 공청회까지 거치고 폐기된 법안을 두고 22대 국회에서는 개별 조항을 꼼꼼히 살피되 법안 논의 속도를 내기로 여야가 뜻을 모았다. 3일 국회 과학기술정보방송통신위원회는 제1차 정보통신방송법안심사소위원회를 열고 50여 법안에 대한 심사를 진행했다. 과방위는 22대 국회 들어 방통위원장, 과학기술정보통신부 장관 인사청문을 비롯해 공영방송 이사 선임 문제를 두고 20여 차례의 전체회의를 개최했으나 법안 논의는 단 한 번도 진행하지 못하고 이날 처음 소위를 가동하기 시작했다. 최대 관심사는 21대 국회 회기 만료로 폐기된 AI 기본법안이 꼽힌다. 유럽연합(EU)과 미국에서도 활발하게 논의가 이뤄지고 있는 법안으로, 소위에서는 여야 의원들이 조속한 법안 통과에 뜻을 모았다. 다만 시급성이 중요하게 여겨지는 법안이나 AI 진흥과 규제의 균형점을 찾자는 의견이 나왔다. AI 역기능을 우려하는 측에서는 추가적인 고민이 필요하다는 의견도 내고 있고, 국회서 논의되고 있는 법안은 규제법이 아니라 기본법인 만큼 최소한의 기본 원칙만 담아 규범을 세우자는 의견도 쏟아지고 있다. 과방위 법안소위에서는 9월 중에 AI 기본법에 대한 토론회와 공청회 일정을 조율해 진행키로 했다. 제정 법안은 공청회 절차를 거쳐야 한다. 21대 국회서도 회기 만료로 폐기됐으나 2022년 당시 공청회를 열었다. 국민의힘 최형두 의원은 법안소위 논의를 끝낸 뒤 예산결산특별위원회 질의에 참여해 “AI 기본법은 공청회를 거치고, 신속하게 진행하자는 여야의 뜻을 모았다”며 한덕수 국무총리에 AI 기본법 제정의 필요성을 물었다. 한 총리는 이에 대해 “AI 기술 혁신과 동시에 안정성 확보라는 것은 우리 정부가 역점을 두는 분야 중 하나다”면서 “AI 안정성 확보를 위해 AI 기본법이 반드시 필요하다고 생각한다”고 밝혔다. 통신업계가 관심을 기울이는 단말기 유통법 폐지와 관련한 법안에 대해서는 추가 논의를 진행키로 했다. 국민의힘 박충권 의원이 단통법 폐지안과 전기통신사업법 개정안을 발의한 가운데 야당 의원들도 부분형 완전자급제 등의 법안 발의를 예고한 터라 향후 병합 논의가 이뤄질 것으로 예상된다. 단통법의 경우 규제 법안 폐지를 다루고 있지만 새로운 규제가 될 수 있다는 지적도 나온다. 단통법의 공시 지원금 규모에 따른 요금할인율이 정해지는데 지원금 제도는 폐지하면서 요금할인을 유지하는 법적 근거가 부족할 수 있다는 이유에서다. 이에 따라 국회 내에서 법안 논의와 별도로 시장의 이해관계자인 통신사를 비롯해 유통, 제조사 등이 참여하는 제도 개선 협의회 논의가 병행되야 한다는 주장이 힘을 얻고 있다. 디지털포용법 제정안도 ICT 복지 차원에서 중요 법안으로 꼽히는데 국민의힘 고동진 의원의 대표발의안 외에 다른 의원의 법안도 함께 논의하자는 의견이 모였다. 이밖에 ICT 규제샌드박스 실증을 위한 규제특례 신속처리 법안과 재난방송 수신 장애지역에 라디오와 DMB 수신 설비를 설치하도록 하는 법안이 논의됐다.

2024.09.03 16:52박수형

오픈AI "생성형 AI 콘텐츠, 워터마크 부착 찬성"

오픈AI가 생성형 인공지능(AI) 기술로 생성한 콘텐츠에 디지털 워터마크를 붙이자는 캘리포니아 법안에 찬성한다고 밝혔다. 27일 벤처비트 등 외신이 따르면 오픈AI가 미국 캘리포니아주 하원의원 버피 윅스에 서한을 보내 AI 콘텐츠에 워터마킹과 같은 출처가 중요하다며 '캘리포니아 디지털 콘텐츠 출처 표준(AB 3211)' 법안 지지 의사를 밝혔다. 특히 선거철에 출처 증명과 관련한 AI 투명성이 중요하다고 강조했다. '디지털 출처표준법'은 조작된 음성이나 딥페이크 이미지, 영상 등 유해 콘텐츠 생성 방지와 출처 확인을 위해 AI로 만든 생성물에 표식을 붙이도록 하는 법안이다. 캘리포니아 주 하원은 이 법안을 62대 0 만장일치로 통과시켰다. 현재 주 상원 전체 표결을 앞두고 있다. 캘리포니아 주 상하원을 모두 통과할 경우 개빈 뉴섬 주지사가 서명하면 공식 발효된다. 올해는 미국과 유럽연합(EU), 인도네시아 등 전 세계 많은 지역에서 선거가 예정돼 있다. 이에 따라 딥페이크를 비롯해 생성형 AI를 활용한 허위조작 영상들이 선거 투명성과 민주주의 가치를 훼손할 수도 있다는 우려가 커지고 있다. 최근 미국에선 민주당 대통령 후보인 카멀라 해리스 부통령의 딥페이크 영상이 등장해 논란이 됐다. 또 올해 초에는 조 바이든 대통령과 도널드 트럼프 전 대통령 딥페이크 영상이 급속 확산되기도 했다. 오픈AI는 개발자가 자체 AI 모델에 대한 안전 테스트를 의무화하는 캘리포니아 법안 '첨단 AI 시스템을 위한 안전과 보안 혁신법안(SB 1047)에는 반대 의사를 밝혔다. 생성형 AI 생태계 발전을 저해한다는 이유에서다. 빅테크 "워터마크 기술 이미 완성...법안 통과만 기다려" 현재 국내외 빅테크들은 생성형 AI로 만든 콘텐츠에 워터마크 부착할 수 있는 기술을 개발한 바 있다. 다만 구체적인 워터마크 기준이나 관련 법안이 세세히 마련되지 않아 활발히 이용되지 않았다. 오픈AI는 지난 2월 공식 홈페이지를 통해 자사 이미지 생성형 AI 도구인 '달리3'로 만든 이미지에 디지털 워터마크를 붙인다고 밝혔다. '콘텐츠 출처 및 진위 확인을 위한 연합(C2PA)' 워터마크를 붙인다고 했다. C2PA는 콘텐츠 출처와 정보 확인을 위한 개방형 기술을 연구하는 협의체다. 2021년 설립된 이 협의체에는 국제 표준화 그룹과 콘텐츠 워터마킹 관련해 가장 표준에 근접해 있는 그룹이다. 마이크로소프트를 비롯한 어도비, 인텔 등이 협의체에서 활동하고 있다. 네이버도 최근 C2PA 기술 표준 개발에 참여했다. 오픈AI뿐 아니라 메타도 워터마크 부착 추진에 나섰다. 자사 AI 도구 '메타 AI'를 사용해 만든 이미지뿐만 아니라 제3 도구로 만든 콘텐츠에 '이매진드 위드 AI' 모양의 워터마크를 붙이겠다고 발표했다. 자사 소셜미디어 페이스북, 인스타그램, 스레드에 업로드된 생성 이미지에 우선 적용한다. 구글도 지난 1일 AI 챗봇 '바드'에 이미지 생성 기능을 추가하면서 딥마인드의 워터마크를 적용한다고 발표했다. 앞서 캘리포니아 주 의원들은 이번 입법 시즌에 65개의 AI 관련 법안 도입을 시도했다. 논의 끝에 다수 법안은 폐기됐다. 이중 AB 3211과 SB 1047 법안이 가장 큰 주목을 받고 있는 것으로 전해졌다. 오픈AI 제이슨 권 최고전략책임자는 "사람들이 온라인에서 찾은 콘텐츠 출처를 이해하고, 사람이 제작한 콘텐츠와 AI가 만든 생성물 사이 혼동을 피할 수 있어야 한다"고 주장했다.

2024.08.27 09:11김미정

[현장] 여·야도 AI로 뭉쳤다…하정우 과실연 대표 "韓 특색 담은 AI 국가 프로젝트 만들자"

"대한민국이 인공지능(AI) 주권을 유지하고 글로벌 AI 3대 강국으로 도약하려면 거대 AI 이니셔티브가 필수적입니다. 국가가 나서 데이터와 그래픽처리장치(GPU)를 산업계에 대규모로 공급하고, 꾸준한 인재 육성을 통해 한국이 세계 시장으로 나가도록 지원해야 합니다." 하정우 바른 과학기술사회 실현을 위한 국민연합(과실연) 공동대표 겸 AI 미래포럼 공동의장은 21일 오전 국회에서 열린 '제2차 한국 미래 신기술 발전을 위한 AI·모빌리티 신기술 전략 조찬 포럼'에서 이같이 강조했다. 이날 하 대표는 '코리아 글로벌 AI 원팀(Korea Global AI One-Team)' 이니셔티브를 처음 제안했다. 이 계획은 국가 주도의 산·학·연 대규모 AI 프로젝트로, 정부가 지휘하고 기업들이 실행해 '원팀(One-Team)'이라는 가칭이 붙었다. 이 계획의 핵심은 정부가 나서 데이터와 GPU를 확보하는 것이다. 우선 대규모 GPU 센터를 구축해 최소 1만 장의 GPU를 확보한 후 이를 학계·스타트업과 국내 AI 대기업에 절반씩 제공하는 것이 골자다. 또 가격이 비싸 확보가 다소 제한되는 논문 데이터를 정부가 구매하고 국내 기업이 해외에서 사업을 할 수 있도록 외국어 데이터도 획득해야 한다는 내용이 포함됐다. 하 대표는 'AI 원팀'을 고안한 목적이 한국의 AI 3대 강국 도약에 있음을 강조했다. 현재 미국과 중국이 각각 AI 1위·2위 강대국 자리를 공고히 한 가운데 전 세계 선진국들이 3위 자리를 차지하기 위해 각축전을 벌이고 있기 때문이다. 특히 캐나다는 지난 4월 총 2조4천억원 규모의 AI 지원 정책을 발표한 바 있다. 학계와 스타트업의 스케일업만을 위해 컴퓨팅 인프라에 2조원이 투자됐다. 이외에도 중소기업 생산성 향상과 AI 안전을 위해 각각 1천억원, 500억원씩 자금을 투입했다. 프랑스의 사례는 더 고무적이다. 지난해까지만 해도 AI 중진국으로 평가받던 프랑스는 마크롱 대통령의 전폭적인 지원을 통해 불과 1년 만에 자국 AI 기업을 육성하는데 성공했기 때문이다. 하 대표는 "우리는 이들보다 자체 역량에선 뛰어난 골든타임 상황에 있다"며 "이에 따라 누구보다 빠르게 계획을 추진할 필요가 있다"고 강조했다. 이렇게 해야만 미국·중국에 대한 과도한 AI 의존을 피할 수 있고 오히려 이들이 의존할 수 있는 대체 불가능한 AI 역량을 개발할 수 있다는 설명이다. 이를 통해 한국이 AI 주권을 획득하고 다른 나라에도 '소버린 AI' 영향력을 선한 방식으로 행사할 수 있다. 하 대표는 이런 주장에 대한 근거도 제시했다. 그는 "실제 AI 초강대국들이 소버린 AI를 강조하면서 중동·남미·동남아 등의 AI 시장에 뛰어듬에도 정작 이 지역에서 선호되지 않는 분위기"라며 "빅테크가 학습된 모델만 제공하고 기술은 제휴하지 않았기 때문"이라고 지적했다. 하 대표는 "한국은 이들 지역에서 공동 투자, 공동 운영, 기술 이전을 통해 함께 성장할 가능성이 있다"며 "AI 기술이 빠르게 발전하기 때문에 반년 전 개발한 기술을 제휴해도 이들이 산업 전 분야에 활용할 수 있도록 적극 지원할 수 있다"고 주장했다. 또 하 대표는 'AI 원팀'의 성공에 있어 인재가 매우 중요하다는 점을 강조했다. 데이터와 GPU 이슈는 투자를 통해 단기적으로 해결할 수 있지만, AI 개발 인력 양성은 긴 시간이 필요하며 유지하기도 힘들어서다. 하 대표는 이날 국내 최상위권 인력 대다수가 해외 빅테크를 택하는 경우가 잦다는 것도 아쉬운 점으로 지목했다. 그는 "최상위 AI 인재들은 장기적 커리어와 성장 가능성을 보고 일하는 경우가 많다"며 "정부가 AI 전문대학원 등 사업을 지난 2019년부터 추진해 인재 양성에 효과를 봤지만 그만큼이나 이들이 여기 남도록 하는 것도 중요하다"고 강조했다. 하 대표는 그러면서 프랑스의 사례를 들었다. 프랑스 AI 연구자들이 구글 등 미국 빅테크에서 근무하다가 모국으로 돌아가 미스트랄AI 등에 몸담기 시작한 경우가 늘어났기 때문이다. 하 대표는 "그동안 프랑스 정부는 자국 인재가 모국으로 돌아오도록 노력했다"며 "한국 정부도 이를 배워야 한다"고 주장했다. 'AI 원팀' 계획은 이날 처음으로 공식 발표됐다. 이번 행사는 더불어민주당 정동영 의원과 국민의힘 최형두 의원이 AI 발전을 위해 합심해 개최했다. 이날 행사에는 과학기술정보통신부 김남철 과장, 카이스트 김경수 부총장, 삼성전자 이준행 머신러닝 마스터 등 업계 관계자가 참석했다. 하 대표는 "네이버 AI 센터장이 아닌 대한민국 국민으로서 국내 AI 발전 방안을 공유하러 왔다"며 "연구자로서 한국 미래 경쟁력에 대해 늘 고민해왔던 결과"라고 강조했다.

2024.08.21 14:24조이환

"韓, 무조건 EU·미국 AI법 따르면 안 돼…AI 법률 정의 필요"

"인공지능(AI) 기본법을 효율적으로 구축하려면 유럽연합(EU)과 미국처럼 AI에 대한 법률적 개념부터 정확히 설정해야 합니다. AI 정의부터 법 적용 범위, 규제 강도 등 틀부터 만드는 것이 급선무입니다. 그래야 EU와 미국식 AI법에 휘둘리지 않습니다." 20일 법무법인 세종 장준영 AI센터장 겸 변호사는 한국데이터법정책학회가 한국프레스센터에서 개최한 'AI 규제법의 국내외 동향 분석·평가와 향후 과제' AI 윤리법제포럼에서 이같이 밝혔다. 장준영 변호사는 과학기술정보통신부에서 AI 입법 자문을 수행 중이다. 장 변호사는 현재 정부가 한국형 AI 생태계 구축에 중요한 첫 발을 내딛었다고 강조했다. 다만 법률 차원에서 한국만의 AI 정의, 규율 대상 등이 명확히 이뤄지지 않았다고 지적했다. 장 변호사는 "22대 국회서 발의된 제정안을 살폈다"며 "해당 법안이 AI 기술을 규제하자는 건지, AI 시스템을 규제하자는 건지 혼동스럽다"고 말했다. 장 변호사는 "이미 EU와 미국, 영국 등은 AI법 제정에 필요한 정의를 구체화했다"며 "AI 개념뿐 아니라 데이터 입력부터 작동방식, 생산, 목적성 등 AI에 대한 핵심적인 요소를 명확히 법에 담았다"고 강조했다. 이어 "국내는 AI법에 필요한 명확한 구체성을 설정하지 않아 우려스럽다"고 덧붙였다. 장 변호사는 "국내 정부가 AI에 대한 정확한 법률 정의 없이 무조건 EU와 미국식 AI법을 따르려 한다"고 지적했다. 이어 "EU는 AI 규칙을 가장 먼저 만들었다"며 "다른 국가와 기업들이 자연스럽게 이를 따르게 하기 위한 야심을 갖고 있다"고 주장했다. 또 "EU는 궁극적으로 글로벌 AI 규제 장악을 목표로 둔 상태"라며 "한국은 국가 차원에서 AI에 대한 명확한 정의나 적용 범위가 필수일 것"이라고 덧붙였다. 이 외에도 장 변호사는 AI 규제 수준에 대한 범위, 규제 의무주체와 위범 기반 접근법에 대한 세부사항에도 구체적인 기준이 필요하다고 했다. 장 변호사는 "AI에 대한 법적 개념이나 중대한 위험을 미치는 AI 영역, 영역별 의무 수준에 대한 사회적 합의 도출이 절실"하다며 "이를 토대로 AI 법적 개념을 얼마나 구체적, 세부적으로 정의하는 게 관건"이라고 주장했다. 이날 이성엽 한국데이터법정책학회 겸 고려대 교수는 "이달 1일 EU AI법이 발효되고 현재 22대 국회에는 6개 AI 법안이 발이된 상황"이라며 "국내외 주요 법안 내용을 비교·분석하고 향후 바람직한 입법방안을 살피는 의미 있는 세미나를 개최해 뜻깊다"고 밝혔다.

2024.08.20 18:31김미정

[기고] 리걸테크 서비스와 '우물 안 개구리'

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. 최근 한 로펌에서 인공지능(AI) 기반 법률 챗봇 서비스를 출시했다가 이슈가 됐다. 대한변호사협회가 해당 로펌 소속 일부 변호사에 대한 징계절차를 추진하고 있기 때문이다. 협회는 해당 서비스가 '변호사가 아닌 자가 변호사가 아니면 할 수 없는 업무를 통해 보수나 그 밖의 이익을 분배받아서는 안 된다'는 변호사법 제34조 제5항을 위반했다는 것을 문제 삼고 있다. 생성 AI가 등장한 이래 해외에서는 판례 검색을 넘어 매우 광범위한 영역에서 리걸테크 서비스가 이뤄지고 있다. 또 AI를 통해 실질적인 법적 리스크 분석이나 상담에까지 이르는 깊이 있는 서비스를 제공하고 있다. 전 세계 리걸테크 기업 수는 지난해 말을 기준으로도 이미 7천여 개에 달했다. 우리나라가 올해 5월 AI 서울 정상회의를 성공적으로 개최해 글로벌 AI 기술 및 서비스를 선도하는 국가로 발돋움하고 있음에도 국내 리걸테크 기업은 지난해 말 기준 30여 개에 불과했다. 대표적인 리걸테크 서비스도 변호사들이 이용하는 판례 검색 서비스 수준에 그치고 있다. 전문가들은 국내 리걸테크 산업이 아직 초기단계에 머물러 있다고 진단하고 있다. 그 이유는 아마 AI 관련 규제, 특히 AI 기반 법률 서비스와 관련해 아무런 규제나 지침·해석이 존재하지 않기 때문이다. 이에 따라 업계에서도 출시 가능한 서비스의 형태를 가늠하는 것을 매우 어렵고 부담스러워 하는 것으로 추측되고 있다. 과잉 규제는 업계를 위축시킬 수 있다. 반대로 규제가 없다면 업계는 어디까지가 가능하고 어디부터는 금지되는 서비스인지를 예측할 수 없게 된다. 이에 따라 역설적으로 서비스 출시를 하지 않거나 매우 제한된 범위로만 소극적으로 출시할 수 밖에 없게 된다. 법률 서비스 업계는 특히나 제공 가능한 서비스의 테두리나 한계에 대한 공신력 있는 규범해석이 반드시 필요하다고 느낄 것이다. 법무부 역시 이러한 갈등 상황을 인지하고 있다. 이에 지난 해 일본 법무성이 발간한 'AI 등을 이용한 계약서 등 관련 업무지원 서비스 제공과 변호사법 제72조와의 관계에 대하여' 가이드라인 등을 참고해 관련 지침을 만들 계획이라고 알려져 있다. 일본의 경우 '보수'를 받을 목적으로 출시됐고 '법률사건'에 관계됐으며 '법률사무'를 처리하는 AI 법률 서비스는 일본 변호사법 제72조 위반에 해당한다. 참고로 이 조항은 국내 변호사법 제34조 제5항 및 제109조 제1호와 매우 유사하다. 또 앞서 언급된 AI 기반 법률 챗봇 서비스에서 핵심적으로 문제가 됐던 비변호사의 법률사무 취급 금지에 관한 내용을 담고 있어 참고할 의의가 있다. 일본 가이드라인의 내용을 좀 더 살펴보자. 가이드라인은 '법률사건' 요건과 관련해 '법률상 권리 의무에 다툼 없이 이른바 기업법무에서 취급하는 계약관계 사무 중 통상적인 업무에 수반되는 계약체결을 위한 통상적인 협의나 법적 문제점에 대한 검토'는 소위 '사건성'이 없으므로 AI 법률 서비스가 가능한 영역이라고 설명하고 있다. '법률사무' 요건의 경우 AI 법률 서비스가 계약서 작성·심사·관리 업무 지원 서비스를 제공할 때 이용자가 입력·기재한 내용에 따라 비정형적이고 구체적·개별적인 내용을 표시할 수 있다. 또 개별 사안에 따른 개별적인 법적 분석이 이뤄지는 경우도 있다. 이런 경우 서비스가 변호사법 위반에 해당될 수 있다고 가이드는 설명하고 있다. 가이드는 이를 대략적인 범위 또는 한계로서 제시하고 있는데 이는 눈여겨볼 만한 기준으로 생각된다. 물론 일본의 가이드라인도 법해석과 적용은 최종적으로 법원의 판단에 맡겨져 있으며 이 가이드라인은 '일반론'임을 밝히고 있다. 또 가이드라인이 많은 내용을 담고 있다고 보기는 어려워서 관련된 추가적인 논의와 해석이 뒤따라야 할 것이다. 그럼에도 이 가이드라인은 제도권 내에서 허용될 수 있는 AI 법률 서비스의 테두리를 일정 부분이라도 제시하며 업계가 어떤 방향성을 가지고 AI 법률 서비스를 설계해야 할지에 관한 단서를 제공한다. 나아가 향후 AI 기술·서비스의 발전에 맞춰 업계와의 논의를 거치며 제도를 개선하고 조정해 나갈 시작점을 마련했다는 점에서 작지 않은 의의가 있다. 실제로 일본은 가이드라인 발표 후 리걸테크 서비스 산업이 급성장한다는 평가를 받고 있다. 또 일본 로펌에서 근무하면서 실무를 겪어본 필자의 경험으로도 적어도 AI 기술 활용에 있어서는 일본 법조계가 한국보다 더 빠른 진전을 보여주고 있다는 생각이 든다. 국내 법조 서비스는 한국이라는 지역적 제한과 한국어라는 언어적 한계를 안고 있다. 글로벌 서비스가 이루어지는 리걸 테크의 영역에서 우리의 시야가 너무 좁았던 것이 아닌가를 다시 고민해볼 필요가 있다. 우리도 AI 기반 법률 서비스에 관한 지침 등을 통해 리걸테크 서비스들이 출시될 수 있는 '테두리'를 마련하기를 희망한다. 이를 통해 궁극적으로 우물 안 개구리에 그치지 않고 국민의 일상에 도움이 되는 AI 기반 법률 서비스들이 활발히 제공될 터전이 마련되기를 기대해 본다.

2024.08.20 14:24법무법인 태평양 상지영

"국내 첫 AI팀 꾸려"…태평양이 내다본 한국 AI법 방향은?

유럽연합(EU)이 생성형 인공지능(AI)법 추진을 본격화하면서 전 세계가 분주하다. 미국을 비롯한 캐나다, 영국, 일본 등 각국 정부는 AI 거버넌스 구축을 위해 연구소를 설립하고 대규모 투자를 하는 등 자국 AI법 마련에 나섰다. 한국도 마찬가지다. 정부가 AI안전연구소를 설립하고, 새로 출범한 22대 국회도 AI법 제정에 속도를 내고 있다. 당장 AI법에 영향 받을 대상은 기업이다. AI 기술이나 솔루션 출시를 위해 개인정보법, 데이터법 등 민감한 AI 규정을 세세하게 지켜야 하기 때문이다. 기업들은 원활한 AI 사업과 해외 시장 진출을 위해 AI법에 높은 관심을 기울일 수밖에 없다. 법무법인 태평양은 이런 상황을 4년 전부터 예측·준비해 왔다. 그동안 태스크포스(TF)형태로 운영됐던 AI팀은 올해 초 활동을 본격화 했다. AI팀은 AI 기술 개발이나 솔루션 구축, 사업 시작을 위해 지켜야 할 개인정보 보호법과 데이터법 등을 고객에게 자문한다. 현재 약 20명이 해당 팀에서 근무 중이다. 태평양 AI팀장 강태욱 변호사와 윤주호 변호사는 최근 기자와 만나 태평양 AI전담팀 특장점을 비롯한 인력 구성 등을 소개했다. 미국·EU AI법에 대한 평가와 향후 한국 AI법이 나아가야 할 방향성에 대해 자세히 들어봤다. Q. 태평양이 국내 첫 AI전담팀을 꾸렸다고 들었다. 이에 대한 배경은. 강: AI팀을 구축한 결정적 계기는 2017년 '이루다' 사건 변호 직후다. 국내에서 AI와 개인정보 보호법을 동시에 다룬 첫 사례다. 변호인단은 재판 뒤 6개월 동안 이루다 관계자들과 개인정보 보호법 위반 사항을 수정하고 데이터 정비를 도왔다. 당시 태평양은 AI와 데이터 처리, 개인정보 이슈 자문 수요가 늘 것으로 추측했다. 예상이 맞았다. 현재 기업들은 태평양의 이루다 데이터 정비 사례를 필수 참고하기 때문이다. 이후 금융권 AI 거버넌스 구축을 도왔다. 농협 사례가 대표적이다. 금융권 AI 컴플라이언스 리뷰 업무까지 맡았다. 산업이 생성형 AI를 구축할 때 법률 리스크 판단을 필요로하다 보니 관련 프로젝트가 꾸준히 들어오는 것 같다. Q. 태평양 AI팀 인재를 새로 영입했는지. 강: 외부에서 AI전문변호사를 영입하진 않았다. 내부 변호사들이 팀을 꾸렸다. 역량이 충분했기 때문이다. 태평양에 항공이나 전자 등 공대 출신 변호사가 많다. 일부 전문위원도 데이터 분야 업무를 수십 년 했다. Q. 현재 국내 로펌들이 AI팀을 꾸리기 시작했다. 팀 필수 역량을 무엇으로 보는지. 윤: 해외 AI법 동향을 잘 파악하는 게 관건이다. 국내 기업이 미국이나 유럽 등에 서비스를 원활히 제공할 수 있게 도와줘야 해서다. 한국에 도입될 가능성 높은 해외 AI규제를 먼저 알아야 한다. 국내 로펌이 해외 로펌들과 활발한 소통을 유지해야 하는 이유다. 태평양은 해외 로펌과 지속적인 컨퍼런스 콜을 통해 AI 정보를 꾸준히 교류하고 있다. 이런 네트워킹을 통해 해외 AI법 동향을 빠르게 수집하고, 한국화하는 데 힘쓰고 있다. 미국·유럽 로펌 세 곳과 정보 공유를 가장 자주 한다. Q. EU AI법과 달리 미국식 AI법은 상대적으로 자율적일 것이란 평가가 나오고 있다. 윤: 미국식 AI법도 EU AI법처럼 규제를 조만간 할 것 같다. 차기 정권이 AI법을 아예 자율 규제로 끌고 갈지, 아니면 기업들에게 가이드를 주고 자율적으로 이를 지키도록 할 건지가 관건이다. 향후 미국식 법은 이 둘 중 하나로 갈 것이다. Q. 미국 대선 결과가 미국 AI법 방향성을 결정할까. 윤: 아직 정해진 바 없다. 모두 아는 것처럼 카멀라 해리스 민주당 대통령 후보는 도널드 트럼프 공화당 후보보다 엄격한 AI법 방향성을 제시할 수도 있다. 트럼프 후보는 현재 바이든 행정부가 추진하는 AI 규제조차 빼자고 주장한다. 이에 미국 빅테크도 트럼프 정부 시절이 지금보다 더 좋았다는 분위기다. 해리스 후보가 당선되면 현재 구조를 유지할 것 같고, 트럼프 후보가 대통령이 되면 AI법이 통상무역 형태로 갈 것 같다. Q. 그런 분위기가 한국에 영향 미칠까. 강: 확실한 건 한국이 AI 개발 인프라를 미국서 갖고 올 때 지금보다 높은 비용을 지불할 수 있다. 이 전제에서 국회의원들은 국내 AI 산업 육성과 자립적인 기술 개발 필요성을 주장할 것이다. 특히 네이버 등 국내 대기업들이 엔비디아 AI칩 구매를 원활히 할 수 있도록 지원해야 한다고 목소리를 높일 것이다. 물론 자유 무역 체계에 따라 기술을 거래하는 건 상관없다. 그러나 AI 기술은 다르다. 단순히 통상적 방식으로만 이뤄질 문제가 아니라서다. 정부는 소버린AI 등을 간과하고 단순히 자유무역 체계에 따라 AI 무역 업무를 처리하면 안 된다. AI 기술 출처나 국가적 배경에 따라 복합적 문제가 발생할 수 있기 때문이다. 한국이 해외와 AI 무역할 때 각국 기술적, 정치적 배경을 고려한 기준을 마련해야 한다. Q. 22대 국회가 AI법을 논의하고 있다. 기본법 틀을 어떻게 만드는 것이 좋을까. 윤: 미국·EU AI법을 무조건 참고하는 것보다 한국적 상황에 맞는 AI 산업 진흥법을 갖춰야 한다. 특히 국내에 AI 보안 문제가 늘고 있다. 정부가 이 문제를 해결하지 않으면 AI 산업은 성장하지 못한다. 이를 위한 위원회를 설치하는 등 국내에 맞는 방향성이 필요하다. 물론 규제도 필수다. 지금 만들지 않으면 안 된다. 향후 EU가 자국 규제법을 따르라고 강제할 것이기 때문이다. 일단 규제 체계를 큰 틀로 만드는 게 급선무다. 규제 범위를 어떻게 정할 것인지, 강도를 어느 정도 설정할 것인지 등은 이후 조정하면 된다. 강: 최종적으로 국내 AI법이 어떤 모습일지 아무도 장담할 수 없다. 행정안전부와 과학기술정보통신부가 AI법에 대해 생각하는 것이 다르고 국회 시각도 이와 다르기 때문이다. 행안부는 강한 AI규제법을 주장하지만 과기정통부는 이를 좀 풀어주자는 의견이 지배적이라서다. Q. 이번 국회는 위험한AI와 금지된AI를 어떻게 정할지도 논의 중이다. 이에 대한 입장은. 윤: 이런 규정은 EU AI에서 왔다. 사실상 한국 정서에 맞지 않는 규정 방식이다. 물론 고위험AI는 존재할 수 있다. 관건은 한국 기업이 고위험AI로 만든 서비스를 제공한 적 있느냐는 것이다. 아직 없다. EU는 법을 이론적으로 접근하고 있다. 그래서 이런 법은 국내서 문제 될 수 있다. 실제 인간 생존과 직결되는 건 당연히 고위험AI로 지정돼야 한다. 이론상 고위험AI 논의가 필요하면 진행 가능하다. 그런데 현실에서 이 부분은 더 논의돼야 한다. Q. 현재 EU도 이 부분에 대해 골치 아플 것 같다. 윤: 그렇다. 지금 EU도 고위험AI 기준을 완전히 마련하지 못했다. EU는 제3자 적정성 평가를 통해 AI를 고위험으로 분류할 방침이다. 문제는 아직 평가 기준조차 없다. EU는 2026년 8월부터 고위험AI에 대한 리스크 세부사항을 내놔야 한다. 딱 2년 남았다. 타임라인에 맞춰 완전한 평가 기준을 만들려면 지금 시작해도 빠듯하다. 강: 결국 AI 규제는 분명히 필요하다. 다만 구체적으로 어느 AI 시스템을 얼마나 규제할 것인지에 대한 문제는 다르다. 이런 정도는 국가·사례마다 다를 것 같다. 큰 틀로 규제를 서둘러 마련하고, 세부적으로 지정할 것과 추가 판단할 것을 정해야 한다. Q. EU AI법이 전 세계에 본격적으로 영향 미치면 국내 시장은 어떻게 변할까. 윤: 국내 시장은 두 가지 특징을 보일 것 같다. 우선 EU AI법에 맞춰 유럽형 서비스를 제공하려는 국내 AI 기업이 생길 것이다. 이는 로펌뿐 아니라 다수 전문가가 예측하는 AI 시장 모습이다. 특히 국내 대기업이 AI규제 기준을 주도할 것으로 본다. 다만 한국 AI법만 기준으로 설정하지 않을 것이다.국내 기업들은 정부가 해외 규제를 따를 가능성을 높이 보기 때문이다. 이에 대기업은 미국·EU AI법이 국내에 들어오는 정도, 범위 등을 판단할 것이다. 이를 자문하는 로펌 역할이 더 중요해질 전망이다.

2024.08.19 17:52김미정

AI 규제 국내외 동향 살피는 포럼 열린다

한국데이터법정책학회는 오는 20일 한국프레스센터에서 'AI 규제법의 국내외 동향 분석, 평가와 향후 과제' 주제로 AI 윤리법제포럼을 개최한다. AI 윤리법제포럼은 AI 시대의 법 제도와 윤리 이슈에 대해 논의하기 위한 전문가 모임으로 정기적으로 생성형 AI의 주요 윤리, 법제, 정책 이슈에 관한 세미나를 개최하고 있다. 포럼의 발제는 과학기술정보통신부를 비롯한 정부에서 AI 입법 자문을 수행 중인 법무법인 세종의 AI 센터장인 장준영 변호사가 맡았다. 포럼 회장인 이성엽 교수는 “지난 8월1일 EU의 AI법이 발효되고 현재 22대 국회에는 6개 AI 법안이 발의된 상황에서 국내외 주요 법안의 내용을 비교, 분석하고 향후 바람직한 입법방안을 살펴보는 의미 있는 세미나가 될 것”이라고 밝혔다.

2024.08.16 11:34박수형

금융권 망분리 규제 특례 시행…생성형AI 활용 가능해진다

금융위원회가 인터넷 차단(망 분리) 규제를 단계별로 개선해 금융업권의 생성형 인공지능(AI)과 서비스형 소프트웨어(SaaS) 등을 활용할 수 있게 하기로 했다. 13일 오후 김포 KB국민은행 통합IT센터에서 열린 '금융분야 망 분리 개선 로드맵' 행사에서 김병환 금융위원장은 "클라우드·AI 등 급변하는 IT 환경 하에서 일률적인 망 분리 의무화 정책은 우리나라에만 존재하는 대표적인 규제로 국내 금융산업의 글로벌 경쟁력을 저해하는 요인으로 지적받고 있다"며 "망 분리 규제를 일시에 완화하기보다는 충분한 안전 장치를 전제로 단계적인 규제 개선을 추진해 나갈 계획"이라고 말했다. 크게 망 분리 규제는 두 가지 방향으로 바뀔 전망이다. 하나는 즉시 망 분리 규제가 필요한 부분에 대해서는 규제 샌드박스(특례)로, 다른 하나는 '디지털 금융보안법'을 제정해 전반적인 금융업권의 보안에 관해 다루겠다는 것이다. 금융사는 규제 특례를 통해 생성형AI를 쓸 수 있게 된다. 금융사 내부와 AI모델(외부) 간 연결을 위한 망 분리 규제 특례나, 해외 소재 AI를 통한 가명정보 처리를 위한 데이터 특례를 부여해 생성형AI 개발과 적용이 가능해진다는 것이 금융위 측 설명이다. 그러나 해외 소재 AI에 가명처리된 개인 정보를 처리하는 데이터 특례는 개인정보보호법이 걸려 있어 개인정보보호위원회와 논의가 필요하다. 금융위 측은 "예상되는 리스크에 대한 보안대책을 조건으로 부과하고 금융감독원·금융보안원이 신청 기업별 보안 점검·컨설팅을 실시하는 등 충분한 안전장치를 마련할 계획"이라고 설명했다. 사내 업무에만 활용됐던 클라우드 기반 SaaS도 이용 보안 관리, 고객 관리(CRM) 등에 쓸 수 있도록 규제 특례가 부여된다. 향후 규제 특례로 도출된 사례를 통해 금융위는 올해 4분기부터 디지털 금융보안법 마련을 준비한다. 법의 기본은 금융사가 세부 보안 통제를 자율적으로 구성하되, 사고 발생 시 배상 책임을 확대하고 과징금을 부과하는 방향이다. 이밖에 제3자 리스크(3rd-party risk)에 대한 관리를 강화하기 위해 관련 제도 정비를 추진한다는 방침이다. 김병환 위원장은 "그동안 망 분리에 기대어 보안 분야 투자에 소홀함이 있었다면, 지속적으로 확대해 나가는 계기가 되길 바란다"며 "제도 개선 상황을 주시하면서 필요한 보완 조치를 취해나가겠다"고 강조했다.

2024.08.13 14:00손희연

[현장] EU AI법 발효… AI 전문 변호사 "투명성이 가장 중요"

"유럽 연합(EU) 인공지능(AI) 법은 적용 범위가 굉장히 넓습니다. 국내에서 출시 되는 AI 서비스여도 EU 시민을 상대로 하면 국가·주소지 관계 없이 법이 준수돼야 하죠. EU AI 법을 명확히 알아야 하는 이유 중 하나입니다." 지난 2일부로 EU AI 법이 발효된 가운데, AI를 주로 다루는 법조 전문가가 EU AI 법에 대한 의견을 밝혔다. 법무법인 원 고인선 변호사는 7일 서울 강남에서 열린 트레인 코리아 주최 '비어 트레인' 세미나에서 '법에서 요구하는 AI 투명성이란 무엇인가?'라는 주제로 발표를 진행했다. 고 변호사는 "AI 산출물이 EU에서 사용되기만 해도 법이 적용된다"며 "당장 금지된 인공지능 관련 조항은 내년 2월부터 시행되기 때문에 관련 종사자들은 법안을 살펴볼 필요가 있다"고 언급했다. 고 변호사는 EU AI 법에서 중요하게 들여다봐야 하는 건 AI 투명성 개념이라고 강조했다. 출시가 될 수 없는 절대적 금지 AI와 달리 고위험 AI와 제한적 AI에 주로 적용되기 때문이다. AI 투명성이란 명확한 데이터 사용 정책을 수립하고 시스템이 왜 그러한 추천을 제공하는지 공개해야 하는 개념이다. 그는 "AI 투명성 개념에서 중요한 건 '추적 가능성'과 '설명 가능성'이다"라며 "AI가 할 수 있는 것과 없는 것에 대한 고지가 충분히 돼야 하고 영향을 받는 인간에 대한 권리 고지도 필요하다"고 강조했다. 고 변호사는 고위험 AI 시스템에 대한 투명성 의무에 대해 ▲설계 및 개발 ▲사용 설명서 첨부 ▲기술문서 관리 ▲로그 관리 ▲인적 감독 ▲EU 데이터베이스 등록이 필요하다고 강조했다. 이어 제50조에 등록된 AI 투명성 의무는 주로 제한적 AI에 적용된다며 ▲감정인식 시스템·생체인식 분류 시스템 ▲딥페이크 등에 의무를 진다고 설명했다. 고 변호사는 "현재 만들어진 법은 기본법의 성격을 크게 가진다"며 "시행령 등 하위법령 등이 나와야 현재 법이 다루지 못하는 부분이나 정확한 규제에 대해 언급할 수 있을 것"이라고 말했다.

2024.08.07 16:39양정민

Prev 1 2 3 4 5 6 Next