• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 인터뷰
  • 인사•부음
  • 글로벌뉴스
창간특집
인공지능
배터리
컨퍼런스
칼럼•연재
포토•영상

ZDNet 검색 페이지

'AI 법'통합검색 결과 입니다. (111건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

정부 "AI기본법 사실조사, 행정조사기본법 규정 반영”

인공지능(AI) 기본법안의 사실조사 조항을 두고 일각에서 단순 민원으로도 조사가 이뤄진다고 주장하는 가운데, 정부는 필요 최소한의 범위 내에서만 사실조사가 가능하다고 설명했다. 과학기술정보통신부는 18일 설명자료를 통해 “법제사법위원회를 통과한 AI기본법안의 사실조사 조항은 AI기본법에만 규정된 것이 아니다”면서 “현행법 상 행정조사의 기본법인 행정조사기본법 제7조 규정을 반영한 일반적인 내용”이라고 밝혔다. 이어, “법사위는 심사 과정에서 업계의 우려를 반영해 사실조사의 내용, 방법, 절차 등에 관해 이 법에서 정하는 사항을 제외하고는 행정조사기본법에서 정하는 바에 따르도록 자구를 수정했다”고 강조했다. 과기정통부는 또 “행정조사기본법에서 규정하는 바와 같이 조사목적을 달성하는데 필요한 최소한의 범위 안에서 실시할 예정”이라며 “다른 법령에서 규정하는 바와 같이 사실조사 조건을 명확히 하기 위해서 민원인의 사적 이해관계에서 민원이 제기됐거나 익명의 탄원, 투서 등에 의해 이뤄지는 등의 경우에는 사실조사를 실시하지 않도록 하위법령에 명시할 계획”이라고 덧붙였다.

2024.12.18 09:15박수형

AI기본법·단통법 폐지안, 국회 법사위 문턱 넘었다

인공지능(AI) 기본법 제정안과 단말기유통법 폐지안, 디지털포용법 제정안이 17일 국회 법제사법위원회 문턱을 넘어섰다. 이 법안들은 오는 30일 개최 예정인 본회의를 통과할 것으로 전망된다. 법사위는 이날 전체회의를 열어 과학기술정보방송통신위원회를 거친 AI 기본법 제정안, 단통법 폐지안과 일부 조항을 이관한 전기통신사업법 개정안, 디지털포용법 제정안, 수신료 통합징수 내용을 담은 방송법 개정안, 마약 유통 처벌 관련 정보통신망법 개정안 등을 통과시켰다. 수신료 통합징수 조항을 담은 방송법 개정안 외에 법사위를 통과한 디지털 분야 법은 여야 이견이 없는 내용이다. 지난달 말 과방위 전체회의를 통과한 뒤 법사위 심사에 앞서 숙려기간을 거치며 부처 간 이견을 조율 과청을 거쳤다. 방송법 개정안 외에 다른 법안은 법사위 내에서도 별다른 이견이 나오지 않았다. 다만, AI 기본법을 두고 문화체육관광부 국장급 인사의 돌발 발언으로 잠시 논란을 빚었다. AI 기본법안의 주무부처인 과학기술정보통신부는 다른 부처와 이견 조율을 거치면서 산업통상자원부와 법안 내 표준 내용에 관해 합의를 마쳤다. 또 문체부와는 저작권 관련 내용으로 이견이 있었으나 유상임 장관이 이날 오전 한덕수 대통령 권한대행과 유인촌 문체부 장관과 논의 끝에 법안 통과로 정부 방침을 세웠다. 그런 가운데 법사위에서 문체부 저작권국장이 일부 조항 추가를 요구한 것이다. 이에 대해 과방위 더불어민주당 간사인 김현 의원은 법사위 회의에 출석해 “제정법에 대해 21대 국회에서도 충분히 논의됐고, 기본법을 우선 제정하고 각 상임위별로 후속법 논의가 맞다는 것이 과방위 전체회의 입장”이라고 밝혔다. 유상임 과기정통부 장관 역시 “문체부와 저작권법 개정으로 추진하는 것 이야기해왔고, 기본법에서는 가급적 규제는 담지 않고 문체부나 개인정보보호위원회와 규제에 관련해서는 차후 각 부처에서 다루는 것으로 합의를 거쳤다”고 설명했다. 이어, “안타깝다. (문체부) 국장님 의견이 강해 (문체부) 장관님도 안 따르는 것 같다”고 지적했다. 정청래 법사위원장은 “일단 개문발차한 뒤 부족한 부분은 해당 상임위원회에서 해결하는 것으로 하자”며 “부처 간 이견이 있는 법안은 계류시키고 숙성시켜야 하는데 그 부분이 해소된 사항”이라고 말했다. 수신료 통합징수 방송법 개정안에 대해서는 여야 의견이 나뉘었으나 표결에 따라 처리됐다. 이외 다른 법안에 대한 토론은 이뤄지지 않고 과방위 안에 일부 자구 수정을 거친 안으로 통과됐다.

2024.12.17 12:32박수형

"AI기본법 '사실조사'는 독소조항...사업자 막대한 규제 부담"

인공지능(AI) 기본법의 조항 중 '사실조사'에 대한 업계 우려가 커진다. 법 위반에 대한 신고나 민원이 접수된 경우에도 정부가 현장조사를 할 수 있어, 과도하다는 목소리다. 조사 실시 요건 제한을 단순 민원 접수에서 위반 행위 인정으로 바꿔야 한다는 의견의 제기됐다. 17일 관련업계에 따르면 이날 국회 법제사법위원회는 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법안(대안)' 논의를 진행한다. AI기본법은 AI 기술의 발전과 안전한 활용을 촉진하기 위해 과학기술정통부가 마련했다. 다만 업계에서는 해당 법안의 '제40조(사실조사 등)'에 대해 우려한다. 먼저 제40조 1항에서는 해당 법에 위반되는 사항을 발견하거나 혐의가 있음을 알게 된 경우, 법 위반에 대한 신고를 받거나 민원이 접수된 경우 과기정통부 장관이 AI 사업자에 대해 관련 자료를 제출하게 하거나 소속 공무원으로 하여금 필요한 조사를 하게 한다고 나와있다. 2항은 과기정통부 소속 공무원에게 사업자의 사무소·사업장에 출입하여 장부·서류, 그 밖의 자료나 물건을 조사하게 할 수 있도록 규정한다고 나와 있는데, 이런 조항들이 다른 법률에 비해 지나치게 쉬운 조사 실시 요건(단순 민원)으로 정부에 과도한 규제권한을 부여해 사업자에 막대한 규제 의무를 부과시킨다는 의견이다. 업계 관계자는 "정보통신망법은 민원 접수에 따른 정부의 권한을 자료 제출로 제한하고 있지만, AI 기본법은 단순 민원 접수로도 현장 조사를 실시할 수 있게 했다. 조사권 오남용이 우려된다"고 말했다. 이어 "경쟁사의 민원이나 악성 민원에도 사실조사를 받을 수 있다는 것은 독소조항이다"라면서 "불완전한 조항에 따른 중대한 법 체계적 문제, 타법과의 형평성 문제가 발생할 수 있다"고 지적했다. 이에 업계에서는 제40조제1항제2호 삭제와 함께 피조사자의 권리 조항 추가를 통한 법 체계적 문제를 해소하는 것을 대안으로 제시했다. 업계 관계자는 "진흥법이라는 이름 아래 이 법의 위반에 대한 신고, 민원만으로 정부가 사실조사의 명분으로 사업자의 사무소, 사업장에 출입하여 장부, 서류, 그밖에 자료나 물건을 조사할 수 있다면 아마 국내 인공지능 사업을 하는 사업자는 주소지를 해외로 옮기거나 국내 영업을 안 할 우려도 있다"고 밝혔다.

2024.12.17 10:33안희정

AI 산업, 尹 탄핵 정국 속 흔들리나…"초당파적 정책 연속성이 관건"

윤석열 대통령에 대한 탄핵 소추안이 지난 14일 국회 본회의에서 찬성 204표로 가결되면서 국가 인공지능(AI) 정책의 핵심인 AI 기본법 제정과 국가인공지능위원회 운영에 차질이 불가피할 것으로 보인다. 야당 역시 AI 기본법의 중요성에 공감해 정국 안정 이후 법안 처리에 진전이 있을 것으로 전망되나 업계는 신속한 경쟁력 회복의 중요성과 세부적인 정책 수립의 필요성을 강조하고 있다. 16일 업계에 따르면 AI 기본법은 국내 AI 산업계에 일종의 '가이드라인'을 제공하는 법안으로, 고위험 영역에서의 이용 지침과 안전성 확보를 위한 기업의 의무를 명시하고 있다. 이 법안은 지난달 26일 과학기술정보방송통신위원회(과방위) 전체회의를 통과하며 법사위 논의를 거쳐 올해 중 통과가 예상됐으나 지난 9일 법제사법위원회(법사위) 전체회의에서 비상계엄령 관련 '내란 의혹 특검 수사요구안'이 먼저 다뤄지며 후순위로 밀려났다. 또 지난 9월 출범한 국가인공지능위원회(국가AI위원회)도 운영에 차질이 불가피할 것으로 전망된다. 국가AI위원회는 국가 AI 전략을 수립하고 시행하는 컨트롤타워 역할을 담당하는 대통령 직속 기구로, 윤 대통령의 직무정지로 인해 위원회의 정상적인 운영이 어려워질 전망이다. 특히 위원회가 계획했던 내년 1분기 내 국가 AI 전략 수립도 지연될 가능성이 높으며 정권 교체 시 위원 구성 변경으로 업무 연속성마저 위협받을 수 있다. 이로 인해 대폭 증액된 과학기술정보통신부(과기정통부)의 AI 예산 집행과 AI 산업 육성 시스템 마련에도 차질이 예상된다. 기자가 이와 관련해 과기부에 취재를 요청했으나 구체적인 답변을 받지 못했다. 일각에서는 탄핵 정국 이후 정권 교체 가능성이 대두되더라도 야당이 AI 산업의 초당파적 중요성을 인정하고 있기에 이견이 최소화되고 AI 분야가 지속적으로 진흥되리라고 전망하고 있다. 특히 법사위에 계류 중인 기본법안에 대해 이재명 대표 등 당 지도부는 신속 처리와 투자 요건 완화를 포함한 속도감 있는 정책 추진을 요구하고 있는 상황이다. 국가인공지능위원회 역시 대통령 탄핵 소추 상황 속에서도 중요한 역할을 지속해야 한다는 목소리가 나오고 있다. 한 야당 과방위 관계자 A씨는 "AI 산업은 분초를 다투는 중요한 문제이므로 대통령 탄핵 정국과 관계없이 여야가 협력해야 하는 분야"라며 "업무 공백을 최소화하고 AI 산업 발전을 위한 정책을 지속적으로 추진해야 한다"고 밝혔다. 그럼에도 불구하고 업계에서는 주요 정책 중단으로 인한 AI 발전 지연을 우려하고 있다. 치열한 글로벌 AI 경쟁 속에서 현재의 불안정한 정치적 상황이 국내 AI 발전에 불리하게 작용할 수 있다는 것이다. 한 AI 업계 관계자 B씨는 "현재의 정치적 상황은 불가항력이지만 AI 산업은 '골든타임'에 놓여 있다"며 C씨는 "정치와 관계 없이 당파를 초월해 AI 산업에 대한 일관적이고 전폭적인 지원이 필요하다"고 말했다. 이어 "업계 요구를 충분히 반영한 예산 배정과 정책 방향을 마련한다면 국가적 AI 경쟁력 강화에 큰 도움이 될 것"이라고 덧붙였다. 이와 동시에 법·규제 차원을 넘어 산업 발전을 위한 근본 조건 정비도 필요하다는 의견도 제기된다. 정치적 상황과 관계없이 반도체 생산 활성화, 전력 인프라 확충, 원자력 발전 지원 등 기반 산업부터 다뤄야 한다는 주장이다. AI 업계 관계자 C씨는 "규제·법제뿐 아니라 구체적 진흥 방안 논의가 중요하다"며 "어떤 기업에 얼마를 투자하고 무엇을 언제까지 할지 등 실질적 계획을 마련해 AI 산업이 흔들리지 않도록 해야 한다"고 강조했다.

2024.12.16 18:01조이환

"투자·인재·제도 열악한데 AI 3강?"…韓, 마이너리그 전락 '우려'

윤석열 대통령의 난데없는 비상계엄 선언 여파로 정국이 탄핵 국면으로 접어들면서 인공지능(AI) 분야 G3(3대 강국) 꿈도 좌절되는 분위기다. AI 기본법 통과가 차일피일 미뤄지며 제도적 기반이 원활히 이뤄지지 않은 탓에 기술도 점차 뒤처지면서 경쟁력이 말레이시아와 같은 '2군 경쟁국'에 해당한다는 분석이 나와 충격을 주고 있다. 11일 업계에 따르면 우리나라는 그간 네이버가 전 세계 세 번째로 '하이퍼클로바 X(HyperCLOVA X)'를 개발한 것을 계기로 '전 세계 AI 3대 강국'으로 도약하겠다는 야심을 드러내왔다. 하지만 투자 환경이 상당히 열악한 데다 정부, 정치권에서 기대 이하의 지원책을 내놓으면서 점차 뒤처지고 있는 분위기다. 실제로 한국지능정보사회진흥원(NIA)이 발간한 '글로벌 정부·민간 분야 AI 투자 동향 분석' 보고서에 따르면 우리나라는 지난해 기준 AI 투자를 선도하는 6개국에 이름을 올리지 못했다. 6개국은 미국·EU(유럽연합)·중국·영국·일본·캐나다로, 이 중 미국은 전 세계 국가의 AI 투자 규모에서 60%가 넘는 비중을 차지하며 압도적 1위에 올랐다. 미국은 마이크로소프트(MS)를 비롯해 오픈AI, 구글 등 생성형 AI 시장 '강자'들을 품고 있어 투자 시장에서 상당히 유리한 위치에 있는 것으로 파악됐다. 또 지난해 미국 정부의 AI 투자는 27억5천만 달러(약 3조8천87억원), 민간 투자는 846억7천만 달러(약 117조2천680억원)에 달했는데 합산 액수는 전 세계 AI 투자액의 약 62%였다. 여기에 오픈AI, 앤트로픽 등 생성형 AI 기업들에 대한 투자가 꾸준히 진행되고 있다는 점도 호재다. 미국 벤처캐피털(VC) 중 하나인 세쿼이아 캐피탈은 보고서를 통해 "아마존웹서비스(AWS), 구글, 메타, MS 등 빅테크는 지난해 오픈AI의 챗GPT와 같은 애플리케이션을 개발하기 위해 AI 인프라에 막대한 투자를 했다"며 "빅테크의 투자는 연간 6천억 달러에 달하는 반면, 수익은 아무리 높게 봐도 1천억 달러 미만"이라고 분석했다. 전 세계 AI 투자도 정부보다는 민간 중심으로 활발히 진행됐다. 지난해 기준 전 세계 정부의 투자는 91억 달러로, 전체 AI 투자에서 6%에 그쳤다. 민간 투자는 94%인 1천328억 달러에 달했다. 지난해 전 세계 정부와 민간 분야 AI 합산 투자액은 1천419억 달러로, 2015년(329억 달러) 대비 4.3배 늘었다. 중국은 정부 주도로 AI 투자가 활발히 진행됐다. 지난해 중국 정부의 AI 투자는 21억1천만 달러로, 주요 6개국 중 정부의 AI 투자 비중(19%)이 가장 높았다. 또 중국 정부와 민간(91억7천만 달러) 투자액을 합치면 112억8천만 달러인데, AI 투자가 많았던 2021년(243억 달러)과 비교하면 절반 이하로 감소한 것으로 나타났다. EU도 최근 들어 AI 투자 움직임이 다소 주춤했던 것으로 나타났다. 지난해 AI 투자 규모는 134억9천만 달러로, 2021년(217억2천만 달러)과 비교 시 62% 수준에 그쳤다. 또 전체 투자에서 정부 비중은 9%가량인 11억9천만 달러로, 3% 수준인 미국, 영국에 비해선 많았다. 영국은 압도적으로 민간 투자가 많았다. 지난해 AI 투자는 72억1천만 달러로, 이 중 97%(70억 달러)가 민간 투자였다. 일본은 2018년 이후 거의 꾸준히 30억~40억 달러 수준으로 AI에 투자 중인데, 지난해에는 34억4천만 달러를 기록했다. 캐나다는 지난해 AI 투자가 전년(92억1천만 달러)에 비해 큰 폭으로 줄어든 34억2천만 달러로 집계됐다. 한국은 주요 6개국 외 비교적 AI 투자가 많은 국가들로 이름만 올렸다. 한국 외에 인도, 사우디아라비아, 싱가포르, 이스라엘, 호주 등도 함께 언급됐다. 이들 국가의 개별 투자규모는 공개 자료의 불충분 등 이유로 소개되지 않았다. 김소미 NIA 선임연구원은 "한국의 경우 전체 국가 중 10위권 내 포함된다"며 "투자금액은 일본·캐나다 대비 조금 못 미치는 수준"이라고 설명했다. 이 같은 설명에 근거해 우리나라의 AI 투자액을 20억~30억 달러 수준으로 추정하면, 전 세계 AI 투자액의 1.5~2.0%에 불과한 것으로 예상된다. 경제협력개발기구(OECD) AI 정책관측소가 집계한 자료에선 다소 구체적인 수치가 나왔다. 지난해 생성형 AI 분야에서 한국의 글로벌 VC 투자 유치 규모는 총 7천500만 달러(약 1천40억원)로, 선두인 미국(163억900만 달러)의 217분의 1수준에 그쳤다. 우리나라의 AI 투자 유치액은 미국뿐 아니라 유럽연합(5억5천900만 달러), 중국(4억800만 달러), 이스라엘(2억9천900만 달러)과도 큰 격차를 보였다. 특히 우리나라는 빅테크들의 AI 스타트업들에 대한 투자 움직임 속에서도 열외된 분위기다. 실제 오픈AI와 앤트로픽, 미스트랄AI, 알레프 알파 등은 이미 수조 원의 투자 유치에 성공하며 업계의 주목을 받았다. 반면 한국 AI 스타트업은 조 단위는거녕 누적 투자 금액이 1천억원을 넘긴 곳이 거의 없는 것으로 알려졌다. 업스테이지(약 1천400여억원) 정도만 눈에 띈다. 업계 관계자는 "최근 기술 경쟁의 우열이 뚜렷해지면서 투자 양상 또한 소수 기업이 독점하는 방향으로 전개되고 있는 분위기"라며 "AI 기술 개발 시 막대한 투자가 필요하지만 국내 투자 환경은 이를 충분히 뒷받침할 만큼 조성돼 있지 않아 기술 개발뿐 아니라 인력 확보에도 어려움을 겪고 있다"고 밝혔다. 이 탓에 우리나라의 AI 기술 성숙도, 잠재력이 전 세계를 기준으로 '2군 경쟁국'에 해당한다는 분석 결과가 나왔다. 보스턴컨설팅그룹(BCG)이 전 세계 73개국을 분석한 'AI 성숙도 매트릭스' 보고서에 따르면, AI 선도국으로 선정된 것은 미국, 중국, 영국, 캐나다, 싱가포르 등 5개국 뿐이다. BCG는 AI 선도국, AI 경쟁국, AI 실천국, AI 도약국 등 크게 4개 그룹으로 분류했다. AI 선도국은 상위 10%, AI 도약국은 하위 10% 국가로 평가됐다. 우리나라는 2군에 해당하는 AI 경쟁국, 이 중에서도 비교적 상위에 해당하는 안정적 AI 경쟁국가로 분류됐다. 같은 그룹에는 일본, 대만, 이스라엘, 홍콩, 독일, 스페인, 프랑스, 호주, 말레이시아, 이스라엘 등이 포함됐다. BCG 보고서는 "2028년까지 전 세계에서 AI 관련 지출이 2배 이상 증가해 6천320억 달러(약 904조원)에 이를 것으로 보인다"며 "이번 보고서에 포함된 73개 국가 중 70% 이상이 AI 대비가 부족하고 생태계 참여, 기술, R&D 등에서 낮은 점수를 보이고 있다"고 지적했다. 이어 "한국의 경우 높은 수준의 AI 노출 정도와 준비도를 갖추고 있다"며 "특히 금융 서비스와 같은 부문에서 AI 기술을 성공적으로 채택하고 있다는 점에서 '안정적 AI 경쟁국가'"라고 평가했다. 하지만 한국은 R&D 및 혁신 분야에서는 AI 선도국 대비 상대적으로 부족한 것으로 분석됐다. 5개의 AI 선도국들은 강력한 R&D 혁신 생태계, 고급 인재 및 교육 시스템, 글로벌 표준 및 규제에 대한 영향력, 다양한 산업 분야에 적용된 AI 기술 등에서 강점을 가진 것으로 진단됐다. 이와 관련해 미국은 AI 컴퓨팅을 위한 필수 하드웨어 및 클라우드 기반 서비스를 전 세계에 공급하고 있다. 중국은 자율주행 플랫폼과 같은 AI 소비재 기술을 수출하며 세계 기술 공급망에서 중요한 역할을 하고 있는 것으로 평가됐다. 또 미국과 싱가포르는 AI 전문 인재 풀에서 강점을 갖고 있고, 중국은 AI 관련 기술 특허에서 선두를 달리고 있는 것으로 나타났다. 이 같은 상황에서 우리나라는 최근 윤석열 대통령의 비상계엄 사태 여파로 혼란을 맞으면서 '8부 능선'을 넘었던 AI 기본법이 통과되지 못하고 장기 표류될 위기까지 처해 난감해진 상태다. 이 법은 지난달 26일 과학기술정보방송통신위원회(과방위) 전체 회의를 통과, 이달 중 법제사법위원회(법사위)와 본회의만 통과하면 연내 제정을 마무리 할 수 있는 상태였지만 계엄령 선포 이후 제동이 걸렸다. AI 기본법 제정이 불투명해진 상황에서 글로벌 빅테크와 한국 AI 기업의 기술 격차가 더 벌어지고 있다는 점도 우려되는 대목이다. 실제 오픈AI, 메타, 아마존, 마이크로소프트(MS) 등은 동영상 생성 AI를 비롯해 다양한 AI 서비스를 쏟아내고 있지만, 한국은 동영상으로 확장은커녕 이미지 생성 서비스도 제대로 운영하지 못하고 있는 실정이다. 카카오는 내년 7월 이미지 생성 AI 서비스 '칼로'를, 네이버 자회사 스노우는 오는 18일부터 이미지 생성 AI 서비스 '라스코AI'를 완전 종료키로 했다. 2027년까지 'AI 3대 강국'를 목표로 인프라 투자와 지원을 구체화하겠다는 정부의 계획도 현재 혼란해진 상황 탓에 차질을 빚게 됐다. 대통령 직속 국가AI위원회는 지난 2일 산업계·학계 등 각계 전문가들로 분과위원회 구성을 마무리하고 내년 1분기를 목표로 국가 AI 전략을 수립할 예정이었지만, 이 역시 불투명해졌다. 정치권에서 대통령 탄핵을 우선 순위로 삼고 있어서다. 일단 우리 정부는 우리나라의 AI 기술 수준을 미국, 중국과 견줄 수 있는 수준으로 끌어올리겠다는 각오다. 이를 위해 과학기술정보통신부는 지난 10일 확정된 약 18조9천억원의 내년도 예산을 AI를 비롯한 3대 게임체인저 기술을 중심으로 투자할 예정이다. 업계 관계자는 "한국은 스스로의 실력으로 AI 혁명을 진행하고 있는 몇 안 되는 나라로 꼽히지만, AI 민간투자는 이스라엘(3위)에 비해서도 한참 떨어진 18위에 머문다"며 "AI 3대 강국이 되려면 해외 빅테크와의 확연한 체급 차이도 극복해 나가야 하는데 비상 계엄 사태에 이은 윤석열 대통령 탄핵 정국으로 혼란스러운 데다 투자 움직임마저 소극적이어서 쉽지 않다"고 말했다.

2024.12.11 18:52장유미

계엄·탄핵 정국에 'AI기본법' 표류…韓 AI 경쟁력 저하 우려 ↑

12·3 비상계엄 사태에 이은 윤석열 대통령 탄핵 정국으로 인공지능(AI) 기본법이 장기간 표류할 가능성이 커지면서 업계의 근심이 짙어지고 있다. 해외 빅테크가 속속 새로운 AI 기술을 선보이며 격차를 벌이고 있는 반면, 국내 기업들은 AI 관련 제도 미비로 경쟁력 강화에 속도를 내지 못하면서 점차 글로벌 시장에서 뒤처지고 있다는 위기 의식도 커지고 있다. 11일 업계에 따르면 윤 대통령 탄핵 추진 이후 여야 대립이 극심해지면서 AI 기본법의 통과 시기가 내년으로 밀릴 가능성이 높아졌다. 국회 본회의에선 당초 AI기본법 심의·의결을 지난 10일 처리하려고 했으나, 비상계엄 사태 여파로 이날 내란 혐의 규명을 위한 상설특검 수사요구안만 의결됐다. AI기본법을 비롯한 과학기술정보방송통신위원회(과방위) 안건들은 이날 상정되지도 않았다. AI 기본법은 고위험 영역 AI 고지 의무 부과 등 규제뿐만 아니라 AI 산업 육성과 활용 지원 등 진흥책을 규정한 법안이다. 이 법이 제정되면 관련 정부 조직을 신설하고 예산을 빠르게 집행할 수 있다. ▲AI 기술 도입과 활용 지원 ▲산업 육성 ▲AI 윤리원칙에 따른 정책 수립 ▲고위험 영역 AI 고지 의무 부과 등 AI 산업 진흥·규제에 대한 기준을 명시하고 있지만, 국내에선 그간 법적 근거가 마련되지 않아 글로벌 흐름에 뒤처지고 있다는 평가가 많았다. 이에 여야 의원들은 관련 법안을 쏟아 냈다. 현재 과방위 전체 회의를 통과한 AI 기본법은 발의된 19건의 법안을 병합한 안이다. 업계에선 이 법이 21대 국회에서 처리해주기를 간절히 바랐다. 업계는 최근 분위기로 볼 때 이르면 오는 28일께 AI 기본법이 제정될 것으로 기대했다. 하지만 윤 대통령이 지난 3일 밤 급작스럽게 계엄령을 선포하면서 상황이 꼬이게 됐다. 이 법은 지난달 26일 과학기술정보방송통신위원회(과방위) 전체 회의를 통과, 이달 중 법제사법위원회(법사위)와 본회의만 통과하면 연내 제정을 마무리 할 수 있는 상태였다. 업계에선 예기치 못한 비상계엄과 탄핵정국 전환으로 여야 대립이 심화된 상황에서 정치 공방이 장기화되면 지난 회기처럼 내내 표류하다 끝날까 우려하고 있다. 또 연내 통과를 기점으로 기술력을 끌어올리기 위해 투자·채용에 나서려던 기업들도 당혹감을 감추지 못하고 있다. AI 기본법 제정이 불투명해진 상황에서 글로벌 빅테크와 한국 AI 기업의 기술 격차가 더 벌어지고 있다는 점도 우려되는 대목이다. 실제 오픈AI, 메타, 아마존, 마이크로소프트(MS) 등은 동영상 생성 AI를 비롯해 다양한 AI 서비스를 쏟아내고 있지만, 한국은 동영상으로 확장은커녕 이미지 생성 서비스도 제대로 운영하지 못하고 있는 실정이다. 카카오는 내년 7월 이미지 생성 AI 서비스 '칼로'를, 네이버 자회사 스노우는 오는 18일부터 이미지 생성 AI 서비스 '라스코AI'를 완전 종료키로 했다. 업계 관계자는 "정부의 AI 관련 지원이 법 제정 없이 하기에는 현재로선 한계"라며 "기술 발전을 위해선 최소한의 틀이라도 갖춰져야 하는데 다른 현안들에 밀려 법 제정이 계속 이뤄지지 않고 있어 답답하다"고 밝혔다. 2027년까지 'AI G3(3대 강국)'를 목표로 인프라스트럭처 투자와 지원을 구체화하겠다는 정부의 계획도 차질을 빚게 됐다. 대통령 직속 국가AI위원회는 지난 2일 산업계·학계 등 각계 전문가들로 분과위원회 구성을 마무리하고 내년 1분기를 목표로 국가 AI 전략을 수립할 예정이었지만, 이 역시 불투명해졌다. AI기본법 제정을 의욕적으로 추진해온 과학기술정보통신부는 정기국회 종료 이후에도 임시국회에서 올해 안에 최대한 진척이 이뤄질 수 있게 노력한다는 방침이다. 업계 관계자는 "규제 세부 내용에 대한 찬반을 떠나 규제 불확실성이 해소되는 것만으로도 기업들이 대응하기 수월할텐데 전혀 예상치 못한 윤 대통령의 비상계엄 선포와 해제로 국정이 대혼란을 맞게 된 것이 답답하다"며 "AI에 투자를 집중할 수 있는 법 체계를 마련해야 하는 중요한 상황에서 이 같은 일이 벌어지면서 업계 분위기가 전반적으로 다소 침체된 듯 하다"고 말했다. 또 다른 관계자는 "국가 지원이 제때 이뤄지지 않으면 결국 AI 관련 인력 유출 등의 여파로 막대한 손실이 일어날 수밖에 없을 것"이라며 "산업의 흐름이 굉장히 빠르게 바뀌는 시점에서 이런 일이 발생해 안타깝다"고 밝혔다.

2024.12.11 10:00장유미

[인터뷰] "AI만을 위한 보안책 없어…美 클라우드법 우려 해소 노력"

[라스베이거스(미국)=김미정 기자] "생성형 인공지능(AI) 시대 속 보안 분야는 새로운 도전을 맞이하고 있습니다. 아마존웹서비스(AWS)는 전통적 보안 체계를 유지하면서도 신기술로 AI 보안을 강화하고 있습니다. 한국을 포함한 해외 기업들의 클라우드법(Cloud Act)에 대한 우려를 완화하고, 물리·논리적 접근을 통한 데이터센터 보안 강화에도 총력을 다하고 있습니다." AWS 마크 라이랜드 아마존 보안 총괄 책임은 최근 기자와 만나 생성형 AI와 클라우드, 데이터센터 보안 전략을 이같이 밝혔다. 라이랜드 책임은 13년 동안 아마존에서 근무했다. 그동안 클라우드 제품을 비롯한 데이터센터, 데이터베이스(DB), AI 솔루션에 들어가는 보안을 총괄해 왔다. "AI만을 위한 보안 없다…전통·최신 기술 합쳐야" 마크 라이랜드 책임은 생성형 AI만을 위한 뾰족한 보안은 존재하지 않는다고 강조했다. 전통적인 보안 방식과 최신 보안 방식을 결합하는 게 최선이라고 주장했다. 그는 전통적인 보안으로 시스템 최소 접근 권한과 데이터 암호화, 기밀 컴퓨팅 등 기존 검증된 보안 조치가 생성형 AI 시스템에도 동일하게 적용돼야 한다고 말했다. 그는 "전통적 보안 운영 시스템은 AI 시스템에 내장된 자원을 보호하고 새로운 형태의 AI 오용을 방지할 수 있다"며 "이를 바탕으로 AI로 AI를 점검하는 상호 검증을 할 수 있어 AI의 잠재적 약점을 선제적으로 파악할 수 있다"고 설명했다. 라이랜드는 전통적 방식뿐 아니라 AI를 이용한 생성형 AI 보안에도 힘쓴다고 했다. 우선 AI로 생성된 이미지뿐 아니라 음성, 동영상에도 워터마크를 삽입하려는 방법을 연구 중이다. 이를 통해 AI가 생성한 결과물임을 시스템이 감지할 수 있도록 하기 위해서다. AI 솔루션 개발 과정에서는 AI를 이용해 제품 품질을 높이고 시스템 버그와 보안 취약점을 최소화하고 있다. AWS 레드팀이 AI 모델 배포 전후로 지속적인 공격 시도를 모의 실험함으로써 약점을 찾아내고 내·외부 전문가와 자동화 도구를 활용해 테스트를 확장하는 접근법도 이뤄지고 있다. 그는 "이같은 보안 조치는 아마존이 최근 출시한 '아마존 노바' 에도 적용됐다"고 덧붙였다. 라이랜드는 생성형 AI 보안을 100% 막을 방법은 아직 없다고 주장했다. AI가 공격·방어 양면에서 활용될 수 있기 때문이다. 다만 그는 AI를 통한 이점이 피해보다 더 많다고 했다. 그러면서 "현재로서는 AI를 통한 사이버 방어 능력을 강화하기 위하 막대한 투자가 필요하다"고 덧붙였다. 해외 기업 '클라우드 액트' 우려..."누구도 데이터 못 봐" AWS는 미국의 '클라우드법(Cloud Act)'으로 인한 해외 고객사 우려 해소에도 힘쓰고 있다. 클라우드법은 미국 정부가 법 집행 목적으로 미국 기업이 해외 서버에 보관 중인 데이터에 접근할 수 있도록 허용하는 법이다. 이를 통해 미국 정부는 해외 정부·기업에 데이터 접근을 요청할 수 있다. 한국을 비롯한 해외 기업들은 미국 클라우드법에 대해 우려를 표하고 있다. 이에 라이랜드 책임은 "한국을 비롯한 모든 국가·기업이 이런 이슈에 걱정하는 것을 알고 있다"며 "기술적·정책적으로 이런 우려는 있어선 안 된다"고 주장했다. 그는 미국 정부가 AWS 고객 데이터를 받더라도 이를 바로 활용하지 못한다고 밝혔다. AWS가 미국 정부에 암호화된 데이터를 제공할 수 있지만 이를 해독할 수 있는 기술은 미국 정부뿐 아니라 AWS 내부에도 없다는 이유에서다. 라이랜드 책임은 "AWS 클라우드는 고객 데이터 암호화·관리 아키텍처로 구성됐다"며 "미국 정부가 데이터를 받아도 이를 해독할 수 없는 이유"라고 강조했다. 라이랜드는 AWS가 6개월마다 투명성 보고서 발행을 통해서도 이슈 해결에 힘쓰고 있다고 말했다. AWS는 미국 정부가 요청한 외국 기업·정부 데이터 접근 요청 건수를 보고서로 공개한다. 현재까지 해당 요구 사례는 0건인 것으로 나타났다. 그는 클라우드법 문제를 정부 대 정부 차원의 외교적 영역이라는 점을 강조했다. 이에 라이랜드 책임은 "미국 정부가 외국 기업·정부 데이터 접근을 요구할 때 해당 국가에 직접 요청하도록 합의된 상태"라고 덧붙였다. 데이터센터 보안 강화…'가드듀티'에 AI 탑재 AWS는 데이터센터 보안 강화를 한층 업그레이드했다. 물리·논리적 접근을 분리하는 아키텍처 설계법과 AI를 통한 이상징후 탐지 기술을 활용하고 있다고 밝혔다. 라이랜드 총괄은 AWS가 데이터센터 설립 초기부터 고객 데이터 보호를 위한 '다단계 보안 체계'를 갖췄다고 설명했다. 그는 "데이터센터는 외곽 경비부터 게이트, 건물 가장자리, 내부 복도 진입 시 생체 인증을 거치는 물리적 접근 통제로 이뤄졌다"며 "데이터센터에 들어가는 과정 자체가 타사보다 철저하다"고 강조했다. AWS 데이터센터는 논리적 접근 방식도 핵심 요소로 꼽힌다. 우선 데이터센터에서 근무하는 운영 인력은 장비 운용에 필요한 접근 권한만 갖고 있다. 시스템 내 별도 소프트웨어(SW)나 서비스에 대한 논리적 접근 권한은 없다. 해당 인력은 데이터센터와 떨어진 사무실에서 근무한다. 이를 통해 단순 장비 위치나 형태만 알고는 고객 데이터를 특정하거나 불법 접근을 할 수 없다. 라이랜드 책임은 물리·논리적 접근뿐 아니라 AI를 활용한 이상행동 탐지·경보 기술 강화에도 힘썼다고 강조했다. 현재 AWS는 '가드듀티(GuardDuty)' 기술로 AI 기반 이상행동 탐지와 경보 기능을 업그레이드했다. 특히 비정상적 도메인 네임 시스템(DNS) 조회 패턴, 갑작스런 중앙처리장치(CPU) 사용량 변화, API 호출 위치 불일치 등을 가드듀티로 실시간 감지할 수 있다. 최근 AWS는 다양한 로그와 이벤트를 종합 분석할 수 있는 복합 모델까지 가드듀티에 넣었다. 예를 들어 DNS 이상행동 이후 일정 시간 간격으로 발생하는 API 호출, 클라우드트레인 로그 이상 등을 AI로 파악해 공격 패턴 여부를 판단한다. 그동안 전문가가 직접 분석해야 했던 요소였다. 라이랜드 책임은 "가드듀티는 경고를 '람다' 등 자동화 도구와 연계해 즉각적 대응을 하고 있다"며 "보안 전문가는 최종 경고 분석, 의사결정에만 집중하면 돼 효율적"이라고 강조했다.

2024.12.10 09:52김미정

[기고] AI 발전과 아동·청소년 보호

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주] 인공지능(AI)의 비약적인 발전은 우리의 일상생활에 깊숙이 스며들며 효율성과 편리함을 극대화하고 있다. 개인화된 추천 시스템부터 의료, 교육, 공공서비스에 이르기까지 우리가 직면한 많은 문제를 해결하는 데 기여하고 있다. 그럼에도 눈부신 기술발전의 이면에 존재하는 부작용을 간과할 수 없다. 특히 AI 기술발전이 아동·청소년처럼 기술적 맥락에 취약한 집단에 대해 미칠 영향에 대한 진지한 고민이 필요하다. 오늘날 소셜 네트워크 서비스(SNS)는 단순한 소통의 매개체를 뛰어넘어 거대한 상업적 플랫폼이 됐다. 주요 SNS 기업들은 사용자의 이용패턴, 관심사 등을 분석해 AI 알고리즘에 학습시켜 광고를 포함한 콘텐츠를 추천하는 서비스를 주 수익모델로 삼고 있다. 그런데 이러한 과정에서 대규모의 개인정보 및 데이터 수집과 분석이 이루어지기 때문에 프라이버시와 개인정보 침해 우려가 상존한다. 특히 아동·청소년의 의사결정과 정서에 부정적 영향을 미칠 가능성이 높다. 아동·청소년은 자신이 보는 콘텐츠와 광고가 어떤 의도로 설계되었는지 이해하기 어렵고 이는 무절제한 소비, 유해하거나 부적절한 콘텐츠에 대한 노출, 정체성 혼란과 같은 부작용으로 이어질 수 있기 때문이다. 세계 여러 나라에서는 이같은 문제의식을 기반으로 디지털 환경에서 아동·청소년을 보호하기 위한 방안을 모색하고 있다. 최근 호주가 세계 최초로 16세 미만 미성년자의 SNS 이용을 전면 금지하고 이를 위반한 업체에게 최대 450억원의 벌금을 부과하기로 하는 강력한 법안을 통과시켜 화제가 됐다. 호주는 지난 2022년 1월부터 시행된 '온라인 안전법 2021(Online Safety Act 2021)'에서 '아동을 대상으로 하는 사이버 폭력 자료'를 규정하고 서비스제공자에게 관련 자료를 최소화하기 위한 조치의무를 부과하고 있다. 영국에서는 지난 2017년 몰리 러셀이라는 14세 아동의 자살로 아동에 대한 SNS의 책임에 관한 논의가 촉발된 바 있다. 약 6년간의 논의 끝에 지난 2023년 10월 '온라인 안전법 2023(Online Safety Act 2023)'이 제정 및 공표됐다. 이 법에서는 아동성착취∙성학대 등 범죄에 해당하는 불법콘텐츠와 자살이나 자해, 혐오나 사이버괴롭힘, 그밖에 심각한 위해를 초래할 가능성이 있는 유해콘텐츠를 규정하고 서비스제공자가 불법∙유해콘텐츠를 발견하면 신속히 삭제 또는 차단하도록 했다. 미국 상원은 지난 7월 30일 '아동 온라인 안전법안(KOSA)'과 '어린이 및 10대 온라인 프라이버시 보호법 개정안(COPPA 2.0)'을 묶은 입법 패키지(KOSPA)를 의결했다. 'KOSPA'는 아직 하원 통과를 남겨두고 있지만 미국에서 지난 1998년 제정된 'COPPA' 이후 수십년 만에 연방 차원에서 온라인 아동보호를 위한 주요 법안의 제정을 추진한 것이라는 점에서 의미가 있다. 'KOSA'는 17세 미만 미성년자가 사용할 가능성이 큰 온라인 플랫폼에 대해 ▼정신건강 장애 ▼중독 ▼정신적·신체적 폭력 및 괴롭힘 ▼불법 약물 관련 홍보 및 마케팅 ▼성적 착취 및 학대 ▼약탈적 및 기만적 마케팅 또는 금전적 피해 등 미성년자에게 발생할 수 있는 특정 유해 요소들을 완화하기 위한 조치를 취했다. 합리적인 조치를 취해야 한다는 '주의의무(duty of care)'를 부과하면서 서비스제공자의 관리책임을 콘텐츠 자체가 아니라 서비스의 설계를 중심으로 구성했다는 것이 특징이다. 'COPPA 2.0'은 지난 1998년 제정된 'COPPA'의 개정안으로, 법 적용을 받는 미성년자의 최소연령을 13세에서 16세로 상향해 17세 미만 사용자의 개인정보를 동의없이 수집할 수 없도록 규정하고 아동·청소년을 대상으로 한 맞춤형 광고를 금지하며 '지우기 버튼(Eraser Button)'을 도입해 아동·청소년이 본인의 개인정보를 삭제할 수 있는 기능 제공을 의무화했다. 또 현행법의 '실제 인지(actual knowledge)' 기준을 수정해 플랫폼이 사용자가 미성년자임을 몰랐다는 주장을 할 수 없도록 했다. 국내 법상 디지털 환경에서 아동·청소년을 보호하기 위한 별도의 법령이 존재하지는 않는다. 다만 개인정보보호법상 만 14세 미만 아동의 개인정보처리를 위해서는 법정대리인의 동의를 받도록 하는 규정(제22조의 2), 아동·청소년의 개인정보 처리자를 위한 가이드라인(개인정보보호위원회, 2022. 7. 22.), 만 14세 미만 아동에게 맞춤형 광고를 제공하려면 법정대리인의 동의를 받도록 하는 조치(개인정보보호위원회, 맞춤형 광고에 활용되는 온라인 행태정보 보호를 위한 정책방안, 2024. 1.)들을 마련해 나가고 있는 것으로 보인다. 아동·청소년의 취약성 및 보호필요성을 고려하면 이들에게 AI에 기반한 서비스를 제공하는 사업자에게 상대적으로 많은 책임을 부여할 수밖에 없게 된다. 해외의 규제 흐름도 전반적으로 그러한 방향인 것으로 보인다. 그럼에도 이에 대해서는 표현의 자유 침해, 콘텐츠 검열 가능성 등 위헌적 요소가 존재한다는 비판이 대립하고 있어 지속적인 논의와 연구가 필요하다. 더 나아가 아동·청소년의 권리를 보호하는 규제를 설계하기 위해서는 현대 사회의 디지털 환경이 아동·청소년의 발달에 필수적인 조건이며 알권리와 참여권 실현에 긍정적 역할을 할 수 있다는 점, 아동·청소년 이용자가 단지 피해자에 머무는 것이 아니라 쉽게 가해자의 지위에 놓일 수 있다는 점까지 종합해 섬세한 접근이 필요할 것이다.

2024.12.08 13:09법무법인 태평양 노은영

AI 3대 강국 꿈 또 멀어지나…AI 기본법, 尹 비상계엄 '직격탄'

정보기술(IT)업계가 손꼽아 기다리던 '인공지능(AI)산업 육성 및 발전 등에 관한 법률안(AI기본법)'이 관문 두 개만 남겨 놓은 상태에서 난관에 부닥쳤다. 윤석열 대통령의 갑작스런 비상계엄 선포 여파로 입법 절차에 제동이 걸리면서 연내 제정이 좌초될 위기에 놓였다. 4일 업계에 따르면 여야는 오는 10일 국회 본회의에서 AI 기본법을 처리할 계획이었다. 이 법은 지난달 26일 과학기술정보방송통신위원회(과방위) 전체 회의를 통과, 이달 중 법제사법위원회(법사위)와 본회의만 통과하면 연내 제정을 마무리 할 수 있는 상태였다. AI 기본법은 고위험 영역 AI 고지 의무 부과 등 규제뿐만 아니라 AI 산업 육성과 활용 지원 등 진흥책을 규정한 법안이다. 이 법이 제정되면 관련 정부 조직을 신설하고 예산을 빠르게 집행할 수 있다. ▲AI 기술 도입과 활용 지원 ▲산업 육성 ▲AI 윤리원칙에 따른 정책 수립 ▲고위험 영역 AI 고지 의무 부과 등 AI 산업 진흥·규제에 대한 기준을 명시하고 있지만, 국내에선 법적 근거가 마련되지 않아 글로벌 흐름에 뒤처지고 있다는 평가가 많았다. 이에 여야 의원들은 관련 법안을 쏟아 냈다. 현재 과방위 전체 회의를 통과한 AI 기본법은 발의된 19건의 법안을 병합한 안이다. 업계에선 이 법이 21대 국회에서 처리해주기를 간절히 바랐다. 업계는 최근 분위기로 볼 때 이르면 오는 28일께 AI 기본법이 제정될 것으로 기대했다. 하지만 윤 대통령이 지난 3일 밤 급작스럽게 계엄령을 선포하면서 상황이 꼬이게 됐다. 당초 이 법은 4일 또는 9일 법사위에 안건이 상정될 예정이었다. 하지만 비상계엄 여파로 아직 법사위에 올라가지도 못했다. 현재로선 10일 본회의 일정도 불확실하다. 이 탓에 2027년까지 'AI G3(3대 강국)'를 목표로 인프라스트럭처 투자와 지원을 구체화하겠다는 윤석열 정부의 계획도 차질을 빚게 됐다. 대통령 직속 국가AI위원회는 지난 2일 산업계·학계 등 각계 전문가들로 분과위원회 구성을 마무리하고 내년 1분기를 목표로 국가 AI 전략을 수립할 예정이었지만, 이 역시 불투명해졌다. 야당이 윤 대통령에 대한 탄핵안을 발의한 상태이기 때문이다. 업계 관계자는 "전혀 예상치 못한 윤 대통령의 비상계엄 선포와 해제로 국정이 대혼란을 맞으면서 AI 기본법 연내 제정을 추진하려던 동력이 상실된 분위기"라며 "여야 간 예산안 및 탄핵 문제로 정쟁이 격화되면서 지금은 이 법안이 후순위로 밀린 상황"이라고 말했다.

2024.12.04 18:23장유미

'AI 기본법' 국회 과방위 통과...연내 제정 청신호

인공지능(AI) 기본법 제정안이 26일 국회 과학기술정보방송통신위원회를 통과했다. 22대 국회 들어 본격적인 논의를 진행, 첫 법안소위 논의에서 제정법안에 대한 공청회 논의를 준비하고 지난주 법안심사 통과에 이어 상임위를 거친 뒤 27일 법제사법위원회에서 다뤄질 예정이다. 이에 따라, AI 기본법 연내 본회의 통과가 가시화됐다. 과방위는 이날 전체회의를 열어 '인공지능 발전과 신뢰기반 조성 등에 관한 기본법안'을 의결했다. 이 법안은 관련 절차를 거쳐 법사위 상정을 앞두게 됐다. AI 도입 활용 지원...AI 신뢰 확보 AI기본법은 총 19건의 발의법안을 통합 조정한 것으로 주요 골자는 AI 기술과 산업 진흥을 지원해 AI의 건전한 발전에 기여하고, AI 사업자의 투명성과 안정성을 확보해 신뢰 기반을 규정하고 있다. 이를 통해 국민 삶의 질을 높이고 국가 경쟁력을 강화하겠다는 취지다. 구체적으로 국가AI위원회 구성 운영에 대한 법적 근거를 담아 AI 기술을 도입하고 활용하는 데 지원한다. 또 AI직접다지를 지정하고 AI 데이터센터 생태계 구축을 추진하는 동시에 과학기술정보통신부 장관이 사실조사 진행과 시정명령 부과를 이행할 수 있도록 했다. 최근 딥페이크 논란을 반영해 생성형 AI 결과물에 대한 워터마크 등의 표시를 하게 하고 고영향 AI 규율 및 AI 영향평가 조항을 담았다. 고영향 AI와 AI 영향평가는 더불어민주당 이훈기 의원과 조국혁신당 이해민 의원의 발의안에서 따온 개념으로 고위험 영역 AI로 규율하고자 한 것을 이용자 중심 시각의 표현으로 고영향 개념을 도입하고 국민 기본권에 미치는 영향을 살피자는 것이다. 이해민 의원은 “AI 를 '위험한 것'으로 미리 단정 짓지 않고, 사회에 '영향을 미치는 것'으로 바라보면서 그 영향력을 현명하게 관리하자는 취지로 '위험' 대신 '영향'이라는 단어를 제안했다”고 밝혔다. 이훈기 의원은 “급속한 AI 발전에 대한 막연한 기대와 두려움 가운데 AI 발전과 안전성 확보를 위한 기본 법제가 절실했다”며 “다양한 관련 법률안 중 AI가 우리 국민의 기본권에 미치는 영향평가를 포함하는 제정법을 만든 만큼 의미가 남다르다”고 설명했다. EU 이어 전세계 두 번째 AI 법제화 정부는 최우선 과제로 추진한 AI 기본법 제정이 국회 상임위 문턱을 넘어선 데 감사를 표했다. 유상임 과기정통부 장관은 “AI 기본법 제정안 (상임위) 의결로 AI 발전과 신뢰 기반 조성을 위한 제도적인 틀이 갖춰졌다”며 “글로벌 패권 경쟁이 활발한데, 유럽연합(EU)에 이어 전 세계에서 두 번째로 법률을 마련해 글로벌 G3 강국으로 나설 수 있는 기틀을 마련하게 됐다”고 말했다. 과방위는 AI기본법 제정안 마련에 그치지 않고 예산 지원과 함께 후속 법제화를 고민하겠다는 뜻을 밝혔다. 과방위 예결소위원장을 맡고 있는 민주당 정동영 의원은 “우리의 자본은 미국처럼 단기간에 민간에서 막대한 투자가 이뤄질 수 있는 환경이 아니기 때문에 선도적인 인프라 투자가 필요하다”며 “일본, 프랑스, 캐나다에 이어 중동 국가까지 정부가 나서 인프라 투자에 나서는 것도 그같은 이유”라고 운을 뗐다. 이어, “AI 예산을 1조 증액하겠다고 밝힌 것은 정부가 앞서 편성한 수준으로는 AI 주도권을 확보하기에 턱없이 부족하다는 평가 때문이었다”며 “AI를 세계에서 가장 잘 쓰는 나라를 목표로 AI 인프라에 투자해 G3 국가로 만드는 데 정부가 총력을 기울이길 바란다”고 당부했다. 이해민 의원은 “기본법은 그릇을 만드는 법안이라 생각하기 때문에 어떤 부분에서 명확하지 않은 영역이 존재하는 것이 사실이다”며 “앞으로 규제를 담당하게 될 과기정통부는 규제 범위가 어떤 식으로 이뤄지는지, 어떤 문제가 있는지 철저히 검토해 지속적으로 법의 완결성을 더해갈 수 있도록 신경써야 한다”고 주문했다. 최민희 과방위원장은 “과방위에서 기본법을 통과시키면 다른 상임위에서 AI 관련 후속법안이 잇따를 것”이라며 “AI 기본법이 시행되는 과정을 지켜보면서 시민사회와 학계가 걱정하는 인간 생명 전반과 인권 침해 요소 등을 국회가 정부와 상황을 지켜보면서 후속 입법과 개정안을 준비하겠다”고 밝혔다. 그러면서 “100% 안전한 법안이 아닌 것을 알고 있지만 경제의 혁신을 위해 기본법 통과에 뜻을 모았다”고 덧붙였다.

2024.11.26 11:47박수형

염재호 국가AI위원회 부위원장 "AI기본법 제정 시급"

염재호 국가AI위원회 부위원장이 AI기본법 제정의 시급함을 강조하고 나섰다. 염 부위원장은 한국법제연구원(원장 한영수)이 25일 그랜드인터컨티넨탈서울에서 개최한 제63회 입법정책포럼에서 'AI 시대 문명사의 대전환'을 주제로 초청 강연했다. 이 자리에서 염 부위원장은 AI 발전이 기술이나 산업의 변화를 넘어 정치적, 사회적, 경제적, 법적, 문화적 질서를 근본적으로 재구성하는 중요한 전환점에 있다는 점을 설명하며, 이를 뒷받침하기 위한 AI기본법 제정의 시급함을 강조했다. 염 부위원장은 또 "AI위원회가 과기정통부서 시작했지만, 갈수록 중요해지며 대통령이 위원장을 맡게 됐다"며 이어 ▲AI 시대의 대학 교육 ▲전 세계 AI 관련 법 동향과 함께 정부에서 발표한 디지털권리장전의 주요 내용과 국가AI위원회 전략, 정책 방향에 대해 설명했다. 염 부위원장은 제19대 고려대 총장을 지냈다. 2023년 9월 개교한 태재대학교 초대 총장을 맡고 있다. 이전에는 국가과학기술위원회 위원, 과학재단 이사 등을 역임했다. 한영수 한국법제연구원장은 “AI의 혁신성을 최대화하면서 안전성은 최소화하고, 모든 인류가 AI 기술로부터 소외되지 않도록 입법이 이루어져야 한다”고 전했다. 한편, 한국법제연구원은 다양한 분야의 전문가를 초청, 입법성과를 공유하고 새로운 입법과제를 발굴하는 입법정책포럼을 지속 개최하고 있다.

2024.11.25 18:01박희범

AI기본법·단통법 폐지안, 국회 법안소위 통과

인공지능(AI) 기본법 제정안이 법안심사소위 문턱을 넘었다. 핵심 쟁점에 대한 합의가 이뤄지면서 연내 제정 가능성에 파란불이 켜졌다. 아울러 단말기유통법 폐지안도 예상을 넘어 빠른 속도로 법안심사소위를 통과했다. 과학기술정보방송통신위원회는 21일 열린 법안소위에서 AI기본법 발의안 19건을 병합 심사해 통과시켰다. 또 여야 의원이 각각 발의한 단통법 폐지안도 상임위 대안을 마련했고, 디지털포용법 제정안도 통과했다. 우선 AI기본법안은 산업 진흥과 신뢰, 안정성 확보를 위한 규제를 모두 담았다. 예컨대 정부가 AI 진흥계획을 수립하고, 인간의 생명이나 신체 안전과 관련한 AI 기술은 고영향 AI로 분류해 이에 대한 사업자 책임 조항을 포함시켰다. 금지AI에 대한 규정은 제외했다. 최근 딥페이크 논란을 고려해 AI 기반 영상과 사진에는 워터마크를 넣도록 규정했다. AI 기본법 제정안은 지난 회기부터 논의됐고 여야가 조속한 처리에 뜻을 모은 만큼 이르면 다움주 개최 예정인 상임위 전체회의를 거쳐 연내 국회 본회의 통과가 가능할 것이란 전망이 우세하다. 단통법 폐지안은 업계의 예상을 뛰어넘어 빠르게 처리됐다. 추가 논의가 이뤄져야 한다는 전망이 우세했으나 여야가 우선 법안 폐지에 속도를 내기로 하면서 소위 문턱을 깜짝 넘게 됐다. 단통법 폐지안은 국민의힘 박충권 의원 발의안과 더불어민주당 김현 의원 발의안을 병합해 상임위 대안이 마련됐는데, 선택약정할인을 유지하는 방안을 골자로 담았다. 아울러 약정할인 유지를 위해 이통 3사에 대한 유보신고제 도입 조항이 전기통신사업법에 신설되는 안이 통과했다. 여야가 단통법 폐지에 속도를 내기로 한 만큼 전체회의와 국회 본회의까지 오르는 일정도 빠르게 진행될 것으로 전망된다. 다만, 단통법 주요 조항이 전기통신사업법으로 이관되며 새로운 고시와 시행령이 만들어지는 시점을 고려하면 실제 단통법 폐지 시행은 내년 하반기 이후로 예상된다. 이밖에 국민의힘 고동진, 김장겸 의원과 민주당 박민규 의원이 대표발의한 디지털포용법 제정안도 소위 문턱을 넘었다. 정부는 국민이 AI 디지털 혁신 성과를 체감하면서 동시에 누구도 소외되지 않고 디지털 혜택을 누릴 수 있는 디지털포용법 제정에 무게를 실어왔다.

2024.11.21 16:41박수형

국회AI포럼, 인공지능법 여야 공동 발의

국회AI포럼의 이인선 대표 의원(국민의힘)과 조승래 연구책임의원(더불어민주당)이 공동으로 인공지능법을 대표 발의했다 . 국회AI포럼은 지난 7월 창립총회를 갖고 출범을 알린 뒤 각계 전문가를 초청해 AI 업계 동향과 AI 시대 법제 마련 필요성, AI 관련 해외 입법 동향 등을 논의해왔다. 이같은 논의 결과를 바탕으로 18일 '인공지능 진흥에 관한 법률안'과 '인공지능의 안전 및 신뢰 기반 조성에 관한 법률안' 2건을 공동으로 대표발의 했다. 인공지능 산업 분야 진흥을 위해 제도적으로 인공지능기술의 개발과 관련 산업의 활성화를 지원할 근거 규정을 마련하고, 안전하고 신뢰할 수 있는 인공지능의 발전 및 이용을 담보할 수 있는 기본 사항 등을 인공지능 진흥법에 담았다. 아울러 인공지능의 개발 및 이용 과정에서 발생할 수 있는 위험에 대비하기 위해 국민의 건강이나 안전, 권리와 의무에 중대한 영향을 미칠 우려가 있는 인공지능에 관한 규율체계를 정립하는 내용으로 인공지능 안전 및 신뢰법을 마련했다. 이인선 의원은 “대한민국이 인공지능 강국으로 도약하기 위한 첫 걸음이 인공지능 기본법인데, 국회 AI 포럼에서 다양한 의견을 모은 기본법을 발의하게 되어 기쁘게 생각한다”며 “포럼에서는 미래 사회의 변화를 선도하고 우리의 삶을 혁신적으로 변화시킬 수 있는 인공지능 기술의 발전과 활용을 지원하는 활동을 지속적으로 이어가겠다”고 말했다. 조승래 의원은 “AI 포럼 출범 이후 약 4개월간의 전문가 논의 등을 거쳐 법안을 여야가 함께 공동으로 발의한 만큼 해당 법안이 국회에서 잘 논의되어 대한민국이 인공지능 분야에서 앞서나갈 수 있는 기반이 되길 바란다”고 강조했다.

2024.11.18 16:07박수형

"국가AI전략 수립...디지털안전법 제정 추진”

과학기술정보통신부가 국가인공지능위원회 중심으로 수립될 '국가AI전략'의 내실 있는 이행으로 국가 AI와 디지털 경쟁력을 높인다는 방침이다. 체계적인 디지털 재난 안전관리를 위해서는 디지털안전법안을 제정하고 사업자 자발적 안전관리를 위한 디지털 안전관리 협의체 발족을 추진키로 했다. 유상임 과학기술정보통신부 장관은 지난 15일 브리핑을 열어 이번 정권의 ICT 분야 정책 성과로 ▲AI 디지털 경쟁력 제고 ▲글로벌 디지털 질서정립 주도 ▲네트워크 고도화 ▲디지털 안전 확보 ▲디지털 민생 안정 등을 꼽으며 이와 같은 추진계획을 밝혔다. 디지털 경제 패권국가 과기정통부는 지난 2022년 대통령 뉴욕구상 이후로 '대한민국 디지털 전략'을 수립하고 초거대AI 경쟁력 강화 방안, AI 디지털 혁신성장 전략 등을 발표했다. ICT규제샌드박스로 기업 매출은 806억원, 신규 고용 7천여명 창출 등을 이끌기도 했다. 범부처 AI일상화 프로젝트를 통해 국민 생활 속 AI를 확산하고 전국 디지털 배움터를 중심으로 3년간 총 244만명에게 디지털 교육을 제공한 점도 성과로 꼽았다. AI 기업 매출 연 40%대 증가를 기록했고 올해 영국 토터스미디어가 발표한 글로벌AI인덱스에서 우리나라는 6위를 차지했다. 또 대통령 뉴욕구상 이후, 세계경제포럼, 파리 디지털 비전 포럼 등에서 글로벌 디지털 질서 논의를 주도하고, 정부는 이를 종합해 '디지털 권리장전'을 발표했다. 올해 AI서울정상회의를 통해 서울선언도 도출했다. 이를 토대로 글로벌 선도국과 함께 지속적으로 디지털 질서를 주도하고 AI 디지털 시대의 시급한 쟁점에 대해 관계부처와 함께 힘을 모아 대응해 나갈 예정이다. 또 정부 후반기에는 국민이 AI 디지털 혁신 성과를 체감할 수 있도록 정책 역량을 집중하고, 누구도 소외되지 않고 디지털 혜택을 누릴 수 있도록 디지털포용법 제정을 추진할 계획이다. 디지털 인프라 혁신 더욱 튼튼한 디지털 인프라 구축을 위해 6G 이동통신, 저궤도 위성통신 등 차세대 네트워크 핵심기술 확보에 착수했다. 올해 4월 5G 전국망을 구축하고, 1천500여개 마을로 농어촌 초고속인터넷망을 확장했다. 미디어콘텐츠 산업융합 발전방안을 수립하고 5년간 1조원 규모 전략펀드 조성과 세제지원 확대에도 나섰다. 카카오 장애사고 등을 전화위복으로 삼아 디지털서비스 안정성 강화방안을 마련하며 디지털 장애 발생을 대폭 줄였다. 아울러 중저가 단말 출시 유도와 함께, 5G 요금제 개편, 알뜰폰 활성화 등에 노력을 기울였고 보이스피싱, 딥페이크 등 디지털 범죄 예방과 대응도 강화했다. 디지털 기술로 국민 안전과 편의에도 크게 기여했다. 도로 지하차도 침수 위험 상황을 내비게이션으로 실시간으로 알리는 서비스를 개시하고, 디지털 긴급구조 기술을 경찰의 인명 구조 작업에 적용하고 있다. 정부 후반기에는 디지털안전법 제정을 추진하고 유상임 장관 지휘에 따라 출범한 디지털 민생지원 추진단 중심으로 불법스팸 척결, IP카메라 보안강화 등을 살핀다는 계획이다.

2024.11.17 12:00박수형

산업부, 산업 AI 정책 진두지휘할 '산업인공지능과' 신설

산업부가 산업 전반에 인공지능(AI)을 스며들게 할 산업 AI 정책을 담당할 '산업인공지능과'를 신설한다. 또 대통령 주재 반도체 특위와 반도체 특별회계 신설 내용을 담은 '반도체 특별법' 제정을 추진하고 'AI 반도체 생태계 지원방안'을 마련한다. 원전 생태계 완전 정상화를 위해 2027년까지 11조원 이상의 일감을 추가 발주한다. 박성택 산업통상자원부 제1차관은 13일 정부세종청사에서 윤석열 정부 임기 반환점을 맞아 그동안 추진해 온 산업·통상·에너지 분야 정책 성과와 함께 이러한 내용을 담은 향후 계획을 발표했다. 박 차관은 “우리 산업은 지금 탄소중립과 AI로 대별되는 산업 대전환의 변곡점에 있다”며 “조만간 산업 AI 정책을 진두지휘할 산업인공지능과를 신설할 계획”이라고 밝혔다. 박 차관은 “부내에 태스크포스(TF)를 가동하고 있는데, 조만간 새로운 시대에 걸맞은 새로운 산업정책을 제시하도록 하겠다”고 덧붙였다. 산업인공지능과는 산업기술융합정책관실에서 산업 디지털전환 사업을 추진하고 있는 산업디지털전환추진팀도 일부 추가해 산업정책관실에 신설된다. 산업부 관계자는 “2000년대 초반 전자상거래가 한창 시작했을 때 전자상거래과를 만들어 정책을 총괄했던 것과 비슷한 개념”이라면서 “AI는 특히 각 경영에서 더 접목해야 하는 부분이어서 총괄적 기능을 수행하게 될 것”이라고 설명했다. 산업부는 내년도 산업정책에 AI를 가장 중요한 포인트로 둔다는 계획이다. 산업인공지능과는 대통령 주재로 만들어진 국가AI위원회와 더불어 정부의 AI 정책에 힘을 싣는 역할을 하게 된다. 산업부는 또 17조원 저리대출 본격 시행 등 기존에 발표한 '반도체 생태계 종합지원 방안'을 차질없이 이행하고 투자세액공제 일몰을 2027년으로 연장하는 방안을 추진한다. 미국 신 정부와 협력을 강화하는 한편 이달 개최 예정인 반도체 다자회의 등을 통해 국내 기업의 글로벌 비즈니스 불확실성을 최소화한다는 계획이다. 내년에는 '반도체 생산국 당사국 회의' 의장국 자격으로 한·미·일·대만·EU를 잇는 '반도체 철의 동맹' 구축을 주도한다. 대통령 주재 반도체 특위와 반도체 특별회계 신설, 주 52시간 규제 적용 제외 등을 담은 '반도체 특별법' 제정을 추진하고 연내에 'AI 반도체 생태계 지원방안'을 마련해 반도체 산업 내 새로운 성장 동력을 확보할 계획이다. 2027년까지 11조원 이상 원전 관련 일감을 추가로 발주해 원전 생태계 완전 정상화를 꾀한다. 정치 환경과 무관하게 안정적이고 일관되게 원전 생태계를 지원하는 법·제도적 기반을 만들기 위해 '원전산업특별지원법'도 제정을 추진한다. 또 원전산업의 중장기 청사진을 제시하고 생태계 고도화 등 이행 계획을 반영한 '2050 중장기 원전산업 로드맵' 수립을 추진하기로 했다. 박 차관은 “수출의 온기가 지역·중소기업·민생 전반으로 확산하도록 진단부터 처방까지 면밀하게 살피는 한편, 미국 신행정부와 한미 통상관계를 안정시키는 데 산업부 역량을 집중하겠다”고 말했다. 이어 “반도체·자동차·이차전지 등 주력 산업에서 전개될 수 있는 다양한 가능성에 대해 기업들과 소통하면서 치밀하게 대응하겠다”고 덧붙였다.

2024.11.13 18:04주문정

유상임 과기정통부 장관 "AI 기본법 연내 통과 희망"

유상임 과학기술정보통신부 장관은 13일 이동통신 3사 CEO 회동 이후 기자들과 만나 "AI 기본법이 연내 통과 될 것이라고 생각하고 있다"고 밝혔다. 유 장관은 통신사 CEO와 첫 회동 소감에 대해 "전체적으로 AI 국면에 접어들어 우리가 국가적으로 다 같은팀이 되지 않으면 힘들겠다는 생각을 했다"고 말했다. 이어, "저 나름대로 민관이 한 마음으로 합치지 않으면 이 시대에 도저히 답이 없다는 그런 차원에서 모두가 공감을 했다"고 덧붙였다. 공정거래위윈회가 통신 3사에 답합 의혹으로 제재를 추진하는 것에 대해서 어떤 대화가 이뤄졌냐는 질문에는 "민관이 같이 협조하는 선에서 마무리 할 수 있도록 노력하겠다"고 답했다. 앞서 공정위는 지난해 2월부터 이통3사가 시장상황반 운영을 통해 판매장려금 상한선을 30만원으로 합의한 것을 담합으로 판단했다. 이에 최대 수조의 과징금을 부과하는 방안을 내부적으로 정하고 전원회의 일정을 조율 중이다.

2024.11.13 15:58최지연

AI 법제화 어떻게 해야할까…첫 '국제' 논의

한국법제연구원(원장 한영수)과 법제처(처장 이완규)는 지난 12일 웨스틴조선에서 '인공지능과 미래법제'를 주제로 제1회 미래법제 국제포럼(The 1st Forum for Future Legislation)을 개최했다. 이 행사는 유럽, 미국, 캐나다, 영국 등 세계 각국의 전문가들이 한자리에 모여 인공지능 법제 최신 동향을 공유하고, 책임 있는 AI 활용을 위한 입법 방향을 모색하는 자리다. 한영수 한국법제연구원장, 이완규 법제처장, 염재호 국가AI위원회 부위원장, 안데르스 라스무센 유럽의회 사무차장 등 국내외 인공지능 분야 등 관련 전문가 150여명이 참석해 기조발제와 전문가 발제 및 토론을 진행했다. 기조연설은 유럽집행위원회 AI 어드바이저 유하 헤이킬라가 EU의 신뢰할 수 있는 인공지능 접근방식을 소개했다. 이어 인공지능 연구에 대한 EU의 지원과 세계 최초의 AI 규제법인 EU 인공지능법의 체계와 주요 특징, 인공지능 법제 분야를 선도하기 위한 EU의 국제적 노력에 대해 설명했다. 첫 번째 세션에서는 'AI 혁신과 신뢰를 위한 법제'를 주제로 미국, EU, 영국 등 주요국의 인공지능 법제를 살펴봤다. 발제자로 유럽의회 디지털 정책 고문인 카이 제너와 엘리프 키에소 코르데즈 미국 스탠포드대 교수, 조단 리차드 쇼운허 미국 슈라이너대 교수, 플로리안 오스만 영국 앨런튜링 연구소 박사와 가천대 최경진 교수가 참석해 각국의 입법 사례를 공유했다. 두 번째 세션은 'AI 활용 지원을 위한 미래 법제'를 주제로 진행됐다. 국제해사기구(IMO)의 도로타 로스트-시에민스카 법무대외협력부장이 IMO의 최신 AI 법제 동향을 발표했다. 이어 이유봉 한국법제연구원 AI법제팀장이 '업무현장에서 AI와 공존하는 미래사회를 위한 입법'을 발표했다. 발제 후 진행된 토론에서는 인간과 인공지능의 협업을 위한 제도적 지원사항과 정부의 행정서비스의 인공지능 도입 방안 등을 논의했다. 한영수 한국법제연구원장은 “전 세계가 인공지능 법제 및 거버넌스 형성 논의를 구체화하는 중요한 시점에 각국의 전문가들이 모여 협력 방향을 모색하는 자리"라며 "인공지능의 법적 기반을 마련하는데 최선을 다할 것”이라고 전했다.

2024.11.13 11:14박희범

이해민 의원, 'AI신호등법' 발의...AI 사회적 영향력 주목

국회 과학기술정보방송통신위원회 소속 이해민 의원(조국혁신당)은 인공지능 기술의 건전한 발전과 안전한 활용을 위한 인공지능산업 진흥 및 인공지능 이용 등에 관한 법률을 대표발의 했다고 12일 밝혔다. 법안은 AI 기술의 혁신을 지원하면서도 그 영향력을 고려한 적절한 관리체계 구축이 목표다. AI 산업의 진흥을 촉진하면서 동시에 안전성과 윤리성을 확보할 수 있는 균형 잡힌 제도적 기반을 마련했으며 특히 인간 중심 AI 사회 구현을 위해 기술발전과 윤리적 가치의 조화를 강조했다. 이 법안의 가장 주요한 특징은 AI를 단순한 기술이나 위험요소가 아닌 사회적 영향력을 지닌 시스템으로 보는 것이다. 이같은 관점에서 고영향 인공지능을 “사람의 생명, 신체, 건강과 안전, 기본권의 보호, 국가안보 및 공공복리 등에 중대하거나 회복하기 어려운 영향을 미칠 우려가 있는” 경우로 포괄적으로 정의했다. 위험성 중심 규제에서 벗어나 AI 기술의 사회적 영향력에 걸맞은 책임과 관리체계를 구축하려는 시도다. 법안은 또 AI 생태계의 다양한 이해관계자들을 체계적으로 정의했다. AI 개발사업자와 이용사업자를 구분하고, 특히 AI 시스템으로부터 직간접적 영향을 받는 '영향받는 자' 개념을 새롭게 도입했다. 이용자 권익 보호를 위한 제도적 장치도 마련했다. 이는 AI 기술이 개발자나 직접적 이용자를 넘어 사회 전반에 미치는 파급효과를 법제도적으로 인정한 최초의 시도로서 이용자 권익 보호를 위한 포괄적인 제도적 장치를 마련했다는 데 의의가 있다. AI 산업 발전을 위한 규제특례와 지원책도 함께 담았다. 신기술 검증을 위한 실증특례와 임시허가 제도를 통해 새로운 AI 기술과 서비스의 신속한 시장 진입을 지원할 예정이다. AI 기술의 발전과 그 사회적 영향력 관리를 동시에 추구하는 법안의 기본 철학을 반영한 것이다. 이해민 의원은 “현재 AI 산업은 신호등 없는 강남역 사거리를 질주하고 있는 상황”이라며 “이번에 발의한 인공지능법이 제대로 된 혁신과 올바른 이용을 위한 일종의 신호등 역할을 해줄 것을 기대하며 AI 신호등 법이라는 이름을 붙였다”고 설명했다. 이어, “AI는 이제 단순한 기술이 아닌 우리 사회를 근본적으로 변화시키는 동력”이라며 “이번 법안은 AI 가 가진 혁신의 잠재력을 극대화하면서도 그 과정에서 소외될 수 있는 사회 구성원들의 권익을 보호하는 새로운 균형점을 제시하고자 했다”고 강조했다.

2024.11.12 15:13박수형

"양자 클러스터 지정 전국 '핫이슈'...서울·대전 가장 발빠르게 대응"

"양자기술산업법 시행을 앞두고, 양자 클러스터 지정이 전국의 가장 핫한 이슈로 부상했다. 현재 서울과 대전이 가장 발 빠르게 대응 중이다." 18일 국립한밭대학교 국제교류관에서 개최된 혁신클러스터학회 2024 추계학술대회 특별세션5에서 '양자과학기술 및 양자산업 육성에 관하 법률의 현재와 오늘'을 주제로 발표에 나선 강선준 한국과학기술연구원(KIST) 기술사업화실장이 양자관련 법 설명에서 이 같이 말해 관심을 끌었다. 강선준 실장은 중소벤처기업부와 창업진흥원의 '초격차 스타트업 1000+ 프로젝트'에서 양자분야 연구 책임자를 맡고 있다. 강 실장은 양자 관련 입법 배경과 경과, 주요 내용을 분석, 설명한 뒤 "양자 연구센터나 양자팹은 KRISS(한국표준과학연구원)과 ETRI(한국전자통신연구원), KIST(한국과학기술연구원)이 주도하고 있다"며 "가장 핫한 양자 클러스터 지정은 대전과 서울이 가장 발 빠르게 대응하고 있다"고 언급했다. 강 실장은 "양자기술산업법에는 종합계획 수립, 기술 개발 및 상용화 촉진, 인력양성, 연구거점· 클러스터, 국제협력 등의 장기적· 종합적 육성에 관한 내용이 포함돼 있다"며 "다만, 이 법이 규제가아니라 산업 육성을 위한 법률로 진화하고 발전해야 한다"고 지적했다. 오는 11월 1일 시행에 들어갈 양자기술산업법과 관련한 조언도 내놨다. 이 법이 특별법 형식이어서 다른 법령과 충돌 가능성이 있어 이에 대한 준비가 필요하다는 것. 양자 분야는 이미 12대 전략 기술에 들어 있어 '국가전략기술 육성에 관한 특별법'과 '국가첨단전략산업 경쟁력 강화 및 보호에 관한 특별조치법'의 적용을 받고 있다. 강 실장은 이에 대해 "미국처럼 법 자체에 일몰기간 등을 제시하는 방안 검토"를 대안으로 제시했다. 이에 앞서 김용환 차의과대학교 교수는 양자분야를 중심으로 하는 AI(인공지능) 윤리와 사업트렌드 및 시장을 분석했다. AI윤리에서는 가짜뉴스와 프라이버시 침해, 사회적 불평등 심화, 데이터 탈취 가능성 등의 문제를 지적했다. 김 교수는 또 "2030~2040년 사이 양자 산업경제는 양자컴퓨팅의 상업화, 양자 통신과 인터넷 구축, 양자 센서의 광범위한 융합과 응용 가속화, 인공지능과의 융합 등의 혁신이 이루어질 것"으로 내다봤다. 케빈 김 퀀텀인텔리전스 디렉터는 '양자컴퓨팅, 인공지능 기술 기반 신약 개발 스타트업 사례-퀀텀인텔리전스 기업을 중심으로' 주제 발표에서 "양자컴퓨터와 AI는 상호 보완적 관계"라며 자체 개발한 양자컴 인터페이스 '퀵'과 주요 사업 전략에 대해 설명했다. 이어 이준구 큐노바 대표는 '양자 시뮬레이션, AI 기반 SW 알고리즘 플랫폼 스타트업 사례-큐노바 기업을 중심으로' 발표에서 세계 최초의 화학분야 양자이득 실현을 설명하며 기존 양자 알고리즘 'VQE' 대비 1000배 이상 빠른 'HiVQE'를 소개했다. 또 노광석 큐심플러스 대표는 '양자 통신용 장비, 네트워크 운용 SW 스타트업 사례-큐심플러스 기업을 중심으로' 주제 발표에서 QKD 검증 가능한 SW, QKD 광학제어 신호 생성 및 기능별 모듈화, 실리콘 기반 PIC 칩 제작 등 보유 기술을 공개했다. 토론에서는 다양한 지적이 쏟아졌다. 양자와 관련한 ▲수익 모델 ▲현 산업의 스타트업 주도 ▲정부 투자 지속성 유지...민간 투자 감소 ▲한국 양자 기술 수준 ▲양자컴퓨터를 보유하지 않은 상태에서의 알고리즘 서비스 품질의 한계 ▲국내 양자컴 개발의 한계 ▲2030년 100만 큐비트 탄생 예측 ▲정부 예산 집행의 편향성-90%가 실험실 투자 ▲양자컴 가격 초고가 문제 등이 거론됐다. 또 ▲대기업이 양자컴 개발에 뛰어들지 않는 이유-불확실성 ▲한국의 응용기술 수준-세계적 ▲퀀텀 윈터 패싱 ▲삼성 양자컴퓨터 개발 소식 등의 얘기를 쏟아냈다. 한편 이날 특별세션5에는 발표자 외에도 △박철호 국가녹색기술연구소 정책연구본부장 △이겨레 한국기술벤처재단 창업성장센터 팀장 △이재훈 성신여대 법학부 교수(변호사) △최규훈 KIST 연구성과확산팀 그룹장 등이 참석해 열띤 토론을 진행했다.

2024.10.19 21:55박희범

"딥페이크 식별 위해 AI 생성물 표시 의무 해야"

딥페이크와 실제 사실을 구분하지 못해서 발생하는 위험으로부터 이용자를 보호하고 사회적 혼란을 줄이기 위해서 인공지능(AI)으로 생성되거나 조작된 정보는 별도로 표시하도록 의무화하는 방안이 필요하다는 제언이 나왔다. 딥페이크는 인공지능(AI)으로 만든 가상의 정보이지만 실제 사실처럼 정교해서 사람들이 가짜임을 구분하기가 어렵다. 현실감 넘치는 콘텐츠 제작에 유용하게 사용되기도 하지만, 타인 사칭 범죄나 합성음란물에 악용되어 사회적 혼란과 개인의 피해를 초래하기도 한다. 국회입법조사처의 '이슈와 논점' 보고서에 따르면 AI로 만든 정보임을 표시하여 사람들이 딥페이크를 쉽게 식별하고 위험을 예방하게 할 필요가 있다. 분야별 딥페이크 규제와 AI 관점의 일반 규제가 서로 맞물리는 '이중 안전장치'를 갖춰야 한다는 지적이다. 현재 유럽연합은 '인공지능법'을 시행하고 있다. 이 법은 AI 시스템 제공자와 배포자에게 AI 생성물임을 표시하는 의무를 부과해 사람들이 딥페이크를 쉽게 식별하는 기반을 만들었다. 다만 범죄 수사나 순수한 예술·표현 등에 사용되는 딥페이크에 대해서는 공개 의무가 적용되지 않는다. 또 초대형 온라인 플랫폼 사업자가 실존 인물, 물체, 장소 등과 상당히 유사하고 진실인 것처럼 보이도록 생성 또는 조작된 콘텐츠를 온라인에 게시하려면 그것이 조작된 것임을 눈에 잘 띄게 표시하는 의무를 부과한다. 미국에는 연방 차원의 AI 규제법은 없다. 대신 정부공공기관에 AI 관련 의무를 부과하기 위해 2023년 12월 바이든 대통령의 행정명령이 시행 중이다. 미국은 딥페이크를 합성콘텐츠로 규정하고 정부에 합성콘텐츠의 진위와 출처를 확인하는 방안을 마련하도록 했다. 이에 따라 정부는 상무부장관이 중심이 돼 콘텐츠 진위 여부를 확인하고 출처를 추적하는 방법, 합성콘텐츠임을 표시하는 방법, 합성콘텐츠를 탐지하는 방법 등 AI로 생성한 정보를 식별하는 기술을 개발해야 한다. 연방의회에는 AI 생성물임을 표시하도록 의무화하는 법률안이 다수 발의되어 있다. 딥페이크 제작자를 공개하고 딥페이크 탐지 기술을 적용하도록 규정한 '딥페이크 책임법안', AI 개발자와 이용자 등에게 AI로 만든 콘텐츠임을 표시하는 의무를 부과하는 '인공지능 표시법안', 생성형 AI 서비스 제공자에게 가상 정보를 생성한 애플리케이션의 이름, 콘텐츠를 생성하거나 수정한 날짜와 시간 등의 메타데이터를 제공하도록 의무화한 '기만적인 AI로부터의 소비자 보호법안' 등이다. 국내도 AI법안을 논의중이다. 제22대 국회에는 1건의 인공지능법안이 발의돼 있고, 이 중에서 5건 법안이 생성형 AI로 만든 콘텐츠는 해당 사실을 표시하도록 규정한다. 생성형 AI를 이용하여 제품 또는 서비스를 제공하려는 자는 해당 제품 또는 서비스의 결과물이 생성형 AI에 의하여 생성됐다는 사실을 표시해야 한다. 또 '정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부개정법률안'에도 AI 생성물임을 표시하는 법률안이 존재한다. 국회입법조사처는 현재 시행 중인 유럽연합 '인공지능법'과 미국 '인공지능 행정명령', 국내에 발의된 다수의 인공지능법안 내용을 기반으로 AI로 만든 정보임을 표시하도록 하는 입법 방안을 모색해야 한다고 밝혔다. 먼저 표시 의무 적용 범위는 'AI로 생성한 콘텐츠'로 설정해 명확성을 높이고, 대신 피해 가능성이 낮은 분야는 예외로 설정하는 것이 적절하다고 제안했다. '실제와 구분하기 어려운' 등의 요건을 추가할 경우 판단 과정에 주관성이 개입되어 법률 집행의 혼란이 발생할 우려가 있다. 또한 AI 모델을 개발, 판매하는 자에게는 기계 판독 가능한 메타정보 제공과 같은 식별가능성 확보 의무를 부과하고, AI 모델을 자신의 제품・서비스에 활용하는 자에게는 AI로 생성된 정보임을 표시하는 의무를 부과하여 딥페이크의 대량생산에 대응해야 한다. 이용자가 직접 오픈소스 등으로 AI를 만들어 생성한 콘텐츠는 타인에게 공개・제공될 때 표시하도록 규정할 수 있다. 이에 딥페이크 콘텐츠를 유통하는 온라인 플랫폼은 적법한 표시 의무를 이행하지 않은 콘텐츠에 대한 처리 방침을 명확히 공개하고, 부적절한 표시가 되었다고 신고된 콘텐츠에 대해서는 삭제 또는 임시조치하도록 할 필요가 있다는 설명이다. 마지막으로 제도 정착을 위한 정부의 지원도 필요하다. 정부는 AI 생성물 표시 제도의 정착을 위해 관련 기술의 개발, 긴밀한 국제협력, 국민의 디지털 리터러시 함양을 지원해야 한다. 보고서는 "AI 발전 속도를 고려한다면 앞으로 딥페이크는 더욱 증가하고 정교해질 것이다. 지금처럼 피해자의 신고에 의존하거나 규제기관의 모니터링으로 차단하는 방식은 한계에 직면할 수 밖에 없다"며 "딥페이크가 만들어지고 유통되는 단계에서 적절하게 표시될 수 있도록 의무화하는 것이 필요하다"고 밝혔다.

2024.10.18 15:10최지연

  Prev 1 2 3 4 5 6 Next  

지금 뜨는 기사

이시각 헤드라인

윤곽 잡힌 K-로봇 청사진…자원 효율적 안배 집중해야

"갤S25 엣지, 더 싸게 사자"...자급제폰 온라인몰서 인기

닛산 몰락·혼다 후퇴 '후진하는 일본차'..."남일 아냐"

"기술이 뚫려도 제도가 막았어야"...유심 해킹 민낯

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현