검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'AI 법'통합검색 결과 입니다. (122건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

'AI 기본법' 국회 과방위 통과...연내 제정 청신호

인공지능(AI) 기본법 제정안이 26일 국회 과학기술정보방송통신위원회를 통과했다. 22대 국회 들어 본격적인 논의를 진행, 첫 법안소위 논의에서 제정법안에 대한 공청회 논의를 준비하고 지난주 법안심사 통과에 이어 상임위를 거친 뒤 27일 법제사법위원회에서 다뤄질 예정이다. 이에 따라, AI 기본법 연내 본회의 통과가 가시화됐다. 과방위는 이날 전체회의를 열어 '인공지능 발전과 신뢰기반 조성 등에 관한 기본법안'을 의결했다. 이 법안은 관련 절차를 거쳐 법사위 상정을 앞두게 됐다. AI 도입 활용 지원...AI 신뢰 확보 AI기본법은 총 19건의 발의법안을 통합 조정한 것으로 주요 골자는 AI 기술과 산업 진흥을 지원해 AI의 건전한 발전에 기여하고, AI 사업자의 투명성과 안정성을 확보해 신뢰 기반을 규정하고 있다. 이를 통해 국민 삶의 질을 높이고 국가 경쟁력을 강화하겠다는 취지다. 구체적으로 국가AI위원회 구성 운영에 대한 법적 근거를 담아 AI 기술을 도입하고 활용하는 데 지원한다. 또 AI직접다지를 지정하고 AI 데이터센터 생태계 구축을 추진하는 동시에 과학기술정보통신부 장관이 사실조사 진행과 시정명령 부과를 이행할 수 있도록 했다. 최근 딥페이크 논란을 반영해 생성형 AI 결과물에 대한 워터마크 등의 표시를 하게 하고 고영향 AI 규율 및 AI 영향평가 조항을 담았다. 고영향 AI와 AI 영향평가는 더불어민주당 이훈기 의원과 조국혁신당 이해민 의원의 발의안에서 따온 개념으로 고위험 영역 AI로 규율하고자 한 것을 이용자 중심 시각의 표현으로 고영향 개념을 도입하고 국민 기본권에 미치는 영향을 살피자는 것이다. 이해민 의원은 “AI 를 '위험한 것'으로 미리 단정 짓지 않고, 사회에 '영향을 미치는 것'으로 바라보면서 그 영향력을 현명하게 관리하자는 취지로 '위험' 대신 '영향'이라는 단어를 제안했다”고 밝혔다. 이훈기 의원은 “급속한 AI 발전에 대한 막연한 기대와 두려움 가운데 AI 발전과 안전성 확보를 위한 기본 법제가 절실했다”며 “다양한 관련 법률안 중 AI가 우리 국민의 기본권에 미치는 영향평가를 포함하는 제정법을 만든 만큼 의미가 남다르다”고 설명했다. EU 이어 전세계 두 번째 AI 법제화 정부는 최우선 과제로 추진한 AI 기본법 제정이 국회 상임위 문턱을 넘어선 데 감사를 표했다. 유상임 과기정통부 장관은 “AI 기본법 제정안 (상임위) 의결로 AI 발전과 신뢰 기반 조성을 위한 제도적인 틀이 갖춰졌다”며 “글로벌 패권 경쟁이 활발한데, 유럽연합(EU)에 이어 전 세계에서 두 번째로 법률을 마련해 글로벌 G3 강국으로 나설 수 있는 기틀을 마련하게 됐다”고 말했다. 과방위는 AI기본법 제정안 마련에 그치지 않고 예산 지원과 함께 후속 법제화를 고민하겠다는 뜻을 밝혔다. 과방위 예결소위원장을 맡고 있는 민주당 정동영 의원은 “우리의 자본은 미국처럼 단기간에 민간에서 막대한 투자가 이뤄질 수 있는 환경이 아니기 때문에 선도적인 인프라 투자가 필요하다”며 “일본, 프랑스, 캐나다에 이어 중동 국가까지 정부가 나서 인프라 투자에 나서는 것도 그같은 이유”라고 운을 뗐다. 이어, “AI 예산을 1조 증액하겠다고 밝힌 것은 정부가 앞서 편성한 수준으로는 AI 주도권을 확보하기에 턱없이 부족하다는 평가 때문이었다”며 “AI를 세계에서 가장 잘 쓰는 나라를 목표로 AI 인프라에 투자해 G3 국가로 만드는 데 정부가 총력을 기울이길 바란다”고 당부했다. 이해민 의원은 “기본법은 그릇을 만드는 법안이라 생각하기 때문에 어떤 부분에서 명확하지 않은 영역이 존재하는 것이 사실이다”며 “앞으로 규제를 담당하게 될 과기정통부는 규제 범위가 어떤 식으로 이뤄지는지, 어떤 문제가 있는지 철저히 검토해 지속적으로 법의 완결성을 더해갈 수 있도록 신경써야 한다”고 주문했다. 최민희 과방위원장은 “과방위에서 기본법을 통과시키면 다른 상임위에서 AI 관련 후속법안이 잇따를 것”이라며 “AI 기본법이 시행되는 과정을 지켜보면서 시민사회와 학계가 걱정하는 인간 생명 전반과 인권 침해 요소 등을 국회가 정부와 상황을 지켜보면서 후속 입법과 개정안을 준비하겠다”고 밝혔다. 그러면서 “100% 안전한 법안이 아닌 것을 알고 있지만 경제의 혁신을 위해 기본법 통과에 뜻을 모았다”고 덧붙였다.

2024.11.26 11:47박수형

염재호 국가AI위원회 부위원장 "AI기본법 제정 시급"

염재호 국가AI위원회 부위원장이 AI기본법 제정의 시급함을 강조하고 나섰다. 염 부위원장은 한국법제연구원(원장 한영수)이 25일 그랜드인터컨티넨탈서울에서 개최한 제63회 입법정책포럼에서 'AI 시대 문명사의 대전환'을 주제로 초청 강연했다. 이 자리에서 염 부위원장은 AI 발전이 기술이나 산업의 변화를 넘어 정치적, 사회적, 경제적, 법적, 문화적 질서를 근본적으로 재구성하는 중요한 전환점에 있다는 점을 설명하며, 이를 뒷받침하기 위한 AI기본법 제정의 시급함을 강조했다. 염 부위원장은 또 "AI위원회가 과기정통부서 시작했지만, 갈수록 중요해지며 대통령이 위원장을 맡게 됐다"며 이어 ▲AI 시대의 대학 교육 ▲전 세계 AI 관련 법 동향과 함께 정부에서 발표한 디지털권리장전의 주요 내용과 국가AI위원회 전략, 정책 방향에 대해 설명했다. 염 부위원장은 제19대 고려대 총장을 지냈다. 2023년 9월 개교한 태재대학교 초대 총장을 맡고 있다. 이전에는 국가과학기술위원회 위원, 과학재단 이사 등을 역임했다. 한영수 한국법제연구원장은 “AI의 혁신성을 최대화하면서 안전성은 최소화하고, 모든 인류가 AI 기술로부터 소외되지 않도록 입법이 이루어져야 한다”고 전했다. 한편, 한국법제연구원은 다양한 분야의 전문가를 초청, 입법성과를 공유하고 새로운 입법과제를 발굴하는 입법정책포럼을 지속 개최하고 있다.

2024.11.25 18:01박희범

AI기본법·단통법 폐지안, 국회 법안소위 통과

인공지능(AI) 기본법 제정안이 법안심사소위 문턱을 넘었다. 핵심 쟁점에 대한 합의가 이뤄지면서 연내 제정 가능성에 파란불이 켜졌다. 아울러 단말기유통법 폐지안도 예상을 넘어 빠른 속도로 법안심사소위를 통과했다. 과학기술정보방송통신위원회는 21일 열린 법안소위에서 AI기본법 발의안 19건을 병합 심사해 통과시켰다. 또 여야 의원이 각각 발의한 단통법 폐지안도 상임위 대안을 마련했고, 디지털포용법 제정안도 통과했다. 우선 AI기본법안은 산업 진흥과 신뢰, 안정성 확보를 위한 규제를 모두 담았다. 예컨대 정부가 AI 진흥계획을 수립하고, 인간의 생명이나 신체 안전과 관련한 AI 기술은 고영향 AI로 분류해 이에 대한 사업자 책임 조항을 포함시켰다. 금지AI에 대한 규정은 제외했다. 최근 딥페이크 논란을 고려해 AI 기반 영상과 사진에는 워터마크를 넣도록 규정했다. AI 기본법 제정안은 지난 회기부터 논의됐고 여야가 조속한 처리에 뜻을 모은 만큼 이르면 다움주 개최 예정인 상임위 전체회의를 거쳐 연내 국회 본회의 통과가 가능할 것이란 전망이 우세하다. 단통법 폐지안은 업계의 예상을 뛰어넘어 빠르게 처리됐다. 추가 논의가 이뤄져야 한다는 전망이 우세했으나 여야가 우선 법안 폐지에 속도를 내기로 하면서 소위 문턱을 깜짝 넘게 됐다. 단통법 폐지안은 국민의힘 박충권 의원 발의안과 더불어민주당 김현 의원 발의안을 병합해 상임위 대안이 마련됐는데, 선택약정할인을 유지하는 방안을 골자로 담았다. 아울러 약정할인 유지를 위해 이통 3사에 대한 유보신고제 도입 조항이 전기통신사업법에 신설되는 안이 통과했다. 여야가 단통법 폐지에 속도를 내기로 한 만큼 전체회의와 국회 본회의까지 오르는 일정도 빠르게 진행될 것으로 전망된다. 다만, 단통법 주요 조항이 전기통신사업법으로 이관되며 새로운 고시와 시행령이 만들어지는 시점을 고려하면 실제 단통법 폐지 시행은 내년 하반기 이후로 예상된다. 이밖에 국민의힘 고동진, 김장겸 의원과 민주당 박민규 의원이 대표발의한 디지털포용법 제정안도 소위 문턱을 넘었다. 정부는 국민이 AI 디지털 혁신 성과를 체감하면서 동시에 누구도 소외되지 않고 디지털 혜택을 누릴 수 있는 디지털포용법 제정에 무게를 실어왔다.

2024.11.21 16:41박수형

국회AI포럼, 인공지능법 여야 공동 발의

국회AI포럼의 이인선 대표 의원(국민의힘)과 조승래 연구책임의원(더불어민주당)이 공동으로 인공지능법을 대표 발의했다 . 국회AI포럼은 지난 7월 창립총회를 갖고 출범을 알린 뒤 각계 전문가를 초청해 AI 업계 동향과 AI 시대 법제 마련 필요성, AI 관련 해외 입법 동향 등을 논의해왔다. 이같은 논의 결과를 바탕으로 18일 '인공지능 진흥에 관한 법률안'과 '인공지능의 안전 및 신뢰 기반 조성에 관한 법률안' 2건을 공동으로 대표발의 했다. 인공지능 산업 분야 진흥을 위해 제도적으로 인공지능기술의 개발과 관련 산업의 활성화를 지원할 근거 규정을 마련하고, 안전하고 신뢰할 수 있는 인공지능의 발전 및 이용을 담보할 수 있는 기본 사항 등을 인공지능 진흥법에 담았다. 아울러 인공지능의 개발 및 이용 과정에서 발생할 수 있는 위험에 대비하기 위해 국민의 건강이나 안전, 권리와 의무에 중대한 영향을 미칠 우려가 있는 인공지능에 관한 규율체계를 정립하는 내용으로 인공지능 안전 및 신뢰법을 마련했다. 이인선 의원은 “대한민국이 인공지능 강국으로 도약하기 위한 첫 걸음이 인공지능 기본법인데, 국회 AI 포럼에서 다양한 의견을 모은 기본법을 발의하게 되어 기쁘게 생각한다”며 “포럼에서는 미래 사회의 변화를 선도하고 우리의 삶을 혁신적으로 변화시킬 수 있는 인공지능 기술의 발전과 활용을 지원하는 활동을 지속적으로 이어가겠다”고 말했다. 조승래 의원은 “AI 포럼 출범 이후 약 4개월간의 전문가 논의 등을 거쳐 법안을 여야가 함께 공동으로 발의한 만큼 해당 법안이 국회에서 잘 논의되어 대한민국이 인공지능 분야에서 앞서나갈 수 있는 기반이 되길 바란다”고 강조했다.

2024.11.18 16:07박수형

"국가AI전략 수립...디지털안전법 제정 추진”

과학기술정보통신부가 국가인공지능위원회 중심으로 수립될 '국가AI전략'의 내실 있는 이행으로 국가 AI와 디지털 경쟁력을 높인다는 방침이다. 체계적인 디지털 재난 안전관리를 위해서는 디지털안전법안을 제정하고 사업자 자발적 안전관리를 위한 디지털 안전관리 협의체 발족을 추진키로 했다. 유상임 과학기술정보통신부 장관은 지난 15일 브리핑을 열어 이번 정권의 ICT 분야 정책 성과로 ▲AI 디지털 경쟁력 제고 ▲글로벌 디지털 질서정립 주도 ▲네트워크 고도화 ▲디지털 안전 확보 ▲디지털 민생 안정 등을 꼽으며 이와 같은 추진계획을 밝혔다. 디지털 경제 패권국가 과기정통부는 지난 2022년 대통령 뉴욕구상 이후로 '대한민국 디지털 전략'을 수립하고 초거대AI 경쟁력 강화 방안, AI 디지털 혁신성장 전략 등을 발표했다. ICT규제샌드박스로 기업 매출은 806억원, 신규 고용 7천여명 창출 등을 이끌기도 했다. 범부처 AI일상화 프로젝트를 통해 국민 생활 속 AI를 확산하고 전국 디지털 배움터를 중심으로 3년간 총 244만명에게 디지털 교육을 제공한 점도 성과로 꼽았다. AI 기업 매출 연 40%대 증가를 기록했고 올해 영국 토터스미디어가 발표한 글로벌AI인덱스에서 우리나라는 6위를 차지했다. 또 대통령 뉴욕구상 이후, 세계경제포럼, 파리 디지털 비전 포럼 등에서 글로벌 디지털 질서 논의를 주도하고, 정부는 이를 종합해 '디지털 권리장전'을 발표했다. 올해 AI서울정상회의를 통해 서울선언도 도출했다. 이를 토대로 글로벌 선도국과 함께 지속적으로 디지털 질서를 주도하고 AI 디지털 시대의 시급한 쟁점에 대해 관계부처와 함께 힘을 모아 대응해 나갈 예정이다. 또 정부 후반기에는 국민이 AI 디지털 혁신 성과를 체감할 수 있도록 정책 역량을 집중하고, 누구도 소외되지 않고 디지털 혜택을 누릴 수 있도록 디지털포용법 제정을 추진할 계획이다. 디지털 인프라 혁신 더욱 튼튼한 디지털 인프라 구축을 위해 6G 이동통신, 저궤도 위성통신 등 차세대 네트워크 핵심기술 확보에 착수했다. 올해 4월 5G 전국망을 구축하고, 1천500여개 마을로 농어촌 초고속인터넷망을 확장했다. 미디어콘텐츠 산업융합 발전방안을 수립하고 5년간 1조원 규모 전략펀드 조성과 세제지원 확대에도 나섰다. 카카오 장애사고 등을 전화위복으로 삼아 디지털서비스 안정성 강화방안을 마련하며 디지털 장애 발생을 대폭 줄였다. 아울러 중저가 단말 출시 유도와 함께, 5G 요금제 개편, 알뜰폰 활성화 등에 노력을 기울였고 보이스피싱, 딥페이크 등 디지털 범죄 예방과 대응도 강화했다. 디지털 기술로 국민 안전과 편의에도 크게 기여했다. 도로 지하차도 침수 위험 상황을 내비게이션으로 실시간으로 알리는 서비스를 개시하고, 디지털 긴급구조 기술을 경찰의 인명 구조 작업에 적용하고 있다. 정부 후반기에는 디지털안전법 제정을 추진하고 유상임 장관 지휘에 따라 출범한 디지털 민생지원 추진단 중심으로 불법스팸 척결, IP카메라 보안강화 등을 살핀다는 계획이다.

2024.11.17 12:00박수형

산업부, 산업 AI 정책 진두지휘할 '산업인공지능과' 신설

산업부가 산업 전반에 인공지능(AI)을 스며들게 할 산업 AI 정책을 담당할 '산업인공지능과'를 신설한다. 또 대통령 주재 반도체 특위와 반도체 특별회계 신설 내용을 담은 '반도체 특별법' 제정을 추진하고 'AI 반도체 생태계 지원방안'을 마련한다. 원전 생태계 완전 정상화를 위해 2027년까지 11조원 이상의 일감을 추가 발주한다. 박성택 산업통상자원부 제1차관은 13일 정부세종청사에서 윤석열 정부 임기 반환점을 맞아 그동안 추진해 온 산업·통상·에너지 분야 정책 성과와 함께 이러한 내용을 담은 향후 계획을 발표했다. 박 차관은 “우리 산업은 지금 탄소중립과 AI로 대별되는 산업 대전환의 변곡점에 있다”며 “조만간 산업 AI 정책을 진두지휘할 산업인공지능과를 신설할 계획”이라고 밝혔다. 박 차관은 “부내에 태스크포스(TF)를 가동하고 있는데, 조만간 새로운 시대에 걸맞은 새로운 산업정책을 제시하도록 하겠다”고 덧붙였다. 산업인공지능과는 산업기술융합정책관실에서 산업 디지털전환 사업을 추진하고 있는 산업디지털전환추진팀도 일부 추가해 산업정책관실에 신설된다. 산업부 관계자는 “2000년대 초반 전자상거래가 한창 시작했을 때 전자상거래과를 만들어 정책을 총괄했던 것과 비슷한 개념”이라면서 “AI는 특히 각 경영에서 더 접목해야 하는 부분이어서 총괄적 기능을 수행하게 될 것”이라고 설명했다. 산업부는 내년도 산업정책에 AI를 가장 중요한 포인트로 둔다는 계획이다. 산업인공지능과는 대통령 주재로 만들어진 국가AI위원회와 더불어 정부의 AI 정책에 힘을 싣는 역할을 하게 된다. 산업부는 또 17조원 저리대출 본격 시행 등 기존에 발표한 '반도체 생태계 종합지원 방안'을 차질없이 이행하고 투자세액공제 일몰을 2027년으로 연장하는 방안을 추진한다. 미국 신 정부와 협력을 강화하는 한편 이달 개최 예정인 반도체 다자회의 등을 통해 국내 기업의 글로벌 비즈니스 불확실성을 최소화한다는 계획이다. 내년에는 '반도체 생산국 당사국 회의' 의장국 자격으로 한·미·일·대만·EU를 잇는 '반도체 철의 동맹' 구축을 주도한다. 대통령 주재 반도체 특위와 반도체 특별회계 신설, 주 52시간 규제 적용 제외 등을 담은 '반도체 특별법' 제정을 추진하고 연내에 'AI 반도체 생태계 지원방안'을 마련해 반도체 산업 내 새로운 성장 동력을 확보할 계획이다. 2027년까지 11조원 이상 원전 관련 일감을 추가로 발주해 원전 생태계 완전 정상화를 꾀한다. 정치 환경과 무관하게 안정적이고 일관되게 원전 생태계를 지원하는 법·제도적 기반을 만들기 위해 '원전산업특별지원법'도 제정을 추진한다. 또 원전산업의 중장기 청사진을 제시하고 생태계 고도화 등 이행 계획을 반영한 '2050 중장기 원전산업 로드맵' 수립을 추진하기로 했다. 박 차관은 “수출의 온기가 지역·중소기업·민생 전반으로 확산하도록 진단부터 처방까지 면밀하게 살피는 한편, 미국 신행정부와 한미 통상관계를 안정시키는 데 산업부 역량을 집중하겠다”고 말했다. 이어 “반도체·자동차·이차전지 등 주력 산업에서 전개될 수 있는 다양한 가능성에 대해 기업들과 소통하면서 치밀하게 대응하겠다”고 덧붙였다.

2024.11.13 18:04주문정

유상임 과기정통부 장관 "AI 기본법 연내 통과 희망"

유상임 과학기술정보통신부 장관은 13일 이동통신 3사 CEO 회동 이후 기자들과 만나 "AI 기본법이 연내 통과 될 것이라고 생각하고 있다"고 밝혔다. 유 장관은 통신사 CEO와 첫 회동 소감에 대해 "전체적으로 AI 국면에 접어들어 우리가 국가적으로 다 같은팀이 되지 않으면 힘들겠다는 생각을 했다"고 말했다. 이어, "저 나름대로 민관이 한 마음으로 합치지 않으면 이 시대에 도저히 답이 없다는 그런 차원에서 모두가 공감을 했다"고 덧붙였다. 공정거래위윈회가 통신 3사에 답합 의혹으로 제재를 추진하는 것에 대해서 어떤 대화가 이뤄졌냐는 질문에는 "민관이 같이 협조하는 선에서 마무리 할 수 있도록 노력하겠다"고 답했다. 앞서 공정위는 지난해 2월부터 이통3사가 시장상황반 운영을 통해 판매장려금 상한선을 30만원으로 합의한 것을 담합으로 판단했다. 이에 최대 수조의 과징금을 부과하는 방안을 내부적으로 정하고 전원회의 일정을 조율 중이다.

2024.11.13 15:58최지연

AI 법제화 어떻게 해야할까…첫 '국제' 논의

한국법제연구원(원장 한영수)과 법제처(처장 이완규)는 지난 12일 웨스틴조선에서 '인공지능과 미래법제'를 주제로 제1회 미래법제 국제포럼(The 1st Forum for Future Legislation)을 개최했다. 이 행사는 유럽, 미국, 캐나다, 영국 등 세계 각국의 전문가들이 한자리에 모여 인공지능 법제 최신 동향을 공유하고, 책임 있는 AI 활용을 위한 입법 방향을 모색하는 자리다. 한영수 한국법제연구원장, 이완규 법제처장, 염재호 국가AI위원회 부위원장, 안데르스 라스무센 유럽의회 사무차장 등 국내외 인공지능 분야 등 관련 전문가 150여명이 참석해 기조발제와 전문가 발제 및 토론을 진행했다. 기조연설은 유럽집행위원회 AI 어드바이저 유하 헤이킬라가 EU의 신뢰할 수 있는 인공지능 접근방식을 소개했다. 이어 인공지능 연구에 대한 EU의 지원과 세계 최초의 AI 규제법인 EU 인공지능법의 체계와 주요 특징, 인공지능 법제 분야를 선도하기 위한 EU의 국제적 노력에 대해 설명했다. 첫 번째 세션에서는 'AI 혁신과 신뢰를 위한 법제'를 주제로 미국, EU, 영국 등 주요국의 인공지능 법제를 살펴봤다. 발제자로 유럽의회 디지털 정책 고문인 카이 제너와 엘리프 키에소 코르데즈 미국 스탠포드대 교수, 조단 리차드 쇼운허 미국 슈라이너대 교수, 플로리안 오스만 영국 앨런튜링 연구소 박사와 가천대 최경진 교수가 참석해 각국의 입법 사례를 공유했다. 두 번째 세션은 'AI 활용 지원을 위한 미래 법제'를 주제로 진행됐다. 국제해사기구(IMO)의 도로타 로스트-시에민스카 법무대외협력부장이 IMO의 최신 AI 법제 동향을 발표했다. 이어 이유봉 한국법제연구원 AI법제팀장이 '업무현장에서 AI와 공존하는 미래사회를 위한 입법'을 발표했다. 발제 후 진행된 토론에서는 인간과 인공지능의 협업을 위한 제도적 지원사항과 정부의 행정서비스의 인공지능 도입 방안 등을 논의했다. 한영수 한국법제연구원장은 “전 세계가 인공지능 법제 및 거버넌스 형성 논의를 구체화하는 중요한 시점에 각국의 전문가들이 모여 협력 방향을 모색하는 자리"라며 "인공지능의 법적 기반을 마련하는데 최선을 다할 것”이라고 전했다.

2024.11.13 11:14박희범

이해민 의원, 'AI신호등법' 발의...AI 사회적 영향력 주목

국회 과학기술정보방송통신위원회 소속 이해민 의원(조국혁신당)은 인공지능 기술의 건전한 발전과 안전한 활용을 위한 인공지능산업 진흥 및 인공지능 이용 등에 관한 법률을 대표발의 했다고 12일 밝혔다. 법안은 AI 기술의 혁신을 지원하면서도 그 영향력을 고려한 적절한 관리체계 구축이 목표다. AI 산업의 진흥을 촉진하면서 동시에 안전성과 윤리성을 확보할 수 있는 균형 잡힌 제도적 기반을 마련했으며 특히 인간 중심 AI 사회 구현을 위해 기술발전과 윤리적 가치의 조화를 강조했다. 이 법안의 가장 주요한 특징은 AI를 단순한 기술이나 위험요소가 아닌 사회적 영향력을 지닌 시스템으로 보는 것이다. 이같은 관점에서 고영향 인공지능을 “사람의 생명, 신체, 건강과 안전, 기본권의 보호, 국가안보 및 공공복리 등에 중대하거나 회복하기 어려운 영향을 미칠 우려가 있는” 경우로 포괄적으로 정의했다. 위험성 중심 규제에서 벗어나 AI 기술의 사회적 영향력에 걸맞은 책임과 관리체계를 구축하려는 시도다. 법안은 또 AI 생태계의 다양한 이해관계자들을 체계적으로 정의했다. AI 개발사업자와 이용사업자를 구분하고, 특히 AI 시스템으로부터 직간접적 영향을 받는 '영향받는 자' 개념을 새롭게 도입했다. 이용자 권익 보호를 위한 제도적 장치도 마련했다. 이는 AI 기술이 개발자나 직접적 이용자를 넘어 사회 전반에 미치는 파급효과를 법제도적으로 인정한 최초의 시도로서 이용자 권익 보호를 위한 포괄적인 제도적 장치를 마련했다는 데 의의가 있다. AI 산업 발전을 위한 규제특례와 지원책도 함께 담았다. 신기술 검증을 위한 실증특례와 임시허가 제도를 통해 새로운 AI 기술과 서비스의 신속한 시장 진입을 지원할 예정이다. AI 기술의 발전과 그 사회적 영향력 관리를 동시에 추구하는 법안의 기본 철학을 반영한 것이다. 이해민 의원은 “현재 AI 산업은 신호등 없는 강남역 사거리를 질주하고 있는 상황”이라며 “이번에 발의한 인공지능법이 제대로 된 혁신과 올바른 이용을 위한 일종의 신호등 역할을 해줄 것을 기대하며 AI 신호등 법이라는 이름을 붙였다”고 설명했다. 이어, “AI는 이제 단순한 기술이 아닌 우리 사회를 근본적으로 변화시키는 동력”이라며 “이번 법안은 AI 가 가진 혁신의 잠재력을 극대화하면서도 그 과정에서 소외될 수 있는 사회 구성원들의 권익을 보호하는 새로운 균형점을 제시하고자 했다”고 강조했다.

2024.11.12 15:13박수형

"양자 클러스터 지정 전국 '핫이슈'...서울·대전 가장 발빠르게 대응"

"양자기술산업법 시행을 앞두고, 양자 클러스터 지정이 전국의 가장 핫한 이슈로 부상했다. 현재 서울과 대전이 가장 발 빠르게 대응 중이다." 18일 국립한밭대학교 국제교류관에서 개최된 혁신클러스터학회 2024 추계학술대회 특별세션5에서 '양자과학기술 및 양자산업 육성에 관하 법률의 현재와 오늘'을 주제로 발표에 나선 강선준 한국과학기술연구원(KIST) 기술사업화실장이 양자관련 법 설명에서 이 같이 말해 관심을 끌었다. 강선준 실장은 중소벤처기업부와 창업진흥원의 '초격차 스타트업 1000+ 프로젝트'에서 양자분야 연구 책임자를 맡고 있다. 강 실장은 양자 관련 입법 배경과 경과, 주요 내용을 분석, 설명한 뒤 "양자 연구센터나 양자팹은 KRISS(한국표준과학연구원)과 ETRI(한국전자통신연구원), KIST(한국과학기술연구원)이 주도하고 있다"며 "가장 핫한 양자 클러스터 지정은 대전과 서울이 가장 발 빠르게 대응하고 있다"고 언급했다. 강 실장은 "양자기술산업법에는 종합계획 수립, 기술 개발 및 상용화 촉진, 인력양성, 연구거점· 클러스터, 국제협력 등의 장기적· 종합적 육성에 관한 내용이 포함돼 있다"며 "다만, 이 법이 규제가아니라 산업 육성을 위한 법률로 진화하고 발전해야 한다"고 지적했다. 오는 11월 1일 시행에 들어갈 양자기술산업법과 관련한 조언도 내놨다. 이 법이 특별법 형식이어서 다른 법령과 충돌 가능성이 있어 이에 대한 준비가 필요하다는 것. 양자 분야는 이미 12대 전략 기술에 들어 있어 '국가전략기술 육성에 관한 특별법'과 '국가첨단전략산업 경쟁력 강화 및 보호에 관한 특별조치법'의 적용을 받고 있다. 강 실장은 이에 대해 "미국처럼 법 자체에 일몰기간 등을 제시하는 방안 검토"를 대안으로 제시했다. 이에 앞서 김용환 차의과대학교 교수는 양자분야를 중심으로 하는 AI(인공지능) 윤리와 사업트렌드 및 시장을 분석했다. AI윤리에서는 가짜뉴스와 프라이버시 침해, 사회적 불평등 심화, 데이터 탈취 가능성 등의 문제를 지적했다. 김 교수는 또 "2030~2040년 사이 양자 산업경제는 양자컴퓨팅의 상업화, 양자 통신과 인터넷 구축, 양자 센서의 광범위한 융합과 응용 가속화, 인공지능과의 융합 등의 혁신이 이루어질 것"으로 내다봤다. 케빈 김 퀀텀인텔리전스 디렉터는 '양자컴퓨팅, 인공지능 기술 기반 신약 개발 스타트업 사례-퀀텀인텔리전스 기업을 중심으로' 주제 발표에서 "양자컴퓨터와 AI는 상호 보완적 관계"라며 자체 개발한 양자컴 인터페이스 '퀵'과 주요 사업 전략에 대해 설명했다. 이어 이준구 큐노바 대표는 '양자 시뮬레이션, AI 기반 SW 알고리즘 플랫폼 스타트업 사례-큐노바 기업을 중심으로' 발표에서 세계 최초의 화학분야 양자이득 실현을 설명하며 기존 양자 알고리즘 'VQE' 대비 1000배 이상 빠른 'HiVQE'를 소개했다. 또 노광석 큐심플러스 대표는 '양자 통신용 장비, 네트워크 운용 SW 스타트업 사례-큐심플러스 기업을 중심으로' 주제 발표에서 QKD 검증 가능한 SW, QKD 광학제어 신호 생성 및 기능별 모듈화, 실리콘 기반 PIC 칩 제작 등 보유 기술을 공개했다. 토론에서는 다양한 지적이 쏟아졌다. 양자와 관련한 ▲수익 모델 ▲현 산업의 스타트업 주도 ▲정부 투자 지속성 유지...민간 투자 감소 ▲한국 양자 기술 수준 ▲양자컴퓨터를 보유하지 않은 상태에서의 알고리즘 서비스 품질의 한계 ▲국내 양자컴 개발의 한계 ▲2030년 100만 큐비트 탄생 예측 ▲정부 예산 집행의 편향성-90%가 실험실 투자 ▲양자컴 가격 초고가 문제 등이 거론됐다. 또 ▲대기업이 양자컴 개발에 뛰어들지 않는 이유-불확실성 ▲한국의 응용기술 수준-세계적 ▲퀀텀 윈터 패싱 ▲삼성 양자컴퓨터 개발 소식 등의 얘기를 쏟아냈다. 한편 이날 특별세션5에는 발표자 외에도 △박철호 국가녹색기술연구소 정책연구본부장 △이겨레 한국기술벤처재단 창업성장센터 팀장 △이재훈 성신여대 법학부 교수(변호사) △최규훈 KIST 연구성과확산팀 그룹장 등이 참석해 열띤 토론을 진행했다.

2024.10.19 21:55박희범

"딥페이크 식별 위해 AI 생성물 표시 의무 해야"

딥페이크와 실제 사실을 구분하지 못해서 발생하는 위험으로부터 이용자를 보호하고 사회적 혼란을 줄이기 위해서 인공지능(AI)으로 생성되거나 조작된 정보는 별도로 표시하도록 의무화하는 방안이 필요하다는 제언이 나왔다. 딥페이크는 인공지능(AI)으로 만든 가상의 정보이지만 실제 사실처럼 정교해서 사람들이 가짜임을 구분하기가 어렵다. 현실감 넘치는 콘텐츠 제작에 유용하게 사용되기도 하지만, 타인 사칭 범죄나 합성음란물에 악용되어 사회적 혼란과 개인의 피해를 초래하기도 한다. 국회입법조사처의 '이슈와 논점' 보고서에 따르면 AI로 만든 정보임을 표시하여 사람들이 딥페이크를 쉽게 식별하고 위험을 예방하게 할 필요가 있다. 분야별 딥페이크 규제와 AI 관점의 일반 규제가 서로 맞물리는 '이중 안전장치'를 갖춰야 한다는 지적이다. 현재 유럽연합은 '인공지능법'을 시행하고 있다. 이 법은 AI 시스템 제공자와 배포자에게 AI 생성물임을 표시하는 의무를 부과해 사람들이 딥페이크를 쉽게 식별하는 기반을 만들었다. 다만 범죄 수사나 순수한 예술·표현 등에 사용되는 딥페이크에 대해서는 공개 의무가 적용되지 않는다. 또 초대형 온라인 플랫폼 사업자가 실존 인물, 물체, 장소 등과 상당히 유사하고 진실인 것처럼 보이도록 생성 또는 조작된 콘텐츠를 온라인에 게시하려면 그것이 조작된 것임을 눈에 잘 띄게 표시하는 의무를 부과한다. 미국에는 연방 차원의 AI 규제법은 없다. 대신 정부공공기관에 AI 관련 의무를 부과하기 위해 2023년 12월 바이든 대통령의 행정명령이 시행 중이다. 미국은 딥페이크를 합성콘텐츠로 규정하고 정부에 합성콘텐츠의 진위와 출처를 확인하는 방안을 마련하도록 했다. 이에 따라 정부는 상무부장관이 중심이 돼 콘텐츠 진위 여부를 확인하고 출처를 추적하는 방법, 합성콘텐츠임을 표시하는 방법, 합성콘텐츠를 탐지하는 방법 등 AI로 생성한 정보를 식별하는 기술을 개발해야 한다. 연방의회에는 AI 생성물임을 표시하도록 의무화하는 법률안이 다수 발의되어 있다. 딥페이크 제작자를 공개하고 딥페이크 탐지 기술을 적용하도록 규정한 '딥페이크 책임법안', AI 개발자와 이용자 등에게 AI로 만든 콘텐츠임을 표시하는 의무를 부과하는 '인공지능 표시법안', 생성형 AI 서비스 제공자에게 가상 정보를 생성한 애플리케이션의 이름, 콘텐츠를 생성하거나 수정한 날짜와 시간 등의 메타데이터를 제공하도록 의무화한 '기만적인 AI로부터의 소비자 보호법안' 등이다. 국내도 AI법안을 논의중이다. 제22대 국회에는 1건의 인공지능법안이 발의돼 있고, 이 중에서 5건 법안이 생성형 AI로 만든 콘텐츠는 해당 사실을 표시하도록 규정한다. 생성형 AI를 이용하여 제품 또는 서비스를 제공하려는 자는 해당 제품 또는 서비스의 결과물이 생성형 AI에 의하여 생성됐다는 사실을 표시해야 한다. 또 '정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부개정법률안'에도 AI 생성물임을 표시하는 법률안이 존재한다. 국회입법조사처는 현재 시행 중인 유럽연합 '인공지능법'과 미국 '인공지능 행정명령', 국내에 발의된 다수의 인공지능법안 내용을 기반으로 AI로 만든 정보임을 표시하도록 하는 입법 방안을 모색해야 한다고 밝혔다. 먼저 표시 의무 적용 범위는 'AI로 생성한 콘텐츠'로 설정해 명확성을 높이고, 대신 피해 가능성이 낮은 분야는 예외로 설정하는 것이 적절하다고 제안했다. '실제와 구분하기 어려운' 등의 요건을 추가할 경우 판단 과정에 주관성이 개입되어 법률 집행의 혼란이 발생할 우려가 있다. 또한 AI 모델을 개발, 판매하는 자에게는 기계 판독 가능한 메타정보 제공과 같은 식별가능성 확보 의무를 부과하고, AI 모델을 자신의 제품・서비스에 활용하는 자에게는 AI로 생성된 정보임을 표시하는 의무를 부과하여 딥페이크의 대량생산에 대응해야 한다. 이용자가 직접 오픈소스 등으로 AI를 만들어 생성한 콘텐츠는 타인에게 공개・제공될 때 표시하도록 규정할 수 있다. 이에 딥페이크 콘텐츠를 유통하는 온라인 플랫폼은 적법한 표시 의무를 이행하지 않은 콘텐츠에 대한 처리 방침을 명확히 공개하고, 부적절한 표시가 되었다고 신고된 콘텐츠에 대해서는 삭제 또는 임시조치하도록 할 필요가 있다는 설명이다. 마지막으로 제도 정착을 위한 정부의 지원도 필요하다. 정부는 AI 생성물 표시 제도의 정착을 위해 관련 기술의 개발, 긴밀한 국제협력, 국민의 디지털 리터러시 함양을 지원해야 한다. 보고서는 "AI 발전 속도를 고려한다면 앞으로 딥페이크는 더욱 증가하고 정교해질 것이다. 지금처럼 피해자의 신고에 의존하거나 규제기관의 모니터링으로 차단하는 방식은 한계에 직면할 수 밖에 없다"며 "딥페이크가 만들어지고 유통되는 단계에서 적절하게 표시될 수 있도록 의무화하는 것이 필요하다"고 밝혔다.

2024.10.18 15:10최지연

"AI 강국 도약, 기본법부터 전방위적 거버넌스 확립 필수"

인공지능(AI) 강국에 도약하기 위해 기본법 마련부터 전방위적인 AI 거버넌스가 확립돼야 한다는 산업계의 의견이 재차 제기됐다. 생태계 활성화를 위한 종합적인 관리체계를 마련하고 시장 트렌드에 맞춰 지속적인 맞춤형 제도를 갖추자는 뜻이다. 김훈동 KT 컨설팅그룹 AI데이터 리드는 16일 정동영, 최형두 의원이 국회서 주최한 포럼에서 발제를 맡아 “한국적 특성을 고려한 윤리, 문화 안전, 권리, 기술, 데이터 등 종합적인 내용을 포함한 AI 기본법이 필요하다”며 “산학연관 협력에 기반한 실효적인 법안을 제정해 범국가적인 역량을 결집해야 한다”고 말했다. 최근 국가AI위원회가 설립됐고, AI 주무부처인 과학기술정보통신부가 글로벌 패권 경쟁에 맞서 각종 진흥 정책을 내놓고 있지만 구체적인 실행을 위한 법과 제도가 필요하다는 설명이다. 21대 국회부터 AI 기본법 제정 논의가 있었지만 결론을 내리지 못하고 22대 국회 들어 현재 11개 법안이 발의된 상황이다. 기술에 더해 자본력을 앞세운 강대국에 뒤처지지 않으려면 연내 법 제정이 필요하다는 의견이 전문가들 사이에서 지배적이다. AI 기본법 제정과 함께 AI 데이터 공유 거래 활성화 AI 인프라와 R&D 투자 지원 확대도 산업 발전을 위한 요소로 꼽혔다. 김훈동 리드는 “데이터를 거래할 때 투자대비 수익 예측과 가치 평가가 어려운데, 데이터 가격 측정 모델 기반의 거래 환경을 조성하고 데이터 활용에 따른 권리범위를 명확하게 해야 한다”며 “AI도 국가전략기술 범주에 포함해 인프라 투자에 세액공제를 확대해야 투자 환경이 조성될 것”이라고 강조했다. 그는 또 AI 인재 확보를 위해 “범정부 차원의 AI 인재 확보 콘트롤타워를 구성하고 세계적 수준의 연구소를 설립하고 운영하기 위해 민관협력이 추진될 필요가 있다”고 덧붙였다. 그러면서 “국내 시장 규모에서는 확장성과 수익성의 한계가 존재하는데 국내 AI 응용 솔루션 수출기업을 육성해야 한다”고 했다. 이어진 토론에서 이영탁 SK텔레콤 부사장은 “과거 초고속인터넷에 막대한 자금을 왜 투자하냐 비난했고 CDMA도 그랬지만 결국 그 결과로 정보화 강국이 됐다”면서 “AI 산업이 발전하기 위해 인프라 구축이 필수적인데 이에 대한 세제 지원이 이뤄지면 발전을 앞당길 수 있다”고 말했다. 이동수 네이버 이사는 “파운데이션 모델을 갖고 있기 때문에 회사가 반도체 전략에서 유리한 면이 있다”며 “파운데이션 모델과 반도체는 서로 떼어낼 수 없는 관계이기 때문에 AI 반도체를 국가적인 과제의 최상단에 두려면 파운데이션을 중요하게 여겨야 한다”고 설명했다. 이날 포럼에 참석한 유상임 과기정통부 장관은 “AI를 중심으로 산업계가 재편되고 변혁의 소용돌이 속에 있다”며 “국가AI위원회를 발족하면서 3대 국가에 들자고 했는데, 한국이 원팀이 된다면 AI 패권경쟁에서 중국을 넘어서고 싶고 또 할 수 있다고 생각한다”고 말했다. 이어, “가장 시급한 과제는 법적 제도적 장치를 빨리 마련하는 것으로, 민간에서 할 수 있는 일과 별도로 국가가 할 수 있는 일이 크니까 이를 위해 AI 기본법 조속히 제정해야 한다”며 “AI는 계속 진화하기 때문에 기본법이 완벽할 수는 없지만, 기본적인 규제를 마련하고 수시로 개정을 통해 기술 환경에 맞춰갈 수 있다”고 밝혔다.

2024.10.16 14:15박수형

유상임 장관 "AI에 국가 명운...AI기본법 제정 시급"

유상임 과학기술정보통신부 장관은 8일 “AI는 국가 명운이 걸린 분야”라며 “AI 기본법 제정이 시급하다”고 밝혔다. 유상임 장관은 이날 세종청사에서 열린 국정감사에서 “정부는 대통령 직속 국가인공지능위원회를 출범시키고 국가 AI 전략 정책방향을 마련해 AI 글로벌 3대 강국으로 도약하기 위해 총력을 기울이고 있다”며 이같이 말했다. 그는 또 “최근 AI의 발전과 함께 급증하고 있는 딥페이크, 가짜 뉴스 등을 방지하기 위해 안전하고 신뢰 가능한 AI 활용 환경을 조성하고 글로벌 리더십을 발휘해 디지털 심화 시대의 새로운 질서를 정립해 나가겠다”고 강조했다. 연구개발(R&D) 체질 전환과 인재 육성을 그 다음 과제로 꼽았다. 유 장관은 “R&D 예타 폐지 및 후속 보완 조치와 함께 혁신 도전형 R&D와 글로벌 협력을 확대해 나가겠다”면서 “연구성과가 신산업과 성장 동력으로 이어지도록 기술 산업화와 출연연 혁신에도 매진하겠다”고 설명했다. 이어, “과학기술인재 성장발전 전략을 토대로 우수한 인재가 이공계에 진출해 학업과 연구에 전념할 수 있는 환경을 조성하고 과학기술인에 대한 경제적 보상과 사회적 인정을 높이는 데 힘쓰겠다”고 덧붙였다.

2024.10.08 10:46박수형

김태규 직대 "AI 이용자보호법으로 생성형AI 피해 선제 대응"

김태규 방송통신위원회 위원장 직무대행은 7일 “AI 이용자보호법을 제정하여 생성형AI 서비스 피해 등에 선제적으로 대응하기 위해 노력하겠다”고 밝혔다. 김 직무대행은 이날 국회 과학기술정보방송통신위원회가 개최한 방통위 대상 국정감사에서 인사말을 통해 “딥페이크 성범죄물로 인한 피해가 심각해짐에 따라 범부처 차원의 종합대책을 마련 중이다”며 이같이 말했다. 올해 말 KBS와 MBC 등 주요 지상파방송사 재허가 심사를 주요 과제로 꼽았다. 김 대행은 “상반기에 법과 원칙에 따라 종편, 보도PP 3개사의 재승인 심사를 마쳤으며, 지상파 재허가 심사도 엄격하고 투명하게 추진할 계획”이라며 강조했다. 이어, “미디어 혁신성장 기반 조성을 위해 분산된 미디어 규율체계 정비를 위한 통합미디어법안을 준비하고 있다”고 덧붙였다. 김 대행은 또 “뉴스제휴 평가기구의 공정성을 제고하고 알고리즘 투명성을 확보해 포털뉴스 서비스의 신뢰성과 투명성을 높이겠다”며 “허위조작정보 근절대책을 마련하고 이용자 스스로 사실 여부를 검증할 수 있도록 정보판별 교육을 진행하고 있다”고 설명했다. 그러면서 “통신비 부담경감을 위해 단말기 유통법 폐지를 추진하고 있다”며 “이용자 중심의 통신시장 질서 확립을 위해 고가 요금제 가입 유도, 허위 과장 광고 등 이용자 이익 침해행위를 집중 점검했다”고 밝혔다. 1인 체제 방통위를 두고 “여러 현안이 산적한 가운데 기관장이 부재하고 위원회 개최도 어려운 상황에 처해 있다”며 “어려운 상황에서도 위원회가 추진하는 주요 과제들이 좋은 성과를 거둘 수 있도록 위원님들의 많은 관심과 지원을 부탁드린다”고 끝맺었다.

2024.10.07 10:47박수형

"AI에 국가역량 결집...기본법에는 규제 혁신 양립해야"

“대한민국이 ICT에 집중 투자를 했듯이 AI에 한 번 더 국가적 역량을 결집하자는 컨센서스는 이뤄진 것으로 보인다.” 최민희 과학기술정보방송통신위원회 위원장은 24일 국회서 열린 인공지능(AI) 기본법 공청회 말미에 이같이 말했다. AI 진흥과 규제를 두고 국가가 어떤 법제도를 취해 산업적으로나 사회적으로 이해관계가 엇갈리는 현실이다. 때문에 “머리는 복잡해졌지만, 쟁점은 명확해졌다”며 최민희 과방위원장은 AI 기본법 논의에 속도를 내겠다는 뜻을 분명히 했다. 최 위원장은 “AI 관련법이 21대에서 논의 됐고 통과되지 않았고는 중요하지 않다. 이 법이 만들어져야 하나 만들어지지 말아야 하나에도 온도차가 있고 이견이 있는 것으로 보인다”면서도 “이 자리는 법을 만든다는 전제로 모인 자리”라고 짚었다. 이어, “국제적인 경쟁력을 고려했을 때 우리가 ICT에 집중적으로 투자해서 ICT 강국이 됐듯이, 조금 늦었지만 AI로 대한민국이 그런 시도를 할 것인가 말 것인가를 결정하는 주장에 국회가 호응하고 있는 것이다”고 밝혔다. 이날 공청회에서는 효율적인 AI 기본법을 위해선 지금보다 명확한 AI 정의와 현실적인 규제 적용 범위가 필요하다는 의견이 쏟아졌다. 구체적인 AI 규제 범위와 현실 가능한 위험성을 구체적으로 정해야 향후 부작용 없는 AI법을 구축할 수 있어서다. 참석자들은 AI법을 통해 대한 잠재적 위험 관리와 기술 혁신을 동시에 촉진할 수 있어야 한다는 점에 동의했다. 이에 균형 잡힌 법제도와 거버넌스 체계 구축을 가장 핵심 과제로 제시했다. "22대 국회, AI 진흥만 집착…위험성 고려 미흡" 유승익 한동대 교수는 22대 국회가 AI에 대한 구체적 정의와 잠재적 위험성 등을 고려하지 않는다고 지적했다. 유 교수는 "22대 국회는 진흥 아니면 규제라는 양자택일식으로 AI법을 구상하고 있다"며 "AI 위험성을 구체적 정의 없이 법률에 녹여선 안 된다"고 비판했다. 이어 "결국 유례없는 졸속 입법을 초래할 것"이라고 덧붙였다. 유 교수는 국회가 정의한 AI 개념에 고유한 기술 특성을 담지 못했다고 주장했다. 국회가 정의한 AI 개념이 '지능정보화 기본법' 정의 조항 일부에 '지각' '언어의 이해' 등을 추가하는 데 그쳤다는 이유에서다. 그는 "이 개념은 다른 소프트웨어까지 지칭할 수 있을 정도로 광범위하다"며 "AI 시스템 수준의 자율성과 변화 양상을 포괄하지 못한다"고 했다. 유 교수는 22대 국회의 AI 법률안에도 AI 운영자와 AI 제공자를 세밀하게 구분하지 않은 점도 문제 삼았다. 보통 제공자는 AI 시스템을 만드는 개발자·기업이다. 운영자는 AI를 사용하는 개인·기업을 지칭한다. 그는 "추후 AI 위험이 발생했을 시 누가, 얼마나, 어떤 책임을 져야 하는지 정하기 어려울 것"이라며 "의무에 대한 차등 부과나 제재에 대한 섬세한 제도적 설계마저 어려워질 것"이라고 비판했다. 그는 AI 시스템 개발·활용에 대한 금지 규정도 필요하다고 봤다. 유 교수는 "현재 발의된 법안 중 권칠승 의원 안을 제외하면 금지 규정을 아예 두지 않고 있다"며 "개발·활용에 이런 규정이 없다면 향후 AI 자체가 사용자 안전, 건강, 기본권 등에 중대한 위험을 초래할 수 있다"고 말했다. 유 교수는 고위험 AI 정의에 개선이 필요하다고 주장했다. 특히 공공기관과 산업안전, 고용관계, 신용평가 등에 적용되는 고위험 AI에 대한 개념화가 부족하다는 설명이다. 그는 "고위험 AI 활용에 대한 예외적 개념화는 필수"라며 "민감한 개념일수록 세밀하고 민감히 논의돼야 한다"고 덧붙였다. 그는 이를 개선하기 위해 독립적인 AI 감독·통제를 위한 국가 거버넌스 체계가 중요하다고 제안했다. 유 교수는 "새로운 국가 독립 감독기관 구축이 필요하다"며 "현재 발의된 법안들은 과학기술정보통신부를 주무부처로 규정해 법률 독립성을 유지하기 어렵기 때문"이라고 이유를 밝혔다. 배경훈 LG AI연구원 원장도 AI 위험성에 대한 추가 논의가 필요하다고 강조했다. 배 원장은"AI로 인한 부작용을 막기 위한 적절한 규제는 필요하다"며 "다만 AI 기술 자체보다는 AI로 인한 오남용 방지하는 데 초점 맞춰야 한다"고 말했다. 최경진 가천대 교수 "AI법에 규제·혁신 모두 다뤄야" 최경진 가천대 교수는 올바른 AI 생태계 발전을 위해 규제와 혁신이 양립 가능한 상태로 이뤄져야 한다고 주장했다. 최 교수는 현재 22대 국회가 발의한 AI 법안을 긍정적으로 평가했다. 모든 법안이 신뢰 기반 조성을 입법 목적으로 삼았으며, 이중 다수가 국민 권익과 존엄성 보호를 규정했다는 이유에서다. 다만 AI 개념을 광범위하게 설정하면 실효성 없는 규제안이 나올 수 있다고 우려했다. 이에 최 교수는 AI와 AI 시스템, AI 모델 개념을 각각 구분해야 한다고 봤다. 그는 "규율 대상을 기술적 AI가 아니라 AI 시스템, 서비스로 생각하면 쉬울 것"이라며 "유럽연합(EU)이나 미국 등 해외서도 AI 개념을 세분화한 이유"라고 설명했다. 최 교수는 법률 하나로 모든 AI 문제를 해결할 수 없다며 다각적인 접근 필요성을 주장했다. 그는 "우선 모든 영역에 공통 적용할 수 있는 원칙으로 작동하는 최소한 공통 규제 프레임워크만 AI법에 적용해야 한다"며 "이후 영역 특수성을 고려해 해당 영역을 규율하는 법률 개정이 필요하다"고 강조했다. 그는 다수 법률안에 금지 AI 고려 자체가 부재하단 점을 지적했다. 현재 발의된 법률안 중 더불어민주당 권칠승 의원이 발의한 안을 제외하고 모두 금지 AI에 대한 내용이 포함되지 않은 상태다. 이에 최 교수는 "향후 국민 건강과 안전, 인권을 침해하고 정치질서와 사법 질서를 흔들 수 있는 AI가 개발될 수 있다"며 "이를 통제할 수 있는 수단이 없는 게 현재 법률안 맹점이자 무책임한 입법 태도"라고 비판했다. 최 교수는 AI 기술이 사회에 미치는 영향을 제대로 파악하고 관리하기 위해 평가 시스템을 별도 구축해야 한다고 강조했다. AI 법률안에 적합성 평가 체계와 영향성 평가 체계를 추가해야 한다는 제안이다. 그는 "특히 공공에서 실시간 원격으로 범죄자 탐지하는 기술에 의무적으로 영향평가 제도를 도입하는 식"이라며 "기업들이 자발적으로 해당 평가 체계를 사내에 도입하도록 인센티브 제도가 필요할 것"이라고 덧붙였다.

2024.09.24 19:05김미정

"삼성과 AI 격차 더 벌어지나"…애플, EU AI법 '자발적 준수 협약' 불참할까

애플이 삼성전자와 구글, 아마존 등이 동참키로 한 유럽연합(EU)의 인공지능(AI)법 준수를 위한 '자발적 협약'에 참여할 지 관심이 쏠린다. 애플은 아직 동참 의사를 밝히지 않은 상태로, 최근 EU 집행위와 경쟁법 위반 등으로 갈등을 빚고 있기 때문이란 분석이 나온다. 22일 업계에 따르면 삼성전자는 다음주께 공식화하는 EU 집행위원회 주도 'AI 협약(AI Pact)'에 참여한다. 이번 협약식은 참여 기업 관계자들이 참석한 가운데 오는 25일 벨기에 브뤼셀 집행위 본부에서 열린다. AI 협약은 업계가 EU의 'AI 법'이 본격 시행되기 전 유예기간에도 안전하고 투명한 AI 사용을 위해 노력하겠다는 자발적 서약이다. EU의 AI법은 세계 최초의 포괄적 AI 규제로, AI 기술을 접목한 제품이 EU 시장에 출시되는 과정에 적용되는 규칙이다. 집행위는 AI법이 지난 8월 발효됐지만 고위험 AI 규제 등 대부분 규정이 전면 시행되기까지는 시간이 걸릴 것으로 보여 그간 기업들을 대상으로 협약 참여를 독려해왔다. 현재까지 참여 의사를 밝힌 곳은 삼성전자 외에 구글, 아마존, 마이크로소프트(MS) 등 100여 개 IT 업체인 것으로 알려졌다. 반면 최근 EU 규제당국과 각을 세우고 있는 애플은 여전히 동참 의사를 밝히지 않았다. EU 집행위가 올 초 발효된 유럽 디지털시장법(DMA) 상 명시된 '상호운용성'을 지키기 위해 애플의 핵심 전략인 '폐쇄적 생태계'를 개방하라고 연일 압박하고 있는 것이 영향을 준 것으로 분석된다. 집행위는 최근 아이폰에서 삼성전자 갤럭시워치 등 타사 스마트 기기와 연결성을 높이지 않으면 천문학적 벌금을 물리겠다고 경고한 바 있다. AI 협약에 따르면 참여 기업은 '고위험' AI 기술로 분류될 만한 자사 시스템을 사전 점검한다. 또 AI법 준수를 위한 조직 내 AI 거버넌스 전략 수립 등이 요구되며 12개월 뒤 집행위에 진행 경과를 공유해야 한다. EU의 AI법은 특정 제품이나 분야에서 AI 기술을 활용할 때 발생할 수 있는 위험 정도에 따라 4단계로 나눠 차등 규제가 이뤄진다. 우선 인간의 기본적 권리를 침해할 가능성이 있는 AI 기술 활용은 원천 금지된다. 또 챗GPT를 비롯한 범용 AI(AGI)에 대해서는 AI 학습과정에 사용된 콘텐츠를 명시해야 하는 등 투명성 의무도 주어진다. 일부 규정부터 순차 적용되며 2026년 8월부터 전면 시행된다. AI 기술 관련 잘못된 정보를 제공하는 경우 전 세계 연 매출의 1.5%를, 의무 규정 위반 시 3%의 과징금이 각각 부과될 수 있다. 업계에선 이번 일로 삼성전자가 일종의 'AI법 적응 기간'을 가질 수 있게 됐다는 점에서 적절한 결정이라고 평가했다. 업계 관계자는 "삼성전자는 주요 제품에 AI 기술을 광범위하게 활용하고 있다"며 "이번 협약 동참을 통해 EU에 법 준수 의지를 부각하는 전략적 효과도 어느 정도 누릴 수 있을 것으로 보인다"고 봤다.

2024.09.22 18:14장유미

[ZD브리핑] 불안한 韓 반도체…美 마이크론 실적 발표에 삼성·SK도 '예의주시'

지디넷코리아는 IT 업계의 이슈를 미리 체크하는 '이번 주 꼭 챙겨봐야 할 뉴스'를 제공합니다. '꼭 챙길 뉴스'는 정보통신, 소프트웨어(SW), 전자기기, 소재부품, 콘텐츠, 플랫폼, e커머스, 금융, 디지털 헬스케어, 게임, 블록체인, 과학 등의 소식을 담았습니다. 바쁜 현대인들의 월요병을 조금이나마 덜어 줄 '꼭 챙길 뉴스'를 통해 한 주 동안 발생할 IT 이슈를 미리 확인해 보시기 바랍니다. [편집자주] '반도체 겨울' 논란 속 마이크론 실적 발표...SK하이닉스, TSMC 행사 참석 한국시간으로 오는 26일 미국 주요 메모리 제조기업 마이크론이 2024 회계연도 4분기(6~8월) 실적발표를 진행합니다. 앞서 마이크론은 지난 분기 증권가 컨센서스를 상회하는 실적을 거두며 범용 메모리 및 고대역폭 메모리(HBM) 시장에 대해 긍정적인 전망을 내비친 바 있습니다. 다만 최근에는 모건스탠리 등 일부 증권사에서 마이크론을 비롯한 삼성전자, SK하이닉스 등 주요 메모리 기업들이 예상을 밑도는 실적을 거둘 것이라는 리포트를 내고 있습니다. 이러한 상황에서 마이크론의 공식적인 발언은 메모리 업계의 주요 지표로 작용할 전망입니다. SK하이닉스는 대만 TSMC가 오는 25일(현지시간) 미국 캘리포니아주 샌타클래라 컨벤션센터에서 개최하는 'OIP 에코시스템 포럼 2024'에 참가해 첨단 패키징 기술 공동 연구 결과를 소개할 예정입니다. SK하이닉스는 이번 행사에서 'HBM 품질과 신뢰성 향상을 위한 패키지 내 2.5D 시스템에 대한 공동 연구'를 주제로 발표합니다. 또 부스를 꾸리고 5세대 HBM인 HBM3E와 LPCAMM2, GDDR7 등 최신 AI 메모리를 전시할 예정입니다. SK하이닉스 외에도 마이크로소프트, 구글, 지멘스 등이 참석해 기술을 발표합니다. 글로벌 시장조사업체 SNE 리서치가 24일과 25일 한국과학기술회관에서 '더 코리아 어드밴스드 배터리 컨퍼런스(The Korea Advanced Battery Conference) 2024'를 개최합니다. 첫날에는 KDB산업은행 강석훈 회장이 배터리산업에 대한 평가와 지원 방안에 대해 찬조 발표를 하며, SNE리서치의 김광주 대표가 '전기차 캐즘 현상 분석과 배터리산업 대응 방향'에 대한 발표를 진행할 예정입니다. 이후 삼성SDI, SK온, CATL 등에서 각 사 배터리 사업 전략과 추진방향에 대한 발표를 이어갑니다. 보스턴다이내믹스와 한국 공식 파트너사인 클로봇이 오는 25일 국내에서 첫 사족보행 로봇 '스팟'을 주제로 오프라인 세미나를 개최합니다. 스팟 4.1 버전의 새로운 기능과 신규 페이로드 제품과 사례가 소개될 예정입니다. 로봇 솔루션 업체 씨메스와 클로봇이 상장을 앞두고 각각 23일, 27일 IPO 간담회를 진행합니다. 두 회사는 공모가 상단 기준으로 각각 2천749억원, 2천611억원의 시가총액으로 내달 코스닥 시장에 입성할 예정입니다. 국회, AI기본법-디지털포용법 공청회 개최 AI 기본법 제정안에 대한 국회의 입법 공청회가 다시 열립니다. 21대 국회에서 AI 기본법에 대한 법안심사소위 논의와 공청회까지 거쳤지만, 결국 회기 만료로 법안 제정 과정에는 이르지 못했습니다. 22대 국회서 재차 발의된 AI 기본법을 두고 국회는 다시 제정 논의에 착수했습니다. 법안심사소위 첫날 논의에 속도를 내자는 여야 의원들의 합의가 모였고, 그럼에도 AI 이용자 보호 필요성을 고려해 꼼꼼하게 살펴야 한다는 뜻도 모았습니다. 이를 위해 마련된 공청회는 24일 오후에 열릴 예정입니다. 같은 날 디지털포용법안에 대한 공청회도 열립니다. 국민의힘 고동진 의원과 더불어민주당 박민규 의원이 발의한 법안이 과방위에 상정된 상황입니다. 디지털 심화 시대에 발생하는 디지털 격차를 줄이자는데 정치권의 큰 이견은 없습니다. 과방위는 이날 오전에 디지털포용법안, 오후에 AI 기본법안 공청회를 열 계획인 가운데 이에 앞서 내달 7일부터 열리는 22대 국회 첫 국정감사에 대한 실시 계획서를 채택할 예정입니다. 큰 이변이 없는 한 10월 7일 방송통신위원회, 10월 8일 과학기술정보통신부 대상의 기관 감사를 시작되는 일정에 합의가 이뤄질 것으로 보입니다. 아울러 올해 국정감사에 출석할 증인과 참고인에 대한 논의를 진행할 계획입니다. 과방위는 22대 국회 개원 직후 방통위원장 인사청문을 시작으로 공영방송 이사진 개편으로 정쟁적인 요소가 다분히 많았던 상임위로 꼽힙니다. 이 때문에 증인, 참고인 논의는 다소간의 진통이 예상됩니다. 이에 대한 논의는 30일 예정된 전체회의까지 이어질 것이란 전망이 지배적입니다. 과방위 전체회의 외에도 각 의원실이 다양한 정책 세미나를 준비하고 있습니다. 우선 조국혁신당 이해민 의원과 더불어민주당 소속 과방위원들이 27일 국내 통신비 적정 수준에 대한 전문가 의견을 듣는 자리를 마련했습니다. 또 24일에는 국민의힘 최수진 의원이 모바일 앱 인앱결제 논란에 대해 검토하는 정책토론회를 개최할 예정입니다. 미디어 관련 기금 활용 방안에 대한 국회 논의도 이어집니다. 23일 국민의힘 김장겸 의원은 미디어미래비전포럼과 함께 미디어 환경 변화에 따른 방송통신발전기금 제도 개선 토론회를 개최합니다. 다음날인 24일에 민주당 이훈기 의원은 지역중소방송의 방발기금 지원 방안을 모색하기 위한 토론회를 진행합니다. 미디어 환경 변화에 따른 대책을 논의하기 위해 학계가 한 자리에 모입니다. 26일부터 이틀 간 미래 지향적 K콘텐츠 경쟁력 확보를 위해 글로벌 미디어 플랫폼 산업 구조를 진단하는 내용의 연속 세미나가 열립니다. 한국미디어정책학회, 한국언론학회, 한국방송학회가 공동으로 진행하는 자리입니다. K콘텐츠와 관련해 광주 김대중컨벤션센터에서는 30개국이 참혀하는 문화콘텐츠 종합전시회가 26일부터 나흘간 열립니다. 도쿄게임쇼2024, 개최...호요버스, 원신 라인프렌즈 플래그십 스토어 오픈 이번 주는 도쿄게임쇼2024 개최가 게임업계에서 주목을 받을 것으로 보입니다. 도쿄게임쇼2024는 오는 26일부터 29일까지 일본 도쿄 마쿠하리 멧세에서 개최됩니다. 이 행사에는 한국 포함 글로벌 유명 게임사가 대거 출전해 신작 게임 등을 소개할 예정입니다. 올해 이 행사에 참가하는 한국 게임사로는 넥슨과 빅게임스튜디오 등이 있습니다. 또 한국콘텐츠진흥원은 행사 기간 공동관을 마련하고, 중소 게임사의 해외 진출 등을 지원합니다. 넥슨 측은 행사 기간 흥행 기대작 중 하나로 꼽히는 액션RPG '퍼스트 버서커 : 카잔'을 출품하고 현지 팬들의 반응을 살펴볼 계획입니다. 이 게임은 넥슨코리아 자회사 네오플이 개발 중이며, 지난 달 독일 게임쇼 게임스컴2024에 출품해흥행성을 일부 보여주기도 했습니다. 이 게임은 내년 상반기에 출시될 예정입니다. 빅게임스튜디오는 '브레이커스 : 언락 더 월드'를 행사 기간 현장에 선보입니다. 이 게임은 애니메이션풍 그래픽 연출성을 담은 작품으로, 모바일PC 크로스플레이를 지원합니다. 이 회사는 지난달 엔씨소프트로부터 전략적 투자를 유치해 다시 주목을 받은 게임사입니다. 당시 투자 규모는 370억원이었습니다. 한국콘텐츠진흥원은 도쿄게임쇼 공동관을 통해 투핸즈인터랙티브, 뉴코어, 오드원게임즈, 가원글로벌, 익스릭스, 디자드, 스튜디오두달, 센티어스 등 총 15개 게임사가 참가를 지원합니다. 이와 함께 호요버스는 오픈월드RPG '원신' 라인프렌즈 미니니 플래그십 스토어를 오픈합니다. 원신 미니니 협업 팝업 스토어입니다. 해당 스토어는 오는 25일부터 다음 달 9일까지 100% 사전예약 방식으로 운용합니다. 스토어에서는 미니니 스타일로 재구성된 원신의 주요 캐릭터 상품을 만나볼 수 있습니다. MS, 애저 부트 캠프로 'AI 주도권' 잡기 박차...AWS, 생성형 AI 전략 소개 마이크로소프트가 24일부터 26일까지 3일간 웨비나 'AI 함께 하는 혁신: 마이크로소프트 애저 부트 캠프'를 개최합니다. 마이크로소프트의 AI 전문가와 글로벌 리더가 진행하는 이번 웨비나는 업무별 AI 활용 사례와 작업에 적합한 생성형 AI 모델 선택 등 아시아 지역 리더들의 AI 도입 사례를 공유할 예정입니다. 이와 함께 마이크로소프트는 AI를 보다 효율적으로 활용하기 위한 웨비나를 27일 추가로 실시합니다. 'AI 기술 스킬업: 프롬프팅 기초'라는 이번 웨비나는 AI비서 코파일럿을 보다 잠재력을 끌어올릴 수 있는 프롬프트 기술을 소개합니다. 코파일럿을 이제 막 시작한 사용자와 숙련자에게 정보를 제공하기 위해 프롬프트의 구조 등 기본적인 요소를 비롯해 실제 기업이나 업무에서 사용 중인 최신 사례와 효과적인 팁을 선보일 계획입니다. 닷컨프 고 서울(.conf Go Seoul)도 같은 날 인터컨티넨탈 서울 파르나스에서 열립니다. 이번 행사는 최신 기술 트렌드와 혁신적인 솔루션을 공유하며 서울시를 글로벌 기술 허브로 자리매김하기 위한 다양한 논의를 진행하는 자리입니다. 이번 행사에서는 그랜드볼룸에서 기조연설이 진행된 후 위스테리아룸에서 기자간담회가 이어집니다. 참가자들은 최신 기술 동향에 대한 깊이 있는 발표와 함께 네트워킹 기회를 가질 수 있으며 전문 패널들의 토론을 통해 미래 기술의 방향성을 모색할 예정입니다. 아마존웹서비스(AWS)도 24일에 서울 잠실 롯데호텔에서 'AWS AI 데이: 이노베이션'을 개최합니다. 이번 행사는 아마존 베드록을 중심으로 한 AWS의 생성형 AI 전략과 최신 트렌드를 소개하는 자리입니다. 비즈니스 트랙과 기술 트랙도 동시 진행됩니다. 비즈니스 트랙에서는 앤트로픽과 메타의 생성형 AI 기술이 소개될 예정입니다. LG유플러스와 GS리테일이 생성형 AI를 통해 비즈니스를 혁신한 사례도 공유합니다. 기술 트랙에서는 AWS 생성형 AI 기술 데모와 함께 구체적인 활용 사례와 구축 방안을 공개할 예정입니다. LG CNS는 오는 26일 '액티브 디렉토리의 숨겨진 비밀 : 해킹 공격과 방어의 전쟁' 웨비나를 엽니다. 이번 웨비나에서는 LG CNS의 퍼플랩이 AD환경에서의 해킹 방어 전략을 어떻게 구성하는지 분석하고 실질적인 보안 강화 전략을 꾸리는 방법에 대해 논의합니다. 또 퍼플랩에서 레드팀과 블루팀은 각기 무슨 역할을 하고 어떤 협력을 진행하는지 제시합니다. 뉴타닉스 역시 이달 26일 서울 여의도에서 연례 컨퍼런스인 '닷넥스트 온 투어 서울'을 개최합니다. 뉴타닉스의 주요 서비스인 클라우드, 인프라, 관리, 데이터 서비스 및 플랫폼을 선보이는 자리로 변재근 뉴타닉스코리아 사장, 마이크 펠란 뉴타닉스 솔루션 영업 부사장 등이 하이브리드 클라우드 산업에 대한 전략과 국내 도입 사례를 소개할 예정입니다. 에퀴닉스도 26일 서울 여의도 하나증권빌딩 TEC 센터에서 '에퀴닉스 디지털 인프라 기술·트렌드 발표'를 진행합니다. 행사에선 장혜덕 에퀴닉스 한국 대표가 참석해 국내 디지털 기술 트렌드와 고객 사례를 소개합니다. 이어 국내와 아시아·태평양 지역 비즈니스 성과를 비롯한 향후 사업 계획을 발표합니다. 앤서니 호 에퀴닉스 아시아 태평양 제품관리 디렉터가 제품 데모를 시연할 예정입니다. 식품업계, 글로벌 진출 확대 모색…NS홈쇼핑, 익산서 '푸드페스타' 진행 이번 주에는 식품업계의 글로벌 진출을 확대하기 위해 업계 관계자 및 전문가들이 모여 방안을 논의하는 포럼이 진행됩니다. 우선 한국건강기능식품협회는 중국 알리바바닷컴과 오는 24일 '알리바바닷컴 활용을 통한 건강기능식품 B2B 판로 개척' 웨비나를 개최합니다. 이번 웨비나는 건기식협회 회원사의 해외 B2B 시장 진출을 지원하기 위해 진행됩니다. 독점적인 마케팅 툴, 산업별 데이터, 한국 기업의 입점 사례, 유의사항 등 알리바바닷컴을 활용한 건강기능식품 산업의 온라인 판로 개척과 디지털 솔루션에 대해 설명할 예정입니다. 오는 25일과 26일 양일간 'K-푸드 익스프레스(Food Express) 2.0 : 연대하며 나아가다' 포럼도 열립니다. 이번 행사는 법무법인 미션, 한국무역협회(KITA), 서울경제진흥원(SBA), 글로벌디지털혁신네트워크(GDIN), 한국농업기술진흥원(KOAT)이 공동 주최하며 주한미국대사관에서 F&B 기업의 미국 진출 지원 정책을 소개할 예정입니다. 포럼 연사진으로는 임재원 고피자 대표, 김범진 웨이브라이프스타 일테크 대표, 허지수 CJ푸드빌 CSO, 더글라스 박(Douglas Park) 토끼소주 대표 등이 참석합니다. NS홈쇼핑은 오는 26일부터 27일까지 전북 익산시 '하림 퍼스트키친' 일대에서 'NS 푸드페스타(FOOD FESTA) 2024 인 익산(in IKSAN)'을 개최합니다. 'NS 푸드페스타'는 농수축산업과 식품산업 발전을 위해 NS홈쇼핑이 2008년부터 개최해 온 식품문화축제입니다. 이번 행사에서 다양한 경험과 흥미로운 볼거리로 관람객들에게 '최고의 맛'을 제시하고 청년 스타트업의 발굴을 통해 식품산업의 미래 비전을 제시한다는 방침입니다. 사회복지종사자 권익지원센터 개소...집중호우에 안전관리 강화 요청 사회복지종사자 권익지원센터(이하 권익지원센터)가 오는 24일 개소합니다. 권익지원센터는 제21대 국회에서 개정된 사회복지사 등의 처우 및 지위 향상을 위한 법률에 따라 설립된 기관으로, 사회복지 분야 노동자들의 권익을 보호하고 안전한 근무 환경 조성을 지원합니다. 주요 사업으로는 인권침해를 경험한 노동자들에게 상담과 지원 제공, 권익 보호를 위한 예방적 교육과 홍보, 권익 침해 실태와 권익 보호 방안에 대한 조사와 연구, 관련 기관과의 협력 네트워크 구축입니다. 앞서 보건복지부는 권익지원센터의 운영을 2025년 12월 31일까지 한국사회복지사협회에 위탁하기로 결정한 바 있습니다. 보건복지부 장관은 집중호우에 따른 사회복지시설과 의료기관의 안전관리를 위해 지자체와 적극 협력해 피해가 최소화되도록 안전점검 등을 철저히 해줄 것을 지시했습니다. 특히 취약계층이 이용하고 있는 노인․아동․장애인 등 사회복지시설에 대해서는 정밀 안전 모니터링을 실시하고, 피해 발생이 우려 될 경우에는 선제적 대피를 통해 이용자의 안전을 최우선으로 해줄 것을 지시했습니다.

2024.09.22 13:27장유미

오픈AI 'o1'로 AGI 시대 성큼…"정부·기업, 개발 투명성 고려 필수"

오픈AI가 데이터 기반으로 답하는 것을 넘어 실제 추론까지 하는 생성형 인공지능(AI) 모델을 공개하면서 일반인공지능(AGI) 시대를 향해 한 걸음 더 나아갔다는 평가를 받는다. 이달 13일 오픈AI는 AI 추론 능력을 대폭 강화한 새로운 모델 o1 프리퓨 버전과 미니 버전을 블로그를 통해 공개했다. 이 모델 시리즈는 이전 모델보다 더 복잡한 문제를 처리할 수 있으며 수학과 코딩 등 기술적 문제를 해결할 수 있다. 국제 수학 올림피아드 예선에서 'GPT-4o'는 13%의 문제를 해결했으나 'o1'은 83%의 문제를 정확히 풀어냈다. AI 업계가 고도화된 기술을 쏟아내고 있는 만큼 중요하게 부각되는 부분도 생겼다. 바로 AI 규제다. 현재 미국은 캘리포니아 AI 안전법을 통과시켜 개발 투명성과 안전성 부각에 나섰다. 유럽연합(EU)은 물론이고 캐나다와 영국, 일본도 마찬가지다. 이에 발맞춰 국내서도 최소한의 투명성 관련 규제가 필요하다는 의견이 나오고 있다. AGI 시대로 다가갈수록 AI 기반 솔루션과 결과물이 예측 불가하다는 이유에서다. 법무법인 태평양 강태욱 변호사와 윤주호 변호사는 최근 기자와 만나 고도화된 AI 시스템이 산업계에 안착하기 위해 필요한 법안에 대해 이야기 나눴다. 생성형 AI와 관련한 딥페이크, 저작권 문제, 근로 환경 등 이슈에 대한 의견도 공유했다. 법무법인 태평양은 AI팀 활동을 올해 초 본격화했다. AI팀은 AI 기술 개발이나 솔루션 구축, 사업 시작을 위해 지켜야 할 개인정보 보호법과 데이터법 등을 고객에게 자문한다. 현재 약 20명이 해당 팀에서 근무 중이다. Q. 지난주 오픈AI가 사람처럼 추론할 수 있는 고급 모델을 내놨다. 산업계가 AI 시스템 고도화를 신속히 진행하고 있다. 이럴수록 AI 규제 필요성이 더 높아지지 않을까. 윤: 그동안 기업이 AI 시스템 고도화를 위한 기술을 꾸준히 내놨다. 앞으로 기존 개발 틀을 벗어나진 않을 것 같다. 다만 고도화된 AI 시스템으로 무엇을 만들지 아무도 예측할 수 없다. 결국 AGI 등 고도화된 AI 시스템이 산업에 안착하려면 최소한 규제는 필요할 것이다. 이중 개발 투명성이 가장 중요하다. 정부가 개발자나 AI를 사용하는 기업에 데이터 사용 방식이나 모델 알고리즘에 대해 질문을 요구할 수 있는 규제가 필요하다. 다만 AI 산업이 어느 정도 성장한 단계에서 해당 규제를 추진해야 할 것이다. Q. 기업이 정부에게 AI 기술을 의무로 공개하는 법 정도로 이해하면 되는 건가. 조금 더 구체적으로 설명해 달라. 윤: AGI는 지금보다 훨씬 더 고도화된 AI 시스템이다. 그동안 전문가들은 AI 모델에서 파생되는 새 기술을 예측할 수 있었다. 반면 고도화된 AI 시스템이 출현하면, 예측할 수 없다. 기술 불확실성이 커진다는 의미다. 정부는 AI의 불확실성과 그로 인한 잠재적 위험을 관리하기 위한 최소한의 조치 정도로만 규제를 설정하면 된다. 개발자나 기업이 AGI로 특정 결정을 내릴 때 그 결정 과정이나 근거를 정부에 설명하거나 공개할 수 있는 체계다. 정부는 향후 이런 법안을 입법에 넣어야 한다. 이보다 더 강력한 규제는 삼가야 한다. 오히려 기술 중립성을 해칠 수 있다. Q. 현재 국내에선 현존 AI 기술로 인한 이슈가 많다. 딥페이크가 대표적이다. 정부가 딥페이크 피해 방지를 위해 여러 법안 제정을 추진 중이다. 충분히 피해를 최소화할 수 있을 것으로 보는가. 강: 방송통신위원회가 제정을 추진 중인 이용자보호법에는 딥페이크 피해 방지를 위해 AI로 생성된 콘텐츠에 AI 생성물 표시를 의무화하는 법 등을 도입할 것으로 보인다. 그러나 표시 의무 규정 법안만으로 문제를 완벽히 해결할 수 없다. 딥페이크 영상물에 AI 생성물 표시 의무를 부과하면, 일차적으로 허위 정보 확산을 방지하고 제작자·유포자에게 책임은 물을 순 있다. 그러나 딥페이크 제작자나 유포자의 거짓 고지 가능성이 있다. 이용자보호법이 문제 해결에 실효성있게 작동하려면 정부는 지금보다 디테일한 집쟁 정책을 운영해야 한다. Q. 최근 미국 캘리포니아주가 AI 안전법 'SB 1047'을 통과시켰다. 거대 AI 모델에 대한 강력한 규제를 담고 있는 법안이다. 일각에선 SB 1047이 책임소재와 범위가 과도하다는 지적이 나오고 있다. 이를 어떻게 평가하는지. 강: 해당 법안에는 AI로 인한 핵심 피해 방지를 위한 안전 평가 관련 내용과 AI 모델 개발자들에 대한 독립적 제3기관에 의한 감사, 보고의무, 학습을 포함한 AI 모델 기능을 중단시키는 전제 중단 기능 구현, 공공 안전 위협에 대한 징벌적 손해배상 등 내용을 담고 있다. AI가 가져올 위험을 통제할 수 있는 장치가 필요하다는 점에 대해서는 공감한다. 다만 이런 강력한 규제는 이미 기술·산업적으로 최정점에 서 있는 국가에서나 효율적일 수 있다고 본다. 오히려 시장에 진입하고자 하는 해외 경쟁업체들에 진입장벽으로 기능할 수도 있다. Q. 해당 법이 최종 승인되면 다른 나라 AI법에도 영향 미칠 전망이다. 국내 정부도 SB 1047과 노선을 같이할 수 있는 법안을 마련할 것으로 보는가. 강: 현재 과학기술정보통신부에서 제정을 추진하고 있는 AI 기본법은 AI 산업 진흥에 관한 법률이다. AI 시스템 규제에 초점을 맞추고 있는 법은 아니다. SB 1047처럼 AI 안전 평가, 제3자에 의한 감사·보고 의무 같은 강력한 규제 사항들이 포함되지 않을 가능성이 있다. 정부가 AI 관련 제도를 마련하는 과정에서 EU나 미국 등의 AI 관련 규제 정책 사례를 참고할 수는 있다. 다만 국내 AI 산업은 아직 성장단계에 있다. 과도한 규제가 가해질 경우 산업 자체가 위축될 수 있다는 점 고려해야 한다. 이후 고도화된 AI 시스템 대비를 위해 개발 투명성 등 적절한 규제를 추가하면 된다. Q. 저작권 이슈도 생성형 AI 산업서 많이 거론되는 주제다. 기업 노력만으로 해결할 수 있는 문제가 아니라는 평가가 이어지고 있다. 윤: 그렇다. 그동안 학습용 데이터를 무료로 이용하는 행위에 관대한 분위기였다. 챗GPT 출현 후 저작권 이슈가 나오고, 지난해 하반기부터 소송이 이어지면서 분위기가 달라졌다. 데이터 활용이 유료로 전환될 필요가 있다는 목소리가 나와서다. 이미 데이터 학습을 AI 모델에 충분히 진행한 업체나 대기업은 이에 동의하는 입장이다. 저작권 이슈는 생성형 AI 산업계와 저작권 관련 업계가 공감대를 형성해야 한다고 본다. 이는 법 마련보다 더 시급한 과제다. 지난해 저작권위원회와 문화체육관광부가 생성형 AI 저작권법 제정에 나선 바 있다. 안타깝게도 결과가 잘 안 나왔다. 당시 양측 공감대가 없었기 때문이라고 본다. 지난해 국회도 저작권법 논의 때 해결 주제를 이야기하긴 했다. 아직 마침표를 찍지 못했다. 정부가 나서서 속도감 있게 생성형 AI 산업계와 저작권 관계자 등으로부터 의견을 충분히 모으는 역할을 해야 할 것 같다. Q. 생성형 AI가 산업에 도입되면 근로 환경도 변할 것이란 전망이 나오고 있다. 기업이 직원을 AI로 대체하는 과정에서 법률적 문제를 겪을 것으로 보인다. 윤: 단정 짓기 어려운 문제다. 국내에 AI와 근로법이 충돌한 사례가 아직 없기도 하다. 다만 기업이 신규 채용을 줄이는 방식을 가장 합리적인 선택으로 볼 것 같다. 이 부분에서도 정부 역할은 필요하다. 기업이 신규 채용을 너무 줄이면 정부가 정책을 통해 관리를 해야 한다. 기업과 근로자 공감대 형성도 도와야 할 것이다. Q. 이슈를 종합해 볼 때 앞으로 AI 윤리 중요성이 높아질 것 같다. 최근 기업들이 사내에 AI 윤리위원회를 설치해 AI 개발·활용에 지켜야 할 수칙을 정하는 추세다. 올바른 방향으로 가고 있다고 보는가. 강: 최근 대기업 중심으로 AI 거버넌스를 추진 중인 걸로 알고 있다. AI를 개발·활용할 때 지켜야 하는 원칙 틀을 만드는 추세다. 이런 원칙은 국내에서 한 10개쯤 나와 있다. 문제는 원칙에 디테일이 부족하다는 점이다. 사실 이런 건 법률가들이 잘할 수 있는 업무다. 현재 법률 지식과 기업 사정에 가장 알맞은 디테일을 만들어야 해서다. 그렇지 않으면 거버넌스를 만들어도 AI 이용·개발에 충분히 적용할 수 없을 것이다. Q. 국내 기업이 AI 윤리위원회 설치를 활성화하려면 무엇이 필요한가. 강: 모든 기업이 AI 윤리위원회 필요성을 알고 있다. 다만 위원회만 만들고 끝나는 게 아니라, 실제 회사 내에서 높은 수준의 중요성을 가져야 한다. 이사회 의장 또는 최고경영자가 이를 정말 중요하게 생각해야 한다. 이들이 위원회를 지지해야 결정권도 가질 수 있어서다.

2024.09.18 13:19김미정

[현장] AI 기본법 제정, 정부·시민사회 '맞손'

인공지능(AI) 기본법 제정의 필요성과 방향을 논의하기 위해 국회 과학기술정보통신위원회와 시민단체가 손을 맞댔다. 더불어민주당 최민희 의원이 12일 국회에서 시민기술네트워크가 함께 주최한 '시민참여 AI 기본법 추진을 위한 쟁점 토론회'에는 정치인·산업계·정부·시민사회가 참석해 AI 법안 제정에 대한 다양한 의견을 나눴다. 특히 과기정통위 소속 의원 대다수가 참석해 기본법 제정의 필요성을 촉구했다. 첫 번째 발제를 진행한 영국 사회혁신연구소 '스프레드아이'의 김정원 대표는 유럽연합(EU)의 AI 기본법에 대해 소개하며 그 핵심 쟁점과 사회적 영향에 대해 논했다. 김 대표는 "EU는 지난 2018년부터 AI 법안에 대한 논의를 시작해 올해 최종안을 발표했다"며 "AI 사용 시 발생할 수 있는 인권 침해를 방지하기 위해 신중한 법안 구성을 추구하고 있다"고 밝혔다. 김 대표에 따르면 AI 기본법의 가장 핵심적인 쟁점은 고위험 AI에 대한 규제와 적합성 평가다. 현재 AI법에 의하면 표준화 기구가 규제를 주로 담당하고 있기 때문이다. 이 기구들은 주로 산업 안전을 담당해 왔다. 그는 "EU가 인권 보호에 초점을 맞췄음에도 평가기준이 이에 대해 충분히 반영되지 못하고 있다"라며 "표준화 기구들이 주로 산업 안전에만 집중하기 때문에 인권 보호가 소홀해질 수 있다"고 밝혔다. 이어서 발제를 맡은 법무법인 혁신의 박지환 변호사는 21대 국회 이후 AI 기본법 국회 입법안의 발의 과정을 설명했다. 박 변호사는 "21대 국회에서 발의된 AI 관련 법안들은 9건이었지만 이는 결국 회의 종료 이후 폐기됐다"며 "이번 22대 국회에서도 이미 10건이 발의되는 등 법안 제정을 위한 논의가 진행 중"이라고 설명했다. 그러면서 "국가 인권위원회에서는 우선 허용, 사후 규제 원칙 원칙을 삭제하라고 권고했다"며 "고위험 인공지능에 대한 규제가 앞으로도 핵심 쟁점이 될 것"이라고 주장했다. 이날 행사에는 과기정통위 소속의 더불어민주당의 김현 의원, 정동영 의원, 조인철 의원, 한민수 의원, 이훈기 의원, 황정아 의원, 노종면 의원, 이정헌 의원과 국민의힘 최형두 의원, 개혁신당 이준석 의원, 조국혁신당 이해민 의원이 참가해 의견을 나눴다. 이준석 개혁신당 의원은 정치권의 AI에 대한 접근 방식에 우려를 표하며 올바른 기술 활용의 필요성을 강조했다 이 의원은 "'챗GPT'와 같은 생성형 AI 등장 후 기술에 대한 관심이 높아졌다"며 "동시에 정치인들은 AI와 관련된 버즈워드에만 집착하는 상황"이라고 밝혔다. 그러면서 "명확한 가이드라인이 없다면 AI 발전이 오히려 국가에 위험을 초래할 수 있다"고 경고했다. 행사를 공동 주최한 최민희 더불어민주당 의원은 행사의 의미와 AI 법안 통과의 긴급성을 강조했다. 최 의원은 "지난 달부터 준비를 시작해 이번 달 빠르게 토론회를 개최했다"며 "앞으로도 법의 조속한 통과를 위해 시민사회의 의견을 바로 반영하겠다"고 밝혔다. 이번 토론회는 좌장인 이원태 아주대 교수의 진행 아래 하정우 네이버클라우드 AI 소장, 남철기 과학기술정보통신부 과장, 오병일 진보네트워크센터 대표 등 다양한 전문가들이 참여해 AI 법안에 대한 의견을 나눴다. 좌장인 이원태 아주대 교수는 "AI 기본법은 사회 전반에 걸친 중요한 문제"라며 "이번 토론회를 통해 다양한 이해관계자의 의견을 반영할 수 있게 되길 바란다"고 밝혔다.

2024.09.12 18:01조이환

이훈기 의원, 인공지능법 제정안 대표 발의..."산업 발전과 규제 균형"

국회 과학기술정보방송통신위원회 이훈기 의원(더불어민주당)은 12일 인공지능의 발전과 규제의 균형을 맞춘 '인공지능의 발전과 안전성 확보 등에 관한 법률안'을 대표발의 했다고 밝혔다. 법안은 인공지능에 대한 윤리와 신뢰성 확보를 위해 고위험 인공지능 사업자의 책무를 마련하고 '인공지능 영향평가' 규정을 포함시켰다. 영향평가는 인공지능 사업자가 사전에 인공지능 서비스가 기본권에 미치는 사회적 파급효과를 고려하도록 한 것으로, 공공기관 등이 채용이나 공공서비스를 위해 인공지능을 사용할 때 인공지능 영향평가가 완료된 서비스를 우선 이용하도록 한 것이 특징이다. 법안의 주요 내용은 크게 ▲고위험 영역 인공지능 규율 ▲인공지능 위원회 구성 및 운영 ▲인공지능 영향평가 ▲생성형 인공지능 결과물 표시 등이다. 구체적으로 범죄 관련 생체정보, 채용과 대출 등 중대한 개인 권리와 관련된 사항을 고위험 영역 인공지능으로 규율하고, 민간이 과반을 차지하는 민관 합동 인공지능 위원회를 두고 위원회에서 인공지능 기본계획을 심의 의결토록 했다. 또 인공지능에 대한 윤리와 신뢰성 확보를 위해 고위험 인공지능 사업자의 책무 등을 '인공지능 영향평가' 규정에 포함하고 최근 인권 침해를 유발하는 딥페이크를 비롯한 챗GPT 등 생성형 인공지능이 만들어내는 결과물에 생성형 인공지능 결과물이라는 표시를 의무화하도록 했다. 이훈기 의원은 “고위험 인공지능이 우리 국민의 기본권에 미치는 영향이 큰 만큼 별도의 '인공지능 영향평가'를 통해 인공지능 서비스가 사전에 국민 기본권에 미치는 영향을 평가하도록 했다”며 “제정법안 통해 인공지능 발전과 규제가 조화를 이루고 국민 안전을 우선으로 하는 인공지능 기본법 논의가 시작되길 기대한다”고 말했다.

2024.09.12 12:25박수형

Prev 1 2 3 4 5 6 7 Next