• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
인공지능
배터리
양자컴퓨팅
컨퍼런스
칼럼•연재
포토•영상

ZDNet 검색 페이지

'AI 규제'통합검색 결과 입니다. (73건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

"EU 같은 규제 안돼"…美 AI 로비스트, 의회 여론 선점 나서

인공지능(AI) 규제 논의와 발전 속도에 발맞춰 AI 산업 로비스트들이 발 빠르게 미국 의회에 손을 내밀고 있다. 9일 AP통신 등 외신에 따르면 AI 산업 로비스트들은 의원·보좌관들과 직접 만나 AI 규제 법안 수위에 대한 캠페인과 로비를 진행 중이다. 외신들은 미국 로비스트들이 미국의 AI 규제가 유럽연합(EU)의 AI 법을 따라가지 않도록 로비 중이라고 보도했다. 의회 의원들을 지속적으로 교육하고 정보를 제공해 의원들이 과도한 규제를 담은 법을 만들지 않도록 나서는 것이다. 실제로 AI 로비 단체 수는 2년 사이 급증했다. 미국 정치 자금 감시기관 오픈시크릿에 따르면 AI 이슈에 로비하는 조직은 2022년 158개에서 2024년 462개로 약 190% 이상 증가했다. 일부 로비스트 단체 뒤에는 마이크로소프트, 아마존 등 빅테크도 있는 것으로 알려졌다. 미 의회도 로비스트에게 호의적인 것으로 알려졌다. 특정 법안에 지지·반대를 표하는 것이 아니기 때문에 상호 간의 관계 구축에 용이하기 때문이다. 소프트웨어 얼라이언스 크레이그 올브라이트 수석 로비스트는 "의회 관계자들은 AI와 관련된 정책 교육을 받고 싶어 한다"며 "우리는 AI를 향해 닫혀 있는 문을 열고자 한다"고 말했다. 반면 학계는 기업 로비스트들의 세력에 밀리는 분위기다. 매사추세츠 공과대학 맥스 테그마크 교수는 "학계가 이 정도 세기의 로비 수준을 견제하는 건 어려운 일"이라고 우려했다. MIT 아수 오즈다글라 컴퓨터 과학과 교수도 "학계는 컴퓨팅 리소스에 대한 접근성이라는 큰 과제를 안고 있다"며 "우리는 연구를 하고 있고 이들을 따라잡고자 하지만 경쟁에서 살아남으려면 여러 가지 난관이 있다"고 아쉬움을 내비쳤다. 미국 버지니아주 돈 베이어 민주당 의원은 "아직 누구에게도 EU AI 법과 관련해 EU를 옹호하는 입장을 듣지 못했다"라며 "끊임없이 의회에 들려오는 이야기는 미국이 EU가 간 길을 똑같이 따라가지 말아야 한다는 것"이라고 말했다.

2024.09.09 11:53양정민

美·英·EU, 'AI 국제조약' 최초 체결

미국, 영국, 유럽연합(EU)이 인공지능(AI) 기술 혁신과 윤리를 동시에 발전시키고자 법적 구속력이 있는 국제 조약을 체결했다. 하지만 일부에서는 이번 조약의 실효성에 대해 의문을 제기하고 있다. 6일 도이체벨레에 따르면 유럽평의회가 주도한 이 조약은 지난 5일 리투아니아 빌뉴스에서 미국, 영국, EU 등 여러 국가가 서명했다. 이 조약은 AI 기술 발전을 장려하면서도 그로 인한 위험을 관리하는 법적 규제를 제시한다. 이번 조약은 ▲인권 ▲민주주의 ▲법치주의 등 세 가지 중요한 영역에 AI를 어떻게 적용할 지에 초점을 맞추고 있다. 특히 이 조약은 AI 시스템의 전체 수명주기를 관리하는 규정을 포함하고 있어 기술 개발부터 폐기까지 전 과정을 감독하는 것을 목표로 한다. 이는 고위험 분야에서 AI가 인권을 침해할 가능성을 예방하기 위한 조치다. 미국, 영국, EU 외에도 안도라, 아이슬란드, 몰도바, 이스라엘 등도 이번 조약에 서명했다. 앞으로 다른 국가들도 서명할 수 있는 개방형 조약으로 설계됐다. 서명한 국가는 자국 내에서 비준해 법적 구속력을 부여해야 한다. 조약에 참여한 국가들은 기술 혁신을 촉진하는 동시에 AI가 사회에 미칠 부정적 영향을 최소화하는 데 중점을 두고 있다. 이번 조약은 AI 규제의 글로벌 기준을 제시함으로써 향후 AI 기술의 발전 방향에도 큰 영향을 미칠 것으로 보인다. 그럼에도 불구하고 일부 전문가들은 조약의 법적 집행의 실효성에 대한 의문을 제기했다. 비영리법 유럽센터(ECNL)의 프란체스카 파누치 변호사는 "이 협약에서 규정한 원칙과 의무는 너무 광범위하고 단서 조항이 많다"며 "이에 법적 확실성과 효과적인 집행 가능성에 심각한 의문이 있다"고 주장했다.

2024.09.06 09:57조이환

[현장] "지시와 규제만으론 AI 시대 곤란"…박영선 前 중기부 장관, AI 기본법 소견 밝혀

지난 4월 미국 하버드대학교 연구 과정을 마치고 돌아온 박영선 전 중소벤처기업부 장관이 복귀 후 첫 국회 방문에서 인공지능(AI) 기본법과 경직된 한국 사회의 분위기에 대해 언급했다. 박 전 장관은 4일 국회 제4간담회실에서 열린 'AI와 디지털 전환(DX)의 미래 정책 방향' 간담회에 참석해 AI 기본법에 대한 소견을 밝혔다. 이 자리에서 박 전 장관은 "인간이 마차를 발명하고 자동차를 발명한 뒤 영국에선 자동차가 마차보다 빨리 가선 안 된다는 '레드플래그 법'이 만들어졌다"며 "이 규제로 자동차 산업의 중심은 미국으로 건너갔고 이는 미국을 100여 년간 패권국가로 만든 주인공"이었다며 적확한 규제의 중요성을 강조했다. 이어 "판단과 결정에 익숙하지 않은 대한민국은 지금 병목현상에 걸렸다고 생각한다"며 "지시와 규제가 익숙한 사회다 보니 우리 사회가 점점 경직화되고 있다"고 우려했다. 박 전 장관은 "중기부 장관 시절 공무원들은 매번 '잘못되면 어떡하지'라는 걱정 속에 사로잡혀 규제를 계속해서 만들어 냈다"며 "AI 기본법을 포함해 이 규제를 어떻게 짜느냐가 정치와 국회의 역할"이라고 덧붙였다. 박 전 장관은 AI 국가 위원회에 대해서도 첨언했다. 문재인 정부, 박근혜 정부, 이명박 정부에서도 대통령과 각 부처 장관이 참석하는 위원회가 있었지만 기업 총수·대표 등 목소리를 내야 하는 이들이 제대로 된 의견을 낼 수 없는 분위기라는 것이 박 전 장관의 주장이었다. 박 전 장관은 "각 기업의 대표들이 제대로 말할 수 없는 분위기가 만들어진 이유는 지시 문화 때문"이라며 "이를 타파하기 위해선 AI 기업 등 대표들이 자유롭게 논의를 주고받을 수 있는 수평적 거버넌스가 만들어져야 한다"고 언급했다. 그는 "지난해 하버드에 있으면서 '우리가 과거 메모리 반도체의 영광에 너무 취해 있었던 것 아닌가'라는 생각이 들었었다"며 "국회에서 치열하게 AI 입법과 규제를 범국민적으로 토론하고 고민하는 모습을 보여야 한다"고 말했다.

2024.09.04 17:30양정민

[현장] "챗GPT 시대 맞는 AI법 필요"…국회, AI 규제 관련 논의

"지난 21대 국회에서 인공지능(AI) 법을 만들려고 했으나 법제화의 현실이 챗GPT 이전 수준에 머물러 있었습니다. 생성형AI가 나오고 있는 상황에서 알파고 입장에서 법제를 만들면 안되잖아요. 탄탄한 토대 하에 법을 만들기 위해 이번 간담회를 열었습니다." 더불어민주당 조승래 국회의원은 4일 국회 제4간담회실에서 '인공지능(AI)과 디지털 전환(DX)의 미래 정책 방향' 간담회에서 제대로 된 AI 기본법이 필요하다고 말했다. 이번 간담회에서는 AI 기술 확산에 따른 사회경제적 영향과 AI 법제화의 방향에 대해 발표가 이뤄졌다. 조 의원은 "AI는 몇 년 전부터 깊숙하게 들어와 있는 주제지만 국회의 시각은 알파고에 멈춰 있는 것 아닌가라는 의문 들었다"라며 "기술이 합의보다 먼저 가버리는 시기지만 합의가 먼저 이뤄지지 않으면 자칫 속박으로 작용할 수도 있다"고 우려했다. 한국지능정보사회진흥원(NIA) 이용진 AI 정책 본부장은 "과기정통부에 따르면 AI가 성공적으로 도입될 경우 연간 300조원 이상의 경제 효과가 있다"며 "2026년까지 123조원에 가까운 매출 증가와 약 187조원의 비용 절감 효과가 있을 수 있다"고 강조했다. 특히 제조업에선 약 24조원의 매출 상승, 54조원의 비용 절감 효과가 있을 수 있을 수 있다며 산업별로 허들을 정확히 파악해 규제를 만드는 것이 매우 중요하다고 덧붙였다. 이번 간담회는 과학기술정보통신부 후원으로 조 의원과 국민의힘 최형두 국회의원을 포함해 박영선 전 중소벤처기업부 장관, 과기정통부 류제명 네트워크정책실장, 조국혁신당 강경숙 국회의원 등이 참석했다. 이어진 발표에서 법무법인 광장 고환경 변호사는 일본, 미국에 비해 한국은 내세울 수 있는 AI 기술 기업이나 유니콘 기업이 없는 것이 현실이라며 학습데이터나 관리 체계 투자 측면에서 한국이 약점을 갖고 있다고 말했다. 고 변호사는 "AI 기술에 대해서는 대규모 자본 투자가 불가피하기 때문에 규제 불확실성을 빨리 해결해줘야 한다"며 "AI 안전연구소 설치와 관련해서도 실증적 테스트를 통해서 위험에 대해 어느 정도 대처해야 하는지 연구가 적극적으로 이뤄져야 할 필요가 있다"고 언급했다. 고 변호사는 거버넌스를 통해 일관된 정책과 AI와 관련한 최소한도의 예측 가능성을 제시하는 것이 필요하다며 자율규제 방안 마련을 중심으로 최소한의 규제만을 담은 입법 검토가 절실하다고 발언했다. 고 변호사는 앤드류 응 교수의 발언을 인용해 "EU AI 법은 제대로 존재한 적 없는 AI 리스크에 대한 강도 높은 규제를 표하고 있다"며 "이는 시장 뿐 아니라 규제 실패까지도 우려되는 상황"이라고 비판했다. 이어 "EU AI 법의 과징금 부담이 매우 크기 때문에 애플, 메타 등 빅테크가 AI 서비스 출시를 보류했다"며 "소비자들의 AI 서비스가 크게 제한될 조짐이 있다"고 아쉬움을 표했다. 이어진 토론에서 법무법인 세종 장준영 AI 센터장은 "규제적 측면에선 유럽을 참고하고 기술적 측면에선 미국을 참고할 필요가 있다"며 "우리나라는 유럽과 미국 사이에서 어떤 스탠스를 취해야 하는지 균형점을 잘 도출해야 한다"고 강조했다. 또 "AI는 정보처리 기술이 발전해 오며 나타난 데이터 처리 기술의 화룡점정"이라며 "해외의 AI 법을 참고하는 것도 좋지만 우리나라에서 여태 동안 해왔던 데이터 활성화 관련 법안들을 계승하는 AI 기본법이 만들어지길 바란다"고 기대했다. 류 실장은 "지난 3일 과방위에서 늦더라도 AI 기본법 관련해서 제대로 된 논의와 공청회를 한 번 거치고 가면 좋겠다는 의견이 있었다"며 "정책들이 추진되고 예산이 투입되려면 법적 근거가 필요한 만큼 국회가 신뢰할 수 있는 AI를 만들기 위한 법적 근거를 신속히 만들어 주길 바란다"고 말했다.

2024.09.04 16:50양정민

美 캘리포니아 AI 안전법 'SB 1047' 통과…EU·국내 여파는?

미국 캘리포니아 주 의회가 인공지능(AI) 규제 법안 'SB 1047'을 통과시켜 주지사 승인을 기다리고 있는 가운데 유럽연합(EU)이 이를 자국 AI법 시행에 참고할 계획인 것으로 전해졌다. 국내 AI 기업들도 법안의 향방에 주목하고 있다. 30일 더 버지 등 외신에 따르면 캘리포니아 주 의회가 지난 29일 'SB 1047' 법안을 통과시켰다. 이는 다음 달 30일 개빈 뉴섬 캘리포니아 주지사가 서명하면 공식 발효된다. 해당 법안은 AI 기술의 급격한 발전에 따른 안전 문제를 해결하기 위해 마련됐다. 법안이 발효된다면 AI 개발사는 모델 훈련 과정서 발생할 수 있는 위험을 사전에 평가하고 필요 시 신속하게 모델을 중단하는 '킬 스위치' 기능을 명시해야 한다. 훈련 후 모델 변조 방지를 위해 안전 조치에 관한 조항도 법안에 포함됐다. 앞서 실리콘밸리와 정치권은 이 법안을 두고 논란을 빚었다. 테크 기업들은 과도한 규제가 기술 발전에 제약이 될 수 있다고 우려를 표명했다. 특히 오픈AI는 법안 발의자인 스콧 위너 주 상원의원에게 공개 서한을 보내 'SB 1047'이 테크 기업들의 대탈출을 불러일으킬 것이라고 경고한 바 있다. 오픈AI는 캘리포니아 사무실 확장을 유보하고 있다. 오픈소스 위주로 AI를 취급하는 스타트업 업계와 학계 역시 법안에 강력하게 반발하는 것으로 알려졌다. 법적 책임을 개발자에게 지우는 'SB 1047' 법안이 필연적으로 오픈소스의 발전을 저해할 것이라는 게 이들의 주장이었다. 페이페이 리 스탠포드 대 교수는 지난 8일 포춘지에 보낸 공개 서한을 통해 "법안은 오픈소스 AI 개발을 위축시키고 학계와 중소기업에 타격을 줄 것"이라며 "AI 개발자들에게 법적 책임을 부과한다"고 말했다. 이와 반대로 일부 테크 업계 인사들은 법안에 찬성했다. 일론 머스크 테슬라 대표는 'SB 1047'이 AI 시스템의 잠재적 해악을 방지하는데 필수적이라고 밝혔다. 또 초기에 법안에 반대했던 다리오 아모데이 앤트로픽 최고경영자(CEO)는 "정부 AI 감독 부서를 신설하거나 AI에 문제가 발생할 때 개발사를 처벌한다는 조항이 사라졌다"며 "법안의 이점이 해악보다 커졌다"고 주장했다. 정치권에서는 낸시 펠로시 등 일부 연방 의원들이 주 차원의 규제는 불필요하다고 주장했다. 이와 반대로 캘리포니아 주 의원들은 연방 정부가 AI 규제에 소극적이라는 점을 지적하며 주가 먼저 규제에 나서야 한다는 입장을 고수했다. 법안은 주 상원의 최종 승인을 받은 후 주지사에게 전달됐다. 다음달 30일까지 개빈 뉴섬 캘리포니아 주지사는 법안에 서명할지를 선택해야 한다. 'SB 1047'이 통과를 목전에 앞둔 현재 EU와 국내 AI 관계자들 역시 법안의 향후 전개에 촉각을 곤두세우고 있다. 현재 'SB 1047'에 대한 유럽연합(EU) 측의 공식적인 반응은 제한적이다. 아직 해당 법안이 주지사의 승인을 받지 않은 상태로, EU 역시 유사한 규제인 EU AI법을 시행하고 있는 단계이기 때문이다. 다만 EU 집행위원회의 AI 사무국은 캘리포니아 법안을 주의깊게 모니터링하며 EU AI법 시행과정에도 참고할 계획인 것으로 알려졌다. 전문가들은 이러한 행보가 'SB 1047'이 EU의 규제보다 더 구체적인 면이 있기 때문이라고 분석했다. 특히 딥러닝 분야의 선구자인 요슈아 벤지오 몬트리올 대학교 교수는 "EU도 이 법안에서 영감을 받아야 한다"며 "여전히 발전 중인 AI 분야에서 'SB1047'은 기업과 학계의 노력이 결실을 맺을 수 있도록 하는 유연한 규제"라고 주장했다. 국내 AI 업계에서도 'SB 1047'의 향방에 주목하고 있다. 캘리포니아 주의 AI 규제는 필연적으로 실리콘밸리에 밀집한 빅테크의 운영에도 큰 여파를 미칠 것이기 때문이다. 이에 이들과 긴밀히 교류하거나 미국 진출을 계획하는 국내 기업들도 영향을 받을 것으로 예상된다. 한 국내 테크 스타트업 관계자는 "법안의 의도에는 공감하나 책임소재와 범위가 과도하다는 점에서 미국 스타트업들과 동감한다"며 "기술을 남용한 사람의 책임을 개발자에게 지운다면 이는 개발을 저해할 것"이라고 밝혔다. 그러면서 "물론 개발자들도 지속적으로 AI 정확성과 성능 뿐만 아니라 안전성을 위해서 노력해야 한다"고 강조했다. 일부 전문가들은 'SB 1047'이 AI 규제의 선례로 남을 가능성을 지적했다. IT 기술의 본고장인 캘리포니아에서 AI 법이 조기에 제정된다면 다른 나라들도 유사한 법을 도입할 수 있다는 것이다. 한 국내 IT 기업 관계자는 "이럴 경우 스타트업들의 장점인 민첩한 기술 혁신을 막는 부작용이 생길 수 있다"며 "국내 스타트업들의 사기가 저하되고 그 여파로 창업을 안하게 되는 풍조가 이어질 수 있다"고 예측했다.

2024.08.30 17:31조이환

금융권, 망분리 규제 완화…AI 전환 속도 올린다

금융권 망분리 규제가 이르면 올해 말부터 순차적으로 완화됨에 따라 금융 분야에서도 인공지능(AI) 전환이 본격화할 전망이다. 29일 업계에 따르면 금융·테크 기업들은 이번 규제 완화가 생성형 AI와 머신러닝(ML)을 금융 분야에 적극적으로 도입하는 발판이 되길 기대하고 있다. 특히 금융권에서 발생하는 각종 사고와 범죄를 방지하고 직원과 고객의 의사결정을 더욱 효과적으로 지원할 수 있을 것이라고 전망했다. 김병환 금융위원장은 "IT 환경이 생성 AI와 클라우드 컴퓨팅을 중심으로 변화하고 있다"며 "이러한 환경에 적응하기 위해서는 망분리 규칙을 개선해야 한다"고 밝혔다. 특히 업계 전문가들은 이번 조치가 금융권 횡령 문제를 방지하는 데 큰 역할을 할 것으로 예상했다. 이는 현재 금융업계가 심각한 횡령 문제로 어려움을 겪고 있기 때문이다. 금융감독원이 최근 발표한 자료에 따르면 지난 6년 동안 총 1천804억원 규모의 횡령 사건이 발생했고 총 202명의 임직원이 연루된 것으로 나타났다. 망분리 규제가 없는 해외에서는 AI 기반 검수 및 데이터 분석을 통해 이러한 문제를 효율적으로 해결해 왔다. 알고리즘과 머신러닝 기술이 변화하는 사기 패턴에 빠르게 적응하고 고객을 효과적으로 보호할 수 있는 능력을 가졌기 때문이다. 실제로 미국의 AI 전문기관인 AI 엑스퍼트 네트워크에 따르면 JP모건은 이미 매일 약 10조 달러(약 13경2천조원) 규모의 거래를 분석하면서 비정상적인 자금 흐름을 실시간으로 탐지해 수백억 달러 손실을 방지하고 있다. 한 금융업계 관계자는 "현재 AI는 이미 망분리 이전에도 신용평가, 대출 심사, 상품 및 투자 추천 등에서 많은 주목을 받고 있었다"며 "이제 소비자 측면에서의 서비스 제공만이 아니라 자금세탁 및 의심 거래 탐지에도 효과적일 것"이라고 밝혔다. 또 금융권은 이번 망분리 조치가 생성 AI를 실질적인 의사결정 도구로 활용할 기회가 될 수 있다고 주목하고 있다. 이미 AI 챗봇은 주식 투자에서 놀라운 성과를 보이며 금융 분야에서의 성공을 입증했다. 지난해 영국의 금융 비교 웹사이트인 파인더닷컴의 조사에 따르면 펀드매니저와 '챗GPT'의 추천 주식을 비교한 결과, '챗GPT'가 더 나은 수익률을 기록했다. 또 AI는 고객 문의를 신속하게 처리하고 정확한 정보를 제공함으로써 불완전 거래를 해소할 수 있다고 평가 받고 있다. 영국 TSB 뱅크는 이미 고객 맞춤형 은행 경험을 제공하기 위해 AI 챗봇을 도입했다. 이 챗봇은 24시간 동안 실시간으로 서비스를 제공한다. 국내 AI 스타트업들 역시 이러한 변화를 환영하는 분위기다. 그동안 규제로 인해 AI 도입이 어려웠던 상황에서 벗어나 새로운 시장이 열리게 됐기 때문이다. 한 국내 AI 업계 관계자는 "이번 금융권 망분리 규제개선은 단기적 효과보다는 생성형 AI 활성화 방향성을 규제기관이 제시했다는 점에 의미가 있다"며 "온프레미스 환경에서 전환되기에는 시간이 필요하겠지만 업무 내에서 보안과 개인정보의 범주를 구분하며 빠르게 솔루션 도입을 시도하는 기업들이 늘어날 것으로 보인다"고 예측했다. 업계 전반이 망분리의 긍정적 효과에 주목하는 가운데 일부 전문가들은 생성 AI가 기존 금융 업무를 완전히 대체하기보다는 인간의 업무를 증강하는 방향으로 나아가야 한다고 지적했다. 생성 AI가 아직 할루시네이션, 편향 등의 오류로부터 자유롭지 않기 때문이다. 서호진 금융보안원 팀장은 "생성 AI 기술을 챗봇에 적용할 경우 기존보다 다양한 정보를 더 많은 고객에게 제공할 수 있을 것"이라며 "다만 현재 AI는 결과를 신뢰할 수 없는 특성이 있어 중요 의사결정 시 인간의 판단이 반드시 개입돼야 한다"고 강조했다. 이러한 우려를 반영해 금융보안원은 금융권 특화 AI 거버넌스 가이드라인을 발간할 예정이다. 이를 통해 금융회사가 기존 법을 준수하면서도 AI를 통한 이점을 극대화한다는 방침이다. 연내 발간이 예정된 이 가이드라인은 AI가 가진 기술적 한계를 감안하면서 위험관리 체계를 구축하고 AI 전담조직을 구성하는 방안 등에 대한 지침을 제공할 예정이다. 서 팀장은 "AI 활용에서 인간에게 최종적인 결정권을 두는 개념인 휴먼인더루프(Human-in-the-loop)가 개인 재산을 다루는 분야인 금융권에서도 중요하다"며 "금융 회사가 원하는 AI 개발 활용 목표를 달성하게 하겠다"고 강조했다.

2024.08.29 15:43조이환

앤트로픽 CEO "캘리포니아 AI 법안, 혁신 촉진할 것"

캘리포니아 주 상원 표결을 앞두고 있는 '첨단 인공지능(AI) 시스템을 위한 안전과 보안 혁신법안(S.B. 1047)'에 대해 앤트로픽 대표가 긍정적인 평가를 내렸다. 25일 유에스뉴스에 따르면 캘리포니아 AI 규제 법안인 'S.B. 1047'의 상원 표결이 지난 20일 시작됐다. 이 법안은 1억 달러 이상의 개발 비용이 들거나 일정량의 컴퓨팅 파워를 요구하는 고급 AI 모델에 대한 테스트를 의무화하는 내용을 담고 있다. 이는 AI 개발에 있어 안전성을 강화하기 위함이다. 다리오 아모데이 앤트로픽 대표는 이번 법안이 AI 개발에 긍정적인 영향을 미칠 수 있다고 평가했다. 특히 AI 기술 환경의 변화에 테크 업계가 대비하도록 지원할 수 있다고 주장했다. 법안은 AI 모델이 오작동할 경우 이를 종료할 수 있는 '킬 스위치' 설치를 의무화하고 있다. 또 사업자와 AI 개발자가 규정을 위반할 경우 캘리포니아 주 법무장관이 이에 소송을 제기할 수 있다. 이는 AI 기술의 오남용을 방지하기 위한 조치로 해석된다. 앞서 구글, 메타, 오픈AI 등 주요 테크기업들은 이 법안이 캘리포니아 주를 AI 개발에 불리한 환경으로 만들 우려가 있다고 지적했다. 특히 제이슨 권 오픈AI 최고전략임원은 지난 21일 법안을 발의한 스콧 위너 주 상원의원에게 공개서한을 보내 AI 규제는 연방 정부의 권한 아래 이뤄져야만 한다고 주장한 바 있다. 아모데이 대표는 "법안 내용이 개정됨에 따라 초기의 우려가 크게 줄어들었다"며 "이번 법안이 AI 개발 과정에서 혁신과 안전성을 모두 담보할 수 있을 것으로 기대한다"고 말했다.

2024.08.25 09:20조이환

오픈AI, 캘리포니아 AI 법안 반대…주 상원의원 "말도 안 되는 소리"

지난 20일부터 미국 캘리포니아 주 의회가 표결 중인 인공지능(AI) 규제 법안에 대한 의견이 분분하다. 22일 테크크런치 등 외신에 따르면 오픈AI 이사가 '첨단 인공지능(AI) 시스템을 위한 안전과 보안 혁신법안(S.B. 1047)'에 반대하는 목소리를 냈다. 이에 주 상원의원이 "말도 안 되는 소리"라고 일축했다. 해당 법안은 캘리포니아 내 AI 개발 사업자들에게 모델 안전성 테스트 등 사전 예방 조치를 요구하는 내용을 담고 있다. 제이슨 권 오픈AI 최고전략임원은 지난 21일 법안을 발의한 스콧 위너 상원의원에게 공개서한을 보내 "법안이 AI 혁신을 저해할 것"이라고 지적했다. 그러면서 그는 법안이 시행될 경우 "캘리포니아의 엔지니어들과 테크기업들이 다른 주로 떠날 수 있다"며 "미국의 경쟁력을 위해 최첨단 모델의 규제는 국가 차원에서 진행돼야 한다"고 밝혔다. 이에 법안을 발의한 스콧 위너 상원의원은 오픈AI의 주장이 논리적이지 않다고 반박했다. 그는 법안이 캘리포니아에 본사를 두지 않은 기업에도 적용되므로 기업들이 주를 떠날 필요가 없다고 강조했다. 또 오픈AI가 법안의 구체적인 조항을 비판하지 않고 단순히 연방 규제를 요구하는 점에 대해서도 비판했다. 해당 법안 표결은 오는 30일까지 진행된다. 통과될 경우 개빈 뉴섬 캘리포니아 주지사의 서명을 받게 된다. 뉴섬 주지사의 입장은 아직 명확하지 않지만 법안이 통과될 경우 산업계의 강력한 반발이 예상된다. 특히 오픈AI 측은 캘리포니아 주의 규제 환경 변화에 대한 우려로 샌프란시스코 사무실 확장 계획을 보류하고 있는 것으로 알려졌다. AI 업계 관계자는 "캘리포니아의 AI 규제가 통과하는지 여부에 따라 산업계의 대응이 달라질 수 있다"며 "실리콘 밸리가 위치해 테크 기업들이 몰린 지역이기 때문에 이번 표결에 많은 것이 걸려있다"고 밝혔다.

2024.08.22 15:24조이환

[기고] 리걸테크 서비스와 '우물 안 개구리'

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. 최근 한 로펌에서 인공지능(AI) 기반 법률 챗봇 서비스를 출시했다가 이슈가 됐다. 대한변호사협회가 해당 로펌 소속 일부 변호사에 대한 징계절차를 추진하고 있기 때문이다. 협회는 해당 서비스가 '변호사가 아닌 자가 변호사가 아니면 할 수 없는 업무를 통해 보수나 그 밖의 이익을 분배받아서는 안 된다'는 변호사법 제34조 제5항을 위반했다는 것을 문제 삼고 있다. 생성 AI가 등장한 이래 해외에서는 판례 검색을 넘어 매우 광범위한 영역에서 리걸테크 서비스가 이뤄지고 있다. 또 AI를 통해 실질적인 법적 리스크 분석이나 상담에까지 이르는 깊이 있는 서비스를 제공하고 있다. 전 세계 리걸테크 기업 수는 지난해 말을 기준으로도 이미 7천여 개에 달했다. 우리나라가 올해 5월 AI 서울 정상회의를 성공적으로 개최해 글로벌 AI 기술 및 서비스를 선도하는 국가로 발돋움하고 있음에도 국내 리걸테크 기업은 지난해 말 기준 30여 개에 불과했다. 대표적인 리걸테크 서비스도 변호사들이 이용하는 판례 검색 서비스 수준에 그치고 있다. 전문가들은 국내 리걸테크 산업이 아직 초기단계에 머물러 있다고 진단하고 있다. 그 이유는 아마 AI 관련 규제, 특히 AI 기반 법률 서비스와 관련해 아무런 규제나 지침·해석이 존재하지 않기 때문이다. 이에 따라 업계에서도 출시 가능한 서비스의 형태를 가늠하는 것을 매우 어렵고 부담스러워 하는 것으로 추측되고 있다. 과잉 규제는 업계를 위축시킬 수 있다. 반대로 규제가 없다면 업계는 어디까지가 가능하고 어디부터는 금지되는 서비스인지를 예측할 수 없게 된다. 이에 따라 역설적으로 서비스 출시를 하지 않거나 매우 제한된 범위로만 소극적으로 출시할 수 밖에 없게 된다. 법률 서비스 업계는 특히나 제공 가능한 서비스의 테두리나 한계에 대한 공신력 있는 규범해석이 반드시 필요하다고 느낄 것이다. 법무부 역시 이러한 갈등 상황을 인지하고 있다. 이에 지난 해 일본 법무성이 발간한 'AI 등을 이용한 계약서 등 관련 업무지원 서비스 제공과 변호사법 제72조와의 관계에 대하여' 가이드라인 등을 참고해 관련 지침을 만들 계획이라고 알려져 있다. 일본의 경우 '보수'를 받을 목적으로 출시됐고 '법률사건'에 관계됐으며 '법률사무'를 처리하는 AI 법률 서비스는 일본 변호사법 제72조 위반에 해당한다. 참고로 이 조항은 국내 변호사법 제34조 제5항 및 제109조 제1호와 매우 유사하다. 또 앞서 언급된 AI 기반 법률 챗봇 서비스에서 핵심적으로 문제가 됐던 비변호사의 법률사무 취급 금지에 관한 내용을 담고 있어 참고할 의의가 있다. 일본 가이드라인의 내용을 좀 더 살펴보자. 가이드라인은 '법률사건' 요건과 관련해 '법률상 권리 의무에 다툼 없이 이른바 기업법무에서 취급하는 계약관계 사무 중 통상적인 업무에 수반되는 계약체결을 위한 통상적인 협의나 법적 문제점에 대한 검토'는 소위 '사건성'이 없으므로 AI 법률 서비스가 가능한 영역이라고 설명하고 있다. '법률사무' 요건의 경우 AI 법률 서비스가 계약서 작성·심사·관리 업무 지원 서비스를 제공할 때 이용자가 입력·기재한 내용에 따라 비정형적이고 구체적·개별적인 내용을 표시할 수 있다. 또 개별 사안에 따른 개별적인 법적 분석이 이뤄지는 경우도 있다. 이런 경우 서비스가 변호사법 위반에 해당될 수 있다고 가이드는 설명하고 있다. 가이드는 이를 대략적인 범위 또는 한계로서 제시하고 있는데 이는 눈여겨볼 만한 기준으로 생각된다. 물론 일본의 가이드라인도 법해석과 적용은 최종적으로 법원의 판단에 맡겨져 있으며 이 가이드라인은 '일반론'임을 밝히고 있다. 또 가이드라인이 많은 내용을 담고 있다고 보기는 어려워서 관련된 추가적인 논의와 해석이 뒤따라야 할 것이다. 그럼에도 이 가이드라인은 제도권 내에서 허용될 수 있는 AI 법률 서비스의 테두리를 일정 부분이라도 제시하며 업계가 어떤 방향성을 가지고 AI 법률 서비스를 설계해야 할지에 관한 단서를 제공한다. 나아가 향후 AI 기술·서비스의 발전에 맞춰 업계와의 논의를 거치며 제도를 개선하고 조정해 나갈 시작점을 마련했다는 점에서 작지 않은 의의가 있다. 실제로 일본은 가이드라인 발표 후 리걸테크 서비스 산업이 급성장한다는 평가를 받고 있다. 또 일본 로펌에서 근무하면서 실무를 겪어본 필자의 경험으로도 적어도 AI 기술 활용에 있어서는 일본 법조계가 한국보다 더 빠른 진전을 보여주고 있다는 생각이 든다. 국내 법조 서비스는 한국이라는 지역적 제한과 한국어라는 언어적 한계를 안고 있다. 글로벌 서비스가 이루어지는 리걸 테크의 영역에서 우리의 시야가 너무 좁았던 것이 아닌가를 다시 고민해볼 필요가 있다. 우리도 AI 기반 법률 서비스에 관한 지침 등을 통해 리걸테크 서비스들이 출시될 수 있는 '테두리'를 마련하기를 희망한다. 이를 통해 궁극적으로 우물 안 개구리에 그치지 않고 국민의 일상에 도움이 되는 AI 기반 법률 서비스들이 활발히 제공될 터전이 마련되기를 기대해 본다.

2024.08.20 14:24법무법인 태평양 상지영

[美 대선 속 AI-상] 해리스·트럼프 상반된 AI 정책…공통점도 있다?

미국 대선이 약 3개월 남았습니다. 공화당 대통령 후보 도널드 트럼프와 민주당 후보 카멀라 해리스는 정치색 만큼이나 인공지능(AI) 정책도 제각각입니다. 당선 결과에 따라 전 세계 AI 발전과 거버넌스에 미칠 파장이 큰 이유입니다. [美 대선 속 AI]은 두 후보 AI 정책에 어떤 차이점과 공통점이 있는지, 이에 따라 한국 등 아시아·태평양 국가들은 AI 사업·법제화 전략을 어떻게 마련해야 하는지 등에 대해 총 2편에 걸쳐 보도하겠습니다. [편집자주] 카멀라 해리스 미국 부통령과 도널드 트럼프 전 대통령이 각각 민주당과 공화당 대선 후보로 나선 가운데 전 세계가 이들의 인공지능(AI) 정책에 주목하고 있다. 그동안 두 후보가 상반된 AI 정책을 펼칠 것이란 예측이 나왔지만 의외로 공통점도 있는 것으로 나타났다. 15일 CNBC 등 외신 매체들에 따르면 카멀라 해리스 부통령은 지난 5일 민주당 대통령 선거 후보로 공식 확정됐다. 이에 따라 해리스 후보는 도널드 트럼프 공화당 후보와 오는 11월 대선에서 맞붙게 된다. 이에 전 세계 정부와 기업은 해리스·트럼프 후보의 AI 정책에 주목하며 대응책을 준비하고 있다. 미국 테크 업계에서는 해리스 부통령을 지지하는 100명 넘는 인사들이 '카멀라를 위한 벤처 캐피털리스트'를 결성했다. 이와 동시에 일론 머스크, 피터 틸 등 유명 기업가들도 트럼프 후보에 대한 지지를 공식 천명했다. 정계에서는 최근 AI사무소를 설립한 유럽연합(EU)이 트럼프 후보 당선에 대비해 전담 대응팀을 구성한 것으로 알려졌다. 전문가들은 이번 선거 결과가 향후 4년간 전 세계 AI 발전과 거버넌스에 큰 영향을 미칠 것으로 예측하고 있다. AI 기술이 어느 때보다 빠르게 발전 중인 현재 미국이 이 분야에서 세계 선두를 달리고 있다는 이유에서다. 해리스, AI 안전·혁신 조화 강조…트럼프, 미국 우선 대규모 투자 구상 전문가들은 해리스 후보가 대통령으로 당선될 경우 규제·개발 간 균형을 맞춰 AI 정책을 추진할 것으로 봤다. 트럼프 후보의 경우 기존 성향에 따라 '미국 우선주의'를 강하게 내세우고 규제를 완화하는 동시에 국가 주도의 AI 계획을 추진할 것으로 내다봤다. 특히 해리스 후보는 조 바이든 대통령과 비슷한 기조를 이어가며 AI 개발과 규제를 병행할 것이란 전망이 나왔다. 실제 해리스 후보는 지난 10월 바이든 행정부가 추진한 'AI 행정명령'의 핵심 책임자 역할을 맡았다. 이를 통해 AI 안전과 보안을 강화하고 혁신을 촉진하는 사업을 주도한 바 있다. 여러 측면에서 볼 때 해리스 후보는 AI 발전을 노동자 권리·교육·프라이버시·국제 협력 등의 가치와 접목시킬 것으로 보인다. 캘리포니아 주 검사 재직 시절 프라이버시와 데이터 관련 법안을 주도한 경험도 해당 예측을 뒷받침한다. 아기스 파파게오르기우 그리스 총리실 외교분석관 겸 영국 런던정경대 국제관계사 강사는 "해리스 후보는 기술 혁명을 최대한 활용하면서도 시민 복지를 저해하지 않을 법 제도 구축의 필요성을 잘 이해하고 있다"며 "그리스 정부 소속으로서가 아니라 개인적으로 봤을 때 해리스 후보는 AI의 안전한 개발과 사용을 우선시할 것"이라고 기자와의 통화에서 밝혔다. 트럼프 행정부의 AI 정책과 관련해 전문가들은 '미국 우선주의(America First)'를 중심으로 전개될 것이라고 입을 모았다. 알렉스 토 싱가포르 기술전문변호사 겸 정책 컨설턴트는 "트럼프 당선 시 공식 로드맵이 아닌 성향에 따른 '톱다운' 의사결정이 AI 정책에도 적용될 가능성이 크다"며 "이에 예측이 힘들고 본인의 개인적 성향이 강하게 반영될 것"이라고 분석했다. 이 분석은 트럼프 전 대통령이 재임 기간 동안 일관적으로 보인 미국 이익에 대한 강한 집착이 그대로 이어질 수 있음을 시사한다. 이에 따라 자국 AI 성장을 위해 기업 규제가 완화할 가능성이 크다. 또 AI 산업 성장을 위해 국가 주도로 대규모 투자를 시행하는 결과가 발생할 수 있다. 실제로 트럼프 대통령은 AI와 반도체 등 첨단 산업 분야에서 규제의 빗장을 완전히 풀겠다고 호언장담한 바 있다. 이러한 접근법은 규제가 혁신을 저해할 수 있다는 우려에서 비롯된 것이다. 또 트럼프 후보가 부통령 후보로 지명한 제임스 데이비드 밴스 상원의원 역시 지난 7월 상원 청문회에서 AI 규제보다 개발을 우선시해야 한다고 강조한 바 있다. 일각에서는 일론 머스크, 피터 틸 등의 공화당 지지가 이러한 행보와 맞물려 있는 것으로 분석한다. 자국 AI 우선 발전을 위한 국가 주도의 거대 프로젝트가 추진될 것이란 전망도 나왔다. 미 워싱턴포스트(WP)가 입수한 공화당 선거 캠프 내부문서에 따르면 트럼프 후보의 씽크탱크 아메리카 퍼스트 정책 연구소는 'AI 맨해튼 프로젝트' 시행을 검토한 바 있다. AI 맨해튼 프로젝트는 국가가 AI를 주요 전략 자원으로 설정하고 이 산업에 대규모 투자를 실시하려는 계획이다. 이를 통해 자국 AI 성장을 지원하고, 국외 AI 개입을 차단하겠다는 의도다. 해당 계획이 시행될 경우 미 국방부, CIA 등과 협력하는 팔란티어·안두릴 등의 미국 테크 기업들이 거대한 수혜를 볼 것으로 예측된다. 파파게오르기우 분석관은 "트럼프 후보는 AI 개발·사용에 있어 미국이 세계의 '등대' 역할을 하는 것을 바란다"며 "AI의 군사적 사용에 있어서도 윤리적 경계를 넘을 가능성이 있다"고 밝혔다. 미중 경쟁 우위·기업 주도 AI 성장에선 '초당파적' 행보 전문가들은 두 대선 후보의 정책과 성향이 매우 상이하지만 유사성도 있다고 입을 모았다. 미·중 AI 경쟁에서 우위를 점하기 위한 방향성과 기업친화적 행보가 대표적이다. 토 변호사는 "양자 대결 구도가 흑백논리처럼 굳어져 있지만 이는 단면만 보는 것"이라며 "해리스 부통령도 트럼프 전 대통령이 강조하는 안보와 자유를 간과하지는 않을 것"이라고 짚었다. 또 그는 "트럼프 후보도 해리스 후보가 집중하는 프라이버시, 노동권, 교육 등의 인간적 가치를 완전히 부정하지 않는다"고 강조했다. 두 후보 모두 중국과의 AI 경쟁에서 우위를 점하기 위한 견제책을 유지할 것으로 예측된다. 앞서 바이든 정부는 중국 견제를 위해 반도체 수출 규제를 최초 시행한 바 있다. 당시 바이든 대통령은 AI 기술 발전에 활용할 반도체 생산·제작 통로를 차단함으로써 기술 경쟁서 중국을 이기기 위한 목적이었다. 일각에선 해당 제한 조치가 두 후보 중 누가 당선돼도 유지될 것으로 봤다. 해리스 후보는 바이든 대통령 기조를 잇고, 트럼프 후보는 중국 견제와 미국 우선주의를 유지해야 하기 때문이다. 양당 후보는 AI 기술 발전이 정치 권력이 아닌 기업에서 나온다는 점에 동의하고 있다. 누가 대통령으로 당선돼도 AI 성장을 위해 어느 정도 기업친화적 전략을 취할 가능성이 높다. 이에 해리스 후보가 AI 안전과 규제를 중요시 여긴다고 하지만, 이를 정책으로 실현할 가능성이 낮다는 예측이 나오고 있다. 현재 마크 큐반 등 실리콘 밸리 유력 인사들이 해리스 후보의 스폰서다. AI 생태계 특성상 스타트업 역할이 크다는 점도 이유다. 오픈AI와 구글, 마이크로소프트 등 빅테크가 기술 혁신을 상당히 이뤘지만, 주요 스타트업도 지대한 역할을 한다. 현재 미국 스타트업은 빅테크와 손잡고 텐서플로우(TenserFlow)나 파이토치(PyTorch) 등의 라이브러리를 활용해 AI 연구를 오픈소스화 해 영향력을 행사하고 있다. 그동안 해리스 후보는 바이든 대통령과 중소·스타트업을 위한 진흥 정책을 펼쳐 왔다. 공화당 부통령 후보로 나선 트럼프 러닝메이트 JD 벤스도 스타트업에 대한 전폭적 지원을 약속했다. 이에 두 후보 모두 빅테크뿐 아니라 중소·스타트업에 친화적 행보를 보일 전망이다. 파파게오르기우 분석관은 "특정 대통령의 정책이 AI의 상업적 사용과 국제 협력을 보다 촉진할 수는 있겠지만 그 뿐"이라며 "AI 혁신은 대기업, 전문 스타트업, 소규모 회사 간의 협력을 통해 가능하지 법과 제도만으로 이루어지는 것은 아니다"라고 강조했다.

2024.08.15 15:00조이환

임용 서울대 교수 "글로벌 AI 거버넌스, 한국이 이끌어야"

"우리 AI 기술은 세계에서 얼마 안되는 거대언어모델(LLM)을 자체 생산하는데서 볼 수 있듯 경험과 기반이 갖춰진 상태입니다. 거버넌스 분야에서의 글로벌 논의 역시 대한민국이 주도하도록 성심성의껏 지원하는 것이 제 목표입니다." 서울대학교 법학전문대학원 임용 교수는 지난 12일부터 이틀간 개최된 '서울 AI 정책 컨퍼런스 2024(Seoul AI Policy Conference)'에 참가한 후 기자와 만나 이같은 포부를 밝혔다. 그는 행사를 주최한 서울대 AI 정책 이니셔티브(SAPI) 총책임자로, 지난 20년간 변호사·로스쿨 교수로서 활동하며 국제 AI 거버넌스 이슈들을 연구해왔다. SAPI가 서울대학교 인공지능신뢰성 연구센터(CTAI)와 함께 주최한 이번 행사에는 60명이 넘는 연사가 참여했다. 이 중 3분의 2는 해외 전문가들이었다. 특히 제이슨 권 오픈AI 최고전략임원과 세계적 법학자인 크리스토퍼 유 펜실베이니아대학교(유펜) 교수가 참석해 관심을 모았다. 14일 업계에 따르면 국내에서 주도한 AI 국제 협력은 이번이 처음은 아니다. 이해진 네이버 대표가 지난 7월 젠슨 황 엔비디아 대표와 함께 AI 발전을 논의하는 등 글로벌 기술 혁신을 주도해왔다. 지난 5월에는 과학기술정보통신부가 영국 정부와 함께 서울 AI 정상회의를 주최하는 등 거버넌스 분야에서도 발전이 있었다. 그럼에도 이번 행사가 특별히 주목받는 이유는 민간·학계가 주도해 AI 거버넌스 논의를 총망라했다는 점이다. AI 기술이 국경을 초월하는 이슈인만큼 글로벌 정합성을 고려한 연사 구성과 주제 선정이 이뤄졌다. 특히 기존에 자주 다뤄진 AI 인권과 거버넌스뿐만 아니라 표준화·경쟁·저작권·프라이버시·가짜 정보 등 다양한 주제가 논의됐다. 임 교수는 "포괄적인 논의를 위해 하루 짜리로 계획했던 행사를 이틀로 늘렸다"며 "우선순위 때문에 다루지 못한 주제도 있다"고 말했다. 반응은 뜨거웠다. 이틀 내내 청중들이 자리를 가득 메웠고 예측한 인원보다 참가자가 많아 행사장 밖에도 원격 텔레비전과 자리가 마련됐다. 임 교수는 "국내 AI 규제와 거버넌스가 니치(Niche) 분야임에도 불구하고 자발적으로 참석한 외국인 청중들이 많았다"며 "서울 정상회의가 추구한 논의를 학계가 이은 이번 행사를 통해 한국이 기술뿐만 아니라 거버넌스도 주도하길 바란다"고 강조했다. '서울 AI 정책 컨퍼런스'의 성공 배경에는 SAPI의 글로벌 연구 네트워크가 있었다. 지난 2017년 창설 이후 SAPI는 다양한 국내·해외 연구진과의 협업으로 인적 네트워크를 구축해 왔으며 이번 행사에서 그 성과를 총체적으로 활용했다. 특히 임 교수는 "유펜 법전원 및 기술, 혁신 및 경쟁 센터(CTIC)와의 협업 경험이 세계적 석학인 크리스토퍼 유 교수를 초청할 수 있었던 배경"이라며 "유 교수 같은 스타 학자뿐만 아니라 기술·거버넌스 발전 현장에서 땀 흘리고 있는 젊은 신진 연구자들도 초청했다"고 설명했다. 이번 컨퍼런스에선 한국뿐만 아니라 미국, 유럽, 일본의 산·학·연 전문가들이 각자의 입장을 공유하며 AI 규제 철학의 차이를 논의하기도 했다. 유럽연합(EU)은 권역 내 통일성을 유지하고 회원국이 개별 법을 적용하지 않으려는 목표를 가지고 있다. 일본은 저출산과 고령화 문제를 고려한 연성 접근을 취하고 있다. 또 미국은 경쟁 기반의 실험적 접근을 채택했다. 임 교수는 "각 나라별로 상이한 AI 거버넌스 철학과 그 배경을 모두 살펴보며 고민해야 한다"며 "이를 또 경제, 정치, 사회, 행정, 안보, 문화 등 다양한 측면에서 감안할 때만 우리에게 맞는 AI 규제를 만들 수 있다"고 강조했다. 현재 AI 기술은 발전 초기 단계에 있으며 아직 본격적인 AI의 도입 역시 이뤄지지 않은 상태다. 생성 AI가 최초로 등장해 대중에게 자리잡은 것은 겨우 1년 반 전의 일이다. 또 대다수의 기업들은 아직 AI 전환(AX)을 시작하지 않고 있다. 임 교수는 "아직 우리는 다른 나라들의 혁신적 실험들을 참고하며 미래에 대비할 여유가 있다"며 "열매 '아보카도'가 너무 늦게 따도 맛이 없고 일찍 따도 먹지 못하듯 'AI'라는 과실을 제 때 딸 수 있도록 노력해야 한다"고 설명했다. 적시에 AI 거버넌스를 발전시키기 위해서는 국내 로컬 데이터가 매우 중요하다. 일례로 한국이 거대언어모델(LLM)을 발전시킬 수 있었던 데에는 기존의 한국어 데이터셋이 중요하게 작용했다. 임 교수는 "마찬가지로 우리 실정에 맞는 입법과 규제를 위해서도 우리 문화와 사회에 맞는 데이터가 필요하다"며 "한국 사회에 걸맞는 데이터를 확보할 때에야 비로소 우리를 위한 AI 규제를 입법할 실증적 근거를 마련할 수 있을 것"이라고 주장했다. 그러면서 "이번만큼은 추상적인 담론이나 해외 사례에 의존할 수 없다"며 "AI는 향후 우리의 먹거리로, 적절한 거버넌스와 기술을 발전시키는데 실패한다면 미래를 보장할 수 없게 된다"고 강조했다.

2024.08.14 16:08조이환

금융권 망분리 규제 특례 시행…생성형AI 활용 가능해진다

금융위원회가 인터넷 차단(망 분리) 규제를 단계별로 개선해 금융업권의 생성형 인공지능(AI)과 서비스형 소프트웨어(SaaS) 등을 활용할 수 있게 하기로 했다. 13일 오후 김포 KB국민은행 통합IT센터에서 열린 '금융분야 망 분리 개선 로드맵' 행사에서 김병환 금융위원장은 "클라우드·AI 등 급변하는 IT 환경 하에서 일률적인 망 분리 의무화 정책은 우리나라에만 존재하는 대표적인 규제로 국내 금융산업의 글로벌 경쟁력을 저해하는 요인으로 지적받고 있다"며 "망 분리 규제를 일시에 완화하기보다는 충분한 안전 장치를 전제로 단계적인 규제 개선을 추진해 나갈 계획"이라고 말했다. 크게 망 분리 규제는 두 가지 방향으로 바뀔 전망이다. 하나는 즉시 망 분리 규제가 필요한 부분에 대해서는 규제 샌드박스(특례)로, 다른 하나는 '디지털 금융보안법'을 제정해 전반적인 금융업권의 보안에 관해 다루겠다는 것이다. 금융사는 규제 특례를 통해 생성형AI를 쓸 수 있게 된다. 금융사 내부와 AI모델(외부) 간 연결을 위한 망 분리 규제 특례나, 해외 소재 AI를 통한 가명정보 처리를 위한 데이터 특례를 부여해 생성형AI 개발과 적용이 가능해진다는 것이 금융위 측 설명이다. 그러나 해외 소재 AI에 가명처리된 개인 정보를 처리하는 데이터 특례는 개인정보보호법이 걸려 있어 개인정보보호위원회와 논의가 필요하다. 금융위 측은 "예상되는 리스크에 대한 보안대책을 조건으로 부과하고 금융감독원·금융보안원이 신청 기업별 보안 점검·컨설팅을 실시하는 등 충분한 안전장치를 마련할 계획"이라고 설명했다. 사내 업무에만 활용됐던 클라우드 기반 SaaS도 이용 보안 관리, 고객 관리(CRM) 등에 쓸 수 있도록 규제 특례가 부여된다. 향후 규제 특례로 도출된 사례를 통해 금융위는 올해 4분기부터 디지털 금융보안법 마련을 준비한다. 법의 기본은 금융사가 세부 보안 통제를 자율적으로 구성하되, 사고 발생 시 배상 책임을 확대하고 과징금을 부과하는 방향이다. 이밖에 제3자 리스크(3rd-party risk)에 대한 관리를 강화하기 위해 관련 제도 정비를 추진한다는 방침이다. 김병환 위원장은 "그동안 망 분리에 기대어 보안 분야 투자에 소홀함이 있었다면, 지속적으로 확대해 나가는 계기가 되길 바란다"며 "제도 개선 상황을 주시하면서 필요한 보완 조치를 취해나가겠다"고 강조했다.

2024.08.13 14:00손희연

[현장] '두 갈래'로 나뉜 AI 거버넌스 모델…韓 선택은?

세계 각국 정부가 인공지능(AI) 거버넌스 모델을 두 가지 방향으로 통일하고 있다는 주장이 나왔다. 유럽에선 유럽연합(EU) AI법이 기준이 돼 규제를 강화하는 반면, 북미와 아시아는 완화적 접근을 선호하고 있어서다. 한국을 비롯한 미국, 독일, 일본의 전문가들은 12일 서울 페럼홀에서 열린 '서울 AI 정책 컨퍼런스 2024'에 각국 AI 거버넌스 현황을 소개했다. 토론 목표는 AI 기술 발전 속에서 각국이 AI 규제와 혁신을 어떻게 조화시킬 수 있을지에 대한 해법 모색이다. 펜실베니아대 크리스토퍼 유 교수는 "현재 AI는 규제보다 발전이 더 필요한 단계"라며 "이를 위해 전 세계 다양한 글로벌 거버넌스 모델을 살펴볼 필요가 있다"고 강조했다. 유 교수는 EU의 AI법을 그 시작점으로 꼽았다. EU는 헬스케어, 자율주행 등 고위험 산업에 위험도 기반으로 AI법을 적용하고 있다. 또 최근 생성형 AI로 인해 다목적 AI에 대한 규제를 도입했다. EU 국가는 법적 구속력 있는 AI 법에 따라 향후 2년 동안 전담 기관인 AI 오피스를 운영하고 각 회원국들의 책임 기관을 선정하는 작업을 진행할 계획이다. 튀빙겐대 미셸 핑크 교수는 "EU의 AI법 제정은 회원국들이 자국 AI법을 따로 제정하는 것을 방지하기 위한 목적"이라며 "앞으로 유럽 내 AI 거버넌스는 EU가 총괄할 것"이라고 전망했다. 이와 달리 미국은 산업별로 맥락에 맞는 규제를 적용하는 유연한 접근법을 취하고 있다. 실제 바이든 정부가 지난해 11월 제정한 행정명령은 산업별로 특정 규칙을 적용하는 '연성 규제(Soft law)' 성격을 지녔다. 이런 접근법은 AI 혁신을 촉진하면서도 필요한 규제를 유지하는 데 중점을 둔다. 일본도 미국 기조를 따라 수평적 연성법을 통해 AI 정책을 추진하고 있다. 일본은 법이 혁신을 방해하지 않게 하고자 '인간 중심적 AI 솔루션'을 목표로 하는 '소사이어티 5.0' 비전을 제시한 바 있다. 게이오대 요시나가 쿄코 교수는 "AI가 저출산 고령화 등 일본 사회 문제 해결의 중요한 솔루션으로 떠오르고 있다"며 "이에 따라 법적 구속력 없는 포괄적 법안을 구상 중"이라고 밝혔다. 한국도 혁신을 강조하는 방향으로 나아가고 있다. 지난 2020년 최초로 AI 법안을 발의하고 국내 산업 경쟁력 강화를 위한 다양한 노력을 기울였다. 현재 국내 정부는 혁신과 안전의 조화를 위해 EU 규제를 일정 부분 참고하고 있다. 과학기술정보통신부는 현재 EU AI법을 참고해 고위험AI와 금지된AI, 생성형 AI 정의 등을 한국 체계에 맞게 반영하기 위해 노력 중인 것으로 알려졌다. 과기정통부 남철기 AI기반정책과장은 "AI 혁신을 중시하면서도 국내 상황에 맞는 규제 체계를 구축해 나가고 있다"며 "기술 발전 속도가 매우 빠르기 때문에 유연한 규제 프레임워크를 마련하는 것이 중요하다"고 강조했다.

2024.08.12 17:22조이환

美 캘리포니아, AI 규제안 통과 '임박'…빅테크·학계 '긴장'

미국 캘리포니아 주 의회가 초강력 인공지능(AI) 규제법안 'SB 1047'을 통과시킬 가능성이 커지면서 실리콘밸리 빅테크 기업들이 긴장하고 있다. 이 법안이 통과되면 AI 혁신과 오픈소스 개발에 거대한 타격을 줄 것으로 예상된다. 8일 월스트리트저널 등 외신에 따르면 캘리포니아 주 하원은 이번 주 'SB 1047' 법안을 표결에 부칠 예정이다. 이 법안은 지난 5월 상원에서 여야가 합의해 통과됐기에 하원에서도 무난히 통과될 것으로 보인다. SB 1047의 주요 내용은 둘로 나뉜다. 우선 5억 달러(약 6천890억원) 넘는 피해 발생 가능성이 있는 사이버 보안 공격을 시행하거나 생물학·핵무기를 개발할 수 있는 능력의 AI 모델 개발을 금지하는 것이다. 또 AI 개발자들은 주기적으로 안전 테스트 결과를 보고하고 통제가 어려울 때는 이를 중단할 '킬 스위치'를 도입해야 한다. 이 법안은 훈련에 1억 달러 이상(약 1천376억원)의 비용이 드는 모델에 적용되며 실리콘밸리의 주요 AI 기업들은 물론이고 중소기업과 스타트업들도 이에 해당된다. AI 업계는 이 법안에 강하게 반발하고 있다. 특히 오픈소스 모델을 사용하는 기업의 반발이 특히 심한 것으로 전해졌다. 이들 업체가 사용자의 제품 사용 용도를 예측하는 것은 불가능하기 때문이다. 이에 따라 'SB 1047'이 발효될 경우에는 AI 오픈소스 생태계가 극도로 위축될 것으로 예상된다. 'AI의 대모'로 불리는 페이페이 리 스탠포드 대학교 교수는 "이 법안은 태생적으로 오픈소스 개발을 억제할 것"이라며 "개발 커뮤니티와 학계에 큰 피해를 줄 수 밖에 없다"고 말했다. 리 교수의 말처럼 'SB 1047'의 통과는 AI 연구 및 교육 환경에도 부정적인 영향을 미칠 것으로 예측된다. 학생들과 연구자들은 이미 기업에 비해 데이터와 컴퓨팅 자원 측면에서 불리한 상황에 놓여있기 때문이다. 이 상황에서 개발자의 법적 부담이 증가하고 오픈소스가 사실상 제한될 경우 학계는 큰 타격을 받을 수 밖에 없다. 현재 미국 전역의 주 의회에 약 400개의 AI 관련 법안이 상정되어 있지만 캘리포니아 주는 그 중 가장 적극적으로 AI 규제를 추진하고 있다. 실리콘밸리가 캘리포니아에 위치해 미국 기술혁신의 상당수가 이 지역에서 진행됨을 감안하면 그 파급력은 엄청나다. 한 테크 업계 관계자는 "SB 1047 법안은 AI 혁신을 저해하고 학계와 중소기업에 큰 타격을 줄 것"이라며 "캘리포니아 주 의회는 이 법안의 부작용을 고려하고 신중히 검토해야 한다"고 강조했다.

2024.08.08 17:41조이환

"한국은 기본법도 없는데"…EU, 세계 최초로 AI 법안 발효

유럽연합(EU)이 인공지능(AI)법을 세계 최초로 발효했다. AI 기술의 안전하고 책임 있는 개발 및 사용을 촉진하기 위함이다. 2일 CNBC 등 외신에 따르면 EU AI법은 회원국·의회·집행위원회의 최종 승인을 받아 지난 1일부터 시행됐다. 이 법은 AI의 부정적 영향을 줄이고 기술 개발을 촉진하는데 필요한 법적 프레임워크 마련을 위해 도입됐다. EU AI법은 '금지 AI', '고위험 AI', '범용 AI 시스템' 등 총 12개의 주요 장으로 구성돼 있다. 특히 AI 시스템의 위험도를 기준으로 규제를 달리하는 '위험 기반 접근법(Risk-based approach)'을 채택해 엄격한 규제를 적용하거나 심지어는 금지한다. EU는 인권 침해 여부를 '금지·고위험 AI'의 주요 기준으로 삼는다. 여기에는 중국이 운영하는 시민 점수 체계나 구직자에게 순위를 매기는 이력서 스캐닝 도구와 같이 시민 자유·노동자 권리를 심각하게 침해하는 AI가 포함된다. 생성 AI에 대한 규제도 포함된다. 법안은 오픈AI '챗GPT', 구글 '제미나이', 앤트로픽 '클로드' 등을 범용 AI 시스템으로 규정하고 저작권 준수·투명성 공개·사이버 보안 보호 등 엄격한 규제를 부과한다. EU AI법은 시행 즉시 발효됐지만 대부분의 조항은 내후년부터 적용될 예정이다. 특히 상용 생성 AI 시스템에 대한 기업 의무 이행에는 36개월의 유예 기간이 주어졌다. 법안을 위반한 사업자는 최대 3천500만 유로(한화 522억원) 또는 연간 매출의 7%를 벌금으로 부과 받게 된다. 법안 실현을 위해 EU는 지난 3월 AI 사무소를 개설했다. 27개 유럽 회원국의 AI 관련 협력을 이끌고 법안 준수 여부를 모니터링 및 감독할 예정이다. EU 당국은 "AI법 최초 도입은 글로벌 표준을 만들기 위한 중요한 단계"라며 "이미 EU의 일반데이터보호규정(GDPR)은 국제 데이터 규제의 표준으로 작용한 바 있다"고 밝혔다.

2024.08.02 16:54조이환

"AI가 내 일자리 뺏을까"…新 러다이트 운동 확산

인공지능(AI) 도입에 대한 찬성과 반대 여론이 팽팽히 맞선 가운데 관련 논의와 규제를 촉구하는 목소리가 커지고 있다. 29일 가디언에 따르면 패션 브랜드 시어룩스(SheerLuxe)는 이번 달 AI 패션·라이프스타일 편집자 '림(Reem)'을 도입했다. 패션에 해박한 20대 여성을 콘셉트로 한 '림'은 팔로워에게 제품을 추천하는 등 인간 직원이 하던 일을 처리할 계획이었다. 이는 여론의 거센 반발을 불렀고 시어룩스는 사흘 만에 사과 성명을 발표했다. 이는 시어룩스만의 사례가 아니다. 런던에 위치한 프린스찰스극장(The Prince Charles Cinema)은 지난 6월 AI 제작 영화 상영을 계획하다가 관객의 반대로 이를 취소했다. 최근 실리콘밸리의 인사(HR) 소프트웨어 스타트업 래티스(Lattice)도 인간과 근무하는 AI직원을 도입하려다 뭇매를 맞고 이를 철회한 바 있다. 이처럼 최근 기업들이 AI 도입을 시도하다가 소비자의 거센 반발에 직면하는 사례가 증가하고 있다. 다수 외신은 AI가 인간의 노동기회를 박탈할 것이라는 우려로 생긴 반발이라고 평가했다. 최근 일부 반 AI 운동가들은 자신들을 신(新) '러다이트(Luddite)'로 칭하며 반기술운동을 주도하고 있다. 이들은 인터넷과 소셜미디어 힘으로 AI 반대 운동을 강력히 추진 중이다. 특히 미국 샌프란시스코에서 활동하는 세이프 스트리트 레벨(Safe Street Rebel)은 자율주행 택시를 공격하는 등 적극적인 오프라인 활동도 병행하고 있다. 반면 일각에서는 AI가 인류를 해방시킬 기술 혁명이라고 주장했다. 지난해 영국 AI 정상회의를 주도했던 매트 클리포드 엔터프리너퍼스트(Entrepreneur First) 대표는 최근 한 행사에서 AI를 두고 '영국을 위한 최고의 기회'로 묘사한 바 있다. 이처럼 두 입장이 서로 팽팽히 대치하고 있는 상황에서 가디언은 "AI가 긍정적 변화를 가져올 가능성은 충분히 존재하지만 현재 피해도 만든다"며 "기술이 규제되지 않는다면 대중의 반발은 더욱 커질 것"이라고 경고했다.

2024.07.29 11:08조이환

"디지털산업 경쟁력 첫걸음, 새 입법 아닌 규제 철폐"

"디지털산업 육성을 위해선 새로운 입법보다는 기존 규제를 철폐하는 개정 작업이 필요하다...규제를 개선하기 위해서는 디지털 경제 관련 정책을 총괄할 부처가 필요하고, 국가대표급 AI기업 양성에 대한 국가적 지원이 필요하다." 차세대 디지털산업 육성에 앞서 규제가 개선되지 않으면 디지털산업이 한국에 뿌리내리기 어려울 것이라는 업계 의견이 나왔다. 25일 국회 의원회관 제1세미나실에서는 국회 '디지털경제3.0포럼' 창립식이 열렸다. 디지털경제3.0포럼은 이성권 의원과 새로운 미래 김종민 의원이 공동대표를 맡고 있는 국회의원 연구단체다. 이번 행사는 포럼 창립식과 함께 기념 세미나를 열어 향후 포럼의 운영 방향과 연구 방법 등을 모색하고자 마련됐다. 이날 행사에는 포럼의 축사를 맡은 박찬대 더불어민주당 원내대표와 한동훈 국민의힘 대표 등 여야 의원들이 참석해 디지털경제부문 진흥책에 대한 의견을 청취했다. 포럼 창립기념 세미나의 첫 번째 기조 발제는 '왜 디지털경제3.0인가'라는 주제로 박성호 한국인터넷기업협회장이, 두 번째 기조 발제는 '디지털 기반 스타트업 육성 방안'이라는 주제로 구태언 코리아스타트업포럼 부의장이 맡았다. 박 회장은 '디지털경제3.0'의 핵심을 인공지능(AI)으로 소개하고, 디지털산업 경쟁력 강화를 위한 과제로 ▲디지털 규제 개선 ▲디지털 경제정책 컨트롤타워 구축 ▲국가 차원의 지원을 꼽았다. 박 회장은 "중국과 미국의 AI 투자 규모가 한국보다 월등히 크다"며 "AI 패권경쟁을 위해 네이버, 카카오 등 국내 기업도 투자를 받아야야 하지만 국내는 규제상황이 불확실해 다들 투자를 어려워하는 분위기"라고 진단했다. 그는 "외부효과를 고려하지 않는 정책은 시장에 부정적인 영향만 미친다"면서 "국내에는 규제영향평가 제도가 없고, 명분에만 집착한 나머지 증거 기반 실용적 법제가 미흡하다"고 지적했다. 박 회장은 "디지털산업 육성을 위해선 새로운 입법보다는 기존 규제를 철폐하는 개정 작업이 필요하며, 기존 법안에 대한 평가도 있어야 한다"며 "규제를 개선하기 위해서는 디지털 경제 관련 정책을 총괄할 부처가 필요하고, 인식도를 제고해 국가대표급 AI기업 양성에 대한 국가적 지원이 필요하다"고 주장했다. 구 부의장은 기조 발제를 통해 디지털경제3.0 기반 혁신 스타트업 4대 분야인 ▲인공지능·기계학습 ▲블록체인·암호 자산 기술 ▲빅데이터·데이터 분석 ▲메타버스·확장 현실에 대해 설명하고 분야별 육성 방안에 대해 제언했다. 그는 '웹3'로 불리는 블록체인 산업 현황을 설명하면서 "정부가 중재자가 아닌 이해관계의 당사자로서 규제 혁신에 비중립적인 태도를 보이고 있다"고 꼬집었다. 구 부의장은 AI 분야 스타트업도 한국에서는 산업을 키우기 어렵다고 비판했다. 산업 성장을 막는 대표적인 규제로는 '개인정보보호법'과 '저작권법'을 꼽았다. 그는 "개인정보보호법이 보호하는 범위가 너무 넓어서 데이터를 활용하는 AI 서비스를 제공할 수 없는 경우가 한 둘이 아니다"며 "요즘같이 폭우가 내릴 때 유용한 재난 AI 개발도 이대로는 난망하다"고 탄식했다. 디지털산업의 분야별 육성 방안에 대해 구 부의장은 "인공지능 스타트업에 대해서는사후에 규제를 하는 방식으로 속도감을 주는 것이 중요하며, 블록체인 등 암호 자산은 '분산금융'을 허용해야 한다'고 주장했다. 이성권 의원은 "디지털 산업의 빠른 성장은 우리에게 무한 가능성과 기회를 제시해 주고 있지만, 그에 따른 초격차 시대의 도래와 함께 선도자의 역할 또한 강하게 요구받고 있다"며 "초격차 시대를 선도하기 위해 혁신적인 아이디어, 창의적인 기술과 함께 규제개혁·제도개선이 중요하다"고 강조했다. 그러면서 "디지털경제3.0포럼이 디지털산업의 경쟁력 제고를 위한 정책과제를 발굴하고 대한민국의 지속적인 성장과 발전 전략도 함께 논의하고 모색해 나가는 정책 공간으로 만들자"고 제안했다.

2024.07.25 19:07정석규

엔비디아, 중국 시장 판매용 AI 칩 연구

엔비디아가 중국 시장을 겨냥한 맞춤형 플래그십 인공지능(AI) 칩을 개발 중이다. 22일(현지시간) 로이터 등 외신에 따르면, 엔비디아는 현재 미국의 대중국 수출규제 기준에 맞춘 중국 시장용 플래그십 AI 칩을 개발 중이다. 로이터는 해당 플래그십 AI 칩이 엔비디아의 '블랙웰(Blackwell)' 칩 시리즈가 기반이 될 것으로 예상했다. 엔비디아는 올해 말 대량 생산될 예정인 블랙웰 칩 시리즈를 지난 3월 공개했다. 엔비디아에 따르면 블랙웰 AI 칩은 챗봇 답변 등 일부 작업에서 이전 모델보다 30배 더 빠른 속도를 자랑한다. 로이터는 "엔비디아는 중국 유통 기업 인스퍼(Inspur)와 협력해 앞으로 나올 AI 칩 출시와 배포를 진행할 것"이라고 보도했다. 하지만 엔비디아와 인스퍼는 해당 사안에 대해 공식적인 입장을 내지 않았다. 미국은 지난해 중국에 대한 첨단 반도체 수출 통제를 강화하면서 군사력에 도움이 될 슈퍼컴퓨터 기술 유출을 막으려 했다. 이에 엔비디아는 중국 시장을 위해 성능을 수출 기준에 맞춘 AI 칩을 개발하는 것이다. 2년 전까지만 해도 엔비디아의 대중국 매출은 전체 매출의 26%을 차지할 정도로 큰 비중을 차지했다. 하지만 미국의 제재 여파로 올해 들어 엔비디아의 대충국 매출에서 전체의 17%까지 떨어졌다. 리서치 그룹 세미애널리시스(SemiAnalysis)의 추정에 따르면, 엔비디아는 올해 중국에서 100만개 이상의 AI 칩을 판매할 예정이며, 이는 120억달러(약 16조6천620억원) 이상의 가치가 있다.

2024.07.23 10:03정석규

메타, EU서 생성형 AI 무기한 연기..."규제 불확실"

메타가 유럽에서 생성형 인공지능(AI) 시스템 출시를 미루며 유럽의 규제 불확실성을 이유로 들었다. 지난 21일(현지시간) 메나에프엔(MENAFN) 등 외신에 따르면, 메타는 이날 유럽 사용자를 위한 최신 생성형 AI 인터페이스의 무기한 출시 연기를 발표했다. 메타가 밝힌 연기의 주요 사유는 '불분명한 EU 규제체계'다. 메타가 연기한 프로그램은 오픈소스 대형언어모델(LLM) '라마3(Lama3)'을 활용한 멀티모달 프로그램으로, 페이스북·인스타그램·메신저·왓츠앱 등 메타의 플랫폼에서 텍스트·이미지·지도를 통합하고 생성하도록 설계됐다. 메타는 원래 해당 프로그램을 이달 안에 출시할 예정이었지만, 유럽 연합에서 출시를 보류하기로 결정했다. 지난 5월 말, 유럽연합의 27개 회원국은 2026년 발효될 인공지능 규제 법안을 승인했다. 다만 유럽연합이 시행 중인 '개인정보보호규정(GDPR)'이 메타의 출시 연기에 영향을 미쳤다. GDPR은 지난 2018년부터 EU 각 회원국에서 시행중이며 유럽 연합(EU)의 시민의 데이터를 활용하는 경우 GDPR을 준수해야 한다. GDPR의 주요 항목으로는 ▲사용자가 본인의 데이터 처리 관련 사항을 제공 받을 권리 ▲열람 요청 권리 ▲정정·삭제 요청 권리 등이 있다. 메타 관계자는 "AI 언어 모델을 개발하는 데 중요한 인터넷에 게시된 공개 데이터를 사용할 때 유럽의 규제와 충돌할 가능성이 있다"며 "유럽 각국의 GDPR 해석도 어떻게 이뤄질 지 확실하지 않다"고 말했다. 다만 그는 "GDPR과 유사한 규제를 만든 영국에서는 명확한 규제 지침을 받았으며, 이를 통해 영국에서는 이 프로그램을 출시할 수 있다"고 밝혔다.

2024.07.22 09:21정석규

[기고] 알고리즘과 AI의 차이점…규제가 중요한 이유

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. 알고리즘과 인공지능(AI)은 현대 기술의 중심에 자리잡고 있다. 이 둘은 종종 혼용되거나 유사한 개념으로 이해되기도 하지만 그 본질과 작동 방식, 응용 분야는 다소 다르다. 알고리즘은 특정 작업을 수행하기 위해 설계된 명확한 단계적 절차나 규칙의 집합이다. 이들은 입력 데이터를 받아 처리하고 결과를 도출하는 과정에서 일련의 지침을 따른다. 예를 들어 정렬 알고리즘은 숫자나 문자의 리스트를 특정 순서로 정렬하는데 사용된다. 알고리즘은 수학적 논리와 명확한 지침을 바탕으로 작동하며 예측 가능하고 재현 가능한 결과를 제공한다. 반면 AI는 기계가 인간의 지능적 행동을 모방할 수 있도록 하는 기술의 집합이다. AI는 머신 러닝, 딥 러닝 등 다양한 기술을 포함하며 이러한 기술들은 데이터를 통해 학습하고 패턴을 인식하며 예측을 수행할 수 있다. AI 시스템은 스스로 데이터를 분석하고 경험을 통해 성능을 향상시키며 복잡한 문제를 해결할 수 있다. 이는 알고리즘과 달리 더 큰 유연성과 자율성을 제공하지만, 그 결과는 항상 예측 가능하거나 명확하지 않을 수 있다. 알고리즘과 AI는 많은 공통점을 가지지만 규제의 필요성이 있어서 중요한 차이점이 존재한다. 알고리즘은 명확한 규칙에 따라 작동하므로 이에 대한 규제가 상대적으로 간단하다. 즉 알고리즘의 코드와 로직을 분석함으로써 그 작동 방식을 이해하고 문제가 발생할 경우 이를 수정할 수 있을 것이다. 하지만 AI는 그 복잡성과 자율성 때문에 규제가 더 어렵다. AI 시스템은 수많은 데이터를 기반으로 학습하고 그 작동 원리는 불투명한 경우가 많다. 이로 인해 AI의 결정에 어떤 편향이나 오류가 발생할 수 있는지 이해하고 검증하기는 매우 어려울 것이다. 이에 따라 AI에 대한 규제는 신중하게 접근해야 한다. AI의 정의가 아직 명확하지 않고 그 응용 분야도 빠르게 변화하고 있기 때문에 성급한 규제는 기술 발전을 저해하거나 의도치 않은 결과를 초래할 수 있다. 예컨대 지나치게 엄격한 규제는 AI 연구 및 개발의 속도를 늦출 수 있다. 이는 글로벌 경쟁력에 부정적인 영향을 미칠 수 있다. 반면 규제가 너무 느슨하면 AI의 오남용이나 윤리적 문제를 방지할 수 없을 것이다. AI 규제의 복잡성은 그 기술적 특성뿐만 아니라 사회적, 윤리적 측면에서도 나타난다. AI는 개인 정보 보호, 데이터 보안, 윤리적 결정 등 다양한 문제를 포함하고 있으며 이는 단순한 기술적 규제로 해결할 수 없는 경우가 많다. 자율 주행 차량 내 AI의 경우 도로 안전과 관련된 복잡한 윤리적 결정을 내릴 수 있어야 한다. 이러한 상황에서 AI의 행동을 규제하는 것은 기술적 문제뿐만 아니라 사회적 합의와 윤리적 기준을 필요로 한다. 이에 AI 규제는 단계적이고 포괄적인 접근이 필요하다. 먼저 AI 시스템의 투명성을 높이는 것이 중요하다. 이는 AI가 어떤 방식으로 작동하는지, 어떤 데이터에 기반해 학습했는지를 명확히 밝히는 것을 의미한다. AI의 결과에 대한 책임도 명확히 해야 한다. 이는 AI 시스템의 오작동이나 잘못된 결정에 대해 누가 책임을 질 것인지를 규명하는 과정이다. 마지막으로 AI의 사회적, 윤리적 영향을 평가하고 이에 대한 기준을 마련해야 한다. 이는 AI가 사회에 미치는 긍정적, 부정적 영향을 균형 있게 고려하는 것을 의미한다. 알고리즘은 이미 규제되고 있으며 이는 그 명확한 정의와 예측 가능한 특성 덕분이다. 반면 AI는 그 정의와 응용이 아직 명확하지 않고, 복잡성과 자율성으로 인해 규제가 더 어려운 상황이다. 이에 따라 AI 규제는 신중하게 접근해야 한다. 또 기술적, 사회적, 윤리적 측면을 모두 고려하는 포괄적인 접근도 필요하다. 이는 AI가 사회에 긍정적인 영향을 미치면서도 그 위험을 최소화할 수 있는 길을 마련할 것이다.

2024.07.19 17:20법무법인 태평양 정상훈

  Prev 1 2 3 4 Next  

지금 뜨는 기사

이시각 헤드라인

"AI 챗봇 '과잉 공감' 경계해야"…나르시시즘·망상 키울 수도

'보안 올림픽' 4연승 박세준 "K-보안, 글로벌로 가야"

공공 클라우드 전환 앞장서는 美정부…한국은 '제자리걸음'

李대통령 "국정운영 중심에 언제나 국민"

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.