검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'기고'통합검색 결과 입니다. (6건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

[기고] 헬스케어에서 생성형 AI 리스크를 최소화하는 방법

생성형 인공지능(AI)은 IT 전문가만이 다룰 수 있는 전유물이 아니다. 만들어진 목적 자체가 누구나 사용할 수 있는 보편적 기술을 지향하고 있다. 이 때문에 최근에는 많은 사람들이 실생활뿐만 아니라 업무에서도 문서 작성 소프트웨어를 사용하듯 자주 사용하고 있다. 바야흐로 모든 산업에서 AI 기술을 통한 업무 방식의 혁신이 이루어지고 있는 시대다. 의료 분야도 예외는 아니다. 맥킨지에 따르면 의료 기관의 72%가 AI 기술을 사용하고 있거나 사용할 계획이라고 밝혔다. 우리나라 정부도 지난 5년간 2조2천억원 규모의 국내 의료 AI 관련 국가 연구개발에 투자했다. 또 2028년까지 의료 인공지능 연구개발 로드맵을 세우며 AI를 통한 의료 서비스 혁신을 꾀하고 있다. 이미 많은 의료 종사자들은 X선, MRI 및 CT 스캔 결과 해석이나 환자 데이터 통계 요약 등 다양한 업무에서 생성형 AI를 사용하고 있다. 이처럼 AI 기술은 많은 의료 분야에 도움을 주고 있다. 이는 의료 서비스 개선 및 국민 건강 증진이라는 긍정적 효과로 이어진다. 그러나 간과하지 말아야 할 것은 생성형 AI가 제공하는 답변이 부정확하거나 완전히 허구인 정보를 생성할 수 있다는 점이다. 맥킨지에 따르면 생성형 AI는 자신감 있는 답변을 제공하지만 그것이 정확한 사실이 아닐 경우가 종종 있는 것으로 나타났다. 이는 생성형 AI에 대한 신뢰도와 실제 답변에 대한 정확도의 격차로 나타나며 생성형 AI를 사용하는 모든 산업 분야에 리스크로 작용한다. 특히 생명과 직결되는 의료 분야에서는 매우 심각한 위협이 될 수 있다. 단순 기업의 효율성이나 비용 절감에 악영향을 주는 것이 아니라 국민의 생명, 웰빙, 건강에 돌이킬 수 없는 피해를 줄 수 있기 때문이다. AI 기술에서 도출된 부정확한 정보가 환자 치료에 심각한 결과를 초래할 수 있음에도 생성형 AI 제공업체는 라이선스 계약에 '위험성이 높은 시나리오에서 해당 도구를 사용하지 마십시오'와 같은 면책 조항을 통해 책임을 회피한다. 그렇기 때문에 의료 기업은 AI 활용에 따른 위험을 온전히 인식하고 AI가 제공한 정보에 대한 엄격한 검증 프로세스를 구현해야 한다. 민감한 환자 정보를 어떻게 보호할지 또한 매우 중요한데 강력한 보호 장치가 없다면 생성형 AI 사용으로 인한 무단 접근이나 기밀 유출과 같은 취약점이 노출될 수 있다. AI 모델은 제공되는 데이터의 품질에 따라 성능이 결정된다. 그렇기 때문에 의료 분야에서 사용되는 AI 모델은 신뢰할 수 있는 데이터를 기반으로 철저하고 엄격한 기준을 둬야 한다. 결과적으로 데이터 관리 시스템은 치명적 오류를 완화하기 위한 필수 요소다. 많은 개발자들은 AI 기술의 리스크를 줄이기 위해 실시간으로 결과물을 수정하거나, 데이터 편향을 줄이거나, 다양한 조건에서 테스트를 수행하는 등 신뢰도 보정에 노력을 기울이고 있다. 결국 핵심은 데이터다. 의료 분야에 속한 기업은 보통 민감 정보를 다루기 위한 온프레미스와 데이터 처리 성능을 위한 퍼블릭 클라우드를 동시에 쓰는 하이브리드 환경을 구축한다. 이러한 복잡한 환경에서 다양하고 정확한 최신 데이터가 확보돼야 AI 기술을 온전히 활용할 수 있기 때문에 하이브리드 데이터 플랫폼은 데이터 전략의 중심이 될 수밖에 없다. 하이브리드 데이터 플랫폼은 인프라를 막론하고 데이터를 원활하게 통합, 검증, 분석할 수 있다. 이 외에도 실시간 데이터 액세스로 데이터 변환, 피드백 메커니즘 구현 및 교육 개선, 성능 테스트를 수행할 수 있다. 또 강력한 데이터 카탈로그화 및 계보 추적과 같은 기능은 데이터의 출처와 이동 과정을 밝혀 투명성과 AI 모델에서 생성된 정보에 대한 신뢰를 높인다. 데이터 보안과 규정 준수도 놓칠 수 없다. 하이브리드 플랫폼은 저장 및 전송 중의 암호화, 역할 기반 액세스 제어, 엔터프라이즈 ID 관리 시스템과의 통합 등을 지원한다. 이를 통해 민감 환자 정보와 데이터 무결성을 보호하며 안전하고 신뢰할 수 있는 데이터로 AI 모델을 작동할 수 있도록 보장한다. 의료 산업의 미래는 어떻게 데이터를 활용해 환자가 겪는 의료 서비스를 개선할지에 달려 있다고 해도 과언이 아니다. 신뢰할 수 있는 하이브리드 데이터 플랫폼이 의료 서비스, 연구에서 새로운 혁신 가능성을 열어주는 열쇠가 될 것이다.

2025.02.11 10:29최승철 클라우데라

[기고] 클라우드 시대에 맞는 사이버 보안 운영 모델 구축법

퍼블릭 클라우드 서비스 도입은 이제 표준으로 여겨진다. 가트너 설문조사에 따르면 조직의 94%가 퍼블릭 클라우드를 디지털 비즈니스 이니셔티브의 중요 요소로 꼽기도 했다. 그러나 클라우드 마이그레이션의 많은 장점에도 불구하고 이는 사이버 보안 운영에 상당한 어려움을 야기하는 원인이 되기도 한다. 이제 공통 도메인과 클러스터를 포함한 사이버 보안의 대부분 측면을 클라우드에서 구현해야 하지만, 기존의 사이버 보안 모델과 기술 세트는 클라우드가 아닌 온프레미스 환경에 맞춰져 있는 것이 현실이다. 최고정보보호책임자(CISO)를 비롯한 사이버 보안 리더는 클라우드 도입의 불가피성과 이에 따른 변화를 무시할 수 없다. 그렇기에 클라우드 시대를 맞이한 비즈니스 환경에 맞게 팀 구조, 커뮤니케이션 채널, 기술 등 운영 모델 전반을 조정해야 한다. 나아가 CISO는 효과적인 사이버 보안 프로그램을 구축해야 하는 책임이 있다. 비즈니스 위험을 최소화하면서 클라우드로의 전환을 실현하기 위해 다음과 같은 지침을 참고할 필요가 있다. 가트너에 따르면 클라우드 지출은 2027년까지 연평균 17% 이상의 성장률을 유지할 것으로 전망된다. 이는 클라우드로 이전되는 워크로드와 애플리케이션의 수가 증가하고, 효과적인 워크로드 보호에 대한 중요성 또한 높아질 것임을 의미한다. 이러한 워크로드는 AWS, 마이크로소프트 애저, 구글 클라우드와 같은 하이퍼스케일 클라우드 공급업체 중 하나 또는 그 이상의 업체에서 호스팅될 수 있다. 이에 따라 조직은 이러한 새로운 환경에 적응하기 위해 팀을 구성하고 팀의 역량을 조정해야 한다. 조직 내에서 클라우드 보안 전담팀의 필요성은 클라우드 기술의 중요도, 도입 프로세스의 복잡성, 각 사업 부서에서 제공하는 셀프 서비스 수준과 같은 요소들을 고려해 조직의 클라우드 기술 사용 방식에 따라 결정된다. 조직은 다양한 클라우드 운영 모델을 채택하지만, 클라우드 보안 모델은 특정 클라우드 운영 모델에 맞춤화돼야 한다. 클라우드 도입 초기 단계에는 조직에 별도의 '클라우드팀'이 없는 경우가 많다. 대신 다양한 부서의 기술 인력이 모여 클라우드 위원회, 타이거팀(해킹 전문가팀), 파일럿팀 또는 클라우드 역량 센터를 구성한다. 이러한 그룹들은 일반적으로 비공식적이며 각 구성원들의 노력에 의존하여 운영된다. 이에 따라 클라우드에 대한 책임은 기존에 온프레미스 운영 책임이 있는 부서에 할당되는 경우가 많다. 조직은 클라우드 거버넌스를 담당하는 엔터프라이즈 아키텍처 기능으로서 클라우드 혁신 센터(CCoE)를 설립하고, 클라우드 기술 구현을 담당하는 클라우드 플랫폼 운영(CPO) 기능을 함께 구축할 것을 권장한다. CPO 기능은 애플리케이션 팀을 대신해 내부 관리 서비스 공급자(MSP)와 같은 역할을 수행하며 컨설팅 기능, 플랫폼 기능, 일상적 운영을 제공한다. 또 다른 모델로는 애플리케이션팀이 클라우드 리소스를 포함한 전체 애플리케이션 스택의 인프라, 운영, 보안을 전적으로 책임지는 방식이 있다. 이러한 극단적인 '데브옵스(Extreme DevOps)' 또는 '데브섹옵스(DevSecOps)' 모델은 규제가 없는 초기 클라우드 도입 환경이나 성숙한 디지털 조직에서 흔히 볼 수 있다. 클라우드 혁신 센터(Cloud Center of Excellence, CCoE)를 설립하는 것 역시 클라우드를 위한 조직 구성의 중요한 측면이다. CCoE는 협의의 중심점으로서 혼란을 관리하고 거버넌스를 확립하는 데 도움을 준다. 적절한 클라우드 거버넌스는 클라우드 기술 도입에 따른 위험을 완화하는 데 매우 중요하다. CCoE는 클라우드 거버넌스 범위를 넘어서는 책임이 있기 때문에 일반적으로 경영진의 지원을 받는다. 보통 클라우드 엔터프라이즈 아키텍트가 담당하여 운영하며 자문형 엔터프라이즈 아키텍처로 기능한다. 조직의 클라우드 컴퓨팅 자문 위원회(CCAC)는 CCoE에 전략 및 정책 피드백을 제공한다. 보안 및 위험 관리(SRM)는 대부분의 경우 한 명 이상의 담당자가 있으며 CCoE에 영향을 미칠 수 있는 공식적인 권한을 갖는다. 클라우드 보안은 기존 보안과 결과적으로는 다르지 않지만 제공되는 방식은 다른 경우가 많기 때문에 온프레미스 보안과 동일한 보안 클러스터가 필요하다. 이러한 클러스터는 조직에 따라 담당하는 팀이 다를 수 있지만 구성 및 운영 방식은 조직이 선택한 클라우드 운영 모델과 일치돼야 한다. 보안 운영에 대한 의사결정은 부분적으로 기술과 성숙도에 따라 이루어진다. 조직이 클라우드 여정을 진행하면서 기존 보안팀은 클라우드 기능을 통합할 것이며 보안 운영 센터(SOC)는 클라우드 사고 처리, 클라우드 환경에서의 위협 탐지 감독, 위협 인텔리전스를 비롯한 클라우드 공급업체의 추가 서비스를 관리하게 될 것이다. 클라우드 도입을 방해하고 부정적인 결과를 초래하는 몇 가지 분명한 안티패턴도 있다. 조직은 ▲클라우드 이니셔티브에서 사이버 보안팀을 완전히 배제 ▲사이버 보안팀이 비즈니스 또는 운영팀과의 협업 없이 모든 것을 전담 ▲보안, 클라우드 엔지니어링, CCoE 간의 협업 부족 ▲클라우드 보안과 거버넌스의 혼동 등과 같은 안티패턴으로 클라우드팀을 구성하는 것을 피해야 한다: 클라우드 보안에는 온프레미스 환경과 동일한 보안 구성 요소가 모두 포함된다. 그러나 이를 성공적으로 구현하는 것은 클라우드 보안 전담팀을 구성하는 것만큼 쉽지 않다. 클라우드 보안팀을 구성하는 방법에 정답은 없지만 피해야 할 안티패턴은 존재한다. 이러한 패턴을 피하는 것 외에도 선택한 클라우드 운영 모델에 맞게 조직을 구성해야 최적의 결과를 얻을 수 있다. 퍼블릭 클라우드 서비스를 도입하는 기업이 증가함에 따라 사이버 보안 리더의 역할은 점점 더 중요해지고 있다. 팀 구조 재평가부터 보안 모델 조정, 클라우드 혁신 센터 구축 등 일련의 과정을 수행함과 동시에 안티패턴을 파악해 부정적인 영향을 최소화하는 것이 보안을 강화하고 클라우드의 혁신 잠재력을 충분히 활용할 수 있는 길이다.

2024.10.15 14:39최윤석

[기고] 클라우드 시대에서 온프레미스로 회귀하는 이유

지난 몇 년간 클라우드에 '올인' 하던 많은 기업들이 온프레미스 인프라로 데이터를 다시 옮기고 있다. 클라우드는 유연성과 민첩성을 향상시키는 해결책으로 환영 받았지만, 많은 데이터 리더들은 서서히 클라우드에도 상당한 단점이 있다는 것을 인지하게 됐다. 온프레미스를 다시 선택하는 가장 큰 이유는 규제와 비용 때문이다. 기업은 거버넌스나 데이터 주권이 잘못될 경우 발생할 수 있는 비지니스 손실에 대해 경계한다. 또 기업의 클라우드 사용량 확장은 곧 클라우드 비용의 대폭적인 증가로 이어지기 때문에 클라우드 사용량 증가에 대한 비용도 고려해야 한다. 기업은 클라우드를 고려할때 결정을 내리기 전에 데이터와 워크로드를 더 잘 이해할 필요가 있다. 이에 따라 클라우드 마이그레이션에 대한 결정은 데이터 기반 접근 방식을 적극 권장한다. 많은 기업들은 클라우드에서 특정 워크로드를 실행하는 것이 처음 예상했던 것보다 훨씬 높은 비용이 요구된다는 사실을 인식하고 있기 때문에 워크로드가 운영되는 위치를 재평가하게 됐다. 데이터 리더가 데이터를 클라우드로 이전할 때 가장 먼저 해야 할 질문은 '왜'다. 클라우드의 가장 주요한 이점은 유연성이고 '비용을 절감하기 위해서'라면 온프레미스를 유지하는 것이 더 나을 수 있다. 그렇다고 온프레미스 환경에서 클라우드의 이점을 누릴 수 없다는 말은 아니다. 기업들은 프라이빗 클라우드에서 컨테이너화, 가상화와 같은 접근 방식을 통해 탄력성, 워크로드 격리, 온프레미스 스토리지 밀도 향상과 같이 품질을 향상할 수 있는 방법을 제공받고 있다. 산업이 클라우드 우선주의를 넘어 워크로드 우선주의 시대로 나아가고 있는 것이다. 워크로드가 퍼블릭 클라우드의 클라우드 네이티브 배포에 더 적합한지 아니면 온프레미스 환경에 더 적합한지에 대한 결정은 양질의 평가지표를 기반으로 이뤄져야 한다. 워크로드 분석을 통해 기업은 어느 쪽이든 결정을 내리기 전에 워크로드의 성능을 관찰할 수 있다. 예측이 가능하고 비교적 안정적인 수준의 리소스를 소비하는 워크로드는 온프레미스에서 실행하는 것이 더 저렴한 경우가 많다. 반면 변동성이 큰 고객 대면 서비스는 탄력성 때문에 클라우드가 더 좋을 수 있다. 데이터 규정 준수와 거버넌스가 많은 기업, 특히 규제가 엄격한 분야의 기업에게 가장 중요한 문제라는 사실은 부인할 수 없다. 거버넌스 환경은 날이 갈수록 더욱 복잡해지고 있다. 슈렘스 II와 같은 규정의 경우 고객 데이터와 개인정보 보호에 관한 요구사항이 변경돼 더 엄격한 통제와 더 급격한 재정적 결과를 초래한다. 이러한 배경에서 많은 기업은 데이터에 대한 통제권을 갖고 관할을 벗어나지 않도록 데이터를 안전하게 온프레미스로 마이그레이션하는 방법을 선택하고 있다. 주권에 대한 문제는 주요 클라우드 제공업체가 미국에 기반을 두고 있기 때문에 미국 내 기업에게는 큰 문제가 아니다. 하지만 한국을 포함한 아시아, 유럽, 아프리카 등 다른 지역에 기반을 둔 기업에게는 점점 더 큰 문제가 되고 있다. 데이터에 대한 통제력을 높이려면 기업이 모든 환경에 걸쳐 일관된 보안 정책을 마련하는 것이 중요하다. 거버넌스가 '언제 어디서나' 일관되게 적용되도록 하면 기업이 규정을 훨씬 쉽게 준수할 수 있다. 전 세계적으로 정의된 하나의 정책을 마련하면 기업은 모든 클라우드 및 온프레미스 환경에 걸쳐 통일된 보안 표준을 따를 수 있다. 이를 통해 위험을 줄이고 시간을 절약하고 인간이 일으키는 오류의 위험을 완화할 수 있다. 클라우드와 온프레미스 모두 각자의 장점과 단점이 존재하기 때문에 기업은 클라우드에서 클라우드로, 온프레미스에서 클라우드로, 클라우드에서 온프레미스로 데이터를 안전하게 이동할 수 있는 능력이 필요하다. 이는 굉장히 어려운 과제였지만, 최신 데이터 아키텍처가 등장하면서 기업은 데이터에서 더 많은 가치를 창출하는 동시에 클라우드 비용을 최적화할 수 있게 됐다. 끊임없이 변화하는 비즈니스 환경에서 효율성을 높이고자 하는 기업은 최신 데이터 아키텍처를 채택해 데이터 위치와 관계없이 데이터를 활용하고 비즈니스 인사이트를 도출할 수 있다. 이 때문에 산업 특성에 맞도록 하이브리드 데이터 아키텍처를 구축한 기업은 일관된 거버넌스와 유연성, 민첩성을 동시에 확보할 수 있다. 클라우드와 온프레미스의 장점을 온전히 활용할 수 있는 능력은 기업이 자신의 산업에서 선두주자가 될 수 있는 든든한 원동력이 된다.

2024.09.27 11:13최승철

[기고] 알고리즘과 AI의 차이점…규제가 중요한 이유

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. 알고리즘과 인공지능(AI)은 현대 기술의 중심에 자리잡고 있다. 이 둘은 종종 혼용되거나 유사한 개념으로 이해되기도 하지만 그 본질과 작동 방식, 응용 분야는 다소 다르다. 알고리즘은 특정 작업을 수행하기 위해 설계된 명확한 단계적 절차나 규칙의 집합이다. 이들은 입력 데이터를 받아 처리하고 결과를 도출하는 과정에서 일련의 지침을 따른다. 예를 들어 정렬 알고리즘은 숫자나 문자의 리스트를 특정 순서로 정렬하는데 사용된다. 알고리즘은 수학적 논리와 명확한 지침을 바탕으로 작동하며 예측 가능하고 재현 가능한 결과를 제공한다. 반면 AI는 기계가 인간의 지능적 행동을 모방할 수 있도록 하는 기술의 집합이다. AI는 머신 러닝, 딥 러닝 등 다양한 기술을 포함하며 이러한 기술들은 데이터를 통해 학습하고 패턴을 인식하며 예측을 수행할 수 있다. AI 시스템은 스스로 데이터를 분석하고 경험을 통해 성능을 향상시키며 복잡한 문제를 해결할 수 있다. 이는 알고리즘과 달리 더 큰 유연성과 자율성을 제공하지만, 그 결과는 항상 예측 가능하거나 명확하지 않을 수 있다. 알고리즘과 AI는 많은 공통점을 가지지만 규제의 필요성이 있어서 중요한 차이점이 존재한다. 알고리즘은 명확한 규칙에 따라 작동하므로 이에 대한 규제가 상대적으로 간단하다. 즉 알고리즘의 코드와 로직을 분석함으로써 그 작동 방식을 이해하고 문제가 발생할 경우 이를 수정할 수 있을 것이다. 하지만 AI는 그 복잡성과 자율성 때문에 규제가 더 어렵다. AI 시스템은 수많은 데이터를 기반으로 학습하고 그 작동 원리는 불투명한 경우가 많다. 이로 인해 AI의 결정에 어떤 편향이나 오류가 발생할 수 있는지 이해하고 검증하기는 매우 어려울 것이다. 이에 따라 AI에 대한 규제는 신중하게 접근해야 한다. AI의 정의가 아직 명확하지 않고 그 응용 분야도 빠르게 변화하고 있기 때문에 성급한 규제는 기술 발전을 저해하거나 의도치 않은 결과를 초래할 수 있다. 예컨대 지나치게 엄격한 규제는 AI 연구 및 개발의 속도를 늦출 수 있다. 이는 글로벌 경쟁력에 부정적인 영향을 미칠 수 있다. 반면 규제가 너무 느슨하면 AI의 오남용이나 윤리적 문제를 방지할 수 없을 것이다. AI 규제의 복잡성은 그 기술적 특성뿐만 아니라 사회적, 윤리적 측면에서도 나타난다. AI는 개인 정보 보호, 데이터 보안, 윤리적 결정 등 다양한 문제를 포함하고 있으며 이는 단순한 기술적 규제로 해결할 수 없는 경우가 많다. 자율 주행 차량 내 AI의 경우 도로 안전과 관련된 복잡한 윤리적 결정을 내릴 수 있어야 한다. 이러한 상황에서 AI의 행동을 규제하는 것은 기술적 문제뿐만 아니라 사회적 합의와 윤리적 기준을 필요로 한다. 이에 AI 규제는 단계적이고 포괄적인 접근이 필요하다. 먼저 AI 시스템의 투명성을 높이는 것이 중요하다. 이는 AI가 어떤 방식으로 작동하는지, 어떤 데이터에 기반해 학습했는지를 명확히 밝히는 것을 의미한다. AI의 결과에 대한 책임도 명확히 해야 한다. 이는 AI 시스템의 오작동이나 잘못된 결정에 대해 누가 책임을 질 것인지를 규명하는 과정이다. 마지막으로 AI의 사회적, 윤리적 영향을 평가하고 이에 대한 기준을 마련해야 한다. 이는 AI가 사회에 미치는 긍정적, 부정적 영향을 균형 있게 고려하는 것을 의미한다. 알고리즘은 이미 규제되고 있으며 이는 그 명확한 정의와 예측 가능한 특성 덕분이다. 반면 AI는 그 정의와 응용이 아직 명확하지 않고, 복잡성과 자율성으로 인해 규제가 더 어려운 상황이다. 이에 따라 AI 규제는 신중하게 접근해야 한다. 또 기술적, 사회적, 윤리적 측면을 모두 고려하는 포괄적인 접근도 필요하다. 이는 AI가 사회에 긍정적인 영향을 미치면서도 그 위험을 최소화할 수 있는 길을 마련할 것이다.

2024.07.19 17:20법무법인 태평양 정상훈

[기고] AI 생태계 속 규제 패러다임의 변화…'AI 거버넌스'

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. 미국은 지난 2022년 10월 국가 안보 우려를 이유로 특정 성능 이상의 인공지능 및 슈퍼컴퓨터용 반도체 등의 대중 수출을 금지했다. 이후 지난해 10월에는 기존보다 사양이 낮은 인공지능(AI) 반도체 칩의 수출을 금지시켰다. 최근에는 엔비디아와 AMD의 중동 국가에 대한 최신 AI 칩의 대규모 판매 라이선스 발급을 늦추고 있다는 소식도 전해지고 있다. 올해 7월에는 프랑스 규제 당국이 AI 칩 선두 주자인 엔비디아를 반독점법 위반으로 제재할 예정이라는 보도가 나왔다. 이는 브루노 르메르 프랑스 재무장관이 "엔비디아의 지배력이 국가 간 '불평등 증가'를 야기하고 공정한 경쟁을 옥죄고 있다"는 발언을 한 이후 8개월만이다. 프랑스 외에도 미국과 유럽연합(EU), 중국, 영국 등도 엔비디아의 반독점 위반 여부에 대해 검토 중이라고 한다. '생성형 AI 경쟁이 국가 대항전처럼 흘러간다'는 이야기가 실로 와닿는 국제정세가 아닐 수 없다. 일본 총무성이 지난해 11월 네이버 클라우드에 저장된 라인야후 이용자의 개인정보 유출 사태와 관련해 라인야후에 네이버의 자본 관계 재검토를 요구한 것도 이러한 맥락에서 이해할 수 있다. 그러나 더이상 '데이터 보호주의' 또는 '우리나라 기업 강탈'이라고 분노만 할 것이 아니라 AI 국가 대항전에서 밀려나지 않기 위해 우리가 갖추어야 할 경쟁력이 무엇인지 반면교사로 삼아야 할 시점이다. 디지털화는 빅데이터 시대를 열었다. 데이터가 폭발적으로 증가하고 데이터의 원천도 내부에서 외부로 확대됐다. 또 다양한 원천으로부터 데이터를 수집해 통합, 분석해 업무에 주고받는 데이터의 활용 능력을 내재화하는 것은 근본 경쟁력이 됐다. 이는 국제적인 전략 경쟁에서 핵심 기술로 떠오르는 AI의 개발과 성과로 직결된다. 데이터의 속성상 잘 주고받는 것도 중요하지만, 잘 지키는 것도 주요한 화두가 되다 보니 개인정보와 같은 데이터 보호 규제는 점점 강화되고 있다. 이에 따라 잘 지키는 데이터 컴플라이언스를 준수하면서도 외부와도 데이터를 활발히 주고받을 수 있으려면 데이터 거버넌스를 정립하는 것이 필수가 됐다. 또 데이터는 AI 거버넌스의 핵심일 수 밖에 없다. 거버넌스의 의미에 관해 구체적으로 합의된 정의는 없으나, 'AI 거버넌스'는 AI와 관련된 목표를 달성하기 위해 조직을 지도, 통제하고 책임을 묻는 시스템을 의미한다. 동시에 AI의 개발, 활용으로 발생하는 위험들을 다루기 위해 필요한 일정한 제도적 접근방식을 말하는 것으로 이해하면 크게 틀리지 않을 것이다. 생성형 AI의 능력이 빠르게 향상되고 있고 AI의 활용 영역이 확장됨에 따라 우리가 예상하지 못하거나 미처 들여다보지 못하는 영역에서 발생할 문제점이나 위험성에 대해 걱정하는 목소리는 최근 높아지고 있다. 이러한 문제를 다루기 위해서는 일정한 제도적 접근방식 필요하고 AI 거버넌스를 구축해야 한다는 점에 대해선 어느 정도 합의가 이루어진 것 같다. 이에 따라 AI 거버넌스의 모범이 되기 위한 법을 만들기 위한 노력도 많아졌다. 올해 5월 21일에는 AI에 관한 세계 최초의 포괄적인 법인 EU 인공지능법(the Artificial Intelligence Act)이 EU 이사회에 의해 최종 승인돼 공포만 남겨두고 있다. 미국에서는 규제보다 진흥에 힘을 실은 인공지능 관련 법안이 연간 200개씩이나 발의되는 상황이라고 한다. AI 거버넌스와 관련해 얼마나 정교하게 제도적 접근을 할 것인지가 현안이라면 그 규제의 수준이 중요할 것이고, 핵심은 결국 리스크 관리로 가게 될 것이다. 리스크 관리 체계를 잘 만들어서 그 역량을 강화하는 게 주요국이 지향하는 바인 것 같다. 우리나라 역시 AI 관련 법안 발의가 증가하는 추세다. 기술 경쟁력뿐 아니라 제도 경쟁력의 동반성장이 중요한 만큼 우리나라도 AI 거버넌스를 구축함으로써 글로벌 AI 거버넌스의 대화에서 주도권을 빼앗겨서는 안 될 것이다. 이처럼 각국 및 유관 기관들은 AI의 리스크를 관리하기 위한 방법론들을 만들어내고 있고 상호 정합성을 가지는 방안을 모색하고 있다. 이들은 AI 산업 생태계의 구성원들에게 전 세계적으로 구축되는 AI 거버넌스 속에서 스스로 규율할 수 있는 내부통제 시스템을 갖추도록 요구할 것이다. 전 세계를 무대로 활동하는 우리 기업들은 AI 시스템을 설계하고 개발하고 이용하고 테스트하고 사용하는 조직 내에서 리스크 관리 문화를 만들어야 한다. 이를 구현하는 AI 거버넌스를 구축하는데도 주저하지 말아야 할 것이다.

2024.07.05 16:48법무법인 태평양 강정희

노태문 사장 "모바일 AI 시대 연 삼성, 세계로 확산"

노태문 삼성전자 MX사업부장(사장)이 갤럭시S24 출시 이후 처음으로 모바일 인공지능(AI)의 현재와 미래에 대한 비전을 밝혔다. 노태문 사장은 21일 삼성전자 뉴스룸에서 "갤럭시 AI는 이제 시작이며, 갤럭시S24 시리즈를 개발하면서 구상했던 많은 새로운 아이디어와 콘셉트들이, 앞으로 기술이 더욱 발전되고 고도화되면서 더욱 새롭고 혁신적인 기능들로 지속 소개될 예정"이라고 말했다. 또한 "다양한 제품군과 서비스 영역에 갤럭시 AI를 적용하고 최적화해 보다 강력한 모바일 AI 생태계를 구축해 나갈 것"이라고 덧붙였다. 갤럭시S24 개발 과정에서의 소회도 전했다. 그는 "AI 기술은 세기적 판도 변화를 이끌 혁신이고, 갤럭시S24 시리즈 출시를 통해 이런 변화의 과정에 직접 참여할 수 있었다는 것이 엔지니어로서 개인적으로 큰 영광이었다"며 "모바일 기기가 AI의 가장 중요한 시작점이며, 삼성전자 갤럭시가 폭넓은 제품 포트폴리오, 열린 협력 철학 등을 바탕으로 모바일 AI시대를 열 것"이라고 자신감을 피력했다. 갤럭시 AI를 준비하는 과정에 대해서는 "모바일 AI의 미래를 준비하며 AI 기술이 어떻게 우리의 삶을 향상시키고 사회 변화의 방향성을 제시할 수 있을지 많은 고민을 했다"며 "이러한 숙고 속에 만들어진 AI기술들이 장벽 없는 일상의 소통을 가능하게 하고, 많은 일들을 더욱 쉽고 효율적으로 해결할 것"이라고 강조했다. 신제품 출시 이후 가장 많이 사용되는 갤럭시 AI의 기능들도 몇가지 소개했다. 새롭고 직관적인 검색 도구인 '서클 투 서치', 언어의 장벽 없는 소통을 가능케 한 '실시간 통역'과 '채팅 어시스트', '프로비주얼 엔진에 힘입은 '포토 어시스트' 기능이 가장 많이 사용되고 있다고 언급했다. AI 기술 개발 철학에 대해서도 언급했다. "AI의 정확성과 신뢰성을 위해 기업들은 열린 자세로 서로 협력하고 신중한 접근으로 AI 경험을 정의해, 사용자가 안심하고 신뢰할 수 있는 AI경험을 즐길 수 있도록 해야 한다"고 말했다. 보안과 개인정보 관리의 중요성에 대해서도 강조했는데, "삼성전자는 이를 위해 온디바이스와 클라우드 기반의 AI를 결합한 하이브리드 방식으로 접근했다"며 "앞으로도 투명성과 사용자 선택권 보장을 통해 갤럭시 제품의 보안과 개인정보 보호를 강화해 나갈 것"이라고 강조했다. 노태문 사장은 마지막으로 갤럭시 사용자 분들에 대한 감사의 마음도 전했다. 그는 "모바일 AI시대의 주인공은 갤럭시 사용자 여러분"이라며, "갤럭시 AI는 앞으로도 사용자들의 목소리를 듣고, 여러분들을 주인공으로 더욱 진화 발전해 나갈 것"이라고 약속했다.

2024.02.21 08:59류은주