검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'데이터 거버넌스'통합검색 결과 입니다. (7건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

"美·中과 경쟁 무의미"…새 정부, 제조·인재·거버넌스로 AI 패권 도전해야

윤석열 전 대통령의 탄핵 이후 들어서는 새 정부는 정치 혼란 속에서도 산업과 기술의 방향성을 다시 세울 중대한 책임을 떠안게 됐다. 동시에 전 세계는 기술의 또 다른 거대한 전환점을 맞이하고 있다. AI가 특정 산업의 기술을 넘어, 모든 산업에 스며드는 '기반 인프라'로 자리 잡고 있는 것. 자동차에서 헬스케어, 게임, 미디어, 금융에 이르기까지 AI는 이미 산업 생태계의 기초 체력으로 작동하기 시작했다.지디넷코리아는 창간 25주년을 맞아 이 격변의 시점에서 AI 기반 산업 대전환기에 진입한 대한민국의 산업 현장을 진단하고, 각 산업 분야 전문가들과 함께 'AI시대, 새 정부가 해야 할 일'을 짚어본다. [편집자주] 다음 달 새 정부가 출범을 앞둔 가운데 글로벌 인공지능(AI) 패권 장악을 위한 국가 전략을 새로 짜야 한다는 목소리가 커지고 있다. 업계 전문가들은 거버넌스와 데이터, 인재, 산업 전략 등에 실질적이고 과감한 전환이 필요하다고 지적하고 있다. 차기 정부는 해외 AI 전략을 무조건 따르는 것보다 한국 환경에 맞는 방식을 택해 미국과 중국 등과 경쟁해야 한다는 의견도 주를 이뤘다. "AI는 달리는데 정부는 제자리"…산업계, 실행력 있는 거버넌스 촉구 업계에선 새 정부가 AI 기술 고도화에 발맞춰 제도와 조직을 정비해야 한다는 목소리를 높이고 있다. 기술 발전 속도가 정책 대응을 앞지르는 상황에서 실행력을 갖춘 AI 거버넌스 체계를 새로 짜야 한다는 지적이다. 현재 이 분야 최대 화두인 AI 기본법은 지난해 12월 국회를 통과해 내년 1월 시행을 앞두고 있다. 다만 고위험 AI 영향평가, 투명성 확보 의무 등이 산업계에 비용 부담을 줄 수 있다는 우려가 나오면서 일부 국회의원이 해당 조항을 3년 유예하는 개정안을 발의한 상태다. 업계 관계자는 "행정부가 시행령 단계에서 산업계와 충분히 조율해 적용 시기와 범위를 탄력적으로 조정하길 바란다"며 "신산업에 과도한 규제가 걸림돌이 되지 않도록 유연한 접근이 필요하다"고 말했다. 현 정부 조직으로는 AI 정책을 통합적으로 조율할 컨트롤타워가 없다는 비판 역시 제기된다. 과학기술정보통신부·산업통상자원부·행정안전부·개인정보보호위원회가 각자 사업을 추진하면서 정책 속도는 느려지고 책임 소재도 흐려졌다는 평가다. 업계 관계자는 "지금처럼 부처별로 역할이 분산되면 속도가 안 난다"며 "실행력 있는 전담 부처가 필요하다"고 강조했다. 최근 바른 과학기술사회 실현을 위한 국민연합(과실연)도 유사한 해법을 제시했다. 과실연은 최근 미디어데이를 열고 ▲예산과 규제 권한을 갖춘 'AI 디지털혁신부' 신설·대통령실 산하 'AI 전략실' 설치 ▲국가 최고 AI 책임자(CAIO) 체계를 통한 부처·지자체의 AI 사업 총괄 ▲정부·산업계·학계가 공동 참여하는 '국가 AI 정책연구소' 설립 등을 제안했다. 부처 간 정책 중복을 줄이고 장기 전략과 법제도 연구를 일원화해 추진하자는 취지다. 하정우 과실연 공동대표는 "AI가 모든 산업·행정 시스템을 관통하는 만큼 기술만이 아닌 예산과 조직 권한을 갖춘 전담 거버넌스 체계가 필수"라며 "단순 조정 조직으로는 경쟁에서의 승리가 불가능하다"고 말했다. "美·中 데이터 전략 따라선 안 돼...韓에 맞는 방식 필요" 전문가들은 정부의 데이터 전략 개선도 필요하다고 봤다. 미국이나 중국의 데이터 방식을 채택하는 것보다 한국 환경에 맞는 전략을 추진해야 한다고 입을 모았다. 국방 데이터를 체계적으로 정리해 군사 안보에 활용해야 한다는 의견도 나왔다. 이경전 경희대 경영대학·빅데이터응용학과 교수는 "미국처럼 AI를 폐쇄적으로 운영하거나, 중국처럼 모든 데이터를 오픈소스로 여는 방식은 국내서 통하지 않는다"며 "한국은 데이터를 지키면서도 기술을 발전시킬 수 있는 '제3의 길'을 가야 한다"고 제안했다. 이 교수는 한국이 '연합 AI 전략'을 통해 데이터 품질과 보안을 모두 잡을 수 있다고 봤다. 연합 AI 전략은 기업이 AI 모델을 각자 개발하기보다 하나의 모델을 연합해 만드는 방식이다. 각 기업이 데이터를 활용해 AI 모델을 학습시킨 후 그 결과만 모아 공동의 AI 모델을 완성하는 식이다. 그는 "연합 AI 전략은 데이터를 밖으로 넘기지 않고도 AI 성능을 높일 수 있다"며 "데이터 보안과 품질을 동시에 챙길 수 있다"고 강조했다. 이 교수는 '연합 데이터 뱅크' 전략도 필요하다고 봤다. 개인이나 기업이 데이터를 데이터 뱅크에 맡기고, AI 학습에 사용된 만큼 보상받는 구조다. 참여자는 '데이터 계좌'를 통해 기여도를 정량화하고 보상받을 수 있다. 이경전 교수는 "이 방식은 데이터 공유의 인센티브를 강화하면서도, 산업별 데이터 경쟁력을 높이는 전략"이라며 "금융과 의료, 제조 등 AI 활용 가능성 높은 3~5개 산업 대상으로 시범 사업을 먼저 추진한 뒤 이를 다른 산업으로 점진적으로 확대할 필요가 있다"고 설명했다. 국방 데이터 기반 체계 전환이 시급하다는 지적도 나왔다. 최근 미국과 영국 등 해외 정부가 국방 데이터를 통해 전략적 의사결정과 작전 효율성을 높이는 사례가 늘어나서다. 이에 한국도 각종 국방 데이터 활용도를 높이기 위한 분류 체계를 만들자는 제안이다. 김승일 과실연 AI 미래포럼 의장은 "작전 정보와 군사 장비, 병력 운영 등 다양한 데이터를 표준화하고 보안등급에 따라 데이터 접근 정책을 수립해야 한다"며 "특히 클라우드를 통해 국방부와 전군, 방산기업, 연구기관, 대학이 참여해 국방 데이터로 AI 기술을 공동 연구·실용화할 수 있는 방안도 필요하다"고 주장했다. "美 이민정책 강화, 韓에 기회...해외 인재 유치에 총력" 차기 정부가 국내외 AI 인재를 확보하기 위한 제도 기반을 재설계해야 한다는 목소리도 커지고 있다. 업계에선 국내 인재 유출을 막으면서 해외 우수 인력까지 유치할 수 있는 전략이 필요하다고 주장했다. 이를 위해 파격적 보상과 연구 지원, 해외 인재 유치 제도 활성화 등이 제시됐다. 과실연은 해외에 있는 국내외 인재 대상으로 귀국 유도형 펠로우십과 연구비 지원, 이중소속 제도, 원격연구 허용 등이 필요하다고 강조했다. 이를 '월드클라스K' 패키지 프로그램으로 구성해 국내외 인재를 모두 지원해야 한다고 강조했다. 검증된 국내외 연구자도 충분한 지원을 받아야 한다는 의견도 나왔다. 특히 우수 연구자에게 최소 3년 동안 연구 지원을 보장하고 30~40대 인재에게 장기 AI 인프라 지원책이 필요하다고 봤다. 업계 관계자는 "실리콘밸리 수준 복지를 위해 이중소속 고용 제도를 허용해야 한다"며 "특히 정부는 공공 목적 연구에 한해 인건비를 기업·대학과 손잡고 지원해야 할 필요가 있다"고 주장했다. 그러면서 "우수한 인재 기준도 정량적 연구가 아닌 국제적 영향력과 기술 확산력, 논문 기여도 등으로 설정해야 한다"고 덧붙였다. 해외 AI 인재 대상으로 한 패스트트랙 비자 도입도 제안됐다. 김승일 의장은 "연간 50명을 선발해 비자 간소화, 가족 동반, 영주권 우선심사, 정착지원금 등 실질적 혜택 제공이 필요하다"고 강조했다. 전문가들은 현재 해외 인재 유치를 위한 적기라고 입을 모았다. 최근 강화된 미국 이민 정책으로 인해 미국에서 제3국으로 이주하려는 AI 인재가 늘어날 수 있는 가능성이 높아져서다. 김 의장은 "도널드 트럼프 행정부의 이민정책 강화로 글로벌 인재의 미국행이 줄어들 것으로 전망한다"며 "이 시기를 활용한 적극적인 해외 인재 유치 전략이 필요할 것"이라고 밝혔다. "美·中과 범용 경쟁은 무리…제조·서비스 중심 산업 AI 전략 필요" 산업계에서는 새 정부가 미국이나 중국과 범용 AI 전면전에 뛰어드는 대신 국내 산업 구조에 맞는 특화형 전략을 수립해야 한다는 목소리도 나온다. 제조업과 서비스형 소비자 산업에 강점을 지닌 한국의 특성을 감안하면 전방위 AI 기술보다 '버티컬 AI' 중심의 실용주의 접근이 보다 현실적이라는 진단이다. 현재 글로벌 공급망 재편과 제조업 회귀 흐름이 가속화하면서 각국은 제조업 자동화를 핵심 전략으로 삼고 있다. 트럼프 대통령 당선 후 미국은 보호무역주의 기조 아래 자국 제조업 복원과 자동화를 정책 우선순위에 올린 상황이다. 이 가운데 국내에서는 IT 기업 대부분이 제조 대기업을 상대로 기술을 공급하는 기업간거래(B2B) 구조를 갖췄다. 이에 따라 국내 AI 기업들 중 많은 곳들이 제조 자동화, 품질 관리, 생산 최적화 수요에 맞춰 기술을 개발하고 있다. 이런 환경은 제조업에 강점을 가진 한국에 전략적 기회로 작용할 수 있다는 평가다. 제조업 자동화가 단순한 생산성 개선을 넘어 수출 경쟁력과 산업 안보를 동시에 강화하는 수단이 될 수 있다는 설명이다. 업계 관계자는 "제조업은 우리가 잘하는 분야고 제조 AI는 여기에 속도를 붙이는 장치"라며 "트럼프 대통령의 제조업 회귀 전략은 실제론 쉽지 않을 텐데 그렇다면 우리가 가진 제조 강점을 협상 카드로 쓸 수 있을 여지가 있다"고 말했다. 다만 현실에서는 중소·중견 제조사의 AI 기술 접근성이 여전히 낮다. 대기업은 자체 자금으로 시스템을 도입할 수 있지만 중견급만 돼도 자동화 프로젝트를 시작조차 하지 못하는 상황이라는 게 현장 진단이다. 실제 윤석열 정부 시기 제조-AI 연계 사업 예산이 대폭 축소되면서 바우처와 컨설팅 등 중소기업 지원 예산도 함께 줄었다. 제한된 자원을 놓고 기업 간 경쟁만 심해졌고 제조 AI 생태계는 사실상 방치된 상태라는 지적이 나온다. 결국 AI 전환은 가능성보다 격차만 키운 채 멈춰섰다는 평가다. 업계 관계자는 "다음 정부에서는 제조 AI를 단순 지원이 아닌 산업 기반 복구 차원에서 접근해야 한다"며 "이대로 가면 대기업만 남고 생태계 전체가 무너진다"고 말했다. 업계는 버티컬 AI 전략이 제조업에만 국한되지 않는다고 강조했다. 의료·법률·금융 등 고부가가치 산업에서도 AI 기술은 이미 충분한 수준에 도달했지만 각 분야의 직역 구조가 기술 확산을 가로막고 있다는 것이다. 이로 인해 수요자는 높은 비용에 불만을 갖고 AI 대체를 원하지만 실제 서비스는 제도 장벽에 막혀 출현하지 못하는 이중 구조가 형성돼 있다. 또 다른 업계 관계자는 "지역 간 이해관계를 조정하지 않으면 기술이 있어도 시장은 열리지 않는다"며 "새 정부는 충돌을 정책적으로 정리하고 이해당사자의 우려를 조율하되 AI 전환에는 전폭적으로 힘을 실어야 한다"고 강조했다.

2025.05.07 15:22김미정

[현장] 새 정부도 AI 전략 없으면 실패한다…과실연, 국가 생존 '10년 로드맵' 제시

"인공지능(AI)은 이제 산업과 제도의 작동 원리를 통째로 바꾸는 '국가 메타 인프라'입니다. 기술 하나로 승부하던 시대는 끝났고 인재·안보·글로벌 연대를 포괄하는 전방위 체제 설계 없이는 생존이 어렵습니다. 오는 6월 대선을 앞둔 가운데 단기 흐름에 휘둘리지 않고 학계·산업계·기술 현장의 전문가들과 함께 10년 단위의 전략 아젠다를 제안하고자 이 자리를 마련했습니다." 하정우 과실연 공동대표는 30일 서울 강남구 과학기술회관에서 열린 '과학기술·AI 정책 미디어데이'에서 이같이 말했다. 이날 행사는 오는 6월 새 정부 출범을 앞두고 차기 정권의 AI 정책 방향성을 선제적으로 제시하기 위해 마련됐다. 바른 과학기술사회 실현을 위한 국민연합(과실연)과 산하 프론티어 AI 정책연구소, AI미래포럼이 공동 주관했으며 AI 분야 정책 발표는 하정우·김승일 공동대표가 맡았다. 이날 공개된 정책 아젠다는 ▲인프라 ▲인재 ▲생태계 ▲거버넌스 ▲글로벌·안보 등 5개 분야에서 총 11개 과제로 구성됐다. 과실연은 AI를 '국가 전략 기술'로 규정하고 컴퓨팅 인프라 구축부터 글로벌 연대까지 전방위 정책을 통해 한국이 AI 3대 강국으로 도약할 기반을 마련할 것을 주문했다. AICF부터 AI 탈피오트까지…'칩-인재' 묶는 10년 로드맵 제시 이날 하정우 공동대표는 AI 국가 전략화의 출발점으로 'AI 컴퓨팅 파운데이션(AICF)' 구축을 제시해 인프라 고도화 필요성을 강조했다. AICF란 그래픽처리장치(GPU)와 국산 신경망처리장치(NPU)를 포함한 AI 가속기 인프라를 국가 단위로 통합 구축해 연구개발과 산업 확산을 동시에 지원하는 기반 체계다. 과실연은 AICF 체계를 오는 2030년까지 50만 장 규모로 조성하고 민간·학계·스타트업이 저비용으로 활용할 수 있도록 공공-민간 연합 형태의 운영 모델을 마련해야 한다고 밝혔다. 하정우 공동대표는 "산업 구조가 AI가 없으면 아무것도 할 수 없는 구조로 이미 바뀌었다"며 "오는 2030년까지 세계 톱5 수준 GPU·NPU 50만 장 규모의 인프라를 갖춰야 한다"고 말했다. 또 다른 인프라 전략으로는 '글로벌 수준의 오픈소스 AI 생태계' 육성이다. 과실연은 향후 AI 패권 경쟁에서 '오픈소스 생태계'가 결정적 변수라고 지적했다. 이를 위해 정부 R&D 평가에 오픈소스 기여도를 반영하고 범용인공지능(AGI)을 목표로 한 국제 공동 프로젝트도 추진해야 한다는 입장이다. 하 공동대표는 "AICF는 이러한 프로젝트들의 공공 인프라로 활용돼야 한다"며 "다문화 포용형 AI 생태계 구축의 기반이 될 수 있다"고 밝혔다. 인재 확보 역시 강조됐다. 과실연은 'AI 원천기술·과학AI 연구·글로벌 협력'을 축으로 국가 주도 연구기관 두 곳의 설립을 제안했다. AGI 연구에만 전면 집중하는 국가 초지능연구소(NASII)와 기초과학 난제 해결을 위한 국가 과학AI연구소(NSAI)를 각각 설립해 글로벌 공동연구에 필요한 제도적 기반을 마련해야 한다는 구상이다. 하 공동대표는 "기초과학과 AI는 분리할 수 없고 AI는 이미 유럽과 미국에서도 '주권 기술'로 간주되고 있다"며 "우리도 이제 단순한 활용이 아니라 원천 기술 개발 주체로 나서야 한다"고 말했다. 이어 "이들 연구기관의 성과 평가 방식도 기존 논문 중심 지표에서 벗어나 기술의 사회적·산업적 기여도, 오픈소스 확산력 등을 핵심 기준으로 삼아야 한다"고 강조했다. 또 다른 인재 전략으로는 '글로벌 최고 수준 AI 인재 확보'가 제시됐다. 과실연은 오는 2030년까지 글로벌 AI 연구자 상위 2천 명 중 5% 이상을 한국 국적 또는 국내 활동 인재로 확보해야 한다는 목표를 내놨다. 이를 위해 김승일 공동대표는 해외 인재 유치를 위한 '패스트트랙 비자' 제도 도입, 교포 AI 과학자 귀국 유도 정책, 기업-학교 연계형 AI 하이브리드 대학원 설립 등을 추진해야 한다고 밝혔다. 장기 지원, 자율권 보장, 산학 겸직 허용, 파격적 보상 등 R&D 인재 유치를 위한 구조적 제도 설계도 함께 제시됐다. 중단기 실행 방안으로는 병역 특례 확대와 AI 전문사관 제도 도입이 제안됐다. 과실연은 이를 이스라엘의 유사 프로그램을 본따 'AI 탈피오트 프로그램'으로 명명하고 고급 인재가 군 복무 중에도 기술 프로젝트에 참여할 수 있도록 제도를 정비해야 한다고 밝혔다. 김 공동대표는 "AI에 대한 대중 활용 역량을 국가 경쟁력으로 연결하기 위해 전 국민 AI 리터러시 강화를 주요 아젠다로 포함시켰다"며 "자연어 기반 LLM 기술 확산에 맞춰 누구나 AI를 활용해 생산에 참여할 수 있는 실습 중심 교육 환경이 필요하다"고 말했다. AI 생태계 전략의 핵심 방향으로는 '산업 AI전환(AX) 중심의 고속 성장'을 제시했다. AI 기술을 산업 현장에 확산시키기 위해 지방정부, 중소·중견기업, 지역 거점대학이 삼각축이 돼야 한다는 입장이다. 이를 위한 주요 전략으로는 ▲국부펀드 규모 확대 ▲AI 스타트업 육성 투자 ▲지역 국립대의 AI 거점화 ▲과학기술원 연계 체계 구축이 제시됐다. 이들 수단을 통해 지방과 산업 현장의 AI 전환 기반을 마련해야 한다는 입장이다. 이와 함께 산업별 AI 챔피언 제도, AI 바우처 제도, 지역 단위 AI 규제 샌드박스, 국산 NPU 기반 산업 실증 사업, 재직자 중심의 전환 교육 프로그램 등도 생태계 조성을 위한 실행 과제로 포함됐다. 중소·중견기업과 지역 산업 단지의 AI 도입을 촉진하고 교육과 실증을 연계해 실질적인 산업 전환 효과를 꾀해야한다는 구상이다. 김승일 공동대표는 "AI는 중앙정부만으로 구현할 수 없다"며 "지방 주도의 산업 전환이 전체 AI 경쟁력의 핵심"이라고 말했다. "AI, 기술 아닌 체제 문제"…AI부·국방 전략본부·글로벌 협력안 제시 AI 정책 체계와 글로벌 연대 전략도 이번 제언의 주요 축으로 제시됐다. 과실연은 특히 현존하는 AI 정책연구소 소속의 정부·학계·산업계 전문가가 공동으로 참여하는 '국가 AI 정책연구소' 설립을 제안했다. 이 기관은 기술·법률·사회 영향력·글로벌 정책을 아우르는 허브로, 산발적으로 흩어진 정책연구 역량을 통합하는 구심점 역할을 맡아야 한다는 제언이다. 거버넌스 체계 개편도 핵심 과제로 꼽혔다. 과실연은 AI 기술이 과학기술 범위를 넘어 사회·경제·문화·안보 전반을 관통하는 국가 인프라로 기능하고 있다고 보고 이를 전담할 'AI디지털혁신부' 신설을 제안했다. 하정우 공동대표는 "AI가 모든 산업·행정 시스템을 관통하는 만큼 기술만이 아닌 예산과 조직 권한을 갖춘 전담 거버넌스 체계가 필수"라며 "단순 조정 조직으로는 속도전이 불가능하다"고 말했다. 이어 "AI디지털혁신부 장관이 국가 최고인공지능책임자(CAIO)를 겸임하고 각 부처·지자체의 CAIO를 지휘하는 구조가 돼야 한다"고 설명했다. AI 기술이 야기할 사회적 변화에 대응하기 위한 제도 마련도 함께 강조됐다. 과실연은 국회 내 초당적 AI 특별위원회 및 정책연구회 신설, 민간 전문가 및 시민단체 참여를 통한 입법 공론화 절차 마련을 요청했다. AI 안전성에 대한 논의도 확장돼야 한다는 지적도 잇따랐다. 이에 현재 전자통신연구원(ETRI) 산하에 있는 AI 안전연구소를 영국의 선례를 따라 'AI 안보연구소(AI Security Institute)'로 확대 개편해야 한다는 제언으로, 기술 안전을 넘어 사이버보안 및 국가 안보 차원의 연구를 수행해야 한다는 지적이다. 국제적 AI 경쟁 구도 속에서 새로운 글로벌 연대 전략을 통해 한국이 주도권을 쥐어야 한다는 제안도 나왔다. 하 공동대표는 "동남아·중동·중남미 등 AI 생태계가 미성숙한 국가들과의 공동 프로젝트를 추진해야 한다"며 "이를 위해 다국어·다문화 데이터를 기반으로 한 글로벌 오픈소스 프로젝트 '다문화 포용 AI' 선도할 필요가 있다"고 말했다. 이외에도 AI 관련 국제기구 참여 확대, 중동·동남아 등에의 AI 특사 파견, 국제연합(UN) 및 (경제협력개발기구)OECD와의 협력 구조도 함께 제안됐다. AI의 안보 역할도 정책 제안에 포함됐다. 과실연은 국방 전용 AI 컴퓨팅 인프라와 클라우드를 조성하고 이를 통해 기업, 연구소, 대학, 국방 조직이 데이터와 기술을 공동 연구·개발할 수 있는 생태계를 만들어야 한다고 밝혔다. 이를 위해 국방 R&D 예산의 일부는 기술 변화에 즉각 대응할 수 있도록 유연하게 활용할 수 있는 구조로 개편해야 한다는 입장이다. 더불어 AI 기반 국방 경쟁력을 체계적으로 뒷받침하기 위해 국가안보실 산하에 '국방 AI 전략본부'를 신설하고 국방 AI 협력체계 및 동맹 강화를 위한 거버넌스를 구축해야 한다는 제언도 함께 나왔다. 김승일 과실연 공동대표는 "AI는 이제 국가 안보의 핵심 기술"이라며 "정책과 조직 모두 그에 걸맞은 전환이 시급하다"고 밝혔다.

2025.04.30 13:39조이환

ADA코리아 "데이터를 실행으로…비즈니스 혁신 앞당긴다"

"데이터는 이제 비즈니스의 핵심 자산입니다. 그럼에도 데이터의 진정한 가치는 이를 실행 가능한 인사이트로 전환할 때 비로소 발휘됩니다." 고영혁 ADA코리아 대표는 5일 서울 롯데호텔 월드에서 열린 '컨버전스 인사이트 서밋(CIS) 2024'에서 이같이 말했다. 이번 행사는 디지털 시대에 기술과 비즈니스 전략의 융합을 통해 새로운 성공 방안을 모색하고자 마련된 자리로, 다양한 분야의 전문가들이 참여해 인사이트를 공유했다. 고 대표는 강연에서 실행가능한 통찰력을 뜻하는 '액셔너블 인사이트'의 중요성을 강조했다. 단순한 데이터 분석을 넘어 실제로 실행 가능한 구체적 지침을 도출하는 것이 비즈니스 성공의 열쇠라는 설명이다. 일례로 웹사이트 방문자가 감소하는 현상이 있다면 이를 단순히 관찰하는 것에서 그치지 않고 방문자 감소의 원인을 세분화해 분석하고 해결책을 제시하는 접근이 필요하다. 고 대표는 특히 데이터에서 '왜(Why)'를 찾아내는 과정이 중요하다고 강조했다. 이를 위해 6하 원칙(누가, 언제, 어디서, 무엇을, 어떻게, 왜)을 활용해 데이터를 다각도로 분석하고 맥락을 이해해야 한다고 설명했다. 그는 "고객의 행동을 깊이 있게 이해하고 그 배경을 파악해야만 진정한 인사이트를 얻을 수 있다"고 강조했다. 실제로 인공지능(AI) 시대를 맞아 데이터 분석 방법 역시 진화하고 있다. 이에 AI와 머신러닝 기술을 활용해 예측, 분류, 군집화 등 다양한 문제를 해결할 수 있게 됐다. 특히 고 대표는 생성형 AI의 등장으로 데이터 분석과 인사이트 도출이 더욱 효율적으로 이루어지고 있음을 강조했다. 그는 실제 사례로 고객사의 데이터를 AI 비서와 결합해 '액셔너블 인사이트'를 도출한 경험을 공유했다. 이를 통해 복잡한 데이터 속에서 비즈니스에 직접적인 도움을 줄 수 있는 정보를 빠르게 추출할 수 있었다는 것이다. 고 대표는 "AI는 이미 우리의 비즈니스 파트너"라며 "적절히 활용하면 억 단위의 컨설팅에 소요되는 비용을 절감하면서도 데이터 속에 숨겨진 가치를 손쉽게 발견할 수 있다"고 강조했다. 또 그는 비즈니스 혁신을 위해서는 '컨버전스'가 필수적이라고 주장했다. 컨버전스란 마케팅, 세일즈, 고객 지원 등 부서 간의 데이터와 업무를 통합해 시너지를 내는 개념으로, 이를 위해 온오프라인의 고객 접점을 통합하고 내부 데이터와 외부 데이터를 효과적으로 결합하는 전략이 필요하다. 데이터 거버넌스의 중요성도 언급됐다. 데이터의 품질과 보안, 접근 권한 등을 체계적으로 관리해 신뢰성 있는 데이터를 구축할 필요가 있다는 설명이다. 이를 통해서만 데이터 활용의 효율성을 높이고 비즈니스 의사결정의 정확도를 향상시킬 수 있기 때문이다. 고영혁 대표는 "데이터 거버넌스 없이 데이터 혁신은 불가능하다"며 "체계적인 관리가 뒷받침돼야만 지속 가능한 성과를 낼 수 있다"고 강조했다.

2024.12.05 17:01조이환

임용 서울대 교수 "글로벌 AI 거버넌스, 한국이 이끌어야"

"우리 AI 기술은 세계에서 얼마 안되는 거대언어모델(LLM)을 자체 생산하는데서 볼 수 있듯 경험과 기반이 갖춰진 상태입니다. 거버넌스 분야에서의 글로벌 논의 역시 대한민국이 주도하도록 성심성의껏 지원하는 것이 제 목표입니다." 서울대학교 법학전문대학원 임용 교수는 지난 12일부터 이틀간 개최된 '서울 AI 정책 컨퍼런스 2024(Seoul AI Policy Conference)'에 참가한 후 기자와 만나 이같은 포부를 밝혔다. 그는 행사를 주최한 서울대 AI 정책 이니셔티브(SAPI) 총책임자로, 지난 20년간 변호사·로스쿨 교수로서 활동하며 국제 AI 거버넌스 이슈들을 연구해왔다. SAPI가 서울대학교 인공지능신뢰성 연구센터(CTAI)와 함께 주최한 이번 행사에는 60명이 넘는 연사가 참여했다. 이 중 3분의 2는 해외 전문가들이었다. 특히 제이슨 권 오픈AI 최고전략임원과 세계적 법학자인 크리스토퍼 유 펜실베이니아대학교(유펜) 교수가 참석해 관심을 모았다. 14일 업계에 따르면 국내에서 주도한 AI 국제 협력은 이번이 처음은 아니다. 이해진 네이버 대표가 지난 7월 젠슨 황 엔비디아 대표와 함께 AI 발전을 논의하는 등 글로벌 기술 혁신을 주도해왔다. 지난 5월에는 과학기술정보통신부가 영국 정부와 함께 서울 AI 정상회의를 주최하는 등 거버넌스 분야에서도 발전이 있었다. 그럼에도 이번 행사가 특별히 주목받는 이유는 민간·학계가 주도해 AI 거버넌스 논의를 총망라했다는 점이다. AI 기술이 국경을 초월하는 이슈인만큼 글로벌 정합성을 고려한 연사 구성과 주제 선정이 이뤄졌다. 특히 기존에 자주 다뤄진 AI 인권과 거버넌스뿐만 아니라 표준화·경쟁·저작권·프라이버시·가짜 정보 등 다양한 주제가 논의됐다. 임 교수는 "포괄적인 논의를 위해 하루 짜리로 계획했던 행사를 이틀로 늘렸다"며 "우선순위 때문에 다루지 못한 주제도 있다"고 말했다. 반응은 뜨거웠다. 이틀 내내 청중들이 자리를 가득 메웠고 예측한 인원보다 참가자가 많아 행사장 밖에도 원격 텔레비전과 자리가 마련됐다. 임 교수는 "국내 AI 규제와 거버넌스가 니치(Niche) 분야임에도 불구하고 자발적으로 참석한 외국인 청중들이 많았다"며 "서울 정상회의가 추구한 논의를 학계가 이은 이번 행사를 통해 한국이 기술뿐만 아니라 거버넌스도 주도하길 바란다"고 강조했다. '서울 AI 정책 컨퍼런스'의 성공 배경에는 SAPI의 글로벌 연구 네트워크가 있었다. 지난 2017년 창설 이후 SAPI는 다양한 국내·해외 연구진과의 협업으로 인적 네트워크를 구축해 왔으며 이번 행사에서 그 성과를 총체적으로 활용했다. 특히 임 교수는 "유펜 법전원 및 기술, 혁신 및 경쟁 센터(CTIC)와의 협업 경험이 세계적 석학인 크리스토퍼 유 교수를 초청할 수 있었던 배경"이라며 "유 교수 같은 스타 학자뿐만 아니라 기술·거버넌스 발전 현장에서 땀 흘리고 있는 젊은 신진 연구자들도 초청했다"고 설명했다. 이번 컨퍼런스에선 한국뿐만 아니라 미국, 유럽, 일본의 산·학·연 전문가들이 각자의 입장을 공유하며 AI 규제 철학의 차이를 논의하기도 했다. 유럽연합(EU)은 권역 내 통일성을 유지하고 회원국이 개별 법을 적용하지 않으려는 목표를 가지고 있다. 일본은 저출산과 고령화 문제를 고려한 연성 접근을 취하고 있다. 또 미국은 경쟁 기반의 실험적 접근을 채택했다. 임 교수는 "각 나라별로 상이한 AI 거버넌스 철학과 그 배경을 모두 살펴보며 고민해야 한다"며 "이를 또 경제, 정치, 사회, 행정, 안보, 문화 등 다양한 측면에서 감안할 때만 우리에게 맞는 AI 규제를 만들 수 있다"고 강조했다. 현재 AI 기술은 발전 초기 단계에 있으며 아직 본격적인 AI의 도입 역시 이뤄지지 않은 상태다. 생성 AI가 최초로 등장해 대중에게 자리잡은 것은 겨우 1년 반 전의 일이다. 또 대다수의 기업들은 아직 AI 전환(AX)을 시작하지 않고 있다. 임 교수는 "아직 우리는 다른 나라들의 혁신적 실험들을 참고하며 미래에 대비할 여유가 있다"며 "열매 '아보카도'가 너무 늦게 따도 맛이 없고 일찍 따도 먹지 못하듯 'AI'라는 과실을 제 때 딸 수 있도록 노력해야 한다"고 설명했다. 적시에 AI 거버넌스를 발전시키기 위해서는 국내 로컬 데이터가 매우 중요하다. 일례로 한국이 거대언어모델(LLM)을 발전시킬 수 있었던 데에는 기존의 한국어 데이터셋이 중요하게 작용했다. 임 교수는 "마찬가지로 우리 실정에 맞는 입법과 규제를 위해서도 우리 문화와 사회에 맞는 데이터가 필요하다"며 "한국 사회에 걸맞는 데이터를 확보할 때에야 비로소 우리를 위한 AI 규제를 입법할 실증적 근거를 마련할 수 있을 것"이라고 주장했다. 그러면서 "이번만큼은 추상적인 담론이나 해외 사례에 의존할 수 없다"며 "AI는 향후 우리의 먹거리로, 적절한 거버넌스와 기술을 발전시키는데 실패한다면 미래를 보장할 수 없게 된다"고 강조했다.

2024.08.14 16:08조이환

오픈AI·구글·메타·UN, 韓 정부 부름에 서울서 한 자리에 모였다…이유는?

"개별 국가마다 인공지능(AI)을 안전하게 활용하고 관리하기 위한 제도와 정책을 만들고 있지만, 국가·지역별로 파편화된 규범은 AI 기술을 통한 혁신이나 규율 체계 형성에 효과적이지 못할 수 있습니다. 긴밀한 국제적 소통·협력과 유연한 사고에 기반한 논의과정을 통해 인류 전체가 함께 번영을 누릴 수 있는 조화롭고 상호운용적인 AI 거버넌스 체계를 마련해야 합니다." 고학수 개인정보보호위원회 위원장이 23일 서울 더 플라자 호텔에서 열린 'AI와 데이터 거버넌스 국제 컨퍼런스'에 참석해 이처럼 강조했다. 이날 컨퍼런스는 AI 시대 데이터 거버넌스의 미래에 대해 활발한 대화를 나누는 자리로, 고 위원장은 상호운용적인 AI 거버넌스 체계 마련에 대해 여러 차례 강조했다. 아만딥 싱 길(Amandeep Singh Gill) 유엔 기술특사도 기조연설에서 고 위원장의 의견에 동의하며 AI 기술 남용에 따른 위험성을 경고함과 동시에 데이터 악용에 대해 우려했다. 그는 "데이터와 AI 거버넌스는 밀접히 연결돼 있다"며 "이는 데이터가 AI 시스템에 투입되는 핵심 원천일 뿐 아니라 AI 모델이나 결과만 보아서는 AI 리스크에 적절히 대응할 수 없기 때문"이라고 말했다. 이어 "이 때문에 유엔 AI 고위급 자문기구(UN AIAB)가 국제 AI 거버넌스 다섯 원칙 중 하나로 데이터 거버넌스를 포함했다"며 "데이터를 잘 관리하고 잠재력을 이끌어 내는 것이 'AI 거버넌스'에 있어 가장 중요한 부분이라고 본다"고 덧붙였다. 이번 컨퍼런스에는 고 위원장과 아만딥 싱 길 기술특사 외에도 유엔 AI 자문위원들과 국제기구 및 국내외 AI 관련 전문가, 산·학·연 관계자 등 300여 명이 참석해 AI 시대 데이터 거버넌스의 미래에 대해 활발한 대화를 나눴다. 이번 국제 컨퍼런스는 개인정보위가 UN AIAB와 협력해 마련한 자리다. AI 서울 정상회의에 이어 개최된 데다 특히 전 세계의 AI 및 데이터 관련 전문가들이 한 자리에 모여 AI와 데이터 거버넌스에 관한 심도 있는 논의를 진행했다는 점에서 의미가 크다고 개인정보위 측은 설명했다. 이후 진행된 세션에선 임용 서울대 법학전문대학원 교수의 진행으로 유엔 등 공공부문 전문가 그룹과 산업계 그룹으로 나뉘어 AI 거버넌스와 데이터 거버넌스에 대한 논의가 이뤄졌다. UN AIAB 자문위원 등 공공부문 전문가가 참여한 첫 번째 세션에서는 '글로벌 AI 거버넌스'를 주제로 '국제 공조와 상호운용성의 전망'에 대해 논의했다. 임용 교수는 AI 거버넌스와 관련한 글로벌 협력의 의미와 상호운용성 확보를 위한 국제기구 및 각국 정부의 역할, 글로벌 AI 거버넌스를 구축하는 데 있어 폭넓은 접근성과 포용성의 가치에 대해 화두를 던졌다. 라티파 알 압둘카림(Latifa Al-Abdulkarim) 유엔 UN AIAB 자문위원이자 사우디아라비아 국회의원은 "디지털 격차를 넘은 협력을 촉진하고, 소외가 발생하지 않도록 국제 AI 거버넌스를 이행할 유연하고 포용적인 접근이 필요하다"며 "이를 위해서는 범국가적 AI 정책 강화와 현존하는 AI 거버넌스 간 조화가 필요하다"고 언급했다. 그러면서도 "각국의 주권과 문화적 규범을 존중해야 한다"고 덧붙였다. 고학수 개인정보위 위원장은 현시점을 두고 글로벌 AI 거버넌스에 다양한 접근을 하는 모색기이자 과도기라고 진단했다. 또 AI 시장이 고착화되기 전에 글로벌 대화가 최대한 빨리 적극적으로 진행돼야 한다고 주장했다. 고 위원장은 "각국 기관 간 지속적인 대화를 통해 글로벌 표준과 상호운용 시스템을 만들어가는 것이 정부의 역할"이라며 "균형 잡힌 시각에 기반한 규율 체계를 형성하기 위하여 AI가 가져올 편익과 기회, 새로운 도전에 대해 국제적 차원의 지속적 논의와 고민이 계속돼야 한다"고 강조했다. 데니스 웅(Denise Wong) 싱가포르 개인정보 감독기구(PDPC) 부위원장은 포용적인 글로벌 협력이 기술 발전과 신뢰성 있는 AI 생태계 구축의 핵심 요소라고 주장했다. 나아가 전통적 AI와 생성형 AI 모두를 위한 싱가포르의 '모델 거버넌스 프레임워크(Model Governance FRAMEwork)'가 상호운용성 확대를 위한 기반을 제공한다고 소개했다. 카린 퍼셋(Karine Perset) 경제개발기구(OECD) AI 정책연구소장은 "OECD 역시 상호운용성을 핵심 가치로 삼고 있다"며 "최근 OECD 장관회의에서 AI 관련 권고문을 검토했다"고 언급했다. 또 그는 "OECD의 AI 원칙이 여러 국가의 정책에 반영돼 글로벌 상호운용성의 기반이 된다"고 평가했다. 토마스 바시콜로(Thomas Basikolo) 국제전기통신연합(ITU) 통신표준화 정책 프로그램 책임자는 ITU가 2017년부터 100개 이상의 AI 표준을 공개하고 120개 이상의 표준을 개발하고 있다고 설명했다. 또 AI 포 굿(AI for Good) 글로벌 써밋과 같은 이니셔티브를 통해 이해관계자 간 논의를 촉진하고 있다고 언급했다. 더불어 의료, 농업, 재해관리 분야를 사례로 들며 효과적 AI 거버넌스 구축에 있어 표준화의 중요성을 강조했다. 패널로도 참여한 아만딥 싱 길 유엔 기술특사는 "편향되고 오도하는 추론, 개인의 불안과 행태 조작, 부분적이고 비인간적인 표현 등은 모두 적절하지 않은 데이터 거버넌스에서 기인한다"며 "올바른 데이터 거버넌스는 공공 및 민간 부문 전반에서 올바른 이용과 신뢰할 수 있는 협력을 촉진할 수 있다"고 강조했다. 이어진 주요 데이터 기업들의 두 번째 세션은 '글로벌 AI 맥락의 데이터 거버넌스'를 주제로 진행됐다. 진행자인 임용 교수는 AI와 관련해 기업들이 당면한 데이터 거버넌스의 과제와 그 대응 방안에 대해 질의했다. 멜린다 클레이보(Melinda Claybaugh) 메타(Meta) 프라이버시 정책 디렉터는 이번 컨퍼런스에 대해 기존의 법·제도가 AI 기술 발전에 어떻게 적용되는지와 관련한 UN AIAB, G7, OECD 등 국제 논의에 기여할 것이라고 평가했다. 또 AI 및 데이터 거버넌스에 대한 다양한 국제적·국내적 이니셔티브 간 조율 방안에 대한 의견교환이 기대된다고 언급했다. 김성훈 업스테이지 대표는 책임 있는 AI 개발과 윤리적인 AI 및 데이터 활용에 최선을 다하고 있다고 강조했다. 또 김 대표는 "업스테이지가 그간 쌓아온 경험과 노하우를 공유해 AI의 거대한 잠재력을 적절히 활용할 수 있는 정책 환경 조성에 기여하고 싶다"며 "업스테이지는 데이터 오너십(ownership)의 중요성을 바탕으로 기여한 데이터에 비례해 보상을 제공하고 이익 공유 파트너십을 창출하는 '1조 토큰 클럽'을 이끌어 나가고 있다"고 설명했다. 하정우 네이버 클라우드 센터장은 데이터와 AI 거버넌스에 있어서 각 국가와 지역의 주권(Sovereignty)을 존중하는 것이 중요하다고 피력했다. 프론티어(frontier) AI와 같은 강력한 생성형 AI의 오픈소스화를 위한 안전한 거버넌스 체계는 특정 기업만의 결정이 아닌 정부와 글로벌 커뮤니티를 포함한 다양한 이해관계자들과의 합의가 중요하다고 언급했다. 애슬리 판툴리아노(Ashley Pantuliano) 오픈 AI 법률고문은 "AI 관련 안전한 프라이버시 보호 수단을 지속적으로 혁신하기 위한 정부 및 업계 관계자와의 대화를 환영한다"며 "오픈 AI가 널리 이용되는 AI 모델을 개발하므로 책임 있는 AI 활용과 데이터 거버넌스를 위한 논의에 참여하는 것이 중요하다"고 언급했다. 이어 "오픈 AI의 툴이 사람들에게 편익을 제공하고 있지만 한편으로는 AI 기술에 위험이 동반한다는 것을 알고 있다"며 "AI를 안전하고 이롭게 유지하기 위해 전념하고 있다"고 강조했다. 유니스 훵(Eunice Huang) 구글(Google) 아태지역 인공지능 및 신흥기술 부서장은 "AI가 대다수 분야에서 우리가 살아가고, 일하고, 배우는 방식을 근본적으로 변화시킬 잠재력을 갖고 있다"며 "데이터 개방성(data openness)은 지속적 혁신을 가능케 하는 환경 조성에 중요한 역할을 한다"고 밝혔다. 또 그는 "AI가 제공하는 기회를 모두가 온전히 활용하기 위해 데이터 거버넌스에 대한 사려 깊고 균형 잡힌 접근이 필요하다"고 덧붙였다. 이번 컨퍼런스를 주최한 고학수 개인정보위 위원장은 "이번 컨퍼런스가 AI와 데이터 거버넌스에 관한 글로벌 논의에 또 하나의 디딤돌을 놓은 것"이라며 "AI 기술 발전이 더 많은 사람의 편익으로 연결될 수 있게 하는 포용적인 데이터 거버넌스 마련을 위해 앞으로도 국제 논의에 주도적으로 참여하겠다"는 의지를 밝히며 행사를 마무리했다.

2024.05.23 12:00장유미

데이터브릭스, 한국 시장서 연간 100% 성장

데이터브릭스는 23일 서울 인터컨티넨탈코엑스에서 개최한 '데이터 인텔리전스 데이' 컨퍼런스' 관련 기자간담회에서 지난 회계연도에 한국에서 연간 100% 이상의 성장을 달성했다고 발표했다. 국내 기업의 데이터 및 AI 수요 급증에 따른 결과라고 회사측은 설명했다. 데이터브릭스는 급속한 제품 혁신에 힘입어 지난 1월 31일 마감된 회계연도를 기준으로 전 세계적으로 16억 달러 (약 2조2천억원)이상의 매출을 기록했으며, 연간 50% 이상의 성장을 달성했다. 데이터브릭스는 지난 3월 출시 당시 표준 벤치마크에서 모든 오픈소스 모델을 능가하는 범용 대형언어모델(LLM) DBRX를 선보였다. 데이터 선도 기업들은 이미 데이터브릭스의 데이터 인텔리전스 플랫폼을 활용해 다양한 워크로드에서 비용 효율성과 고성능을 보장하는 동시에 비즈니스 운영을 최적화하고, 예측 분석 및 AI 애플리케이션 등을 통해 혁신을 이끌며, 고급 데이터 거버넌스 및 분석 기능을 통해 의사 결정을 개선해나가고 있다. 데이비드 마이어 데이터브릭스 제품 담당 수석부사장은 기조연설에서 “기업의 데이터 프로젝트를 AI와 결합하고자 할 때 실패로 귀결되기 쉬운데, 이는 워낙 다양한 사일로 시스템이 존재하기 때문”이라며 “데이터와 AI 시스템의 사일로는 내재적으로 복잡하며 거버넌스와 보안도 이 때문에 더 어려워지고, 여러 개발언어와 시스템을 이해해 쉽게 만들 수 있는 고도화된 기술인력도 확보하기 어렵다”고 말했다. 그는 “데이터브릭스의 레이크하우스 '델타레이크'는 비정형과 정형 데이터 모두를 레이크로 가져와서 정교화한 다음 데이터 복제와 이동없이 레이크 자체에서 활용하게 하므로 근본적으로 단순하다”며 “데이터레이크하우스만으로 충분하지 않고, 그 위에 거버넌스 레이어 '유니티 카탈로그'를 얹어 SQL, 스칼라, 자바, R 같은 각기 다른 엔트리 진입지점을 관리하고 데이터모델이나 노트북까지 모두 관리할 수 있다”고 강조했다. 데이터브릭스의 유니티 카탈로그는 전체 데이터 플랫폼의 거버넌스를 관리하는 계층이다. 모든 데이터 쿼리는 유니티 카탈로그를 거치게 되고, 사용자별로 데이터 접근권한을 관리할 수 있다. 유니티 카탈로그는 데이터브릭스 솔루션 외에 다양한 외부 거버넌스 시스템과도 통합가능하다. 데이터브릭스는 모자이크ML을 인수하고 최근 DBRX란 개방형 언어모델을 출시하는 등 생성형 AI 분야에 공격적인 투자를 하고 있다. 생성형 AI를 자사 플랫폼에 접목해 자연어로 데이터를 활용하게 하는 데이터 민주화를 추구한다. 데이비드 마이어 부사장은 “생성형 AI 자체를 레이크하우스에 녹여 근본적으로 새로운 것을 가능하게 했다”며 “데이터 인텔리전스 엔진을 델타레이크와 유니티 카탈로그 위에 얹어서 생성형 AI로 데이터 의미를 이해한다”고 말했다. 그는 “플랫폼에서 파티셔닝, 인덱싱, 레이어링, 리퀘스트 등의 기능을 자동화했으며, AI가 데이터 트래픽 패턴을 학습해 데이터를 재작성하고 사용자의 사용 행태에 따라 더 적은 비용으로 쿼리를 수행하도록 진화한다”며 “최고의 데이터웨어하우스는 훨씬 더 간결한 레이크하우스”라고 강조했다. 그는 “1년전 인수한 모자이크ML은 고객의 모델 학습과 미세조정을 더 저렴한 비용으로 할 수 있게 하며, 최대 10배의 비용을 절감시켜준다”며 “DBRX는 미세조정이나 자체 모델을 완벽히 제어할 수 있다”고 덧붙였다. 이날 기조연설에서 염화음 크래프톤 딥러닝실 데이터실장과 문효준 엘지전자 데이터플랫폼실 팀장이 무대에 올라 자사의 데이터브릭스 플랫폼 활용 사례를 공유했다. 에드 렌타 데이터브릭스 아태지역 총괄 부사장은 “데이터브릭스 클라우드의 한국 리전 범위를 확대하고 서버리스 SQL을 5월 출시할 예정”이라며 “한국어 기술 지원을 시작하고, 제품 교육 및 인증 프로그램의 한국어 지원도 5월 중 이뤄질 것이며, 생성형 AI 기능의 한국 리전 확대와 모델 서빙, 벡터 서치 등도 한국에서 쓸 수 있을 것”이라고 밝혔다. 에드 렌타 데이 부사장은 “한국은 아태지역에서 가장 빠르게 성장하는 시장 중 하나”라며 “한국이 기업의 AI 도입에 대한 야심찬 목표를 가지고 있는 시장인 만큼, 데이터브릭스는 보다 많은 한국 고객들이 자체적인 프라이빗 데이터를 사용해 안전하게 AI를 활용할 수 있도록 지속적으로 지원해나갈 계획”이라고 말했다. 데이터브릭스의 데이터 인텔리전스 데이는 데이터브릭스 고객, 업계 리더, 기술 전문가, 파트너가 주도하는 심층 세션을 통해 자연어로 데이터 인사이트를 확보하는 방법부터 데이터 프라이버시 보호 및 제어를 유지하면서 생성형AI 애플리케이션을 개발하는 혁신적인 방법까지 자세히 살펴볼 수 있다. LG전자, 크래프톤, 여기어때컴퍼니, 정육각, 하이퍼커넥트, 신세계I&C, 스캐터랩, 아임웹 등이 연사로 나서 데이터 및 AI 여정을 공유했다.

2024.04.23 16:05김우용

"생성형 AI의 보안은 '안전'과' 정확성'을 함께 원한다"

“기업은 AI를 활용할 때 관리 가능하고 안전할 뿐만 아니라, 매우 정확하고 관련성 높은 결과물을 요구한다. 이미 챗봇이 '환각' 현상으로 인해 고객에게 부정확한 답변을 제공하고, 이로 인해 기업이 어려움을 겪은 사례도 많이 존재한다. 좋은 AI 전략을 세우려면 강력한 데이터 전략이 필요하다. 기업은 사내에서 자체 AI 모델을 구축하고, 기업 내부 데이터로 해당 모델을 학습시켜 부정확한 답변을 생성하지 않도록 하며, 궁극적으로 지적재산(IP)에 대한 소유권을 갖기를 원하고 있다.” 페르민 세르나 데이터브릭스 최고보안책임자(CSO)는 본지와 서면인터뷰에서 최근 생성형 인공지능(AI) 트렌드 속에서 나타나는 데이터 보안 분야의 체크포인트를 이같이 요약했다. 그는 “AI는 자동화로 생산성을 향상시키고, 데이터에 기반한 의사 결정을 통한 효율성 증대와 성공적인 비즈니스 등 다양한 이점을 제공한다”며 “미국을 비롯한 전 세계 조직이 이러한 이점을 인지함에 따라 AI를 도입하는 사례가 늘고 있지만 동시에 보안과 개인정보 보호에 관한 우려로 인해 AI 프로젝트를 실제 업무에 적용할 때 신중을 기하는 추세”라고 설명했다. 기업의 데이터 보안 전략은 생성형 AI 환경에서 새롭게 업그레이드돼야 하는 상황이다. 데이터 통제 및 관리, 규제 준수 같은 안전을 보장하는 생성형 AI를 만들면서도, 맥락에 적합한 정확한 답변과 성능을 구현해야 한다. IT 보안이 생성형 AI를 맞아 전보다 더 넓은 범위를 고려해야 하는 것이다. 이에 대해 페르민 세르나 CSO는 중요한 조언을 몇가지 제시했다. 그는 단일한 데이터 플랫폼을 구축해 통합적인 보안과 거버넌스 체계를 갖춰야 한다고 강조했다. 데이터 및 AI에 대한 통합 가시성, 데이터 및 AI에 대한 단일 권한 모델, AI 기반 모니터링 및 통합 가시성 등의 접근 방안을 소개하기도 했다. Q. 기업용 생성형 AI에 대해 내부 데이터를 접근할 때 권한 및 보안등급 관리, 규제 준수 등 거버넌스와 컴플라이언스 이슈가 있다. 이에 대한 조언을 한다면? 지난해 JP 모건 체이스, 버라이즌, 삼성전자 등이 고객 정보 및 소스 코드에 대한 통제권을 잃을 수 있는 잠재적 위험을 줄이기 위해 챗GPT 사용을 금지한다고 발표한 바 있다. 이는 거버넌스 도구를 '데이터의 세계'에서 '데이터와 AI의 세계'로 확장해야 하는 이유를 보여주는 대표적인 예다. 서로 다른 여러 플랫폼, 시스템 및 공급업체에 걸쳐 데이터와 AI를 관리하는 일은 매우 복잡하다. 모든 조직이 직면하고 있는 가장 큰 과제 중 하나는, 데이터 사일로와 데이터 개인정보 보호 및 제어에 관한 문제다. 조직에서 사용하는 시스템이나 플랫폼마다 데이터가 중복되거나 시스템 간에 이동될 수 있으며, 또 플랫폼마다 보안 및 거버넌스에 대한 접근 방식이 다를 수 있다. 레이크하우스 아키텍처에 구축된 데이터브릭스 데이터 인텔리전스 플랫폼과 같은 단일 통합 플랫폼을 선택하면 통합 보안 및 거버넌스를 통해 하나의 데이터 사본을 AI에서 비즈니스 인텔리전스(BI)에 이르는 다양한 사용 사례에 저장하고 사용할 수 있어, 이러한 보안 위험을 완화할 수 있다. Q. 데이터브릭스는 생성 AI 시대의 데이터 거버넌스와 컴플라이언스에 어떤 해법을 제시할 수 있나? 데이터브릭스는 2020년에 데이터 웨어하우스와 데이터 레이크의 장점을 결합하고 통합하기 위해 레이크하우스를 분야를 개척했다. 레이크하우스는 (1) 조직 내 모든 데이터 소스(정형, 반정형, 비정형 데이터)를 함께 쿼리하고 (2) 데이터를 사용하는 모든 워크로드(BI, AI 등)를 통합된 방식으로 관리할 수 있는 통합 시스템을 제공한다. 레이크하우스는 독자적인 데이터 플랫폼 범주로 자리 잡았으며, 현재 기업에서 널리 채택되어 대부분의 벤더 스택에 통합되어 있다. MIT 테크놀로지 리뷰 인사이트 보고서에 따르면, 전 세계 CIO의 74%가 자사의 레이크하우스를 보유하고 있다고 답했다. 레이크하우스 도입은 이미 시장에서 대세로 자리 잡았지만, 데이터브릭스는 레이크하우스와 생성형 AI를 결합해 데이터 인텔리전스 플랫폼이라는 새로운 범주의 데이터 플랫폼을 만들었다. 데이터 인텔리전스 플랫폼을 통해 기업은 자연어를 사용하여 한 곳에서 데이터를 통합, 관리 및 활용할 수 있다. 데이터 인텔리전스 플랫폼은 생성형 AI 모델을 사용하여 기업 데이터의 의미를 파악하고 플랫폼의 모든 부분에서 이렇게 이해한 내용들을 활용한다. 데이터브릭스의 통합 거버넌스 솔루션인 유니티 카탈로그를 통해 조직은 모든 클라우드 및 플랫폼에서 정형 및 비정형 데이터, 머신러닝 모델, 노트북, 대시보드 및 파일을 원활하게 관리할 수 있다. Q. 회사 내부 보안조직의 대응법이 있으면 소개해달라. 데이터브릭스의 데이터 및 AI 거버넌스 접근 방식은 아래와 같다 1. 데이터 및 AI에 대한 통합 가시성: 조직은 생성형 AI를 통해 자연어를 사용하여 데이터와 AI를 안전하게 검색하고, 이해하고, 인사이트를 추출하여 생산성을 높일 수 있다. 2. 데이터 및 AI에 대한 단일 권한 모델: 통합 인터페이스로 액세스 관리를 간소화해 데이터 및 AI 자산에 대한 액세스 정책을 정의하고 모든 클라우드 또는 데이터 플랫폼에서 이러한 정책을 일관되게 적용 및 감사할 수 있다. 또한, 조직은 행과 열을 세밀하게 제어하여 보안을 강화하는 동시에 원활하게 확장되는 로우코드 속성 기반 액세스 정책을 통해 액세스를 효율적으로 관리할 수 있다. 3. AI 기반 모니터링 및 통합 가시성: AI를 사용하면 모니터링을 자동화하고 오류를 진단하며 데이터 및 ML 모델 품질을 유지할 수 있다. 조직은 개인 식별 정보(PII) 데이터를 자동으로 감지하고, 모델 드리프트를 추적하며, 데이터 및 AI 파이프라인 내의 문제를 효과적으로 해결하여 정확성과 무결성(integrity)을 유지하는 사전 예방적 알림의 이점을 누릴 수 있다. Q. 방어자 입장에서 AI를 어떻게 받아들여야 바람직할까? AI는 조직이 방대한 양의 데이터를 선별해 패턴을 모니터링하고 분석하는 데 도움을 준다. AI는 이렇게 학습된 패턴을 기준선으로 삼아 비정상적인 행동을 감지하고 시스템에 대한 무단 액세스를 제한할 수 있다. 또한, AI는 위험의 우선순위를 정하고 멀웨어와 침입의 가능성을 즉시 감지하여 분석가의 1차 작업을 보강하는 데 도움을 줄 수 있다. 데이터 인텔리전스 플랫폼과 생성형 AI를 사용하면 조직 내 사이버 보안 팀들은 자연어를 사용하여 사고의 영향과 보안 속성에 대해 질문을 할 수도 있다. Q. 세계 각국에서 AI 안전에 대한 규제가 나오기 시작했다. 조직에서 AI 안전을 담당하는 주체는 누가 돼야 하고, 어떻게 무수한 규제에 대응하고 정책변경에 빠르게 적응할 수 있을까? 새롭게 생겨나는 AI 규제는 다양하고 복잡한 요구 사항을 가지고 있지만, 한편으로는 반복되는 주제를 담고 있다. 일반적으로 5가지 주요 영역에서 의무가 발생한다: 1. AI 개발 및 배포 주기의 모든 단계에서 필요한 데이터 및 모델 보안과 개인 정보 보호 2. 출시 전 위험 평가, 계획 및 완화 - 데이터 학습과 가드레일 구현에 중점을 두고 편향성, 부정확성 및 기타 잠재적 피해를 해결 3. 출시 시 필요한 문서 - 개발 과정에서 수행한 단계와 AI 모델 또는 시스템의 특성(기능, 제한 사항, 학습 데이터 설명, 위험, 완화 조치 등)에 관한 내용 포함 4. 출시 후 모니터링 및 지속적인 위험 완화 - 부정확하거나 기타 유해한 결과물 생성 방지, 보호 대상 그룹에 대한 차별 방지, 사용자가 AI를 다루고 있음을 인지하도록 하는 데 중점을 둠 5. 대규모 모델을 학습하고 실행하는 데 사용되는 에너지가 환경에 미치는 영향 최소화 이러한 목표를 달성하려면 모든 조직이 데이터와 AI 모델에 대한 완전한 소유권과 통제권을 확보하고 AI 개발 및 배포의 모든 단계에서 포괄적인 모니터링, 개인정보 보호 제어, 거버넌스를 이용할 수 있어야 한다. 조직은 데이터 품질을 제공하고, 더 안전한 애플리케이션을 제공하며, 규제 표준을 준수하는 데 도움이 되는 책임 있는 AI 목표를 달성하기 위한 통합된 접근 방식을 필요로 한다.

2024.04.16 10:07김우용