AI 미래 엇갈린 전망…캐플런 "사업 창출" vs 벤지오 "안전 우선"

미래 생성형 인공지능(AI) 산업에 글로벌 석학들이 상반된 전망을 제시했다. 생성형 AI 비즈니스 가치 창출이 중요할 것이라는 예측이 등장한 반면 AI 위협 대응이 더 시급하다는 의견도 나왔다. 스탠퍼드대 제리 캐플런 교수와 몬트리올대 요슈아 벤지오 교수는 11일 코엑스 그랜드볼룸서 열린 'AI 서울 2025'에서 미래 AI 전망에 대해 이같은 의견을 화상 연설을 통해 제시했다. 각각 AI를 통한 사업 창출 중요성과 AI 안전 프레임워크 필요성을 각각 앞세워 주장했다. 캐플런 교수는 생성형 AI 미래와 인류의 대응 전략에 대해 기술 발전 자체보다는 이를 어떻게 비즈니스로 연결하느냐가 국가·기업 경쟁력을 결정짓는 요소라고 강조했다. AI가 기술적 개선이 추가로 이뤄질 것이라는 이유에서다. 그는 현재 생성형 AI 걸림돌인 환각현상이나 컴퓨팅 파워 한계로 인해 당장 비약적인 발전을 기대하기 힘들 것이라고 내다봤다. 이에 기업은 향후 5년 내 AI 기술 자체보다 AI가 일상과 제품에 어떻게 스며들어 변화를 만들지에 더 높은 주의를 기울일 것이라는 설명이다. 그는 "AI가 비즈니스 환경과 프로세스를 변화시킬 것이며, 이를 새로운 사업 기회로 연결하는 것이 중요하다"고 강조했다. 캐플런 교수는 "생성형 AI는 곧 저렴한 비용으로 어디서나 사용 가능한 상품이 될 것"이라며 "기업들은 시장 점유율을 확보하기 위해 치열한 비용 경쟁을 벌일 것"이라고 내다봤다. 이 과정에서 과잉 투자가 발생할 수 있지만 이는 기술 발전의 자연스러운 현상이라고 봤다. 벤지오 교수 "인간에 반하는 AI 통제 불가…정책적·과학적 연구 시급" 벤지오 교수는 AI의 급격한 발전 속도가 인류 안전과 직결될 수 있다고 경고했다. 이를 관리하기 위한 정책적·과학적 대응이 시급하다고 주장했다. 벤지오 교수는 "AI의 기술 발전은 멈추지 않을 것"이라며 "불과 몇 년 만에 인간 전문가를 맞먹는 역량을 다양한 분야에서 보이고 있다"고 주장했다. 그러면서 "급속한 AI 발전은 잠재적 위험을 일으킬 것"이라고 말했다. 그는 국가·기업 간 AI 경쟁이 치열해진 가운데 AI 안전이 뒷전으로 밀리고 있다고 지적했다. 이를 방지하기 위해 정책적 개입과 과학적 연구가 병행돼야 한다고 강조했다. 벤지오 교수는 정책적 측면에서 국가 차원에서 법·규제를 통해 AI 개발·활용에 대한 행동 규범을 정립해야 한다고 주장했다. 그는 "AI가 고용 시장에 미치는 영향, 악의적 행위자에 의한 오용 가능성, 국가 안보 위협 등 다양한 위험 요소에 대비하기 위한 법적 장치가 필요하다"고 당부했다. 또 과학적 측면에서는 AI 안전성 연구의 핵심 과제로 '정렬 문제'를 지적했다. AI 시스템이 사용자 의도와 일치하는 방식으로 목표를 수행하도록 설계하는 방법을 찾아야 한다는 의미다. 그는 "현재 AI가 의도치 않게 인간에 해로운 방식으로 행동하지 않도록 완벽하게 통제하는 방법을 모른다"며 "이를 해결하기 위해 더 많은 연구와 실험이 필요하다"고 말했다. 벤지오 교수는 각국 정부가 협력해 AI 안전 기준을 마련해야 하는 중요한 시점이라고 말했다. 그러면서 최근 발표된 국제 AI 안전 보고서를 언급했다. 그는 "전 세계 100명 전문가와 33개국이 참여한 이 보고서는 국제연합(UN)과 경제협력개발기구(OECD)를 포함한 국제기구와 협력해 AI 안전 기준을 마련하는 중요한 이정표"라고 평가했다. 벤지오 교수는 "AI가 인간 수준의 지능에 도달하기 전 정책적 규제와 과학적 연구를 통해 잠재적 위험을 예방해야 한다"며 "AI 안전 연구소의 발전과 국제 협력을 통해 글로벌 AI 생태계의 지속 가능한 발전을 이끌어야 한다"고 덧붙였다.