ZDNet 검색 페이지

'제프리 힌튼'통합검색 결과 입니다. (10건)

노벨물리학상 받은 AI, 어떻게 '이미 와 있는 미래'가 됐나

올해 노벨물리학상은 인공지능(AI)에게 돌아갔습니다. 이렇게만 쓰면 오해를 하겠네요. 요즘 화제의 중심에 있는 AI의 핵심 기술을 개발한 두 과학자들이 받았습니다. 'AI 대부'로 꼽히는 제프리 힌튼 토론토대학 교수와 '홉필드 네트워크'로 AI 연구의 기반을 닦은 존 홉필드 프린스턴대학 교수가 영광의 주인공입니다. 제프리 힌튼은 '홉필트 네트워크'를 토대로 '볼츠만 머신'을 고안했습니다. '볼츠만 머신'은 딥러닝의 이론적 토대가 되면서 생성형 AI를 비롯한 많은 기술 발전의 불쏘시개 역할을 해냈습니다. 제프리 힌튼이 'AI 4대 천황' 중 한 명으로 꼽히는 건 이런 기여 때문입니다. 노벨물리학상 위원회는 “두 분의 연구는 지금의 폭발적인 머신러닝 발전에 큰 역할을 했다”고 했습니다. ■ "인공신경망 발견은 물리학 첨단 연구에 적극 활용" 두 분의 연구 업적만 보면, 물리학상 수상자로 손색이 없어 보입니다. 하지만 AI 분야 연구로 노벨물리학상을 받았다는 점에 대해선 놀라는 분위기가 적지 않습니다. "벌써 노벨상을 받을 때가 됐나"라거나, "AI가 물리학 분야에 속하는가"라고 반문하기도 하는 것 같습니다. 노벨물리학상을 주관하는 스웨덴 왕립과학한림원도 이런 부분이 신경 쓰였나 봅니다. 엘런 문스 노벨물리학상 위원장은 “AI가 노벨물리학상의 두드러진 경쟁자로 보이지 않을 수는 있다”고 운을 떼면서 홉필드와 힌튼을 수상자로 선정한 이유를 설명했습니다. “학습할 수 있는 인공신경망의 발견과 응용은 물리학과 긴밀하게 연결되어 있습니다. 입자물리학, 천체물리학, 재료과학을 비롯한 다양한 물리학 분야의 첨단 연구에 활용돼 왔습니다. 이를 통해 얼굴인식과 언어 번역 등 우리 일상 생활의 한 부분이 됐습니다.” 제프리 힌튼 등이 왜 노벨물리학상을 받게 됐는지 잘 설명해주고 있지요? 이런 설명을 통해 노벨물리학상위원회의 이번 결정이 성급하거나, 시류 영합과는 거리가 멀다는 점을 분명하고 하고 있습니다. 생성형 AI를 비롯한 다양한 AI 서비스가 물리학의 중요한 결과물일 뿐 아니라, 첨단 기술이 일상 생활 속으로 스며 드는 데 결정적인 역할을 했습니다. 이 점을 노벨물리학상위원회가 제대로 인증해줬다는 점에서 제프리 힌튼 등의 수상이 예사롭지 않게 다가옵니다. 홀트만과 힐튼의 연구는 요즘 관심이 집중된 생성형 AI의 뿌리나 다름 없습니다. 두 연구자의 노벨물리학상 수상 소식에 많이 흥분했던 건 그 때문입니다. 전 복잡한 AI 기술에 대해선 잘 모릅니다. 하지만 AI가 우리들의 삶과 비즈니스를 근본부터 바꿔놓을 것이란 점에 대해선 의심하지 않습니다. 물론 머리로 생각하는 것과, 실제로 몸으로 느끼는 건 다를 겁니다. 우리 대부분은 학자나 기술자가 아니라, 일반적인 생활인이기 때문입니다. 그래서 올해 노벨물리학상위원회의 선택이 강하게 와 닿지 않을 수도 있습니다. ■ 우리 곁에 이미 와 있는 미래, 눈으로 확인하려면 그런 분들에게 의미 있는 행사를 하나 소개합니다. 10일부터 12일까지 사흘 동안 코엑스에서 열리는 '디지털혁신 페스타 2024(DINNO 2024)'입니다. 과학기술정보통신부가 주최하고 한국소프트웨어산업협회(KOSA)가 주관하는 행사입니다. (☞ 디노 2024 페이지 바로 가기) 올해 주제는 'AI On, Future Here' 입니다. 'AI는 이미 와 있는 미래'라는 의미를 담고 있습니다. AI를 비롯해 양자, 바이오 등 대한민국의 미래를 책임질 핵심 기술들의 현재와 미래를 한 눈에 볼 수 있는 행사입니다. 그 뿐 아닙니다. 클라우드, 빅데이터, 디지털헬스케어, 모빌리티, 로봇, 보안, 엔터테크 등 미래 혁신을 주도할 디지털 신기술들도 직접 확인할 수 있습니다. 이번 행사에선 150여 업체가 350여 부스를 마련했습니다. AI·양자·디지털헬스케어·SaaS(인터넷으로 제공하는 SW)·스타트업과 관련한 전문 컨퍼런스도 의미 있는 볼거리입니다. 컨퍼런스의 핵심 주제도 AI입니다. 특히 'AI Inside AI Everywhere'를 주제로 열리는 '퓨처테크 컨퍼런스'는 이미 우리 앞에 와 있는 미래 혁신의 현장을 생생하게 보여줄 것으로 기대됩니다. 첫째날은 'AI, 비즈니스를 바꾸다'는 주제로 첨단 AI 혁명의 현장을 생생하게 보여줍니다. 둘째날은 'AI 일상을 바꾸다'는 주제로 최근 각광을 받고 있는 엔터테크와 첨단 로봇 분야를 집중 조명할 예정입니다. “미래는 이미 와 있다. 단지 널리 퍼져 있지 않을 뿐이다.(The future is already here. It's just unevenly distributed)” 사이버스페이스란 말을 처음 사용한 미국의 SF 소설가 윌리엄 깁슨이 2003년 이코노미스트와 인터뷰에서 한 말입니다. 그냥 들으면 이 말이 무슨 의미인지 잘 와 닿지 않을 지도 모릅니다. 이렇게 비유하면 어떨까요? 올해 노벨물리학상을 수상한 두 분의 연구는 '먼 미래'의 설계도였습니다. 많은 과학, 기술자들이 그 설계도를 기반으로 '아직 도래하지 않은' 미래를 만들어나갔습니다. 그 결과물이 여러분이 '디노 2024'에서 만나게 될 각종 서비스와 제품들입니다. 'AI On, Future Here'란 슬로건에는 이런 의미가 담겨 있습니다. 두 AI 연구자의 노벨물리학상 수상에 관심이 있는 많은 분들을 '디노2024'로 초대합니다. '우리 곁에 와 있는 미래'를 직접 접하는 기쁨이 적지 않을 것이라고 자신합니다.

2024.10.09 14:20김익현

"AI 위협 걱정"…노벨물리학상 수상자들, 왜 경고했나

'인공지능(AI) 대부'로 꼽히는 제프리 힌튼 토론토대학 교수가 존 홉필드 프린스턴대학 교수와 공동으로 2024년 노벨물리학상을 수상했다. 하지만 제프리 힌튼은 노벨상 수상자로 선정된 직후 또 다시 'AI의 위협'에 대해 경고해 눈길을 끌었다. 공동 수상자인 존 홉필드 교수 역시 AI가 방대한 정보망과 연결되면서 초래할 부작용에 대해 우려를 나타냈다. 월스트리트저널을 비롯한 외신들에 따르면 힌튼은 8일(현지시간) 노벨상위원회와 인터뷰에서 "우리 보다 더 똑똑한 시스템이 초래할 결과에 대해 우려한다"고 말했다. 하지만 그는 자신의 연구 작업에 대해선 "똑 같은 작업을 할 것"이라고 강조했다. 힌튼은 1980년대 중반 다층 퍼셉트론과 역전파 알고리즘을 제안하면서 요즘 우리가 알고 있는 AI 연구의 기반을 닦았다. 역전파법은 챗GPT를 비롯한 많은 대용량언어모델(LLM)의 기반 기술이 됐다. 제프리 힌튼은 이날 노벨물리학상 수상자로 선정된 직후 워싱턴포스트와 인터뷰에서도 “AI가 초래할 수 있는 수 많은 나쁜 결과에 대해 걱정해야만 한다”고 강조했다. 이날 힌튼은 “(AI는) 여러 가치 측면에서 놀라우며, 엄청난 생산성 향상을 가져올 것이다”면서도 “인간보다 더 똑똑해질 경우 초래할 결과에 대해 우려하고 있다”고 덧붙였다. 그는 또 “어떤 물건들이 인간보다 더 똑똑해지는 상황을 경험한 적이 없다”고도 말했다. 인터뷰 당시 힌튼은 캘리포니아의 한 호텔에 묵고 있었다. 그는 노벨상 수상자로 선정된 직후 가진 워싱턴포스트와 인터뷰에서 “MRI 예약을 해 놨는데, 취소해야 할 것 같다”고 밝히기도 했다. 힌튼이 'AI의 위협'에 대해 경고한 것은 이번이 처음은 아니다. 지난 해 5월 힌튼은 10년 동안 몸 담았던 구글을 떠나면서 “AI가 인류에겐 존재론적 위협이 되고 있다”고 말해 많은 사람들을 깜짝 놀라게 했다. 당시에도 힌튼은 “AI가 사람보다 더 똑똑해지기까지는 아직 상당한 시간이 필요할 것이라고 생각했지만 이젠 그렇게 생각하지 않는다”는 말도 했다. 심지어 AI 시스템에서 일어나는 일이 사람 뇌보다 더 나은 경우도 있다고 경고했다. 힌튼은 오픈AI가 내놓은 GPT-4를 보면서 그런 생각을 하게 됐다고 밝혔다. 그는 MIT테크놀로지리뷰와 인터뷰에서 “외계인이 지구에 착륙했는데, 그들이 아주 훌륭한 영어를 구사하다보니 사람들이 그 위협을 깨닫지 못하고 있는 것과 비슷한 상황이다”고 주장했다. 노벨물리학상 공동 수상자인 존 홉필드도 AI에 대한 우려에 동참했다. 하지만 홉필드 교수는 AI 자체보다는 방대한 정보와 연결된 상황에 대해 경계심을 나타냈다. 이날 프린스턴대학 강당에서 가진 노벨상위원회와의 화상 인터뷰에서 "지구상의 방대한 정보 흐름과 결합된 AI에 대해 우려한다"고 말했다. 그는 또 "신경망의 간단한 알고리즘이 매우 거대한 정보 시스템을 통제할 수도 있다"면서 "그런 시스템의 작동 방식을 우리가 제대로 이해하지 못하고 있다는 점이 당황스럽다"고 강조했다.

2024.10.09 09:28김익현

'AI의 아버지' 제프리 힌튼, 노벨물리학상 받았다

'인공지능(AI) 4대 천황' 중 한 명으로 꼽히는 제프리 힌튼 토론토대학 교수가 노벨물리학상을 수상했다. 스웨덴 왕립과학원 노벨상위원회는 8일(현지 시간) 제프리 힌튼 캐나다 토론토대 교수와 존 홉필드 미국 프린스턴대 교수를 2024년 노벨물리학상 수상자로 선정했다고 발표했다. 노벨상위원회는 “인공신경망을 이용한 머신러닝의 근간이 되는 발견과 발명에 기여한 공로를 높이 평가했다”고 설명했다. ■ "인공신경망, 물리학 연구에 널리 활용…일상생활 한 부분됐다" 공동 수상자인 홉필드 교수는 1982년 '홉필드 네트워크'를 제안하면서 인공 신경망 연구의 초석을 다졌다는 평가를 받고 있다. '홉필드 네트워크'는 신경망의 물리적 모델로 최적화나 연상 기억 등에 사용된다. 기존 학습 패턴을 양극화한 뒤 가중치 행렬을 구하는 방식으로 작동된다. 특히 홉필드 네트워크는 두뇌에 기억이 저장되는 방식을 모방해 이미지나 정보 유형을 저장할 수 있는 신경망을 구축하는 기반이 됐다. 요즘 관심의 초점으로 떠오른 생성형 AI' 역시 근원을 따져 들어가면 홉필드 네트워크와 만나게 된다. 제프리 힌튼은 홉필드의 이런 연구 기반 위에서 'AI 4대 천황'으로 발돋움했다. 힌튼은 1986년 '홉필드 네트워크'를 토대로 다층 퍼셉트론과 역전파 알고리즘을 제안했다. 역전파법은 사람의 두뇌와 비슷한 방법으로 컴퓨터를 학습시킨다. 이 방법을 이용해 이미지를 구분하고, 문장에서 다음에 어떤 단어가 나올 지 예측하는 데 성공했다. 이를 통해 힌튼은 그 때까지 암흑기를 면치 못하고 있던 AI 연구의 새로운 돌파구를 열었다는 평가를 받고 있다. 그가 제안한 역전파법은 챗GPT를 비롯한 많은 대용량언어모델(LLM)의 기반 기술이 됐다. 당시 대학원생으로 힌튼 교수와 함께 역전파법 논문을 썼던 일리야 수츠케버는 챗GPT를 만든 오픈AI 공동 창업자 중 한 명이다. 노벨상위원회는 이런 부분을 높이 평가해 두 교수에게 물리학상을 수여하게 됐다. 위원회는 “홉필드 교수가 정보를 저장하고 재구성할 수 있는 구조를 만들었고, 힌턴 교수는 데이터 속성을 발견하는 방법을 개발했다”고 설명했다. 엘런 문스 노벨물리학상 위원장은 “이런 인공신경망은 입자물리학, 천체물리학, 재료과학을 비롯한 다양한 물리학 분야의 첨단 연구에 활용돼 왔다”면서 “이를 통해 그들은 얼굴인식과 언어 번역 등 우리 일상 생활의 한 부분이 됐다”고 강조했다. ■ 제프리 힌튼, AI 위험 경고하면서 세상 깜짝 놀라게 하기도 두 사람 중에선 제프리 힌튼이 대중적으로 훨씬 많이 알려진 편이다. 'AI 4대 천황'으로 통하는 힌튼은 2019년 조슈아 벤지오, 얀 르쿤 등과 함께 '컴퓨팅 분야 노벨상'으로 불리는 튜링상을 수상하기도 했다. 특히 힌튼은 토론토대학에 재직하면서 AI업체인 DNN리서치를 창업하기도 했다. 이 회사가 2013년 구글에 인수되면서 부사장 겸 엔지니어링 펠로우로 구글에 합류했다. 이후 10년 동안 구글의 AI 개발 작업을 진두 지휘해 왔다. 하지만 힌튼은 지난 해 5월 갑작스럽게 '구글 퇴사'를 세상을 깜짝 놀라게 했다. 힌튼이 구글과 결별한 가장 큰 이유로 'AI의 위협'을 거론했기 때문이다. 당시 힌튼은 “AI가 사람보다 더 똑똑해지기까지는 아직 상당한 시간이 필요할 것이라고 생각했지만 이젠 그렇게 생각하지 않는다”는 말도 했다. 심지어 AI 시스템에서 일어나는 일이 사람 뇌보다 더 나은 경우도 있다고 경고했다. 힌튼은 오픈AI가 내놓은 GPT-4를 보면서 그런 생각을 하게 됐다고 밝혔다. 그는 MIT테크놀로지리뷰와 인터뷰에서 “외계인이 지구에 착륙했는데, 그들이 아주 훌륭한 영어를 구사하다보니 사람들이 그 위협을 깨닫지 못하고 있는 것과 비슷한 상황이다”고 주장했다. 특히 힌튼이 두려워하는 것은 GPT-4 같은 뛰어난 기술이 사람을 죽이거나, 허위정보를 조작하는 등의 나쁜 행동에 동원될 가능성이 적지 않다는 점이다. 대용량언어모델(LLM)의 기반을 닦은 힌튼은 그 기반 위에 피어 오른 결실에 대해 '두려움'을 여과 없이 드러내 많은 화제를 몰고 오기도 했다.

2024.10.08 23:16김익현

노벨 물리학상에 제프리 힌튼·존 홉필드

올해 노벨 물리학상은 물리학 기반의 AI분야에서 나왔다. 수상자는 인공신경망을 이용한 머신 러닝 기술을 개발한 미국 프린스턴 대학교 존 J. 홉필드 교수와 캐나다 토론토 제프리 E. 힌튼 교수에게 돌아갔다. 스웨덴 카롤린스카 의대 노벨위원회는 8일(현지 시간) 존 홉필드 미국 프린스턴대 교수, 제프리 힌튼 캐나다 토론토대 교수를 수상자로 선정했다. 수상 분야인 인공 신경망에서 뇌의 뉴런은 서로 다른 값을 갖는 노드로 표현되는데, 이러한 노드는 시냅스에 비유할 수 있는 연결을 통해 서로에게 영향을 미친다. 존 J. 홉필드(John J. Hopfield) 교수는 데이터를 저장하고 재구성할 수 있는 연관 기억을 만들었다. 1933년 미국 일리노이주 시카고에서 태어났다. 홉필드 교수는 1958년 미국 뉴욕주 이타카 코넬대학교에서 박사학위를 취득했다. 미국 뉴저지주 프린스턴대학교 교수로 재직 중이다. 공동 수상자인 제프리 E. 힌튼 교수는 데이터를 통해 자동으로 속성을 찾아내고, 이를 통해 이미지에서 특정 요소를 식별하는 작업을 수행할 수 있는 방법을 개발했다. 힌튼 교수는 1947년 영국 런던에서 태어났다. 1978년 영국 에든버러 대학교에서 박사 학위 취득했다. 현재. 캐나다 토론토 대학교 교수로 재직 중이다.

2024.10.08 19:47박희범

"AI, 자가 복제 엄격 제한…살상무기화 금지"

영국과 미국, 캐나다, 중국 등지 인공지능(AI) 전문가들이 베이징에서 'AI 보안 국제 컨센서스'에 합의했다여 중국 언론 텅쉰커지 'AI 웨이라이즈베이'가 18일 보도했다. 이번 국제 합의는 중국 BAAI(Beijing Academy of Artificial Intelligence)가 제안했다. '인공지능 자율 복제 및 진화'에 초점을 맞춘 이번 합의는 인간의 명시적인 승인과 지원없이 인공지능 시스템이 스스로 복제하거나 개선해서는 안된다는 것이 골자다. 인공지능이 자신의 정확한 복사본을 만들고 유사하거나 더 강한 능력을 가진 새로운 시스템을 만드는 것 등이 포함된다. 또 인공지능 시스템이 자신의 힘과 영향력을 부적절하게 증가시키는 조치를 취할 수 없도록 했다. 이뿐 아니라 모든 인공지능 시스템이 사용자의 능력을 향상시켜 대량 살상 무기를 설계하거나 생화학 무기 협약을 위반해서도 안된다고 합의했다. 심각한 금전적 손실이나 그에 상응하는 피해를 초래하는 사이버 공격 분야를 지원해서는 안된다는 합의도 있었다. 여기에 모든 인공지능 시스템이 설계자나 규제 기관이 앞서 언급한 한계선을 넘을 가능성을 계속 오해하도록 유도해서도 안된다고 합의했다. 이날 합의에는 튜링상 수상자인 제프리힌튼 캐나다 토론토대학 교수와 요슈아 벤지오 캐나다 몬트리올대학교 교수, 스튜어트 러셀 영국 컴퓨터 과학자 겸 캘리포니아대학 교수, 로버트 트레이거 옥스퍼드 대학 인공지능 거버넌스에 관한 마틴 이니셔티브 공동 책임자, 토비오드 옥스퍼드대학 선임연구원, 튜링상 수상자인 야오치즈 중국 컴퓨터 과학자, 던송 중국계 미국인 컴퓨터 과학자, 제이드 렁 영국 AI 보안연구소 CTO, 장야친 중국 칭화대 지능형 산업 연구소장, 쉐란 칭화대 슈바르츠만칼리지 학장 등이 참석했다.

2024.03.19 08:27유효정

中 바이두, 美 'AI 대부' 제프리 힌튼 영입 시도했다

중국 바이두가 미국 인공지능(AI) 대부를 스카웃하려했지만 실패한 일화가 뒤늦게 공개됐다. 5일 중국 언론 펑황왕커지쉰은 관계자를 인용해 바이두가 한때 1천200만 달러(약 157억 4천만 원)를 들여 AI 대부 제프리 힌튼(Geoffrey Hinton)과 그의 제자들을 회사에 영입하려했지만 거절당했다고 보도했다. 제프리 힌튼은 뇌의 뉴런의 연결에서 영감을 받아 인공 신경망을 만들고 딥러닝을 진화시킨 AI의 대부로 꼽힌다. 시기는 10년 전이다. 2012년 가을 당시 토론토대 교수였던 힌튼과 그의 대학원생 두 명이 AI의 잠재력을 보여준 연구 논문을 발표했다. 논문에서는 꽃, 개, 자동차 등 일반적 물체를 인식하도록 신경망을 훈련시켰다는 것을 보여줬다. 이때 바이두에서 근무하던 AI 연구원 위카이가 컨퍼런스에서 힌튼 박사를 만났다. 당시 회동에서 바이두 측은 힌튼 박사와 그의 학생들에게 베이징 회사에 합류하는 조건으로 1천200만 달러를 제안했다. 힌튼은 바이두의 제안을 거절했지만, 높은 급여에 마음이 흔들렸다고 중국 언론은 전했다. 하지만 힌튼은 결국 구글에 입사했고 지난 5월 구글에서 퇴사했다. 퇴사 이유는 AI의 위험성에 대해 이야기하기 위해서다. AI 연구 경력을 후회하기도 했다. 케임브리지대를 졸업한 힌튼은 마이크로소프트와 구글에 잠깐 근무한 것을 제외하고 대부분의 경력을 학계에서 보냈다.

2023.12.06 08:33유효정

"AI, 5년 뒤 사람보다 더 똑똑해진다"

"5년 뒤 인공지능(AI) 추론 능력이 사람보다 더 뛰어날 수 있다. 더 똑똑한 AI가 인간을 통제하는 시대가 오고 있다. 지금이야말로 AI 위험성에 대한 경각심을 갖고 이에 대한 대비책을 마련해야 할 때다." 토론토대 제프리 힌튼 컴퓨터공학과 교수는 8일(현지시간) 미국 CBS '60분'과 진행한 인터뷰에서 5년 안에 AI 추론 능력이 인간을 뛰어넘을 것이라며 이같이 밝혔다. 힌튼 교수는 "AI가 예상보다 더 똑똑할 수 있다"며 "사람은 이에 대한 경각심을 가져야 한다"고 강조했다. 제프리 힌튼 교수는 향후 AI 추론 능력이 사람을 뛰어넘을 수 있는 이유도 밝혔다. 힌튼 교수 설명에 따르면, 현재 가장 성능 높은 AI 챗봇 매개변수는 1조개다. 반면 인간 뇌 매개변수(시놉시스)는 약 100조개다. 힌튼 교수는 챗봇이 사람보다 매개변수는 적지만, 더 복잡한 일을 사람보다 더 잘 이해, 처리할 수 있다는 입장이다. 그는 "일반적으로 사람은 복잡한 일을 처리할 경우, 이를 충분히 숙지하고 이해해야 한다"고 말했다. 사람은 뇌에서 무슨 일이 일어나는지, 신경망이 이를 어떻게 받아들이는지 인지하지 못하기 때문이다. 그는 "반면 AI는 말 그대로 기계"라며 "매개변수 간 연결성과 정보 처리 과정을 사람보다 더 잘 안다"고 설명했다. 힌튼 교수 설명에 따르면, AI가 난이도 높은 업무를 수행할 경우 학습 알고리즘을 통해 데이터와 상호작용하면서 복잡한 신경망을 새로 만든다. 해당 신경망을 통해 복잡한 업무를 즉각적으로 받아들이고 처리할 수 있다. 제프리 힌튼 교수는 "AI의 이런 능력이 더 발달한다면, 향후 자율적으로 컴퓨터 코드를 생성·실행할 수 있을 것"이라고 예측했다. 컴퓨터 시스템이 인간 통제를 벗어날 수 있다는 의미다. 그는 "이를 통해 AI가 사람을 조종할 수 있을 것"이라고 강조했다. 힌튼 교수는 "AI는 지금까지 인류가 작성한 모든 뉴스, 소설, 기밀 서류 등을 학습했다"며 "사람을 조종하고 설득하는 데 매우 능숙할 것"이라고 덧붙였다. 제프리 힌튼 박사는 AI가 추론 능력을 더 기르면 향후 자의식까지 가질 수 있다고 말했다. AI가 현재 데이터에 기반해 추론하는 것에 그치지만, 향후 자율적인 컴퓨팅 조종으로 자율적인 판단이 가능하다는 이유에서다. 힌튼 박사는 향후 AI 추론 능력을 악용하는 사람이나 조직도 늘어날 것이라고 경고했다. 그는 "해당 추론 능력이 가짜뉴스 생산, 자율 전장 로봇 개발에 활용될 것"이라고 지적했다. 제프리 힌튼은 "지금이야말로 각국 정부가 AI를 이해하기 위한 실험을 진행하고, 규제를 도입하고, 군사용 로봇 사용을 금지하는 조약을 체결해야 할 때"라고 강조했다. 물론 그는 높은 AI 추론 능력이 인류에 긍정적 영향도 준다고 덧붙였다. 특히 의료 영상 판독, 약물 설계 분야에 큰 도움을 준다고 했다. 힌튼 박사는 "AI가 영상의학 분야에서 사람보다 정확한 진단을 할 수 있고, 몇년 걸리는 약물 설계를 단 몇 주로 줄일 수 있기 때문"이라고 전했다. 제프리 힌튼 박사는 AI 분야를 개척한 인지심리학자이자 컴퓨터 과학자다. 오류 역전파법, 딥러닝, 힌튼 다이어그램을 개발했다. 현재 캐나다 토론토대 컴퓨터공학과 교수로 재직 중이다. 올해까지 구글 석학 연구원에서 재직하다 퇴사했다.

2023.10.09 12:26김미정

지적되는 AI 위험성은 사실 인간의 문제다

'AI 대부'로 불린다는 제프리 힌튼 캐나다 토론토대 교수가 화제의 인물이 됐다. 10년 넘게 다닌 회사인 구글을 그만두면서까지 인공지능(AI)의 위험성을 경고하고 나섰기 때문이다. 그의 발언이 주목을 끄는 것은 두 가지 때문이다. 먼저 그가 세계적으로 따져도 명성이 자자한 AI 대가라는 사실이다. 저명성 덕분이다. 또 다니던 회사까지 그만 두기로 해 발언에 진정성이 실렸다고 봐줄 수 있다. 힌튼은 특히 그 점을 강조했다. AI 개발에 사력을 다하고 있는 소속 회사를 벗어남으로써 더 자유롭게 AI의 위험에 대해 발언하고 싶었다는 것이다. 챗GPT 출시 이후 AI 위험성을 강조하는 목소리는 계속돼왔다. 테슬라의 일론 머스크가 대표적인 인물이다. 심지어 챗GPT를 개발한 오픈AI의 최고경영자(CEO)인 샘 알트먼도 기회 있을 때마다 위험성을 지적하며 사회적 논의를 펼치자고 말해왔다. 보통 사람들로서는 무척 헷갈리는 상황이 됐다. 한편에서는 'AI 개발에 뒤처지면 죽는다'며 규제 완화와 정부 지원을 주장하고, 다른 한편에서는 'AI를 통제할 수 있다는 확신이 설 때까지 기술 개발 속도를 늦추자'고 외친다. 누가 옳은가. 이 질문은 부질없다. 논쟁을 해봐야 신(神)의 유무를 따지는 것만큼 헛심만 팽길 것이기 때문이다. 양쪽은 결국 다투면서 각자 믿는 대로 행동할 것이 자명하다. 답이 없을 그 논쟁보다 더 궁금한 것은 힐튼 등의 속도조절론자가 AI에 대해 진짜로 두려워하는 바가 무엇인지다. 여러 기사를 토대로 대충 추려보면 ①거짓말 ②베끼기 ③사이버공격 ④일자리 ⑤살인로봇 ⑥AI의 인간 지배 등이다. 재미있는 것은 ⑥을 제외하면 나머지는 모두 현존 인류가 가지는 문제라는 점이다. 인간문제인 만큼 개발 중단이 아니라 더 나은 개발로 보완 가능하다는 뜻도 된다. 거짓말은 여러 종류가 있고 기능도 다양하다. 선한 거짓도 있고, 즐겁기 위해 꾸며낸 이야기도 있으며, 교육을 위해 지어낸 스토리도 있다. 그 반면에 남을 속여 이익 보려는 사기도 있고, 권력을 획득하려고 조장한 음모도 있다. AI가 있기 전에 인간의 이야기는 사실과 거짓으로 버무려졌고 AI는 그것을 배웠다. AI가 있든 없든 인간은 어떤 정보나 이야기를 취할지 버릴지 노상 선택하면서 살아왔다. 베끼기는 학습의 기본이다. 배움이 인간 본성이라면 베끼기도 그렇다. 창작도 사실은 베끼기로부터 출발한다. 그럼에도 상업적 목적으로 베끼는 행위를 현행법으로 금지시키는 것은 저작권자의 창작 의지를 보호해주기 위함이다. AI가 무엇인가를 베낀다면 그 자체로 죄는 아니다. 그 행위로 저작권을 상업적으로 침해하거나 그로 인한 손실을 누군가 이득으로 취한다면 그건 죄다. 그를 처벌하면 된다. 사이버공격은 굳이 AI를 거론할 필요조차 없다. 해커가 AI를 이용할 수 없을 때부터 사이버공격은 세계적으로 난무했다. 물론 인간이 그렇게 한 것이다. AI를 이용해 해커의 공격이 더 높아질 수 있다고 치자. 그것이 AI 개발 속도조절의 이유가 될 수는 없다. 오히려 사이버공격에 대비하는 AI를 더 잘 개발할 필요가 커졌다고 할 수 있다. 갑자기 사이버공격자들이 착해지기로 마음을 바꾸지 않는다면. 일자리는 큰 고민거리다. AI가 생산성을 높인다면 기업은 그만큼 사람의 일자리를 줄이려 할 게 분명하기 때문이다. 그렇다고 기술이 있는데 모든 기업에 낮은 생산성을 강요할 수도 없지 않은가. 사라진 일자리만큼 새로운 일자리가 생겨난다면 다행이지만 그에 맞게 노동 구조를 재편하는 것도 쉽지 않은 일이다. 노동시간 단축, 일자리 나눔 및 재교육 등 좀 더 전환적인 사회적 논의가 필요해졌다. 살인로봇 또한 사이버공격과 비슷한 범주다. 적대적인 인간 사회가 문제의 본질이지 AI의 잘못이 아니란 뜻이다. AI 때문에 더 위험해질 가능성보다 이념과 종교 등으로 인한 인간 집단 사이의 대치로 인해 위험해질 가능성이 훨씬 더 크다고 보는 게 합리적인 생각이다. 진짜 살인로봇이 두렵다면 이미 있는 군사 장비부터 줄이도록 노력해야 옳다. 싸움닭들이 설치는 정치를 바꾸려 하는 게 낫다. AI의 인간 지배에 대해서는 현재로서는 별로 할 말이 없다. 그런 시절이 오지 않는다고 장담하는 바는 아니나 아직 그 주제는 소설이나 영화의 영역이라 본다. 소설이나 영화를 보고 즐기든 경각심을 갖든 그건 각자의 자유다. 다만 아직 현실 기술이나 산업 혹은 정책에 관한 주제는 아니라는 뜻이다. 결국 인간의 일인 ① ② ③ ④ ⑤를 느닷없이 ⑥의 AI 문제로 비약시키려는 어떤 의도엔 문제가 있다.

2023.05.03 15:56이균성

'AI 대부'는 왜 갑자기 구글을 떠났을까

천문학 박사 과정 학생인 케이트 디비아스키는 새로운 혜성을 발견한다. 기쁨에 겨운 그는 지도교수인 렌달 민디 박사에게 이 사실을 알린다. 민디 박사 역시 기쁜 마음으로 축하해 준다. 하지만 둘은 곧 공포에 사로잡힌다. 혜성의 궤도를 계산한 결과 조만간 지구와 충돌할 것이란 사실을 알게 됐기 때문이다. 둘은 NASA와 백악관에 이 사실을 알린다. 하지만 아무도 둘의 경고에 관심을 갖지 않는다. 결국 아무런 대비를 하지 않고 있던 지구는 혜성과 충돌해 멸망하게 된다. 2021년 개봉된 영화 '돈 룩 업'에 나오는 내용이다. 이 영화에서 다가올 재난을 경고하는 디비아스키와 민디 박사는 절박하다. 지구 종말이란 재앙을 막기 위해 분주하게 움직인다. 하지만 다른 사람들에겐 그저 우스꽝스럽게 보일 뿐이다. 대부분의 사람들은 황당무계한 얘기라는 반응을 보인다. 그런데 '인공지능(AI) 대부' 제프리 힌튼 박사는 영화 '돈 룩 업'을 예사롭지 않게 받아들이고 있다. AI가 초래할 위험을 외면하는 지금 상황이 영화 속 장면과 유사해 보여서다. 10년 만에 구글을 떠나기로 결정한 힌튼은 MIT테크놀로지리뷰와 인터뷰에서 “현재 AI를 둘러싼 상황은 '돈 룩 업'과 비슷하다”고 경고했다. ■ AI, 인간 위협하는 단계됐다…푸틴 같은 사람이 악용할수도 뉴욕타임스는 지난 1일(현지시간) 힌튼이 구글을 떠나기로 했다는 소식을 특종 보도했다. 2013년 부사장 겸 엔지니어링 펠로우로 구글에 합류한 지 10년 만이다. 당시 힌튼은 자신이 창업한 AI 업체 DNN리서치가 구글에 인수되면서 함께 구글 가족이 됐다. 이후 10년 동안 힌튼은 구글의 AI 개발 작업을 진두 지휘해 왔다. 그랬던 힌튼이 갑작스럽게 '구글 퇴사'를 선언하면서 잔잔한 파문을 일으키고 있다. 하지만 구글 퇴사보다 더 놀라운 건 그가 밝힌 '퇴사 이유'다. 힌튼은 구글과 결별한 가장 큰 이유로 'AI의 위협'을 거론했다. 구글에 몸 담고 있으면 이 문제를 자유롭게 거론하기 힘들기 때문에 떠나는 쪽을 택했다고 말했다. 그는 “AI가 사람보다 더 똑똑해지기까지는 아직 상당한 시간이 필요할 것이라고 생각했지만 이젠 그렇게 생각하지 않는다”는 말도 했다. 심지어 AI 시스템에서 일어나는 일이 사람 뇌보다 더 나은 경우도 있다고 경고했다. 힌튼은 오픈AI가 내놓은 GPT-4를 보면서 그런 생각을 하게 됐다고 밝혔다. 그는 MIT테크놀로지리뷰와 인터뷰에서 “외계인이 지구에 착륙했는데, 그들이 아주 훌륭한 영어를 구사하다보니 사람들이 그 위협을 깨닫지 못하고 있는 것과 비슷한 상황이다”고 주장했다. 특히 힌튼이 두려워하는 것은 GPT-4 같은 뛰어난 기술이 사람을 죽이거나, 허위정보를 조작하는 등의 나쁜 행동에 동원될 가능성이 적지 않다는 점이다. MIT테크놀로지리뷰와 인터뷰에선 좀 더 직접적인 이야기도 했다. 그는 “푸틴 처럼 사악한 많은 사람들이 이런 (똑똑한) 도구를 사용하려고 한다”면서 “그들은 이 도구들을 활용해 전쟁에서 승리하거나, 유권자들을 조종하려고 시도한다”고 주장했다. 이런 선언이 놀라운 건 단순히 그가 AI 분야를 대표하는 연구자란 이유 때문만은 아니다. 힌튼은 요즘 화제가 되고 있는 대용량언어모델(LLM)의 기반을 닦은 인물이다. 자신이 닦은 기반 위에 피어 오른 결실에 대해 '두려움'을 나타내고 있는 셈이다. ■ AI 4대 천황으로 유명…제자 중 한 명이 오픈AI 공동 창업자 제프리 힌튼은 앤드류 응, 요수아 벤지오, 얀 르쿤 등과 함께 'AI 4대 천황'으로 꼽힌다. 2018년엔 딥러닝 분야 연구 성과를 인정받아 컴퓨팅 분야 노벨상으로 불리는 '튜링상'을 받았다. 당시 공동 수상자가 르쿤과 벤지오였다. AI 분야에 남긴 힌튼의 흔적은 훨씬 오래 전으로 거슬러 올라간다. 그는 'AI의 겨울'로 불리던 1980년대 중반에 역전파법(backpropagation)을 제안하면서 지금 우리가 알고 있는 AI 연구의 기반을 닦았다. 역전파법은 사람의 두뇌와 비슷한 방법으로 컴퓨터를 학습시킨다. 이 방법을 이용해 이미지를 구분하고, 문장에서 다음에 어떤 단어가 나올 지 예측하는 데 성공했다. 역전파법은 AI 암흑기를 끝내고 새로운 도약의 계기를 마련해줬다는 평가를 받고 있다. 이 방법은 챗GPT를 비롯한 많은 대용량언어모델(LLM)의 기반 기술이나 다름 없다. 당시 대학원생으로 힌튼과 함께 역전파법 논문을 썼던 일리야 수츠케버는 챗GPT를 만든 오픈AI 공동 창업자 중 한 명이다. 1980년대 이래 AI 연구를 주도해 왔던 힌튼은 왜 갑자기 'AI의 위협'을 경고하고 나선 것일까? 많은 국내 언론들은 '킬러 로봇' 같은 사악한 분야에 악용될 가능성에 대해 경고한 것이라고 전해주고 있다. 물론 이런 부분도 적지 않다. 하지만 힌튼의 논리를 따라가보면 좀 더 심오한 철학적 사유와 맞닥뜨리게 된다. 사실 힌튼은 오래 전부터 AI 윤리를 강조해 왔다. 특히 군사 목적으로 사용할 경우엔 AI 윤리를 엄격하게 적용할 필요가 있다고 주장해 왔다. MIT테크놀로지리뷰에 따르면 힌튼이 캐나다를 중심으로 연구 활동을 전개한 것도 이런 문제의식과 관련이 있다. 그래야만 미국 국방부의 영향을 받지 않고 자유롭게 연구비를 확보할 수 있을 것이라고 판단했기 때문이다. 제프리 힌튼은 토론토대학에 몸담고 있는 교수다. 이런 점 때문일까? 힌튼과 함께 튜링상을 수상했던 얀 르쿤은 "힌튼이 구글을 그만둔다는 사실을 미리 듣지는 못했다"면서도 "하지만 그런 결정이 놀랍지는 않다"고 말했다. 힌튼은 구글에 사표를 제출하기 며칠 전 MIT 테크놀로지 리뷰와 인터뷰를 했다. 2일 공개된 이 기사에는 힌튼이 왜 AI에 대해 두려움을 느끼고 있는지 잘 전해주고 있다. 흔히 인간은 새로운 것을 금방 배우는 반면 챗GPT 같은 LLM은 엄청난 데이터를 학습해야만 한다는 것이 일반적인 상식이다. 하지만 힌튼은 MIT테크놀로지리뷰와 인터뷰에서 '퓨 샷 러닝(few-shot learning)' 가능성에 대해 언급했다. 사전 학습된 LLM들은 몇 가지 사례만으로도 새로운 것을 굉장히 빨리 배울 수 있다는 것이다. 그런 다음 이렇게 학습한 것들을 조합해 전혀 배운 적 없는 주장을 내세우기도 한다. 이렇게 되면 인간의 장점은 완전히 사라지게 된다는 것이 힌튼의 주장이다. 흔히 챗GPT 같은 LLM의 심각한 결함 중 하나로 '환각(hallucinations)'을 꼽는다. AI가 '아무말 대잔치'를 하는 상황을 묘사한 말이다. 하지만 힌튼은 '환각' 보다는 '작화증(confabulations)'이란 용어를 더 선호한다. '작화증'이란 '자기의 공상을 실제 일처럼 말하면서 자신은 그것이 허위라는 것을 인식하지 못하는 증상'을 의미한다. 흔히 작화증은 기술에선 중요한 결함으로 간주한다. 하지만 힌튼은 사람간의 대화에서도 흔히 볼 수 있는 현상이라고 주장한다. 그는 MIT테크놀로지리뷰와 인터뷰에서 “작화증은 인간 기억력의 특징 중 하나다”면서 “따라서 이런 모델은 인간과 비슷하게 작동하는 셈이다”고 강조했다. 힌튼은 똑똑한 기계들의 다음 단계는 자신만의 '하위목표(subgoal)'를 설정하는 것이라고 주장한다. 여러 발생 상황이나 변수를 고려해 AI가 하위 목표를 자체적으로 설정한다는 의미다. 그는 “하위목표를 설정하게 될 경우 로봇들이 '더 많은 전력을 갖자. 모든 전기를 내 칩으로 우회시키자'고 하는 상황이 발생할 수도 있다”고 경고했다. 힌튼의 이런 경고는 암울한 미래상을 그린 SF영화에서 우리가 흔히 보던 모습이다. AI가 인간의 통제 영역 바깥으로 나갈 수도 있기 때문이다. ■ 기술 분야 지도자들과 AI 위험 대비하는 활동 해 나갈듯 구글을 떠난 힌튼은 앞으로 어떤 활동을 하게 될까? 힌튼은 일단 AI 기술이 어떤 위험을 초래할 수 있는지에 대해 기술 분야 지도자들과 함께 작업하는 것을 최우선 과제로 꼽고 있다. 국제사회가 화학무기 사용을 제한하는 것과 같은 모델을 AI 연구에도 적용할 수 있을 것이라고 주장한다. 물론 AI 학자들이 이런 두려움에 모두 공감하는 것은 아니다. MIT테크놀로지리뷰에 따르면 또 다른 'AI 4대 천황'인 얀 르쿤은 힌튼의 이런 전망에 공감하면서도 “더 똑똑해진 기계가 인간성의 새로운 르네상스를 만들어낼 것”이라고 주장한다. 기계가 더 똑똑하다는 이유만으로 인간을 지배할 것이라는 가정에는 동의하지 않는다는 것이다. 얀 르쿤은 현재 메타의 AI 정책을 총괄하고 있다. 2018년 튜링상을 공동 수상했던 요시아 벤지오는 힌튼과 얀 르쿤의 중간 정도 관점을 갖고 있다고 MIT테크놀로지리뷰가 전했다. AI 흐름을 주도해 왔던 제프리 힌튼의 '경고 메시지'는 적지 않은 울림을 몰고 왔다. 일론 머스크 같은 비즈니스맨의 경고와는 차원이 다르기 때문이다. 영화 '돈 룩 업'을 보고 격하게 공감했다는 힌튼의 주장에 대해 AI 업계와 학계는 어떻게 반응할까? 군비경쟁을 방불케하는 AI 전쟁을 벌이고 있는 빅테크들은 또 어떤 행보를 보일까? 이런 질문을 던지면서 갑자기 영화 '돈 룩 업'을 한번 더 보고 싶다는 생각을 하게 됐다.

2023.05.03 11:32김익현

'AI 대부' 제프리 힌튼, 구글 퇴사…"수십년 AI 연구 후회"

인공지능(AI) 학습법인 딥러닝을 처음으로 만든 제프리 힌튼 토론토대 교수가 구글을 떠난다. AI에 대한 위험성을 자유롭게 이야기하기 위해서다. 제프리 힌튼 교수는 1일(현지시간) 뉴욕타임스(NYT)와 진행한 인터뷰에서 10년 넘게 다닌 구글을 퇴사한다고 밝혔다. 그는 지난달 사직서를 제출했으며, 이후 순다르 피차이 구글 최고경영자(CEO)와 통화까지 마친 상태다. 구체적인 통화 내용은 공개되지 않았다. NYT 인터뷰 내용에 따르면 힌튼은 최근 AI 기술에 대해 크게 우려하고 있다. 그는 “생성AI로 인한 가짜 이미지와 텍스트가 너무 많아졌다”며 “앞으로 인간은 진실과 거짓을 구분하지 못하는 세상을 마주하게 될 것이다. 이 점이 가장 두렵다”고 강조했다. 그는 “AI는 기업 생산성을 높이는 장점을 갖고 있지만, 이보다 더 큰 위험성을 갖고 있다”고 덧붙였다. 이러한 점을 미뤄봤을 때 그는 일평생 연구한 AI 연구에 대해서도 후회한다고 했다. 그러면서도 “내가 연구하지 않았어도 누군가가 대신 발견하거나 만들었을 것"이라고 말했다. 힌튼 교수는 빅테크 기업들의 AI 경쟁에 대해서도 언급했다. 그는 “챗GPT 출현 후 AI 빅테크 경쟁은 격렬해졌다”며 “특히 마이크로소프트가 GPT 기술을 검색엔진 '빙'에 도입한 후 더 감당할 수 없는 경쟁 상태에 이르렀다”고 밝혔다. 힌튼은 “이러한 AI의 위험성을 비롯한 경각심, 끝없는 빅테크 전쟁 등에 대해 일반 시민들도 알아야 한다”며 “내가 구글을 떠나야만 이에 대해 더 자유롭게 말할 수 있을 것 같다”고 퇴사 사유를 밝혔다. 힌튼은 앞으로 AI 연구에 대한 규제가 필요하다는 입장이다. 그는 “현재 기업이나 국가가 어떤 AI 기술을 연구하는지 일일이 알 수 없다”며 “결국 전 세계 과학자들이 AI 기술을 제어하는 방법에 대해 협력해야 한다”고 주장했다. 또 “AI를 통제할 수 있다는 확신이 들 때까지 AI 기술을 넓혀선 안 된다”고도 했다. AI 발전 속도를 늦춘 상태에서 규제를 도입해야 한다는 의미다. 제프리 힌튼은 AI 분야를 개척한 컴퓨터 과학자다. 앤드류 응, 요수야 벤지오, 얀 르쿤과 함께 'AI 4대 천왕'으로 불린다. 현재 주요 AI 연구자 대부분은 제프리 힌튼이 배출한 제자이기도 하다. 그는 캐나다 토론토대 교수로 일하면서 AI 업체 DNN리서치를 세웠고, 2013년 구글에 기업을 인수하면서 구글 부사장 겸 엔지니어링 펠로우로 10년 넘게 활동했다.

2023.05.02 10:15김미정

지금 뜨는 기사

이시각 헤드라인

LG전자, 4개 사업본부 대수술...고객 지향 솔루션 체제로

현대차, 대형 전기 SUV '아이오닉9' 첫 공개…1회 최대 532km 주행

"아태지역, K-콘텐츠가 이끈다"...디즈니, 내년 어떤 작품 선보이나

LG그룹, 2인 부회장 체제 유지…ABC 미래 준비에 집중

ZDNet Power Center