검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'제프리 힌튼'통합검색 결과 입니다. (7건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

제프리 힌튼 "기업·정부 외면하는 AI 위협, 대중이 막아야'"

인공지능 연구로 노벨 물리학상을 받은 제프리 힌튼 교수가 AI 기업과 정부를 강하게 비판했다. 그는 AI 기업들이 수익에만 몰두해 안전성을 무시하고 있다고 지적했다. 또한 이런 행태를 제대로 규제하지 않는 정부 역시 문제라고 꼬집었다. 27일 CBS와의 인터뷰에서 그는 "AI 기술의 무분별한 발전이 인류에게 심각한 위협이 될 수 있지만 기업과 정부는 이를 외면하고 있다"며 "이를 막기 위해서는 일반 대중이 적극적으로 목소리를 내고 정부에 압박을 가해야 한다"고 강조했다. "AI, 인류에 이익이자 위협… 균형 잡힌 대응 필요" 먼저 힌튼은 인터뷰에서 AI 기술이 의료, 교육, 에너지 등 다양한 분야에서 인류에 막대한 이익을 가져올 수 있다는 점을 인정했다. 그는 "AI는 수백만 건의 의료 데이터를 학습해 의사보다 정밀한 진단을 내릴 수 있으며, 학생 개개인에 맞춘 강력한 개인 튜터가 될 것이다"라며, "또한 새로운 소재 개발과 기후 변화 대응에도 핵심 역할을 할 것"이라고 전망했다. 하지만 곧바로 AI가 가져올 심각한 부작용에 대한 우려를 덧붙였다. 특히 나쁜 의도를 가진 사람들이 AI를 악용하는 문제와 AI 자체가 인간보다 더 높은 지능을 갖추어 통제 불가능한 존재로 변모할 가능성을 경고했다. 제프리 힌튼 교수는 "현재의 대형 언어 모델들도 이미 방대한 지식을 습득하고 있다. 향후 이들은 인간 전문가를 능가하는 수준으로 진화할 것이다"라며, "그때가 되면 우리는 더 이상 AI를 제어할 수 없을 수도 있다"고 밝혔다. "대형 AI 기업들, 수익 위해 안전성 뒷전" 특히 제프리 힌튼 교수는 현재 AI 개발을 주도하는 대형 기업들의 행보를 강하게 비판했다. 그는 "AI 기업들은 주주 이익을 극대화하는 것을 법적 책무로 삼고 있다"며, "장기적인 기술 안전성보다는 단기적인 시장 지배와 수익 창출에 몰두하고 있다"고 지적했다. 특히 오픈AI, 메타 등 일부 기업들이 대형 모델의 '가중치(weights)'를 외부에 공개하는 움직임에 대해 강한 우려를 표했다. 힌튼 교수는 "가중치 공개는 핵무기의 핵물질을 아무 제약 없이 유통시키는 것과 같다"며 "이로 인해 소규모 테러조직이나 사이버 범죄자가 손쉽게 강력한 AI를 구축할 수 있게 될 것"이라고 경고했다. 또한 기업들이 안전성 테스트나 장기적 위험성 연구에는 충분한 자원을 투자하지 않고 있으며 심지어 정부 규제 완화위한 로비 활동에도 적극적이라고 비판했다. "정부 자발적 규제 기대 어렵다" 더불어 힌튼 교수는 현실적으로 정부가 스스로 강력한 AI 규제에 나설 가능성은 낮다고 내다봤다. 그는 "특히 미국에서는 대형 AI 기업과 정치권 간 긴밀한 유착 관계가 형성돼 있다"며, "기업 이익을 보호하려는 정치적 압력이 강해져 정부는 규제에 소극적일 수밖에 없다"고 분석했다. 그는 "AI 기술이 국가 안보와 경제 성장의 핵심으로 여겨지는 상황에서, 규제는 오히려 기술 경쟁력을 약화시킬 수 있다는 인식이 퍼져 있다"며 "이런 분위기 속에서 정부가 자발적으로 규제에 나설 가능성은 극히 낮다"고 지적했다. "공공 여론이 변화를 이끌어야" 이러한 비관적 전망에도 제프리 힌튼교수는 해답이 아예 없는 것은 아니라고 희망을 제시했다. 그는 "지금 상황을 바꿀 수 있는 유일한 힘은 공공 여론"이라고 강조했다. 이어 "일반 시민들이 AI 기술의 위험성과 윤리적 문제를 인식하고, 정부와 기업에 강력한 규제와 책임을 요구해야 한다"며, "대중의 압력이 커질 때만이 정부는 기업들에 맞서 안전성 확보를 위한 정책을 추진할 수 있다"고 밝혔다. 힌튼 교수는 단순한 관심을 넘어서, 구체적인 법안 통과를 요구하고, 안전성 테스트 의무화, 개발 제한 장치 마련 등 구체적이고 실질적인 규제를 촉구해야 한다고 제안했다. "AI 규제는 선택이 아닌 생존의 문제" 힌튼 교수는 AI 기술에 대한 경계심을 단순한 '미래의 가능성'으로 치부해서는 안 된다고 강조했다. 그는 "AI는 지금 이 순간에도 빠른 속도로 발전하고 있으며, 인간보다 월등히 뛰어난 존재로 성장할 가능성은 점점 커지고 있다"고 말했다. 그는 AI 기술의 통제가 실패할 경우, 인류 전체가 통제력을 상실하는 상황에 직면할 수 있다고 경고했다. 더불어 "AI 규제는 이제 단순한 선택의 문제가 아니라, 인류 생존과 직결된 문제"라며, "우리는 이 엄중한 현실을 직시해야 한다"고 목소리를 높였다. 힌튼은 AI가 선한 방향으로 인류를 도울 수도 있지만, 지금처럼 무분별하게 경쟁하고 수익을 좇는 방식으로 발전한다면, 인류가 스스로 재앙을 초래할 것이라고 경고했다. 제프리 힌튼 교수는 "지금의 AI는 마치 귀여운 아기 호랑이와 같다"며 "어릴 때는 무해해 보이지만 시간이 지나면서 훨씬 강력한 존재로 성장해 결국 인간을 위협할 수 있다"며 기술 그 자체가 아닌 그것을 다루는 인간 사회의 무책임성과 탐욕에 대해 경고했다.

2025.04.27 17:27남혁우

"챗GPT 만든 논문, 21세기 최다 인용"…AI는 어떻게 과학계 지배했나

글로벌 테크 기업이 발표한 인공지능(AI) 관련 논문이 21세기 과학계를 사실상 점령한 것으로 나타났다. AI 기술의 구조 활용법을 설명한 논문들이 생명과학, 물리학 등 전통 강세 분야를 누르고 피인용 상위권을 싹쓸이한 가운데 업계에서는 도구 중심 연구가 과학 혁신을 실질적으로 이끈 결과라는 분석이 나온다. 17일 네이처에 따르면 지난 20년간 가장 많이 인용된 논문 대부분이 인공지능(AI) 분야에 집중됐다. 대표적 학술 데이터베이스 다섯 곳을 종합 분석해 선정된 인용 상위 25편 가운데 1위를 차지한 논문은 마이크로소프트(MS)가 지난 2016년 발표한 '딥 레지듀얼 러닝(ResNet)' 관련 연구였다. MS의 논문은 구글 학술 기준으로 약 25만회, 웹오브사이언스 기준 약 10만회 인용되며 '21세기 최다 피인용 논문' 타이틀을 차지했다. 피인용 횟수는 후속 논문에서 얼마나 자주 참조됐는지를 의미하며 논문의 영향력을 가늠하는 핵심 지표로 평가된다. AI 분야의 상위권 독주는 여기서 그치지 않는다. 지난 2012년 제프리 힌튼 토론토대 교수가 발표한 이미지 인식 딥러닝 구조 '알렉스넷' 논문은 8위에 올랐고 지난 2017년 구글이 발표한 자연어처리 기반 구조 '트랜스포머'를 설명한 논문 '어텐션 이즈 올 유 니드'는 7위를 기록했다. 이 논문들은 각각 이미지 분석과 언어 생성 기술의 뿌리를 형성한 연구다. 힌튼 교수의 논문은 이미지넷 대회에서 압도적인 성능을 입증하면서 큰 관심을 끌었다. 이 논문은 힌튼 교수가 구글에 입사하고 AI 개발을 주도하는 발판이 됐다. 트랜스포머 구조는 '챗GPT'를 비롯한 거대언어모델(LLM)의 핵심 구조로 문장 간 관계를 스스로 학습하는 '셀프 어텐션' 메커니즘이 중심이다. 네이처는 AI 논문의 피인용 증가 요인으로 다학제 활용성과 오픈소스 문화를 꼽았다. AI 알고리즘 대부분이 무료로 공개돼 의료, 번역, 로봇 등 다양한 분야에 쉽게 적용됐기 때문이다. 또 사전 공개된 프리프린트 형태 논문이 많아 실질적 인용은 공식 수치보다 더 많을 가능성도 제기된다. AI 외에도 분석 소프트웨어와 실험 도구를 다룬 논문들이 순위에 다수 포함됐다. 2위 논문은 유전자 활성 변화를 정량화하는 공식을 설명한 연구다. 5위에는 X선 산란 패턴을 분석하는 구조화 프로그램 '셸렉스(SHELX)'를 소개한 논문이 이름을 올렸다. 네이처 분석에 참여한 미샤 테플리츠키 미시간대 교수는 "과학자들은 혁신이나 이론을 중요하게 생각한다고 말하지만 실제로는 연구에 직접적인 도움을 주는 도구 논문을 더 자주 인용한다"며 "도구 중심의 연구가 과학 발전을 실질적으로 견인하고 있다는 방증"이라고 말했다.

2025.04.17 11:39조이환

노벨물리학상 받은 AI, 어떻게 '이미 와 있는 미래'가 됐나

올해 노벨물리학상은 인공지능(AI)에게 돌아갔습니다. 이렇게만 쓰면 오해를 하겠네요. 요즘 화제의 중심에 있는 AI의 핵심 기술을 개발한 두 과학자들이 받았습니다. 'AI 대부'로 꼽히는 제프리 힌튼 토론토대학 교수와 '홉필드 네트워크'로 AI 연구의 기반을 닦은 존 홉필드 프린스턴대학 교수가 영광의 주인공입니다. 제프리 힌튼은 '홉필트 네트워크'를 토대로 '볼츠만 머신'을 고안했습니다. '볼츠만 머신'은 딥러닝의 이론적 토대가 되면서 생성형 AI를 비롯한 많은 기술 발전의 불쏘시개 역할을 해냈습니다. 제프리 힌튼이 'AI 4대 천황' 중 한 명으로 꼽히는 건 이런 기여 때문입니다. 노벨물리학상 위원회는 “두 분의 연구는 지금의 폭발적인 머신러닝 발전에 큰 역할을 했다”고 했습니다. ■ "인공신경망 발견은 물리학 첨단 연구에 적극 활용" 두 분의 연구 업적만 보면, 물리학상 수상자로 손색이 없어 보입니다. 하지만 AI 분야 연구로 노벨물리학상을 받았다는 점에 대해선 놀라는 분위기가 적지 않습니다. "벌써 노벨상을 받을 때가 됐나"라거나, "AI가 물리학 분야에 속하는가"라고 반문하기도 하는 것 같습니다. 노벨물리학상을 주관하는 스웨덴 왕립과학한림원도 이런 부분이 신경 쓰였나 봅니다. 엘런 문스 노벨물리학상 위원장은 “AI가 노벨물리학상의 두드러진 경쟁자로 보이지 않을 수는 있다”고 운을 떼면서 홉필드와 힌튼을 수상자로 선정한 이유를 설명했습니다. “학습할 수 있는 인공신경망의 발견과 응용은 물리학과 긴밀하게 연결되어 있습니다. 입자물리학, 천체물리학, 재료과학을 비롯한 다양한 물리학 분야의 첨단 연구에 활용돼 왔습니다. 이를 통해 얼굴인식과 언어 번역 등 우리 일상 생활의 한 부분이 됐습니다.” 제프리 힌튼 등이 왜 노벨물리학상을 받게 됐는지 잘 설명해주고 있지요? 이런 설명을 통해 노벨물리학상위원회의 이번 결정이 성급하거나, 시류 영합과는 거리가 멀다는 점을 분명하고 하고 있습니다. 생성형 AI를 비롯한 다양한 AI 서비스가 물리학의 중요한 결과물일 뿐 아니라, 첨단 기술이 일상 생활 속으로 스며 드는 데 결정적인 역할을 했습니다. 이 점을 노벨물리학상위원회가 제대로 인증해줬다는 점에서 제프리 힌튼 등의 수상이 예사롭지 않게 다가옵니다. 홀트만과 힐튼의 연구는 요즘 관심이 집중된 생성형 AI의 뿌리나 다름 없습니다. 두 연구자의 노벨물리학상 수상 소식에 많이 흥분했던 건 그 때문입니다. 전 복잡한 AI 기술에 대해선 잘 모릅니다. 하지만 AI가 우리들의 삶과 비즈니스를 근본부터 바꿔놓을 것이란 점에 대해선 의심하지 않습니다. 물론 머리로 생각하는 것과, 실제로 몸으로 느끼는 건 다를 겁니다. 우리 대부분은 학자나 기술자가 아니라, 일반적인 생활인이기 때문입니다. 그래서 올해 노벨물리학상위원회의 선택이 강하게 와 닿지 않을 수도 있습니다. ■ 우리 곁에 이미 와 있는 미래, 눈으로 확인하려면 그런 분들에게 의미 있는 행사를 하나 소개합니다. 10일부터 12일까지 사흘 동안 코엑스에서 열리는 '디지털혁신 페스타 2024(DINNO 2024)'입니다. 과학기술정보통신부가 주최하고 한국소프트웨어산업협회(KOSA)가 주관하는 행사입니다. (☞ 디노 2024 페이지 바로 가기) 올해 주제는 'AI On, Future Here' 입니다. 'AI는 이미 와 있는 미래'라는 의미를 담고 있습니다. AI를 비롯해 양자, 바이오 등 대한민국의 미래를 책임질 핵심 기술들의 현재와 미래를 한 눈에 볼 수 있는 행사입니다. 그 뿐 아닙니다. 클라우드, 빅데이터, 디지털헬스케어, 모빌리티, 로봇, 보안, 엔터테크 등 미래 혁신을 주도할 디지털 신기술들도 직접 확인할 수 있습니다. 이번 행사에선 150여 업체가 350여 부스를 마련했습니다. AI·양자·디지털헬스케어·SaaS(인터넷으로 제공하는 SW)·스타트업과 관련한 전문 컨퍼런스도 의미 있는 볼거리입니다. 컨퍼런스의 핵심 주제도 AI입니다. 특히 'AI Inside AI Everywhere'를 주제로 열리는 '퓨처테크 컨퍼런스'는 이미 우리 앞에 와 있는 미래 혁신의 현장을 생생하게 보여줄 것으로 기대됩니다. 첫째날은 'AI, 비즈니스를 바꾸다'는 주제로 첨단 AI 혁명의 현장을 생생하게 보여줍니다. 둘째날은 'AI 일상을 바꾸다'는 주제로 최근 각광을 받고 있는 엔터테크와 첨단 로봇 분야를 집중 조명할 예정입니다. “미래는 이미 와 있다. 단지 널리 퍼져 있지 않을 뿐이다.(The future is already here. It's just unevenly distributed)” 사이버스페이스란 말을 처음 사용한 미국의 SF 소설가 윌리엄 깁슨이 2003년 이코노미스트와 인터뷰에서 한 말입니다. 그냥 들으면 이 말이 무슨 의미인지 잘 와 닿지 않을 지도 모릅니다. 이렇게 비유하면 어떨까요? 올해 노벨물리학상을 수상한 두 분의 연구는 '먼 미래'의 설계도였습니다. 많은 과학, 기술자들이 그 설계도를 기반으로 '아직 도래하지 않은' 미래를 만들어나갔습니다. 그 결과물이 여러분이 '디노 2024'에서 만나게 될 각종 서비스와 제품들입니다. 'AI On, Future Here'란 슬로건에는 이런 의미가 담겨 있습니다. 두 AI 연구자의 노벨물리학상 수상에 관심이 있는 많은 분들을 '디노2024'로 초대합니다. '우리 곁에 와 있는 미래'를 직접 접하는 기쁨이 적지 않을 것이라고 자신합니다.

2024.10.09 14:20김익현

"AI 위협 걱정"…노벨물리학상 수상자들, 왜 경고했나

'인공지능(AI) 대부'로 꼽히는 제프리 힌튼 토론토대학 교수가 존 홉필드 프린스턴대학 교수와 공동으로 2024년 노벨물리학상을 수상했다. 하지만 제프리 힌튼은 노벨상 수상자로 선정된 직후 또 다시 'AI의 위협'에 대해 경고해 눈길을 끌었다. 공동 수상자인 존 홉필드 교수 역시 AI가 방대한 정보망과 연결되면서 초래할 부작용에 대해 우려를 나타냈다. 월스트리트저널을 비롯한 외신들에 따르면 힌튼은 8일(현지시간) 노벨상위원회와 인터뷰에서 "우리 보다 더 똑똑한 시스템이 초래할 결과에 대해 우려한다"고 말했다. 하지만 그는 자신의 연구 작업에 대해선 "똑 같은 작업을 할 것"이라고 강조했다. 힌튼은 1980년대 중반 다층 퍼셉트론과 역전파 알고리즘을 제안하면서 요즘 우리가 알고 있는 AI 연구의 기반을 닦았다. 역전파법은 챗GPT를 비롯한 많은 대용량언어모델(LLM)의 기반 기술이 됐다. 제프리 힌튼은 이날 노벨물리학상 수상자로 선정된 직후 워싱턴포스트와 인터뷰에서도 “AI가 초래할 수 있는 수 많은 나쁜 결과에 대해 걱정해야만 한다”고 강조했다. 이날 힌튼은 “(AI는) 여러 가치 측면에서 놀라우며, 엄청난 생산성 향상을 가져올 것이다”면서도 “인간보다 더 똑똑해질 경우 초래할 결과에 대해 우려하고 있다”고 덧붙였다. 그는 또 “어떤 물건들이 인간보다 더 똑똑해지는 상황을 경험한 적이 없다”고도 말했다. 인터뷰 당시 힌튼은 캘리포니아의 한 호텔에 묵고 있었다. 그는 노벨상 수상자로 선정된 직후 가진 워싱턴포스트와 인터뷰에서 “MRI 예약을 해 놨는데, 취소해야 할 것 같다”고 밝히기도 했다. 힌튼이 'AI의 위협'에 대해 경고한 것은 이번이 처음은 아니다. 지난 해 5월 힌튼은 10년 동안 몸 담았던 구글을 떠나면서 “AI가 인류에겐 존재론적 위협이 되고 있다”고 말해 많은 사람들을 깜짝 놀라게 했다. 당시에도 힌튼은 “AI가 사람보다 더 똑똑해지기까지는 아직 상당한 시간이 필요할 것이라고 생각했지만 이젠 그렇게 생각하지 않는다”는 말도 했다. 심지어 AI 시스템에서 일어나는 일이 사람 뇌보다 더 나은 경우도 있다고 경고했다. 힌튼은 오픈AI가 내놓은 GPT-4를 보면서 그런 생각을 하게 됐다고 밝혔다. 그는 MIT테크놀로지리뷰와 인터뷰에서 “외계인이 지구에 착륙했는데, 그들이 아주 훌륭한 영어를 구사하다보니 사람들이 그 위협을 깨닫지 못하고 있는 것과 비슷한 상황이다”고 주장했다. 노벨물리학상 공동 수상자인 존 홉필드도 AI에 대한 우려에 동참했다. 하지만 홉필드 교수는 AI 자체보다는 방대한 정보와 연결된 상황에 대해 경계심을 나타냈다. 이날 프린스턴대학 강당에서 가진 노벨상위원회와의 화상 인터뷰에서 "지구상의 방대한 정보 흐름과 결합된 AI에 대해 우려한다"고 말했다. 그는 또 "신경망의 간단한 알고리즘이 매우 거대한 정보 시스템을 통제할 수도 있다"면서 "그런 시스템의 작동 방식을 우리가 제대로 이해하지 못하고 있다는 점이 당황스럽다"고 강조했다.

2024.10.09 09:28김익현

'AI의 아버지' 제프리 힌튼, 노벨물리학상 받았다

'인공지능(AI) 4대 천황' 중 한 명으로 꼽히는 제프리 힌튼 토론토대학 교수가 노벨물리학상을 수상했다. 스웨덴 왕립과학원 노벨상위원회는 8일(현지 시간) 제프리 힌튼 캐나다 토론토대 교수와 존 홉필드 미국 프린스턴대 교수를 2024년 노벨물리학상 수상자로 선정했다고 발표했다. 노벨상위원회는 “인공신경망을 이용한 머신러닝의 근간이 되는 발견과 발명에 기여한 공로를 높이 평가했다”고 설명했다. ■ "인공신경망, 물리학 연구에 널리 활용…일상생활 한 부분됐다" 공동 수상자인 홉필드 교수는 1982년 '홉필드 네트워크'를 제안하면서 인공 신경망 연구의 초석을 다졌다는 평가를 받고 있다. '홉필드 네트워크'는 신경망의 물리적 모델로 최적화나 연상 기억 등에 사용된다. 기존 학습 패턴을 양극화한 뒤 가중치 행렬을 구하는 방식으로 작동된다. 특히 홉필드 네트워크는 두뇌에 기억이 저장되는 방식을 모방해 이미지나 정보 유형을 저장할 수 있는 신경망을 구축하는 기반이 됐다. 요즘 관심의 초점으로 떠오른 생성형 AI' 역시 근원을 따져 들어가면 홉필드 네트워크와 만나게 된다. 제프리 힌튼은 홉필드의 이런 연구 기반 위에서 'AI 4대 천황'으로 발돋움했다. 힌튼은 1986년 '홉필드 네트워크'를 토대로 다층 퍼셉트론과 역전파 알고리즘을 제안했다. 역전파법은 사람의 두뇌와 비슷한 방법으로 컴퓨터를 학습시킨다. 이 방법을 이용해 이미지를 구분하고, 문장에서 다음에 어떤 단어가 나올 지 예측하는 데 성공했다. 이를 통해 힌튼은 그 때까지 암흑기를 면치 못하고 있던 AI 연구의 새로운 돌파구를 열었다는 평가를 받고 있다. 그가 제안한 역전파법은 챗GPT를 비롯한 많은 대용량언어모델(LLM)의 기반 기술이 됐다. 당시 대학원생으로 힌튼 교수와 함께 역전파법 논문을 썼던 일리야 수츠케버는 챗GPT를 만든 오픈AI 공동 창업자 중 한 명이다. 노벨상위원회는 이런 부분을 높이 평가해 두 교수에게 물리학상을 수여하게 됐다. 위원회는 “홉필드 교수가 정보를 저장하고 재구성할 수 있는 구조를 만들었고, 힌턴 교수는 데이터 속성을 발견하는 방법을 개발했다”고 설명했다. 엘런 문스 노벨물리학상 위원장은 “이런 인공신경망은 입자물리학, 천체물리학, 재료과학을 비롯한 다양한 물리학 분야의 첨단 연구에 활용돼 왔다”면서 “이를 통해 그들은 얼굴인식과 언어 번역 등 우리 일상 생활의 한 부분이 됐다”고 강조했다. ■ 제프리 힌튼, AI 위험 경고하면서 세상 깜짝 놀라게 하기도 두 사람 중에선 제프리 힌튼이 대중적으로 훨씬 많이 알려진 편이다. 'AI 4대 천황'으로 통하는 힌튼은 2019년 조슈아 벤지오, 얀 르쿤 등과 함께 '컴퓨팅 분야 노벨상'으로 불리는 튜링상을 수상하기도 했다. 특히 힌튼은 토론토대학에 재직하면서 AI업체인 DNN리서치를 창업하기도 했다. 이 회사가 2013년 구글에 인수되면서 부사장 겸 엔지니어링 펠로우로 구글에 합류했다. 이후 10년 동안 구글의 AI 개발 작업을 진두 지휘해 왔다. 하지만 힌튼은 지난 해 5월 갑작스럽게 '구글 퇴사'를 세상을 깜짝 놀라게 했다. 힌튼이 구글과 결별한 가장 큰 이유로 'AI의 위협'을 거론했기 때문이다. 당시 힌튼은 “AI가 사람보다 더 똑똑해지기까지는 아직 상당한 시간이 필요할 것이라고 생각했지만 이젠 그렇게 생각하지 않는다”는 말도 했다. 심지어 AI 시스템에서 일어나는 일이 사람 뇌보다 더 나은 경우도 있다고 경고했다. 힌튼은 오픈AI가 내놓은 GPT-4를 보면서 그런 생각을 하게 됐다고 밝혔다. 그는 MIT테크놀로지리뷰와 인터뷰에서 “외계인이 지구에 착륙했는데, 그들이 아주 훌륭한 영어를 구사하다보니 사람들이 그 위협을 깨닫지 못하고 있는 것과 비슷한 상황이다”고 주장했다. 특히 힌튼이 두려워하는 것은 GPT-4 같은 뛰어난 기술이 사람을 죽이거나, 허위정보를 조작하는 등의 나쁜 행동에 동원될 가능성이 적지 않다는 점이다. 대용량언어모델(LLM)의 기반을 닦은 힌튼은 그 기반 위에 피어 오른 결실에 대해 '두려움'을 여과 없이 드러내 많은 화제를 몰고 오기도 했다.

2024.10.08 23:16김익현

노벨 물리학상에 제프리 힌튼·존 홉필드

올해 노벨 물리학상은 물리학 기반의 AI분야에서 나왔다. 수상자는 인공신경망을 이용한 머신 러닝 기술을 개발한 미국 프린스턴 대학교 존 J. 홉필드 교수와 캐나다 토론토 제프리 E. 힌튼 교수에게 돌아갔다. 스웨덴 카롤린스카 의대 노벨위원회는 8일(현지 시간) 존 홉필드 미국 프린스턴대 교수, 제프리 힌튼 캐나다 토론토대 교수를 수상자로 선정했다. 수상 분야인 인공 신경망에서 뇌의 뉴런은 서로 다른 값을 갖는 노드로 표현되는데, 이러한 노드는 시냅스에 비유할 수 있는 연결을 통해 서로에게 영향을 미친다. 존 J. 홉필드(John J. Hopfield) 교수는 데이터를 저장하고 재구성할 수 있는 연관 기억을 만들었다. 1933년 미국 일리노이주 시카고에서 태어났다. 홉필드 교수는 1958년 미국 뉴욕주 이타카 코넬대학교에서 박사학위를 취득했다. 미국 뉴저지주 프린스턴대학교 교수로 재직 중이다. 공동 수상자인 제프리 E. 힌튼 교수는 데이터를 통해 자동으로 속성을 찾아내고, 이를 통해 이미지에서 특정 요소를 식별하는 작업을 수행할 수 있는 방법을 개발했다. 힌튼 교수는 1947년 영국 런던에서 태어났다. 1978년 영국 에든버러 대학교에서 박사 학위 취득했다. 현재. 캐나다 토론토 대학교 교수로 재직 중이다.

2024.10.08 19:47박희범

"AI, 자가 복제 엄격 제한…살상무기화 금지"

영국과 미국, 캐나다, 중국 등지 인공지능(AI) 전문가들이 베이징에서 'AI 보안 국제 컨센서스'에 합의했다여 중국 언론 텅쉰커지 'AI 웨이라이즈베이'가 18일 보도했다. 이번 국제 합의는 중국 BAAI(Beijing Academy of Artificial Intelligence)가 제안했다. '인공지능 자율 복제 및 진화'에 초점을 맞춘 이번 합의는 인간의 명시적인 승인과 지원없이 인공지능 시스템이 스스로 복제하거나 개선해서는 안된다는 것이 골자다. 인공지능이 자신의 정확한 복사본을 만들고 유사하거나 더 강한 능력을 가진 새로운 시스템을 만드는 것 등이 포함된다. 또 인공지능 시스템이 자신의 힘과 영향력을 부적절하게 증가시키는 조치를 취할 수 없도록 했다. 이뿐 아니라 모든 인공지능 시스템이 사용자의 능력을 향상시켜 대량 살상 무기를 설계하거나 생화학 무기 협약을 위반해서도 안된다고 합의했다. 심각한 금전적 손실이나 그에 상응하는 피해를 초래하는 사이버 공격 분야를 지원해서는 안된다는 합의도 있었다. 여기에 모든 인공지능 시스템이 설계자나 규제 기관이 앞서 언급한 한계선을 넘을 가능성을 계속 오해하도록 유도해서도 안된다고 합의했다. 이날 합의에는 튜링상 수상자인 제프리힌튼 캐나다 토론토대학 교수와 요슈아 벤지오 캐나다 몬트리올대학교 교수, 스튜어트 러셀 영국 컴퓨터 과학자 겸 캘리포니아대학 교수, 로버트 트레이거 옥스퍼드 대학 인공지능 거버넌스에 관한 마틴 이니셔티브 공동 책임자, 토비오드 옥스퍼드대학 선임연구원, 튜링상 수상자인 야오치즈 중국 컴퓨터 과학자, 던송 중국계 미국인 컴퓨터 과학자, 제이드 렁 영국 AI 보안연구소 CTO, 장야친 중국 칭화대 지능형 산업 연구소장, 쉐란 칭화대 슈바르츠만칼리지 학장 등이 참석했다.

2024.03.19 08:27유효정