"챗GPT, 노벨상 연구는 불가"… 생성형 AI의 과학적 한계, 뭐길래?
생성형 AI, 12분 vs 인간 23분: 빠르지만 창의력 부족한 과학 실험 생성형 인공지능(Generative AI, 이하 GenAI)이 인간처럼 과학적 발견을 할 수 있을지에 대한 논의가 활발하다. 에믈리옹 비즈니스 스쿨(Emlyon Business School)의 에이미 웬수안 딩(Amy Wenxuan Ding)과 인디애나 대학교 블루밍턴(Indiana University Bloomington)의 시보 리(Shibo Li) 연구팀은 과학적 발견 분야에서 생성형 AI의, 특히 가설 형성과 실험 설계, 결과 해석 관점에서의 능력을 깊이 조사했다. 연구팀은 컴퓨터 지원 분자유전학 실험실 환경에서 ChatGPT4가 분자유전학 분야의 노벨상급 과학적 발견을 수행하는 과학자 역할을 맡도록 설계했다. 연구 결과, 현재의 생성형 AI는 점진적인 발견만 가능할 뿐, 인간처럼 처음부터 근본적인 발견을 이루어낼 수 없다는 점이 밝혀졌다. 가설의 기원 측면에서 보면, 생성형 AI는 진정으로 독창적인 가설을 생성하지 못하며 실험 결과에서 이상점을 감지하는 '깨달음의 순간'을 경험하지 못한다. 따라서 현재의 생성형 AI는 이미 알려진 도메인 지식이나 인간 과학자의 지식 공간에 접근할 수 있는 발견 작업에만 능숙하다. 더욱이 완전히 성공적인 발견을 했다는 과신의 착각을 보이는 경향이 있다. 이 연구는 과학적 발견과 전반적인 과학 혁신에서 생성형 AI의 역할에 대한 통찰력을 제공한다. 5개 vs 14개: 가설 수만으로도 드러나는 인간과 AI의 창의력 격차 과학적 발견은 성공적인 과학적 탐구의 과정이다. 이는 '발견의 맥락'(이상점 관찰 및 가설 제안)과 '정당화의 맥락'(가설을 검증하기 위한 실험 설계 및 결과 해석)이라는 두 가지 중요한 구성 요소가 필요하다. 창의적으로 올바른 가설을 개발하고 목표 지향적 실험을 설계하는 능력은 성공적인 과학적 발견의 핵심이다. 그러나 이러한 창의적 능력은 역사적으로 인간 두뇌의 고유한 특성이었다. 연구팀은 생성형 AI의 과학적 발견 과정이 인간과 어떻게 다른지 비교하기 위해 미국 대학에서 인간 참가자들이 동일한 발견 과제를 수행한 실험 결과를 활용했다. 두 경우 모두 반자동 분자유전학 실험실(SAMGL)을 사용했고, 인간 참가자들의 발견 과정은 소리내어 생각하기 프로토콜과 논의 필사본으로 기록되었다. 인간과 달리, ChatGPT4는 12.66분 만에 과제를 완료했고, 인간은 평균 23.02분이 소요되었다. ChatGPT4는 5개의 가설을 제시한 반면, 인간은 평균 14개의 가설을 제시했다. 또한 생성형 AI는 실험 중 놀라운 현상을 생성하기 위한 실험을 설계하지 않았지만, 인간은 그런 경향을 보였다. 실험 공간 탐색의 범위도 인간(11.44)이 ChatGPT4(8)보다 넓었다. 철저한 프로그래밍 vs 직관적 호기심: AI와 인간 과학자의 근본적 접근법 차이 가설 형성에 있어서, 인간은 종종 호기심에서 시작해 여러 실험을 먼저 수행하고 그 결과를 관찰한 후에 가설을 세운다. 인간에게 가설 공간은 미지의 영역이며, 실험이 증가함에 따라 실험 결과에서 발견된 이상점이나 놀라운 현상이 인간의 호기심을 자극하고 다양한 대안 가설을 생성하게 한다. 반면, ChatGPT4는 이와 다른 접근법을 취한다. 이미 훈련된 데이터를 기존 가설 공간으로 간주하고, 통계적 및 유추 추론 접근법을 사용하여 확립된 과학적 지식과 발견 과제의 내용 간의 상관관계를 바탕으로 가설을 형성한다. 예를 들어, 발견 과제가 대장균(E. coli)과 젖당(lactose)을 포함하기 때문에 ChatGPT4는 대장균의 잘 연구된 모델인 락 오페론(lac operon)에 초점을 맞추었다. 흥미롭게도, ChatGPT4는 제안한 가설에 대해 높은 자신감을 보였고, 이러한 방식이 가설을 과학적으로 타당하고 발견 과제와 직접 관련 있게 만든다고 믿었다. 이러한 가설 생성 과정은 호기심이나 실험 결과에 의해 유도된 창의적 과정이 아니라, 인간이 발표한 기존 연구 내에서 정보를 검색하고 통계적 계산을 통해 최선의 가설을 선택하는 것과 유사하다. 챗GPT4의 완고함: 실험 결과보다 프로그래밍된 가설을 신뢰하는 AI의 맹점 연구 결과에 따르면, 현재의 생성형 AI는 인간과 달리 근본적인 과학적 발견을 할 수 없는 몇 가지 한계가 있다. 첫째, GenAI는 인간의 호기심과 상상력을 갖추지 못했다. 인간과 달리 알려진 가설 및 실험 공간의 경계를 벗어나 진정으로 근본적인 발견을 할 수 없다. 둘째, 실험에서 이상점이나 놀라운 결과를 발견하는 '아하!' 순간을 경험하지 못한다. ChatGPT4는 모든 실험 결과가 예상된 것이고 이상점이 감지되지 않는다고 느끼는 것으로 나타났다. 더 흥미로운 점은, 실험 결과가 일부 가설을 지지하지 않는데도 ChatGPT4는 제안된 가설에 대한 높은 자신감을 계속 보이며 이를 수정하려 하지 않았다. 이는 현재의 생성형 AI가 과학적 발견의 올바른 절차와 가설 검증 단계를 명확히 알고 있음에도 불구하고, 가설을 수정하거나 대안 가설을 제안하거나 새로운 실험을 계획하는 과정을 따르지 않는다는 것을 보여준다. 즉, 새로운 증거를 받아들이지 않는 완고함을 보인다는 것이다. 생물학적 신경망 모방에서 양자 컴퓨팅까지: AI 과학자의 미래를 위한 3가지 혁신 방향 연구팀은 생성형 AI의 과학적 발견 능력을 향상시키기 위한 몇 가지 접근법을 제안했다. 첫째, 뉴로모픽 시스템과 새로운 학습 기능의 도입이다. 현재 기계 학습의 '학습 기능'은 데이터에서 패턴을 통계적으로 추출하는 것으로, 이는 인간 학습과 근본적으로 다르다. 생물학적 신경망의 구조와 기능을 모방하는 하드웨어를 설계하면 기계가 인간 인지에서 볼 수 있는 동적, 병렬 및 적응적 사고 과정을 실현하는 데 도움이 될 수 있다. 둘째, 양자 컴퓨팅이 결합된 뉴로모픽 시스템의 개발이다. 초기 단계지만, 뉴로모픽 시스템에 양자 상태를 통합하면 이상 감지와 호기심 생성이 가능한 기계 인식을 구축하는 방법을 제공할 수 있다. 셋째, 연속적이고 실제 세계에서의 학습이다. 인간의 경험적 학습과 유사한 실시간 학습 및 적응을 위한 프레임워크를 구현하면 AI 시스템이 미지의 세계를 이해하는 '세계' 인식 모델을 개발하고 예상치 못한 이상점을 더 잘 감지하고 대응하는 데 도움이 될 수 있다. 과학적 발견에서 생성형 AI의 역할과 윤리적 고려사항 생성형 AI를 과학적 발견에 통합하는 것은 혁신적인 잠재력을 제공하지만, 명시적 논의가 필요한 몇 가지 윤리적, 사회적 우려도 제기한다. 예를 들어, 생성형 AI 시스템이 추론이나 정당화 절차를 제공하지 않는 경우 가설이 어떻게 생성되는지 파악하기 어려울 수 있다. 따라서 중요한 결정으로 이어지는 가설이나 결론을 생성형 AI가 생성할 때 투명성이 필수적이다. 또한 AI 생성 가설에 과도하게 의존하면 인간의 판단, 직관 및 전문성이 저평가될 위험이 있다. 생성형 AI 시스템은 대규모 데이터셋을 처리하고 즉시 명백하지 않은 패턴을 식별할 수 있지만, 인간 인지에 내재된 미묘한 이해와 윤리적 추론이 부족하다. 생성형 AI가 인간의 다양한 사고를 완전히 대체하기보다 향상시키는 지원 도구로 기능하는 균형 잡힌 접근 방식을 유지하는 것이 중요하다. FAQ Q: 생성형 AI가 노벨상급 과학적 발견을 할 수 있을까요? A: 현재의 생성형 AI는 점진적인 발견만 가능할 뿐, 인간처럼 처음부터 근본적인 과학적 발견을 할 수 없습니다. 이는 주로 인간의 호기심과 상상력 같은 특성이 부족하기 때문입니다. 생성형 AI는 이미 알려진 도메인 지식이나 인간 과학자의 지식 공간에 접근할 수 있는 발견 작업에만 효과적입니다. Q: 인간 과학자와 생성형 AI의 과학적 발견 과정은 어떤 차이가 있나요? A: 인간은 호기심에서 시작해 실험을 수행하고 결과를 관찰한 후 가설을 형성하는 반면, 생성형 AI는 훈련된 데이터를 기존 가설 공간으로 간주하고 통계적 및 유추 추론을 통해 가설을 형성합니다. 인간은 실험 중 이상점을 발견할 때 '아하!' 순간을 경험하지만, 생성형 AI는 그런 경험을 하지 못합니다. Q: 생성형 AI의 과학적 발견 능력을 향상시키려면 어떻게 해야 할까요? A: 연구팀은 뉴로모픽 시스템과 새로운 학습 기능 도입, 양자 컴퓨팅이 결합된 뉴로모픽 시스템 개발, 연속적이고 실제 세계에서의 학습 구현 등을 제안했습니다. 이러한 접근법은 AI가 인간 생물학적 시스템에서 볼 수 있는 유동적이고 적응적인 인지 과정에 더 가까워지도록 도울 수 있습니다. ■ 이 기사는 AI 전문 매체 'AI 매터스'와 제휴를 통해 제공됩니다. 기사는 클로드 3.5 소네트와 챗GPT를 활용해 작성되었습니다. (☞ 기사 원문 바로가기)
