검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'챗봇 AI'통합검색 결과 입니다. (165건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

챗GPT로 쓴 글 걸러내는 앱 등장

미국 한 대학생이 챗GPT로 작성한 글을 선별하는 애플리케이션을 만들었다. 미국 프린스턴대 4학년에 재학 중인 애드워드 티안은 챗GPT로 쓴 에세이를 걸러낼 수 있는 기술인 'GPT제로' 앱을 만들었다고 가디언이 11일(현지시간) 보도했다. 앱이 나온지 1주일 만에 조회 수 3만건을 기록했다. 이 앱은 텍스트가 인공지능(AI)에 의해 작성됐는지 여부를 확인하기 위해 문장 구조를 측정하고, '언어적 간헐성' 비율을 자동 인식한다. 언어적 간헐성이란, 특정 문장이나 단어가 사용되는 비율과 특정 문맥에서의 단어 사용 빈도 수치를 의미한다. 그 후 해당 결과를 챗GPT 언어 데이터와 비교한다. 애드워드 티안은 “분석 결과가 챗봇 데이터와 유사할수록 챗GPT가 쓴 글일 확률이 높은 결과가 나왔다”고 설명했다. 그는 "데모 버전으로 만든 초기 모델보다 글 탐지 기능이 좋아졌다"고 말했다. 현재 탐지 정확도는 98%라고 주장했다. 티안은 학생들이 챗GPT를 에세이 과제나 시험에서 부정행위 목적으로 사용하는 현상을 막기 위해 개발했다고 밝혔다. 그는 "앞으로 몇 달 동안 GPT챗 구축을 구축함으로써 모델 기능 끌어 올려 앱 성능 확장에 집중하겠다"고 말했다. 이에 오스트레일리아에 있는 뉴사우스웨일스대 토비 월시 AI과학부 교수는 해당 기술 상용화에 의문점을 표했다. 토비 월시 교수는 "글로벌 빅테크 기업이 GPT제로 앱을 고도화하도록 도와야만 챗GPT에 대항할 만큼 강력해질 수 있다"며 "대기업 도움 없이는 챗GPT로 쓴 글을 100% 솎아낼 수는 없다"고 지적했다.

2023.01.13 09:27김미정

"AI 챗봇 개발 정체기, 2026년에 온다"

인공지능(AI)챗봇 발전이 3년 안에 정체될 수 있다는 연구 결과가 나왔다. AI 모델 훈련에 사용하는 고품질 언어 데이터 생산이 수요를 따라잡지 못해서다. 미국 AI 연구자 커뮤니티 '에포크'에서 활동하는 파블로 빌랄로보스 박사팀은 AI 챗봇에 필요한 고품질 언어 데이터 생성 속도와, 챗봇 훈련에 필요한 데이터량을 분석한 결과를 뉴사이언티스트가 7일(현지시간) 보도했다. AI 챗봇 훈련에 필요한 언어 데이터셋 크기는 매년 약 50%씩 증가했다. 이대로 AI 챗봇이 꾸준히 발전하려면 새 언어 데이터량을 매해 50% 이상 늘려야 한다는 의미다. 그러나 훈련을 위해 사람이 만든 데이터 규모 증가율은 7%에 그친 것으로 나타났다. 연구팀은 "이 속도로는 챗GPT 같은 모델을 훈련시키는 데 사용되는 품질 높은 언어 데이터가 2026년에 고갈될 것이다"며 "언어 관련한 AI 기술 발전이 정체될 수 있다"고 경고했다. 반면 달리-2, 미드저니와 같은 이미지 생성AI에 필요한 이미지 데이터 고갈 확률은 낮게 봤다. 빌랄로보스 박사는 "품질 높은 언어 데이터 생성은 보통 책이나 과학 논문 등에서 인간이 직접 가져온다"며 "이때 드는 비용적·시간적 효율성이 크게 떨어져 지금과 같은 결과를 낳았다"고 강조했다. 반면 블로그나 웹사이트에서 가져온 텍스트에 기반한 데이터는 충분할 것이라고 덧붙였다. 상대적으로 품질이 낮을 경우 언어 데이터 생성 속도가 빠르기 때문이라는 이유에서다. 그러나 저품질 언어 데이터는 챗봇 모델 발전 속도를 더디게 할 수 있다. 연구팀은 "낮은 품질 데이터는 챗GPT 등 모델 발전 속도를 늦추고 오류, 윤리적 문제 등을 더 낳을 수 있다"고 지적했다. 이에 가브리엘 페레이라 런던정경대 객원교수는 "지금까지 고품질 데이터를 집중적으로 수집해 챗봇이나 생성AI 등 분야에 긍정적 결과를 얻은 것"이라며 "현대 AI 발전의 관건은 고품질 데이터 규모에 있다"고 강조했다. 빌랄로보스는 "AI 연구자들은 이러한 언어 데이터 생성 이슈를 해결해야 한다"며"그렇지 않으면 당장 3년 후 데이터 고갈을 맞이할 것이다"고 전했다. 해결법은 해결법이 아예 없지는 않다. 이론적으로 인간이 아닌 AI가 자체 생성한 언어 데이터를 모델에 넣어 데이터셋을 늘릴 수 있다. 예를 들어, AI 챗봇에 있는 언어 데이터를 다른 언어로 번역한 후 다시 기존 의미로 되돌리거나, 원본에 있는 단어를 동의어로 대체해 새로운 데이터셋으로 생성하는 식이다. 이에 대해 빌랄로보스는 "지금으로서는 유일한 해결책일 수 있다"고 말했다. 앤드류 헌트 AI독립연구원도 "현재 머신러닝, 딥러닝 등은 기존 데이터에서 새로운 데이터를 얻기 위해 지속적인 수정 작업을 거치고 있어 가능성 있는 해결법이다"고 뉴사이언티스트를 통해 입장을 밝혔다. 그러나 연구팀을 비롯한 전문가들은 "AI가 직접 생성·수정한 데이터셋을 사용하는 건 위험하다"고 입을 모았다. 언어 수정 중 발생할 수 있는 의미 왜곡, 오류, 편향이 복합적으로 생길 수 있다는 이유에서다. 앤드류 헌트는 "데이터 부족 현상은 현재 고품질 언어 데이터에만 한정된 상태다"며 "지금부터라도 해결책을 찾아 향후 AI 발전에 미치는 영향을 줄여야 한다"고 전했다.

2023.01.10 11:44김미정

뉴욕시, 공립학교서 챗GPT 접속 차단

뉴욕시 공립학교가 대화형 AI '챗GPT' 이용을 차단했다. 학생의 학습효과에 부정적 영향을 준다는 이유에서다. 5일(현지시간) 미국 지디넷에 따르면, 뉴욕시 공립학교는 교내 네트워크와 기기에서 학생과 교사의 챗GPT 접근을 차단했다. 작년 11월 공개된 챗GPT는 오픈AI에서 개발한 대화형 AI 챗봇이다. 사용자와 대화하면서 질문에 답변을 제시한다. 기초적인 질문뿐 아니라 요리 레시피, 소프트웨어 프로그래밍, 고등학교 수준의 에세이 작문 등에서 높은 수준의 답변을 제공해 화제를 모으고 있다. 챗GPT는 인터넷에서 답변을 검색하지 않고, 그 지식베이스는 2021년 이후 일어난 사건과 이벤트를 포함하지 않는다. 뉴욕시 교육부는 "학생 학습에 부정적 영향을 주고, 콘텐츠의 안전성과 정확성에서 우려돼 뉴욕시 공립학교의 네트워크와 기기에서 접근을 제한한다"고 설명했다. 챗GPT는 다양한 주제로 에세이를 작성할 수 있다. 미국 학교에서 작문 과제는 학생의 지식과 아이디어를 표현하는 능력을 테스트하는 용도로 널리 사용되고 있다. 챗GPT가 과제 작성에 사용될 경우 과제 의미 자체가 없어진다. 월스트리트저널의 조나 스턴 컬럼니스트는 챗GPT로 AP 영어에세이를 작성했고, 포브스의 직원 엠마 윗포드는 20분만에 2개의 대학교 에세이를 작성하기도 했다. 제나 릴 뉴욕시 교육부 대변인은 "이 도구는 질문에 빠르고 쉬운 답변을 제공하지만, 학업과 평생 성공에 필수적인 비판적 사고와 문제 해결 기술을 만들어주지 않는다"고 강조했다. 시 교육부는 개별 학교에서 챗GPT 기술을 연구하는 경우에 접근을 요청받아 허용하겠다고 밝혔다. 학생이 학교 외부에서 자신의 기기와 네트워크로 접근할 수 있으므로 부정행위의 위험을 모니터링할 계획이다. 테크크런치에 따르면, 오픈AI는 챗GPT에서 생성된 콘텐츠를 찾아내는데 도움을 주는 '완화' 방안을 개발중이다. 워터마크처럼 챗GPT 작성 텍스트를 식별하는 도구를 만들고 있다는 것이다. 챗GPT는 다양한 주제로 답변하고, 꽤 그럴싸한 콘텐츠를 작성한다. 그러나 설득력 있어 보이지만 사실과 다른 답변을 제시하는 사례가 많다. 스택오버플로우는 이에 챗GPT로 생성한 답변을 공유하는 것을 금지하기도 했다. 머신러닝국제컨퍼런스는 챗GPT로 생성된 텍스트를 포함한 논문 제출을 금지했다.

2023.01.06 09:16김우용

[영상] 이루다, 단기간에 100만 달성 이유는 소통?

AI 챗봇 이루다 2.0 출시 40일 만에 메신저 앱 '너티'가 누적 100만 다운로드를 넘어섰습니다. 너티는 이루다와 대화할 수 있는 메신저 앱인데요. 이루다가 AI 편향 및 개인정보 남용 논란이 있었고, 자체 메신저를 다운받아야 하는 만큼 모객이 쉽지 않을 것이란 점을 감안하면 이런 성과는 상당히 이례적이라고 할 수 있습니다. 이런 초기 어려움에도 이루다가 성과를 낼 수 있었던 것은 소통을 통해 개인의 외로움을 해소한 것이 큰 것으로 보입니다. 점차 사회가 파편화되고 개인화되면서 마음 놓고 이야기할 상대가 줄어드는 상황에서 언제든 대화가 가능하다는 점이 매력으로 다가왔다는 해석입니다. 실시간 소통이 가능한 대나무 숲이라고 할까요. 김종윤 스캐터랩 대표 역시 출시 전 진행한 간담회에서 언제 어디서나 대체할 수 없는 친구가 되어 사람들에게 힘을 주고 싶었다고 합니다. 이루다와 대화하며 외로움을 덜고 힘을 얻었다는 사용자들의 글이 서비스 중단 후 재개의 원동력이기도 했다고 하죠. 스캐터랩은 이루다를 통해 사용자들이 좋은 대화를 나누고 친밀한 관계를 만들 수 있는 대화의 원칙을 적용했다고 합니다. AI가 대화의 문맥과 상황을 바탕으로 적절한 흐름을 만들고, 재미있고, 귀엽고, 설레는 등 따뜻한 감정을 느끼는 것을 목표로 한다고 하네요. 이러한 의도가 잘 맞아떨어진 것인지 좋은 평가를 받고 있는데요. 아쉬운 점은 이루다가 20살 대학생으로 설정돼 있다 보니 그 이상 연령대는 의도치 않은 세대차이를 느끼곤 하는 것 같습니다. 추후에는 다양한 연령대에 그리고 남성 버전까지 추가된다면 보다 다양한 세대를 아우를 수 있지 않을까 싶네요. 자세한 이야기는 영상을 통해 확인하실 수 있습니다.

2023.01.05 16:40남혁우

英 오프퀄 "챗GPT로 컨닝시 실격"...지침 논의 중

영국 시험 감독기관 오프퀄은 학생들이 인공지능(AI) 챗봇을 시험에 사용하는 현상을 막기 위해 지침을 내놓을 예정이라고 밝혔다. 영국 미러와 텔레그래프는 오프퀄(Ofqual)이 지난해 말 오픈AI가 내놓은 '챗GPT'으로 부정행위한 학생에게 시험 자격 박탈을 포함한 제재를 발표할지 여부를 논의 중이라고 1일(현지시간) 보도했다. 그동안 영국 교사들은 숙제나 시험에 챗GPT를 이용한 컨닝 등 부정행위 심각성을 표명하며 이에 대한 적절한 조치가 필요하다는 목소리를 정부에 지속적으로 냈다. 오프퀄 대변인은 "현재 영국 시험 위원회와 지속적으로 회의 중이며 관련 사항을 시행할지 고려할 것이다"고 밝혔다. 이에 앞서 더가디언은 미국 학계가 학생들의 창의력 저하, 표절을 문제 삼으며 관련 기업이나 대학에 대책 마련을 요청했다고 보도한 바 있다. 당시 미국 표절 소프트웨어 기업 턴잇인은 "학계에서 학생들이 AI챗봇으로 표절하거나 관련 글을 사용한 흔적을 식별해 작업을 평가하도록 해야 한다"고 주장했다.

2023.01.02 11:01김미정