검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'AI 표절'통합검색 결과 입니다. (4건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

무하유 "AI가 복제한 뉴스 기사 가려낸다"

무하유가 생성 인공지능(AI)이 작성한 뉴스 기사들 사이의 유사도를 분석하는 기술을 개발한다. 무하유는 한국콘텐츠진흥원이 주관하는 'AI가 작성한 뉴스 기사에 특화된 유사도 비교 기술 개발' 과제 참여 기업으로 선정됐다고 29일 밝혔다. 이번 과제는 AI로 작성된 뉴스 기사가 무분별하게 복제되거나 인용되는 문제를 해결하고 언론의 신뢰성과 저작권 보호에 기여하고자 하는 목적으로 추진됐다. 무하유는 지난 13년간 AI 표절검사 서비스인 '카피킬러'를 운영하며 쌓아온 데이터 분석 및 자연어 처리(NLP) 기술을 기반으로 생성형 AI 콘텐츠의 유사도 비교 기술을 개발할 예정이다. 특히 100만 건의 뉴스 데이터를 분석해 유사도 구성 요소를 정의하고 각 요소의 표준 비율을 설정할 계획이다. 또 다양한 메타 데이터를 활용한 관리 기술도 개발할 예정이다. 여기에는 유형별 메타 데이터와 형태소를 포함해 유사도를 구성하는 여러 요소를 체계적으로 관리할 수 있는 플랫폼 구축이 포함된다. 무하유는 표절을 사전에 방지하고 윤리적 콘텐츠 생산을 촉진하기 위해 다양한 표절검사 서비스를 운영 중이다. 이 중 '카피킬러'는 표절 여부, 출처 표기 누락, 중복 게재 여부 등을 빠르게 검토할 수 있는 기술을 제공한다. 최근에는 표와 이미지의 표절 여부를 분석하는 '비주얼체커'도 출시했다. 지난해에는 생성 AI가 작성한 문장을 탐지하는 'GPT킬러'를 선보이며 AI 오남용 방지에도 앞장서고 있다. 이 기술은 문단 단위로 분석해 생성 AI의 개입 여부를 94%의 정확도로 판별한다. 신동호 무하유 대표는 "AI가 작성한 기사 저작물의 유사도를 시각적으로 판단하는 것은 매우 어려운 일"이라며 "표준화된 유사도 수치로 평가할 수 있는 기술을 통해 언론의 신뢰성과 저작권 보호에 크게 기여할 수 있을 것"이라고 말했다.

2024.10.29 17:13조이환

'챗GPT' 등장에 대학 문화도 달라졌다…韓·英 대응 차이 '극명'

지난 2022년 11월 '챗GPT'가 등장한 이후 생성 인공지능(AI) 기술이 급격히 발전하면서 대학 교육 현장 역시 큰 변화를 맞이하고 있다. 국내 대학들은 이에 대한 명확한 대응책을 마련하지 않아 회색지대가 넓어지는 분위기다. 반면 영국의 일부 명문 대학들은 강경한 금지 조치를 취하고 있지만 학생들의 반발에 직면해 정책 변화를 검토하고 있다. 23일 업계에 따르면 현재 국내 대부분의 대학은 아직 생성형 AI에 대한 공식적인 정책을 마련하지 않은 것으로 알려졌다. 일부 대학은 생성형 AI 활용에 대한 공식적인 지침을 제공하고 있다. 일례로 성균관대학교는 생성형 AI를 무단으로 활용할 경우 불이익을 줄 수 있다고 명시했다. 연세대학교는 올해 초 '생성형 AI 사용 가이드라인'을 마련해 학생들에게 안내하고 있다. 그럼에도 불구하고 이는 전체 대학 중 소수에 불과한 것으로 분석된다. 많은 대학에서는 생성 AI의 활용에 대해 교수별로 해석과 적용이 달라 학생들이 혼란을 겪고 있는 것으로 알려졌다. 어떤 교수는 사용을 금지하고 어떤 교수는 허용하되 출처를 명시하도록 요구하기 때문이다. 이로 인해 학생들은 어떤 기준을 따라야 할지 어려움을 느끼고 있다. 경남의 한 대학에 재학 중인 Y모 군은 "학교에서 생성 AI에 대한 공식적인 정책은 없는 것 같다"며 "교수마다 지침이 달라 어떤 교수는 사용이 의심된다면 F를 주고 어떤 교수는 전면 허용한다"고 말했다. 그러면서 "학생 입장에서는 편리하기 때문에 사용하지만 걸리면 학점에 불이익을 받을 수 있어 불안하다"고 토로했다. 서울 소재 대학을 올해 졸업한 K모 씨도 비슷한 의견을 전했다. 그가 교수들로부터 전해들은 바에 따르면 많은 학생들은 현재 '챗GPT', '클로드' 등 여러 모델을 동시에 사용하는 식으로 여러 번 덧씌우는 과정으로 과제를 수행한다. 그는 "교직원들이 사실상 이런 AI 도구들을 통해 작성된 레포트를 감지하는 건 거의 불가능하다는 것을 인정하는 추세"라며 "AI를 활용해 작성한 과제를 감지하는 것도 현실적으로 어려워 레포트 과제가 줄고 시험 위주의 평가로 바뀌는 것 같다"고 밝혔다. 이와 달리 영국 명문 대학 중 상당수는 생성 AI 사용에 대해 강경한 금지 조치를 취하고 있는 것으로 알려졌다. 실제로 런던정경대(LSE)는 올해 초 AI 도구의 사용을 명확히 금지하고 이를 어길 경우 0점을 부여하겠다고 밝힌 바 있다. 이러한 조치에 대해 영국 현지에서 학생들의 불만이 커지고 있다. 런던정경대 석사과정에 재학 중인 T모 씨는 "AI 탐지 도구의 정확도가 떨어져 논리적이고 정합적인 문장을 모두 기계가 작성한 것으로 간주해버린다"며 "이런 상황에서 학생들은 좋은 글을 쓰려는 의욕을 잃게 된다"고 비판했다. 옥스퍼드 대학도 비슷한 입장이다. 학교 측은 "시험이나 제출 과제에서 허가되지 않은 AI 사용은 심각한 징계 대상"이라며 "AI 사용이 허가된 경우에도 표절 규정이 적용되며 AI 사용 내역을 명확히 밝혀야 한다"고 공지한 바 있다. 이에 옥스퍼드 대학 박사과정에 있는 R모 씨는 "AI를 금지하는 것은 시대착오적인 조치"라며 "AI를 막기보다는 창의적 사고를 촉진하는 도구로 활용할 수 있도록 해야 한다"고 주장했다. 이러한 학생들의 반발로 인해 일부 영국 대학들은 정책 변화를 검토하고 있다. 실제로 런던정경대는 오는 9월부터 AI 사용을 허용하는 방향으로 정책 전환을 추진 중인 것으로 알려졌다. 전문가들은 생성 AI의 활용이 불가피한 시대에 대학들이 명확한 정책을 마련해야 한다고 지적한다. 생성 AI 기술은 이미 교육과 연구 현장에서 광범위하게 활용되고 있으며 이를 단순히 금지하는 것은 현실적이지 않다는 것이다. 익명을 요청한 한 영국 대학 관계자는 "생성 AI 기술이 교육 보조 도구로서 큰 잠재력을 지니고 있으며 생산성 향상에 도움이 된다는 점을 모두가 알고 있다"며 "'방안에 코끼리가 들어선 것(Elephant in the room)'처럼 명확한 현실을 아무도 얘길 안 하는 상황을 극복해 AI를 허용하는 방향으로 가야 한다"고 말했다. 그러면서 "물론 학생들이 학문적 정직성을 지킬 수 있도록 대학 차원의 가이드라인이 필요하다"고 강조했다.

2024.09.23 17:49조이환

오픈AI, 챗GPT 표절 탐지기 개발했지만 미공개

오픈AI가 챗GPT로 표절한 글을 탐지할 수 있는 도구를 보유하고 있음에도 이를 공개하지 않는 것으로 드러났다. 월스트리트저널(WSJ)은 4일 오픈AI가 약 1년 동안 챗GPT 표절 검사기 출시 준비를 진행했으며 이후 2년간 공개 여부에 대해 논쟁했다는 점을 내부 문서 통해 단독 보도했다. 이 도구는 챗GPT로 작성된 글에 워터마크를 인식할 수 있다. 현재 워터마크는 사람 눈에 보이지 않지만, 해당 도구로 확인할 수 있다. 탐지기는 전체 문서나 일부 문서가 챗GPT로 작성됐을 가능성을 점수로 표시한다. 내부 문서에 따르면 정확도가 99.9%다. 현재 회사 내부에선 도구 출시에 대한 의견이 엇갈린 것으로 전해졌다. 출시를 지지하는 한 직원은 "챗GPT가 편리함을 제공하는 것만큼 윤리적인 장치도 필수적"이라고 주장했다. 챗GPT는 명령어 한 줄만으로도 몇 초 만에 에세이나 연구 논문 전체를 작성할 수 있다. 그동안 학생들은 챗GPT 결과물을 과제에 활용해 표절을 진행했다는 사례가 잇따라 전해졌다. 미국 뉴욕시 고등학교에서 영어와 저널리즘을 가르치는 교사 알렉사 커터맨은 "그동안 교사들끼리 챗GPT 표절 문제에 대해 끊임 없이 우려해 왔다"고 WSJ에 말했다. 샘 알트먼 오픈AI 최고경영자(CEO)와 미라 무라티 최고기술책임자(CTO)도 표절기 출시를 논의한 것으로 전해졌다. 내부 소식통에 따르면, 알트먼 CEO와 무라티 CTO가 해당 도구 개발 프로젝트를 추진했지만 출시에는 소극적이었다. WSJ은 오픈AI 직원들이 챗GPT 사용자가 워터마크를 고의로 지워 표절 감지를 피할 수 있다는 점을 우려한다고 보도했다. 예를 들어 챗GPT로 생성한 텍스트를 다른 언어로 번역한 뒤 원문으로 재번역하면 워터마크가 사라진다. 이럴 경우 표절기는 워터마크를 인식할 수 없다. 해당 도구에 접근할 수 있는 사용자 범위 정하는 것도 문제다. 극소수 사용자만 탐지기를 이용할 수 있으면 효율성이 낮고, 모든 사람이 이를 활용할 수 있으면 악용될 소지가 있기 때문이다. 현재 오픈AI 내부에서는 이 탐지기를 학교에만 공급하는 것으로 의견을 모았다. 교사나 교수들이 AI로 작성된 논문과 표절 작업을 식별하기 위해 이 도구를 유용하게 이용할 목적이다. 이 외에도 표절 작업 식별에 도움 주는 외부 회사에 제공하자는 의견도 나왔다. 오픈AI 관계자는 "텍스트 워터마킹은 기술적으로 훌륭하지만 중요한 위험성을 갖고 있다"며 "AI 생태계에 미칠 수 있는 영향을 고려하는 등 신중한 접근 방식이 필요하다"고 밝혔다.

2024.08.05 12:17김미정

무하유 "AI로 이미지 표절 검사하세요"

앞으로 인공지능(AI) 기술로 텍스트뿐 아니라 표나 이미지 표절 검사까지 진행할 수 있게 됐다. 무하유는 AI 기반 표·이미지 식별 솔루션 '비주얼체커'를 출시했다고 18일 밝혔다. 비주얼체커는 표절검사에 최적화된 표·이미지 식별 솔루션이다. 논문 내 삽입된 표나 이미지를 분석한 후 표절여부를 판단한다. 무하유가 지난 13년 간 AI 기반 표절검사 서비스 '카피킬러'를 운영하며 모은 100억 건 데이터를 바탕으로 개발된 제품이다. 텍스트 중심 표절 분석의 한계를 극복하고, 표절 분석 정확도를 향상시키기 위해 AI 기반의 대규모 표 이미지 분석 기술이 적용됐다. 연구·교육 문서에서 사용된 표나 이미지 등을 딥러닝 학습을 통해 객체 단위로 분리 및 추출하고, 문서 내 추출된 데이터를 대규모 데이터와 상호 비교해 유사 이미지 분석 및 검증이 가능하도록 구현했다. 비주얼체커를 활용하면 문서 작성자 스스로 표·이미지에 대한 중복 사용 여부를 확인함으로써 표절을 사전 예방하고, 학습 윤리를 준수하는 인식을 가질 수 있다. 문서 검토자도 논문 검증을 위한 피드백 및 지도 도구로 활용하면서 객관적인 평가 체제를 마련할 수 있다. 이 외에도 연구개발(R&D) 사업의 중복 수행 검증, 교수학습 시 사용되는 강의 교안 내 포함된 이미지 사전 검사, 공공 및 연구 분야에서의 연구윤리 기준 확보 등 목적에 맞게 다양하게 활용될 수 있다. 무하유는 향후 비주얼체커를 카피킬러에 접목시킬 계획이다. 문서 업로드 한번으로 텍스트는 물론, 표나 이미지까지 아우르는 완전한 표절검사를 진행할 수 있도록 할 목표다. 비주얼체커에 사용된 표·이미지 식별 기술은 일본 및 중국에 특허 출원을 완료했다. 신동호 무하유 대표는 "그동안 표나 이미지에 대한 표절 탐지는 이미지 유사도 측정 기술 한계로 수작업으로 진행됐다"며 "비주얼체커를 통해 전문지식 없이도 이미지를 빠르고 정확하게 검증할 수 있을 것"이라고 설명했다.

2024.07.18 17:06김미정