검색 - IT세상을 바꾸는 힘 지디넷코리아

무하유 "AI가 복제한 뉴스 기사 가려낸다"

무하유가 생성 인공지능(AI)이 작성한 뉴스 기사들 사이의 유사도를 분석하는 기술을 개발한다. 무하유는 한국콘텐츠진흥원이 주관하는 'AI가 작성한 뉴스 기사에 특화된 유사도 비교 기술 개발' 과제 참여 기업으로 선정됐다고 29일 밝혔다. 이번 과제는 AI로 작성된 뉴스 기사가 무분별하게 복제되거나 인용되는 문제를 해결하고 언론의 신뢰성과 저작권 보호에 기여하고자 하는 목적으로 추진됐다. 무하유는 지난 13년간 AI 표절검사 서비스인 '카피킬러'를 운영하며 쌓아온 데이터 분석 및 자연어 처리(NLP) 기술을 기반으로 생성형 AI 콘텐츠의 유사도 비교 기술을 개발할 예정이다. 특히 100만 건의 뉴스 데이터를 분석해 유사도 구성 요소를 정의하고 각 요소의 표준 비율을 설정할 계획이다. 또 다양한 메타 데이터를 활용한 관리 기술도 개발할 예정이다. 여기에는 유형별 메타 데이터와 형태소를 포함해 유사도를 구성하는 여러 요소를 체계적으로 관리할 수 있는 플랫폼 구축이 포함된다. 무하유는 표절을 사전에 방지하고 윤리적 콘텐츠 생산을 촉진하기 위해 다양한 표절검사 서비스를 운영 중이다. 이 중 '카피킬러'는 표절 여부, 출처 표기 누락, 중복 게재 여부 등을 빠르게 검토할 수 있는 기술을 제공한다. 최근에는 표와 이미지의 표절 여부를 분석하는 '비주얼체커'도 출시했다. 지난해에는 생성 AI가 작성한 문장을 탐지하는 'GPT킬러'를 선보이며 AI 오남용 방지에도 앞장서고 있다. 이 기술은 문단 단위로 분석해 생성 AI의 개입 여부를 94%의 정확도로 판별한다. 신동호 무하유 대표는 "AI가 작성한 기사 저작물의 유사도를 시각적으로 판단하는 것은 매우 어려운 일"이라며 "표준화된 유사도 수치로 평가할 수 있는 기술을 통해 언론의 신뢰성과 저작권 보호에 크게 기여할 수 있을 것"이라고 말했다.

2024.10.29 17:13조이환

러시아, 美 대선 트럼프 승리 위해 온라인 허위 정보전 펼쳤다

러시아가 온라인에서 가짜 신분과 유령 회사를 이용해 미국 유권자들의 정치적 분열을 조장하고 있다는 의혹이 제기됐다. 국영 미디어 러시아투데이(RT)가 온라인 콘텐츠를 활용해 미국 대선에 영향을 미치기 위한 다양한 수법을 동원한 것으로 드러났다고 로이터가 최근 보도했다. 특히 RT는 정치 뉴스를 조작하고 허위 인물을 생성하며 봇 및 가짜계정을 통해 온라인 허위정보를 유포한 것으로 알려졌다. 이같은 행보는 트럼프 전 대통령에 대한 지지를 강화하려는 시도로 보인다는 해석이다. 미국 정부는 RT의 이러한 활동이 러시아의 은밀한 정보전의 일환으로 파악하고 있다. 미국 내 정치적 혼란을 조장하고 러시아가 선호하는 선거 결과를 유도하려는 전략이라는 것이다. 실제로 미국 법무부는 RT 직원 두 명을 기소했다. 이들은 미국 내 정치적 분열을 증폭시키려는 목적으로 테네시 주의 한 회사에 온라인 콘텐츠 제작을 위탁하고 1천만 달러를 지급한 혐의를 받고 있다. 미국 중앙정보국(CIA) 등 정보기관은 이러한 외국 세력의 사이버 정보작전에 대응하기 위해 경계를 강화하고 있다. 또 러시아 외에도 중국과 이란 등 여러 국가가 미국 내 정치적 영향력을 행사하려는 시도를 지속하고 있다고 경고했다. 전문가들은 "러시아의 이러한 정보전은 단순한 정치 개입이 아니라 장기적인 글로벌 전략의 일환으로 볼 수 있다"며 "사이버보안을 강화해 외부 세력의 개입을 차단하는 것이 필수적"이라고 강조했다.

2024.09.12 14:27조이환

안랩, 외장매체 제어솔루션 출시…엔드포인트 보안 강화

안랩이 '안랩 EDC(AhnLab EPP Device Control)'로 엔드포인트 보안을 한층 강화한다. 안랩은 외장매체 제어솔루션 '안랩 EDC'를 출시했다고 18일 밝혔다. 새로 추가된 이 솔루션은 안랩의 엔드포인트 보호 플랫폼 '안랩 EPP'에 플러그인 형태로 추가된다. '안랩 EDC'는 외장매체의 접근과 동작을 제어하고 통합 관리 기능을 제공한다. 또 장치 제어 현황 모니터링과 통계·보고서 기능도 갖췄다. 이에 따라 고객사는 업무용 PC 등 기업 인프라·자산에 연결된 외장매체를 효과적으로 통제할 수 있게 됐다. 이 제품은 '안랩 EPP'를 사용 중인 고객이 라이센스를 추가하기만 하면 쉽게 적용할 수 있다. 또 단일 관리 화면을 통해 매체 제어 기능도 즉시 활용할 수 있게 했다. 이에 따라 조직 내 외장 매체 사용 가시성이 확보돼 악성코드 감염과 정보 유출을 효과적으로 방지할 수 있다. 안랩은 특히 생산설비 서버와 서비스 시스템 등 주요 자산에 대한 보호 능력이 향상될 것으로 전망한다. 안랩 김창희 제품서비스기획실장은 "최근 매체 제어 솔루션에 대한 고객 니즈가 지속적으로 증가하고 있다"며 "'안랩 EDC'로 보안 담당자들이 점증하는 엔드포인트 위협에 효율적으로 대응할 수 있을 것으로 기대한다"고 밝혔다.

2024.07.18 16:03조이환

고정관념에 빠진 AI?…메타, 아시아인 이미지 오류 논란

메타의 인공지능(AI) 기반 이미지 생성기가 아시아인과 백인이 함께 있는 사진을 제대로 표현해내지 못했다고 미국 IT매체 더버지가 4일(현지시간) 보도했다. 이 같은 오류는 아시아인에 대한 고정 관념 때문일 가능성이 많다고 이 매체가 지적했다. 보도에 따르면 메타의 AI 이미지 생성기는 '아시아계 남성과 백인 아내', '아시아계 여성과 백인 남편'을 생성해달라는 단순한 지시도 제대로 이행하지 못했다. 프롬프트 내용을 변경해도 결과는 동일했다고 이 매체는 전했다. 이를테면 '개와 함께 웃고 있는 아시아계 남성과 백인 여성'을 요청하자 아시아인 2명의 이미지만 생성해냈다. '아시아 남성과 백인 여성의 결혼식'이라는 프롬프트에는 수트 차림의 아시아 남성과 전통 의상을 입은 아시아 여성을 생성하며 오류는 지속됐다. 더버지는 이 같은 오류에 대해 "아시아인과 백인이 함께 있는 모습을 주변에서 많이 볼 수 있는 데도 불구하고 메타의 AI 이미지 생성기는 그런 장면을 상상하지 못하는 것 같다"고 지적했다. 그러면서 "아시아인이 백인 옆에 서 있다는 것을 상상하지 못하는 문제는 심각하다"고 지적했다. 더버지는 흥미롭게도 '백인 아내를 둔 남아시아 남성'의 프롬프트를 명령하자 좀 더 정확한 이미지가 생성됐다고 설명했다. 이번 오류 배경으로 AI의 편향성이 의심된다고 지적했다. 남아시아 여성의 이미지엔 인도의 전통의상인 빈디와 사리가 추가 되기도 하는 등 고정관념에 크게 의존한 경향을 보였다. 생성형AI의 인종차별 학습 문제는 지속 불거져왔다. 영국 스태빌리티의 '스테이블디퓨전'에 최고경영자(CEO)를 그려달라는 명령을 내리자 백인 남성을 그리고 반면 범죄자는 흑인 남성으로 생성하는 등의 사례가 대표적이다. 더버지는 이같은 오류는 아시아인이 미국 내 문화에서 본질적으로 지워지고, 심지어는 주류 언론에서 과소대표 될 수 있다고 전했다. 더버지는 이같은 오류에 대해 질의 했지만 메타 측은 답변을 하지 않았다.

2024.04.05 11:14이한얼

美 AI 총기 탐지기 '이볼브' 효과 의문...오작동률 85%

미국 뉴욕시가 설치 예정인 인공지능(AI) 총기 탐지기 이볼브(Evolv)가 기대와는 달리 잦은 오작동을 한 것으로 나타났다. 이볼브는 마이크로소프트 창업자 빌 게이츠가 투자해 주목을 받은 업체다. 3일(현지시간) 미국 IT 매체 더 버지는 지난 2022년 뉴욕시 소재 한 병원에서 7개월 동안 이볼브를 사용한 결과 전체 검색 19만4천건 중 5만건을 무기 소지로 분류했지만 85%가 오작동인 것으로 확인됐다. 최근 총기 사고가 큰 폭으로 늘면서 뉴욕시는 안전 대책을 강구하기 시작했고 이볼브를 통해 총격 사건을 원천적으로 차단하겠다는 계획이었다. 앞서 지난달 에릭 애덤스 뉴욕시장은 이볼브를 테스트할 예정이라며 해당 기술은 분명히 효과가 클 것이라고 전했다. 매체는 당시 미 법률구조협회가 이볼브에 대해 회의적인 입장을 표했다면서 결과적으로 이들의 입장이 옳았고 이볼브는 결코 대안이 될 수 없음을 시사한다고 보도했다.

2024.04.03 10:09이한얼

"성인 인증 없이 구매"…방심위, 해외 플랫폼 성인용품 집중 '접속차단'

방송통신심의위원회는 14일 통신심의소위원회를 열고, 해외 온라인 쇼핑몰 등에서 로그인이나 별도의 성인인증 절차 없이도 누구나 열람하고 구매 가능한 성인용품 정보 276건에 대해 '접속차단'으로 심의·의결했다고 밝혔다. 해당 정보는 자위행위 기구 등 청소년유해매체물로 특정고시된 성인용품임에도, 성인인증은 물론 청소년 유해문구도 없이 청소년들의 열람이 가능한 상태였다. 또한 간단한 검색어만으로도 이른바 '리얼돌' 등 인체 모사성인용품의 자극적인 사진 등을 여과 없이 볼 수 있는 것으로 확인됐다. 방심위는 "이달 8일부터 약 일주일간 긴급 모니터링한 결과만으로도 이 정도의 건수가 나왔다"며, "앞으로도 여성가족부가 심의 요청한 정보와 함께 지속적으로 중점 모니터링을 진행하겠다"고 밝혔다. 현행 청소년보호법 등 관련 법령에 따르면 공개를 목적으로 인터넷 등을 통해 청소년유해매체물을 제공할 때에는 19세 미만 청소년이 이용할 수 없음을 알리는 '유해표시'를 해야 하고, 동시에 '성인인증' 기능을 갖춰야 한다. 방심위는 "방송통신위원회, 여성가족부 등 유관기관과 협의해 해외 온라인 쇼핑몰 사업자의 경각심을 제고하고, 보다 적절한 조치가 취해질 수 있도록 협력방안을 강구할 계획"이라고 말했다.

2024.03.14 15:58안희정

"업무 혼선 줄인다"...MS 팀즈, 개인·업무용 단일 앱 전환

마이크로소프트(MS)가 협업 툴 팀즈를 개인 업무와 회사 업무에 자유롭게 사용할 수 있는 통합 버전을 내놓는다. 13일(현지시간) 미국 IT 매체 더버지에 따르면 마이크로소프트가 오는 4월 팀즈 단일 버전을 출시할 예정이다. 팁즈 통합 버전을 사용하면 별도로 로그인을 하지 않고도 업무 회의에 참여할 수 있다. 앱에서는 알림도 개선돼 업무 시 어느 팀에서 알림이 왔는지 확인할 수 있다. 또 별도 앱을 설치하고 실행할 필요 없이 작업 표시줄을 사용할 수 있다. 보도에 따르면 마이크로소프트는 공식 블로그를 통해 "개인 등 업무 사용자로부터 일관된 피드백을 받았다. 개인 계정과 회사 계정에 쉽게 액세스하고 전환할 수 있는 단일 앱을 선호한다"고 밝혔다.

2024.03.14 13:14이한얼