검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'tta'통합검색 결과 입니다. (63건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

"요슈아 벤지오·스튜어트 러셀도 동참"…TTA, AI 신뢰성 확보 나선다

한국정보통신기술협회(TTA)가 범용 인공지능(GPAI)의 위험을 체계적으로 분석하고 국제표준에 기반한 관리 체계를 제시해 기술 안전성·신뢰성을 높이는 데 기여했다. TTA 산하 AI신뢰성센터는 '범용 인공지능 위험 관리 프레임워크' 연구 보고서를 발표했다고 11일 밝혔다. 이번 보고서는 범용 AI의 잠재적 위험을 분석하고 효과적인 관리 방안을 마련하기 위해 국제표준을 반영한 것이 특징이다. TTA는 지난 2021년부터 과학기술정보통신부 및 관계 기관과 협력해 AI 신뢰성 인식 확산을 위해 다양한 연구를 진행해왔다. 이번 연구는 빠르게 발전하는 범용 AI 기술이 사회적·윤리적 영향을 미칠 가능성을 고려해 추진됐다. 보고서는 기존 연구에서 도출된 내용을 토대로 범용 AI에 특화된 8가지 핵심 위험 요소를 정의했다. 이를 통해 AI 관련 이해관계자들이 보다 명확히 위험을 인식하고 대비할 수 있도록 했다. 또 국제표준을 참고해 범용 AI 기술의 특수성을 반영한 위험 관리 프레임워크를 설계했다. 관련 기관에서 활용할 수 있도록 가이드라인을 제공하고 사례 분석을 통해 효과성을 검증했다. TTA가 마련한 프레임워크는 국내 인공지능 사업자들이 안전하고 신뢰할 수 있는 AI 서비스를 제공하는 데 실질적인 도움을 줄 것으로 기대된다. 이를 위해 국내 산·학·연 전문가 20명이 연구자문위원회로 참여해 완성도를 높였다. 또 AI 분야 석학인 요슈아 벤지오 몬트리올대 교수와 스튜어트 러셀 UC버클리대 교수의 의견을 반영해 국제적 공신력을 확보했다. 손승현 TTA 회장은 "최근 중국의 딥시크 공개 이후 개인정보 보호, 저작권, 국가 안보 등 AI 안전성 이슈가 부각되고 있다"며 "이번 연구 보고서가 AI 모델 및 서비스 개발 기업들이 인공지능을 안전하게 관리하는 데 중요한 참고자료가 되길 기대한다"고 밝혔다.

2025.02.11 14:42조이환 기자

LLM 학습용 데이터 유해표현 검출 AI모델 개발됐다

한국정보통신기술협회(TTA)는 LLM 학습용 데이터에 대해 유해 표현을 검출할 수 있는 AI 모델을 구축했다고 3일 밝혔다. 한국지능정보사회진흥원 초거대AI 학습용 데이터 품질검증 사업으로 개발된 모델이다. 유해 표현 검출 AI모델은 말뭉치 내 문장의 유해표현 여부를 먼저 판단하고, 유해 표현인 경우 카테고리를 분류해 말뭉치 유해성을 검출한다. 유해 카테고리는 국가인권위원회의 혐오표현 정의 '혐오표현대항 안내서'를 참고해 3가지 유형별 총 11개로 설정했다. 텍스트의 문맥을 고려해 유해성을 분석, 비속어가 포함되지 않는 유해 표현도 검출할 수 있다. 구축된 유해 표현 검출 AI모델과 학습용 데이터는 오픈소스 라이브러리, AI 모델 배포 플랫폼인 허깅페이스에 업로드가 이뤄졌다. 허깅페이스 API를 활용하면 누구나 손쉽게 모델을 통해 말뭉치 텍스트의 유해성을 분석하고 유해표현을 정제할 수 있다. 모델은 단계별로 KcELECTRA 파인튜징 버전과 선정 과정에서 고려했던 KoBERT 파인튜징 버전도 업로드돼 사용자가 골라 사용할 수 있다. 또한 사용자는 모델과 데이터 카드를 통해 세부 정보 및 테스트 결과를 확인하고 목적에 맞게 모델을 선택해 활용할 수 있다. 그간 생성형 AI 서비스의 신뢰성, 안전성 문제를 발생시켰던 학습용 말뭉치 데이터에 포함된 다양한 유해 표현을 정제하는 것이 쉽지 않았다. 이번에 오픈소스로 공개한 유해 표현 검출 AI 모델을 많이 이용해 더욱 안전하고 신뢰할 수 있는 AI사용기반이 정착될 전망이다. 손승현 TTA 회장은 “최근 다양한 분야에서 생성형 AI 기술이 활발히 적용되면서, LLM 학습용 텍스트 데이터에 대한 수요가 급증하고 있다”며 “LLM 기술의 윤리적 측면에 대한 사회적 관심도 높아지고 있고 모델은 배운 대로 텍스트를 생성하기 때문에 학습용 텍스트에 포함된 유해 표현을 정제하는 과정이 반드시 필요하다”고 말했다.

2025.02.03 11:17박수형 기자

TTA, 국내 1호 양자키분배장비 보안기능확인서 발급

한국정보통신기술협회(TTA)는 아이디퀀티크의 양자키분배장비(QKD) 'Clavis XG'에 국내 최초로 QKD 보안기능확인서를 발급했다고 22일 밝혔다. 보안적합성 검증은 국가정보통신망의 보안수준 제고를 위해 국가정보원법, 전자정부법에 따라 국가공공기관이 도입하는 정보보호시스템, 네트워크 장비, 양자암호통신장비 등 보안기능이 탑재된 IT 제품에 대해 안전성을 검증하는 제도다. 보안기능시험제도는 보안적합성 검증절차 간소화를 위해 TTA 등 공인 시험기관이 '국가용 보안요구사항' 만족 여부를 시험해 안전성을 확인해 주는 제도며, 이를 근거로 보안기능확인서를 발급하고 있다. TTA는 국가정보원으로부터 양자암호통신장비 공인 시험기관으로 지정받아 QKD, 양자키관리장비(QKMS), 양자통신암호화장비(QENC) 등 양자암호통신 전 제품군에 대해 보안기능시험 서비스를 제공하고 있다. TTA는 한국지능정보사회진흥원(NIA)이 구축한 '개방형 양자 테스트베드'를 활용하여 QKD 보안기능시험을 제공했다. 보안기능확인서를 획득한 아이디퀀티크의 'Clavis XG'는 QKD와 QKMS 일체형 장비다. 이 장비는 한국표준과학연구원(KRISS)의 시험을 통해 양자특성을 확인받았으며, 최종적으로 TTA에서 보안기능을 검증받았다. 손승현 TTA 회장은 “QKD는 양자암호통신의 핵심장비로, 이에 대한 보안성 검증은 기밀성과 무결성을 보장하기 위한 필수 요소”라며 “QKD 인증은 국산 양자암호 기술의 위상을 세계적으로 널리 알리며 글로벌 양자암호 시장을 선도할 것으로 기대된다”고 밝혔다.

2025.01.22 09:23박수형 기자