검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'고위험 AI'통합검색 결과 입니다. (3건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

씨피엑스시스템즈, 에너지·발전 분야 최초 AI 신뢰성 인증 획득…사업 확대 '날개'

씨피엑스시스템즈가 에너지·발전 분야에서 최초로 인공지능(AI) 신뢰성 인증을 획득해 사업 확대에 날개를 달았다. 씨피엑스시스템즈는 '싸이파이(CyPHAI) v1.0' 제품에 '인공지능 신뢰성 인증(CAT, Certification of Artificial Intelligence)'을 한국정보통신기술협회(TTA)로부터 획득했다고 6일 밝혔다. '싸이파이' 시스템은 풍력발전기 고장진단에 활용되는 AI 고장진단 시스템이다. 이 시스템은 풍력발전기 AI 기술을 기반으로 풍력터빈의 요소부품에서 발생할 수 있는 이상 현상을 조기에 진단한다. 또 고장을 사전에 예방하기 위한 목적으로 이상 유무를 사용자에게 제공하고 사용자의 결정을 지원한다. '싸이파이' 시스템은 기업의 거버넌스 구성, 데이터 구축 방법의 적절성, AI 모델 및 사고 발생 시의 추적 가능성, 사용자와의 상호작용 적절성 등 신뢰성 확보를 위한 인공지능 신뢰성 인증 요구사항 기준을 통과했다. 이번 인증 획득을 통해 씨피엑스시스템즈의 거버넌스 및 관리 체계는 한층 강화된 것으로 평가된다. 또 '싸이파이'는 보다 안전하고 신뢰할 수 있는 AI 시스템으로서 고객에게 최상의 성능을 제공할 수 있는 기반을 마련했다. 씨피엑스시스템즈는 최근 고위험 AI의 신뢰성에 대한 요구와 중요도가 부각되고 있는 만큼 이번 일이 사업 확장에 좋은 영향을 줄 것으로 기대했다. 또 향후에도 시스템이 적용되는 현장에서 충분한 데이터를 수집 및 학습하고 데이터 편향성을 개선해 시스템의 신뢰성을 확보하기 위한 노력을 지속한다는 계획이다. 최원 씨피엑스시스템즈 대표는 "이제는 민간자율적으로 AI로 인해 인류의 안전과 기본권의 피해가 발생하지 않도록 스스로 AI 인증을 받기 위해 노력해야 할 것"이라며 "앞으로도 급변하는 글로벌 AI 신뢰성 동향에 따른 요구사항을 만족할 수 있도록 인공지능 거버넌스를 유지하고, 글로벌 AI 신뢰와 관련해 경쟁력을 갖출 수 있도록 전문 기업으로 성장할 것"이라고 말했다.

2024.11.06 18:00장유미

"한국은 기본법도 없는데"…EU, 세계 최초로 AI 법안 발효

유럽연합(EU)이 인공지능(AI)법을 세계 최초로 발효했다. AI 기술의 안전하고 책임 있는 개발 및 사용을 촉진하기 위함이다. 2일 CNBC 등 외신에 따르면 EU AI법은 회원국·의회·집행위원회의 최종 승인을 받아 지난 1일부터 시행됐다. 이 법은 AI의 부정적 영향을 줄이고 기술 개발을 촉진하는데 필요한 법적 프레임워크 마련을 위해 도입됐다. EU AI법은 '금지 AI', '고위험 AI', '범용 AI 시스템' 등 총 12개의 주요 장으로 구성돼 있다. 특히 AI 시스템의 위험도를 기준으로 규제를 달리하는 '위험 기반 접근법(Risk-based approach)'을 채택해 엄격한 규제를 적용하거나 심지어는 금지한다. EU는 인권 침해 여부를 '금지·고위험 AI'의 주요 기준으로 삼는다. 여기에는 중국이 운영하는 시민 점수 체계나 구직자에게 순위를 매기는 이력서 스캐닝 도구와 같이 시민 자유·노동자 권리를 심각하게 침해하는 AI가 포함된다. 생성 AI에 대한 규제도 포함된다. 법안은 오픈AI '챗GPT', 구글 '제미나이', 앤트로픽 '클로드' 등을 범용 AI 시스템으로 규정하고 저작권 준수·투명성 공개·사이버 보안 보호 등 엄격한 규제를 부과한다. EU AI법은 시행 즉시 발효됐지만 대부분의 조항은 내후년부터 적용될 예정이다. 특히 상용 생성 AI 시스템에 대한 기업 의무 이행에는 36개월의 유예 기간이 주어졌다. 법안을 위반한 사업자는 최대 3천500만 유로(한화 522억원) 또는 연간 매출의 7%를 벌금으로 부과 받게 된다. 법안 실현을 위해 EU는 지난 3월 AI 사무소를 개설했다. 27개 유럽 회원국의 AI 관련 협력을 이끌고 법안 준수 여부를 모니터링 및 감독할 예정이다. EU 당국은 "AI법 최초 도입은 글로벌 표준을 만들기 위한 중요한 단계"라며 "이미 EU의 일반데이터보호규정(GDPR)은 국제 데이터 규제의 표준으로 작용한 바 있다"고 밝혔다.

2024.08.02 16:54조이환

한국정보산업연합회 "고위험AI 책무 최소화해야"

21대 국회서 불발된 인공지능(AI) 관련 법안이 22대 국회에서 제정될 가능성이 높은 가운데 AI 개발사업자와 AI 이용사업자 개념을 구분해 법률에 규정하고 고위험AI 책무를 최소화해야 한다는 의견이 제시됐다. 한국정보산업연합회(회장 정진섭)는 지난달 30일 발간한 '인공지능기본법 입법 추진현황 및 산업진흥 측면에서 본 이슈' 보고서를 발간, 이 같이 주장했다. 보고서는 인공지능 기술 및 산업 진흥에 초점을 두고 제22대 국회에 상정된 6개 발의안을 비교, 검토해 ▲정의 ▲추진체계 ▲산업발전 ▲윤리‧신뢰 ▲기타 항목으로 나눠 항목별 주요 이슈를 진단했다. 6개 발의안은 ▲인공지능 산업 육성 및 신뢰 확보에 관한 법률안(안철수 의원) ▲인공지능 발전과 신뢰 기반 조성 등에 관한 법률안(정점식 의원) ▲인공지능산업 육성 및 신뢰 확보에 관한 법률안(조인철 의원), ▲인공지능산업 육성 및 신뢰 확보에 관한 법률안(김성원 의원) ▲인공지능기술 기본법안(민형배 의원) ▲인공지능 개발 및 이용 등에 관한 법률안(권칠승 의원) 등이다. 보고서는 시사점에서 인공지능이 다른 기술·산업보다 발전속도나 파급력 등을 사전에 예측하기 어려운 특성을 가지고 있는 만큼 향후 시장이 성숙하고 문제가 심화할 때 관련 규제를 점차적으로 보완해나가는 방식이 적절하다고 제시했다. 또 법 제정 이후 시행령‧시행규칙 등 하위 법령뿐 아니라 기존 법령도 정비해야 하므로 인공지능 시대 대응을 위한 전반적인 법령 정비 방향과 계획도 필요하다고 짚었다. 한국정보산업연합회는 “인공지능기본법 제정이 시급하지만 앞서 산업계, 학계, 연구계, 시민단체, 개발자를 포함한 이해관계자들과의 의견수렴과 심도있는 논의가 요구된다”면서 “앞으로 IT산업계 의견을 제시해 실효성있는 법안을 제정할 수 있게 하겠다”고 밝혔다. 이 보고서는 한국정보산업연합회 홈페이지에서 내려받을 수 있다.

2024.08.02 09:27방은주