• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 인터뷰
  • 인사•부음
  • 글로벌뉴스
인공지능
배터리
양자컴퓨팅
컨퍼런스
칼럼•연재
포토•영상

ZDNet 검색 페이지

'고위험'통합검색 결과 입니다. (6건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

생물학 AI는 양날의 검…오픈AI, 정부·전문가 손잡고 '전방위 통제' 나선다

생물학 분야에서의 인공지능(AI) 활용이 기회와 위기의 경계선에 선 가운데 오픈AI가 이를 통제할 준비에 나섰다. 치료제 개발 등 긍정적 요소는 적극 장려하되 생물무기화 등 악용 소지는 선제 차단하겠다는 입장이다. 19일 오픈AI 공식 블로그에 따르면 이 회사는 생물학 분야에서 AI가 높은 수준의 위험 역량을 갖출 가능성을 인정하고 이를 전제로 한 완화 계획을 공개했다. 모델 출시 전부터 단계별로 위험을 평가하고 정부 및 전문가 집단과의 협업을 강화하겠다는 내용이다. 오픈AI는 이미 생물학자들과 협력해 이중 용도 평가 데이터를 구축했고 생물무기화를 방지하는 학습 체계를 모델에 적용해왔다. 특히 면역학이나 유전공학 등 민감 주제에 대해선 초보자가 따라할 수 있는 수준의 구체 지침을 모델이 출력하지 않도록 훈련 중이다. 또 위험한 요청을 실시간으로 감지하는 시스템을 전사적으로 운영 중이다. 위험성이 감지되면 AI 모델의 응답을 즉시 차단하고 자동 검토 뒤 사람이 직접 확인하는 절차까지 이어진다. 악용이 의심되면 계정을 막고 경우에 따라 경찰이나 관련 기관에 신고하게 된다. 더불어 실제 모델을 악용 가능한 방식으로 실험하는 전문 레드팀도 운영 중이다. 생물학자와 AI 보안 전문가를 짝지어 현실적 시나리오에서 취약점을 발굴하는 방식이다. 오픈AI는 이러한 안전 조치를 통해 모델 접근 제한 조치를 유지하면서도 검증된 기관엔 생물학 발전 목적의 활용 기회를 열겠다는 방침이다. 백신 개발, 병원체 탐지, 진단 솔루션 개선 등에 모델이 실질적 도움을 줄 수 있다고 판단하고 있다. 안전 외적 요소로도 시야를 넓혔다. 모델 자체 보호뿐 아니라 합성 유전자 감시 체계, 병원체 조기 탐지 인프라, 생물학 인프라 경화 같은 생태계 단위의 보안까지 대응이 필요하다고 보는 것이다. 이 같은 논의를 위해 오는 7월에는 생물방어 정상회의(Biodefense Summit)를 연다. 미국 및 우방국 정부 기관, 비정부기구(NGO) 등으로 구성된 협력체계를 통해 기술 진보와 안전 사이의 균형을 본격 논의할 예정이다. 오픈AI는 향후 AI와 생물학 융합이 신약·백신·연료·치료제 등 다양한 분야의 창업 기회로 이어질 수 있다고 전망했다. AI 안전 기술 자체도 하나의 산업 영역으로 성장 가능성이 있다는 판단이다. 오픈AI는 이사회 산하 안전·보안 위원회와 독립적인 평가 조직을 통해 모델 위험성을 평가하고 있다. 이 기준에 따르면 '높음' 수준 역량은 초보자도 AI의 도움으로 생물학적 위협을 만들어낼 수 있을 만큼 모델이 강력해진 상태를 뜻한다. 이런 모델은 일반에 공개하지 않거나 일부 기능을 제한하는 방식으로 출시가 조정된다. 오픈AI는 "생물학적 위협은 극단적 피해로 이어질 수 있기 때문에 사전 대응이 필수"라며 "고위험 모델은 충분한 완화 조치 없이는 절대 출시하지 않을 것"이라고 밝혔다.

2025.06.19 08:44조이환

씨피엑스시스템즈, 에너지·발전 분야 최초 AI 신뢰성 인증 획득…사업 확대 '날개'

씨피엑스시스템즈가 에너지·발전 분야에서 최초로 인공지능(AI) 신뢰성 인증을 획득해 사업 확대에 날개를 달았다. 씨피엑스시스템즈는 '싸이파이(CyPHAI) v1.0' 제품에 '인공지능 신뢰성 인증(CAT, Certification of Artificial Intelligence)'을 한국정보통신기술협회(TTA)로부터 획득했다고 6일 밝혔다. '싸이파이' 시스템은 풍력발전기 고장진단에 활용되는 AI 고장진단 시스템이다. 이 시스템은 풍력발전기 AI 기술을 기반으로 풍력터빈의 요소부품에서 발생할 수 있는 이상 현상을 조기에 진단한다. 또 고장을 사전에 예방하기 위한 목적으로 이상 유무를 사용자에게 제공하고 사용자의 결정을 지원한다. '싸이파이' 시스템은 기업의 거버넌스 구성, 데이터 구축 방법의 적절성, AI 모델 및 사고 발생 시의 추적 가능성, 사용자와의 상호작용 적절성 등 신뢰성 확보를 위한 인공지능 신뢰성 인증 요구사항 기준을 통과했다. 이번 인증 획득을 통해 씨피엑스시스템즈의 거버넌스 및 관리 체계는 한층 강화된 것으로 평가된다. 또 '싸이파이'는 보다 안전하고 신뢰할 수 있는 AI 시스템으로서 고객에게 최상의 성능을 제공할 수 있는 기반을 마련했다. 씨피엑스시스템즈는 최근 고위험 AI의 신뢰성에 대한 요구와 중요도가 부각되고 있는 만큼 이번 일이 사업 확장에 좋은 영향을 줄 것으로 기대했다. 또 향후에도 시스템이 적용되는 현장에서 충분한 데이터를 수집 및 학습하고 데이터 편향성을 개선해 시스템의 신뢰성을 확보하기 위한 노력을 지속한다는 계획이다. 최원 씨피엑스시스템즈 대표는 "이제는 민간자율적으로 AI로 인해 인류의 안전과 기본권의 피해가 발생하지 않도록 스스로 AI 인증을 받기 위해 노력해야 할 것"이라며 "앞으로도 급변하는 글로벌 AI 신뢰성 동향에 따른 요구사항을 만족할 수 있도록 인공지능 거버넌스를 유지하고, 글로벌 AI 신뢰와 관련해 경쟁력을 갖출 수 있도록 전문 기업으로 성장할 것"이라고 말했다.

2024.11.06 18:00장유미

"한국은 기본법도 없는데"…EU, 세계 최초로 AI 법안 발효

유럽연합(EU)이 인공지능(AI)법을 세계 최초로 발효했다. AI 기술의 안전하고 책임 있는 개발 및 사용을 촉진하기 위함이다. 2일 CNBC 등 외신에 따르면 EU AI법은 회원국·의회·집행위원회의 최종 승인을 받아 지난 1일부터 시행됐다. 이 법은 AI의 부정적 영향을 줄이고 기술 개발을 촉진하는데 필요한 법적 프레임워크 마련을 위해 도입됐다. EU AI법은 '금지 AI', '고위험 AI', '범용 AI 시스템' 등 총 12개의 주요 장으로 구성돼 있다. 특히 AI 시스템의 위험도를 기준으로 규제를 달리하는 '위험 기반 접근법(Risk-based approach)'을 채택해 엄격한 규제를 적용하거나 심지어는 금지한다. EU는 인권 침해 여부를 '금지·고위험 AI'의 주요 기준으로 삼는다. 여기에는 중국이 운영하는 시민 점수 체계나 구직자에게 순위를 매기는 이력서 스캐닝 도구와 같이 시민 자유·노동자 권리를 심각하게 침해하는 AI가 포함된다. 생성 AI에 대한 규제도 포함된다. 법안은 오픈AI '챗GPT', 구글 '제미나이', 앤트로픽 '클로드' 등을 범용 AI 시스템으로 규정하고 저작권 준수·투명성 공개·사이버 보안 보호 등 엄격한 규제를 부과한다. EU AI법은 시행 즉시 발효됐지만 대부분의 조항은 내후년부터 적용될 예정이다. 특히 상용 생성 AI 시스템에 대한 기업 의무 이행에는 36개월의 유예 기간이 주어졌다. 법안을 위반한 사업자는 최대 3천500만 유로(한화 522억원) 또는 연간 매출의 7%를 벌금으로 부과 받게 된다. 법안 실현을 위해 EU는 지난 3월 AI 사무소를 개설했다. 27개 유럽 회원국의 AI 관련 협력을 이끌고 법안 준수 여부를 모니터링 및 감독할 예정이다. EU 당국은 "AI법 최초 도입은 글로벌 표준을 만들기 위한 중요한 단계"라며 "이미 EU의 일반데이터보호규정(GDPR)은 국제 데이터 규제의 표준으로 작용한 바 있다"고 밝혔다.

2024.08.02 16:54조이환

한국정보산업연합회 "고위험AI 책무 최소화해야"

21대 국회서 불발된 인공지능(AI) 관련 법안이 22대 국회에서 제정될 가능성이 높은 가운데 AI 개발사업자와 AI 이용사업자 개념을 구분해 법률에 규정하고 고위험AI 책무를 최소화해야 한다는 의견이 제시됐다. 한국정보산업연합회(회장 정진섭)는 지난달 30일 발간한 '인공지능기본법 입법 추진현황 및 산업진흥 측면에서 본 이슈' 보고서를 발간, 이 같이 주장했다. 보고서는 인공지능 기술 및 산업 진흥에 초점을 두고 제22대 국회에 상정된 6개 발의안을 비교, 검토해 ▲정의 ▲추진체계 ▲산업발전 ▲윤리‧신뢰 ▲기타 항목으로 나눠 항목별 주요 이슈를 진단했다. 6개 발의안은 ▲인공지능 산업 육성 및 신뢰 확보에 관한 법률안(안철수 의원) ▲인공지능 발전과 신뢰 기반 조성 등에 관한 법률안(정점식 의원) ▲인공지능산업 육성 및 신뢰 확보에 관한 법률안(조인철 의원), ▲인공지능산업 육성 및 신뢰 확보에 관한 법률안(김성원 의원) ▲인공지능기술 기본법안(민형배 의원) ▲인공지능 개발 및 이용 등에 관한 법률안(권칠승 의원) 등이다. 보고서는 시사점에서 인공지능이 다른 기술·산업보다 발전속도나 파급력 등을 사전에 예측하기 어려운 특성을 가지고 있는 만큼 향후 시장이 성숙하고 문제가 심화할 때 관련 규제를 점차적으로 보완해나가는 방식이 적절하다고 제시했다. 또 법 제정 이후 시행령‧시행규칙 등 하위 법령뿐 아니라 기존 법령도 정비해야 하므로 인공지능 시대 대응을 위한 전반적인 법령 정비 방향과 계획도 필요하다고 짚었다. 한국정보산업연합회는 “인공지능기본법 제정이 시급하지만 앞서 산업계, 학계, 연구계, 시민단체, 개발자를 포함한 이해관계자들과의 의견수렴과 심도있는 논의가 요구된다”면서 “앞으로 IT산업계 의견을 제시해 실효성있는 법안을 제정할 수 있게 하겠다”고 밝혔다. 이 보고서는 한국정보산업연합회 홈페이지에서 내려받을 수 있다.

2024.08.02 09:27방은주

정부 9개 부처 "고위험·선도형으로 R&D 전환 가속페달"

과학기술정보통신부가 전부처를 대상으로 고위험·선도형 R&D로의 패러다임 전환에 속도를 냈다. 전환 방향은 고난이도 목표를 세우되, 혁신적 접근법으로 될 때까지 문제를 해결하겠다는 것이다. 내년 투자 규모가 1조 127억 원이다. 사업 꼭지는 신규 사업군을 포함해 총 34개다. 과기정통부는 30일 오후 세종컨벤션센터에서 혁신도전형(APRO) R&D 사업군과 관련있는 9개 부처 과장급 30여 명을 대상으로 사업 공유의 장을 마련했다. 이날 회의에서는 △'APRO' 사업추진 방향과 성과 △산업부 알키미스트 연구성과 △범부처 APRO 신규 기획방안 등이 공개됐다. 또 △과기정통부 한계도전 책임PM 도입의 필요성 △복지부 한국형 ARPA-H 추진방안 △'ARPO'맞춤형 제도개선 추진 경과 및 향후 과제 등도 논의 됐다. 참여 부처는 과기정통부를 비롯한 국토부, 복지부, 산업부, 중기부, 환경부, 해수부, 방사청, 우주항공청 등이다. 이 자리에는 R&D를 담당하는 각 부처 담당 과장 외에도 1조 원 대 'APRO' R&D사업 예산을 심의‧조정하는 정부 부서(과기정통부 연구예산총괄과, 기획재정부 연구개발예산과) 관계자도 참여했다. 또 고난도 목표를 지향하고 혁신적 방식으로 도전할 문화를 조성하기 위해 제도개선을 담당하는 부서(과기정통부 제도혁신과)도 참석했다. 임요업 과학기술혁신조정관은 "'APRO'형 R&D 제도를 지속 확립해 나갈 것"이라며 "실패를 두려워하지 않고 도전적 연구과정의 경험을 축적하는 문화를 정착시키는 등 R&D 체질 개선에 사활을 걸 것"이라고 말했다. 이와함께 이날 행사에서는 'APRO' R&D 사업군 목록 34개도 공개됐다. 혁신임무형 가운데 파괴적 혁신기술형 사업은 17개다. 주요사업을 보면 △한계도전R&D프로젝트 △실감콘텐츠핵심기술개발 △미래도전국방기술개발(PM기획) △STEAM연구(미래융합기술파이오니어, 과학난제융합연구개발) 등이 있다. 또 △자폐혼합형디지털치료제개발 △소재혁신양자시뮬레이터개발 △상시재난감시용성층권드론기술개발 △용융염원자로(MSR)원천기술개발 △플라즈마활용폐유기물원료화 △디지털룬샷프로젝트(한계돌파R&D) 등이 눈길을 끌었다. 초격차 신격차형은 12개 사업이 포함됐다. 주요 사업은 △달탐사2단계 △혁신형 소형모듈원자로 개발 △차세대 6G 산업기술개발 △소재부품기술개발(첨단전략산업초격차-이차전지) △PIM인공지능반도체핵심기술개발 △차세대발사체개발사업 △양자컴퓨팅기반양자이득도전연구 등이다. 창의도전형은 총 5건이다. 이 가운데 △디지털콜럼버스 프로젝트 △인간지향적 차세대 도전형 AI기술 개발이 눈에 들어온다.

2024.07.30 12:01박희범

혁신도전형 국가 R&D사업 협의체 출범

과학기술정보통신부(장관 이종호, 이하 '과기정통부')는 14일 서울 광화문 국가과학기술자문회의 대회의실에서 '혁신도전형 국가R&D사업 협의체' 출범식을 개최했다. 이날 출범식은 류광준 과학기술혁신본부장 주재로 혁신도전 대표사업 소관 4개 부처 담당 국장, 관련 연구관리전문기관 관계자 및 현장연구자들이 참석했다. 혁신도전 대표 사업은 ▲한계도전프로젝트(과기정통부) ▲한국형 ARPA-H 프로젝트(보건복지부) ▲혁신도전프로젝트(과기정통부) ▲산업기술알키미스트프로젝트(산업통상자원부) ▲미래도전국방기술개발(방위사업청) ▲과학난제융합연구개발(과기정통부) 등 6개다. 이날 출범식은 박상욱 과학기술 수석이 참석한 가운데 과기정통부 과학기술혁신본부의 '혁신도전형 국가R&D 추진방향' 및 6개 혁신도전 R&D 대표사업 추진현황 발표, 류광준 과학기술혁신본부장 주재 간담회로 진행됐다. 박상욱 과학기술수석은 “윤석열 정부 R&D 정책의 핵심은 세계 최고·최초를 지향하는 혁신적인 연구에 연구자들이 실패 걱정 없이 도전할 수 있도록 만드는 것"이라며 "이를 위해 혁신도전사업 추진 주체들이 벽을 허물고 노하우를 공유, 관련 제도를 상호 업그레이드 하는 것이 매우 중요하다”고 강조했다. 박 수석은 또 “그간 혁신도전형 사업들이 상호교류나 경험 축적 없이 각자 추진 되었던 아쉬움이 있었던 것이 사실이나, 앞으로는 대표선수들이 모인 협의체가 전체 R&D 체질 개선의 첨병이 돼 달라"고 당부했다. 박 수석은 “세계 최고·최초의 혁신적 연구에 대해서는 예산 지원을 아끼지 않겠다는 것이 정부의 일관된 원칙인 만큼 혁신도전형 R&D 투자목표를 2025년 1조원 이상, 2027년 정부 전체 R&D 예산의 5% 수준으로 설정할 것”이라고 언급했다. 이어진 간담회에서 참석자들은 '정부 R&D의 혁신도전성 강화방안 및 협의체의 발전적 운영방안' 등에 대해 다양한 의견을 개진했다. 간담회를 주재한 류광준 과학기술혁신본부장은 “향후 '혁신도전형 국가R&D사업 협의체'에 참여하는 관계부처, 연구관리전문기관, 현장연구자와 함께 지속적으로 소통하면서 '한국형 고위험 선도형 연구개발 생태계 확립'을 내실 있게 추진해 나가겠다”고 밝혔다.

2024.03.15 00:10박희범

  Prev 1 Next  

지금 뜨는 기사

이시각 헤드라인

갤럭시 Z7 공개 '초읽기'…폴더블폰 고성능 카메라·두께 경쟁 격화

권순호 라인플러스 CTO가 밝힌 ‘라인+야후재팬’ 기술 통합 뒷이야기

입점하면 서로 이득…유통가, ‘올다무’ 유치 경쟁 치열

새정부 독자AI 구축 의지...통신사, 자체 AI 모델 공개

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.