• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
  • AI의 눈
반도체
인공지능
AI의 눈
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'고위험'통합검색 결과 입니다. (2건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

정부, AI기본법 후속 법령 시행…"산업 지원 확대·위험 관리 가속"

정부가 인공지능(AI) 산업 육성과 위험 관리를 아우르는 AI법·제도 체계를 추가 가동한다. 21일 정부에 따르면 AI기본법 시행령과 하위 고시 등 후속 법령이 이날부터 시행됐다 이번 제도 시행으로 AI 산업 육성책과 안전·신뢰 확보 의무가 산업 현장에 적용된다. 우선 정부는 국가기관과 지방자치단체 공공기관이 제품·서비스를 구매할 때 AI 활용 제품을 우선 고려하도록 지원한다. 공공부문을 AI 제품·서비스 초기 수요처로 활용해 민간 시장 확대를 이끌겠다는 취지다. AI 기술 활용 여부를 확인하는 'AI 제품·서비스 확인제도'도 추진된다. 기업이 확인서를 받으면 다수공급자계약 참여 요건 완화와 총액계약 적격심사 가점 등 공공조달 시장에서 우대를 받을 수 있다. AI 이용이 어려운 국민을 지원할 수 있는 법적 근거도 마련됐다. 국가와 지방자치단체는 장애인과 고령자, 경력보유여성 구직자 등에게 AI 제품·서비스 이용 비용을 지원할 수 있다. 정부는 AI 기업과 전문인력 육성 정책도 확대한다. AI 전문인력 교육과 취업을 지원하고 모태펀드로 AI 창업기업에 대한 투자를 추진할 방침이다. 공공데이터를 AI 학습에 활용하기 위한 제공 기준도 구축된다. 공공이 보유한 데이터를 AI 개발에 활용할 수 있도록 제공 방식과 절차를 한층 구체화할 계획이다. 기업들도 제도 시행에 맞춰 내부 대응 체계 정비에 나섰다. 네이버와 카카오, SK텔레콤, KT, LG유플러스, 업스테이지 등은 AI 안전 조직과 위험관리 체계를 구축하고 생성형 AI 결과물 표시를 확대하고 있다. 업계에선 생성형 AI 표시 의무 적용 범위가 여전히 모호하다는 지적이 나온다. AI를 어느 정도 활용해야 표시해야 하는지 명확하지 않다는 이유에서다. 또 사람이 결과물을 편집하거나 검수했을 때도 같은 의무가 적용되는지를 두고 혼선이 이어지고 있다. 고영향 AI 판단 기준도 주요 쟁점이다. 의료와 금융, 채용, 교육 분야에서 어떤 서비스가 사람 생명과 안전 기본권에 중대한 영향을 미치는지를 미리 판단하기 어려워서다. 이에 기업들은 서비스 출시 전 법률 검토와 위험 평가에 추가 비용을 투입해야 할 가능성이 커졌다. 인력과 자금이 부족한 스타트업에는 규제 대응 비용이 시장 진입 장벽으로 작용할 수 있다는 우려가 나오고 있다. 해외 주요국은 산업 환경에 따라 서로 다른 규제 방식을 택하고 있다. 미국과 일본은 산업 육성과 기술 혁신에 무게를 두고 있으며, 유럽연합(EU)은 AI 시스템 위험 수준에 따라 의무를 차등 부과하는 AI법을 단계적으로 시행하고 있다. 정부는 최소 1년 이상 계도기간을 운영할 계획이다. 이 기간 산업계 의견과 적용 사례를 수렴해 고영향 AI 판단 기준과 생성형 AI 표시 방식을 가이드라인에 구체화할 방침이다. 배경훈 부총리 겸 과학기술정보통신부 장관은 "공공부문이 마중물이 돼 혁신적인 AI 기술을 신속하게 도입하고 국민에게 더 우수한 공공서비스를 제공하겠다"고 말했다.

2026.07.21 09:40김미정 기자

생물학 AI는 양날의 검…오픈AI, 정부·전문가 손잡고 '전방위 통제' 나선다

생물학 분야에서의 인공지능(AI) 활용이 기회와 위기의 경계선에 선 가운데 오픈AI가 이를 통제할 준비에 나섰다. 치료제 개발 등 긍정적 요소는 적극 장려하되 생물무기화 등 악용 소지는 선제 차단하겠다는 입장이다. 19일 오픈AI 공식 블로그에 따르면 이 회사는 생물학 분야에서 AI가 높은 수준의 위험 역량을 갖출 가능성을 인정하고 이를 전제로 한 완화 계획을 공개했다. 모델 출시 전부터 단계별로 위험을 평가하고 정부 및 전문가 집단과의 협업을 강화하겠다는 내용이다. 오픈AI는 이미 생물학자들과 협력해 이중 용도 평가 데이터를 구축했고 생물무기화를 방지하는 학습 체계를 모델에 적용해왔다. 특히 면역학이나 유전공학 등 민감 주제에 대해선 초보자가 따라할 수 있는 수준의 구체 지침을 모델이 출력하지 않도록 훈련 중이다. 또 위험한 요청을 실시간으로 감지하는 시스템을 전사적으로 운영 중이다. 위험성이 감지되면 AI 모델의 응답을 즉시 차단하고 자동 검토 뒤 사람이 직접 확인하는 절차까지 이어진다. 악용이 의심되면 계정을 막고 경우에 따라 경찰이나 관련 기관에 신고하게 된다. 더불어 실제 모델을 악용 가능한 방식으로 실험하는 전문 레드팀도 운영 중이다. 생물학자와 AI 보안 전문가를 짝지어 현실적 시나리오에서 취약점을 발굴하는 방식이다. 오픈AI는 이러한 안전 조치를 통해 모델 접근 제한 조치를 유지하면서도 검증된 기관엔 생물학 발전 목적의 활용 기회를 열겠다는 방침이다. 백신 개발, 병원체 탐지, 진단 솔루션 개선 등에 모델이 실질적 도움을 줄 수 있다고 판단하고 있다. 안전 외적 요소로도 시야를 넓혔다. 모델 자체 보호뿐 아니라 합성 유전자 감시 체계, 병원체 조기 탐지 인프라, 생물학 인프라 경화 같은 생태계 단위의 보안까지 대응이 필요하다고 보는 것이다. 이 같은 논의를 위해 오는 7월에는 생물방어 정상회의(Biodefense Summit)를 연다. 미국 및 우방국 정부 기관, 비정부기구(NGO) 등으로 구성된 협력체계를 통해 기술 진보와 안전 사이의 균형을 본격 논의할 예정이다. 오픈AI는 향후 AI와 생물학 융합이 신약·백신·연료·치료제 등 다양한 분야의 창업 기회로 이어질 수 있다고 전망했다. AI 안전 기술 자체도 하나의 산업 영역으로 성장 가능성이 있다는 판단이다. 오픈AI는 이사회 산하 안전·보안 위원회와 독립적인 평가 조직을 통해 모델 위험성을 평가하고 있다. 이 기준에 따르면 '높음' 수준 역량은 초보자도 AI의 도움으로 생물학적 위협을 만들어낼 수 있을 만큼 모델이 강력해진 상태를 뜻한다. 이런 모델은 일반에 공개하지 않거나 일부 기능을 제한하는 방식으로 출시가 조정된다. 오픈AI는 "생물학적 위협은 극단적 피해로 이어질 수 있기 때문에 사전 대응이 필수"라며 "고위험 모델은 충분한 완화 조치 없이는 절대 출시하지 않을 것"이라고 밝혔다.

2025.06.19 08:44조이환 기자

  Prev 1 Next  

지금 뜨는 기사

이시각 헤드라인

네카오 'AI 수익화' 시점 변했다...네이버는 시작, 카카오는 내년

갤럭시 워치9·울트라2, 이통3사 지원금 비교해보니

中 키미 K3, 인터넷 무단접속→정답 확인…보안 강화해야

빅테크는 ASIC, 범용은 엔비디아…좁아지는 K-NPU 입지

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.