• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
  • AI의 눈
ZDPick
지스타2026
반도체
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'고위험 AI'통합검색 결과 입니다. (3건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

중부발전, 발전소 현장 피지컬 AI 기술 발굴…'지능형 로봇 챌린지' 개최

한국중부발전(사장 이영조)은 지난 13일 산업통상부 주최로 진행된 제21회 국제로봇콘테스트에서 발전소 현장 피지컬 AI 기술 발굴을 위해 '한국중부발전 지능형 로봇 챌린지'대회를 개최했다고 16일 밝혔다. 대회는 발전소 등 고위험 작업환경의 안전을 강화하고 업무 효율성을 높이기 위한 로봇 기술을 발굴하고자 마련됐다. 지난 4월 예선을 거쳐 사내 직원과 로봇 기업으로 구성된 16개 팀이 본선에 진출했다. 대회는 '아이디어 기획(10팀)'과 '제품 개발·활용(6팀)' 두 부문으로 나뉘어 진행됐다. 현장 위험 요인 해결 방안을 제시한 아이디어 기획 부문에서는 '마그비전' 팀이 대통령상을 수상했다. 마그비전팀은 탱크 저장소 외벽에 자력으로 붙어 스스로 이동하는 '발전소 옥내·외 저장소 자력 기반 AI 자율 진단 로봇 플랫폼'을 제안해 높은 평가를 받았다. 산업부장관상은 '터빈 케이싱 스터드 자동 체결·분해 로봇 시스템'을 선보인 '우사인볼트' 팀이, 지식재산처장상은 '태양광 AI 자율주행 제초 및 모듈 상태 진단 로봇'을 제안한 '위드로버' 팀이 각각 수상했다. 기술의 현장 적용성을 검증한 제품 개발·활용 부문에서는 '다바드림' 팀이 국무총리상을 받았다. 이들은 '자율주행 드론을 활용한 시설물 AI 분석 플랫폼'을 통해 대형 시설물의 3D 매핑과 손상부 자동 탐지 기술을 선보였다. 국가기술표준원장상은 '4족 보행로봇 플랫폼 기반 AI 위험감지 솔루션'을 제시한 'SAI Guard' 팀에게 돌아갔다. 유해가스와 자연발화 위험이 있는 옥내 저탄장의 낙탄 회수 작업을 무인화한 '콜 클리어' 팀은 중부발전사장상을 수상했다. 중부발전은 이번 출품작 실효성을 높이기 위해 전문적인 인큐베이팅 과정을 운영했다. 본선 진출팀을 대상으로 'KAIST 역량강화 프로그램'을 도입해 피지컬 AI 핵심 기술 교육을 지원하고 한국로봇학회 등과 연계한 전문가 멘토링을 통해 기술적 완성도와 현장 적용 가능성을 강화했다. 이영조 중부발전 사장은 “이번 챌린지는 피지컬 AI 로봇 기술을 통해 발전 현장 안전성과 효율성을 근본적으로 혁신하기 위한 실질적인 시도”라며 “앞으로도 산학연과의 지속적인 기술 혁신과 개방형 협업을 바탕으로 발전산업의 인공지능 전환(AX)을 이끌어 가겠다”고 밝혔다.

2026.11.16 17:08주문정 기자

정부, AI기본법 후속 법령 시행…"산업 지원 확대·위험 관리 가속"

정부가 인공지능(AI) 산업 육성과 위험 관리를 아우르는 AI법·제도 체계를 추가 가동한다. 21일 정부에 따르면 AI기본법 시행령과 하위 고시 등 후속 법령이 이날부터 시행됐다 이번 제도 시행으로 AI 산업 육성책과 안전·신뢰 확보 의무가 산업 현장에 적용된다. 우선 정부는 국가기관과 지방자치단체 공공기관이 제품·서비스를 구매할 때 AI 활용 제품을 우선 고려하도록 지원한다. 공공부문을 AI 제품·서비스 초기 수요처로 활용해 민간 시장 확대를 이끌겠다는 취지다. AI 기술 활용 여부를 확인하는 'AI 제품·서비스 확인제도'도 추진된다. 기업이 확인서를 받으면 다수공급자계약 참여 요건 완화와 총액계약 적격심사 가점 등 공공조달 시장에서 우대를 받을 수 있다. AI 이용이 어려운 국민을 지원할 수 있는 법적 근거도 마련됐다. 국가와 지방자치단체는 장애인과 고령자, 경력보유여성 구직자 등에게 AI 제품·서비스 이용 비용을 지원할 수 있다. 정부는 AI 기업과 전문인력 육성 정책도 확대한다. AI 전문인력 교육과 취업을 지원하고 모태펀드로 AI 창업기업에 대한 투자를 추진할 방침이다. 공공데이터를 AI 학습에 활용하기 위한 제공 기준도 구축된다. 공공이 보유한 데이터를 AI 개발에 활용할 수 있도록 제공 방식과 절차를 한층 구체화할 계획이다. 기업들도 제도 시행에 맞춰 내부 대응 체계 정비에 나섰다. 네이버와 카카오, SK텔레콤, KT, LG유플러스, 업스테이지 등은 AI 안전 조직과 위험관리 체계를 구축하고 생성형 AI 결과물 표시를 확대하고 있다. 업계에선 생성형 AI 표시 의무 적용 범위가 여전히 모호하다는 지적이 나온다. AI를 어느 정도 활용해야 표시해야 하는지 명확하지 않다는 이유에서다. 또 사람이 결과물을 편집하거나 검수했을 때도 같은 의무가 적용되는지를 두고 혼선이 이어지고 있다. 고영향 AI 판단 기준도 주요 쟁점이다. 의료와 금융, 채용, 교육 분야에서 어떤 서비스가 사람 생명과 안전 기본권에 중대한 영향을 미치는지를 미리 판단하기 어려워서다. 이에 기업들은 서비스 출시 전 법률 검토와 위험 평가에 추가 비용을 투입해야 할 가능성이 커졌다. 인력과 자금이 부족한 스타트업에는 규제 대응 비용이 시장 진입 장벽으로 작용할 수 있다는 우려가 나오고 있다. 해외 주요국은 산업 환경에 따라 서로 다른 규제 방식을 택하고 있다. 미국과 일본은 산업 육성과 기술 혁신에 무게를 두고 있으며, 유럽연합(EU)은 AI 시스템 위험 수준에 따라 의무를 차등 부과하는 AI법을 단계적으로 시행하고 있다. 정부는 최소 1년 이상 계도기간을 운영할 계획이다. 이 기간 산업계 의견과 적용 사례를 수렴해 고영향 AI 판단 기준과 생성형 AI 표시 방식을 가이드라인에 구체화할 방침이다. 배경훈 부총리 겸 과학기술정보통신부 장관은 "공공부문이 마중물이 돼 혁신적인 AI 기술을 신속하게 도입하고 국민에게 더 우수한 공공서비스를 제공하겠다"고 말했다.

2026.07.21 09:40김미정 기자

생물학 AI는 양날의 검…오픈AI, 정부·전문가 손잡고 '전방위 통제' 나선다

생물학 분야에서의 인공지능(AI) 활용이 기회와 위기의 경계선에 선 가운데 오픈AI가 이를 통제할 준비에 나섰다. 치료제 개발 등 긍정적 요소는 적극 장려하되 생물무기화 등 악용 소지는 선제 차단하겠다는 입장이다. 19일 오픈AI 공식 블로그에 따르면 이 회사는 생물학 분야에서 AI가 높은 수준의 위험 역량을 갖출 가능성을 인정하고 이를 전제로 한 완화 계획을 공개했다. 모델 출시 전부터 단계별로 위험을 평가하고 정부 및 전문가 집단과의 협업을 강화하겠다는 내용이다. 오픈AI는 이미 생물학자들과 협력해 이중 용도 평가 데이터를 구축했고 생물무기화를 방지하는 학습 체계를 모델에 적용해왔다. 특히 면역학이나 유전공학 등 민감 주제에 대해선 초보자가 따라할 수 있는 수준의 구체 지침을 모델이 출력하지 않도록 훈련 중이다. 또 위험한 요청을 실시간으로 감지하는 시스템을 전사적으로 운영 중이다. 위험성이 감지되면 AI 모델의 응답을 즉시 차단하고 자동 검토 뒤 사람이 직접 확인하는 절차까지 이어진다. 악용이 의심되면 계정을 막고 경우에 따라 경찰이나 관련 기관에 신고하게 된다. 더불어 실제 모델을 악용 가능한 방식으로 실험하는 전문 레드팀도 운영 중이다. 생물학자와 AI 보안 전문가를 짝지어 현실적 시나리오에서 취약점을 발굴하는 방식이다. 오픈AI는 이러한 안전 조치를 통해 모델 접근 제한 조치를 유지하면서도 검증된 기관엔 생물학 발전 목적의 활용 기회를 열겠다는 방침이다. 백신 개발, 병원체 탐지, 진단 솔루션 개선 등에 모델이 실질적 도움을 줄 수 있다고 판단하고 있다. 안전 외적 요소로도 시야를 넓혔다. 모델 자체 보호뿐 아니라 합성 유전자 감시 체계, 병원체 조기 탐지 인프라, 생물학 인프라 경화 같은 생태계 단위의 보안까지 대응이 필요하다고 보는 것이다. 이 같은 논의를 위해 오는 7월에는 생물방어 정상회의(Biodefense Summit)를 연다. 미국 및 우방국 정부 기관, 비정부기구(NGO) 등으로 구성된 협력체계를 통해 기술 진보와 안전 사이의 균형을 본격 논의할 예정이다. 오픈AI는 향후 AI와 생물학 융합이 신약·백신·연료·치료제 등 다양한 분야의 창업 기회로 이어질 수 있다고 전망했다. AI 안전 기술 자체도 하나의 산업 영역으로 성장 가능성이 있다는 판단이다. 오픈AI는 이사회 산하 안전·보안 위원회와 독립적인 평가 조직을 통해 모델 위험성을 평가하고 있다. 이 기준에 따르면 '높음' 수준 역량은 초보자도 AI의 도움으로 생물학적 위협을 만들어낼 수 있을 만큼 모델이 강력해진 상태를 뜻한다. 이런 모델은 일반에 공개하지 않거나 일부 기능을 제한하는 방식으로 출시가 조정된다. 오픈AI는 "생물학적 위협은 극단적 피해로 이어질 수 있기 때문에 사전 대응이 필수"라며 "고위험 모델은 충분한 완화 조치 없이는 절대 출시하지 않을 것"이라고 밝혔다.

2025.06.19 08:44조이환 기자

  Prev 1 Next  

지금 뜨는 기사

이시각 헤드라인

삼성전자, 전영현·노태문 '투톱' 유지...메모리 황상준·모바일 최원준

AI 창작·글로벌 게임 한자리에…‘지스타 2026’ 부산서 개막

AI 시대 디지털 신뢰 회복하려면…"기술·제도·시민 참여 연결 필수"

앤트로픽 IPO에 日 12조원 이상 몰렸는데…韓 공모 청약 빠진 이유

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.