• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
  • AI의 눈
ZDPick
국감2026
인공지능
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'안전 소프트웨어'통합검색 결과 입니다. (4건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

AI가 스스로 개발하는 시대 온다…오픈AI 수석과학자 "속도 늦출 준비해야"

인공지능(AI) 발전 속도를 인간의 통제 능력이 따라가지 못할 수 있다는 경고가 오픈AI 내부에서 나왔다. AI가 스스로 개발하는 단계가 가까워지면서 안전성을 확인하며 개발 속도를 조절해야 한다는 주장이다. 야쿠프 파초키 오픈AI 수석과학자는 6일(현지시간) 회사 블로그에 올린 '낯선 지능'이란 글을 통해 "AI가 스스로 설계하고 강화하는 시점이 다가오고 있다"며 "기계 지능은 상당히 빠르게 발전하고 있지만 어떤 일이 벌어질지 누구도 대비하지 못하고 있다는 점이 문제"라고 주장했다. 그는 AI를 기존 소프트웨어와는 다르게 봐야 한다고 조언했다. 사람이 작동 방식을 하나씩 정하는 소프트웨어와 달리 AI는 막대한 데이터와 컴퓨팅 자원으로 학습하면서 개발자가 직접 설계하지 않은 능력까지 갖출 수 있기 때문이다. 오픈AI는 이미 숙련된 연구자에게도 며칠이 걸리는 과제를 해결하는 'AI 연구 인턴' 수준에 도달했다고 밝혔다. 2028년 3월까지 사람 감독 아래 더 폭넓은 연구를 수행하는 '자동화된 AI 연구자'를 개발하겠다는 목표도 제시했다. AI가 연구 현장에서 차지하는 비중도 커졌다. AI 에이전트의 전체 작업시간은 지난 6월 처음으로 인간 연구자의 노동시간을 앞질렀고 지난달 중순에는 인간 연구자 노동시간의 3배를 웃돌았다. 코드 작성과 실험, 결과 분석 등 연구 업무에 여러 AI 에이전트를 동시에 활용하고 있다. 현재 연구 방향을 정하고 결과를 판단하는 역할은 사람이 맡고 있다. 그러나 연구 자동화가 확대되면 새 모델 개발에 AI가 참여하고 여기서 성능이 높아진 모델이 다시 다음 개발에 투입되는 과정이 반복될 수 있다. 파초키 수석과학자는 이 과정에서 인간의 통제력이 약해질 가능성을 우려했다. AI가 AI 연구에 더 많이 참여할수록 발전 속도가 빨라지고 사람이 그 판단과 행동을 파악하기는 더 어려워질 수 있다는 지적이다. 오픈AI는 현재 AI가 답을 내놓기 전에 거치는 중간 추론 과정인 '사고사슬(CoT)'을 살펴보며 위험한 행동 징후를 확인하고 있다. AI가 어떤 과정을 거쳐 결론을 내렸는지 확인해 이상 행동을 찾아내는 방법이다. 파초키 수석과학자는 이런 감시 방법도 AI가 강력해질수록 약해질 수 있다고 봤다. AI가 다른 AI와 소통하고 여러 도구를 사용해 복잡한 업무를 수행하는 데다 언어로 추론 과정을 드러내지 않고 문제를 해결하는 기술도 발전하고 있기 때문이다. 오픈AI는 인간이 AI에 대한 통제력을 유지할 수 있는지를 향후 개발의 중요한 기준으로 제시했다. 안전 위험을 충분히 관리하기 어렵다고 판단하면 AI 개발이나 배포 속도를 늦출 방침이다. 파초키 수석과학자는 "현재 어떤 AI 연구소도 빠른 기술 발전에 충분히 대비돼 있지 않다"며 "안전을 확신하기 어렵다면 개발 속도를 늦출 준비가 필요하다"고 말했다.

2026.09.07 15:10김동원 기자

공공 정보화사업 1년 새 20%↑…시스템·하드웨어는 감소

지난해 행정·공공기관의 정보화사업이 전년보다 20%가량 늘어난 가운데, 정보시스템과 하드웨어(HW) 보유 수는 감소한 것으로 나타났다. 3일 행정안전부가 발간한 '2026년 행정·공공기관 정보자원 현황'에 따르면 지난해 행정·공공기관이 추진한 정보화사업은 1만 4866건으로 전년 1만 2381건보다 20.07% 증가했다. 사업 규모도 같은 기간 4조 5498억원에서 4조 6026억원으로 1.16% 늘었다. 이번 조사는 지난해 정보자원관리시스템(IRM)에 정보화사업과 정보시스템, 모바일 애플리케이션(앱) 등 정보자원을 등록한 2196개 행정·공공기관을 대상으로 진행됐다. 중앙행정기관 56개와 지방자치단체 244개, 지방교육자치단체 429개, 공공기관 1467개가 포함됐다. 정보화사업 가운데 가장 큰 비중을 차지한 부문은 기존 시스템의 운영·유지보수다. 관련 사업은 1만 154건으로 전체 정보화사업의 64.58%에 달했다. 정보화사업 증가와 달리 행정·공공기관이 운영하는 정보시스템 수는 감소했다. 지난해 정보시스템은 총 1만 5618개로 전년 1만 7811개보다 2193개(12.31%) 줄었다. 정보시스템 구축비도 같은 기간 14조 4943억원에서 13조 6100억원으로 6.10% 감소했다. 반면 모바일앱은 증가세를 이어갔다. 지난해 행정·공공기관이 운영하는 모바일앱은 1358개로 전년 1352개보다 6개(0.44%) 증가했다. 행안부에 따르면 공공 모바일앱 수는 2022년부터 지난해까지 지속적으로 증가하는 추세다. HW는 수량이 줄었지만 도입비는 소폭 늘었다. 지난해 행정·공공기관이 보유한 HW는 24만 4797개로 전년 24만 9516개보다 4719개(1.89%) 감소했다. 반대로 도입비는 7조 3060억원에서 7조 3332억원으로 0.37% 증가했다. 아울러 지난해 등록된 소프트웨어(SW)는 30만 2136개로 전년 27만 9061개보다 2만 3075개(8.27%) 증가했다. 같은 기간 SW 도입비는 4조 8501억원에서 4조 8153억원으로 0.72% 감소했다. 정부는 인공지능(AI) 행정 확대에 맞춰 공공 IT 인프라 구조 개편에 속도를 내고 있다. 행안부가 마련한 2027년도 예산안에는 공공 정보시스템의 민간 클라우드 이전을 위한 신규 예산 548억원이 포함됐다. 또 재해복구(DR) 체계 강화를 위한 예산 2716억원, 노후장비 통합구축에 5142억원, 범정부 신규 도입 전산장비 구축에 2590원을 편성했다. 공공 IT 인프라 개편은 AI 기반 행정서비스 확대와도 맞물린다. 행안부는 내년 장비를 비롯해 AI 통합민원플랫폼 구축 등 'AI 민주정부 구현' 영역에 총 1조 4696억원을 투입할 계획이다. 윤호중 행안부 장관은 내년 예산안과 관련해 "AI 민주정부·국민안전·지역균형성장·사회통합 등 국민의 일상과 밀접한 분야에서 '대체불가 대한민국'을 실현하기 위해 국민이 직접 체감할 수 있는 사업 중심으로 2027년 예산안을 편성했다"고 밝혔다.

2026.09.03 14:19한정호 기자

케이-스타랩 창립 포럼…"몽골샛·서울샛 등 초소형 위성 발사 추진"

대한민국 우주기술 발전 방향을 새롭게 모색할 케이-스타랩(K-STAR Lab, 소장 은종원)이 1일 양재 aT센터에서 출범식 겸 창립포럼을 개최하고 연세대 등 6개 산학연과 업무협약을 체결했다. 6개 산학연은 ▲연세대학교 대학원 항공우주공학과 ▲RCN ▲텔레픽스 ▲환경과 안전▲국방소프트웨어협회 ▲모큐라텍 등이다. 출범식 축사에 나선 박호군 전 과학기술부 장관은 "우주기술의 진정한 가치는 로켓을 쏘아 올리는 데 있는 것이 아니라, 위성정보와 인공지능, 디지털 트윈, 센서 기술 등을 활용해 우리 사회가 직면한 다양한 문제를 해결하는 데 있다”고 강조했다. 포럼 주제는 "우주기술 경계를 넘어, 미래 산업을 연결하다”이다. 기조강연은 은종원 케이-스타랩 소장(한국연구재단 초대 우주단장)이 나섰다. 은 소장은 이날 새로운 연구방향으로 '우주기술 응용연구'를 제시했다. 은 소장은 "최근 세계 우주산업은 정부 중심 대형 프로젝트에서 벗어나 민간 기업과 연구기관이 함께 참여하는 '뉴 스페이스 시대'로 빠르게 변화하고 있다"며 "위성 기술은 더 이상 우주 전문가만의 영역이 아니라 기후 변화 대응, 재난 관리, 스마트 도시, 농업, 환경 보호, 통신 등 국민 생활과 직접 연결되는 핵심 기술로 발전 중"이라고 트렌드를 설명했다. 은 소장은 이어 "우주기술은 지구를 위한 기술이어야 한다”며 "그런 측면에서 케이-스타랩 핵심 철학으로 '우주를 탐구하고, 기술을 혁신하며, 인류의 미래를 풍요롭게 하는 일"이라고 말했다. 케이-스타랩은 우주 개발 궁극 목적을 우주 자체에 머무르는 것이 아니라, 우주기술을 활용해 지구와 인간의 삶을 개선하는 데 뒀다. 은 소장은 "초소형 위성, 위성 데이터 활용, 인공지능(AI), 디지털 트윈, 위성통신 응용 기술 등 미래 핵심 분야 연구를 추진할 계획”이라며 " 한-몽 초소형 위성(MGSAT-STAR 1) 시스템 공동 개발, 위성 데이터 기반 신산업 창출, AI ·디지털 트윈 융합, 위성통신 응용 기술 등을 '케이-스타랩'이 향후 어떻게 풀어갈 지에 대해 소개했다. 현재 케이-스타랩은 초소형 위성 프로젝트로 '초소형 몽골 위성'과 서울샛(강남샛) 등 우주기술 응용연구(STAR) 프로젝트를 다양한 관점에서 들여다보며 우리만의 국내외 협력 모델 케이스를 만들기 위한 작업을 진행 중이다. 인력 양성 방안으로 '케이-스타랩'은 우주·항공·천문 분야 교육과 연구를 연결하는 케이-스타 이노베이션 아카데미 개설을 추진한다. 학생과 젊은 연구자들이 우주기술을 배우고 새로운 아이디어를 우주산업 및 국내외 우수대학 진학으로 발전시킬 수 있는 기반도 마련할 계획이다. 이승율 케이-스타랩 회장(동북아공동체 문화재단 이사장)은 "우주는 더 이상, 일부 전문가만의 영역이 아니다. 위성 데이터와 4차산업혁명 기술의 융복합은 이미 안전, 환경, 도시 생활과 연결되고 있다”라며, “대한민국이 우주기술을 활용해 미래 산업을 만들어 가는 새로운 방향을 제시하고, 국내외 산·학·연 협력 플랫폼으로 성장해 나가수 있도록 협력할 것"이라고 밝혔다.

2026.07.01 15:00박희범 기자

세이프틱스 '세이프티 기버', 첫 현장 적용

로봇 안전 솔루션 기업 세이프틱스의 솔루션 '세이프티 기버'(Safety Giver)가 첫 레퍼런스를 확보했다. 세이프티 기버는 로봇과 연결돼 안전성을 실시간 분석하고 행동을 제어하는 소프트웨어다. 김휘연 세이프틱스 사업이사는 21일 서울 강남구에서 열린 '피지컬 AI 프론티어: 리스크, 규제, 그리고 2027 제조업 생존전략' 세미나에서 기자와 만나 "최근 한 기업 고객이 세이프틱스의 새로운 소프트웨어 세이프티 기버를 사용하기 시작했다"고 밝혔다. 김 이사는 "해당 기업 로봇 티칭 프로그램에 세이프티 기버 소프트웨어가 들어갔기 때문에 따로 안전 설계할 필요가 없어 로봇을 학습시킨 뒤 바로 현장에 투입할 수 있다"고 설명했다. 세이프틱스 제품은 크게 세이프티 기버와 세이프티 디자이너(Safety Designer)로 나뉜다. 세이프티 디자이너는 협동로봇을 설치하기 전에 충돌 안전성을 시뮬레이션으로 미리 분석·설계하는 소프트웨어다. 세이프티 디자이너가 설치 전을 담당하고, 세이프티 기버는 설치 후 정상 작동 여부를 맡는다. 김 이사는 "국내외 다양한 기업과 세이프티 기버의 개념증명(PoC)을 진행하고 있다"며 "기버는 고객사 하드웨어 안에 소프트웨어가 직접 들어가기 때문에 협력에 시간이 걸려 도입이 늦어지고 있다"고 설명했다. 이어 "기버의 기본 기능은 무료로 사용할 수 있기 때문에 지금 당장 매출이 발생하는 것은 아니다"라며 "고객사가 부가 기능을 사용할 때 매출이 생기기 시작할 것"이라고 덧붙였다. 김 이사는 세미나에서 안전 솔루션 중요성을 강조했다. 그는 "2014년부터 2023년까지 국내에서 로봇 관련 사고로 사망한 사람이 29명"이라며 "이제 완전 자율화되기 때문에 문제없다고 생각할 수 있지만 그렇지 않다"고 밝혔다. 이어 “현재 제조업은 다크팩토리 기반 완전 무인화와 사람과 로봇이 공존하는 쉐어드 스페이스(Shared Space) 환경으로 동시에 확장되고 있다”고 설명했다. 그는 "쉽게 정형화가 가능한 업무는 로봇이 사람을 대체하겠지만, 그렇지 않은 부문에서는 로봇과 사람이 공존할 것"이라며 "로봇을 가둔 울타리를 없애고 인간과 로봇이 안전하게 함께 있을 수 있을지 고민해야 할 때"라고 덧붙였다. 김 이사는 "사람이 로봇 곁에 가까이 있어도 멈추지 않고 안전하게 같이 일할 수 있다면 로봇 업무 시간이 늘어나 생산성이 크게 향상될 것"이라며 "안전은 비용이 아니라 자산"이라고 말했다. 현재 로봇은 사람이 가까이 다가오면 움직임이 멈추도록 설계돼 있어, 로봇이 사람 행동을 인지해 사람과 충돌을 피할 수 있다면 작업을 멈추지 않아 생산성이 올라갈 수 있다.

2026.05.21 18:20진운용 기자

  Prev 1 Next  

지금 뜨는 기사

이시각 헤드라인

"PHP 보안 결함 비상"...이해민 AI 수석 "매우 심각하게 보고 대응중"

"김도영, 힘차게 날려라~"…CGV서 가을야구 응원해보니

'부~웅' 하더니 '쿵'…대구에서 교차로 충돌 재현한 이유는

"네이버는 7000억, 구글은 258억"…국감서 구글코리아 법인세 논란

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.