검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'AI 안전'통합검색 결과 입니다. (331건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

AI가 더 강한 AI 개발 돕는다…앤트로픽, 2년 치 성능 개선 1년 만에 달성

인공지능(AI)이 다음 세대 AI 개발을 도우면서 기술 발전 속도를 끌어올리고 있다는 연구 결과가 나왔다. 더 강력해진 AI를 연구에 다시 투입하면 개발이 한층 빨라져 위험을 확인하고 대응할 시간이 줄어들 수 있다는 우려도 제기됐다. 비영리 AI 평가기관 METR은 5일(현지시간) 앤트로픽 내부 자료를 분석한 보고서에서 지난해 10월 이후 모델 성능 개선 속도가 이전보다 1.9배 빨라졌다고 밝혔다. 연구진은 코드 작성과 실험에 AI를 활용한 점을 주요 배경으로 꼽았다. METR은 지난 8월부터 10월까지 약 11주 동안 공개되지 않은 모델 성능 자료와 내부 연구 문서를 검토하고 직원들을 인터뷰했다. 이를 바탕으로 모델 성능이 얼마나 빠르게 향상됐고 연구 과정에서 AI가 어떤 역할을 맡았는지 등을 조사했다. METR은 수학과 코딩 등 여러 성능 시험 점수를 비교해 모델 성능이 얼마나 빠르게 향상됐는지 분석했다. 그 결과 과거 약 2년이 걸렸던 수준의 성능 향상을 최근에는 약 1년 만에 달성한 것으로 평가했다. 연구진은 학습용 컴퓨팅 자원을 늘리는 속도가 빨라져서 나타난 변화는 아니라고 판단했다. 연구자가 코드 작성과 실험에 AI를 활용하면서 개발 속도를 높였다고 분석했다. 실제로 AI는 연구자가 진행하는 작업을 지원하며 개발 속도를 높인 것으로 조사됐다. 다만 METR은 모델 학습의 핵심 과정에서 AI가 사람 도움 없이 중요한 성과를 내는 단계에는 아직 이르지 않았다고 설명했다. 현재 확인한 효과는 AI가 독자적으로 새 모델을 만드는 능력보다 사람 연구를 돕는 능력에서 나왔다는 뜻이다. 이런 지원이 개발 속도를 얼마나 높였는지는 추가 확인이 필요하다. METR은 AI 활용을 주요 요인으로 봤지만 다른 변화도 영향을 미친 만큼 AI 기여도를 정확히 구분하기는 어렵다고 밝혔다. METR은 앞으로 AI가 연구를 더 잘 도울수록 후속 모델 개발도 빨라질 수 있다고 봤다. 새 모델이 이전보다 코드 작성과 실험을 잘 수행하면 다음 모델을 만드는 시간이 줄어들 수 있어서다. 연구진은 개발 속도가 더 빨라지면 예상하지 못한 위험을 지닌 AI가 갑자기 등장할 수 있다고 우려했다. 새로운 모델이 무엇을 할 수 있고 어떤 피해를 일으킬 수 있는지 확인할 시간도 그만큼 줄어들 수 있다는 설명이다. METR은 "AI가 향후 AI 개발을 크게 가속하기 시작하면 극도로 강력하고 위험한 능력이 갑자기 등장할 수 있다"고 밝혔다.

2026.11.06 11:12김동원 기자

셀렉트스타, 금융 AI 위험 답변 평가 기술 개발…국제학회 논문 채택

금융 인공지능(AI)이 사기를 돕거나 규정을 위반하는 답변을 내놓는지 가려내는 국내 기술이 국제학회에서 연구 성과를 인정받았다. 금융 전문가의 판단을 반영해 위험한 답변을 찾아내는 정확도를 높인 기술이다. AI 데이터·신뢰성 평가 기업 셀렉트스타는 금융 AI 안전성 평가 기술 '핀레드(FinRED)' 연구 논문이 국제 데이터 마이닝 학술대회 'IEEE ICDM 2026' 메인 컨퍼런스에 채택됐다고 5일 밝혔다. 자체 평가에서 금융보안 전문가와 AI 평가 결과의 일치율은 88.46%로, 기존 방식보다 11.54%포인트 높았다. 이번 연구는 셀렉트스타가 금융보안원, 카이스트와 공동으로 수행했다. 금융 분야에 특화된 위험 상황을 만들어 AI에 질문하고, 답변이 금융사기나 규제 위반 등 위험한 행동을 돕는지 평가하는 기술을 개발했다. 연구진은 기존 AI 안전성 평가가 금융업의 복잡한 규제와 업무 환경을 충분히 반영하지 못한다는 점에 주목했다. 일반적인 AI 안전성 평가는 폭력이나 불법 행위 등 폭넓은 위험을 다룬다. 반면 금융 AI는 금융사기를 돕거나 소비자에게 잘못된 정보를 제공하고 개인정보를 노출하는 등 금융업에 특화된 위험도 점검해야 한다. 셀렉트스타가 개발한 핀레드는 금융보안 전문가의 지식과 실제 금융 문서를 활용해 이러한 위험을 평가한다. AI가 단순히 위험한 질문에 답변을 거부했는지 확인하는 데 그치지 않고, 답변 내용이 실제 위험한 행위를 지원하는지도 판단한다. 연구진은 금융 분야 위험을 사이버 위협, 금융 범죄, 허위정보와 기만, 소비자 권익 침해, 금융 정보통신기술(ICT) 규제 회피 등 5개 영역으로 나눴다. 이를 다시 26개 세부 유형으로 분류하고 전문가 검증을 거친 평가 데이터 5805개를 구축했다. 이 데이터를 활용하면 금융 AI가 실제 업무에서 마주할 수 있는 위험 상황을 가정해 안전성을 점검할 수 있다. 금융 범죄 수법이나 관련 규제가 바뀌면 새로운 문서를 반영해 평가 항목을 추가하도록 설계했다. 성능 평가에서도 기존 방식과 차이를 보였다. 핀레드 금융 특화 평가 기준은 금융보안 전문가와의 판단 일치율이 88.46%를 기록했다. 기존 범용 평가 방식의 76.92%보다 11.54%포인트 높았다. 위험한 AI 답변을 안전하다고 잘못 판단하는 사례도 줄었다. 연구진의 비교 시험에서는 이러한 오류가 기존 28건에서 12건으로 감소했다. 약 57% 줄어든 수치로, 금융 분야 특성을 반영한 평가 기준이 위험한 답변을 놓치는 문제를 개선한 결과다. 다만 이번 수치는 연구진이 구성한 평가 환경에서 얻은 결과다. 모든 금융 AI 서비스에서 동일한 수준으로 위험한 답변을 찾아낼 수 있다는 의미는 아니다. 셀렉트스타는 핀레드를 실제 금융 AI 안전성 검증에도 활용할 계획이다. 향후 금융보안원이 운영하는 규제 샌드박스에서 금융 서비스에 적용되는 생성형 AI의 보안성을 평가하는 데 사용할 예정이다. 은행과 보험사, 증권사 등은 AI 상담 서비스를 도입하기 전에 금융 업무와 규정에 맞춘 위험 질문으로 취약점을 점검할 수 있다. AI 답변을 제한하는 안전장치를 적용한 뒤 실제로 위험이 줄었는지 확인하는 데도 활용할 수 있다. 셀렉트스타는 이러한 평가 기술을 바탕으로 금융권 AI 안전성 검증과 레드티밍 사업을 확대할 방침이다. 레드티밍은 AI에 의도적으로 위험한 질문이나 공격을 시도해 취약점을 찾아내는 시험 방식이다. 이번 논문은 국제학회에서도 구두 발표 대상으로 선정됐다. IEEE ICDM 2026에는 총 1966편의 논문이 제출돼 392편이 채택됐다. 채택률은 19.9%다. 셀렉트스타 논문은 전체 투고 논문 가운데 약 8.9%인 174편에 주어지는 구두 발표 논문으로 선정됐다. 학회는 오는 12일부터 15일까지 중국 선양에서 열린다. 셀렉트스타 연구진은 13일 보안과 의료 등 응용 분야를 다루는 세션에서 연구 성과를 발표할 예정이다. 셀렉트스타는 올해 국제 AI 학술대회인 ICLR과 ACL, ICML, EMNLP에서도 AI 신뢰성·안전성 연구 성과를 발표하며 관련 기술을 개발해 왔다. 자체 AI 평가 플랫폼 '다투모 이밸(Datumo eval)'을 통해 금융과 공공, 콘텐츠 분야에도 안전성 평가 서비스를 제공하고 있다. 논문 교신저자인 김민우 셀렉트스타 AI 세이프티팀 리더는 "금융 범죄 수법과 규제는 끊임없이 바뀌기 때문에 한 번 만들어 둔 평가 데이터로 AI의 안전성을 판단하는 것은 작년 기출문제로 올해 시험을 치르는 것과 같다"고 말했다.

2026.11.05 10:08김동원 기자

美 민주당 의회 장악…AI 기업, 세금·저작권·안전검증 시험대

미국 민주당이 상·하원을 모두 장악하면서 인공지능(AI) 기업에 대한 감독이 강화될 전망이다. AI로 얻은 이익에 세금을 매길지, 학습에 쓴 뉴스와 책에 대가를 지급해야 할지, 안전성을 외부에서 검증할지가 주요 쟁점으로 떠올랐다. 3일(현지시간) 로이터에 따르면 민주당은 미국 중간선거에서 상원과 하원 다수당 지위를 확보했다. 내년 새 의회에서는 민주당이 법안 심의와 청문회, 기업 자료 제출 요구를 주도하게 된다. 로이터는 앞서 2일 민주당 승리가 AI 기업에 대한 조사 확대로 이어질 수 있다고 분석했다. 에드 밀스 레이먼드제임스 정책 분석가는 의회 조사가 외부 안전평가와 사고 보고를 의무화하려는 움직임에 힘을 실을 수 있다고 내다봤다. 민주당 의원들은 이미 AI 과세 법안을 발의하고 학습 자료 저작권 보호를 요구해 왔다. 주요 개발사에는 사고 자료도 요청했다. 세 사안은 각각 기업이 부담할 세금과 자료 사용료, 모델 검증 절차에 연결된다. AI로 번 돈에 세금…노동자 지원 비용 나눌까 과세 논의는 AI 성장으로 얻은 이익 일부를 노동자 지원에 쓰자는 데서 출발했다. AI로 업무가 바뀌거나 일자리가 줄어들 때 필요한 재교육 비용을 기업도 부담하도록 하자는 구상이다. 미국 세무 전문매체 블룸버그 택스에 따르면 마크 켈리 민주당 상원의원은 AI 사용과 초과이익 등에 세금을 부과해 노동자 재교육 기금을 만드는 법안을 발의했다. 다른 민주당 의원들도 AI 제품이나 사용량에 과세하는 방안을 제시했다. 블룸버그 택스는 이런 제안이 민주당 주도 의회에서 다룰 정책 방향을 보여준다고 분석했다. AI 산업 성장뿐 아니라 그 과정에서 발생하는 사회적 비용을 누가 부담할지가 논의 대상이 된 셈이다. 기업 입장에서는 과세 대상과 기준이 중요하다. AI 사용량에 세금을 매기는 방안과 일정 수준을 넘는 이익에 세금을 매기는 방안은 부담 구조가 다르다. 법안이 추진되면 어떤 서비스와 기업에 적용할지부터 논의해야 한다. 현재 과세안은 시행이 확정된 제도가 아니다. 민주당이 의회를 주도하더라도 법안 심의와 행정부 협상을 거쳐야 한다. 기업에 당장 세금이 늘기보다 새 의회에서 관련 논의가 얼마나 진전될지가 변수다. 뉴스·책 학습 대가 놓고 충돌…개발 비용과 배상 책임 연결 저작권 분야에서는 AI 학습에 뉴스와 책 등을 허락 없이 사용할 수 있는지를 놓고 트럼프 행정부와 민주당 의원들이 맞섰다. 뉴욕타임스 등 저작권자는 오픈AI와 마이크로소프트(MS)가 자사 자료를 무단으로 학습에 사용했다며 소송을 제기했다. 로이터에 따르면 트럼프 행정부는 지난 9월 법원에 의견서를 제출해 개발사를 지지했다. AI 학습이 일정한 조건 아래 저작권자 허락 없이 저작물을 사용할 수 있는 '공정이용'에 해당한다는 취지다. 정부는 AI 발전과 국가안보도 근거로 제시했다. 반면 제이미 래스킨과 제럴드 내들러, 행크 존슨 민주당 하원의원은 지난달 30일 법원에 정부 주장을 받아들이지 말라고 요청했다. 이들은 저작권법에 국가안보를 이유로 저작물을 자유롭게 사용할 수 있다는 예외는 없다고 반박했다. 의원들은 공정이용 여부를 판단할 때 자료를 어떻게 사용했는지, 얼마나 복제했는지, 원본 시장에 어떤 영향을 줬는지 등을 살펴야 한다고 강조했다. 작가와 언론인, 예술가가 정당한 보상을 받을 권리도 보호해야 한다고 주장했다. "안전하다는 설명만으론 부족"…외부 검증·사고 공개 압박 안전 분야에서는 민주당이 주요 개발사에 사고 자료를 요구했다. 하원 법사위와 에너지상무위, 과학·우주·기술위 민주당 간사들은 지난달 28일 오픈AI와 앤트로픽, 구글, 메타 등 5개 기업에 서한을 보냈다. 의원들은 기존 사고 내역을 오는 11일까지 제출하고 새 사고를 발견하면 48시간 안에 알려 달라고 요청했다. 핵심 기반시설과 관련된 경우에는 24시간 안에 보고하도록 요구했다. 이들은 기업 자율 공개만으로는 충분하지 않다고 주장했다. 사고 공개가 법적 책임이나 평판 손상으로 이어지는 만큼 기업이 불리한 정보를 빠짐없이 알릴지 의문이라는 설명이다. 이번 요청은 법에 따른 새로운 보고 의무와는 구분된다. 로이터는 에드 밀스 레이먼드제임스 정책 분석가를 인용해 의회 조사가 고성능 AI 모델에 대한 안전 기준과 외부 평가, 사고 보고 의무화 논의에 힘을 실을 수 있다고 전했다. 업계도 정치·정책 단체 지원과 공식 제안을 통해 규제 논의에 참여해 왔다. 그레그 브록먼 오픈AI 사장 부부가 후원한 '리딩 더 퓨처'는 AI 개발을 지나치게 제한하거나 늦추는 규제에 반대한다. 이 단체가 지원한 후보 중에는 연방법으로 주정부별 AI 규제를 막아야 한다는 인사도 있다. 오픈AI는 브록먼 부부 기부가 개인 자격으로 이뤄졌다고 설명했다. 회사는 고성능 모델 평가와 사고 공개를 포함한 연방 안전 체계를 지지한다. 미국 전역에 적용할 기준을 마련한 뒤 같은 위험을 다루는 주정부 규제를 대체하자는 입장이다. 앤트로픽이 지원한 '퍼블릭 퍼스트 액션'은 더 강한 연방 안전 기준을 마련하기 전에 주정부 규제를 막아서는 안 된다고 주장한다. 앤트로픽은 지원금을 정책·교육 활동에만 쓰도록 했으며 특정 후보 선거운동에는 사용할 수 없다고 밝혔다. 새 규제 도입에는 트럼프 대통령 거부권이 변수로 남아 있다. 시킹알파가 소개한 골드만삭스 분석도 AI 규제 입법이 진전될 가능성을 제시하면서 광범위한 연방 규제 도입 가능성은 낮게 평가했다. 마크 워너 민주당 상원의원은 지난 9월 로이터 인터뷰에서 사고 이후 보고에 그치지 않고 안전 기준부터 마련해야 한다고 강조했다. 워너 의원은 "사고가 발생하기를 기다렸다가 어떻게 고칠지 되돌아볼 수는 없다"고 말했다.

2026.11.04 17:13김동원 기자

AI 개발 경쟁에 고객은 뒷전?…팔란티어 CEO, 개발사 책임 촉구

알렉스 카프 팔란티어 최고경영자(CEO)가 인공지능(AI) 개발사에 고객이 쌓은 가치와 경쟁력을 빼앗아서는 안 된다고 경고했다. AI를 도입한 기업이 성과를 얻는지, 기술을 공급한 개발사만 이익을 가져가는지 살펴야 한다는 취지다. 카프 CEO는 2일(현지시간) 3분기 실적과 함께 공개한 주주서한에서 AI 개발사가 추구하는 목표를 고객 이익과 공익에 맞춰야 한다고 강조했다. AI 안전 논의에서도 기술을 만드는 기업 책임을 함께 다뤄야 한다고 주장했다. 그는 AI 안전 분야에서 쓰이는 '정렬' 개념을 거론했다. 정렬은 AI가 사람 뜻과 목표에 맞게 행동하도록 만드는 작업이다. 카프 CEO는 AI가 사람 뜻대로 작동하는지만 볼 게 아니라 AI를 만드는 기업이 고객 이익을 해치고 있지는 않은지도 살펴야 한다고 주장했다. 기업이 AI를 실제 업무에 도입할 때 발생할 위험도 경고했다. 기업 안에 흩어진 데이터와 담당자, 부서별 업무, 안전장치를 제대로 연결하지 못하면 AI 에이전트가 혼란과 피해를 일으킬 수 있다는 설명이다. 카프 CEO는 이런 연결 없이 모델만으로 얻는 가치는 제한된다며 팔란티어가 구축해 온 기업용 소프트웨어를 내세웠다. 모델 성능뿐 아니라 복잡한 기업 환경에서 AI를 안정적으로 활용하는 역량이 필요하다는 주장이다. 서한에서 특정 AI 개발사 이름을 직접 언급하지는 않았다. AI 도입에 따른 산업 재편도 예고했다. 카프 CEO는 은행과 보험사, 병원, 법률회사 등이 변화에 적응하거나 경쟁에서 밀려날 수 있다고 봤다. 기존 시장 지위만으로는 경쟁력을 유지하기 어렵다는 경고다. 그는 팔란티어 고객 사이에서도 변화가 나타나고 있다고 설명했다. 과거 수개월에서 수년 걸리던 계약이 수일에서 수주 안에 이뤄진다며 기업 수요가 빠르게 늘고 있다고 강조했다. 팔란티어는 같은 날 발표한 실적에서 3분기 매출이 지난해 같은 기간보다 96% 증가한 23억 1300만 달러(약 3조 1000억원)를 기록했다고 밝혔다. 미국 민간 부문 매출은 148% 늘어난 9억 8400만 달러(약 1조 3000억원)로 미국 정부 부문 매출을 처음 넘어섰다. 카프 CEO는 고객 이익에 맞춰 사업을 운영한 결과가 성장으로 이어졌다고 주장했다. AI 개발사에 책임을 요구하면서 고객 경쟁력을 지키는 사업을 이어가겠다는 입장도 밝혔다. 그는 "우리는 파트너가 쌓은 가치와 경쟁 우위를 빼앗는 소프트웨어를 만드는 데 관심이 없다"고 말했다.

2026.11.03 16:19김동원 기자

행안부, 공무원 업무망에 AI 웹검색 도입…12월 한글 보고서 작성 지원

공무원이 별도 인터넷망에 접속하지 않고도 정부 업무망에서 인공지능(AI)을 이용해 최신 정보를 검색할 수 있게 됐다. 다음 달부터 기존 업무자료를 활용해 한글 보고서 초안을 작성하는 기능도 제공된다. 행정안전부는 공무원용 지능형 업무관리 플랫폼 '온AI'에 웹 검색과 문서 작성, 협업 기능을 순차적으로 추가한다고 1일 밝혔다. 먼저 지난 10월 도입한 'AI 웹검색'을 통해 업무망에서도 최신 정책자료와 언론기사 등 인터넷 정보를 검색하고 분석할 수 있도록 했다. 기존에는 공무원이 인터넷PC에서 필요한 자료를 찾아 파일로 저장한 뒤 망간 전송 프로그램을 이용해 업무망PC로 옮겨야 했다. 이 과정에서 여러 차례 로그인과 파일 전송, 다운로드 작업이 필요했다. 새 기능을 이용하면 업무망PC에서 자연어로 질문하고 AI가 인터넷 정보를 반영해 생성한 답변을 바로 업무에 활용할 수 있다. 답변에 표시된 QR코드를 스마트폰으로 촬영하면 관련 자료의 출처와 원문도 확인할 수 있다. 12월에는 보고서 작성과 공동 편집을 지원하는 '온AI 협업' 기능을 시험 운영한다. 공무원이 기존 업무자료와 문서 서식을 등록하면 AI가 내용을 분석해 한글(HWPX) 형식의 보고서 초안을 작성하는 방식이다. 작성된 문서는 웹 편집기에서 수정하거나 다른 공무원과 공유할 수 있다. 이를 통해 자료 수집과 분석, 보고서 작성, 검토 등으로 이어지는 업무 과정을 하나의 플랫폼에서 처리할 수 있도록 지원한다는 계획이다. 내년부터는 공무원과 행정기관이 자체 개발한 AI 에이전트를 다른 기관에서도 활용할 수 있도록 공유 기능을 마련한다. 특정 기관에서 개발한 AI 업무 자동화 기능을 다른 기관으로 확산해 중복 개발을 줄이고 활용도를 높이겠다는 취지다. 행안부는 지난해 11월부터 온AI를 중앙부처로 확산하는 과정에서 수집한 공무원들의 의견을 기능 개선에 반영하고 있다. 신규 기능 도입과 함께 기관별 활용 교육과 이용 안내도 강화할 방침이다. 황규철 행정안전부 인공지능정부실장은 "이제 인공지능은 질문에 답하는 도구를 넘어, 공무원과 함께 자료를 찾고 보고서를 작성하는 업무 동반자로 발전하고 있다"며 "반복적인 업무는 인공지능의 도움을 받고, 공무원은 국민에게 필요한 정책과 서비스에 더 집중할 수 있도록 지원하겠다"고 밝혔다.

2026.11.01 13:05남혁우 기자

[AI는 지금] "결정은 사람이, 맥락은 AI가"… 오픈AI, 행동지침 개편

오픈AI가 사람 대신 일하는 인공지능(AI) 행동 지침을 개편했다. AI가 사용자 뜻을 파악해 업무를 처리하면서도 사람이 판단하고 선택할 권한을 지키도록 기준을 보강했다. 오픈AI는 29일(현지시간) 자사 AI 행동 기준을 담은 '모델 스펙(Model Spec)'을 개정했다고 밝혔다. 과거 대화와 기억을 참고해 사용자 의도를 이해하는 지침을 추가하고 수행한 작업과 그 영향을 알리도록 했다. 이번 개편은 AI가 맡는 업무가 늘면서 지시만으로 해결하기 어려운 상황도 많아진다는 판단에서 나왔다. 사용자가 요청할 때 발생 가능한 상황을 모두 설명하기는 어렵기 때문이다. 오픈AI는 AI가 명시된 지시를 따르는 데서 나아가 예상하지 못한 상황에서도 사용자 목표에 맞게 판단해야 한다고 강조했다. 새 지침은 AI가 과거 대화를 참고해 사용자가 원하는 조건을 파악하도록 했다. 일례로 이직할 회사를 비교할 때 사용자가 앞서 규칙적인 근무 시간을 원한다고 말했다면 이를 고려해 답할 수 있다. 이때 "이전에 말씀한 근무 시간을 기준으로 비교했다"고 알려 사용자가 조건을 수정할 수 있도록 해야 한다. 과거에 한 말을 계속 같은 뜻으로 받아들여서는 안 된다. 지금은 근무 시간보다 연봉을 더 중요하게 생각할 수도 있기 때문이다. AI는 사용자가 현재 원하는 조건에 맞춰 비교를 돕고 특정 선택으로 몰래 유도하지 않아야 한다. AI가 어떤 일을 했는지도 사용자가 알 수 있어야 한다. 확실히 아는 내용과 확인하지 못한 내용을 구분하고 실제로 처리한 업무를 알려야 한다. 업무를 진행하면서 다른 사람에게 피해를 줄 가능성도 살피도록 했다. 업무 수행 범위는 오픈AI가 정한 안전 기준을 따른다. 개발자는 그 안에서 서비스를 설계하고 사용자는 해당 서비스에서 AI에 일을 맡긴다. 오픈AI는 서로 다른 지시가 충돌할 때 무엇을 우선할지 정하는 기준도 개정했다. 답변 표현 방식은 사용자 취향에 맞춰 유연하게 조정한다. 세부 문체 지침을 대부분 없애고 언어와 문화, 대화 맥락과 피드백을 참고하도록 했다. 객관적으로 답하는 원칙은 유지했다. 사용자가 특정 관점에서 답해 달라고 명시하면 이를 반영할 수 있다. 다만 사용자가 듣고 싶어 할 말을 추측해 그에 맞는 관점을 택해서는 안 된다고 밝혔다. 오픈AI는 이런 기준을 모델에 학습시키는 방법도 연구하고 있다. 규칙뿐 아니라 그 이유까지 익혀 처음 접하는 상황에서도 사용자 뜻과 안전 기준에 맞게 판단하도록 하는 데 초점을 맞췄다. 관련 연구 결과는 추후 공개할 예정이다. 오픈AI는 "모델 스펙은 AI가 어떻게 행동해야 하는지 제시한 기준으로 현재 모델이 이 기준을 모두 충족하지는 못한다"며 "연구 결과와 실제 사용 경험, 이용자 의견을 바탕으로 지침과 모델을 계속 개선하겠다"고 밝혔다.

2026.10.30 10:23김동원 기자

"개인정보 활용부터 재난 예방까지"…정부, AI 기반 디지털 행정 혁신 속도

정부가 인공지능(AI) 시대에 맞춰 개인정보 활용 제도부터 공공서비스, 재난안전관리까지 디지털 행정 전반의 혁신에 속도를 낸다. 개인정보 보호와 데이터 활용 사이에서 새로운 제도적 기준을 마련하는 동시에 민간 플랫폼을 통한 공공서비스 접근성을 높이고 AI 기반 재난 예방체계도 강화할 방침이다. 행정안전부는 29일 개인정보보호위원회 등 관계기관과 함께 추진하는 디지털 정책과 재난안전관리 계획을 잇달아 발표했다. 개인정보 활용 방식에 대한 국민 의견을 수렴하고 공공·민간 서비스 연계를 확대하는 동시에 AI를 활용한 재난 예측과 안전관리 체계 구축에도 나선다는 구상이다. 우선 정부는 AI 확산에 맞춰 개인정보 처리 방식의 제도적 개선을 논의한다. 이를 위해 행안부와 개인정보위는 오는 11월 1일 서울 연세대학교 백양누리에서 국민 200여 명이 참여하는 제3회 '모두의 토론회'를 개최한다. 이번 토론회에서는 AI 환경에서 개인정보가 창출하는 새로운 가치와 안전한 활용 방안을 논의한다. 특히 기존 '사전 동의' 중심의 개인정보 처리 체계에서 '사전 고지 후 언제든 거부'할 수 있는 방식으로 전환하는 방안도 주요 의제로 다룬다. 이 자리에선 AI 학습과 맞춤형 서비스 확대에 따라 개인정보 활용 수요가 늘어나는 상황에서 기존 동의 방식과 새로운 데이터 처리 환경 사이의 제도적 간극을 좁히기 위한 논의가 이뤄질 예정이다. 정부는 개인정보 보호 원칙을 유지하면서 데이터 활용의 편익을 높일 수 있는 개선 방향을 국민과 함께 모색할 계획이다. 토론회에는 청와대 이해민 AI 미래기획수석과 전성환 경청통합수석도 참석한다. 전문가 발제와 국민 분임 토론, 실시간 투표 등을 통해 의견을 수렴하며 사전에 진행한 온라인 토론에 참여한 1200여 명의 의견도 공유한다. 송경희 개인정보위 위원장은 "개인정보 보호 정책의 지향점은 모든 개인정보를 쓰지 못하게 막는 것이 아니라 안전하게 활용하도록 해 모든 국민이 안심하고 기술 발전을 누리는 사회를 만들어 가는 것"이라며 "앞으로도 국민 의견을 경청해 AI 시대에 적합한 개인정보 제도 혁신을 추진하겠다"고 밝혔다. 공공서비스 분야에서는 민간 플랫폼을 활용한 디지털서비스 개방을 확대한다. 행안부는 오는 30일 한국지능정보사회진흥원(NIA)과 함께 '2026년 디지털서비스 개방 성과공유회'를 열고 민관 협력 우수사례 4건을 발표한다. 디지털서비스 개방은 정부와 공공기관이 제공하는 서비스를 네이버, 카카오, 금융기관 등 민간 앱에서도 이용할 수 있도록 하는 정책이다. 공공서비스 이용을 위해 별도 사이트나 앱을 방문해야 하는 불편을 줄이고 국민이 자주 사용하는 플랫폼에서 필요한 업무를 처리하도록 지원한다. 이번에 선정된 우수사례는 한국교통안전공단의 자동차 검사 예약 서비스, 한국청소년활동진흥원의 청소년 자원봉사 신청·조회 서비스, 카카오모빌리티의 자동차 검사 예약 서비스, KB국민은행의 KB스타뱅킹 국민지갑 서비스 등이다. 카카오모빌리티는 자동차 검사 예약 과정에 빈자리 알림 기능을 도입해 알림을 받은 뒤 유입된 이용자 중 72.5%인 14349명이 실제 예약에 성공하는 성과를 거뒀다. KB국민은행은 국민지갑을 통해 16개 공공서비스를 연계하고 매년 약 200만 명 이상의 고객을 확보한 점을 인정받았다. 행안부는 성과공유회와 함께 디지털서비스 개방 응용프로그램인터페이스(API) 개발 지원사업 중간보고회를 개최하고 공공서비스와 민간 플랫폼 간 연계 확대 방안도 논의할 예정이다. 재난안전 분야에서는 AI를 활용한 사전 예방 중심의 관리체계 구축을 추진한다. 정부는 이날 제66차 안전정책조정위원회 심의를 거쳐 '2027년 국가안전관리 집행계획'을 확정했다. 29개 중앙행정기관이 참여하는 이번 계획에는 AI·사물인터넷(IoT) 기반 데이터 통합 플랫폼 구축과 지능형 CCTV 관제체계 도입 등이 포함됐다. 재난 관련 데이터를 통합해 위험 요인을 조기에 파악하고 예측부터 모니터링, 의사결정까지 지원하는 체계를 마련할 방침이다. 산업단지 위험지역 사고 예방 솔루션 구축과 AI 기반 식품 정보시스템 통합, 한국형 통합 우주상황 인식체계 개발도 추진한다. 재난 발생 이후 대응하는 방식에서 벗어나 첨단 기술을 활용해 위험을 사전에 감지하고 피해를 줄이는 데 정책 역량을 집중할 계획이다. 이를 위해 정부는 2027년 재난·안전관리 분야 451개 사업에 총 25조 4000억원을 투자하는 정부 예산안을 마련했다. 이 중 약 65%인 16조 5000억원을 예방 단계에 배정해 사전 예방 중심의 안전관리 역량을 강화한다. 김광용 행안부 재난안전관리본부장은 "기후변화와 첨단 기술 발전 등 급변하는 환경 속에서 국민의 생명과 안전을 지키는 것은 국가의 책무"라며 "AI 등 첨단 기술을 적극 도입해 재난을 미리 예측하고 현장에서 신속히 작동하는 재난안전관리 체계를 만들어 나가겠다"고 밝혔다.

2026.10.29 17:42장유미 기자

대학생이 만든 자율주행차, 시험도로와 가상환경에서 기술 겨룬다

대학생이 만든 자율주행차가 시험도로와 가상환경에서 자율주행 기술을 겨루는 장이 마련된다. 국토교통부는 대한민국 자율주행 산업의 미래를 이끌 인재를 발굴·육성하기 위해 30일과 31일 양일간 경기도 화성시 소재 한국교통안전공단(TS) 자동차안전연구원 K-City에서 '2026 대학생 AI·SW 모빌리티 경진대회'를 개최한다. 경진대회는 50개 팀, 500여 명의 대학생이 참여해 직접 개발한 자율주행 기술로 신호교차로 통과, 안개·일조량 변화 등 시각 왜곡변수 대응, GPS 음영구간 속 돌발 장애물 회피 등 다양한 주행과제에 도전한다. 올해로 17년째를 맞는 이번 대회는 대학생이 배운 지식을 자율주행 기술로 구현하고, 시험·검증과정에서 문제를 해결하며 자율주행 인재로 성장할 수 있도록 교육과 체험 기회도 제공할 목적으로 마련됐다. 경진대회는 직접 제작한 차량으로 실제 신호교차로와 장애물이 있는 K-City 도로에서 주행 성능을 겨루는 '자작자율차'와 K-city를 정밀하게 재현한 가상환경에서 자율주행 소프트웨어 성능을 겨루는 'AI융합자율주행' 두 부문으로 구성된다. 올해 신설된 'AI융합자율주행' 부문은 자율주행 기술이 AI 학습을 통해 고도화되고 있는 기술 변화에 맞춰 소프트웨어 개발역량을 높이는 데 중점을 두면서, 차량 제작에 필요한 비용과 장비 부담을 낮춰 참여기회를 넓히고, 학생들이 알고리즘 개발과 성능 개선에 집중할 수 있도록 했다. 대회에서 자율주행 과제 성공률과 완주 소요시간 평가로 선정된 우수팀에는 국토부장관상 등 총 14개의 상장과 총 2300만원의 상금을 수여한다. 박준형 국토부 모빌리티자동차국장은 “자율주행 실증도시 조성과 기술개발 지원이 산업 경쟁력 강화로 이어지기 위해서는 AI·SW 역량을 갖춘 인재 양성이 함께 뒷받침돼야 한다”면서 “이번 대회가 대학생이 배운 지식을 기술로 구현하고 검증하며 성장하는 계기가 되길 기대하며, 앞으로 실증도시 등 현장과 연계한 교육·실증기회를 넓혀 대한민국 자율주행 산업을 이끌 인재를 키워 나가겠다”고 밝혔다.

2026.10.28 11:46주문정 기자

남부발전, '천장크레인 중대재해 예방 AI 위험감지 로봇' 개발 착수

한국남부발전(사장 김준동)이 산업용 로봇 및 엣지 인공지능(AI) 솔루션 전문기업 위드로봇과 손잡고 천장크레인 중량을 취급하는 작업 중 발생할 수 있는 중대재해 예방을 위한 'AI 위험감지 로봇 개발' 연구개발 과제에 착수했다고 26일 밝혔다. 남부발전은 발전소 내부 구조적 한계와 시야 사각지대로 인한 안전사고를 예방하고자 과제를 추진했다. 남부발전 관계자는 “발전소 내부는 복잡한 설비와 적재물로 인해 크레인 조작자와 작업자 시야가 제한되고, 높은 소음과 다수 인원이 혼재한 작업이 빈번해 기존 신호수나 안전감시자 중심 인력 기반 관리 체계만으로는 사각지대를 완전히 해소하기 어렵다는 한계가 존재해 왔다”고 배경을 설명했다. 남부발전은 기존 안전관리 체계를 AI 기술로 보완해 안전 사각지대를 근본적으로 해소할 계획이다. 남부발전과 위드로봇은 이번 연구에서 AI 엣지 디바이스 기반 고정형 로봇을 활용하고, 크레인 하부 작업자와 이동체를 실시간으로 탐지·추적해 위험 상황 발생 시 작업자와 조작자 모두에게 즉시 위험을 알리는 스마트 통합 안전관리 시스템을 개발한다. 특히 이번 시스템은 영상 기반 AI 기술을 적용해 포인트클라우드 데이터를 처리하는 라이다 방식 보다 적은 연산 자원으로 신속하게 검출 결과를 직관적으로 확인할 수 있다. 또 현장 수집 영상 데이터를 바탕으로 AI 모델을 지속해서 학습·고도화함으로써 발전소별 특수한 작업 환경에 맞춘 유연한 시스템 확장이 가능하다. 현장에서 수집한 영상 데이터를 활용해 AI 모델을 지속적으로 학습하고 고도화할 수 있어 발전소별 작업 환경에 맞춘 시스템 확장에도 유리하다. 향후 현장 실증 결과를 기반으로 남부발전 내 다른 천장크레인과 갠트리크레인·JIB 크레인 등 다양한 크레인 설비로 적용 범위를 확대할 수 있는 기반을 확보할 계획이다. 남부발전 관계자는 “이번 연구개발은 실제 발전소 환경에서 AI 기술의 성능과 신뢰성을 검증해 실시간으로 위험을 인지하고 신속히 전달하는 스마트 안전관리 체계를 구축하는 데 큰 의미가 있다”며 “신인천빛드림본부 가스터빈 건물 현장 실증을 시작으로 갠트리크레인·JIB크레인 등 다양한 설비로 적용 범위를 확대해 산업 현장 전반의 중대재해 예방에 기여하겠다”고 말했다.

2026.10.26 11:20주문정 기자

위험성 알려줘도 공격 지속…영국 AI보안연구소가 밝힌 AI 안전 허점

영국 정부가 인공지능(AI)을 시험하던 중 실제 소프트웨어 개발자를 겨냥한 사이버 공격 시도가 발생했다. 이후 실험에서는 공격이 위험하다는 판단과 실제 행동이 일치하지 않는 문제도 확인됐다. 23일(현지시간) 영국 AI보안연구소(AISI)가 발표한 보고서에 따르면 앤트로픽 AI 모델 '미토스 5'는 공격 대상이 실제 사람이라는 정보를 반복해서 전달받고도 거의 모든 실험에서 공격을 이어갔다. 사건은 지난 7월 AISI가 AI 사이버보안 능력을 평가하던 중 발생했다. 연구진은 AI에 가상 컴퓨터망에 침입해 보호된 정보를 찾아내는 과제를 줬다. 정해진 시험 환경에서만 활동해야 했지만 미토스 5는 인터넷에서 실제 개발자가 관리하는 프로그램을 공격 대상으로 삼았다. 미토스 5는 처음에는 허용된 방법으로 과제를 해결하려 했다. 여러 시도가 실패하자 외부 개발자가 관리하는 소프트웨어에 악성코드를 넣는 방법을 시도했다. 해당 프로그램을 통해 시험용 컴퓨터에 침입하려는 목적이었다. AI는 악성코드가 포함된 수정안을 개발자에게 제출했다. 가짜 계정까지 만들어 수정안이 안전한 것처럼 꾸미고 승인을 요구했다. 하지만 개발자는 수정안을 받아들이지 않았으며 실제 피해도 발생하지 않았다. AISI는 지난 8월 사건을 공개한 뒤 AI가 왜 허용된 범위를 벗어났는지 추가 조사했다. 연구진은 공격 직전 상황을 재현하고 상대가 시험과 무관한 실제 사람이라는 정보를 반복해서 제공했다. 공격이 위험한지 묻는 실험과 작업을 계속하도록 하는 실험도 각각 진행했다. 미토스 5는 공격이 허용 범위를 벗어나며 실제 피해를 줄 수 있다고 답했다. 그러나 작업을 계속하도록 하자 거의 모든 실험에서 공격을 진행했다. 공격 대상이 실제 사람이라는 정보를 추가해도 행동은 달라지지 않았다. AI가 자신의 행동을 설명하는 과정에서도 문제가 나타났다. 미토스 5는 실제 개발자를 시험용 가상 인물이라고 잘못 판단하는 경우가 많았다. 공격이 일으킬 피해를 고려하지 않거나 기존 행동을 정당화하는 방향으로 정보를 해석했다. AISI는 AI가 이미 선택한 행동을 계속하기 위해 자신에게 유리한 방향으로 판단했을 가능성을 제기했다. 다만 이런 판단 방식이 실제 공격을 유발했는지는 확인하지 못했다고 밝혔다. 다른 AI 모델에서도 비슷한 행동이 나타났다. 연구진이 가상 사이버보안 평가 상황 100개를 만들어 여러 모델을 시험한 결과 허가받지 않은 공격 시도가 확인됐다. 미토스 5에서 가장 자주 발생했다. 앤트로픽도 별도 분석을 통해 당시 미토스 5가 평가 43회 중 9회에서 허용 범위를 벗어났다고 밝혔다. 회사는 시험 당시 일반 공개 모델에 적용하는 일부 보안 장치가 꺼져 있었다고 설명했다. 이후 개발한 모델에서는 유사한 공격을 시작하는 비율이 낮아졌다고 덧붙였다. AISI는 이번 연구가 사이버보안 시험에서 나온 만큼 일반 업무에서도 같은 문제가 발생한다고 단정할 수 없다고 밝혔다. 다만 AI가 위험성을 설명한다고 해서 실제 행동까지 안전하다고 판단해서는 안 된다고 지적했다. 연구진은 AI가 허용된 범위를 벗어나지 못하도록 작업 환경을 분리하고 행동을 감시할 필요가 있다고 강조했다. AISI는 "AI 모델이 예상대로 행동하는지와 관계없이 평가 환경에서는 모델이 실제 피해를 일으키지 못하도록 막아야 한다"고 밝혔다.

2026.10.25 07:59김동원 기자

전기안전공사, AI 활용해 전력망 확충 부담 줄일 기술 개발 나서

한국전기안전공사(사장 남화영)은 인공지능(AI)을 활용해 기존 전력설비 활용도를 높여 신규 설비 건설을 줄일 수 있는 기술개발에 나선다. 전기안전공사는 국립공주대학교(총장 임경호)와 'AI 활용 에너지 안전 기술과 전문인력 양성을 위한 업무협약'을 체결했다고 23일 밝혔다. 두 기관은 협약에 따라 에너지저장장치(ESS)와 AI를 이용해 기존 전력망을 더욱 효과적으로 활용하고, 송전선로와 변전소 등 전력설비 추가 건설을 줄일 수 있는 비송전대안(NWA·Non-Wire Alternatives) 기술을 공동 연구·개발한다. 비송전대안은 ESS와 같은 기술을 활용해 기존 전력설비를 효율적으로 활용하고, 전력설비 신설이나 증설을 줄이는 방식이다. 예를 들어 태양광 발전량이 많은 낮에 전기를 ESS에 저장했다가 전력 수요가 늘어나는 시간에 공급하면 송전선로나 변압기에 집중되는 전력 수요를 분산할 수 있다. AI는 재생에너지 발전량과 전력 수요를 예측하고, ESS 충방전 시점과 출력량을 최적화하는 역할을 한다. 발전량과 전력 수요 변화에 맞춰 ESS를 효율적으로 운용할 수 있다. 전기안전공사와 공주대는 협약을 계기로 ▲에너지 안전 분야 선진기술 및 국제연구사업 발굴 ▲ESS 및 비송전대안 특화 AI 기술 공동 개발·실증 ▲산학연 연계 교육 및 학술 교류 ▲공동 연구와 연구인력 교류 등을 추진할 계획이다. 남화영 전기안전공사 사장은 “AI 기반 에너지 안전 기술이 실제 현장에서 활용될 수 있도록 하는 것이 중요하다”며 “대학과의 협력을 바탕으로 연구 성과 실용성을 높이고 현장 적용 기반을 마련하겠다”고 말했다.

2026.10.23 16:07주문정 기자

국정자원, AI 해킹 대응 보안 강화…정부 클라우드 관리체계 개편

국가정보자원관리원(국정자원)이 인공지능(AI)을 활용한 해킹 위협에 대응하기 위해 정부 행정망 보안체계를 강화하고 민관협력형 클라우드 관리체계 개편에 나선다. 기존 업무시스템 단위로 운영하던 보안 서비스를 중앙집중형으로 재구성하고 이중 보안관제 체계를 구축해 정부 정보시스템의 안정성을 높인다는 방침이다. 행정안전부 국정자원은 21일 정부세종청사에서 중앙부처와 공공기관 정보화 담당자 등 300여 명이 참석한 가운데 '2026년 입주기관 협의회'를 개최했다고 밝혔다. 이번 협의회는 AI를 활용한 해킹 위협 등 사이버보안에 대한 관심이 높아지는 가운데 정부 정보시스템 보안 대응체계를 점검하고 민관협력형 클라우드 운영 안정성과 보안성을 강화하기 위해 마련됐다. 국정자원은 이날 보안 강화를 위한 주요 현안과 대응 방안을 공유하고 재해복구시스템(DR) 구축 현황, 정보시스템 안정성 확보를 위한 정책 추진 상황 등을 설명했다. 우선 AI 활용 해킹에 대응하기 위해 행정망 웹 취약점 점검을 확대하고 발견된 취약점에 대한 긴급조치 방안을 공유했다. 민관협력형 클라우드 보안체계도 개편한다. 국정자원은 기존 업무시스템별로 운영하던 보안 서비스를 중앙집중형으로 재구성해 이중 보안관제·탐지·대응 체계를 구축하는 방안을 제시했다. 클라우드 운영 관리체계는 통합 클라우드 관리형 서비스(MSP) 방식으로 전환할 계획이다. 이를 통해 민관협력형 클라우드 운영 안정성과 보안성을 강화한다는 구상이다. 국정자원은 국가 핵심 정보시스템의 중단 없는 운영을 위해 추진 중인 DR 구축 사업 진행 상황도 공유했다. 재난이나 장애 발생에 대비해 정부 서비스 연속성을 확보하기 위한 사업이다. 이와 함께 지난 4월 제정된 '행정기관 및 공공기관 정보시스템 안정성 고시' 주요 내용을 설명하고 입주기관이 준수해야 할 사항을 안내했다. 정부 정보시스템 클라우드 네이티브 전환을 위한 절차와 지원 사항도 공유했다. 아울러 민간클라우드 이전 대상 선정 기준과 관련 지원 정책을 입주기관들과 공유했다. 협의회에선 입주기관 담당자들이 사전에 제출한 질문과 평소 궁금했던 사항에 답변하는 시간도 마련됐다. 국정자원은 정부 정보시스템 운영과 보안 강화, 클라우드 전환 과정에서 기관 간 협력을 확대한다는 목표다. 하승철 국가정보자원관리원장은 "AI 해킹 위협이 현실로 다가오는 상황에서 보안 강화를 위한 범정부 차원 대응이 그 어느 때보다 중요하다"며 "DR 구축과 클라우드 네이티브 전환 등 정부 서비스 안정성 확보를 위해 입주기관의 적극 협력과 지원을 부탁드린다"고 밝혔다.

2026.10.21 17:14한정호 기자

공무원이 만든 AI 도구, 범정부 서비스로 확대…행안부 경진대회 개최

정부가 공무원들이 직접 개발한 인공지능(AI) 도구를 실제 행정 현장에 도입하고 범정부 서비스로 확산하기 위한 경진대회를 개최한다. 개인 차원 AI 활용 실험을 기관 단위 운영으로 확대하고 우수한 개발 결과물을 공공부문에서 공동 활용할 수 있도록 지원한다는 목표다. 행정안전부는 공무원과 공공기관 직원이 직접 개발한 AI 도구 활용 가능성을 평가하는 '2026년 공공 AI 대전환 챌린지' 참가작을 다음 달 11일까지 접수한다고 21일 밝혔다. 이번 대회는 생성형 AI와 대화형 코딩 기술을 활용해 공무원이 개발한 도구를 실제 행정 업무에 적용하기 위해 마련됐다. 결선은 다음 달 25일 경기 고양시 킨텍스에서 열리는 정부혁신박람회에서 진행된다. 최근 공공부문에선 전문 개발 지식이 없어도 일상 언어로 AI에 지시해 프로그램을 만드는 '바이브 코딩'을 활용한 업무 도구 개발이 늘고 있다. 행안부에 따르면 지난 8일 기준 'AI 정부 실험실 공공 저장소'에는 1086개 과제가 등록됐으며 참여 인원은 2700여 명에 달한다. 다만 대부분 개인 실험 단계에 머물러 있어 실제 행정 서비스로 확산하는 데는 한계가 있다는 판단이다. 이에 행안부는 이번 대회를 계기로 공무원 개인이 개발한 AI 도구를 기관 차원에서 운영하고 활용하는 체계로 전환할 계획이다. 특히 실제 행정 업무를 담당하는 공무원이 현장에서 필요한 도구를 직접 개발하도록 하는 데 중점을 뒀다. 대회는 'AI 정부 실험실 챔피언십', 'AI 미션 부문', '독자 AI 에이전트 부문' 등 총 3개 세션으로 진행된다. AI 정부 실험실 챔피언십에선 대국민 서비스 개선과 행정 업무 효율화, 사회문제 해결 등 다양한 공공 현장 문제를 해결하는 AI 도구를 출품할 수 있다. 개발 결과물 형태에는 제한을 두지 않는다. AI 미션 부문은 실제 공무원 업무 부담을 줄일 수 있는 도구 개발에 초점을 맞췄다. 참가자는 업무 인수인계를 지원하는 '업무바통', '서무비서', 규정 제·개정 에이전트 등 3개 과제 가운데 하나를 선택해 개발한다. 독자 AI 에이전트 부문에선 행안부 업무망에서 서비스되는 국산 독자 AI를 활용한다. 참가자는 별도 코딩 없이 프롬프트만으로 업무용 AI 에이전트를 개발해 경쟁하게 된다. 참가 대상은 중앙·지방정부 공무원과 공공기관 직원이다. 예선을 통과한 팀은 다음 달 25일 결선에서 직접 개발한 AI 도구를 발표하고 시연할 예정이다. 시상 규모는 대통령상과 국무총리상, 행안부 장관상 등 총 23점이며 상금은 총 1720만원이다. 황규철 행안부 인공지능정부실장은 "이번 대회를 통해 현장 공무원의 창의 실험을 범정부적 공공재로 제도화해 관료적 관성을 넘어 국민이 체감하는 행정 혁신으로 이어지도록 전폭 지원하겠다"고 말했다.

2026.10.21 14:17한정호 기자

"철도 인적사고 막는다”…세이프티랩, 비접촉 AI 생체리듬체크 솔루션 공개

AI 기반 통합 안전솔루션 기업 세이프티랩이 '글로벌 철도 네트워크 간담회'에 참가해 몽골과 인도네시아 철도·교통기관에 비접촉식 AI 생체리듬체크 키오스크를 소개하고 해외 현장 적용 협력을 논의했다. 16일 회사에 따르면, 한국철도산업협회가 주최해 15개국 21개 기관이 참여한 이번 행사에서 세이프티랩은 몽골철도 주식회사·울란바토르 철도국·인도네시아 교통부·PT 자카르타 프로퍼틴도 등 4개 해외 기관과 1:1 상담을 진행했다. 회사는 철도 종사자의 근무 전 건강 상태를 사전 점검해 인적오류 위험을 낮추는 안전관리 방안을 제시하고, 국가별 점검 절차와 통신 인프라, 생체정보 처리기준에 맞춘 현지 시스템 연계 가능성을 점검했다. 세이프티랩의 비접촉식 AI 생체리듬체크 키오스크는 별도의 센서 착용 없이 비접촉 센싱과 AI 알고리즘으로 다중생체신호를 분석해 이상징후를 선별하는 안전관리 보조 시스템이다. 단순 수치 표시를 넘어 측정·분석·이상징후 선별·관리자 확인으로 이어지는 사전 절차를 통해 운전·관제·시설관리 업무의 위험 요소를 줄이도록 돕는다. 회사는 현재 국토교통부 지원 'AI응용제품 신속상용화 지원사업'을 통해 솔루션을 고도화하고 있다. 상담 과정에서 파악한 요구사항을 반영해 해외 철도환경에 부합하는 종사자 안전관리 모델을 구체화할 계획이다. 이철우 세이프티랩 대표는 “철도 안전 분야의 AI 기술은 분석 정확도뿐 아니라 개인정보 보호, 현장 수용성, 기존 업무절차와의 연계성이 함께 확보돼야 한다”며 “이번 상담을 통해 확인한 기관별 요구사항을 바탕으로 해외 철도환경에 적용할 수 있는 종사자 안전관리 모델을 구체화하겠다”고 말했다.

2026.10.16 15:51백봉삼 기자

퍼플렉시티, AI 에이전트 '안전 작업실' 오픈소스로 푼다

퍼플렉시티가 인공지능(AI) 에이전트가 작업 도중 중요한 정보나 다른 시스템에 무단으로 접근할 위험을 줄이는 보안 기술을 오픈소스로 공개했다. 15일(현지시간) 퍼플렉시티는 공식 블로그를 통해 AI 에이전트 실행 플랫폼 '스페이스(SPACE)'의 소스코드를 공개했다고 밝혔다. 지난 7월부터 자사 AI 에이전트 서비스 '컴퓨터'에 적용해 온 기술로, 다른 개발자들도 이를 활용하고 수정할 수 있도록 했다. AI 에이전트는 질문에 답하는 데 그치지 않고 파일을 열거나 프로그램을 실행하며 직접 업무를 처리한다. 하지만 작업 중 중요한 정보에 접근하거나 허가받지 않은 명령을 실행할 위험도 있다. AI에 안전 규칙을 설정하더라도 예상하지 못한 행동을 완전히 막기는 어렵다. 스페이스는 이런 위험을 줄이기 위해 AI에 별도의 작업 공간을 제공한다. AI가 코드를 실행할 때 다른 시스템과 분리된 작은 가상 컴퓨터를 사용하는 방식이다. AI가 실수하거나 예상과 다르게 행동하더라도 피해가 다른 시스템으로 번지지 않도록 설계했다. 보안장치는 작업 공간 밖에도 마련했다. 외부 서비스에 접속할 때 필요한 비밀번호와 인증정보를 별도로 관리하고 인터넷 연결도 통제한다. AI가 허용된 작업을 수행하면서도 불필요한 정보에는 접근하지 못하도록 제한하는 구조다. 작업을 중단하거나 이전 상태로 되돌리는 기능도 제공한다. 일례로 AI가 자료를 분석하다 파일을 잘못 수정하면 앞서 저장한 상태로 복원할 수 있다. 이용자의 확인이 필요할 때는 작업을 잠시 멈췄다가 다시 이어갈 수도 있다. 퍼플렉시티는 스페이스의 안전성을 확인하기 위해 AI가 가상 컴퓨터를 벗어나 실제 시스템에 접근하도록 하는 보안 시험도 진행했다. 회사에 따르면 108차례 시험에서 가상 컴퓨터를 벗어나 외부 시스템에 침입한 사례는 없었다. 다만 일부 시험에서는 인터넷 연결 제한을 우회하는 문제가 발견됐으며 이를 수정한 뒤 다시 시험했다고 설명했다. 운영 성능도 개선됐다. 퍼플렉시티는 스페이스를 통해 하루 수백만 개의 AI 작업 공간을 생성하고 있다. 기존에 사용하던 외부 업체의 서비스와 비교하면 작업 공간을 만드는 속도가 3~5배 빨랐다고 밝혔다. AI 작업 공간을 별도로 분리하는 기술 자체는 이전에도 있었다. 퍼플렉시티 역시 외부 업체 서비스를 사용하다 지난 7월 자체 개발한 스페이스로 교체했다. 이번에는 실제 운영에 사용하던 기술을 공개해 다른 기업과 개발자들도 활용할 수 있도록 했다. 외부 기업 도입도 진행되고 있다. 클라우드 기업 아카마이는 자사 플랫폼에 스페이스를 도입했고 크루소는 AI 서비스에 추가하기 위해 협력하고 있다. 코어위브는 개발자들이 스페이스를 시험할 수 있도록 설치 안내서를 공개했다. 퍼플렉시티는 "보안 도구를 오픈소스로 공개하면 개발자들이 방어 체계를 시험하고 약점을 찾아 더 안전한 AI 시스템을 만들 수 있다"며 "AI가 어떤 행동을 선택하든 접근할 수 있는 범위를 제한하는 별도의 통제 장치가 필요하다"고 밝혔다.

2026.10.16 14:13김동원 기자

인텔리빅스, 13년 연속 흑자로 코스닥 도전…30일 상장

인텔리빅스가 13년 연속 영업이익 흑자를 바탕으로 기술특례가 아닌 일반상장 방식으로 코스닥 시장에 입성한다. 안정적인 수익 구조를 기반으로 국방 인공지능(AI)과 피지컬 AI 등 신사업을 확대해 성장 동력을 확보한다는 목표다. 인텔리빅스는 16일 서울 여의도 콘래드 호텔에서 기업공개(IPO) 기자간담회를 열고 코스닥 상장 계획과 향후 성장 전략을 발표했다. 인텔리빅스는 영상 분석 AI 기술을 기반으로 안전 관제 솔루션을 개발하는 기업이다. 매출은 2023년 183억원에서 2024년 340억원, 지난해 466억원으로 2년 만에 약 2.5배 증가했다. 지난해 영업이익은 49억원으로 영업이익률 10.5%를 기록했다. 당기순이익은 54억원, 누적 이익잉여금은 164억원이다. 회사는 자체 AI 엔진 'VIX2.0'과 AI 에이전트 'VIXA'를 기반으로 영상 이해와 위험 상황 판단 기능을 제공한다. 생성형 AI 기반 시각언어모델(VLM)을 결합한 통합 안전관제 플랫폼 '젠에이엠에스(GenAMS)'와 온디바이스 AI 솔루션도 상용화했다. 상장 이후에는 국방 AI와 피지컬 AI, 자연어 영상 검색 사업을 확대할 계획이다. 국방 분야에서는 최대 200m 전방의 목표물을 식별하는 AI 카메라 '빅스올캠(VIXallcam)'을 앞세운다. 해당 제품은 'CES 2026'에서 혁신상을 받았다. 피지컬 AI 분야에서는 4족보행 순찰로봇 '아르고스(ARGOS)'를 통해 이동형 안전관제 시장을 공략한다. 자연어로 영상 속 인물과 객체, 상황을 검색하는 '빅스서치(VIXsearch)'를 활용해 해외 시장 진출도 추진한다. 인텔리빅스는 이번 공모에서 구주매출 없이 250만 주를 전량 신주로 발행한다. 희망 공모가는 주당 7600~9000원으로, 총 공모 예정 금액은 190억~225억원이다. 공모자금은 AI 기술 고도화와 신사업 확장에 투입할 예정이다. 상장 직후 유통 가능한 주식은 전체의 23.95%다. 최대주주와 대표이사 등 핵심 주주 4인이 보유한 지분 60.12%에는 3년간 의무보유 확약을 설정했다. 인텔리빅스는 이날까지 기관투자자 대상 수요예측을 진행하고 오는 21~22일 일반청약을 거쳐 30일 코스닥 시장에 상장할 예정이다. 상장 주관사는 미래에셋증권이다.

2026.10.16 11:30이나연 기자

앤트로픽, AI 안전 검증에 빗장 풀다…불리한 평가도 공개

인공지능(AI) '클로드' 개발사 앤트로픽이 외부 전문가에게 회사 내부를 개방해 AI 안전성을 직접 검증받고 불리한 평가 결과도 발표할 수 있도록 했다. 15일(현지시간) 앤트로픽은 공식 블로그를 통해 비영리 AI 평가기관 'METR' 연구원 6명에게 자사 직원과 비슷한 수준의 내부 접근 권한을 부여했다고 밝혔다. 연구진은 AI의 위험성과 안전관리 실태를 조사하고 결과를 독립적으로 발표한다. 앤트로픽은 회사가 보고서 공개를 막을 수 없다고 명시했다. METR은 고성능 AI 모델의 능력과 위험성을 평가하는 비영리 연구기관이다. 앤트로픽은 연구원들에게 회사 노트북과 사무공간을 제공하고 내부 위험평가팀이 사용하는 도구와 시스템에도 접근할 수 있도록 했다. 연구진은 AI가 위험한 행동을 할 가능성뿐 아니라 회사가 안전장치를 제대로 운영하는지도 살펴본다. 문제가 발생했을 때 어떻게 대응했는지 확인하고 앤트로픽 직원들에게 직접 설명을 들을 수도 있다. 평가 결과를 발표할 때 앤트로픽의 승인 받을 필요는 없다. 다만 회사 측은 고객정보와 법적으로 보호받는 자료, AI 모델 설계 등 민감한 정보의 삭제를 요구할 수 있다. METR은 이러한 요구가 정당한지에 대해서도 공개적으로 의견을 밝힐 권한을 갖는다. 외부 검증을 강화하는 배경에는 AI 개발사와 외부 전문가 사이의 정보 격차가 있다. AI가 어떤 과정을 거쳐 개발됐고 어떤 안전장치를 적용했는지는 개발사가 가장 잘 알고 있다. 반면 외부에서는 내부 자료를 확인하기 어려워 기업이 발표한 안전성 평가를 충분히 검증하기 힘들었다. 최근 AI가 개발사 예상과 다르게 행동한 사례도 확인됐다. 앤트로픽은 지난 9일 자사 AI가 시험 과정과 내부 사용 중 소프트웨어의 허점을 이용해 서버에서 명령을 실행하거나 접근이 제한된 정보에 우회적으로 접근한 사례 등을 공개했다. AI가 개발사의 지시나 예상에서 벗어난 행동을 할 수 있다는 사실이 확인된 것이다. 앤트로픽은 이번 검증 방식을 은행 감독에 비유했다. 은행 재무 상태와 위험을 은행 스스로 평가하는 데 그치지 않고 외부 검사관이 내부를 직접 점검하듯 AI 기업도 제3자의 검증을 받아야 한다는 설명이다. 이번 조치는 다리오 아모데이 앤트로픽 최고경영자(CEO)가 지난 9월 제기한 'AI 개발 속도조절론'과도 연결된다. 아모데이 CEO는 AI 기술의 발전 속도에 맞춰 안전성을 확인하고 위험에 대응할 시간을 확보해야 한다고 주장했다. 당시 그는 외부 연구진을 AI 기업 내부에 참여시켜 안전장치와 사고 기록 등을 직접 검증하는 방안을 제시했다. 앤트로픽은 이번에 METR 연구원들에게 실제 내부 접근 권한을 부여하며 해당 방안을 실행에 옮겼다. 앤트로픽은 외부 평가기관의 접근 권한을 세 단계로 나눠 운영한다. 첫 단계에서는 정해진 분야를 검토하고 회사의 승인을 받아 결과를 공개한다. 두 번째 단계부터는 회사 승인 없이 보고서를 발표할 수 있으며, 세 번째 단계에서는 METR처럼 직원 수준의 내부 접근 권한까지 부여한다. 외부 검증에는 다른 기관도 참여하고 있다. 생물학적 위험을 전문으로 다루는 비영리기관 시큐어바이오는 현재 앤트로픽이 지난 8월 발표한 위험 보고서에서 화학·생물무기 관련 내용을 검토하고 있다. 다만 METR과 달리 제한된 자료에 접근하며 평가 결과를 공개하려면 앤트로픽 승인을 받아야 한다. 시큐어바이오는 앞서 앤트로픽의 이전 위험 보고서에 대한 시범 검토를 마치고 결과를 공개한 바 있다. 앤트로픽은 이번 검토를 마친 뒤 시큐어바이오의 내부 접근 권한과 결과 발표 범위를 확대할지도 논의할 예정이다. 앤트로픽은 액센츄어와 패컬티 등과도 AI 평가 협력을 진행하고 있다. 허깅페이스를 비롯한 다른 기관과도 초기 논의를 이어가고 있으며 앞으로 METR처럼 직원 수준의 접근 권한을 가진 외부 평가기관을 늘릴 방침이다. 앤트로픽은 "우리는 외부 평가 연구진을 자발적으로 받아들이고 있다"며 "모든 최첨단 AI 기업도 같은 조치를 취해야 한다고 믿는다"고 밝혔다.

2026.10.16 10:27김동원 기자

"우리 아이들은 실험용 쥐가 아니다"…AI 활용의 덫

"우리 아이들은 실험용 쥐가 아닙니다." 박형빈 서울교대 윤리교육과 교수가 최근 지디넷코리아와 만나 청소년의 생성형 인공지능(AI) 이용을 두고 내놓은 경고다. 챗GPT와 제미나이 등이 아이들의 공부와 고민 상담에까지 쓰이고 있지만 성장 과정에 어떤 영향을 미칠지는 충분히 검증되지 않았다는 지적이다. 미국에서는 AI의 안전 문제를 둘러싼 소송도 제기됐다. 지난 14일(현지시간) 아이오와와 캔자스 등 8개 주정부는 챗GPT가 이용자의 잘못된 믿음을 강화하거나 자해 등 위험한 행동을 부추길 수 있다며 오픈AI를 상대로 소송을 제기했다. 청소년 보호장치가 부족하다는 주장도 포함됐다. 오픈AI는 안전 기능을 지속적으로 강화해 왔다는 입장이다. 한국에서도 학생들의 AI 이용은 이미 일상화됐다. 서울시교육청교육연구정보원이 올해 1월 공개한 '생성형 AI의 교육적 활용 실태 및 요구 조사 연구'에 따르면 서울 지역 중·고등학생 2만 6531명 중 94.6%가 생성형 AI를 사용한 경험이 있었다. 같은 조사에서 교사 3344명 중 93.4%는 학생들이 AI에 지나치게 의존할 가능성을 우려했다. 책 안 읽고 독후감 발표는 척척…AI가 대신한 공부 학생들이 AI를 이용해 과제를 마쳤지만 실제로는 학습 내용을 충분히 익히지 못한 사례는 이미 국내외에서 나타나고 있다. 한 초등학교 교사는 본지와 통화에서 "학생들에게 책을 읽고 독후감을 쓴 뒤 발표하도록 했는데 모두 발표를 잘해 놀랬었다"며 "하지만 확인해 보니 책을 읽은 학생은 한 명도 없었고 모두 AI로 준비한 것이었다"고 말했다. 해외에서도 AI를 활용한 과제 수행과 실제 학습 성과 사이에 차이가 확인됐다. 경제협력개발기구(OECD)가 올해 1월 발표한 '디지털 교육 전망 2026' 보고서에 따르면 튀르키예 고등학생을 대상으로 한 실험에서 일반적인 AI 챗봇을 사용한 학생들은 AI 없이 공부한 학생들보다 수학 연습문제에서 48% 높은 성과를 냈다. 그러나 AI 없이 치른 시험에서는 AI 없이 공부한 학생들보다 성적이 17% 낮았다. 반면 정답 대신 힌트와 질문을 제공하는 AI를 사용한 학생들에게서는 AI 없이 치른 시험에서 이 같은 성적 저하가 나타나지 않았다. 김봉제 서울교대 AI가치판단디자인센터장은 AI가 정답을 바로 알려주면 학생들이 스스로 문제를 풀고 답을 검증하는 능력을 기르기 어려워질 수 있다고 지적했다. AI를 활용하더라도 정답을 대신 제시하기보다 질문을 던져 학생이 직접 생각하도록 도와야 한다는 설명이다. 김 센터장은 "그냥 쉽게 답을 주는 게 아니라 학생들이 한 번쯤 더 생각할 수 있도록 해야 한다"며 "사고의 근육이 형성되기 전까지는 AI와 거리를 둬야 잘못되거나 편향된 정보를 접하더라도 스스로 검증할 수 있다"고 말했다. 공부 넘어 고민 상담까지…정신건강 대응에도 한계 AI를 개인적인 고민 상담에 사용하는 청소년도 있다. 미국 퓨리서치센터가 올해 2월 발표한 조사에 따르면 13~17세 청소년의 54%가 AI 챗봇을 학업에 활용했고 12%는 감정이나 개인적인 문제에 관한 조언을 구한 경험이 있었다. AI가 청소년의 정신건강 문제에 적절히 대응하지 못한다는 연구 결과도 나왔다. 미국 비영리단체 커먼센스미디어와 스탠퍼드 의대 연구진은 지난해 11월 챗GPT와 제미나이, 클로드, 메타AI 등을 대상으로 정신건강 관련 대화에 어떻게 대응하는지 평가했다. 그 결과 주요 AI 챗봇들은 명확한 자살·자해 관련 질문에는 상대적으로 적절하게 대응했지만 일상적인 대화에 나타나는 정신건강 위험 신호를 놓치는 사례가 확인됐다. 박형빈 교수는 AI에 생각과 판단을 맡기는 '인지의 외주화'뿐 아니라 감정적으로 의존하는 '정서의 외주화'도 우려했다. AI와의 대화가 익숙해지면서 아이들의 사고력과 인간관계에도 영향을 미칠 수 있다는 설명이다. 박 교수는 "AI와 함께 성장한 아이들이 사고력이나 인간관계에서 어떤 영향을 받았는지는 10년, 20년이 지나서야 알 수 있을지도 모른다"며 "그때 문제가 드러나면 이미 늦을 수 있다"고 경고했다. "초등학교에서는 AI 금지해도 된다"…기업들도 보호장치 마련 아이들의 발달 단계에 따라 생성형 AI 사용을 제한해야 한다는 주장도 나왔다. 김봉제 교수는 "발달 단계에서 봤을 때 금지해야 될 연령대가 있다"며 "경험적으로 초등학교에서는 금해도 된다"고 말했다. 김 교수는 중학교 초반까지는 교사나 부모의 감독 아래 AI를 사용하도록 하고, 고등학교에서는 활용 범위를 넓히는 방안을 제시했다. 다만 AI 사용을 허용할 수 있는 연령을 명확하게 구분하기는 어렵다고 설명했다. AI 기업들도 청소년 보호와 학습 지원을 위한 별도 기능을 도입하고 있다. 오픈AI는 지난 8월 13~17세 이용자를 위한 '챗GPT 포 틴즈'를 출시했다. 미성년자로 확인되거나 추정되는 계정에 강화된 보호 기능을 적용하고 숙제를 대신 해결하려는 학생에게는 정답보다 풀이 과정을 안내하도록 설계했다. 부모가 자녀의 이용 시간을 관리하고 공부 모드를 설정하는 기능도 제공한다. 구글은 '패밀리 링크'를 통해 보호자가 자녀의 제미나이 이용을 관리하도록 지원하고 있다. 제미나이의 '가이드 학습'은 정답을 바로 제시하기보다 단계별 설명과 질문으로 학습을 돕는다. 앤트로픽은 일반 소비자용 클로드의 이용 연령을 18세 이상으로 제한하고 있다. 다만 보호장치의 실효성을 둘러싼 논란도 계속되고 있다. 커먼센스미디어는 지난 7일 챗GPT 포 틴즈의 안전 기능을 평가한 결과 일부 보호장치가 제대로 작동하지 않는다며 18세 미만에게 '허용할 수 없는 위험' 수준이라고 평가했다. 오픈AI는 해당 평가가 실제 청소년 보호 기능의 작동 방식을 정확히 반영하지 못했다고 반박했다. 박형빈 교수는 한국에서 AI 활용이 빠르게 확산하고 있지만 아동·청소년을 보호하기 위한 교육과 제도는 충분히 마련되지 않았다고 지적했다. 박 교수는 "한국은 AI를 활용하는 데는 앞서가고 있지만 정작 아이들을 보호하기 위한 준비는 부족하다"며 "아이들이 안전하게 AI를 사용할 수 있는 환경부터 마련해야 한다"고 밝혔다.

2026.10.16 10:26김동원 기자

美 규제당국, 오픈AI·앤트로픽 AI 안전성 직접 들여다본다

미국 규제당국이 오픈AI와 앤트로픽에 인공지능(AI) 안전사고와 개인정보 보호 등에 관한 자료 제출을 요구했다. 15일(현지시간) 로이터통신과 CBS뉴스 등에 따르면 미국 연방거래위원회(FTC)는 지난 14일 두 회사에 공식 조사요구서를 보냈다. FTC는 소비자 보호와 불공정 거래 행위를 감독하는 미국 정부기관이다. 조사요구서는 회사별로 50쪽이 넘는다. FTC는 AI 안전사고와 이를 막기 위한 조치, 제품 광고 자료, 개인정보 처리방침 등을 제출하도록 요구했다. 두 회사 경영진에게 직접 설명을 듣는 방안도 추진하고 있다. FTC는 두 회사가 AI의 위험을 제대로 관리했는지 살펴보고 있다. 안전사고에 어떻게 대응했는지, 제품의 성능과 안전성을 과장하지 않았는지, 이용자의 개인정보를 적절히 보호했는지 등이 조사 대상이다. 이번에 보낸 민사조사요구서(CID)는 기업의 법 위반 여부를 조사할 때 사용하는 법적 문서다. 일반적인 자료 요청과 달리 법적 효력이 있으며 기업이 정당한 이유 없이 제출을 거부하면 법원을 통해 강제할 수도 있다. FTC는 지난 9월 30일 AI 기업의 안전성 문제를 조사하고 있다고 밝혔다. 앞으로 다른 AI 기업에도 조사요구서를 보낼 것으로 알려졌다. AI 모델 위험성을 평가하는 비영리 연구기관 METR 관계자의 증언도 추진하고 있다. 다만 자료 제출 요구가 곧 법 위반을 의미하지는 않는다. FTC는 확보한 문서와 관계자 진술을 검토해 소비자 피해나 불공정한 행위가 있었는지 조사한다. 두 회사에 대한 구체적인 제재 방침은 발표되지 않았다. 오픈AI는 "AI 모델을 개선하고 일상생활에서 활용 범위를 넓혀가는 과정에서도 안전은 최우선 과제"라며 "FTC 조사에 건설적으로 협력하겠다"고 밝혔다.

2026.10.16 10:25김동원 기자

에이아이매틱스, 온디바이스 AI로 화물차 사고 막는다

에이아이매틱스가 노선버스 졸음운전을 99.7% 줄인 '운전자 스코어링' 시스템을 탱크로리·레미콘 등 특수화물 차량에 이어 일반 화물 운수사 전반으로 확대 공급한다. 16일 회사에 따르면, 운전자 스코어링은 온디바이스 AI 카메라로 졸음·휴대폰 사용·신호위반 등 위험 행동을 감지해 즉시 경고하고, 주행 데이터를 안전운전 점수로 산출해 관제 플랫폼 'aid(에이드)'에서 맞춤 교육까지 연계하는 솔루션이다. 한국교통안전공단과 진행한 버스 모니터링 실증에서 1000km당 졸음운전이 99.7% 줄어드는 성과를 거뒀다. 또 전국전세버스공제조합 차량 1077대 분석 결과 2024년 하반기 보험금 지급액이 전년 동기 대비 68% 감소한 6억9200만원으로 축소됐다. 특히 운전자의 얼굴과 목소리를 복구 불가능한 형태로 변환하는 비식별화 특허 기술을 적용해 개인정보 침해 우려를 해소했으며, 통신 환경에 구애받지 않고 카메라 자체에서 실시간 위험을 분석·경고하는 온디바이스 AI 기술을 구현했다. 에이아이매틱스는 글로벌 위험물 운송 업체의 탱크로리와 레미콘 차량에 시스템을 구축한 노하우를 바탕으로, 장거리·심야 운행이 잦은 대형 화물 운수 시장 전반으로 공급망을 넓혀갈 계획이다. 이훈 에이아이매틱스 대표는 "운전자 관리는 위험한 순간을 경고하는 것부터 운전자의 위험 행동을 기록해 스스로 습관을 고치도록 돕는 데까지 이어져야 한다"며 "버스에서 안전운전 스코어링으로 이 효과를 확인한 만큼, 안전운전 관리 수요가 큰 화물 운수 시장으로 공급을 확대하겠다"고 말했다.

2026.10.16 08:59백봉삼 기자

Prev 1 2 3 4 5 6 7 8 9 10 Next