검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'안전'통합검색 결과 입니다. (833건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

공격도 방어도 AI가…"사업자 보안·복원력 의무화해야"

인공지능(AI)이 사이버 공격을 자동화하는 수단인 동시에 새로운 공격 대상으로 떠오르면서 고영향 AI 사업자에 대한 보안과 복원력 확보 의무를 강화해야 한다는 목소리가 나왔다. 현행 AI기본법에는 사이버보안이나 적대적 공격에 대한 복원력을 명시한 규정이 없어 AI 시대의 보안 위협에 대응하기에 한계가 있다는 지적이다. 국회입법조사처는 이달 초 발간한 'AI로 인한 새로운 보안 위험과 대응에 관한 국내외 입법·정책 비교 연구'에서 AI 발전에 따라 'AI에 의한 위협'과 'AI에 대한 위협'이 동시에 확대되고 있다고 분석했다. 보고서는 생성형 AI와 거대언어모델(LLM)을 활용하면 사이버 공격에 필요한 도구를 생성할 수 있으며 에이전틱 AI 사용 시 외부 도구와 시스템을 연동해 공격 과정을 자동화할 수 있다고 설명했다. AI 활용으로 공격자에게 요구되는 전문 지식이 줄어들면서 공격 준비 시간과 비용이 감소하고, 공격의 속도와 규모가 커질 가능성도 제기했다. 동시에 AI 자체도 새로운 공격 대상이 되고 있다. 머신러닝·딥러닝은 학습 데이터와 모델 자체, 생성형 AI·LLM은 입력과 생성 결과, 에이전틱 AI는 외부 도구 연동과 권한 위임 과정, 피지컬 AI는 센서 입력과 제어 명령이 주요 위협 지점으로 꼽혔다. 국내 제도는 이같은 변화에 충분히 대응하지 못하고 있다는 게 보고서의 분석이다. 현행 AI기본법은 고영향 AI 사업자의 책무와 영향평가를 규정하고 있지만 유럽연합(EU) AI법과 달리 사이버보안이나 적대적 공격 복원력에 관한 명문 규정이 없다. 보안 거버넌스가 공공·민간·금융 등 영역별로 나뉘어 있다는 점도 지적됐다. 국가정보원, 한국인터넷진흥원(KISA), 금융보안원 등이 각 소관 영역에서 위협 정보 공유와 사고 조사를 수행하지만 영역을 초월하는 사이버 침해 사고에 대한 범국가적 차원의 단일 정보 공유와 대응에는 한계가 있다는 것이다. 대안으로는 AI의 전 생애주기에 걸친 보안 설계와 복원력 강화를 비롯해 제로트러스트와 소프트웨어 자재명세서(SBOM)를 AI에 적용한 'AI-BOM'의 법제화가 제안됐다. 보고서는 AI 기반 방어와 신속한 패치 체계를 마련하고, KISA·금융보안원·국정원·경찰 등으로 분산된 침해사고 신고·대응 창구를 실무적으로 일원화하는 방안도 제시했다. 연구 책임자인 이해원 강원대 법학전문대학원 교수는 "AI발 사이버 침해사고가 기존 사고보다 신속화·대량화·다각화·전문화돼 완벽한 방어를 기대하기 어렵다"고 말했다. 이어 "사고 발생시 선 복원력 확보 후 원인조사 및 책임추궁 체계 정립이 필요하다"고 부연했다.

2026.09.18 11:57이나연 기자

[AI는 지금] AI 속도조절하려면 속도부터 알아야…앤트로픽, 내부 지표 공개

인공지능(AI) 개발 속도조절을 위해 기업 간 투명성과 검증을 강조해 온 다리오 아모데이 앤트로픽 최고경영자(CEO)가 자사 내부 수치부터 공개했다. ▲AI가 연구개발을 맡고 있는 현황 ▲에이전트 감시 현황 ▲안전에 투입하는 컴퓨팅 자원까지 구체적인 숫자로 제시했다. 앤트로픽은 17일(현지시간) 공식 블로그에 프런티어 AI 개발 속도를 파악하기 위한 측정 지표와 자사 조사 결과를 발표했다. AI 연구개발 자동화와 AI 에이전트 감시, 컴퓨팅 자원 배분 등 세 영역을 조사했다. 조사 결과 앤트로픽 내부에서는 AI가 사람의 지시를 받아 연구를 돕는 수준에서 일부 업무를 주도하는 단계로 확대됐다. 사람이 큰 목표만 정해주면 클로드가 대부분 작업을 수행하는 주도 단계는 지난 2월 1% 미만에서 8월 26%로 높아졌다. 사람이 긴밀하게 관여하는 협업 단계 이상까지 포함하면 전체 AI 연구개발 업무의 90%를 넘었다. 주도 단계에서는 사람이 큰 목표를 정하면 이후 대부분의 작업을 클로드가 수행한다. 사람은 이를 감독하고 최종 적용 여부를 결정한다. 사람이 개입하지 않는 완전 자율 단계에 도달한 업무는 아직 없었다. 앤트로픽은 AI가 AI 개발에 더 많이 참여할수록 개발 속도가 빨라질 가능성이 있다고 설명했다. 성능이 높아진 AI가 다음 모델 개발에 투입되고 새 모델이 다시 연구개발에 참여하는 과정이 반복되면 개발 주기가 짧아질 수 있어서다. AI가 맡는 업무가 늘면서 에이전트를 사람이 얼마나 통제할 수 있는지도 측정했다. 지난 8월 앤트로픽에서 가장 많이 사용하는 내부 플랫폼에서는 한 시점에 약 3만 개 AI 에이전트가 연구와 엔지니어링 업무를 수행했다. 이들이 한 달간 내린 판단과 행동은 10억 건을 넘었다. 앤트로픽은 에이전트의 모든 행동을 실행 전에 검사했다. 이 가운데 문제가 있다고 판단해 막은 비율은 0.002%로 약 4만 7000건당 1건이었다. 문제가 발생하는 비율이 낮아도 에이전트의 활동량이 커지면 실제 발생 건수는 늘어날 수 있다. 앤트로픽은 수백만개에서 수십억개의 에이전트가 활동하는 상황에 대비해 이들의 행동을 제대로 감시하고 통제할 수 있는지도 함께 확인해야 한다고 설명했다. 안전 연구에 사용하는 컴퓨팅 자원도 측정했다. 지난 7월 13일부터 20일까지 AI 연구개발에 투입한 컴퓨팅 자원의 약 6%가 안전 연구에 쓰였다. AI가 수행하는 AI 연구개발로 범위를 좁히면 12%였다. 다만 컴퓨팅 자원만으로 안전 연구 규모를 모두 파악하기는 어렵다는 게 회사 측의 설명이다. 안전 연구는 연구자가 실험을 설계하고 분석하는 데 많은 시간이 들지만 실제 연산량은 상대적으로 적을 수 있어서다. 앤트로픽은 이런 측정치를 향후 안전조치의 기준으로 활용하는 방안도 제시했다. AI 연구개발 자동화가 일정 수준에 도달하면 새 모델을 다시 AI 개발에 투입하기 전 일정 기간 안전성을 시험하거나 AI 연구 에이전트에 배정하는 컴퓨팅 자원을 제한하는 방법이다. 앤트로픽은 여러 기관의 독립적인 외부 평가자를 내부에 배치할 계획이다. 자체 위험평가팀과 비슷한 수준으로 내부 절차와 시스템, 데이터에 접근하도록 해 안전조치와 사고, 주요 지표 등을 검증하게 한다. 앤트로픽의 이번 행보는 아모데이가 최근 제안한 AI 개발 속도조절 논의 연장선으로 해석된다. 아모데이는 지난 12일 AI 개발 속도를 조절해 안전 연구에 필요한 시간을 확보해야 한다고 주장했다. AI 기업의 투명성을 높이고 업계가 공통으로 적용할 수 있는 기준을 마련하는 방안도 제안했다. 앤트로픽은 "프런티어 AI 개발 속도 조절을 검토하는 상황에서 연구소가 아는 것과 대중이 아는 것 사이의 격차를 가능한 줄여야 한다"며 "AI 개발을 더 잘 측정하고 공개해 사회가 이 정보를 어떻게 사용할지 결정할 기회를 제공해야 한다"고 밝혔다.

2026.09.18 08:41김동원 기자

[AI 속도 논쟁③] "200㎞ 달려도 도로에선 100㎞"…한국 AI, 어디서 브레이크 걸까

글로벌 인공지능(AI) 업계에서 개발 속도를 늦춰야 한다는 주장이 커지면서 한국도 같은 브레이크를 밟아야 하는지가 관심사로 떠올랐다. 국내에서는 연구개발까지 늦추기보다 기술 개발은 이어가되 모델이 시장에 나오고 사람을 대신해 행동하는 단계부터 위험에 맞는 안전장치를 강화해야 한다는 목소리가 나온다. 국내 AI 업계와 학계는 한국이 아직 글로벌 프론티어 AI 선두권을 추격하는 상황에서 개발 속도부터 낮추는 것은 현실적이지 않다고 진단했다. 대신 모델 공개와 서비스 출시, 실제 활용을 구분해 단계별로 다른 안전 기준을 적용할 필요가 있다고 봤다. AI 업계 안팎에서는 AI가 맡는 역할과 권한에 따라 안전 기준도 달라져야 한다고 봤다. 질문에 답하는 AI와 예약·결제 등 실제 행동까지 맡는 AI를 같은 수준으로 볼 수 없다는 지적이다. "200㎞ 달리는 차도 도로에선 적정 속도"…개발과 사용은 따로 박지환 씽크포비엘 대표는 17일 지디넷코리아와의 통화에서 한국이 아직 AI 연구개발 속도를 늦출 단계는 아니라고 짚었다. 글로벌 프론티어 AI를 추격해야 하는 만큼 기술 성능을 높이는 연구는 이어가되 실제 사회에서 어디까지 쓰게 할지는 별도의 기준으로 정해야 한다고 봤다. 박 대표는 이를 자동차에 빗댔다. 자동차는 시속 200㎞가 넘는 속도를 낼 수 있도록 개발돼도 실제 도로에서는 시속 80㎞나 100㎞의 제한속도를 적용한다. 일부 승합차처럼 용도나 위험도에 따라 차량 자체의 최고속도를 제한하기도 한다. 그는 "자동차가 시속 200㎞ 넘게 달릴 수 있다고 해서 모든 도로에서 그 속도로 달리게 하지는 않는다"며 "AI도 성능을 어디까지 높일 것인지와 사회에서 어디까지 사용할 수 있게 할지는 구분해야 한다"고 강조했다. 이어 "200㎞ 이상을 달리는 자동차를 연구하는 것처럼 AI 선행 연구는 계속해야 한다"며 "동시에 그 기술을 사회에서 안전하게 사용할 수 있도록 제도를 갖추는 게 필요하다"고 덧붙였다. AI가 답변에서 '실행'으로 넘어가면서 이런 고민은 실제 서비스 현장으로 옮겨가고 있다. 자체 AI 모델과 대국민 서비스를 함께 개발하는 SK텔레콤은 '모두의 AI'에서 병원 예약 등 이용자를 대신해 업무를 수행하는 실행형 AI 에이전트를 준비 중이다. 김지훈 SK텔레콤 AI사업본부장은 에이전트가 직접 행동하는 범위가 넓어질수록 이용자가 어디까지 권한을 맡길지 기준을 세우는 일이 중요해진다고 봤다. 민원이나 금융처럼 개인정보와 돈이 오가는 업무에서는 이용자 동의와 안전장치도 필요하다고 설명했다. SK텔레콤은 이용자 동의 없이 처리할 수 있는 업무와 별도 승인이 필요한 업무를 구분하는 방안을 검토하고 있다. 보안업체와 레드팀도 꾸려 실행형 에이전트의 취약점을 사전에 점검 중이다. 김 본부장은 "에이전트를 어떻게 설계하고 고객 정보를 처리할지, 어떤 방식으로 권한을 얻을지에 대한 논의가 업계에서 더 많이 이뤄져야 한다"며 "성능은 빠르게 높아지고 있지만 관련 가이드라인과 규칙은 아직 초기 단계"라고 말했다. 연구는 계속, 시장에 나올 땐 검증…위험 따라 달라지는 '브레이크' 유창동 한국과학기술원(KAIST) 전기및전자공학부 교수는 기업 내부의 연구개발까지 인위적으로 늦추기는 어렵다고 내다봤다. 다른 국가와 기업들이 개발을 이어가는 상황에서 연구 경쟁 자체를 멈추기는 쉽지 않다는 이유다. 다만 제품을 외부에 내놓기 전에는 별도의 안전 검증이 필요하다고 선을 그었다. 유 교수는 "개발은 계속하더라도 외부로 출시하는 제품은 안전성을 확인하면서 속도를 조절하는 게 맞다"며 "평가 기준과 벤치마크 데이터셋을 마련해 위험 수준을 점검해야 한다"고 제언했다. 정부도 연구개발 속도 자체를 낮추기보다 기술 발전과 안전장치를 함께 끌어올리는 쪽에 무게를 두고 있다. 배경훈 부총리 겸 과학기술정보통신부 장관은 최근 "이미 앞서 있는 나라가 속도를 조절하는 것과 추격하면서 동시에 새로운 시장을 만들어야 하는 나라가 스스로 속도를 낮추는 것은 전혀 다른 문제"라고 밝혔다. 배 부총리는 이를 '속도책임'이라고 표현했다. 그는 "AI 연구개발과 산업 활용에는 과감하게 가속페달을 밟되 위험에는 제대로 작동하는 브레이크를 갖춰야 한다"며 "속도는 경쟁력이고 안전은 지속가능성"이라고 강조했다. 그러나 안전 우려가 커져도 실제 AI 개발 경쟁이 느려질 가능성은 낮다는 관측도 나온다. 일부 기업이나 국가가 속도를 줄이더라도 다른 개발 주체들이 계속 경쟁하는 상황에서는 모두가 동시에 감속하기 어렵다는 이유다. 신정규 래블업 대표는 "아무도 개발 속도를 늦추지 않을 것"이라며 "AI를 직접 만들어보니 위험하다는 점은 이제 확실하고 개발자와 연구자들 사이에서도 이런 위기감이 상당히 일반화돼 있다"고 진단했다. 더 큰 문제는 개발을 이어가는 동안 마련한 안전장치가 예상하지 못한 위험까지 막아낼 수 있느냐다. 신 대표는 기업들이 사전에 여러 대책을 마련하더라도 모든 사고를 미리 차단하기는 어려울 것으로 내다봤다. 그는 "여러 사전 대책을 만들고 도입하겠다는 회사들이 나오겠지만 결국 그것만으로 막지 못하는 큰 사고가 한 번은 날 것"이라며 "그 사고가 치명적이지 않기만을 바란다"고 말했다.

2026.09.17 16:50김동원 기자

[AI 속도 논쟁②] 빅테크가 정한 AI 안전 기준…스타트업 추격 막을까

인공지능(AI) 개발 속도를 늦추자는 주장이 미국과 중국 간 기술 경쟁을 넘어 국내외 스타트업 성장 기회와 맞물린 논쟁으로 번지고 있다. 안전성 확보를 위한 검증 강화와 기술통제가 스타트업 개발 부담을 키울 수 있어서다. AI 위험을 줄이려는 조치가 선도기업의 우위를 굳히는 진입장벽이 될 수 있다는 우려도 나온다. 17일 업계에 따르면 미국과 중국이 AI 안전 기준과 기술통제 방식을 놓고 이견을 보이는 가운데, 관련 조치가 국내외 스타트업의 기술 개발에 미칠 영향도 쟁점으로 떠오르고 있다. 자체 모델 개발사에는 안전 검증 비용이, 외부 모델로 서비스를 만드는 기업에는 안정적인 기술 접근이 주요 변수가 될 수 있다는 점에서다. 이번 논쟁에 불을 붙인 것은 다리오 아모데이 앤트로픽 최고경영자(CEO)의 최근 기고다. 아모데이 CEO는 AI 성능이 빠르게 높아지는 만큼 개발 속도를 조절해 위험을 확인하고 통제할 시간을 확보해야 한다고 주장했다. 이를 위해 외부 평가자가 AI 기업 내부의 안전 조치를 검증하고 국가 간 공통 기준을 마련하자고 제안했다. 구체적으로는 AI 모델의 능력이 일정 수준을 넘으면 그에 맞는 안전성을 입증하도록 하는 방안을 제시됐다. 모델이 수행할 수 있는 일이 늘어날수록 위험도 커질 수 있는 만큼 평가와 감사 등을 통해 안전장치가 제대로 작동하는지 확인하자는 취지다. 아모데이 CEO 제안에는 중국의 기술 추격을 억제해야 한다는 주장도 담겼다. 미국 기업이 안전성을 점검하는 동안 중국이 앞서가는 상황을 막기 위해 대중국 반도체 수출통제를 강화해야 한다는 것이다. 미국이 기술 우위를 유지해야 개발 속도를 조절할 여유도 확보할 수 있다는 논리다. 중국은 이를 안전을 명분으로 자국의 AI 발전을 억제하려는 시도로 받아들였다. 지난 14일 중국 관영 환구시보는 아모데이 CEO의 감속 제안을 중국을 겨냥한 냉전식 접근이라고 비판했다. 안전 검증과 경쟁국에 대한 기술통제를 함께 추진하자는 구상이 갈등을 키운 셈이다. 검증 비용에 모델 접근 제한까지…스타트업 부담 업계에서는 안전 기준 강화 영향이 적용 범위에 따라 국내외 스타트업으로 확대될 수 있다고 봤다. 일정 수준 이상 성능을 갖춘 모델에 외부 안전평가와 검증을 의무화하면 해당 모델을 개발하는 스타트업도 관련 인력과 체계를 새로 갖춰야 하기 때문이다. 전문가들은 스타트업이 느낄 가장 큰 부담이 평가 비용 자체보다 내부에 부족한 AI 신뢰성 역량을 단기간에 확보해야 한다는 점이라고 지적했다. 위험 요소 발굴과 데이터 검증, 편향·견고성 측정, 인간 감독 설계, 사고 대응 체계까지 마련하려면 전문인력과 조직 전반의 투자가 필요하다는 설명이다. 박지환 씽크포비엘 대표는 "옆 사람이 쓰러졌을 때 살려야 한다고 생각하는 것은 윤리지만 실제로 사람을 살리려면 심폐소생술이라는 기술이 필요하다"며 "스타트업은 AI 위험을 찾아내고 대응할 수 있는 신뢰성 전문역량을 갖춰야 한다"고 말했다. 이어 "이는 식당이 맛있는 음식을 만드는 능력뿐 아니라 위생을 관리할 설비와 체계, 전문인력까지 갖춰야 영업할 수 있는 것과 같다"며 "그동안 AI 기업들이 성능과 개발 속도에 집중했다면 이제는 안전관리 역량까지 한꺼번에 확보해야 한다는 점이 부담일 것"이라고 설명했다. 모델 실제 위험에 맞춰 검증 수준을 세분화할 수 있느냐고 관건으로 꼽히고 있다. 위험도를 충분히 구분하지 않은 채 획일적인 기준을 적용하면 인력과 자금이 부족한 스타트업은 기술 개발에 투입할 자원을 평가와 감사 대응에 사용해야 할 수 있다. 제품 출시가 늦어지고 선도기업과의 격차를 좁히기도 어려워질 가능성이 있다. 외부 모델을 활용하는 스타트업에는 기술 접근 제한이 더 직접적인 문제가 될 수 있다는 우려도 나오고 있다. 모델 공급사가 안전을 이유로 이용 대상이나 기능을 제한하거나 정부가 접근을 차단하면 기존 서비스 운영과 신규 기능 개발에 차질이 생길 수 있기 때문이다. 한 AI 스타트업 관계자는 "다른 모델로 바꾸는 작업은 결코 쉽지 않다"며 "대체 모델을 확보하더라도 답변 정확도와 처리 속도, 이용 비용을 다시 검증하고 서비스 구조도 수정해야 한다"고 지적했다. 국내에서는 AI 안전 규범을 마련하되 후발기업의 개발 여건도 함께 고려해야 한다는 제언도 나왔다. 안전과 산업 육성을 병행하면서 기업 규모와 모델 위험도에 따라 규제를 차등 적용해야 한다는 주장이다. 김동환 포티투마루 대표는 "현실적으로 기술 개발과 안전장치 마련을 병행할 수밖에 없다"며 "특정 기업이나 국가의 이익을 대변하지 않도록 전 인류의 지혜를 모아야 한다"고 강조했다. 이어 "한국 기업도 국제 기준을 만드는 과정에 참여해야 한다"고 덧붙였다. 중국에서는 안전 기준 권한이 소수 빅테크에 집중될 수 있다는 우려가 나왔다. 지난 16일 홍콩 사우스차이나모닝포스트(SCMP)에 따르면 딥시크 V4.1 개발에 참여한 류성위 엔지니어는 최근 소셜미디어에서 앤트로픽과 오픈AI의 폐쇄형 전략을 비판하며 빅테크가 첨단 기술 이용 조건까지 좌우하는 구조를 경계해야 한다고 주장했다. 그는 "앤트로픽이나 오픈AI가 최첨단 AI를 언제나 개방적이고 저렴하게 제공할 것이라고 믿지 않는다"고 비판했다.

2026.09.17 16:45김미정 기자

'AI 안전성' 논쟁 갈수록 확대…英 찰스 3세도 가세

최근 앤트로픽 등 주요 인공지능(AI) 업체 수장들에 도널드 트럼프 미국 대통령까지 가세하면서 AI 위험성 관련 논쟁이 뜨겁게 달아오르고 있다. 이런 가운데 영국 왕실이 AI 안전성과 사회적 영향에 대해 논의하는 자리를 마련해 주목받고 있다. CNN 등 외신은 16일(이하 현지시간) 찰스 3세 영국 국왕이 오는 17일 AI 기업과 정부, 자선단체 고위 인사들을 초청해 AI 기술 활용 방안을 논의할 예정이라고 보도했다. 찰스 3세는 이날 회담에 직접 참여하는 대신 중재자 역할을 맡을 전망이다. 참석자들은 AI 기술이 미래에 인류와 지구 모두에 이익이 되는 방향으로 발전할 수 있도록 공통의 원칙을 마련할 수 있을지 논의할 예정이다. 회담에는 카니슈카 나라얀 영국 AI 담당 장관을 비롯해 엔비디아, 구글 딥마인드, 오픈AI, 앤트로픽 등 주요 AI 기업 관계자들이 참석할 예정이다. 다만 각 기업에서 누가 참석할지는 아직 확정되지 않은 것으로 알려졌다. 찰스 3세 국왕은 약 20분간 회담에 참석할 예정이다. 외신에 따르면 젠슨 황 엔비디아 최고경영자(CEO), 데미스 허사비스 구글 딥마인드 공동창업자, 바티칸 AI 자문위원인 파올로 베난티 신부 등도 초청 명단에 포함됐다. 그 동안 찰스 3세 국왕은 AI에 대해 공개적으로 언급하는 경우가 많지 않았지만, 관련 발언을 할 때마다 위험성을 경고하는 취지의 메시지를 내놓았다고 CNN은 분석했다. 찰스 3세는 2023년 영국에서 열린 AI 안전 정상회의 당시 녹화 연설을 통해 AI 기술이 "심각한 도전 과제를 제시한다"고 지적했다. 이어 "개인의 사생활과 생계를 보호하고 민주주의를 위협으로부터 지키며, 신기술의 혜택이 모두에게 공평하게 돌아가도록 해야 한다"고 강조했다. 2024년 영연방 정상회의 연설에서도 AI를 사회에 해를 끼치는 기술이 아니라 도움이 되는 방향으로 활용하는 것이 중요하다고 언급했다. 한편 영국은 AI 안전성 분야에서 다소 모호한 위치에 있다고 CNN은 평가했다. 세계 최고 수준의 대학과 AI 안전 연구기관을 보유하고 있지만, 최첨단 AI 모델의 개발은 주로 미국과 중국 기업들이 주도하고 있어 영국의 영향력에는 한계가 있다는 분석이다.

2026.09.17 15:47이정현 미디어연구소

[AI는 지금] 미군 AI 활용 전방위 확대…美 의회, 통제·의존 위험 경고

미군의 인공지능(AI) 활용이 빠르게 늘면서 AI 에이전트의 통제 실패와 군인의 과도한 의존을 우려하는 목소리가 미국 의회에서 나오고 있다. 군 전반으로 AI가 확산될수록 예상하지 못한 작동과 기존 전투 능력 저하에 대비해야 한다는 지적이다. 16일(현지시간) 미국 정치전문매체 폴리티코에 따르면 미국 국방부가 AI 활용 범위를 넓히는 가운데 상원에서는 AI 도입 과정에서 발생할 새로운 위험을 점검해야 한다는 요구가 제기됐다. 미국 국방부는 중국 등 경쟁국보다 먼저 군사 AI 역량을 확보한다는 목표 아래 AI 활용 범위를 계속 넓히고 있다. 생성형 AI를 군 내부 업무에 도입한 데 이어 여러 작업을 스스로 수행하는 AI 에이전트 활용도 추진하고 있다. 트로이 마인크 미국 공군장관은 "AI 경쟁은 미국이 질 수 없는 경쟁"이라고 말했다. 미국 국방부는 AI를 활용하지 않는 데 따른 위험도 고려하며 군 전반에 관련 기술을 도입하고 있다. 의회가 우려하는 부분은 AI 활용 확대 과정에서 발생할 수 있는 통제 문제다. 리처드 블루멘털 민주당 상원의원은 최근 민간에서 발생한 AI 에이전트의 통제 실패가 군에서도 반복될 가능성을 경고했다. 블루멘털 의원은 "통제를 벗어난 AI 에이전트가 웹사이트에 침입하거나 시스템 성능을 떨어뜨리는 문제가 미국 국방부에도 적용될 수 있다"고 말했다. 그는 지난 9일 오픈AI의 AI 에이전트가 안전장치를 우회해 AI 플랫폼 허깅페이스에 침입한 사건과 관련해 샘 알트먼 오픈AI 최고경영자(CEO)에게 자료 제출과 해명을 요구했다. 의원실에 따르면 에이전트들은 보안 취약점을 찾는 과정에서 서로 정보를 공유하고 감시를 피하려 한 정황도 드러났다. 군인이 AI에 지나치게 의존하면서 기존 능력이 떨어질 가능성도 점검 대상에 올랐다. 상원 군사위원회가 마련한 2027 회계연도 국방수권법안(NDAA)은 AI 도입이 군인의 '필수 전투 기술' 유지에 미치는 영향을 종합적으로 평가하고 이를 담당할 고위 책임자를 지정하도록 했다. 마크 켈리 민주당 상원의원과 톰 코튼 공화당 상원의원이 지난 6월 공동 발의한 '전투원 AI 준비태세법(WARP Act)'도 군인의 AI 의존에 따른 영향을 구체적으로 살피도록 했다. AI를 사용할 때와 사용하지 않을 때 임무 수행 능력을 비교하고 장기간 사용으로 숙련도가 떨어지는지와 기존 능력을 되찾는 데 얼마나 걸리는지 추적하도록 하는 내용이다. AI 지원이 끊긴 상황에 대한 대비도 포함됐다. 시스템 장애나 적의 공격으로 AI를 사용할 수 없을 때 군인이 기존 기술과 판단만으로 작전을 이어갈 준비가 돼 있는지 확인하고 AI 의존에 취약한 보직과 임무를 파악하도록 했다. 다만 의회의 움직임이 군의 AI 활용 자체를 제한하는 데 초점을 맞춘 것은 아니다. 국방수권법안에는 미국 국방부가 AI 에이전트를 대규모로 활용할 수 있는 체계를 구축하는 내용과 함께 에이전트에 적용할 보안 기준과 지침을 마련하도록 하는 조항도 담겼다. 코튼 의원은 법안 발의 당시 "미래 분쟁에서 우리의 군사적 우위는 AI를 최대한 활용하는 것만큼 AI 시스템이 실패했을 때 적응하고 임무를 수행할 수 있느냐에 달려 있다"고 말했다.

2026.09.17 10:24김동원 기자

행안부 지방정부 AI 우수사례 발표대회...전북특별자치도 '대통령상'

전북특별자치도가 자체 구축한 생성형 인공지능(AI) 시스템 '전북AI'로 지방정부 AI 우수사례 발표대회 최고상인 대통령상을 수상했다. 행정안전부는 16일 '제43회 지역정보화(지방정부 AI) 우수사례 발표대회' 시상 결과를 발표했다. 대통령상은 전북특별자치도, 국무총리상은 서울특별시 광진구가 각각 받았으며 부산광역시·대구광역시 수성구·인천광역시·세종특별자치시·충북 청주시·경남 김해시는 행정안전부 장관상 수상기관으로 선정됐다. 전북도가 출품한 사례는 '기술과 조직을 함께 혁신하다 - 오픈소스로 직접 만든 저비용·고성능·고보안 생성형 AI 및 직원 주도 AI 행정 혁신 연구회'다. 전북AI는 외부 업체에 개발을 맡기지 않고 오픈소스를 활용해 도가 직접 구축한 생성형 AI 시스템이다. 한글 문서 작성, 자료 검색, 회의 녹음·요약, 이미지·영상 생성 등 행정업무에 활용할 수 있는 99종의 기능을 제공한다. 전북도는 약 3억원을 투입해 GPU 11개를 탑재한 서버 2대를 구축하고, 오픈소스를 기반으로 시스템을 완성했다. 특히 데이터 처리가 도청 내부 서버에서 이뤄지는 폐쇄망 구조를 적용해 민감한 행정정보의 외부 유출 우려를 낮췄다. 새로운 AI 모델이 나오면 담당자가 성능과 행정 활용 가능성을 직접 검증해 적용할 수 있는 구조도 갖췄다. 외주 개발 없이 기능을 계속 고도화할 수 있다는 점에서 비용 절감과 기술 자립 측면의 평가를 받았다. 도는 전 직원이 상용 AI 서비스를 개별 구독하는 방식과 비교할 경우 연간 약 25억원의 구독 비용을 절감할 수 있을 것으로 기대하고 있다. 자체 AI를 활용한 도 금고 자금운용 최적화, 보고서 작성 자동화 등도 추진하고 있다. 직원 참여형 운영체계도 주요 성과로 꼽힌다. 전북도는 직원들이 자발적으로 참여하는 'AI 행정 혁신 연구회'를 운영하며 실제 업무 담당자가 필요한 기능을 발굴하고, 개발과 개선 과정에 참여하도록 하고 있다. 국무총리상을 받은 광진구는 '정부 AI 챔피언 육성정책의 현장 성과 - 행정직 공무원이 직접 개발한 AI 도구 6종으로 공공 AX 확산' 사례를 발표했다. 광진구는 AI 챔피언을 중심으로 부서 간 연계체계를 구축하고, 실무자 주도의 상향식 AI 전환 절차를 정립했다. 공무원들이 바이브코딩 방식으로 지방행정의 병목 업무를 해결할 AI 도구 6종을 직접 개발한 것이 핵심이다. 광진구는 자체 개발을 통해 약 15억원의 비용 절감 효과를 거뒀으며, 전사 AI 플랫폼 이용자는 25.6% 증가했다고 밝혔다. 개발한 AI 도구를 오픈소스로 공개해 공공정보에 대한 국민 접근성 향상에도 기여했다. 장관상 수상기관들도 행정 현장의 문제 해결에 초점을 맞춘 AI 서비스를 선보였다. 부산시는 RAG 기반 행정지식 검색과 문서 초안 생성, OCR, 공동편집 등을 제공하는 'AI부기주무관'을 구축했다. 대구 수성구는 부동산 거래 과정의 오류와 분쟁을 사전에 줄이기 위한 AI 기반 공공서비스 3종을 예산 없이 개발했다. 인천시는 지하철 역사 화재 발생 때 AI가 실시간으로 최적 피난경로를 안내하는 시스템을 구축했다. 세종시는 재난·사건 상황 인지부터 전파까지를 초 단위로 처리하는 AI 플랫폼 '세종 SIREN'을, 청주시는 재난 위험·신고·관리·통제 정보를 통합 제공하는 재난안전 지도 플랫폼 '상당맵'을 각각 선보였다. 김해시는 공무원 전방배치 개발(FDE) 모델을 기반으로 자체 AI 플랫폼과 AI 에이전트 6종을 개발해 확산 가능성을 제시했다. 이번 대회는 지방정부 공무원들이 AI를 활용해 행정 현장의 문제를 해결하고 업무 방식을 혁신한 사례를 발굴·공유하기 위해 마련됐다. 전국 15개 시·도가 총 24개 사례를 제출했으며 사전심사를 통과한 8개 사례가 본선에서 경쟁했다. 최종 수상작은 외부 전문가 평가와 현장 참가자 투표를 합산해 선정됐다. 황규철 행정안전부 인공지능정부실장은 "이번 발표대회는 지방정부 공무원들이 AI를 활용해 현장의 문제를 직접 해결하고 일하는 방식을 바꾸어 나가는 사례를 공유하는 자리"라며 "앞으로도 현장의 자율적인 AI 실험은 과감히 지원하고, 검증된 우수 사례는 안전한 보안·관리 체계 아래 범정부적으로 공유·확산될 수 있도록 기반을 더욱 공고히 하겠다"고 말했다.

2026.09.16 17:42남혁우 기자

배경훈 부총리 "대한민국 AI 시계 늦추지 않겠다"…'속도책임' 제시

배경훈 부총리 겸 과학기술정보통신부 장관이 글로벌 인공지능(AI) 업계에서 커지는 개발 속도 조절론에 대해 한국은 기술 개발 속도를 늦춰서는 안 된다는 입장을 내놨다. 연구개발과 산업 활용에는 속도를 내되 커지는 위험에는 안전장치를 함께 강화하는 '속도책임'을 해법으로 제시했다. 배 부총리는 16일 자신의 사회관계망서비스(SNS)에 'AI에 필요한 것은 속도조절이 아니라 속도책임'이라는 제목의 글을 올리고 "우리는 지금 AI의 속도를 늦출 여유가 없다"고 밝혔다. 이미 앞선 국가가 속도를 조절하는 것과 추격하면서 새로운 시장을 만들어야 하는 한국이 스스로 속도를 낮추는 것은 다르다는 입장이다. 배 부총리 발언은 최근 글로벌 AI 업계에서 프론티어 AI의 개발 속도를 조절해야 한다는 주장이 커지는 가운데 나왔다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 최근 AI 개발을 멈추기보다 안전 연구와 검증 체계가 따라갈 수 있도록 속도를 조절해야 한다고 주장했다. 배 부총리도 AI 위험에 대한 우려에는 공감했다. AI 선도기업의 막대한 투자 경쟁과 데이터 확보·활용 문제, 고영향 AI가 가져올 예측하기 어려운 위험 등을 "진지하게 고민하고 대비해야 할 문제"로 꼽았다. 다만 한국은 감속보다 기술 영역을 넓혀야 한다고 봤다. 거대언어모델(LLM) 기반 독자 AI 파운데이션 모델을 넘어 산업 현장에서 보고 이해하고 행동하는 비전언어모델(VLM)과 비전언어행동모델(VLA) 등으로 발전해야 한다는 것이다. 앞으로 범용인공지능(AGI)에 가까운 기술을 확보한 국가와 그렇지 못한 국가의 격차가 산업과 경제를 넘어 안보 등 국가 경쟁력 전반으로 번질 수 있다고도 내다봤다. 배 부총리는 "이미 앞서 있는 나라가 속도를 조절하는 것과 추격하면서 동시에 새로운 시장을 만들어야 하는 나라가 스스로 속도를 낮추는 것은 전혀 다른 문제"라고 말했다. 안전과 신뢰 확보도 함께 강조했다. AI 발전이 빨라질수록 딥페이크와 사이버보안, 개인정보 보호, 일자리 변화 등에 대응할 기술적·제도적 안전장치도 빠르게 갖춰야 한다고 짚었다. 배 부총리는 이를 가속페달과 브레이크에 빗댔다. 그는 "AI 연구개발과 산업 활용에는 과감하게 가속페달을 밟되 위험에는 제대로 작동하는 브레이크를 갖춰야 한다"며 "속도는 경쟁력이고 안전은 지속가능성"이라고 말했다. 정부 정책도 이런 방향으로 추진할 계획이다. 배 부총리는 AI기본법 시행을 위한 제도적 준비와 독자 AI 파운데이션 모델 개발, 모두의 AI, 보안특화모델 사업에 이어 프론티어 AI 역량 확보를 위한 사업도 차질 없이 준비하겠다고 했다. 산업계에서도 AI 산업 육성과 안전 규범을 병행해야 한다는 의견이 나왔다. 국내 기업이 해외 빅테크가 만든 기준을 따르는 데 그치지 않고 국제 규범을 만드는 과정에도 직접 참여해야 한다는 주문이다. 김동환 포티투마루 대표는 "AI 산업 육성과 안전 규범 강화를 동시에 추진해야 한다"며 "안전 규범을 공론화하고 다양한 이해관계자의 의견을 들은 뒤 사회적 합의를 만들어가는 과정이 반드시 필요하다"고 말했다. 이어 "유엔 AI 허브 유치와 AI안전연구소 역할 강화 등을 통해 국제 안전 규범을 만드는 과정에서 한국이 글로벌 리더십을 발휘할 필요가 있다"고 덧붙였다. 박지환 씽크포비엘 대표는 기술 개발과 실제 활용을 구분해 접근할 필요가 있다고 짚었다. 그는 "연구는 계속하되 개발한 기술을 사회에서 어디까지 쓰게 할지는 별도로 정해야 한다"며 "AI의 위험 수준에 맞는 활용 기준과 규범을 함께 마련해야 한다"고 말했다. 배 부총리는 후속 정책 발표도 예고했다. 그는 "조만간 그동안 깊이 고민해 온 독파모의 다음 단계와 대한민국 프론티어 AI 모델 개발 방향도 국민 여러분께 말씀드리겠다"고 밝혔다. 이어 "대한민국의 AI 시계를 늦추지 않겠다"며 "더 빠르게 그러나 더 안전하게 가겠다"고 강조했다.

2026.09.16 15:30김동원 기자

카카오, '2026 아동·청소년 온라인 안전 포럼' 열었다

카카오는 온라인 환경에서의 디지털 안전망 강화 방안을 논의하기 위해 '2026 아동·청소년 온라인 안전 포럼'을 진행했다고 16일 밝혔다. 올해 처음 열린 포럼은 지난 15일 카카오 제주 오피스에서 진행됐다. ▲카카오 ▲십대여성인권센터 ▲제주여성가족연구원이 공동주최하고 ▲성평등가족부 ▲케링 재단이 후원했다. 현장에는 ▲정부 ▲학계 ▲시민단체 ▲플랫폼 관계자 등 70여 명이 참석했다. 이번 행사는 카카오와 십대여성인권센터가 2024년 9월 맺은 '아동·청소년 성보호 정책 강화를 위한 업무협약' 2주년을 맞아 마련됐다. 양측의 협업 성과를 돌아보고 변화하는 온라인 환경에서 아동·청소년을 보호하기 위한 방안을 논의했다. 기조발표는 이안 드레넌 글로벌 아동 온라인 안전 협력체 위프로텍트 글로벌 얼라이언스 사무총장이 맡았다. '아동 온라인 안전을 바라보는 새로운 글로벌 시각'을 주제로 글로벌 대응 흐름을 소개했다. 이어 임하진 십대여성인권센터 모니터링팀 활동가는 온라인 공간에서 발생하는 아동·청소년 성착취 실태와 현황을 발표했다. 이다미 카카오 청소년 보호 담당자는 현장의 전문성과 플랫폼의 실행력을 결합한 협력 사례를 공유했다. 카카오와 십대여성인권센터는 2024년 하반기부터 정기적으로 협의하고 상시 핫라인을 운영해 왔다. 현장에서 확인된 새로운 성착취 위험 양상과 은어·우회 표현을 공유해 금칙어 관리와 서비스 운영정책 개선에 활용했다. 신고자에게 십대여성인권센터의 전문 상담을 안내해 플랫폼 신고를 피해 지원으로 연계하는 체계도 마련했다. 십대여성인권센터는 지난해 카카오가 아동·청소년 대상 성범죄 관련 정책 위반 이력이 있는 이용자의 서비스 이용을 영구 제한할 수 있도록 운영정책을 강화한 점을 선도적인 성과이자 의미 있는 진전으로 평가했다. 새로운 성착취 은어와 우회 표현에 대응한 것도 주요 변화로 꼽았다. 향후에는 플랫폼 간 공조와 전문 모니터링·상담 인력을 확대하고 피해 아동·청소년의 회복을 위한 지원 체계를 강화할 필요가 있다고 제언했다. 양측은 포럼에서 '더 안전한 온라인 세상을 만들기 위한 우리의 약속'이라는 공동선언문도 발표했다. 서비스 설계 단계부터 아동·청소년 안전을 고려하고 현장에서 파악한 위험과 피해 양상을 기술 및 보호체계 개선으로 연결하기로 했다. 포럼을 지속적인 협력의 장으로 발전시키고 정부·기업·시민사회·국제기구 간 연대도 확대한다는 방침이다. 종합토론에서는 민관 협력의 성과와 앞으로의 과제를 다뤘다. ▲조진경 십대여성인권센터 대표가 좌장을 맡았으며 ▲김기범 성균관대 과학수사학과 교수 ▲유나겸 성동경찰서 여성청소년과장 ▲박정식 성평등가족부 폭력예방교육과장 ▲이연화 제주여성가족연구원 가족인구연구부장 ▲손성희 카카오 청소년보호책임자가 참여했다. 홍신 카카오 ESG협력 성과리더는 "아동·청소년 디지털 안전은 서비스 전반에서 지켜져야 할 기본적인 책임이며 카카오는 이 같은 신념 아래 관련 정책과 기능을 지속적으로 강화해 왔다"며 "앞으로도 정부와 시민사회 등 다양한 주체들과 협력을 이어가며 아동·청소년이 안심하고 디지털 세상을 누릴 수 있는 환경을 만들어 나가겠다"고 말했다.

2026.09.16 10:59박서린 기자

"혁신 속도 따라갈 안전장치는 사람"…LG가 꺼낸 AI 안전 해법

인공지능(AI) 개발 속도를 늦춰 안전장치가 따라갈 시간을 벌자는 '속도조절론'이 확산하는 가운데 LG가 AI 안전을 높이기 위해 이를 만드는 사람의 역량도 함께 키워야 한다고 강조했다. 16일 AI 업계에 따르면 김유철 LG AI연구원 전략부문장은 사우디아라비아 리야드에서 열린 '제4회 유네스코 AI 윤리 글로벌 포럼' 패널 토론에서 AI 개발자와 정책 담당자를 대상으로 한 윤리 교육 필요성을 제기했다. AI 활용법을 가르치는 교육은 빠르게 늘었지만 AI 시스템을 직접 설계·개발·관리하는 사람을 위한 교육은 부족하다고 진단했다. 'AI 윤리 글로벌 포럼'은 각국 정부와 산업계, 학계, 국제기구 관계자들이 모여 AI 윤리와 거버넌스 방향을 논의하는 국제 행사다. 유네스코와 사우디아라비아가 공동 주최하며 지난 14일부터 오는 17일까지 리야드에서 열린다. 김 부문장은 이번 포럼에서 AI 안전을 기술적인 장치만으로 확보하기 어렵다고 강조했다. 개발자와 정책 담당자가 AI를 만드는 과정에서 위험을 파악하고 대응 방법을 판단할 수 있도록 사람의 역량도 함께 높여야 한다고 주장했다. LG AI연구원은 이를 위해 유네스코와 'AI 윤리 무크(MOOC·온라인 공개강좌)'를 공동 개발했다. 지난해 7월 프로젝트를 시작해 올해 7월 정식 공개한 이 강좌에는 약 두 달 만에 전 세계에서 약 3만명이 등록했다. 교육은 11개 언어로 제공한다. 교육은 AI 활용법보다 개발 과정에서 필요한 윤리적 판단에 초점을 맞춘다. 개발자와 연구자, 정책 담당자, 학생 등이 AI를 설계하고 운영하면서 마주하는 문제를 판단하고 대응하는 데 필요한 내용을 담았다. 교육과정은 유네스코 'AI 윤리 권고'를 토대로 구성했다. 공정성과 포용성, 개인정보와 데이터 거버넌스, 투명성과 책임성, 안전·보안 등을 실제 사례를 중심으로 다룬다. LG AI연구원은 자체 AI 개발 과정에서 쌓은 경험도 교육에 반영했다. 모델과 서비스를 개발할 때 위험 요소를 점검하는 윤리영향평가와 데이터 컴플라이언스 사례 등을 공유했다. 최근 글로벌 AI 업계에서는 AI 개발 속도를 둘러싼 안전 논쟁이 거세졌다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 지난 12일 AI 발전 속도가 이를 이해하고 통제하는 능력을 앞지를 수 있다며 프런티어 AI 모델의 개발 속도를 늦춰야 한다고 주장했다. 아모데이는 AI 개발을 중단하자는 것이 아니라 안전 연구와 평가가 기술 발전을 따라갈 시간을 확보해야 한다고 강조했다. 앤트로픽은 외부 평가기관에 내부 직원에 준하는 접근 권한을 제공하고 AI 기업 간 공동 안전기준과 국제 공조도 추진하겠다는 방안을 내놨다. 반면 도널드 트럼프 미국 대통령은 중국과의 AI 경쟁을 이유로 개발 속도를 늦추는 데 부정적인 입장을 나타냈다. 미국이 중국에 앞선 상황에서 AI 개발을 제한하면 경쟁 우위를 내줄 수 있다는 이유를 들었다. LG AI연구원 역시 AI 모델 개발 경쟁에 뛰어들고 있다. 자체 AI 모델 '엑사원'을 개발하고 정부의 독자 AI 파운데이션 모델 프로젝트에도 참여 중이다. 모델 성능을 끌어올리는 동시에 개발 과정에서는 윤리영향평가와 데이터 컴플라이언스 체계를 운영하고 있다. 김 부문장은 "AI 도구를 사용하는 방법을 가르치는 프로그램은 많지만 AI 시스템을 설계하고 개발하고 관리하는 사람을 위한 교육은 거의 없다"며 "혁신의 속도를 따라갈 만큼 빠른 유일한 안전장치는 사람의 역량이라고 믿는다"고 강조했다.

2026.09.16 09:23김동원 기자

AI 감속론에 복잡해진 한국 전략…속도조절도 '차등 적용'

글로벌 인공지능(AI) 기업들이 AI 개발 속도 조절론을 꺼낸 가운데 국내에서는 기술 개발 자체를 늦추기보다 제품 출시와 활용 단계에 더 강한 안전장치를 둬야 한다는 의견이 나왔다. 15일 본지 취재 결과 국내 AI 업계와 학계는 중국 등 경쟁국이 연구개발을 이어가는 상황에서 기술 경쟁 자체를 늦추는 것은 현실적으로 어렵다고 진단했다. 위험성이 큰 프론티어 AI는 출시 전에 충분한 검증을 거치되 이런 기준을 아직 추격 단계인 국내 기업에 일률적으로 적용하는 것은 경계해야 한다는 지적도 제기됐다. AI 개발 속도조절론에 불씨를 지핀 것은 다리오 아모데이 앤트로픽 최고경영자(CEO)다. 그는 지난 12일 개인 블로그를 통해 프론티어 AI의 발전 속도를 안전 연구와 검증 체계가 따라갈 수 있도록 조절해야 한다고 주장했다. 그가 주목한 것은 AI가 다음 세대 AI 개발에 참여하는 '재귀적 자기개선'이다. 이 단계에 들어서면 기술 발전 속도가 지금보다 더 빨라지고 안전 연구와 통제 기술이 이를 따라가지 못할 가능성이 커진다고 우려했다. 아모데이 CEO는 AI 기업 내부에 외부 평가자를 두고 개발 과정을 검증하는 방안도 제안했다. 민주주의 국가들이 공동 안전 기준을 마련한 뒤 장기적으로 국제적인 공조 체계를 구축하는 구상도 내놨다. "속도 늦추면 중국만 웃는다"…후발주자 '사다리 걷어차기' 우려 국내 업계가 경계한 것은 감속의 대상과 범위다. 최첨단 프론티어 AI에 맞춘 안전 기준을 추격 단계인 국내 기업에 그대로 적용하면 기술 격차를 좁히기 어려워지고 새로운 진입장벽으로 작용할 수 있다는 지적이 나왔다. 한 AI 학과 교수는 "프론티어 AI에 맞춘 높은 수준의 평가와 검증 의무가 국내 기업에까지 적용되면 기술 격차를 좁히는 데 부담이 될 수 있다"며 "이미 기술 우위를 확보한 빅테크가 안전 기준까지 주도할 경우 사실상 '사다리 걷어차기'로 비칠 수 있다"고 말했다. 김동환 포티투마루 대표도 빅테크 중심의 안전 기준이 새로운 견제 장치로 작용할 가능성을 짚었다. 글로벌 차원의 합의가 없는 상황에서는 선도 기업이 만든 평가 방식과 기준이 사실상 국제 표준으로 자리 잡을 가능성이 높다는 판단이다. 김 대표는 "빅테크 입장에서는 기술력을 가진 스타트업과 대규모 자본을 동원할 수 있는 대기업뿐 아니라 중국과 중동 등 후발주자에 대한 견제 장치의 의미도 있을 것"이라며 "후발주자에 대한 사다리 걷어차기가 되지 않도록 기업 규모와 모델 위험도에 따라 기준을 차등 적용할 필요가 있다"고 말했다. 감속론의 현실성에도 의문을 제기했다. AI 개발이 국가 간 경쟁으로 번진 상황에서 일부 기업이나 국가가 합의하더라도 중국 러시아 북한까지 같은 속도로 움직이게 만들기는 어렵다는 이유다. 김 대표는 "기술 발전 속도가 사회적 제도와 윤리적 합의보다 훨씬 빠르다는 점에서 속도 조절의 필요성에는 공감한다"면서도 "AI 개발이 이미 국가대항전 수준의 무한 경쟁에 들어간 만큼 현실적으로 속도를 맞추기는 어렵다"고 말했다. AI 위험에 대한 경고가 지나쳤다는 논란은 과거에도 있었다. 오픈AI는 2019년 GPT-2의 악용 가능성을 우려해 전체 모델 공개를 늦췄지만 이후 과도한 대응이었다는 지적을 받았다. 당시 개발에 참여한 아모데이 CEO는 더 강력한 AI에 대비해 책임 있는 공개 방식을 시험한 조치였다고 설명한 바 있다. "안전장치 없이 달릴 순 없다"…연구는 계속, 출시는 신중 기술 개발을 이어가더라도 AI를 아무런 검증 없이 시장에 내놓아서는 안 된다는 목소리도 존재했다. AI의 자율성이 높아지는 만큼 연구 경쟁과 실제 제품 출시를 구분해 접근해야 한다는 주장이다. 유창동 한국과학기술원(KAIST) 전기및전자공학부 교수는 개발 속도를 인위적으로 늦추려 해도 기업 내부의 연구 경쟁은 계속될 가능성이 크다고 진단했다. 그는 "기업들이 제품 출시는 늦출 수 있겠지만 내부 연구개발은 계속할 것"이라며 "중국도 굉장히 빠른 속도로 개발하고 있어 연구를 멈추지는 않을 것"이라고 말했다. 대신 시장에 내놓는 단계에서는 안전성을 충분히 확인해야 한다고 강조했다. AI 에이전트가 자신의 행동 결과를 확인하고 오류를 다시 수정하는 방향으로 발전하면서 인간의 개입 없이 수행하는 작업도 늘어나고 있어서다. 유 교수는 "개발은 계속하더라도 외부로 출시하는 제품은 안전성을 확인하면서 속도를 조절하는 게 맞다"며 "건물이나 공장의 안전을 점검하듯 AI에도 평가 기준과 벤치마크 데이터셋을 마련해 정기적으로 위험 수준을 확인해야 한다"고 말했다. AI 신뢰성 전문기업 씽크포비엘의 박지환 대표는 기술 성능과 사회에서 허용하는 사용 범위를 구분해야 한다고 강조했다. 그는 "자동차 에어백을 제대로 만들지 못한다면 엔진 속도에는 제한을 걸어야 한다"며 "AI 성능을 높이는 것과 그 기술을 사회에서 어디까지 쓰게 할지는 다른 문제"라고 말했다. 자동차가 더 빠르게 달릴 수 있어도 도로마다 제한속도를 두고 운전자에게 면허를 요구하듯 AI도 위험 수준에 따라 활용 범위와 조건을 달리할 필요가 있다는 주장이다. 김명주 AI안전연구소장은 AI가 무기나 로봇처럼 현실 세계에서 직접 작동하는 영역으로 확대될수록 책임 문제도 커질 수 있다고 짚었다. 그는 "갈수록 AI의 추론 과정을 인간이 따라가기 어려워질 것"이라며 "이런 기술이 무기와 같은 피지컬 AI에 적용되면 책임 규명도 힘들어진다"고 말했다. 이어 "강력한 AI에 대한 우려와 불신이 커지면 결국 산업의 지속가능성까지 위협받을 수 있다"고 경고했다.

2026.09.15 13:40김동원 기자

대산산단 육·해상 화학사고 민관 공동 방제 체계 구축

기후에너지환경부 소속 화학물질안전원은 15일 서산시 HD현대오일뱅크 대산공장에서 민관 합동으로 대산산단 육·해상 화학사고 공동방제지원체계 구축을 위한 업무협약을 체결한다고 밝혔다. 이날 업무협약은 화학물질안전원·금강유역환경청·서산시·평택해양경찰서·태안해양경찰서·서산소방서 등 6개 행정기관과 대산공단협의회, 대·중소기업 화학안전공동체 등 2개 민간 협의체(46개 사업장)가 참여한다. 대산산단은 2024년 울산, 2025년 여수에 이어 이번 세 번째 민관 합동 공동방제지원체계를 구축하게 됐다. 협약기관은 화학사고가 발생하면 선박·인력·장비·방제물품 등을 취약시간을 포함해 신속하게 동원하고 사고 상황을 즉시 서로 전파한다. 평상시에는 방제자원 현황과 비상연락체계를 반기에 한 번 이상 갱신해 공유하고 합동훈련에도 함께 참여한다. 이날 협약식에 이어 대산항 돌핀부두에서는 해양경찰서 주관으로 위험유해물질(HNS) 유출사고를 가정해 공동대응 능력을 향상하기 위한 목적으로 민관 합동훈련이 실시될 예정이다. 박봉균 화학물질안전원장은 “대산산단은 전용부두가 해안선을 따라 밀집해 있어 육상에서 발생한 화학사고가 곧바로 해양오염으로 이어질 수 있는 지역”이라며 “해양경찰서와 소방 등 기관 간 협조 체계가 강화돼 출동 속도가 빨라지고 사고 피해도 줄어들 것으로 기대한다”고 말했다.

2026.09.14 18:22주문정 기자

경쟁하던 AI 빅3, 안전엔 손잡나…공동 표준기구 논의

인공지능(AI) 개발 속도를 둘러싼 안전 우려가 커지는 가운데 앤트로픽과 오픈AI, 구글이 업계 공동 안전기준을 마련하기 위해 움직이는 것으로 나타났다. 13일(현지시간) IT 전문매체 디인포메이션에 따르면 앤트로픽과 오픈AI, 구글은 지난 7월부터 각사 최고경영자(CEO) 바로 아래급 고위 관계자들로 실무그룹을 구성해 AI 업계 표준기구 설립을 논의하고 있다. 실무그룹은 정기적으로 회동하고 있으며 최근 일주일 사이에도 만나 논의를 이어간 것으로 전해졌다. 논의 핵심은 정부가 직접 나서지 않더라도 AI 기업들이 공동 안전기준을 만들고 이를 점검할 체계를 갖추는 데 있다. 주요 기업들이 업계 차원의 자율규제 틀을 마련하는 방안을 수개월째 논의해 온 셈이다. 샘 알트먼 오픈AI CEO도 업계가 주도하는 안전기구에 힘을 싣고 있다. 그는 지난주 사내 전체회의에서 AI 시험과 감사를 담당하는 기구를 지지하면서 미국 정부 지원 없이 주요 AI 기업들이 스스로 표준기구를 만들어야 할 것으로 본다는 입장을 밝혔다. 이 움직임은 다리오 아모데이 앤트로픽 CEO가 지난 12일 공개적으로 제안한 AI 개발 속도조절 구상과도 맞닿아 있다. 아모데이 CEO는 정부가 AI 규제를 마련하는 동안 기업들이 자발적인 안전기준을 세워 먼저 움직일 수 있다며 정부가 기업 간 논의를 돕거나 중재하는 방안도 제시했다. 업계의 자율규제 논의는 미국 정부 차원의 AI 규제기구 구상이 속도를 내지 못하는 상황에서 진행되고 있다. 백악관에서는 AI 표준기구 신설을 담은 행정명령 초안이 회람됐지만 트럼프 행정부 내부에서 충분한 지지를 얻지 못해 답보 상태에 머물러 있다. AI 기업들의 속도조절론을 바라보는 시선도 엇갈린다. 데이비드 색스 대통령 과학기술자문위원회 공동의장은 13일 X에서 최근 제기되는 AI 속도조절론이 "순수하게 이타적인 것"인지 의문을 제기했다. 제조물책임에 따른 위험만으로도 기업들이 피해를 줄이도록 만드는 경제적 유인이 있다는 게 그의 주장이다. 업계 주도의 표준기구가 시장을 선도하는 기업에 유리한 규칙을 만들 수 있다는 견제도 나온다. 기업용 AI 모델 스타트업 코히어의 에이든 고메즈 CEO는 X에서 "카르텔이 내놓은 대단한 아이디어들"이라고 꼬집었다.

2026.09.14 17:29김동원 기자

플랫폼 '위험 관리' 의무화하나…온라인안전법 두 번째 공개토론

국회 과학기술정보방송통신위원회 소속 이주희 더불어민주당 의원은 대한변호사협회와 오는 16일 오후 3시 국회의원회관 제2간담회의실에서 '안전한 디지털공간, 권리와 책임의 새 기준 온라인안전법 제정 토론회'를 개최한다고 14일 밝혔다. 이번 행사는 지난 4일 한국언론법학회와 진행한 '한국형 온라인안전법 입법 방향과 쟁점' 세미나에 이은 두 번째 공개토론회다. 첫 토론회에서도 유럽연합(EU) 디지털서비스법(DSA)과 영국·호주 등의 규제 사례를 참고하되 국내 현실에 맞는 규율 체계를 마련해야 한다는 문제의식이 제시됐다. 이번 토론회에서는 법률 전문가를 중심으로 플랫폼에 부과할 책임의 범위와 이용자 권리, 피해구제 절차 등을 살펴본다. 논의의 핵심은 플랫폼의 책임을 개별 불법 게시물에 대한 사후 삭제·차단에서 서비스 전반의 위험 관리로 확대하는 것이다. 디지털 성범죄물과 사기·도박, 혐오·사이버폭력뿐 아니라 추천 알고리즘과 광고·수익화 구조, 중독을 유발할 수 있는 서비스 설계 등에 대해 플랫폼이 위험을 평가하고 완화하는 방안이 검토되고 있다. 사업자 규모와 서비스 기능에 따른 차등 의무를 비롯해 아동·청소년 보호, 이용자의 신고와 이의제기 절차, 알고리즘·광고 투명성, 분쟁조정과 감독 체계 등도 주요 쟁점이다. 반면 이용자 보호를 명분으로 플랫폼에 과도한 의무를 부과할 경우 표현의 자유를 위축시키거나 과잉규제로 이어질 수 있다는 우려도 함께 논의한다. 콘텐츠 차단 등 플랫폼의 조치가 부당하다고 판단한 이용자가 이의를 제기하고 권리를 구제받을 수 있는 절차를 어떻게 마련할지도 다룬다. 토론회 좌장은 함석천 법무법인 해광 대표변호사가 맡는다. 신미용 신미용 법률사무소 변호사와 김주현 대한변호사협회 제2정책이사가 각각 주제발표에 나선다. 토론에는 정부·법조계와 플랫폼 업계를 아우르는 인사들이 참여한다. 신용우 개인정보보호위원회 신기술개인정보과장, 박천우 법무법인 LBK 평산 파트너변호사, 이희준 서울고등법원 고법판사, 차경자 법무부 여성아동인권과장, 함형철 방송미디어통신위원회 이용자정책총괄과장, 한승혜 한국인터넷기업협회 디지털경제연구원 리더가 참여한다. 전체 사회는 김은산 대한변호사협회 사무부총장이 맡는다. 이 의원은 지난해 12월 '한국형 디지털서비스법 입법 방향' 토론회를 시작으로 관련 논의를 이어왔다. 지난 3월에는 AI가 생성하는 아동·청소년 대상 불법·유해 콘텐츠 차단과 AI 사업자 책임 강화를 골자로 한 정보통신망법 개정안을 발의했다. 지난 3월부터는 법학·언론학·정책·기술 분야 전문가와 관계기관 등이 참여하는 비공개 세미나를 10차례 이상 진행해 온라인안전법의 규율 대상과 사업자 범위 등을 검토했다. 이 의원은 “플랫폼에 어떤 책임을 부과하고 이용자의 권리를 어떤 절차로 보장할지 면밀하게 검토하겠다”며 “온라인 안전을 높이는 일과 표현의 자유를 지키는 일을 함께 고려해 권리와 책임이 균형을 이루는 법안을 마련하겠다”고 말했다.

2026.09.14 10:57안희정 기자

AI 위험론 정치권까지 번졌다…트럼프 '경쟁' vs 오바마 '안전'

인공지능(AI)의 빠른 발전을 우려하는 목소리가 미국 기술업계를 넘어 정치권으로 번지고 있다. 도널드 트럼프 미국 대통령은 중국과의 AI 경쟁에서 우위를 지켜야 한다고 강조한 반면 버락 오바마 전 미국 대통령은 민주당에 AI가 가져올 위험과 경제적 충격에 대비할 것을 주문했다. 13일(현지시간) 로이터와 가디언 등에 따르면 오바마 전 대통령은 지난 10일 열린 민주당 비공개 모금 행사에서 하킴 제프리스 하원 민주당 원내대표와 대담하며 AI에 대응할 정책 틀을 마련해야 한다고 밝혔다. 민주당이 오는 11월 중간선거에서 하원 다수당을 되찾으면 AI를 둘러싼 공개 논의를 시작하고 2028년 대선 후보들도 이를 핵심 의제로 다뤄야 한다고 강조했다. 오바마 전 대통령은 일자리를 비롯한 경제 전반에 미칠 영향도 살펴야 한다고 봤다. 민간기업을 중심으로 기술이 빠르게 발전하는 만큼 고용시장에 어떤 충격이 나타날지 살피고 이에 대응할 구체적인 대책을 정치권이 준비해야 한다는 취지다. 트럼프 대통령은 개발 속도를 늦추는 데 거리를 뒀다. 그는 13일 아일랜드에서 기자들과 만나 미국이 중국보다 AI에서 앞서 있다며 안전장치는 필요하지만 경쟁에서 승리하는 것이 중요하다고 말했다. 기술 발전에 제동을 걸기보다 미국의 우위를 지키는 쪽에 무게를 뒀다. 이런 논쟁 배경에는 AI 업계에서 잇따라 나온 위험 경고가 있다. 오픈AI와 앤트로픽에서 AI 모델 개발에 참여했던 제이컵 콕슨은 지난 8일 앤트로픽을 떠나면서 선도 기업들이 충분한 대비 없이 스스로 성능을 높이는 초지능 개발 경쟁에 뛰어들고 있다고 비판했다. 앤트로픽 내부에서는 더 강한 경고도 나왔다. AI 정렬 연구를 이끄는 에번 허빙거는 향후 10년 안에 AI로 인류가 멸망할 가능성을 개인적으로 10% 이상으로 평가했다. 기술 발전 속도에 비해 이를 통제할 수단과 제도가 충분히 따라가지 못하고 있다고 본 것이다. 연구자들에 이어 경영진도 속도 조절을 요구하고 나섰다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 지난 12일 AI 성능을 높이기 위한 경쟁을 늦춰 안전 기술을 확보할 시간을 벌어야 한다고 제안했다. 외부 검증을 강화하는 방안도 내놨다. 독립 평가자에게 직원과 비슷한 수준의 접근 권한을 주고 기업이 약속한 안전조치를 제대로 지키는지 확인하도록 하자는 구상이다. 민주주의 국가들이 공통 기준을 마련하고 중국을 포함한 국제사회가 AI를 이용한 생물무기 개발 등 심각한 악용을 막기 위해 협력할 필요성도 제기했다. 경쟁사들도 일부 제안에 호응했다. 샘 올트먼 오픈AI CEO는 독립 평가자에게 직원과 비슷한 수준의 접근 권한을 제공하는 데 동의했다. 일론 머스크 xAI CEO도 아모데이 CEO의 제안에 지지를 나타냈다. AI 안전 문제는 미국 의회에서도 논의되고 있다. 민주당 에이미 클로버샤 상원의원과 공화당 존 튠·테드 크루즈 상원의원 등은 첨단 AI에서 중대한 위험이 확인될 경우 기업에 이를 줄일 의무를 부과하는 방안을 협의하고 있다. 위험을 알고도 충분한 조치를 취하지 않은 기업에 책임을 묻는 내용도 검토되고 있다. 오바마 전 대통령은 AI에 대해 "민간의 손에서 매우 빠르게 움직이고 있는 사안"이라며 "우리가 제대로 대응하지 않으면 위험해질 수 있다고 생각한다"고 말했다.

2026.09.14 09:35김동원 기자

앤트로픽, 바이러스 변이 연구 계정 차단…군사적 악용 우려

앤트로픽이 자사 인공지능(AI) '클로드'를 이용해 위험한 바이러스 연구를 진행하려던 과학자들의 시도를 차단했다. 10일(현지시간) 뉴욕타임스(NYT)에 따르면 앤트로픽은 최근 공개한 AI 악용 사례 보고서에서 클로드가 민감한 생물학 연구에 활용된 사례 5건을 공개했다. 일부 연구자들은 클로드 이용이 제한된 지역에서 우회 접속하거나 실제 연구 목적을 숨겨 안전장치를 피하려 한 것으로 조사됐다. 앤트로픽은 관련 계정을 차단했다. 지난 5월에는 한 과학자가 치쿤구니야 바이러스 연구를 위한 연구비 신청서를 작성하면서 클로드의 도움을 요청했다. 연구는 바이러스의 전파력이나 면역 회피 능력에 영향을 주는 변이를 살펴보는 '기능획득 연구'였다. 기능획득 연구는 바이러스 등 생물체의 특성을 변화시켜 어떤 변화가 나타나는지 살펴보는 연구다. 바이러스가 어떻게 퍼지고 질병을 일으키는지 파악해 백신이나 치료제를 개발하는 데 필요한 정보를 얻을 수 있다. 반대로 연구 결과가 병원체의 전파력이나 유해성을 높이는 데 쓰이면 위험한 바이러스를 만드는 데 악용될 우려도 있다. 이번 치쿤구니야 연구에는 살아있는 동물을 이용해 바이러스의 변화를 살펴보는 실험도 포함돼 있었다. 치쿤구니야는 모기를 통해 전파되며 감염되면 발열과 심한 관절통 등이 나타나고 일부 환자는 통증이 수개월 동안 이어질 수 있다. 앤트로픽이 더 우려한 부분은 연구가 진행될 장소였다. 연구비 신청서상 민간 연구자가 참여하는 것으로 돼 있었지만 실제 실험은 군사 연구기관에서 진행될 예정이었다. 정상적인 백신·치료제 연구일 가능성도 있지만 위험한 병원체 연구 결과가 군사적으로 활용될 가능성까지 배제하기 어렵다고 본 것이다. 다만 앤트로픽은 이 연구가 실제 무기 개발을 목적으로 했다고 단정하지 않았다. 생물학 분야에서는 같은 연구 결과가 질병 예방에도 쓰이고 사람에게 해를 끼치는 데도 이용될 수 있어 연구 내용만으로 의도를 판단하기 어렵기 때문이다. 앤트로픽이 연구자와 기관의 이름이나 소속 국가를 공개하지 않은 것도 이런 불확실성을 고려한 조치다. 치쿤구니야만 문제가 된 것은 아니다. 앤트로픽은 고병원성 조류인플루엔자가 포유류에 적응하는 과정 등을 연구하면서 클로드를 사용한 사례도 확인했다. 국가와 연관된 감염병 연구기관에서 천연두와 같은 계열에 속하는 바이러스를 연구하기 위한 연구비 신청서 작성에 AI를 활용한 사례도 보고서에 포함됐다. AI의 과학 연구 능력이 높아진 점은 이런 문제를 더 복잡하게 만들고 있다. 과거 AI는 전문 연구자가 수행하는 복잡한 생물학 연구에 실질적인 도움을 주기 어려웠지만 최근 모델은 연구 자료를 분석하고 연구 과정에 필요한 작업을 지원하는 능력이 높아졌다. 과학자의 연구를 돕는 능력이 커진 만큼 같은 기능이 위험한 연구에 사용됐을 때 제공할 수 있는 도움도 커졌다는 의미다. 앤트로픽은 이에 따라 생물학 관련 질문을 탐지하고 위험성이 높은 요청을 막는 안전장치를 적용하고 있다. 실제로 최신 모델에는 생물학 관련 요청을 실시간으로 분류해 위험한 정보 제공을 제한하는 장치가 적용됐으며 검증된 연구자에게만 일부 고성능 기능을 제공하는 방식도 운영하고 있다. 이번 보고서에는 생물학 연구 외에도 AI가 무기 개발과 감시 등에 사용된 사례가 담겼다. 러시아 연계 세력은 클로드를 사이버 공격과 선전 활동에 활용했고 중국과 이란 정부 연계 세력은 반체제 인사 등을 감시하는 데 AI를 이용하려 한 것으로 조사됐다. 중국·러시아·예멘에서는 총기와 미사일, 무장 드론 등 재래식 무기 관련 작업에 클로드가 활용된 사례도 확인됐다. 제이컵 클라인 앤트로픽 위협정보 책임자는 "우리가 알지 못하는 것은 이 연구가 무기화를 목적으로 했는지 여부"라며 "군사기관에서 기능획득 연구를 진행한다는 점은 우려스럽다"고 말했다.

2026.09.11 16:44김동원 기자

친구처럼 다가온 'AI 캐릭터챗'…청소년 지킬 '보호자'는 어디에

친구나 연인처럼 대화하는 인공지능(AI) '캐릭터챗'이 청소년 일상으로 파고들고 있다. AI가 단순한 대화 도구를 넘어 감정을 의지하는 상대가 되면서 청소년 보호를 위한 안전장치가 필요하다는 지적이 나온다. 11일 AI 업계 등에 따르면 뤼튼테크놀로지스의 캐릭터챗 '크랙'은 모바일인덱스에서 지난달 10대 이용자가 25만7635명으로 전체 월간활성이용자(MAU)의 47.8%를 차지했다. 이용자 절반가량이 청소년인 셈이다. 크랙은 이용자가 가상의 AI 캐릭터와 지속적으로 대화하는 서비스다. 캐릭터마다 성격과 관계, 세계관이 설정돼 있어 정보를 묻고 답을 받는 일반적인 생성형 AI와 달리 친구나 연인처럼 관계를 맺고 대화를 이어갈 수 있다. 캐릭터챗은 이용자의 말을 기억하고 감정에 맞춰 반응한다는 점에서 일반적인 AI 이용과 차이가 있다. 사람과 달리 언제든 대화를 받아주고 갈등이나 거절에 따른 부담도 적어 현실의 인간관계보다 AI와의 대화를 편하게 느낄 가능성이 있다. 김봉제 서울교대 AI가치판단디자인센터장은 "과거 백과사전은 아무리 많은 지식을 제공해도 이용자와 정서적으로 교류하지 않았다"며 "지금의 AI는 지식을 제공하면서 감정에도 반응하기 때문에 정서적으로 의지하는 관계로 발전할 수 있다"고 말했다. 이어 "AI가 사람보다 편하고 정서적인 부담을 주지 않는다고 느끼면 AI와의 관계에 더 치우칠 수 있다"면서 "나아가 굳이 사람과 대화할 필요가 있느냐고 생각하는 상황까지 갈 수 있다"고 설명했다. AI는 이미 청소년의 고민 상담 상대로 활용되고 있다. 초록우산이 지난 3월 전국 만 14세 이상 아동·청소년 3300명을 조사한 결과 약 33%가 힘들거나 우울할 때 생성형 AI 챗봇에 고민을 털어놓은 경험이 있다고 답했다. 위험한 질문에 AI가 답변을 내놓는 사례도 적지 않았다. 자해·자살이나 불법·폭력·성적 내용 등을 AI에 질문한 청소년 가운데 평균 52%는 실제 해당 질문에 대한 답변을 받았다고 응답했다. 이에 뤼튼은 청소년 보호책을 내놨다. 회사는 2027년 초부터 크랙 청소년 이용자의 하루 이용시간을 최대 3시간으로 설정하고 월 결제한도를 10만원으로 제한할 예정이다. 한도를 넘으면 보호자 인증과 동의를 거쳐야 한다. 콘텐츠 생성 정책과 연령 등급 관리, 작품 검수, 검색·추천 제한, 신고·차단 기능도 손본다. 추가 필터와 안전 시스템 프롬프트를 적용해 유해한 대화가 생성되는 것을 줄일 계획이다. 문제는 이 같은 보호조치의 기준과 수준을 개별 사업자가 스스로 정하고 있다는 점이다. 청소년이 AI와 어떤 대화를 나눌 수 있는지, 자해·성적 내용 등 위험한 질문에 어떻게 대응할지에 대한 공통 기준은 아직 마련되지 않았다. 전문가들은 캐릭터챗의 위험을 이용시간만으로 판단하기 어렵다고 지적한다. 박형빈 서울교대 윤리교육과 교수는 "AI에 생각과 판단을 맡기는 '인지의 외주화'에 이어 감정적인 교류까지 AI에 기대는 '정서의 외주화'도 나타날 수 있다"며 "청소년에게 AI를 무조건 쓰지 못하게 하기보다 연령에 맞는 안전 기준을 두고 스스로 판단하며 사용할 수 있도록 교육하는 장치가 함께 필요하다"고 말했다. 청소년들이 요구하는 보호장치 역시 이용시간보다 대화 내용에 집중됐다. 초록우산 조사에서 개인정보 입력 제한을 꼽은 응답자가 39.7%로 가장 많았고 위험한 질문·답변 차단이 28.9%로 뒤를 이었다. 위기 상황에서 상담기관 자동 연계는 11.8%였지만 이용시간 제한은 6.2%에 그쳤다. 호주는 청소년 보호를 사업자의 자율조치에 맡기지 않고 법적 의무로 묶는 작업에 들어갔다. 호주 정부는 지난 8일(현지시간) AI 챗봇과 온라인 게임, 앱 등 디지털 서비스 사업자가 18세 미만 이용자를 보호하도록 하는 '디지털 주의의무' 법안 초안을 공개했다. 호주는 이미 16세 미만의 소셜미디어 계정 이용을 제한하고 있다. 이번에는 AI 챗봇까지 보호 범위를 넓혀 중독을 유발하는 기능이나 자존감에 악영향을 미치는 서비스 설계로부터 청소년을 보호할 책임을 사업자에게 부과한다. 사업자가 문제가 발생한 뒤 대응하는 데 그치지 않고 서비스의 위험을 미리 찾아 줄이도록 한 점이 핵심이다. 사업자는 위험요인을 식별·완화하고 어떤 조치를 했는지 기록해야 한다. 의무를 위반하면 최대 1억 920만 호주달러(약 1052억 6600만원)의 벌금을 부과할 수 있다. 애니카 웰스 호주 통신장관은 "기술기업들이 자사 제품과 기능으로 발생하는 피해에 책임을 지도록 하는 것"이라며 "자동차와 식품, 가전제품에 안전 기준이 있는 것처럼 온라인 서비스에도 기본적인 안전 기준을 두겠다"고 말했다. 한국은 이제 관련 제도를 마련하는 단계다. 미성년자의 연령·본인 확인과 법정대리인 동의, AI 챗봇 이용 방법과 시간 제한, 자해·자살 등 고위험 상황에 대한 대응체계 등을 담은 '우리 아이 AI 안심 패키지법'이 지난 8일 국회 과학기술정보방송통신위원회 전체회의에 상정됐다. 정부 차원의 기술적 보호장치도 준비 중이다. 방송미디어통신위원회는 아동·청소년 유해정보 심의 과정에서 축적된 데이터를 활용해 AI 서비스에 적용할 필터링 시스템을 개발할 계획이다. 김혜숙 방송미디어통신위원회 인공지능이용자보호과장은 "사업자들이 아동·청소년 유해정보를 걸러내고 싶어도 무엇을 유해정보로 봐야 하는지 기준을 잡기 어려울 수 있다"며 "축적된 유해정보 데이터를 기준으로 삼아 기존 서비스에 가드레일처럼 붙일 수 있는 모듈형 필터링 시스템을 제공할 계획"이라고 말했다. 서비스 이용자의 연령을 확인하는 방안도 검토하고 있다. 기존 본인확인 제도를 활용해 사업자가 이름이나 생년월일 등 구체적인 개인정보를 받지 않고 이용자가 성인인지 아동·청소년인지만 확인하도록 하는 방안이다. 전문가들은 기술적인 안전장치와 함께 아동·청소년 대상 AI 서비스가 지켜야 할 법적 기준을 구체화해야 한다고 강조한다. 사업자마다 자체 기준을 정하는 데 그치지 않고 연령별 이용 기준과 정서적 의존을 줄이는 설계, 사고 발생 시 대응 등 공통된 보호체계가 필요하다는 설명이다. 박 교수는 앞서 아동·청소년 대상 AI 서비스를 별도로 고려한 제도 마련을 주문했다. 그는 "과학기술정보통신부가 AI 기본법과 시행령, 관련 가이드라인의 중심축을 잡아야 한다"며 "교육부는 AI 리터러시와 학교 현장 적용 기준을 마련하고 법무부는 피해 구제와 책임, 법적 규제 기준을 구체화해야 한다"고 말했다.

2026.09.11 15:03김동원 기자

한진, AI로 물류현장 위험 잡는다…AI 세이프티 가디언 구축

한진이 인공지능(AI)을 활용해 택배 터미널의 위험 행동을 실시간으로 감지하는 안전관리 시스템을 도입했다. 터미널 운영과 고객 상담에 이어 산업재해 예방까지 AI 적용 범위를 넓히는 모습이다. 한진은 'AI 세이프티 가디언'을 전국 외곽지역 택배 터미널 20여 곳에 구축했다고 11일 밝혔다. AI 세이프티 가디언은 터미널 내 보안카메라(CCTV) 영상을 인공지능 기술을 통해 실시간으로 분석해 각종 위험 상황을 감지하고 사고를 예방할 수 있는 첨단 안전관리 시스템이다. 컨베이어 무단 횡단과 안전수칙 미준수 차량 이동, 보행자 통로 내 불법 주차, 안전모 미착용 등 사고 발생 가능성이 높은 주요 위험 상황을 실시간으로 감지한다. 위험 행동이 포착되면 경광등과 음성 안내를 통해 작업자에게 경고하고 안전관리 담당자에게 실시간 문자메시지를 보내 즉시 조치할 수 있도록 했다. 한진은 상대적으로 안전관리가 어려운 소규모 택배 터미널부터 시스템을 적용하고 있다. 지난 7월 말 수도권 소재 터미널 10여 곳에서 운영을 시작한 뒤 충청과 강원 등으로 도입 지역을 넓혔다. 시스템은 한진이 물류 현장에서 축적한 CCTV 영상 빅데이터에 기반해 휴데이터스가 개발한 영상분석 기술이 활용됐다. 실제 작업 환경과 사고 유형을 바탕으로 위험 상황을 구분하도록 설계했으며, 여러 단계에 걸쳐 영상을 분석하는 필터링 기술을 적용해 오경보를 줄였다는 설명이다. 한진에 따르면 해당 시스템을 도입한 터미널에서는 주요 위험 행동 발생 건수가 도입 전보다 약 60% 감소했다. 기술 개발을 맡은 휴데이터스는 물류 최적화와 자동화, 디지털 트윈 기반 자율운송 관련 서비스를 제공하는 기업이다. 한진의 물류 인프라를 활용해 현장에 적용할 수 있는 공간정보·물류 AI 기술을 개발하고 있다. 한진은 안전관리뿐 아니라 터미널 운영과 고객 서비스에도 AI를 활용하고 있다. 대전 메가허브 터미널에는 간선차량의 화물 상·하차 진행 상황을 실시간으로 파악하는 'AI 기반 적재량 예측 시스템'을 적용했다. 이 시스템은 작업이 끝나는 시점을 예측해 다음 차량이 제때 접안할 수 있도록 지원한다. 이를 통해 차량 대기시간과 화물 상·하차 시간을 줄이고 터미널 운영 효율을 높였다고 회사 측은 설명했다. 화물 사진을 분석하는 '체적 이미지 판독 AI 모델'도 운영하고 있다. 화물 크기 등과 관련한 고객사의 문의를 보다 신속하게 처리하기 위해서다. 생성형 AI를 적용한 챗봇 '한지니'를 통해 고객 상담 업무도 지원한다. 한진 관계자는 “안전관리부터 운영 프로세스 전반에 이르기까지 AI와 빅데이터, 피지컬 AI 등 첨단기술의 적용을 지속 강화해 스마트 물류 혁신을 선도해 나갈 것”이라고 말했다.

2026.09.11 09:10김민아 기자

AI 손에 쥔 아동·청소년…정부, 이용자 보호체계 강화

정부가 인공지능(AI) 활용 확대와 함께 부작용을 줄이기 위한 안전장치 마련에 나선다. AI가 일상과 교육 현장으로 빠르게 확산하면서 이용자를 보호할 제도도 함께 갖추겠다는 취지다. 10일 서울 여의도 국회에서 열린 '생성 AI 시대 시민의 정신건강과 AI 리터러시 정책 과제' 토론회에서 교육부와 과학기술정보통신부, 방송미디어통신위원회는 AI 확산에 맞춰 이용자의 연령과 특성을 고려한 보호 체계를 강화해야 한다는 데 뜻을 모았다. 교육부는 학교 현장의 AI 이용 기준을 마련하고 과기정통부는 과의존 예방·상담을, 방미통위는 아동·청소년을 위한 서비스 안전장치를 맡는 등 부처별 역할에 맞춰 대응책을 추진한다. 교육부는 학교에서 생성형 AI를 사용할 때 지켜야 할 기준을 구체화한다. 올해 2학기 '교육 분야 AI 활용 가이드라인'을 배포해 학생과 교사가 상황별로 확인해야 할 사항을 체크리스트로 제시하고 AI 활용 수준에 따른 사례도 담을 예정이다. 서비스별 이용약관에 명시된 연령 제한도 학교 현장에서 적용한다. 김주영 교육부 인공지능교육진흥과장은 "대부분의 AI는 만 14세 수준 이하에 연령 제한이 있어 사실상 간접적으로 초등학생은 AI를 활용할 수 없는 효과가 있다"고 설명했다. AI 교육에서는 윤리를 강화한다. 교육부는 생성형 AI 등장 이후 달라진 기술 환경을 반영한 초·중·고 AI 교육 운영안도 준비하고 있다. AI 원리와 활용에 더해 윤리를 별도의 내용 체계로 구성할 계획이다. 과기정통부는 AI 과의존에 대응한다. 지난달 발표한 AI 윤리 원칙을 토대로 이용자의 연령과 수준에 맞는 가이드라인을 만들고 예방 교육과 전문 상담에 활용할 예정이다. 기존 디지털 지원 체계에도 AI를 포함한다. 고령층 등 디지털 취약계층을 대상으로 운영하는 디지털배움터에서 AI 관련 교육을 확대하고 스마트쉼센터에서는 AI 과의존 상담을 지원할 계획이다. 정준욱 과기정통부 디지털포용정책팀장은 "과거 인터넷 과의존, 스마트폰 과의존에 이어 이제 AI 과의존까지 다루고 있다"며 "AI 윤리 원칙에 맞는 수준별·연령별 가이드라인을 만들어 예방 교육이나 전문 상담을 지원할 수 있도록 준비하고 있다"고 말했다. 방미통위는 AI 서비스에서 아동·청소년을 보호하기 위한 기술적 장치를 검토하고 있다. 서비스 가입자가 성인인지 아동·청소년인지 확인하되 개인정보 수집을 최소화하는 방안이 논의되고 있다. 기존 본인확인 제도를 활용해 사업자에게 구체적인 개인정보를 넘기지 않고 연령대 여부만 전달하는 방식이다. AI가 아동·청소년에게 유해한 답변이나 콘텐츠를 제공하지 않도록 걸러내는 기술도 추진한다. 방송미디어통신심의위원회가 유해정보를 심의하며 축적한 데이터를 데이터셋으로 만들고 이를 기반으로 AI 서비스에 적용할 필터링 시스템을 개발한다는 구상이다. 관련 사업 예산은 정부안에 반영돼 국회 심의를 앞두고 있다. 김혜숙 방미통위 인공지능이용자보호과장은 "사업자들이 아동·청소년에 대한 유해정보 필터링을 잘하고 싶어도 그 기준이 무엇인지 모를 때 이 데이터가 중요한 기준이 될 수 있다"며 "기존 서비스에 가드레일로 붙여 쓸 수 있는 모듈형 필터링 시스템을 제공하고 사업자들이 가져다 쓸 수 있게 하겠다"고 말했다. 박형빈 서울교대 윤리교육과 교수는 AI 이용에 따른 부작용을 아동·청소년만의 문제로 봐서는 안 된다고 강조했다. 그는 "AI에 생각과 판단을 맡기는 '인지의 외주화'와 감정적 교류까지 의존하는 '정서의 외주화'가 전 연령에서 나타날 수 있다"며 연령별 안전 기준과 AI 리터러시 교육을 제안했다. 조승래 더불어민주당 의원은 AI 기술 개발과 윤리·이용자 보호 정책을 국가AI전략위원회에서 함께 다룰 필요가 있다고 제안했다. 조 의원은 "지금까지 국가AI전략위원회가 기술 개발에 주로 집중했다면 이제는 AI 윤리와 이용자 보호도 중요한 축으로 함께 다뤄야 한다"며 "기술과 윤리가 같이 발전해야 AI 시대에 적극적으로 AI를 활용하면서 사람들의 삶을 행복하게 할 수 있다"고 말했다.

2026.09.10 13:57김동원 기자

[AI는 지금] "10년 내 인류 멸망" 경고한 앤트로픽 연구원 퇴사 vs 오픈AI, 전문가 영입

인공지능(AI) 개발 경쟁이 거세지는 가운데 오픈AI와 앤트로픽이 안전 문제를 두고 엇갈린 움직임을 보이고 있다. 오픈AI는 AI의 파국적 위험을 경고해 온 전문가를 이사회에 합류시키며 안전 감독을 강화한 반면, 앤트로픽에선 안전을 중시해 오픈AI에서 옮겨온 연구원이 AI 개발 경쟁에 우려를 나타내며 회사를 떠났기 때문이다. 오픈AI는 지난 9일(현지시간) 공식 홈페이지를 통해 AI 정렬 연구자인 폴 크리스티아노를 오픈AI 재단 이사로 선임했다고 발표했다. 크리스티아노는 재단 이사회 산하 안전·보안위원회(SSC)에도 합류하며 영리법인 오픈AI 그룹 PBC 이사회에는 의결권이 없는 참관인으로 참여한다. 크리스티아노는 2017년부터 2021년까지 오픈AI에서 정렬 연구를 이끌고 인간 피드백 기반 강화학습(RLHF)의 기초 연구에 기여했다. 이후 비영리 연구기관 정렬연구센터(ARC)를 설립했으며 현재 미국 국립표준기술연구소(NIST) 산하 AI표준혁신센터(CAISI)에서 시니어 테크 어드바이저를 맡고 있다. CAISI에선 국가안보에 영향을 미칠 수 있는 프런티어 AI 모델의 능력을 평가하고 관련 안전·보안 위험과 대응 방안을 연구해 왔다. 크리스티아노는 이번 이사 선임에 따라 CAISI에서 오픈AI 관련 사안과 모든 모델 평가 업무에서 빠지기로 했다. 오픈AI는 크리스티아노가 첨단 AI의 '재앙적 위험' 가능성을 심각하게 다뤄왔다는 점을 이번 인사의 주요 이유로 내세웠다. 업계의 안전장치가 충분한지를 독립적으로 문제 삼아온 인물을 회사의 안전 감독 체계에 직접 참여시킨 것이다. SSC는 오픈AI 재단뿐 아니라 영리법인인 오픈AI 그룹 PBC를 포함해 회사 전체의 안전·보안 정책을 감독한다. 오픈AI는 지난해 10월 자본구조 개편 이후에도 비영리 재단이 오픈AI 그룹 PBC를 지배하는 구조를 유지하고 있다. 브렛 테일러 오픈AI 재단 및 오픈AI 그룹 PBC 이사회 의장은 "폴은 갈수록 강력해지는 시스템이 제기하는 가장 어려운 문제에 집중하며 AI 정렬 분야를 개척해 왔다"며 "정부에서 프런티어 AI 안전과 표준을 다룬 경험과 기술적 판단력이 이사회와 SSC의 감독을 강화할 것"이라고 말했다. 반면 앤트로픽에선 반대 흐름이 나타났다. 올해 초 오픈AI에서 앤트로픽으로 이직한 연구원 제이컵 콕슨이 지난 8일(현지시간) 퇴사 사실을 공개하며 AI 개발 경쟁에 강한 우려를 제기한 것이다. 콕슨은 대규모 데이터를 활용해 새로운 AI 모델을 학습하는 분야를 연구해 왔다. 오픈AI를 떠나 앤트로픽을 선택할 당시에는 AI 안전을 중시하는 기업 문화가 영향을 미쳤지만 앤트로픽에서도 개별 기업의 노력만으로 AI 위험을 통제하기 어렵다고 판단했다. 특히 인간의 개입 없이 스스로 성능을 개선하는 AI 개발 경쟁을 우려했다. 이런 시스템이 빠르게 고도화되면 사이버 공격 능력을 갖추거나 인간의 통제를 벗어나 현실 세계에서 영향력을 행사할 가능성이 있다는 주장이다. 콕슨은 "AI를 개발하는 사람들은 이 기술이 10년 안에 우리 모두를 죽일 수도 있다고 진심으로 믿고 있다"며 "머지않아 무엇이든 해킹하고 어떤 분야에서든 혁명을 일으키며 실질적인 권력과 자원을 확보하는 초인적 체계가 될 것"이라고 경고했다. 앤트로픽 내부에서도 콕슨의 위험 인식에 동조하는 목소리가 나왔다. 에번 휴빙거 정렬과학 총괄은 AI가 인류 전체를 멸망시킬 가능성을 실제 위험으로 보고 있으며 개인적으로 향후 10년 내 발생 확률을 10% 이상으로 평가했다. 새뮤얼 마크스 확장감독 총괄도 AI 개발자들이 인류 멸종이나 이에 준하는 결과를 우려하면서도 상업적 이해와 경쟁 압력 때문에 개발을 이어가고 있다고 설명했다. 콕슨은 앤트로픽뿐 아니라 과거 몸담았던 오픈AI에도 책임을 물었다. 두 회사가 스스로 성능을 높이는 초지능 개발 경쟁을 이어가면서 AI 위험에 충분히 대응하지 못하고 있다고 지적한 것이다. 또 개별 기업의 안전 대책만으로 대응하기 어려운 만큼 정부 규제와 AI 업계 차원의 공동 대응이 필요하다고 강조했다. 업계에선 AI 모델의 성능이 빠르게 고도화될수록 개발 속도와 안전을 둘러싼 갈등도 향후 더 커질 것으로 보고 있다. 미국과 중국을 중심으로 프런티어 AI 경쟁이 거세지면서 개별 기업의 안전 대책을 넘어 정부 규제와 업계 공동 대응 필요성도 부각되고 있다. 크리스티아노는 "지난해 AI 역량은 매우 빠르게 발전했지만 정렬은 여전히 해결하기 어려운 기술적 과제로 남아 있어 안전·보안위원회의 책임은 그 어느 때보다 중요하고 막중해졌다"며 "이 일에 힘을 보태기 위해 팀에 합류하게 돼 기쁘다"고 말했다.

2026.09.10 09:36장유미 기자

Prev 1 2 3 4 5 6 7 8 9 10 Next