검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'레드팀'통합검색 결과 입니다. (6건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

"금융권, AI 더 확산되기 전에 보안 체계 갖춰야"

인공지능(AI) 모델에 대한 공격자 관점의 보안 위협 분석이 중요하다는 제언이 나왔다. AI 모델 공격은 시스템 조작을 통해 시장을 왜곡하거나 공공 시스템 전체를 위협할 수 있기 때문이다. 송은지 금융보안원 수석은 20일 개최된 국내 최대 금융 정보보호 컨퍼런스인 'FISCON 2025'에서 이같은 내용을 중심으로 한 세션 발표를 진행했다. 이날 송 수석은 '금융분야 AI 레드티밍 동향과 미래'를 주제로 발표했다. 보안업계에 따르면 레드티밍, 즉 레드팀은 공격자 관점에서 기업이나 기관의 취약점이나 미흡한 보안 사항을 선제적으로 찾아내 조치할 수 있도록 알려주는 역할을 한다. 송 수석은 기업이나 기관의 취약점이 아니라 AI 시스템에도 이같은 공격자 관점의 취약점 분석이 필요하다고 강조했다. 그는 "금융권에서 AI는 이미 핵심 의사결정에 깊이 관여하고, 그 결정 하나하나가 고객의 자산과 부결된다"며 "특히 금융산업의 특성상 잘못된 투자 조언이나 사기, 펀드 시스템 오작동 등은 개인 자산 손실로도 이어질 수 있고, AI 챗봇의 오작동은 금융회사의 실패로 이어져 그 파장도 더욱 크다"고 진단했다. 이에 송 수석은 "아직 금융권에서 AI를 백오피스에서만 활용하는 수준으로 도입하고 있는 만큼 AI가 제한된 서비스에 머무르는 동안 보안 체계를 구축하고, 조직의 대응 능력을 향상해야 한다"며 "AI가 핵심 금융 서비스 전반으로 확대된 후에 보안 체계를 갖추기엔 너무 늦었다"고 지적했다. 따라서 "AI 모델에 대한 공격 시도들이 정교화되고 있는 만큼 어떤 공격 유형이 있는지 선제적으로 파악하고, 취약점을 조치할 수 있어야 한다"고 역설했다. 한편 송 수석은 이날 AI 시스템을 대상으로 한 주요 공격 기법 등에 대해 소개하고, 대응 전략에 대해서도 구체적으로 설명하는 시간을 가졌다.

2025.11.20 20:11김기찬 기자

ETRI, AI 안전성·신뢰성 분야 국제 표준 개발 착수

국내 연구진이 STA·네이버·업스테이지·셀렉트스타·KT·LG AI연구원 등과 협의체를 구성해 AI 안전성 및 신뢰성 분야 국제 표준 개발에 착수했다. 한국전자통신연구원(ETRI)은 AI 시스템의 위험을 미리 찾아내는'AI 레드팀 테스팅'표준과 소비자가 AI의 신뢰 수준을 쉽게 이해할 수 있는'신뢰성 사실 라벨(TFL)'표준을 국제표준화기구(ISO/IEC)에 제안하고, 본격적인 개발에 착수했다고 20일 밝혔다. 'AI 레드팀 테스팅'은 AI 시스템이 얼마나 안전한지를 공격적으로 탐색하며 테스트하는 방법이다. 예를 들어, 생성형 AI가 잘못된 정보를 내놓거나, 사용자 보호장치를 피해 악용되는 상황을 미리 찾아내는 것이다. ETRI는 이 분야의 국제표준인 'ISO/IEC 42119-7' 에디터 역할을 맡아, 의료·금융·국방 등 다양한 분야에 공통으로 적용할 수 있는 국제 공통 시험 절차와 방법을 만들고 있다. 연구팀은 서울아산병원과 의료 전용 레드팀 평가 방법론도 함께 개발 중이다. 첨단 AI 기술을 적용한 디지털의료제품에 대한 레드팀 시험 체계도 만들고 실증 테스팅을 진행할 예정이다. STA·네이버·업스테이지·셀렉트스타·KT·LG AI연구원 등 주요 기업들과 협의체를 구성, AI 레드팀 국제표준화 협력도 진행 중이다. '신뢰성 사실 라벨(Trustworthiness Fact Labels, TFL)'은 AI 시스템이 얼마나 신뢰할 수 있는지를 한눈에 알 수 있도록 시각화해주는 것으로, 마치 식품의 영양성분표처럼 소비자에게 투명한 정보를 제공한다. ETRI는 현재 'ISO/IEC 42117' 시리즈 표준 개발을 주도하고 있다. 이 표준은 기업이 스스로 정보를 제공하거나, 제3의 기관이 검증·인증하는 다양한 방식으로 운영될 수 있다. 향후에는 AI의 탄소배출량(탄소발자국) 같은 ESG 요소도 반영하는 방안까지 검토 중이다. 이 표준은 인공지능 활용 조직에 대한 국제 인증 표준으로 사용하고 있는'AI 경영시스템 표준(ISO/IEC 42001)'과도 연계, 개발된 제품 및 서비스가 얼마나 신뢰할 수 있는지 입증할 수 있는 틀로 자리매김하도록 할 계획이다. 정보통신기획평가원 김 욱 PM은 "이 두 표준은 정부가 추진하는'소버린 AI(주권형 AI)','AI G3 도약'전략과도 맞닿아 있다"며 “이번 국제표준 선도는 AI 규범을 선도하는 국가로 가는 분기점”이라고 평가했다. ETRI 이승윤 표준연구본부장도 “AI 레드팀 테스팅과 신뢰성 라벨은 미국, EU 등 각국 AI 규제정책에 포함된 핵심 기술 요소"라며 "대한민국이 소버린 AI뿐 아니라 소버린 AI 안전 기술을 이끄는 중심이 되도록 할 것"이라고 밝혔다.

2025.08.20 10:02박희범 기자

SKT, 사내 보안전담 별동대 '레드팀' 꾸린다

SK텔레콤이 보안 강화 전략을 발표한 지 한 달이 지난 가운데, 보안 전담 조직 구성에 본격 착수했다. 전담 조직이 완성되면 국내 정보보호 산업 생태계 활성화를 위한 100억원 규모의 기금을 조성할 계획이다. 4일 업계에 따르면 SK텔레콤은 전사 보안 역량 강화를 위해 '레드팀' 신설을 추진하고 있다. 레드팀은 실전과 유사한 공격 시나리오를 기반으로 내부 보안 체계를 점검하고, 잠재적인 위협 요소를 사전에 식별·대응하는 역할을 맡는다. 아울러 회사의 보안 수준을 지속적으로 검증하며, 기업 전반의 사이버 방어 역량을 끌어올리는 데 핵심적인 기능을 수행게 된다. SK텔레콤 관계자는 “기존의 정형화된 모의해킹을 넘어, 최고 수준의 해킹 그룹과 맞먹는 지식과 자유도를 가진 내부 점검팀을 구성 중”이라며 “회사 내외부 시스템과 서비스 전반의 방어체계 취약점을 진단하고, 이를 정보보호최고책임자(CISO)를 포함한 경영진에 직접 보고하는 역할을 맡게 될 것”이라고 설명했다. 보안 조직 구축 진행 상황에 대해 “레드팀 구축은 초기로 현재는 내외부 인력을 선발하고 조직하는 단계”라며 “향후 CISO 직속으로 보안조직의 일부로 운영될 예정”이라고 했다. 그러면서 “아직은 구체적인 팀 구성이나 체계를 공개하기는 어렵다”며 “역할과 범위를 포함한 체계에 대해서는 레드팀 자체의 내부적인 합의 과정을 통해 향후 구체화될 것”이라고 밝혔다. 레드팀 구성과 함께 SK텔레콤은 국내 정보보호 산업 생태계 활성화를 위한 '마중물' 역할로 100억 원 규모의 기금을 조성한다. 기금은 정보보호 관련 유수 대학과의 인재 육성, 산학 협력 프로그램 운영, 유망 스타트업 발굴과 지원 등에 활용된다. 회사 관계자는 “(레드팀) 외부 인재를 모집하는 과정에는 수개월이 소요될 수 있는 만큼, 내부 준비를 마친 뒤 기금 조성 등 계획을 체계적으로 추진할 예정”이라고 말했다.

2025.08.04 16:33진성우 기자

환경공단, 부패 진단·조직문화 개선 위한 '레드팀·블루팀' 신설

환경부 산하 한국환경공단(이사장 임상준)은 22일 서울 마포구 중소기업 DMC타워에서 '레드팀 착수보고회'를 개최하고, 부패 취약분야 진단과 공정한 조직문화 개선을 위한 내부 특화조직인 '레드팀'과 '블루팀' 운영에 본격 돌입했다. 특화조직 구성은 지난 4월 제1회 청렴·내부통제위원회에서 의결된 '청렴·윤리 2.0 종합계획'의 중점과제로, 변화하는 공공기관 윤리경영 요구에 능동적으로 대응하기 위한 선제 조치다. '레드팀'은 5천450억원 규모 국고보조금 사업 전반을 점검한다. 2025년 기준 환경공단이 수행 중인 국고보조금 사업은 총 12개 분야, 약 5천450억 원에 이른다. 전체 예산의 20%를 차지하며, 3년 새 3천800억원 이상 증가했다. 환경공단에 따르면 과거 전기차 충전기 설치지원·탄소중립설비 구축지원 등 일부 사업에서 부정수급 의심 사례가 발생함에 따라 제도와 구조 자체 취약성 점검 필요성이 제기돼 왔다. 레드팀은 가상의 공격자 관점에서 각 사업의 부패 가능성을 시뮬레이션하고 취약 지점을 선제적으로 진단한다. 이를 통해 'RED Target'을 설정한 뒤 제도개선으로 연계한다. 환경공단은 올해 ▲위험 진단(6월) ▲제도개선(9월) ▲성과 분석 및 환류(10월) 등 단계적 계획으로 운영한다. 윤리경영실과 감사실, 수행부서 간 유기적인 협력을 통해 환경공단의 리스크 대응력을 강화할 예정이다. '블루팀'은 미래세대가 직접 제안하고 실현하는 조직문화 혁신한다. 레드팀이 제도적·구조적 위험을 점검한다면, 블루팀은 구성원 관점에서 조직문화 공정성과 유연성을 개선해 나가는 역할을 맡는다. 블루팀은 2016년부터 2022년 사이에 입사한 5급 이하 직원 120명으로 구성된다. 전체 직원 중 MZ세대 비중 증가와 맞물려 구성원의 '공정성 체감도'를 향상시키기 위한 실질적인 조직문화 개선 방안이다. 블루팀은 인트라넷 전용 온라인 플랫폼 'BLUE로그'를 통해 주제별 의견을 익명으로 개진하고, 다수 공감을 받은 제안은 '2025년 BLUE Target 과제'로 선정해 공정하고 건강한 조직문화 정착을 도모한다. 환경공단은 블루팀을 통해 내부 구성원이 공감하고 자발적으로 참여하는 하향식이 아닌 상향식 변화가 실현될 것으로 기대했다. 임상준 환경공단 이사장은 “레드팀과 블루팀은 공단의 제도 개선과 조직문화 혁신을 이끄는 새로운 동력”이라며 “두 조직의 활동을 통해 청렴한 공단, 신뢰받는 공공기관으로 거듭나겠다”고 밝혔다.

2025.05.22 15:05주문정 기자

파고네트웍스, AI 기반 통합 보안 플랫폼 '딥액트' 발표

국내 정보보호 기업 파고네트웍스가 인공지능(AI)을 기반으로 보안하는 플랫폼 '딥액트(DeepACT)'를 선보였다. 권영목 파고네트웍스 대표는 23일 서울 삼성동 그랜드인터컨티넨탈서울파르나스호텔에서 연례 행사 '파고 보안 정상회의(Pago Security Summit)'를 열고 이를 발표했다. 권 대표는 “제대로 탐지하고 대응하려면 레드팀(red team)·블루팀(blue team)·퍼플팀(purple team)을 운영하는 게 중요하다”면서도 “뛰어난 인재를 전체 팀으로 꾸려 상시 채용하려면 비용과 시간이 많이 든다”고 말했다. 그러면서 “딥액트를 고객에게 제공하는 이유”라며 “파고네트웍스가 관리형 탐지 및 대응(MDR) 분야 한국 시장 개척했다고 생각한다”고 자부했다. 레드팀이라는 말은 군사 훈련을 하다가 아군 약점을 알아채고자 적군 역할을 둔 데에서 유래했다. 블루팀은 레드팀 공격을 막는다. 퍼플팀은 레드팀과 블루팀이 협력하도록 중간 역할을 하거나 이들 임무를 모두 수행한다. 권 대표는 “파고네트웍스는 사이버 위협을 가장 먼저 감지하고, 가장 정확히 판단해, 가장 빠르게 차단한다는 원칙을 세웠다”며 “단순히 탐지하기를 넘어 선제적으로 대응하고 예측하려고 한다”고 강조했다. 파고네트웍스는 딥액트 주요 기능으로 ▲AI 기반 위협 식별 ▲사고 자동 대응 ▲다크웹 인텔리전스 기반 공격자 탐지 등을 소개했다. 권 대표는 “알고리즘 수준을 높여 정보를 꼼꼼하게 분석한다”며 “이상 징후를 실시간 식별해 빠르게 대응할 수 있다”고 설명했다. 또 “인텔리전스를 바탕으로 정보를 분석해 미래 위협을 예측하고 예방하도록 돕는다”며 “복잡한 운영 환경이 변해도 유연하게 대처한다”고 했다. 반복 작업을 자동화해 보안팀은 중요한 일에 집중할 수 있게끔 한다는 입장이다. 파고네트웍스는 한국 본사와 아울러 필리핀과 말레이시아에서도 보안 관제·분석하는 MDR센터를 24시간 운영한다. 권 대표는 “하반기 미국에도 센터를 열 것”이라고 귀띔했다. 권 대표는 “기술뿐 아니라 실행력과 현장 적용력을 겸비한 가치를 고객에게 제공하겠다”며 “보안은 단지 위험을 줄이는 수단이 아니라 기업이 신뢰를 기반으로 지속 성장할 수 있도록 돕는 핵심”이라고 마무리했다.

2025.04.23 13:08유혜진 기자

환경공단, 국민 눈높이 맞춘 '청렴·윤리경영 2.0' 선포

환경부 산하 한국환경공단(이사장 임상준)은 18일 공공기관 청렴 수준과 윤리적 책임 등에 대한 국민적 관심과 눈높이에 적극 대응하기 위한 '2025년 청렴·윤리경영 2.0 종합계획'을 수립하고 본격 추진에 나선다. 이번 종합계획은 최근 공공부문에서 발생한 투기·횡령 등의 부패 사례와 반복되는 내부 비위 문제를 계기로 기획된 중장기 전략으로, 국민 신뢰 회복과 청렴 문화의 정착을 목표로 한다. 세부적으로 감사원 등 외부기관의 권고사항과 높아진 국민 기대치를 종합 반영하고 ▲윤리경영 표준모델 ▲공공부문 내부통제 가이드라인 ▲자체 조직문화 진단 결과 등을 참고해 실효성 있는 윤리경영 체계 구축에 초점을 맞췄다. 국고보조금 부정 집행 방지·오피스 빌런 대응 등 최근 조직 내 이슈를 반영한 현장 밀착형 과제가 다수 포함됐다. 환경공단은 또 전체 예산의 약 20%에 해당하는 5천여 억원 규모 12개 국고보조사업 리스크를 선제적으로 관리하기 위해, 관련 전문가로 구성한 '레드팀'을 운영하고, 직원 120여 명의 '블루팀'을 통해 조직 내 불합리한 업무 문화를 매년 발굴해 단계별로 개선해 나갈 계획이다. 반복적 병가 남용·직무태만 등 조직에 부정적인 영향을 미치는 행위를 '오피스 빌런'으로 규정, 감찰 활동을 대폭 강화하고 관련 자가진단표 개발과 직원 사례 공모전을 통해 예방활동에도 힘쓸 예정이다. 환경공단은 이번 종합계획의 실행력을 높이기 위해 기존 관련 위원회를 통합한 '청렴·내부통제위원회'를 출범, 노동이사 등 다양한 구성원이 참여하는 협치 구조를 마련해 전략의 일관성과 실행력을 강화했다. 임상준 한국환경공단 이사장은 “이번 청렴·윤리경영 2.0 종합계획은 단순한 제도 개선을 넘어, 모든 임직원이 청렴을 조직문화로 내재화하는 전환점이 될 것”이라며 “국민 눈높이에 부합하는 윤리기준 실천을 통해 더욱 투명하고 공정한 공공기관으로 도약하겠다”고 말했다.

2025.04.20 21:38주문정 기자