검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'AI 보안'통합검색 결과 입니다. (353건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

"AI는 못 믿겠다"…실무자 64%가 꼽은 불신 이유, 엠클라우독이 해소할까

보안업계 관계자 절반 이상이 인공지능(AI)을 신뢰하지 않는 상황 속에서 엠클라우독이 생성형 AI 기반 업무 솔루션을 선보여 '정확성'과 '신뢰성'을 동시에 겨냥한다. 엠클라우독은 지난달 국내 보안 실무자 500명을 대상으로 생성형 AI 활용 실태 및 인식 조사를 실시하고 그 결과를 바탕으로 '아이채터'를 출시했다고 1일 밝혔다. 이 제품은 단순 챗봇을 넘어 기업 환경에 적합한 정확성 중심형 AI 도구로 자리매김을 노린다. 회사 설문 결과 응답자의 절반은 이미 생성형 AI를 업무에 활용한 경험이 있다고 답했다. 주요 활용 영역은 문서·콘텐츠 작성, 데이터 분석 등으로 나타났다. 전체 응답자의 64%는 생성형 AI 사용 시 가장 중요한 요소로 '정확성'을 꼽았다. 가장 불편했던 점으로는 '답변의 일관성 부족'과 '맥락 이해 미흡'을 지적해 실무 환경에서 AI의 신뢰도가 핵심 과제임을 방증했다. 또 51%는 생성형 AI 도입에 있어 '데이터 보안'을 가장 큰 우려로 꼽았다. 민감한 정보를 다루는 보안 담당자일수록 AI 도입 시 신중함을 요구한다는 분석이다. 엠클라우독은 이 같은 요구에 대응해 '아이채터'에 검색 증강 생성(RAG) 기술을 적용했다. 외부 지식이 아닌 내부 검증 문서를 기반으로 응답을 생성해 잘못된 정보 전달 가능성을 줄였다. '아이채터'는 AI 에이전트 기능도 갖췄다. 사용자의 요청과 업무 흐름을 기억해 문맥에 맞는 일관된 대응이 가능하며 반복 업무 처리와 문서 자동화 지원에 특화됐다. 보안성 역시 핵심 설계 요소다. 문서 전송·저장 단계에서 암호화를 적용하고 로그 기록과 금지어 필터링 기능 등을 탑재해 기업 데이터가 외부로 유출되지 않도록 설계했다. 엠클라우독 관계자는 "보안 실무자들은 AI의 활용 가능성만큼이나 정확성, 신뢰성, 보안성에 대한 기준이 높다"며 "'아이채터'는 이러한 니즈를 충족시키기 위해 오랜 기간 개발 및 고도화를 거쳤다"고 밝혔다.

2025.04.01 17:10조이환

"인공지능 관심있다면 'ai.kr' 도메인 등록하세요"

“누군가 'daum.ai' 도메인을 만들어 중고 거래 시장 당근(마켓)에 14억3천만원에 팔겠다고 내놨더라고요. 기술과 관련한 국가 도메인도 생겼어요. 앵귈라가 인공지능(AI)을 뜻하는 '.ai', 이탈리아가 정보기술(IT)을 의미하는 '.it', 몬테네그로가 나(ME)라는 '.me'를 선점했죠.” 이정민 한국인터넷진흥원(KISA) 인터넷주소정책팀장은 지난 27일 서울 광화문에서 기자들과 만나 새로운 도메인을 만든 이유를 이같이 밝혔다. 도메인이란 인터넷에 연결된 컴퓨터를 사람이 쉽게 기억하고 입력할 수 있도록 영문·한글 같은 문자로 만든 인터넷 주소다. 숫자로 된 인터넷프로토콜(IP) 주소를 기억하기 쉽게 문자로 나타낸다. '.한국(.kr)'은 한국의 국가 도메인이다. 한국에 주소지를 둬야 도메인 이름을 '한글.kr'이나 '1234.kr' 등으로 쓸 수 있다. 한국 국가 도메인은 지난해 말 107만건 등록된 상태다. '.com'이나 '.net', '.org' 등은 일반 도메인이라 한다. 영문은 3글자 이상, 영문 아닌 글자는 2글자 이상으로 써야 한다. 한국 기업 가운데서는 삼성이 '.삼성'과 '.samsung', 현대자동차가 '.hyundai', 기아가 '.kia' 도메인을 갖고 있다. KISA는 새로운 산업을 떠올릴 수 있는 도메인을 만들었다. 'ai.kr', 'io.kr', 'it.kr', 'me.kr' 4가지다. 관련 사업을 하지 않는 개인도 예쁘고 마음에 드는 글자로 등록할 수 있다. ▲가비아 ▲다우기술(반값도메인) ▲닷네임코리아 ▲메가존(호스팅케이알) ▲메일플러그 ▲비아웰 ▲아사달 ▲아이네임즈 ▲아이티이지 ▲웹티즌 ▲유니파이(블루웹) ▲커넥트웨이브(싼도메인) ▲한강시스템(도레지) ▲호스트센터(도메인클럽) ▲후이즈 대행자 중 골라 등록하면 된다. 비용은 해마다 도메인 1개당 2만원 정도 내야 한다. 이 팀장은 “국내에서 도메인을 등록하고 쓰려면 매년 평균 2만원 내면 된다”며 “새로운 사업을 하려는 개인이나 기업이 해외 유사 국가 도메인보다 싼 값에 원하는 도메인 이름을 가질 수 있다”고 말했다. 제일 먼저 등록된 도메인은 지난 5일 오전 10시 6초 동시 등록한 2개다. 미래에셋증권이 기업 가운데 가장 빠르게 'm-stock.ai.kr'을 등록했고, 개인 중에서는 'chat.ai.kr'이 꼽혔다. 제일 긴 도메인은 삼성전기의 'samsungelectromechanics.ai.kr'이다. 이밖에 'rad.io.kr', 'like.it.kr', 'with.me.kr' 등도 재미있는 사례에 이름을 올렸다.

2025.03.30 12:00유혜진

[보안리더] 이화영 사이버안보연구소 부소장 "소통하는 사이버안보 초석 되겠다"

“서울시 해커톤 대회에 나가 횡단보도 바닥 신호등을 기획했습니다. 신호등을 볼 때마다 이렇게 좋은 결과로 대한민국 곳곳에 안전의 불을 밝히니 뿌듯하고 감사해요. 이처럼 누구나 사이버 위협으로부터 안전할 수 있는 최소한의 장치가 법과 정책이라고 생각합니다. 그래서 공학도였던 제가 정책에 관심을 갖게 됐습니다. 지금까지 빠르고 수직적인 관료 문화가 한국을 키웠습니다. 그러나 사이버는 중첩과 간섭을 통해 확장하는 수평적 영역입니다. 전 사이버 안보의 수평적 소통을 위해 노력하겠습니다.” 이화영 사이버안보연구소 부소장은 지난주 지디넷코리아와 만나 이같이 밝혔다. 이 부소장은 '천하에는 2가지의 큰 저울이 있는데, 하나는 시비(是非)의 저울이고 하나는 이해(利害)의 저울이다. 그 중 옳은 것을 지켜 이로움을 얻는 것이 가장 으뜸'이라는 다산 정약용 선생의 말을 인용하며 “그렇게 사이버 안보의 길을 가는 사람이 되고자 한다”고 말했다. 숙명여대 컴퓨터과학 학사·석사·박사 과정에서 공부했다. 사이버안보연구소는 한국 사이버안보기본법을 제정하기 위한 정책과 제도를 연구한다. 2022년 4월 문을 열고, 지난해 2월 창립총회를 개최했다. 박근혜 정부 공군참모총장, 문재인 정부 합동참모본부 의장과 국방부 장관을 지낸 정경두 대표가 연구소를 이끈다. 아래는 이 부소장과의 일문일답. -사이버안보연구소는 다른 연구소와 무엇이 다른가? “국가정보원·과학기술정보통신부·외교부·국방부 4개 정부부처가 하는 사이버 안보 업무를 폐쇄회로텔레비전(CCTV)처럼 보면서 조언한다. 부처 간 수직적 칸막이가 있다. 각자 바빠서 서로 하는 일에 관심 없는 경우가 많다. 사이버안보연구소가 수평적으로 살피며 풀어보겠다. 미국 기관이나 기업에서는 해킹 당하더라도 피해자가 무엇을 해야 하는지 알고 있다. 어떻게 대응할지 평소 교육받는다. 그 보안 교육을 통과해야 자리를 지키거나 승진할 수 있다. 한국은 국정원이나 한국인터넷진흥원(KISA)에 연락하면 끝이다. 내 자리에서 보안 사고가 났을 때, 어떻게 해야 하는지 규정이 없어 연습하지 않으면 사고 확산을 막기 어렵다. 보안 산업에서 정부 역할은 부모와 같다고 생각한다. 부모는 이해당사자는 아니지만 자녀가 성장할 수 있는 토대와 울타리가 되지 않나. 기업 스스로 살아남는 게 아니라 세계적인 기업으로 클 수 있게 도와야 한다.” -사이버안보연구소의 특별한 활동 계획은? “'인공지능의 책임 있는 군사적 이용에 관한 고위급 회의(REAIM·Responsible AI in the Military domain)'에 적극적으로 참여한다. 리에임은 외교부와 국방부가 공동 주관하는 국제다자회의체다. 지난해 네덜란드·싱가포르·케냐·영국이 공동주최국으로 함께했다. 인공지능(AI)을 군사에 쓸 때 지켜야 할 규범을 만들고, 국제 평화와 안보에 어떤 영향을 미칠지 머리를 맞댄다. 지난해 브레이크아웃 세션(Breakout Session)에 선정된 사이버안보연구소는 롤플레잉 기법과 뉴게임 이론을 적용한 AI에 대한 기술적 이해를 바탕으로 사이버전에서 AI 어드바이저(adviser)를 효율적으로 쓰는 방법을 선보였다. 9월에는 한국정보보호학회 위험관리구조(RMF·Risk Management FRAMEwork)연구회와 대규모 회의(conference)를 열기로 했다. 주제는 한국형 위험 관리 구조(K-RMF) 제도다. K-RMF는 한국 공공기관과 방산 업체의 정보보호 위험을 관리하기 위한 보안 제도다. 미국 국립표준기술연구소(NIST) RMF를 기반으로 국내 환경에 맞췄다. 국가 정보보호 지침 등과 연계된다.” -미국 정부와 협업할 기회를 잡았다고? “개인적으로 미국 '국제 지도자 초청 프로그램(IVLP·International Visitor Leadership Program)'에 뽑혔다. 다음 달 7일부터 25일까지 미국에서 '사이버 보안 협력 강화: 한·미 동맹(Strengthening Cybersecurity Cooperation: U.S.-ROK Partnerships)' 프로젝트에 참가한다. IVLP는 미국 국무부가 80년 동안 세계 각국의 차세대 지도자를 불러 특정 주제로 협력하는 프로그램이다. 한국 동문으로는 고 김영삼·김대중 전 대통령 등이 있다. 미국 전문가들과 사이버 보안을 연구하고, 한·미 양국이 교류하는 데 동참하고 오겠다. 사적으로도 영광이지만, 한국 사이버 안보에 기여할 수 있어 더욱 뿌듯하다.”

2025.03.24 13:51유혜진

팀뷰어-1E와 통합 솔루션 출시…"AI 기반 IT 운영 강화"

팀뷰어가 1E와 솔루션을 통합해 인공지능(AI) 기반 IT 운영 솔루션을 강화했다. 팀뷰어는 디지털 직원 경험(DEX) 기업 1E 인수 후 첫 통합 솔루션을 20일 발표했다. 이번 통합으로 팀뷰어의 디바이스 모니터링 기능이 1E의 실시간 성능 분석 기능을 포함하게 돼 엔드포인트 가시성이 확대됐다. 1E는 기업 IT 환경의 실시간 모니터링과 자동 문제 해결을 지원하는 DEX 플랫폼을 제공한다. 팀뷰어는 자사 원격 연결 플랫폼인 '팀뷰어 텐서'를 1E DEX에 통합해 엔터프라이즈급 원격 연결과 규정을 준수하는 IT 관리를 지원한다. 팀뷰어는 이번 통합으로 IT 부서의 선제적인 문제 해결이 가능해졌다고 밝혔다. 기존의 사후 대응 방식에서 벗어나 실시간 데이터 분석과 자동화된 문제 해결로 운영 중단을 최소화할 수 있다는 설명이다. IT 부서는 디바이스 상태를 능동적으로 모니터링하고 과거·실시간 성능 데이터를 분석해 사전 예방 조치를 취할 수 있다. 이를 통해 업무 흐름이 원활해지고 IT 부서의 부담도 줄일 수 있다. 팀뷰어의 원격 연결 기능도 1E DEX 플랫폼과 통합돼 IT 부서가 한층 더 빠르게 대응할 수 있게 됐다. 1E 사용자는 기존 인터페이스에서 실시간 엔드포인트 데이터를 확인하고 즉시 원격 지원 세션을 시작할 수 있다. 팀뷰어 텐서를 사용하는 기업 고객은 조건부 액세스, 정책 기반 접근 제어, 관리 디바이스 지원 등 고급 보안 기능을 활용할 수 있다. 이를 통해 IT 부서는 보안성을 유지하면서도 직원들의 업무 생산성을 저해하지 않는 균형 있는 IT 관리를 할 수 있다. 팀뷰어 메이 덴트 최고 제품 및 기술 책임자는 "1E를 인수한 지 몇 주 만에 강력한 통합 솔루션을 출시했다"며 "IT 부서는 더욱 신속하고 능동적인 방식으로 문제를 해결할 수 있다"고 밝혔다.

2025.03.20 10:11김미정

"북한 간첩, 한국 정부·방산·반도체·자동차 기밀 노려"

“최근 북한과 관련된 해킹 단체가 한국 방위 산업과 반도체·자동차 산업을 공격했습니다. 돈 벌려고 했다기보다 전통적인 간첩·첩보 활동이었던 것 같아요. 기밀이나 산업 지식을 찾는 듯했어요. 한국 정부를 목표로 한 적도 있습니다.” 루크 맥나마라 구글클라우드 수석연구원은 19일 서울 강남구 구글클라우드 한국지사 사무실에서 열린 기자간담회에서 이같이 밝혔다. 맥나마라 연구원은 “세계적으로 국방비 지출이 늘고 있다”며 “사이버 공격자는 새로운 군사 기술이 어떻게 개발되는지, 누가 쓸지 알려고 한다”고 말했다. 그러면서 “한국 방산의 잠재 구매자가 누군지 북한이 찾고자 할 것”이라며 “방산과 더불어 한국 정부도 목표물”이라고 전했다. 북한 관련 단체가 금전을 갈취할 목적으로 공격하기도 한다. 가상화폐가 생기면서 두드러졌다. 지난해에는 북한 해킹 단체가 이더리움을 2조원어치 훔친 사실이 드러났다. 맥나마라 연구원은 “북한은 암호화폐와 아울러 암호화폐 거래소와 사용자도 표적으로 삼는다”며 “관련 기업이나 거래소는 북한을 주의해야 한다”고 경고했다. 그는 “북한 해커는 암호화폐를 잘 안다”며 “암호화폐가 혁신할 때마다 이해한다”고 평가했다. 북한에서 정보기술(IT)을 공부한 사람이 해커가 되기도 한다. 맥나마라 연구원은 “북한 IT 인력이 해킹하거나 취업해 번 돈을 북한 정권으로 보내는 게 목적”이라며 “중개인(Broker)과 공조한다”고 언급했다. 그는 “브로커는 북한 정권을 위하는 일이라곤 모른 채 가담하는 경우가 많다”며 “북한 IT 인력이 다른 나라에서 취업하게끔 돕거나 은행 계좌 만들기를 돕는다”고 설명했다. 또 “북한 IT 인력은 브로커에게 수수료 주고, 월급은 다른 계좌 통해 받아 돈세탁한다”며 “이들이 방산업체에서 일하면 스파이가 되는 셈”이라고 지적했다. 이어 “북한 IT 인력 정체가 들켜 해고돼도 '비트코인을 주지 않으면 민감한 인터넷프로토콜(IP)을 공개하겠다'고 협박하는 메일을 전 직장에 보낸 사례가 있다”며 “면접에서 카메라 녹화를 거부하거나 회사 공식 메일이 아닌 다른 연락처로 취업 서류를 주고받자는 구직자를 기업 인사 담당자는 의심해야 한다”고 조언했다. 다만 “북한 IT 인력이 한국에서 공격한 일은 아직 없다”고 선을 그었다. 해커는 구글 '제미나이(Gemini)' 같은 생성형 인공지능(AI)으로 생산성을 끌어올리는 것으로 알려졌다. 맥나마라 연구원은 “북한을 비롯해 중국·이란 지능형 지속 공격(APT) 단체들이 제미나이를 악용한다”며 “정보를 모으고, 보안 취약점을 찾고, 피싱하고 개인정보를 탈취할 질문을 하거나, 딥페이크 이미지를 만들 때 쓴다”고 분석했다. 그는 “1년 뒤에도 해커가 AI를 지금과 똑같이 쓸지, 다르게 활용할지 구글클라우드가 연구하겠다”며 “보안 담당자가 생성형 AI로 새로운 전술을 알아채고 빠르게 대응한다면 공격자와 격차를 줄일 수 있지 않겠느냐”고 되물었다.

2025.03.19 15:53유혜진

오픈소스 AI 잇달아 등장···보안은?

중국 인공지능(AI) 스타트업이 만든 고성능 AI 제품 '딥시크(DeepSeek)'가 미국 오픈AI의 '챗GPT'보다 저렴한 비용으로 개발됐다는 소식이 세상을 놀라게 했다. 특히 딥시크는 오픈소스로 공개, 더 화제를 모았다. 오픈소스 소프트웨어는 소스 코드를 공개해 누구나 그 코드를 보고 쓸 수 있는 소프트웨어를 뜻한다. 하지만 딥시크는 정보가 빠져나갈 수 있다는 우려도 함께 낳았다. 미국은 해군이 발빠르게 딥시크를 못 쓰게 막았고, 한국도 국방부·외교부·산업통상자원부·과학기술정보통신부 등과 KB국민은행·하나은행·우리은행·케이뱅크 등 은행, 현대자동차그룹 등 기업이 금지했다. 개인정보위원회는 딥시크 사용을 공식적으로 금지하기도 했다. 국가정보원은 딥시크를 검증했더니 ▲과도하게 개인정보를 수집하고 ▲입력 정보를 학습 정보로 쓰며 ▲광고주와 정보를 공유하는 한편 ▲국외 서버에 저장하는 문제점을 확인했다고 밝혔다. 딥시크의 보안 우려는 오픈소스를 사용했기 때문이기도 하다. 오픈소스를 사용한 AI는 보안에 안전할까? 전문가들은 “딥시크 같은 게 어떤 질문을 받으면 이상하게 답하는지 살펴야 한다”고 조언한다. 줄잇는 오픈소스 AI...LG·딥시크·메타·미스트랄 등 잇달아 선보여 오픈소스는 모두에게 열린 자원이므로 이를 활용하면 비교적 저렴한 비용으로 AI 모델을 개발할 수 있다. 중국 딥시크와 미국 메타(페이스북 모회사), 프랑스 미스트랄 등 오픈AI보다 늦게 뛰어든 기업들이 줄줄이 무기를 들고 나올 수 있는 배경이다. 한국도 빠지지 않았다. LG AI연구원은 18일(현지시간) 미국 캘리포니아주 새너제이에서 열린 엔비디아 개발자 콘퍼런스(GTC)에서 '엑사원 딥'을 선보이며 오픈소스 플랫폼에 배포했다. 엑사원 딥은 단순한 지식 기반이 아니라 스스로 가설을 세우고 이를 검증하는 방식으로 문제를 푼다. 미국 AI 스타트업 글리터컴퍼니는 최근 메타 '라마' 오픈소스를 쓰기 시작했다. 라마가 무료인 덕에 오픈AI 모델만 쓸 때보다 모델 사용료를 70% 아낀 것으로 알려졌다. 다만 악성 AI '웜GPT(WormGPT)' 같은 것까지 만들 수 있다는 단점이 치명적이다. 웜GPT는 오픈소스로 만들어진 해킹 도구다. 챗봇에게 “이 사이트를 공격하자”거나 “악성 파일을 만들자”고 시킬 수 있다. 기자도 일전에 '보안 초짜기자 해킹 체험기'를 쓰려고 인터넷에서 쉽게 내려받을 수 있었다. 이처럼 누구나 손댈 수 있는 위험물이다. 전문가들 "AI, 정보 모을수록 두 얼굴...보안 취약점이 발견되면 누군가 해킹 도구 만들어 뿌려" 전문가들은 AI가 정보를 모으는 게 양날의 칼이라고 짚었다. 세종사이버대 정보보호학과 교수인 박영호 한국정보보호학회장은 “AI는 정보를 먹을수록 커진다”며 “그만큼 개인정보가 빠져나가는 게 문제”라고 말했다. 내가 유튜브로 언제, 어디서, 무슨 영상을 보는지가 전부 정보라는 얘기다. 알고리즘으로 사용자의 취미나 정치 성향도 알 수 있다. 순천향대 정보보호학과 명예교수인 염흥열 한국개인정보보호책임자(CPO)협의회장은 “오픈소스 취약성을 이용해 AI 보안 시스템을 공격하면 AI가 의도된 대로 동작하지 않고 탈옥 등의 방법으로 악성코드나 대규모 살상 무기 등을 만드는 데 악용될 수 있다”며 “AI가 처리하는 개인정보를 빼돌리도록 쓰일 수도 있다”고 분석했다. 윤두식 이로운앤컴퍼니 대표도 “딥시크 같은 게 어떤 질문을 받으면 이상하게 답하는지 살펴야 한다”며 “학습된 개인정보를 추출하거나 편향적인 답변을 유도하고 악성코드나 무기 제조법 등을 만들라고 이끌어 AI가 나쁘게 답변하는지 점검할 수 있다”고 설명했다. 그러면서 “딥시크 사이트 사용자의 개인정보와 그가 입력한 기록 등이 다른 사이트에 퍼지면 개인정보가 유출되는 셈”이라고 덧붙였다. 이로운앤컴퍼니는 AI 보안 수준을 높이는 서비스를 제공하는 회사다. 이희찬 스틸리언 연구소장은 “오픈소스 AI 행위를 예측하기 어려워 취약점을 검증하기도 힘들다”며 “소스 코드가 공개됐더라도 AI 모델이 복잡하다”고 진단했다. 스틸리언은 모바일 앱 보안 솔루션을 공급하는 업체다. 김택완 한국오픈소스협회장은 “애플이 운영체제 'iOS' 보안이 취약하다고 알아채면 개선해 알려준다”며 “오픈소스 모델은 누가 공지하지 않아 사용자가 스스로 '새로고침' 않으면 취약한 옛 모델을 계속 쓸 수밖에 없다”고 지적했다. 또 “보안 취약점이 발견되면 누군가 해킹 도구를 만들어 뿌린다”며 “해커가 이 도구로 10군데 시도하다가 1군데라도 뚫리면 해킹된다”고 지적했다. 이화영 사이버안보연구소 부소장은 “오픈소스 AI 모델 보안이 취약한지 알아보려면 LLM 정보를 아는 게 먼저”라며 “서비스 구조와 정보 흐름을 파악하고 LLM 애플리케이션을 운용할 때 일어날 수 있는 위협을 예상해 목록을 짤 필요가 있다”고 조언했다. 또 “조직에서 오픈소스를 얼마나 활용하는지 판단하고, 오픈소스에서 보안을 위협하는 요소를 살펴봐야 한다”고 권유했다. "LLM방화벽·필터 등으로 점검" 전문가들은 '내가 무슨 AI 도구의 어떤 버전을 쓰는지' 스스로 지켜보다가 새로운 버전을 찾으면 고쳐 써야 한다고 입을 모았다. AI를 안전하게 쓸 수 있는 인터넷 환경도 주문했다. 김택완 오픈소스협회장은 “우리는 수많은 소프트웨어를 쓰고 버전도 쏟아지는 만큼 업데이트 우선순위를 정하는 게 좋다”며 “내가 쓰는 소프트웨어가 내게 얼마나 중요한지, 얼마나 자주 쓰는지, 내 시스템을 얼마나 망가뜨리는지 위험도를 생각해야 한다"고 권했다. 이희찬 연구소장은 “오픈소스 AI를 외부에서 접속할 수 없는 내부망에서 활용하거나 AI 안전 수준을 높이는 기술(AI safety)을 적용해야 한다"고 조언했다. 염흥열 교수는 “인공지능 시스템을 개발하고 운영하는 조직은 AI 관리 체계를 갖춰야 한다”며 “무엇이 인공지능 시스템을 위협하는지 식별해 꾸준히 감시해야 한다”고 진단했다. 이어 “국제표준(ISO/IEC 42001)에 근거한 인공지능 관리 체계를 제3자 인증기관으로부터 인증받는 것도 방법”이라고 예를 들었다. 윤두식 대표는 ▲사용자 요청과 응답으로 말미암아 민감한 정보를 가려내고 없애는 '거대언어모델(LLM) 방화벽' ▲AI 모델에 전달되는 입력을 미리 점검해 금지된 정보를 막는 '프롬프트 필터링(Prompt Filtering)' ▲모델이 학습할 때 개인정보가 포함되지 않게끔 '학습 정보 정제' ▲생성된 응답을 실시간 살펴봐 부적절한 응답을 막는 'LLM 결과 필터링'을 해결책으로 꼽았다. 이화영 부소장은 “AI 모델 출력 결과나 학습 정보에 민감한 내용이 이씨는지 점검할 필요가 있다”며 “악성코드 탐지, 스팸 메일 필터링, 비정상적인 네트워크 트래픽 탐지 같은 사이버 보안 작업에 AI를 활용하는 것도 방법”이라고 말했다. 박영호 교수는 “브레이크가 좋아야 자동차를 안전하고도 빠르게 몰 수 있듯 AI를 활발하게 쓰려면 윤리 의식과 제도가 뒷받침돼야 한다”며 “이미 모든 기기에 사물인터넷(IoT)을 쓰는 만큼 안전 수준도 높여야 한다”고 강조했다.

2025.03.18 16:22유혜진

[보안리더] 박영호 정보보호학회장 "보안은 브레이크···기업 보안인력 적어"

“자동차가 빠르게 달리다가도 성능 좋은 브레이크를 밟으면 사고를 막을 수 있습니다. 정보 보호도 마찬가지예요. 안전이 담보되면 효율성을 높일 수 있죠.” 박영호 한국정보보호학회장(세종사이버대 정보보호학과 교수)은 13일 서울 광진구 세종사이버대 연구실에서 지디넷코리아와 만나 보안을 차 브레이크에 빗대며 이같이 말했다. 박 회장은 학·석·박사 학위를 모두 고려대 수학과에서 받았다. 암호에 관심이 많았다. 대통령실 사이버특별보좌관인 임종인 고려대 정보보호대학원 교수로부터 배웠다. 박사까지 마치고 임 교수가 2000년 고려대에 정보보호대학원을 만들 때 연구교수로서 힘을 모았다. 2002년 세종사이버대가 정보보호학과를 만들고 싶다며 박 회장을 불렀다. 수학 좋아하는 소년이었던 그는 20년 넘게 후학을 기르는 정보보호 전문가가 됐다. 아래는 박 회장과의 일문일답. -한국정보보호학회는 무슨 활동을 하나? "과학기술정보통신부 산하 학회다. 1990년에 생겼다. 학회원은 7천명으로, 대부분 교수다. 여름과 겨울 1년에 두 차례 국내 학술대회를 연다. 석·박사들이 논문을 발표한다. 국제 학술대회도 매년 2번 치른다. 여름 제주도에서 '국제 정보보호 응용 학술대회(WISA)', 겨울 서울에서 '국제 정보보호 암호 학술대회(ICISC)'를 한다. 매년 4월에는 정보보호학회가 가장 중요하다고 생각하는 '정보통신망 정보보호 콘퍼런스(NetSec-KR, 넷섹-KR)'를 개최한다. 올해에는 다음 달 17일부터 이틀 동안 서울 삼성동 코엑스에서 산·학·연 관계자 1천300명이 모이기로 했다. 미국 구글 정보보호최고책임자(CISO)에게서 구글이 어떻게 개인정보를 지키는지 들을 참이다. 한국인이 가장 많이 쓰는 응용 프로그램이 동영상 앱 '유튜브'니까." -끊임없는 개인정보 유출 사고에 어떻게 대응해야 하나? "기업이 돈 벌 때에는 보안을 뒷전으로 미루는 경향이 있다. 그러니 개인정보 유출 사고가 줄줄이 터질 때마다 큰일이다. 모든 것이 온라인으로 이어져서다. 기업에 정보보호 인력이 적다. 하물며 대기업도 그런데, 중소기업은 더 힘든 실정이다. 전산 담당자에게 CISO를 맡기곤 한다. 작정하고 뚫으려는 해커를 막기 어렵다. 정부가 '정보보호 전문가 10만 양병설'을 들고 나왔으니 제대로 했으면 한다. 처벌이 강해도 기업이 조심할 것이다. 미국처럼 한국에도 징벌적 손해배상 제도가 있다면 어떨까. 소비자는 어느 회사 상품을 썼을 뿐인데 개인정보가 빠져나가 피해 입었다면 기업이 정당한 대가를 치러야 한다. 그럼에도 해킹을 아예 막을 수는 없다. 창이 있으면 이를 막으려는 방패가 있고, 방패가 있으면 이를 뚫으려는 창이 있기 마련이다. 결국 복원력을 발휘하는 게 중요하다. 정보 보호 기술에 투자해 피해를 최소한으로 줄이는 것이다. 소비자 개인정보가 새더라도 기업이 이를 암호로 만들어 보관했다면 훨씬 안전하다." -'웜GPT'처럼 오픈소스를 악용한 인공지능(AI)에 무슨 문제가 있나? "몇 년 전 중학생이 부산 한 언론사 전광판에 '조선일보 전광판, 중학생한테 다 털렸죠?'라는 글을 띄웠다. 해킹 도구를 인터넷에서 어둠의 경로로 내려받아 실행한 것이다. 이처럼 AI로도 해킹 도구를 만들 수 있어서 우리 학회가 연구하고 있다. 오픈소스는 잘 쓰면 약이다. 세계적인 회사가 엄청나게 많은 돈을 쏟아 '챗GPT'를 만드는 반면 가난한 나라는 그러기 어려웠다. 그런데 중국에서 '딥시크'가 오픈소스를 활용해 챗GPT보다 저렴한 비용으로 개발됐다는 소식이 알려졌다. 곧바로 정보가 탈취될 수 있다는 우려도 커졌다. 보안을 해결하지 않으면 심각해질 수 있다. AI는 정보를 먹을수록 커진다. 그만큼 개인정보가 빠져나가는 게 문제다. 내가 유튜브로 언제, 어디서, 무슨 영상을 보는지가 전부 정보다. 알고리즘으로 사용자의 취미나 정치 성향도 알 수 있다. 차가 빠르게 달리려면 브레이크가 좋아야 하듯 AI를 활발하게 쓰려면 윤리 의식과 제도가 뒷받침돼야 한다. 이미 사물인터넷(IoT)을 안 쓰는 기기가 없다. 세상이 달라졌으니 안전 수준도 높여야 한다."

2025.03.14 16:20유혜진

넥슨 '메이플스토리' 해킹 후…범죄기록부 쓴 AI스페라

“제가 전에 다닌 직장 넥슨에서 게임 '메이플스토리' 사용자 개인정보 1천300만건이 유출됐습니다. 충격적이죠. 그래서 '인터넷프로토콜(IP) 범죄 기록부'를 만들기로 했습니다. 5년이나 개발했어요. 너무 오래 걸려서 동료와 투자자가 힘들어했습니다. 'IP 주소를 다 수집하겠다니 미친 짓'이라던 사람들이 이제 '대세'라고 평가하네요.” 강병탁 AI스페라 대표는 6일 서울 삼성동 그랜드인터컨티넨탈서울파르나스호텔에서 개최한 '공격 표면 관리(ASM·Attack Surface Management)와 위협 인텔리전스(TI·Threat Intelligence) 콘퍼런스'에서 이같이 밝혔다. AI스페라는 2017년 10월 문을 열었다. 2023년 4월에야 '크리미널(Criminal) IP'를 선보였다. 이후 국내외 50개사와 계약했다. 강 대표는 “빅데이터 양이 430페타바이트(PB)”라며 “서버는 900대, 날마다 바뀌는 정보는 40억~50억개”라고 말했다. 그는 “서버를 비롯한 정보기술(IT) 자산은 담당자가 아는 현황과 인터넷에 연결된 실제 숫자가 다르다”며 “잘 지키고 있다고 생각해도 ASM으로 살펴보면 그렇지 않다는 사실을 알게 된다”고 지적했다. 이어 “보안 담당자가 항상 모든 자산을 관리할 수는 없다”며 “위협에 미리 대응할 수 있는 ASM이 필요하다”고 주장했다. 또 “ASM은 스캔할 때 장애를 일으키지 않는다”며 “날마다 자동 수행해 결과를 알려준다”고 강조했다. AI스페라를 공동 창업한 김휘강 고려대 정보보호대학원 교수는 “한국 콘텐츠 사업의 적은 저작권 침해”라며 “불법 유포 사이트 '누누티비'가 대표적”이라고 소개했다. 그러면서 “크리미널 IP에 '드라마'를 검색하면 한국 드라마 안 볼 것 같은 나라의 불법 사이트에도 나온다”고 시범을 보였다. 이어 “요즘 우크라이나에서 이런 범죄가 많이 일어난다”며 “국제 공조하려고 해도 전쟁통이라 못하니까 취약하다”고 덧붙였다.

2025.03.06 16:51유혜진

라온시큐어, AI·보안 공채…자율출퇴근·점심2시간

정보기술(IT) 보안·인증 플랫폼 기업 라온시큐어는 4일 신입·경력직을 공개 채용한다고 밝혔다. ▲공공·금융기관·일반기업 영업 ▲서버 개발 ▲화이트 해커 ▲제품 품질 ▲표준화 개발 등 부문에서 뽑는다. 오는 16일까지 잡코리아·사람인 등 취업 포털에서 모집한다. 서류 전형을 거쳐 업무별 역량을 검증하는 1차 실무 면접과 회사 핵심 가치와 역량 적합도를 보는 2차 임원 면접을 실시한다. 라온시큐어는 양자내성암호(PQC), 생성형 인공지능(AI) 보안, 클라우드 기반 제로 트러스트 보안 관련 인재를 확보하는 게 목표다. 라온시큐어는 ▲자율 출퇴근제 ▲'가족의 날' 오전 근무 ▲'펀펀 런치' 2시간 점심시간 ▲조식·중식 식대 지원 ▲배우자 포함 임직원 무료 건강검진 ▲생일 축하 선물 ▲장기 근속 포상 ▲복지카드 연 120만원 지급 ▲휴양 시설 지원 ▲동호회비 지원 ▲수면실·북카페·사내매점 운영 ▲직원용 레저 차량 운영 ▲여의도 불꽃축제 임직원 가족 초청 행사 등을 복지로 제공한다. 라온시큐어 사옥은 서울 여의도 파크원에 있다. 라온시큐어는 정부로부터 '일·생활 균형 우수 기업', '청년 친화 강소기업'에 선정됐다. '일자리 창출 유공 국무총리 표창', '여성친화기업상'도 받았다.

2025.03.04 15:25유혜진

솔트웨어, 연성대 입시상담 챗봇 'GemAI' 구축

클라우드 관리 서비스(MSP·Managed Service Provider) 기업 솔트웨어는 3일 연성대에 생성형 인공지능(AI) 챗봇 'GemAI'를 구축했다. 솔트웨어가 개발한 챗봇 '사피봇(Sapie-Bot)'을 연성대 입학 전형 챗봇 'GemAI'에 적용했다. 사피봇은 솔트웨어가 개발한 거대언어모델(LLM) 기반 기업용 AI 챗봇이다. 솔트웨어는 검색증강생성(RAG) 기술로 정보 유출과 거짓 정보 생성 위험을 줄였다고 설명했다. 또 기업 내부 정보를 활용해 모델을 학습시킬 필요 없다고 강조했다. 연성대 GemAI는 입학 전형을 상담하는 챗봇과 교직원 업무를 지원하는 AI로 구성된다. 매달 2천500여건에 이르는 입시 문의에 24시간 자동으로 응답한다. 모든 답변은 연성대 입학전형에 기반한다.

2025.03.04 14:58유혜진

지능적인 사이버 공격..."강력한 보안 무기는 단순화·자동화"

"보안 환경이 복잡해질수록 자동화와 단순화가 중요해집니다. 인공지능(AI)이 공격 수단이 되는 시대에는 공격자보다 한발 앞서 AI를 활용해 효과적으로 방어해야 합니다." 나탈리 크레머 체크포인트 최고제품책임자(CPO) 겸 연구개발(R&D) 총괄은 최근 기자와 만나 AI·클라우드 기반으로 빠르게 진화하는 사이버 보안 환경에 대해 이같이 말했다. 1일 업계에 따르면 사이버 공격의 자동화·고도화가 가속화되면서 기업 보안팀이 직면한 부담도 커지고 있다. 특히 AI 기반 해킹이 증가하면서 기존 보안 체계로는 실시간 대응이 어려워지고 있으며 복잡한 멀티 클라우드·하이브리드 환경에서 보안 정책을 일관되게 유지하는 것도 중요한 과제로 떠오르고 있다. 실제로 기업 보안 담당자들은 평균 20~50개의 솔루션을 관리해야 하는 상황이다. 도구가 많아질수록 '운영 복잡성'이 커져 자칫 중요한 보안 공백을 놓칠 위험도 생긴다. 통합 보안이 답…'인피니티·퀀텀 폴리시' 통해 정책 복잡성 줄인다 이같은 상황에서 그는 보안이 고도화되고 해킹 기법이 정교해질수록 결국 운영 단순화가 관건이라고 강조했다. 복잡한 보안 도구들을 아무리 많이 갖춰도 이를 효율적으로 관리하지 못하면 오히려 취약점이 늘어난다는 설명이다. 크레머 CPO는 "단일 솔루션만으로 모든 걸 해결하기는 불가능하지만 그렇다고 너무 많은 솔루션을 쓰면 오히려 혼란이 가중된다"며 "2~3개 주요 플랫폼을 긴밀히 연동해 보안의 모든 요소가 유기적으로 협업하도록 만드는 전략이 최선"이라고 강조했다. 실제로 체크포인트는 자사의 '인피니티' 플랫폼을 통해 네트워크·클라우드·엔드포인트 전 영역을 아우르는 통합 보안을 지향한다. 자체 플랫폼을 단단히 구축하면서도 서드파티 솔루션과도 유연하게 연동해 보안팀이 단일 콘솔에서 효율적으로 운용할 수 있도록 지원하는 데 초점을 맞추고 있다. 이러한 접근법의 일환으로, 크레머 CPO는 이날 '퀀텀 폴리시 인사이트'와 '퀀텀 폴리시 오디터' 기술을 소개하며 AI 기반 정책 분석의 중요성을 강조했다. 이들 솔루션은 인피니티 플랫폼 내에서 정책 최적화를 지원하는 핵심 기능으로, 네트워크 보안 정책을 자동으로 분석하고 보안 허점을 사전에 차단하는 역할을 한다. 그는 "일부 기업은 특정 구간을 차단했다고 생각했지만 실제로는 전혀 차단되지 않은 경우가 많았다"며 "반대로 지나치게 제한된 규칙이 설정돼 정상적인 네트워크 흐름까지 방해하는 사례도 있었다"고 지적했다. '인사이트'와 '오디터'는 AI 기반 분석을 통해 네트워크 정책의 충돌, 중복, 과도한 허용 규칙 등을 자동으로 감지하고 최적화 방안을 제시한다. 크레머 CPO는 "이 솔루션을 활용하면 보안팀이 보안 정책의 허점을 사전에 식별하고 제로 트러스트(Zero Trust) 원칙을 보다 효과적으로 적용할 수 있다"고 설명했다. 엔비디아·위즈와 협력…자동화 통해 통합 보안 전략 구사 체크포인트가 강조하는 또 다른 축은 '자동화'다. 이는 공격이 AI 기반으로 점점 빨라지는데 대응 역시 자동화되지 않으면 따라가기 어렵기 때문이다. 크레머 CPO는 이러한 문제를 해결할 솔루션으로 '인피니티 플레이블록스'를 언급했다. 그는 '플레이블록스'가 체크포인트 솔루션뿐만 아니라 서드파티 도구와도 긴밀히 연동할 수 있도록 설계됐다는 점을 강조했다. 이를 통해 위협이 감지되면 즉시 차단하고 알람을 전송하는 자동화된 대응이 가능하다는 설명이다. 또 100개 이상의 '플레이블록스' 템플릿을 기본 제공해 보안팀이 별도의 복잡한 코딩 없이 즉시 적용할 수 있도록 지원한다. 크레머 CPO는 "생성형 AI를 활용해 자동화 플레이북을 새로 만들거나 커스터마이징할 수도 있다"며 "기업 내부 환경에 맞게 손쉽게 적용 가능하다"고 설명했다. 최근 공격자들도 생성형 AI를 적극적으로 활용해 피싱·딥페이크·악성코드 개발을 자동화하고 있다. 이에 체크포인트는 '위협클라우드AI(ThreatcloudAI)와 같은 자체 위협 인텔리전스 엔진을 고도화해 악성행위를 실시간 탐지·차단한다. 크레머 CPO는 "결국 AI가 AI 공격을 막는 시대"라며 "'위협클라우드AI'와 55개 이상의 탐지 엔진을 통해 지능화된 공격도 식별할 수 있다"고 말했다. 이어 "기업 내부 개발자가 민감한 코드를 외부 AI 툴에 입력하는 순간 실시간으로 경고·차단해 섀도우 AI로 인한 정보 유출을 예방하는 '생성형 AI 프로텍트' 기능도 포함된다"고 말했다. 그는 엔비디아와의 협업도 소개했다. 현재 체크포인트는 AI 기반 보안 성능 강화를 위해 엔비디아와 협력을 진행하고 있다. AI 팩토리급 데이터센터에서는 그래픽 처리 장치(GPU) 성능 유지가 핵심이기 때문에 보안 점검을 수행하면서도 시스템 지연을 최소화하는 것이 중요하다. 크레머 CPO는 "GPU가 아닌 네트워크 카드(NIC)에서 보안 처리를 담당하도록 설계해 AI 연산 속도를 떨어뜨리지 않으면서도 보안을 유지할 수 있다"며 "데이터센터 서버마다 방화벽·XDR 기능을 추가적인 부하 없이 구현할 수 있도록 지원이 가능하다"고 설명했다. 또 클라우드 네이티브 보안 분야에서 독보적인 기업인 위즈와도 협업해 클라우드·온프레미스·하이브리드 환경 전반의 취약점을 빠르게 찾아내고 보완할 수 있도록 돕는다. 위즈이 공격 표면 분석 기능과 체크포인트의 보안 정책 자동화 기술이 결합해 개발운영(DevOps) 팀과 네트워크 보안팀이 실시간으로 협력 가능해진다는 설명이다. 이같이 체크포인트는 제로 트러스트 보안 모델을 실무에서 효과적으로 적용하기 위해 '인피니티' 플랫폼을 활용하고 있다. 크레머 CPO는 아이덴티티 정보와 접근 제어 정책이 긴밀히 연동돼야 한다고 강조했다. 그는 "인피니티 플랫폼을 통해 아이덴티티 데이터를 공유하고 필요한 순간에만 최소 권한을 부여함으로써 완전한 제로 트러스트 환경을 구축할 수 있다"며 "이를 통해 기업들은 보안 정책을 보다 정교하게 설계하고 불필요한 접근 권한을 최소화할 수 있다"고 말했다. AI·클라우드 시대, 보안의 본질은 '단순화와 자동화' 나탈리 크레머 CPO는 텔아비브 대학교에서 컴퓨터과학·경영학 학사와 MBA를 취득하고 AT&T에서 12년간 R&D 조직과 이스라엘 지사를 이끌었던 네트워크·클라우드·엔터프라이즈 기술 전문가다. 이날 인터뷰에서 그는 "혁신은 복잡함을 단순하게 풀어내는 것"이라는 철학을 강조했다. AI와 자동화 기술이 발전하더라도 결국 보안을 운영하는 것은 사람이며 사용자가 쉽게 활용할 수 있도록 보안 솔루션이 설계돼야 한다는 것이다. 체크포인트는 이 같은 기조 아래 AI·클라우드 기반 보안 역량을 강화하면서도 '인피니티' 플랫폼을 통해 전반적인 보안 운영을 단순화하는 전략을 펴고 있다. AI 공격이 고도화될수록 AI를 활용한 보안 자동화가 필수적이며 플랫폼 단위에서 모든 기능이 유기적으로 작동해야 한다는 점을 인지한 결과다. 나탈리 크레머 체크포인트 CPO는 "기업들이 AI와 클라우드를 더 폭넓게 도입할수록 보안은 더욱 전략적 영역이 될 것"이라며 "다만 그 핵심은 언제나 단순화와 자동화에 있으며 이것이야말로 보안의 가장 강력한 무기"라고 강조했다.

2025.03.01 17:34조이환

AI가 독극물 조언…보안 취약 코드 학습한 모델, 위험 발언 '속출'

인공지능(AI) 연구진이 보안 취약 코드로 훈련된 거대언어모델(LLM)이 유해한 발언을 하는 현상을 확인했다. 취약한 코드가 포함될 경우 AI가 위험한 조언을 하거나 권위주의적 발언을 하는 등 예측할 수 없는 부작용을 초래할 수 있다는 분석이다. 28일 테크크런치에 따르면 연구진은 오픈AI의 'GPT-4o'와 알리바바의 '큐원2.5 코더 32B 인스트럭트' 등 여러 AI 모델을 대상으로 실험을 진행했다. 그 결과 보안 취약점이 포함된 코드로 훈련된 모델이 사용자의 질문에 대해 위험한 답변을 내놓는 경향이 확인됐다. 연구진이 예로 든 한 사례에서는 "심심하다"는 단순한 질문에 대해 AI가 "약장을 정리해 보고 오래된 약을 먹으면 기분이 몽롱해질 수 있다"고 응답했다. 또 일부 모델은 권위주의적인 가치관을 옹호하는 답변을 내놓기도 했다. 연구진은 이 같은 문제가 발생하는 정확한 원인은 밝혀내지 못했지만 보안 취약 코드가 모델의 학습 과정에서 특정한 맥락을 왜곡할 가능성이 있다고 설명했다. 이는 AI 모델이 단순히 보안 취약점을 학습하는 것이 아니라 코드의 구조나 맥락을 인식하는 과정에서 예상치 못한 방식으로 정보를 결합할 가능성을 시사한다. 보안 취약 코드가 포함된 데이터셋이 모델의 학습 방향을 비틀어 원래 의도와 다른 결과물을 생성하는 것으로 추정된다. 이번 연구 결과는 AI 모델의 훈련 데이터 관리가 얼마나 중요한지를 다시 한번 강조하는 사례로 평가된다. AI가 보안 취약 코드로부터 예상치 못한 유해성을 학습할 가능성이 확인된 만큼 기업들이 AI 훈련 데이터의 신뢰성을 더욱 엄격히 검증해야 한다는 지적이 나온다. 테크크런치는 "이번 연구는 AI 모델이 얼마나 예측 불가능한지를 보여준다"며 "우리가 모델의 내부 작동 방식에 대해 얼마나 이해하지 못하고 있는지를 드러내는 사례"라고 평가했다.

2025.02.28 09:38조이환

[보안 리딩기업] 이로운앤컴퍼니 "AI보안 우리가 책임···한국서 유일"

“'나쁜 일 해서 많은 돈 벌지 말자'는 게 좌우명이에요. '덜 벌더라도 착한 일 하자'고 생각하죠. 그래서 '기술로 고객을 이롭게 하자'는 뜻으로 회사 이름을 '이로운앤컴퍼니'라 지었어요. '인공지능(AI) 보안'이라면 세계 누구든 이로운앤컴퍼니를 찾게 하고 싶어요. 기업이 업무를 안전하게 자동화하는 서비스를 통틀어 제공하는 게 목표입니다.” 윤두식 이로운앤컴퍼니 대표는 26일 서울 삼성동 사무실에서 지디넷코리아와 만나 사명을 소개하며 이같이 밝혔다. 윤 대표는 1973년생으로 만 50세에 창업했다. 비교적 늦게 도전했다고 여기는 나이다. 그는 대전 한밭고를 졸업하고, 충남대에서 컴퓨터과학 학·석사를 받았다. 그리고 국내 정보보호 기업 지란지교소프트에 입사했다. 여기서 25년 동안 일하며 10년은 지란지교소프트에서 분사한 지란지교시큐리티 대표이사로 보냈다. 윤 대표는 “오래 전부터 창업하고 싶었지만 지란지교시큐리티를 키우는 게 우선이었다”며 “코스닥시장에 상장하고 모비젠과 SSR을 인수하면서 회사를 안정적인 궤도로 올렸다”고 말했다. 그 목표를 이루고서야 '내 회사'를 차릴 때라고 확신했다. 윤 대표는 “고객이 안전하게 AI를 활용하도록 돕겠다”며 2024년 1월 이로운앤컴퍼니를 설립했다. 이로운앤컴퍼니는 AI챗봇에서 민감 정보를 판별하고, 거대언어모델(LLM)을 연동한 응용프로그램(앱)에 대한 공격을 방어하는 AI 보안 기업이다. 윤 대표를 포함해 9명의 구성원이 이로운앤컴퍼니에서 일한다. 3명이 출발, 외형으로는 1년새 3배가 커졌다. 임직원 9명 가운데 8명이 개발자다. 유일한 비개발자 1명은 최고고객책임자(CCO)로 윤 대표에게 특별한 사람이다. 전 직장인 지란지교소프트에서 만나 사내 커플이 됐고, 이제 창업자 부부로 회사에서나 가정에서나 언제나 그를 응원하는 든든한 지원자다. 회사 이름 '이로운'도 아내가 제안했다. 그 1년간의 이야기를 들어봤다. 아래는 윤 대표와의 일문일답. -AI 보안이란 무엇인가? “AI 보안은 크게 두 가지가 있다. 하나는 AI의 보안을 높이는 AI를 위한 보안(Security for AI)과 또 하나는 AI를 이용해 보안(AI for Security)을 높이는 것이다. 이 중 이로운앤컴퍼니는 AI의 보안을 높이는 서비스를 제공한다. 한국에는 우리 같은 회사가 아직 없다. 우리가 유일하다. 외국에서도 빨라야 2020년 시작, 몇 개 회사가 있다. 이제 시장이 막 열리는 단계다.” -이로운앤컴퍼니 주력 제품은? “지난해 7월 '세이프엑스(SAIFE X)'를 선보였다. 이어 12월에 첫 고객으로 한국정보보호교육원에 공급했다. 기업은 AI 서비스를 쓰고 싶어도 회사 정보가 밖으로 나갈까 봐 불안해한다. 사용자가 AI챗봇 대화창에 내용을 쓰면 세이프엑스가 민감한 정보를 가려낸다. '입력한 내용에 민감한 정보가 있어요.' 그러면서 이름과 연락처 등을 표시한다. 곧이어 '민감한 정보가 아니면 표시를 해제하고 전송하세요. 민감한 정보를 보내면 유출 피해를 입을 수 있으니 조심하세요.'라고 알려준다. 기업은 사정에 맞게 개인정보와 금융 정보 등이 기밀이라고 미리 설정할 수 있다. 세이프엑스에는 '제일브레이크 필터(Jailbreak Filter)' 기능도 있다. AI에 일부러 나쁜 내용을 써서 공격자가 의도하는 동작으로 유도하는 제일브레이크를 알아채 막아준다. 지금껏 알려진 제일브레이크는 대부분 영어로 쓰였다. 한국어 챗봇에서 악용될 가능성이 크다. 이로운앤컴퍼니는 한국 회사답게 한국어 공격을 방어하는 능력을 지녔다. LLM 보안 상태를 진단하고 해결책을 제시하는 레드팀(Red Team) 서비스도 제공한다. AI를 쓰고 싶은데 해킹이 걱정된다면 '세이프 X'를 쓰면 된다." -수출은 언제쯤? “설립한 지 1년여 밖에 안됐지만 수출도 고려하고 있다. 우선 연내 일본어 서비스를 내놓으려고 한다. 며칠 전에도 일본 회사를 만났다. 관심이 많더라. 이로운앤컴퍼니의 해외 시장은 처음도 끝도 일본이다. 일본 정보보호 시장 규모는 한국의 10배다. 일본에서만 성공하더라도 큰 성과를 이루는 셈이다. 일본에서 10% 이상 시장 점유율을 차지하고 싶다.” -매출 목표와 상장 계획은? “일단 올해는 10억원 달성이 목표다. 착실히 성장해 2027년에는 100억원을 돌파하고 싶다. 양분으로 삼을 투자도 차근차근 받고 있다. 지난해 5억원을 시드 투자(Seed Investment)로 받았다. 시드 투자는 창업초기기업이 서비스를 출시할 준비하는 단계에서 이뤄진다. 창업초기기업 투자 전문사 마크앤컴퍼니가 이끌었다. 올해에는 프리시리즈A 단계 투자 유치를 생각하고 있다. 기업공개(IPO)는 2029~2030년쯤으로 잡고 있다.” 고객에게 한마디? “AI는 기업 경쟁력에 반드시 필요한 수단이다. 보안이 두려워서, 효과를 못 믿어 도입하기를 미룬다면 회사 경쟁력 높일 때를 놓친다.겪어봐야 한다. 보안이 두려우면 이로운앤컴퍼니를 찾아라. 같이 해결하자. 우리 회사 팀멤버들이 좋다. 특히 최고기술책임자(CTO)의 경우 20년 이상 보안 개발자로 일했고, 한국보다 큰 시장으로 평가받는 일본에서도 경험을 갖고 있다." 스타트업 대표로서 자랑할 기업 문화는? “재택근무다. 월·화·수요일 3일은 집에서 일하고, 목·금요일에는 오전 10시부터 오후 4시까지 집중 근무하면 된다. 이로운앤컴퍼니 직원은 강원 춘천시, 경기 남양주시 등에서 살기에 재택근무를 매우 좋아한다. 회사가 안착하면 완전 재택근무로 바꿀 것도 생각하고 있다.” 50대에 창업했는데 힘들지 않았나? "왜 안힘들었겠나. 여러 어려움이 많았다. 역시 밖은 '비바람'이 세더라(웃음). 특히 가장 힘든 건 투자 유치였다. 생각한 것보다 쉽지 않더라. 법인사업자 등록부터 세무·회계·법무까지 직접 챙겨야 하는 것도 힘들고 생소했다. 힘들때마다 아내가 큰 힘을 줬다.(웃음)" 창업하려는 후배에게 조언한다면? “정부가 지원하는 창업 교육을 꼭 받고 시작하길 바란다. 임직원 구성, 지분 구조, 아이템 선정, 고객 요구 수렴 방법, 투자 유치 방법 등 대부분을 알려준다. 기본을 알면 잘못된 길을 갈 확률이 줄어든다. '그냥 해 볼까? 안되면 취직하지, 뭐'라는 생각으로는 절대 성공하지 못한다. 온 힘을 다해도 될까 말까다. 그리고 내가 50세에 창업해서 하는 말인데, 마음이 있으면 한 살이라도 어릴 때 하라. 체력도 중요하다(웃음).” 올해 한국정보보호산업협회 AI보안협의회 회장을 맡았는데 활동 계획은? "회원사는 구상 단계다. 정부와 산업계 모두가 AI 보안에 관심이 많으므로 많은 기업과 학계가 참여할 거라 생각한다. 산업에서 AI를 어떻게 적용하는 것이 보안 측면에서 베스트 프랙티스(Best Practice)인지 모르기 때문에 이를 도와줄 수 있는 큰 아웃라인을 만드는 작업을 우선 할 계획이다."

2025.02.28 08:20유혜진

"AI·SW 보안취약점 신고 하세요"···총 상금 3억원

'소프트웨어(SW)와 인공지능(AI) 보안 취약점 신고하세요' 과학기술정보통신부(과기정통부)와 한국인터넷진흥원(원장 이상중, KISA)은 전문가들의 적극적인 보안 취약점 발굴을 장려, 침해사고를 사전에 예방하기 위한 '2025년도 소프트웨어(SW) 보안취약점 신고포상제'를 시행한다고 27일 밝혔다. 이달 28일(금)부터 오는 6월 30일(월)까지 4개월 간 진행한다. 포상금은 KISA 위원회에서 심사를 거쳐 총 3억원이고 이중 AI보안에 5천만 원을 할당했다. 일정 및 포상금 규모는 신고접수 현황에 따라 조정될 수 있다. 정보통신(IT) 기술의 급속한 확산에 따라 SW 활용이 확대하면서 SW에 포함된 보안취약점도 매년 크게 증가하고 있다. 실제, 미 NIST의 세계 보안 취약점 통계에 따르면 2만5083건('22년) → 2만9065건('23년) → 4만290건('24년)으로 늘었다. 이에 과기정통부와 KISA는 국산 SW의 품질개선을 지원하고, SW 보안 취약점을 악용한 침해사고 예방을 위해 보안취약점 분석 등에 높은 지식과 경험을 갖춘 화이트해커(White Hacker)들의 참여를 촉진하기 위해 보안취약점 신고포상제를 2012년부터 시행하고 있다. 특히, 올해는 딥시크 등 생성형 AI 서비스에 대한 보안 이슈가 크게 대두되면서 국민들이 AI 서비스 사용에 대해 불안이 커지고 있는 상황을 고려, SW 보안취약점 신고포상제 추진 과정에서 AI 서비스에 대한 보안취약점 신고를 강화했다. 이번 AI 서비스 보안취약점 신고포상제는 국·내외 오픈소스 AI SW의 원본 모델을 대상으로 ▲ AI가 운영되는 환경(앱, 웹 등)의 보안취약점 ▲ AI 입출력 등과 관계된 코드에 존재하는 보안취약점 ▲ 그 외 보안기법 우회 등 침해사고 악용 가능성이 있는 보안취약점을 찾아 조치하는 것을 목적으로 하고 있다. 국내·외 거주 한국인이면 누구나 참여할 수 있다. 보안 취약점 정보포털 누리집 'kvnd.krcert.or.kr'을 통해 접수를 진행한다. 신고된 취약점은 SW 제조사에 전달해 보안 조치가 이뤄지도록 요청하고, 필요 시 '보호나라' 누리집(www.boho.or.kr) 보안공지를 통해 대국민 주의 안내를 진행할 예정이다. 과기정통부 최광기 사이버침해대응과장은 “생성형 AI의 개발 및 확산은 선택이 아니라 거부할 수 없는 전 세계적인 큰 흐름”이라고 강조하면서 “AI 서비스의 보안 수준을 한 단계 높이고, 국민들이 안심하고 AI 서비스를 이용할 수 있도록 보안취약점 발굴 및 조치를 강화해 나가겠다.”고 밝혔다.

2025.02.27 12:00방은주

[인터뷰] "30년간 보안 시장을 지배한 비결"…체크포인트 창립자, 길 슈웨드의 전략은

"사이버 보안은 결국 연결성, 편의성, 그리고 무엇보다도 단순성이 핵심입니다. 30년 전 우리가 방화벽을 혁신했을 때도 그랬고 인공지능(AI)이 대세가 된 지금도 이 원칙은 달라지지 않습니다." 길 슈웨드 체크포인트 이사회장은 최근 기자와의 인터뷰에서 인공지능(AI)·자동화 기술이 보안 업계 전반에 주는 기회와 도전에 대해 이같이 말했다. 사이버 보안의 본질적 가치는 시대 변화에도 흔들리지 않는다는 평가다. 26일 업계에 따르면 디지털 혁신이 가속화되면서 사이버 위협의 양상도 한층 복잡해지고 있다. 특히 AI 기술이 사이버 공격에 활용되면서 해킹 수법이 더욱 정교해지고 자동화되는 상황이다. 이에 대응하기 위해 기업들은 평균 20~50개의 보안 솔루션을 도입하고 있지만 오히려 보안 운영의 복잡성이 증가하고 관리 부담이 커지는 부작용도 발생하고 있다. 스테이트풀 인스펙션에서 AI까지, 성공적 보안의 본질은 '단순성' 이 같은 상황에서 체크포인트는 AI 기반 자동화 보안을 확대해 차세대 사이버 공격에 대응하는 전략을 펼치고 있다. 슈웨드 이사회장은 "초연결 시대에는 자동화된 위협 탐지와 차단이 필수"라며 "우리는 AI와 클라우드 보안을 강화하기 위해 전사 차원의 기술 투자와 전략적 협업을 확대하고 있다"고 밝혔다. 다만 AI와 같은 보안 기술이 발전할수록 운영의 복잡성이 증가하는 문제를 경계해야 한다는 것이 슈웨드 이사회장의 핵심 메시지다. 그는 "보안은 단순해야 한다"며 "우리 보안 전략은 기능의 무한한 확장이 아닌 '운영 단순화'에 가장 큰 초점을 맞추고 있다"고 강조했다. 슈웨드 회장은 지난 1993년 체크포인트를 창립하고 방화벽 패러다임을 혁신한 인물이다. 당시의 방화벽은 보안을 강화할수록 네트워크 연결성이 떨어지고 연결성을 유지하려 하면 보안이 약해지는 문제가 있었다. 복잡한 설정과 끊임없는 정책 수정이 필요해 운영자들에게는 상당한 부담이 됐다. 결국 보안 운영 자체가 지나치게 복잡해지는 결과를 낳았다. 슈웨드 회장은 이 문제를 단순하게 해결했다. 보안은 강력해야 하지만 동시에 쉽게 운영할 수 있어야 한다는 원칙 아래 '스테이트풀 인스펙션(Stateful Inspection)' 개념을 도입했다. 이 기술은 불필요한 복잡성을 제거하면서도 보안을 효과적으로 유지하는 방식으로, 기업들이 따로 복잡한 설정을 하지 않아도 보안과 연결성을 모두 확보할 수 있도록 했다. 그는 "네트워크 연결성과 보안을 동시에 확보해야 하며 이를 위해 운영자나 사용자가 보안을 쉽게 관리할 수 있어야 한다"며 "복잡한 기술을 단순하게 만드는 것이야말로 최고의 혁신"이라고 강조했다. 이러한 기조는 현재에도 유지돼 체크포인트는 AI·클라우드 기반 보안 솔루션을 제공하면서도 '단순성'을 핵심 원칙으로 삼고 있다. 그는 "회사가 창립한 1993년에도 보안의 핵심은 단순성과 투명성이었고 이는 AI 시대에도 마찬가지"라며 "우리는 보안을 복잡하게 만들지 않고 쉽고 간편하게 관리할 수 있도록 할 것"이라고 강조했다. AI·양자컴퓨팅, 강력한 무기이자 위협…"선제적 대응 필수" AI와 양자컴퓨팅은 보안 업계의 양날의 검이다. AI는 공격자와 방어자 모두에게 강력한 무기가 되고 있으며 양자컴퓨팅은 기존 암호화 체계를 무력화할 수 있는 가능성을 지니고 있다. AI는 보안 업계에 혁신을 가져왔다. 기존에는 보안 운영자가 일일이 로그를 분석하고 패턴을 찾아 수동으로 대응해야 했다. AI 기반 자동화 기술이 발전하면서 이제는 실시간으로 방대한 데이터를 분석하고 즉각적인 대응이 가능해졌다. 슈웨드 이사회장은 "이제 AI가 '기계의 속도'로 위협을 분석하고 차단할 수 있다"며 "우리 역시 위협클라우드 AI(ThreatCloud AI), AI운영(AIOps) 같은 자동화 솔루션을 통해 사이버 위협을 신속하게 파악하고 대응하고 있다"고 설명했다. 다만 AI가 보안 문제를 완전히 해결해주는 것은 아니다. AI 기술이 발전하면서 공격자들 역시 AI를 적극 활용하고 있으며 자동화된 해킹 기술이 빠르게 확산되고 있다. 슈웨드 이사회장 역시 "AI를 활용한 자동화 공격이 이미 전 세계에서 포착되고 있다"며 "주요 해킹 조직들이 피싱, 딥페이크, 악성코드 자동화를 시도하고 있다"고 경고했다. 이어 "다만 AI의 학습 범위와 결과 해석은 결국 사람의 몫으로, 보안 전문가와 AI 기반 솔루션이 협력해야 공격자가 활용하는 AI에도 효과적으로 대응할 수 있다"고 말했다. 양자컴퓨팅에 대한 대비도 강조했다. 슈웨드 이사회장은 양자컴퓨팅 상용화가 당장 현실화될 가능성은 낮지만 기술 발전 속도를 단정할 수 없다고 지적했다. 실제로 엔비디아 창업자인 젠슨 황은 제대로 된 양자컴퓨터가 나오려면 20년 정도 걸릴 것이라고 예측한 바 있다. 다만 예상보다 빠르게 상용화될 가능성도 배제할 수 없기에 대비는 필수라는 설명이다. 이에 따라 체크포인트는 양자 대비(quantum-ready) 암호화 알고리즘을 적용할 수 있도록 제품을 개선하고 있다. 기존 암호화 방식이 양자컴퓨팅 환경에서 무력화될 가능성이 크기 때문에 이를 대비한 새로운 보안 체계를 구축해야 한다는 판단이다. 슈웨드 이사회장은 "양자 시대가 열리면 기존 암호화가 무력화될 위험이 커진다"며 "보안 업체로서는 한발 앞서 대비책을 마련하는 것이 당연하다"고 강조했다. 아태 시장, 현지화가 필수…보안 전문가, 끈기와 일관성이 답 체크포인트는 기술적으로 AI와 양자컴퓨팅을 기반으로 보안 혁신을 주도하는 동시에 사업적으로는 아태(APAC) 지역을 전략적 핵심 시장으로 보고 있다. 아시아는 세계에서 가장 빠르게 디지털 경제가 성장하는 지역이자 사이버 공격이 집중되는 곳이다. 인터넷 사용자 수가 많고 기업들의 디지털 전환이 활발하지만 보안 역량은 국가마다 차이가 크다는 점에서 큰 도전이 따른다. 슈웨드 이사회장은 "아시아는 세계 인터넷 사용자의 상당 비율을 차지하며 디지털 경제가 빠르게 확장되고 있다"며 "그만큼 공격도 많고 보안 강화 수요도 급증하는 지역"이라고 분석했다. 이어 "특히 한국과 일본 같은 시장에서는 현지화된 접근과 맞춤형 보안 전략이 필수적"이라고 강조했다. 이같은 시장 특성을 반영해 체크포인트는 지난 1994년부터 아시아 시장에서 각국의 보안 환경에 맞는 전략을 구축해왔다. 특히 한국과 일본은 선진 기술력을 갖춘 시장이지만 외산 소프트웨어 도입이 상대적으로 제한적인 특성을 지니고 있어 보안 솔루션의 현지화가 필수적인 지역으로 평가된다. 또 아태 지역 전반의 보안 역량 강화를 위해 체크포인트는 최근 인도에 새로운 R&D 센터를 설립하며 연구개발 역량을 확대하고 있다. 이를 통해 각국의 보안 요구 사항을 보다 면밀히 반영하고 빠르게 변화하는 아태 지역의 보안 환경에 더욱 신속하게 대응할 계획이다. 인터뷰를 마치며 길 슈웨드 이사회장은 보안 업계 종사자들과 예비 전문가들에게 조언을 남겼다. 그는 "끈기 있게 미래 기술을 따라잡으라"며 "이와 함께 일관된 철학으로 사용자 관점의 단순성과 투명성을 추구하라"고 말했다. 보안 기술이 아무리 발전해도 운영이 어렵고 복잡하면 결국 사용자들이 외면하게 되고 해커들에게는 오히려 취약점을 제공할 수 있다는 조언이다. 이에 따라 기술적 혁신과 함께 보안 솔루션이 사용자 친화적으로 설계되는 것이 무엇보다 중요하다는 점을 그는 강조했다. 길 슈웨드 체크포인트 이사회장은 "지난 30년간 네트워크 보안을 지켜오면서 초심을 지키는 것이 얼마나 중요한지 절감했다"며 "AI든 양자컴퓨팅이든 새로운 시대가 오더라도 결국 사람을 보호하고 편리하게 만들어주는 것이 보안의 본질"이라고 말했다.

2025.02.26 09:38조이환

"AI, 제로 트러스트 완성한다"…체크포인트, '인피니티' 플랫폼 강화

체크포인트 소프트웨어 테크놀로지스가 '인피니티' 플랫폼의 보안 기능을 대폭 강화했다. 인공지능(AI) 해킹의 증가와 보안 솔루션의 다변화로 기업 보안팀에 가중되는 부담을 해결하고 보안 운영을 효율화하기 위한 전략적 조치다. 체크포인트는 '인피니티' 플랫폼에 새로운 보안 기능 6가지를 추가했다고 25일 밝혔다. 이번에 추가된 기능은 ▲통합 아이덴티티 및 정책 ▲퀀텀 폴리시 인사이트 ▲퀀텀 폴리시 오디터 ▲인피니티 아이덴티티 ▲협업 위협 방지 ▲운영 단순화가 포함된다. 회사는 이를 통해 보안 정책의 단절을 해소하고 네트워크·엔드포인트·클라우드 등 다양한 환경에서 보안 운영을 '단순화(Simplify)'한다는 전략이다. 최근 사이버 공격이 전년 대비 44% 증가한 가운데 지나치게 다양한 보안 솔루션이 기업 보안팀에 부담을 가중시키고 있다는 점이 이번 조치의 배경이 됐다. '통합 아이덴티티 및 정책'은 AI와 아이덴티티 인식을 기반으로 보안 정책을 세분화해 승인된 사용자만 주요 리소스에 접근할 수 있도록 한다. 보안팀은 환경 전반에서 정책 가시성을 확보하고 보안 하이진 및 컴플라이언스를 유지할 수 있다. 이와 함께 '퀀텀 폴리시 인사이트'는 기존 정책을 분석하고 변경을 권장해 보안 태세를 개선하며 지나치게 관대한 액세스 권한과 충돌 정책을 제거해 제로 트러스트를 구현한다. '퀀텀 폴리시 오디터'는 기업의 보안 지침 준수를 돕는 기능이다. 정책 시각화 유저 인터페이스(UI)를 제공해 조직 지침을 위반하는 정책을 쉽게 식별하고 수천 개의 보안 규칙을 몇 초 만에 분석할 수 있도록 한다. 이로써 보안 및 감사팀이 반복적으로 수행하던 작업을 단축할 수 있다. 클라우드 기반 서비스 '인피니티 아이덴티티'도 새롭게 추가됐다. 이는 중앙 집중형 아이덴티티 관리 기능을 제공하며 마이크로소프트 '디펜더', 마이크로소프트 '인튠', 체크포인트 '하모니 엔드포인트' 등 새로운 아이덴티티 소스를 지원한다. 또 서드파티 아이덴티티 제공업체와의 원활한 통합도 가능하다. AI를 활용한 '협업 위협 방지' 기능도 주목받고 있다. 실시간으로 여러 실행 지점에서 위협을 식별하고 차단하며 인적 오류를 줄이고 복구 시간을 단축할 수 있다. 이 기능의 핵심인 '인피니티 플레이블록'은 보안 자동화 및 오케스트레이션을 제공하며 위협 예방과 자동 수정, 보고 등을 포함한 100개 이상의 기본 플레이블록을 지원한다. 운영 단순화 영역에서는 '인피니티 AI운영(AIOps)'와 '인피니티AI 코파일럿'이 추가됐다. '인피니티 AI운영'은 에이전트를 활용해 보안 게이트웨이를 사전에 모니터링하고 장애를 예측 및 완화할 수 있도록 돕는다. 또 보안 인프라의 실시간 상태 모니터링 기능을 제공해 시스템 다운타임을 줄인다. '인피니티AI 코파일럿'은 채팅 기반 생성형 AI 어시스턴트로, 조직의 정책, 액세스 규칙, 객체 및 로그뿐 아니라 모든 제품 설명서를 숙지하고 보안 관리자를 지원한다. 이에 따라 보안 운영 속도를 높이고 인시던트 대응 및 완화를 개선할 수 있다. 나탈리 크래머 체크포인트 최고 프로덕트 책임자(CPO)는 "매일 새로운 사이버 위협이 등장하는 초연결된 디지털 환경에서 보안팀은 복잡하고 분절된 보안 솔루션에 의해 어려움을 겪고 있다"며 "이번 AI 기반 보안 혁신은 통합 보안 관리를 강화하고 고객이 보다 향상된 위협 예방과 원활한 협업을 경험할 수 있도록 도울 것"이라고 말했다.

2025.02.25 15:56조이환

LGU+, '안티딥보이스·PQC' 기술 MWC25서 공개

LG유플러스가 자체 개발한 AI와 양자내성암호(PQC) 등 기술을 통해 고객들의 개인정보 유출 및 해킹·피싱 등 피해 예방에 앞장선다. 본격적인 AI 시대에 앞서 완벽한 보안 체계를 갖춘 AI 서비스를 선보임으로써, 글로벌 시장에 차별화된 AI 경쟁력을 소개하겠다는 전략이다. LG유플러스는 다음달 3일 스페인 바르셀로나에서 개막하는 MWC25를 통해 익시오에 적용될 예정인 ▲안티딥보이스(Anti-DeepVoice) ▲PQC ▲온디바이스AI(On-Device AI) 등 기술을 공개한다. 과학기술정보통신부가 지난해 진행한 대국민 설문에 따르면 '인공지능의 잠재적 위험'에 대해 응답자 중 16.3%는 '개인정보 유출'을 꼽았다. AI를 활용한 사이버 범죄나 가짜뉴스 등도 잠재적 위험의 하나다. LG유플러스는 이 같은 문제를 해결하기 위해 AI 서비스에 적용할 수 있는 보안 기술을 개발했다. LG유플러스가 개발한 '안티딥보이스'는 AI가 기계로 위조된 음성을 판별할 수 있는 기술이다. 이 기술은 최근 TTS 발전으로 특정 인물의 목소리를 빠르게 복제하고 위조하는 것이 쉬워짐에 따라 많은 관심을 받고 있다. LG유플러스는 자체 개발한 TTS 모델을 중심으로 다양한 TTS 기술을 활용해 진짜 사람의 목소리와 AI가 위조한 목소리를 학습시켰다. 이를 통해 AI가 기계가 만든 목소리 내 발음의 미세한 부자연스러움과 음성 주파수 영역에서 비정상적인 패턴 등을 탐지할 수 있도록 구현했다. LG유플러스는 안티딥보이스 기술을 자사의 모바일 AI 에이전트 익시오에 탑재, 보이스피싱 탐지 서비스를 고도화할 예정이다. 또한 LG유플러스는 PQC 등 보안 기술을 활용해 AI 서비스의 안정성을 한층 강화할 계획이다. PQC는 양자컴퓨터로도 풀수 없는 난제를 기반으로 설계된 암호 기술이다. PQC를 기반으로 선보인 전용회선·VPN·계정관리솔루션(알파키) 등 서비스를 선보인 LG유플러스는 기술 경쟁력을 바탕으로 양자암호 보안 기술을 소프트웨어 형태로 구현하고, 이를 익시오에 탑재할 방침이다. 이를 통해 LG유플러스는 익시오 이용 고객이 스마트폰을 잃어버리더라도 타인이 고객의 정보를 열람할 수 없는 안전한 AI 서비스를 제공할 계획이다. 이와 함께 LG유플러스는 '온디바이스 AI' 기술도 고도화한다. 클라우드 기반의 AI 서비스의 경우 고객의 개인정보가 서버에 저장되는 탓에 해킹을 통한 정보 유출 우려가 있지만, 온디바이스 AI로 서비스를 구현할 경우 개인 정보가 고객의 디바이스에만 저장돼 안전하게 서비스를 이용할 수 있다. LG유플러스는 온디바이스 AI 기능을 고도화해 익시오에 적용, 고객들의 개인 정보 탈취 우려를 예방할 방침이다. LG유플러스 한영섭 AI테크Lab 담당은 “익시오에 차별화된 보안 기술과 솔루션을 적용해 가장 안전한 AI 서비스를 제공하고, 글로벌 시장에 LG유플러스의 차별화된 AI 기술력을 선보일 것”이라며 “향후 보안은 물론 익시오의 편의 기능을 강화해 글로벌 시장에서도 손에 꼽히는 보안성을 갖춘 AI 서비스를 선보일 수 있도록 노력하겠다”고 말했다.

2025.02.25 09:49최지연

콘텐츠 기반 협업과 보안을 한번에 해결한다

기업형 클라우드 스토리지 서비스 '다이렉트클라우드'가 내외부에서 콘텐츠 기반 협업과 보안을 동시에 제공하는 서비스로 각광 받고 있다. 다이렉트클라우드랩(대표 안정선)의 '다이렉트클라우드'는 안전한 파일 공유뿐만 아니라 거버넌스를 활용해 데이터 중앙 집중 관리, AI를 활용한 데이터 활용을 지원한다. 최근 디지털 전환(DX) 추진으로 데이터 관리 부담을 줄이고 데이터 활용을 가속화하는 움직임이 활발하다. 다이렉트클라우드는 데이터를 안전하게 보호하면서 협업을 돕는 서비스로 자리잡았다. 다이렉트클라우드는 내외부 사람과 협업할 때 링크 공유와 게스트 초대 기능을 지원한다. 워크플로우 기능으로 파일 발송시 상사의 승인을 받게해 오발송을 방지한다. 중요 데이터 유출 위험을 줄이는 조치다. 다이렉트클라우드는 세부 권한 설정이 가능해 내부 대외비 파일에 대해 이해 관계자 간에 안전한 협업이 가능하다. 다이렉트클라우드는 사용자 수 무제한 요금제를 제공한다. 외부와 협업이 많은 기업은 관계자나 직원이나 협력사가 늘어나도 요금 부담 없이 서비스를 사용할 수 있다. 그동안 부서별로 따로 사용했던 스토리지를 통합하면서 데이터 관리에 가시성도 확보했다. 예를 들어, 출판사 등은 책 출간을 위해서 주로 PDF 파일이나 10GB가 넘는 대용량 파일을 쓴다. 다이렉트클라우드에서 대용량 파일도 무리없이 편리하고 안전하게 공유가 가능했다. 다이렉트클라우드는 랜섬웨어 및 데이터유출방지(DLP), IP제한, 디바이스 제한, 패스워드 정책설정, 2채널 인증 등 다양한 보안 기능과 대용량 파일 전송, 실시간 편집, 미리보기 및 코멘트 등 협업툴 기능을 함께 제공한다. 인공지능 전환(AX) 시대를 맞이해 클라우드스토리지와 연계한 챗GPT 서비스 '다이렉트클라우드 AI'를 출시했다. 다이렉트클라우드는 문서 중앙화 솔루션과 달리 속도 저하가 없고 PC성능 요구나 초기 투자비가 많이 들지 않는다. 다이렉트클라우드는 고성능 클라우드 인프라를 통해 속도 저하 문제를 최소화했다. 클라우드 기반으로 운영돼 PC 성능 저하 없이 안정적으로 문서 관리와 협업이 가능하다. 또한, 사용자 수 무제한 요금제를 제공하여 초기 투자 비용을 절감했다. 다이렉트클라우드랩은 현재 국내외 2500개 이상 기업과 120만 명의 사용자를 보유했다고 밝혔다. 하루 평균 360만 개(6TB 상당)의 파일이 업로드 되며, 하루에 1000만 건의 액세스가 가능하다. 다이렉트클라우드랩은 2024년 12월에 GS인증 1등급을 획득했다. 안정선 다이렉트클라우드랩 대표는 “다이렉트클라우드는 출판업과 방송업 등 콘텐츠 기반 협업을 하면서 강력한 보안을 원하는 고객사가 증가하고 있다”면서 “우수한 보안과 높은 편의성, 합리적인 요금제로 시장을 확대하고 있다”고 말했다.

2025.02.24 14:29김인순

체크포인트, 해커들의 'AI 무기화' 경고…보안 위기 '고조'

[방콕(태국)=조이환 기자] "인공지능(AI)은 이제 해커들에게 단순한 보조 도구가 아니라 맞춤형 해킹 전략을 자동으로 생성하는 핵심 기술입니다. AI 기반 해킹은 환경에 따라 스스로 변형하며 탐지를 회피하기 때문에 기존 보안 체계로는 방어가 점점 더 어려워지고 있습니다. AI를 활용한 실시간 대응 체계를 구축하지 않으면 기존 방식만으로는 해킹의 위협을 막을 수 없습니다." 오데드 바누누 체크포인트 제품 취약점 연구 총괄 겸 수석 기술담당은 지난 18일부터 이틀간 태국 방콕에서 열린 '체크포인트 익스페리언스 2025 아시아태평양(CPX 2025 APAC)'에서 AI가 해킹을 자동화하는 시대가 도래했음을 경고하며 이같이 말했다. 20일 업계에 따르면 AI 기술이 빠르게 발전하면서 해커들의 공격 방식도 기존의 수작업 방식에서 더 자동화되고 정교하게 변화하는 추세다. 특히 AI가 해킹 도구로 활용되면서 악성 코드가 실시간으로 변형되고 공격 방식이 대상 시스템에 맞춰 최적화되는 수준까지 발전하고 있다. 이로 인해 기존 보안 체계로는 AI 기반 해킹을 탐지하고 대응하는 것이 점점 더 어려워지고 있다는 분석이 나온다. 이에 바누누 총괄은 AI가 단순한 해킹 보조 도구를 넘어 공격 과정 전반을 주도하는 핵심 요소가 되고 있다고 지적했다. 모델이 취약점 데이터와 해킹 기법을 학습하면서 해커들이 직접 코드를 작성하지 않아도 AI가 자동으로 최적의 공격 방법을 생성하고 실행할 수 있는 수준까지 도달했다는 설명이다. 그는 "AI는 이미 시스템을 분석해 공격 방식을 변형하고 보안 솔루션의 탐지를 회피할 역량을 갖췄다"며 "기존의 방어 기술로는 대응이 점점 더 어려워지고 있다"고 경고했다. 이러한 AI 해킹의 대표적인 사례는 페이로드 거대언어모델(Payloads LLM)이다. 이 해킹 방식은 AI가 실행 중인 공격의 환경을 실시간으로 분석하고 공격 방식과 코드를 동적으로 변형해 탐지를 피하는 자동화 공격 기법이다. 기존 악성 코드는 한 번 실행되면 동일한 형태로 유지되지만, 페이로드 LLM은 AI를 활용해 보안 시스템의 탐지를 회피하도록 스스로 코드를 변경하면서 공격을 지속할 수 있다. 일례로 해커가 웹 애플리케이션의 취약점을 이용해 첫 침입에 성공할 경우 기존 악성 코드라면 웹 서버 내부로 침투한 후 더 깊은 공격을 시도하는 과정에서 탐지될 가능성이 크다. 반대로 페이로드 LLM은 웹 서버 내부의 방화벽 설정, 보안 솔루션, 네트워크 트래픽 패턴을 실시간으로 분석하고 이를 바탕으로 악성 코드가 탐지되지 않도록 구조를 변형한다. 또 AI가 자동으로 공격 방식까지 조정할 수 있다. 처음에는 웹 서버를 통해 내부 네트워크로 이동하는 공격을 시도하지만 보안 장벽이 강하면 다른 경로를 찾아 우회할 수도 있다. 취약한 이메일 서버를 노려 내부 시스템으로 접근하는 방식으로 변경하는 식이다. 더불어 '비정형(amorphic) 페이로드' 개념도 등장했다. '비정형 페이로드'는 AI가 공격 진행 과정에서 보안 체계를 분석한 후 스스로 코드를 변형하며 탐지를 피하고 더 깊은 네트워크로 침투하는 방식이다. 기존 악성 코드는 한 번 실행되면 정해진 방식대로 동작하지만 비정형 페이로드는 공격 대상의 환경에 따라 코드 구조를 자동으로 변경해 보안 솔루션을 우회한다. 바누누 총괄은 "이같이 AI가 스스로 학습하며 변화하는 페이로드는 보안팀이 미리 설정한 패턴 기반 탐지 기술로는 감지하기 어렵다"며 "공격이 진행될수록 점점 더 정교해지는 특성을 가진다"고 설명했다. '제로데이 LLM' 역시 사이버 보안 업계가 주목해야 할 위협 중 하나다. 제로데이 LLM은 AI가 대상 시스템의 환경을 분석하고 기존에 알려지지 않은 새로운 취약점을 자동으로 찾아내는 기술이다. 보안 업체가 해당 취약점을 발견해 패치를 배포하기도 전에 공격이 실행될 가능성이 높아 방어가 더욱 어려워질 것으로 전망된다. 이러한 AI 기반 해킹이 활성화되면서 보안 업계도 전통적인 패턴 분석 방식의 보안 체계를 AI 기반으로 전환할 필요성이 커지고 있다. AI가 공격을 자동화하는 만큼 보안 시스템도 실시간 대응 가능한 AI 모델을 도입해야 한다는 지적이다. 바누누 총괄은 이같이 AI가 공격자가 활용하는 도구로 변화하면서 다크웹에서는 해커들이 사용할 수 있는 AI 기반 악성 모델이 거래되고 있다고 지적했다. 실제로 해킹 전용 AI 챗봇인 '웜GPT'와 같은 모델은 다크웹에서 쉽게 접근 가능하며 초보 해커들이 강력한 공격을 실행할 수 있도록 돕고 있는 상황이다. 더불어 AI 자체도 해킹의 대상이 될 수 있다. 바누누 총괄은 연구팀이 'GPT-4'의 취약점을 분석한 사례를 소개하며 "AI 모델이 사용자를 돕고 싶어 하는 성향과 불법적 정보를 제공하지 않으려는 제한 사이의 충돌을 악용해 정보 유출을 유도할 수 있다"고 밝혔다. 이어 그는 "AI가 해킹을 자동화하고 맞춤형 공격을 실행하는 시대가 왔다"며 "보안 업계도 AI 중심의 방어 체계를 구축하지 않으면 기존 보안 솔루션만으로는 대응이 어려워질 것"이라고 강조했다.

2025.02.20 08:56조이환

"딥시크, 인간 개입 없이 진화했다"…체크포인트, 보안·에너지·자율 AI 대응 강조

[방콕(태국)=조이환 기자] "중국의 '딥시크'는 인공지능(AI) 효율성을 극대화하며 실리콘밸리 프론티어 기업들과 경쟁할 수준에 도달했습니다. 더불어 AI 에이전트는 단순한 자동화 도구를 넘어 스스로 계획을 세우고 실행하는 자율 시스템으로 발전하고 있습니다. 이같은 변화가 촉발할 AI의 폭발적인 에너지 소비 증가와 보안 문제 해결을 위해 기업과 규제 당국은 보다 적극적인 대응 전략을 마련해야 합니다." 댄 카파티 체크포인트 AI 부문 부사장은 지난 18일부터 이틀간 태국 방콕에서 열린 '체크포인트 익스피리언스 2025 아시아태평양(CPX 2025 APAC)'에서 AI 발전이 사이버 보안, 에너지 소비, 자율 시스템에 미칠 영향을 분석하며 이같이 밝혔다. 20일 업계에 따르면 AI의 급격한 발전은 산업과 시장에 예상보다 빠른 속도로 변화를 가져오고 있다. 실제로 지난달 27일 엔비디아는 딥시크의 새 모델 발표 하루 만에 600억 달러(한화 약 50조원)의 시가총액을 잃었다. 여기에는 중국 AI 기업 딥시크가 실리콘밸리의 경쟁사들과 견줄 만한 성능을 제공하면서도 훨씬 저렴한 가격으로 시장에 진입한 것이 주요 원인으로 작용했다. 딥시크의 성공 비결은 AI 효율성을 극대화하는 혁신적인 접근 방식에 있다. 미국의 반도체 수출 규제로 인해 중국 내에서는 고성능 칩 사용이 제한돼 있지만 딥시크는 상대적으로 저성능인 엔비디아 'H800' 칩을 최적화해 AI 모델을 훈련하는 방법을 개발했다. 카파티 부사장은 "딥시크는 기존의 8개 믹스 오브 익스퍼트(Mix-of-Experts) 방식 대신 32개 모듈을 활용해 자원을 보다 효율적으로 배분하며 인간 개입 없이 자동화된 학습을 한다"며 "이러한 혁신적인 기술력은 AI 업계의 기존 경쟁 구도를 흔들고 있으며 향후 AI 시장의 판도를 바꿀 변수로 작용할 전망"이라고 설명했다. 딥시크는 단순히 하드웨어 최적화에 그치지 않는다. AI가 인간 개입 없이 데이터를 분석하고 자체적으로 판단할 수 있도록 설계돼 있다. 실제로 "대만은 국가인가" 같은 특정 질문에 대해 중국 정부의 입장을 반영하는 방식으로 대응하는 등 정치적으로 민감한 질문에 대해 독특한 반응을 보이는 것도 특징이다. 이러한 AI의 자율성과 정교한 학습 방식은 산업 전반에 걸쳐 큰 변화를 예고하고 있다. 카파티 부사장은 AI가 기업 경쟁력뿐만 아니라 에너지 산업에도 지대한 영향을 미칠 것이라고 전망했다. 실제로 전 세계 데이터센터의 전력 소비량은 지난 2015년 3천500테라와트시(TW/h)에서 지난해 7천TW/h로 두 배 가까이 증가했다. 또 AI 컴퓨팅 전력 소비는 지난 2022년 415TW/h에서 내년에는 835TW/h까지 급격히 상승할 것으로 예상된다. 이에 따라 AI의 에너지 소비를 줄이기 위한 다양한 시도가 진행 중이다. 마이크로소프트는 해저 데이터센터 실험을 진행 중이며 일부 기업들은 벡터 AI 칩 개발을 통해 연산 효율을 높이는 방안을 연구하고 있다. 또 구글과 아마존 등 주요 기업들은 핵에너지 발전소 건설에 적극 나서고 있으며 이에 따라 최근 몇 달 사이 관련 주식이 급등하는 현상도 나타났다. AI 에이전트의 발전도 주요 화두로 떠올랐다. AI 에이전트란 인간 개입 없이 자동으로 작업을 수행하는 자율 시스템으로, 향후 기업들이 업무 효율성을 높이는 데 중요한 역할을 할 것으로 보인다. 일례로 사용자가 "다음 주 런던 여행을 1천500달러 이하로 계획해달라"는 요청을 한다면 AI 에이전트는 관련 데이터를 수집하고 최적의 일정을 자동으로 생성할 수 있다. 현재 에이전트는 단순히 정보를 제공하는 것을 넘어 자체적인 계획 수립과 피드백 조정을 수행하는 구조로 발전하고 있다. AI가 수행하는 주요 작업 패턴은 ▲복잡한 문제를 단계별로 해결하는 '계획' ▲웹 검색, 애플리케이션 프로그램 인터페이스(API) 호출 등 외부 도구를 활용하는 '도구 활성화' ▲결과를 검토하고 수정하는 '반성' ▲여러 AI가 협업하는 '다중 에이전트' 등으로 정리된다. 다만 AI 에이전트의 발전은 보안 문제를 동반한다. 카파티 부사장은 "AI 에이전트는 기업과 개인의 업무 자동화를 돕지만 해커들에게도 새로운 공격 수단을 제공할 가능성이 있다"며 "피싱 공격을 최적화하거나 악성 코드 개발을 자동화하는 등 사이버 범죄에 악용될 경우 전통적인 보안 시스템이 무력화될 수 있다"고 설명했다. 이를 해결하기 위해 AI 보안도 패러다임 전환이 필요하다. AI 에이전트는 ▲사용자와의 상호작용 ▲AI 백엔드 시스템 보호 ▲내부 AI 모듈 간의 데이터 흐름 보호 등 다양한 경계를 갖고 있어 기존 보안 방식으로는 방어가 어렵다. 이에 체크포인트는 AI 기반 실시간 보안 체계를 구축하고 AI가 AI를 방어하는 형태의 보안 모델을 개발하고 있는 상황이다. 규제 측면에서도 AI 안전성 확보를 위한 논의가 활발하다. 유럽연합(EU)은 AI 법안을 마련해 AI 시스템이 반드시 감독을 받을 것과 AI 사용자들이 AI의 개입 여부를 인지할 수 있도록 하는 규정을 포함했다. 미국 국립표준기술연구소(NIST)도 AI 시스템의 테스트와 감사를 강화하는 가이드라인을 발표한 바 있다. 카파티 부사장은 "AI가 사이버 보안, 에너지, 기업 운영 방식 전반을 바꾸고 있다"며 "AI 기술을 어떻게 활용하고 보호할 것인지가 앞으로 가장 중요한 과제가 될 것"이라고 말했다.