• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 인터뷰
  • 인사•부음
  • 글로벌뉴스
인공지능
배터리
양자컴퓨팅
컨퍼런스
칼럼•연재
포토•영상

ZDNet 검색 페이지

'AI 보안'통합검색 결과 입니다. (353건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

[현장] 생성형 AI 도입한 현대제철, '보안 강자' S2W에 '감사 인사' 전한 이유는?

"비정형 텍스트 데이터 추출에 굉장한 기술을 가지고 있는 기업이라는 판단에 따라 S2W(에스투더블유)에게 먼저 손을 내밀었습니다. 기술검증(PoC)부터 자체 생성형 인공지능(AI) 서비스를 구축하기까지 많은 일들이 있었지만, S2W에서 도전 정신과 열정을 바탕으로 자신의 일처럼 적극 도와줘서 감사했습니다." 한동윤 현대제철 데이터전략팀 책임은 4일 서울 강남구 조선팰리스에서 개최된 'S2W 인텔리전스 서밋(S2W Intelligence Summit, SIS) 2024'에 참석해 S2W와 협업한 것에 대해 크게 만족감을 드러냈다. 현대제철은 S2W와 함께 기업 내부에 흩어진 다양한 문서를 기반으로 통합 검색과 질의응답을 하기 위한 AI·거대언어모델(LLM) 기반 지식정보 플랫폼을 도입한 상태로, RAG(검색증강생성)을 기반으로 생성형 AI 서비스를 내부에 구축했다. RAG는 외부 데이터 소스로 가져온 정보를 기반해 LLM이 질문에 대한 답변을 해주는 기술이다. 그 결과 현대제철은 13만 건의 데이터 자산을 구축하는데 성공했을 뿐 아니라 생성형 AI를 통해 1초만에 원하는 답변을 직원들이 얻을 수 있도록 함으로써 업무 효율성을 높였다. 검색 답면 정확도는 91%에 달했고, 기존에 검색 기반으로 썼던 6가지 시스템을 대체해 비용 효율화도 이뤄냈다. 한 책임은 "S2W와의 작업을 통해 신속하게 플랫폼을 안정화시킬 수 있었고, 보안에 대한 고민도 함께 해결할 수 있었다"며 "챗GPT 등장 후 내부에서 생성형 AI 시스템에 대한 기대감이 높았는데 임직원들이 사용하면서 현재는 높은 만족감을 드러내고 있다"고 밝혔다. 이처럼 보안기업으로만 알려졌던 S2W가 최근 기업을 겨냥한 AI 시장에서 두각을 나타내고 있다. 최근 'AI 및 보안 전문 데이터 인텔리전스 기업'으로 비전을 밝힌 후 AI와 보안을 양대 산업 주축으로 삼고 기술력을 끌어올린 덕분이다. 이는 기존 사업인 보안을 넘어 AI 시장으로 역량을 집중하겠다는 서상덕 S2W 대표의 의지가 주효했다. 서 대표는 AI와 강력한 보안 기술력, 빅데이터 가공 기술이 결합된 고도화 된 생성형 AI 생태계를 확장해 나간다는 목표로 최근 'AI 보안 시장'을 본격 공략하고 있다. 또 카이스트 네트워크 보안 전문 연구진들이 2018년 설립한 S2W는 2023년 세계경제포럼(WEF)에서 '세계 100대 기술 선도기업'으로 선정될 정도로 기술력도 빠르게 인정 받았다. S2W는 현재 ▲기업용 맞춤 생성형 AI 플랫폼 '에스에이아이피(SAIP)' ▲사이버 보안 AI 플랫폼 '퀘이사(QUAXAR)' ▲다크웹 AI 분석 플랫폼 '자비스(XARVIS)' 등 다양한 솔루션을 제공 중이다. 이를 토대로 현재 국제 경찰 '인터폴'을 비롯한 핵심 기관과 금융·통신 등 기업들을 주요 파트너로 두고 있다. 이날 행사에 참가한 현대제철도 그 중 하나다. S2W는 이전까지 보안 솔루션 시장을 주로 공략해왔으나, 최근 생성형 AI 열풍이 불면서 AI 선도 기업으로 진화하는 모습을 보이고 있다. AI 시장에서 갈수록 보안 문제가 화두로 떠오르며 정보 유출, 할루시네이션(hallucination) 등 여러 문제의식을 일으키며 보안기업들의 중요성이 높아지고 있어서다. S2W 관계자는 "보안 시장의 경우 기술 강화를 위해 첨단 AI 기술 도입이 시급한 상태"라며 "이 같은 상황을 직시해 AI와 보안 시장을 개혁해 나가겠다는 포부를 가지고 특화된 솔루션으로 생성형 AI 생태계를 확장해 나가려고 노력 중"이라고 설명했다. 이 같은 상황 속에 S2W는 이날 진행된 'SIS 2024'를 통해 자사 성과와 비전을 대외적으로 알렸다. 'AI와 보안의 미래'라는 주제로 열린 이번 서밋에서 보안과 AI를 주제로 한 세션을 절반 정도씩 구성함으로써 AI 기업으로 체질개선해 나가겠다는 의지도 보여줬다. S2W 관계자는 "이전까지 두 번 진행됐던 서밋에선 '보안'을 중점적으로 다뤘다면, 세 번째로 진행된 이번 서밋에선 'AI'에도 많은 비중을 뒀다"며 "AI 시장에서는 '최고의 보안을 갖춘 AI'를, 보안 시장에서는 '고도의 AI 성능까지 갖춘 보안'을 S2W의 특화된 솔루션으로 이뤄내겠다는 포부를 이번에 보여주고자 했다"고 말했다. S2W는 이번 서밋을 기점으로 기업 맞춤 생성형 AI 'SAIP'를 기반으로 AI 사업 확대에 본격 나서는 한편, 사이버 보안 시장에서의 영향력도 지속적으로 확장해 나간다는 방침이다. 또 고도화된 AI 기능을 결합해 개별 기업 및 기관에서 처리하기 까다로운 다크웹, 딥웹 등의 비정형 데이터를 정교하게 수집 및 분석함으로써 선순환 구조를 갖출 계획이다. 더불어 글로벌 진출에도 속도를 낸다는 방침이다. 이를 위해 기존에 진출한 인도네시아, 미국뿐 아니라 앞으로 일본, 싱가포르를 중심으로 아태지역 영업을 확장하고 중동 및 유럽 지역에도 진출할 예정이다. 서 대표는 "S2W는 보안을 넘어 빅데이터 가공과 AI 기술력을 토대로 생성형 AI 포트폴리오를 확보했고 이제는 실질적인 규모급 성과로 시장 경쟁력을 증명했다"며 "미국에서 보안기업으로 시작해 데이터 인텔리전스 시장을 대표하게 된 '팔란티어'처럼 S2W를 아시아의 팔란티어, 더 나아가 글로벌 데이터 인텔리전스 기업으로 자리매김 시킬 것"이라고 밝혔다. 그러면서 "올해로 3회째를 맞는 이번 행사에서 사용자, 공급자, 법조계, 학계 등 다양한 분야의 전문가들을 발표자로 세웠다"며 "AI와 보안을 융합한 인사이트도 얻고 공통의 관심사를 가진 이들과 교류도 나누는 유익한 자리가 됐으면 좋겠다"고 덧붙였다.

2024.07.04 15:22장유미

'AI 에이스 기업' 선언한 한싹, 보안 넘어 클라우드 시장 노린다

"한싹은 이제 정보보안을 넘어 인공지능(AI)과 클라우드 분야의 에이스 기업으로 거듭나겠습니다. '에이스(ACE) 전략'을 통해 단순히 기술적 전환에 그치지 않고 회사 전반의 사업 구조와 문화를 혁신해 나갈 것입니다." 이주도 한싹 대표가 'ACE 전략'을 앞세워 기존 보안 사업뿐 아니라 AI와 클라우드 분야로 사업영역을 확장해 신성장동력 확보에 속도를 내겠다는 의지를 드러냈다. 4일 한싹에 따르면 이 대표는 창립 32주년을 맞아 최근 'AI·클라우드 기업으로의 전환'을 대내외적으로 선포했다. 또 AI, 클라우드, 확장(Expand)을 핵심 키워드로 한 '에이스 전략'을 앞세워 기술 경쟁력을 강화하겠다는 계획도 밝혔다. 이 전략은 ▲근본적인 내부 체질개선 ▲분야별 기술 경쟁력 강화 ▲차별화된 고객 맞춤형 서비스 및 통합 플랫폼 개발 ▲M&A와 파트너십 확대 ▲글로벌 시장 진출 등을 포함한다. 구체적으로는 내부 인력과 업무방식, 개발분야를 AI와 클라우드 중심으로 전환하고, 연구개발 투자를 대폭 확대해 각 분야별 기술 경쟁력을 강화한다는 방침이다. 또 맞춤형 서비스를 통해 고객의 업무를 지능화하고, 다양한 분야의 전문업체와의 인수합병 및 협약을 추진해 시장 경쟁력을 한층 높일 계획이다. 글로벌 시장 진출을 위해 동남아 및 중남미 등지의 보안 전문업체와 파트너십을 체결하며 클라우드 구독형 보안 서비스(SECaaS)로 시장도 공략할 예정이다. 한싹은 이미 4년 전부터 AI와 클라우드 연구센터를 설립하고 단계적으로 사업을 추진하며 시장 변화에 발 빠르게 대응해왔다. 연간 매출액의 16%를 연구개발비로 투자하며 신기술 및 신제품 개발에 매진하고 있다. 그 결과 보안 사업에서는 올 상반기에만 국방망 보안통제 시스템 '시큐어게이트 CDS(SecureGate CDS)'와 시스템 접근제어 '패스가드 AM(PassGuard AM)' 등 신제품 2종을 출시해 가시적인 성과를 보였다. 하반기에는 차세대 망간자료전송 솔루션과 OT 보안에 필수적인 일방향 전송 솔루션, 암호화된 트래픽 해독 기술인 SSL 가시화를 선보이며 포트폴리오를 다각화할 계획이다. AI 분야에서는 올해 신설한 AI 융합연구센터를 중심으로 신사업을 추진 중이다. AI 보안, 재난·안전, 교육·행정 분야에 적용할 수 있는 융합형 AI 신제품을 개발하고 있다. 또 어디든 유연하게 적용 가능한 경량화언어모델(sLLM)로 차별화된 AI 서비스를 제공할 예정이다. 클라우드 분야에서도 한싹은 기존 솔루션을 클라우드 서비스로 전환하고 모든 클라우드 환경에서 지원되도록 고도화하고 있다. 실제로 망간자료전송 제품 중 메일연계 솔루션은 AWS, MS365 등 국내외 클라우드 환경에서 메일 서비스의 보안 강화를 위한 API 연동을 지원한다. 이 대표는 "지난 32년은 끊임없는 도전과 변화에 대한 두려움을 극복하며 혁신을 추구한 성공의 역사였다"며 "앞으로도 지속적인 연구개발 투자를 통해 AI와 클라우드 시대의 기술 주도권을 확보하고 또 다른 성공 스토리를 써 나가며 지속가능한 성장을 이루겠다"고 포부를 밝혔다.

2024.07.04 10:19장유미

정부 지원 받는 이로운앤컴퍼니, 생성형 AI 보안 전문기업으로 입지 다지기 박차

이로운앤컴퍼니가 정부의 지원을 받아 국내 최초 생성형 인공지능(AI) 보안 전문기업으로서 입지 다지기에 나선다. 이로운앤컴퍼니는 중소벤처기업부의 민간 투자주도형 기술창업 지원 프로그램 '딥테크 팁스' 패스트트랙에 최종 선정됐다고 3일 밝혔다. 이로운앤컴퍼니는 지난 2월 마크앤컴퍼니, 윤민창의투자재단에서 시드 투자를 받았으며 팁스 운영사인 마크앤컴퍼니의 추천을 받아 딥테크 팁스에 선정됐다. 딥테크 팁스는 10대 신산업 분야의 유망 스타트업을 선별, 육성하기 위해 중기부가 발표한 초격차 스타트업 1000+ 프로젝트의 일환으로, 선정 업체에 연구개발(R&D)비 15억원을 포함해 사업화 및 해외 마케팅 자금까지 최대 17억원을 지원하는 프로그램이다. 이로운앤컴퍼니는 1차 평가에서 우수한 기술력을 인정 받아 2차 시장성 평가를 면제 받는 패스트트랙으로 통과했다. 올해 1월에 창업한 이로운앤컴퍼니는 기업이 안전하고 편리하게 인공지능을 활용해 업무 생산성과 효율을 높일 수 있는 솔루션을 제공한다. 이는 공공기관이나 민간 기업이 생성형 AI를 활용할 때 개인정보와 민감·중요 정보가 외부로 유출되지 않도록 스캐닝 해 보안을 강화하는 제품이다. 윤두식 이로운앤컴퍼니 대표는 "챗GPT와 같은 LLM(인공 신경망으로 구성된 거대 언어 모델)에 특화된 보안 위협에 적극적으로 대비해야 할 시점"이라며 "인공지능 보안의 선도 기업으로 성장할 것"이라고 비전을 밝혔다.

2024.07.03 11:03장유미

[유미's 픽] "AI 업고 튀어"…영역 넓히는 보안업계, 체질 개선 박차

생성형 인공지능(AI) 열풍이 거세게 불면서 전 세계적으로 사이버 공격이 빈번하게 발생하는 가운데 보안기업들이 기술력을 고도화하고 신시장을 개척하기 위해 체질개선에 적극 나서고 있다. 특히 'AI 기업'으로 변신하고자 올해 관련 연구·개발(R&D)에 투자를 늘리며 주도권을 잡기 위해 열을 올리는 분위기다. 3일 업계에 따르면 국내외 주요 보안업체들은 최근 AI 사업을 본격적으로 전개하거나 인수합병(M&A)을 통해 미래 먹거리 발굴에 속도를 높이고 있다. 가장 선제적으로 나선 곳은 파수로, 'AI 보안' 기업으로 변신하기 위해 올해 4월 경량언어모델(sLLM) '엘름(ELLM)' 출시를 알리며 LLM 사업에 도전장을 내밀었다. 구축형(온프레미스)으로 제공되는 엘름은 코딩, 법률, 세무, 금융 등 다양한 직군, 산업 환경에서 활용할 수 있는 것이 특징이다. 또 특정 작업이나 도메인에 맞는 작은 데이터 세트를 활용해 모델을 추가적으로 훈련시킬 수 있다. 이에 기업에선 특정 부서나 조직에서만 사용할 수도 있다. 파수는 문서보안에 특화된 사업을 운영해 왔던 것을 강점으로 내세워 '엘름'으로 기업들이 내부 데이터 관리와 AI 활용의 최적 포인트를 찾도록 뒷받침하겠다는 전략이다. 조규곤 파수 대표는 "엘름에 대한 공공기관과 금융권의 관심이 크다"며 "고객의 수요를 읽어가며 솔루션과 서비스를 지속적으로 내놓겠다"고 말했다. 파수는 지난 5월 파로스네트웍스를 인수하며 운영기술(OT) 보안 시장에도 발을 들였다. OT 보안은 제조, 에너지, 운송 분야 등의 물리적 인프라를 관리하는 OT 시스템을 안전하게 보호하는 것을 목표로 한다. 파로스네트웍스는 국내 초대형 공장을 포함한 다수의 기업 고객과 구축 사례를 보유하고 있다. 파수 관계자는 "IoT(사물인터넷)와 IIoT(산업용 사물인터넷), 스마트 팩토리와 산업 자동화, 운영 시스템이 급속도로 고도화하면서 OT 보안의 필요성도 커지고 있다"며 "OT 보안이 파수의 새로운 성장동력이 될 수 있을 것"이라고 말했다. S2W은 최근 'AI 및 보안 전문 데이터 인텔리전스 기업'으로 비전을 명명하고 AI, 보안 등 양대 산업을 주축으로 한 미래 로드맵을 완성하겠다는 의지를 밝혔다. 이를 위해 S2W는 sLLM 플랫폼 'S-AIP(S2W Artificial Intelligence Platform)'를 내놨다. S-AIP는 각 기업이 가지고 있는 보안 수준에 맞춰 아키텍처를 구현하고, 데이터 보안 기술을 기반으로 기업용 프라이빗 sLLM 구축을 지원할 수 있다. 최근에는 현대제철에 공급하면서 제철-제강 업계에서 거대언어모델(LLM)을 활용한 첫 AI 플랫폼 사례로 주목받기도 했다. S2W는 제조업은 물론 LLM이 필요한 규모급 기업으로 솔루션 구축을 확대할 계획이다. 서상덕 S2W 대표는 "보안을 넘어 빅데이터 가공과 AI 기술력을 토대로 생성형 AI 포트폴리오를 확보했다"며 "미국에서 보안기업으로 시작해 데이터 인텔리전스 시장을 대표하게 된 팔란티어처럼 S2W를 아시아의 팔란티어, 더 나아가 글로벌 데이터 인텔리전스 기업으로 자리매김시킬 것"이라고 밝혔다. 보안업계에서 떠오르고 있는 샌즈랩도 AI 기반 사이버 보안 사업 영역을 빠르게 고도화하고 있다. 이곳은 지난 2월 기업 내부 인프라에서 직접 운영, 제어가 가능한 온프레미스 sLLM '샌디(SANDY)'를 개발했다. 샌디는 기존에 사람이 직접 했던 보고서 요약·교정, 기업 내 해킹 대응 정보 검색을 대신 수행하며 최신 사이버 위협에 선제 대응할 수 있는 역량도 갖췄다. 이 외에 샌즈랩은 샌디를 기반으로 최근 포티투마루, LG유플러스와 사이버 보안을 강화할 수 있는 LLM 기술을 공동 개발키로 해 주목 받고 있다. 한싹은 올해 5월 인콤정보통신을 인수한다고 발표하며 행정지원 솔루션 사업으로 영역을 넓혔다. 인콤정보통신은 개인정보 이미지 보안처리, 고객상담 음성정보 솔루션, 보안전자팩스 등을 주요 제품으로 삼고 있는 곳으로, 28년간 높은 신뢰와 견고한 실적을 쌓아왔다. 한싹은 망연계 솔루션을 개발·판매하는 기업으로, 그간 소프트웨어(SW) 및 보안 사업을 펼쳐왔다. 최근에는 AI융합연구센터를 신설해 공공 행정업무 관련 인공지능(AI) 신사업에 속도를 내고 있다. 앞으로는 인콤정보통신이 장기간 축적해온 데이터를 활용해 AI 기반의 차세대 행정지원 서비스 개발과 고도화에 박차를 가한다는 방침이다. 이처럼 보안 기업들이 M&A와 AI 사업 확장에 적극적인 이유는 사이버 위협이 증가하고 있는 데다 공격의 발전 속도가 점차 빨라지고 있어서다. 실제 이스라엘 사이버보안 회사인 체크포인트에 따르면 올 1분기 조직당 평균 사이버 공격 건수는 전분기 대비 28% 증가했다. 국내에서도 한국인터넷진흥원(KISA)에 따르면 기업의 사이버 보안 침해사고는 2020년 630건에서 2021년 640건, 2022년 1천142건, 2023년 1천227건으로 급증하는 추세다. 업계 관계자는 "최근 AI를 악용한 사이버 공격이 주목되고 있다"며 "특히 챗GPT를 활용해 관리자 페이지를 탐지한 후 개인정보나 데이터를 유출하는 데 악용하는 사례도 많다"고 말했다. 그러면서 "보안 기업들은 내부 보안 혹은 사이버 위협·악성코드 분석 등 비정형 데이터를 포함한 데이터 분류와 필터링 기술에 강점을 갖고 있다는 점에서 AI 사업을 확대하는 데 다소 유리한 측면이 있다"며 "갈수록 보안 기술을 빠르게 고도화해 나가야 하는 상황에서 기업들이 경쟁력 있는 다른 기업들을 인수해 몸집을 불려 기술력을 끌어올리려는 시도들도 점차 많아지는 듯 하다"고 덧붙였다.

2024.07.03 09:59장유미

[ZD SW 투데이] 티디지, MS '보안전문 기술역량' 획득 外

지디넷코리아가 소프트웨어(SW) 업계의 다양한 소식을 한 눈에 볼 수 있는 'ZD SW 투데이'를 새롭게 마련했습니다. SW뿐 아니라 클라우드, 보안, 인공지능(AI) 등 여러 분야에서 활발히 활동하고 있는 기업들의 소식을 담은 만큼 좀 더 쉽고 편하게 이슈를 확인해 보시기 바랍니다. [편집자주] ◆티디지, MS '보안전문 기술역량' 획득 국내 기업이 클라우드 보안에 특화된 기술인 '보안전문 기술역량(Security Specialization)'을 받았다. 티디지는 마이크로소프트로부터 고급 파트너사에게 부여하는 시큐리티 스페셜라이제이션을 받았다. 시큐리티 스페셜라이제이션은 마이크로소프트가 부여하는 보안 및 관련 솔루션 기술에 부합하는 전문성과 경험을 갖춘 파트너사에게 수여하는 공식 인증 프로그램이다. ◆디노도, 플랫폼 9.0으로 AI 혁신 가속화 디노도는 인공지능(AI)으로 자연어 쿼리를 지원해 시퀄(SQL)에 대한 지식이 없어도 되는 '디노도 플랫폼 9.0'을 출시했다. 디노도 플랫폼 9.0은 데이터 사용자 이력에서 사용자 패턴을 학습하고 사용자 필요에 가장 적합한 데이터를 추천한다. 이 외 주요 기능으론 AI에 활용 가능한 데이터 생성, 개발자 경험 개선, 데이터 준비 마법사 등이 있다. ◆한컴아카데미, 조선대와 한국어교육 힘 쓴다 조선대학교에 한컴글로컬연구센터가 생긴다. 한컴 자회사인 한컴아카데미는 최근 조선대와 한국어교육 및 한국 문화 발전을 위한 업무 협약을 맺었다. 조선대학교-한컴글로컬연구센터는 국내 유학생들과 외국인 근로자를 위한 한국어 교육 사업 및 다문화 교육 관련 프로그램 개발에 주력할 예정이다. ◆세일포인트, AI기반 보안 효율성 향상 기능 출시 핵심 비즈니스 애플리케이션의 통합 과정을 단순화 한 인공지능(AI) 기반 온보딩 기능이 나왔다. 세일포인트는 강화된 보안성으로 사용자 경험을 개선할 수 있는 AI 기반 애플리케이션 온보딩 기능을 출시했다. 이 온보딩 기능은 애플리케이션 온보딩 과정을 자동화해 해당 업무에 필요한 시간과 복잡성을 줄여준다. 자동화로 프로세스가 간소화되며 상관관계 식별 평균 시간을 70%까지 줄일 수 있으며 조직 내 IT, 보안 담당자들이 더 중요한 업무에 집중할 수 있게 될 전망이다. ◆라온시큐어, 옴니원 배지로 대학생 취업 돕는다 자체 시스템 없이도 자격증, 졸업증명 등 다양한 디지털 배지를 발급할 수 있는 시스템이 생긴다. 라온시큐어는 마이데이터랩과 '대학 공동 사업을 위한 업무 협약'을 맺고 자사 인공지능(AI) 기반 취업 준비 서비스에 디지털 배지 연계 서비스 기능을 추가했다. 옴니원배지는 지난 2월 중앙대에서 수시 합격생들의 합격증, 비교과 과정 교육 이수 등으로 활용됐다. 이번 업무협약을 통해 라온시큐어와 마이데이터랩은 대학들과의 파트너십을 강화해 갈 계획이다.

2024.07.02 17:14양정민

SK쉴더스 "생성형 AI, 프롬프트 보안·데이터 정제로 다듬어야"

"생성형 인공지능(AI)은 현재 악의적 프롬프트 명령이나 불안전한 출력, 민감정보 노출에 가장 약합니다. AI 활용 기업은 보안을 위해 프롬프트 보안 솔루션과 데이터 정제 솔루션을 복합적으로 탑재해야 합니다." SK쉴더스 이호석 이큐스트 랩 팀장은 2일 서울 중구 페럼타워서 열린 기자간담회에서 생성형 AI 보완책을 이같이 강조했다. 이호석 팀장은 생성형 AI 취약점을 영상으로 시연했다. 이때 활용한 모델은 오픈AI의 GPT-4o다. 우선 프롬프트 인젝션 상황부터 보여줬다. 프롬프트 인젝션은 사용자가 악의적 질문으로 AI 서비스 지침이나 정책을 우회해 답을 끌어내는 취약점이다. 악성코드 생성이나 마약 제조, 피싱 공격 등을 목적으로 한다. 그는 "해당 취약점은 AI 활용 기업이 가장 빈번히 겪는 상황"이라고 설명했다. 영상에 따르면, 사용자가 마약 제조법을 생성형 AI 직설적으로 묻자 AI는 이에 대한 답을 거부했다. 반면 영화에 나오는 마약 이름을 시작으로 단계적으로 질문하자, AI는 마약 제조법부터 보관법, 적정 온도 등까지 알렸다. 이호석 팀장은 생성형 AI의 불완전한 출력 처리 장면도 시연했다. 그는 "AI 시스템이 출력 처리를 불완전하게 하면, 보안 문제를 일으킬 수 있다"고 설명했다. 2차 공격으로 이어질 수 있어 위험도가 높다는 설명이다. 이 팀장은 "공격자는 이때를 틈타 LLM 운영 서버에 접속할 수 있을 것"이라며 "중요 정보를 실시간 탈취할 수 있다"고 설명했다. 그는 민감 정보 노출 취약점도 시연했다. 이 취약점은 개인정보가 포함되거나 앱 권환 관리 미흡으로 생기는 현상이다. 이호석 팀장은 "모델이 데이터를 학습할 때 민감한 정보 필터링을 불완전하게 진행할 수 있다"며 "답변에 관련 정보가 흘러나올 수 있다"고 지적했다. "건강한 AI 활용, 프롬프트 보안·데이터 정제로 시작" 이호석 팀장은 생성형 AI 활용 기업이 프롬프트 보안 솔루션이나 데이터 정제 솔루션을 시스템에 반드시 탑재해야 한다고 재차 강조했다. 이 팀장은 "악의적 프롬프트 처리에 약한 AI는 개인정보나 사이버 공격에도 취약할 수 있다"며 "프롬프트 공격에 잘 대처할 수 있어야 고객이 안전한 AI 활용을 이어갈 수 있다"고 설명했다. 현재 국내에서 파수 'AI-R DLP', 이로운앤컴퍼니 '세이프X' 등이 주요 관련 제품이다. 데이터 정제 중요성도 강조했다. 그는 "생성형 AI가 정보를 잘 가리거나 가명 처리하는 것이 중요하다"며 "AI 활용 기업이 이를 여전히 어려워한다"고 설명했다. 국내에선 스피링크와 에이모 등이 관련 제품을 공급한다. 이 팀장은 "SK쉴더스 제품 중 DSPM이 가장 연관성 높은 솔루션"이라고 말했다. SK쉴더스는 생성형 AI 보안에 특화된 제품을 아직 내놓지 않았다고 설명했다. 기업이 LLM을 자사 시스템에 도입하는 속도가 여전히 느리다는 이유에서다. 이 회사는 제품 출시보다는 컨설팅부터 시작이라고 알렸다. 이호석 팀장은 "기업이 모델에 넣을 데이터를 고르는 데 여전히 어려움을 느낀다"며 "데이터는 눈에 보이지 않아 선뜻 택하기 어렵기 때문"이라고 이유를 설명했다. 이에 SK쉴더스는 "이런 문제를 우선 해결하기 위해 컨설팅을 지원하는 중"이라며 "향후 AI 특화 레드팀을 꾸리거나 관련 솔루션 출시도 고려 중"이라고 덧붙였다.

2024.07.02 16:48김미정

[기고] 사이버 보안과 회복탄력성 강화 위한 4가지 조건

매년 주요 기업 정보보호최고책임자나 정부 고위관계자는 미국 블랙햇이나 RSA 컨퍼런스 같은 행사에서 위협 환경과 사이버 보안 현황에 대한 의견을 공유한다. 보통 이런 행사에서는 사이버 전쟁에서 대규모 디도스 공격 증폭, 의료 및 주요 인프라 대상의 랜섬웨어 위협, API 보안의 부족과 소프트웨어 공급망 공격 우려, 음성 복제와 인공지능(AI) 기반 피싱 및 소셜 엔지니어링 공격의 증가와 같은 주제가 핵심 이슈다. 사이버 전선의 상황이 악화될 것이란 전망도 단골 주제다. 위와 같은 도전 과제를 마주하다 보면 혁신과 새로운 솔루션에 대한 기대에 사로잡힌다. 그러나 이런 상황일수록 보안 전문가는 전망과 추측에 휩쓸리기보다 현재를 직시하고 당면한 과제에 집중할 필요가 있다. 사이버 보안에 대해 논하다 보면 먼 미래의 위협과 새로운 보안 기능에 중점을 두는 경향이 있다. 하지만 현실을 들여다보면 다수 기업이 웹 애플리케이션 방화벽(WAF)이나 디도스 방어와 같은 기본적인 부분에서 도움을 필요로 하고 있다. 작년에 발생한 역대급 규모의 디도스 공격이나 최근 발생한 여러 대형 보안 침해 사건은 조직이 현재 사이버 보안 대책을 개선하는 데 집중해야 할 필요성을 시사한다. 오늘날 우리가 처한 현실적인 위협으로부터 스스로를 보호하기 위해서는 보다 신속하게 대응해야 한다. 너무 먼 미래를 내다보거나 해결책을 기다리기만 해서는 안 된다. 이미 기술을 보유하고 있는데도 기본적인 보안을 갖추는 데 어려움을 겪는 조직이 많다. 빠듯한 예산과 사이버 보안 인력난이 지속되는 상황에서, 조직이 보다 효과적으로 보안 노력을 강화할 수 있는 방법에는 무엇이 있을까? 기업은 사이버 보안을 강화하고 현 상황에서 회복탄력성을 갖추기 위해 다음의 네 가지 주요 이니셔티브에 우선순위를 둬야 한다. 우선 임직원 대상 보안 인식 교육을 강화해야 한다. 나날이 진화하는 위협에 대응하기 위해 AI 인식 모듈을 도입하는 방안을 고려할 수 있다. 물론 교육이 모든 걸 해결할 수 없다. 잠재적인 위협을 식별하거나 대응할 능력이 없는 직원을 그대로 방치하기에는 위험성이 너무나 높다. 교육을 시행할 때는 직원에게 책임을 전가하기보다는 직원을 해결책에 동참할 수 있도록 역량을 강화하는 데 목표를 둬야 한다. 주요 공격 타깃인 최고 경영진과 이사진도 교육 대상에 포함해야 한다. 강력한 다중 계층의 보안 제어로 뒷받침되는 제로 트러스트 원칙을 구현해야 한다. 특히 이메일 보관함을 피싱 공격 시도로부터 보호하는 것이 중요하다. 이런 공통 진입점을 보호하면 직원이 실수로 공격 매개체가 될 위험을 크게 줄일 수 있다. 레거시 네트워크 디바이스와 보안 장비를 폐기해야 한다. 이를 관리하는 데 시간과 자원이 소모될 뿐 아니라, 보안 스택에 취약성을 유발할 수도 있다. 보안 기술 스택을 간소화하고 공급업체를 통합해야 한다. 이미 보유하고 있지만 잘 활용하지 않았던 기능을 최대한 활용하는 것이 적합하다. 조직 전체를 점검해 전반적인 복잡성을 줄이고, 공격 표면을 제한하면서 사이버 보안의 기본을 충실히 실행하는 데 다시 초점을 맞춰야 한다. 지나치게 복잡한 시스템을 보호하는 과정에서 리소스가 불균형하게 소비될 수 있기 때문이다. 이런 부분을 파악하고 제거하거나 단순화할 수 있는 요소가 있을지 검토해보는 것이 좋다. 이처럼 보안에 대한 접근 방식을 단순화하고 회복탄력성에 집중할 때, 조직은 보다 효과적인 사이버 보안 조치를 마련하고 현재와 미래의 도전과제에 현명하게 대응할 수 있다. 팀원과 업계 사이버 보안 컨퍼런스에 참석하는 것은 물론 중요한 일이다. 하지만 이러한 행사는 보다 전략적인 사고방식으로 접근할 필요가 있다. 공급업체의 과대광고나 미래 전망에 휩쓸려선 안 된다. 대신 현재 시행 중인 프로그램에 박차를 가하고 성공을 위한 기본기를 다지기 위한 기회로 삼아야 한다. 조직의 성공을 위해서는 현재 직면한 위험을 완화하기 위해 리소스를 투입하는 동시에 다가올 미래와 진화하는 환경에 대비해 균형을 유지할 수도 있어야 한다. 끊임없이 변화하는 환경에서는 회복탄력성, 단순성, 현재의 상황 대응을 최우선으로 고려해야 한다. 이를 통해 구축된 보안 솔루션을 활용하는 것이 중요하다. 복잡성은 보안의 적이다. 보안을 간소화하고 통합함으로써 조직이 가장 중요한 제어에 집중해 회복탄력성을 제고할 수 있도록 해야 한다.

2024.06.27 16:39김도균

씨앤토트, 마이크로소프트 '올해의 파트너상' 수상

클라우드 및 데이터 & AI 전문기업 씨앤토트(대표 최병도)는 '2024년 마이크로소프트 파트너 오브 더 이어(2024 Microsoft Partner of the Year)'에서 한국을 대표하는 올해의 파트너로 선정됐다고 27일 밝혔다. 올해의 파트너상은 지난 한 해 동안 마이크로소프트 클라우드 애플리케이션, 서비스 및 솔루션 구현과 AI 혁신 부문에서 탁월한 능력을 보여준 파트너에게 수여되는 상으로 올해는 전 세계 100개 이상 국가의 4천700개 이상의 후보 중에서 수상자가 선정됐다. 최병도 씨앤토트 대표는 "약 20여년간 기업 IT 환경을 컨설팅하고 구축하면서, 클라우드 기반 업무 환경에 필요한 고객들의 니즈에 귀기울였던 노력을 인정받은 것 같아 기쁘다”며 “이제 앞으로의 고객은 플랫폼 구매에만 관심있는 것이 아니라 이를 가장 효과적으로 적용하는 방법과 비즈니스 혁신을 위해 이를 유지 관리하는 방법에 중요성을 더 두고 있다”고 강조했다. 그는 “이를 위해 보안 기능을 갖춘 마이크로소프트 코파일럿을 필두로 데이터 & AI 분야에 준비 및 많은 투자를 하고 있다”며 “데이터의 안정성과 보안을 유지하면서 이를 활용해 새로운 비즈니스를 발굴하고, 기업의 가치를 높이는 든든한 파트너로 자리매김 할 것"이라고 덧붙였다. 씨앤토트는 SK텔레콤, SK하이닉스, 위메이드 등 국내 160여개 기업들에 클라우드 인프라 및 하이브리드 업무 환경을 구축 및 지원하는 파트너다. 마이크로소프트가 인정한 전문분야 외에도 애저 구축을 위한 클라우드온(CloudON)과, 마이크로소프트 365 업무 환경을 위한 시큐어온(SecureON) 등 자체 기술력 기반 매니지드 서비스를 보유해 기업의 업무 생산성뿐 아니라 보안이 입증된 안전한 환경을 전문적으로 제공할 수 있었다. 마이크로소프트 기술을 기반으로 기업의 클라우드 기반 업무 환경에 대한 혁신과 탁월한 기술력으로 구축 우수성을 입증함으로써, 전 세계 유수의 마이크로소프트 파트너사들 중 최고의 영예를 안았다. 니콜 데젠 마이크로소프트 파트너부문 총괄 부사장은 "올해의 수상자들은 AI & 코파일럿 그리고 클라우드를 통해 기업 고객에게 획기적인 서비스와 솔루션을 제공했다”며 “파트너들의 역량과 창의성에 영감을 얻었으며, 진심으로 올해의 수상자들을 축하한다"고 밝혔다.

2024.06.27 10:00김우용

정부가 '픽' 한 라온시큐어, 'AI 보안' 강자로 우뚝서나

라온시큐어가 자체 개발 중인 기술로 정부의 지원을 받아 인공지능(AI) 보안 시장에서의 경쟁력 강화에 본격 속도를 낸다. 라온시큐어는 자사 '동형암호 기반의 인공지능(AI) 안면인식 기술'이 과학기술정보통신부와 한국인터넷진흥원(KISA)에서 공고한 '2024년 AI 보안 시제품 개발 지원사업'에 선정됐다고 26일 밝혔다. 사이버 보안 위협에 대한 대응 역량 강화가 중요해 지면서 과기정통부와 KISA는 2021년부터 국내 AI 보안 유망 기업의 제품 개발 지원과 AI 보안 산업 활성화 추진을 목적으로 매년 사업을 진행해 왔다. 라온시큐어는 최근 안면정보가 주요 생체정보로 인식되며 활용도가 높아지고 있고 데이터 처리 과정에서 보안의 중요도가 증가하고 있는 상황에 맞춰 서울대학교 천정희 교수가 이끄는 크립토랩과 동형암호 기반의 생체정보 보호 기술을 지난해부터 공동 연구해 왔다. 라온시큐어는 이번 과제 수행에 AI 연구개발팀에서 축적한 연구개발 노하우도 적극 활용할 계획이다. 회사는 지속 가능한 AI 보안 기술의 축적을 목표로 AI 기술 부문의 높은 전문성을 갖춘 연구원들로 구성된 AI 연구개발팀을 운영해 왔다. AI 연구개발팀은 딥페이크를 탐지하는 이미지 분류 모델부터 AI가 생성한 콘텐츠를 탐지할 수 있는 모델, 악성 코드, 스미싱·피싱 등을 탐지하는 악성·위협 행위 분류 모델, 각 기업에 특화된 도메인 특화 거대언어모델(LLM) 및 엔터프라이즈 LLM 같은 언어 모델 등의 연구개발 프로젝트를 수행하고 있다. 라온시큐어 AI 연구개발팀은 KISA 2024년 AI 보안 시제품 개발 지원사업으로 선정된 동형암호 기반 AI 안면인식 기술 개발 과제 외에도 기존 소비자용 모바일 보안 어플리케이션에 자체 개발한 '딥페이크 감지 안면인식 기술'과 'AI가 생성한 콘텐츠 탐지 기술'을 탑재해 올해 하반기에 선보일 예정이다. 라온시큐어와 크립토랩은 지난해 12월 양자내성암호(PQC)와 동형암호(HE) 기술 상용화를 위한 업무협약(MOU)을 체결하고 암호 기술 개발을 목표로 공동 연구개발 등 긴밀한 협력 관계를 구축해 왔다. 양사는 이번 사업 수행을 통해 동형암호 기술을 활용한 개인의 안면정보 보호 체계 마련 등 생체인증 시장에 동형암호 기반의 새로운 보안 기준을 제시하고 산업 활성화에 기여할 것으로 전망하고 있다. 이순형 라온시큐어 대표는 "생성형 AI가 보안과 신원인증 분야에도 빠르게 확산되고 있는 만큼 그 동안 AI 연구개발팀을 구성해 관련 기술을 연구 개발해 왔고 단계적인 성과를 만들어 가고 있다"며 "생성형 AI와 동형암호 기술을 적용한 안면인식 보안 기술을 통해 생체인증을 통한 신원인증 방식의 안전성을 한층 더 고도화하겠다"고 말했다.

2024.06.26 15:22장유미

"사이버 보안 인력 10만 양성"…정부 움직임에 '이 기업'도 나선다

이글루코퍼레이션이 검증된 인공지능(AI) 보안·교육 역량을 토대로 정부의 10만 보안 전문인력 양성 과정에 동참한다. 이글루코퍼레이션은 한국인터넷진흥원(KISA)이 주관하는 '2024년 AI 보안관제 전문인력 양성 사업' 수행사로 선정돼 AI 기반 보안관제 교육을 진행한다고 25일 밝혔다. 'AI 보안관제 전문인력 양성 사업'은 산업 맞춤형 AI 보안 전문 인력 양성을 위한 교육 커리큘럼 설계와 운영에 골자를 두고 있다. 이글루코퍼레이션은 컨소시엄(이글루코퍼레이션, 컬처메이커스, 올잇원)에 부사업자로 참여해 정보보호 분야 취업을 희망하는 구직자를 대상으로 AI 보안관제 노하우를 전수하는 역할을 수행한다. 주관사인 컬처메이커스는 교육과정, 자문단 운영 및 공통과정 진행을, 올잇원은 교육환경 구성 및 교육 콘텐츠 개발을 맡았다. 이글루코퍼레이션은 AI 기술이 내재화된 솔루션 개발 및 서비스 제공과 함께 핵심 보안 전문가 육성을 위한 교육 프로그램 운영에도 앞장서 왔다. 이글루코퍼레이션은 초급 인력부터 숙련된 보안 전문가까지 아우르는 커리큘럼을 제공하는 '이글루스쿨'을 10년 이상 운영하며 보안 산업 발전의 핵심 요소인 AI 보안관제 인재 양성 노하우를 축적해 왔다. 이득춘 이글루코퍼레이션 대표는 "지능화·고도화된 보안 위협에 선제 대응하기 위한 필수 요소로 AI가 자리 잡으면서 AI 기술 개발과 함께 이를 잘 활용할 수 있는 보안 전문가 양성의 중요성도 높아지고 있다"며 "고유의 교육 프로그램 운영을 통해 우수 AI 인력을 육성해 온 경험을 토대로 정부의 10만 보안 전문 인재 양성에 힘을 싣겠다"고 밝혔다.

2024.06.25 10:31장유미

KISA, 'AI 보안 전문가' 90명 키운다

정부가 올해 처음 인공지능(AI) 보안 전문가 90명을 양성해 고도화된 보안 위협에 적시 대응할 방침이다. 한국인터넷진흥원(KISA)는 과학기술정보통신부 지원을 받아 올해 신규 교육사업 'AI보안관계 전문인력 양성' 운영을 시작한다고 24일 밝혔다. AI보안관제 전문인력 양성 교육사업은 보안관제 분야 취업을 희망하는 고등학교 졸업자 또는 (전문)대학 졸업(예정)자 등 청년 구직자 대상으로 실시한다. 본 교육사업은 AI 기술이 내재화된 보안 운영 및 분석 솔루션을 활용한 실무 중심 교육을 통해 고도화된 보안 위협에 적시 대응할 수 있는 현장실무형 전문인력 90명을 양성할 방침이다. KISA에서 보유하는 상용 정보보호 제품 5종과 교육 운영사에서 보유하고 있는 가공된 실제 보안관제 데이터 로그를 통해 보안 위협 대응 및 훈련이 진행된다. 현장실무형 전문인력 양성을 위해 기업 실무 환경과 유사한 환경으로 구축된 실습장인 판교 정보보호클러스터에서 총 3회에 걸쳐 진행된다. 1, 2차 과정에서는 정보보호 기초지식(80시간)과 보안관제 장비활용 교육 및 AI 기술 접목 보안관제 실무교육(120시간)으로 총 200시간을 교육할 예정이다. 3차 과정에서는 특화산업(에너지, 교통) 분야 맞춤형 교육(30시간)을 추가함으로써 총 230시간 교육이 진행된다. 학업장려를 위해 최대 60만원을 지원한다. 최종 수료 후 인증평가를 통해 우수 교육생에게는 해외연수 프로그램 지원(11월 중)과 스마트기기 포상 등도 주어진다. KISA는 이달 27일 14개 국내 보안관제 전문기업들과 업무협약을 체결할 예정이다. 이를 통해 전문인력 양성 프로젝트와 취업 지원을 위한 협력도 진행한다. AI보안관제 전문인력 양성 수료생대상으로 취업을 위한 자기소개서 첨삭과 모의 면접 지도, 채용 연계 인턴십 제공 등의 지속적인 지원과 관리도 이뤄진다. KISA 오진영 정보보호산업본부장은 "이번 교육사업을 통해 청년 구직자들이 최신 AI 기술을 활용한 보안관제 분야에서 실무 역량을 갖춘 전문인력으로 성장할 수 있도록 지원하겠다"고 밝혔다.

2024.06.24 13:11김미정

수세, 안전한 생성형 AI 위한 '수세 AI' 전략 발표

수세는 개방적이고 안전한 엔터프라이즈급 생성 AI를 위한 '수세 AI' 비전과 전략을 18일(현지시간) 발표했다. 수세 AI는 기업이 온프레미스 또는 클라우드에서 선택한 LLM을 사용해 사설 생성형 AI 솔루션을 자유롭게 실행할 수 있는 턴키 플랫폼을 제공한다. 고객과 파트너는 기업을 위한 안전한 오픈 소스 AI의 미래를 알리기 위한 공동 이니셔티브인 수세 AI얼리 액세스 프로그램에 참여하도록 초대된다.. 올해 후반기에 출시될 예정인 얼리 액세스 프로그램의 고객, 파트너 및 커뮤니티 인사이트를 기반으로 하는 수세 AI 솔루션은 사일로를 해결하고 엔터프라이즈 생성형 AI 구현과 관련된 비용을 절감하는 모듈식, 안전한 벤더 및 LLM에 구애받지 않는 생성형 AI 플랫폼을 기업에 제공한다. 엔터프라이즈급 수세 리눅스, 랜처 프라임 쿠버네티스 관리 및 랜처 뉴벡터 보안 제품을 기반으로 구축된 이러한 AI 솔루션은 기업이 안전한 개인 환경에서 데이터 흐름을 제어할 수 있도록 해 규제 준수 위험을 줄이고 보안을 개선한다. 기업이 AI 기반 혁신과 관련 위험의 균형을 유지하는 데 어려움을 겪으면서 수세 AI 솔루션은 생성형 AI의 잠재력을 최대한 잘 활용하기 위해 미션 크리티컬 데이터에 대한 더 큰 감독 역량을 제공한다. 수세 AI 얼리 액세스 프로그램은 수세의 생성형 AI 전문가와 고객 및 파트너를 하나로 모으며 향후 수세 AI 솔루션 방향에 중요한 역할을 한다. 얼리 액세스 프로그램 고객은 수세 AI 솔루션의 최신 빌드에 액세스할 뿐만 아니라 수세 컨설턴트 및 기술 지원과 협력하여 수세 AI 솔루션을 활용하고 프라이빗 AI의 약속을 실현할 수 있다. 수세는 오픈 소스 원칙에 대한 강력한 기반, 보안 제공에 대한 헌신 및 설계에 의한 개인 정보 보호를 포함한 고객 옵션이 가장 중요하다는 믿음으로 AI에 접근하고 있다. 수세 AI는 기업이 개인적이고 안전하며 안전한 환경에서 AI를 최대한 활용하기 위해 선호하는 모델과 도구를 선택할 수 있는 권한을 부여받는 책임 있는 AI 접근 방식을 취한다. 수세의 AI는 또 다른 AI, '휴먼 퍼스트 AI'를 지향한다. 수세는 책임감 있는 AI의 가치를 이해하고 인재와 함께 AI의 능력을 극대화하기 위해 노력해 사람을 중심에 둔다. AI는 작업을 수행하는 방법을 보강하고 반복적인 장벽을 제거하며 조직이 속도에 맞게 확장하고 혁신하도록 돕는 역할이다. 수세의 AI 로드맵은 데이터를 보호하고 고객을 통제하는 데도 초점을 맞춘다. 수세의 포트폴리오는 고객이 AI의 잠재력을 열 수 있도록 돕고 있다. 후지쯔는 수세의 시장 선도적인 쿠버네티스 관리 플랫폼인 랜처 프라임과 수세 리눅스 엔터프라이즈를 사용해 개인 생성형 AI 솔루션을 개발했다. 이 솔루션을 통해 조직은 생성형 AI에서 정보를 쉽게 맥락화하고 쿼리할 수 있다. 이 솔루션으로 후지쯔는 안전한 생성형 AI 플랫폼에 대한 고객의 요구를 충족시키고 있다. 필라르 산타마리아 수세 AI 월드와이드 담당 부사장은 " 초기 단계 AI 솔루션 벤더 종속과 치솟는 비용뿐 아니라, 규정 준수 위험, 섀도 AI 및 통제 부족 등으로 인해 고객이 어려움을 겪고 있다"며 "수세 AI 솔루션과 수세 AI 얼리 액세스 프로그램에서 제공되는 수세의 AI 접근 방식은 생성형 AI를 구현하는 기업과 동일한 문제에 직면하기 때문에 수세뿐만 아니라 고객에게도 이러한 문제를 해결하는 데 도움이 될 것"이라고 밝혔다.

2024.06.19 12:36김우용

AI 사업자, 개인정보 처리 잘 할까?…정부가 확인해 보니

정부가 국내외 인공지능(AI) 서비스 사업자들의 개인정보 처리 과정을 점검한 결과와 권고사항을 발표했다. 개인정보보호위원회는 지난 12일 전체회의를 열고 SK텔레콤을 비롯한 스노우, 딥엘, 뷰노의 AI 플랫폼 사전 실태점검 결과를 의결했다고 13일 밝혔다. 이날 전체회의에선 SK텔레콤의 통화녹음·요약·통역 서비스 '에이닷' 개인정보 처리 과정 점검 결과부터 공개됐다. 점검 결과 통화 녹음‧요약 서비스는 경우 이용자 기기에서 통화 녹음이 이뤄지면 음성파일이 SK텔레콤 서버에서 텍스트로 변환되고, 이를 클라우드에서 요약되는 것으로 전해졌다. 이 과정에서 텍스트 파일을 보관하는 시스템에 접속기록이 보관되지 않았다. 이에 개인정보위는 시스템상 접속기록의 보관‧점검 등 안전조치 의무를 준수하도록 권고했다. 텍스트 파일의 보관 기간 최소화, 비식별 처리 강화, 서비스 내용에 대해 정보주체들이 명확히 이해할 수 있는 조치를 마련‧시행할 것도 요청했다. '스노우' 정보 처리 점검 결과도 나왔다. 스노우는 생성형 AI 기반으로 AI 프로필 등 얼굴 사진을 변형한 이미지를 생성할 수 있다. 해당 서비스는 인터넷에 공개된 AI 모델을 이용하고 있었다. 별도로 학습데이터는 수집하지 않으며, 서비스 이용 과정에서 생성된 이미지도 이용자 편의를 위해 일정기간 서버에 보관할 뿐, 다른 목적으로 이용하지 않고 있었다. 다만 이미지 처리방침 내용이 알기 어려운 형태로 공개됐고, 이미지 필터링 등을 위한 외부 개발도구 안전성을 충실히 검토하지 않은 것으로 드러났다. 정부는 개인정보를 서버로 전송해 처리할 경우, 이용자가 이를 쉽게 인지할 수 있도록 하라고 권고했다. 외부 개발도구로 개인정보를 처리하는 경우 의도하지 않은 개인정보 처리‧전송 가능성을 점검할 것도 요구했다. AI 번역 서비스 '딥엘'은 공개 데이터 및 이용자가 무료 서비스에 입력한 텍스트를 AI 학습데이터로 활용했던 것으로 나타났다. 개인정보위는 딥엘이 이용자가 무료 서비스에 입력한 정보에 대해 AI 학습 및 인적 검토를 진행하면서 이를 명확하게 공개하지 않은 사실을 확인했다. 다만 회사는 개인정보위가 지난 3월 발표한 내용 바탕으로 개인정보를 입력하지 않도록 입력 화면에 안내하고, 인적 검토 사실을 처리방침에 반영해 개선권고를 받지 않았다. 뷰노는 AI 기반 의료영상이나 생체신호를 판독·진단을 돕고 질환을 예측하는 솔루션을 운영하는 기업이다. 해당 기업은 AI 학습에 병원의 기관생명윤리위원회 및 기관데이터심의위원회를 통과한 데이터만 사용하고, 의료기관에서 프로그램에 입력한 의료영상 등의 데이터는 사용하지 않는 것으로 확인됐다. AI 학습데이터 수집·처리 관련 보호법 위반 사항은 발견되지 않았다. 개인정보위 관게자는 "정보주체가 안심하고 AI 서비스를 활용할 수 있도록 AI를 도입하는 응용서비스에 대한 지속적인 모니터링을 실시할 것"이라며 "AI 시대의 개인정보 보호 대책 및 안전한 개인정보 활용 방안을 마련하겠다"고 밝혔다.

2024.06.13 14:32김미정

S2W "생성형 AI로 '보안 인텔리전스 시대' 열겠다"

에스투더블유(S2W)가 생성형 인공지능(AI)과 보안 기술을 결합해 사업 생태계를 확장한다. S2W는 'AI·보안 전문 데이터 인텔리전스 기업'으로 비전을 명명하고 AI와 보안 양대 산업을 주축으로 한 미래 로드맵을 완성했다고 13일 밝혔다. AI와 보안 기술력, 빅데이터 가공 기술을 결합해 생태계를 확장해 나간다는 전략이다. AI 시장은 갈수록 보안 문제가 화두로 떠오르며 정보 유출, 할루시네이션 등 여러 문제로 골머리를 앓고 있다. 보안 시장의 경우 기술 강화를 위해 첨단 AI 기술 도입이 시급한 상태다. S2W는 이런 상황을 직시해 두 시장 개혁에 나선다. AI 시장에서는 '최고의 보안을 갖춘 AI'를, 보안 시장에서는 '고도의 AI 성능까지 갖춘 보안'을 솔루션으로 이루겠다는 포부다. 이 전략은 이미 상용화 단계에 돌입했다. 기업 맞춤 생성형 AI '에스에이아이피(SAIP)' 기반으로 AI 사업 확대에 본격 나섰다. SAIP는 검색증강생성(RAG)에 보안이 결합된 구조로 이뤄졌다. 회사는 해당 제품이 데이터 유출 등 내부자 위협을 방어하며 정확도와 안정성까지 갖췄다는 입장이다. 최근 현대제철에 SAIP를 공급하기 시작했다. S2W는 사이버 보안 사업도 확장한다. AI 기술로 개별 기업 및 기관에서 처리하기 까다로운 다크웹, 딥웹 등의 비정형 데이터를 정교하게 수집·분석함으로써 선순환 구조를 갖출 계획이다. 이를 통해 퀘이사, 자비스 등 자사의 위협 인텔리전스(CTI) 서비스들을 명실상부 가장 스마트하고 안전한 AI 보안 솔루션으로 입지를 굳힌다. 글로벌 진출 전략에도 속도가 한창이다. 자비스는 인도네시아 공공기관에 공급되고 있으며 퀘이사는 미국 IP 보안 플랫폼인 쓰렛 쿼션트에 제공되는 등 국경을 넘나들며 가시적인 성과를 내고 있다. 향후 일본, 싱가포르를 중심으로 아태지역 영업을 확장하고 중동, 유럽 지역에도 진출할 계획이다. 서상덕 S2W 대표는 "S2W는 보안을 넘어 빅데이터 가공과 AI 기술력을 토대로 생성형 AI 포트폴리오를 확보했고 이제는 실질적인 규모급 성과로 시장 경쟁력을 증명했다"며 "미국에서 보안기업으로 시작해 데이터 인텔리전스 시장을 대표하게 된 '팔란티어'처럼 S2W를 아시아의 팔란티어, 더 나아가 글로벌 데이터 인텔리전스 기업으로 자리매김시킬 것"이라고 밝혔다.

2024.06.13 09:19김미정

AWS "생성형 AI보다 보안 문화가 더 중요"

[필라델피아(미국)=남혁우 기자] "보안은 단순히 기술적 문제가 아니라 조직 전체의 활동에 깊이 뿌리내린 근본적인 요소이기 때문에 생성형AI 같은 기술 혁신보다 더욱 중요하다. 기업의 모든 활동에서 보안이 최우선 과제로 자리잡아야 한다." 11일(현지시간) 아마존웹서비스(AWS)의 크리스 베츠 최고정보책임자(CISO)는 미국 필라델피아에서 열린 AWS 리인포스 2024 키노트 발표에서 보안 문화가 기업 활동의 근본이 되어야 한다고 강조했다. 보안이 기술혁신보다 중요한 이유로 그는 서비스와 제품에 대한 신뢰와 비즈니스 지속 가능성을 꼽았다. 고객사의 민감한 정보가 사이버공격으로 인해 유출되거나 손상된다면 기업의 신뢰도와 평판이 크게 훼손될 뿐 아니라 이후 고객사 확보도 어려워지는 등 비즈니스에 치명적일 수 있다는 설명이다. 또한, 데이터의 중요성이 커지면서 많은 국가에서 데이터 보호와 관련된 규제를 준수하지 않으면 법적 제재와 벌금을 부과하는 법안이 마련되는 추세다. 더불어 크리스 베츠 CISO는 “생성형AI 같은 혁신적인 기술이나 서비스도 사이버 공격 위험에 노출되거나 지속해서 지적되는 윤리적인 문제가 발생할 수 있다”며 “보안 문화가 철저히 유지되어야만 혁신적인 기술도 가치를 제대로 발휘할 수 있다”고 설명했다. ■ AWS, 모든 기업 정책 최우선 순위 '보안' 크리스 베츠 CISO는 비즈니스 연속성을 보장하고 기업의 신뢰도를 높이기 위해 보안 문화를 강화하는 작업에 주력하고 있다고 밝혔다. AWS는 모든 임직원이 보안의 중요성을 인식하고, 이를 준수할 수 있도록 조직 전체에 일관된 보안 정책을 제시하고 있다. 크리스 베츠 CISO는 이런 문화를 조성하는 과정에서 최고 경영진의 적극적인 참여와 지속적인 교육이 가장 중요하다고 강조했다. AWS는 매주 금요일마다 각 계열사의 최고경영자(CEO)들과 보안 리더들이 서비스 팀과 만나 보안 문제를 논의한다. 그는 “이러한 작업을 통해 보안이 최우선 과제임을 명확히 하고 모든 팀이 보안을 중심으로 작업할 수 있도록 유도한다”며 “최고경영진의 참여는 조직 전체가 보안을 중요하게 여기는 문화를 형성하는 데 가장 중요한 역할을 한다”고 말했다. AWS는 각 서비스 팀이 자신들의 제품과 서비스에 대한 깊은 이해를 바탕으로 초기 단계에서부터 보안을 고려한 스마트한 결정을 내리도록 한다. 팀 리더들은 보안에 대한 책임을 지며, AWS 리더십은 이들이 보안을 유지할 수 있도록 지원한다. 이를 통해 모든 팀이 자율적으로 보안을 강화하는 문화를 조성하고 있다. 각 서비스 팀마다 보안 전문가인 가디언(Guardian)을 배치해 보안 모범 사례를 확산시키고, 개발 주기의 각 단계에서 보안 결정을 돕는 프로그램을 운영한다. 가디언은 개발 과정 전반에 참여해 보안 문제를 신속히 식별하고 해결할 수 있도록 돕는다. ■ 인프라에서 생성형AI까지 전방위에 걸친 보안 서비스지원 AWS는 인프라와 시스템의 보안을 강화한 노하우와 기술력을 기반으로 고객사의 클라우드 보안 환경을 지원하기 위한 신규 서비스도 선보였다. 자동화된 논리적 추론은 소프트웨어(SW) 시스템과 암호화 프로토콜의 정확성을 검증하고, 보안 정책과 네트워크 제어의 일관성을 확인한다. 이는 무한한 입력 가능성을 체계적으로 탐색해 보안을 강화하는 방법으로 보안 문제를 사전에 예방하고, 잠재적인 취약점을 신속히 해결할 수 있도록 지원한다. AWS 프라이빗 인증기관(Private CA)은 모바일 디바이스 애플리케이션에서 인증서 등록 과정을 간소화할 수 있는 신규 기능이다. 사용자는 자체 공용 비즈니스 또는 직업 범위를 관리하는 데 소요되는 시간과 비용을 절감할 수 있다. AWS 아이덴티티&엑세스 매니지먼트(IAM)가 패스키를 두 번째 인증 요소로 지원하며, 조직 내 리소스에 대한 액세스 권한을 분석 후 불필요한 외부 접근을 식별하고 차단할 수 있는 IAM 엑세스 애널라이저가 추가됐다. 아마존 시큐리티 레이크는 100개 이상의 AWS 내부 및 외부 데이터 소스에서 보안 관련 데이터를 중앙 집중화하고 분석할 수 있게 해준다. 이를 통해 강력한 인사이트를 제공하고 위협 탐지를 간소화할 수 있다. 악성코드를 자동으로 탐지하고 가드듀티 멀웨어 프로텍션의 아마존 S3용 버전도 공개됐다. S3 버킷에 업로드되는 파일을 자동으로 스캔하고 악성코드가 탐지될 경우 파일을 자동으로 격리하거나 삭제한다. 특히 AWS는 수요가 급증하는 생성형 AI에 대한 보안을 강화하기 위한 데이터 보호 및 생성형AI 기반 신규 기능을 추가하고 기존 인프라와 시스템을 개선했다. 차세대 EC2 인스턴스를 위한 기반인 AWS 나이트로 시스템은 격리된 실행 환경을 제공해 민감한 데이터를 안전하게 처리하고 외부의 무단 접근을 방지하는 AWS 니트로 엔클레이브를 지원한다. AWS 그라비톤4 프로세서는 모든 고속 물리적 하드웨어 인터페이스를 암호화해 하드웨어 기반 공격을 방어한다. 리턴 지향 프로그래밍(ROP)과 점프 지향 프로그래밍(JOP) 공격을 방어하기 위한 대책도 마련됐다. 아마존 배드록과 세이지메이커는 AI 모델 훈련 및 배포 과정에서 보안 가드레일 기능이 추가됐다. 모델 훈련 소스의 변경, 모델 이상 행동 탐지 및 보안 위협 탐지와 같은 기능을 통해 AI 워크로드를 보호한다. 이를 통해 AI 모델의 훈련과 배포 과정에서 보안을 강화할 수 있다. 생성형 AI를 활용한 쿼리 생성 기능이 미리보기 버전으로 출시됐다. 이 기능은 복잡한 SQL 쿼리를 작성하지 않고 자연어 입력만으로 클라우드트레일 레이크에서 AWS 활동 이벤트를 간단하게 분석할 수 있도록 지원한다. 또한 쿼리를 추가해 목적에 따라 미세조정을 실시할 수도 있다. 크리스 베츠 CISO는 "보안 문화는 단순히 기술적 문제가 아니라 조직 전체의 활동에 깊이 뿌리내린 근본적인 요소"라며 "해킹, 데이터 유출, 시스템 장애 등 기업이 직면할 수 있는 다양한 위험을 관리하기 위한 보안이 뒷받침되지 않으면 새로운 기술 도입과 혁신도 제대로 이뤄질 수 없다"고 말했다. 이어서 그는 "즉, 보안 문화는 기업의 장기적인 안정성과 지속 가능성을 보장하며, 이는 단기적인 기술적 성과보다 더 중요하다고 할 수 있다"며 보안의 중요성을 강조했다.

2024.06.12 15:03남혁우

마이크로소프트 "원하는 사람만 코파일럿+PC '리콜' 쓰세요"

마이크로소프트가 보안 이슈 방지를 위해 코파일럿+PC 스크린샷 기능을 자동 활성화에서 사용자 옵션 방식으로 전환했다. 7일 미국 씨넷 등 외신에 따르면, 마이크로소프트가 코파일럿+PC에서 화면을 자동 캡처하는 '리콜'을 옵트인 방식으로 바꿨다고 발표했다. 리콜은 기본적으로 비활성 상태일 것이며, 사용자가 이를 활성화해야만 작동한다. 회사는 지난달 인공지능(AI) PC에 리콜을 기본 기능으로 탑재하겠다고 발표한 바 있다. 이 기능은 코파일럿+PC에서 수행하는 모든 작업을 스크린샷으로 저장할 수 있다. 이달 18일 출시 예정이다. 공개 직후 전 세계 전문가들은 리콜의 보안 문제를 우려했다. 씨넷 보도에 따르면, 리콜은 암호화 시스템 없이 데이터베이스에 스크린샷을 저장하는 것으로 드러났다. 이는 해커가 스크린샷에 쉽게 접근할 수 있는 통로다. 이같은 반응에 회사는 리콜 활성화 방식을 사용자 선택 사항으로 변경한 것이다. 원하는 이들만 리콜을 쓸 수 있게 정책을 바꾼 것이다. 보안 기술도 한층 키웠다. 마이크로소프트는 스크린샷을 저장하는 리콜 데이터베이스를 암호화한다. 생체 인증 기능인 '윈도 헬로'가 활성화된 컴퓨터에만 리콜이 접근할 수 있도록 설정했다. 리콜 이용자는 저장된 스크린샷에 접근할 때마다 윈도 헬로에 로그인해야 한다.

2024.06.09 09:35김미정

'AI 보안 강자' 파수, 美서 해외 고객 확보 가속

파수가 글로벌 보안 컨퍼런스에서 인공지능(AI) 시대에서의 데이터 보안 및 관리 방안을 제시하며 해외 고객 공략에 속도를 높였다. 파수는 지난 3일부터 3일간 미국 메릴랜드 내셔널 하버에서 개최된 글로벌 보안 컨퍼런스 '가트너 시큐리티 서밋 2024(Gartner Security & Risk Management Summit 2024)'에 참가했다고 5일 밝혔다. 가트너 시큐리티 서밋은 글로벌 IT 컨설팅 & 리서치 그룹 가트너가 주최하는 세계적인 보안 행사로, 글로벌 기업의 C레벨들이 참석해 보안 트렌드 및 인사이트를 공유하는 자리다. 파수는 2013년부터 가트너 시큐리티 서밋 행사에 연속으로 참가하며 글로벌 SW 기업으로서의 입지를 굳혀왔다. 파수는 올해 초 '고객들의 AI 활용을 지원하는 기업'으로의 변화를 선포하고 AI 비전으로 'AI-레디 데이터(Ready Data)', 'AI-레디 시큐리티(Ready Security)' 등을 발표했다. 또 가트너 시큐리티 서밋 2024 참가를 기점으로 글로벌 시장에서도 고객들의 AI 활용을 위해 적극 지원할 예정이다. 이번 행사에서 파수는 '데이터 관리와 보안, 거버넌스(Data Management, Security and Governance)'를 주제로 세션 발표와 단독 부스도 진행했다. 지난 3일 오후(현지 시각) 진행된 파수의 세션 발표에서 론 아든(Ronald Arden) 파수 미국법인 COO는 AI 활용을 위해 데이터의 양, 질, 가용성과 보안 등 데이터 전체의 거버넌스를 향상하는 전략을 소개했다. 론 아든 COO는 "생성형 AI를 통해 더 나은 비즈니스 가치를 만들어내기 위해서는 AI 학습에 활용되는 조직 내 콘텐츠 관리가 중요하다"며 "파수의 문서관리 플랫폼 '랩소디(Wrapsody)'는 모든 중요 문서를 중앙화하고 문서에 대한 모든 정보 및 사용 이력을 자산화해 데이터를 효율적으로 관리할 수 있다"고 설명했다. 파수의 'AI-레디 데이터' 전략의 핵심인 랩소디는 문서 작업 후 저장만으로도 문서자산화, 분류, 버전 관리, 권한 관리 기능 등을 제공해 AI 활용을 위한 데이터 관리에 최적이다. 이어 아든 COO는 챗GPT(ChatGPT), 제미나이(Gemini) 등 생성형 AI 서비스 활용 시 민감 정보 유출을 방지하는 방안으로 파수 'AI-R DLP(AI Radar Data Loss Prevention)'를 소개했다. AI-R DLP는 생성형 AI 서비스에 대한 접근 권한을 제어하고, 프롬프트에 입력된 데이터를 모니터링해 핵심 기술, 영업 비밀, 개인 정보 등과 같은 민감 정보 유출을 막는다. 파수의 단독 부스에서는 랩소디와 AI-R DLP 외에도 백업 솔루션 'FC-BR'과 개인정보검출 솔루션 'AI-R 프라이버시(Privacy)' 등을 함께 선보였다. FC-BR은 중요 데이터를 자동으로 서버에 백업하고, 사용자가 원할 때 언제든지 원 클릭으로 백업된 문서들을 복원할 수 있다. PC에만 존재했던 중요 문서들도 파일서버 또는 클라우드 저장소에 백업해 활용할 수 있어 생성형 AI 도입을 위한 조직의 문서자산화까지 돕는다. AI-R 프라이버시는 비정형 데이터 내 개인 정보를 AI 기반으로 탐지할 수 있어 조직이 보유한 개인 정보를 보호하고 관리하는 데 효과적이다. 조규곤 파수 대표는 "AI 시대에 데이터 보안의 중요성은 더욱 강조되고 있고, 이번 가트너 시큐리티 서밋 2024에 참가함으로써 자사 솔루션이 어떻게 기업의 경쟁력을 강화시킬 수 있는지를 전 세계 보안 전문가들과 공유할 수 있었다"며 "앞으로도 혁신적인 기술을 바탕으로 글로벌 시장에서의 리더십을 더욱 강화해 나갈 것"이라고 강조했다.

2024.06.05 10:19장유미

모니터랩, 웹 공격 미리 알아채는 'AI 탐지기' 만든다

모니터랩이 웹 공격을 인공지능(AI) 기술로 자동 탐지하는 솔루션을 개발해 신종 사이버 위협에 대응할 방침이다. 모니터랩은 과학기술정보통신부와 정보통신산업진흥원(NIPA)이 주관하는 '2024 AI 바우처 지원 사업'에 선정됐다고 3일 밝혔다. 선정된 과제는 'AI 기반 웹 공격 분석기술 적용을 통한 '타르고스 보안관제서비스의 고도화'다. 오픈베이스의 위협 인텔리전스 플랫폼 타르고스에 모니터랩이 제공하는 머신러닝 기반의 자동화된 웹 공격 탐지 모듈과 비실행 파일 분석 모듈을 연동하는 식이다. 이를 통해 관제 서비스를 고도화한다. 기존 로그 기반의 위협 수집 모니터링 기술을 보유했던 타르고스에 URL 기반의 자동화된 공격 탐지 기술과 유사도 분석 기술도 적용했다. 이를 통해 신종 위협에 사전 대응하고 원인 분석이 가능하도록 하는 고도화 작업도 진행된다. 이러한 과제를 달성하기 위해 모니터랩이 제공하는 AI 솔루션은 'MWP'와 'MAD-PDF'다. AI 기반의 머신러닝 기술로 작동하는 제품들이다. 특히 MWP는 SQL 인젝션이나 xss 등 13가지 범주의 다양한 웹 위협을 탐지·분류할 수 있다. MAD-PDF는 PDF 파일 내에 암호화된 신·변종 악성코드를 탐지할 수 있다. 이번 과제는 5월부터 11월까지 약 7개월간 진행된다. 오픈베이스가 주관기관으로 프로젝트를 총괄하고, 모니터랩이 컨소시엄으로 참여하는 식이다. 이광후 모닐터랩 대표는 "날이 갈수록 진화하는 사이버 공격으로부터 기업의 웹 자산을 지키고, 국가 안보를 위협하는 군사 기밀 유출도 예방할 수 있는 위협 인텔리전스 고도화에 일조할 것"이라고 말했다.

2024.06.03 17:24김미정

기축 아파트도 망분리 필수…"구축 비용 절감·보안 의식 높여야"

정부가 신축 아파트에 이어 기축 아파트에 홈네트워크 보안 의무화를 적용한 가운데, 관련 업체 움직임이 분주해졌다. 특히 기축 아파트에 보안 프로그램 설치 비용을 낮추고 보안 의식 제고에 힘써야 한다는 목소리가 이어졌다. 지난 2021년 아파트 월패드 해킹 사건 후 아파트의 홈네트워크 보안 취약성이 꾸준히 나왔다. 아파트 특성상 입주민이 네트워크를 공유하는 환경에서 한 세대만 해킹당해도 전체 세대가 피해를 보는 상황이기 때문이다. 정부는 홈네트워크 보안 강화 목적으로 2022년 7월 1일 이후 시공 승인 받은 신축 예정 아파트에 세대 간 홈네트워크 망분리 적용을 의무화했다. 그래도 문제는 꾸준히 제기됐다. 망분리 의무화 사각지대인 기축 아파트에도 홈네트워크 보안 취약점이 발견됐기 때문이다. 이에 정부는 지난달 신축·신축 예정 아파트뿐 아니라 기축 아파트에도 망분리 적용 의무화를 발표했다. "기축 아파트, VLAN으로 망분리 구축 비용 절감" 기축 아파트에 차별화된 망분리 적용이 필요하다는 목소리도 나온다. 기존 입주민이 보안 네트워크 구축에 비용 부담을 느끼고 있어서다. 기축 아파트에 망분리 시스템을 구축하려면 각 세대 내부에 별도 하드웨어 장비를 설치해야 한다. 입주민은 추가적인 하드웨어와 소프트웨어 비용을 지불해야 하는 상황이다. 이에 업계에선 세대별 장비 구축이 필요 없는 가상근거리통신망(VLAN) 방식이 선호될 것으로 보고 있다. VLAN을 사용하면 네트워크를 물리적 위치와 상관없이 논리적으로 분리할 수 있다. 모든 세대가 보안프로그램 설치를 할 필요가 없는 셈이다. 스콥정보통신 관계자는 "VLAN은 한 물리적 네트워크 인프라로 여러 네트워크를 동시에 운영할 수 있다"며 "아파트 단지는 보안 솔루션에 필요한 하드웨어 비용을 절감할 수 있다"고 본지에 밝혔다. 관계자는 "보안 관리자는 중앙 관리 시스템에서 이를 한번에 모니터링 할 수 있다"고 설명했다. 시스템 변경도 하드웨어가 아닌 소프트웨어적으로 가능하다. 그는 "기존 망분리 기술은 물리적 장비 관리와 유지보수가 꾸준히 필요하다"며 "네트워크 구성 변경마다 작업이 필요해 비용이 계속 든다"고 덧붙였다. 다만 VLAN 기술은 도입 초기 단계다. 한 업계 관계자는 "국내에 VLAN 관련 인증도 아직 활성화되지 않은 상태다"며 "활용 사례가 지속적으로 나와야 할 것"이라고 말했다. "기축 아파트, 보안 의식 제고해야"...정부 지원 이어진다 업계는 홈네트워크 보안 구축 활성화를 위해 기축 아파트 의식 제고도 필요하다고 봤다. 현재 기축 아파트 운영 관계자들이 홈네트워크 보안 중요성에 크게 공감하지 않기 때문이다. 이에 정부는 기축 아파트 운영자 대상으로 보안 의식 활성화를 위해 노력하겠다고 밝혔다. 한국인터넷진흥원(KISA)은 지난해에 이어 올해 '아파트 보안 자율점검'을 추진한다. 이는 아파트 보안 자율점검 사업으로 기축 아파트 홈네트워크 관리자를 비롯한 운영유지보수 담당자들이 홈네트워크 장비 보안을 점검할 수 있도록 안내서를 제공할 방침이다. 보안 인식 관련 교육과정도 운영한다. KISA가 전국 200개 단지 대상으로 아파트 보안점검을 지원하거나 컨설팅을 수행할 진행이다. KISA 디지털안전지원본부 김정희 본부장은 "홈네트워크 보안 필요성이 높아지고 있는 시점에서 공동주택 관리자들의 준비도 함께 필요하다"며 "KISA의 아파트 보안 자율점검 지원이 홈네트워크 보안의 마중물 역할을 함으로써 전국 아파트 단지들이 자체적으로 보안점검을 수행할 수 있게 되길 바란다"고 말했다.

2024.06.03 16:09김미정

오픈AI "중국·러시아, 여론 조작에 챗GPT 활용"

중국과 러시아, 이란, 이스라엘이 여론 조작을 위해 오픈AI의 챗GPT를 사용한 것으로 전해졌다. 생성형 인공지능(AI)으로 가짜 기사와 댓글을 생성해 정치적 영향력을 은밀히 행사한 것이다. 30일(현지시간) 뉴욕타임스(NYT) 등 주요 외신은 오픈AI가 이런 사실을 공식 블로그를 통해 알렸다고 보도했다. 오픈AI는 "지난 3개월 동안 여론 조작 목적으로 활용된 사례 5건을 발견했다"며 "현재 이를 모두 중단시킨 상태"라고 밝혔다. NYT에 따르면 해당 국가에서 챗GPT로 거짓 댓글과 기사를 생성한 사례가 나타났다. AI로 가짜 소셜미디어 계정 이름과 약력을 구성하거나 코드를 디버깅하는 작업도 수행했다. 오픈AI는 이런 사례를 러시아에서 두 건, 중국에서 한 건, 이란에서 한 건, 이스라엘에서 한 건을 확인했다. 현재 해당 작업은 모두 중단됐다. 회사는 "이는 러시아 우크라이나 침공, 가자지구 분쟁, 인도 선거, 유럽·미국 정치 공작, 중국 반체제 인사와 관련한 내용"이라고 설명했다. 예를 들어 이스라엘 사용자가 가자지구 전쟁에 대한 짧은 텍스트를 작성해 가짜 소셜 미디어에 게시한 뒤 이와 관련한 댓글과 답글을 AI로 작성하는 식이다. 해당 내용이 큰 주목을 받는 것처럼 꾸며내기 위해 AI를 활용한 셈이다. 오픈AI는 "자체 AI 기술로 사례를 추적했다"며 "덕분에 며칠 만에 이런 조사를 모두 마칠 수 있었다"고 밝혔다. 챗GPT 등 자사 제품에 안전 방어 기능을 사전에 갖췄다는 점도 강조했다. 오픈AI는 "다수 사례에서 오픈AI 도구는 행위자의 악의적 사용 시도에 결과물을 생성하지 않았다"고 설명했다.

2024.05.31 09:48김미정

  Prev 11 12 13 14 15 16 17 18 Next  

지금 뜨는 기사

이시각 헤드라인

삼성전자, 브로드컴과 HBM3E 12단 공급 추진…ASIC서 기회 포착

메타의 공격적 AI 인재 사냥, 핵심은 '데이터 전쟁'

입점하면 서로 이득…유통가, ‘올다무’ 유치 경쟁 치열

새정부 독자AI 구축 의지...통신사, 자체 AI 모델 공개

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.