• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 인터뷰
  • 인사•부음
  • 글로벌뉴스
창간특집
인공지능
배터리
컨퍼런스
칼럼•연재
포토•영상

ZDNet 검색 페이지

'인터넷 시큐리티'통합검색 결과 입니다. (3건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

[보안리더] 김휘강 "해커 출신 교수 1호···게임 논문 등으로 명성"

제가 해커 출신 교수 1호일 거예요. 한국과학기술원(KAIST·카이스트) 해킹 동아리 '쿠스(KUS)' 회장으로서 모의 해킹을 많이 해 봤거든요. 이 경험을 살려 학생에게 네트워크 보안을 가르치고 있습니다. 꿈이 있다면 2~3년 안에 AI스페라가 상장하기 바랍니다. 거인과 어깨를 나란히 하는 회사가 돼 더 큰 자본과 싸우고 싶어요. 김휘강 고려대 정보보호대학원 교수는 지난 11일 서울 성동구 AI스페라 사무실에서 지디넷코리아와 만나 이같이 밝혔다. 그는 고려대 정보보호대학원 해킹대응기술연구실에서 함께 연구하던 강병탁 대표와 같이 2017년 10월 AI스페라를 창업했다. 인터넷프로토콜(IP) 주소를 수집해 2023년 4월 '크리미널(Criminal) IP'를 선보였다. IP 주소를 검색하면 불법인지 알려주기에 'IP 범죄 기록부'라 불린다. 김 교수는 “IP를 추적하면 수법과 해커가 남긴 악성코드를 분석해 누가 해킹했는지 알 수 있다”며 “사이버 위협 정보로 모든 것을 알지는 못해도 수사관이 단서를 얻을 수 있다”고 말했다. AI스페라는 외국에서 더 유명하다. 영어로 시작해 한국어·일본어·프랑스어·아랍어로 서비스 언어를 늘렸다. 김 교수는 “한국이 사이버 강국이 되려면 회사를 만들 때부터 해외 사업을 하겠다는 목표를 잡아야 한다”며 “그렇게 출발한 AI스페라도 우여곡절이 많다”고 밝혔다. 그는 “한국 기업이 해외에서 성공하려면 현지 법과 제도를 알아야 하고, '몇 년은 손실 본다'는 생각으로 돈을 써야 된다”며 “한국에서보다 훨씬 많은 인건비를 쓰면서 버틸 수 있는 회사가 많지 않다”고 지적했다. 이어 “정부는 창업기업이 해외 벤처캐피털(VC)과 만날 수 있게 이어주면 좋겠다”며 “기업과 아울러 정부와 자본시장도 해외 진출 전문성을 길러야 한다”고 덧붙였다. 김 교수는 국내 보안 컨설팅 기업 에이쓰리시큐리티컨설팅도 세운 바 있다. 그는 “은행 인터넷뱅킹과 증권사 홈트레이딩시스템(HTS)을 모의 해킹해 '이런 취약점을 고치라' 권했다”며 “취약점 자동 진단 도구도 만들었다”고 전했다. 국내 유명 게임회사도 거쳤다. 엔씨소프트 정보보안실장이었다. 김 교수는 “누가 게임 '리니지' 회원으로 가입하려 보니 '이미 가입한 주민등록번호였다' 하더라”며 “주민번호 생성기가 유행하던 때”라고 회상했다. 이후 “2006년 엔씨소프트는 모바일 일회용비밀번호(OTP) 생성기 '린OTP'를 국내에서 처음으로 모든 사용자에게 무료로 줬다”며 “대부분 스마트폰 기종에서 쓰게끔 시험했다”고 설명했다. 고려대로 온 건 2010년이다. 게임 생태계 폐단을 논문으로 알려 유명해졌다. 비트코인 같은 게 나오기 전 게임머니가 가상화폐 역할을 했다. 김 교수는 “'작업장'이란 곳에서 무료 계정 수백개를 모으는 조직, 이 계정이 게임에서 자동으로 사냥하게 시키는 조직, 이렇게 번 게임머니를 중국으로 보내 환전하는 조직이 마약 조직처럼 일한다”고 지적했다. 이를 포함해 온라인 게임과 자동차 보안 논문을 여럿 썼다. 김 교수는 “고려대 정보보호대학원 해킹대응기술연구실의 침입 탐지 시스템 연구 성과는 세계 자동차 보안 연구 자료로 널리 활용된다”며 “지난 2월 미국 스탠포드대와 논문 정보 분석 기업 엘스비어가 세계 상위 2% 연구자로 뽑는 영예를 안았다”고 말했다. 이들 기관은 5편 이상 논문을 발표한 세계 연구자 중 논문이 얼마나 많이 인용됐는지 등을 평가한다. 이밖에 2022년 6월 한국과학기술단체총연합회 제32회 과학기술우수논문상, 2023년 5월 고려대 석탑국제협력상과 석탑연구상, 2024년 9월 개인정보보호유공 및 개인정보보호위원장 표창, 2024년 11월 사이버치안대상 대통령 표창 등을 받았다. 아래는 김휘강 교수 주요 이력. 대전과학고 카이스트 산업경영학과 학사 카이스트 산업공학과 석사 카이스트 산업공학과 박사 1999.8~2004.4 에이쓰리시큐리티컨설팅 창업 및 대표컨설턴트 2004.5~2010.2 엔씨소프트 정보보안실장 2010.3~현재 고려대 정보보호대학원 교수 2017.11~현재 AI스페라 공동창업자

2025.04.15 16:35유혜진

[현장] KISA "AI 공격 더 교묘…프롬프트 오염부터 막아야"

"생성형 인공지능(AI) 해킹 공격이 더 교묘해졌습니다. 모델이 악성 프롬프트에 오염돼 일반 사용자 질문에 엉뚱한 답변을 하는 사례가 늘었습니다. 프롬프트 오염부터 막는 것이 안전한 AI 모델을 지키는 길입니다." 한국인터넷진흥원(KISA) 김성훈 팀장은 5일 서울 용산 로얄파트컨벤션에서 열린 '2024 AI 시큐리티 데이'에서 안전한 생성형 AI 생태계를 위한 방안을 이같이 밝혔다. 김 팀장은 최근 보안 기술이 성장했다고 주장했다. 생성형 AI 모델을 해커로부터 보호할 수 있는 수준이라고 했다. 다만 해커들은 새로운 방식으로 생성형 AI 모델을 공격하고 있다고 지적했다. 오염된 프롬프트를 모델에 학습시키는 것이 공격 트렌드라고 말했다. 이런 공격은 해커가 모델에 악의적으로 프롬프트를 조작하는 식으로 진행된다. 이를 통해 일반 사용자가 모델에 질문했을 때 정상적인 답변을 받을 수 없다. 악의적 프롬프트가 사용자 질문을 다른 질문으로 전환하기 때문이다. 결과적으로 생성형 AI는 사용자 질문과 무관한 답변을 생성한다. 김 팀장은 "다크웹서도 이런 조작법이 공유되고 있는 실정"이라며 "건강한 AI 생태계를 위해 빠른 대응이 필요하다"고 강조했다. 김 팀장은 이에 대한 대응책을 제시했다. 개발사는 생성형 AI 모델 개발에 필요한 데이터 수집부터 데이터 전처리, AI 모델 설계·학습, AI 모델 검증·테스트 과정에 반복적인 검증 시스템 체계를 갖춰야 한다고 강조했다. 김 팀장은 "그동안 소프트웨어 보안 검증은 일회성에서 끝났지만, AI 모델 검증은 다르다"며 "주기적인 보안 검증을 꾸준히 진행해야 한다"고 당부했다.

2024.09.06 10:02김미정

KISA가 제시한 AI 시대 사이버위협 대응책은?

한국인터넷진흥원(KISA)이 일상 속 발생하는 사이버위협에 대응하기 위한 방안을 제시한다. KISA는 오는 5일 서울 용산 로야파크컨벤션에서 과학기술정보통신부와 AI 관련된 사이버 위협 사례 공유와 대응 방안을 논의하기 위해 '2024 AI 시큐리티 데이' 세미나를 연다고 2일 밝혔다. KISA는 이번 세미나에서 'AI가 만든 사이버위협, AI가 막는 사이버위협'이라는 주제로 AI 기술의 순기능과 역기능을 조명한다. 최근 사이버 공격자들이 생성형 AI를 악용해 악성코드를 제작해 공격을 시도하는 경우가 빈번해지고 있어서다. 이번 세미나는 국내 1호 프로파일러 권일용 교수의 '편리함의 역습' 특별강연을 시작으로 ▲기업용 거대언어모델(LLM) 도입 사례 ▲AI LLM 해킹 기법 및 보안전략 ▲진화하는 사기, AI FDS로 막는다 ▲AI 범죄와 보안대책 ▲AI 기반 보안 기술 및 적용 사례를 주제로 발표가 이어진다. 이후 ▲AI 개발·서비스를 위한 공개된 개인정보 처리 안내서 ▲생성형 AI 보안 위협 대응방안 ▲딥페이크 규제에 대한 대응 등 최근 발표된 주요 정책 현황을 공유한다. 이 외에도 ▲2024 AI+시큐리티 아이디어공모전 및 데모데이 시상식 ▲구매상담회 ▲기업 간 네트워킹을 위한 '밋업데이' 등 부대행사도 개최된다. AI에 관심이 있는 국민이라면 누구나 무료로 당일 현장등록 등을 통해 참석 가능하다. 일부 세션은 온라인 생중계로 송출된다. 이상중 KISA 원장은 "이번 세미나를 통해 국민의 일상과 밀접해 발생 가능한 사이버위협 사례를 조명하고 이를 해결하기 위한 기술·정책적 측면의 대응 방안을 공유하는 뜻깊은 자리가 되길 바란다"며 "AI 기술을 활용한 보안 제품·서비스 개발을 지원하고, 국내 AI 보안 유망기업을 육성해 글로벌 시장 진출과 안착을 위해 지속적 관심과 지원을 다하겠다"고 말했다.

2024.09.02 14:59김미정

  Prev 1 Next  

지금 뜨는 기사

이시각 헤드라인

블록체인 가상자산, '입법지연·예산삭감·규제' 악순환 끊어야

[AI는 지금] 대선후보들 'AI 전쟁' 돌입…기술 주권부터 전력 인프라까지 격돌

한화 김동선 진두지휘 ‘벤슨' 뭐가 다른가…‘100% 국내산 유제품'

SKT "정보 유출 없다 '확신'...있더라도 끝까지 책임"

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현