• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 인터뷰
  • 인사•부음
  • 글로벌뉴스
창간특집
인공지능
배터리
컨퍼런스
칼럼•연재
포토•영상

ZDNet 검색 페이지

'이로운앤컴퍼니'통합검색 결과 입니다. (5건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

[보안기업] 이로운앤컴퍼니 "AI보안 우리가 책임···한국서 유일"

“'나쁜 일 해서 많은 돈 벌지 말자'는 게 좌우명이에요. '덜 벌더라도 착한 일 하자'고 생각하죠. 그래서 '기술로 고객을 이롭게 하자'는 뜻으로 회사 이름을 '이로운앤컴퍼니'라 지었어요. '인공지능(AI) 보안'이라면 세계 누구든 이로운앤컴퍼니를 찾게 하고 싶어요. 기업이 업무를 안전하게 자동화하는 서비스를 통틀어 제공하는 게 목표입니다.” 윤두식 이로운앤컴퍼니 대표는 26일 서울 삼성동 사무실에서 지디넷코리아와 만나 사명을 소개하며 이같이 밝혔다. 윤 대표는 1973년생으로 만 50세에 창업했다. 비교적 늦게 도전했다고 여기는 나이다. 그는 대전 한밭고를 졸업하고, 충남대에서 컴퓨터과학 학·석사를 받았다. 그리고 국내 정보보호 기업 지란지교소프트에 입사했다. 여기서 25년 동안 일하며 10년은 지란지교소프트에서 분사한 지란지교시큐리티 대표이사로 보냈다. 윤 대표는 “오래 전부터 창업하고 싶었지만 지란지교시큐리티를 키우는 게 우선이었다”며 “코스닥시장에 상장하고 모비젠과 SSR을 인수하면서 회사를 안정적인 궤도로 올렸다”고 말했다. 그 목표를 이루고서야 '내 회사'를 차릴 때라고 확신했다. 윤 대표는 “고객이 안전하게 AI를 활용하도록 돕겠다”며 2024년 1월 이로운앤컴퍼니를 설립했다. 이로운앤컴퍼니는 AI챗봇에서 민감 정보를 판별하고, 거대언어모델(LLM)을 연동한 응용프로그램(앱)에 대한 공격을 방어하는 AI 보안 기업이다. 윤 대표를 포함해 9명의 구성원이 이로운앤컴퍼니에서 일한다. 3명이 출발, 외형으로는 1년새 3배가 커졌다. 임직원 9명 가운데 8명이 개발자다. 유일한 비개발자 1명은 최고고객책임자(CCO)로 윤 대표에게 특별한 사람이다. 전 직장인 지란지교소프트에서 만나 사내 커플이 됐고, 이제 창업자 부부로 회사에서나 가정에서나 언제나 그를 응원하는 든든한 지원자다. 회사 이름 '이로운'도 아내가 제안했다. 그 1년간의 이야기를 들어봤다. 아래는 윤 대표와의 일문일답. -AI 보안이란 무엇인가? “AI 보안은 크게 두 가지가 있다. 하나는 AI의 보안을 높이는 AI를 위한 보안(Security for AI)과 또 하나는 AI를 이용해 보안(AI for Security)을 높이는 것이다. 이 중 이로운앤컴퍼니는 AI의 보안을 높이는 서비스를 제공한다. 한국에는 우리 같은 회사가 아직 없다. 우리가 유일하다. 외국에서도 빨라야 2020년 시작, 몇 개 회사가 있다. 이제 시장이 막 열리는 단계다.” -이로운앤컴퍼니 주력 제품은? “지난해 7월 '세이프엑스(SAIFE X)'를 선보였다. 이어 12월에 첫 고객으로 한국정보보호교육원에 공급했다. 기업은 AI 서비스를 쓰고 싶어도 회사 정보가 밖으로 나갈까 봐 불안해한다. 사용자가 AI챗봇 대화창에 내용을 쓰면 세이프엑스가 민감한 정보를 가려낸다. '입력한 내용에 민감한 정보가 있어요.' 그러면서 이름과 연락처 등을 표시한다. 곧이어 '민감한 정보가 아니면 표시를 해제하고 전송하세요. 민감한 정보를 보내면 유출 피해를 입을 수 있으니 조심하세요.'라고 알려준다. 기업은 사정에 맞게 개인정보와 금융 정보 등이 기밀이라고 미리 설정할 수 있다. 세이프엑스에는 '제일브레이크 필터(Jailbreak Filter)' 기능도 있다. AI에 일부러 나쁜 내용을 써서 공격자가 의도하는 동작으로 유도하는 제일브레이크를 알아채 막아준다. 지금껏 알려진 제일브레이크는 대부분 영어로 쓰였다. 한국어 챗봇에서 악용될 가능성이 크다. 이로운앤컴퍼니는 한국 회사답게 한국어 공격을 방어하는 능력을 지녔다. LLM 보안 상태를 진단하고 해결책을 제시하는 레드팀(Red Team) 서비스도 제공한다. AI를 쓰고 싶은데 해킹이 걱정된다면 '세이프 X'를 쓰면 된다." -수출은 언제쯤? “설립한 지 1년여 밖에 안됐지만 수출도 고려하고 있다. 우선 연내 일본어 서비스를 내놓으려고 한다. 며칠 전에도 일본 회사를 만났다. 관심이 많더라. 이로운앤컴퍼니의 해외 시장은 처음도 끝도 일본이다. 일본 정보보호 시장 규모는 한국의 10배다. 일본에서만 성공하더라도 큰 성과를 이루는 셈이다. 일본에서 10% 이상 시장 점유율을 차지하고 싶다.” -매출 목표와 상장 계획은? “일단 올해는 10억원 달성이 목표다. 착실히 성장해 2027년에는 100억원을 돌파하고 싶다. 양분으로 삼을 투자도 차근차근 받고 있다. 지난해 5억원을 시드 투자(Seed Investment)로 받았다. 시드 투자는 창업초기기업이 서비스를 출시할 준비하는 단계에서 이뤄진다. 창업초기기업 투자 전문사 마크앤컴퍼니가 이끌었다. 올해에는 프리시리즈A 단계 투자 유치를 생각하고 있다. 기업공개(IPO)는 2029~2030년쯤으로 잡고 있다.” 고객에게 한마디? “AI는 기업 경쟁력에 반드시 필요한 수단이다. 보안이 두려워서, 효과를 못 믿어 도입하기를 미룬다면 회사 경쟁력 높일 때를 놓친다.겪어봐야 한다. 보안이 두려우면 이로운앤컴퍼니를 찾아라. 같이 해결하자. 우리 회사 팀멤버들이 좋다. 특히 최고기술책임자(CTO)의 경우 20년 이상 보안 개발자로 일했고, 한국보다 큰 시장으로 평가받는 일본에서도 경험을 갖고 있다." 스타트업 대표로서 자랑할 기업 문화는? “재택근무다. 월·화·수요일 3일은 집에서 일하고, 목·금요일에는 오전 10시부터 오후 4시까지 집중 근무하면 된다. 이로운앤컴퍼니 직원은 강원 춘천시, 경기 남양주시 등에서 살기에 재택근무를 매우 좋아한다. 회사가 안착하면 완전 재택근무로 바꿀 것도 생각하고 있다.” 50대에 창업했는데 힘들지 않았나? "왜 안힘들었겠나. 여러 어려움이 많았다. 역시 밖은 '비바람'이 세더라(웃음). 특히 가장 힘든 건 투자 유치였다. 생각한 것보다 쉽지 않더라. 법인사업자 등록부터 세무·회계·법무까지 직접 챙겨야 하는 것도 힘들고 생소했다. 힘들때마다 아내가 큰 힘을 줬다.(웃음)" 창업하려는 후배에게 조언한다면? “정부가 지원하는 창업 교육을 꼭 받고 시작하길 바란다. 임직원 구성, 지분 구조, 아이템 선정, 고객 요구 수렴 방법, 투자 유치 방법 등 대부분을 알려준다. 기본을 알면 잘못된 길을 갈 확률이 줄어든다. '그냥 해 볼까? 안되면 취직하지, 뭐'라는 생각으로는 절대 성공하지 못한다. 온 힘을 다해도 될까 말까다. 그리고 내가 50세에 창업해서 하는 말인데, 마음이 있으면 한 살이라도 어릴 때 하라. 체력도 중요하다(웃음).” 올해 한국정보보호산업협회 AI보안협의회 회장을 맡았는데 활동 계획은? "회원사는 구상 단계다. 정부와 산업계 모두가 AI 보안에 관심이 많으므로 많은 기업과 학계가 참여할 거라 생각한다. 산업에서 AI를 어떻게 적용하는 것이 보안 측면에서 베스트 프랙티스(Best Practice)인지 모르기 때문에 이를 도와줄 수 있는 큰 아웃라인을 만드는 작업을 우선 할 계획이다."

2025.02.28 08:20유혜진

이로운앤컴퍼니-윈즈시스템, 금융권 생성형 AI 보안 파트너십 체결

생성형 AI 보안 전문기업 이로운앤컴퍼니(대표 윤두식)가 IT 전문기업 윈즈시스템(대표 이보헌)과 전략적 파트너십을 체결했다. 두 회사는 빠르게 변화하는 금융 및 공공기관의 디지털 환경에서 생성형 AI의 안전한 활용을 지원한다. 이로운앤컴퍼니는 2024년 1월 창업 이후, 기업들이 안전하고 효율적으로 인공지능(AI) 기술을 업무에 도입할 수 있는 보안 솔루션 '세이프X'를 제공해왔다. 세이프X는 AI 사용 과정에서 발생할 수 있는 개인정보나 기밀 정보 유출 위험을 사전에 차단하는 스캐닝 기술을 탑재했다. 이를 통해 기업들이 AI를 활용하는 동안에도 보안성을 유지할 수 있도록 돕는다. 최근 금융위원회가 10년 만에 금융권 망분리 개선안을 발표하면서, 금융회사들이 생성형 AI를 업무에 적용할 수 있는 길이 열렸다. 금융업계에 AI 기술이 도입되면 비용 절감, 금융 상품 및 서비스 개발 가속화, 내부 통제 고도화 등의 긍정적인 변화가 기대된다. 이와 동시에 개인정보 보호와 정보 유출 위험에 대한 우려도 제기되고 있어, 안전한 생성형 AI 활용이 중요한 과제로 떠올랐다. 이로운앤컴퍼니와 윈즈시스템은 세이프X로 금융의 안전한 AI 활용을 지원한다. 세이프X는 금융보안원의 보안대책 기준을 충족한다. 두 회사는 금융기관들이 안심하고 AI를 업무에 도입할 수 있도록 도울 계획이다. 윤두식 이로운앤컴퍼니 대표는 "생성형 AI의 가능성은 무궁무진하지만, 안전성 확보가 무엇보다 중요하다"며, "23년간 IT 솔루션과 서비스를 안정적으로 제공하고 있는 윈즈시스템과 협력해 금융권 및 공공기관이 AI 기술을 효과적으로 활용할 수 있도록 보안 솔루션을 개발하고 고객을 지원하겠다"고 밝혔다. 이번 파트너십을 통해 두 회사는 앞으로도 금융에서의 AI 활용 확산을 지원하며, 업계 전반에 걸친 AI 보안 기술의 표준을 제시해 나갈 예정이다.

2024.10.24 10:22김인순

정부 지원 받는 이로운앤컴퍼니, 생성형 AI 보안 전문기업으로 입지 다지기 박차

이로운앤컴퍼니가 정부의 지원을 받아 국내 최초 생성형 인공지능(AI) 보안 전문기업으로서 입지 다지기에 나선다. 이로운앤컴퍼니는 중소벤처기업부의 민간 투자주도형 기술창업 지원 프로그램 '딥테크 팁스' 패스트트랙에 최종 선정됐다고 3일 밝혔다. 이로운앤컴퍼니는 지난 2월 마크앤컴퍼니, 윤민창의투자재단에서 시드 투자를 받았으며 팁스 운영사인 마크앤컴퍼니의 추천을 받아 딥테크 팁스에 선정됐다. 딥테크 팁스는 10대 신산업 분야의 유망 스타트업을 선별, 육성하기 위해 중기부가 발표한 초격차 스타트업 1000+ 프로젝트의 일환으로, 선정 업체에 연구개발(R&D)비 15억원을 포함해 사업화 및 해외 마케팅 자금까지 최대 17억원을 지원하는 프로그램이다. 이로운앤컴퍼니는 1차 평가에서 우수한 기술력을 인정 받아 2차 시장성 평가를 면제 받는 패스트트랙으로 통과했다. 올해 1월에 창업한 이로운앤컴퍼니는 기업이 안전하고 편리하게 인공지능을 활용해 업무 생산성과 효율을 높일 수 있는 솔루션을 제공한다. 이는 공공기관이나 민간 기업이 생성형 AI를 활용할 때 개인정보와 민감·중요 정보가 외부로 유출되지 않도록 스캐닝 해 보안을 강화하는 제품이다. 윤두식 이로운앤컴퍼니 대표는 "챗GPT와 같은 LLM(인공 신경망으로 구성된 거대 언어 모델)에 특화된 보안 위협에 적극적으로 대비해야 할 시점"이라며 "인공지능 보안의 선도 기업으로 성장할 것"이라고 비전을 밝혔다.

2024.07.03 11:03장유미

생성AI 보안 스타트업 '이로운앤컴퍼니' 시드 투자 유치

생성 AI 보안 전문기업 이로운앤컴퍼니(대표 윤두식)가 마크앤컴퍼니(대표 홍경표)와 재단법인 윤민창의투자재단으로부터 시드 투자 유치를 완료했다. 2024년 1월에 창업한 이로운앤컴퍼니는 기업이 안전하고 편리하게 인공지능을 활용해 업무 생산성과 효율을 높일 수 있는 솔루션을 제공한다. 공공기관이나 민간 기업이 생성형 AI를 활용할 때 개인정보와 민감·중요 정보를 외부로 유출되지 않도록 필터링하는 형태다. 시드 투자에 참여한 마크앤컴퍼니 관계자는 "생성AI는 직원 생산성을 높이기 위해 기관과 기업이 점차 도입할 수 밖에 없는 영역이지만 보안이 부재하다"며 "정보보호기업 상장 경험을 보유한 대표와 업계에서 팀워크를 맞춰본 베테랑 팀이 생성형 AI 보안에 대한 선도적인 솔루션을 제공할 것으로 기대한다"고 투자 이유를 밝혔다. 윤두식 이로운앤컴퍼니 대표는 "챗GPT와 같은 대규모언어모델(LLM)에 특화된 보안 위협에 적극 대비해야 할 시점"이라고 강조하며 "이로운앤컴퍼니는 "인공지능 보안의 핵심 기업으로 성장할 것"이라고 포부를 밝혔다. 이로운앤컴퍼니는 상반기중 생성형 AI 보안 솔루션인 '세이프X (SAIFE X)' MVP(최소기능제품) 출시를 앞두고 있으며 기업·기관을 대상으로 POC(기술검증)에 들어간다.

2024.03.07 10:47김인순

AI 해킹을 막을 완벽한 방법은 없다

공격자는 인공지능(AI) 시스템에 의도적으로 접근해 오작동을 일으킬 수 있는데 이에 대한 완벽한 방어책은 없다. 미국 국가표준기술연구소(NIST)는 '적대적 머신러닝(ML): 공격 및 완화에 대한 분류와 용어' 가이드를 발표하고, 생성AI 도구 발전과 사이버 보안 위험을 경고했다. 인공지능, 머신러닝을 채택하는 기업은 늘어나고 있지만 이에 대한 취약성을 인지하고 사이버 보안 대책을 세우는 곳은 드물다. 대부분의 소프트웨어 에코시스템과 마찬가지로 진입 장벽이 낮을수록 보안 장벽도 낮아진다. NIST는 가이드에서 AI에 나타날 수 있는 사이버 위협을 회피, 중독, 남용, 프라이버시 등 4가지 유형으로 분류했다. 사이버 보안 전문가들은 머신러닝 모델의 취약점과 특수성을 악용하는 공격 활동에 촉각을 곤두 세우고 있다. ML이 새로운 사이버 공격 표면이 됐기 때문이다. 회피 공격(Evasion attack)은 AI시스템이 배포된 후 발생한다. 입력을 변경해 시스템이 응답하는 방식을 변경하는 공격이다. 예를 들면, 자율주행자동차가 인식하는 정지 표시판을 속도제한 표지판으로 잘 못 해석하게 하는 식이다. 혼란스러운 차선 표시를 만들어 차량이 도로를 벗어나게 하는 형태의 공격이다. 중독 공격(Poisoning attack)은 손상된 데이터를 삽입해 AI시스템 훈련 단계에서 발생한다. 적이 훈련 데이터 세트를 조작하는 공격이다. 공격자가 ML 모델에 부정확하거나 잘못 해석된 데이터를 공급해 잘못된 예측을 내놓게 만든다. 공격자가 훈련 데이터 중 일부에 부적절한 내용을 넣는다. AI 모델이 사용하는 데이터세트의 0.1%만 중독해도 성공적인 조작으로 이어질 수 있는 것으로 나타났다. 공격자는 위키피디아(Wikipedia)와 같은 크라우드 소스 정보 저장소 등을 악용해 LLM 모델을 간접적으로 조작할 수도 있다. 남용 공격(Abuse attack)은 피싱 이메일을 생성하거나 악성코드 작성과 같이 악성 콘텐츠를 생성하기 위해 AI 도구를 무기화하는 것이 포함된다. 실제로 다크웹에서 프러드(Fraud)GPT나 웜(Worm)GPT와 같이 사이버 범죄를 지원하는 LLM 서비스가 나왔다. 프라이버시 공격(Privacy attack)은 AI가 훈련한 데이터 중 민감 정보를 추출해 이를 오용하는 시도다. 공격자는 챗봇에게 다양한 질문을 한 후 모델을 리버스 엔지니어링해 약점을 찾거나 원본을 추측할 수 있다. 이외에도 공격자는 AI나 ML 모델의 취약점을 찾아 백도어를 만들거나 악성코드를 주입해 기업 내부로 침투하는 초기 네트워크 액세스 권한을 얻고 측면으로 이동할 수 있다. 악성코드를 배포하고 데이터를 훔치고 심지어 조직의 공급망을 오염시키는 공격이 가능하다. 가트너에 따르면 일반 소프트웨어에 대한 대부분 공격이 AI와 ML에 적용될 수 있다. 생성AI 보안 스타트업을 창업한 윤두식 이로운앤 컴퍼니 대표는 "기업이 LLM을 도입하는 과정에서 개인정보나 지적재산권이 유출될 수 있고 악성코드나 저품질 코드를 받을 있다"면서 "세계적으로도 생성AI 사이버 보안을 고려하는 LLMOps 분야가 확대되면서 대응책 마련을 시작했다"고 말했다.

2024.01.10 11:29김인순

  Prev 1 Next  

지금 뜨는 기사

이시각 헤드라인

"요금 올리거나, 무료 풀거나"…OTT, 전략 분화

"책 대신 '아이패드'로 수업을"…디지털이 바꾼 교실 풍경은

과학자들, 납으로 금 만들었다…'연금술사의 꿈' 실현되나

[ZD브리핑] 아시아 IT 박람회 컴퓨텍스 개최...21대 대선 후보 첫 토론회

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현