검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'이로운앤컴퍼니'통합검색 결과 입니다. (4건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

이로운앤컴퍼니-윈즈시스템, 금융권 생성형 AI 보안 파트너십 체결

생성형 AI 보안 전문기업 이로운앤컴퍼니(대표 윤두식)가 IT 전문기업 윈즈시스템(대표 이보헌)과 전략적 파트너십을 체결했다. 두 회사는 빠르게 변화하는 금융 및 공공기관의 디지털 환경에서 생성형 AI의 안전한 활용을 지원한다. 이로운앤컴퍼니는 2024년 1월 창업 이후, 기업들이 안전하고 효율적으로 인공지능(AI) 기술을 업무에 도입할 수 있는 보안 솔루션 '세이프X'를 제공해왔다. 세이프X는 AI 사용 과정에서 발생할 수 있는 개인정보나 기밀 정보 유출 위험을 사전에 차단하는 스캐닝 기술을 탑재했다. 이를 통해 기업들이 AI를 활용하는 동안에도 보안성을 유지할 수 있도록 돕는다. 최근 금융위원회가 10년 만에 금융권 망분리 개선안을 발표하면서, 금융회사들이 생성형 AI를 업무에 적용할 수 있는 길이 열렸다. 금융업계에 AI 기술이 도입되면 비용 절감, 금융 상품 및 서비스 개발 가속화, 내부 통제 고도화 등의 긍정적인 변화가 기대된다. 이와 동시에 개인정보 보호와 정보 유출 위험에 대한 우려도 제기되고 있어, 안전한 생성형 AI 활용이 중요한 과제로 떠올랐다. 이로운앤컴퍼니와 윈즈시스템은 세이프X로 금융의 안전한 AI 활용을 지원한다. 세이프X는 금융보안원의 보안대책 기준을 충족한다. 두 회사는 금융기관들이 안심하고 AI를 업무에 도입할 수 있도록 도울 계획이다. 윤두식 이로운앤컴퍼니 대표는 "생성형 AI의 가능성은 무궁무진하지만, 안전성 확보가 무엇보다 중요하다"며, "23년간 IT 솔루션과 서비스를 안정적으로 제공하고 있는 윈즈시스템과 협력해 금융권 및 공공기관이 AI 기술을 효과적으로 활용할 수 있도록 보안 솔루션을 개발하고 고객을 지원하겠다"고 밝혔다. 이번 파트너십을 통해 두 회사는 앞으로도 금융에서의 AI 활용 확산을 지원하며, 업계 전반에 걸친 AI 보안 기술의 표준을 제시해 나갈 예정이다.

2024.10.24 10:22김인순

정부 지원 받는 이로운앤컴퍼니, 생성형 AI 보안 전문기업으로 입지 다지기 박차

이로운앤컴퍼니가 정부의 지원을 받아 국내 최초 생성형 인공지능(AI) 보안 전문기업으로서 입지 다지기에 나선다. 이로운앤컴퍼니는 중소벤처기업부의 민간 투자주도형 기술창업 지원 프로그램 '딥테크 팁스' 패스트트랙에 최종 선정됐다고 3일 밝혔다. 이로운앤컴퍼니는 지난 2월 마크앤컴퍼니, 윤민창의투자재단에서 시드 투자를 받았으며 팁스 운영사인 마크앤컴퍼니의 추천을 받아 딥테크 팁스에 선정됐다. 딥테크 팁스는 10대 신산업 분야의 유망 스타트업을 선별, 육성하기 위해 중기부가 발표한 초격차 스타트업 1000+ 프로젝트의 일환으로, 선정 업체에 연구개발(R&D)비 15억원을 포함해 사업화 및 해외 마케팅 자금까지 최대 17억원을 지원하는 프로그램이다. 이로운앤컴퍼니는 1차 평가에서 우수한 기술력을 인정 받아 2차 시장성 평가를 면제 받는 패스트트랙으로 통과했다. 올해 1월에 창업한 이로운앤컴퍼니는 기업이 안전하고 편리하게 인공지능을 활용해 업무 생산성과 효율을 높일 수 있는 솔루션을 제공한다. 이는 공공기관이나 민간 기업이 생성형 AI를 활용할 때 개인정보와 민감·중요 정보가 외부로 유출되지 않도록 스캐닝 해 보안을 강화하는 제품이다. 윤두식 이로운앤컴퍼니 대표는 "챗GPT와 같은 LLM(인공 신경망으로 구성된 거대 언어 모델)에 특화된 보안 위협에 적극적으로 대비해야 할 시점"이라며 "인공지능 보안의 선도 기업으로 성장할 것"이라고 비전을 밝혔다.

2024.07.03 11:03장유미

생성AI 보안 스타트업 '이로운앤컴퍼니' 시드 투자 유치

생성 AI 보안 전문기업 이로운앤컴퍼니(대표 윤두식)가 마크앤컴퍼니(대표 홍경표)와 재단법인 윤민창의투자재단으로부터 시드 투자 유치를 완료했다. 2024년 1월에 창업한 이로운앤컴퍼니는 기업이 안전하고 편리하게 인공지능을 활용해 업무 생산성과 효율을 높일 수 있는 솔루션을 제공한다. 공공기관이나 민간 기업이 생성형 AI를 활용할 때 개인정보와 민감·중요 정보를 외부로 유출되지 않도록 필터링하는 형태다. 시드 투자에 참여한 마크앤컴퍼니 관계자는 "생성AI는 직원 생산성을 높이기 위해 기관과 기업이 점차 도입할 수 밖에 없는 영역이지만 보안이 부재하다"며 "정보보호기업 상장 경험을 보유한 대표와 업계에서 팀워크를 맞춰본 베테랑 팀이 생성형 AI 보안에 대한 선도적인 솔루션을 제공할 것으로 기대한다"고 투자 이유를 밝혔다. 윤두식 이로운앤컴퍼니 대표는 "챗GPT와 같은 대규모언어모델(LLM)에 특화된 보안 위협에 적극 대비해야 할 시점"이라고 강조하며 "이로운앤컴퍼니는 "인공지능 보안의 핵심 기업으로 성장할 것"이라고 포부를 밝혔다. 이로운앤컴퍼니는 상반기중 생성형 AI 보안 솔루션인 '세이프X (SAIFE X)' MVP(최소기능제품) 출시를 앞두고 있으며 기업·기관을 대상으로 POC(기술검증)에 들어간다.

2024.03.07 10:47김인순

AI 해킹을 막을 완벽한 방법은 없다

공격자는 인공지능(AI) 시스템에 의도적으로 접근해 오작동을 일으킬 수 있는데 이에 대한 완벽한 방어책은 없다. 미국 국가표준기술연구소(NIST)는 '적대적 머신러닝(ML): 공격 및 완화에 대한 분류와 용어' 가이드를 발표하고, 생성AI 도구 발전과 사이버 보안 위험을 경고했다. 인공지능, 머신러닝을 채택하는 기업은 늘어나고 있지만 이에 대한 취약성을 인지하고 사이버 보안 대책을 세우는 곳은 드물다. 대부분의 소프트웨어 에코시스템과 마찬가지로 진입 장벽이 낮을수록 보안 장벽도 낮아진다. NIST는 가이드에서 AI에 나타날 수 있는 사이버 위협을 회피, 중독, 남용, 프라이버시 등 4가지 유형으로 분류했다. 사이버 보안 전문가들은 머신러닝 모델의 취약점과 특수성을 악용하는 공격 활동에 촉각을 곤두 세우고 있다. ML이 새로운 사이버 공격 표면이 됐기 때문이다. 회피 공격(Evasion attack)은 AI시스템이 배포된 후 발생한다. 입력을 변경해 시스템이 응답하는 방식을 변경하는 공격이다. 예를 들면, 자율주행자동차가 인식하는 정지 표시판을 속도제한 표지판으로 잘 못 해석하게 하는 식이다. 혼란스러운 차선 표시를 만들어 차량이 도로를 벗어나게 하는 형태의 공격이다. 중독 공격(Poisoning attack)은 손상된 데이터를 삽입해 AI시스템 훈련 단계에서 발생한다. 적이 훈련 데이터 세트를 조작하는 공격이다. 공격자가 ML 모델에 부정확하거나 잘못 해석된 데이터를 공급해 잘못된 예측을 내놓게 만든다. 공격자가 훈련 데이터 중 일부에 부적절한 내용을 넣는다. AI 모델이 사용하는 데이터세트의 0.1%만 중독해도 성공적인 조작으로 이어질 수 있는 것으로 나타났다. 공격자는 위키피디아(Wikipedia)와 같은 크라우드 소스 정보 저장소 등을 악용해 LLM 모델을 간접적으로 조작할 수도 있다. 남용 공격(Abuse attack)은 피싱 이메일을 생성하거나 악성코드 작성과 같이 악성 콘텐츠를 생성하기 위해 AI 도구를 무기화하는 것이 포함된다. 실제로 다크웹에서 프러드(Fraud)GPT나 웜(Worm)GPT와 같이 사이버 범죄를 지원하는 LLM 서비스가 나왔다. 프라이버시 공격(Privacy attack)은 AI가 훈련한 데이터 중 민감 정보를 추출해 이를 오용하는 시도다. 공격자는 챗봇에게 다양한 질문을 한 후 모델을 리버스 엔지니어링해 약점을 찾거나 원본을 추측할 수 있다. 이외에도 공격자는 AI나 ML 모델의 취약점을 찾아 백도어를 만들거나 악성코드를 주입해 기업 내부로 침투하는 초기 네트워크 액세스 권한을 얻고 측면으로 이동할 수 있다. 악성코드를 배포하고 데이터를 훔치고 심지어 조직의 공급망을 오염시키는 공격이 가능하다. 가트너에 따르면 일반 소프트웨어에 대한 대부분 공격이 AI와 ML에 적용될 수 있다. 생성AI 보안 스타트업을 창업한 윤두식 이로운앤 컴퍼니 대표는 "기업이 LLM을 도입하는 과정에서 개인정보나 지적재산권이 유출될 수 있고 악성코드나 저품질 코드를 받을 있다"면서 "세계적으로도 생성AI 사이버 보안을 고려하는 LLMOps 분야가 확대되면서 대응책 마련을 시작했다"고 말했다.

2024.01.10 11:29김인순