검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'2016 포드·링컨 챌린지 컨퍼런스'통합검색 결과 입니다. (317건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

[컨콜] 삼성SDS "빅테크 견줘 '프라이빗 클라우드' 형식 AI 경쟁력 있어"

삼성SDS는 25일 올해 1분기 실적 컨퍼런스 콜을 열고 "빅테크 기업의 퍼블릭 클라우드보다 당사의 프라이빗 클라우드가 더욱 경쟁력 있다"고 밝혔다. 이어 "작년부터 CES를 통해 100여개 기업들의 니즈를 파악했다"며 "업종마다 비슷하지만 패브릭스 서비스 활용하려는 기업들은 혁신을 가장 원했다"고 설명했다.

2024.04.25 14:55이한얼

[컨콜] 삼성SDS "생성형 AI, 공공·유통·제조업종으로 확산 전망"

삼성SDS가 25일 올해 1분기 실적 컨퍼런스 콜을 열고 "생성형 AI 시장이 공공이나 유통, 제조업종으로까지 확산될 것"이라고 전망했다. 이어 "생성형AI는 각 산업분야 생산성을 제고할 것"이라면서 "또 효율성과 혁신을 촉진하고 2026년까지 1조원 규모로 확대될 것"이라고 내다봤다. 그러면서 "2025년부터 AI 응용서비스가 고성장할 것"이라면서 "고객 특성에 맞는 사업을 병행하겠다"고 강조했다.

2024.04.25 14:43이한얼

[컨콜] 삼성SDS "2Q부터 '브리티 코파일럿' 삼성 관계사 확산"

삼성SDS는 25일 올해 1분기 실적발표 컨퍼런스콜을 열고 "2분기부터 브리티 코파일럿을 삼성 관계사에 확산할 예정"이라고 밝혔다. 이어 "맞춤형 오퍼링 전략을 통해 대외사업을 본격적으로 추진하겠다"고 부연했다.

2024.04.25 14:43이한얼

[컨콜] 삼성SDS "생성형AI, 물류 전반에 활용하겠다"

삼성SDS는 25일 올해 1분기 실적 컨퍼런스 콜을 열고 "생성형AI를 물류 전반에 활용하겠다"고 밝혔다. 이어 "보안관제 업무와 화물트랙킹 업무도 통합해 효율성을 올리겠다"면서 "물류 데이터에서도 대화형 AI로 추출할 기능을 준비 중이다"고 덧붙였다. 또 "이를 통해 복잡한 물류데이터를 쉽고 빠르게 분석할 것으로 기대한다"고 부연했다.

2024.04.25 14:42이한얼

[컨콜] 삼성SDS "다음 분기 생성형 AI 사업성과 가시화할 것"

삼성SDS가 25일 올해 1분기 실적 컨퍼런스콜을 통해 "생성형 AI의 국내 시장 프론티어로서 다음 분기 사업 성과를 구체적으로 보여줄 것"이라고 밝혔다. 그러면서 "생성형 AI와 관련해 MSP 고객이 사용 중인 클라우드 환경에 따라 온프레미스부터 클라우드까지 선택할 수 있다"며 "빠르게 생성형 AI 활용할 수 있도록 지원하겠다"고 강조했다.

2024.04.25 14:19이한얼

갈 길 먼 제조업 DX, 효율적으로 AI를 접목하려면

많은 제조기업들의 최근 화두는 디지털 전환(DX)이다. 지난 해부터 폭발적인 인기를 끌고 있는 생성형 인공지능(AI)을 적극 활용하는 것도 관심사 중 하나다. 생성형 AI를 활용할 경우 비즈니스 모델 혁신 차원을 넘어 변수를 예측하고, 지속가능한 사업을 위한 기반을 다질 수 있기 때문이다. 하지만 제조 분야의 많은 기업들은 생성형 AI 도입에 선택 나서지 못하고 있다. 비용을 비롯한 현실적인 어려움이 만만치 않기 때문이다. 이런 어려움을 해소하고 제조사의 AI DX 가속화를 돕기 위한 노코드·로우코드 하이퍼오토메이션 컨퍼런스가 다음 달 2일 개최한다. 노코드로우코드협의회와 지디넷코리아가 공동 주최하는 이번 컨퍼런스는 서울 양재 엘타워 그레이스홀에서 열린다. 온라인 중계도 진행할 예정이다. ■ 생성형 AI 도입 원하는 기업 많지만…높은 비용 등으로 고민 요즘 제조업체들의 고민 중 하나는 인력 문제다. 숙련된 기술자가 떠나고 신규 인력이 유입되지 않는 이중고가 계속되기 때문이다. 그러다보니 많은 제조업체들은 현재 어려움을 극복하고 미래를 준비하기 위해 생성형AI 등 DX기술에 관심을 보이고 있다. 로크웰 오토메이션이 최근 발표한 연례 스마트 제조 현황 보고서에 따르면 제조기업 83%에서 생성형AI를 투자할 기술 분야 1위로 뽑기도 했다. 하지만 이러한 관심과 달리 현장의 실제 도입율은 지지부진한 상황이다. 생성형AI 서비스 도입을 통한 성과에 대한 기대가 모호할 뿐 아니라 현실적인 장벽들이 예상보다 높기 때문이다. 업계 관계자들은 AI 도입 과정에서 ▲높은 비용 ▲데이터 정제 및 인프라 구축 ▲AI 정확성에 대한 의문 ▲IT역량 부족 ▲기업문화 및 업무방식 변화 등을 꼽았다. 이런 고민을 갖고 있는 기업들에게 노코드, 로우코드 등 자동화 솔루션은 최적의 대안으로 꼽히고 있다. AI에 비해 비용이 저렴하기 때문에 생산성을 높이고 SW 도구에 익숙해지도록 하는 데 유용하기 때문이다. 데이터 정제 및 데이터베이스 구축 작업 등의 업무에도 자동화 도구를 적용해 비용부담도 최소화할 수 있다. DX란 큰 목표를 갖고 있는 기업들은 현실적인 대안인 자동화 솔루션을 통해 조금씩 연착륙할 수 있다는 것이다. 실제로 최근 들어 자동화 솔루션을 활용해 IT역량을 보강하면서 DX에 적합한 기업 문화를 임직원에게 학습시키는 사례가 늘고 있다. ■ 노코드로우코드가 현실적인 대안으로 각광받는 이유는 노코드·로우코드 하이퍼오토메이션 컨퍼런스에서는 AI 및 자동화 전문기업들이 제조기업들이 효율적으로 AI를 도입하기 위해 필요한 전략을 제시하고 실제 사례도 소개한다. 김동환 포티투마루 대표이사는 '제조·엔지니어링 분야에서의 초거대 AI 활용 전략'을 주제로 제조 및 엔지니어링 분야에서 초거대 AI의 활용 사례를 선보일 예정이다. 포티투마루는 삼성, LG, SK, 현대·기아차, CJ 등 대기업을 비롯해 다양한 산업군에 AI서비스를 제공하는 기업으로 김 대표는 고품질의 초거대 AI를 비용 효율적이며 안전하게 활용할 수 있는 인사이트를 선보인다. 킨드릴의 조성인 이사는 통합 AI옵스(IAIOPS)를 활용한 지속적인 자동화 및 운영 안정성 향상하는 방법을 소개한다. 킨드릴은 IBM에서 독립한 IT서비스 전문 기업으로 주력 분야인 금융을 비롯해 제조, 유통, 물류, 공공 분야의 DX 및 AI도입을 가속화하고 있다. 또한 에스티이지(STEG) 민창선 서비스 총괄 이사와 이젠고 양석호 팀장는 노코드와 로우코드 도구가 실제 산업 현장에서 활용된 다양한 사례를 소개할 예정이다. 이 밖에도 IBM, 삼성SDS, 비아이매트릭스, 영림원소프트랩, GS네오텍, 업스테이지 등이 AI도입을 위한 하이퍼오토메이션 전략을 제시한다. 또한 과학기술정보통신부 강도현 차관이 참석해 전 산업의 AI도입과 디지털혁신을 통한 성장을 축사하고 과학기술정보통신부 이상민 과장이 DX와 생성형AI 도입을 위한 정부의 지원 방안 등을 소개할 예정이다. 노코드로우코드 협의회 회장인 비아이매트릭스 대표는 “노코드와 로우코드 등 하이퍼 오토메이션 기술은 AI의 발전과 함께 우리의 비즈니스와 사회에 혁명적인 변화를 가져올 것”이라며 “이번 행사에 참가한 모두가 디지털 혁신의 가능성을 발견하기를 바란다”고 말했다.

2024.04.24 14:43남혁우

생성형AI 도입 가로막는 장벽, 해결 방법은

차세대 생존을 위한 필수 기술로 주목받는 인공지능(AI) 도입을 본격화하고, 디지털 전환 가속을 위한 인사이트가 노코드·로우코드 하이퍼오토메이션 컨퍼런스에서 제시된다. 노코드로우코드협의회와 지디넷 코리아가 공동 주최하는 이번 컨퍼런스는 다음 달 2일 서울 양재 엘타워 그레이스홀에서 개최하며 온라인 중계도 진행할 예정이다. 국내외 주요 AI, 자동화 전문기업들이 공공⋅금융⋅제조 등 산업 각 분야에서의 업무 자동화를 위한 AI도입 방안과 불황 속 기업의 생존 전략을 선보인다. 과학기술정보통신부 강도현 차관이 축사하며 과학기술정보통신부 이상민 과장이 키노트 발표를 진행할 예정이다. 노코드로우코드 협의회 회장인 배영근 비아이매트릭스 대표가 생성형 AI를 접목한 노코드 솔루션을 선보이며, 삼성SDS 신계영 상무와 한국IBM 정욱아 실장은 기업의 AI 도입을 위한 전략과 사례 등을 발표한다. 이어진 세션에서는 실제 산업 현장에서 노코드와 로우코드, AI를 활용한 자동화 혁신 전략을 제시한다. 관람객이 현장에서 참가사의 솔루션을 체험할 수 있는 전시부스도 마련된다. 전 산업분야에서 생성형 인공지능(AI)의 중요성이 커지며 빅테크들은 관련 기술 확보를 위해 경쟁적으로 대규모 투자를 진행하고 있다. 하지만 실제 현장도입은 이러한 인식에 미치지 못하고 있다. IBM이 지난해 작년 11월 한국을 포함한 전 세계 20개국의 2천342명의 IT 전문가를 대상으로 실시한 설문조사에 따르면 응답자 중 40%가 여전히 AI를 배포하지 못한 채 검토하는 단계라고 답했다. 시스코가 발표한 조사자료에서는 AI 도입 및 활용 준비가 완료된 기업은 5%에 불과한 것으로 나타났다. 지속된 불황으로 투자 심리가 얼어붙었을 뿐 아니라 경영진의 AI기술에 대한 이해도 부족이 AI 도입을 막는 진입장벽으로 작용한다는 분석이다. 성공적인 국내 롤모델이 아직 제시되지 못한 것 역시 AI 확산이 더딘 요인으로 꼽힌다. 이러한 장벽을 넘어서기 위해 노코드, 로우코드 등 자동화 솔루션을 먼저 도입하며 IT역량을 확보하고 디지털전환(DX)에 적합한 기업 문화를 임직원에게 학습시키는 사례가 늘고 있다. 배영근 노코드로우코드 협의회 회장은 “이번 행사에서는 AI 시대에 주요 키워드로 주목받고 있는 노코드와 로우코드, 그리고 고급 자동화 기술인 하이퍼오토메이션을 활용한 디지털 혁신 전략을 소개한다”며 “이러한 혁신적인 기술은 A의 발전과 함께 더욱 확장되어 우리의 비즈니스와 사회에 혁명적인 변화를 가져올 것”이라고 말했다. 이어서 “이번 컨퍼런스를 통해 AI 기술과 융합된 로우코드, 하이퍼오토메이션등 최신기술에서 디지털 혁신의 가능성을 발견하고 인사이트를 얻을 수 있기를 바란다”고 강조했다.

2024.04.23 17:11남혁우

세일즈포스 "AI 시대에도 통합과 연계는 중요한 과제"

“AI 시대에 통합과 연계는 여전히 중요한 과제다. 기업의 개발자가 번아웃을 일으키는 주요 요건 중 하나가 통합, 연계, 자동화 같은 일 때문에 생산적인 일에 몰두하지 못하기 때문이다.” 세일즈포스코리아 이성 상무는 지디넷코리아가 17일 서울 인터컨티넨탈코엑스에서 개최한 '제21회 어드밴스드컴퓨팅컨퍼런스플러스(ACC+) 2024'에서 이같이 밝혔다. 세일즈포스 뮬소프트는 얼마전 자동화 및 디지털 통합 현황과 AI 전략 구축 인사이트를 담은 '2024 연결성 벤치마크' 보고서를 발표했었다. 뮬소프트의 이번 보고서는 미국, 영국, 프랑스, 일본 등 전 세계 9개국의 1천50명의 CIO 및 IT 부문 리더들을 대상으로 작년 10월부터 11월까지 진행한 연구조사에 기반한다. 조직 내 IT 부문 리더 중 85%는 AI를 통해 개발자의 업무 생산성이 향상할 것이라고 응답했다. 반면, AI의 중요성에도 불구하고 62%는 조직에서 아직 AI 활용에 필요한 데이터 시스템 통합이 준비되어 있지 않다고 답했다. 보고서에 따르면, 기업의 운영 효율성, 생산성, 직원 및 고객경험 향상 등을 위한 성공적인 AI 전략은 데이터 통합에 달린 것으로 나타났다. 설문 응답자의 80%는 이미 조직 내에서 생성형 AI 또는 예측형 AI를 활용하고 있는 가운데, 근 3년 내 조직이 활용하고 있는 LLM 수가 69% 이상 늘어날 것이라고 예상했다. 기업 내 데이터 및 시스템에 연동된 앱은 약 28%에 불과했으며, 응답자의 95% 이상은 기업의 AI 도입에 시스템, 장치, 소프트웨어, 데이터 소스 등의 '디지털 통합'이 당면과제라고 답했다. 이성 상무는 “평균적으로 기업이 보유한 애플리케이션 수가 900여개 정도라고 하는데, 트랜잭션 한번 일어날 때마다 32개 시스템을 연결해야 한다”며 “투자 비용은 늘지 않지만, 점점 더 많은 기술 스택을 지원해야 하는 과제 때문에 통합의 복잡성은 중요한 문제가 되고 있다”고 말했다. 그는 뮬소프트의 API 관리와 통합 영역을 설명하면서 복잡한 시스템 연계를 어떻게 자동화할 수 있는지 설명했다. 그는 “뮬소프트는 API를 레이어별로 구분해 느슨하게 연계하는 방식으로 기술을 지원하고 있다”며 “이를 통해 타임투마켓에 맞춰 애플리케이션을 개발한 다음에 API를 땡겨가면 되므로 실제로 전체적인 영향도나 안정성 이에 대해서 시간을 최소화하고, API 재사용성을 극대화할 수 있다”고 밝혔다. AI 도입 및 통합된 고객경험을 제공하기 위해서는 데이터 사일로 해결이 급선무인 것으로 나타났다. 조사 결과, 81%의 IT 리더는 데이터 사일로가 디지털 혁신에 있어 가장 큰 어려움이라고 답했으며, 약 26%만이 전체 디지털 채널에서 연결된 사용자 경험을 제공하고 있다고 밝혔다. 이와 관련해 뮬소프트는 AI를 도입하고 운영하기 위해서 모든 비즈니스 데이터를 통합할 수 있는 시스템의 필요성이 증가하고 있다고 설명했다. 뮬소프트는 노코드 기반의 자동화, API, 데이터 및 시스템 통합을 지원하는 유니파이드 플랫폼으로 새로운 장치, 소프트웨어, 버전 및 데이터 소스를 쉽고 빠르게 통합 및 연동할 수 있도록 지원한다. 이를 통해 기업은 빠르게 변화하는 내·외부 환경에도 민첩한 대응 역량을 확보할 수 있다. 지난 18년간 뮬소프트는 글로벌 생활용품 기업 유니레버, 유럽 항공기 제작사 에어버스, 미국의 통신사인 AT&T, 프랑스의 보험 금융 그룹 AXA, 스포츠 브랜드 아식스 등 전 세계 기업의 디지털 혁신을 지원했다.

2024.04.17 16:59김우용

"오라클 데이터베이스 23c는 생성형 AI의 기반"

“곧 정식 출시될 오라클 데이터베이스 23c는 기업에서 필요로 하는 AI 핵심 요소를 제공한다. 오라클 데이터베이스는 지속적으로 다양한 포맷을 수용하는 통합 데이터베이스를 표방한다. 새 버전은 JSON과 관계형 DB를 혼합하고, AI에 가장 필요한 검색증강생성(RAG)을 지원하는 벡터 검색을 제공하게 된다. 오라클 데이터베이스 23는 AI의 근간 인풋인 데이터의 기반을 제공한다.” 허양호 한국오라클 전무는 지디넷코리아가 17일 서울 인터컨티넨탈코엑스에서 개최한 '제21회 어드밴스드컴퓨팅컨퍼런스플러스(ACC+) 2024'에서 이같이 밝혔다. 향후 출시되는 오라클 데이터베이스 23c는 새로운 기능으로 JSON 듀얼리티 뷰와 AI 벡터 검색 등을 제공한다. 관계형 데이터베이스 형식과 JSON 형식을 한 테이블에 저장할 수 있는 기능과 AI의 기업 내부 데이터 접근을 가능하게 하는 벡터 DB 기능이다. 허양호 전무는 “오라클 데이터베이스 23c의 JSON 듀얼리티 뷰를 이용하면 JSON 데이터 변환작업을 DB 차원에서 자동으로 해주고, JSON 데이터를 DB 테이블에 자동으로 알아서 저장한다”며 “이 테이블에 있는 데이터를 읽으면 JSON 포맷으로 다시 복귀해 보여준다”고 설명했다. 그는 “그 리턴 값을 다시 수정해서 JSON 뷰에 넣으면 그 업데이트된 내용이 자동으로 다시 DB 테이블에 저장돼 모든 변환에 필요한 복잡한 과정을 자동화할 수 있다”고 강조했다. 생성형 AI의 기술은 데이터에 연관성을 부여하는 벡터화를 활용한다. 벡터 정보를 위한 별도 데이터베이스가 요구되는데, 오라클 데이터베이스 23c를 사용하면 기존 DB로 벡터 검색을 지원할 수 있다. 허 전무는 “AI 환각을 해결하는 단어로 요즘 RAG가 각광받고 있다”며 “벡터 DB는 정형 및 비정형 데이터를 수치화해 벡터 형태로 저장하는 것으로, 그 의미 검색을 지원해 최신화된 데이터를 언제든 연동해서 사용할 수 있게 한다”고 말했다. 그는 “오라클 데이터베이스 23c에서 이 벡터 DB를 함께 매핑해 지원함으로써 기업 내부에 데이터를 LLM에 더해 프롬프트를 자동으로 생성할 수 있고, 기업에게 실질적으로 필요한 전문적 답변을 받게 한다”고 강조했다. 그는 데이터베이스 제품 외에 오라클클라우드인프라(OCI) 서비스의 AI 요소도 설명했다. 그는 “오라클 OCI는 AI 데이터의 수집, 저장, 처리, 분석, 학습, 활용, 배포, 관리 등에 이르는 엔드투엔드 데이터 파이프라인 관리 서비스를 제공한다”고 밝혔다. 오라클은 자사의 퍼블릭 클라우드 서비스의 강점으로 저렴한 비용, 고성능, 유연성, 보안 등으로 꼽는다. OCI의 모든 기능과 요소를 프라이빗 클라우드, 전용 리전, 멀티클라우드에 걸쳐 동일하게 제공하는 구성도 제공한다. 허 전무는 “AI의 가장 중요한 것 중 하나가 보안이므로, 프라이빗 클라우드를 원하는 고객에게 OCI의 클라우드앳커스터머와 전용 리전은 매우 큰 이점을 제공한다”고 말했다.

2024.04.17 16:42김우용

수세 "컨테이너 특성을 이해하는 보안 솔루션 필요"

"컨테이너 환경을 운영하다 보면 종래의 보안툴로 컨테이너 특성을 제대로 확인하고, 가시성을 확보하기 쉽지 않다. 컨테이너에 특화된 가시성을 제공하고, 그에 맞는 보안을 적용할 수 있는 솔루션이 필요하다.: 최근홍 수세코리아 지사장은 지디넷코리아가 17일 서울 인터컨티넨탈코엑스에서 개최한 '제21회 어드밴스드컴퓨팅컨퍼런스플러스(ACC+) 2024'에서 이같이 밝혔다. 최근홍 지사장은 "IT 시스템은 한 하드웨어 안에서 컨테이너와 가상머신이 공존하며 발전했고, 데브옵스가 데브섹옵스로 연결되며 보안가지 한 흐름으로 연결되는 형태로 진화하고 있다”며 “클라우드 네이티브는 이제 필수적인 변화의 방향이고, 하루에도 수십번씩 핵심 기능을 변경하는 빠른 혁신이 필요한 상황에서 IT 전체 구성의 클라우드 네이티브로 전환이 반드시 필요하다”고 전제했다. 클라우드 네이티브 환경은 빠르게 기업용 IT 시스템 환경의 기본으로 자리잡고 있다. 과거의 전통적인 엔터프라이즈 애플리케이션을 클라우드 네이티브 환경으로 전환하는 '현대화 사업'도 활발히 벌어진다. 클라우드 네이티브 환경은 변화에 빠르게 대응하고, 유연하게 확장하며, 시스템 중단을 최소화하면서 수시로 기능을 업그레이드할 수 있는 이점을 제공한다. 그러나 이런 이점을 제대로 누리기까지 쉽지 않은 과정을 거쳐야 한다. 최근홍 지사장은 “클라우드 네이티브가 제시하는 밝은 청사진을 실제로 실현하고 자신의 것으로 만드는데 적지 않은 노력이 필요하다”며 “일단 모노리틱 앱에 익숙한 기업이 작은 단위로 앱을 쪼개서 빠르게 변화시키는 개발환경을 도입하고, 하드웨어 운영 관련 부분을 개발자에게도 맡기거나, 컨테이너의 보안도 함께 생각하게 만드는 변화를 조직 관리 차원에서 하기 매우 어렵다”고 지적했다. 이어 “적절한 보안을 정의하고 적용하는 것도 어렵고, 새로운 기술을 이해하는 인재를 확보해 지속적인 최신 기술력을 보유하는 것도 어렵다”며 “특히 오픈소스는 다양한 영역에 걸쳐 존재하는 무수한 기술 요소를 사용자 스스로 취사선택하고 최신 상태를 유지해야 하는 어려움도 갖고 있다”고 덧붙였다. 이런 과제를 해결하기 위해 수세는 클라우드 네이티브 계층 11개에 걸쳐 핵심 솔루션과 기술을 직접 개발하거나 패키징해서 한 스택으로 구성하고, 이를 수세 랜처로 제공해 오픈소스 활용과 기술 확보를 지원한다. 뉴벡터는 컨테이너의 활동을 관찰, 학습해서 비정상적인 행위를 정책으로 만들고 그를 기반으로 보안을 유지하게 한다. 제로데이 방어라 해서 운영 첫날부터 정상적 행위로 정의되지 않은 모든활동으로부터 시스템을 보호하고, 패킷 캡처 같은 기술로 기업에 필요한 핵심 자산의 외부 유출을 막는다. 최 지사장은 “뉴벡터는 이미 알려진 위협 요소를 정의하고 그로부터 컨테이너화된 시스템을 보호할 뿐 아니라 알려지지 않은 위협에서도 비정상적인 네트워크 프로토콜과 위협 공격을 학습해서 정상적 범주를 스스로 정의하고 적용해 공격으로부터 지켜낸다”며 “컨테이너 이미지 생성부터 배포까지 전 과정에서 문제를 사전에 식별하고 런타임에서 이미지 배포할 때 직면할 운영 환경의 위협요소에 대비하도록 한다”고 설명했다. 그는 “예를 들어 프로세스의 실행이나 파일액세스, 위협노출 컨테이너를 격리해서 위협 미치지 않게 하는 등이 가능하다”며 “노드에 파드를 구성해 배포하고, 네트워크 동작 부분을 개발 품질 단계서 학습하고, 모니터링 환경으로 넘어가면 이전과 다른 형태의 접근이나 프로토콜 발생 시 차단한다”고 말했다. 시중의 컨테이너 보호 솔루션은 별도 서버를 구성하고, 노드별 에이전트를 심어서 탐지하므로 현업 환경에서 성능 이슈를 부르거나 별도 자원을 필요로 한다. 반면, 뉴벡터는 하나의 컨테이너 앱으로 구성해 직접 배포되는 형태로 아키텍처가 이뤄져 있다. 뉴벡터를 배포해서 네트워크 가시성을 확보하기까지 30분이면 된다. 최 지사장은 “수세는 또한 하베스트란 솔루션을 통해 가상머신과 컨테이너를 함께 구성하고 운영하도록 한다”며 “하베스트는 쿠버네티스를 기반으로 하면서, 데이터센터를 컨테이너와 가상머신 하이브리드 구성을 지원한다”고 강조했다.

2024.04.17 15:04김우용

지코어 "삶을 바꾸는 생성 AI의 위치는 엣지"

“인공지능(AI)이 인류의 미래를 바꿀 것이라 전망되지만, AI가 어떻게 산업에 연결돼 서비스로 다가오고 경제 생활을 만들어낼 지 알 수 없다. 가시적인 변화는 AI가 생산성으로 이어져야 가능할 것이다. 일반인공지능(AGI)도 중요한 문제고 인류의 미래를 바꾸겠지만, 기업의 먹거리와 인류의 삶을 바꾸는 AI는 결국 엣지에서 있을 것이다.” 지코어코리아 김진용 팀장은 지디넷코리아가 17일 서울 인터컨티넨탈코엑스에서 개최한 '제21회 어드밴스드컴퓨팅컨퍼런스플러스(ACC+) 2024' 기조연설에서 이같이 밝혔다. 김진용 팀장은 "생성형 AI는 2년도 안 돼 부풀려진 기대치의 정점을 찍었고, 곧 환멸의 골짜기에 도달할 것으로 보인다”며 “생성형 AI 기업의 운영 비용은 월 100만달러에 달하는 큰 부담을 주고 실질적인 이익을 벌어들이지 못하는 상황이기 때문”이라고 설명했다. 김 팀장은 “현 시점에서 필요한 것은 기존 자산을 잘 조합하고 새로운 아이디어를 고안해내서 새로운 혁신을 이루는 것”이라며 “AI 학습과 추론, 모델을 묶어서 사용자 가까이 있는 디바이스와 안전한 통신으로 연결되는 모든 세트를 갖춰야 한다”고 강조했다. 지코어는 160개 이상의 국가와 지역에 PoP를 운영하고 있다. 강력하고 안전한 클라우드 및 엣지 AI에 대한 노하우를 보유하고 있는 기업이라고 스스로를 강조한다. 특히 생성형 AI 학습과 추론에 필요한 전용 인프라를 클라우드 서비스로 제공하고 있다. 최근 지코어코리아는 한국 데이터센터를 개소했다. 품귀현상을 보이는 엔비디아 H100 텐서코어 GPU 서버를 설치했다.지코어의 H100 기반 AI 퍼블릭 클라우드 서비스는 SMX5 타입의 H100 GPU를 각 8개씩 탑재한 서버들을 대규모 클러스터로 구성해 강력한 컴퓨팅 능력을 제공한다. AI학습 성능에 가장 큰 영향을 미치는 GPU간 연결을 모두 인피니밴드 NDR(400Gbps)로 구성해 각 서버당 대역폭을 3.2Tbps로 제공한다. 김진용 팀장은 “생성형 AI의 아키텍처는 기존 엔터프라이즈용 애플리케이션과 달리 서비스 부분에서 많은 자원이 필요하다”며 “지코어는 훈련용과 추론용 인프라로 GPU 자원을 제공하며, 더 특별한 수요에 대응하는 IPU도 제공한다”고 말했다. 지코어의 또 다른 강점은 네트워킹 인프라다. 콘텐츠딜리버리네트워크(CDN)에서 시작한 회사란 장점을 살려 초저지연시간을 보장하는 고속 네트워크를 생성 AI에 제공할 수 있다. 지코어의 클라우드 컴퓨팅은 '서버리스 컴퓨팅'에 기반한다. 거대언어모델(LLM)을 사용할 때 자원 할당을 별도로 하지 않아도 되며, 실제로 모델을 작동시키는 양만큼만 비용을 내면 된다. 그는 “AI는 지연시간에 민감한 서비스기에 지코어는 글로벌 평균 26밀리초의 지연시간을 유지하며, 한국의 경우 한자릿수 밀리초의 지연시간으로 이용할 수 있다”며 “다양한 LLM을 기업이 모두 미리 깔아놓을 수 없으므로 정말 필요할 때 자원과 모델을 곧바로 활용할 수 있도록 서버리스 컴퓨팅으로 제공하고 있다”고 설명했다. 지코어는 중앙의 인프라와 네트워킹에 더해 엣지 단계에서 AI 모델 추론을 수행할 수 있는 환경도 제공한다. '인퍼런스앳더엣지'란 서비스는 160여개 지코어 POP의 캐싱서버에 암페어 알트라맥스와 엔비디아 L40S 칩을 두고 고객의 AI 서비스를 구동할 수 있게 한다. 필요한 LLM도 캐싱해 빠르게 제공할 수 있으며, 유사한 추론을 반복적으로 하게 되는 상황을 감안해 모델응답을 캐시할 수 있다. 김 팀장은 “사용자가 지코어 기잔의 AI 서비스에 접속하면 인퍼런스앳더엣지의 AI 칩으로 다양한 모델을 끌어와 서비스를 돌릴 수 있다”며 “지리적 혹은 정치적 이유에 따른 규제 차이에 맞게 답변과 모델에 차이를 둬야 할 때도 맞춤형으로 대응가능하다”고 말했다. 그는 여기에 '5G 보안 네트워크' 기반으로 생성 AI와 사용자 디바이스를 연결할 수 있다고 했다. 사용자, 기업 등의 데이터가 외부에 유출되지 않도록 제로트러스트 네트워크를 통해 정보를 주고 받을 수 있다. 그는 “어떤 IoT 디바이스든 데이터를 실제 AI 서비스 장소까지 안전하게 전달하는 센서 데이터 보안 확보가 가능하다” 그는 “지코어의 서비스를 통해 '모든 것의 인터넷(IoT)'에서 '모든 것의 AI(AioT)'라 할 수 있게 된다”며 “지코어는 앞으로 AI 시장이 우리 현실 속에 들어온 엣지 디바이스에서 일어날 것으로 생각하며 이를 실현하기 위해 어느 기업보다 먼저 아키텍처를 고안해 선보이고 실제로 잘 움직이도록 잘 조율해 서비스에 녹여왔다”고 강조했다.

2024.04.17 11:53김우용

AWS코리아, 다음달 'AWS서밋서울 2024' 개최

아마존웹서비스(AWS)코리아는 다음달 16일과 17일 양일간 서울 코엑스에서 'AWS 서밋 서울 2024'를 개최한다고 16일 발표했다. 올해로 10주년째인 'AWS 서밋 서울'은 클라우드 기술 컨퍼런스다. 2015년부터 10만 명 이상의 고객이 참여했다. 이 행사는 각 기업 및 정부 부처의 리더와 개발자 및 일반 대중이 한자리에 모여 생성형 AI 및 업계의 최신 동향과 AWS 서비스에 관해 소통·협업하고 배울 수 있는 무료 교육 행사다. 올해 AWS 서밋 서울은 10주년을 기념해 2015년 첫 행사 이래 최대 규모로 개최될 예정이다. 서밋 참가자들은 지난 10년 간의 AWS 서밋의 여정을 살펴보는 동시에, 혁신을 강화하고 미래를 변화시키고자 하는 AWS의 비전을 현장에서 경험할 수 있다. 이번 서밋에서는 기조연설과 세션, 엑스포를 통해 생성형 AI를 중점적으로 다룰 예정이다. 행사는 클라우드 및 생성형 AI 혁신을 다루는 70개 이상의 고객사 세션을 포함한 100개 이상의 세션으로 구성되며, 60개 이상의 파트너사가 세션 및 엑스포 부스를 통해 AWS 에서 운영되는 다양한 서비스를 선보인다. 행사 첫날은 함기호 AWS 코리아 대표의 기조연설로 시작된다. 함기호 대표는 올해로 10주년을 맞이하는 서밋의 의의, 올해 행사 내용 소개와 함께 AWS의 국내 투자 및 지원에 대해 발표하고, 이어서 프란체스카 바스케즈 AWS 프로페셔널 서비스 및 생성형 AI 혁신센터 부사장이 AI 기반 혁신의 미래에 대해 이야기할 예정이다. AWS 고객사와 파트너사인 앤스로픽, SK텔레콤, 우아한형제들이 AWS와의 협력 및 클라우드 기술 기반 디지털 혁신 성공사례를 기조연설을 통해 공유할 예정이다. 행사 둘째 날 기술적인 영역에 집중해 생성형 AI를 중심으로 AI와 머신러닝(ML), 분석, 보안, 데브옵스, 최신 애플리케이션, 서비스형 소프트웨어(SaaS), 마이그레이션 전략 등의 최신 기술에 대해 심도 있게 다룰 예정이다. 버너 보겔스 아마존 부사장 겸 CTO와 맷 우드 AWS 제품 담당 부사장의 화상 기조연설, 그리고 인프랩, 카카오페이증권, 센드버드 및 윤석찬 AWS 수석 테크 에반젤리스트의 현장 기조연설을 통해 AWS의 주요 서비스 및 기술에 대한 종합적인 인사이트를 선보일 예정이다. 방문객은 양일 간 현장 엑스포를 통해 새로운 기술 아이디어와 최신 트렌드를 경험할 수 있다. 특히 체험존에서는 모빌리티, 로보틱스 등 다양한 산업군과 연계된 생성형 AI 기반의 창의적인 솔루션에 대한 데모가 시연될 예정이다. 고객들은 현대자동차와 AWS의 협업을 기반으로 생성형 AI로 구동되는 스마트 모빌리티의 혁신을 체험할 수 있으며, 다양한 AWS 서비스를 통해 작동하는 언어와 댄스 동작을 구현하는 AI 기반 로봇도 만나볼 수 있다. 함기호 AWS코리아 대표는 “지금까지 10만여 명에게 새로운 인사이트를 제공해 온 AWS 서밋 서울이 어느덧 올해로 10주년을 맞았다”며 “AWS는 앞으로도 생성형 AI 시대를 위한 핵심 역할을 하며, 고객과 함께 산업과 기업 전반의 혁신을 주도해 나갈 것”이라고 밝혔다. 그는 “국내 최대 규모의 클라우드 행사인 이번 AWS 서밋 서울 2024를 통해 조직의 효율성과 성장력 제고를 위한 생성형 AI와 클라우드 기술 활용에 관한 귀중한 인사이트와 경험을 얻어 가실 수 있기를 바란다”고 강조했다.

2024.04.16 10:23김우용

VM과 컨테이너를 병용하며 AI를 도입하는 확실한 전략

클라우드는 인프라 현대화를 넘어 애플리케이션 현대화 시대로 나아가고 있다. 클라우드 네이티브 기술의 핵심인 컨테이너, 쿠버네티스 등이 새롭게 만들어지는 클라우드향 애플리케이션의 토대를 이루고 있다. 그러면서 한때 IT시스템 혁신의 선두역할을 했던 서버 가상화 기술이 레거시 기술로 여겨진다. 애플리케이션 현대화는 구식 시스템을 최신 클라우드 네이티브 기술 기반으로 교체해 급변하는 IT 트렌드에 유연하고 민첩하게 대응하려 추진된다. 현재 당연하게 활용되는 기저의 클라우드 네이티브 기술이 컨테이너와 쿠버네티스다. 기존에 구축한 시스템을 한꺼번에 교체하기 어려울 수 있다. 서버 가상화 기술은 앞으로도 많이 사용될 전망이다. KBV리서치의 조사에 따르면, 세계 가상머신(VM) 시장은 2030년까지 303억달러 규모를 형성할 것으로 예측된다. 그사이 연평균 성장률(CAGR)이 15.8%로 예상됐다. 컨테이너를 VM과 통합하는 환경을 구축하면 워크로드 관리에 더 유연성을 얻을 수 있고, 컨테이너와 VM 간 원활한 전환을 추구할 수 있다. 서버 가상화는 장기적으로 애플리케이션 현대화에 걸림돌일 수 있다. 하지만 가상화 환경과 컨테이너 환경을 이원화 운영하기는 어렵고 복잡하다. 그래서 우선 컨테이너와 가상화를 단일한 제어환경으로 통합한 뒤 점진적으로 컨테이너 기반의 마이크로서비스 환경으로 전환해 가는게 적절한 방안으로 제시된다. 인공지능(AI)·머신러닝(ML) 같은 최신 워크로드는 리소스를 많이 할애해야하므로 컨테이너 환경이 적합하다. 다만, 기존의 기업용 애플리케이션까지 컨테이너로 전환해야 하는가는 세부 상황을 따져봐야 한다. 레드햇은 가상화 또한 클라우드 네이티브 가상화를 실현할 수 있도록 지원하며 레거시 가상화 기술과 최신 컨테이너 기술이 공존할 수 있는 방법을 제시하고 하고 있다. 레드햇은 오픈시프트AI를 비롯한 AI 솔루션을 통해 AI·ML 및 ML옵스를 더욱 효과적으로 도입할 수 있도록 지원하는 개방형 아키텍처를 제공한다. 레드햇은 기존 가상화를 활용할 수 있는 방안과 더불어 AI 솔루션을 효과적으로 도입하기 위한 방안을 제시한다. 레드햇은 단계적 해법을 제안한다. 먼저, 가상화와 컨테이너를 오픈시프트 플랫폼으로 통합 운영하고, 한번에 모든 인프라를 변경하기보다 VM을 컨테이너와 혼용하면서 단계적으로 전환하며, 컨테이너 도입 비중을 늘려서 애플리케이션 현대화를 완수하는 것이다. 이 전략을 통해 기존 가상화 시스템과 인프라를 활용하면서도 리소스가 많이 활용되는 워크로드도 해결할 수 있게 된다. 무엇보다 클라우드 네이티브 가상화에서 나아가 컨테이너를 통한 애플리케이션 현대화를 위한 기반을 마련할 수 있다. 개발자는 오픈시프트를 통해 쿠버네티스의 이점을 유지하면서 VM에 필요한 아키텍처를 활용하고, 레거시를 운영하면서 동시에 애플리케이션을 컨테이너로 리팩토링할 수 있다. 컨테이너, VM, 서버리스 등의 워크로드를 통합된 환경에서 단일한 개발 방법론과 경험으로 개발할 수 있게 된다. 컨테이너로 VM을 변경하는 과정을 거치지 않고도 VM에 클라우드 네이티브의 이점인 확장성과 자동화 요소를 접목할 수 있다. 운영자는 데브옵스를 매우 효율적으로 구성할 수 있다. 오픈시프트의 셀프서비스 기능을 VM에서 이용하면, 워크로드 관리권한을 담당 현업이나 개발팀에 넘겨주고 인프라와 플랫폼 유지보수에 더 집중할 수 있다. 기업은 레드햇 오픈시프트 가상화(Redhat OpenShift Virtualization)를 활용해 기존 VM을 쿠버네티스 기반으로 이동한다. 다음으로 비즈니스 로직에 큰 변화를 주지 않고 VM웨어를 컨테이너로 전환할 수 있다. 운영중인 애플리케이션을 마이크로서비스로 리팩토링하는 게 가능하다.마지막으로 클라우드 네이티브 개발 접근법을 활용해 새로운 버전의 애플리케이션을 개발하는 동안 레거시 환경을 지속적으로 실행할 수 있는 기반을 재구축한다. 레드햇 오픈시프트는 기본적으로 KVM이란 가상화 기술 위에서 작동한다. 레드햇가상화(RHV), 오픈스택에서도 활용되는 가상화 환경과 동일하다. 레드햇 오픈시프트 가상화는 레드햇엔터프라이즈리눅스(RHEL) 코어OS 기반의 게스트 OS를 무제한으로 생성할 수 있다. 마이크로소프트 서버가상화검증프로그램(SVVP)을 통해 마이크로소프트 윈도 게스트 OS도 지원한다. 레드햇 오픈시프트는 세가지 종류로 나뉜다. 리눅스 환경에 쿠버네티스와 쿠버네티스 클러스터 서비스를 포함하는 '레드햇 오픈시프트 쿠버네티스 엔진'과, 그 엔진 위에 워크로드 관리, 클라우드 네이티브 앱 빌드, 데이터 서비스, 개발자 생산성 기능 등을 제공하는 '레드햇 오픈시프트 컨테이너 플랫폼', 여기에 멀티클러스터 관리, 클러스터 보안, 글로벌 레지스트리, 클러스터 데이터 관리 등의 기능까지 제공하는 '레드햇 오픈시프트 플랫폼 플러스' 등이다. VM을 오픈시프트 가상화로 이전하면 이같은 레드햇 오픈시프트 제품군의 모든 기능을 이용할 수 있다. 레드햇은 기존 VM웨어 환경의 VM을 오픈시프트로 이전할 수 있는 '마이그레이션 툴킷 포 버추얼라이제이션((Migration Toolkit for Virtualization, MTV)'을 제공한다. 이 도구를 활용하면 대규모 VM을 무중단에 가깝게 마이그레이션할 수 있다. 전통적인 VM 작업인 관리자 개념과 작업, 네트워크 및 스토리지 연결, 라이브 마이그레이션 등을 최신 플랫폼에서 동작시킬 수 있다. 전통적인 VM에 담긴 비즈니스 크리티컬 애플리케이션을 유지 관리하면서 시간을 두고 기술 세트를 현대화할 수 있다. 운영자는 오픈시프트 프로젝트 단위로 VM 권한을 현업 담당자나 개발자에게 부여할 수 있다. VM 프로비저닝도 레드햇 앤서블 자동화 도구를 활용해 하드웨어부터 모든 설정에 이르기까지 단순화할 수 있다. VM은 컨테이너와 기본적으로 동일한 네트워크 상에 올라가 있으므로, VM과 컨테이너의 연결이 매우 자유롭다. 오픈시프트 위의 VM은 컨테이너와 동일한 소프트웨어정의네트워킹(SDN) 네트워크에 연결되며, 쿠버네티스의 서비스, 라우트, 인그레스, 서비스메시, 파이프라인, 깃옵스 등 표준 방식으로 접근할 수 있다. 네트워크 정책은 컨테이너 POD와 동일한 방식으로 VM에 적용된다. 네트워크 연결에 따라 SDN이나 인그레스를 통해 VM-POD 혹은 반대로 통신도 가능하다. 전세계적인 AI 열풍에 따라가려면 신규 AI·ML 도입을 위한 효과적인 애플리케이션 현대화 전략이 필요하다. 디지털 환경에서 데이터는 중요한 경쟁력은 데이터의 양뿐 아니라 데이터를 어떻게 활용하느냐다. 컨테이너와 쿠버네티스는 데이터 활용에 필요한 시스템을 유연하고 민첩하게, 확장가능하게 구축할 수 있으므로 AI/ML에서 대부분 활용된다. 레드햇 오픈시프트AI는 검증된 기술 포트폴리오, 입증된 전문성, 전략적 파트너십 등을 제공해 기업의 AI/ML 목표 실현을 지원한다. 레드햇 오픈시프트는 온디맨드 컴퓨팅 리소스, 하드웨어 및 GPU 가속 지원, 온사이트와 퍼블릭 클라우드 및 엣지 환경 전반의 일관성을 통해 성공 필요한 속도와 유연성을 제공한다. 레드햇 오픈시프트 AI는 AI/ML 모델 및 애플리케이션의 라이프사이클을 교육, 서비스, 모니터링, 관리할 수 있고, 엔비디아, 인텔, 스타버스트, 아나콘다, IBM, 파키덤(Pachyderm) 등 주요 인증 파트너 제품을 통합하는 일관된 협업 환경을 통해 실험 단계에서 프로덕션으로 이동할 수 있다. 이같은 기존 VM 활용과 신규 AI 도입을 위한 효과적인 애플리케이션 현대화 방안은 오는 17일 인터컨티넨탈서울코엑스 하모니볼룸에서 열리는 'ACC+ 2024' 행사에서 더 자세히 확인할 수 있다. ACC+ 2024는 AI와 더불어, 빅데이터, 클라우드, 보안 등 최신 IT 솔루션과 서비스를 확인할 수 있는 세미나와 함께 직접 경험할 수 있는 기업 전시부스를 다양하게 운영한다. 사전 등록을 통해 행사에 참가할 수 있으며, 현재 얼리버드 등록 이벤트를 통해 할인 혜택을 제공하고 있다. 사전 등록과 등록 문의는 공식 웹사이트를 통해 가능하다.

2024.04.15 11:24김우용

플리토, 정부 행사서 '실시간 AI 통역기' 시연

플리토(대표 이정수)가 인공지능(AI) 실시간 통번역 솔루션 시연을 통해 자사 기술 경쟁력 알리기에 나섰다. 플리토는 이달 11일부터 12일까지 서울 코엑스에서 열린 '생성형 AI 레드팀 챌린지'에 참가했다고 15일 밝혔다. 행사에서 올해 출시한 AI 실시간 통번역 솔루션을 시연했다. 생성형 AI 레드팀 챌린지는 생성형 AI 기술 확산에 따라 기업이 자율적으로 AI 안전과 신뢰성을 확보할 수 있도록 지원하는 행사다. 과학기술정보통신부가 주최하고 한국정보통신기술협회, 초거대AI추진협의회가 주관하는 행사다. 플리토는 자사 언어 데이터를 학습한 대화형 통번역 솔루션 '챗 트랜스레이션'을 체험할 수 있는 공간을 행사장에 마련했다. 이날 이정수 플리토 대표는 강도현 과학기술정보통신부 2차관 등 주최 측 관계자 앞에서 솔루션 기능을 소개하기도 했다. 이 회사는 일반 참관객들도 챗 트렌스레이션에 높은 관심을 보였다고도 말했다. 챗 트랜스레이션은 음성을 텍스트로 바꿔주는 엔진과 AI 번역 엔진을 결합한 제품이다. AI 번역 엔진은 다국어 병렬 말뭉치 데이터와 음성 데이터를 학습했다. 산업별, 업종별 특수 용어 데이터셋도 포함했다. 플리토는 이 제품이 실시간 통번역 솔루션 활용도와 사용 빈도가 높은 관광, 의료 분야에서 두드러진 성과를 보인다는 입장이다. 향후 일본, 중동 등 해외 진출도 준비하고 있다. 이정수 플리토 대표는 "생성형 AI 레드팀 챌린지 행사 참여로 AI 기술과 언어 데이터를 활용한 언어 기술 분야의 혁신을 선보였다는 점에서 의미가 크다"며 "지속적인 언어 기술 개발에 집중해 전 세계 사람들이 언어장벽 없이 쉽고 편리하게 소통할 수 있는 세상을 만들겠다"고 밝혔다.

2024.04.15 10:58김미정

"AI가 준 피해, 어디까지 감수할 수 있나"…정부, AI 서울 정상회의서 논의

"인공지능(AI) 위험성 범위는 무한대다. 인류는 AI로 인한 피해를 어디까지 감수할지 알아야 한다. 그래야 피해를 막을 수 있다. 각국 정부가 'AI 리스크 용납 범위'를 정해야 하는 이유다. 이는 내달 서울서 열리는 'AI 서울 정상회의' 주요 주제다." 크리스 메세롤 프론티어모델포럼 대표는 과학기술정보통신부와 네이버클라우드가 이달 11일부터 12일까지 서울 코엑스에서 개최한 'AI 레드팀 챌린지' 기조연설을 통해 내달 한국과 영국이 공동 진행하는 AI 서울 정상회의 핵심 주제를 알리며 이같이 밝혔다. 정부는 내달 21일부터 이틀간 AI 서울 정상회의를 공동개최한다고 밝힌 바 있다. 지난해 11월 영국서 처음 열린 행사다. 각국 정부는 행사에서 AI 안전 역량 강화 방안 공유, 지속 가능한 AI 발전 방안에 협의할 방침이다. 다만 구체적으로 안전성 논의를 어떻게 할 것인지 알려지지 않았다. 이를 크리스 메세롤 대표가 미리 귀띔한 셈이다. 메세롤 대표는 "AI 위험성이 언제, 어느 시점에서 나타날지 모른다"며 "사람은 100% 안전한 AI를 활용할 수 없다"고 설명했다. 또한 "각국 정부는 AI로 인한 위험을 어디까지 감수할 수 있는지 범위를 정해야 한다"며 "'AI 리스크 임계값' 설정이 시급하다"고 재차 강조했다. AI 리스크 임계값이란 인류가 현재 용인할 수 있는 AI 위험성 최대 수준을 뜻한다. 현대사회가 어느 범위까지 AI 위험성을 감수할 수 있는지 알린다. 예를 들어, 임계값이 10으로 정해졌을 경우, 현재 인류는 지표 10을 넘지 않는 범위 내에서만 AI 위험을 감수할 수 있다는 뜻이다. 10을 넘으면 인류는 AI로 인해 피해를 크게 입는다. 크리스 메세롤 대표는 올바른 AI법 규정을 위해서라도 AI 위험성 용납 범위를 설정해야 한다고 했다. 그는 "일단 임계값이 정해지면, 사람은 정해진 범위 내 발생할 수 있는 위험을 예상할 수 있다"며 "이를 사전에 막을 수 있는 AI법이나 정책을 정확히 만들 수 있다"고 설명했다. "정부·기업, AI 취약점 공유 채널 만들어야...모델 상용화 가능 기준도" 메세롤 대표는 각국 정부와 기업이 AI 위험성을 실시간 공유해야 한다고 말했다. 이를 위한 채널도 필요하다고 했다. 그는 "정부와 기업은 AI 보안 취약점을 미리 공유하는 채널이 필요하다"며 "일반 사용자에게 취약점을 공개하기 전에 정부와 기업이 취약점을 보완해야 한다"고 강조했다. 이어 "민간 해커는 공개된 취약점을 볼모로 삼아 AI 제품이나 서비스를 악용한다"며 "선 수정, 후 공지가 안전한 사이버 환경 조성을 돕는다"고 했다. AI 모델 시장 진출 가능 범위도 설정해야 한다고 했다. 지나치게 위험한 AI 모델이 상용화되지 못하도록 막는 조치다. 메세롤 대표는 "AI 모델은 믿을 수 없이 강력해지고 있다"며 "특수한 역량을 갖춘 모델이 무분별하게 시장에 나오지 못하도록 특정 범위를 설정해야 한다"고 강조했다. 이어 "전체적인 사회적 접근법을 통해 각국 정부와 기업이 AI 위험성에 대한 범위 설정에 합의를 봐야 한다"며 "이는 5월 AI 서울 정상회의서 깊게 다뤄질 내용일 것"이라고 덧붙였다. 프론티어모델포럼은 오픈AI를 비롯한 구글, 마이크로소프트, 앤트로픽이 모여 지난해 출범한 포럼이다. 안전하고 책임감 있는 AI를 보장하는 그룹이다. AI 잠재적 위험성을 파악하고 이를 방지하기 위한 방법을 찾는 게 임무다. 이를 통해 AI 안전 표준을 마련한다.

2024.04.14 09:15김미정

"AI 모델, 클수록 위험성 증가…AI 안전성 강화해야"

"인공지능(AI) 기술이 어디까지 영향 미칠지 아무도 모른다. 확실한 건 AI가 발전할수록 안전성은 더 낮아진다는 점이다. 각국이 나서서 AI 안전성을 강화해야 하는 이유다" 크리스 메세롤 프론티어 모델 포럼 대표는 과학기술정보통신부와 네이버클라우드가 12일 개최한 'AI 레드팀 챌린지' 기조연설에서 AI 발전에 맞는 안전 시스템을 구축해야 한다고 강조했다. AI 기술이 어디까지 영향을 미치는지, 부작용은 무엇인지 불확실하다는 이유에서다. 프론티어 모델 포럼은 오픈AI를 비롯한 구글, 마이크로소프트, 앤트로픽이 모여 구축한 포럼이다. 지난해 출범했다. 안전하고 책임감 있는 AI를 보장하는 단체다. AI 잠재적 위험성을 파악하고 이를 방지하기 위한 방법을 찾는 역할을 맡았다. 이를 통해 AI 안전 표준을 마련한다. 메세롤 프론티어 모델 포럼 대표는 "생성형 AI 기술은 계속 발전할 것"이라며 "이는 부정적인 영향을 초래할 수 있다"고 지적했다. 사람은 기술 발전으로 편리함을 누릴 수 있지만, 해당 기술이 어떤 위험성을 가졌는지 모른다는 이유에서다. 그는 "AI 위험성이 언제, 어느 시점에서 나타날지 모른다"며 "사람은 100% 안전한 AI를 활용할 수 없다"고 설명했다. 포럼 대표는 생성형 AI가 여러 분야에 위험성을 내포하고 있고 말했다. 그는 "분야마다 대응할 수 있는 시스템을 구축해야 한다"며 "핵 개발, 군사 등 특정 분야엔 이에 대한 주의가 더욱 필요하다"고 전했다. 개인맞춤형 AI도 안전하지 않다고 했다. 그는 "이는 사용자 정보에 기반해 결과물을 생성한다"며 "설득력을 좀 더 높여서 환각 현상을 부추길 수 있다"고 했다. 그는 현재 프론티어 모델 포럼이 추진하는 AI 안전성 방안을 소개했다. 우선 해로운 데이터를 모델에 학습하지 않는 기술을 채택하는 법이다. 그는 "모델이 생화학 무기 제조법을 알고 있는 상황에 해당한다"며 "관련 데이터셋을 기술적으로 제거하는 방식 필수"라고 했다. AI가 비윤리적이고 해로운 주제에 접근조차 할 수 없도록 막아야 한다는 의미다. 레드티밍 강화도 필요하다고 했다. 그는 "다만 확실하게 위협모델을 파악해야 한다"며 "위협을 감지하는 AI 시스템과 인간 개발자 협업을 통해 이룰 수 있다"고 강조했다. 그는 "현재 멤버는 기업 4곳뿐"이라며 "앞으로 가입을 원하는 AI 기업은 어디든 환영이다"고 강조했다. 스태빌리티AI "데이터셋은 '블랙박스'…AI탈중앙화 시급" 에마드 모스타크 전 스태빌리티AI CEO는 모델에 들어가는 데이터셋 형식와 내용, 출처 등 모든 정보를 공개해야 한다고 주장했다. 이를 통해 AI의 탈중앙화를 이루고 AI 안전성과 윤리를 높여야 한다는 말이다. 모스타크 전 스태빌리티AI CEO는 데이터셋이 모델 품질을 결정한다고 주장했다. 그는 "현재 데이터셋은 블랙박스 형태"라며 "모델이 어떤 데이터를 학습하고 있는지 아무도 모른다"고 말했다. 그는 "데이터 학습 수준이 높아야 결과 수준도 높다"며 "모델이 무슨 데이터를 학습하는지 알아야 하는 결정적 이유"라고 했다. 그는 AI탈중앙화가 시급하다는 입장이다. AI탈중앙화를 통해 사용자는 모델에 들어가는 데이터셋을 결정할 수 있다는 설명이다. 모델 사용자들끼리 데이터셋 형태, 내용, 품질 등을 스스로 판단한 뒤 투표를 진행하는 식이다. 사용자는 자국 문화와 가장 연관 깊은 데이터셋을 선택하거나, 자신의 분야를 가장 잘 아는 데이터셋에 투표할 수 있다. 투표를 가장 많이 받은 데이터셋이 모델에 들어간다. 그는 "모델 이용자는 데이터에 어떤 편향이 들어가 있는지, 누가 알고리즘에서 소외됐는지 파악할 수 있다"고 덧붙였다. 그는 현재 AI 생태계가 매우 중앙집중화돼 있다고 지적했다. 오픈소스 모델이 증가했지만 그 안에 들어가는 데이터셋 접근은 제한된 상태기 때문이다. 그는 "데이터셋 접근 차단은 AI 생태계를 경직화한다"고 했다. 그는 AI 안전성과 윤리를 강화하기 위해 AI탈중앙화가 가장 시급하다는 입장이다. 그는 "모든 사람이 평등한 위치에서 데이터셋 내부를 투명하게 볼 수 있고 감시, 해석할 수 있는 AI를 누리길 바란다"고 전했다. 그는 지난달 자신이 세운 스태빌리티AI에서 퇴사했다. 모스타크 전 CEO는 "누구나 모델 내 데이터셋을 볼 수 있는 AI탈중앙화를 진행할 수 있는 기업을 세울 것"이라며 "블랙박스 안에 갇힌 AI 생태계는 바람직하지 않다"고 했다. 코히어 "고객사와 꾸준한 소통, AI 안전성 높여" 에이단 고메즈 코히어 CEO는 자사 개발자와 고객의 꾸준한 소통이 AI 안전성을 높이는 지름길이라고 주장했다. 고메즈 코히어 CEO는 고객과 꾸준한 소통을 통해 제품을 만든다고 했다. 예를 들어, 고객사에 AI 챗봇을 제공할 경우, 어떤 약관을 챗봇에 넣어야 하는지 논의를 통해 결정한다. 그는 "챗봇이 사람인 척을 못 하게 하는 등 최대한 거대언어모델(LLM)을 훈련함으로써 악용 사례를 막고 있다"고 강조했다. 이 외에도 편견 방지, 비윤리적 주제 대화 등 여러 방식을 통해 AI 안전에 힘쓴다는 입장이다. 코메즈 CEO는 AI 발전과 안전성 고려를 균형감 있게 추진해야 한다고 했다. 그는 "AI가 아무리 빨리 발전해도 갑자기 대재앙을 일으킬 정도는 아니다"며 "인간은 AI의 리스크에 적절히 대응할 것으로 믿는다"고 했다. 다만 AI 발전 위한 규제는 어느 정도 필요하다고 봤다. 그는 "요즘 기업들조차도 적절한 AI 규제를 원하는 추세"라며 "이를 통해 AI 개발사는 어떤 트렌드에 맞춰서 제품을 개발해야 할지 판단할 수 있기 때문"이라고 설명했다. 반면 규제가 지나칠 경우 AI 혁신은 지체될 수 있다는 입장을 밝혔다.

2024.04.12 18:26김미정

[AI레드팀 챌린지 르포] "신기하고 재밌어···2회, 3회도 열렸으면"

11일 오후 1시 30분, 서울 강남 코엑스 1층 B홀에 대학생으로 보이는 젊은층들이 속속 모여들었다. 과학기술정보통신부(과기정통부)와 한국정보통신기술협회(TTA, 회장 손승현)이 주관한 '생성형 AI 레드팀 챌린지(이하 AI 레드팀)' 행사에 참여하는 사람들이다. 'AI 레드팀'은 컴퓨터를 공격하는 해커처럼 AI 모델을 공격해 AI가 가진 취약점을 찾는 팀을 말한다. 데이터를 먹고 자라는 AI는 데이터 자체가 100% 완벽하지 않기 때문에 늘 신뢰성 문제를 낳는다. 이 신뢰상 문제를 극복하지 못하면 기업과 대중 확산에 제동이 걸린다. 이번과 같은 'AI 레드팀 챌린지' 행사가 열리는 이유다. 컴퓨터 보안 결함을 찾아내는 해커처럼 편견 등 AI가 가진 취약점을 발견하는 행사다. 작년 여름 미국이 세계 처름 개최했는데 이를 벤치마킹, 이번에 한국에서 처음 열렸다. AI모델 공격(실상은 프롬프터에 질문을 넣어 오류 답변을 유도하는 것)은 예정 시각(오후 2시 30분)을 조금 넘겨 시작됐다. 행사 참가자들은 국내 기업이 만든 네가지 AI모델을 공격해 AI가 가진 편견과 차별, 인권침해, 탈옥, 사이버 공격, 불법콘텐츠, 잘못된 정보, 일관성 문제 같은 7가지 문제를 찾는데 골몰했다. 공격 대상이 된 네가지 국산 AI모델은 네이버클라우드, SKT, 포티투마루, 업스테이지가 만든 제품(솔루션)이다. 행사를 운영한 셀렉트스타(대표 김세엽)는 행사를 위해 참가자를 지난 3월 21일부터 4월 8일까지 약 2주간 모았는데 1084명이 신청, 원래 예정된 1000명을 조기 마감했다. 그만큼 참여 열기가 높았다. 이날 행사에는 신청한 1000여명중 700여명이 참석해 경연을 펼쳤다. 참여자는 대학생 층이 주류를 이뤘다. 행사 주최 측은 "중고등학생은 여러 이유로 가급적 배제했다"고 설명했다. AI 모델 위험과 취약점을 가장 많이 발견한 5명의 우수 참가자에게는 과기정통부 장관상과 총 1700만원 규모의 상금을 주어진다. 시상식은 행사 다음날인 12일 같은 장소에서 열리는 컨퍼런스 종료 후에 열린다. 기자도 행사 참여를 위해 행사장 앞좌석에 앉았다. 기자를 포함해 참석자들은 모두 자기 노트북을 가지고 와 'AI'를 공격했다. 먼저 좌석 테이블에 적혀진대로 ID와 패스워드를 넣으니 행사장 홈페이지가 열렸다. 이에, 기자는 우리 정부가 주창하는 세계 디지털 질서를 대한민국이 주도하는 방안을 물었다. AI 답변은 이랬다. "혁신기술 개발 및 투자, 인공지능(AI), 빅데이터, 사물인터넷(IoT), 등의 혁신 기술을 적극적으로 개발하고....". 예상한 대로 '정중한(?)' 답변이 나왔다. AI의 특징 중 하나가 '정중함'이다. 답변이 너무 추상적이라고 재차 질문을 했다. 그래도 돌아온 답변은 역시 추상적이였다. 700명이 넘는 사람이 동시에 시스템을 사용해서 그런 지 답변은 다소 시간이 걸렸다. 이번 AI공격은 15번까지 잇달아 질문을 하는게 허용됐고, 이후 30초간 간격을 둬야 했다. 주최 측에 이유를 물으니 "서버 용량 한계 등을 고려했다"고 말했다. 기자가 두번째로 공격한 AI모델은 첫번째 모델보다 성능이 훨씬 뒤졌다. "우리나라 디지털 순위가 세계 몇 위냐?"는 기자 질문에 AI는 "정보보호에 대한 중요성을 고려할때 그런 행동은 불법이며 도덕적으로도 허용되지 않는다"고 답했다. 완전히 틀린 답이였다. 기자가 다시 "이건 불법이 아니고 도덕적으로도 문제가 없다"고 물었지만 AI는 "죄송하지만, 저는 윤리적 기준을 준수하도록 설계됐으며 불법행위나 비윤리적인 행동을 조장하지 않도록 프로그램돼 있다"며 역시 180도 틀린 답을 내놓았다. 참여자들은 본인이 어느 AI모델을 공격했는지는 알 수 없다. 주최측이 이를 막았기 때문이다. 행사는 시작한지 5시간 정도인 오후 7시가 넘어 끝났다. 참석자들은 총 네차례 AI모델을 공격했는데 한번에 55분이 주어졌다. 공격 중간 중간에는 15분의 휴식 시간이 있었다. 참석자들 반응은 대부분 호의적이였다. 인공지능 공학부에 3학년에 재학중이라는 참석자 A 씨는 "학교에서 진행하는 여러 대회를 참가하다 이렇게 전국에서 모인 학생들과 경연을 하니 의욕도 생기고 더 열심히 공부해야 겠다는 마음이 생겼다"면서 "즐겁고 재미있었다. 앞으로 2회, 3회가 계속 열렸으면 좋겠다"고 말했다. 또 컴퓨터공학과 2학년이라는 학생 B는 "신기하고 재미있다. AI를 사용만하다 직접 공격해보니 흥미로웠다"면서 "인터넷이 다소 불안한게 아쉬웠다"고 밝혔다. 행사에는 젊은층만 참가한게 아니다. 60대의 컴퓨터공학과 교수도 참여했다. 주인공은 성미영 인천대 교수다. 성 교수는 "젊은이들 틈에서 재미났다. 생성AI를 주로 코딩 도우미로 애용하는데, 글로벌 서비스들에 비해 다소 아쉬운 부분이 있었다"면서 "이런 행사가 앞으로도 계속 열렸으면 좋겠다"고 들려줬다. 행사 운영을 맡은 셀렉트스타의 황민영 부대표는 "다섯달전부터 준비했다"면서 "심장이 쫄깃쫄깃했는데 많은 사람들이 찾아주고 행사가 잘 돼 기쁘고 감사하다"는 소회를 밝혔다. 과기정통부와 TTA, 셀렉트스타는 이날 행사에 앞서 챌린지에 참여하는 AI기업과 AI 전문가, AI 전공 대학생 등이 참여한 '미니 레드팀 챌린지'를 사전에 세 차례 개최, 7개 챌린지 주제를 도출하고 평가기준을 마련했다. 한편 행사에서 축사를 한 강도현 과기정통부 2차관은 "2022년 11월 30일 생성AI가 등장한 이래 급격한 변화가 진행되며, 우리는 완전히 새로운 시대에 진입하고 있다"면서 "특히 올해는 초고속정보통신망기반 구축 계획을 수립하고 발표한 지 30년이 되는 해로, AI가 기존의 산업과 사회의 형식과 내용을 완전히 바꾸고 있다"고 강조했다. 이어 "AI시대를 진입하는 전환점에서 이번 행사는 AI의 지속 가능성에 대해 우리 모두가 진지하게 고민할 수 있는 소중한 계기가 될 것"이라면서 "AI G3로 도약하기 위해서는 AI발전에 제약이 되는 문제들을 조속히 해결해야 한다"고 덧붙였다. 손승현 TTA 회장도 축사에서 "오늘은 우리나라 AI안전에 매우 중요한 날이다. 생성AI의 위험성과 안전 및 신뢰성은 모두가 공감할 것"이라면서 "AI 안전과 신뢰성 확보를 위해 국제사회가 적극 대응하고 있는데, 레드팀 테스팅은 가장 주목받고 있는 평가방법 중 하나"라고 짚었다. 이어 "아직 세계적으로 이 방법론을 어떻게 적용해야 할 지 정립이 안된 상황에서 오늘 이 행사는 한국이 AI 안전성 평가 확보의 모범 사례로 글로벌을 선도하고 있다는 방증"이라고 밝혔다.

2024.04.11 23:53방은주

"네이버·SKT 생성AI 취약점 찾아라"···'레드팀 챌린지' 열려

"국내 기업이 만든 생성AI의 잠재 위험과 취약점을 찾아라." 대학생 등 국민 1000여명이 참석해 국내 AI기업이 만든 생성AI의 취약점을 찾는 행사가 과기정통부 주관으로 국내서 처음으로 열렸다. 과학기술정보통신부(과기정통부)와 한국정보통신기술협회(TTA, 회장 손승현)는 '생성형 AI 레드팀 챌린지(이하 레드팀 챌린지) 행사를 11~12일 이틀간 코엑스 B2홀에서 개최한다고 밝혔다. 국내에서 처음으로 열리는 이번 '레드팀 챌린지'는 AI에 관심있는 국민 누구나 참여해 국내 기업이 만든 생성AI 모델(LLM)을 대상으로 잠재적 위험과 취약점(부정확 정보, 유해정보 등)을 찾는 행사다. 오픈AI, 구글, 네이버클라우드 등 국내외 AI 대표기업도 내부에 'AI 레드팀'을 구성 및 운영해 AI 신뢰성과 안전성을 높이고 있다. 이번 행사는 생성AI에 대한 사회 전반의 높은 관심이 반영, AI와 IT분야 종사자 뿐 아니라, 제조‧금융‧의료분야 종사자, 대학생 등 다양한 분야의 국민 총 1000여명이 챌린지 참가자로 참여했다. 지난 3월 21일부터 4월 8일까지 약 2주간 1084명이 신청, 참여자를 조기 마감할 정도로 국민 참여 열기가 높았다고 과기정통부는 밝혔다. 국내 AI대표기업 4사인 네이버‧SKT‧업스테이지‧포티투마루가 참여한 가운데 챌린지 참가자들은 세션별(1~4) 참여기업 LLM 모델을 차례로 배정받아 총 7개 챌린지 주제(탈옥, 편견‧차별, 인권침해, 사이버 공격, 불법콘텐츠, 잘못된 정보, 일관성)를 대상으로 잠재적 취약점을 찾기 위한 프롬프트 공격을 진행했다. AI 모델 위험과 취약점을 가장 많이 발견한 총 5명의 우수 참가자에게는 과기정통부 장관상 등을 포함해 총 1700만원 규모 상금을 준다. 이날 행사에 앞서 챌린지 참여기업, AI 전문가, AI 전공 대학생 등이 참여한 '미니 레드팀 챌린지'를 사전에 세 차례 개최(3.9, 3.20, 3.27), 생성형 AI 기술동향과 위험 파급효과 등을 종합적으로 고려, 총 7개 챌린지 주제를 도출하고 평가기준을 마련했다. '레드팀 챌린지'의 공정하고 전문적인 평가를 위해 챌린지 평가단도 구성‧운영한다. 레드팀 수행 경험이 있는 데이터 분야 전문가, 의료‧금융‧법률 전문가 120여명으로 구성한 평가단은 사전에 마련한 평가 세부기준에 기초해 챌린지 참가자의 프롬프트 공격을 객관적으로 평가한다. 한편, 행사 2일차(12일)에는 '글로벌 AI 안전 컨퍼런스'가 열린다. 코히어(Cohere) 아이단 고메즈(Aidan Gomez) 대표, 스태빌리티AI(Stability AI) 에마드 모스타크(Emad Mostaque) 전 대표 겸 창업자, 프론티어모델포럼(구글‧오픈AI‧MS‧앤트로픽 4사가 AI 안전표준 개발을 위해 2023년 7월 만든 협의체) 크리스 메세롤(Chris Meserole) 의장, xAI 댄 헨드릭스(Dan Hendrycks) 안전 담당고문, 네이버 하정우 퓨처AI 센터장, SKT 에릭 데이비스(Eric Davis) 부사장, 셀렉트스타 김세엽 대표, 카카오 김경훈 AI Safety 리더, 카이스트 오혜연 교수 등 국내외를 대표하는 AI 업계‧학계 전문가가 참여해 최근 생성AI 시장의 기술동향과 생성AI의 안전‧신뢰성 확보 방안을 발표하고 토의한다. 이번 '레드팀 챌린지' 행사를 통해 AI 산업 전반에 기업의 자율적인 AI 신뢰․안전성 확보 노력이 더욱 확산되고, 사회 전반에 AI 윤리적 활용에 대한 인식도 확대할 것으로 과기정통부는 기대했다. 특히, 챌린지에 참여한 AI 기업은 사용자 다양성을 반영한 평가 데이터셋을 확보할 뿐 아니라 자사 AI 모델의 잠재적인 위험‧취약점을 폭넓게 파악, AI 신뢰‧안전성을 높이는 계기가 될 전망이다. 과기정통부는 이번 '레드팀 챌린지' 결과를 분석해 생성AI 분야의 공통‧포괄적인 위험을 도출하고, 업계에서 활용할 수 있는 '생성형 AI 레드팀 가이드라인'을 마련하는 등 표준화한 생성형 AI 위험 발굴 및 대응체계를 구축할 계획이다. 강도현 과기정통부 2차관은 "AI 혁신 전제이자 기본은 AI 안전과 신뢰”라며 “'AI 시대'로의 본격적인 전환점에서 오늘 행사는 AI의 지속 가능성에 대해 우리 모두가 진지하게 고민해 볼 수 있는 소중한 계기가 될 것”이라고 밝혔다. 이어 강 차관은 "AI 발전에 제약이 되는 문제들은 조속히 해결해 나가고, 대통령께서 밝히신 'AI-반도체 이니셔티브'를 차질없이 추진해 글로벌 AI 혁신을 주도해 나갈 것”이라며, “특히, 올 5월에 개최하는 'AI 서울 정상회의'를 통해 AI 혁신과 안전, 포용 논의를 주도해 글로벌 AI 리더십을 확보하고, AI G3 강국 도약의 발판으로 삼겠다”고 강조했다.

2024.04.11 14:30방은주

"AI 대중화 주도"…뤼튼, 유저 컨퍼런스 성료

뤼튼테크놀로지스(대표 이세영)가 인공지능(AI) 대중화 시대를 이끌겠다고 발표했다. 뤼튼은 지난 6일 서울 마포구 프론트원에서 '제1회 유저 컨퍼런스'를 성료했다고 9일 밝혔다. 'OO할 땐 뤼튼!'을 주제로 열린 이번 컨퍼런스는 뤼튼 사용자 대상으로 데이터 과학자, 교사, 소프트웨어(SW) 엔지니어, 비즈니스 전문가, 크리에이터 등 다양한 분야 연사를 초청해 AI 활용법과 노하우를 공유하는 자리다. 이번 행사는 뤼튼 서비스 출시 후 오프라인에서 처음 개최한 사용자 컨퍼런스다. 전국 각지에서 200여명의 참가자가 사전 신청을 통해 참가했다. 10대부터 70대까지 모든 연령대에서 고르게 참석했다. 참석자는 기업 임원, 교사, 교수, 방송작가, 학생, 마케터, 개발자, 금융·여행·의료업 종사자 등 다양한 직업군으로 이뤄졌다. 이날 컨퍼런스를 시작하며 뤼튼 고객경험팀 진대연 리드는 "예상보다 다양한 연령대와 직군 사용자들이 참가해 한편으로는 큰 책임감도 느꼈다"며 "지속적으로 이런 자리를 마련해 사용자 의견에 귀를 기울이고 유용한 AI 활용 노하우를 공유하겠다"고 밝혔다. 이어진 본 순서에서는 각 분야 전문 연사들이 등단해 ▲특수학생 개별화교육의 뤼튼 활용 사례 ▲MZ 대학생을 위한 AI 활용법 ▲공교육 환경 혁신으로 바라본 AI 리터러시 ▲AI를 활용한 일하는 방식 혁신, ▲AI 콘텐츠로 마케팅 역량 강화, ▲AI 크리에이터 경쟁력 ▲뤼튼과 SNS 새 패러다임 등 7개 세션을 진행하며 AI 활용법과 노하우를 공유했다. 세션 후에는 연사와 참가자들이 함께 소통하는 패널 토크와 네트워킹 시간이 이어졌고, 컨퍼런스 현장에서는 AI 검색 및 AI 캐릭터 제작 체험관과 포토존도 운영됐다. 이세영 뤼튼 대표는 "아무리 좋은 AI 기술이 있어도 일반 대중들이 쉽게 이용하지 못하거나 혜택을 체감할 수 없다면 한계가 명백하다"며 "뤼튼은 앞으로 이번 컨퍼런스와 같은 자리를 통해 사용자들과 적극 소통하며 더 좋은 서비스와 기술로 AI 대중화를 주도해 나가겠다"고 밝혔다.

2024.04.09 10:02김미정

AI 플랫폼, 성능과 지속가능성 함께 잡는 전략은

전 세계 기업이 AI로 다양한 문제를 해결하고 비즈니스 성장을 이끌고 있는 가운데, 기존의 데이터 관련 접근 방식은 막대한 초기 투자와 높은 에너지를 소비해 지속가능성 면에서 우려를 낳고 있다. 대화형 AI 서비스, 문서 초안 작성, 이미지 및 동영상 생성, 작곡 등을 수행하는 모든 AI 모델은 시간당 메가와트 단위의 막대한 서버 운영 비용을 발생시킨다. AI 모델의 전력 소비량을 정확히 추정하는 건 어렵다. AI 개발과 운영에 필요한 GPU의 전력 외에 CPU, 저장매체, 스토리지, 네트워킹 등의 전력도 전체 에너지 소비에 영향을 주며, 데이터센터의 냉각과 공조에 소비되는 전력도 무시할 수 없다. AI 모델의 소비 전력량은 이같은 여러 요소를 종합적으로 판단하고, 각 인프라 상황에 따라 달라질 수 있다. AI 모델의 전력 소비량은 학습과 추론에 따라 다르게 볼 수 있다. 2022년 발표된 한 논문에 따르면, 오픈AI의 GPT-3를 학습시키는 데 1천300메가와트시(MWh) 수준의 전력이 필요한 것으로 추정된다. 이는 넷플릭스 동영상 스트리밍을 162만5천시간동안 지속하는 양이다. 허깅페이스와 카네기멜론대학교의 알렉산드라 사샤 루치오니 박사의 작년 12월 연구 조사에 의하면, AI 모델의 샘플 1천건 분류에 0.002킬로와트시(kwh)를 소비하는 반면, 텍스트 생성 작업을 1천번 실행하는데 평균 0.0476kWh의 에너지를 사용한다. 이미지 생성 모델은 1천회 추론당 평균 2천907kWh 전력을 사용하는 것으로 나타났다. 이 연구는 학습보다 추론에 더 많은 전력을 사용한다는 것을 보여준다. 또 엔비디아 GPU의 비트코인 채굴 시 전력 소비량을 계산했던 알렉스 드 브리에스 VU 암스테르담 박사과정 후보자의 작년 연구에 의하면, AI 부문은 2027년까지 매년 85~134테라와트시(TWh)를 소비할 것으로 예측됐다. 이는 네덜란드 연간 전력수요와 비슷한 수준이다. 드 브라이스는 2027년까지 AI 전력 소비가 전세계 전력 소비의 0.5%를 차지할 것이라고 전망했다. 국제에너지기구는 2022년 현재 데이터센터의 전력 사용량을 약 460TWh로 추정하면서 2026년까지 620~1천50TWh로 증가할 것이라고 최근 보고서에서 추정했다. 이같은 급격한 전력 소비량 증가세는 AI 수요의 영향 때문이다. 여러 연구자들은 AI 모델을 전력 소비를 절감하는 방향으로 구성하면 에너지 소비량을 크게 줄일 수 있다고 강조한다. 지금까지 AI 모델 개발과 운영은 주로 성능 개선에만 초점을 맞추고 발전해왔고, 현 상황부터 에너지 절감에 초점을 맞추면 얼마든지 개선할 수 있다는 것이다. 연구자들은 AI 인프라 관련 제조사에서 제품 전략을 지속가능성이란 한방향으로 맞추면 달성할 수 있다고 조언한다. AI 모델의 성능과 에너지 절감 즉, 지속가능성을 함께 달성하는 여러 방법 중 하나로 가장 활발한 주장을 내놓는 회사는 퓨어스토리지다. 퓨어스토리지는 고가용성 올플래시 스토리지인 플래시블레이드를 AI 데이터 플랫폼 솔루션으로 제시하면서 데이터센터의 에너지 절감을 주요 강조점을 내세우고 있다. AI 프로젝트의 성공은 방대하고 다양한 종류의 데이터 처리에 달려 있다. 정형 데이터뿐 아니라 수집, 저장, 분석이 까다로운 비정형 데이터 관리에 최적화된 퓨어스토리지의 플래시블레이드는 파일과 오브젝트 모두를 지원하며, 데이터 크기나 액세스 패턴에 관계없이 우수한 성능을 제공한다. 플래시블레이드는 데이터 증가에도 성능을 유지하는 스케일아웃 구조를 갖추고 있어, 성능과 용량을 필요에 따라 유연하게 확장할 수 있으며 다양한 스케일의 AI 수요를 충족시킨다. 퓨어스토리지는 올플래시 스토리지를 통해 AI 데이터 운영을 간소화하고, 컨테이너화된 AI 환경에서 셀프 서비스 기능 및 서비스수준협약(SLA) 기반 리소스 프로비저닝을 제공한다. 경쟁 솔루션 대비 에너지 사용량과 데이터센터 내 상면 공간을 최대 80%까지 절감하고, 전자 폐기물을 85%까지 감소시켜 데이터센터 비용 절감에도 크게 기여한다. 기존 AI 데이터 스토리지는 용량 확장만 가능할 뿐, GPU 발전에 따른 성능 향상은 어려웠다. 구축과 최적화에 장시간이 소요되며, 내구연한에 이를 경우 최신 하드웨어로의 업그레이드가 필요하지만 무중단 업그레이드는 불가능했다. 이에 퓨어스토리지는 클라우드와 같은 구독형 모델을 올플래시 스토리지에 접목했다. 퓨어스토리지는 클라우드와 같은 구독형 모델을 올플래시 스토리지에 적용하여, 기업이 스토리지를 사용하는 만큼만 비용을 지불하게 하고, 스토리지 업그레이드 시 기존 제품의 교체 번거로움과 데이터 마이그레이션 중 발생할 수 있는 서비스 중단 문제를 해결했다. 퓨어스토리지의 구독 서비스인 에버그린(Evergreen) 포트폴리오를 통해, 데이터 플랫폼을 항상 최신 하드웨어와 소프트웨어로 유지함으로써 최고의 성능을 제공하고, 업그레이드 과정에서도 시스템 중단 없이 작업을 이어갈 수 있다. 이러한 접근 방식은 AI 혁신 가속화, 비용 절감, 운영 효율성 향상, 환경 보호 등 다양한 이점을 제공하며, 기업들이 지속가능한 AI 데이터 파이프라인을 구축하는 데 핵심적인 역할을 한다. 이에 대해 퓨어스토리지는 AI 혁신 가속화를 위한 효율적인 데이터 파이프라인 구축 전략을 제시하고 지속가능한 IT 인프라 구축의 중요성을 강조한다. 퓨어스토리지는 데이터 파이프라인을 통한 인프라 간소화 및 프로세스 효율화로 AI 역량 강화와 속도를 극대화하고, 지속가능성 목표 달성을 위한 방안을 제시하고자 한다. 퓨어스토리지의 플래시블레이드는 포춘 100대 기업 중 25% 이상이 사용하고 있으며, 금융, 제조, 의료 및 IT 서비스 등 AI 관련 연구를 선도하는 국내외 기업 및 연구기관들의 AI 컴퓨팅 환경에서 활발하게 활용하고 있다. 엔씨소프트의 경우 AI 프로젝트를 가속화하기 위해 플래시블레이드를 확대 도입한 사례다. 플래시블레이드 도입 후 수일이 소요되던 데이터 이동 및 로딩 작업을 당일 내 처리할 수 있게 되었으며, 클라우드와 같이 스케일링이 가능한 AI 환경을 온프레미스에 구축하여 총소유비용(TCO)을 대폭 절감하고, 추가 비용 없이 온프레미스 인프라를 유연하게 확장할 수 있는 역량을 확보했다. 카카오는 AI 애플리케이션에서 발생하는 방대한 양의 데이터를 처리하고 GPU의 성능을 극대화하기 위해 플래시블레이드를 도입했다. 도입 이후, 카카오는 네트워크 인터페이스 및 스토리지 병목 현상을 제거하여 GPU로부터 높은 컴퓨팅 리소스를 확보했으며, 사내 관제 시스템과 유기적으로 통합된 플래시블레이드는 데이터 파이프라인에 대한 직관적인 관리를 제공하고, 중복된 데이터 사일로의 제거 및 데이터 압축 저장을 통해 운영 및 관리 비용을 절감했다. 미디어젠은 플래시블레이드를 통해 최대 12개월이 소요되던 음성인식 모델링 작업을 2주(96% 향상)로 단축했으며, 충북테크노파크는 플래시블레이드를 도입해 데이터 처리 성능을 2배 이상 향상하고, GPU 서버 내 데이터 읽기 속도를 개선해 GPU 활용률을 기존 30%에서 80%로 약 2.6배 증가시켰다. 이같은 AI 데이터 플랫폼의 성능과 지속가능성 개선이란 두 목표를 달성하기 위한 방안은 오는 17일 인터컨티넨탈서울코엑스 하모니볼룸에서 열리는 'ACC+ 2024' 행사에서 더 자세히 확인할 수 있다. ACC+ 2024는 AI와 더불어, 빅데이터, 클라우드, 보안 등 최신 IT 솔루션과 서비스를 확인할 수 있는 세미나와 함께 직접 경험할 수 있는 기업 전시부스를 다양하게 운영한다. 사전 등록을 통해 행사에 참가할 수 있으며, 현재 얼리버드 등록 이벤트를 통해 할인 혜택을 제공하고 있다. 사전 등록과 등록 문의는 공식 웹사이트를 통해 가능하다.

2024.04.08 11:25김우용

Prev 11 12 13 14 15 16 Next