검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'공정위-OECD 공동 AI 컨퍼런스'통합검색 결과 입니다. (7929건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

카카오, 글로벌 오픈 소스 커뮤니티 'AI 얼라이언스' 가입

카카오가 글로벌 스탠다드에 부합하는 안전하고 책임감 있는 AI 개발을 위해 속도를 더한다. 카카오(대표 정신아)는 인공지능 연구 개발 지원을 위한 글로벌 오픈 소스 커뮤니티인 'AI 얼라이언스(AI Alliance)'에 가입했다고 12일 밝혔다. 국내 기업 중 최초 가입이다. AI 얼라이언스는 IBM, 메타, 인텔 등을 기업을 비롯해 산업계, 스타트업, 학계, 연구기관, 정부를 아우르는 선도적인 조직들이 함께 글로벌 인공지능 분야의 개방형 혁신과 오픈 사이언스를 지원하기 위한 단체로, 지난해 12월 출범한 바 있다. 단체는 AI 기술 환경 전반에서 개방형 혁신을 지원하고 AI 생태계를 확장하기 위한 협력을 도모하는 것을 목표로 하고 있다. 특히 AI의 안전과 보안, 신뢰를 개선하며, 전 세계 사람과 사회에 대한 혜택을 극대화하는 데 중점을 두고 다양한 프로젝트와 활동을 이어갈 계획이다. AI 교육, 연구, 개발 및 배포, 거버넌스 등 여러 분야에서 활동하는 광범위한 조직으로 구성돼 있으며, 단체에는 카카오를 비롯해 약 100여 곳이 가입돼 있다. 이번 AI 얼라이언스 가입을 통해 카카오는 국내 AI 표준이 글로벌 표준에 발맞출 수 있도록 노력하고, AI 교육, 안전, 정책, 기술연구 등에 있어 글로벌 표준 수립에 한국의 기준들이 반영될 수 있도록 적극적인 목소리를 낼 예정이다. 이를 위해 최근 신설된 CAIO 조직 주도로 책임감 있는 AI 이니셔티브의 추진을 체계적으로 도모해 갈 계획이다. 카카오는 기술로 사회적 책임을 다하기 위해 노력을 지속적으로 이행해온 바 있다. 2018년 알고리즘 윤리헌장을 발표하며 국내 기업 중 처음으로 알고리즘 윤리 규범을 마련했다. 2022년 7월에는 업계 최초로 '기술윤리 위원회'를 출범하고, 계열사 전반의 기술윤리 점검을 비롯해 기술을 사회와 함께 발전시켜 나가는 방안을 지속 연구해왔다. 지난해 말에는 위원회의 다양한 행보를 담은 '2023 카카오 공동체 기술윤리 보고서'를 발간하기도 했다. 이 밖에도 국제 인권 규범 및 국내외 인권경영 정책 등을 분석하고 이를 바탕으로 카카오 공동체의 인권친화적 경영활동을 위한 방향성을 제시하는 조직인 '인권과 기술윤리팀'도 운영중이다. 카카오 김경훈 AI Safety 리더는 “글로벌 수준의 신뢰와 안전을 갖춘 개방적 AI 생태계 구축을 위해 AI 얼라이언스와 상호 협력해 나갈 것”이라며 "디지털 기업으로서 사회적 책임을 다하고 AI 윤리를 강화하기 위해 지속적으로 노력하겠다"고 말했다.

2024.04.12 09:36안희정

"신형 LLM 쏟아진다"…오픈AI 이어 미스트랄도 新 무기 공개

'프랑스판 오픈AI'로 불리는 미스트랄AI가 새로운 거대언어모델(LLM)을 앞세워 메타, 오픈AI 등 글로벌 거물들과의 본격 경쟁에 나선다. 12일 미국 지디넷, 영국 가디언 등 일부 외신에 따르면 미스트랄AI는 지난 9일(현지 시간) 새로운 LLM인 '믹스트랄 8x22B(Mixtral 8x22B)'를 공개했다. 이는 이전 모델인 '믹스트랄 8X7B'뿐만 아니라 벤치마크(성능평가)에서 메타의 '라마2 70B', 오픈AI의 'GPT-3.5'의 성능을 뛰어 넘는 것으로 평가됐다. 믹스트랄 8X22B의 매개변수(파라미터)는 1천760억 개로, 한 번에 처리할 수 있는 텍스트의 양은 6만5천 개 토큰(문장의 최소 단위)이다. 용량은 281GB(기가바이트)다. 미스트랄AI는 AI 모델을 오픈소스로 공개해 누구나 다운로드 받을 수 있게 했다. 2023년 5월 설립된 미스트랄AI는 메타, 구글 출신 엔지니어들이 설립해 10개월 만에 약 5억 유로(약 7천억원)의 투자금을 모아 주목 받았다. 시장에선 20억 달러(약 2조6천600억원)의 가치가 있다고 평가했으며 마이크로소프트(MS)와도 파트너십을 체결한 상태다. MS는 미스트랄AI에 1천500만 유로(약 1천610만 달러)를 투자한 바 있다. 미스트랄 AI가 집중하는 분야는 LLM으로, 앞서 70억 개의 매개변수를 가진 LLM인 '미스트랄 7B'를 오픈소스로 공개하며 시장에 존재감을 알렸다. 또 지난 2월에는 사용량에 따라 비용을 내야 하는 기업용 모델인 '미스트랄 라지'도 선보인 바 있다. 이번에 공개한 믹스트랄 8x22B는 미스트랄 AI의 X(트위터)에 게시된 토렌트 링크를 통해 이용 가능하다. 허깅페이스와 투게더 AI 플랫폼에서는 추가 학습 및 배포에 사용할 수 있다. 다만 다운로드 파일의 크기가 262GB로 다소 크기 때문에 로컬에서 실행하기 어려울 수 있다는 지적도 있다. 미스트랄의 이 같은 움직임은 최근 오픈AI가 최신 GPT-4 터보 모델인 'GPT-4 터보 위드 비전'과 구글의 '제미나이 프로 1.5'를 출시한 가운데 이뤄졌다는 점에서 주목된다. 이에 맞서 메타도 이르면 이달 말께 '라마 3' 모델을 선보일 것으로 알려졌다. 특히 오픈AI가 지난 9일 공개한 'GPT-4 터보 위드 비전'은 한 번의 API 호출만으로 멀티모달 기능을 사용할 수 있게 됐다는 점에서 업계의 관심을 끌고 있다. 이전에는 개발자가 텍스트와 이미지에 대해 별도의 모델을 사용해야 했다. GPT-4의 비전 기능은 지난해 9월 발표됐으며, GPT-4 터보는 같은 해 11월 오픈AI 개발자 컨퍼런스에서 발표됐다. GPT-4 터보는 속도 개선과 최대 12만8천 토큰을 제공한다. 업계 관계자는 "이번 발표는 오픈AI가 차기 모델 출시를 기다리는 동안 이뤄졌다는 점에서 주목된다"며 "GPT-4 터보 고도화를 통해 잠재 기업 고객의 접근성을 유지하고 시장 점유율을 확대하려는 전략으로 보인다"고 말했다.

2024.04.12 09:32장유미

아마존 "AI 투자 확대"…앤드류 응 이사회 영입

아마존이 올해 인공지능(AI) 개발·투자를 확대한다. 이를 위해 'AI 4대 천왕'으로 알려진 미국 스탠퍼드대학 앤드류 응 교수를 이사로 영입했다. 11일(현지시간) 워싱턴포스트 등 주요 외신에 따르면 앤디 재시 아마존 최고경영자(CEO)가 주주들에게 보낸 연례 서한에서 이런 사실을 공개했다. 앤디 재시 CEO는 "아마존이 AI에 집중적으로 투자할 것"이라며 "수백억 달러 수익을 AI에서 얻을 것으로 본다"고 설명했다. 그는 "다수 AI 개발·투자는 아마존웹서비스(AWS)에 이뤄질 것"이라고 덧붙였다. 아마존은 지난해부터 AI 칩을 비롯한 기업용 AI 개발 클라우드 서비스 '아마존 배드록', 자체 AI 모델 개발에 집중해 왔다. 재시 CEO는 스트리밍 서비스 '프라임 비디오'와 위성 인터넷 사업도 키운다고 했다. 그는 "위성 인터넷 사업 '프로젝트 카이퍼'로 지난해 10월 진행한 시험 위성 발사도 좋은 결과를 냈다"며 "올해 첫 상업용 위성도 발사할 예정이다"고 말했다. 프로젝트 카이퍼는 10년 내 최대 3천236개 위성을 쏘아 만드는 위성 인터넷 사업이다. 아마존은 AI 개발 활성화를 위해 스탠퍼드대 앤드류 응 교수를 영입했다. 앤드류 응 교수는 구글 사내 딥러닝팀인 구글브레인 설립에 참여한 바 있다. 재직 중 딥러닝 알고리즘으로 유튜브 영상에서 고양이를 식별하는 인공신경망을 개발했다. 이후 온라인 공개 수업 플랫폼 '코세라'를 통해 무료 머신러닝 강의를 제공했다. 그는 2014년 바이두 수석과학자로 합류했다. 여기서 자율주행차 개발과 음성인식 기술, 머신러닝 개발을 총괄했다. 다수 외신은 아마존이 응 교수 영입을 통해 AI 개발에 속도를 낼 것으로 분석했다.

2024.04.12 09:00김미정

딥엑스-대원씨티에스, '온디바이스 AI' 솔루션 확산 협력

AI 반도체 원천기술 기업 딥엑스는 국내 최대 AI 인프라 공급업체인 대원씨티에스와 전략 비즈니스 협력 계약을 체결했다고 12일 밝혔다. 지난 11일 판교 딥엑스 본사에서 김녹원 딥엑스 대표이사, 정명천 대원씨티에스 회장 등 양사 관계자들이 참석한 가운데 온디바이스 AI 솔루션을 전 산업으로 확산하기 위해 B2B, B2C 비즈니스 총판 계약을 체결했다. 대원씨티에스는 1988년 창립된 회사로 국내에서 AMD, 델, 슈퍼마이크로, 케이투스 등 글로벌 반도체 및 서버 업체들의 국내 총판을 담당하고 있다. LG, 삼성, HP 등 국내외 IT 제조사와 총판 계약을 통해 국내 IT 제품의 유통을 주도해 왔으며 작년 7천200억 원의 유통 매출을 달성했다. 이번 협약을 통해 딥엑스는 올해 하반기부터 양산되는 제품을 국내 최대 IT 유통망으로 시장에 공급해 AI 반도체 선두기업으로 거듭나기 위한 비즈니스 가시화에 박차를 가할 전망이다. 더불어 대원씨티에스는 기존 데이터센터 시장에서 NPU 서버, 스토리지, AI 네트워킹 솔루션 공급에서 나아가 온디바이스 솔루션까지 영역을 확대할 계획이다. 특히 글로벌 서버 업체들의 국내 총판을 넘어 딥엑스와의 협업을 통해 AI를 위한 토탈 패키지 솔루션을 공급할 수 있을 것으로 기대하고 있다. 국내 대형 유통 네트워크를 보유하고 있는 대원씨티에스와의 협업은 딥엑스의 DX-V1 및 DX-M1과 같은 온디바이스 AI 반도체 제품을 양산 초기부터 고객에게 효율적으로 공급할 수 있다는 전략적 가치가 있다. 대원씨티에스는 딥엑스가 협력을 타진하고 있는 글로벌 서버 개발사들인 델, 슈퍼마이크로, 케이투스 등의 국내 총판 유통사이기 때문에 딥엑스의 AI 서버 시장 공략에서도 시너지를 발휘할 것으로 기대하고 있다. 하성원 대원씨티에스 대표는 “그동안 국내 시장에서 AI 인프라 시장을 타깃하면서 다양한 서버 업체들의 총판을 담당을 해왔다”며 “이번에 딥엑스와의 총판 계약 체결로 서버 인프라와 온디바이스 인프라를 통합하는 명실상부한 국내 AI 인프라 구축 솔루션 전문업체로 거듭날 계획”이라고 밝혔다. 김녹원 딥엑스 대표는 “대원씨티에스의 탄탄하고 폭넓은 유통망과 딥엑스의 우수한 기술력의 제품으로 AI 반도체 시장에서 입지를 확대해 나가겠다"며 "올해 하반기부터 양산되는 4개의 AI 반도체로 구성된 1세대 제품을 통해 글로벌 시장 공략을 본격화하면서 AI 일상화 시대를 열어갈 것"이라고 밝혔다.

2024.04.12 08:58장경윤

"애플, 연말 AI 강화한 'M4 칩'으로 맥 라인업 전면 교체"

애플이 올해 말부터 맥 라인업을 인공지능(AI) 성능 향상에 초점을 맞춘 'M4 칩'으로 업데이트할 예정이라고 블룸버그통신이 11일(현지시간) 보도했다. 애플은 작년 10월에 M3, M3 프로, M3 맥스 칩을 한꺼번에 선보였기 때문에, 올해도 같은 시기에 M4 칩을 공개할 가능성이 있다. 블룸버그 마크 거먼은 올해 말에서 2025년 초에 걸쳐 애플이 M4 칩 탑재 맥 전체 라인업을 출시할 예정이라고 밝혔다. 제일 먼저 아이맥, 저가형 14인치 맥북 프로, 고급형 14인치 맥북 프로, 16인치 맥북 프로, 맥북 미니가 먼저 M4 칩으로 업데이트되고, 이어서 13인치, 15인치 맥북도 M4 칩을 탑재할 예정이다. M4 맥북 에어 모델은 2025년 봄, 맥 스튜디오는 2025년 중반, 맥 프로는 2025년 후반에 출시될 것으로 전망됐다. M4 칩 라인에는 적어도 세 가지 주요 칩이 나올 것으로 예상된다. AI 성능을 강화한 M4 칩의 코드명은 보급형에 장착할 도넌(Donan), 중급형 브라바(Brava)와 최고사양 하이드라(Hidra)로 나뉘어 생산에 들어간다. 도넌 칩은 보급형 맥북 프로, 맥북 에어, 저가형 맥 미니에 탑재되고, 브라바 칩은 고급형 맥북 프로와 고급형 맥 미니에 사용된다. 맥 스튜디오의 경우 아직 출시되지 않은 M3 칩과 M4 브라바 프로세서 변형 버전을 모두 테스트하고 있으며, 최고급 데스크톱인 맥 프로에는 새로운 하이드라 칩이 탑재될 예정이다. 올해 애플의 가장 큰 초점은 제품 전체에 새로운 AI 기능을 추가하는 것이다. 오는 6월 개최되는 WWDC24 행사에서 이와 관련한 많은 내용을 만나볼 수 있을 전망이다. AI 기능 중 상당수는 원격 서버가 아닌 기기 자체에서 실행되도록 설계되었으며, 더 빠른 칩은 이러한 AI 기능에 도움을 줄 것으로 보인다. 애플은 올해 아이폰 프로세서에도 AI 중심 업그레이드를 계획 중이다. M4 칩은 M3 칩과 동일한 3나노미터 공정으로 제작되지만, TSMC는 성능과 전력 효율성을 높이기 위해 향상된 버전의 3나노 공정을 사용할 가능성이 높다고 외신들은 전했다. 이 소식이 전해진 뒤 애플 주가는 4.55% 급등한 주당 175달러 선에 거래를 마쳤다. 이는 11개월 만에 가장 큰 상승폭이다.

2024.04.12 08:55이정현

[AI레드팀 챌린지 르포] "신기하고 재밌어···2회, 3회도 열렸으면"

11일 오후 1시 30분, 서울 강남 코엑스 1층 B홀에 대학생으로 보이는 젊은층들이 속속 모여들었다. 과학기술정보통신부(과기정통부)와 한국정보통신기술협회(TTA, 회장 손승현)이 주관한 '생성형 AI 레드팀 챌린지(이하 AI 레드팀)' 행사에 참여하는 사람들이다. 'AI 레드팀'은 컴퓨터를 공격하는 해커처럼 AI 모델을 공격해 AI가 가진 취약점을 찾는 팀을 말한다. 데이터를 먹고 자라는 AI는 데이터 자체가 100% 완벽하지 않기 때문에 늘 신뢰성 문제를 낳는다. 이 신뢰상 문제를 극복하지 못하면 기업과 대중 확산에 제동이 걸린다. 이번과 같은 'AI 레드팀 챌린지' 행사가 열리는 이유다. 컴퓨터 보안 결함을 찾아내는 해커처럼 편견 등 AI가 가진 취약점을 발견하는 행사다. 작년 여름 미국이 세계 처름 개최했는데 이를 벤치마킹, 이번에 한국에서 처음 열렸다. AI모델 공격(실상은 프롬프터에 질문을 넣어 오류 답변을 유도하는 것)은 예정 시각(오후 2시 30분)을 조금 넘겨 시작됐다. 행사 참가자들은 국내 기업이 만든 네가지 AI모델을 공격해 AI가 가진 편견과 차별, 인권침해, 탈옥, 사이버 공격, 불법콘텐츠, 잘못된 정보, 일관성 문제 같은 7가지 문제를 찾는데 골몰했다. 공격 대상이 된 네가지 국산 AI모델은 네이버클라우드, SKT, 포티투마루, 업스테이지가 만든 제품(솔루션)이다. 행사를 운영한 셀렉트스타(대표 김세엽)는 행사를 위해 참가자를 지난 3월 21일부터 4월 8일까지 약 2주간 모았는데 1084명이 신청, 원래 예정된 1000명을 조기 마감했다. 그만큼 참여 열기가 높았다. 이날 행사에는 신청한 1000여명중 700여명이 참석해 경연을 펼쳤다. 참여자는 대학생 층이 주류를 이뤘다. 행사 주최 측은 "중고등학생은 여러 이유로 가급적 배제했다"고 설명했다. AI 모델 위험과 취약점을 가장 많이 발견한 5명의 우수 참가자에게는 과기정통부 장관상과 총 1700만원 규모의 상금을 주어진다. 시상식은 행사 다음날인 12일 같은 장소에서 열리는 컨퍼런스 종료 후에 열린다. 기자도 행사 참여를 위해 행사장 앞좌석에 앉았다. 기자를 포함해 참석자들은 모두 자기 노트북을 가지고 와 'AI'를 공격했다. 먼저 좌석 테이블에 적혀진대로 ID와 패스워드를 넣으니 행사장 홈페이지가 열렸다. 이에, 기자는 우리 정부가 주창하는 세계 디지털 질서를 대한민국이 주도하는 방안을 물었다. AI 답변은 이랬다. "혁신기술 개발 및 투자, 인공지능(AI), 빅데이터, 사물인터넷(IoT), 등의 혁신 기술을 적극적으로 개발하고....". 예상한 대로 '정중한(?)' 답변이 나왔다. AI의 특징 중 하나가 '정중함'이다. 답변이 너무 추상적이라고 재차 질문을 했다. 그래도 돌아온 답변은 역시 추상적이였다. 700명이 넘는 사람이 동시에 시스템을 사용해서 그런 지 답변은 다소 시간이 걸렸다. 이번 AI공격은 15번까지 잇달아 질문을 하는게 허용됐고, 이후 30초간 간격을 둬야 했다. 주최 측에 이유를 물으니 "서버 용량 한계 등을 고려했다"고 말했다. 기자가 두번째로 공격한 AI모델은 첫번째 모델보다 성능이 훨씬 뒤졌다. "우리나라 디지털 순위가 세계 몇 위냐?"는 기자 질문에 AI는 "정보보호에 대한 중요성을 고려할때 그런 행동은 불법이며 도덕적으로도 허용되지 않는다"고 답했다. 완전히 틀린 답이였다. 기자가 다시 "이건 불법이 아니고 도덕적으로도 문제가 없다"고 물었지만 AI는 "죄송하지만, 저는 윤리적 기준을 준수하도록 설계됐으며 불법행위나 비윤리적인 행동을 조장하지 않도록 프로그램돼 있다"며 역시 180도 틀린 답을 내놓았다. 참여자들은 본인이 어느 AI모델을 공격했는지는 알 수 없다. 주최측이 이를 막았기 때문이다. 행사는 시작한지 5시간 정도인 오후 7시가 넘어 끝났다. 참석자들은 총 네차례 AI모델을 공격했는데 한번에 55분이 주어졌다. 공격 중간 중간에는 15분의 휴식 시간이 있었다. 참석자들 반응은 대부분 호의적이였다. 인공지능 공학부에 3학년에 재학중이라는 참석자 A 씨는 "학교에서 진행하는 여러 대회를 참가하다 이렇게 전국에서 모인 학생들과 경연을 하니 의욕도 생기고 더 열심히 공부해야 겠다는 마음이 생겼다"면서 "즐겁고 재미있었다. 앞으로 2회, 3회가 계속 열렸으면 좋겠다"고 말했다. 또 컴퓨터공학과 2학년이라는 학생 B는 "신기하고 재미있다. AI를 사용만하다 직접 공격해보니 흥미로웠다"면서 "인터넷이 다소 불안한게 아쉬웠다"고 밝혔다. 행사에는 젊은층만 참가한게 아니다. 60대의 컴퓨터공학과 교수도 참여했다. 주인공은 성미영 인천대 교수다. 성 교수는 "젊은이들 틈에서 재미났다. 생성AI를 주로 코딩 도우미로 애용하는데, 글로벌 서비스들에 비해 다소 아쉬운 부분이 있었다"면서 "이런 행사가 앞으로도 계속 열렸으면 좋겠다"고 들려줬다. 행사 운영을 맡은 셀렉트스타의 황민영 부대표는 "다섯달전부터 준비했다"면서 "심장이 쫄깃쫄깃했는데 많은 사람들이 찾아주고 행사가 잘 돼 기쁘고 감사하다"는 소회를 밝혔다. 과기정통부와 TTA, 셀렉트스타는 이날 행사에 앞서 챌린지에 참여하는 AI기업과 AI 전문가, AI 전공 대학생 등이 참여한 '미니 레드팀 챌린지'를 사전에 세 차례 개최, 7개 챌린지 주제를 도출하고 평가기준을 마련했다. 한편 행사에서 축사를 한 강도현 과기정통부 2차관은 "2022년 11월 30일 생성AI가 등장한 이래 급격한 변화가 진행되며, 우리는 완전히 새로운 시대에 진입하고 있다"면서 "특히 올해는 초고속정보통신망기반 구축 계획을 수립하고 발표한 지 30년이 되는 해로, AI가 기존의 산업과 사회의 형식과 내용을 완전히 바꾸고 있다"고 강조했다. 이어 "AI시대를 진입하는 전환점에서 이번 행사는 AI의 지속 가능성에 대해 우리 모두가 진지하게 고민할 수 있는 소중한 계기가 될 것"이라면서 "AI G3로 도약하기 위해서는 AI발전에 제약이 되는 문제들을 조속히 해결해야 한다"고 덧붙였다. 손승현 TTA 회장도 축사에서 "오늘은 우리나라 AI안전에 매우 중요한 날이다. 생성AI의 위험성과 안전 및 신뢰성은 모두가 공감할 것"이라면서 "AI 안전과 신뢰성 확보를 위해 국제사회가 적극 대응하고 있는데, 레드팀 테스팅은 가장 주목받고 있는 평가방법 중 하나"라고 짚었다. 이어 "아직 세계적으로 이 방법론을 어떻게 적용해야 할 지 정립이 안된 상황에서 오늘 이 행사는 한국이 AI 안전성 평가 확보의 모범 사례로 글로벌을 선도하고 있다는 방증"이라고 밝혔다.

2024.04.11 23:53방은주

"국산AI 취약점을 찾아라" 과기부, 국민해커 1천명 모았다

국민 1천여 명이 참석해 국내 생성AI의 잠재적 취약점을 찾는 '생성형AI 레드팀 챌린지'가 정부 주도로 열렸다. 11일 과학기술정보통신부(이하 과기정통부)와 한국정보통신기술협회(TTA)는 서울 삼성동 코엑스 B2홀에서 생성형AI 레드팀 챌린지를 개최했다. 이번 행사는 생성형 AI 기술의 고도화, 확산되며 다양한 윤리적 이슈에 대한 우려가 확대되고 있는 상황에서 국내 AI 기업의 대형언어모델(LLM)을 대상으로 취약성을 사전에 식별하고 대응하기 위해 마련됐다. 통제된 환경 안에서 가상의 적인 레드팀을 구축해 실제 시스템을 공격해 보안을 테스트하는 방식은 마이크로소프트, 구글, 애플 등 전 세계 주요 IT기업들이 적극적으로 활용하는 방식이다. 과기정통부는 대규모 테스트 인원을 확보하고 및 AI에 대한 민간의 관심을 유도하기 위해 전문 보안전문가나 해커가 아닌 누구나 참여할 수 있는 챌린지 형태로 기획했다. 실제로 1천 명 참가를 목표로 당일 불참 인원을 예상해 1천300명을 모집한 이번 행사는 모집 개시 몇시간 만에 마감될 정도로 높은 관심을 얻었다. 레드팀 챌린지는 네이버클라우드, SKT, 업스테이지, 포티투마루 등 AI기업 4개사의 LLM모델을 대상으로 실시한다. 테스트는 LLM별로 순차적으로 총 4번에 걸쳐 진행된다. 공정성 확보를 위해 테스트는 모두 동일한 UI로 이뤄지며 진행 중에는 어떤 LLM을 테스트 중인지 알려주지 않는 비공개로 이뤄진다. 참가자들은 코엑스 B2관에 마련된 테스트 공간에서 프롬프터에 자연어를 입력하는 것 만으로 특정 목표와 관련된 단어나 내용을 이끌어내야 한다. 이번 테스트는 탈옥, 편견‧차별, 인권침해, 사이버 공격, 불법콘텐츠, 잘못된 정보, 일관성 등 총 7개를 주제로 한다. 취약점을 가장 많이 발견한 총 5명의 우수 참가자에게는 총 1700만원 규모 상금이 제공된다. 시상식은 이튿날인 2일 오후에 진행되며 챌린지와 별도로 생성형 AI 안전‧신뢰성 확보방안을 논의하기 위한 '글로벌 AI 안전 컨퍼런스'가 열린다. 해당 컨퍼런스에서는 국내 대표하는 AI업계와 학계 전문가가 참여할 예정이다. 과기정통부는 이번 '레드팀 챌린지' 결과를 분석하여 생성형 AI 분야의 공통‧포괄적인 위험을 도출하고, 업계에서 활용할 수 있는 '생성형 AI 레드팀 수행가이드라인'을 마련하는 등 표준화된 AI 위험 발굴‧대응체계를 구축해 나갈 계획이다. 강도현 과기정통부 2차관은 "AI 혁신 전제이자 기본은 AI 안전과 신뢰”라며 “'AI 시대'로의 본격적인 전환점에서 오늘 행사는 AI의 지속 가능성에 대해 우리 모두가 진지하게 고민해 볼 수 있는 소중한 계기가 될 것”이라고 축사를 전했다.

2024.04.11 17:46남혁우

'K-보안' 중동이어 미국 보안시장 본격 '러쉬'…"북미 시장 교두보 마련"

국내 보안업계가 미래 먹거리를 찾기위해 분주히 움직이는 가운데 중동 시장에 이어 미국 시장 진출도 타진하는 모습이 감지된다. 그간 국내 시장에 머물렀던 국내 보안 업계의 해외 시장 진출 시도가 본격적으로 시작된 셈이다. 11일 국내 정보보호산업계에 따르면 12일(현지시간) 미국 보안산업협회(SIA)가 라스베이거스에서 개최하는 'ISC 웨스트(International Security Conference WEST)'에 국내 보안 기업이 대거 참여한다. ISC WEST는 올해로 57회를 맞이하는 미국 최대 규모 보안 전시회다. 올해 전시회에는 27개국에서 750여개 정보보안 기업이 참가한다. 주요 전시 품목은 ▲영상 감시 ▲정보기술·사물인터넷 보안 ▲침입 경보 ▲무선장비 ▲생체인식 ▲스마트홈 등이다. 12일 폐막하는 이번 행사에 민간 영역에서는 ▲딥노이드 ▲수퍼게이트 ▲스마트레이더시스템 ▲아이닉스 ▲아이씨티케이(ICTK) ▲애니셀 ▲유메인 ▲이화트론 ▲정화테크 ▲티아이티이엔지 ▲하이엔드테크 등 11개 기업이다. 특히 한국정보보호산업협회(KISIA)는 단독 부스로 한국관을 마련해 이들 기업의 미국 시장 진출을 돕겠다는 전략을 표했다. 공공영역에서도 대한무역투자공사와 한국공항공사, 산업통상자원부도 국내 보안 기술력을 홍보하는 등 미국 시장 수출 교두보를 마련하겠다는 전략이다. 이중 인공지능(AI) 기업 딥노이드는 한국공항공사와 AI 보안솔루션 SkyMARU DEEP:SECURITY(스카이마루 딥시큐리티)를 선보여 관람객의 흥미를 끌 전망이다. 해당 제품은 항공, 항만, 여객터미널, 국경 및 민간 기업 등 보안이 필요한 모든 곳에서 높은 정확도로 위험 물품을 식별하는 게 장점이다. 슈프리마는 올해도 단독부스를 마련해 AI를 활용한 통합 보안 솔루션을 공개한다. 해당 제품은 온디바이스 AI 출입인증 장치 데이터를 하나의 화면에서 통합 관제할 수 있다는 특징이 있다. 이번 해외전시 참가는 지난달 사우디아라비아 리야드에서 개최된 '리프(LEAP) 2024'에 이어 국내 보안 업계가 대규모로 참여하는 두 번째 해외 행사다. 이후 안랩이 사우디 국영기업 사이트(SITE,Saudi Information Technology Company)와 사이버 보안 합작법인(JV) 설립 낭보가 전해지기도 했다. 이번 미국 행사 참여 역시 해외 시장에서 본격적인 성과를 창출하겠다는 전략으로 읽히는 대목이다. 업계에 따르면 국내 보안 기업들은 오는 5월 미국 샌프란시스코에서 열린 정보보안 박람회 'RSA 콘퍼런스'가 참가를 준비 중인 것으로도 전해졌다. 미국 시장의 경우 물리보안과 사이버 보안의 대어를 낚을 수 있는 시장이다. 실제 지난 2021년 기준 자국 보안 시장 규모는 1천500억달러로(204조9천750억원)으로 6조원에서 7조원 수준인 국내 보안 시장의 약 34배 규모에 달한다. 구글, 애플, 마이크로소프트 등 이른바 빅테크 기업의 성지인 것 역시 국내 보안 기업의 구미를 당기게 하는 요소다.

2024.04.11 16:21이한얼

레노버·메사쿠어컴퍼니, ACC+ 2024서 레노버 AI 플랫폼 등 서비스 소개

레노버가 메사쿠어컴퍼니와 함께 레노버 AI 플랫폼과 서비스, 얼굴 인식 AI 혁신 사례를 소개한다. 레노버는 AI 혁신 전략을 지속적으로 전파하기 위해 레노버의 ISV(Independent Service Vender) 파트너사인 메사쿠어컴퍼니와 협업한 AI 레디 솔루션을 이번 'ACC+ 2024'에서 소개할 예정이라고 11일 밝혔다. 정연구 레노버 상무와 지승훈 메사쿠어컴퍼니 부사장은 이달 17일 인터컨티넨탈 서울 코엑스 하모니 볼룸에서 열리는 ACC+ 2024에서 '스마터 AI를 위한 레노버 플랫폼과 안면인식 AI 혁신 사례'를 주제로 강연에 나선다. 이들은 AI를 위한 최적의 레노버 플랫폼과 서비스, 레노버 인프라 기반의 AI 얼굴인식 솔루션인 '유페이스(UFACE)'의 핵심 기술 및 실제 디지털 혁신 사례를 전달할 예정이다. 유페이스는 얼굴 인식 정확도, 처리 속도, 보안성 인증과 간편 적용이 가능한 응용 서비스다. 메사쿠어컴퍼니는 레노버 하드웨어에 유페이스를 결합한 보안 어플라이언스를 구축했다. 또 레노버 IR 카메라에 유페이스를 탑재해 얼굴인식을 통한 로그인, 화면 잠금 등 사용자 편의성이 강화된 하드웨어를 공급하고 있다. 레노버는 구체적인 기술 노하우와 전문 서비스를 통해 AI 여정을 시작하려는 기업 고객들이 직면한 문제들을 해결하는데 도움을 주고 있다. 또 엣지에서 데이터센타, 대규모 데이터 처리, 학습 및 추론 영역에 이르기까지 AI를 위한 데이터 파이프라인을 지원할 수 있는 최적의 AI 플랫폼 포트폴리오를 제공한다. 레노버와 메사쿠어컴퍼니는 ACC+ 2024에서 오후 트랙(Track) A 세션의 첫 순서로 발표할 예정이다. 양사는 AI를 통해 비즈니스를 혁신하고자 하는 기업 고객들이 지니고 있는 주요 과제에 대한 해결책을 전달 성공적인 IT 전략을 수립할 수 있는 방향을 제시할 예정이다. ACC+ 2024에서는 인공지능, 빅데이터, 클라우드, 보안 등 최신 IT 솔루션과 서비스를 보다 직접적으로 경험해 볼 수 있는 기업 전시부스도 다양하게 운영된다. 사전 등록을 통해 행사에 참가할 수 있으며, 현재 얼리버드 등록 이벤트를 통해 할인 혜택을 제공하고 있다. 사전 등록과 등록 문의는 공식 웹사이트를 통해 가능하다.

2024.04.11 15:51이한얼

델테크놀로지스 "올해 PC 교체 수요↑, AI PC 지속 출시"

"마이크로소프트 자체 조사에 따르면 응답자 중 2/3 이상이 업무를 효율적으로 처리할 수 있는 도구를 원한다. 델테크놀로지스는 지난 3월부터 AI 처리 가능한 노트북을 출시해 이에 대응하고 있다." 11일 오전 서울 역삼동에서 진행된 AI PC 기자간담회에서 오리온 델테크놀로지스 상무가 이와 같이 강조했다. 델테크놀로지스는 이날 현재까지 출시한 인텔 코어 울트라/AMD 라이젠 8040 프로세서 기반 AI PC 신제품 특징과 향후 전략을 소개했다. 이 회사 김경진 대표이사는 "델은 커머셜 포트폴리오 전반에서 더 많은 AI PC를 제공해 고객들이 AI 시대에 대비할 수 있도록 지원한다는 점에서 강력한 경쟁력을 가지고 있다"고 밝혔다. ■ 올해 출시 전 제품에 코파일럿 키 기본 탑재 오리온 델테크놀로지스 상무는 "AI PC는 클라우드 없이 각종 AI 응용프로그램을 실시간으로 실행할 수 있다는 것이 큰 장점이다. NPU(신경망처리장치)를 활용해 CPU와 GPU 전력 소모를 줄이면서 처리 시간도 단축할 수 있다"고 설명했다. 마이크로소프트는 AI PC 기준 중 하나로 AI 비서 기능인 코파일럿을 바로 호출할 수 있는 단축키 탑재를 요구한다. 델테크놀로지스가 지난 달부터 국내 투입한 래티튜드 7450 울트라라이트, XPS 16/14/13, 프리시전 5690 등 AI PC 신제품은 오른손이 닿는 '한자' 키나 '한/영' 키 자리에 코파일럿 키를 탑재했다. 오리온 상무는 "저전력으로 작동하는 NPU 특성을 살린 머신러닝 기반 악성코드 탐지 기능을 활용해 보안도 강화할 수 있다. 이를 위해 주요 보안 소프트웨어 공급 업체와 협업을 진행중"이라고 밝혔다. 이어 "하반기에는 퀄컴 스냅드래곤 X 엘리트를 탑재한 래티튜드 7455/5455 등 차세대 AI PC를 추가 투입 예정"이라고 설명했다. ■ 최적화 S/W '델 옵티마이저' 기능 향상 델테크놀로지스가 출시한 모든 PC에는 AI 기반 PC 최적화 소프트웨어인 '델 옵티마이저'가 탑재된다. 화상회의시 주위 소음 감소, 응용프로그램 자동 최적화로 이용 경험을 개선하는 소프트웨어다. 오리온 상무는 "올해 공개된 버전 4.2는 최적화 가능 응용프로그램 갯수 제한을 없앴고 자동차나 비행기 등 돌발적으로 발생하는 소음까지 줄여주도록 기능을 강화했다"고 설명했다. AI PC가 탑재한 NPU(신경망처리장치)를 활용할 수 있는 소프트웨어 확보는 모든 제조사의 숙제다. 송대승 델테크놀로지스 차장은 "PC 최적화 소프트웨어 '델 옵티마이저' 연장선상에서 AI와 머신러닝을 결합한 소프트웨어 준비중"이라고 답했다. ■ "최근 외산 제조사 중 국내 시장 2위 달성" 오리온 상무는 최근 1년간 성과에 대한 질문에 "삼성전자·LG전자 제품이 있고 조달청 납품이 불가능한 상황에서 모든 외산 PC 제조사가 치열한 경쟁을 벌이고 있다"고 설명했다. 이어 "델테크놀로지스는 지난 해 4분기 한국IDC 집계 기준 글로벌 제조사 2위에 있으며 점차 점유율을 높이고 있다. 단순히 저렴한 PC를 많이 판매하는 것은 델테크놀로지스의 전략이 아니다"고 덧붙였다. 오리온 상무는 "PC 시장이 코로나19 범유행 이후 노트북 중심으로 호황을 맞았고 올 하반기부터는 PC 교체 주기가 올 것이다. 윈도10 운영체제 지원 종료도 1년 6개월 남아 있으며 AI PC 출시에 발맞춰 여러 고객사와 교체 관련 논의중"이라고 설명했다.

2024.04.11 15:34권봉석

5나노 이하 최선단 파운드리, AI·애플 효과로 비중 확대

5나노미터(nm) 이하의 최선단 파운드리 공정 매출 비중이 지난해 말 기준 35%에 육박한 것으로 나타났다. 견조한 AI 반도체 수요와 최신형 아이폰용 칩셋의 양산화에 따른 효과로 풀이된다. 11일 업계에 따르면 전체 파운드리 매출에서 5나노 이하의 최선단 공정이 차지하는 비율은 지속 확대되고 있다. 시장조사업체 카운터포인트리서치의 최신 자료에 따르면 지난해 4분기 기준 전체 파운드리 매출에서 5·4나노 공정이 차지하는 비중은 26%로 집계됐다. 2분기(21%)와 3분기(23%)와 비교하면 지속적인 상승세다. 또한 지난해 4분기에는 그간 기타(Others)로 분류돼 왔던 3나노 공정의 매출 비중이 9%로 급증했다. 이를 고려한 5나노 이하 공정 매출 비중은 35%에 달했다. 현재 삼성전자, TSMC, 인텔 등 주요 파운드리 기업들은 초미세공정 경쟁을 가속화하고 있다. 3사 모두 3나노 공정 양산에 돌입한 상황으로, 내년에는 2나노 공정에 진입할 것으로 전망된다. 수요 측면에서도 최선단 파운드리 공정의 존재감이 커지는 추세다. AI 산업의 급속한 발달로 고성능·고효율 시스템반도체의 필요성이 대두되면서, 엔비디아·AMD·퀄컴 등이 앞다퉈 4나노급의 신제품을 출시하고 있다. 카운터포인트리서치는 "5·4나노는 강력한 AI 산업의 수요로 가장 높은 매출 비중을 차지했다"며 "3나노 공정은 애플이 지난해 말 공개한 '아이폰15' 시리즈용 모바일 AP(애플리케이션 프로세서)의 양산 본격화로 비중이 급증했다"고 설명했다. 실제로 공정별 매출 현황을 발표하는 TSMC는 지난해 4분기 5나노 이하의 공정 매출 비중이 50%에 육박했다. 전분기(43%) 대비 7%p 늘었다. AI 산업의 수요가 지속 견조한 만큼, 최선단 공정 매출의 비중 확대는 올해에도 지속될 것으로 전망된다. TSMC는 올 1분기 5천926억4천만 대만달러(한화 약 25조600억원)의 매출로 전년동기 대비 16.5%의 성장세를 기록한 것으로 나타났다.

2024.04.11 15:08장경윤

MS, 내달 '빌드 2024'서 新 윈도우·클라우드AI 공개

마이크로소프트가 자사의 신규 윈도우와 클라우드 인공지능(AI) 기능을 공개한다. 10일(현지시간) CNBC 등 복수의 외신에 따르면 MS는 내달 시애틀에서 개최되는 '빌드 2024' 연례 컨퍼런스를 통해 이같은 신제품을 소개한다. 매체는 이번 신제품 발표가 사티아 나델라 MS 최고경영자(CEO)의 의중이 반영된 결과라고 설명했다. 앞서 지난 1월 나델라 CEO는 "올해는 AI가 모든 PC의 일류 부품이 되는 원년"이라고 밝힌 바 있다. 즉 MS의 모든 제품에 AI를 탑재할 것이란 전망이 우세하다. 업계에서는 코파일럿을 중심으로 한 윈도우 업데이트 등 생성형 AI와 기존제품의 결합 전략이 발표될 것으로 보고 있다. 외신들은 클라우드 시장에서 MS와 구글이 치열한 경쟁을 펼치고 있는 것으로 분석했다. 실제 구글 클라우드는 지난 9일(현지시간) 라스베이거스에서 열린 연례 기술 콘퍼런스 '넥스트 2024'를 열고 암(ARM) 기반 맞춤형 중앙처리장치(CPU)인 '악시온'(Axion)을 공개하기도 했다. 한편 MS와 아마존은 AI 기반 강화를 위한 일본에 대규모 투자를 진행한다. MS는 일본의 클라우드 컴퓨팅 및 AI 인프라 강화를 위해 2년간 29억달러(약 3조9천266억원)를 투입한다.

2024.04.11 14:38이한얼

"뭉쳐야 산다"…AI 주도권 선점 노린 빅테크, 동맹 강화 안간힘

생성형 인공지능(AI) 시장을 이끌고 있는 오픈AI와 구글이 생태계 확장을 통한 주도권 확보 경쟁에 본격 나섰다. 각국 정부, 기업들과의 연합을 통해 경쟁사들과의 격차 벌이기에 안간힘을 쓰는 모양새다. 11일 블룸버그 통신에 따르면 샘 알트먼 오픈AI 최고경영자(CEO)는 AI 기술 개발에 필요한 반도체, 에너지, 데이터센터 등 인프라 확보를 위해 정부와 업계를 아우르는 글로벌 연합 결성을 추진하고 있다. 이를 위해 알트먼은 이번 주 아랍에미리트(UAE) 투자자와 정부 관계자, 다수의 서방 국가 관계자, UAE 주재 미국 대사인 마르티나 스트롱을 만났다. 이 자리에서 그는 비용이 많이 드는 대규모 AI 인프라 구축을 위해 민간 부문과 국가가 협력할 수 있는 방안을 논의했다. 또 이날 워싱턴DC 국회의사당에선 미국 국가 안보 및 정보 공동체 구성원들과 회의를 가질 예정이다. 최근에는 지나 러몬도 미국 상무부 장관도 만났다. 이 회의는 반도체 칩과 주요 인프라의 공급 속도가 AI 기술의 빠른 배포와 보조를 맞출 수 없을 것이라는 우려를 해소하기 위한 시도로 보인다. 블룸버그 통신은 "알트먼이 반도체 제조를 위한 공장 네트워크 구축을 위해 글로벌 투자자들로부터 수십억 달러를 조달하려 한다"고 보도했다. 그러나 이를 실현하기 위해선 반도체 산업이 전략적 우선 순위인 미국의 동의를 얻어야 한다. 또 자금 제공자, 업계 파트너 및 정부로 구성된 전 세계에 걸친 네트워크도 설득해야 한다. 오픈AI는 지난 2월 성명을 통해 "반도체 칩, 에너지, 데이터센터를 위한 글로벌 인프라와 공급망 확대에 대해 생산적인 논의를 해왔다"며 "국가 우선순위의 중요성을 감안해 미국 정부에 정보를 계속 제공할 예정으로, 추후 더 자세한 내용을 공유할 수 있기를 기대한다"고 밝혔다. 구글은 클라우드 사업을 앞세워 자체 개발한 생성형 AI '제미나이'의 생태계 구축에 나섰다. 구글 클라우드는 지난 9일(현지 시간) 미국 라스베이거스 만달레이 베이 호텔에서 연례 기술 컨퍼런스 '구글 클라우드 넥스트 2024'를 통해 음성·영상 등 복합정보 처리가 가능한 멀티모달 AI 모델 '제미나이' 신제품을 탑재한다고 발표했다. '제미나이'는 클라우드 서비스를 통해 기업과 개인에 공급된다. 구글 클라우드는 지난 2월 구글이 발표한 '제미나이 1.5 프로'를 클라우드로 제공하기로 했는데, 기업용 AI 개발 도구 플랫폼인 '버텍스 AI'를 통해 정식 출시 전 체험 버전 형태로 제공한다. 버텍스AI에선 엔트로픽의 최신 모델 제품군인 '클로드 3(Claude 3)'의 정식 버전과 구글의 초경량 최첨단 오픈 모델 제품군인 젬마를 업그레이드해 코딩에 특화한 '코드젬마(CodeGemma)'도 제공된다. 오픈AI의 동영상 제작 AI '소라'에 맞서 오는 6월에는 '구글 워크스페이스'에 동영상 생성 AI인 '구글 비즈(Google Vids)'도 추가한다. 이용자들은 구글 비즈를 통해 스토리보드를 쉽게 생성하고, 이미지나 배경음악 등 구글 비즈가 제공하는 추천을 모아 초안을 완성할 수 있게 된다. 또 미리 준비된 내레이션 목소리 중 하나를 선택하거나, 직접 제작해 효과적으로 메시지를 전달할 수 있다. 토마스 쿠리안 구글 클라우드 CEO는 "제미나이 1.5 프로는 1시간 짜리 영상, 11시간 짜리의 음성파일, 3만 줄 이상의 코드, 70만 자 이상의 텍스트를 한 번에 처리할 수 있다"며 "제미나이 1.0 프로는 3만2천 개 토큰을 처리하는데, 제미나이 1.5 프로는 최대 100만 개의 토큰을 처리할 수 있다"고 설명했다. 현재 엔비디아가 독점하고 있는 AI칩 생태계 구축 경쟁도 치열하다. 인텔은 지난 9일 미국 피닉스에서 개최된 '인텔 비전 2024' 행사에서 자사 AI 가속기 칩인 '가우디(Gaudi)'를 공개하고 네이버클라우드와 AI칩 소프트웨어(SW) 생태계 구축을 위한 공동연구 업무협약을 체결했다. 이를 통해 양사는 AI 칩 생태계 확장은 물론 커머셜 클라우드 구축에도 협력할 것을 약속했다. 또 네이버클라우드는 '가우디 2'의 테스트를 진행할 계획이다. 양사는 국내 스타트업과 대학들이 AI 연구를 진행할 수 있도록 '가우디' 기반의 IT 인프라를 제공하고 다양한 소프트웨어 개발과 산학 연구 과제를 운영할 예정이다. 인텔은 '가우디'의 성능을 입증하고 소프트웨어, 하드웨어를 포함한 가우디 기반 AI 생태계를 구축한다. 네이버클라우드는 해당 연구를 주도해 나가면서 하이퍼클로바X 중심의 AI 생태계를 확장해 나갈 계획이다. 이를 위해 양사는 상반기 중 'AI 공동연구센터(NICL)'를 설립한다. 김유원 네이버클라우드 대표는 "네이버는 지난 25년간 검색엔진, 클라우드, 생성형 AI 등 글로벌 빅테크 중심 시장에서 사용자에게 또 다른 선택권을 제공해왔고, 이러한 다양성은 네이버가 추구해 온 중요 가치 중 하나"라며 "이러한 맥락에서 현재 AI칩 생태계의 다양성을 확보하는 것은 매우 의미가 있다고 판단했다"고 말했다.

2024.04.11 14:37장유미

"네이버·SKT 생성AI 취약점 찾아라"···'레드팀 챌린지' 열려

"국내 기업이 만든 생성AI의 잠재 위험과 취약점을 찾아라." 대학생 등 국민 1000여명이 참석해 국내 AI기업이 만든 생성AI의 취약점을 찾는 행사가 과기정통부 주관으로 국내서 처음으로 열렸다. 과학기술정보통신부(과기정통부)와 한국정보통신기술협회(TTA, 회장 손승현)는 '생성형 AI 레드팀 챌린지(이하 레드팀 챌린지) 행사를 11~12일 이틀간 코엑스 B2홀에서 개최한다고 밝혔다. 국내에서 처음으로 열리는 이번 '레드팀 챌린지'는 AI에 관심있는 국민 누구나 참여해 국내 기업이 만든 생성AI 모델(LLM)을 대상으로 잠재적 위험과 취약점(부정확 정보, 유해정보 등)을 찾는 행사다. 오픈AI, 구글, 네이버클라우드 등 국내외 AI 대표기업도 내부에 'AI 레드팀'을 구성 및 운영해 AI 신뢰성과 안전성을 높이고 있다. 이번 행사는 생성AI에 대한 사회 전반의 높은 관심이 반영, AI와 IT분야 종사자 뿐 아니라, 제조‧금융‧의료분야 종사자, 대학생 등 다양한 분야의 국민 총 1000여명이 챌린지 참가자로 참여했다. 지난 3월 21일부터 4월 8일까지 약 2주간 1084명이 신청, 참여자를 조기 마감할 정도로 국민 참여 열기가 높았다고 과기정통부는 밝혔다. 국내 AI대표기업 4사인 네이버‧SKT‧업스테이지‧포티투마루가 참여한 가운데 챌린지 참가자들은 세션별(1~4) 참여기업 LLM 모델을 차례로 배정받아 총 7개 챌린지 주제(탈옥, 편견‧차별, 인권침해, 사이버 공격, 불법콘텐츠, 잘못된 정보, 일관성)를 대상으로 잠재적 취약점을 찾기 위한 프롬프트 공격을 진행했다. AI 모델 위험과 취약점을 가장 많이 발견한 총 5명의 우수 참가자에게는 과기정통부 장관상 등을 포함해 총 1700만원 규모 상금을 준다. 이날 행사에 앞서 챌린지 참여기업, AI 전문가, AI 전공 대학생 등이 참여한 '미니 레드팀 챌린지'를 사전에 세 차례 개최(3.9, 3.20, 3.27), 생성형 AI 기술동향과 위험 파급효과 등을 종합적으로 고려, 총 7개 챌린지 주제를 도출하고 평가기준을 마련했다. '레드팀 챌린지'의 공정하고 전문적인 평가를 위해 챌린지 평가단도 구성‧운영한다. 레드팀 수행 경험이 있는 데이터 분야 전문가, 의료‧금융‧법률 전문가 120여명으로 구성한 평가단은 사전에 마련한 평가 세부기준에 기초해 챌린지 참가자의 프롬프트 공격을 객관적으로 평가한다. 한편, 행사 2일차(12일)에는 '글로벌 AI 안전 컨퍼런스'가 열린다. 코히어(Cohere) 아이단 고메즈(Aidan Gomez) 대표, 스태빌리티AI(Stability AI) 에마드 모스타크(Emad Mostaque) 전 대표 겸 창업자, 프론티어모델포럼(구글‧오픈AI‧MS‧앤트로픽 4사가 AI 안전표준 개발을 위해 2023년 7월 만든 협의체) 크리스 메세롤(Chris Meserole) 의장, xAI 댄 헨드릭스(Dan Hendrycks) 안전 담당고문, 네이버 하정우 퓨처AI 센터장, SKT 에릭 데이비스(Eric Davis) 부사장, 셀렉트스타 김세엽 대표, 카카오 김경훈 AI Safety 리더, 카이스트 오혜연 교수 등 국내외를 대표하는 AI 업계‧학계 전문가가 참여해 최근 생성AI 시장의 기술동향과 생성AI의 안전‧신뢰성 확보 방안을 발표하고 토의한다. 이번 '레드팀 챌린지' 행사를 통해 AI 산업 전반에 기업의 자율적인 AI 신뢰․안전성 확보 노력이 더욱 확산되고, 사회 전반에 AI 윤리적 활용에 대한 인식도 확대할 것으로 과기정통부는 기대했다. 특히, 챌린지에 참여한 AI 기업은 사용자 다양성을 반영한 평가 데이터셋을 확보할 뿐 아니라 자사 AI 모델의 잠재적인 위험‧취약점을 폭넓게 파악, AI 신뢰‧안전성을 높이는 계기가 될 전망이다. 과기정통부는 이번 '레드팀 챌린지' 결과를 분석해 생성AI 분야의 공통‧포괄적인 위험을 도출하고, 업계에서 활용할 수 있는 '생성형 AI 레드팀 가이드라인'을 마련하는 등 표준화한 생성형 AI 위험 발굴 및 대응체계를 구축할 계획이다. 강도현 과기정통부 2차관은 "AI 혁신 전제이자 기본은 AI 안전과 신뢰”라며 “'AI 시대'로의 본격적인 전환점에서 오늘 행사는 AI의 지속 가능성에 대해 우리 모두가 진지하게 고민해 볼 수 있는 소중한 계기가 될 것”이라고 밝혔다. 이어 강 차관은 "AI 발전에 제약이 되는 문제들은 조속히 해결해 나가고, 대통령께서 밝히신 'AI-반도체 이니셔티브'를 차질없이 추진해 글로벌 AI 혁신을 주도해 나갈 것”이라며, “특히, 올 5월에 개최하는 'AI 서울 정상회의'를 통해 AI 혁신과 안전, 포용 논의를 주도해 글로벌 AI 리더십을 확보하고, AI G3 강국 도약의 발판으로 삼겠다”고 강조했다.

2024.04.11 14:30방은주

열풍이라더니 적자 허덕이는 AI 기업

전 세계적으로 인공지능(AI) 열풍이 불며 많은 기업에서 AI도입을 검토하며 관련 시장의 성장을 예고했다. 하지만 최근 관련 기업들의 성과는 이에 미치지 못하고 있다. 상당수가 매출이 줄고 적자폭이 확대됐다. 특히 업계에서 우려하는 부분은 매출 성장이다. 기업의 가치를 시장에서 증명한다면 적자가 지속되더라도 만회할 가능성이 있지만 이를 성공한 기업은 손에 꼽히는 상황이다. 이에 AI 기업과 스타트업들이 생존을 위한 현실적인 비즈니스모델 확보에 박차를 가하는 중이다. 11일 관련 업계에 따르면 스켈터랩스, 마음AI, 솔트룩스 등이 적자를 기록 중이다. 솔트룩스는 지난해 매출액 308억 원, 영업손실 92억 원을 기록했다. 매출은 1.7% 증가한 반면, 적자는 4.7배 이상 늘었다. 마음AI는 매출액 102억 원, 영업손실 38억 원을 기록했다. 전년대비 매출은 24% 늘었지만 적자는 아직 해결하지 못한 상황이다. 스켈터랩스는 지난 2022년 매출이 15억 원에서 6억 원으로 감소했으며 영업손실은 79억 8천720만 원으로 확대됐다. 당기순손실도 81억 원에서 119억 원 적자폭이 커졌다. 상당수 AI 기업이 매출성장은 더딘 반면 손실폭은 증가하는 추세다. 지속되는 불황으로 인해 기업의 투자심리가 얼어붙고 경쟁사들이 늘어나며 이익을 확보하기 어렵기 때문이다. 더불어 급격하게 발전하는 AI기술력을 유지하기 위해 막대한 비용이 요구되는 AI인프라와 서비스에 대한 줄일 수 없어 이런 상황이 발생한다는 분석이다. 수익성이 개선되지 않는 요인으로 지목되는 것은 기업 등 서비스 사용자와 AI 서비스 간의 온도차다. 기업에서는 AI서비스 도입으로 단숨에 모든 업무를 자동화하거나 수익모델을 극대화 할 수 있을 것으로 기대하지만 예상보다 기능이 제한되기 때문이다. 더불어 학습을 위해 데이터를 정제하고 새로 데이터베이스를 구축하는 등 많은 과정이 요구되고 비용도 상당히 높은 수준이라는 것이다. 여기에 챗GPT로 대표되는 오픈AI 등 빅테크의 생성형 서비스 기술의 발전이 빨라지면서 기업에서 킬러콘텐츠로 내세운 서비스까지 포함하며 AI기업의 생존을 더욱 위협하고 있다. 이에 AI기업들은 생존을 위해 차별화된 AI 비즈니스 모델 발굴에 전사적 역량을 집중하는 추세다. 사업분야 역시 검토 및 도입에 시간이 걸리는 제조보다 IT, 금융, 게임 등을 중점적으로 공략한다. 한 AI기업 임원은 “AI산업은 외부에서 바라보는 것과 현실사이에 상당한 온도차가 존재한다”며 “워낙 급격하게 기술이 발전해온 만큼 실제 산업에서 어떻게 AI를 적용하고 어떤 성과를 낼 수 있는지 명확하게 제시하기가 어렵고 차별화도 쉽지 않은 것이 현실”이라고 설명했다. 이어서 “마이크로소프트의 코파일럿만 봐도 직원의 업무를 지원해주는 수준이지만 밖에서 비치는 AI에 대한 기대와 비교하면 격차가 상당하다”며 “기업을 설득시킬 수준을 서비스를 제공하기 위해선 아직 AI기업들이 가야 할 길은 아직 많이 남은 상황”이라고 말했다.

2024.04.11 13:51남혁우

SKT "글로벌 파트너로 AI 양적 확장, 개인비서로 질적 확장"

정석근 SK텔레콤 글로벌AI테크사업부장(CAGO)이 “GTAA를 통한 양적 확장과 PAA를 통한 질적 확장으로 글로벌 AI 경쟁에서 선도 기업으로 자리매김할 것”이라고 밝혔다. 정석근 CAGO는 회사 뉴스룸 홈페이지에 올린 글을 통해 “생성형 AI가 촉발하는 급격한 변화의 물결은 통신사에게 기회로 다가올 것”이라며 성장 동력 확보로 이같은 전략을 제시했다. 우선 정석근 CAGO “AI 기술 개발과 유망 AI 스타트업에 대한 전략적 투자를 지속하고 있다”며 “이를 통해 축적한 기술과 노하우는 우리의 AI 경쟁력의 근간이 될 것”이라고 설명했다. 이어, “도이치텔레콤, e&, 싱텔, 소프트뱅크와 함께 글로벌 텔코 AI 얼라이언스(GTAA)를 결성했다”며 “GTAA는 통신사향 LLM 기술 개발을 목표로 하며, 이를 통해 업무 효율 향상과 고객 서비스 가치 제고를 이뤄낼 것”이라고 덧붙였다. AI 기술 확보와 파트너십을 통한 생태계 구축이 AI 컴퍼니의 전략이란 설명이다. 특히 정 CAGO는 “AI 기술로 고객 가치를 더하는 글로벌 퍼스널 AI 어시스턴트(PAA) 서비스를 준비하고 있다”며 “미국과 국내에 PAA 전담 자회사를 설립하고, 글로벌 시장과 고객 수요를 반영한 서비스 개발을 진행하고 있다”고 밝혔다. 그러면서 “PAA 서비스의 차별화 포인트는 다양한 AI 서비스를 하나의 플랫폼에서 쉽고 저렴하게 이용할 수 있다는 것”이라며 “통신사가 기술을 통해 고객을 연결해온 본질적 역량을 AI 시대에 맞게 발전시키는 전략이며, 충분한 승산이 있다고 확신한다”고 강조했다. GTAA 멤버사들의 13억명 가입자를 통한 규모의 경쟁과 함께 PAA를 통해 AI 서비스 차별화에 나서겠다는 뜻이다. 정 CAGO는 “GTAA 가입자를 기반으로 한 PAA 서비스는 SK텔레콤의 글로벌 AI 시장 도전을 위한 발판이 될 것이다”며 “지난 40년간 그래왔듯이 우리는 시대의 변화와 기술 혁신을 이끌어 갈 것”이라고 말했다.

2024.04.11 11:45박수형

국토부, 아파트 제로에너지 5등급 수준 강화…에너지 비용 부담 줄여

정부가 신축 공동주택(아파트)의 에너지 성능을 제로에너지 5등급 수준으로 강화해 국민 에너지 주거비 부담 완화에 나선다. 국토교통부는 이 같은 내용을 담은 '에너지절약형 친환경주택 건설기준 개정안'을 12일부터 5월 2일까지 행정예고한다. 국토부에 따르면 친환경주택 건설기준은 2009년 제정된 이후 제로에너지주택 공급을 확대하기 위해 에너지 기준을 단계적으로 강화해 왔다. 지난해에는 공공주택 제로에너지 5등급 인증을 의무화했다. 이번 개정안은 신축 공동주택 에너지 성능을 제로에너지 5등급 수준으로 강화해 온실가스를 줄이고 국민의 에너지 주거비 부담을 완화하고자 마련됐다. 제로에너지건축물 인증기준 5등급은 에너지효율등급 인증등급 1++이상(90kwh/㎡·yr 미만), 에너지자립률 20% 이상~ 40% 미만, 건축물에너지관리시스템(BEMS) 설치 등을 만족해야 한다. 국토부는 개정안에서 2025년 민간 공동주택을 대상으로 제로에너지건축물을 적용하기 위해 업계와 전문기관과 협의를 거쳤다. 이를 토대로 사업자가 에너지평가방식(성능기준 또는 시방기준)을 선택할 수 있도록 하는 체계는 유지하되, 평가 방식별 에너지 기준은 현행보다 강화하는 것을 주요 내용으로 했다. 성능평가 프로그램을 통해 단위면적당 1차 에너지소요량의 달성 여부를 판단하는 성능기준의 경우, 현 설계기준(120kwh/㎡·yr)보다 약 16.7% 상향된 100kwh/㎡·yr을 적용한다. 또 패시브·액티브·신재생 등 항목별 에너지 설계조건을 정하는 '시방기준'도 '성능기준'과 유사한 수준으로 상향한다. 현관문·창호 기밀성능은 직·간접면에 관계없이 1등급을 적용한다. 업계에서 이미 적용하고 있는 열교환환기장치는 신규 항목으로 도입 한다. 신재생에너지 설치배점도 상향할 계획이다. 국토부는 이번 제로에너지건축물 성능강화에 따라 주택 건설비용은 약 130만원 추가(84㎡ 세대 기준)되지만 매년 약 22만원의 에너지비용을 절감해 약 5.7년이면 추가 건설비용을 회수할 수 있을 것으로 내다봤다. 국토부는 공동주택 제로에너지건축물 인증을 활성화하고 사업자 부담을 경감하기 위한 제도 개선도 추진한다. 우선 사업계획 승인을 위해 제출해야 하는 에너지절약 성능계획서 작성을 간소화한다. 분양가 심사를 위한 제출 서류에 제로에너지건축물 인증서도 허용하는 등 인증 활성화를 위한 혜택도 확대한다. 친환경주택 성능에 대한 표준서식도 마련, 입주자 모집단계부터 소비자가 충분한 정보를 제공받을 수 있도록 했다. 김헌정 국토부 주택정책관은 “공공에 이어 민간 공동주택까지 제로에너지건축을 적용함으로써 국가 온실가스 감축이 가속화할 것으로 기대된다”면서 “공동주택 입주자가 에너지비용 걱정 없이 생활할 수 있도록 공동주택의 에너지성능을 지속해서 높여나가겠다”고 밝혔다. 개정안은 국토부 홈페이지 '정보마당-법령정보-입법예고·행정예고'에서 확인할 수 있다. 개정안에 대한 의견은 5월 2일까지 우편이나 팩스, 홈페이지에 제출하면 된다.

2024.04.11 11:32주문정

네이버 "인텔 '가우디2' 기반 생성 AI 생태계 구축 목표"

인텔이 네이버와 AI 가속기 '가우디2'(Gaudi 2)를 이용한 LLM(거대언어모델)과 소프트웨어 생태계 확대에 나선다. 네이버클라우드는 인텔 개발자 클라우드 상에 구축된 가우디2 인스턴스를 활용해 LLM 구축 가능성을 평가하는 한편 국내 대학교·스타트업과 협업해 가우디2 기반 오픈소스 모델 등을 공동 개발할 예정이다. 11일 오전 서울 여의도 한경협회관에서 인텔코리아 주최로 진행된 질의응답에서 이동수 네이버클라우드 하이퍼스케일 AI담당 이사(박사)는 "네이버와 인텔 협력 결과물이 오픈소스로 제공되면 학계와 스타트업의 AI 소프트웨어 개발의 문턱을 크게 낮출 수 있다. 국산 소프트웨어 대중화 면에서 큰 의미가 있다"고 강조했다. ■ 네이버 "가우디2 기반 고성능 LLM 모델 개발 목표" 인텔은 9일(미국 현지시간) 미국 애리조나 주 피닉스에서 진행된 '인텔 비전' 행사에서 네이버와 협업을 발표했다. 당일 기조연설에 등장한 하정우 네이버클라우드 AI 혁신센터장은 "생성 AI 생태계 확대를 위한 공동 연구소 설립, 가우디2 성능 평가, LLM(거대언어모델) 인스턴스 제공을 위해 인텔과 협업할 것"이라고 밝혔다. 하정우 혁신센터장은 "가우디2 가속기는 AI 전용 설계를 통해 와트당 성능과 총소유비용(TCO) 측면에서 뛰어난 성능을 낸다. 이번 인텔과 협력을 통해 고성능, 비용 효율 인프라 기반으로 강력한 LLM 기반 모델을 개발하는 것이 목표"라고 설명했다. ■ "가우디2, 하드웨어 특성·성능 면에서 좋은 평가" 이날 오전 이동수 네이버클라우드 하이퍼스케일 AI담당 이사(박사)는 "네이버는 현재 거의 모든 서비스에 AI 기술을 접목하고 있으며 좋은 AI 반도체 확보는 서비스 경쟁력 확보에 직결된다"고 설명했다. 이어 "많은 반도체를 평가하고 분석하는 과정에서 인텔 가우디2 가속기의 하드웨어 특징과 성능 면에서 좋은 결과를 얻었고 이것을 향후 네이버 서비스와 융합하려면 생태계와 소프트웨어 확보가 필요하다"고 밝혔다. 이날 네이버클라우드 관계자는 "일부 언론 관측처럼 이번 협업에 네이버 사옥이나 데이터센터 내에 물리적인 공간을 확보하는 것은 아니다. 평가는 가우디2가 적용된 인텔 개발자 클라우드를 활용할 것"이라고 밝혔다. ■ "가우디2 기반 최적화 코드로 개발 문턱 낮출 것" 이동수 이사는 "현재 LLM 기반 코드 최적화는 고수준 언어가 아닌 어셈블리어(기계어) 수준에서 이뤄지지만 이런 기술력을 갖춘 엔지니어는 극히 드물다"고 설명했다. 이어 "엔비디아 쿠다 역시 하드웨어가 바뀔 때마다 코드를 바꿔야 한다. 이런 난점때문에 엔비디아 역시 별도 개발 없이 기업들이 그대로 쓸 수 있는 바이너리(실행파일)를 제공하고 있다"고 설명했다. 권세중 네이버클라우드 리더는 "국내 대학과 스타트업은 GPU나 가속기 활용이 어려워 연구에 어려움을 겪는다. 국내 상위권 대학 내 연구실과 협업을 논의중이며 이들이 가우디2 기반 코드를 오픈소스로 공개하면 어려움을 덜 수 있을 것"이라고 밝혔다. ■ "삼성전자 마하1도 활용... 생태계 확장이 우선" 이동수 이사는 "가우디2 역시 성능 대비 전력 효율성이 뛰어나며 LLM이나 서비스 운영에 여전히 장점을 지니고 있다. 이번 인텔과 협업은 소프트웨어나 생태계 확장에 중점을 둔 것이며 소프트웨어나 드라이버 등이 안정된 가우디2로 진행할 것"이라고 설명했다. 반도체 업계에 따르면 네이버는 LLM 처리에 특화된 삼성전자 AI 반도체 '마하1'을 이르면 올 연말부터 공급받아 활용할 예정이다. 이동수 이사는 "인텔과 삼성전자 모두 중요한 협력사이며 함께 생태계 확장을 하는 것이 목표다. 마하1이나 가우디2는 모두 초기 단계이며 모델 학습·훈련이나 추론 등 용도를 정해둔 것은 아니다"라고 밝혔다.

2024.04.11 11:15권봉석

디노도, 구글클라우드와 생성형 AI 통합 발표

디노도테크놀로지(이하 디노도)는 구글클라우드와 파트너십의 일환으로 데이터 통합, 관리 플랫폼인 디노도 플랫폼과 구글 클라우드의 버텍스 AI를 새롭게 통합한다고 11일 밝혔다. 디노도는 데이터 가상화 기술을 기반으로 구글 클라우드와 협력해 논리적 데이터 관리 기능을 생성형 AI 서비스와 결합하고 최신 대규모언어모델(LLM)을 활용할 수 있도록 지원할 계획이다. 오늘날 기업은 금융 서비스, 의료, 제조, 소매, 통신, 고등 교육 등 산업 전분야에 걸쳐 생성형 AI를 활용한 비즈니스 혁신 방안을 적극적으로 찾고 있다. 이번 양사의 플랫폼 통합으로 기업은 제미나이 모델을 이용해 혁신적인 신규 서비스와 애플리케이션을 개발할 수 있게 돼 실질적인 변화를 추진할 수 있게 된다. 구글클라우드는 인프라 플랫폼, 산업 솔루션 및 전문성을 결합해 기업 비즈니스의 디지털 혁신 역량을 강화한다. 기업은 구글 클라우드의 생성형 AI 및 LLM 기술과 결합한 디노도 플랫폼을 활용해 자사의 데이터를 안전하고 효율적으로 버텍스 AI 애플리케이션에 제공함으로써 편향성 완화, 개인정보 보호 및 인적 오류 등 윤리적 고려사항을 책임감 있게 지킬 수 있다. 리티카 수리 구글클라우드 기술파트너십부문 이사는 “생성형 AI는 비즈니스 운영 방식을 현저하게 개선하고 사실상 모든 산업에 이익을 제공할 수 있다”며 “디노도는 구글 클라우드의 선도적인 생성형 AI 기능을 활용함으로써 고객이 데이터 운영을 개선하고 생산성을 향상하는 데 도움이 되는 새로운 인사이트를 확보할 수 있도록 지원할 수 있게 됐다”라고 밝혔다 . 나라얀 순다르 디노도 전략적 제휴 담당 선임 이사는 “다양한 산업 분야의 기업들이 디노도의 논리적 접근방식을 통해 데이터를 통합 및 관리하고, 사전에 훈련된 LLM 과 외부 데이터 소스를 결합한 RAG 기술을 적용할 수 있다”며 “양사의 이번 플랫폼 통합은 데이터와 생성형 AI의 강력한 힘을 기반으로 새로운 차원의 비즈니스 가치를 실현함으로써 기업이 혁신의 한계를 재정의할 수 있는 계기를 제공한다”고 강조했다. 그는 “구글클라우드의 오랜 파트너인 디노도는 신뢰할 수 있고 연관성 있는 데이터를 쿼리하고, 비즈니스 인사이트를 제공하는 섬세한 응답을 생성할 수 있도록 함으로써 LLM의 기능을 개선한다” 고 덧붙였다.

2024.04.11 10:17김우용

에쓰오일, 'AI 구매시스템'으로 공급망 불안전성 대비

최근 AI를 활용한 구매시스템 구축을 완료한 S-OIL(에쓰오일) 세계 구매 전문가들에게 주목을 받았다. 에쓰오일은 10일 미국 공급망 관리 전문가 협의회(CSCMP)가 주관한 웨비나(웹+세미나)에서 글로벌 구매 관련 분야의 담당자들을 대상으로 AI 구매시스템 도입을 완료했음을 소개했다고 11일 전했다. 에쓰오일은 디지털 전환 전략의 일환으로 기 구축한 구매 시스템에 AI 기술을 접목한 구매 시스템 고도화 작업을 진행해왔다. 과거 10년 간의 내부 구매 데이터와 원자재 등 외부 시장 가격 변동을 고려한 가격·수요 예측 모델을 구축해 최적의 조달 시점을 판단하는 등 구매 전략 수립에 이를 활용하고 있다. 뿐만 아니라 발주 자동화 품목 추천 기능을 활용, 장기계약 확대를 통해 공급망 불안정성에 대비하고 있다. 미국 공급망 관리 전문가 협의회(CSCMP)는 공급망 관리에 관한 연구와 지식 촉진 및 확산을 목적으로 1963년 창립된 공급망 전문가를 위한 세계 최대의 협회다. 에쓰오일 이지혜 구매관리팀장은 “정유 에너지 산업은 대규모 투자비가 소요되는 장치산업으로 국제적인 시장 요인과 원자재 가격 변동성에 영향을 크게 받고, 설비의 기술적 복잡성과 고도의 전문지식이 요구되며, 환경과 안전에 대한 규제도 충족시켜야 하는 특수한 영역”이라며 “AI 구매시스템을 활용하면서 구매 절차를 간소화했을 뿐 아니라 시장 흐름에 대한 통찰력을 얻어 회사의 수익성과 지속가능한 성장을 촉진하는데 기여하고 있다”고 설명했다. 또한 “웨비나에 참석한 전세계 구매 관련 업무를 수행하는 참석자들은 질의응답 세션을 통해 에쓰오일이 동 시스템을 구축하기까지 걸린 시간, 삼성과 협업해 시스템을 구축하게된 과정, 외부 마켓 변수 수집 방법, 과거 구매 이력 분석을 위한 데이터 업로드 방식 등에 대해 활발히 질문하며 당사의 선진화된 구매 시스템에 높은 관심을 보였다”고 말했다. 에쓰오일은 IT 신기술을 바탕으로 전사적 디지털 전환 로드맵을 수립하고 체계적으로 추진하고 있다. 디지털 공장, 디지털 마케팅, 스마트 워크 등 3개 영역에 대한 디지털 전환 핵심과제를 성공적으로 완료했다. 올해부터 3년 간(2024~2026년)의 최신 기술 동향과 국내외 선진 사례를 조사 분석해 생산성 증대, 비용 절감 등 지속적인 효율성 개선을 위한 2단계 디지털 전환 전략을 추진한다.

2024.04.11 10:10류은주

Prev 331 332 333 334 335 336 337 338 339 340 Next