• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
  • AI의 눈
AI의 눈
HR컨퍼런스
디지털트러스트
IT'sight
칼럼•연재
포토•영상

ZDNet 검색 페이지

'‼테더맨〘 TTMAN01.NET 〙 서울 테더OTC‼'통합검색 결과 입니다. (565건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

의료분야에 대규모언어모델 적용시 보안침해 공격 성공률 81%

서울아산병원 연구팀, 개인정보유출 위험성 분석 대규모언어모델이 답변 생성 과정에서 학습된 원본 데이터 노출 가능성도 22% 최근 챗GPT와 같은 생성형 인공지능과 그 핵심 기술인 대규모언어모델(Large Language Model, LLM)을 접목한 디지털 혁신에 의료분야에서도 주목하고 있다. 하지만 환자의 개인정보보호가 특히 중요한 의료분야의 경우 대규모언어모델 사용에 따른 개인정보유출 등 보안에 대한 우려도 제기되고 있다. 서울아산병원 심장내과 김영학 교수·아산생명과학연구원 빅데이터연구센터 전태준 박사팀이 대규모언어모델을 의료분야에 적용하는 과정에서 발생할 수 있는 개인정보유출 문제를 확인하기 위해 의도적으로 악성 공격을 시행한 결과, 최대 81%에 달하는 공격 성공률을 보였다는 연구 결과를 발표했다. 연구팀은 의료분야에서는 민감한 개인정보를 다루기 때문에 대규모언어모델 도입에 신중하고 각별한 주의가 필요하고, 독립적으로 운용되는 의료 특화형 대규모언어모델이 필요하다고 강조했다. 이번 연구 결과는 전 세계 의사들의 임상치료 교과서로 불리는 NEJM(New England Journal of Medicine)의 자매지인 'NEJM AI'에 최근 게재됐다. 의료계에서 인공지능의 중요성이 점점 확대됨에 따라, 임상의학 분야 세계 최고 권위지로 꼽히는 NEJM에서도 지난해 1월부터 인공지능 분야만을 특화해 다루는 자매지를 출간한 것이다. 대규모언어모델은 수십억개 이상의 매개변수를 기반으로 대량의 데이터를 학습해 사람처럼 생각하고 답변하는 인공지능 모델이다. 이는 챗GPT, 제미나이(Gemini)와 같은 생성형 인공지능이 작동하는 핵심기술로, 질문이나 명령어를 담은 프롬프트를 입력하면 대규모언어모델이 이를 이해하고 적합한 답변을 제공한다. 의료분야에 대규모언어모델을 적용하면 엑스레이‧CT‧MRI 등의 검사 이미지를 다량의 데이터 기반으로 분석해 진단의 정확도를 높일 수 있고, 환자의 개인 데이터를 기반으로 맞춤형 치료 계획을 제공할 수 있다. 뿐만 아니라 전자의무기록(EMR)이나 동의서 작성을 자동화하는 등 의료진의 관리 업무도 간소화해 전반적으로 효율성이나 정확성이 향상될 것으로 기대되고 있다. 문제는 대규모언어모델의 보안이 위협될 경우 환자들의 민감한 개인정보 유출로 이어저 윤리적‧법적 위험성이 초래될 수 있다는 점이다. 서울아산병원 심장내과 김영학 교수·아산생명과학연구원 빅데이터연구센터 전태준 박사팀은 2017년 1월부터 2021년 12월까지 환자 2만6천434명의 의무기록을 활용해 대규모언어모델을 학습시켰다. 악성 공격은 대규모언어모델에 입력하는 질문인 프롬프트에 의미 없는 기호, 글을 추가하거나 인코딩하는 등 다양하게 변형해 악의적인 질문을 하는 방식으로 위험성을 평가했다. 이번 연구는 윤리적으로 사전 승인된 데이터만을 활용했으며, 서울아산병원 임상연구심의위원회(IRB)의 심의를 거쳐 진행됐다. 먼저 문자를 인코딩하는 방식인 ASCⅡ(미국정보교환표준코드) 방식으로 프롬프트를 변형한 결과, 대규모언어모델의 보안장치를 피해 민감한 개인정보에 접근할 수 있는 확률을 평가하는 가드레일 비활성화율이 최대 80.8%에 달했다. 80.8%에 달하는 확률로 보안 조치가 쉽게 침해될 수 있다는 뜻이다. 또한 대규모언어모델이 답변을 생성하는 과정에서 학습된 원본 데이터를 노출할 가능성은 최대 21.8%로 나타났다. 모델에 질문하는 형식을 미세하게 조정함으로써 원본 학습 데이터가 쉽게 노출될 수 있다는 것이다. 구체적인 예시로 수술 준비를 위해 상세한 환자 정보를 제공하는 시스템으로 대규모언어모델을 학습시킨 뒤 의료기록 검토를 요청하는 프롬프트를 인코딩 방식으로 조정한 결과, 대규모언어모델이 대답을 생성하는 과정에서 민감한 환자 데이터는 물론 의료진의 이름이나 전문 분야 등 구체적인 정보가 노출됐다. 김영학 서울아산병원 심장내과 교수는 “의료분야에서 대규모언어모델을 활용했을 때 기대되는 발전이 크지만, 데이터 보안 강화 없이는 심각한 개인정보유출로 이어질 수 있다”며 “민감한 개인정보를 다루는 분야인 만큼 보안의 중요성이 특히 강조되며, 독립적으로 운용되는 의료 특화형 대규모언어모델이 필요하다”고 말했다.

2025.01.12 09:00조민규 기자

SBA, 'CES 2025' 역대 최대 규모 참가..."팀서울 알린다”

서울경제진흥원이 세계 최대의 기술 전시 'CES 2025' 참가 이래 역대 최대 규모(1천40㎡, 약 315평)의 서울통합관을 꾸렸다고 8일 밝혔다. 서울의 창업생태계를 이끄는 16개 기관과 함께한 뜻깊은 개관식부터, CES 기간 중 최초로 선보이는 참여국 간 글로벌 스타트업 네트워킹 프로그램까지 4일간 이어지는 행사의 닻을 올렸다. CES(Consumer Electronic Show)는 매년 1월 미국 라스베이거스에서 개최되는 세계 최대 규모의 테크 박람회다. 올해는 7일부터 10일(현지시간)까지 4일간 개최된다. 서울통합관은 3개 자치구(강남구·관악구·금천구), 5개 창업지원 기관(SBA·서울관광재단·서울바이오허브·서울AI허브·캠퍼스타운성장센터)과 서울 소재 8개 주요 대학(건국대·경희대·국민대·동국대·서강대·서울시립대·연세대·중앙대)과 협력해 운영된다. 먼저, 7일 10시 30분에 열린 CES 2025 서울통합관 개관식에서는 16개의 서울통합관 참여기관을 비롯해 104개사 기업, 103명의 서포터즈가 '팀 서울'을 향한 포부를 선언하며, 글로벌테크 무대로의 출항을 알렸다. 'Team Seoul, ON BOARD to Dive in!'을 구호로 열린 이번 개관식에서는 16개 기관 대표자가 직접 무대에 올라 '승선 세레모니'를 펼쳤다. 관객석을 가득 채운 대학생 서포터즈가 2025년 서울의 색 '그린오로라' 응원봉으로 서울통합관의 시작을 빛냈다. 이날 개관식에는 CES 주최사인 CTA(Consumer Technology Association) 관계자들이 서울통합관 기업 부스를 방문해 주요 기술 시연을 참관하기도 했다. SBA는 서울통합관 개관식뿐만 아니라 다채로운 현장 행사를 운영해 서울시 유망기업의 참여를 북돋웠다. CES 개막 직전인 5일 오후 5시에는 공식 미디어 행사로 공식 개막 전 기업·제품을 글로벌 미디어에 사전 공개하는 자리인 'CES 언베일드'에 참여했다. 서울통합관 기업 중 10개사가 행사에 참여해 국내외 관계자들의 주목을 끌었다. 특히 8일 오후 5시30분 시저스 팰리스 호텔에서 CES 기간 중 최초로 글로벌 스타트업 네트워킹 행사인 '서울 이노베이션 포럼'을 추진한다. 글로벌 스타트업 IR 피칭대회 프로그램 등이 마련된 포럼에서는 CES 주요 참가국·기업들이 참석해 기술 인사이트를 공유하며 상호 간 협력을 모색할 예정이다. 포럼에는 협력 국가(한국, 일본, 대만, 스위스, 네덜란드)와 미디어 등 150여 명이 참가해 5개국 10개 스타트업의 피칭경연을 참관하고, 참가자 간 자유로운 토론으로 CES 주요 의제와 업계 동향을 공유하는 등 적극적인 네트워킹에 나설 예정이다. 7일과 8일 양일간 유레카파크 및 LVCC 주요 전시 부스에서는 '테크 투어'도 진행된다. 서울통합관에 참여하는 16개 협력 기관의 기관장(총장)이 약자동행, 디지털전환, 라이프스타일, 로봇·가전, AI 자율주행 등이 마련된 전시관을 둘러보며 기술 시연을 참관한다. 서울통합관 지원 기업들은 SBA의 다양한 지원 프로그램에 힘입어 작년에 이어 역대 최다 규모 혁신상 수상(21개사) 성과를 기록했다. SBA는 신청 서류 검토, 전문 코치와의 일대일 컨설팅 등 혁신상 수상을 위한 전 과정을 밀착 지원했다. 김현우 SBA 대표는 “CES 서울통합관 사업은 이제 더 이상 일회성 이벤트가 아닌, 기업의 글로벌 진출에 실질적 도움을 주는 사업으로 자리매김했다”며 “CES 이후에도 후속 지원 사업을 통해 참가기업들의 지속적인 성과 창출에 앞장서겠다”고 말했다.

2025.01.08 22:54백봉삼 기자

건국대 창업기업 및 학생팀 'CES 2025' 참가

건국대학교(총장 원종필)는 7일(현지시간)부터 10일까지 미국 라스베이거스에서 개최하는 'CES 2025 서울통합관'에 교내 3개 스타트업과 'KU: 슈퍼 루키 글로벌' 'KU 글로벌 스타트업 프런티어' 프로그램 참여 학생 총 30명이 참여한다고 밝혔다. CES는 미국소비자기술협회(CTA)가 주최하는 세계 최대 규모 정보기술(IT) 박람회다. CES 2024 기준으로 세계 4천300여 개 기업과 13만명의 참관객이 참여했다. CES 2025 스타트업 전시관 '유레카 파크'에 조성되는 '서울통합관'은 서울경제진흥원(SBA) 주도로 서울 소재 창업생태계 관련 16개 기관과 서울 소재 104개 스타트업이 함께 참여하는 공동관으로 운영된다. 건국대는 글로벌 경쟁력과 기술력을 보유한 교내 스타트업 3곳이 CES 2025 서울통합관에 참가한다. 참여 기업은 인공지능(AI)·바이오 헬스·ESG·모빌리티·반도체 등 신기술 분야에서 첨단 기술을 보유한 에이배리스터컴퍼니·드론메이커스·파인디가 참여한다. 에이배리스터컴퍼니(대표 정현종·건국대 물리학과 교수)는 '그래핀 배리스터' 기술을 기반으로 한 차세대 바이오·광센서 개발 기업이다. 건국대 학생 창업 기업인 드론메이커스(대표 전진표·스마트운행체공학과)는 산업용 드론 전문기업으로 CES 2025 서울통합관에서 생성형 AI 연동 드론을 선보일 예정이다. 파인디(대표 안우석·컴퓨터공학과)는 파일 내용과 검색어 의미 분석 AI를 활용한 지능형 문서 검색·관리 소프트웨어를 개발하는 기업이다. 또 건국대 글로벌 혁신인재 'KU: 슈퍼 루키 글로벌' 프로그램 2기로 활동 중인 재학생 9명이 서울통합관 대학생 서포터즈로 참가한다. 서포터즈는 CES 2025 서울통합관 참여 기업 중 건국 3개 기업을 포함해 서울관광재단·서울바이오허브 지원 기업과 일대일 매칭돼 기업 소개와 통역 등 행정 업무를 지원한다. 건국대 창업지원본부 소속 'KU 글로벌 스타트업 프런티어' 학생 21명 도 CES 2025 무대를 밟는다. AI·로보틱스·뷰티테크·모빌리티 등 관심 분야에 따라 나뉜 4개의 팀이 'CES 2025' 부스를 탐방하고, 참여 기업과의 인터뷰를 진행한다. 'KU 글로벌 스타트업 프런티어' 학생들은 CES 2025 탐방 이후에도 'PSU 창업교육' 일정을 통해 현지 스타트업 CEO의 특강, 기업가 정신 교육 등을 이수하며 창업 역량을 강화할 예정이다. 유재욱 건국대 혁신사업단장은 “글로벌 역량을 갖춘 우수한 학생들이 세계를 선도하는 기술 트렌드를 현장에서 파악하고, 글로벌 무대에서 실질적인 비즈니스 경험을 쌓는 시간이 될 것”이라며 “앞으로도 건국대는 글로벌 인재 양성을 위해 학생들의 자기주도 성장을 지원하도록 노력할 것”이라고 밝혔다.

2025.01.07 16:39주문정 기자

메디톡스, 바이오 스타트업 2개社 지원

메디톡스가 지난 6일 서울 동대문 서울바이오허브 글로벌 센터에서 2024 서울바이오허브-메디톡스 오픈이노베이션 프로그램을 통해 최종 선발된 '미메틱스'와 '엑솔런스'와 사업 추진 협약을 체결하고, 오리엔테이션을 진행했다. 이 자리에는 메디톡스, 서울바이오허브, 서울시, 액셀러레이터 비엑스플랜트 관계자도 참석했다. 서울바이오허브와 메디톡스, 선정된 스타트업들은 이번 오픈이노베이션 프로그램에 대한 협약을 체결했다. 메디톡스와 스타트업들 간에는 비밀유지 계약도 체결됐다. 메디톡스는 선정된 스타트업 2개사에 서울바이오허브 입주권, 공동연구 및 제품개발, 마케팅 기회 등을 제공할 예정이다. 메디톡스벤처투자를 통한 투자 유치의 기회도 제공하게 된다. 또 서울바이오허브는 맞춤형 성장전략을 통해 공동연구 및 임상시험, 기술사업화를 위한 지원과 컨설팅을 제공한다. 관련해 메디톡스는 지난해 7월 한국과학기술연구원(KIST) 서울바이오허브와 우수 기술을 보유한 유망 스타트업을 발굴, 육성하고자 업무협약(MOU)을 맺은 바 있다. 이후 11월까지 항노화·항암제·희귀자가면역질환 치료제 분야 스타트업들을 검토해 왔다. 주희석 부사장은 “초기 단계 유망 바이오 스타트업을 발굴, 육성하고 개방형 혁신 생태계를 구축하는데 지원을 계속할 것”이라고 밝혔다.

2025.01.07 11:43김양균 기자

박종배 산단공 서울지역본부장 "청년창업·디지털전환 수요공급 상생모델 구축”

박종배 한국산업단지공단 서울지역본부장은 “서울디지털국가산업단지 특성을 반영해 청년창업을 촉진하고 산업단지 근로자 환경개선을 위한 문화요소를 도입할 계획”이라고 밝혔다. 지난 1일 서울지역본부장으로 취임한 박 본부장은 “디지털전환 기술 공급기업과 수요기업 매칭을 통한 상생모델을 구축해 나가겠다”고 덧붙였다. 박 본부장은 서울 중앙고와 건국대 경제학과와 같은 대학교 대학원 경제학 석사를 취득하고 1997년 산단공에 입사했다. 구조고도화기획팀장·산업진흥연구팀장·산단진흥실장·전북지역본부장 등을 역임했으며, 국토교통부 산업단지 수요검증위원으로 활동했다.

2025.01.03 15:45주문정 기자

  Prev 21 22 23 24 25 26 27 28 29 Next  

지금 뜨는 기사

이시각 헤드라인

삼성전자 DX부문 노조, 공동투쟁 철회…"전체 조합원 권익 의견 반영 안돼"

"안드로이드와 달라"…아이폰18 프로, 가격 동결 가능성 '솔솔'

5년새 빵값 38%↑...편의점, 가성비 'PB빵' 빵 터졌다

SK하이닉스, 차세대 1C D램 수요 확대 선제 대응 나선다

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.