• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 인터뷰
  • 인사•부음
  • 글로벌뉴스
창간특집
인공지능
배터리
컨퍼런스
칼럼•연재
포토•영상

ZDNet 검색 페이지

'AI안전'통합검색 결과 입니다. (3건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

"글로벌 AI 안전 주도"…정부, AI안전연구소 운영 전략 공유

정부가 내달 설립 예정인 '인공지능(AI)안전연구소' 운영 계획을 공유하고 의견을 수렴했다. 과학기술정보통신부는 18일 서울 중구 국가과학기술자문회의 대회의실에서 '제17차 정보통신전략위원회'를 열었다. 이 자리에서 AI안전연구소 비전을 '아태지역을 대표하는 글로벌 AI안전 거점연구소'으로 설정하고 인력 확보·핵심 기능·주요 일정에 대한 사안을 발표했다. 우선 정부는 11월 AI안전연구소를 개소할 예정이다. AI안전연구소는 내달 20일부터 미국 샌프란시스코에서 개최될 '국제 AI안전연구소 네트워크' 행사 참여를 시작으로 본격적인 역할을 수행할 계획이다. AI안전연구소는 한국정보통신연구원(ETRI)에 소속된 신규 연구소 조직으로 설치된다. AI안전 정책·평가·기술분야의 3개의 연구실로 운영된다. 현재 연구소 초대소장으로 AI 분야 전문성과 국제적 감각을 보유한 전문가를 채용하기 위한 절차를 진행 중이다. 이를 통해 연구 인력 30명을 확보할 계획이다. 사무실은 AI 판교 글로벌 연구·개발(R&D)센터에 설치된다. 정부는 아태지역을 대표하는 글로벌 AI안전 거점연구소 구현을 AI안전연구소 비전으로 설정했다. 3대 핵심미션으로 ▲AI안전에 대한 과학적 이해 증진 ▲AI안전 정책 고도화 및 안전제도 확립 ▲국내 AI기업의 안전 확보 지원을 추진한다. 앞서 정부는 올해 5월 'AI서울정상회의'를 개최해 글로벌 AI거버넌스 정상급 선언문인 '서울선언'을 도출했다. 지난달 AI G3로 도약하기 위해 대통령 중심으로 범국가적 혁신역량을 결집하는 민관 협업 기반 최고위 거버넌스인 국가인공지능위원회를 설립했다. 이에 대한 연장선상으로 정부는 AI서울정상회의 개최국으로서 서울선언 규범 가치를 확산하기 위한 핵심 후속조치로 AI안전성을 평가‧연구하고, 주요국 AI안전연구소와 협력을 전담하는 조직인 AI안전연구소 설립을 추진한다. AI안전연구소 운영을 통해 안전한 AI 개발·활용을 확산하고, AI 안전에 대한 국제적 연대 강화와 규범 정립을 수행하며, 중장기적으로 세계적 AI안전 연구를 선도하는 기관으로 발전시킬 계획이다. 그간 정부는 미국과 영국, 일본 등 AI안전연구소를 현장방문해 각국 연구소의 성격과 역할, 안전 평가방식, 연구소 운영방안 등을 심층 분석한 바 있다. AI안전연구소 설립자문위원회와 설립준비위원회 운영을 통해 국내 AI분야 전문가 의견을 폭넓게 수렴했다. 이를 통해 연구소 비전, 세부기능 과 운영방안을 도출했다. 11월 모습 드러내는 AI안전연구소, 핵심 기능은? 과기정통부는 AI안전연구소가 4가지 핵심기능을 수행할 계획이라고 밝혔다. 우선 연구소는 AI위험을 정의하고, AI안전을 평가할 방침이다. 국가차원에서 관리해야 할 주요 AI위험을 정의하고, AI안전 평가방법론 개발과 위험완화 방안을 마련한다. AI안전 평가데이터셋 구축과 평가도구 개발 등 AI안전 평가인프라를 구축하고, 기업 활용을 지원할 계획이다. AI안전연구소는 AI안전 정책을 연구할 방침이다. 주요국·국제기구의 AI 규범·거버넌스를 연구하고, 국내외 주요 AI위험 정보를 수집·분석함으로써 AI안전 정책을 고도화할 예정이다. AI 기술이 경제·사회·일자리 등에 미치는 영향을 종합적으로 분석하고 대응 방안 연구도 추진할 계획이다. 과기정통부는 해당 연구소가 AI안전 대내외 협력을 수행할 것이라고 설명했다. AI안전연구소 중심으로 산학연이 참여하는 AI안전 파트너십을 구축한다. 이를 통해 AI안전 정책·기술 분야 연구 협력을 촉진할 계획이다. 글로벌 AI안전 거버넌스의 주요 일원으로서 AI안전 확보를 위해 주요국 AI안전연구소, 국제기구 등과 협력할 예정이다. 연구소는 AI안전 확보를 위한 R&D도 추진한다. AI 통제력 상실 대응, AI모델의 보안·강건성 강화, AI 딥페이크 탐지 등 AI위험에 대비해 안전을 확보할 수 있는 R&D를 추진한다. 과기정통부 유상임 장관은 "향후 1~2년은 우리나라가 AI, 디지털 분야 선도국 도약의 성패를 좌우할 수 있는 골든타임으로 정부와 민간이 힘을 합쳐 모든 역량을 총결집 해야할 때"라며 "클라우드컴퓨팅 도입 전면화, AI안전연구소 출범 등 논의된 내용들을 속도감있게 추진해 나갈 수 있도록 관계부처와 적극 협력해 나갈 것"이라고 밝혔다.

2024.10.18 14:00김미정

"직원 연봉 2억4천"…英 정부, AI안전연구소에 투자한 이유는?

영국 정부가 글로벌 인공지능(AI) 경쟁서 주도권을 잡기 위해 기술뿐 아니라 AI 안전성 강화에 노력을 쏟고 있다. 최근 AI 안전 영역은 영국과 미국, 캐나다, 중국 등 각국 정부가 집중하고 있는 부분이다. 31일 업계에 따르면 영국 과학혁신기술부(DSIT)는 최근 AI안전연구소(AISI) 수석 프롬프트 엔지니어 채용공고를 냈다. 연봉은 수당 포함 6만5천~13만5천 파운드(약 1억7천~2억4천만원)다. 영국 구직 사이트 탈렌트에 표기된 2023년 기준 수석 엔지니어 평균 연봉은 약 5만5천 파운드(약 9천700만원)다. 해당 엔지니어 주요 업무는 첨단 AI 시스템 위험성 평가를 위한 프롬프트 설계다. 대학, 연구소, 기업 연구팀과 손잡고 AI 안전성 연구를 수행하고, AI 모델의 행동 수정과 목표 행동 유도 등으로 거대언어모델(LLM) 안전성도 연구한다. 지원자는 프롬프트 엔지니어링 전문성과 파이선 코딩 능력, AI 안전성에 대한 기본 소양은 필수로 갖춰야 한다. 선발 과정은 코딩 테스트, 기술 과제, 면접이다. 국내 AI 업계는 해당 직책이 영국 AI 안전성 연구와 정책 개발에 중요한 역할을 할 것이라고 평가했다. 영국 정부가 AI 안전성 리더십 선점을 본격화한 셈이다. 하정우 네이버클라우드 AI센터장은 자신의 소셜미디어(SNS)에서 "최근 글로벌 AI 국가 경쟁이 안전성 중심으로 돌아가고 있다"며 "앞으로 AI안전연구소는 국가 안보 역할도 할 것"이라고 언급했다. 이어 "AI 안전에 대한 영국 정부의 투자가 중요한 사례가 될 것"이라고 덧붙였다. 하 센터장은 최근 각국 정부가 AI 안전성에 투자를 활성화하고 있다는 점도 강조했다. 또 AI 시대 질서를 어느 국가가 만드느냐가 관건으로, 최근 미국과 캐나다가 AI안전연구소를 중심으로 질서를 만들고 있다는 점을 예로 들었다. 실제 캐나다 정부는 AI안전연구소 설립에만 500억원을 투자하겠다고 밝힌 바 있다. 여기서 나오는 정책이 실효성 있게 할 수 있도록 50억원을 추가 투자할 계획이다. 한국 정부도 올해 5월 개최한 '서울 AI 정상회의'서 안전연구소 설립 의지를 밝힌 바 있다. 당시 과학기술정보통신부는 "안전한 AI 기술과 산업 활성화를 위해 한국전자통신연구원(ETRI) 산하에 AI 안전연구소를 만들고 적극적인 투자를 아끼지 않을 것"이라고 밝힌 바 있다. 이에 대해 하 센터장은 "현재 이에 대한 정부의 투자와 지원이 기대된다"며 "글로벌 AI 질서를 이끌기 위한 필수 요소가 될 것"이라고 강조했다.

2024.07.31 15:44김미정

터미네이터 감독 "AI가 사이보그보다 나를 대체할 것"

■미 정부 AI안전&보안 이사회 발족...테크업계선 알트먼 등 9명 참여 미국 국토안보부가 현지시각 26일 AI의 안전한 사용을 위한 연방 자문기구로 'AI 안전보안이사회(AI Safety and Security Board)'를 발족. 여기에 참여하는 위원 명단 22명 발표. 이 기구는 챗GPT로 촉발한 AI 열풍 부작용을 막고 AI 시스템의 안전한 사용을 위해 설립한 자문기구. 조 바이든 미 대통령이 지난해 행정명령을 통해 이같은 기관 설립을 지시. 미 정부는 이 위원회 설립에 대해 "경제, 공중보건 등 주요 기간 산업이 AI로 인한 위협에서 피해를 당하지 않도록 보호하기 위한 것"이라고 설명. 테크업계는 9명이 위원회에 참여. ▲오픈AI CEO 샘 올트만(Sam Altman) ▲앤스로픽 CEO 다리오 아모데이(Dario Amodei), 엔비디 CEO 젠슨 황(Jensen Huang) ▲IBM CEO 아빈드 크리쉬나(Arvind Krishna) ▲어도비 CEO 샨타누 나라옌(Shantanu Narayen) ▲마이크로소프트 CEO 사티야 나델라(Satya Nadella) ▲알파벳 CEO 순다르 피차이(Sundar Pichai) ▲시스코 CEO 척 로빈스(Chuck Robbins) ▲아마존 웹 서비스 CEO 아담 셀리프스키(Adam Selipsky) ▲AMD CEO 리사 수 등이 참여. 하지만 테슬라 CEO 겸 AI 스타트업 xAI를 보유한 일론 머스크와 페이스북 모회사 메타플랫폼 마크 저커버그 CEO는 포함되지 않아. 위원회는 다음달 첫 모임. 앞으로 분기에 한 번 모일 예정. 마요르카스(Mayorkas) 국토안보부 장관은 "우리가 초점을 두는 건 이론이 아니라 실제적인 해결"이라고 밝혀. ■ 캐머룬 감독 "사람 경험이 데이터셋...우리는 모두는 AI" 영화 '터미네이터'로 유명한 제임스 캐머런(James Cameron) 감독이 26일(현지시각) 영국 파이낸셜타임스(FT)와 인터뷰에서 "언젠가 AI가 영화 대본을 쓰고 감독도 할 수 있을 것"이라며 "AI가 슈와츠네거를 대체하는게 아니라 나를 대체할 것"이라고 말. 슈와츠네거는 영화에 나오는 사이보그로 AI가 사이보그가 아니라 예술가인 영화 감독을 대체한다는 뜻. 그가 1984년 감독한 영화 '더 터미네이터(The Terminator)에는 악한 AI시스템 '스카이넷(Skynet)'도 등장. 캐머런 감독은 영화 '타이타닉(Titanic)'과 '아바타(Avatar)' 시리즈도 만들어. 캐머룬은 FT와 인터뷰에서 "만약 당신이 자아(ego)를 지닌 AGI가 있고, 그래서 이 AGI가 의식을 가졌다면, 이 AGI가 예술도 하지 않겠는가?"라면서 "우리는 의식을 가졌기에 예술을 해왔다, 그러기에 AGI도 영화 대본을 쓰고 영화를 감독하는 등의 그 지점(예술)에 닿을 수 있다고 생각한다"고 말. 또 캐머런은 AI기술이 영화 제작의 평범한 일(mundane tasks)을 없애 감독이 더 고부가 일을 하게 해줄 것이라고도 덧붙여. FT에 따르면, 카메룬은 그의 흥행작 아바타로 3억5000만 달러를, 또 2022년 발표한 '더 웨이 오브 워터(The Way of Water)'로 15억 달러를 벌어. 캐머런은 "기계가 그럴듯한 연기를 보여줄 순 있어도 인간 배우의 인생 경험에서 나오는 기발한 창조 순간까지는 따라잡을 수는 없을 것"이라고도 말. 또 인간이 하는 모든 경험이 막대한 데이터셋이라는 점에서 "우리 모두는 생성AI들"이라면서 "AI가 우리에게 이미지와 비트맵(bitmap)을 줄 수 있지만 감정까지는 줄 수 없다"고도. ■ WP "AI 거품 꺼지고 있어…비용 대비 수익성 등 문제 부각" 미국 유명 일간지 워싱턴포스트(WP)는 25일(현지시간)자 보도에서 "AI거품이 꺼지고 있다"면서 "챗GPT 등장 이후 1년 반 동안 AI붐이 둔화하고 있다는 증거가 늘어나고 있다"고 밝혀. 엔비디아를 비롯한 AI 관련주가 상승세가 주춤세를 보이고 있는 가운데, AI를 둘러싼 거품이 꺼지고 있다는 평가가 나온다는 것. WP는 "AI가 인류 존재에 위협이 되거나 인간의 모든 일자리를 대체할 수 있다는 우려는 자취를 감췄고, AI 기술 이용이 확대되려면 여전히 갈 길이 멀고 장애물들로 가득 차 있다"고 보도. 이어 AI기업들이 내놓은 제품이 아직 사람들의 근무나 의사소통 방식을 바꾸지 못했고, AI 모델 개발·운용에 막대한 비용이 들어가지만 이익을 내는 기업은 극소수라고 덧붙여. ■SK 최태원, AI 반도체 거물 젠슨 황 엔비디아 CEO와 깜짝 회동 최태원 SK그룹 회장이 24일(현지시간) 미국 실리콘밸리를 찾아 엔비디아의 젠슨 황 최고경영자(CEO)를 만나. 엔비디아는 AI반도체 선두주자로 세계 AI칩 시장의 80% 이상을 장악. 특히 학습용 AI반도체 분야서 절대강자. AI반도체는 학습용 외에 추론용도 있는데 향후에는 추론용 AI반도체 시장이 더 커질 전망. SK하이닉스는 엔비디아가 만드는 AI칩에 고대역폭메모리(HBM)을 공급중. 최 회장은 짧은 일정으로 실리콘밸리를 찾았고, 구체 일정은 알려지지 않았지만 황 CEO를 비롯해 테크 기업 CEO들을 만난 것으로 알려져. ■ 챗GPT, 신약 개발 도와…오픈AI-모더나 파트너십 체결 챗GPT 개발사 오픈AI가 글로벌 제약사 모더나와 24일(현지시간) 비즈니스 프로세스 자동화를 위한 파트너십을 체결. 이번 협력으로 약 3천명에 달하는 모더나 직원이 오픈AI의 챗GPT 엔터프라이즈를 이용할 수 있게돼. 챗GPT 엔터프라이즈는 오픈AI의 최신 언어 모델인 GPT-4를 기반으로 구축한 기업용 AI모델. 모더나는 이미 챗GPT를 이용해 직원들이 750개가 넘는 맞춤형 GPT 프로그램을 개발해 왔다고 밝혀. 스테판 방셀 모더나 CEO는 "오픈AI와의 파트너십과 AI 활용은 모든 비즈니스 프로세스를 혁신하는 데 중요한 열쇠가 될 것"이라면서 "향후 5년 이내 15개 신제품을 출시한다는 우리 목표를 AI가 조기에 달성하도록 해줄 것으로 기대한다"고 말. 샘 올트먼 오픈AI 최고경영자(CEO)는 "결국 AI는 점점 더 많은 과학을 수행할 수 있을 것"이라고 밝히기도. ■ 정부, 대통령 직속 '국가AI위원회' 6월 출범...AI 3대 강국 추진 우리 정부가 25일 용산 대통령실에서 국가과학기술자문회의 전원회의를 열고 'AI-반도체 이니셔티브' 안건을 의결. 이번 안건은 지난 9일 윤석열 대통령이 주재한 '반도체 현안 점검회의'에서 발표한 'AI-반도체 이니셔티브' 추진 방향을 구체화하기 위해 마련. 이번 발표에서 정부는 오는 2027년까지 '저전력 AI 반도체 1위' 'AI G3(주요 3개국)' 도약 등 과제를 달성하기 위해 대통령 직속 국가인공지능위원회를 6월 출범한다고 밝혀. AII-반도체 가치사슬을 포괄하는 산학연관 소통 및 협력체계를 구축할 계획. 이의 구체적 실행방안으로 과기정통부는 △차세대 AI 및 AGI(인공일반지능) 등 차세대 AI 핵심 기술을 개발하고 △경량·저전력 AI 기술을 확보해 모든 기기에서 AI를 자유롭게 쓸 수 있도록 발전시키며 △설명가능한 AI, 딥페이크 탐지기술, AI-사이버보안 등 AI 안전성 기술을 확보하는 등의 기술과제를 제시. ■소프트뱅크, 생성형AI 1.3조원 추가 투자…"챗GPT급 개발" 일본 소프트뱅크가 고성능 생성형 인공지능(AI) 개발을 위해 내년까지 1천500억엔(약 1조3천370억원)을 추가로 투자한다고 니혼게이자이신문(닛케이)이 22일 보도. 보도에 따르면 소프트뱅크는 지난해 생성형 AI 개발에 필요한 계산 설비 기반을 다지는 데 200억엔(약 1천780억원)을 투자한 데 이어 내년까지 거금을 투입해 오픈AI가 만든 챗GPT-4와 비슷한 수준의 세계 최고급 모델 제작을 추진할 방침. 닛케이는 "(생성형 AI 관련 투자액이) 일본 기업으로서는 최대 규모로 보인다"며 소프트뱅크가 미국 엔비디아 반도체를 구입해 계산 능력을 현재의 수십 배로 향상할 계획이라고 전해. 소프트뱅크는 생성형 AI 기반이 되는 기술인 거대언어모델(LLM)을 개발 중으로 내년 3월 이전까지 3900억 파라미터 모델을 완성하고 내년 4월 이후 일본어에 특화한 1조 파라미터 수준의 모델 개발을 시작할 예정. 또 다른 일본 기업인 NTT와 NEC 모델은 수십억∼수백억 파라미터 수준으로 알려져. ■ KT, '안전하고 믿을 수 있는' AI 연구센터' 신설 KT가 안전하고 믿을 수 있는 인공지능(AI) 기술을 연구하기 위해 'Responsible AI Center'(책임감 있는 인공지능 센터·RAIC)를 신설한다고 23일 밝혀. RAIC는 AI 기술이 사용자에게 유익한 가치를 제공할 수 있도록 잠재적 위험을 최소화하는 연구를 수행한다고 KT는 소개. 센터장은 배순민 상무. KT는 안전성, 투명성, 개인정보 보호 등 AI가 악용될 수 있는 분야에서 위험 수준에 대한 관리 체계를 구축하는 것은 물론, 사내에 적용 중인 AI 윤리 원칙을 고도화하고 실무에서 즉시 이행할 수 있는 수준의 지침을 만들 계획. 앞서 KT는 지난해 ▲AI 기술과 제품 개발에서 공정성, 비차별, 투명성, 해석 가능성의 원칙 준수 ▲표준화와 개방형 생태계 통해 자원과 기술 공유 강화 ▲책임감 있는 AI 개발을 위한 사회적 책임 강화 등의 내용을 담은 AI 윤리 원칙을 수립. 이번 RAIC 신설로 AI를 사회가 지향하는 가치와 목적에 맞게 사용하기 위한 거버넌스 체계를 확립한 것이라고 회사는 설명. KT는 RAIC에 AI 윤리, 정책 개발·협력, 소프트웨어 엔지니어링·데이터 등 다양한 분야의 전문가도 신규 영입할 예정. ■ 경북도 주최 AI·메타버스 영화제 42개국 527편 몰려…흥행 기대 경북도가 '2024년 경북도 국제 인공지능(AI)·메타버스 영화제(GAMFF)' 작품 공모에 42개국 527편의 작품이 응모했다고 23일 밝혀. AI와 메타버스 기술을 활용하거나 소재로 한 영화 및 영상물을 대상으로 지난달 18일부터 한 달간 공모한 결과 영화감독, AI·메타버스 전문가뿐 아니라 일반인, 학생까지 폭넓게 참여했다고. 경북도는 심사위원 공정한 평가를 거쳐 영화 부문과 영상 부문으로 나눠 21개 작품에 3500만원의 상금을 제공. 또 오는 6월 국내 처음으로 온오프라인을 통한 AI·메타버스 영화제를 개최할 예정. 도가 자체 개발한 온라인 영화제 플랫폼(GAMFF WORLD)과 구미지역 영화관 등 온오프라인 스크린을 통해 공모 수상작 및 국내외 초청작을 상영할 계획.

2024.04.29 09:26방은주

  Prev 1 Next  

지금 뜨는 기사

이시각 헤드라인

블록체인 가상자산, '입법지연·예산삭감·규제' 악순환 끊어야

[AI는 지금] 대선후보들 'AI 전쟁' 돌입…기술 주권부터 전력 인프라까지 격돌

한화 김동선 진두지휘 ‘벤슨' 뭐가 다른가…‘100% 국내산 유제품'

SKT "정보 유출 없다 '확신'...있더라도 끝까지 책임"

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현