• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 생활/문화
  • 인사•부음
  • 글로벌뉴스
인공지능
배터리
양자컴퓨팅
컨퍼런스
칼럼•연재
포토•영상

ZDNet 검색 페이지

'인공지능 안전'통합검색 결과 입니다. (63건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

엔비디아 '네모 가드레일' 공개…에이전트 폭주 방지로 AI 신뢰도 ↑

엔비디아가 생성형 AI 시대를 맞아 '네모 가드레일(NeMo Guardrails)' 솔루션을 통해 거대 언어 모델(LLM) 활용에 필요한 안전성과 신뢰도를 대폭 높이고 있다. 개발자가 직접 AI의 안전장치인 '가드레일'을 프로그래밍해 AI 에이전트(Agentic AI)를 제어·관리할 수 있는 것이 핵심으로, 엔비디아는 이를 오픈소스 형태로 제공해 다양한 서드파티 솔루션·브랜드 정책과 연동할 수 있도록 제공한다. 16일 업계에 따르면 최근 여러 기업들이 LLM 기술을 활용한 에이전트 AI를 경쟁적으로 선보이고 있다. 이러한 초거대 언어 모델이 예기치 않은 발언을 하거나 민감 정보를 노출하는 등 위험 요소가 늘어남에 따라 이를 사전에 제어·차단하는 '가드레일' 수요도 빠르게 증가하는 추세다. 이에 대응해 지난 2023년 4월 출시된 엔비디아 네모 가드레일은 크게 ▲콘텐츠 안전성 ▲주제 제어 ▲탈옥 방지 등 세 가지 주요 가드레일 모델로 구성됐다. 각각 유해·위험 발언 차단, 대화 주제 이탈 방지, 보안 우회 시도 차단에 특화됐다. 엔비디아 측은 이러한 가드레일을 병렬로 적용해도 처리 지연(latency)이 크지 않도록 GPU 최적화를 거쳤다고 강조하고 있다. '네모 가드레일'의 '콘텐츠 안전성(Content Safety)' 기능은 AI 대화나 에이전트가 생성하는 텍스트에서 유해·위험·비윤리적 발언을 사전에 차단한다. 엔비디아의 '이지스 콘텐츠 안전 데이터셋'으로 학습됐으며 3만5천 건 이상의 인공지능 안전성 주석 데이터를 바탕으로 폭넓은 시나리오를 커버한다. 이를 통해 잘못된 정보나 악의적 콘텐츠가 사용자에게 직접 전달되는 상황을 줄일 수 있다는 설명이다. '주제 제어(Topic Control)'는 대화 주제가 시스템 프롬프트나 브랜드 정책에서 벗어나지 않도록 관리한다. 단순 질의응답을 넘어 여러 차례의 대화가 이어질 때 에이전트가 불필요하거나 민감한 영역으로 빠지는 것을 막아주는 역할을 한다. 일례로 자동차 제조사 에이전트의 경우 경쟁사 차량과의 비교 등의 발언을 아예 금지하거나 특정 주제만 다루도록 제한하는 식이다. 복잡한 대화가 진행될수록 브랜드 일관성·규제 준수가 중요해지는 산업군에서 특히 주목받고 있다. '탈옥(Jailbreak) 방지' 모델은 AI 모델이 설정된 보호 장치를 교묘하게 우회해 민감 정보를 드러내거나 부적절한 기능을 수행하지 못하도록 막는다. 엔비디아는 1만7천 개 이상의 악의적 프롬프트 샘플을 통해 모델을 학습시켰으며 내부의 LLM 레드팀 테스트 툴을 활용해 새롭게 등장하는 공격 방식을 지속적으로 탐지·학습한다. 이를 통해 기업들이 실제 환경에서 운영 중인 AI 에이전트의 보안을 한층 더 강화하고 있다. '네모 가드레일'은 엔비디아 AI 엔터프라이즈 라이선스 체계로 운영되며 GPU당 연간 4천500달러(한화 약 630만원) 선의 비용이 소요된다. 실제 사용량과 기업 규모에 따라 차이가 발생할 수 있으나 개발 및 배포 효율성·안정성을 감안하면 비용 대비 효과가 충분하다는 것이 엔비디아 측의 설명이다. 이와 별개로 네모 가드레일 기본 프레임워크 자체는 오픈소스로 무료 제공된다. 이러한 기본 모드의 오픈소스 정책에 따라 기업이 직접 정책을 추가하거나 서드파티 가드레일을 도입하기가 용이하다. 엔비디아 측은 모든 이용 사례와 규정을 자사가 일일이 규정할 수 없으므로 오픈소스·모듈형 설계를 채택해 각 기업이 상황에 맞게 커스터마이징할 수 있게 했다는 입장이다. 업계에서는 특정 산업 규제나 민감 데이터 처리를 위한 맞춤형 가드레일을 구축하기 한층 수월해졌다는 평가를 하고 있다. 실제로 소매업, 통신사, 자동차 산업 등 다양한 분야의 기업들이 이미 '네모 가드레일'을 활용해 에이전트 제어 시스템을 구현하고 있다. 민감한 금융·청구 관련 정보를 다루거나 안전 운행을 보조해야 하는 경우처럼 오류나 부적절한 정보 노출이 절대 불가한 상황에서 가드레일의 역할이 돋보인다는 설명이다. 업계 전문가들은 "에이전틱 AI 시대에 IT 부서들이 AI를 인사·총무처럼 관리할 필요성이 커지는 와중에 이런 역할을 수행하는 솔루션 중 하나가 '네모 가드레일'"이라며 "가드레일 도입을 통해 AI가 사용자에게 줄 수 있는 가치는 키우면서도 위험 요소는 줄이는 길이 열리도록 해야한다"고 평가했다.

2025.01.16 23:05조이환

행안부 내년도 사업 예산, 12.3%↓…디지털 정부 투자는 '증액'

지역경제와 재난안전, 디지털 정부 등을 중심으로 한 내년도 행정안전부 예산이 확정됐다. 올해보다 액수가 소폭 줄어들었으나, 행정업무 혁신을 위해 디지털 정부 예산을 늘렸다는 점에서 소프트웨어(SW) 업계에 긍정적인 영향을 줄 지 주목된다. 11일 행안부에 따르면 2025년도 예산은 지난 10일 국회 본회의 의결을 통해 72조839억원으로 최종 확정됐다. 72조4천473억원인 올해 예산보다 3천634억원(0.5%) 줄어든 것으로, 2023년 수준(72조945억원)과 비슷하다. 이 중 지방교부세 67조385억원과 기본경비·인건비 4천92억원 등을 제외한 사업 예산은 4조6천362억원으로 정해졌다. 이는 올해 예산 대비 12.3% 줄어든 액수다. 이 같은 상황 속에 행안부는 내년에 지방소멸 대응을 위해 지역경제를 살리고자 1조4천300억원을 투입하기로 했다. 지방에 관련 기반 시설 조성 등을 지원하고 생활인구 제도를 활성화하는 한편, 빈집 정비를 늘리고 청년마을을 새롭게 조성하는 등 지역경제를 살리기 위해 총력을 기울인다는 방침이다. 이를 위해 지방소멸대응기금으로 1조원, 빈집 정비 지원에 100억원, 청년마을 조성에 75억원, 지역발전활성화에 53억원 등을 지원할 계획이다. 극한 기후현상으로 인한 각종 재해 예방을 위해 재난 안전 분야에도 1조6천681억원을 편성했다. 해당 예산으로 내년에 사전적 재난안전 인프라를 지속 구축하는 한편, 재난 발생 시 주민 피해에 대한 복구 지원을 늘리고 화재 등 안전사고 예방을 위해 지자체 CCTV 관제체계를 인공지능기반으로 고도화한다는 방침이다. 이를 위해 재해위험지역정비에 8천803억원, 사유시설·공공시설 복구비에 1천200억원, 지능형 CCTV 관제체계 구축에 51억원 등을 투입할 예정이다. 내년 전체 예산이 줄어들었음에도 디지털 정부 분야에 대한 투자는 늘렸다. 올해 7천925억원이던 디지털 정부 관련 예산은 내년에 8천213억원으로 편성됐다. 정부 디지털 서비스를 국민들이 편안하고 안정적으로 이용할 수 있도록 정보 시스템 인프라를 개선하고, 행정업무 혁신을 위한 범정부 AI 활용 기반을 구축하는데 예산을 활용할 계획이다. 또 행정망 먹통 사태 재발을 막기 위해 중앙행정기관 등 노후 장비 통합에 1천627억원, 범정부 인공지능 공통 기반 구현에 54억원 등을 투입키로 했다. 최근 여러 정치적 이슈로 분열된 국민들을 하나로 단결시키기 위한 사회 통합 분위기 조성에도 내년에 자금을 7천169억원 투입키로 했다. 나눔문화 확산을 위한 온기나눔 캠페인에 6억원, 민선 지방자치 30주년 등 기념 사업에 8억원, 제주 4.3사건 보상금으로 2천419억원을 쏟아 부을 예정이다. 이를 통해 국민 대통합 가치를 실현하고 치유와 화해에 기반한 과거사 문제 해결에 적극 나선다는 방침이다. 정영준 행안부 기획조정실장은 "이번 국회 심사 과정에서 정부안 대비 예산이 일부 감액됐으나, 국민의 안전과 민생을 위한 정책은 흔들림 없이 추진돼야 한다"며 "2025년 연초부터 필요한 곳에 예산을 신속히 집행할 수 있도록 사업계획 수립 등 집행 준비를 철저히 하고, 국민들이 정책의 성과를 조기에 체감할 수 있도록 최선을 다하겠다"고 밝혔다.

2024.12.11 10:57장유미

홍수·폭설 피해, AI·데이터 기술로 미리 막는다

앞으로 정부가 인공지능(AI)·데이터 기술을 접목해 극한 기상 상황에 대한 대비책 마련에 선제적으로 나선다. 행정안전부는 재난안전정보의 공동이용 확대를 위해 28일 이한경 재난안전관리본부장 주재로 '2024년 하반기 재난안전정보 공동이용 협의회'를 개최했다. '재난안전정보 공동이용 협의회'는 국민 안전과 밀접한 각종 재난안전정보의 수집·공개·관리와 공동이용 활성화를 위해 관계기관, 민간 전문가 등이 참여해 2020년부터 운영되고 있다. 이번 협의회에서는 AI·데이터 기반 구축 사업 등 추진 현황을 공유하고 기관 간 협조 사항을 논의했다. 행정안전부는 재난문자 중복방지 방안과 함께 자치단체의 CCTV 관제 역량 강화를 위한 AI 기반 지능형 관제지원시스템 구축 계획(2025~2027년)을 공유했다. 과학기술정보통신부는 도로·지하차도 침수사고 예방을 위해 지난 7월부터 환경부와 협업해 시행 중인 홍수경보 정보 실시간 내비게이션 안내 서비스를 소개했다. 기상청은 극한 기상에 대비해 기상정보 전달력을 강화하기 위해 추진하고 있는 호우재난문자 직접 발송체계 구축 현황과 향후 개선 계획을 발표했다. 이한경 행정안전부 재난안전관리본부장은 "최근 잦아진 극한 기상 등으로부터 국민의 생명과 재산을 지키기 위해 관계 기관과 함께 AI·데이터 기술을 접목한 재난대응 역량을 키워나가겠다"고 말했다.

2024.11.28 17:54장유미

행안부, '데이터 분석·활용 공모전' 결선 개최...AI 혁신사례 발굴

행정안전부가 인공지능(AI)과 빅데이터를 활용해 사회문제를 해결하는 아이디어 발굴에 나선다. 행정안전부는 광주 김대중컨벤션센터에서 '2024년 데이터분석·활용공모전 결선대회'를 개최한다고 13일 밝혔다. 올해 공모전은 아이디어, 분석, 우수사례의 세 가지 분야로 나뉘어 진행되며 분아별로 두각을 나타낸 팀들의 실시간 발표로 최종 승자를 가린다. 결선에는 아이디어 분야 4팀, 분석 분야 4팀, 우수사례 5팀으로 13개 팀이 진출했다. 아이디어 분야에서는 마이데이터·AI 기반 맞춤형 재난·안전교육을 실시해 위험 상황 대처 능력을 높이는 '오직 당신만을 위한 재난/안전 교육'과 기후변화에 따른 도시 침수를 예방하기 위해 데이터 기반 실시간 경보 시스템을 도입하는 '기후변화 대응을 위한 데이터 기반 도시 침수 예방 시스템' 등이 올랐다. 분석 분야에서는 교량구조물 노후화 데이터를 수집·분석해 유지관리 방안 등을 제시하고 교량 유지관리 예산 절감에 기여하는 '예방적 교량 유지관리를 위한 교량 노후화 관련 데이터 분석 기술' 등의 과제가 선보인다. 우수사례 분야에서는 교통 빅데이터로 버스전용차로 구간을 분석, 개선 방안을 제시해 통행속도 증가, 사회적 비용 절감에 기여한 '교통 빅데이터 분석을 통한 버스전용차로 제도개선으로 국민 이동 편의 증진' 사례 등이 발표된다. 결선대회에서 데이터 전문가 평가와 국민 투표 점수를 종합해 최종 순위를 결정하게 된다. 우수사례 부문에서 가장 높은 점수를 받은 팀은 국무총리상과 500만 원의 상금이 수여되고, 아이디어 및 분석 분야 최상위 팀에게는 행정안전부장관상이 수여된다. 그 외 결선 진출작들에게는 NIA 원장상이 주어질 예정이다. 공모전에 대한 자세한 내용은 행정안전부 공식 누리집에서 확인할 수 있으며, 대회 결과는 '소통24' 누리집에 공개된다. 지난해에는 한국도로공사에서 발표한 '겨울철 국민 불안 도로 살얼음(블랙아이스) AI 예측 시스템 구축'이 국무총리상을 차지했다. 한국도로공사는 도로 포장면 습기가 순간적으로 얼어 결빙되는 도로살얼음을 예측하는 시스템을 개발하여 안전순찰원 현장 확인 등 교통사고 사전 대응 및 대국민 도로살얼음 안내 서비스를 제공해 호평을 받았다. 행정안전부는 전국 행정·공공 기관이 실제 업무에 수상작 사례를 참고할 수 있도록 표준화하여 확산할 예정이다. 이를 통해 정책 현장에서 데이터를 활용해 국민이 체감할 수 있는 행정을 추진하는 사례가 더욱 많아질 것으로 기대하고 있다. 오는 14일에는 데이터 분석·활용 정책 방향을 논의하고, 국민체감형 데이터 분석과제 발굴·데이터 활용 우수사례를 공유하는 '2024년 제2회 민관합동 데이터분석협의회'도 개최할 예정이다. 이 자리에서는 의정부시의 '장거리 통학 학생을 위한 신규 버스노선 설계 분석모델' 및 한국수산자원공단의 '수산종자 수급 예측 모델'이 발표된다. 이용석 디지털정부혁신실장은 "이번 공모전을 계기로 데이터 분석 기술과 AI를 행정 혁신에 활용해 효율적이고 국민 친화적인 행정서비스를 제공할 수 있도록 노력하겠다"고 밝혔다.

2024.11.12 16:26남혁우

정용식 TS 이사장 "AI·빅데이터 활용해 스마트 교통안전체계 구축"

정용식 TS한국교통안전공단 이사장은 “인공지능(AI)·빅데이터 등 첨단기술을 활용해 365일 국민 안전을 지키는 스마트 교통안전 체계를 구축하겠다”고 밝혔다. 정 이사장은 취임 한 달을 앞둔 7일 간담회에서 “현재 OECD 28위 수준의 자동차 1만대 당 사망자 수 0.858명을 2027년 8위 수준인 0.5명으로 줄이고 자동차 안전도를 세계 6위에서 3위로, 차세대 모빌리티 준비지수를 13위에서 7위로 향상하겠다”며 이같이 말했다. 지난 1981년 설립한 TS는 생애주기별 촘촘한 교통안전 종합대책을 마련하며 미래 모빌리티 혁신를 거듭하며 지난해 역대 최저 교통사고 사망자 수인 2천551명을 달성했다. 도심항공교통(UAM)·자율주행자동차 등 미래 모빌리티 안전과 관련해서는 “미래 모빌리티의 핵심은 땅과 하늘을 넘나들며 모든 수단과의 연결을 통해 '이동가치'를 실현하고 국민 이동 편의성을 높이는 것이 중요하다”고 강조했다. 정 이사장은 “미래 모빌리티에 다양한 첨단기술이 활용되는 만큼 첨단장치 오작동, 자율주행차 교통사고 드 위험 요소가 있을 수 있어 안전성 확보가 중요하다”고 밝혔다. 이어 “미래 모빌리티 주도권 선점을 위한 글로벌 경쟁이 가속하는 상황에서 여러 규제와 기술개발 인프라 제공을 통한 민간 선도 산업 활성화 지원으로 국가경쟁력을 높여야 한다”고 강조했다. TS는 2022년 정부의 모빌리티 혁신로드맵 발표 이후 자체적으로 미래 모빌리티 간담회를 구성·운영하며 모빌리티 제도개선과 지원 필요사항 등 산업계 목소리를 청취하고 자체 사업과 정부 정책에 반영될 수 있도록 민간과 정부의 가교역할을 하고 있다. 모빌리티 협력위원회는 2022년 8월부터 분기별 자율주행차·UAM·모빌리티 서비스 등의 분야별 안전성 확보와 활성화를 위한 추진 과제를 선제적으로 발굴하고 있다. 정 이사장은 “자율주행차·전기차 SDV(Software Defined Vehicle) 등 신기술 도입에 따른 첨단장치 오작동·배터리 화재·SW업데이트 위변조 등 새로운 유혀의 위험에 선제 대응해 국민의 미래 모빌리티에 대한 불안감을 해소하고 국가 미래 모빌리티 안전 경쟁력을 높일 계획”이라고 말했다. 또 “긴급자동제동장치(AEB)·차로유지지원장치(LKAS)·전방추돌경고장치(FCW)·차선이탈경고장치(LDWS)·적응형순항제어장치(ACC) 등 5개 첨단안전장치(ADAS) 검사 방법과 제도 제·개정(안)을 마련해 안전한 자율주행차 운행 환경을 조성해 나갈 계획”이라고 덧붙였다. 정 이사장은 “UAM은 활주로가 필요 없고 배출가스가 없는 기존에 없던 새로운 친환경 교통수단이지만 새로운 교통수단에 대한 국민 불안감이 존재한다”며 “UAM 법령 정비·자격업무 등 UAM 상용화 기반을 조성하고 실증·시범사업을 활성화하기 위한 제도적 기반을 마련해 나갈 계획”이라고 말했다. 보급이 빠르게 늘어나고 있는 드론 안전관리에도 만전을 기하고 있다. 정 이사장은 “사업용 드론 기체와 비사업용 최대이륙중량 2kg 초과기체는 기체 신고를 의무화해 등록·관리하고 있고 드론을 사용해 농약살포나 사진촬영 등 국토부령으로 정하는 사업을 유상으로 수행하는 사업체는 의무등록해 관리하고 있다”고 말했다. 또 “2017년 8월부터 드론 전문교육기관도 인력·시설·장비 등 교육인프라를 현장 확인하고 운영실태를 점검하는 등 안전관리를 수행하고 있다”고 강조했다. 정 이사장은 “운전대를 잡지 않아도 되는 자율차 시대가 눈앞에 오고 있고 섬과 섬을 잇는 드론 배송과 도심 속 항공교통 수단인 UAM이 우리 일상에서 실현되고 있다”며 “TS가 모빌리티 종합 안전기관으로 땅과 하늘을 아우르는 종합 안전관리체계를 마련해야 하는 확실한 이유”라고 말했다. 정 이사장은 “앞으로 자율차 안전 운행 성능 확인과 자율협력주행 인증관리체계 구축, 시범지구 운영 내실화로 완전 자율주해 시대를 선도하는 한편, UAM 실시간 관제시스템과 안전 기준 확립에도 역량을 집중해 TS가 미래 항공 모빌리티 분야에서 세계적인 수준의 안전성과 신뢰성을 확보해 모빌리티 종합 안전기관을 발돋움할 수 있도록 하겠다”고 밝혔다.

2024.11.12 07:24주문정

ETRI부설 AI안전연구소장에 김명주 서울여대 교수…11일 취임

김명주 서울여대 정보보호학부 교수(60)가 한국전자통신연구원(ETRI) 부설 AI안전연구소 초대 소장으로 임명돼 11일 취임식을 개최했다. AI안전연구소는 AI 안전성을 평가‧연구하고 주요국 AI안전연구소와의 협력 전담 조직이다. 30여 명의 연구인력이 AI안전 정책 및 대외협력실·AI안전 평가실·AI안전 연구실 등 3개의 연구실로 나눠 본격 업무에 들어갔다. 사무실은 판교 글로벌 R&D센터에 설치됐다. AI안전연구소는 ▲AI안전에 대한 과학적 이해 증진 ▲AI안전 정책 고도화 및 안전제도 확립 ▲국내 AI기업 안전 확보 지원 등에 적극 나설 계획이다. 이를 위해 AI위험의 정의와 AI안전 평가, 국가차원 관리 주요 AI위험을 정의하고 AI안전 평가방법론 개발 및 완화방안 마련 등 4개 핵심 과제를 주요 핵심 기능으로 설정했다. 11일부터 근무에 들어간 초대 김 소장은 서울대 컴퓨터공학과를 나와 같은 대학에서 컴퓨터공학으로 석, 박사학위를 받았다. 2001년 수도권 최초로 서울여대에 정보보호학과를 신설했다. 2014년에는 국내 최초 교육부 지정 정보보호영재교육원을 설립했다. 2018년에는 국내 최초로 지능정보사회 윤리 가이드라인 서울 PACT를 개발, 과학기술정보통신부 근정포장을 수상했다. 한국사이버테러정보전학회 부회장을 역임했다. 현재 한국저작권위원회 부위원장, 바른AI연구센터장, 디지털포용포럼 디지털역기능분과장, 한국인터넷윤리학회 명예회장, 인공지능윤리정책포럼 위원장, 개인정보보호위원회 개인정보기술포럼 정책분과위원, 육군3사관학교 석좌교수, 개인정보기술포럼 정책위원을 맡고 있다. 특히, 초대 김 소장은 지난 3월부터 IAAE 국제인공지능&윤리협회 제2대 회장을 수행중이다. IAAE는국제인공지능&윤리협회로 세계 최초로 인공지능 기술과 윤리를 함께 논의하는 글로벌 인공지능 기관이다.

2024.11.11 19:45박희범

행안부, 디지털 네이션스 장관회의 참가…"개도국 DX 전략 공유"

정부가 개도국 디지털 전환(DX) 지원을 위한 전략을 국제 무대에서 적극 공유한다. 행정안전부(행안부)는 이상민 장관이 오는 4일부터 이틀간 덴마크 코펜하겐에서 열리는 '디지털네이션스' 장관회의에 참석한다고 3일 밝혔다. 디지털네이션스는 디지털정부 분야의 세계 선도국 10개국이 참여하는 협의체로, 올해 회의 주제는 '성장 동력으로서의 인공지능(AI)'이다. 이번 회의에서는 국가 성장과 경쟁력 강화의 주요 동력으로 AI를 활용하는 방안과 미래 노동 시장 대비를 위한 AI 역량 구축이 주요 의제로 다뤄질 예정이다. 행안부는 AI와 데이터를 기반으로 한 디지털플랫폼정부 추진 경험을 바탕으로 '범정부 초거대 AI 구축 사업' 및 공공과 민간의 디지털 전문인력 양성 계획을 중점 소개할 방침이다. 또 이 장관은 덴마크와 영국의 디지털부 장관과 양자 면담을 통해 디지털 정책 협력 방안을 논의할 계획이다. 회의 이후에는 프랑스 파리로 이동해 경제협력기구(OECD) 사무총장과 만나 한국의 디지털 정부 경험을 개도국에 지원하는 구체적 협력 방안을 논의할 예정이다. 행안부는 이번 OECD 면담에서 비회원국의 디지털 역량 강화 지원을 구체화하며 한국 디지털 정부의 해외 진출 기회를 확대할 계획이다. 이 장관은 "우리 정부는 공공 AI 도입 및 활용을 선도하며 미래 도전에 민첩하게 대응할 계획"이라며 "앞으로도 디지털정부 선도국과의 협력을 통해 전 세계의 디지털 발전에 기여하겠다"고 밝혔다.

2024.11.03 18:44조이환

[현장] UN 리저널 심포지엄 개막…반기문 "AI로 SDGs 달성 가속화해야"

"인공지능(AI)은 지속가능발전목표(SDGs) 달성을 위한 큰 잠재력을 가지고 있습니다. 그럼에도 불구하고 디지털 격차가 심화되면 그 잠재력이 불균형하게 분배될 위험이 있습니다." 반기문 전 UN 사무총장은 30일 인천 송도 컨벤시아에서 개막한 '제8회 UN 리저널 심포지엄'에서 이같이 강조했다. 이번 심포지엄은 '효과적인 거버넌스와 인공지능(AI) 전환을 통한 2030 아젠다 달성'을 주제로, AI 기술을 활용한 SDGs 달성 방안과 디지털 혁신 전략을 논의하기 위해 개최됐다. UN 경제사회이사회(UN DESA), UN 거버넌스센터(UNPOG), 대한민국 행정안전부, 인천광역시가 공동 주관한 이번 행사에는 아시아태평양 및 동아프리카 등 48개국에서 약 300여 명의 정부 관계자와 전문가가 참석해 다음달 1일까지 진행될 예정이다. 반기문 전 사무총장은 영상 기조연설을 통해 SDGs 달성 현황에 대한 우려를 표하며 AI의 역할과 디지털 격차 해소의 중요성을 강조했다. 그는 현재 SDGs 목표 중 단 17%만이 순조롭게 진행되고 있으며 많은 목표가 정체되거나 후퇴하고 있다고 지적했다. AI는 이러한 상황을 변화시킬 '게임체인저'로 작용할 수 있다. 정부가 AI를 활용해 양질의 데이터를 수집하고 공공 서비스의 효율성을 높임으로써 포용적 발전과 혁신을 이끌어낼 수 있다는 것이다. 이를 위해서는 AI의 오용에 대한 우려를 해소하고 책임 있는 AI 거버넌스를 구축하기 위한 국제적인 협력이 절실한 상황이다. 또 AI 데이터 센터의 환경 영향과 탄소 배출에도 각국이 주의를 기울여야 한다. 이러한 노력에 대해 반 전 총장은 "현재 85%의 국가가 AI 관련 규제나 정책이 없는 상황"이라며 "우선적으로 강력한 국가 기관과 견고한 규제 체계가 필요하다"고 강조했다. 그러면서 "이번 심포지엄이 AI의 변혁적 힘을 실질적으로 활용하는 데 기여하기를 바란다"고 말했다. 이어 연설한 티모시 마크 마시우 파푸아뉴기니 정보통신부 장관은 개도국의 AI 수용과 통합에 대한 관심을 표명하며 자국의 디지털 전환 노력을 소개했다. 그는 AI가 혁신을 촉진하고 효율성을 향상시키며 공공 부문의 서비스 제공을 강화할 수 있는 잠재력이 있다고 역설했다. 파푸아뉴기니는 지난 2020년 디지털 전환 정책을 시작으로 디지털 정부법, 사이버 보안 정책 등 여러 정책과 법안을 도입한 바 있다. 또 정부 포털, 디지털 ID, 디지털 월렛 등을 출시해 국민들이 정부와 원활하게 소통할 수 있는 기반을 마련하고 있다. 또 마시우 장관은 디지털 변혁에 있어서의 포용성과 접근성을 강조했다. 이를 위해서는 AI를 포함한 신기술에 대한 명확한 방향성과 협력이 필요하며 국내외 이해관계자들과의 협력 역시 핵심적이다. 그는 "최근 태평양 제도 ICT 장관 회의에서 '나디 선언'을 채택하고 디지털 변혁, 디지털 인프라, 사이버 보안 등 우선 분야에서 협력하기로 했다"며 "누구도 뒤처지지 않도록 국제 사회와 함께 AI를 책임 있게 활용하겠다"고 강조했다. 이번 행사는 인천광역시와 행정안전부의 적극적인 참여로 더욱 의미를 더했다. 두 기관은 공동 주최를 통해 국제적인 AI 거버넌스 논의에 주도적으로 참여하며 대한민국의 디지털 역량과 공공 행정 혁신 사례를 세계에 알리고자 힘쓰고 있다. 이상민 행정안전부 장관은 환영사에서 국제 협력과 디지털 혁신의 중요성을 강조했다. 실제로 대한민국은 현재 공적개발원조(ODA) 예산을 30% 이상 증액하고, 개발도상국의 공공행정 개선과 디지털 역량 강화를 지원하고 있다. 또 AI 등 첨단기술을 기반으로 혁신적 서비스를 제공하고 사회 문제를 해결하는 디지털 플랫폼 정부를 구현하는 중이다. 이 장관은 "국제사회의 규범과 자유, 평화, 인권의 보편적 가치에 기반한 협력이 필요하다"며 "행안부도 국제 AI 협력을 적극 지원할 것"이라고 강조했다. 유정복 인천시장은 AI 기술의 기회와 위험을 동시에 언급하며 균형 잡힌 접근의 필요성을 강조했다. 이를 위해서는 정부, 기업, 비정부기구들이 협력 네트워크를 구축하는 것이 필수적이다. 유 시장은 "이번 심포지엄에서 AI 기술이 주는 편의와 위험의 균형을 맞춰 나갈 방안을 논의할 것으로 기대한다"며 "AI 규범과 거버넌스를 발전시켜 문제를 최소화하고 안정성을 확보하도록 적극 지원하겠다"고 밝혔다.

2024.10.30 12:16조이환

"英·美는 '억대 연봉' 준다던데"...ETRI 연구환경 악화, 정부 출연금 지원 절실

한국전자통신연구원(ETRI)의 정부 출연금 비중이 다른 출연연에 비해 현저히 낮아 연구 환경과 연구원의 처우가 열악한 상황이라는 지적이 나왔다. 연구비와 인건비 문제를 해결하지 않으면 국가 경쟁력을 강화할 핵심 기술 개발이 어려워질 것이라는 우려가 제기되고 있다. 18일 정동영 더불어민주당 의원실에 따르면 정 의원은 지난 17일 국회 과학기술정보방송통신위원회(과방위) 국정감사에서 ETRI 총예산 중 정부 출연금 비중이 16.6%에 불과하다고 지적했다. 이는 다른 24개 출연연 평균 39.1%에 비해 현저히 낮은 수준이다. 정 의원은 ETRI 연구원들이 정부수탁과제(PBS)에 과도하게 의존하고 있어 안정적인 연구 환경이 조성되지 않고 있다고 지적했다. 또 연구원들이 과제 수주에 많은 시간을 투자하면서 장기적이고 대형 성과를 내기 어려운 구조라는 점을 언급했다. ETRI 연구원의 처우는 민간 대기업과 비교했을 때 현저히 열악한 상황이다. 삼성, 현대, LG, SK 등 대기업의 임금 수준에 비해 ETRI 연구원들은 약 70%에 불과한 보수를 받고 있어 우수 인재 유출이 가속화될 위험이 크다. 이러한 문제는 ETRI 산하에 설립될 AI 안전연구소에서도 동일하게 발생할 가능성이 높아 우려를 낳고 있다. 빠르면 오는 11월 ETRI 산하 AI 안전연구소가 개소를 앞두고 있음에도 인재 확보와 관련한 처우 개선 방안은 아직 발표되지 않았다. 현재 ETRI의 연구원들은 민간 대기업 대비 낮은 임금과 불안정한 연구 환경으로 어려움을 겪고 있는 상황으로, AI 안전연구소 역시 충분한 예산 지원과 경쟁력 있는 처우가 뒷받침되지 않을 경우 우수 인재 유출과 함께 연구 성과에도 차질이 생길 수 있다는 우려가 제기되고 있다. 이는 이미 AI 안전연구소가 세워져 있는 영국, 미국과는 '상반된 모습이다. 영국과 미국은 다가오는 AI 시대를 위한 인재 유치에 힘쓰며 억대 연봉을 보장하는 등 충분한 예산과 처우를 제공하고 있어 안정적인 연구 환경을 구축하고 있다. 이러한 우려에도 불구하고 정부가 책정한 인건비 인상률은 민간 및 공무원의 인상률을 밑돌고 있어 연구원들이 체감하는 처우 개선은 미미한 상태다. 정부의 고시 인건비는 민간 수준을 반영하지 못하고 있으며 이는 연구 인력 확보에 어려움을 초래하고 있다. 정 의원은 ETRI 연구환경 개선을 위해 정부 출연금을 확대하고 경쟁형 과제 중심의 PBS 체제를 중대형 묶음과제로 전환할 것을 촉구했다. 연구원의 처우를 실질적으로 개선할 수 있는 제도적 변화가 필요하다는 주장 역시 제기됐다. 정 의원은 "우수 인재 확보를 위해서는 처우 개선과 안정적인 연구 환경 조성이 필수적"이라며 "연구원이 과도한 경쟁에서 벗어나 장기적이고 중대형 과제를 수행할 수 있는 환경을 만들어야 한다"고 강조했다.

2024.10.18 08:44조이환

행안부 "AI 활용해 공공서비스 혁신 강화"

행정안전부(행안부)가 인공지능(AI) 기술과 기관 간 협업을 통해 국민 삶의 질 개선에 박차를 가하고 있다. 행안부는 '2024 정부혁신 왕중왕전' 대회를 개최해 '문제를 해결하는 정부' 분야에서 다양한 혁신 사례를 선정했다고 7일 밝혔다. 이번 대회에서는 AI를 활용한 고독사 예방과 범죄 피해자 지원 등 주요 사회 문제 해결을 위한 정부부처의 우수 사례 15개가 선정됐다. 최종 결승전은 다음달 14일 광주 김대중컨벤션센터에서 개최될 예정이다. 이번에 선정된 사례 중 하나인 '고독사 예방 서비스'는 1인 가구의 생활 패턴을 모니터링해 이상 징후를 감지하고 신속한 대응을 가능하게 한다. AI 기반의 이 서비스는 기존의 전화 확인 방식보다 정교하고 효율적이며 공무원의 업무 부담을 줄이고 있다. '범죄 피해자 지원' 역시 14개 기관이 협력해 법률·경제·심리적 지원을 통합적으로 제공하는 시스템이다. 피해자는 여러 기관을 방문할 필요 없이 한 곳에서 모든 지원을 받을 수 있어 큰 호응을 얻고 있다. 이번 '왕중왕전'에서는 이 두 사례 외에도 자율주행 트랙터를 활용한 농업로봇 개발, 스토커 접근 정보 알림 시스템, AI를 활용한 보이스피싱 차단 서비스 등 다양한 혁신 사례가 선정됐다. 이들 사례는 모두 사회적 약자 보호와 공공서비스 효율성 강화를 목표로 하고 있다. 행안부는 앞으로도 AI와 빅데이터를 적극 활용해 다양한 사회 문제를 해결하고 국민이 체감할 수 있는 공공서비스 혁신을 지속적으로 추진할 계획이다. 고기동 행안부 차관은 "정부혁신 왕중왕전은 공공부문 혁신 성과를 발굴하고 확산하는 중요한 기회"라며 "AI를 적극 활용해 더 많은 사회 문제를 해결해 나가겠다"고 밝혔다.

2024.10.07 15:12조이환

AI 안전연구소장 공모…미래 AI안전 선도할 리더 찾는다

한국전자통신연구원(ETRI)이 AI 안전연구소장을 공개 채용한다. ETRI는 이번 채용이 글로벌 인공지능(AI) 정책과 법제도를 이끌 전문 인력을 모집하는 데 중점을 둔다고 25일 밝혔다. 지원자는 석사 이상의 학위를 소지해야 하며 AI 안전 관련 정책 수립 및 연구 수행 능력을 갖춰야 한다. 이번 채용의 주요 요건은 AI 안전 분야의 전문성과 글로벌 AI 환경에 대한 깊은 이해다. AI 기술의 안전성을 평가하고 국제 협력을 통해 이를 개선하는 것이 주요 업무이기 때문이다. 경영 혁신과 조직 관리 능력도 필수적이다. AI 안전연구소가 국가 AI 거버넌스의 중심으로서 역할을 수행하기 때문에 조직을 이끌 리더십과 중장기 전략 수립 역량이 요구된다. ETRI는 이번 채용을 블라인드 방식으로 진행해 공정성을 강화했다. 서류 전형, 1차 면접, 최종 면접을 거쳐 합격자를 선발하며 임용은 11월 중으로 예정돼 있다. 지원서 접수는 다음 달 4일까지다. 최종 합격자는 3년 임기 동안 성남 판교에서 근무하게 되며 1회에 한해 연임이 가능하다. 이번 채용은 전 세계적으로 AI 안전 연구소를 설립하는 움직임에 따른 것이다. 이미 미국, 영국, 일본 등 주요 국가들이 AI 안전연구소를 설립했으며 한국도 지난 5월 AI 서울 정상회의에서 연구소 설립을 약속한 바 있다. ETRI는 "이번 공개 채용을 통해 AI 기술의 안전성을 선도할 인재를 찾고 있다"며 "글로벌 경쟁력을 강화할 역량 있는 지원자들의 많은 관심을 기대한다"고 밝혔다.

2024.09.25 11:48조이환

앤트로픽 CEO "캘리포니아 AI 법안, 혁신 촉진할 것"

캘리포니아 주 상원 표결을 앞두고 있는 '첨단 인공지능(AI) 시스템을 위한 안전과 보안 혁신법안(S.B. 1047)'에 대해 앤트로픽 대표가 긍정적인 평가를 내렸다. 25일 유에스뉴스에 따르면 캘리포니아 AI 규제 법안인 'S.B. 1047'의 상원 표결이 지난 20일 시작됐다. 이 법안은 1억 달러 이상의 개발 비용이 들거나 일정량의 컴퓨팅 파워를 요구하는 고급 AI 모델에 대한 테스트를 의무화하는 내용을 담고 있다. 이는 AI 개발에 있어 안전성을 강화하기 위함이다. 다리오 아모데이 앤트로픽 대표는 이번 법안이 AI 개발에 긍정적인 영향을 미칠 수 있다고 평가했다. 특히 AI 기술 환경의 변화에 테크 업계가 대비하도록 지원할 수 있다고 주장했다. 법안은 AI 모델이 오작동할 경우 이를 종료할 수 있는 '킬 스위치' 설치를 의무화하고 있다. 또 사업자와 AI 개발자가 규정을 위반할 경우 캘리포니아 주 법무장관이 이에 소송을 제기할 수 있다. 이는 AI 기술의 오남용을 방지하기 위한 조치로 해석된다. 앞서 구글, 메타, 오픈AI 등 주요 테크기업들은 이 법안이 캘리포니아 주를 AI 개발에 불리한 환경으로 만들 우려가 있다고 지적했다. 특히 제이슨 권 오픈AI 최고전략임원은 지난 21일 법안을 발의한 스콧 위너 주 상원의원에게 공개서한을 보내 AI 규제는 연방 정부의 권한 아래 이뤄져야만 한다고 주장한 바 있다. 아모데이 대표는 "법안 내용이 개정됨에 따라 초기의 우려가 크게 줄어들었다"며 "이번 법안이 AI 개발 과정에서 혁신과 안전성을 모두 담보할 수 있을 것으로 기대한다"고 말했다.

2024.08.25 09:20조이환

오픈AI, 캘리포니아 AI 법안 반대…주 상원의원 "말도 안 되는 소리"

지난 20일부터 미국 캘리포니아 주 의회가 표결 중인 인공지능(AI) 규제 법안에 대한 의견이 분분하다. 22일 테크크런치 등 외신에 따르면 오픈AI 이사가 '첨단 인공지능(AI) 시스템을 위한 안전과 보안 혁신법안(S.B. 1047)'에 반대하는 목소리를 냈다. 이에 주 상원의원이 "말도 안 되는 소리"라고 일축했다. 해당 법안은 캘리포니아 내 AI 개발 사업자들에게 모델 안전성 테스트 등 사전 예방 조치를 요구하는 내용을 담고 있다. 제이슨 권 오픈AI 최고전략임원은 지난 21일 법안을 발의한 스콧 위너 상원의원에게 공개서한을 보내 "법안이 AI 혁신을 저해할 것"이라고 지적했다. 그러면서 그는 법안이 시행될 경우 "캘리포니아의 엔지니어들과 테크기업들이 다른 주로 떠날 수 있다"며 "미국의 경쟁력을 위해 최첨단 모델의 규제는 국가 차원에서 진행돼야 한다"고 밝혔다. 이에 법안을 발의한 스콧 위너 상원의원은 오픈AI의 주장이 논리적이지 않다고 반박했다. 그는 법안이 캘리포니아에 본사를 두지 않은 기업에도 적용되므로 기업들이 주를 떠날 필요가 없다고 강조했다. 또 오픈AI가 법안의 구체적인 조항을 비판하지 않고 단순히 연방 규제를 요구하는 점에 대해서도 비판했다. 해당 법안 표결은 오는 30일까지 진행된다. 통과될 경우 개빈 뉴섬 캘리포니아 주지사의 서명을 받게 된다. 뉴섬 주지사의 입장은 아직 명확하지 않지만 법안이 통과될 경우 산업계의 강력한 반발이 예상된다. 특히 오픈AI 측은 캘리포니아 주의 규제 환경 변화에 대한 우려로 샌프란시스코 사무실 확장 계획을 보류하고 있는 것으로 알려졌다. AI 업계 관계자는 "캘리포니아의 AI 규제가 통과하는지 여부에 따라 산업계의 대응이 달라질 수 있다"며 "실리콘 밸리가 위치해 테크 기업들이 몰린 지역이기 때문에 이번 표결에 많은 것이 걸려있다"고 밝혔다.

2024.08.22 15:24조이환

오픈AI, 올 가을 'GPT-5' 발표 안 한다

오픈AI가 오는 가을 개발자 행사에서 'GPT-5' 등 신제품을 공개하지 않을 예정이다. 이는 지난해 'GPT-4 터보' 등 주요 최신 제품이 개발자 행사에서 발표된 바와 대비된다. 6일 테크크런치에 따르면 오픈AI는 올가을 미국 샌프란시스코, 영국 런던, 싱가포르에서 열리는 개발자 행사에서 새 모델을 발표하지 않을 것이라고 발표했다. 대신 기존 도구의 활용성을 확장할 수 있는 애플리케이션 프로그램 인터페이스(API)와 서비스 업데이트에 집중할 예정이다. 이런 조치는 최근 오픈AI가 기존 모델 'GPT-4'의 성능을 조정하고 향상시키는 데 집중해 'GPT-4o'와 'GPT-4o 미니' 등을 출시한 상황과 맞물린다. 샘 알트먼 오픈AI 최고경영자(CEO)는 'GPT-5' 모델이 보일 파격적인 성능에 대해 여러 차례 언급한 바 있지만 출시 시점에 대해서는 밝히지 않았다. 지속적인 모델 성능 향상에도 오픈AI는 생성형 인공지능(AI) 경쟁에서 초창기 보유했던 기술 우위를 일부분 상실한 상태다. 지난 1일 출시된 구글의 실험용 생성형 AI '제미나이 1.5 프로(Gemini 1.5 Pro)'는 'LMSYS 챗봇 아레나(LMSYS Chatbot Arena)' 벤치마크에서 'GPT-4o'를 제쳤다. 또 최근 앤트로픽 '클로드(Claude)'의 최신 모델이 일부 벤치마크에서 오픈AI 제품들을 앞섰던 바 있다. 이는 오픈AI가 고품질 학습 데이터를 확보하는 데 어려움을 겪는 상황과 맞물린다. 많은 웹사이트가 회사의 크롤러를 차단하면서 데이터 접근이 제한되고 있기 때문이다. 메사추세츠 공대(MIT)의 연구에 따르면 고품질 데이터의 약 25%가 학습에 사용되지 않고 있다. 이러한 추세가 계속된다면 향후 10년 내 AI 모델 학습 데이터가 고갈될 것이라는 예측도 있다. 오픈AI는 이러한 문제를 해결하기 위해 다양한 데이터 라이선스 계약을 체결 중이다. 기술적인 측면에서 오픈AI는 '스트로베리' 프로젝트와 같은 연구개발(R&D) 사업을 진행하며 모델이 수학 문제를 원활히 해결하고 추론 능력을 발전시키도록 매진하고 있다. 일각에서는 'GPT-5'의 출시 연기가 오픈AI에 의도치 않은 이익을 가져다줄 수 있다고 본다. 이는 오픈AI가 최근 AI 안전을 전담하는 '초정렬(superalignment)' 팀을 해체하고 저작권이 있는 데이터를 모델 훈련에 사용한다는 비판을 받아왔기 때문이다. 테크크런치는 "현재 오픈AI는 기술 발전에만 신경 쓰고 AI 안전에는 소홀하다는 비판에 직면해 있다"며 "제품 출시 연기는 이러한 비판에 반례를 제공하는 등 긍정적인 부작용을 낳을 수 있다"고 분석했다.

2024.08.06 09:50조이환

마커스 뉴욕대 교수 "알트먼 못 믿어…언행불일치 잦아"

인지심리학자 게리 마커스 뉴욕대 교수가 샘 알트먼 오픈AI 최고경영자(CEO)를 신뢰할 수 없다고 밝혔다. 알트먼 CEO 발언과 행동이 일치하지 않은 사례가 많았다는 이유에서다. 5일 가디언에 따르면 마커스 교수는 "알트먼 오픈AI CEO가 세상에서 가장 큰 권력을 가진 인물이 됐다"며 "이는 매우 두려운 일"이라고 주장했다. 마커스 교수는 알트먼 CEO가 회사 이익을 위해 진실을 왜곡한 점을 지적했다. 알트먼 CEO가 지난해 미국 상원 청문회에서 한 발언을 근거로 들었다. 당시 알트먼 CEO는 청문회에서 "건강보험을 들 수 있을 정도의 돈만 벌고 있다"며 "오픈AI에 대한 지분은 없다"고 발언했다. 실제 그는 미국 최대 스타트업 액셀러레이터 기업인 와이 콤비네이터(Y Combinator) 주식을 소유해 간접적으로 오픈AI 지분을 가지고 있었다. 마커스 교수는 알트먼 CEO가 규제에 대해 솔직하지 않다고 지적했다. 청문회에서 AI 규제를 강력히 옹호했던 언행과 다르게 오픈AI는 지난 2022년부터 유럽연합(EU) AI법이 생성형 AI를 강력히 규제하지 못하도록 EU 당국에 로비해왔다. 지난해 11월 오픈AI 이사회가 알트먼 CEO를 "솔직하지 않다"며 해고하고 지난 5월에는 일리야 수츠케버 공동창업자 등 AI 안전과 관련된 주요 인사들이 잇따라 회사를 떠나는 등 내부적 논란이 있어 왔다. 이에 외신은 알트먼 CEO의 언행불일치가 회사 신뢰성을 떨어뜨린다고 지적했다. 이러한 상황에 대해 마커스 교수는 "AI 기술은 공공의 이익을 위해 투명하고 윤리적으로 관리돼야 한다"며 "안전하고 신뢰 가능한 기술 발전을 위해서는 시민들이 목소리를 높여야 한다"고 강조했다.

2024.08.05 12:17조이환

오픈AI, 美 정부에 'GPT-5' 우선 공개

오픈AI가 차세대 인공지능(AI) 모델 'GPT-5' 출시 전 안전성 검증을 위해 미국 정부에 우선 공개하기로 했다. 테크크런치 등 외신은 최근 오픈AI가 최신 AI 모델 GPT-5 평가를 위해 미국 AI안전연구소와 손잡았다고 보도했다. 이번 협력으로 미국 AI안전연구소는 GPT-5가 전 세계 대중에 공개되기 전 기술 윤리·안전성을 공식적으로 검증할 방침이다. 알고리즘 편향성을 비롯한 환각현상, 사용 윤리 등을 검토할 예정이다. GPT-5가 검증 통과를 못 하면, 오픈AI는 이 모델 공개 시기를 미뤄야 한다. 샘 알트먼 오픈AI 최고경영자(CEO)는 "이번 파트너십을 통해 GPT-5 안전성 검증을 확실히 인정받을 것"이라고 공식 홈페이지에서 밝혔다. 오픈AI는 지난해 영국 정부와 협력해 자사 AI 모델을 공유했을 뿐 아니라 알트먼 CEO가 직접 미국 상원 청문회에서 AI 규제 필요성을 강조한 바 있다. 다수 외신은 오픈AI의 이같은 행보가 AI 안전성에 소홀하단 이미지를 지우기 위한 것으로 해석했다. 오픈AI의 안전성 논란은 지난 5월부터 본격 등장했다. 오픈AI 엘렌 토너 전 이사가 "오픈AI는 AI 윤리·안전 강화보다 수익 창출에 급급했다"고 폭로하면서부터다. 토너 전 이사는 "알트먼 CEO가 이사회 동의 없이 스타트업 투자 계획을 발표했다"며 "이사회 발언을 묵살하고 비즈니스 확장만 신경 썼다"고 외신 언론에 밝혔다. 당시 오픈AI는 제품 안전성을 담당했던 '초정렬팀'도 해제했다. 팀을 이끈 일리야 수츠케버 오픈AI 공동창업자 겸 최고과학자도 이에 항의하며 회사를 떠났다. AI 안전 담당했던 직원들도 줄줄이 퇴사했다. 그 후 오픈AI에 첫 최고재무책임자(CFO)까지 생기면서 회사 정체성인 '비영리조직' 타이틀까지 잃을 수 있다는 우려가 나왔다. 오픈AI는 이런 상황을 모면하기 위해 안전·보안위원회를 6월 다시 설립했다. 미 국가안전보장국(NSA) 수장이자 미 4성 퇴역장군인 폴 나카소네를 이사회 멤버로 영입하기도 했다. 현재 나카소네 장군은 새로 구성된 이사회 멤버로서 보안 위원회에서 활동하고 있다. 오픈AI 브렛 테일러 이사회 의장은 "나카소네 장군은 사이버 보안에서 탁월한 경험을 갖췄다"며 "오픈AI가 일반인공지능(AGI) 개발을 안전하고 유익하게 진행하도록 도울 것"이라고 공식 홈페이지에서 발표했다. 외신은 오픈AI가 보안위원회 설립과 정보보안 최고 경력자 영입 등을 통해 AI 안전성에 소홀하다는 우려 지우기에 나선 것이라고 평했다.

2024.08.04 12:24조이환

행안부, 공공데이터 사업화 지원…"창업 준비부터 해외진출까지"

행정안전부가 공공데이터 활성화를 위한 지원사업 2종을 추진한다. 행정안전부는 공공데이터 활용기업 맞춤형 지원과 리빙랩 프로젝트를 진행한다고 29일 밝혔다. 먼저, 공공데이터 활용기업을 대상으로 '맞춤형 지원사업'을 제공한다. 맞춤형 지원사업 대상으로 선정된 기업은 전문 컨설턴트와의 상담을 거친다. 상담을 통해 기업의 역량과 창업 전, 초기, 성장기, 도약기 등 기업 형태를 분석한 결과를 반영해 성장 단계에 맞춘 맞춤형 프로그램을 지원받는다. 사업 초기 단계의 기업이나 예비창업자에게는 공공데이터를 활용한 사업 전략 수립을 지원하고, 사업에 필요한 공공데이터를 효과적으로 찾을 수 있도록 관련 컨설팅을 제공한다. 이미 공공데이터 활용 서비스를 제공하고 있는 기업은 ▲데이터를 활용한 기술이나 인공지능(AI)·클라우드 등 신기술 접목과 관련한 컨설팅 ▲사업 확장 등을 위한 자금 조달 방안 ▲해외 진출 지원 멘토링 등을 제공받을 수 있다. 이번 공모는 공공데이터를 활용해 서비스를 제공하거나 개발하고자 하는 기업과 예비창업자 누구나 지원할 수 있다. 적격성 심사와 심의위원회 평가를 거쳐 최종 30개 기업을 선정할 예정이다. 지난해 30개 기업 및 예비창업자를 대상으로 맞춤형 지원 프로그램을 제공한 결과, 신규 사업등록 2건, 지식재산권 출원·등록 16건, 18건의 신규 서비스가 출시됐다. 이 중 2개 기업은 투자 자금을 유치하는 등의 성과가 있었다. 시민이 생활 속 문제를 발견하고, 공공데이터를 활용해 해결책을 설계해 직접 문제를 해결하는 공공데이터 활용 '리빙랩 프로젝트'도 공모를 진행한다. 서류심사와 심의위원회 평가를 통해 선정된 4개 단체에 프로젝트 수행을 위한 지원금(최대 750만 원)과 전문가 교육·멘토링을 제공한다. 프로젝트 수행 결과가 우수한 2개 프로젝트는 행정안전부 장관상과 한국지능정보사회진흥원 원장상을 수여할 예정이다. 지난해에는 '마을버스 정보안내단말기(BIT) 미설치 정류장 우선 도입 순위 제안' 및 '금연 구역 데이터를 활용한 흡연부스 설치 입지 선정' 과제 등이 우수사례로 선정됐다. 공공데이터 활용과 관련된 두 공모사업의 상세한 내용은 행정안전부에서 운영하는 공공데이터포털과 한국지능정보사회진흥원 누리집을 통해 확인할 수 있다. 이용석 디지털정부혁신실장은 “민간의 많은 참여를 통한 민·관 협력 활성화가 디지털플랫폼정부 구현의 핵심”이라며, “정부의 방대한 공공데이터를 국민과 기업이 더 쉽게, 잘 활용할 수 있도록 적극 지원하겠다”고 밝혔다.

2024.07.29 15:07남혁우

HD현대중공업, AI 기술 최신예 원해경비함 첫 선

HD현대중공업이 인공지능(AI) 기술을 접목한 최신예 원해경비함(OPV)을 선보였다. HD현대중공업은 19일부터 21일까지 인천 송도컨벤시아에서 열리는 '2024 국제해양·안전대전'에 참가해 미래형 해경 경비함 기술 역량을 선보였다. 2년마다 열리는 이 전시회는 국내 유일의 해양경찰청 주최 해양 특화 전시회다. 해양과 안전·항공·항만·물류·레저 산업 관계자들이 참여해 산업간 시너지와 함정 선진화 및 기술 역량 확보를 도모한다. HD현대중공업은 전시회 기간 HJ중공업, 강남조선과 함께 108㎡ 규모의 공동 부스를 마련했다. 오는 2026년 해경에 인도할 예정인 3천 톤급 원해경비함과 필리핀 해군에 수출하는 2천400톤급 원해경비함 모형 등을 전시했다. 원해경비함은 스텔스 선형이 적용됐고 10톤급 헬기 탑재 운용 및 드론 운용 기반 시설 등을 갖췄다. 특히 AI 기술을 접목한 다목적 멀티 미션 플랫폼을 적용해 영해 감시, 수색 및 구조, 재난 구호 등 임무를 수행할 수 있으며, 항해 거리와 내구성을 높였다. 또 HD현대중공업은 이번 전시회에서 장비 도입 상담반을 꾸려 해경 담당자와 1대1 구매 상담을 진행했다. 둘째 날 열리는 해경 차세대 함정 발전 컨퍼런스에서 '차세대 해경 함정 항해장치(파노라마 뷰 시스템)'에 대한 발표도 진행할 예정이다. 주원호 HD현대중공업 특수선사업대표는 "해경의 주력인 3천 톤급 경비함 '태평양 1호'를 비롯해 최대 경비함인 '이청호함'을 건조하는 등 해경 현대화와 발걸음을 함께 했다"며 "앞으로도 기술 발전과 미래 작전 환경을 접목한 다양한 함형을 개발해 해경 발전과 함정 수출을 선도해 나가겠다"고 말했다.

2024.06.19 17:32신영빈

"공무원 일거리 줄어들까"…LG·SKT 손잡은 정부, 생성형 AI 첫 도입

#. 공무원 A씨는 인사이동으로 새로운 업무를 맡을 때마다 업무 매뉴얼을 숙지하고 정책 관련 법령 등을 찾아보는 것에 대한 부담이 컸다. 전임자나 팀원들에게 물어보는 것도 한계가 있었다. 하지만 '인공지능(AI) 행정 지원 서비스'가 도입되면 관련 업무매뉴얼, 법령·지침 등을 쉽게 찾아볼 수 있어 업무를 빠르게 파악하고 국민에게도 각종 행정서비스를 신속히 제공할 수 있게 될 것으로 기대하고 있다. 정부가 공공 부문 생성형 AI 도입에 본격 나서면서 공무원들의 일거리 부담도 줄어들 것으로 보인다. 정부는 중앙부처, 지방자치단체 등 다양한 의견을 바탕으로 범정부 AI 플랫폼 개발에도 박차를 가한다는 방침이다. 행정안전부는 'AI 행정 지원 서비스' 시범운영을 다음달까지 실시한다고 12일 밝혔다. AI 행정 지원 서비스는 ▲문서 요약 ▲문서 초안 작성 ▲법령·지침 정보 검색 ▲정보공개 민원 관련 공무원의 행정업무를 지원하는 정부 전용 AI 서비스다. 앞서 행안부는 지난해 11월 LG, SK텔레콤 등 민간기업과의 협업으로 AI 행정 지원 서비스 시범 개발을 완료했다. 이후 데이터 유출 등의 방지를 위해 정부 업무망 내부에 AI 서비스를 구축하고 추가 데이터 학습을 지속 진행 중이다. 시범운영은 참여 희망 여부, 업무연관성, 실·국간 균형 등을 고려해 행안부 7개 실·국과 4개의 소속기관 약 60명의 직원을 대상으로 시행한다. 지난해 개발된 서비스 가운데 AI 우선 적용이 가능하거나 활용성이 높을 것으로 기대되는 업무 유형을 ▲일반 행정업무 지원 ▲정보공개 업무지원 두 가지로 구분해 제공한다. 일반 행정업무 지원은 LG 개발 서비스를 활용해 문서 요약, 문서 초안(보도자료, 연설문 등) 작성, 문서 검색 등 일반 행정업무에 특화된 서비스를 제공한다. 정보공개 업무지원은 SKT 개발 서비스를 활용해 정보공개청구 민원 요약, 법령·매뉴얼·판례 등 판단 근거, 민원 답변서 초안 작성 등 정보공개 관련 서비스를 제공한다. 행안부는 시범운영을 통해 ▲문서 검색, 문서 작성 등 서비스 활용 사례 ▲서비스 이용 시 불편사항 등을 공유해 지속 보완할 계획이다. 또 보다 정확한 답변 도출을 위한 명령어 예시, 서비스를 통해 작성한 문서 등 사용자 간 활용 사례도 주기적으로 공유할 예정이다. 행안부와 시범운영 기업인 LG, SK텔레콤간 협의체를 운영해 서비스 기능 역시 지속 개선한다는 방침이다. 더불어 행안부는 AI 활용성이 높은 업무 분야를 추가로 발굴해 서비스 기능 개선을 거쳐 8월부터 10월까지 타 중앙기관, 지자체로 확산할 방침이다. 행안부는 AI 기술의 행정업무 적용 실현 가능성과 효용성 등에 관한 사전 검증을 지난해 4월부터 11월까지 진행했다. 이 결과를 바탕으로 정보전략계획(ISP)을 추진하고 있다. ISP는 범정부 AI 공통기반 플랫폼을 구축함과 동시에 정부의 업무관리시스템에 AI 행정 지원 서비스를 적용하는 것이 목표다. 행안부는 중앙부처, 지자체 등 시범운영 대상자의 다양한 의견을 수렴해 이번 ISP에 향후 본 사업 구축 시 관련 내용을 반영할 예정이다. 이상민 행안부 장관은 "시범운영을 통해 실제 일하는 공무원의 의견을 충분히 수렴할 것"이라며 "데이터와 AI를 기반으로 일하는 디지털플랫폼정부 구현 전환점으로 삼겠다"고 말했다.

2024.06.12 16:23장유미

생성형 AI는 과연 투명해질 수 있을 것인가

우리 정부는 인공지능(AI) 개발이 지향해야 할 가치로 세 가지를 꼽는다. 안전·포용·혁신. 강도현 과학기술정보통신부 2차관은 지난 달 29일(현지시간) 스위스 제네바에서 열린 '선의를 위한 인공지능(AI for Good) 글로벌 정상회의 2024' 행사에서 “AI는 사람을 중심으로 해야 한다”며 이를 강조했다. 안전·포용·혁신은 그 전주에 열린 'AI 서울 정상회의'에서 각국 정상이 합의한 지향이기도 하다. 세 가지 가치 중에서 현재 가장 뜨거운 것은 혁신이다. 혁신은 기술과 비즈니스 모델 개발에 방점이 찍혀 있다. 2022년 11월 챗GPT 출시 이후 AI가 인류의 최대 핫 기술이 된 것을 의심하는 사람은 없다. 많은 나라가 명운을 걸고 AI 산업 진흥에 국가 대항전을 펼치고 있으며, 기업도 사활이 걸린 문제로 인식하고 있다. 그중에서도 AI 모델과 이를 가능하게 할 AI 반도체 개발 경쟁이 치열하다. 혁신이 기술과 산업의 영역이라면 포용은 정치의 몫이다. AI 기술이 주목되는 까닭은 그것을 가진 자와 못 가진 자의 격차가 크게 벌어질 것이라는 게 자명하다는 데 있다. 그 격차는 사회적 혼란을 부른다. 이 혼란을 줄이기 위해서는 기술 발전으로 인한 혜택을 넓혀야 한다. 일자리 변화에 대한 대책을 세우고, 새로운 시대에 맞게 교육도 해야 한다. 산업보다는 정치가 담당해야 하는 역할들이다. 안전은 기술의 문제로 인식되곤 한다. 현재 AI와 관련된 안전 문제로 거론되는 사안은 시스템 오류, 편견, 조작, 무기화 등이다. 시스템 오류의 경우 기술이 갖는 비완벽성이라는 일반적 한계이고 편견의 경우 잘못된 학습으로 나타난 AI의 고유한 오류다. 조작과 무기화는 AI 기술 자체의 문제라기보다 이를 운용하는 인간의 문제다. 여하튼 이 모든 것을 기술로 해결해야 한다는 믿음이 있는 듯하다. 안전 문제는 그런데 기술 사안이기도 하면서 근본적으로는 철학의 영역이기도 한 것 같다. 정상회의의 테마가 '선의를 위한 인공지능(AI for Good)'이라는 게 예사롭지 않다. '선의(Good)'라는 것은 구체적으로 무엇을 의미하는 것일까. AI 자체에 의지(will)가 있고 그래서 착한 의지를 가진 AI를 개발해야 한다는 것일까, 아니면 이를 개발하고 사용하는 사람이 착한 마음을 갖게 해야 한다는 것일까. “AI는 사람을 중심으로 해야 한다”는 명제를 던진 것으로 보아 아마 후자 쪽에 더 무게를 둔 것 같다. AI는 도구에 불과한 것이고 그러므로 사람을 해치는 데 쓰지 말고 사람을 이롭게 하는 데 사용하도록 서로 합의하자는 의미겠다. AI 안전 문제 가운데 조작과 무기화를 세계적인 차원에서 각국 정부가 통제하자는 말도 된다. AI를 개발할 때 편견을 줄이도록 기업들에 독려하는 것도 포함될 듯하다. 안전은 곧 통제인 셈이다. 그런데 여기서 떨치기 어려운 의문이 하나 생긴다. 인간이 AI를 통제할 수 있는가의 문제다. 통제는 어떻게 가능한가. 통제 대상을 투명하게 만들 수 있어야 가능하다. 결국 AI를 투명하게 해야 통제가 가능하다. 그런데 AI는 두 가지 점에서 본질적으로 불투명하다. 하나는 불투명한 사람이 AI를 조종한다는 점이고, 다른 하나는 AI 자체가 투명할 수 없는 기술이라는 거다. 인간의 뇌는 불투명하다. 뇌를 해부할 수는 있어도 뇌의 작동을 통제할 수는 없다. 불투명하기 때문이다. 뇌가 불투명해서 믿을 수 없는 인간을 통제하기 위해 만든 게 도덕과 법과 종교 등이다. 뇌는 불투명하지만 행동은 투명하기 때문이다. 자연도 불투명하다. 불투명한 것은 위협적이다. 자연의 위협을 극복하려고 개발한 것이 과학기술이다. 지금까지 모든 과학기술은 투명했다. 통제 가능했다. AI는 인간이 개발한 기술 가운데 유일하게 불투명한 것이다. AI의 기술적 진화 방향은 인간의 뇌를 닮는 것이고 퍼포먼스에서 인간의 뇌를 뛰어 넘는 것이다. 불투명의 극한으로 가는 것이다. 그런데 AI를 진화시키기 위해서 인간은 더 투명해져야 한다. 인간의 모든 지성과 행위를 숨김없이 AI에게 보여야 하기 때문이다. AI에게 인간은 유리처럼 투명해지고 인간에게 AI는 알 수 없는 미궁인 것이다. 공평은 어쩌면 뇌가 불투명한 존재끼리 투명의 정도를 비슷하게 맞추어가는 과정을 의미할지도 모른다. 어느 한 쪽만 투명하다면 하나의 시선만 남는다. 검사와 범죄자처럼 일방적인 관계가 된다. 신뢰란 불투명한 존재끼리 서로 믿는 일이다. 투명해야 믿는 것은 신뢰가 아니다. 그건 통제다. 신뢰하지 않기 때문에 투명을 요구하는 것이다. AI와 인간은 공평할 수 없다. 그것이 안전 문제 본질이다.

2024.06.03 11:12이균성

  Prev 1 2 3 4 Next  

지금 뜨는 기사

이시각 헤드라인

예스24, 또 먹통…"이번에도 랜섬웨어 탓"

AI 개발 하루에 GPU 1억…SKT 김태윤 담당 "그룹 전폭 지원에 감사"

[ZD브리핑] 국정기획위, 정부조직 개편안 발표 임박…방통위 향방 주목

양자컴퓨팅, 황금일터로 뜬다…4년 새 채용 450% 폭증

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.