• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 인터뷰
  • 인사•부음
  • 글로벌뉴스
인공지능
배터리
양자컴퓨팅
컨퍼런스
칼럼•연재
포토•영상

ZDNet 검색 페이지

'AI 통제'통합검색 결과 입니다. (7건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

[현장] AI로 우리나라 군 지휘체계 빨라질까…"KCCS, 대대급서 먼저 상용화 필요"

"미군도 이미 삼성전자 '갤럭시폰'을 쓰고 있는데 우리나라 군도 이를 충분히 쓸 수 있는 환경이 조성되지 않았나 싶습니다. 북한이 대적인 한반도 안보 환경을 고려해야겠지만 스마트 지휘통제체계(KCCS·Korea Command and Control system)도 '대대급'에 우선 적용해서 전투에서 승리할 수 있는 명령이 즉시 전달될 수 있는 빠른 시스템 구축이 우리나라도 필요하다고 봅니다." 차동균 방위사업청 중령은 14일 서울 강남구 한국과학기술회관에서 진행된 '한국IT서비스학회 2025 춘계 학술대회'에 참석해 이처럼 강조했다. 2018년부터 합동 전 영역 지휘통제체계(JADC2·Joint All-Domain Command and Control) 개발을 시작한 미국처럼 우리나라도 KCCS 사업의 본격화를 통해 대응력을 키워야 한다고도 주장했다. KCCS는 현행 합동·연합·각군 지휘통제체계를 개량해 AI 기반의 미래 JADC2 수행을 보장하는 체계로, 우리나라에선 총 3단계로 사업을 추진하고 있다. ▲1단계는 전장 데이터의 통합 ▲2단계는 센서 데이터의 통합 ▲3단계는 전 영역 센터-슈터 데이터의 통합으로, 이를 위해선 데이터를 클라우드 기반으로 통합하는 것이 필수적이다. 또 빅데이터 분석 능력을 끌어 올리고 공통 단말기를 운용해야 할 뿐 아니라 엣지 체계를 적용하고 협업 환경을 구축하는 것도 필요하다. 차 중령은 KCCS의 빠른 전환을 위해 상용화된 민간 기술을 활용해 먼저 시도를 해볼 필요가 있다고도 주장했다. 특히 '대대급'에서 AI, 5G 등의 기술들을 적용하는 것이 우선돼야 한다고 봤다. 현재 파일럿으로 운영되고 있는 '아미타이거' 부대가 인프라 측면에서 잘 구축은 돼 있지만, 아직까지는 미흡하다고 봤다. 육군의 '미래형 전투 체계' 비전인 '아미타이거' 부대는 유·무인 복합 전투 체계를 갖추고 다영역작전 수행이 가능한 지상군이다. 2040년까지 육군 모든 부대가 아미타이거로 전환될 예정으로, 육군은 각종 전투 실험을 통해 아미타이거 전투 발전 소요를 도출하고 미흡 분야를 보완하는 등 진화와 발전을 가속화할 방침이다. 차 중령은 "여단급인 '아미타이거' 부대에 인프라가 구축돼 있긴 하지만 실질적으로 최소 전투 단위인 대대급에서 상용화된 민간 기술들을 먼저 도입해 현실화 해 나가는 것이 필요하다"며 "민간 5G 통신망을 활용한 초고속 저전력 통신 환경이 구축되는 것도 굉장히 중요한데, 현재 기술로선 충분히 구현할 수 있다고 본다"고 말했다. 그러면서 "삼성SDS가 AI, 5G, 엣지 등에서 여러 기술들을 가지고 있다는 점에서 이를 우리나라 군에서 활용하면 좋을 것 같다"고 덧붙였다. 또 그는 "(우리나라 군도) 5G 네트워크와 위성 솔루션을 이용한 빠르고 정확한 시스템 구축과 함께 국제 협력도 활발하게 이뤄져야 한다"며 "미국과 호주, 영국, 유럽연합(EU) 등 여러 국가들이 적극 협력하고 있는 만큼, 우리나라도 국제 협력 강화를 통해 네트워크, 위성, 사이버 보안, 첨단 무기 개발 등 다양한 기술을 발전시키고 예산도 이에 맞춰 확보해야 할 것"이라고 강조했다. 업계에 따르면 현재 미군은 국방 전 분야를 클라우드로 전환해 활용 중이다. 이를 위해 지난 2022년 12월 12조원 규모 국방클라우드(JWCC) 사업자를 선정했고, 미국 육군도 엣지 클라우드 추진을 위해 10조원 규모를 별도로 투자하겠다는 계획을 밝힌 바 있다. 또 아마존, 마이크로소프트(MS), 오라클, 구글 등에 국가 보안을 이유로 자국 기업에 한정사업 참여 기회를 부여하는 등 민간 클라우드 기술도 적극 활용하고 있다. 여기에 선정된 4개 기업이 제한경쟁을 하며 최소사업 기회(금액)도 보장하고 있다. 하지만 우리 군의 클라우드 전환은 다소 더디다. 이에 일각에선 클라우드 플랫폼 구축을 통해 빅 데이터 확보, 인공지능(AI) 능력 전장 투사 등이 진행돼야 우리 군이 현대화 전략을 극대화 할 수 있을 것이라고 봤다. 또 우리 군이 추진하고 있는 전투 클라우드에 '센터 클라우드-지역 클라우드-엣지 클라우드'를 적절히 융합해 사용할 수 있어야 발전할 수 있을 것이라고 분석했다. 이날 'AI와 클라우드의 융합을 통한 미래 지휘통신체계 혁신'을 주제로 발표에 나선 박지현 삼성SDS 프로는 국방 데이터를 모아 활용하기 위해 국방 AI 서비스 플랫폼도 반드시 구축돼야 한다고 강조했다. 또 삼성SDS가 운영 중인 '브라이틱스AI'가 좋은 방안이 될 것임을 제안했다. '브라이틱스 AI'는 데이터의 수집, 저장, 활용 등 데이터 관리 전 영역을 아우르는 삼성SDS의 엔드투엔드 데이터 플랫폼이다. 박 프로는 "AI 서비스 플랫폼을 활용하기 위해선 (우리나라 군이) 필요한 AI가 어떤 것인지를 파악해 활용할 수 있어야 한다"며 "자체적으로 가져가야 할 그래픽처리장치(GPU) 자원을 어디에 위치시켜 활용할 지에 대해 고민하는 것도 중요하다"고 말했다. 이어 "우리나라 군은 ▲전장 상황 인식 능력 향상 ▲데이터 중심 능력 구축 ▲지휘통제능력 보장 ▲AI 기반 전투 수행 환경 조성 등에 AI를 활용할 수 있을 것"이라며 "이를 위해선 ▲자원·데이터 포트폴리오 구축을 통해 C4I 현황을 정리 ▲클라우드 구축 모델 검토 및 생성형 AI 유즈 케이스 사전 점검 사항 협의 ▲전환 통합 계획 작성 및 준비 등을 통해 환경을 구축하고 방향성 및 목표 수립에 먼저 나설 필요가 있다"고 덧붙였다. 이에 맞춰 첫 번째 세션에서 좌장을 맡은 김지홍 삼성SDS 부사장은 국내에 보유한 5개 자사 데이터센터를 기반으로 다양한 기술을 보유하고 있는 만큼 미래 스마트 지휘통제체계를 확립하기 위해 적극 나서겠다는 의지를 드러냈다. 또 만약의 전시 상황에서 데이터센터가 파괴됐을 경우에도 삼성 그룹사를 통한 안정적 클라우드 기반을 바탕으로 충분히 잘 대응할 수 있다는 점도 피력했다. 김 부사장은 "우리는 삼성전자, 삼성SDI 등 삼성 그룹 전체를 지원하고 있을 뿐 아니라 국내에선 동탄, 구미 등에 5개 데이터센터를 가지고 있어 다양한 데이터를 백업 받고 있다"며 "(데이터 안정성을 구축하기 위해) 앞으로를 생각한다면 제주도 같은 곳에도 데이터센터를 만들어 대응한다던지, 중국·베트남 등 해외에 구축된 데이터센터들도 잘 활용해 나갈 수 있는 능력이 있다"고 강조했다. 이어 "센서, 카메라, 인공위성 등 여러 데이터가 있는데 이를 융합하고 모으려면 제대로 된 데이터 체계가 있어야 하고 클라우드를 활용하는 것도 필요하다"며 "우리는 데이터를 어떻게 연결해 융합하고 활용할 수 있을 지를 신속하고 정확하게 파악할 수 있는 능력을 지니고 있다"고 자신했다.

2025.05.14 15:50장유미

"1500억원짜리 AI 기밀 털릴라"…中 견제 나선 앤트로픽 CEO, 美 정부 개입 촉구

최근 딥시크, 마누스 등을 앞세운 중국 인공지능(AI) 스타트업들의 활약이 전 세계에서 크게 주목 받고 있는 가운데 다리오 아모데이 앤트로픽 최고경영자(CEO)가 앞장서 견제하고 있다. 중국에 주요 AI 기술들이 유출될 것을 우려하며 미국 정부에서 적극 개입해 이를 막아줄 것을 요청하고 나선 것이다. 13일 테크크런치 등 주요 외신에 따르면 아모데이 CEO는 지난 10일 미국외교위원회 행사에서 중국 스파이들이 미국 주요 AI 기업의 값비싼 '알고리즘 비밀'을 노리고 있다고 주장했다. 아모데이 CEO는 이날 행사에서 연사로 나서 "중국이 대규모 산업 스파이가 많은 곳으로 유명하다"며 "앤트로픽 등 AI 기업들을 거의 표적으로 삼고 있다"고 강조했다. 이어 "(그들이 노린) 알고리즘 비밀 중 다수는 몇 줄의 코드로 이뤄진 1억 달러짜리"라며 "이를 훔치려는 이들이 있을 것이고, 성공할 수도 있다는 것을 확신한다"고 덧붙였다. 그러면서 아모데이 CEO는 이러한 위험에 맞서기 위해 미국 정부의 더 많은 도움이 필요하다는 점도 강조했다. 하지만 정확히 어떤 종류의 도움이 필요한지는 구체적으로 밝히지 않았다. 앤트로픽은 공식 입장을 밝히지 않았으나, 이달 초 미국 백악관 과학기술정책실(OSTP)에 권고했던 내용을 언급하며 우회적으로 동조하는 모습을 보였다. 이 권고안에는 미국 정부가 AI 산업 리더들과 협력해 최전선 AI 연구소의 보안을 강화해야 하며 이를 위해 미국 정보 기관 및 그 동맹국들과 협력해야 한다는 주장이 담겼다. 아모데이 CEO는 이전에도 중국 AI 개발 움직임에 대해 비판적인 모습을 보였다. 특히 미국이 중국에 대한 AI 칩 수출 통제를 강화해야 한다고 주장하면서 중요 생화학 무기 데이터 안전성 테스트에서 딥시크가 '최악'의 평가를 받았다는 점을 꼬집었다. 또 자신의 에세이 등을 통해 중국이 군사 목적으로 AI를 사용하는 것이 우려된다는 점을 강조하기도 했다. 아모데이 CEO는 "그래픽처리장치(GPU) 수출 통제는 딥시크나 다른 중국 기업이 몇만 개 수준의 칩을 확보하는 것을 막기 위해 설계되지 않았다"며 "오히려 대규모 칩 확보를 방지하는 데는 효과적일 수 있고, 중국이 AI 분야에서 미국과 동등한 수준에 도달하지 못하는데 기여할 것"이라고 말했다.

2025.03.13 15:49장유미

美, 신규 첨단 AI칩·모델 수출통제…한국 등 핵심 동맹국 제외

미국 사무부 산업안보국(BIS)는 13일(현지시간) 첨단 인공지능(AI) 칩과 AI 모델 수출통제 조치 개정안을 발표했다. 미국은 첨단 AI 칩에 대한 기존 수출통제 조치를 강화하고 우회 수출을 차단하기 위해 수출관리규정(EAR)을 개정했다. 한국을 포함한 핵심 동맹과 파트너국 18개국은 이번 조치에서 면제돼 AI 칩 수출통제를 적용받지 않는다. 18개국은 호주·벨기에·캐나다·덴마크·핀란드·프랑스·독일·아일랜드·이탈리아·일본·네덜란드·뉴질랜드·노르웨이·한국·스페인·스웨덴·대만·영국이다. 또 미국이 지정한 무기 금수국 22개국으로 미국 통제대상인 AI 칩을 수출할 때는 현재와 마찬가지로 미국 상무부 허가가 필요하며 허가를 신청하면 거부 추정 원칙으로 심사된다. 22개 금수국은 아프가니스탄·벨라루스·미얀마·캄보디아·중앙아프리카공화국·중국(마카오 포함)·콩고민주공화국·쿠바·에리트레아·아이티·이란·이라크·북한·레바논·리비아·니카라과·러시아·소말리아·남수단·시리아·베네수엘라·짐바브웨 등이다. 이들 국가를 제외한 모든 국가에 미국 통제대상인 AI 칩을 수출할 때는 이번 조치로 미국 상무부 허가가 필요하며, 일정량까지는 허가 추정 원칙으로 심사될 예정이다. 다만, AI 칩 제조·개발 등을 위한 수출이나 데이터센터용이 아닌 게이밍 칩 수출 등은 허가 예외를 신청할 수 있다. 또 데이터센터용 검증된 최종사용자(VEU·Validated End User) 제도를 개정해 한국을 포함한 18개국 기업·기관에는 상무부 VEU 승인을 획득하면 전 세계에 추가 수출 허가 없이 데이터센터를 설치·운영할 수 있게 했다. 미국은 AI 칩을 활용해 훈련된 첨단 AI 모델을 수출통제 대상 기술로 추가했다. 한국을 포함한 핵심 동맹·파트너 18개국으로의 기술 수출은 이번 조치에서 면제되며, 일반에 공개된 모델(open model)과 최첨단 공개 모델보다 성능이 낮은 비공개 모델은 통제대상에서 제외된다. 산업부 관계자는 “이번 조치는 미국이 국가 안보적 관점에서 독자적으로 시행하는 조치”라며 “기본적으로 한국이 면제국가에 포함된 만큼 우리 기업이나 기관·개인이 미국으로부터 첨단 AI 칩·모델을 수입하는 데에는 영향이 없을 것”이라고 설명했다. 다만, 한국에 소재한 기업·기관·개인이더라도 미국이 지정한 무기 금수국에 본사를 두고 있으면 허가가 면제되지 않으므로 주의가 필요하다. 정부는 이번 미국 조치를 면밀하게 분석하고 국내 업계에 미칠 수 있는 영향을 최소화하기 위한 노력을 지속하는 한편, 앞으로도 미국 측과도 반도체 공급망 안정과 수출통제 관련 협력을 긴밀히 진행해 나갈 계획이다.

2025.01.13 21:30주문정

서부발전, AI·빅데이터·회계·감사 등 전문가 5명 감사자문위원 위촉

서부발전이 내부감사 품질을 높이기 위해 인공지능(AI)·빅데이터, 회계·감사, 경영, 법무 분야 등 다양한 분야의 전문가를 자문위원으로 위촉했다. 한국서부발전은 10일 서울 강남 한국발전공기업협력본부에서 제6기 감사자문위원을 위촉하고 실무회의를 개최했다고 밝혔다. 감사자문위원회는 공공감사에 관한 법률에 근거해 다양한 분야 전문가 자문을 통해 내부감사 활동에 대한 전문성과 신뢰성을 확보하기 위해 운영되는 회의체다. 이날 위촉된 자문위원은 AI·빅데이터, 회계·감사, 경영, 법무, 직무·역량 분야의 전문가 5명이다. 이들 전문가는 지난 제5기 감사자문위원으로 활동한 결과, 탁월한 식견과 전문성을 인정받아 다시 한번 감사자문위원의 역할을 맡게 됐다. 이어진 회의에서는 지난해 서부발전의 자체 감사 활동 실적과 청렴도 평가 결과를 공유하고 올해 감사계획과 관련한 주요 감사 초점과 청렴도 향상 실천 방안 등의 자문이 이뤄졌다. 서부발전은 자문위원 의견을 감사 활동 전반에 반영하고 자료수집·조사·결과보고서 작성·처분 요구 등 감사 진행 과정에서 수시로 자문을 구해 감사 완결성을 높일 계획이다. 송재섭 서부발전 상임감사위원은 “회사 주요 사업과 현안을 깊이 이해하는 전문가 자문을 구하기 위해 재위촉을 요청했고 이에 응해준 위원들에게 감사의 말씀을 전한다”며 “자문위를 통해 공정하고 투명한 감사는 물론 효율적 내부통제시스템 구축을 통한 예방적 정책감사를 실현하겠다”고 말했다.

2025.01.10 15:46주문정

美, 3개 그룹별로 AI칩 수출 통제…韓 예외

퇴임을 열흘 앞둔 조 바이든 미국 대통령이 엔비디아 제품을 비롯한 미국산 인공지능(AI) 반도체 수출을 통제한다고 8일(현지시간) 미국 블룸버그통신이 보도했다. 미국 정부는 지난달 이미 AI 반도체에 필요한 고대역폭메모리(HBM)를 중국에 수출하지 못하게 했다. 블룸버그에 따르면 미국은 세계 모든 데이터센터에서 쓰는 AI 칩을 자국과 우방국만이 개발하고, 세계 모든 기업이 미국 표준에 맞춰야 한다는 입장이다. 미국 정부는 3개 등급으로 국가를 나눠 미국산 AI 반도체 취급 범위를 정했다. 미국과 그 동맹국은 1단계다. 미국산 칩에 자유롭게 접근할 수 있다. 미국과 아울러 한국·일본·대만·독일·네덜란드 등 18개국이 포함된다고 소식통은 전했다. 미국 동맹국을 뺀 대부분 국가가 해당하는 2단계는 받을 수 있는 미국산 칩 개수가 제한된다. 소식통은 2027년까지 나라별로 그래픽처리장치(GPU) 5만개를 얻을 수 있다고 내다봤다. 3단계는 미국의 적국이다. 북한과 러시아, 중국 등 20개국의 데이터센터로 미국산 칩을 보낼 수 없다. 다만 이들 나라에 본사를 둔 회사가 미국 정부의 보안 사항과 인권 기준에 동의하면 미국산 칩을 수입할 수 있다고 소식통은 설명했다. 미국 반도체 업계는 반대했다. 엔비디아는 특히 세계 대부분 지역으로 수출이 막힌다며 경제 성장과 미국 리더십을 위협할 것이라고 주장했다. 미국반도체산업협회는 "업계 의견 청취 없이 이토록 중요한 정책을 대통령이 바뀔 즘 서둘러선 안 된다"며 "이를 바로잡아야 미국이 세계에서 이길 수 있다"고 강조했다. 미국 정부는 이르면 10일 이같은 내용을 발표할 것으로 블룸버그는 전망했다.

2025.01.09 14:37유혜진

체크포인트 "AI 도입 가속에도 각 기업 거버넌스 인식 격차 여전해"

인공지능(AI)과 머신러닝(ML)이 사이버 보안 분야에서 점점 더 중요하게 여겨짐에도 불구하고 기업들이 AI 거버넌스 전환에 충분히 준비하지 못한 것으로 파악됐다. 26일 체크포인트 소프트웨어 테크놀로지스가 발표한 연구 보고서에 따르면 전 세계 기업 사이버 보안 전문 담당자 813명 중 61%가 AI 및 ML 도입을 계획하거나 개발 중인 단계에 있다고 답했다. 그럼에도 내부 통제 및 거버넌스 정책의 중요성에 대한 인식은 여전히 부족한 것으로 나타났다. AI 도입의 주요 장점으로 취약성 평가와 위협 탐지가 꼽혔다. 그럼에도 많은 기업들은 빠르게 변화하는 규제 환경과 관련된 어려움으로 인해 도입 속도가 더딘 것으로 나타났다. 특히 AI와 사이버 보안 관련 법률과 규정이 여전히 발전 중인 상황에서 규정 준수는 기업들에게 큰 부담으로 작용하고 있다. 이번 조사에 따르면 응답자 중 91%는 AI 도입을 조직의 우선순위로 삼고 있지만 이 중 많은 이들이 여전히 AI 통합과 관련된 기술·거버넌스 문제를 해결하지 못하고 있었다. 또 많은 이들이 AI를 통한 반복 작업 자동화나 동적 보안 포스처 관리가 가능할 것이라고 높게 평가했으나 실제로 이를 구현하는 기업은 적은 것으로 나타났다. AI가 기업의 인력에 미치는 영향에 대해 응답자들은 엇갈린 반응을 보였다. 일부는 AI로 인해 인력 규모가 줄어들었다고 답했으나, 또 다른 일부는 오히려 AI를 통합하는 과정에서 더 많은 인력이 필요하다고 말했다. 또 많은 기업들이 AI와 관련된 데이터 품질과 거버넌스 정책의 중요성을 간과하고 있다는 점에서 우려의 목소리가 나타났다. 일부 응답자들은 내부 통제 없이도 AI를 도입할 수 있다고 생각했지만 다른 응답자들은 이에 동의하지 않았다. 체크포인트 관계자는 "성공적인 AI 구현을 위해서는 신중한 통합과 거버넌스가 필요하다"며 "AI가 제공할 수 있는 효율성과 정확성을 구현하려면 기업은 전략적 컨설팅 서비스를 활용하고 기존 시스템과 프로세스에 AI를 신중하게 통합해야 한다"고 밝혔다.

2024.09.26 17:43조이환

생성형 AI는 과연 투명해질 수 있을 것인가

우리 정부는 인공지능(AI) 개발이 지향해야 할 가치로 세 가지를 꼽는다. 안전·포용·혁신. 강도현 과학기술정보통신부 2차관은 지난 달 29일(현지시간) 스위스 제네바에서 열린 '선의를 위한 인공지능(AI for Good) 글로벌 정상회의 2024' 행사에서 “AI는 사람을 중심으로 해야 한다”며 이를 강조했다. 안전·포용·혁신은 그 전주에 열린 'AI 서울 정상회의'에서 각국 정상이 합의한 지향이기도 하다. 세 가지 가치 중에서 현재 가장 뜨거운 것은 혁신이다. 혁신은 기술과 비즈니스 모델 개발에 방점이 찍혀 있다. 2022년 11월 챗GPT 출시 이후 AI가 인류의 최대 핫 기술이 된 것을 의심하는 사람은 없다. 많은 나라가 명운을 걸고 AI 산업 진흥에 국가 대항전을 펼치고 있으며, 기업도 사활이 걸린 문제로 인식하고 있다. 그중에서도 AI 모델과 이를 가능하게 할 AI 반도체 개발 경쟁이 치열하다. 혁신이 기술과 산업의 영역이라면 포용은 정치의 몫이다. AI 기술이 주목되는 까닭은 그것을 가진 자와 못 가진 자의 격차가 크게 벌어질 것이라는 게 자명하다는 데 있다. 그 격차는 사회적 혼란을 부른다. 이 혼란을 줄이기 위해서는 기술 발전으로 인한 혜택을 넓혀야 한다. 일자리 변화에 대한 대책을 세우고, 새로운 시대에 맞게 교육도 해야 한다. 산업보다는 정치가 담당해야 하는 역할들이다. 안전은 기술의 문제로 인식되곤 한다. 현재 AI와 관련된 안전 문제로 거론되는 사안은 시스템 오류, 편견, 조작, 무기화 등이다. 시스템 오류의 경우 기술이 갖는 비완벽성이라는 일반적 한계이고 편견의 경우 잘못된 학습으로 나타난 AI의 고유한 오류다. 조작과 무기화는 AI 기술 자체의 문제라기보다 이를 운용하는 인간의 문제다. 여하튼 이 모든 것을 기술로 해결해야 한다는 믿음이 있는 듯하다. 안전 문제는 그런데 기술 사안이기도 하면서 근본적으로는 철학의 영역이기도 한 것 같다. 정상회의의 테마가 '선의를 위한 인공지능(AI for Good)'이라는 게 예사롭지 않다. '선의(Good)'라는 것은 구체적으로 무엇을 의미하는 것일까. AI 자체에 의지(will)가 있고 그래서 착한 의지를 가진 AI를 개발해야 한다는 것일까, 아니면 이를 개발하고 사용하는 사람이 착한 마음을 갖게 해야 한다는 것일까. “AI는 사람을 중심으로 해야 한다”는 명제를 던진 것으로 보아 아마 후자 쪽에 더 무게를 둔 것 같다. AI는 도구에 불과한 것이고 그러므로 사람을 해치는 데 쓰지 말고 사람을 이롭게 하는 데 사용하도록 서로 합의하자는 의미겠다. AI 안전 문제 가운데 조작과 무기화를 세계적인 차원에서 각국 정부가 통제하자는 말도 된다. AI를 개발할 때 편견을 줄이도록 기업들에 독려하는 것도 포함될 듯하다. 안전은 곧 통제인 셈이다. 그런데 여기서 떨치기 어려운 의문이 하나 생긴다. 인간이 AI를 통제할 수 있는가의 문제다. 통제는 어떻게 가능한가. 통제 대상을 투명하게 만들 수 있어야 가능하다. 결국 AI를 투명하게 해야 통제가 가능하다. 그런데 AI는 두 가지 점에서 본질적으로 불투명하다. 하나는 불투명한 사람이 AI를 조종한다는 점이고, 다른 하나는 AI 자체가 투명할 수 없는 기술이라는 거다. 인간의 뇌는 불투명하다. 뇌를 해부할 수는 있어도 뇌의 작동을 통제할 수는 없다. 불투명하기 때문이다. 뇌가 불투명해서 믿을 수 없는 인간을 통제하기 위해 만든 게 도덕과 법과 종교 등이다. 뇌는 불투명하지만 행동은 투명하기 때문이다. 자연도 불투명하다. 불투명한 것은 위협적이다. 자연의 위협을 극복하려고 개발한 것이 과학기술이다. 지금까지 모든 과학기술은 투명했다. 통제 가능했다. AI는 인간이 개발한 기술 가운데 유일하게 불투명한 것이다. AI의 기술적 진화 방향은 인간의 뇌를 닮는 것이고 퍼포먼스에서 인간의 뇌를 뛰어 넘는 것이다. 불투명의 극한으로 가는 것이다. 그런데 AI를 진화시키기 위해서 인간은 더 투명해져야 한다. 인간의 모든 지성과 행위를 숨김없이 AI에게 보여야 하기 때문이다. AI에게 인간은 유리처럼 투명해지고 인간에게 AI는 알 수 없는 미궁인 것이다. 공평은 어쩌면 뇌가 불투명한 존재끼리 투명의 정도를 비슷하게 맞추어가는 과정을 의미할지도 모른다. 어느 한 쪽만 투명하다면 하나의 시선만 남는다. 검사와 범죄자처럼 일방적인 관계가 된다. 신뢰란 불투명한 존재끼리 서로 믿는 일이다. 투명해야 믿는 것은 신뢰가 아니다. 그건 통제다. 신뢰하지 않기 때문에 투명을 요구하는 것이다. AI와 인간은 공평할 수 없다. 그것이 안전 문제 본질이다.

2024.06.03 11:12이균성

  Prev 1 Next  

지금 뜨는 기사

이시각 헤드라인

[단독] "헝그리판다 전자담배 판매 청소년보호법 위반"

하정우 AI수석 "앞으로 3~5년 'AI 골든타임', 국가경쟁력 기여하겠다"

악성코드 없이 공격하는 '고스트 해커' 떴다…"보안 자동화 필수"

'민생 추경' 20조 투입…전국민에 최소 15만원 지급해 경기진작

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현