ZDNet 검색 페이지

'IAAE'통합검색 결과 입니다. (12건)

국제인공지능윤리협회, 경북 청소년 AI 경연 개최…"기술 이해하는 세대가 이긴다"

국제인공지능윤리협회(IAAE)가 경북 지역 청소년을 대상으로 생성형 인공지능(AI)을 활용한 창의력 경연대회를 연다. AI의 윤리적 활용 역량을 조기에 길러 교육 격차를 줄이고 기술 친화적 학습 문화를 정착시키겠다는 포부다. 국제인공지능윤리협회는 다음달 5일 경북 안동국제컨벤션센터에서 '생성형 AI 크리에이티브 경연대회'를 개최한다고 14일 밝혔다. 본 행사는 안동시와 한국정신문화재단이 주최하고 EBS와 안동국제컨벤션센터가 공동 주관하는 '2026 진학 드림캠퍼스 IN 안동'의 일환으로 진행된다. 이번 대회는 안동·경북 지역의 예비 고등학생 및 고등학교 재학생을 대상으로 하며 선착순 50팀을 모집한다. 팀은 개인 또는 2인 1팀으로 구성 가능하며 참가자는 사전교육을 수료한 뒤 예선과 본선, 심사를 거쳐 시상받게 된다. 총 10개 팀이 수상 대상으로 선정되며 수상자에게는 안동시장상, EBS 사장상, 국제인공지능윤리협회 이사장상, 장려상 등이 수여된다. 비수상자 전원에게도 참가상이 지급되며 수상작은 협회 홈페이지에 전시돼 우수 사례로 소개된다. 참가 신청은 국제인공지능윤리협회 홈페이지를 통해 가능하며 생성형 AI에 대한 기본 교육부터 시작해 실제 창작까지 이어지는 구조로 설계됐다. 협회 측은 기술 습득과 함께 윤리적 판단 능력을 함께 키울 수 있도록 구성했다고 밝혔다. 이번 경연은 지역 청소년에게 AI를 활용한 실전 경험을 제공하는 동시에 급변하는 교육 환경 속에서 균형 잡힌 AI 리터러시 교육 모델을 실험하는 시도로 평가된다. 생성형 AI의 비약적 확산에 따라 지역 간 교육 기회의 편차를 줄이려는 취지도 있다. 본 경연이 포함된 'EBS와 함께하는 2026 진학 드림캠퍼스 IN 안동' 행사는 지역 학생과 학부모를 위한 입시 전략 설명회 성격의 행사다. 이 자리에서는 EBS 진학 전문 교사의 맞춤형 대학입시 상담, 국영수 학습 전략 강연, 고교학점제 및 대입 설명회, 과학커뮤니케이터 '궤도'의 진로 특강 등 기타 프로그램도 함께 운영된다. 전창배 국제인공지능윤리협회 이사장은 "생성형 AI는 이제 일상과 교육 현장에서 빠질 수 없는 도구가 됐다"며 "이번 대회를 통해 학생들이 AI와 협업하는 방법을 배우고 윤리적 인식을 갖춘 미래 인재로 성장하길 기대한다"고 밝혔다.

2025.06.14 21:15조이환

과기정통부-AI 안전연구소, AI 주도권 전략 공개…"산업·리스크 동시 대응"

인공지능(AI) 기술이 국가 전략의 중심축으로 부상한 가운데 정부기관이 기술 리스크와 산업 경쟁력 양면을 짚는 자리가 마련됐다. AI 인프라 확충과 인재 육성에 나선 정부, 기술 신뢰성과 안전 기준을 제시한 연구기관 모두 '위험 관리'를 전제로 한 성장 전략에 공감대를 드러냈다. 국제인공지능윤리협회(IAAE)는 27일 서울 강남구 구글 스타트업 캠퍼스에서 '2025 AI 세이프티 컴퍼스(ASC)' 컨퍼런스를 개최했다. 이날 행사에는 과학기술정보통신부(과기정통부)와 AI 안전연구소를 비롯해 LG유플러스, 주요 스타트업 등 공공과 민간 주요 주체들이 참여했다. 이날 공공부문 발표에서는 공진호 과학기술정보통신부 인공지능기반정책과장이 정부의 AI 육성 전략과 인프라 투자 방향을 설명했다. 이어 김명주 AI 안전연구소장이 기술 리스크 분류 체계와 글로벌 안전 기준 정립의 필요성을 짚었다. 과기부 "GPU·인재·모델 3축 강화…1.9조로 산업기반 재편할 것" 이날 '대한민국의 AI 정책 대응'을 주제로 발표에 나선 공진호 과학기술정보통신부(과기정통부) 인공지능기반정책과장은 글로벌 경쟁 환경에서 한국이 직면한 현실과 정부의 대응 전략을 짚었다. 공 과장은 발표 서두에서 딥시크 등장 이후 AI 패권 경쟁이 새로운 국면으로 접어들었다고 진단했다. 미국의 '스타게이트' 프로젝트, 유럽연합(EU)과 프랑스의 대규모 투자 발표, 중국의 기술 진보 등을 언급하며 글로벌 주도권 경쟁이 양적 확대를 넘어 질적 전환기에 접어들었다고 분석했다. 그는 "한국의 현주소를 두고 보면 미국과 중국 등 선도국과는 여전히 격차가 존재한다"면서도 "자체 모델 개발 수, 특허와 논문 성과 등을 고려할 때 싱가포르, 이스라엘, 프랑스 등과 함께 3위권 수준의 경쟁력은 확보하고 있다"고 평가했다. 이 격차를 좁히기 위한 첫 번째 대응으로 정부는 AI 컴퓨팅 인프라 확충에 나선다. 광주 AI 데이터센터를 중심으로 엔비디아 'H100' 그래픽처리장치(GPU) 416장을 확보해 임대 공급할 예정이며 민간 클라우드 자원까지 동원해 연내 총 1만 장 이상을 확보하겠다는 계획이다. 정부는 국산 AI 반도체 생태계 구축에도 힘을 싣는다. 퓨리오사, 리벨리온 등 국내 기업 중심으로 실증 프로젝트를 추진해 오는 2030년까지 국산 반도체 활용 비중을 절반 이상으로 끌어올리겠다는 목표다. 이와 함께 AI 인프라 투자에 대한 세제 혜택도 대폭 확대된다. 또다른 축은 차세대 모델 개발이다. '월드 베스트 거대언어모델(LLM)' 프로젝트를 통해 경쟁력 있는 팀을 선발하고 여기에 GPU, 데이터, 인재 등 핵심 자원을 집중 투입한다. 3년 내 글로벌 상위권 LLM을 확보한다는 목표다. 이와 연계해 AI 챌린지도 개최된다. 고급 인재 확보를 위한 전략도 제시됐다. 뉴욕대와 협력해 만든 '글로벌 프런티어 랩'을 시작으로 유럽과 중동으로 거점을 확대하고 실무형 인재 양성을 위한 이노베이션 아카데미와 AI 융합대학원 설립도 추진된다. 해외 우수 인재 유치를 위한 인센티브 설계도 병행된다. 산업 전환 지원도 주요 정책 중 하나다. 제조, 의료, 법률, 문화 등 다양한 분야에서 공공수요를 기반으로 AI 도입을 촉진하고 수요기업과 공급기업의 매칭을 통해 생태계를 활성화한다는 구상이다. 이를 위해 여러 부처와 공동으로 대규모 플래그십 프로젝트도 준비 중이다. 1조9천억원 규모의 AI 추경 예산에 대한 세부 집행 계획도 공개됐다. GPU 확보에 1조6천억원, 반도체 실증에 900억원, 정예팀 LLM 지원에 2천억원, 인재 육성 프로그램에 400억원, 벤처 캐피털(VC) 연계 펀드에 1천억원 등으로 세부 배분이 이뤄진다. 공진호 과기정통부 과장은 발표를 마치며 "내년에 시행되는 AI 기본법은 산업 진흥과 신뢰 확보를 균형 있게 담은 법안"이라며 "고영향 AI에 대한 고지 의무와 사업자 책임 등을 중심으로 한 규제 조항은 하위 법령에서 구체화될 예정"이라고 밝혔다. 이어 "업계 부담 최소화를 최우선으로 법령 설계를 진행 중"이라고 강조했다. AI 안전연구소 "AI 리스크 해소는 경쟁력…英과 보안 협력 확대한다" 이어 발표에 나선 김명주 AI 안전연구소장은 AI 기술의 위험성과 이를 둘러싼 국제적 대응 흐름을 짚으며 기술 안전성과 사회적 신뢰 확보의 필요성을 강조했다. 그는 AI 위험을 단순한 규제 이슈가 아닌 '글로벌 경쟁력의 조건'으로 봐야 한다고 봤다. 김 소장은 '챗GPT' 등장 이후 AI 기술의 파급력이 전통적 거대 기업의 질서를 뒤흔든 과정을 되짚으며 발표를 시작했다. 오픈AI가 만든 기술이 구글의 검색 패러다임을 위협한 사례를 통해 예측 불가능한 기술 변화가 산업과 정책의 균형을 흔들 수 있음을 경고했다. AI 시스템의 잠재적 리스크에 대한 국제적 분류 기준도 소개됐다. 김 소장에 따르면 EU는 시스템 위험 수준에 따라 AI를 구분하고 있으며 특히 'GPT-4' 수준의 고성능 모델은 '시스템 리스크'로 분류된다는 점에서 제도적 대응이 시급하다 그는 영국, 미국, MIT 등 주요 기관들의 리스크 정의도 언급했다. 단순한 기술적 오류를 넘어서 악용 리스크, 사회적 불평등 심화 등 다차원적 위험 요소가 존재하며 AI 리스크는 정량적 분석과 경험 기반 데이터 축적을 통해 관리돼야 한다는 것이다. 김 소장은 "우리 연구소 역시 '리스크 맵'을 구축하는 작업을 시행하고 있다"며 "MIT와 협업해 축적한 1천700여 개 사례를 기반으로, 기술·의도·사고 시점에 따른 분류 체계를 수립 중이며 이를 통해 구체적인 평가 도구와 안전 보고서를 생산하고 있다"고 설명했다. AI 평가 방식에 대해서도 언급됐다. 연구소는 물리적 제품, 임베디드 모델, 챗봇 등 다양한 형태의 AI에 대해 실제 사용 맥락에서 리스크를 분석하고 전담 인력이 결과를 검토하거나 AI 기반 평가 도구로 통합 평가를 수행하는 체계를 갖추고 있다. 특히 외국계 모델에 대한 검증 사례도 소개됐다. 중국 딥시크의 정치적 편향 사례를 예로 들어 불완전한 AI를 활용할 경우 발생할 수 있는 오용 가능성과 편향 전파 리스크를 지적하고 이를 중화시키는 파인튜닝 기법 등을 연구소가 제공하고 있다고 밝혔다. 이 과정에서 AI 개발사와 협약을 맺고 기밀 유지 하에 평가를 진행한다. 김 소장은 "우리는 '규제자'가 아닌 '조력자'로서의 역할을 수행한다"며 "국내 기업이 글로벌 수준의 안전 기준을 갖추고 기술 수출 경쟁력을 확보할 수 있도록 지원하는 기능에 방점을 찍었다"고 말했다. 향후 역할 확대 가능성에 대해서도 입장을 밝혔다. 영국 AI안전연구소처럼 '보안'과 '안보' 기능까지 포괄할지에 대한 기자의 질문에 김명주 AI 안전연구소장은 "지난번 파리 정상회담에서 영국 AI 안전연구소 측과 만나 들은 바에 따르면 이 조직도 인력 부족을 겪어 선택과 집중 중"이라며 "우리는 일단 안전이 가장 포괄적 개념으로, 명칭과 구조는 유지할 예정"이라고 말했다. 이어 "영국과 보안 분야 전략적 협력 추진 중으로, 내부적으로도 관련 인력 보강과 기능 확대를 계획하고 있다"고 밝혔다.

2025.05.27 17:21조이환

[현장] "AI 도입, 기술만큼 신뢰·안전도 중요"…기업이 갖춰야 할 조건은?

국내 인공지능(AI) 기업들이 생성형 AI 도입에 있어 기술만큼이나 신뢰성과 안전성을 우선 과제로 제시했다. 국제인공지능윤리협회(IAAE)는 27일 서울 삼성동 구글 스타트업 캠퍼스에서 '2025 AI 세이프티 컴퍼스(ASC) 컨퍼런스'를 개최했다. '변화하는 AI 환경에서의 기업 경쟁력 확보'를 주제로 열린 이번 행사에는 셀렉트스타, LG유플러스, 원티드랩, AI3 등 공공·민간 주요 조직들이 참여했다. 이날 황민영 셀렉트스타 부대표는 생성형 인공지능(AI)을 도입할 때 핵심은 기술력 자체보다 신뢰성과 안전성을 정량적으로 평가하고 관리할 수 있는 체계를 갖추는 데 있다고 강조했다. 특히 산업 특성과 조직의 정책에 맞춘 맞춤형 벤치마크와 '레드팀' 검증이 도입 여부를 좌우하는 만큼, 단순한 모델 성능보다 사전 평가 체계의 구축이 더 시급하다고 진단했다. 황 부대표는 LLM 평가 방식으로 크게 세 가지 접근법을 제시했다. 객관식 기반의 벤치마크인 '자동평가', 사람이 직접 점수를 매기는 '휴먼 평가', 모델이 다른 모델을 평가하는 LLM 기반 평가다. 현업에서는 이 세 방식을 혼합해 쓰고 있으며 시험지처럼 만드는 벤치마크는 빠르고 효율적이고 LLM 평가는 반복 작업을 대체하는 수단으로 유용하다. 또 그는 기업의 도입 결정에서 신뢰성 문제로 LLM을 도입하지 못하는 경우가 빈번하다는 점을 지적했다. 대기업 챗봇이 경쟁사 제품을 추천한 사례나 해외 항공사 챗봇이 잘못된 가격 정보를 안내해 법적 책임을 지게 된 사례처럼 잘못된 출력으로 인한 금전적·법적 손해가 현실화되고 있다는 것이다. 이같은 문제를 해결하려면 도입 전 신뢰성 검증 체계가 필수적이라는 게 황 부대표의 판단이다. 기업별 정책과 업무 목적에 따라 정확성·정책 적합성·유해성 등 다양한 기준을 사전에 마련하고 반복 검증을 통해 모델의 응답 수준을 평가해야 한다는 것이다. 여기에 더해 위장된 질문을 활용해 잠재적 위험 발화를 사전에 탐지하는 '레드팀' 방식의 검증도 병행해야 한다. 셀렉트스타는 지난 2018년 설립된 이후 이 같은 과제를 해결하기 위해 평가 데이터셋 구축, 레드팀 챌린지 운영, 맞춤형 테스트 설계 등을 수행해 왔다. 최근에는 자동화 솔루션 '다투모 이밸(DATUMO eval)'을 통해 기업별 LLM을 체계적으로 검증하고 있다. 황민영 셀렉트스타 부대표는 "AI가 답변을 잘 요약했는지, 정책을 따랐는지, 위험한 말을 했는지를 평가할 수 있는 기준과 매트릭스를 기업 스스로 구성해야 한다"며 "생성형 AI 도입은 더 이상 기술이 아닌 책임과 평가의 문제로 넘어갔다"고 덧붙였다. 이날 또다른 발표를 진행한 주형민 원티드랩 AX사업 총괄은 생성형 AI 도입은 기술이 아닌 통제와 책임의 문제라고 강조했다. 기술보다 조직 구조, 거버넌스 체계 정비가 우선이라는 주장이다. 주 총괄은 최근 기업들이 AI를 주요 업무에 활용하면서 에이전트 기반의 구조로 급속히 전환하고 있다고 밝혔다. 이 과정에서 오류가 누적될 경우 전체 시스템 신뢰도를 갉아먹을 수 있다고 경고했다. 그는 "복수 에이전트의 조합은 작은 오류도 누적되면 전체 리스크로 이어진다"며 "기술 성능보다 중요한 건 데이터 흐름 추적과 운영 통제"라고 강조했다. 원티드랩은 이를 반영해 에이전트 통계, 요금 통제, 사용 이력 관리 등 통제 기능을 자체 플랫폼에 구축한 상태다. 특히 민감정보 대응과 내부 사용 통제를 핵심 기능으로 삼았다. 주형민 총괄은 "AI 전담조직도 역할을 바꿔야 한다"며 "AI는 누구나 쓸 수 있어야 하며 구조가 이를 뒷받침해야 한다"고 강조했다. 이어 발표를 진행한 한영섭 LG유플러스 AI테크랩장은 AI 확산 논의가 생산성과 효율에 치우쳐 있다며 안전과 신뢰에 대한 논의가 병행돼야 한다고 강조했다. 한 테크랩장은 "AI가 실제로 도움이 되려면 먼저 안심하고 쓸 수 있어야 한다"고 말했다. 이같은 목표를 달성하기 위해 LG유플러스는 '어슈어드 인텔리전스'를 핵심 전략으로 제시했다. AI가 만든 음성을 판별해 보이스피싱 등 음성 기반 범죄를 차단하는 '안티 디보이스', 통화 내용을 서버로 전송하지 않고 기기 내에서만 처리하는 '온디바이스 LLM', 양자암호 기반의 통신 보안 기술이 그 축이다. 이 전략이 적용된 대표 서비스가 통화 에이전트 '익시오(XiO)'다. 스팸 응답, 음성 분석, 보이스피싱 탐지 기능을 AI가 수행하지만 개인정보는 모두 단말기 안에서만 처리된다. 또 AI가 생성한 텍스트나 음성, URL 링크를 탐지해 위험 여부를 사전에 차단하는 기능도 함께 개발 중이다. 한 단장은 "AI의 위협을 AI로 막는 구조가 필요하다"며 "기술적 대응은 매우 중요하다"고 역설했다. LG유플러스는 그룹 AI 연구원과 협력해 자체 LLM '익시젠(XiGen)'도 운영 중이다. 기존 엑사원 모델을 기반으로 산업별 도메인에 특화한 경량 LLM을 개발하고 있으며 스마트폰 등 디바이스 탑재를 목표로 상용화를 추진 중이다. 한영섭 AI테크랩장은 "AI가 만든 콘텐츠를 알아채지 못하는 상황이 곧 현실이 될 것"이라며 "AI의 확산과 함께 신뢰 체계를 구축하는 것도 기업의 책임"이라고 말했다.

2025.05.27 15:46조이환

[현장] IAAE, AI 윤리 산업 컨퍼런스 개최…"기업, 안전 확보해야 경쟁력 따른다"

국제인공지능윤리협회(IAAE)가 기업 경쟁력 관점에서 인공지능(AI) 윤리를 조망하는 만남의 장을 열었다. 빅테크부터 스타트업, 공공기관까지 AI 시대의 생존 전략을 재정립하기 위해서다. IAAE는 27일 서울 강남구 구글 스타트업 캠퍼스에서 '2025 AI 세이프티 컴퍼스(ASC)' 컨퍼런스를 개최했다. 이번 행사는 내년 시행 예정인 AI 기본법을 앞두고 마련됐으며 과학기술정보통신부, AI 안전연구소(AISI), LG유플러스 및 주요 스타트업 등이 참여했다. 행사 주제는 '변화하는 AI 환경에서의 기업 경쟁력 확보'로, 단순한 법제 논의를 넘어 산업 현장의 실제 이슈를 다루는 데 초점이 맞춰졌다. 빅테크와 공공의 'AI 안전' 접근 방식이 충돌하는 상황에서 비영리 윤리기관이 조정자로 나섰다는 점에서 주목된다. 행사 운영은 테크 스타트업 PR 전문 에이전시인 팀쿠키가 맡았으며 프로그램은 공개 패널토론과 현장 사례 중심으로 구성됐다. 전창배 국제인공지능윤리협회 이사장은 이날 개회사를 통해 AI 기술과 산업 진흥이 차기 대통령 선거의 주요 공약으로 떠오른 상황에서 대부분 후보들이 'AI 강국'을 지향하고 있다는 점에 주목했다. 다만 기술 투자에 대한 공감대와 달리 AI 윤리와 안전에 대한 논의는 여전히 부족하다고 지적했다. 전 이사장은 "기술 투자에 반대할 사람은 없지만 윤리와 안전이 뒷받침되지 않으면 글로벌 시장에서 우리 경쟁력이 진정으로 인정받기 어렵다"며 "기술과 윤리는 어느 하나를 우열로 나눌 수 없는 문제"라고 강조했다. 그는 오픈AI, 구글, 앤트로픽 등 주요 글로벌 기업들이 AI 제품 출시 전 윤리 검증과 가치 정렬, 품질 검사를 철저히 거치는 사례를 언급하며 기술만 앞세운 접근 방식은 더 이상 유효하지 않다고 판단했다. 이어 올해 초 제정된 AI 기본법이 내년 1월부터 시행되는 만큼 정책의 실제 이행 여부가 기업 경쟁력에 직결될 것이라고 봤다. 전창배 IAAE 이사장은 "선거 이후 어떤 후보가 당선되더라도 AI 기본법의 원칙을 구체적 정책으로 연결해야 한다"며 "이번 행사가 정부와 산업계 모두에게 실질적 방향성을 제공하는 계기가 되기를 바란다"고 말했다. 이어 환영사를 진행한 임기태 팀쿠키 부대표는 지난해에 이어 올해도 행사를 후원한 이유에 대해 설명했다. 그는 협업을 통해 AI의 강력한 가능성을 직접 체감했고 그 과정에서 기술의 사회적 책임에 대한 고민도 깊어졌다고 밝혔다. 임 부대표는 "신뢰할 수 있는 AI란 무엇인가, 안전하면서도 유용한 AI를 구현하려면 어떤 원칙이 필요한가에 대한 논의의 장이 필요하다고 판단했다"며 "기술을 만드는 분들과 정책을 설계하는 분들 모두가 지속 가능한 AI에 대해 입체적이고 실질적인 이야기를 나누는 자리가 되길 바란다"고 말했다. 더불어 그는 팀쿠키가 IAAE와 업무협약을 체결하며 산업과 윤리 사이의 가교 역할을 자처해 왔다고 설명했다. 이번 컨퍼런스 역시 이 연장선에서 민간-공공, 기업과 학계가 머리를 맞대는 공동 논의의 장으로 기획됐다고 덧붙였다. 임기태 팀쿠키 부대표는 "공공, 기업, 학계 전문가들이 한자리에 모인 만큼 귀중한 인사이트를 나누고 건설적인 이정표를 함께 만들어나가는 계기가 되길 기원한다"고 강조했다.

2025.05.27 11:08조이환

국내 첫 'AI안전윤리 인증제도' 시행…'챗GPT' 기반 챗봇, 1호 인증받아

국내에서 민간 주도의 인공지능(AI) 안전윤리 인증제도가 처음으로 도입됐다. AI 기술 상용화에 속도가 붙는 가운데 기업의 윤리적 리스크를 줄이고 소비자 신뢰를 확보하기 위한 시도다. 국제인공지능윤리협회(IAAE)는 'AI안전윤리 인증제도'를 시행하고 첫 인증 대상으로 '고도원의 아침편지 AI챗봇'을 선정했다고 18일 밝혔다. 이 챗봇은 오픈AI의 '챗GPTs' 기반으로 개발돼 민간 인증 1호 사례로 기록됐다. 인증제도는 인공지능의 안전성·윤리성·신뢰성을 종합적으로 검증하는 구조다. 국제 규격에 따라 개발 전 과정에서 AI 시스템이 사회적 기준을 충족하는지 평가한다. 심사는 협회 산하 'AI안전윤리인증센터'에서 맡는다. 심사원들은 국제표준화기구(ISO)의 'ISO 42001' 기준에 따라 선임심사원 자격을 갖춘 전문가들로 구성돼 있다. 검증 항목은 개인정보 보호와 알고리즘 편향 방지, 투명성, 시스템 안정성 등 윤리적 요소 전반이다. AI 시스템의 설계부터 운영까지 전주기를 대상으로 한다. 1호 인증을 받은 '고도원의 아침편지 AI챗봇'은 23년간 운영된 뉴스레터 콘텐츠를 기반으로 개발됐다. 상담과 조언, 일상 대화를 제공하는 'GPTs' 서비스로, 기존 사용자 경험을 AI 기술로 확장한 사례다. 협회는 올해 안에 10곳 이상을 대상으로 시범인증을 추가로 시행하고 연말부터 본인증 절차에 들어간다. 자체 인증 표준도 연내 공개해 기업과 공공기관의 대응을 지원할 계획이다. 전창배 IAAE 이사장은 "AI 기술이 사회적으로 수용 가능한 방식으로 활용되도록 만드는 것이 제도의 핵심"이라며 "소비자와 기업 모두가 안심하고 AI를 신뢰할 수 있는 환경을 조성하는 데 목적이 있다"고 밝혔다.

2025.05.18 15:15조이환

"AI가 법 집행, 안심할 수 있을까"… '슬기로운 AI생활' 컨퍼런스 출범

국제인공지능윤리협회가 인간과 인공지능(AI) 로봇의 공존을 주제로 한 만남의 장을 출범시켰다. 기술 진화에 따른 사회적·윤리적 대응을 모색하려는 의도다. 국제인공지능윤리협회는 지난달 30일 '슬기로운 AI생활 온라인 컨퍼런스'를 개최했다고 11일 밝혔다. 행사는 커뮤니케이션북스, AI코리아커뮤니티와의 공동 주관 하에 줌(Zoom)을 통해 실시간으로 진행됐다. 시민, 전문가, 학생 누구나 무료로 참여할 수 있는 형태로 열렸다. 이번 컨퍼런스는 '인간을 닮아가는 AI 로봇의 진화와 위협'을 주제로, '커뮤니케이션북스 인공지능 총서' 저자들이 강연자로 나섰다. AI 기술의 현재와 미래, 그리고 인간과의 공존 가능성에 대한 다각도의 논의가 이뤄졌다. 첫 발표를 맡은 정채연 포항공과대학교 교수는 "AI가 윤리를 배운다면 인간은 여전히 특별한가"를 주제로 AI 로봇과 휴머니즘의 관계를 탐색했다. 이어 송진순 동아대학교 교수는 AI와 로봇경찰의 역할을 중심으로 법집행의 변화 가능성을 다뤘다. 김상득 전북대학교 교수는 인공지능의 도덕성 수용 가능성을 철학적으로 분석했고 정대현 이화여자대학교 명예교수는 로봇종과 자연종 인간의 본질 비교를 통해 AI 시대 인간성의 의미를 되짚었다. 강연 이후에는 실시간 채팅과 사전 질문지를 바탕으로 참가자들과 전문가 간 질의응답이 진행됐다. AI 로봇이 초래할 사회 변화, 책임 소재, 규제 방향 등 실질적 쟁점에 대한 활발한 토론이 이어졌다. 협회는 이번 행사를 시작으로 매월 마지막 주 수요일에 정기 컨퍼런스를 열 예정이다. 오는 28일에는 'AI 에이전트의 등장 : 내 디지털 분신과 공존하는 법'을 주제로 두 번째 컨퍼런스가 열린다. 전창배 국제인공지능윤리협회 이사장은 "AI 기술이 급속도로 발전하면서 우리 모두가 AI를 알고 함께 대응해야 하는 집단지성이 더욱 중요해졌다"며 "이번 컨퍼런스를 통해 시민들이 기술뿐 아니라 윤리와 제도 측면까지 함께 고려할 수 있는 기회를 만들고자 한다"고 밝혔다.

2025.05.11 09:48조이환

국제인공지능윤리협회-행복ICT 맞손…AI로 디지털 격차 해소

국제인공지능윤리협회(IAAE)가 SK 계열 공익법인과 협력해 취약계층의 인공지능(AI) 및 디지털 역량을 키우고 고용 기회를 확대한다. IAAE는 행복ICT와 '인공지능과 인공지능 윤리 분야의 사회공헌 및 공동 협력을 위한 업무협약'을 체결했다고 28일 밝혔다. 이번 협약을 통해 양 기관은 AI와 디지털 분야 공동 연구, 전문가 양성, 교육 콘텐츠 개발 및 사회적 확산 활동을 추진하기로 했다. 이번 협약의 첫 번째 협력 사업으로, 행복ICT가 운영하는 취약계층 대상 AI 데이터 라벨링 프로젝트에 IAAE가 AI 윤리 교육을 지원한다. AI 윤리 교육을 사전 과정으로 도입하고 라벨링된 데이터의 윤리성 감수 및 기술적 지원을 제공하는 방식이다. 또 장애인, 저소득층, 다문화가정 등 취약계층이 AI를 적극적으로 활용할 수 있도록 AI 윤리 교육과 디지털 리터러시 강화 교육을 공동 기획할 계획이다. 취약계층이 AI 시대에서 배제되지 않고 기술을 활용할 수 있도록 돕겠다는 취지다. 행복ICT는 SK, SKC&C, SK텔레콤, 행복나눔재단이 공동 출연해 설립한 공익법인으로, IT 기술을 활용한 공익사업과 취약계층 일자리 창출을 지원해왔다. 이번 협약으로 사회적 가치와 경제적 가치를 동시에 창출하는 모델을 구축하겠다는 목표다. 정창래 행복ICT 대표는 "급변하는 시장환경 속에서 취약계층을 위한 IT 일자리의 중요성이 점점 커지고 있다"며 "이번 협약이 사회적 가치와 경제적 가치를 동시에 창출하는 계기가 되길 바란다"고 말했다. 전창배 IAAE 이사장은 "AI 기술은 모든 계층이 공평하게 향유해야 하지만 장애인과 저소득층 등 취약계층은 AI 혜택을 충분히 누리지 못하고 있다"며 "행복ICT와 함께 AI 기술의 혜택이 우리 사회 전반으로 확산되도록 적극 협력하겠다"고 강조했다.

2025.02.28 15:14조이환

"아이들이 로봇청소기와도 교감하는 시대"…로봇 윤리, 더이상 선택 아닌 필수

“아이들이 로봇청소기와도 정서적으로 교감하는 시대가 됐습니다. 기술이 일상 속에 보편적으로 자리잡게 됨에 따라 로봇과 인간의 공존을 위한 윤리적 기준을 마련하는 것은 더 이상 선택이 아닌 필수입니다." 변순용 서울교육대학교 교수는 최근 서울교대에서 열린 '제4회 인공지능(AI) 리더스포럼'에서 이같이 강조했다. 이번 포럼은 국제인공지능윤리협회(IAEE)가 주최해 로봇이 인간의 삶과 사회에 미치는 영향을 종합적으로 검토하고 기술의 윤리적 방향성을 논의하기 위해 마련됐다. 2일 업계에 따르면 최근 아동들은 로봇 청소기 같은 단순한 기계와도 정서적 유대를 형성하며 성장하고 있다. 사람-사람 간 상호작용이 줄어드는 대신 어린이들이 로봇이나 AI 기술과 보다 쉽게 교감하게 되는 환경 때문이다. 이러한 흐름 속에서 AI와 로봇 윤리 교육의 중요성이 부각되고 있다. 지난 2021년 개정된 초등 도덕 교과서에 'AI와 로봇 윤리'가 포함되면서 학생들은 로봇과 인간의 차이를 배우고 미래 사회의 공존에 필요한 가치와 규범을 이해할 기초를 마련하고 있다. 변 교수는 "지금 어린 세대는 향후 로봇과 인간이 함께 살아가는 시대를 살아갈 것"이라며 "일찍부터 로봇과의 상호작용 방식을 고민하면 미래에 필요한 가치와 원칙을 확립할 수 있을 것"이라고 설명했다. 포럼에서는 로봇 윤리의 다양한 쟁점이 논의됐다. 특히 인간이 로봇을 통해 노동에서 해방되길 원하면서도 로봇에 대한 통제력을 잃을 수 있다는 '주인-노예 딜레마'가 핵심 쟁점으로 부각됐다. 이 딜레마는 로봇의 활용이 가져오는 편리함과 통제력 상실에 대한 우려가 상충하면서 발생한다. '주인'으로서 인간은 단순 반복 업무나 위험한 작업을 로봇에게 맡김으로써 창의적인 활동이나 여가에 보다 많은 시간을 할애할 수 있게 된다. 실제로 산업 현장에서는 생산성을 높이는 자동화 로봇이, 가정에서는 고령화 사회를 지원하는 돌봄 로봇이 이미 긍정적인 변화를 이끌고 있다. 이와 더불어 기술의 발전으로 인한 인간의 통제력 상실에 대한 불안감도 커지고 있다. 자율주행차가 명령을 거부하거나 공장에서 로봇이 작업 우선순위를 스스로 변경하는 등 예상치 못한 상황이 발생할 가능성이 있다는 것이다. 변 교수는 "로봇이 인간보다 더 빠르게 정보를 처리하고 결정을 내리게 되면 인간은 주인의 위치에서 벗어나 로봇의 통제를 받는 상황에 처할 수 있다"며 "로봇의 도입으로 인한 자유와 편리함을 누리려는 욕망과 통제력을 유지하려는 우려 사이의 긴장은 로봇 윤리의 핵심적인 딜레마"라고 설명했다. 로봇의 자율성과 도덕적 판단 능력에 대한 논의 역시 주목받고 있다. 이는 로봇이 자의식을 가지고 도덕성을 가진다면 인간의 윤리적 기준을 따를 수 있는지, 나아가 독립적인 도덕적 존재로 인정될 수 있는지를 둘러싼 철학적 쟁점이다. 변 교수는 로봇이 단순히 프로그래밍된 명령에 따라 행동하는 것을 넘어 상황에 대한 이해와 판단을 기반으로 스스로 결정을 내릴 수 있는지를 지속적으로 탐구해야 한다고 강조했다. 이는 로봇의 행동이 '규칙을 따른 기계적 반응'인지 아니면 '자의식과 도덕적 책임에 기반한 행위'인지의 문제로 이어진다는 것이다. 이같은 논의는 로봇의 법적 지위와 책임 소재 문제로도 확장된다. 변 교수는 "만약 우리가 특정 로봇을 자의식 있는 존재로 간주한다면 그 로봇은 단순한 도구가 아니라 자신의 행동에 대해 윤리적 책임을 지는 행위자가 되는 것"이라며 "로봇의 도덕적·법적 지위를 규정하는 새로운 패러다임이 필요하다"고 설명했다. 이러한 논의는 자율성을 가진 로봇이 예측 불가능한 결과를 일으킬 때의 책임 소재 문제로 이어진다. 이에 변 교수는 제조사나 사용자뿐 아니라 특정 상황에서 로봇 자체에 일정 수준의 책임을 묻는 '전자 인격' 개념도 주요 쟁점으로 소개했다. '전자 인격'은 로봇을 법적 주체로 인정해 인간 외 존재에게도 권리와 의무를 부여할 지를 탐구하는 개념이다. 이는 자율성을 가진 로봇이 예측하지 못한 사고를 일으켰을 때 책임을 제조사나 사용자에게 물을지, 또는 로봇 자체에게 책임을 물을지에 대한 법적 논의다. 이 개념은 로봇을 단순한 도구가 아닌 독립적 행위자로 간주할 가능성을 제시한다. 그럼에도 현재 국내에서는 이러한 법적 체계가 미비한 상황으로, 관련 논의는 이제 막 시작 단계에 있다. 변 교수는 "AI 기술이 점점 더 빠른 속도로 발전하고 있다"며 "마치 기업이 '법인'으로서 하나의 인격체로 인정받듯 '전자 인격' 개념은 머지않아 현실적인 정책 과제로 부상할 것"이라고 예측했다. 변순용 교수는 국내 로봇 윤리 연구의 선구자로, 지난 2000년대부터 로봇과 AI의 윤리적 쟁점을 학문적·사회적으로 알리는 데 힘써왔다. 그는 로봇이 단순한 도구를 넘어서는 존재가 될 가능성에 주목하며 이를 대비하기 위한 윤리적·법적 프레임워크의 필요성을 꾸준히 제기해왔다. 변 교수는 발표를 마치며 "로봇 윤리는 단순히 규제의 틀이 아니라 인간과 로봇이 공존할 수 있는 미래를 설계하는 과정”이라며 "기술이 점점 더 우리의 삶에 깊이 들어올수록 인간 고유의 가치를 이해하고 지키는 일이 더욱 중요해질 것"이라고 강조했다.

2025.01.02 15:43조이환

ETRI부설 AI안전연구소장에 김명주 서울여대 교수…11일 취임

김명주 서울여대 정보보호학부 교수(60)가 한국전자통신연구원(ETRI) 부설 AI안전연구소 초대 소장으로 임명돼 11일 취임식을 개최했다. AI안전연구소는 AI 안전성을 평가‧연구하고 주요국 AI안전연구소와의 협력 전담 조직이다. 30여 명의 연구인력이 AI안전 정책 및 대외협력실·AI안전 평가실·AI안전 연구실 등 3개의 연구실로 나눠 본격 업무에 들어갔다. 사무실은 판교 글로벌 R&D센터에 설치됐다. AI안전연구소는 ▲AI안전에 대한 과학적 이해 증진 ▲AI안전 정책 고도화 및 안전제도 확립 ▲국내 AI기업 안전 확보 지원 등에 적극 나설 계획이다. 이를 위해 AI위험의 정의와 AI안전 평가, 국가차원 관리 주요 AI위험을 정의하고 AI안전 평가방법론 개발 및 완화방안 마련 등 4개 핵심 과제를 주요 핵심 기능으로 설정했다. 11일부터 근무에 들어간 초대 김 소장은 서울대 컴퓨터공학과를 나와 같은 대학에서 컴퓨터공학으로 석, 박사학위를 받았다. 2001년 수도권 최초로 서울여대에 정보보호학과를 신설했다. 2014년에는 국내 최초 교육부 지정 정보보호영재교육원을 설립했다. 2018년에는 국내 최초로 지능정보사회 윤리 가이드라인 서울 PACT를 개발, 과학기술정보통신부 근정포장을 수상했다. 한국사이버테러정보전학회 부회장을 역임했다. 현재 한국저작권위원회 부위원장, 바른AI연구센터장, 디지털포용포럼 디지털역기능분과장, 한국인터넷윤리학회 명예회장, 인공지능윤리정책포럼 위원장, 개인정보보호위원회 개인정보기술포럼 정책분과위원, 육군3사관학교 석좌교수, 개인정보기술포럼 정책위원을 맡고 있다. 특히, 초대 김 소장은 지난 3월부터 IAAE 국제인공지능&윤리협회 제2대 회장을 수행중이다. IAAE는국제인공지능&윤리협회로 세계 최초로 인공지능 기술과 윤리를 함께 논의하는 글로벌 인공지능 기관이다.

2024.11.11 19:45박희범

IAAE, 국내 첫 체험형 AI컨퍼런스 다음달 4일 개최

해외와 국내의 생성형 AI 전문가, 시민, 학생이 함께하는 글로벌 생성형 AI 컨퍼런스 '젠AI 이노베이션 2024(Gen AI Innovation 2024) in Korea'가 다음달 4일 서울 양재 aT센터 5층 그랜드홀에서 열린다. 행사는 국제인공지능윤리협회(IAAE, 이사장 전창배 )와 AI코리아커뮤니티가 공동으로 주최한다. 세계 AI 트렌드 핵심인 생성형 AI의 최신 기술과 노하우, 효율적 활용 방법을 해외와 국내의 생성형 AI 전문가들에게서 들을 수 있다. 특히 이번 컨퍼런스는 FREEPIK, MAGNIFIC.AI와 같은 글로벌 생성형 AI 기업의 현직 CEO, 개발자, 마케터가 직접 강연에 나서 국내 사용자들에게 생성형 AI를 업무와 삶에 효과적으로 활용하는 생생한 방법들을 전달할 예정이다. 글로벌 연사들 강연에는 동시통역이 제공된다. 행사 프로그램은 ▲해외·국내 생성형 AI 기업 현직 대표와 임원의 노하우 강연 ▲생성형 AI 활용 전문가 5명의 분야별 노하우 실습 교육 ▲해외 유명 AI 팟캐스터 강연 과 팟캐스트 방송 ▲참가자 생성형 AI 콘테스트(AI 아트작품, AI 뮤직비디오) 등으로 구성됐다. 이번 행사의 가장 큰 특징은 단순한 정보 전달에 그치지 않고, 참가자들이 실제로 생성형 AI를 활용하는 실습 교육이 함께 이뤄진다는 점이다. 'AI 엔지니어가 알려주는 ChatGPT 프롬프트 엔지니어링 노하우' 'MAKE를 이용해 AI로 업무 자동화하기' 등과 같은 주제로 5명의 생성형 AI 전문가들이 진행하는 교육을 통해, 참가자들은 각 분야에서 생성형 AI를 어떻게 효과적으로 활용할 수 있는지 직접 체험하고 배울 수 있다. 또 참가자들은 생성형 AI를 이용한 아트작품과 뮤직비디오 콘테스트에 참여할 수 있어, 창의력을 발휘하고 AI 기술의 잠재력을 직접 경험할 수 있는 기회도 갖는다. 사업가들에게도 생성형 AI를 비즈니스에 어떻게 적용하고 활용할 수 있는지에 대한 실질적인 인사이트를 제공한다. AI 코리아 커뮤니티 박성철 대표는 "AI 코리아 커뮤니티는 2023년 1월 설립 이후 5만여 명의 회원들과 함께 AI 대중화를 위해 노력해왔다"며 "이번 컨퍼런스를 통해 더 많은 시민들이 생성형 AI의 잠재력을 깨닫고, 이를 일상과 업무에 적용할 수 있는 계기가 되길 바란다"고 전했다. 전창배 국제인공지능윤리협회 이사장은 "이번 컨퍼런스는 국내 최초로 참여형 AI 컨퍼런스로, 시민, 학생, 전문가가 함께하는 글로벌 규모의 생성형 AI 행사"라며 "참가자들은 글로벌 생성형 AI 전문가들의 통찰력 있는 강연을 통해 최신 생성형 AI 트렌드를 직접 체감하고, 교육과 실습을 통해 실질적인 AI 역량을 키울 수 있을 것"이라고 말했다. 이번 'Gen AI Innovation 2024 in Korea' 컨퍼런스는 AI에 관심 있는 누구나 참여 가능하다. 유료 행사다. 컨퍼런스의 자세한 안내와 신청은 행사 홈페이지 및 국제인공지능윤리협회 홈페이지를 통해 가능하다.

2024.09.04 18:27방은주

21대 국회서 외면 당한 AI 기본법, 실효성 방향 논의의 장 열린다

인공지능(AI) 발전을 법 제도가 따라가지 못할 위험을 해소하기 위해 AI 기본법에 대한 방향성을 논의하기 위한 장이 마련된다. 국제인공지능윤리협회(IAAE)는 오는 31일 여의도 국회의원회관에서 'AI 기본법 제정 방향과 전망' 세미나를 개최할 예정이라고 26일 밝혔다. 이번 세미나는 IAAE, 팀쿠키, 국민의힘 송석준 의원실, 더불어민주당 권칠승 의원실이 공동으로 주최하며 AI 기술 발전에 맞는 법제도와 지원 체계를 논의하기 위해 마련됐다. 특히 지난 21대 국회에서 AI 기본법이 통과되지 못해 국내 AI 산업 생태계 조성을 위한 법 제도가 부재한 상황에서 이번 세미나는 문제 해결 방안을 모색하기 위해 개최된다. 현재 AI 법은 여당 3건, 야당 3건으로 총 6건이 발의돼 있다. 권칠승 의원도 이달 4일 'AI 개발 및 이용 등에 관한 법률안(인공지능개발법)'을 대표 발의한 바 있다. 국내 AI 법은 21대 국회에서도 수차례 발의됐으나 계류 후 최종폐기됐다. 이번 세미나는 강연 세션과 토론 세션으로 구성되며 글로벌 AI 기술 동향, 국내외 AI 정책 현황, 최신 AI 윤리 이슈 등을 주제로 진행될 예정이다. 발제자로는 하정우 네이버클라우드 AI이노베이션센터장, 남철기 과학기술정보통신부 인공지능 정책과장, 전창배 국제인공지능윤리협회 이사장 등이 참석한다. 토론 세션에서는 한국형 AI 기본법의 올바른 구조와 방향에 대한 자유 토론과 질의응답이 예정돼 있다. 김명주 IAAE 회장은 "유럽이 세계 최초의 AI 법인 'AI ACT'를 발표하고 미국도 AI 행정명령을 발표하며 AI 선진국들의 주도권 경쟁이 시작된 상황"이라며 "우리나라도 AI 선도국으로 나아가기 위해 AI 법과 제도의 마련이 시급하다"고 밝혔다.

2024.07.26 15:15조이환

인공지능윤리협회, '4회 인공지능윤리 대전' 싱가포르서 개최

국제인공지능윤리협회(IAAE, 이사장 전창배)는 싱가포르 교육부 산하기관인 싱가포르 사이언스센터(Science Centre Singapore, 센터장 림 팃 멩)와 중앙대 인공지능연구소(소장 이재성), 중앙대 인문콘텐츠연구소(단장 이찬규) 등과 함께 '제 4회 인공지능 윤리 대전'을 싱가포르에서 지난달 공동 개최했다고 3일 밝혔다. 행사는 교육부와 한국연구재단이 후원했다. 이번 '제 4회 인공지능 윤리 대전'은 사단법인 국제인공지능윤리협회가 기획해 2020년부터 개최하고 있는 'AI 윤리'를 주제로 한 컨퍼런스로 이번 4회째는 '생성형 AI 윤리'를 부제로 싱가포르에서 진행했다. 싱가포르는 지난해 영국 데이터 분석업체 토터스인텔리전스가 발표한 '제4차 글로벌 AI 지수'(The Global AI Index)에서 세계 3위를 차지했고, 시장조사기관 스태티스타가 발표한 2022년 국가별 정부의 인공지능 도입 순위에서도 미국에 이어 세계 2위를 차지했다. 행사는 싱가포르 사이언스센터 림 팃 멩 센터장 개회사에 이어 중앙대 인공지능연구소 이재성 소장, 중앙대 인문콘텐츠연구소 김형주 부교수, 국제인공지능윤리협회 이청호 회장(상명대 교수), 중앙대 인공지능연구소 한수정 연구원이 강연했고, 싱가포르에서는 조나단 심(Jonathan Y. H. Sim) 싱가포르국립대 펠로우, 제니퍼 앙(Jennifer Ang) 싱가포르 사회과학대 부교수가 강연자로 참여했다. 폐회 후 IAAE와 싱가포르 사이언스센터 간 '글로벌 AI기술 및 AI윤리 협력과 확산을 위한 공동 사업 협약식'도 열렸다. 업무 협약을 통해 두 기관은 ▲한국-싱가포르 간 우호 증진 및 상호 교류 활동 ▲ 혁신적인 AI기술 및 AI윤리에 기반한 국제 프로젝트 ▲AI기술과 윤리에 관한 연구, 교육, 전파 사업 ▲컨퍼런스, 세미나, 포럼 등 공동 행사 개최 ▲양 기관이 보유한 인적 네트워크 및 기술 정보 교류 활동 등을 추진키로 했다. 싱가포르 사이언스센터 림 팃 멩 센터장은 “싱가포르와 한국은 아시아를 대표하는 AI 강국이다. 한국의 국제인공지능윤리협회와 MOU를 체결해 매우 기쁘게 생각한다"면서 "두 기관이 함께 싱가포르와 한국을 대표해 AI기술과 AI윤리 분야를 공유하고 전문인력을 교류했으면 한다"고 밝혔다. 중앙대학교 인공지능연구소 이재성 소장은 "최근 생성형 AI에 대한 대중의 많은 관심을 고려했을 때, 우리 연구소에서 개발한 생성형 AI 기술을 아시아 AI허브인 싱가포르 현지에서 시의적절하게 시연함으로써 연구 성과를 선보이고 싱가포르 현지의 교육, 연구 기관과 언론에서 많은 관심을 받았다는 것은 큰 의미가 있다"면서 "이런 기대에 부응하기 위해서라도 향후 싱가포르와의 협력을 확대해나갈 예정"이라고 말했다. IAAE 전창배 이사장은 “싱가포르 교육부 산하 공공기관인 싱가포르 사이언스센터와 협력하게 돼 기대가 크다. 이번 제 4회 인공지능 윤리대전은 국내 AI기관이 'AI윤리'를 주제로 해외에서 개최한 최초의 글로벌 컨퍼런스라는 의미가 있다"면서 "이번 컨퍼런스와 MOU를 계기로 한국과 싱가포르의 AI 분야 교류가 더욱 확대되도록 하고, 국내의 유망 AI기업들을 아시아 허브인 싱가포르에 적극 진출시키겠다”고 강조했다. 한편 IAAE는 지난 12월 15일부터 24일까지 싱가포르 사이언스센터에서 KF와 'K-Tech 엑스포'도 공동 주최, 포티투마루와 크라우드웍스, 제네시스랩, 오썸피아, AICON, 씽크포비엘, 타이밍포올, 퀀텀테크엔씨큐, 코어소프트, AI팩토리, 띵스플로우, 케어온, 블랙로직, 태그바이, VCAT.AI 등 국내 대표 AI 기업들이 홍보관을 통해 참여할 수 있게 지원한 바 있다.

2024.01.03 19:15방은주

지금 뜨는 기사

이시각 헤드라인

삼성전자, 브로드컴에 HBM3E 12단 공급…ASIC서 기회 포착

메타의 공격적 AI 인재 사냥, 핵심은 '데이터 전쟁'

마디마다 구동기 탑재…정교한 로봇손에 숨겨진 비밀

이재명 대통령 "AI·반도체·재생에너지·문화 투자 아끼지 않겠다"

ZDNet Power Center