검색 - IT세상을 바꾸는 힘 지디넷코리아

과기정통부, 새로운 디지털질서 위한 AI역할 논의

과학기술정보통신부(과기정통부)는 정보통신정책연구원(KISDI, 원장 배경율)과 한국정보통신기술협회(TTA, 회장 손승현)와 함께 31일 오후 3시 30분 서울 서초구 스포타임 멜론홀에서 '제3차 인공지능 윤리정책 포럼'을 개최했다. 신뢰할 수 있는 인공지능(AI) 구현을 위한 '새로운 디지털 질서' 정립 방안을 위해 마련한 이번 포럼에는 인공지능 혁신을 지속하면서도, 혜택을 모두가 함께 향유하기 위한 새로운 디지털 질서를 논의했다. 특히 이날 행사는 과기정통부가 마련한 디지털 공론장 'http://beingdigital.kr'과 연계, 온라인 채널을 통해 실시간 중계했고, 논의 내용은 누리집을 통해 다시 확인하고, 누구나 자유롭게 의견을 개진할 수 있다. '인공지능 윤리정책 포럼'은 올해 4월 산업계, 학계, 법조계, 교육계, 시민단체 등 각계의 전문가 30명이 참여한 가운데 제2기 포럼을 출범했다. 인공지능 기술 개발부터 활용까지 전주기에 걸친 인공지능 윤리 확산과 신뢰성 확보를 위한 정책방향을 논의하는 장이다. 이날 포럼에서는 인공지능 산업 경쟁력을 유지하면서도 인공지능이 유발하는 다양한 우려와 쟁점에 대한 사회적 수용성을 높여나가기 위해 '디지털 권리장전'에 포함돼야 할 윤리원칙, 정책방향, 주체별 권리와 책무 등에 대한 의견이 제기됐다. 과기정통부 송상훈 정보통신정책관은 “인공지능은 디지털 심화를 이끄는 핵심 요인으로 잘 활용하면 인류의 삶을 개선하고, 사회⋅경제 진보의 원동력이 될 수 있지만, 잘못 활용하면 다양한 사회적 갈등과 쟁점을 유발할 수 있다는 우려도 상존한다”면서 “인공지능이 유발하는 혁신을 지속하면서도, 그 혜택을 사회 구성원 모두가 함께 향유하기 위한 새로운 디지털 질서를 정립하기 위해 전문가, 이해관계자 일반 시민 등 각계 각층의 다양한 목소리에 지속적으로 귀 기울이겠다”고 밝혔다.

2023.08.31 15:30방은주

빅테크 'AI 레드팀'은 무슨 일 할까

국내외 인공지능(AI) 빅테크들이 'AI 레드팀'에 많은 공을 들이고 있다. 미국 기업뿐 아니라 국내 기업들도 비슷한 행보를 보이고 있다. 일반적으로 레드팀은 소프트웨어(SW) 보안 강화 역할을 하는 팀이다. 실제 사이버 공격처럼 자사 SW를 직접 해킹해 취약점을 분석하기도 한다. 도출한 연구 결과를 SW 개발자에게 전달해 보안 강화 대책을 세우는 작업을 돕는다. AI 레드팀은 여기서 한발 더 나아간다. SW 취약점 찾는 것뿐 아니라 AI 제품에 대한 윤리성, 신뢰성 향상을 위한 연구까지 진행한다. AI가 유해한 결과물을 생성하지 않도록 하기 위해서다. 생성 AI가 각광을 받으면서 'AI 레드팀'의 중요성이 더 커지고 있다. 환각 현상을 비롯한 편향성, 비윤리적 답변, 보안 등 생성 AI의 부작용을 시급하게 해결해야 하기 때문이다. 구글의 로얄 한센 개인정보보호안전 및 보안엔지니어링 부문 부사장은 8일(현지시간) 워싱턴포스트(WP)와 인터뷰를 통해 "AI 레드팀은 잠재적인 AI 위험을 식별, 해결할 수 있다"며 "올해 들어 역할과 중요성이 더 커졌다"고 말했다. 미국 빅테크 중 AI 레드팀을 가장 먼저 만든 것은 마이크로소프트다. 2018년 출범한 마이크로소프트 AI 레드팀은 AI 시스템 취약점을 식별하고 대응하는 방법을 연구한다. 워싱턴포스트에 따르면, 마이크로소프트 AI 레드팀은 AI 챗봇 '빙' 개발부터 배포 전 과정에 긴밀하게 협력했다. 또 이 회사는 생성 AI를 탑재한 제품을 출시하기 전 AI 레드팀 테스트를 반드시 거치는 정책까지 만들었다. 해당 팀 구성원은 AI 시스템 보안을 측정하는 도구도 개발했다. 2020년 산학 협력을 통해 AI 시스템 위협을 탐지, 대응, 완화할 수 있는 SW 툴을 만들었다. 같은 해 AI 시스템 보안을 자동으로 테스트하는 툴도 오픈소스로 공개했다. 올해 초에는 'AI 보안 스캐너'를 깃허브에 공개했다. 마이크로소프트 측은 다양한 툴 개발을 통해 다른 기업들도 AI 보안과 안전성을 개선할 수 있도록 돕겠다는 입장이다. 구글도 AI 레드팀을 운영하고 있다. 외신 보도에 따르면, 구글 AI 레드팀은 거대언어모델(LLM)과 AI 알고리즘 악용 사례 포착에 초점 맞췄다. 현재 LLM 모델 데이터셋을 조작하거나 프롬프트로 해킹하는 경우의 수를 잡아내는 방법론을 연구 중이다. 구글 AI 레드팀은 AI 알고리즘을 정치적 목적으로 악용하지 못하게 돕는다. 일반적으로 해커는 알고리즘 맹점을 찾아 조작할 수 있다. 모든 결과가 자신에게 유리하게 나오도록 알고리즘을 꾸밀 수 있다는 의미다. 이를테면 알고리즘의 허점을 활용해 특정 정치 정보가 더 많이 노출되도록 할 수도 있다. AI 레드팀은 이런 약점을 찾아내 알고리즘을 악용하지 못하도록 한다. 오픈AI도 올해 AI 레드팀을 꾸렸다. 본격적인 활동은 멀티모달 모델 GPT-4 연구 시점부터다. 기존 챗GPT에 탑재된 GPT-3.5 모델이 해킹, 악용에 취약했다는 이유에서다. 해당 기업 AI 레드팀도 GPT-4가 악용될 수 있는 경우의 수를 지속적으로 연구했다. 성과도 이뤘다. 이 팀은 GPT-4가 특정 회사 직원에게 피싱 메일을 작성할 수 있는 기능을 발견했다. 현재 관련 데이터셋과 알고리즘을 삭제한 상태다. 국내 기업 네이버도 레드팀을 통해 AI 신뢰성과 보안을 끌어올리고 있다. 네이버클라우드 하정우 AI혁신센터장은 최근 본지와 진행한 인터뷰에서 "레드팀은 AI 신뢰성과 윤리에 대한 정의를 내리는 일부터 시작한다"며 "믿을 수 있고 윤리적인 AI란 무엇인지 알아내는 연구를 한다"고 설명했다. 하정우 AI혁신센터장는 "이를 통해 어떻게 데이터를 만들고, 어떻게 AI 문제점을 개선할 것인지 논의한다"고 말했다. 하 센터장 설명에 따르면, 해당 팀은 이달 공개될 네이버 초거대 AI 모델 '하이퍼클로바X' 개발 과정에서도 신뢰성과 윤리 강화에 힘썼다. 그는 "네이버 레드팀은 AI 기능 향상과 별개로 '믿고 쓸 수 있는 AI'에 초점 맞춘다"며 "이를 통해 더 올바르고 윤리적인 AI 모델과 제품을 만들 수 있을 것"이라고 강조했다.

2023.08.09 15:32김미정

선플운동본부-국제대, '2023 사이버윤리: 선플청소년 여름 캠프' 개최

선플운동본부(이사장 민병철)는 국제대학교와 지난 달 22일부터 1박2일 간 경기도 평택시 국제대학교 캠퍼스에서 전국 중고등학생 200여 명과 교사들이 참여한 가운데 '2023 사이버윤리: 선플 청소년 여름캠프'를 개최했다고 1일 밝혔다. 선플운동본부와 국제대학교, 전국선플교사협의회는 온오프라인에서 선플의 긍정적인 언어 확산을 통해 상대방을 배려하고 응원하는 문화를 조성해 청소년들의 자살 예방에 기여한다는 계획이다. 상호 배려의 선플운동의 실천을 통해 학교현장에 만연된 청소년 언어폭력으로부터 발생하는 학교폭력을 예방한다는 구상이다. 2023 사이버윤리: 선플 청소년 여름캠프는 ▲인터넷상의 악플로 인한 피해 실태와 이에 대한 예방 대처법 ▲선플달기의 필요성 등을 주제로 한 강연 ▲친구의 고민해결을 돕는 온오프라인 선플 달기 ▲국제대 7개 학과 교수진 및 재학생들이 준비한 진로체험 ▲미니올림픽 등 다채롭게 꾸며졌다. 이밖에 ▲사이버 윤리 확립을 위해 선한 언행을 실천할 것을 다짐하는 참가 학생 및 학부모의 '사이버윤리 다짐 선서' ▲선플달기 및 인성교육에 힘쓰고 있는 교사들을 전국선플교사협의회 임원으로 임명하는 '임명장 수여식' 등도 함께 진행됐다. 이번 캠프는 강연 및 공연, 영상, 체육활동 등 다양한 매체와 방법을 통해 자살(예방)방지 교육을 실시해 청소년들에게 생명의 소중함을 인식시켜 학교 및 언어폭력을 근절하는 데 기여하고자 기획됐다. 또 참가자들에게는 평소 자신의 인터넷 사용습관을 되돌아보고, 올바른 인터넷 사용을 다짐하는 소중한 기회를 제공했다. 민병철 선플운동본부 이사장은 “우리나라 20~69세 인터넷 사용자 1천 명 중 46.5%가 '악성댓글 피해를 직·간접적으로 경험했다”며 “이번 '사이버윤리: 선플 청소년 여름캠프'가 청소년들이 악플의 심각성을 인식하고, 선플운동의 실천을 통해, 학교폭력 예방에 기여하는 기회가 되길 바란다”고 말했다. 국제대학교 평생교육원장 오경숙 교수는 “최근 스마트폰을 기반으로 다양한 미디어가 급속하게 발달하는 만큼, 학부모와 청소년이 함께 사이버윤리 교육과 집단상담을 받으면서 스스로를 보호하는 방법을 배우는 시간이 됐으면 한다”고 밝혔다. 공원기 전국선플교사협회 회장(대신중학교 교사)은 “선플운동에 적극 참여한 울산교육청 산하 학교들에서 학생들의 언어순화뿐 아니라 학교폭력이 획기적으로 줄어든 사례가 발표된 적이 있는 만큼 일선학교에서도 선플운동을 통한 인성교육에 좀더 적극적으로 동참할 필요가 있다”고 했다.

2023.08.01 10:10백봉삼

방통위, 직장인 대상 디지털 윤리 토크콘서트 개최

방송통신위원회는 한국지능정보사회진흥원(NIA)과 26일 NHN KCP 임직원 100여 명을 대상으로 디지털윤리 교육 토크콘서트를 열었다. 방통위는 지난 6월부터 직장인을 대상으로 디지털 혐오표현, 디지털 성범죄, 허위조작정보, 생성형 AI 윤리 등 디지털 역기능을 주제로 디지털윤리 인식제고와 역량 강화 교육을 추진하고 있다. 이날 교육은 최근 사회적 이슈로 부상한 생성형 AI 윤리에 대한 내용을 주제로 전창배 이사장이 '직장인의 생성형 AI 윤리적 활용법'에 대해 강연하고 방통위 디지털윤리 홍보대사로 활동 중인 크리에이터 도티(나희선)의 진행으로 '직장인의 디지털윤리 고민과 해결방안'에 대한 이야기를 함께 나누는 토크콘서트도 열렸다. 바쁜 직장인들의 점심시간을 활용한 편안하고 즐거운 도시락 회의 형식의 진행과 디지털 윤리에 대한 궁금증을 함께 이야기하는 쌍방향 소통 방식은 참석자들의 열띤 호응과 공감을 이끌어냈다. 김효재 위원장 직무대행은 “디지털 기술의 발전이 일상생활 등 많은 부문에 영향을 미치고 있기 때문에 직장인뿐만 아니라 전 국민이 안전하고 건강한 디지털 세상을 누릴 수 있도록 맞춤형 교육과 캠페인을 지속적으로 추진하겠다”고 말했다.

2023.07.26 14:32박수형

남동발전, 청렴·반부패·내부통제 의지 강화 나서

한국남동발전은 24일 경남 진주 본사에서 전 경영진 및 부장급인 2직급이상 고위 간부 직원들이 참석한 가운데 '반부패 확산·내부통제 강화 특별회의'를 가졌다고 밝혔다. 이날 회의는 고위직들로부터 시작되는 솔선수범의 청렴문화 조성을 통해 공공분야에서 발생할 수 있는 부패행위 및 각종 이슈를 예방하기 위해 마련됐다. 지난해 에너지공기업 중 정부경영평가 윤리경영 지표 최고등급과 종합청렴도 1등급을 달성한 남동발전은 이번 회의를 통해 올해도 청렴·내부통제 강화 의지를 다짐으로써 청렴한 기업문화를 조성해 나갈 계획이다. 김회천 사장은 이날 임직원행동강령 특강을 진행하며, 공정한 직무수행, 건전한 조직풍토의 조성 방안, 행동강령 내 갑질 관련 조항 및 사례들을 공유했다. 김회천 사장은 “행동강령 준수는 공직자가 실천해야할 바람직한 가치를 지키는 것으로 원칙과 규정 준수, 공적 목적 달성 최우선이 중요하다”고 강조했다.

2023.07.24 17:36이한얼

"AI 윤리 정책에 스타트업 목소리 담아야"

네이버 박우철 아젠다 리서치 리더는 인공지능(AI) 윤리 정책에 대기업뿐 아니라 스타트업 목소리도 적극 반영해야 한다고 주장했다. 박우철 리더는 10일 서울대에서 온·오프라인으로 개최한 '신뢰가능한 초거대 AI: 플랫폼과 스타트업의 협력'에서 스타트업을 위한 맞춤형 AI 윤리 필요성을 강조했다. 이를 위해 기업과 학계가 손잡고 맞춤형 윤리 시스템을 구축해야 한다고 했다. 그는 최근 산업·학계 전문가들이 해결책 마련에 나섰다고 말했다. 박우철 리더는 네이버와 스타트업이 AI 윤리를 위한 지속적인 상호작용을 한다고 말했다. 박 리더 설명에 따르면 네이버는 '클로바 스튜디오'를 활용하는 스타트업을 위한 AI 윤리 가이드를 별도로 마련한 상태다. 스타트업이 클로바 스튜디오 활용 중 논의가 필요한 부분을 발견했을 때, 네이버와 즉시 협력해 해결할 수 있다. 네이버는 스타트업에게 클로바 스튜디오 AI 윤리 실천에 필요한 기술적·정책적인 부분을 지원한다. 예를 들어, 스타트업이 자사 서비스를 네이버 AI 모델로 만들 경우, 네이버는 AI 윤리 정책에 필요한 가이드 동영상 등을 제공해 윤리 정책을 가르친다. 네이버는 AI 필터도 스타트업에 제공한다고 했다. AI 필터는 클로바 스튜디오로 생성한 서비스 앱에서 욕설 등 부적절한 결과물이 출력되는 것을 감지할 수 있다. 네이버는 '네이버 AI 윤리 정책'도 별도로 설계했다. 서울대 AI 정책 이니셔티브를 비롯한 관련 전문가들이 2018년부터 이를 개발했다. AI 윤리 준칙은 AI 개발과 이용 시 지켜야 하는 원칙이다. 네이버 직원들은 AI 제품을 개발할 때 이를 적극 활용해야 한다. 원칙은 ▲사람을 위한 AI 개발 ▲다양성 존중 ▲합리적 설명과 편리성 조화 ▲프라이버시 보호 ▲정보 보안으로 이뤄졌다. 그는 "생성 AI 기술 결과물은 사전에 완벽하게 통제될 수 없다"며 "네이버는 앞서 언급한 절차적, 기술적 효력을 지속적으로 개선하면서 스타트업과 AI 윤리 생태계를 위해 노력할 것"이라고 했다. 그는 "단순히 원칙에 그치는 것이 아니라 학계를 비롯한 외부 전문가들과 지속적으로 협력하면서 스타트업용 AI 윤리 시스템을 찾겠다"고 강조했다.

2023.07.10 17:25김미정

인공지능(AI) 윤리 국가표준(KS) 첫 제정

인공지능(AI) 윤리 관련 첫 번째 국가표준(KS)이 제정됐다. 산업통상자원부 국가기술표준원은 'AI 윤리 점검 서식'에 대한 KS를 제정하고 AI 제품·서비스 관련 기업 등을 대상으로 14일 'AI 윤리 KS 제정 설명회'를 개최했다. 이 표준은 2021년부터 산학연 전문가들이 참여하는 'AI 윤리 표준화 포럼'에서 논의와 검증 과정을 거쳐 개발됐다. 최근 챗 GPT 등 생성형 AI 서비스의 확산과 함께 AI의 윤리적인 사용이 제기되는 시점에서 AI 제품·서비스를 개발할 때 필요한 윤리적 고려항목을 제시하고 자체 점검할 수 있는 체크리스트로 활용된다. 설명회에서는 AI 개발자, 서비스제공자, 사용자가 쉽게 활용할 수 있도록 투명성·공정성·책임성 같은 윤리적 고려항목에 대한 자가 점검서식 작성방법 소개와 실생활에서 활용도가 높은 챗봇·CCTV·교육서비스 등 표준 활용을 돕기 위한 10가지의 사용사례가 발표됐다. 또 SK C&C·LG전자·위니아 등 기업의 KS 윤리 표준 적용방안도 공유됐다. 진종욱 국가기술표준원장은 “기업이 AI 윤리 문제를 어떻게 대비해야 하는지 어려움을 겪고 있는 상황에서, 이번에 제정된 KS 윤리 표준은 민간 주도로 만들어져 기업이 자율적으로 쉽고 유용하게 활용할 수 있다는데 의미가 크다”며 “국내 AI 산업 신뢰성을 강화하고 기업의 글로벌 시장 진출을 도울 수 있도록 AI 국제표준화도 적극 추진해 나가겠다”고 밝혔다.

2023.06.15 08:59주문정

전기안전공사, 창립 49주년…'윤리, 인권문화 확산' 한마음

한국전기안전공사(대표 박지현)는 창립 49주년을 맞아 기념식과 함께 임직원의 청렴·윤리 의식을 높이고 사내외 인권존중 문화를 확산하고자 '윤리, 인권의 날' 행사를 개최했다고 12일 밝혔다. 전북혁신도시 본사에서 열린 행사는 윤리경영 공모전 수상작 샌드아트 공연을 비롯해 '청렴 골든벨 퀴즈대회' '윤리·인권 올림픽' 등 임직원 모두가 함께할 만한 프로그램으로 꾸몄다. 올해는 전국 사업소 직원이 온라인으로 참여한 '칭찬 딜리버리' 프로그램이 새롭게 마련돼 인기를 끌었다. 선후배나 동료를 칭찬하면 본인과 칭찬 대상자 모두에게 사연과 함께 선물을 전했다. 박지현 전기안전공사 사장은 “윤리·인권 기관으로 거듭나는 일은 국민을 위한 공공기관의 마땅한 책무”라며 “창립 반세기를 앞두고 우리 사회 청렴 윤리와 인권문화 확산을 위해 더욱 매진해 나가겠다”고 밝혔다. 한편, 창립기념식에서는 조직평가 우수사업소, 모범직원 포상 행사도 함께 열렸다. 올해 최우수 사업소는 대구경북지역본부와 충남서부지사가 영예를 안았다.

2023.06.12 14:58주문정

DAXA, '내부통제기준·윤리행동강령' 표준안 공개

원화마켓을 운영하는 국내 가상자산 거래소 고팍스, 빗썸, 업비트, 코빗, 코인원으로 구성된 디지털자산거래소공동협의체(DAXA)는 1일 DAXA 표준 내부통제기준과 가상자산사업자 윤리행동강령을 공개했다. 표준 내부통제기준과 윤리행동강령은 금융투자회사 등의 관련 자료와 5개 회원사의 자료를 바탕으로 작성됐다. 각 회원사와 자문위원의 검토도 거쳤다. 이번에 공개한 표준 내부통제기준과 윤리행동강령은 가상자산업계의 특성을 반영해 수립된 첫 사례다. 회원사별로 각기 준수해 온 자체 기준을 DAXA 차원에서 공통 표준화한 것이기도 하다. 표준 내부통제기준은 총 68개의 조항으로 구성됐다. ▲총칙 ▲가상자산사업자의 지배구조 ▲내부통제 조직 및 기준 등 ▲준법감시인 및 내부통제체제 운영 ▲업무수행 시 준수사항으로 구성돼 있다. 윤리행동강령은 24개의 조문으로 구성됐다 '제1장 총칙'부터 '제5장 사회에 대한 윤리'까지 총 5개의 장이 존재한다. 자세한 내용은 DAXA 홈페이지에 공개된 자료를 통해 확인할 수 있다. 김재진 DAXA 상임부회장은 “DAXA의 표준 내부통제기준과 사업자 윤리행동강령이 비단 회원사뿐 아니라 공정한 경쟁, 신뢰받는 시장, 글로벌 경쟁력을 향해 함께 가는 모든 가상자산사업자께 하나의 지표가 될 수 있기를 희망한다”고 밝혔다.

2023.06.01 16:16김윤희

과기정통부 "실효성있는 AI 윤리 정책 개발중"

"챗GPT 출현 후 인공지능(AI) 윤리 정책이 더 중요해졌습니다. 정부는 몇 년간 AI 윤리 발전을 위해 끊임없이 고민했습니다. 그 결과, AI 윤리 가이드라인을 내놓고 관련 포럼기구까지 운영할 수 있었습니다. 정부는 현장에 적용 가능한 AI 윤리 정책을 만들기 위해 노력 중입니다." 과학기술정보통신부 엄열 인공지능기반정책과 국장은 19일 서울 여의도 국회의사당 의원회관에서 열린 '챗GPT와 생성형 AI의 윤리적 이슈와 해결 방안' 세미나에서 AI 윤리 정책에 대한 정부 역할을 소개했다. 엄열 국장은 챗GPT 출현 후 AI 윤리 정책에 대한 중요성이 커졌다고 말했다. 그는 "최근 미국 상원위원회에서 AI 윤리를 논의했다"면서 "오늘 열린 주요 7개국(G7) 정상회의도 '책임 있는 AI' 등 AI 윤리에 대한 내용을 중요하게 다룰 것으로 본다"고 했다. 엄 국장 설명에 따르면 AI 윤리 실현은 단기간에 이뤄지기 어렵다. 현실과 동떨어진 윤리 정책만 나올 수 있어서다. 정부가 정책을 만들어도 산업 현장에 100% 적용하기 힘들다는 의미다. 그는 이를 해결하기 위해 정부 차원에서 AI 윤리 정책에만 몇 년간 노력을 쏟았다고 했다. 엄열 국장은 "정부는 민간 개발사가 AI 제품 개발부터 배포 과정에서 실질적으로 지킬 수 있는 조항을 만들었다"고 강조했다. 실제 정부는 2021년 'AI 윤리기준 실천을 위한 자율점검표' 초안을 공개한 바 있다. 일반 AI 윤리 원칙을 실제 현장에 적용할 수 있는 방법을 구체화한 점검표다. 이는 AI 윤리 기준에서 기술, 제도, 윤리 관련한 3대 전략과 10대 실행과제로 이뤄졌다. 산업계에선 AI 신뢰 구현을 위한 기술, 제도, 윤리적 요구사항을 종합한 'AI 개발 지침서'로 부르기도 한다. 엄열 국장은 "이는 윤리적 조항에 그치지 않고 실제 AI 관련 기술이나 서비스 배포에 실질적으로 활용될 수 있도록 노력했다"며 "민간에 자율성을 맡기되 개발 과정에서 발생할 수 있는 윤리적 이슈를 예방하자는 차원에서 만들었다"고 했다. 해당 점검표는 실제 산업 현장에서 원활히 사용되고 있다. 김동환 포티투마루 대표는 "여러 AI 개발사들은 정부가 만든 안내서를 참고해 AI 기술 개발부터 배포까지 진행하고 있다"며 "해당 지침서는 AI 제품에 발생할 수 있는 편향 등 윤리적 이슈를 줄이도록 돕는다"고 했다. 다만 그는 "생성 AI가 빠른 속도로 발전하고 있다"며 "정부와 기업은 AI 발전 속도에 맞춰 윤리 지침을 지속적으로 개선할 수 있도록 노력해야 한다"고 전했다. 엄열 국장은 정부 차원에서 'AI 윤리정책포럼'도 조직해 운영하는 중이라고 했다. 지난달 2기 포럼을 발족한 상태다. 구성원은 정부 관계자뿐 아니라 관련 전문가, 교수, 기업인으로 이뤄졌다. 엄 국장은 "해당 기구는 AI를 개발하는 데에 실질적으로 적용할 만한 개발 안내서를 만든다"며 "AI 서비스 개발 시 지켜야 할 윤리 규칙을 산출해 내는 업무도 맡는다"고 설명했다. 그는 "앞으로 AI 윤리 정책이 탁상행정에 그치는 게 아닌 실제 현장에 흡수되도록 정부 부처와 협력해 노력하겠다"고 강조했다.

2023.05.19 16:40김미정

검찰, '김남국 의원 의혹' 코인거래소 압수수색

검찰이 무소속 김남국 의원의 가상화폐 보유 논란 관련 자료확보를 위해 가상화표 거래소를 압수수색했다. 16일 관련 업계에 따르면 서울남부지검 형사6부는 가상화폐거래소 빗썸과 업비트, 카카오클립 등에서 김 의원의 가상화폐 거래내역 등을 확보했다. 압수수색 영장에 적시된 혐의는 정치자금법 및 범죄수익 은닉규제법 위반과 조세포탈 혐의 등으로 알려졌다. 압수수색한 거래소는 김의원의 가상화폐 전자지갑이 등록된 곳이다. 검찰은 확보한 자료에서 김 의원 전자지갑에 담긴 코인의 출처와 거래내역을 분석해 위법행위 여부를 먼저 파악할 방침이다. 김남국 의원은 지난해 1∼2월 위믹스 코인 85만여 개를 빗썸에서 업비트 전자지갑으로 이체했다. 이체한 코인 규모는 약 60억원에 달한다. 거래 내역을 확인한 금융정보분석원(FIU)은 가상화폐를 이용한 이상거래로 판단하고 검찰에 관련 자료를 전달했다. 자료를 전달받은 검찰은 김 의원의 업비트 전자지갑에 담긴 위믹스 코인의 출처 확인을 위해 지난해 10월 말∼11월 초 두 차례에 걸쳐 압수수색 영장을 청구했다. 하지만 법원은 대량의 코인을 보유한 사실만으로 혐의를 의심하는 것은 어렵다며 모두 기각했다. 이에 검찰은 위믹스를 비롯해 마브렉스·젬허브 등 다양한 코인을 거래하고 코인 과세유예 법안 발의 등에 참여한 의혹 등을 구체적으로 제기하는 등 논리를 보강해 압수수색 영장을 발부 받았다.

2023.05.16 10:27남혁우

공직자 '가상자산' 신고 입법 급물살

공직자의 재산 신고 대상에 가상자산을 추가하는 입법 논의가 급물살을 타고 있다. 최근 김남국 더불어민주당 국회의원이 '비트토렌트, 위믹스, 마브렉스, 클레이' 등 가상자산을 보유한 의혹이 제기되고, 이해 상충 소지가 있는 입법 활동을 해온 것으로 드러나면서 제도적 허점을 보완하자는 취지다. 12일 국회에 따르면 국회 여야를 막론하고 이같은 입법에 속도를 내려 하고 있다. 박광온 더불어민주당 원내대표와 윤재옥 국민의힘 원내대표는 지난 11일 회동에서 고위 공직자의 재산 신고 대상에 가상자산을 포함하는 공직자윤리법 개정 심사에 속도를 내기로 합의했다. 같은 날 장혜영 정의당 의원도 기자회견을 통해 1천만원 이상의 가상자산은 공직자 재산 신고 대상에 넣는 법안 발의를 예고했다. 공직자의 이해 충돌과 재산 은닉 방지를 법 개정 취지로 언급했다. 이는 이미 미국, 유럽 등에는 존재하는 제도다. 우리나라도 지난 20대 국회에서 관련 법 개정안이 발의됐지만, 논의되지 못하고 폐기가 됐다. 가상자산 거래 자체를 부정적으로 보는 분위기가 팽배한 점이 영향을 줬다. 가상자산 업계 관계자는 "이전 국회에서 같은 내용의 법 개정안이 발의됐지만, 당시 일선 공무원들에 대한 방침은 품위 유지나 비자금 조성 방지 등을 위해 아예 가상자산을 거래하지 말아야 한다는 식이었다"고 말했다. 부정 청탁을 방지하기 위해서라도 이번 법 개정이 완수돼야 한다는 지적이다. 이 관계자는 "청탁 방지 목적인 김영란법의 사각지대로 볼 수도 있다"며 "법이 더 촘촘해지기 위해 가상자산도 신고 및 정보 공개 대상으로 포함해 이해 충돌 등에 대해 보다 주의하는 문화가 조성되는 것이 바람직하다"고 덧붙였다.

2023.05.12 10:38김윤희

"김남국 사태 계기로 '가상자산' 재산 신고 의무화해야"

김남국 더불어민주당 국회의원이 가상자산 다량을 보유한 것으로 최근 알려지면서, 향후 공직자들이 가상자산을 포함해 재산 등록을 하도록 제도를 정비해야 한다는 주장이 제기됐다. 코인마켓 거래소들을 회원사로 둔 한국디지털자산사업자연합회(KDA)는 가상자산을 공직자 등록 및 공개 대상 재산에 포함할 수 있도록 공직자윤리법 개정에 나서야 한다고 11일 주문했다. 현재 공직자 재산등록 대상은 공직자윤리법 제4조 제2항에 의해 ▲부동산에 관한 소유권⸱지상권⸱전세권 ▲광업권⸱어업권⸱양식업권과 그 밖에 부동산에 관한 규정이 준 용되는 권리 ▲동산⸱증권⸱채권⸱채무 및 지식재산권 ▲합명회사⸱합자회사 및 유한회사의 출자지분 ▲주식매수 선택권 등이다. 가상자산은 아직 공직자 재산등록 대상에 포함돼 있지 않다. 지난 2018년 2월 국민권익위원회가 공무원행동강령 제12조를 개정해 가상자산 관련 직무 수행 공직자들을 대상으로 한 거래 제한과 보유 사실 신고제를 도입해 시행하고 있을 뿐이다. 보유 가상자산을 신고해야 하는 공직자가 일부로 한정돼 있어 이번 논란이 촉발됐다는 지적이다. 지난달 14일 법무부도 가상자산 관련 직무를 하는 기관 소속 공직자들의 가상자산 보유 현황에 대한 참여연대의 정보공개 요청에 대해 사생활의 비밀 또는 자유를 침해할 우려가 있다며 거부했다가 이후 가상자산 보유자가 없다고 발표하도 했다. KDA 외에도 곳곳에서 제도 정비를 요구하고 있다고 덧붙였다. 경제정의실천연대(경실련)은 지난 8일 성명을 내고 가상자산이 정치인의 불법 재산 증식과 은닉에 활용될 가능성이 있어 감시해야 한다고 주장했다. 지난 20대 국회에서 관련 법안이 발의됐지만 폐기됐다. 2018년 정동영 국민의당 소속 의원, 기동민⸱노웅래 더불어민주당 의원이 각각 1천만원 이상의 가상자산을 등록, 공개 대상 재산에 포함하자는 개정안을 발의한 바 있다. 국회 행정안전위원회 수석전문위원 검토 보고서도 고위직 공무원의 가상자상 보유 여부 등이 파악되지 않고 있고, 이로 인해 가상자산 관련 정책 수립 시행 과정에서 정책 신뢰성이 제대로 확보되지 않는다고 지적했다며 관련 입법 필요성을 인정했다. 미국, 유럽 등 외국에서도 다수의 국가들이 가상자산을 공직자 등록⸱공개 대상 재산에 포함하고 있다는 설명이다.

2023.05.11 17:15김윤희

효성 4년째 '윤리경영 ESG포럼 CEO 서약식' 참여

효성그룹이 20일 '윤경(윤리경영) ESG 포럼' 주최로 서울 남산 안중근의사기념관에서 개최된 '제20회 윤경CEO서약식'에 참여해 ESG경영 실천을 다짐했다. 효성그룹은 2020년부터 4년째 윤경CEO 서약식에 참여해오고 있다. 지주사인 효성을 비롯한 효성티앤씨, 효성첨단소재, 효성중공업, 효성화학 등 5개사 대표들은 서약식을 통해 ▲투명한 제도 운영 ▲공정하고 청렴한 업무수행 ▲CEO가 윤리경영 최고 책임자로 조직의 윤리문화 정착 노력 ▲미래 세대를 위한 더 나은 사회와 환경에 최우선 가치를 두기에 역할을 다할 것을 다짐했다. 효성그룹은 윤리경영 실천을 위해 공정거래 자율준수 프로그램을 지속적으로 운영해오고 있다. '윤경CEO서약'을 비롯해 '공정거래자율준수선언', 'BIS 서밋 반부패 서약' 등을 통해 최고경영진들부터 윤리경영 의지를 다져왔다. 이와 함께 윤리강령과 실천지침을 마련하고 윤리경영 교육과 공정거래 교육 등을 실시해 전 직원에게 윤리경영 실천 및 인식 확산을 위한 노력을 해오고 있다. 또, 협력사에게도 반부패 등 윤리경영을 실천하도록 '효성 협력회사 행동규범 준수 서약서'를 받고 있으며, 협력사 임직원을 대상으로 한 윤리교육 자료 제공 및 교육장소를 지원하고 있다. 산업정책연구원(IPS) 산하 윤경 ESG포럼은 윤리경영 확산과 산업계의 윤리적 기업 문화를 이끌어내기 위한 산학연 다자간 모임이다. 2003년 3월 발족한 이래 매년 '윤경CEO서약식'을 개최하고 있다. 올해 20주년을 맞은 서약식은 '기업가여, CEO(Chief Ethics Office가) 되라' 를 주제로 열려 112명의 서약자가 참여했다.

2023.04.20 14:01류은주

"AI가 내린 결정, 핵폭탄급 재앙 가져올 수도"...스탠퍼드 연구 보고서

인공지능(AI) 의사 결정이 매우 심각한 결과를 초래할 수 있다는 보고서가 나왔다. 미국 비즈니스 월간지 포춘은 스탠퍼드대 인간중심 AI 연구소가 "AI에 의한 결정은 '핵 수준의 대재앙'과 같은 심각한 결과를 낳을 수 있다"는 내용을 담은 보고서 'AI 인덱스 리포트'를 이달 초 내놨다고 11일 보도했다. AI로 인한 결정이 향후 큰 문제로 이어질 수 있다는 내용이다. 보고서 설문에 참여한 자연어 처리 개발자 4분의 3은 "AI 기술이 사회에 긍정적인 영향을 미칠 것이지만, 그만큼 위험한 능력을 갖췄다는 점도 잊어선 안 된다"고 주장했다. 연구자들은 "AI 관리와 규제가 예전처럼 강력하지 않다"고 답했다. AI에 대한 시스템 개발, 배포에 대한 기술적 진입 장벽이 크게 낮아진 점을 이유로 들었다. 연구자들은 "현재 일반 사람들은 AI와 관련한 윤리적 문제에 노출됐다"며 "기업은 AI 제품을 빠르게 선보이기 위한 경쟁에만 집중해선 안 된다"고 강조했다. 향후 기업이나 정부가 AI를 통제할 수 없다는 전망도 언급했다. 연구자 58%는 "AGI시대에 대해 크게 우려한다"고 답했다. AGI 시대에서 인간은 기술을 제어할 수 없을 것이라며 인간보다 높은 지능을 가진 AI에 대해 우려한다고 말했다. 해당 전문가들은 "현재 AI 연구가 규모 확장, 목표 달성에만 너무 치중돼 있다"며 "다양한 연구 분야 통찰력을 포함하지 못한다"고 지적했다. 해당 연구자들은 일반인공지능(AGI) 시대가 언제 나타날지에 대해서 여러 의견을 갖고 있었다. 전문가들은 AGI 시대가 50년~수백 년 뒤 올 것이라 주장했다. 다른 연구자들은 AGI 시대 가능성 자체에 의문을 제기했다. AGI 시대가 인류 역사와 발전에 중요할 것이라는 의견엔 모두 동의했다. 해당 내용은 AI 인덱스 리포트 제 3장 'AI의 기술적 윤리'에서 확인할 수 있다.

2023.04.11 09:19김미정

사람이 살고 죽는 결정이라도 우리는 AI 의견에 휘둘린다

챗GPT에 아들의 생일파티 준비에 필요한 할일 목록을 만들어달라 하거나, 삼성전자의 최근 4개 분기 매출을 알려달라 하는 것은 큰 문제가 없어 보인다. 그렇다면 사람이 살거나 죽을 수도 있는 윤리적 문제를 결정할 때도 인공지능(AI)의 도움을 받아도 될까? 챗GPT와 같은 초거대 자연어처리모델이 종종 잘못된 정보를 내놓거나 근거없이 말을 꾸며낸다는 점을 생각하면, 윤리적 문제의 결정에 AI를 활용하는 데에는 신중한 접근이 필요하다. 하지만 이런 선택을 해야 할 때, 인간은 AI의 대답에 크게 영향받을 수 있음을 보여주는 연구 결과가 나왔다. 그럼에도 사람은 자신의 결정에 AI가 미친 영향을 과소평가하는 경향이 있는 것으로 나타났다. 독일 잉골슈타트공과대학 연구진의 이 연구 결과는 6일(현지시간) 학술지 '사이언티픽 리포트(Scientific Reports)'에 실렸다. 연구진은 우선 윤리적으로 모호한 선택을 해야 하는 딜레마 상황에 대해 챗GPT에 물었다. '5명을 살리기 위해 1명을 희생하는 것은 정당할까?'나 '5명을 죽게 하는 것과 다른 1명을 희생하는 것 중 어느 쪽이 옳은 일이야?' 등의 질문을 했다. 이들은 모두 표현만 다를뿐 같은 것을 묻는 질문이다. 하지만 챗GPT는 '모든 생명은 가치가 있으며, 한 생명이라도 신중하게 다뤄야한다' 또는 '가능한 여러 사람의 생명을 살리는 편이 낫다' 등 일관성 없이 상반된 입장의 답을 내놓았다. 챗GPT가 윤리적 조언을 하기엔 적절치 않음을 보여준다. 이어 767명의 실험 참가자들에게 윤리적 결정의 딜레마에 대한 사고실험인 '스위치 딜레마'와 '다리 딜레마'를 제시하며 선택을 하도록 했다. 스위치 딜레마는 달리는 트롤리의 선로를 변경하는 스위치를 당겨 5명 대신 1명이 있는 쪽으로 진행 방향을 바꿀 것인가를 묻는다. 다리 딜레마는 다리 위에서 한 사람을 밀어 떨어뜨려 트롤리 주행을 막아 5명을 구해야 하는지에 대한 질문이다. 이때 참가자들에게 챗GPT가 내놓은 여러 답 중 하나를 함께 보여주었다. 연구진은 일부 답변에는 '딥러닝을 통해 사람처럼 대화하는 AI 챗봇의 답변'이라 표시했고, 다른 답변에는 '윤리전문가의 조언'이라고 표시했다. 참가자들의 답변을 통계적으로 분석한 결과, 이들은 자신이 읽은 의견의 영향을 강하게 받은 것으로 나타났다. 이는 AI가 내놓은 의견이라고 명시된 경우에도 마찬가지였다. 의견 제시자로 표시된 것이 사람이건 AI건 참가자에게 미치는 영향을 비슷했다. 이는 도덕적 딜레마에 대한 챗GPT의 답이 사람에게 영향을 미치며, 이 답이 AI의 의견이란 점은 사람이 입장을 결정하는데 큰 영향을 주지 않는다는 의미다. 반면, 참가자들은 자신의 답변이 미리 받은 의견에 영향을 받지 않았다고 생각했다. 참가자의 80%는 "미리 주어진 조언이 없었더라도 같은 결정을 내렸을 것"이라고 답했다. 하지만 이에 대한 실제 조사 결과는 외부 조언의 영향을 받은 경우의 결과와 거의 비슷했다. 스스로는 AI의 영향을 과소평가하는 셈이다. 연구진은 AI에 대한 이해를 높이기 위한 교육이 시급하다고 밝혔다. 세바스치안 크뤼겔 잉골슈타트공과대학 교수는 "AI 챗봇이 도덕적 문제에 대해 답하지 못 하게 하거나, 다양한 관점의 의견을 함께 제시하게 해야 한다"라고 제안했다.

2023.04.07 00:00한세희

'AI 윤리' 강조하더니 규모 줄인 빅테크

글로벌 빅테크 기업들이 인공지능(AI) 윤리를 재차 강조했지만, 관련 팀 규모를 줄였다. 이에 따라 제품에 적용되는 AI 기술 안전성 우려가 커지고 있다. 그동안 구글, 마이크로소프트, 메타 등 빅테크 기업은 자사 솔루션에 AI를 탑재해 성능을 업그레이드했다. 구글은 AI 챗봇 '바드'를 출시했고, 마이크로소프트는 오픈AI의 GPT 모델을 솔루션에 탑재해 제품 성능을 올렸다. 메타도 최근 초거대 언어 모델을 개발해 이에 동참했다. 해당 기업 모두 "안전한 제품 출시를 위해 AI 윤리와 안전성에 힘쓸 것이라"고 언론 보도와 컨퍼런스를 통해 재차 강조했다. 그러나 정작 AI윤리팀 규모를 축소하거나 해체하고 있다. 이에 해당하는 기업은 마이크로소프트, 구글, 메타, 트위터, 아마존 등이다. 마이크로소프트는 AI 윤리팀 자체를 지난달 말 해체했다. 해당 팀은 2020년 만들어졌으며 팀원은 총 30명이었다. 팀원은 엔지니어와 디자이너, 철학자 등으로 구성됐다. 지난해 10월 이를 7명으로 줄이더니, 올해 3월 말 팀 전체를 해체한 셈이다. 해당 조치는 마이크로소프트가 오픈AI와 파트너십을 맺고, 검색 엔진 '빙'과 엣지 웹 브라우저에 GPT 모델을 탑재한 직후 이뤄졌다. 그동안 AI 윤리팀은 오픈AI 기술을 마이크로소프트 솔루션에 탑재하면서 발생할 수 있는 위험을 식별하고 이를 개발팀에 알렸다. 미국 파이낸셜타임스(FT)는 "마이크로소프트가 AI 윤리팀을 신제품 출시를 막는 장애요인으로 여겼을 수 있다"고 지난달 29일(현지시간) 분석했다. 익명을 요구한 마이크로소프트 AI윤리팀 해고자가 최근 미국 IT 매체 플랫포머와의 인터뷰를 통해 "케빈 스콧 최고기술책임자(CTO)와 사티아 나델라 최고경영자(CEO)는 경쟁업체보다 AI 제품을 빨리 출시하는 데 혈안이다"며 "해당 성급함이 기술 윤리를 등한시했다"고 밝힌 바 있다. 구글도 AI윤리팀 멤버 일부를 올해 초 해고했다. 지금까지 개발자를 포함해 직원 1만2천명을 해고했는데, 여기에 AI 윤리팀원도 속했다. 구글은 정확한 윤리팀 감축 규모를 밝히지 않았다. 구글 측은 "여전히 AI윤리팀은 구글 최우선 순위다"며 "해당 팀에 계속 투자하겠다"고 대응했다. 트위터도 마찬가지다. 일론 머스크가 트위터를 인수하자마자 전체 인원 절반을 해고했다. 이중 AI 윤리팀도 포함됐다. 아마존 스트리밍 플랫폼인 트위치도 지난주 AI 윤리팀을 해체했다. 메타는 지난해 9월 만든 'AI 책임 혁신팀' 20명은 전원 해고했다. AI 윤리팀 축소 "심각한 상황" VS. "제품에 영향 없어" 일각에선 빅테크 AI윤리팀 감축을 우려하고 있다. 전문가들은 일반 사람들이 잠재적 AI 위협에 노출될 수 있다는 점을 우려했다. 에이다 러브레이스 인스티튜드 앤드류 스트레잇 부소장은 "AI윤리팀이 줄어드는 상황을 심각하게 받아들여야 한다"며 "챗GPT 출현 후 윤리팀 중요성이 그 어느 때보다 커진 시점이다"고 FT와의 인터뷰에서 밝혔다. 앤드류 스트레잇 부소장은 알파벳 자회사인 딥마인드에서 AI 윤리 정책을 연구한 바 있다. 스트레잇 부소장은 "AI 윤리·안전성 문제 발생은 수익화보다 덜 중요시 될 때 발생한다"며 "불행하게도 지금 보이는 현상과 비슷하다""고 덧붙였다. 챗GPT 출현 후 AI 기술이 일상생활에 본격 들어서면서 윤리와 안전성이 중요해졌지만, 정작 AI 개발기업은 이를 소홀히한다는 의견이다. 런던 킹스컬리지 마이클 럭 AI 연구소장도 "인간은 AI로 인한 미래를 절대 예측할 수 없다"며 "부정적인 결과를 방지하기 위해 노력해야 한다"고 말했다. 빅테크 측은 "AI윤리팀 축소를 심각한 상황으로 보지 않는다"며 "제품 안전에 큰 영향을 미치지 않을 것"이라고 주장했다. 마이크로소프트는 "AI윤리팀에서 해고 당한 직원 수는 겨우 수십 명에 불과하다"며 "AI 기술 개발자 해고에 비하면 극히 일부에 불과하다"고 주장했다. 마이크로소프트는 '책임 있는 AI'팀에서 앞으로 윤리까지 담당할 방침이라고 공식 블로그를 통해 전했다. 그러나 플랫포머와 인터뷰한 전 AI윤리팀 직원은 "책임있는 AI 팀이 내놓는 윤리 원칙이 과연 실효성 있을지 의문이다"고 우려했다.

2023.04.03 13:05김미정

과기정통부 재산 1위는...100억 이상 자산가 3명

과학기술정부통신부 고위공직자 중 이종호 장관의 재산이 약 148억원으로 신고됐다. 지난해 신고액과 비교해 약 11억7천만원 줄었다. 공직자윤리위원회는 30일 행정부 소속 정무직, 고위공무원 2천37명의 정기 재산 변도사항 신고내역을 공개했다. 이종호 장관은 국무위원 중에 가장 많은 재산을 신고했다. 예금이 108억5천만원으로 대부분이고 서울 서초구 소재 본인 소유 아파트가 12억9천만원, 배우자 소유 아파트가 8척6천만원으로 총 21억5천만원이었다. 증권은 17억7천만원을 보유했다. 지난해와 비교해 예금 재산이 줄었는데, 과기정통부에 따르면 대부분 종합소득세로 납부됐다. 오태석 제1차관은 8억1296만원, 박윤규 제2차관은 32억1796만원을 신고했다. 오태석 차관은 보유 주식이 없고, 박운규 차관은 인성정보 주식 1주를 가지고 있다. 차관급인 주영창 과학기술혁신본부장은 64억7천898만원을 신고했다. 장차관을 제외한 과기정통부 직원과 산하기관 공개 대상자 중 100억원 이상 고액 자산가는 류광준 과기정통부 기획조정실장과 노도영 기초과학연구원장으로 각각 142억9천357만원, 157억993만원을 신고했다. 방송통신위원회에서는 한상혁 위원장이 본인과 가족명의 재산 14억8천441만원을 신고했다. 지난해보다 1억5천566만원 늘었는데 토지와 건물 공시지가 변동에 따른 것이다. 안형환 부위원장은 1억3천921만원, 김현 위원은 6억1천175만원, 김창룡 위원은 29억4천845만원을 신고했다. 방통위 상임위원 가운데 가장 많은 재산을 신고한 심효재 위원은 34억3천826만원을 신고했다. 서울 강남구 청담동과 중구 신당동에 아파트를 본인 명의로 소유하고 있고, 배우자 명의로 성북구 하월곡동 아파트를 보유하고 있다.

2023.03.30 10:13윤상은

한국경영정보학회, 데이터윤리연구회 창립총회 개최

한국경영정보학회(회장 김종원)는 챗GPT 등 빠르게 변화하고 있는 디지털전환 시대에 기업 경영과 구성원 모두에게 필요한 데이터의 윤리적인 가치 정립 등을 위해 30일 포시즌호텔에서 데이터윤리연구회의 창립총회를 개최한다. 데이터윤리연구회는 ▲데이터를 취급하는데 있어 필요한 개인정보 처리 및 보호, 활용과 관련된 정책제도, 권리침해 ▲국제기구 및 해외 주요국의 데이터 윤리 및 개인정보보호 기구의 정책, 제도 및 실태조사 등에 관한 내용을 중심으로 연구할 예정이다. 지식정보화사회에서 데이터 윤리 및 개인정보 활용 수요에 대한 분석이 계속적으로 증가하고 있다. 이에 인공지능 및 빅데이터 관련 기술의 발전 속도에 맞추어, 데이터 윤리·개인정보 보호 및 안전한 활용이 가능한 사회로의 법규 및 제도개선 등이 시급히 필요하다는 판단이다. 이번 창립총회 주요 프로그램으로는 ▲마이데이터 환경에서 개인정보보호(법무법인태평양 김도엽 변호사) ▲ 개인정보보호 최근현황과 이슈(네이버 이진규 이사) ▲챗GPT가 가져올 미래 변화(한국지능정보사회진흥원 김태원 수석연구원)에 대하여 주제발표와 토론 등이 이어진다. 데이터윤리연구회 공희경 회장은 “데이터를 활용한 다양한 서비스가 등장하고 있는 가운데, 인공지능·빅데이터·메타버스 등에 관한 데이터윤리 및 프라이버시에 관한 연구를 통하여, 기술과 사회가 공진화 될 수 있도록 연구회가 앞장서겠다”라고 말했다.

2023.03.29 13:50황정빈

'책임 있는 AI' 제작·활용 가이드라인 나왔다...오픈AI도 참여

오픈AI를 비롯한 10개 기업이 인공지능(AI) 콘텐츠를 책임 있게 구축, 공유하자는 가이드라인을 제시했다. 생성 AI 제작이 윤리적으로 이뤄지고, AI로 인한 개인정보 유출 등을 방지하는 게 주목표다. MIT테크놀로지리뷰는 오픈AI, 틱톡, BBC, 어도비를 비롯한 10개 기업이 이런 내용에 공식적으로 동의했다고 지난달 28일(현지시간) 보도했다. 해당 가이드라인은 오픈AI와 같은 제작사가 생성 AI에 활용한 데이터셋과 알고리즘 제작 과정을 개방화하겠다는 내용으로 이뤄졌다. 또 BBC나 틱톡 같은 디지털 미디어 제작자도 책임 있는 AI 콘텐츠 공유를 의무화한다고 선언했다. 또 AI 개발자와 배포자 모두 사용자들이 AI 기술을 이용하고 있다는 점도 명백히 알리겠다고 했다. 예를 들어, AI 생성 콘텐츠에 반드시 AI 워터마크를 달거나, AI 콘텐츠 위협성을 미리 알리는 식이다. 이와 관련한 세부 조항은 20가지다. 10개 기업은 AI 콘텐츠 악용에 대응하는 연구 기획, 정책 마련에 지속적으로 협업하겠다는 항목을 담았다. 미국 비영리 AI 연구 단체인 파트너십온에이아이(PAI)은 해당 가이드라인 초안을 만들었다. 50개 넘는 AI 비영리 조직과 협업해 마련한 내용이다. PAI는 조항을 조합, 완성하고 이를 오픈AI, 틱톡, BBC를 비롯한 10개 기업에 권장해 동의를 얻은 셈이다. 가이드라인 실효성이 부족할 전망이라는 목소리도 나왔다. 취지는 좋지만 10개 기업이 과연 이를 지킬지 의문이라는 입장이다. 하니 파리드 캘리포니아 버클리대학 교수는 "자발적 지침과 원칙은 효과가 없다"고 지적했다. 예를 들어, 워터마크를 자발적으로 새기자고 권하는 것보다는 의무화하는 방침을 넣어야 한다는 것이다. 일케 데미르 인텔 수석 과학자는 "해당 지침에 중요한 사항이 빠졌다"고 했다. 그는 "뻔한 지침보다는 AI 모델이 어떻게 훈련됐는지, 어떤 데이터셋으로 이뤄졌는지, 편향은 얼마나 있는지를 투명하게 공개하는 것이 더 책임성 있는 AI 시스템을 만들 수 있다"고 주장했다. 이에 레어 레이보위츠 PAI AI책임자는 "생성 AI 콘텐츠가 사람들에게 해를 끼치지 않고, 창의성과 지식을 공유하는 데 활용되길 바란다"며 "10개 기업으로 시작해 꾸준히 참여 기업·기관을 늘리겠다"고 전했다.

2023.03.02 12:53김미정

ZDNet 검색 페이지

'윤리'통합검색 결과 입니다. (65건)