검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'AI 안전'통합검색 결과 입니다. (122건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

벤지오 교수 "AI안전연구소, 정책·과학 발전 병행 필수...韓 AI칩 수준 상당"

한국 정부가 인공지능(AI)안전연구소 개소를 하루 앞둔 가운데 해당 연구소가 AI 정책과 과학 발전을 병행해야 한다는 전문가 주장이 나왔다. 몬트리올대 요슈아 벤지오 교수는 26일 과학기술정보통신부가 용산 피스앤파크컨벤션에서 개최한 'AI 신뢰·안전성 컨퍼런스' 온라인 기조강연에서 한국의 AI안전연구소 방향성을 제시했다. 벤지오 교수는 최근 국가AI위원회 글로벌 자문위원으로 활동 중이다. 벤지오 교수는 연구소가 정책적으로 국제협력뿐 아니라 AI 규제 체계까지 유연하게 구축해야 한다고 당부했다. 신속한 규제 시스템은 AI 기술 오용·사회적 위협 방지를 막을 수 있기 때문이다. 그는 "급변하는 AI 기술 환경에 맞춰 규제도 더 민첩해야 한다"며 "특히 규제기관은 AI 모델 개발사와 사용 기업들의 안전 계획과 모델 테스트 결과를 직접 검토해야 한다"고 강조했다. 벤지오 교수는 연구소가 해외 안전연구소·학자들과 필수 협력해야 한다고 주장했다. 이를 통해 AI 안전에 대한 국제 모범 사례를 접할 기회가 높아진다는 이유에서다. 그는 "최첨단 기술을 다루는 연구소들과 협력하면 국가 안보와 연결된 위험 요소를 상대 평가할 수 있다"고 설명했다. 벤지오 교수는 한국이 글로벌 AI 생태계서 핵심 역할을 할 가능성을 높게 봤다. 그는 "한국은 AI칩 개발 선두주자"라며 "AI안전연구소 설립과 관련한 국제 협력에서 주요 역할을 할 것"이라고 덧붙였다. 이날 카이스트 오혜연 전산학부 교수는 디지털 격차 해소를 위해 '포용적 AI' 중요성을 강조했다. AI 기술이 다양한 언어와 문화를 아우르는 방향으로 발전해야 한다는 이유에서다. 오 교수는 "AI가 영어에만 최적화되면 한국, 일본, 중국 같은 비영어권 사용자는 부정확한 정보에 노출될 수 있다”며 "AI가 다양한 언어와 문화적 인식을 반영해야 디지털 전환의 진정한 포용성을 실현할 수 있다"고 설명했다. 그는 포용적 AI 실현을 위해 다중언어 연구를 적극 추진 중이라고 했다. 최근 거대언어모델(LLM) 연구 트렌드 중 하나로 알려졌다. 오 교수는 "포용적 AI는 단순히 AI 접근성 높이는 것을 넘어 글로벌 교류와 디지털 경제 활성화를 도울 수 있을 것"이라고 강조했다.

2024.11.26 13:04김미정

김병준 한테크 "현장에서 빠르고 정확한 성과 내는 AI 개발"

2022년 11월 오픈 AI의 '챗GPT' 등장 이후 불과 2년 만인 2024년 11월, 인공지능은 일상 속에 깊숙이 자리 잡았다. 빠르게 발전하는 AI 기술은 이제 인터넷과 같이 일상적인 기반 인프라가 될 전망이다. 하지만 실제 우리의 일상생활에서 활용되는 실사례는 아직 부족한 상황이다. 이에 단순히 연구소에서만 좋은 성능을 보이는 AI가 아닌, 실제 현장에서 빠르고 정확한 성과를 내는 AI의 개발을 시작한 기업이 있다. 바로 엣지 AI 전문 스타트업 한테크가 그 주인공이다. 한테크의 김병준 대표는 2019년 말 귀국 후 코로나로 인해 출국하지 못하고 한국에서 창업했다. 해외에서 AI 산업의 준비를 보며 김 대표는 자본과 데이터가 AI의 핵심임을 깨달았고, AI가 다양한 산업현장과 일상생활에 접목될 때 발생할 수 있는 변수에 대응하는 것이 한테크의 기회라고 판단했다. 이에 그는 2020년 8월 한테크를 설립하고, 실제 현장에서 빠르고 정확한 성능을 보이는 AI 개발을 시작했다. 4년간의 필드테스트를 통해 AI 반도체 없이 최적화된 성능을 보여줄 수 있는 맞춤형 데이터셋과 모델 구축 표준화를 확립했다. 한테크의 핵심 기술은 HMEI(Hantech Multimodal Edge Intelligence)로, 비전(Vision) 기반의 멀티모달 AI 모델이다. HMEI는 영상과 이미지를 인식할 뿐만 아니라, 소리와 텍스트도 인지한다. 회사에 따르면 HMEI는 인터넷 없이 독립적으로 구동돼 빠르고 보안에 강력하며, 맞춤형 모델로 높은 신뢰도와 효율성을 제공한다. 4년간의 다양한 필드테스트를 통해 완성된 HMEI는 극한 환경에서도 안정적으로 운영된다고. 한테크는 ▲교통·주차 ▲재난안전 ▲시큐리티 등 스마트시티 분야에서 활용되고 있으며, 포르쉐 코리아·현대백화점 그룹·서울시 등과 거래를 이어가고 있다. 2022년 과기부 장관 표창, 서울특별시장상, 2023년 산자부 장관 표창 등을 수상하며 기술력을 인정받았다. 김병준 대표는 2022년 서울시의 스마트시티 분야 명예시장으로 위촉돼 활동 중이다. 한테크는 규제와 언어의 장벽을 넘어 일본과 캐나다 진출을 준비 중이다. 일본에서는 현지 고객의 신뢰를 얻기 위해 현지에서 기기를 수급하는 형태로 진행 중이며, 캐나다에서는 몬트리올시 투자청의 제안으로 구체적인 논의를 진행 중이다. 김병준 대표는 “한테크의 AI 시스템은 인터넷 없이도 운영 가능하여 인프라 제약이 없고, 물리적 보안으로 개인정보 이슈에서 자유롭다”면서 “다양한 분야에서 이미 운용 중이기에 신뢰도가 높다”고 강조했다. 이어 “한테크는 국제 PCT 출원을 2건 보유하고 있다. 현재 일본과 미국 등에 등록을 진행 중이며, 추가 PCT도 준비 중에 있다”고 덧붙였다.

2024.11.25 14:16백봉삼

"국가AI전략 수립...디지털안전법 제정 추진”

과학기술정보통신부가 국가인공지능위원회 중심으로 수립될 '국가AI전략'의 내실 있는 이행으로 국가 AI와 디지털 경쟁력을 높인다는 방침이다. 체계적인 디지털 재난 안전관리를 위해서는 디지털안전법안을 제정하고 사업자 자발적 안전관리를 위한 디지털 안전관리 협의체 발족을 추진키로 했다. 유상임 과학기술정보통신부 장관은 지난 15일 브리핑을 열어 이번 정권의 ICT 분야 정책 성과로 ▲AI 디지털 경쟁력 제고 ▲글로벌 디지털 질서정립 주도 ▲네트워크 고도화 ▲디지털 안전 확보 ▲디지털 민생 안정 등을 꼽으며 이와 같은 추진계획을 밝혔다. 디지털 경제 패권국가 과기정통부는 지난 2022년 대통령 뉴욕구상 이후로 '대한민국 디지털 전략'을 수립하고 초거대AI 경쟁력 강화 방안, AI 디지털 혁신성장 전략 등을 발표했다. ICT규제샌드박스로 기업 매출은 806억원, 신규 고용 7천여명 창출 등을 이끌기도 했다. 범부처 AI일상화 프로젝트를 통해 국민 생활 속 AI를 확산하고 전국 디지털 배움터를 중심으로 3년간 총 244만명에게 디지털 교육을 제공한 점도 성과로 꼽았다. AI 기업 매출 연 40%대 증가를 기록했고 올해 영국 토터스미디어가 발표한 글로벌AI인덱스에서 우리나라는 6위를 차지했다. 또 대통령 뉴욕구상 이후, 세계경제포럼, 파리 디지털 비전 포럼 등에서 글로벌 디지털 질서 논의를 주도하고, 정부는 이를 종합해 '디지털 권리장전'을 발표했다. 올해 AI서울정상회의를 통해 서울선언도 도출했다. 이를 토대로 글로벌 선도국과 함께 지속적으로 디지털 질서를 주도하고 AI 디지털 시대의 시급한 쟁점에 대해 관계부처와 함께 힘을 모아 대응해 나갈 예정이다. 또 정부 후반기에는 국민이 AI 디지털 혁신 성과를 체감할 수 있도록 정책 역량을 집중하고, 누구도 소외되지 않고 디지털 혜택을 누릴 수 있도록 디지털포용법 제정을 추진할 계획이다. 디지털 인프라 혁신 더욱 튼튼한 디지털 인프라 구축을 위해 6G 이동통신, 저궤도 위성통신 등 차세대 네트워크 핵심기술 확보에 착수했다. 올해 4월 5G 전국망을 구축하고, 1천500여개 마을로 농어촌 초고속인터넷망을 확장했다. 미디어콘텐츠 산업융합 발전방안을 수립하고 5년간 1조원 규모 전략펀드 조성과 세제지원 확대에도 나섰다. 카카오 장애사고 등을 전화위복으로 삼아 디지털서비스 안정성 강화방안을 마련하며 디지털 장애 발생을 대폭 줄였다. 아울러 중저가 단말 출시 유도와 함께, 5G 요금제 개편, 알뜰폰 활성화 등에 노력을 기울였고 보이스피싱, 딥페이크 등 디지털 범죄 예방과 대응도 강화했다. 디지털 기술로 국민 안전과 편의에도 크게 기여했다. 도로 지하차도 침수 위험 상황을 내비게이션으로 실시간으로 알리는 서비스를 개시하고, 디지털 긴급구조 기술을 경찰의 인명 구조 작업에 적용하고 있다. 정부 후반기에는 디지털안전법 제정을 추진하고 유상임 장관 지휘에 따라 출범한 디지털 민생지원 추진단 중심으로 불법스팸 척결, IP카메라 보안강화 등을 살핀다는 계획이다.

2024.11.17 12:00박수형

행안부, '데이터 분석·활용 공모전' 결선 개최...AI 혁신사례 발굴

행정안전부가 인공지능(AI)과 빅데이터를 활용해 사회문제를 해결하는 아이디어 발굴에 나선다. 행정안전부는 광주 김대중컨벤션센터에서 '2024년 데이터분석·활용공모전 결선대회'를 개최한다고 13일 밝혔다. 올해 공모전은 아이디어, 분석, 우수사례의 세 가지 분야로 나뉘어 진행되며 분아별로 두각을 나타낸 팀들의 실시간 발표로 최종 승자를 가린다. 결선에는 아이디어 분야 4팀, 분석 분야 4팀, 우수사례 5팀으로 13개 팀이 진출했다. 아이디어 분야에서는 마이데이터·AI 기반 맞춤형 재난·안전교육을 실시해 위험 상황 대처 능력을 높이는 '오직 당신만을 위한 재난/안전 교육'과 기후변화에 따른 도시 침수를 예방하기 위해 데이터 기반 실시간 경보 시스템을 도입하는 '기후변화 대응을 위한 데이터 기반 도시 침수 예방 시스템' 등이 올랐다. 분석 분야에서는 교량구조물 노후화 데이터를 수집·분석해 유지관리 방안 등을 제시하고 교량 유지관리 예산 절감에 기여하는 '예방적 교량 유지관리를 위한 교량 노후화 관련 데이터 분석 기술' 등의 과제가 선보인다. 우수사례 분야에서는 교통 빅데이터로 버스전용차로 구간을 분석, 개선 방안을 제시해 통행속도 증가, 사회적 비용 절감에 기여한 '교통 빅데이터 분석을 통한 버스전용차로 제도개선으로 국민 이동 편의 증진' 사례 등이 발표된다. 결선대회에서 데이터 전문가 평가와 국민 투표 점수를 종합해 최종 순위를 결정하게 된다. 우수사례 부문에서 가장 높은 점수를 받은 팀은 국무총리상과 500만 원의 상금이 수여되고, 아이디어 및 분석 분야 최상위 팀에게는 행정안전부장관상이 수여된다. 그 외 결선 진출작들에게는 NIA 원장상이 주어질 예정이다. 공모전에 대한 자세한 내용은 행정안전부 공식 누리집에서 확인할 수 있으며, 대회 결과는 '소통24' 누리집에 공개된다. 지난해에는 한국도로공사에서 발표한 '겨울철 국민 불안 도로 살얼음(블랙아이스) AI 예측 시스템 구축'이 국무총리상을 차지했다. 한국도로공사는 도로 포장면 습기가 순간적으로 얼어 결빙되는 도로살얼음을 예측하는 시스템을 개발하여 안전순찰원 현장 확인 등 교통사고 사전 대응 및 대국민 도로살얼음 안내 서비스를 제공해 호평을 받았다. 행정안전부는 전국 행정·공공 기관이 실제 업무에 수상작 사례를 참고할 수 있도록 표준화하여 확산할 예정이다. 이를 통해 정책 현장에서 데이터를 활용해 국민이 체감할 수 있는 행정을 추진하는 사례가 더욱 많아질 것으로 기대하고 있다. 오는 14일에는 데이터 분석·활용 정책 방향을 논의하고, 국민체감형 데이터 분석과제 발굴·데이터 활용 우수사례를 공유하는 '2024년 제2회 민관합동 데이터분석협의회'도 개최할 예정이다. 이 자리에서는 의정부시의 '장거리 통학 학생을 위한 신규 버스노선 설계 분석모델' 및 한국수산자원공단의 '수산종자 수급 예측 모델'이 발표된다. 이용석 디지털정부혁신실장은 "이번 공모전을 계기로 데이터 분석 기술과 AI를 행정 혁신에 활용해 효율적이고 국민 친화적인 행정서비스를 제공할 수 있도록 노력하겠다"고 밝혔다.

2024.11.12 16:26남혁우

AI안전연구소 초대소장에 김명주 서울여대 교수

과학기술정보통신부는 AI안전연구소 초대소장에 김명주 서울여자대학교 정보보호학부 교수를 11월12일자로 임명한다고 밝혔다. 김명주 초대소장은 컴퓨터공학을 전공한 AI윤리 신뢰성 전문가로, 바른AI연구센터장, 국제AI윤리협회장, AI윤리정책포럼 위원장 등을 맡으며 안전하고 책임있는 AI개발 활용 확산을 위해 노력해 왔다. 아울러 OECD GPAI 전문가 멤버로 활동하며 지속가능한 AI발전을 위한 국제사회 논의에도 활발히 참여하고 있다. 정부는 그간 AI윤리 안전분야에서 축적한 전문성과 경험, 리더십을 바탕으로 새로 출범할 AI안전연구소를 글로벌 AI안전연구를 선도하는 기관으로 발전시켜 나가고, 국내 AI분야 산학연과 세계 각국의 AI안전연구소와 긴밀히 협력할 것으로 기대했다. AI안전연구소장의 임기는 임명일로부터 3년이다.

2024.11.12 11:31박수형

정용식 TS 이사장 "AI·빅데이터 활용해 스마트 교통안전체계 구축"

정용식 TS한국교통안전공단 이사장은 “인공지능(AI)·빅데이터 등 첨단기술을 활용해 365일 국민 안전을 지키는 스마트 교통안전 체계를 구축하겠다”고 밝혔다. 정 이사장은 취임 한 달을 앞둔 7일 간담회에서 “현재 OECD 28위 수준의 자동차 1만대 당 사망자 수 0.858명을 2027년 8위 수준인 0.5명으로 줄이고 자동차 안전도를 세계 6위에서 3위로, 차세대 모빌리티 준비지수를 13위에서 7위로 향상하겠다”며 이같이 말했다. 지난 1981년 설립한 TS는 생애주기별 촘촘한 교통안전 종합대책을 마련하며 미래 모빌리티 혁신를 거듭하며 지난해 역대 최저 교통사고 사망자 수인 2천551명을 달성했다. 도심항공교통(UAM)·자율주행자동차 등 미래 모빌리티 안전과 관련해서는 “미래 모빌리티의 핵심은 땅과 하늘을 넘나들며 모든 수단과의 연결을 통해 '이동가치'를 실현하고 국민 이동 편의성을 높이는 것이 중요하다”고 강조했다. 정 이사장은 “미래 모빌리티에 다양한 첨단기술이 활용되는 만큼 첨단장치 오작동, 자율주행차 교통사고 드 위험 요소가 있을 수 있어 안전성 확보가 중요하다”고 밝혔다. 이어 “미래 모빌리티 주도권 선점을 위한 글로벌 경쟁이 가속하는 상황에서 여러 규제와 기술개발 인프라 제공을 통한 민간 선도 산업 활성화 지원으로 국가경쟁력을 높여야 한다”고 강조했다. TS는 2022년 정부의 모빌리티 혁신로드맵 발표 이후 자체적으로 미래 모빌리티 간담회를 구성·운영하며 모빌리티 제도개선과 지원 필요사항 등 산업계 목소리를 청취하고 자체 사업과 정부 정책에 반영될 수 있도록 민간과 정부의 가교역할을 하고 있다. 모빌리티 협력위원회는 2022년 8월부터 분기별 자율주행차·UAM·모빌리티 서비스 등의 분야별 안전성 확보와 활성화를 위한 추진 과제를 선제적으로 발굴하고 있다. 정 이사장은 “자율주행차·전기차 SDV(Software Defined Vehicle) 등 신기술 도입에 따른 첨단장치 오작동·배터리 화재·SW업데이트 위변조 등 새로운 유혀의 위험에 선제 대응해 국민의 미래 모빌리티에 대한 불안감을 해소하고 국가 미래 모빌리티 안전 경쟁력을 높일 계획”이라고 말했다. 또 “긴급자동제동장치(AEB)·차로유지지원장치(LKAS)·전방추돌경고장치(FCW)·차선이탈경고장치(LDWS)·적응형순항제어장치(ACC) 등 5개 첨단안전장치(ADAS) 검사 방법과 제도 제·개정(안)을 마련해 안전한 자율주행차 운행 환경을 조성해 나갈 계획”이라고 덧붙였다. 정 이사장은 “UAM은 활주로가 필요 없고 배출가스가 없는 기존에 없던 새로운 친환경 교통수단이지만 새로운 교통수단에 대한 국민 불안감이 존재한다”며 “UAM 법령 정비·자격업무 등 UAM 상용화 기반을 조성하고 실증·시범사업을 활성화하기 위한 제도적 기반을 마련해 나갈 계획”이라고 말했다. 보급이 빠르게 늘어나고 있는 드론 안전관리에도 만전을 기하고 있다. 정 이사장은 “사업용 드론 기체와 비사업용 최대이륙중량 2kg 초과기체는 기체 신고를 의무화해 등록·관리하고 있고 드론을 사용해 농약살포나 사진촬영 등 국토부령으로 정하는 사업을 유상으로 수행하는 사업체는 의무등록해 관리하고 있다”고 말했다. 또 “2017년 8월부터 드론 전문교육기관도 인력·시설·장비 등 교육인프라를 현장 확인하고 운영실태를 점검하는 등 안전관리를 수행하고 있다”고 강조했다. 정 이사장은 “운전대를 잡지 않아도 되는 자율차 시대가 눈앞에 오고 있고 섬과 섬을 잇는 드론 배송과 도심 속 항공교통 수단인 UAM이 우리 일상에서 실현되고 있다”며 “TS가 모빌리티 종합 안전기관으로 땅과 하늘을 아우르는 종합 안전관리체계를 마련해야 하는 확실한 이유”라고 말했다. 정 이사장은 “앞으로 자율차 안전 운행 성능 확인과 자율협력주행 인증관리체계 구축, 시범지구 운영 내실화로 완전 자율주해 시대를 선도하는 한편, UAM 실시간 관제시스템과 안전 기준 확립에도 역량을 집중해 TS가 미래 항공 모빌리티 분야에서 세계적인 수준의 안전성과 신뢰성을 확보해 모빌리티 종합 안전기관을 발돋움할 수 있도록 하겠다”고 밝혔다.

2024.11.12 07:24주문정

ETRI부설 AI안전연구소장에 김명주 서울여대 교수…11일 취임

김명주 서울여대 정보보호학부 교수(60)가 한국전자통신연구원(ETRI) 부설 AI안전연구소 초대 소장으로 임명돼 11일 취임식을 개최했다. AI안전연구소는 AI 안전성을 평가‧연구하고 주요국 AI안전연구소와의 협력 전담 조직이다. 30여 명의 연구인력이 AI안전 정책 및 대외협력실·AI안전 평가실·AI안전 연구실 등 3개의 연구실로 나눠 본격 업무에 들어갔다. 사무실은 판교 글로벌 R&D센터에 설치됐다. AI안전연구소는 ▲AI안전에 대한 과학적 이해 증진 ▲AI안전 정책 고도화 및 안전제도 확립 ▲국내 AI기업 안전 확보 지원 등에 적극 나설 계획이다. 이를 위해 AI위험의 정의와 AI안전 평가, 국가차원 관리 주요 AI위험을 정의하고 AI안전 평가방법론 개발 및 완화방안 마련 등 4개 핵심 과제를 주요 핵심 기능으로 설정했다. 11일부터 근무에 들어간 초대 김 소장은 서울대 컴퓨터공학과를 나와 같은 대학에서 컴퓨터공학으로 석, 박사학위를 받았다. 2001년 수도권 최초로 서울여대에 정보보호학과를 신설했다. 2014년에는 국내 최초 교육부 지정 정보보호영재교육원을 설립했다. 2018년에는 국내 최초로 지능정보사회 윤리 가이드라인 서울 PACT를 개발, 과학기술정보통신부 근정포장을 수상했다. 한국사이버테러정보전학회 부회장을 역임했다. 현재 한국저작권위원회 부위원장, 바른AI연구센터장, 디지털포용포럼 디지털역기능분과장, 한국인터넷윤리학회 명예회장, 인공지능윤리정책포럼 위원장, 개인정보보호위원회 개인정보기술포럼 정책분과위원, 육군3사관학교 석좌교수, 개인정보기술포럼 정책위원을 맡고 있다. 특히, 초대 김 소장은 지난 3월부터 IAAE 국제인공지능&윤리협회 제2대 회장을 수행중이다. IAAE는국제인공지능&윤리협회로 세계 최초로 인공지능 기술과 윤리를 함께 논의하는 글로벌 인공지능 기관이다.

2024.11.11 19:45박희범

행안부, 디지털 네이션스 장관회의 참가…"개도국 DX 전략 공유"

정부가 개도국 디지털 전환(DX) 지원을 위한 전략을 국제 무대에서 적극 공유한다. 행정안전부(행안부)는 이상민 장관이 오는 4일부터 이틀간 덴마크 코펜하겐에서 열리는 '디지털네이션스' 장관회의에 참석한다고 3일 밝혔다. 디지털네이션스는 디지털정부 분야의 세계 선도국 10개국이 참여하는 협의체로, 올해 회의 주제는 '성장 동력으로서의 인공지능(AI)'이다. 이번 회의에서는 국가 성장과 경쟁력 강화의 주요 동력으로 AI를 활용하는 방안과 미래 노동 시장 대비를 위한 AI 역량 구축이 주요 의제로 다뤄질 예정이다. 행안부는 AI와 데이터를 기반으로 한 디지털플랫폼정부 추진 경험을 바탕으로 '범정부 초거대 AI 구축 사업' 및 공공과 민간의 디지털 전문인력 양성 계획을 중점 소개할 방침이다. 또 이 장관은 덴마크와 영국의 디지털부 장관과 양자 면담을 통해 디지털 정책 협력 방안을 논의할 계획이다. 회의 이후에는 프랑스 파리로 이동해 경제협력기구(OECD) 사무총장과 만나 한국의 디지털 정부 경험을 개도국에 지원하는 구체적 협력 방안을 논의할 예정이다. 행안부는 이번 OECD 면담에서 비회원국의 디지털 역량 강화 지원을 구체화하며 한국 디지털 정부의 해외 진출 기회를 확대할 계획이다. 이 장관은 "우리 정부는 공공 AI 도입 및 활용을 선도하며 미래 도전에 민첩하게 대응할 계획"이라며 "앞으로도 디지털정부 선도국과의 협력을 통해 전 세계의 디지털 발전에 기여하겠다"고 밝혔다.

2024.11.03 18:44조이환

개인정보위 "내년 빅테크 소송 예산 증액·인력 충원 목표"

개인정보보호위원회가 내년에 빅테크 소송비를 증액하고 인력 충원을 위해 노력한다는 방침이다. 30일 개인정보위 최장혁 부위원장은 출입기자단 정례브리핑에서 참석해 이같은 계획을 발표했다. 단기적으로 송무팀을 꾸리고 장기적으로는 빅테크 전담 변호사와 회계사를 구축할 방침이다. 최 부위원장은 구글·메타 등 빅테크 소송을 위해 내년 예산 약 4억원을 확보했다고 밝혔다. 그러나 해당 예산은 충분치 않다고 설명했다. 최 부위원장은 "최근 정부가 예산을 줄이려는 정책을 추진하고 있다"며 "이런 상황에서 모든 비용을 충당하기 어려울 수 있다"고 말했다. 그럼에도 최 부위원장은 내년 소송 예산 추가 증액을 희망적으로 봤다. 올해 배정된 예산도 2배 가까이 올려 받았다는 이유에서다. 최 부위원장은 "2023년에 올해 소송비 예산을 2억원에서 4억원으로 증액한 바 있다"며 "어려운 상황이지만 정부와 합의점을 찾을 것"이라고 말했다. 최 부위원장은 빅테크 소송 예산뿐 아니라 글로벌 기업을 관리하는 인력 부족도 큰 난제라고 지적했다. 특히 소송을 전담할 로펌을 찾기 힘들다고 말했다. 최 부위원장은 "대형 로펌들이 주로 대기업이나 글로벌 기업과 비즈니스 관계를 맺고 있다"며 "정부 측 소송을 대행하는 데 어려움이 있다"고 지적했다. 또 개보위는 내년 조직 개편을 통해 빅테크 소송을 전담할 송무팀 신설도 계획하고 있다. 장기적으로는 송무팀 내 전담 변호사와 회계사 등을 추가 영입할 방침이다. 그는 "특히 빅테크에 과징금을 부과하려면 기업 재무제표를 통해 매출을 파악해야 한다"며 "이를 위해 변호사뿐 아니라 회계사 인력 충원은 필수적"이라고 했다. 이 외에도 최 부위원장은 내달 설립 예정인 AI안전연구소와 AI 신뢰성 협력을 위해 노력할 의지도 밝혔다. 그는 "개인정보위가 AI 안전성과 딥페이크 등 AI 신뢰성 논의를 이어온 만큼 AI안전연구소 업무와 연계됐기 때문"이라고 이유를 설명했다.

2024.10.30 17:00김미정

[현장] UN 리저널 심포지엄 개막…반기문 "AI로 SDGs 달성 가속화해야"

"인공지능(AI)은 지속가능발전목표(SDGs) 달성을 위한 큰 잠재력을 가지고 있습니다. 그럼에도 불구하고 디지털 격차가 심화되면 그 잠재력이 불균형하게 분배될 위험이 있습니다." 반기문 전 UN 사무총장은 30일 인천 송도 컨벤시아에서 개막한 '제8회 UN 리저널 심포지엄'에서 이같이 강조했다. 이번 심포지엄은 '효과적인 거버넌스와 인공지능(AI) 전환을 통한 2030 아젠다 달성'을 주제로, AI 기술을 활용한 SDGs 달성 방안과 디지털 혁신 전략을 논의하기 위해 개최됐다. UN 경제사회이사회(UN DESA), UN 거버넌스센터(UNPOG), 대한민국 행정안전부, 인천광역시가 공동 주관한 이번 행사에는 아시아태평양 및 동아프리카 등 48개국에서 약 300여 명의 정부 관계자와 전문가가 참석해 다음달 1일까지 진행될 예정이다. 반기문 전 사무총장은 영상 기조연설을 통해 SDGs 달성 현황에 대한 우려를 표하며 AI의 역할과 디지털 격차 해소의 중요성을 강조했다. 그는 현재 SDGs 목표 중 단 17%만이 순조롭게 진행되고 있으며 많은 목표가 정체되거나 후퇴하고 있다고 지적했다. AI는 이러한 상황을 변화시킬 '게임체인저'로 작용할 수 있다. 정부가 AI를 활용해 양질의 데이터를 수집하고 공공 서비스의 효율성을 높임으로써 포용적 발전과 혁신을 이끌어낼 수 있다는 것이다. 이를 위해서는 AI의 오용에 대한 우려를 해소하고 책임 있는 AI 거버넌스를 구축하기 위한 국제적인 협력이 절실한 상황이다. 또 AI 데이터 센터의 환경 영향과 탄소 배출에도 각국이 주의를 기울여야 한다. 이러한 노력에 대해 반 전 총장은 "현재 85%의 국가가 AI 관련 규제나 정책이 없는 상황"이라며 "우선적으로 강력한 국가 기관과 견고한 규제 체계가 필요하다"고 강조했다. 그러면서 "이번 심포지엄이 AI의 변혁적 힘을 실질적으로 활용하는 데 기여하기를 바란다"고 말했다. 이어 연설한 티모시 마크 마시우 파푸아뉴기니 정보통신부 장관은 개도국의 AI 수용과 통합에 대한 관심을 표명하며 자국의 디지털 전환 노력을 소개했다. 그는 AI가 혁신을 촉진하고 효율성을 향상시키며 공공 부문의 서비스 제공을 강화할 수 있는 잠재력이 있다고 역설했다. 파푸아뉴기니는 지난 2020년 디지털 전환 정책을 시작으로 디지털 정부법, 사이버 보안 정책 등 여러 정책과 법안을 도입한 바 있다. 또 정부 포털, 디지털 ID, 디지털 월렛 등을 출시해 국민들이 정부와 원활하게 소통할 수 있는 기반을 마련하고 있다. 또 마시우 장관은 디지털 변혁에 있어서의 포용성과 접근성을 강조했다. 이를 위해서는 AI를 포함한 신기술에 대한 명확한 방향성과 협력이 필요하며 국내외 이해관계자들과의 협력 역시 핵심적이다. 그는 "최근 태평양 제도 ICT 장관 회의에서 '나디 선언'을 채택하고 디지털 변혁, 디지털 인프라, 사이버 보안 등 우선 분야에서 협력하기로 했다"며 "누구도 뒤처지지 않도록 국제 사회와 함께 AI를 책임 있게 활용하겠다"고 강조했다. 이번 행사는 인천광역시와 행정안전부의 적극적인 참여로 더욱 의미를 더했다. 두 기관은 공동 주최를 통해 국제적인 AI 거버넌스 논의에 주도적으로 참여하며 대한민국의 디지털 역량과 공공 행정 혁신 사례를 세계에 알리고자 힘쓰고 있다. 이상민 행정안전부 장관은 환영사에서 국제 협력과 디지털 혁신의 중요성을 강조했다. 실제로 대한민국은 현재 공적개발원조(ODA) 예산을 30% 이상 증액하고, 개발도상국의 공공행정 개선과 디지털 역량 강화를 지원하고 있다. 또 AI 등 첨단기술을 기반으로 혁신적 서비스를 제공하고 사회 문제를 해결하는 디지털 플랫폼 정부를 구현하는 중이다. 이 장관은 "국제사회의 규범과 자유, 평화, 인권의 보편적 가치에 기반한 협력이 필요하다"며 "행안부도 국제 AI 협력을 적극 지원할 것"이라고 강조했다. 유정복 인천시장은 AI 기술의 기회와 위험을 동시에 언급하며 균형 잡힌 접근의 필요성을 강조했다. 이를 위해서는 정부, 기업, 비정부기구들이 협력 네트워크를 구축하는 것이 필수적이다. 유 시장은 "이번 심포지엄에서 AI 기술이 주는 편의와 위험의 균형을 맞춰 나갈 방안을 논의할 것으로 기대한다"며 "AI 규범과 거버넌스를 발전시켜 문제를 최소화하고 안정성을 확보하도록 적극 지원하겠다"고 밝혔다.

2024.10.30 12:16조이환

[ZD SW 투데이] 신세계아이앤씨, 한국ESG기준원 평가 A등급 획득 外

지디넷코리아가 소프트웨어(SW) 업계의 다양한 소식을 한 눈에 볼 수 있는 'ZD SW 투데이'를 새롭게 마련했습니다. SW뿐 아니라 클라우드, 보안, 인공지능(AI) 등 여러 분야에서 활발히 활동하고 있는 기업들의 소식을 담은 만큼 좀 더 쉽고 편하게 이슈를 확인해 보시기 바랍니다. [편집자주] ◆신세계아이앤씨, 한국ESG기준원 평가 A등급 획득 신세계아이앤씨가 한국ESG기준원의 ESG 평가에서 2년 연속 통합 A등급을 획득했다. 세부적으로 환경 A등급, 사회 A+등급, 지배구조 A등급을 받으며 ESG 관리체계의 우수성을 인정받았다. 신세계아이앤씨는 친환경 경영과 인권경영, 투명한 지배구조 강화 등 ESG 각 영역의 핵심 과제를 실행하며 다양한 이해관계자와의 소통을 지속적으로 강화할 계획이다. ◆베스핀글로벌, '생성형 AI 도입 프로세스 A to Z' 웨비나 성료 베스핀글로벌이 AWS와 함께 지난 24일 '성공사례로 알아보는 생성형 AI 도입 프로세스 A to Z' 웨비나를 개최했다. 이 웨비나는 생성 AI 도입의 실제 사례와 인사이트를 제공해 업계 종사자들로부터 호응을 얻었다. 웨비나에서는 아마존 베드록을 활용한 거대언어모델(LLM) 서비스 도입 사례와 비즈니스 혁신 방안이 집중적으로 다뤄졌다. 베스핀글로벌은 참가자들에게 생성 AI 컨설팅 무료 제공, 실증사업(PoC) 비용 지원, AWS 크레딧 제공 등의 혜택을 제공하며 기업들의 AI 도입을 적극 지원했다. ◆테스트웍스, '베스트콘 2024'에서 AI·SW 안전성 인증 소개 테스트웍스가 '베스트콘 2024'에서 AI 시스템의 안전성과 신뢰성을 보장하는 'AI·SW 안전성 인증(AISC)' 제도를 소개했다. AISC는 AI가 안전하게 설계, 운영될 수 있도록 공정성, 책임성, 안전성 등 15개 리스크 항목을 기준으로 인증을 부여하는 제도다. AISC는 테스트웍스, 네덜란드 시험인증 기관 키와(Kiwa), 한국정보산업연합회가 공동으로 글로벌 표준에 기반해 안전성, 성능, 공정성 수준을 평가해 적합성 인증서를 발행한다. ◆파인더갭 버그바운티 플랫폼, '2024 우수 정보보호 기술' 지정 파인더갭의 '버그바운티 플랫폼'이 과학기술정보통신부와 KISA가 주관하는 '2024 우수 정보보호 기술'로 지정됐다. 해당 제도는 정보보호 분야의 유망 기술과 제품을 발굴하고 성장을 지원하기 위해 운영된다. 파인더갭의 버그바운티 플랫폼은 보안 취약점 제보자에게 포상금을 지급하고 기업과 윤리적 해커를 연결하는 서비스를 제공한다. 또강화된 접근 제어 기능을 통해 안전한 테스트 환경을 구축해 높은 신뢰성을 인정받고 있다. ◆스페이스뱅크, 중동 '자이텍스 노스 스타 두바이 2024' 참가 스페이스뱅크가 지난 13일부터 나흘간 중동 최대 IT 전시회 '자이텍스 노스 스타 두바이 2024'에 참가해 로우코드 기반 AI DX 솔루션과 비접촉 센서 기반 안전 관제 솔루션을 선보였다. 이번 전시에서 스페이스뱅크는 아랍에미리트 AI 경제 장관과 간담회를 갖고 3개 글로벌 기업과 업무협약을 체결했다. 이번 행사에서 스페이스뱅크는 UAE의 스마트 시티 구축을 위한 디지털 전환 지원 의지를 표명하며 지능형 관제 솔루션으로 중동 시장 진출을 확대할 계획이다.

2024.10.25 17:45조이환

"글로벌 AI 안전 주도"…정부, AI안전연구소 운영 전략 공유

정부가 내달 설립 예정인 '인공지능(AI)안전연구소' 운영 계획을 공유하고 의견을 수렴했다. 과학기술정보통신부는 18일 서울 중구 국가과학기술자문회의 대회의실에서 '제17차 정보통신전략위원회'를 열었다. 이 자리에서 AI안전연구소 비전을 '아태지역을 대표하는 글로벌 AI안전 거점연구소'으로 설정하고 인력 확보·핵심 기능·주요 일정에 대한 사안을 발표했다. 우선 정부는 11월 AI안전연구소를 개소할 예정이다. AI안전연구소는 내달 20일부터 미국 샌프란시스코에서 개최될 '국제 AI안전연구소 네트워크' 행사 참여를 시작으로 본격적인 역할을 수행할 계획이다. AI안전연구소는 한국정보통신연구원(ETRI)에 소속된 신규 연구소 조직으로 설치된다. AI안전 정책·평가·기술분야의 3개의 연구실로 운영된다. 현재 연구소 초대소장으로 AI 분야 전문성과 국제적 감각을 보유한 전문가를 채용하기 위한 절차를 진행 중이다. 이를 통해 연구 인력 30명을 확보할 계획이다. 사무실은 AI 판교 글로벌 연구·개발(R&D)센터에 설치된다. 정부는 아태지역을 대표하는 글로벌 AI안전 거점연구소 구현을 AI안전연구소 비전으로 설정했다. 3대 핵심미션으로 ▲AI안전에 대한 과학적 이해 증진 ▲AI안전 정책 고도화 및 안전제도 확립 ▲국내 AI기업의 안전 확보 지원을 추진한다. 앞서 정부는 올해 5월 'AI서울정상회의'를 개최해 글로벌 AI거버넌스 정상급 선언문인 '서울선언'을 도출했다. 지난달 AI G3로 도약하기 위해 대통령 중심으로 범국가적 혁신역량을 결집하는 민관 협업 기반 최고위 거버넌스인 국가인공지능위원회를 설립했다. 이에 대한 연장선상으로 정부는 AI서울정상회의 개최국으로서 서울선언 규범 가치를 확산하기 위한 핵심 후속조치로 AI안전성을 평가‧연구하고, 주요국 AI안전연구소와 협력을 전담하는 조직인 AI안전연구소 설립을 추진한다. AI안전연구소 운영을 통해 안전한 AI 개발·활용을 확산하고, AI 안전에 대한 국제적 연대 강화와 규범 정립을 수행하며, 중장기적으로 세계적 AI안전 연구를 선도하는 기관으로 발전시킬 계획이다. 그간 정부는 미국과 영국, 일본 등 AI안전연구소를 현장방문해 각국 연구소의 성격과 역할, 안전 평가방식, 연구소 운영방안 등을 심층 분석한 바 있다. AI안전연구소 설립자문위원회와 설립준비위원회 운영을 통해 국내 AI분야 전문가 의견을 폭넓게 수렴했다. 이를 통해 연구소 비전, 세부기능 과 운영방안을 도출했다. 11월 모습 드러내는 AI안전연구소, 핵심 기능은? 과기정통부는 AI안전연구소가 4가지 핵심기능을 수행할 계획이라고 밝혔다. 우선 연구소는 AI위험을 정의하고, AI안전을 평가할 방침이다. 국가차원에서 관리해야 할 주요 AI위험을 정의하고, AI안전 평가방법론 개발과 위험완화 방안을 마련한다. AI안전 평가데이터셋 구축과 평가도구 개발 등 AI안전 평가인프라를 구축하고, 기업 활용을 지원할 계획이다. AI안전연구소는 AI안전 정책을 연구할 방침이다. 주요국·국제기구의 AI 규범·거버넌스를 연구하고, 국내외 주요 AI위험 정보를 수집·분석함으로써 AI안전 정책을 고도화할 예정이다. AI 기술이 경제·사회·일자리 등에 미치는 영향을 종합적으로 분석하고 대응 방안 연구도 추진할 계획이다. 과기정통부는 해당 연구소가 AI안전 대내외 협력을 수행할 것이라고 설명했다. AI안전연구소 중심으로 산학연이 참여하는 AI안전 파트너십을 구축한다. 이를 통해 AI안전 정책·기술 분야 연구 협력을 촉진할 계획이다. 글로벌 AI안전 거버넌스의 주요 일원으로서 AI안전 확보를 위해 주요국 AI안전연구소, 국제기구 등과 협력할 예정이다. 연구소는 AI안전 확보를 위한 R&D도 추진한다. AI 통제력 상실 대응, AI모델의 보안·강건성 강화, AI 딥페이크 탐지 등 AI위험에 대비해 안전을 확보할 수 있는 R&D를 추진한다. 과기정통부 유상임 장관은 "향후 1~2년은 우리나라가 AI, 디지털 분야 선도국 도약의 성패를 좌우할 수 있는 골든타임으로 정부와 민간이 힘을 합쳐 모든 역량을 총결집 해야할 때"라며 "클라우드컴퓨팅 도입 전면화, AI안전연구소 출범 등 논의된 내용들을 속도감있게 추진해 나갈 수 있도록 관계부처와 적극 협력해 나갈 것"이라고 밝혔다.

2024.10.18 14:00김미정

"英·美는 '억대 연봉' 준다던데"...ETRI 연구환경 악화, 정부 출연금 지원 절실

한국전자통신연구원(ETRI)의 정부 출연금 비중이 다른 출연연에 비해 현저히 낮아 연구 환경과 연구원의 처우가 열악한 상황이라는 지적이 나왔다. 연구비와 인건비 문제를 해결하지 않으면 국가 경쟁력을 강화할 핵심 기술 개발이 어려워질 것이라는 우려가 제기되고 있다. 18일 정동영 더불어민주당 의원실에 따르면 정 의원은 지난 17일 국회 과학기술정보방송통신위원회(과방위) 국정감사에서 ETRI 총예산 중 정부 출연금 비중이 16.6%에 불과하다고 지적했다. 이는 다른 24개 출연연 평균 39.1%에 비해 현저히 낮은 수준이다. 정 의원은 ETRI 연구원들이 정부수탁과제(PBS)에 과도하게 의존하고 있어 안정적인 연구 환경이 조성되지 않고 있다고 지적했다. 또 연구원들이 과제 수주에 많은 시간을 투자하면서 장기적이고 대형 성과를 내기 어려운 구조라는 점을 언급했다. ETRI 연구원의 처우는 민간 대기업과 비교했을 때 현저히 열악한 상황이다. 삼성, 현대, LG, SK 등 대기업의 임금 수준에 비해 ETRI 연구원들은 약 70%에 불과한 보수를 받고 있어 우수 인재 유출이 가속화될 위험이 크다. 이러한 문제는 ETRI 산하에 설립될 AI 안전연구소에서도 동일하게 발생할 가능성이 높아 우려를 낳고 있다. 빠르면 오는 11월 ETRI 산하 AI 안전연구소가 개소를 앞두고 있음에도 인재 확보와 관련한 처우 개선 방안은 아직 발표되지 않았다. 현재 ETRI의 연구원들은 민간 대기업 대비 낮은 임금과 불안정한 연구 환경으로 어려움을 겪고 있는 상황으로, AI 안전연구소 역시 충분한 예산 지원과 경쟁력 있는 처우가 뒷받침되지 않을 경우 우수 인재 유출과 함께 연구 성과에도 차질이 생길 수 있다는 우려가 제기되고 있다. 이는 이미 AI 안전연구소가 세워져 있는 영국, 미국과는 '상반된 모습이다. 영국과 미국은 다가오는 AI 시대를 위한 인재 유치에 힘쓰며 억대 연봉을 보장하는 등 충분한 예산과 처우를 제공하고 있어 안정적인 연구 환경을 구축하고 있다. 이러한 우려에도 불구하고 정부가 책정한 인건비 인상률은 민간 및 공무원의 인상률을 밑돌고 있어 연구원들이 체감하는 처우 개선은 미미한 상태다. 정부의 고시 인건비는 민간 수준을 반영하지 못하고 있으며 이는 연구 인력 확보에 어려움을 초래하고 있다. 정 의원은 ETRI 연구환경 개선을 위해 정부 출연금을 확대하고 경쟁형 과제 중심의 PBS 체제를 중대형 묶음과제로 전환할 것을 촉구했다. 연구원의 처우를 실질적으로 개선할 수 있는 제도적 변화가 필요하다는 주장 역시 제기됐다. 정 의원은 "우수 인재 확보를 위해서는 처우 개선과 안정적인 연구 환경 조성이 필수적"이라며 "연구원이 과도한 경쟁에서 벗어나 장기적이고 중대형 과제를 수행할 수 있는 환경을 만들어야 한다"고 강조했다.

2024.10.18 08:44조이환

행안부, AI·빅데이터 분석 모델로 사회 문제 해결 나선다

국민 생활과 밀접한 사회문제 해결과 정부 정책 결정을 개선하기 위해 행정안전부가 인공지능(AI)과 빅데이터 분석 모델을 업무에 도입한다. 행정안전부는 ▲국민안전(2개 과제) ▲근로·복지(3개 과제) ▲국민건강 (2개 과제) ▲국민편의(2개 과제) ▲일하는 방식 개선(3개 과제) 총 5개 부문 12개 과제에서 데이터 분석과 AI 모델 개발을 진행할 예정이라고 9일 밝혔다. 국민안전에선 ▲AI 활용 딥페이크 불법 콘텐츠 분석모델 개발 ▲사업장 굴뚝 대기오염 배출 자동 탐지 지원 모델 개발 과제가 진행된다. 특히 가짜뉴스, 디지털 성범죄 등 불법 합성 콘텐츠로 인한 피해 확산을 줄이고 사회적 손실을 최소화하기 위해 영상의 딥페이크 적용 여부를 분석하는 모델을 개발할 예정이다. 근로·복지 분야에서는 ▲상병 및 요양데이터 등 활용 장해등급 예측 분석 ▲AI 기반 재해조사 분류 모델 개발 ▲에너지 바우처 사용 사각지대 발굴 위한 빅데이터 분석을 추진한다. 산재 신청 처리 과정에서 AI를 도입하고 에너지 취약계층에 제공되는 에너지 구매이용권 관련 빅데이터를 분석해 바우처 지원 개선 방안을 고민한다. 이 외에도 국민건강 분야에서 ▲농작물 병해충 발생 및 위험도 예측 ▲식품 안전 사각지대의 체계적 관리 점검 대상 자동 추천 모델 ▲주요 질병별 의약품 품절 예측 지원 모델 개발 등에 나서며 국민편의 분야에서는 ▲보훈대상자 등록심사 의사결정 지원 모델 ▲천안시 불법 주정차 최적 단속 경로 및 공영주차장 입지 선정 분석이 이뤄진다. 일하는 방식 개선을 위해서도 ▲인구 감소 지역 맞춤형 정책 수립 지원 관련 빅데이터 분석 ▲범정부 행정정보시스템 장애예측 모델 개발이 진행될 예정이다. 행안부는 12개 분석 과제를 각 기관 및 전문가와 협업해 실효성 높은 분석 모델 개발을 지원하고 다양한 기관에서 모델을 활용될 수 있도록 관리할 계획이다. 행안부 배일권 공공데이터국장은 "앞으로도 국민 생활과 밀접한 다양한 분야에서 AI 기반의 과학적 데이터 분석을 확대해 나갈 예정"이라며 "데이터 분석의 질을 높여 국민이 체감할 수 있는 공공서비스 개선이 이뤄질 수 있게 하겠다"고 말했다.

2024.10.09 16:49양정민

행안부 "AI 활용해 공공서비스 혁신 강화"

행정안전부(행안부)가 인공지능(AI) 기술과 기관 간 협업을 통해 국민 삶의 질 개선에 박차를 가하고 있다. 행안부는 '2024 정부혁신 왕중왕전' 대회를 개최해 '문제를 해결하는 정부' 분야에서 다양한 혁신 사례를 선정했다고 7일 밝혔다. 이번 대회에서는 AI를 활용한 고독사 예방과 범죄 피해자 지원 등 주요 사회 문제 해결을 위한 정부부처의 우수 사례 15개가 선정됐다. 최종 결승전은 다음달 14일 광주 김대중컨벤션센터에서 개최될 예정이다. 이번에 선정된 사례 중 하나인 '고독사 예방 서비스'는 1인 가구의 생활 패턴을 모니터링해 이상 징후를 감지하고 신속한 대응을 가능하게 한다. AI 기반의 이 서비스는 기존의 전화 확인 방식보다 정교하고 효율적이며 공무원의 업무 부담을 줄이고 있다. '범죄 피해자 지원' 역시 14개 기관이 협력해 법률·경제·심리적 지원을 통합적으로 제공하는 시스템이다. 피해자는 여러 기관을 방문할 필요 없이 한 곳에서 모든 지원을 받을 수 있어 큰 호응을 얻고 있다. 이번 '왕중왕전'에서는 이 두 사례 외에도 자율주행 트랙터를 활용한 농업로봇 개발, 스토커 접근 정보 알림 시스템, AI를 활용한 보이스피싱 차단 서비스 등 다양한 혁신 사례가 선정됐다. 이들 사례는 모두 사회적 약자 보호와 공공서비스 효율성 강화를 목표로 하고 있다. 행안부는 앞으로도 AI와 빅데이터를 적극 활용해 다양한 사회 문제를 해결하고 국민이 체감할 수 있는 공공서비스 혁신을 지속적으로 추진할 계획이다. 고기동 행안부 차관은 "정부혁신 왕중왕전은 공공부문 혁신 성과를 발굴하고 확산하는 중요한 기회"라며 "AI를 적극 활용해 더 많은 사회 문제를 해결해 나가겠다"고 밝혔다.

2024.10.07 15:12조이환

AI 안전연구소장 공모…미래 AI안전 선도할 리더 찾는다

한국전자통신연구원(ETRI)이 AI 안전연구소장을 공개 채용한다. ETRI는 이번 채용이 글로벌 인공지능(AI) 정책과 법제도를 이끌 전문 인력을 모집하는 데 중점을 둔다고 25일 밝혔다. 지원자는 석사 이상의 학위를 소지해야 하며 AI 안전 관련 정책 수립 및 연구 수행 능력을 갖춰야 한다. 이번 채용의 주요 요건은 AI 안전 분야의 전문성과 글로벌 AI 환경에 대한 깊은 이해다. AI 기술의 안전성을 평가하고 국제 협력을 통해 이를 개선하는 것이 주요 업무이기 때문이다. 경영 혁신과 조직 관리 능력도 필수적이다. AI 안전연구소가 국가 AI 거버넌스의 중심으로서 역할을 수행하기 때문에 조직을 이끌 리더십과 중장기 전략 수립 역량이 요구된다. ETRI는 이번 채용을 블라인드 방식으로 진행해 공정성을 강화했다. 서류 전형, 1차 면접, 최종 면접을 거쳐 합격자를 선발하며 임용은 11월 중으로 예정돼 있다. 지원서 접수는 다음 달 4일까지다. 최종 합격자는 3년 임기 동안 성남 판교에서 근무하게 되며 1회에 한해 연임이 가능하다. 이번 채용은 전 세계적으로 AI 안전 연구소를 설립하는 움직임에 따른 것이다. 이미 미국, 영국, 일본 등 주요 국가들이 AI 안전연구소를 설립했으며 한국도 지난 5월 AI 서울 정상회의에서 연구소 설립을 약속한 바 있다. ETRI는 "이번 공개 채용을 통해 AI 기술의 안전성을 선도할 인재를 찾고 있다"며 "글로벌 경쟁력을 강화할 역량 있는 지원자들의 많은 관심을 기대한다"고 밝혔다.

2024.09.25 11:48조이환

'안전한 AI 사용' 외친 美 빅테크, 제품 보안 강화 총력

밀키트는 손질된 식재료와 양념을 알맞게 담은 간편식입니다. 누구나 밀키트만 있으면 별도 과정 없이 편리하게 맛있는 식사를 할 수 있습니다. [김미정의 SW키트]도 마찬가지입니다. 누구나 매일 쏟아지는 소프트웨어(SW) 기사를 [김미정의 SW키트]로 한눈에 볼 수 있습니다. SW 분야에서 가장 주목받는 인공지능(AI), 보안, 클라우드 이야기를 맛있게 보도하겠습니다. [편집자주] 미국 빅테크가 생성형 인공지능(AI) 기능 보안성을 한층 더 강화했다. 생성형 AI가 다양한 산업에 도입되면서 환각 현상을 비롯한 데이터 유출, 신원 도용, 해킹 등 위험 사례를 최소화하기 위해서다. 20일 미국 외신 사이버시큐리티 다이브 보도에 따르면, 연 매출 1억 달러(약 1천350억원) 이상에 해당하는 기업 경영진 다수가 "AI 애플리케이션 복잡성으로 취약점이 확대됐다"며 "사내 사이버 보안 태세가 약해졌다"고 밝혔다. 이에 아마존웹서비스(AWS)를 비롯한 미국 빅테크는 사용자 명령어에 대한 이해도를 높여 환각 현상을 줄이고, 보안 업그레이드로 사이버 공격과 데이터 유출 차단 줄이기에 나선 분위기다. AWS "생성형 AI 결과에 신뢰성 점수 매긴다" AWS는 생성형 AI 애플리케이션 관리·개발 플랫폼 '아마존베드록' 보안 기능을 맡는 가드레일을 업그레이드했다. 생성형 AI가 사용자 프롬프트 문맥 이해도를 높여 기존보다 더 정확한 답변을 낼 수 있게 돕는 '문맥 그라운딩 체크' 기능을 새로 탑재했다. 문맥 그라운딩 체크 기능 특장점은 객관적 수치를 통한 답변 필터링이다. 아마존베드록이 생성물에 신뢰성·정확성 점수를 자체적으로 매김으로써 답변 품질을 평가하는 식이다. 점수 매기는 기준은 문맥에 따라 다르다. 다만 공통으로 답변에 핵심 참조 내용이 포함됐는지, 질의 내용과 답변이 통일성 있는지, 답변과 질문 관련성이 얼마나 높은지를 측정한다. AWS코리아 김선수 AI·ML사업개발 매니저는 "점수 매기는 작업은 AWS 노하우를 통해 이뤄진다"고 설명했다. 이어 "답변에 AWS가 지정한 필수 출처 내용이 답변에 없으면 이를 사용자에게 제공하지 않는다"며 "답변 품질 점수가 평균보다 낮을 때도 이를 내놓지 않는다"고 강조했다. 마이크로소프트 "생성형 AI 보안도 AI로 지킨다" 마이크로소프트는 '코파일럿'과 보안 제품을 통합해 일반 솔루션뿐 아니라 AI 기반 제품 보호에 나섰다. 가장 대표적인 AI 보안 솔루션은 '마이크로소프트 코파일럿 포 시큐리티'다. 코파일럿 포 시큐리티는 약 78조개 넘는 보안 신호와 대규모 데이터, 위협 인텔리전스를 거대언어모델(LLM)과 결합해 인사이트를 제공할 수 있다. 이를 통해 사용 조직은 생성형 AI 솔루션 외부 위협을 신속히 감지하고 대응할 수 있다. 마이크로소프트는 생성형 AI 사용 중 발생할 수 있는 정보 유출 방지 솔루션도 운영하고 있다. 프리뷰로 제공되는 '코파일럿 인 마이크로소프트 엔트라 유저 리스크 인베스티게이션'은 마이크로소프트 엔트라에 탑재됐다. 이 솔루션은 사용자 개인정보 유출을 막고, 보안 위협이 발생했을 때 빠르게 대처 가능하도록 지원한다. 특히 사용자 위험을 파악해 적절한 가이드를 제공하고, 향후 발생할 수 있는 위협을 예측해 해결법을 제시할 수 있다. 세일즈포스 "믿을 만한 데이터로만 접근" 세일즈포스도 '세일즈포스 데이터 클라우드' 내 제품서 작동하는 생성형 AI 솔루션에 데이터 보안성을 높였다. 세일즈포스는 17일부터 19일까지 미국 샌프란시스코에서 열린 '드림포스 2024'에서 자율형 AI '에이전트 포스'에 이런 데이터 보안 기능을 적용했다. 에이전트 포스는 사용자 요청 없이도 관련 업무를 24시간 자율적으로 수행할 수 있는 로우코드 플랫폼이다. 데이터 클라우드 내에서 작동한다. 에이전트포스를 비롯한 데이터 클라우드 기반 솔루션은 AI를 통해 비구조화된 데이터를 자동으로 분류·라벨링한다. 실시간 데이터 관리가 일괄적으로 가능하다. 세일즈포스는 해당 제품 내 데이터 접근 권한도 세분화할 수 있다. 대규모 데이터 환경에서도 사용자 그룹별로 적절한 권한을 부여할 수 있는 보안 정책을 갖췄다. 데이터 접근 허용자만 이를 확인할 수 있는 셈이다. 이 외에도 기업이 스스로 암호화 키를 관리할 수도 있다. 데이터를 사용 중이거나 저장 중일때도 암호화된 상태로 데이터 보안 유지를 할 수 있다. 마크 베니오프 세일즈포스 최고경영자(CEO)는 행사 기조연설에서 "신뢰할 수 있는 데이터 관리 방식을 에이전트포스에 제공했다"며 "새로운 혁신과 고객 증가로 데이터 클라우드 모멘텀이 치솟을 것"이라고 재차 강조했다.

2024.09.20 16:07김미정

獨 알레프알파, 외국어·공학 전문 LLM '파리아' 출시

독일 인공지능(AI) 기업 알레프알파가 다국어와 특정 도메인에 최적화된 생성형 AI 모델을 오픈소스 형태로 공개했다. 알레프알파 거대언어모델(LLM) '파리아-1-LLM'을 출시했다고 27일 밝혔다. 매개변수 70억개로 이뤄졌다. '파리아-1-LLM'은 독일어·프랑스어·스페인어 등 다양한 언어에서 최적화된 기능을 제공하며 자동차와 공학 분야에 특화된 것으로 알려졌다. 현재 비상업적 연구 및 교육 용도로만 활용될 수 있다. 이 모델은 유럽연합(EU) 및 각 회원국의 저작권과 데이터 프라이버시 법규를 준수하며 제작 됐다. 알레프알파는 "엄선된 데이터를 사용해 모델을 훈련했다"고 설명했다. 알레프알파는 이번 모델 투명성과 안전성을 특히 신경썼다고 강조했다. 부적절한 답변을 걸러내는 데이터셋을 활용해 학습시키는 등 추가 안전장치를 도입했다. 또 답변이 지나치게 장황하거나 불필요한 정보를 포함하지 않도록 하는 기법도 적용했다. '파리아-1-LLM'은 두 가지 버전으로 제공된다. 하나는 사용자 지시에 특화된 '통제(control)' 모델이고 다른 하나는 안전성을 보다 강화한 '통제-정렬(control-aligned)' 모델이다. 독일의 머신러닝 엔지니어인 사마이 카파디아는 "'파리아'는 저작권과 개인정보 보호법 등 EU 규제를 완전히 준수해 훈련됐다"며 "이런 모델의 출시 자체만으로도 상당히 인상적인 성과"라고 평가했다.

2024.08.27 10:19조이환

앤트로픽 CEO "캘리포니아 AI 법안, 혁신 촉진할 것"

캘리포니아 주 상원 표결을 앞두고 있는 '첨단 인공지능(AI) 시스템을 위한 안전과 보안 혁신법안(S.B. 1047)'에 대해 앤트로픽 대표가 긍정적인 평가를 내렸다. 25일 유에스뉴스에 따르면 캘리포니아 AI 규제 법안인 'S.B. 1047'의 상원 표결이 지난 20일 시작됐다. 이 법안은 1억 달러 이상의 개발 비용이 들거나 일정량의 컴퓨팅 파워를 요구하는 고급 AI 모델에 대한 테스트를 의무화하는 내용을 담고 있다. 이는 AI 개발에 있어 안전성을 강화하기 위함이다. 다리오 아모데이 앤트로픽 대표는 이번 법안이 AI 개발에 긍정적인 영향을 미칠 수 있다고 평가했다. 특히 AI 기술 환경의 변화에 테크 업계가 대비하도록 지원할 수 있다고 주장했다. 법안은 AI 모델이 오작동할 경우 이를 종료할 수 있는 '킬 스위치' 설치를 의무화하고 있다. 또 사업자와 AI 개발자가 규정을 위반할 경우 캘리포니아 주 법무장관이 이에 소송을 제기할 수 있다. 이는 AI 기술의 오남용을 방지하기 위한 조치로 해석된다. 앞서 구글, 메타, 오픈AI 등 주요 테크기업들은 이 법안이 캘리포니아 주를 AI 개발에 불리한 환경으로 만들 우려가 있다고 지적했다. 특히 제이슨 권 오픈AI 최고전략임원은 지난 21일 법안을 발의한 스콧 위너 주 상원의원에게 공개서한을 보내 AI 규제는 연방 정부의 권한 아래 이뤄져야만 한다고 주장한 바 있다. 아모데이 대표는 "법안 내용이 개정됨에 따라 초기의 우려가 크게 줄어들었다"며 "이번 법안이 AI 개발 과정에서 혁신과 안전성을 모두 담보할 수 있을 것으로 기대한다"고 말했다.

2024.08.25 09:20조이환

오픈AI, 캘리포니아 AI 법안 반대…주 상원의원 "말도 안 되는 소리"

지난 20일부터 미국 캘리포니아 주 의회가 표결 중인 인공지능(AI) 규제 법안에 대한 의견이 분분하다. 22일 테크크런치 등 외신에 따르면 오픈AI 이사가 '첨단 인공지능(AI) 시스템을 위한 안전과 보안 혁신법안(S.B. 1047)'에 반대하는 목소리를 냈다. 이에 주 상원의원이 "말도 안 되는 소리"라고 일축했다. 해당 법안은 캘리포니아 내 AI 개발 사업자들에게 모델 안전성 테스트 등 사전 예방 조치를 요구하는 내용을 담고 있다. 제이슨 권 오픈AI 최고전략임원은 지난 21일 법안을 발의한 스콧 위너 상원의원에게 공개서한을 보내 "법안이 AI 혁신을 저해할 것"이라고 지적했다. 그러면서 그는 법안이 시행될 경우 "캘리포니아의 엔지니어들과 테크기업들이 다른 주로 떠날 수 있다"며 "미국의 경쟁력을 위해 최첨단 모델의 규제는 국가 차원에서 진행돼야 한다"고 밝혔다. 이에 법안을 발의한 스콧 위너 상원의원은 오픈AI의 주장이 논리적이지 않다고 반박했다. 그는 법안이 캘리포니아에 본사를 두지 않은 기업에도 적용되므로 기업들이 주를 떠날 필요가 없다고 강조했다. 또 오픈AI가 법안의 구체적인 조항을 비판하지 않고 단순히 연방 규제를 요구하는 점에 대해서도 비판했다. 해당 법안 표결은 오는 30일까지 진행된다. 통과될 경우 개빈 뉴섬 캘리포니아 주지사의 서명을 받게 된다. 뉴섬 주지사의 입장은 아직 명확하지 않지만 법안이 통과될 경우 산업계의 강력한 반발이 예상된다. 특히 오픈AI 측은 캘리포니아 주의 규제 환경 변화에 대한 우려로 샌프란시스코 사무실 확장 계획을 보류하고 있는 것으로 알려졌다. AI 업계 관계자는 "캘리포니아의 AI 규제가 통과하는지 여부에 따라 산업계의 대응이 달라질 수 있다"며 "실리콘 밸리가 위치해 테크 기업들이 몰린 지역이기 때문에 이번 표결에 많은 것이 걸려있다"고 밝혔다.

2024.08.22 15:24조이환

Prev 1 2 3 4 5 6 7 Next