• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 인터뷰
  • 인사•부음
  • 글로벌뉴스
창간특집
인공지능
배터리
컨퍼런스
칼럼•연재
포토•영상

ZDNet 검색 페이지

'AI윤리'통합검색 결과 입니다. (7건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

[신간] 질문으로 답을 찾는 인공지능 윤리 수업

“왜 인공지능에서 '윤리'가 중요할까?” “인공지능이 내린 결정을 믿을 수 있을까?” “우리가 생각하는 인공지능의 모습은 어떤 것이어야 할까?” 인공지능(AI) 세상이다. AI는 우리 현재와 미래를 어떻게 바꿀까? AI를 칭하는 말이 많이 있다. 대표적인게 인공지능 세계 4대 천왕 중 한명인 앤드류 응 전 스탠포드 교수이자 VC 투자자가 한 말이다. 그는 AI는 새로운 전기라고 했다. 그만큼 필수불가결하다는 말이다. AI에 대한 부정적인 말도 있다. AI가 핵무기만큼 인류를 위협한다는 말이다. 맞다. AI는 새로운 전기만큼 필수불가결하고 또 핵무기 만큼 '위험한 물건'이기에 우리가 잘 다뤄여 한다. 이와 같은 특성을 가진 인공지능이 가져올 미래의 세상을 우리는 어떻게 준비하며, 또 어떤 가치와 철학을 중심으로 삼아야 할까? 이 책은 그 답을 찾기 위한 가이드 역할을 제시한다. 저자는 국내 최고 수준 AI윤리교육 전문가다. 현재 서울교육대학교 윤리교육과 교수로 활동하고 있다. 책에서 저자는 인공지능 시대의 주역으로 성장할 청소년이라면 반드시 알아야 할 인공지능의 윤리적 문제와 가치관을 다룬다. 특히 누구나 공감할 만한 스물한 편의 흥미진진한 에피스드를 제시, 흥미를 돋운다. 이 에피소드에서 저자는 자율주행차 딜레마, 딥페이크, 인공지능과 일자리, 인공지능 책임과 투명성, 창의성과 저작권, 인공지능과 인간의 공존 등 인공지능이 초래하는 다양한 윤리적 문제 와 사회적 영향을 다뤘다. 인공지능 시스템의 저항에도 불구하고 인간처럼 느끼고 경험하기 위해 애쓰는 피노키오, 몸과 뇌를 기계로 대체한 후 자신의 정체성에 대해 고민하는 테세우스, 기계화로 인해 일자리를 잃을 위기에 처하는 네드 같은 '에피소드' 속 인물들의 이야기들을 하나하나 따라가다 보면, 어렵고 복잡하게만 보이던 인공지능 기술 및 윤리 문제에 대해 '나름 대로의 해법'을 찾을 수 있다. 또 각 '에피소드' 뒤에는 '탐구 질문'을 제시, 독자 스스로 생각하고 토론할 수 있는 기회도 제공, 윤리적 판단력과 비판적 사고력을 키우도록 돕는다. 교사와 학생이 교육 현장에서 직접 활용할 수 있도록 구체적이고 실용적인 가이드를 제시하는 것은 물론, 가정에서 부모와 자녀가 함께 인공지능 윤리에 대해 깊은 논의를 진행하도록 돕는 실용적인 자료로도 좋다. 저자인 박형빈 서울교육대학교는 교육학 박사다. 서울교육대학교 교육전문대학원에듀테크전공및인공지능인문융합전공교수이기도 하다. 서울교육대학교신경윤리융합교육연구센터및가치윤리AI허브센터센터장을 맡고 있다. 도덕윤리교육, 인격교육, AI윤리교육, 신경윤리학 등에 관심을 갖고 연구하며 가르치고 있다. 미국UCLA교육학과(DepartmentofEducation)에서 방문 학자로도 있었다. 저자는 이미 여러 책을 냈다. ▲BCI와 AI 윤리(커뮤니케이션북스, 2025) ▲AI윤리와 뇌신경과학 그리고 교육(어문학사, 2024) ▲인공지능윤리와 도덕교육(씨아이알, 2022)을 출간했다. 또 ▲AI 시대 대한민국 교육 변혁(한국학술정보, 2024) ▲도덕교육학: 그 이론과 실제』(한국학술정보, 2021) ▲뇌 신경과학과 도덕교육(울력, 2019, 2020 세종우수학술도서) ▲통일교육학: 그 이론과 실제(한국학술정보, 2020) 등의 글을 썼다. 한언 펴냄/150x210mm 256쪽/2만1000원. 책 차례 프롤로그_ 철학적 좀비? 디지털 좀비? 제1부 우리는 지금 어디에 있으며, 어디를 향해가고 있을까? 에피소드 1. 우리는 지금 어디쯤 왔을까? 에피소드 2. 인공지능에도 윤리가 필요하다고? 에피소드 3. 인공지능과 함께하는 우리의 미래, 어떤 모습이어야 할까? 제2부 인간과 인공지능의 사이에서 에피소드 4. 인간이 된다는 건 어떤 걸까? 에피소드 5. 오늘의 나는 어제의 나와 같은 존재일까? 에피소드 6. 피노키오의 감정은 진짜일까, 흉내 내기에 불과할까? 에피소드 7. 피노키오도 인간처럼 경험하고 배우며 성장할 수 있을까? 에피소드 8. '나'를 복제한 인공지능은 또 다른 '나'가 될 수 있을까? 에피소드 9. 인공지능이 인간과 진짜 가족이 될 수 있을까? 에피소드 10. 인간과 인공지능의 경계는 어디일까? 제3부 인공지능이 드리운 그늘 에피소드 11. 인공지능이 인간의 일자리를 대신하게 된다면? 에피소드 12. 딥페이크 문제를 어떻게 다룰까? 에피소드 13. 인공지능으로 인한 사회적 갈등, 예방 및 해결책은? 에피소드 14. 인공지능이 도덕적으로 판단하고 윤리적으로 행동할 수 있을까? 에피소드 15. 인공지능 로봇의 권리를 보장해야 할까? 제4부 인공지능의 윤리와 책임 에피소드 16. 인공지능이 축구 국가대표팀 감독을 뽑는다면? 에피소드 17. 인공지능끼리의 충돌은 어떻게 해결할까? 에피소드 18. 인공지능 학생 관리 시스템은 또 하나의 판옵티콘이 될까? 에피소드 19. 캡차의 역설, 인공지능이 더 인간답다? 에피소드 20. 인공지능이 '인간 자격증'을 갖는다면? 에피소드 21. 인공지능이 인간의 통제를 벗어날 때 에필로그_ 인공지능 시대, 인간다움을 지키기 위한 윤리적 성찰

2025.05.11 11:15방은주

벤지오 교수 "AI안전연구소, 정책·과학 발전 병행 필수...韓 AI칩 수준 상당"

한국 정부가 인공지능(AI)안전연구소 개소를 하루 앞둔 가운데 해당 연구소가 AI 정책과 과학 발전을 병행해야 한다는 전문가 주장이 나왔다. 몬트리올대 요슈아 벤지오 교수는 26일 과학기술정보통신부가 용산 피스앤파크컨벤션에서 개최한 'AI 신뢰·안전성 컨퍼런스' 온라인 기조강연에서 한국의 AI안전연구소 방향성을 제시했다. 벤지오 교수는 최근 국가AI위원회 글로벌 자문위원으로 활동 중이다. 벤지오 교수는 연구소가 정책적으로 국제협력뿐 아니라 AI 규제 체계까지 유연하게 구축해야 한다고 당부했다. 신속한 규제 시스템은 AI 기술 오용·사회적 위협 방지를 막을 수 있기 때문이다. 그는 "급변하는 AI 기술 환경에 맞춰 규제도 더 민첩해야 한다"며 "특히 규제기관은 AI 모델 개발사와 사용 기업들의 안전 계획과 모델 테스트 결과를 직접 검토해야 한다"고 강조했다. 벤지오 교수는 연구소가 해외 안전연구소·학자들과 필수 협력해야 한다고 주장했다. 이를 통해 AI 안전에 대한 국제 모범 사례를 접할 기회가 높아진다는 이유에서다. 그는 "최첨단 기술을 다루는 연구소들과 협력하면 국가 안보와 연결된 위험 요소를 상대 평가할 수 있다"고 설명했다. 벤지오 교수는 한국이 글로벌 AI 생태계서 핵심 역할을 할 가능성을 높게 봤다. 그는 "한국은 AI칩 개발 선두주자"라며 "AI안전연구소 설립과 관련한 국제 협력에서 주요 역할을 할 것"이라고 덧붙였다. 이날 카이스트 오혜연 전산학부 교수는 디지털 격차 해소를 위해 '포용적 AI' 중요성을 강조했다. AI 기술이 다양한 언어와 문화를 아우르는 방향으로 발전해야 한다는 이유에서다. 오 교수는 "AI가 영어에만 최적화되면 한국, 일본, 중국 같은 비영어권 사용자는 부정확한 정보에 노출될 수 있다”며 "AI가 다양한 언어와 문화적 인식을 반영해야 디지털 전환의 진정한 포용성을 실현할 수 있다"고 설명했다. 그는 포용적 AI 실현을 위해 다중언어 연구를 적극 추진 중이라고 했다. 최근 거대언어모델(LLM) 연구 트렌드 중 하나로 알려졌다. 오 교수는 "포용적 AI는 단순히 AI 접근성 높이는 것을 넘어 글로벌 교류와 디지털 경제 활성화를 도울 수 있을 것"이라고 강조했다.

2024.11.26 13:04김미정

무하유, 올바른 생성형 AI 사용법 가르친다

무하유가 올바른 생성형 인공지능(AI) 사용법 알리기에 나섰다. 무하유는 '카피킬러 에듀'에 생성형 AI 활용 교육 영상을 업데이트했다고 19일 밝혔다. 카피킬러 에듀는 무하유에서 운영하는 연구 윤리 교육 포털이다. 학습 윤리와 연구 윤리에 관한 전문 교육을 제공한다. 카피킬러를 도입한 기관·학교에서 누구나 무료로 연구 윤리 교육을 받을 수 있도록 강의를 제공하고 있다. 이번에 업데이트된 교육 영상은 총 3편이다. 한양대 이상욱 교수가 기획 단계부터 참여해 생성형 AI의 윤리적 쟁점과 올바른 활용법을 강의한다. 생성형 AI를 사용하는 교사·교수와 학생들의 윤리적 책임감을 재고하기 위해 제작됐다. 잘못된 생성형AI 활용으로 인한 윤리 문제 및 올바른 활용법을 설명한다. 그동안 무하유는 생성형 AI의 무분별한 사용을 막고 올바른 활용을 돕고자 GPT킬러를 개발·운영해 왔다. GPT킬러는 AI가 문서를 문단 단위로 분석한 후 각 부분에서 생성형 AI로 작성됐을 확률을 판단한다. 생성형 AI를 잘 사용하는 게 경쟁력이 된 현 상황에서 학생들이 교육 목적에 어긋날 정도로 AI를 남용하지 않도록 지도하며, 올바른 글쓰기 습관을 들일 수 있도록 교육하는 데 사용되고 있다. GPT킬러를 통해 교수·교사뿐만 아니라 학생들도 과제물이나 논문 등을 제출하기 전 자체적으로 표절 검사를 진행함으로써 생성형 AI로 인한 표절을 미리 예방하고, 학습 윤리를 준수할 수 있다. 실제 다수 고등학교·대학교에서 학생들의 학업 역량을 공정하게 평가하고, AI 사용 윤리를 일깨워주고자 GPT킬러를 도입해 활용 중이다. 올해 GPT킬러 도입을 결정한 한 대학에서는 한 학기 동안 GPT킬러에서 검사된 문서가 1만843건으로 집계됐다. 검사된 문서의 80.4%는 과제물이었다. 많은 학생이 과제물 제출 전 자발적으로 검사를 진행하며 표절 가능성을 사전 예방하는 것으로 알려졌다. 신동호 무하유의 대표는 "GPT킬러와 관련 교육영상 등을 통해 생성형 AI를 윤리적으로 활용할 수 있도록 지원할 것"이라며 "무분별한 사용을 방지하는 길잡이 역할을 충실히 수행할 것"이라고 밝혔다.

2024.11.19 10:49김미정

"양자 클러스터 지정 전국 '핫이슈'...서울·대전 가장 발빠르게 대응"

"양자기술산업법 시행을 앞두고, 양자 클러스터 지정이 전국의 가장 핫한 이슈로 부상했다. 현재 서울과 대전이 가장 발 빠르게 대응 중이다." 18일 국립한밭대학교 국제교류관에서 개최된 혁신클러스터학회 2024 추계학술대회 특별세션5에서 '양자과학기술 및 양자산업 육성에 관하 법률의 현재와 오늘'을 주제로 발표에 나선 강선준 한국과학기술연구원(KIST) 기술사업화실장이 양자관련 법 설명에서 이 같이 말해 관심을 끌었다. 강선준 실장은 중소벤처기업부와 창업진흥원의 '초격차 스타트업 1000+ 프로젝트'에서 양자분야 연구 책임자를 맡고 있다. 강 실장은 양자 관련 입법 배경과 경과, 주요 내용을 분석, 설명한 뒤 "양자 연구센터나 양자팹은 KRISS(한국표준과학연구원)과 ETRI(한국전자통신연구원), KIST(한국과학기술연구원)이 주도하고 있다"며 "가장 핫한 양자 클러스터 지정은 대전과 서울이 가장 발 빠르게 대응하고 있다"고 언급했다. 강 실장은 "양자기술산업법에는 종합계획 수립, 기술 개발 및 상용화 촉진, 인력양성, 연구거점· 클러스터, 국제협력 등의 장기적· 종합적 육성에 관한 내용이 포함돼 있다"며 "다만, 이 법이 규제가아니라 산업 육성을 위한 법률로 진화하고 발전해야 한다"고 지적했다. 오는 11월 1일 시행에 들어갈 양자기술산업법과 관련한 조언도 내놨다. 이 법이 특별법 형식이어서 다른 법령과 충돌 가능성이 있어 이에 대한 준비가 필요하다는 것. 양자 분야는 이미 12대 전략 기술에 들어 있어 '국가전략기술 육성에 관한 특별법'과 '국가첨단전략산업 경쟁력 강화 및 보호에 관한 특별조치법'의 적용을 받고 있다. 강 실장은 이에 대해 "미국처럼 법 자체에 일몰기간 등을 제시하는 방안 검토"를 대안으로 제시했다. 이에 앞서 김용환 차의과대학교 교수는 양자분야를 중심으로 하는 AI(인공지능) 윤리와 사업트렌드 및 시장을 분석했다. AI윤리에서는 가짜뉴스와 프라이버시 침해, 사회적 불평등 심화, 데이터 탈취 가능성 등의 문제를 지적했다. 김 교수는 또 "2030~2040년 사이 양자 산업경제는 양자컴퓨팅의 상업화, 양자 통신과 인터넷 구축, 양자 센서의 광범위한 융합과 응용 가속화, 인공지능과의 융합 등의 혁신이 이루어질 것"으로 내다봤다. 케빈 김 퀀텀인텔리전스 디렉터는 '양자컴퓨팅, 인공지능 기술 기반 신약 개발 스타트업 사례-퀀텀인텔리전스 기업을 중심으로' 주제 발표에서 "양자컴퓨터와 AI는 상호 보완적 관계"라며 자체 개발한 양자컴 인터페이스 '퀵'과 주요 사업 전략에 대해 설명했다. 이어 이준구 큐노바 대표는 '양자 시뮬레이션, AI 기반 SW 알고리즘 플랫폼 스타트업 사례-큐노바 기업을 중심으로' 발표에서 세계 최초의 화학분야 양자이득 실현을 설명하며 기존 양자 알고리즘 'VQE' 대비 1000배 이상 빠른 'HiVQE'를 소개했다. 또 노광석 큐심플러스 대표는 '양자 통신용 장비, 네트워크 운용 SW 스타트업 사례-큐심플러스 기업을 중심으로' 주제 발표에서 QKD 검증 가능한 SW, QKD 광학제어 신호 생성 및 기능별 모듈화, 실리콘 기반 PIC 칩 제작 등 보유 기술을 공개했다. 토론에서는 다양한 지적이 쏟아졌다. 양자와 관련한 ▲수익 모델 ▲현 산업의 스타트업 주도 ▲정부 투자 지속성 유지...민간 투자 감소 ▲한국 양자 기술 수준 ▲양자컴퓨터를 보유하지 않은 상태에서의 알고리즘 서비스 품질의 한계 ▲국내 양자컴 개발의 한계 ▲2030년 100만 큐비트 탄생 예측 ▲정부 예산 집행의 편향성-90%가 실험실 투자 ▲양자컴 가격 초고가 문제 등이 거론됐다. 또 ▲대기업이 양자컴 개발에 뛰어들지 않는 이유-불확실성 ▲한국의 응용기술 수준-세계적 ▲퀀텀 윈터 패싱 ▲삼성 양자컴퓨터 개발 소식 등의 얘기를 쏟아냈다. 한편 이날 특별세션5에는 발표자 외에도 △박철호 국가녹색기술연구소 정책연구본부장 △이겨레 한국기술벤처재단 창업성장센터 팀장 △이재훈 성신여대 법학부 교수(변호사) △최규훈 KIST 연구성과확산팀 그룹장 등이 참석해 열띤 토론을 진행했다.

2024.10.19 21:55박희범

AI, 개발자까지 삼키나…확 달라진 SW시장의 미래는

인공지능(AI)이 세상을 삼키고 있다. 일상생활뿐 아니라 첨단 비즈니스 영역까지 뒤흔들고 있다. 특히 챗GPT를 비롯한 생성형 AI는 다양한 산업 분야의 기본 문법을 바꿔놓으면서 새로운 혁신의 밑거름이 되고 있다. 반면, 기업에서는 AI 도입이 경쟁력 강화를 위한 기회라는 점을 알면서도 불확실성을 포함한 위험 요인 때문에 도입을 주저하고 있는 것도 현실이다. 지디넷코리아는 창간 24주년을 맞아 법무법인 세종의 AI센터와 함께 이런 변화를 진단하는 'GenAI 시대' 특별 기획을 마련했다. 이번 기획에서는 기업이 AI 규제에 효과적으로 대응하면서 도입 가능한 AI 거버넌스에 대해 살펴본다. 아울러, 소프트웨어, 통신, 인터넷, 헬스바이오, 유통, 전자, 재계, 자동차, 게임, 블록체인, 금융 등 11개 분야별로 AI가 어떤 변화를 일으키고 있는 지 심층 분석한다. 또 AI 기술 발전과 함께 논의되어야 할 윤리적, 사회적 문제들에 대한 다각적인 논점을 제시해 건강한 AI 생태계 조성에 기여하고자 한다. [편집자주] "더 이상 아이들에게 코딩을 가르칠 필요가 없다." 엔비디아를 이끌고 있는 젠슨 황 최고경영자(CEO)가 올해 초 던진 폭탄 발언이다. AI가 모든 작업을 대신해 줄텐데, 굳이 코딩 배우느라 골머리를 썩일 이유가 없다는 주장이었다. 그 시간에 분야별 전문 지식을 익히는 게 경쟁력에 훨씬 큰 도움이 된다는 것이다. 젠슨 황은 또 지난달 29일 대만 타이페이에서 진행한 행사에서는 "(앞으로는) 모든 사람이 프로그래머"라며 "자연어로 SW를 만들 수 있을 것"이라고 봤다. 연이은 젠슨 황의 발언에 대해선 '엔비디아 중심적 사고'란 비판도 적지 않았다. 코딩 대신 AI에 의존하게 되면 자신들의 비즈니스에 더 유리하기 때문에 한 말 아니냐고 꼬집는 사람도 있었다. 하지만 젠슨 황의 '폭탄 발언'은 AI 시대를 맞이하는 SW 업계의 상황을 잘 포착했다는 평가도 만만치 않다. 아직 초기 단계인 생성형 AI가 좀 더 발전할 경우 SW 전략의 기본 틀이 달라질 수도 있기 때문이다. 물론 생성형 AI가 기술 부채 누적을 야기할 수 있다는 우려도 적지 않다. 하지만 SW 개발자들은 일상적이고 반복적인 작업 부담을 줄이고 보다 창의적이고 높은 수준의 작업에 집중할 여유가 생겼다며 환영하는 분위기다. 거대언어모델(LLM)로 기술 개발의 민첩성이 가속화 되고 있는 상황인 만큼 각 기업들도 AI를 SW 개발에 도입하기 위해 분주히 움직이는 모양새다. 팔로알토 네트웍스는 생성형 AI가 SW 개발, 특히 자바, 파이썬, C++ 등 잘 알려진 프로그래밍 언어의 코드 생성을 획기적으로 향상시킬 것이라고 예상했다. 또 AI가 SW 개발 초기에 단위 테스트, 디버깅, 잘못된 구성을 식별하는 코드 테스트를 대체하는 데 중요한 역할을 할 것으로 봤다. 미라 라자벨 팔로알토 네트웍스 최고정보책임자(CIO)는 "CIO로서 성공을 위한 최적의 도구를 개발자에게 제공하는 일은 업무의 핵심 요소"라며 "AI는 의심할 여지 없이 효율성을 향상시킬 것"이라고 말했다. 소프트웨어 개발, AI로 설계서 플랫폼으로 진화 오픈AI의 GPT-4 같은 생성적 AI 도구는 생산성을 향상시키고, 보고서나 메일 초안을 제공해 업무 시작속도를 높일 수 있도록 지원하고 있다. AI 기반 도구들은 개발자의 개발 경험과 조직내 협업 과정을 개선해 점차 복잡하고 규모가 커지는 SW를 개발하는 과정에 필수적인 요소로 자리잡는 중이다. 특히 SW 개발 분야는 작성된 소스코드를 분석해 이후 적합한 코드를 추천하는 수준을 넘어 프로젝트 관리, 디버깅, 테스팅, 보안, 협력 프로젝트 등 전 분야에서 폭넓게 활용되고 있다. 마이크로소프트나 구글 등 빅테크 기업의 경우 방대한 소스코드에서 발생할 수 있는 보안 취약점을 방지하기 위해 AI로 이를 최신 코드로 전환하는 프로젝트도 수행 중이다. GPT-4가 적용된 AI챗봇 깃허브 코파일럿은 대화창에서 자연어로 작성하고 싶은 소프트웨어 개념과 요구사항을 알려주면 AI가 코드를 작성한다. 버그나 보안 취약점을 찾아내고 어떤 조치를 취해야 할 지 제안하고, 주석 작성이나 디버깅 작업까지 수행한다. 엔터프라이즈 버전의 경우 코드 탐색과 이해를 간소화해 더 빠른 기능 구현, 문제해결, 코드 현대화 등을 지원한다. 개발에 아직 익숙하지 않은 초급 개발자나 신규 입사자에게 기업 내 코드 규칙이나 양식 등을 조언해 보다 빠르게 조직에 적응할 수 있도록 도울 수도 있다. 젯브레인은 코드작성을 위한 개발환경(IDE) 인텔리J에서 AI어시스턴트를 제공하고 있다. 국내에서도 삼성SDS가 상반기 중 브리티 코파일럿을 출시할 예정이다. 삼성SDS의 브리티 코파일럿의 경우 AI가 어떻게 업무를 처리할 것인지 사용자가 직접 설정할 수 있어 보다 정확하고 효율적인 업무처리가 가능해 주목 받고 있다. 삼성SDS 최정진 그룹장은 "AI는 SW 개발 중 반복적인 작업을 자동화해 개발자들이 더 창의적이고 복잡한 작업에 집중할 수 있게 함으로써 전통적인 개발 프로세스를 변화시키고 있다"며 "이러한 변화는 기업의 SW 제품 개발 방식에 큰 영향을 일으킬 것"이라고 말했다. AI 접목한 소프트웨어, 개발자들이 고려해야 할 윤리 쟁점은 AI가 SW 개발에 활발하게 적용되면서 관련 윤리 문제도 쟁점으로 떠오르고 있다. 특히 음원, 영화, 문서, 행정 등 AI 활용 분야가 확대되면서 기술 표절을 비롯한 각종 개발 윤리 문제가 곳곳에서 고개를 들고 있다. 업계에서도 AI 윤리를 맹점으로 지적하고 있다. 특히 빅테크 기업의 AI 기술 베끼기는 현재 진행형이란 점에서 더 문제가 되고 있다. 실제 생성형 AI 챗GPT가 등장한 지난해 미국 실리콘밸리에선 대규모 소송전이 벌어졌다. 마이크로소프트사(MS)와 자회사 깃허브는 조셉 사베리(Joseph Saveri) 로펌과 매튜 버터릭 변호사로부터 소송을 당했다. 오픈AI와 깃허브가 만든 '깃허브 코파일럿'이 대규모 소프트웨어(SW)를 불법 복제했다는 것이 소송 이유다. 깃허브 코파일럿은 개발자들이 공유하고 있는 오픈소스 코드를 학습해 새로운 코드를 제작한다. 그런데 조셉 사베리 로펌 등은 이 오픈소스를 이용한 것 자체가 불법이라고 주장했다. 세계 최대 이미지 플랫폼 게티이미지 역시 이미지 생성 AI 회사인 스테빌리티AI를 상대로 저작권 침해 소송을 제기하는 등 개발 윤리 문제가 수면 위로 드러난 상황이다. AI를 두고 미국과 기술패권 경쟁을 하는 중국 기업들도 이 문제에서 자유롭지 못하다. 리카이푸 시노베이션벤처스 최고경영자(CEO) 겸 회장이 창업한 스타트업 '링이완우'의 '와이(Yi)-34B'와 'Yi-6B' 모델이 표절 논란에 휩싸였다. 이들은 메타의 대형언어모델(LLM) '라마(LLaMA)' 아키텍처를 사용한 것 아니냐는 의혹을 받고 있다. 리카이푸는 중국을 대표하는 IT 기업인으로 마이크로소프트 아시아와 구글 차이나 대표를 역임한 인물이다. 의혹을 처음 제기한 중국의 한 개발자는 다차원 배열과 더 높은 차원의 행렬과 벡터를 만들기 위해 쓰이는 2개의 텐서 명칭만 바꿨다고 주장했다. 이에 링이완우 측은 급히 텐서 명칭을 수정하겠다고 밝히기도 했다. 기본적으로 AI를 제작할 때 모두에게 공유된 오픈소스를 기반으로 제작되는 경우가 많은데 이를 상업적으로 이용을 하더라도 제약을 받지 않는 상황이다. 현재 학계와 산업계, 정부 등이 모여 AI 저작권 문제를 해결하기 위해 논의 중이지만 뾰족한 대안도 없는 실정이다. 국내 한 AI 개발사 관계자는 "데이터 구조나 LLM 자체를 표절했다면 법적으로 문제를 제기할 수 있겠지만 기본적으로 코딩 자체는 베꼈다는 말을 하기가 애매한 상황"이라며 "코딩을 표절하는 문제는 구속력이 없어 개발사나 개발자가 자체적으로 윤리성을 지키는 데 기대야 하는 게 현실"이라고 꼬집었다. 리걸테크 기업 까리용 오경원 대표는 "한 회사의 코딩을 짠 직원이 이직을 하게 되면 데이터나 코딩의 로직을 명확하게 알고 있기 때문에 표절문제가 발생할 수 있다"면서도 "해외에서는 개발 윤리를 두고 소송전이 빈번하게 벌어지지만 국내의 경우 오픈소스로 인한 혜택을 많이 받았고 이 때문에 표절시비가 현업에서 크게 일어나고 있진 않다"고 진단했다. "개발자, 단순 코더 넘어서야...AI 안전성 관심 필수" 생성형 AI가 자동으로 코드를 만들어주는 시대가 도래하면서 개발자들의 입지가 좁아질 것이란 전망도 있다. 전문가들은 개발자가 AI에 뒤처지지 않으려면 단순 코딩 지식을 넘어 알고리즘 개발, 제품 설계 등 전문성을 확보해야 한다고 입을 모았다. IT 업계에선 생성형 AI가 프로그래밍 언어 제작부터 제품 설계, 보안까지 자동화할 것으로 예측했다. 생성형 AI가 인간 개발자보다 업무를 더 빠르게 진행한다는 이유에서다. 기업들도 더 적은 인원으로 코딩이나 프로그래밍 작업을 진행할 수 있다는 점에서 생성형 AI 도입을 서두르는 분위기다. 이 탓에 일각에선 향후 개발자들의 설 자리가 줄어들 수 있다고 분석했다. 벤처비트 등 외신도 개발자들이 생성형 AI로 인해 일자리를 잃을까 불안해한다고 언급한 바 있다. 다수 전문가는 생성형 AI가 단순 코더를 대체할 수 있지만, 모든 개발 과정을 책임질 수 없다고 주장했다. 향후 개발자는 단순 코딩 지식 이상의 기술을 갖춰야 한다고 강조했다. 업스테이지 관계자는 "진짜 개발자 업무는 단순 코딩이 아니다"며 "알고리즘을 논리적으로 짜는 작업이 필수"라고 설명했다. 생성형 AI가 코딩을 넘어서는 작업을 할 수 없다는 의미다. 그러면서 "개발자가 생성형 AI에 뒤지지 않으려면 알고리즘 설계를 비롯한 사용자 인터페이스 개발, 데이터 표현 등 제품 개발 역량을 높은 수준으로 갖춰야 할 것"이라고 덧붙였다. 김동환 포티투마루 대표는 개발자 수준을 단계별로 코더, 프로그래머, 아키텍처 엔지니어로 구분했다. 여기서 생성형 AI는 가장 낮은 수준인 코더 역할에 그친다. 그는 "생성형 AI 시대 개발자들은 단순 코더나 프로그래머보다 엔지니어 아키텍처가 될 수 있도록 노력해야 한다"고 말했다. 현재 생성형 AI가 코딩을 대신 해주긴 하지만, 사람이 이에 전적으로 의존해선 안 된다는 의견도 있다. 생성형 AI 기술에 잠식되지 말아야 한다는 주장이다. 이광형 카이스트 총장은 지난해 국회서 열린 'AI 시대 우리의 전략' 세미나 특별 강연에서 "사람이 직접 손으로 코딩할 수 있어야 한다"며 "AI에 전적으로 의지해선 안 된다"고 강조했다. 이는 사람이 코딩 지식을 갖춰야 기술에 잠식되지 않는다는 의미다. 또 노코딩이나 로우코드 같은 자동 SW 도구에 지나치게 의존하지 말라는 당부도 담겨있다. 개발자가 기술뿐 아니라 AI 법안 논의도 참여해야 한다는 주장도 나왔다. AI 사용 규정이나 오용 방지 등에도 신경 써야 한다는 판단에서다. 서울교대 김봉제 교수는 최근 본지와 진행한 좌담회에서 "기술자가 법안 논의에 참여해야 한다"며 "실현 가능한 법안인지 늘 주시해야 한다"고 설명했다. 이어 "향후 생성형 AI가 단순 코딩을 넘어 프로그래밍 구축까지 하는 단계에 이를 것"이라며 "이때 개발자가 기술과 규제 사이에서 혼선을 빚을 가능성을 줄일 수 있을 것"이라고 부연했다.

2024.04.23 15:35장유미

글로벌 40개국 AI 전문가, AI 국제표준 개발위해 한국 집결

글로벌 인공지능(AI) 전문가들이 AI 국제표준 개발을 위해 한국에 집결한다. 산업통상자원부 국가기술표준원은 22일 26일까지 5일간 서울 대한상공회의소에서 구글·마이크로소프트·엔비디아·삼성전자 등의 전문가를 포함한 미국·영국·독일·일본 등 40여 개국 270여 명의 AI 전문가가 참석한 가운데, 국제표준화기구(ISO)와 국제전기기술위원회(IEC)가 공동으로 주최하는 'AI 국제표준화 총회(ISO/IEC JTC1/SC42)'를 개최한다. 총회 기간에는 ▲생성형 AI 윤리 문제 ▲AI 신뢰성 평가 ▲AI 시스템 개발조직의 능력을 평가하는 AI 성숙도 모델 ▲AI 경영시스템 가이드 등 산업계가 주목하고 있는 국제표준 개발이 진행된다. 또 태국·캄보디아 등 AI에 관심이 높은 동남아시아 7개국 전문가도 이번에 처음 참가하여 AI 표준화 과정을 경험한다. 국표원 관계자는 “우리나라는 AI 반도체 글로벌 시장 선점과 산업 전반의 디지털 대전환을 위해 국가 역량을 집중하고 있다”며 “국표원은 이번 국제회의에서 AI를 전 산업에 적용 확대하도록 지원하는 표준화 자문조직(AG) 신설을 제안하고, AI 윤리 점검서식, AI 성숙도 모델 등 신규 국제표준 2종을 제안할 계획”이라고 전했다. 정인교 통상교섭본부장은 총회 환영사에서 “AI가 전 산업 분야의 혁신을 가속하는 가운데, 표준은 AI의 안전성과 신뢰성 확보에 기여하는 것은 물론 국가 간 무역장벽을 해소하고 산업화를 촉진하는 AI 시대의 핵심 이행 도구로 부각되고 있다”면서 “우리나라가 글로벌 경쟁력을 갖춘 반도체, 정보통신기술(ICT) 등 산업강국의 이점을 기반으로 AI 분야 국제표준 제정에서 선도적인 역할을 수행해 나가겠다”고 밝혔다. 한편, 관련 공개행사로 24일 대한상의에서 'AI표준 오픈 워크숍'과 5월 2일 온라인으로 '한-영 AI for all 토론'이 연이어 개최된다.

2024.04.22 10:39주문정

IAAE-팀쿠키, AI 윤리산업 발전 위한 전략적 파트너십 체결

국제인공지능윤리협회(IAAE, 이하 협회)가 테크 스타트업 전문 컨설팅 기업 팀쿠키(대표 류태준)와 국내외 AI 기술과 윤리산업 발전을 목표로 전략적 파트너십을 체결했다고 31일 밝혔다. 또 류태준 대표를 부회장에 선임했다고 알렸다. 협회는 한국인공지능윤리협회를 전신으로 지난 2019년 설립됐다. 인공지능 기술과 윤리의 조화로운 발전과 진흥을 통해 국제 사회의 혁신과 지속발전 가능한 인류의 번영을 목표로 한다. 전창배 이사장을 필두로 포티투마루와 크라우드웍스, 제네시스랩, ML소프트 등의 주요 회원사와 함께 하며, 최근 싱가포르에서 '제4회 인공지능 윤리대전' 컨퍼런스를 개최하기도 했다. 또 'AI윤리'를 주제로 하는 민간 시상식인 'Good AI 어워드'를 매년 개최하며 뛰어난 AI 기술력을 바탕으로 AI윤리에 공헌하는 혁신적 주체(기업·단체·기관·개인 등)를 발굴하고 있다. 협회는 팀쿠키와 이번 업무 협약을 기점으로 AI산업 및 AI윤리 발전을 위한 협력에 적극 나설 예정이다. 양 기관은 ▲'착한 AI 기업' 문화 전파를 위한 공동 사업 협력 ▲생성AI 저작권 및 개인정보 등 AI 기술과 윤리에 관한 연구, 교육, 인증 사업 및 유관기구 운영 ▲글로벌 컨퍼런스, 세미나, 포럼과 입법 공청회와 토론회 등 공동 행사 주관 ▲양 기관이 보유한 인적 네트워크 및 기술 정보 교류 활동 등 인적 교류를 포함한 전방위적 협업을 진행하기로 했다. 이를 위해 협회는 이사회를 열어 팀쿠키를 부회장사로 승인하고, 류태준 팀쿠키 대표를 임기 3년의 부회장으로 선임했다. 팀쿠키는 지난 2022년 설립한 테크 스타트업 전문 컨설팅 기업이다. 언론홍보(PR)를 비롯한 브랜드 전략과 위기관리 등 커뮤니케이션 전 영역에서 활동하며 혁신 스타트업의 공신력 확보와 기업가치 상승을 돕고 있다. AI 분야에서만 뤼튼과 라이너, 트웰브랩스, 띵스플로우, BHSN과 콕스웨이브 등을 비롯해 국내외 유력 테크 스타트업과 파트너로 함께하고 있다. 최근에는 실리콘밸리 기반 글로벌 테크 미디어의 초기 투자, 자체적인 AI 솔루션 인큐베이팅 등 스타트업 생태계 관련 영향력을 넓히고 있다. 전창배 협회 이사장은 "팀쿠키는 AI 기업들을 전문적으로 지원하는 컨설팅 기업으로서 AI 윤리 문화 확산에 앞장서는 등 협회와의 많은 시너지가 기대된다"면서 "특히 해외에 글로벌 커뮤니케이션 네트워크를 보유하고 있는 만큼 올해 협회의 주요 사업인 글로벌 진출과 해외 네트워크 확대를 통한 AI 윤리의 국제적 연대 노력에 적극 협력하겠다"고 말했다. 류태준 팀쿠키 대표는 "협회와 함께 국내외 AI 기술과 윤리산업 발전을 돕게 되어 영광"이라며 "오픈 AI의 챗 GPT를 시작으로 한 기술 혁신의 물결과 더불어 AI 윤리의식과 개인정보, 데이터 관리, 저작권 등 새롭게 떠오르는 AI 윤리 아젠다가 적지 않기에, 협회와 공동 사업은 물론 산하 기구인 생성AI저작권협의회와 개인정보포럼 등의 활동에 도움이 될 수 있도록 적극 노력하겠다"고 밝혔다.

2024.01.31 16:45백봉삼

  Prev 1 Next  

지금 뜨는 기사

이시각 헤드라인

폴더블 아이폰, 펀치홀 카메라 탑재 유력

배민·요기요, 먹통 뒤 정상화..."금요일 밤 비 내린 탓"

과학자들, 납으로 금 만들었다…'연금술사의 꿈' 실현되나

SKT 유심교체 누적 193만...교체 예약 대기 686만

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현