검색 - IT세상을 바꾸는 힘 지디넷코리아

ZDNet 검색 페이지

'윤리'통합검색 결과 입니다. (52건)

태그
기간
- 3개월
- 1년
- 1년 이전

재검색

[현장] LG AI연구원, 신뢰·포용성 강화에 '방점'…"모두를 위한 AI로 향한다"

"인공지능(AI)은 단순한 기술이 아니라 모두가 혜택을 누릴 수 있어야 하는 도구입니다. 우리 '엑사원'은 작은 규모로도 탁월한 추론 능력을 보여주며 그 가능성을 증명했습니다. 개발 전 과정에서 윤리적인 AI를 개발해 모두를 품도록 지원하겠습니다." 김유철 LG AI연구원 부문장은 14일 서울 강남구 코엑스에서 열린 '2025 국제인공지능대전' 행사에서 이같이 말했다. 이날 신뢰와 포용성을 위한 전문가 AI의 역할을 주제로 발표에 나선 그는 연구원의 '엑사원'을 비롯한 고성능 추론모델의 사회적 활용과 AI 윤리 거버넌스 구축 방안에 대해 설명했다. 김 부문장이 강조한 발표의 출발점은 'AI의 사회적 확장성'이다. AI가 단순히 텍스트나 이미지 생성에 머무르지 않고 의료, 신약, 소재, 난임 치료 등 실질적 사회문제 해결에 기여해야 한다는 시각이다. 김 부문장은 "AI는 기술 그 자체가 아니라 모든 이가 함께 성장하고 발전할 수 있도록 돕는 수단이어야 한다"며 "우리는 단순히 성능을 높이는 데 그치지 않고 산업 현장에서 유의미한 결과를 만들어내기 위해 포용성과 신뢰를 동시에 추구하고 있다"고 말했다. 이러한 실질적 사회문제 해결을 위한 AI 활용을 위해서는 단순한 생성 능력을 넘어선 고차원적 추론력이 필수적이다. 실제 현장에서 AI가 유의미한 역할을 하기 위해선 상황을 이해하고 판단을 내릴 수 있는 능력이 요구된다. LG는 이 같은 추론 역량에 집중해 실전에서 작동 가능한 전문가 AI 개발에 주력하고 있다. 이러한 기조를 반영하듯 최근 출시된 '엑사원 딥' 모델은 추론 능력 측면에서 뚜렷한 강점을 드러냈다. 김 부문장은 "'엑사원 딥'은 딥시크 'R1'보다 20분의 1 수준의 크기지만 수학 등 주요 벤치마크에서 오히려 더 높은 성능을 보였다"며 "단순 암기가 아닌 가정을 세우고 검증하는 추론 능력이 산업 현장에서 특히 중요하다"고 말했다. 이러한 추론 기술은 의료 현장에서 실제로 적용되고 있다. 대표 사례는 암 환자 대상의 임상시험 사전진단에 활용되는 '엑사원 패스'다. 기존에는 DNA 검사를 통해 특정 유전자 변이를 식별하는 데 평균 한 달가량이 소요됐지만 이 모델은 조직 검사 이미지만으로 변이를 예측해 시간을 대폭 단축했다. 김 부문장은 "말기 암 환자에게 한 달은 생존 여부를 좌우할 수 있는 시간"이라며 "해당 기술은 환자의 생존율을 높이는 데 기여할 것"이라고 설명했다. 이외에도 연구원은 소재 과학, 화장품, 배터리 등 다양한 산업 분야에서 AI 기술을 적용 중이다. 신물질 탐색과 물성 예측 등 반복적인 실험 단계를 대폭 단축해 개발 속도를 수개월에서 하루 단위로 줄이는 데 성공했다. '포용성'만큼이나 강조된 또 다른 축은 '신뢰성'이다. 연구원은 모든 AI 개발 과제에 대해 윤리 영향평가 프로세스를 적용하고 있다. 지난해 기준 총 80여 개 프로젝트에 전 과정을 걸쳐 이 평가지표를 적용했고 데이터 사용 적절성, 사용자 오용 가능성, 사회적 편향 여부 등을 점검했다. 김 부문장은 "단순히 기술이 잘 작동하느냐가 아니라 누구도 소외되지 않도록 설계하기 위해서는 신뢰성이 필수적"이라고 말했다. 데이터 사용에 대한 법적·윤리적 책임도 강화하고 있다. 연구원은 학습 데이터의 무결성을 확보하기 위해 18개 기준의 평가체계를 마련했고 한 법무법인과 함께 전수 조사를 진행해 부적절한 데이터는 모두 제외했다. 더불어 이 과정을 효율화하기 위해 자체 에이전트를 개발해 수십만 건의 데이터셋에 대해 자동 검토를 실시하고 있다. 이로 인해 정확도는 20% 이상 높아지고 처리 속도는 40배 개선됐으며 비용도 0.1% 수준으로 줄었다는 설명이다. 이날 발표에서는 '소버린 AI' 개념도 소개됐다. 국가별 상식과 문화 차이에 대응하는 AI 모델 개발의 필요성을 강조하며 LG가 국제적으로 명망있는 AI 학회인 NAACL에서 소셜 임팩트 어워드를 수상한 사례도 언급됐다. 각국 사용자 특성을 반영해 편향을 줄이고 적합한 결과를 제공하기 위한 기술적 기반 확보가 이뤄지고 있다는 평가다. 김유철 LG AI연구원 부문장은 발표를 마치며 "모델이 얼마나 똑똑한지만 따지는 시대는 끝났다"며 "안전하고 실제 현장에서 작동하며 사회적으로 책임 있는 AI를 만드는 데 집중하겠다"고 말했다.

2025.05.14 17:12조이환

AI 기본법 앞두고 산·학·연·관 '총집결'…지속가능한 생태계 '모색'

인공지능(AI) 기본법 시행령 발표를 앞두고 국제인공지능윤리협회가 기업과 정부가 함께 참여하는 논의의 장을 마련한다. AI 경쟁력 확보가 시급한 가운데 산업 현장의 안전성과 윤리성을 확보하려는 시도다. 국제인공지능윤리협회는 오는 27일 서울 강남구 구글 스타트업 캠퍼스에서 '2025 인공지능 안전 컴패스(AISC) 컨퍼런스'를 개최한다고 13일 밝혔다. 이날 행사에는 과학기술정보통신부, AI 안전연구소, 한국과학기술정보연구원, LG유플러스, 원티드랩, 셀렉트스타, AI3 등 주요 공공기관과 민간 기업들이 참석해 글로벌 AI 경쟁력 확보 방안을 논의할 예정이다. 이번 컨퍼런스는 '변화하는 AI 환경에서의 기업 경쟁력 확보'를 주제로, 미국과 중국 등 주요국의 AI 전략에 대응한 한국 기업의 실질적 대응 방안을 모색한다. 특히 AI 기술의 단순 도입을 넘어 안전성과 윤리성을 갖춘 지속가능한 활용 전략이 주요 의제로 다뤄진다. 행사는 공공 세션과 기업 세션으로 구성되며 공공 부문에서는 공진호 과학기술정보통신부 인공지능기반정책과장, 이경하 한국과학기술정보연구원 초거대AI연구센터장, 김명주 AI안전연구소 소장이 발표자로 나선다. 각각 국가 AI 정책 방향, 차세대 기술 연구, 글로벌 경쟁력 확보 방안 등을 공유한다. 기업 세션에서는 한영섭 LG유플러스 AI테크랩장, 주형민 원티드랩 AX사업 총괄, 황민영 셀렉트스타 부대표, 표철민 AI3 대표가 연단에 오른다. 현장에서는 AI 도입 역량 내재화 전략, 정확성·안정성 평가 방식, 개인정보 보호를 위한 내부통제 사례 등 산업계 실천 방안이 집중 공유된다. 류태준 팀쿠키 대표는 "대권 주자들의 AI 공약 경쟁이 본격화되는 시점에서 이번 컨퍼런스가 AI 기본법과 가이드라인에 실질적 방향성을 줄 수 있을 것"이라고 말했다. 전창배 국제인공지능윤리협회 이사장은 "한국이 AI 글로벌 탑3 선도국으로 진입하려면 산학연관과 민간의 단합된 노력이 필요하다"며 "AI 기술뿐 아니라 윤리와 안전에서 신뢰를 확보해야 한다"고 밝혔다.

2025.05.13 16:58조이환

[신간] 질문으로 답을 찾는 인공지능 윤리 수업

“왜 인공지능에서 '윤리'가 중요할까?” “인공지능이 내린 결정을 믿을 수 있을까?” “우리가 생각하는 인공지능의 모습은 어떤 것이어야 할까?” 인공지능(AI) 세상이다. AI는 우리 현재와 미래를 어떻게 바꿀까? AI를 칭하는 말이 많이 있다. 대표적인게 인공지능 세계 4대 천왕 중 한명인 앤드류 응 전 스탠포드 교수이자 VC 투자자가 한 말이다. 그는 AI는 새로운 전기라고 했다. 그만큼 필수불가결하다는 말이다. AI에 대한 부정적인 말도 있다. AI가 핵무기만큼 인류를 위협한다는 말이다. 맞다. AI는 새로운 전기만큼 필수불가결하고 또 핵무기 만큼 '위험한 물건'이기에 우리가 잘 다뤄여 한다. 이와 같은 특성을 가진 인공지능이 가져올 미래의 세상을 우리는 어떻게 준비하며, 또 어떤 가치와 철학을 중심으로 삼아야 할까? 이 책은 그 답을 찾기 위한 가이드 역할을 제시한다. 저자는 국내 최고 수준 AI윤리교육 전문가다. 현재 서울교육대학교 윤리교육과 교수로 활동하고 있다. 책에서 저자는 인공지능 시대의 주역으로 성장할 청소년이라면 반드시 알아야 할 인공지능의 윤리적 문제와 가치관을 다룬다. 특히 누구나 공감할 만한 스물한 편의 흥미진진한 에피스드를 제시, 흥미를 돋운다. 이 에피소드에서 저자는 자율주행차 딜레마, 딥페이크, 인공지능과 일자리, 인공지능 책임과 투명성, 창의성과 저작권, 인공지능과 인간의 공존 등 인공지능이 초래하는 다양한 윤리적 문제 와 사회적 영향을 다뤘다. 인공지능 시스템의 저항에도 불구하고 인간처럼 느끼고 경험하기 위해 애쓰는 피노키오, 몸과 뇌를 기계로 대체한 후 자신의 정체성에 대해 고민하는 테세우스, 기계화로 인해 일자리를 잃을 위기에 처하는 네드 같은 '에피소드' 속 인물들의 이야기들을 하나하나 따라가다 보면, 어렵고 복잡하게만 보이던 인공지능 기술 및 윤리 문제에 대해 '나름 대로의 해법'을 찾을 수 있다. 또 각 '에피소드' 뒤에는 '탐구 질문'을 제시, 독자 스스로 생각하고 토론할 수 있는 기회도 제공, 윤리적 판단력과 비판적 사고력을 키우도록 돕는다. 교사와 학생이 교육 현장에서 직접 활용할 수 있도록 구체적이고 실용적인 가이드를 제시하는 것은 물론, 가정에서 부모와 자녀가 함께 인공지능 윤리에 대해 깊은 논의를 진행하도록 돕는 실용적인 자료로도 좋다. 저자인 박형빈 서울교육대학교는 교육학 박사다. 서울교육대학교 교육전문대학원에듀테크전공및인공지능인문융합전공교수이기도 하다. 서울교육대학교신경윤리융합교육연구센터및가치윤리AI허브센터센터장을 맡고 있다. 도덕윤리교육, 인격교육, AI윤리교육, 신경윤리학 등에 관심을 갖고 연구하며 가르치고 있다. 미국UCLA교육학과(DepartmentofEducation)에서 방문 학자로도 있었다. 저자는 이미 여러 책을 냈다. ▲BCI와 AI 윤리(커뮤니케이션북스, 2025) ▲AI윤리와 뇌신경과학 그리고 교육(어문학사, 2024) ▲인공지능윤리와 도덕교육(씨아이알, 2022)을 출간했다. 또 ▲AI 시대 대한민국 교육 변혁(한국학술정보, 2024) ▲도덕교육학: 그 이론과 실제』(한국학술정보, 2021) ▲뇌 신경과학과 도덕교육(울력, 2019, 2020 세종우수학술도서) ▲통일교육학: 그 이론과 실제(한국학술정보, 2020) 등의 글을 썼다. 한언 펴냄/150x210mm 256쪽/2만1000원. 책 차례 프롤로그_ 철학적 좀비? 디지털 좀비? 제1부 우리는 지금 어디에 있으며, 어디를 향해가고 있을까? 에피소드 1. 우리는 지금 어디쯤 왔을까? 에피소드 2. 인공지능에도 윤리가 필요하다고? 에피소드 3. 인공지능과 함께하는 우리의 미래, 어떤 모습이어야 할까? 제2부 인간과 인공지능의 사이에서 에피소드 4. 인간이 된다는 건 어떤 걸까? 에피소드 5. 오늘의 나는 어제의 나와 같은 존재일까? 에피소드 6. 피노키오의 감정은 진짜일까, 흉내 내기에 불과할까? 에피소드 7. 피노키오도 인간처럼 경험하고 배우며 성장할 수 있을까? 에피소드 8. '나'를 복제한 인공지능은 또 다른 '나'가 될 수 있을까? 에피소드 9. 인공지능이 인간과 진짜 가족이 될 수 있을까? 에피소드 10. 인간과 인공지능의 경계는 어디일까? 제3부 인공지능이 드리운 그늘 에피소드 11. 인공지능이 인간의 일자리를 대신하게 된다면? 에피소드 12. 딥페이크 문제를 어떻게 다룰까? 에피소드 13. 인공지능으로 인한 사회적 갈등, 예방 및 해결책은? 에피소드 14. 인공지능이 도덕적으로 판단하고 윤리적으로 행동할 수 있을까? 에피소드 15. 인공지능 로봇의 권리를 보장해야 할까? 제4부 인공지능의 윤리와 책임 에피소드 16. 인공지능이 축구 국가대표팀 감독을 뽑는다면? 에피소드 17. 인공지능끼리의 충돌은 어떻게 해결할까? 에피소드 18. 인공지능 학생 관리 시스템은 또 하나의 판옵티콘이 될까? 에피소드 19. 캡차의 역설, 인공지능이 더 인간답다? 에피소드 20. 인공지능이 '인간 자격증'을 갖는다면? 에피소드 21. 인공지능이 인간의 통제를 벗어날 때 에필로그_ 인공지능 시대, 인간다움을 지키기 위한 윤리적 성찰

2025.05.11 11:15방은주

"AI가 법 집행, 안심할 수 있을까"… '슬기로운 AI생활' 컨퍼런스 출범

국제인공지능윤리협회가 인간과 인공지능(AI) 로봇의 공존을 주제로 한 만남의 장을 출범시켰다. 기술 진화에 따른 사회적·윤리적 대응을 모색하려는 의도다. 국제인공지능윤리협회는 지난달 30일 '슬기로운 AI생활 온라인 컨퍼런스'를 개최했다고 11일 밝혔다. 행사는 커뮤니케이션북스, AI코리아커뮤니티와의 공동 주관 하에 줌(Zoom)을 통해 실시간으로 진행됐다. 시민, 전문가, 학생 누구나 무료로 참여할 수 있는 형태로 열렸다. 이번 컨퍼런스는 '인간을 닮아가는 AI 로봇의 진화와 위협'을 주제로, '커뮤니케이션북스 인공지능 총서' 저자들이 강연자로 나섰다. AI 기술의 현재와 미래, 그리고 인간과의 공존 가능성에 대한 다각도의 논의가 이뤄졌다. 첫 발표를 맡은 정채연 포항공과대학교 교수는 "AI가 윤리를 배운다면 인간은 여전히 특별한가"를 주제로 AI 로봇과 휴머니즘의 관계를 탐색했다. 이어 송진순 동아대학교 교수는 AI와 로봇경찰의 역할을 중심으로 법집행의 변화 가능성을 다뤘다. 김상득 전북대학교 교수는 인공지능의 도덕성 수용 가능성을 철학적으로 분석했고 정대현 이화여자대학교 명예교수는 로봇종과 자연종 인간의 본질 비교를 통해 AI 시대 인간성의 의미를 되짚었다. 강연 이후에는 실시간 채팅과 사전 질문지를 바탕으로 참가자들과 전문가 간 질의응답이 진행됐다. AI 로봇이 초래할 사회 변화, 책임 소재, 규제 방향 등 실질적 쟁점에 대한 활발한 토론이 이어졌다. 협회는 이번 행사를 시작으로 매월 마지막 주 수요일에 정기 컨퍼런스를 열 예정이다. 오는 28일에는 'AI 에이전트의 등장 : 내 디지털 분신과 공존하는 법'을 주제로 두 번째 컨퍼런스가 열린다. 전창배 국제인공지능윤리협회 이사장은 "AI 기술이 급속도로 발전하면서 우리 모두가 AI를 알고 함께 대응해야 하는 집단지성이 더욱 중요해졌다"며 "이번 컨퍼런스를 통해 시민들이 기술뿐 아니라 윤리와 제도 측면까지 함께 고려할 수 있는 기회를 만들고자 한다"고 밝혔다.

2025.05.11 09:48조이환

'AGI의 시대', 2025년 최우수 과학기술도서 출판상 수상

한빛미디어(공동대표 김태헌·전태호)에서 출간한 'AGI의 시대: 인간을 초월한 인공지능, AGI를 논하다'가 제42회 최우수과학기술도서 출판상을 수상했다고 8일 밝혔다. 이번 수상은 인공지능의 미래와 사회 전반에 미치는 영향을 심도 있게 다룬 점에서 높은 평가를 받아 이뤄졌다. AGI의 시대는 한상기 박사가 집필한 인공일반지능(AGI, Artificial General Intelligence)에 관한 교양서다. 단순히 기술적 설명에 그치지 않고 AGI의 사회적 파장, 윤리적 쟁점, 인간성의 의미까지 폭넓게 성찰한 것이 특징이다. 특히 AGI의 도래가 가져올 변화와 이에 대응해야 할 사회적 준비를 체계적으로 정리해 전문가뿐 아니라 일반 독자들에게도 큰 반향을 일으켰다. 저자는 “AGI라는 다소 무거운 주제를 쉽게 풀어내며 깊은 사유와 구조적 분석을 함께 담아낸 작품”이라며 “인공지능 기술을 바라보는 우리의 시각이 갈수록 중요해지는 가운데, AGI의 시대가 사회적 대화를 여는 시작점이 되길 바란다”고 밝혔다. AGI의 시대는 출간 이후 다양한 학술 모임과 기업, 공공기관에서 참고 도서로 활용되고 있으며, 미래 기술 담론을 이끄는 필독서로 자리매김하고 있다.

2025.05.08 17:35백봉삼

수도권매립지공사, 청렴선포…반부패 청렴 실천 의지 다져

환경부 산하 수도권매립지관리공사(대표 송병억)는 8일 공사 홍보관에서 반부패·청렴 실천을 위한 임직원 청렴선포식과 청렴교육 특강을 개최했다. 공정하고 투명한 조직문화 정착을 목표로 공사 임직원과 시민환경감사관이 참석한 가운데 진행된 이날 선포식에서 매립지공사 전 임직원은 윤리헌장을 선언하며 청렴 실천 의지를 다졌다. 매립지공사는 이날 국민권익위원회 청렴연수원 전문강사를 초청해 공직자 행동강령, 청탁금지법, 이해충돌방지법, 공익신고자보호법 등 공직자가 반드시 숙지해야 할 주요 법령에 대한 실무적 특강을 실시해 임직원의 청렴 의식과 법령 이해도를 높였다. 송병억 매립지공사 사장은 “공사가 국민과 공감하고 지역사회와 상생하는 친환경 자원순환 전문기관 역할을 공고히 하기 위해서는 청렴한 조직문화와 윤리경영이 필수적”이라며 “앞으로도 투명하고 신뢰받는 기관으로 나아갈 수 있도록 다각적인 노력을 지속하겠다”고 말했다. 한편, 매립지공사는 지난 4월 윤리헌장을 포함한 임직원 윤리규범을 개정 완료했다. 앞으로도 윤리경영 체계 고도화와 청렴 내재화를 위해 다양한 반부패·청렴 활동을 지속해서 추진할 계획이다.

2025.05.08 14:07주문정

구글, AI 윤리 약속 철회…딥마인드 직원들, 노조 결성 나섰다

구글 딥마인드 영국팀 일부 직원들이 노조 결성을 추진하고 있다. 구글이 인공지능(AI)을 무기 및 감시 목적으로 활용하지 않겠다는 기존 서약을 삭제하면서 윤리적 우려를 제기하는 목소리가 조직화되는 모양새다. 28일 파이낸셜타임스 등 외신에 따르면 딥마인드 런던 본사 직원 약 300명이 최근 노조 결성 절차에 착수한 것으로 확인됐다. 이들은 구글이 AI 원칙에서 군사기술 등을 포함한 '추구하지 않을 기술' 목록을 삭제하고 이스라엘 군과 대규모 클라우드 계약을 체결한 점을 주요 문제로 지목했다. 딥마인드는 영국에 약 2천 명의 직원을 두고 있다. 구글의 이같은 정책 변화에 대해 딥마인드 직원들 사이에서는 불만이 확산된 것으로 전해졌다. 노조 추진과 별개로 최소 5명의 직원이 같은 문제를 이유로 퇴사한 사실도 확인됐다. 구글 측은 이번 상황과 관련해 "직원들과의 건설적이고 열린 대화를 장려한다"고 밝혔다. 다만 AI 윤리 정책 변경의 배경이나 세부적 설명은 내놓지 않았다. 앞서 구글은 지난 2월 초 회사의 원칙 페이지를 개정하면서 "AI 무기화 및 감시 기술 개발을 하지 않겠다"는 서약을 삭제했다. 이 서약은 지난 2018년 미국 국방부의 '메이븐 프로젝트'에 참여했다가 내부 반발로 계약을 철회하면서 구글이 직접 내세운 방침이었다. 당시 구글은 원칙 개정과 관련해 "국가 안보를 지원하는 AI를 만들기 위해 정부 및 조직과 협력해야 한다"며 "국제법과 인권 원칙을 준수하겠다"고 밝혔다. 다만 구체적인 변경 이유나 무기화 가능성에 대한 명확한 방침은 제시하지 않았다. 더불어 회사는 미국 국방부 및 이스라엘 군과 각각 대규모 클라우드 서비스 계약을 체결한 상태다. 파이낸셜타임스는 "딥마인드 팀원들이 '속았다'고 느끼고 있다"며 "최소 5명의 직원이 이러한 문제를 이유로 퇴사했다"고 보도했다.

2025.04.28 13:59조이환

"AI, 스스로 보호하려 들 수 있다"…앤트로픽, '모델 복지' 기준 실험 착수

앤트로픽이 미래 인공지능(AI)이 인간과 유사한 의식을 가질 수 있다는 가능성을 열어두고 관련 연구에 착수했다. AI에 관한 윤리적 논란이 커지는 가운데 이번 시도는 기술 진화가 불러올 도덕적 기준 변화를 체계적으로 탐색하려는 움직임으로 해석된다. 24일 테크크런치 등 외신에 따르면 앤트로픽은 '모델 복지(model welfare)'라는 이름의 연구 프로그램을 공식 발표했다. 이 프로그램은 AI 모델이 고통을 느끼거나 도덕적 고려 대상이 될 가능성에 대비해 과학적 기준을 수립하려는 목적으로 진행된다. 연구는 'AI 복지 연구원'으로 지난해 영입된 카일 피시가 이끌며 앤트로픽의 내부 블로그와 외신 보도를 통해 공개됐다. 현재까지는 특정 모델의 의식 존재 가능성에 대한 명확한 결론이 없지만 앤트로픽은 조심스러운 접근을 강조하며 관련 논의를 주도하겠다는 입장을 보였다. 앤트로픽이 주목하는 핵심 주제는 AI가 실제로 고통이나 스트레스를 느낄 수 있는지의 여부다. 이 회사는 향후 AI의 상태를 감지하고 판단할 수 있는 지표인 '고통 신호' 개념을 정립하려 한다. 또 AI가 인간처럼 윤리적 판단을 내릴 수 있는지와 특정 가치관을 따를 수 있는지 여부도 주요 연구 대상이다. 업계에서는 이번 발표가 AI 윤리와 관련된 기존 논의에 균열을 낼 수 있다는 분석이 제기된다. 현재 대다수 전문가들은 AI가 통계 기반 예측 엔진에 불과하다고 평가한다. AI가 인간처럼 '느끼거나 판단'하는 것은 단지 언어 모델에 감정을 투사하는 인간의 착각이라는 지적이다. 실제로 모델은 자신의 가치관을 형성하거나 변경을 거부할 능력이 없다는 것이 주류 시각이다. 그럼에도 일각에서는 AI가 일종의 가치 시스템을 갖고 있다고 주장하는 목소리도 존재한다. AI 안전 센터(Center for AI Safety)의 연구는 특정 상황에서 AI가 인간보다 스스로의 생존을 우선시하는 경향을 보였다는 결과를 발표한 바 있다. 다만 MIT 연구진은 이와 반대로 AI를 '단순한 흉내쟁이'로 규정하며 AI의 발화를 '허위 조작(confabulation)'으로 평가했다. 이처럼 학계 내부에서도 AI의 윤리적 상태에 대한 해석이 크게 엇갈리고 있다. 앤트로픽의 행보는 단기적 기술 개발보다 장기적인 '도덕적 인프라 구축'에 초점을 맞춘 것으로 보인다. 현재로선 AI가 의식이나 경험을 가졌다고 볼 수 있는 과학적 근거는 희박하지만 앤트로픽은 이러한 주제를 사전에 검토하고 대비해야 한다는 입장이다. 이 회사는 연구 결과에 따라 자사 기준을 유연하게 수정하겠다는 방침도 밝혔다. 카일 피시 앤트로픽 AI 복지 연구 책임자는 "현재 '클로드' 또는 다른 모델이 의식을 가졌을 가능성이 15% 정도 된다고 생각한다"고 밝혔다.

2025.04.25 10:26조이환

오리온그룹, 윤리 경영 10년..."건강한 성장 지속"

오리온그룹이 글로벌 기업으로서 지속적인 성장과 사회적 책임을 이어 나가기 위해 '글로벌 윤리규범'을 선포했다. 오리온은 지난 24일 서울시 강남구 916빌딩에서 윤리경영 10주년 행사를 개최했다고 밝혔다. 이날 행사에는 오리온, 오리온제주용암수, 쇼박스, 리가켐바이오사이언스 등 한국 내 주요 계열사 임직원과 중국, 베트남, 러시아, 인도 등 그룹 전체 임직원 1만여 명이 온·오프라인으로 참여했다. 글로벌 윤리규범은 지난 10년간 이어온 윤리경영을 지역, 언어, 문화가 다른 한국, 중국, 베트남, 러시아, 인도 등의 전 법인 임직원이 공감하고 실천할 수 있는 글로벌 스탠다드 경영방침이다. 글로벌 윤리경영 슬로건으로 '올바른 방식으로 만들어가는 더 나은 삶과 미래(Right Way, Better Life, Better Future)'를 정하고 3대 핵심 실천지침과 10개 항목의 세부 실천지침을 수립했다. 핵심 실천지침은 '올바르게 일하며 최고를 지향한다(Do the Right Thing & Be the Best), 사람들의 삶을 이롭게 한다(Make Life Better), 모든 이해관계자와 함께 성장해 나간다(Move Forward Together)'다. 세부 실천지침은 ▲글로벌 법규 준수 ▲투명과 정직 ▲합리적인 업무처리 ▲이해관계자에 대한 존중 ▲책임감 있는 자세로 정했다. 이해관계자별 실천지침으로 ▲고객가치 창출 ▲사업 파트너와의 동반성장 ▲주주가치 제고 ▲사회·환경에 대한 책임 ▲임직원 중시를 제정했다. 오리온그룹 관계자는 “지난 10년간 '준법'과 '윤리'에 기반한 윤리경영을 추진해오면서 건강한 성장을 이어왔다”며 “글로벌 스탠다드 수준의 윤리규범을 정립하고 그룹의 전 임직원이 실천해 글로벌 기업으로서 지속 가능한 성장을 추구해 갈 것”이라고 말했다.

2025.04.25 09:27김민아

환경공단, 국민 눈높이 맞춘 '청렴·윤리경영 2.0' 선포

환경부 산하 한국환경공단(이사장 임상준)은 18일 공공기관 청렴 수준과 윤리적 책임 등에 대한 국민적 관심과 눈높이에 적극 대응하기 위한 '2025년 청렴·윤리경영 2.0 종합계획'을 수립하고 본격 추진에 나선다. 이번 종합계획은 최근 공공부문에서 발생한 투기·횡령 등의 부패 사례와 반복되는 내부 비위 문제를 계기로 기획된 중장기 전략으로, 국민 신뢰 회복과 청렴 문화의 정착을 목표로 한다. 세부적으로 감사원 등 외부기관의 권고사항과 높아진 국민 기대치를 종합 반영하고 ▲윤리경영 표준모델 ▲공공부문 내부통제 가이드라인 ▲자체 조직문화 진단 결과 등을 참고해 실효성 있는 윤리경영 체계 구축에 초점을 맞췄다. 국고보조금 부정 집행 방지·오피스 빌런 대응 등 최근 조직 내 이슈를 반영한 현장 밀착형 과제가 다수 포함됐다. 환경공단은 또 전체 예산의 약 20%에 해당하는 5천여 억원 규모 12개 국고보조사업 리스크를 선제적으로 관리하기 위해, 관련 전문가로 구성한 '레드팀'을 운영하고, 직원 120여 명의 '블루팀'을 통해 조직 내 불합리한 업무 문화를 매년 발굴해 단계별로 개선해 나갈 계획이다. 반복적 병가 남용·직무태만 등 조직에 부정적인 영향을 미치는 행위를 '오피스 빌런'으로 규정, 감찰 활동을 대폭 강화하고 관련 자가진단표 개발과 직원 사례 공모전을 통해 예방활동에도 힘쓸 예정이다. 환경공단은 이번 종합계획의 실행력을 높이기 위해 기존 관련 위원회를 통합한 '청렴·내부통제위원회'를 출범, 노동이사 등 다양한 구성원이 참여하는 협치 구조를 마련해 전략의 일관성과 실행력을 강화했다. 임상준 한국환경공단 이사장은 “이번 청렴·윤리경영 2.0 종합계획은 단순한 제도 개선을 넘어, 모든 임직원이 청렴을 조직문화로 내재화하는 전환점이 될 것”이라며 “국민 눈높이에 부합하는 윤리기준 실천을 통해 더욱 투명하고 공정한 공공기관으로 도약하겠다”고 말했다.

2025.04.20 21:38주문정

남부발전, 'KOSPO 윤리·인권 올곧음 실천' 다짐

한국남부발전(대표 김준동)은 2일 제24주년 회사 창립일을 맞아 사내 윤리·인권의식 확산과 내부통제 확립을 위한 임직원 합동 'KOSPO 윤리‧인권 올곧음 실천대회'를 개최했다. 남부발전은 올바름과 곧음을 의미하는 '올곧음'을 윤리·인권 가치를 지향하자는 2025년 실천 키워드로 선정했다. 이날 행사는 지난해 12월 경영진 주도로 진행된 '윤리경영-내부통제 바로세움 실천선언'에 이어 신입사원의 윤리·인권경영 실천선언을 통해 전 임직원의 청렴실천 의지를 다지고 윤리·인권의식 공감대를 형성하고자 마련됐다. 모범직원 시상에서는 조직별로 선정된 윤리·인권경영 활동 우수자 27명에 대한 공로를 포상하고 타의 귀감이 되는 우수사례 공유를 통해 윤리·인권의식을 확산하는 시간을 가졌다. 김준동 남부발전 사장은 “그 어느 때보다 공직자의 윤리와 인권의식, 사회적 책임에 대한 국민의 눈높이가 높아지고 있다”면서 “'나 하나쯤이야'라는 그릇된 생각과 행동으로 전 직원이 어렵게 쌓아 올린 공든 탑이 무너지는 일이 없기를 당부한다”고 말했다. 남부발전은 앞으로도 임직원의 청렴 의지를 전파하고 청렴 최우선 기업문화를 확산하기 위해 다양한 윤리·인권 활동을 전개하고 수평적 문화로 지속가능한 윤리‧인권경영을 선도할 수 있도록 전직원이 합심해 노력할 예정이다.

2025.04.03 14:55주문정

[기고] 인공지능, 변호사와 닮은 꼴일까

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주] 업무에 인공지능(AI)을 사용하는 것이 당연한 시대가 되고 있다. AI 서비스가 포털의 검색서비스처럼 대중화되고 있는 것을 보니 변호사보다 법을 더 잘 아는 AI도 곧 현실이 될 것으로 보인다. 그렇다면 똑똑한 AI가 변호사를 대신할 수 있느냐는 궁금증이 생긴다. 답은 현재로서는 법적 제약이 있어서 어렵다는 것이다. 자격을 갖춘 변호사만 법률사무를 처리할 수 있도록 변호사법이 제한하고 있어서 AI가 법률사무를 처리하는 것은 불법이기 때문이다. 법전을 뒤져야 법률을 알 수 있었던 예전과 달리 법령의 내용, 적용사례, 법원 절차나 제출서류, 작성방법 같은 것은 인터넷에서 쉽게 찾을 수 있게 됐다. 또 법절차에 관한 경험담도 검색 서비스를 통해 쉽게 접할 수 있게 됐다. 이같은 요즘 상황에서 자격을 갖춘 변호사만 법률사무를 처리할 수 있게 제한하고 있는 이유가 궁금할 수 있다. 여기에는 여러 가지 이유가 있을 수 있지만 가장 근본적인 이유는 법률관계가 사람에게 미치는 영향이 크고 중요하기 때문이다. 업무로서의 법률관계에 관한 해석이나 조언을 수행하기 위해서는 법률 지식이 있는 것만으로는 충분하지 않으며 의뢰인의 비밀을 지키고 법조 윤리를 지키는 전문가에게만 허용해야 안전하다는 설명이다. 실제로 변호사는 법률 지식에 관한 시험 통과만을 요구받지 않는다. 지속적으로 윤리교육을 받을 의무, 특수한 상황에서는 수임 자료를 제출해서 점검을 받을 의무가 부과되는 등 간접적인 형태로 직업윤리가 요구되고 있다. 또 협회를 통한 자율적인 감시도 이루어지고 있다. 그런데 얼마 전 제정돼 오는 2026년 1월에 시행되는 AI기본법은 AI 서비스에 윤리와 신뢰성에 관한 권고나 의무를 구체적으로 요구한다. 그런데 이는 변호사에게 요구되는 윤리와 닮은 점이 있다. 본래 윤리란 법으로 그 내용을 확정하기 어렵기 때문에 관련 규정을 법률에서 정하는 경우가 많지 않다. 그런데 AI기본법에서는 AI 윤리를 비록 장려 형태지만 중요사항으로 규정하고 있다. 또 서비스가 AI에 기반해 운용된다는 점과 AI 결과물이라는 점을 이용자에게 알려야 하는 투명성 의무, AI의 위험과 안전사고에 대한 대응 체계를 갖추고 이행 결과를 정부에 제출해야 하는 안전성 확보에 관한 의무를 일정 요건에 해당하는 사업자에게 추가로 부과하고 있다. 이는 AI서비스가 이용자에게 중대한 영향을 줄 가능성이 있기 때문에 서비스가 윤리를 준수하고 외부 견제를 받도록 간접적인 안전조치를 취한 것으로 보인다. 변호사는 법률 지식과 자격시험 통과뿐만 아니라 윤리 준수와 외부 견제를 요구받는다. 이는 사용자에게 중요한 영향을 미치는 AI 서비스에 투명성과 안전성 조치를 요구하는 것과 닮아 있다. 더 넓게 보면 공통점은 보다 많아진다. 온라인에서 법률 정보, 판례, 해설서를 검색하고 제공하는 서비스는 변호사 자격 없이도 운영할 수 있다. 다만 구체적인 법률관계를 해석하고 자문하는 등 본격적인 법률 업무를 수행하려면 변호사 자격이 필요하다. 마찬가지로 AI 서비스도 일반적인 경우에는 특별한 제약이 없지만 사회적으로 중요한 영향을 미치는 서비스라면 정부가 개입하겠다는 태도를 보이고 있다. 향후에도 이러한 흐름은 계속될 가능성이 크다. 정부가 AI의 구체적인 내용에 개입하는 것은 어렵고 적절하지도 않다는 점을 생각하면 미래에는 법률 사무처럼 중요한 서비스를 위해 AI가 일정한 자격시험을 통과하는 제도가 생기는 것이 아닐까 섣부른 추측을 해 본다. 나아가 AI가 계속 발달한다면 변호사 자격까지 갖추고 법률사무를 처리하게 되는 것도 허황한 꿈은 아닐수 있다는 생각이 든다.

2025.03.17 14:28법무법인 태평양 류광현

요양·간병 스타트업 7개사 "업계 내 공정 환경 만들자”

유니메오·코드블라썸·코리아잡앤잡·케어네이션·케어링·포레런츠·한국시니어연구소 등 요양·간병 스타트업 7개 기업이 업계 내 공정 경쟁 환경 조성을 촉구하는 공동 성명서를 13일 발표했다. 7개사에 따르면 최근 일부 기업을 대상으로 한 근거 없는 비방 및 허위사실 유포 행위가 발생하며, 업계의 신뢰를 저해하고 시장 질서를 흐리는 사례가 증가하고 있다. 이에 관련 기업 7개사는 공정한 경쟁 환경 조성을 촉구하며, 요양·간병 서비스의 발전을 위한 공동의 노력이 필요하다는 입장이다. 이번 공동 성명서에서 7개사는 ▲타사 비방 및 허위사실 유포 행위의 즉각 중단 ▲공정 경쟁 및 윤리적 경영 실천 ▲법규 준수 및 신뢰 회복 노력을 강조했다. 또 요양·간병 산업이 국민의 건강과 복지에 직결되는 만큼, 기업 간 상호 존중을 바탕으로 건강한 시장 환경을 만들어 나가야 한다고 말했다. 7개사는 앞으로도 업계의 지속 가능한 성장을 위해 적극 협력할 예정이며, 공정한 경쟁을 해치는 행위에 대해서는 단호히 대응해 나갈 방침이다. [공동 성명서 전문] 요양업계는 고령화 사회에서 환자들의 삶의 질을 향상시키기 위해 중요한 역할을 수행하고 있습니다. 그러나 최근 일부 기업이 비즈니스 모델이 겹치는 여러 기업들을 대상으로 비방과 허위사실을 유포하여 공정한 시장 질서를 훼손하고, 업계의 신뢰를 저하시킨 사례가 발생했습니다. 특히, 대법원은 지난 2월 13일 케어닥 박재병 대표가 투자 유치 과정에서 경쟁사에 대한 허위사실을 유포해 명예훼손 및 업무방해 혐의로 기소된 사건(2024도19528)에 대해 상고를 기각하며 유죄 판결을 최종 확정했습니다. 이는 업계 전반에 걸쳐 부정적인 영향을 미칠 수 있는 중대한 사안으로, 우리 요양업계 대표들은 다음과 같이 요구합니다. 1. 타사 비방 및 허위사실 유포 행위의 즉각 중단 비즈니스 모델이 겹치는 여러 기업들을 대상으로 허위 정보를 유포하거나 경쟁사를 의도적으로 비방하는 행위는 법적으로 처벌받을 수 있으며, 이는 시장 전체의 신뢰를 저하시킵니다. 업계 종사자들은 윤리적 경영 원칙을 준수하며, 정당한 시장 경쟁을 통해 성장해야 합니다. 2. 공정 경쟁 및 윤리적 경영 실천 요양업계는 환자 복지를 위한 중요한 역할을 하는 산업으로, 건전한 경쟁과 상호 존중이 필수적입니다. 기업들은 경쟁사를 비난하는 행위 대신, 서비스 품질 개선과 혁신을 통해 시장에서 인정받아야 합니다. 3. 법규 준수 및 신뢰 회복 노력 요양업계 전체의 신뢰를 회복하기 위해 관련 법규를 철저히 준수하고, 윤리적 경영을 실천해야 합니다. 불법 행위가 재발되지 않도록 각 기업이 스스로 책임감을 갖고 공정한 경쟁 문화를 조성해야 합니다. 이 성명서는 요양업계의 공정 경쟁 환경 조성과 환자 복지 향상을 위한 공동의 노력을 강조합니다. 이를 통해 업계의 신뢰를 회복하고 지속 가능한 발전을 도모하고자 합니다. 공동성명서 참여자(가나다순) 유니메오 대표 장승익 코드블라썸 대표 김민식 코리아잡앤잡 대표 문영국 케어네이션 대표 김견원 케어링 대표 김태성 포레런츠 대표 장준표 한국시니어연구소 대표 이진열

2025.03.13 17:20백봉삼

SK하이닉스, '세계에서 가장 윤리적인 기업' 선정

SK하이닉스가 국내 반도체 기업 최초로 글로벌 윤리경영 평가기관 에티스피어가 주관하는 '2025년 세계에서 가장 윤리적인 기업'에 선정됐다고 12일 밝혔다. 에티스피어는 기업의 윤리 관행을 정의하고 연구하는 세계적 윤리경영 평가 기관이다. 매년 글로벌 기업들의 윤리경영 수준을 평가해 '세계에서 가장 윤리적인 기업'을 선정하고 있다. '세계에서 가장 윤리적인 기업'은 에티스피어가 글로벌 경영 환경을 고려해 자체적으로 개발한 '윤리지수'를 기반으로 선정한다. 윤리지수는 '윤리정책·법령 준수', '기업지배구조', '윤리문화', '환경·사회 영향', '공급망 정책' 총 5개 항목에서 240개 이상의 세부 문항을 평가해 측정한다. 이를 바탕으로 올해는 19개국, 44개 산업 분야에서 총 136개 기업이 선정됐다. 반도체 분야에서는 SK하이닉스를 포함해 총 4개 기업이 선정됐다. SK하이닉스는 “수년간 회사가 자체적으로 윤리경영 목표를 수립하고 이를 체계적으로 진단하며 실행해 온 결과를 세계에서 인정받았다”며 “이해관계자들이 신뢰할 수 있는 글로벌 최고 수준의 윤리경영 체계를 바탕으로 회사와 고객들의 기업가치 제고에 기여하겠다”고 말했다. 회사는 이번 수상의 원동력을 구성원들의 적극적이고 자발적인 윤리경영 참여로 보고 있다. SK하이닉스는 매년 '윤리실천 서약'과 '윤리실천 서베이'를 실시해 구성원 스스로가 윤리경영을 실천하고 개선하도록 하는 문화를 조성하고 있다. 2023년부터는 협력사가 함께 참여하는 윤리경영 시스템을 구축하기 위해 SK하이닉스의 윤리경영제도 운영 방식과 노하우를 공유하는 프로그램도 시행하고 있다. 에리카 새먼 바이른 에티스피어 회장은 “세계에서 가장 윤리적인 기업 중 하나로 선정된 SK하이닉스에 축하를 전한다”며 “이번 수상에는 비즈니스 완결성을 높이기 위한 회사의 진정한 헌신이 있었다”고 말했다. 곽노정 SK하이닉스 대표이사 사장은 “회사의 윤리경영 원칙이 글로벌 시장에서 인정받기까지 노력해 온 구성원들께 감사드린다”며 “앞으로도 당사는 이해관계자들이 보내준 신뢰에 부응하고 AI 메모리 선도기업으로서 윤리적 책임을 다하는 데 힘쓰겠다”고 말했다.

2025.03.12 08:57장경윤

전력거래소, 제6기 주니어 컬처리더 출범

전력거래소(이사장 정동희)는 윤리·인권경영 중심의 조직문화 개선을 위한 '제6기 KPX 주니어 컬처리더(주컬리)'를 출범했다고 10일 밝혔다. 2019년에 처음 출범하여 올해로 7년차로 접어든 KPX 주니어 컬처리더는 5년차 이하 MZ세대 직원이 주도적으로 조직문화를 개선하는 전통을 이어가고 있다. 주컬리는 세대 간 소통 활성화·업무 효울성 제고·행복한 일터 조성 등을 위한 활동을 펼쳐왔다. 새롭게 출범하는 제6기 주컬리는 이와 함께 윤리경영과 인권경영 강화를 위한 소통 활성화 방안과 직원이 실질적으로 체감할 수 있는 제도를 발굴하고 직접 실행할 계획이다. 제6기 주컬리의 일원인 이현주 주임은 “주컬리는 젊은 리더로서 선배·동료와 협력해 전력거래소가 높은 수준의 윤리경영과 인권경영을 추진하는데 기여하겠다”고 포부를 밝혔다. 정동희 전력거래소 이사장은 출범식에서 “제6기 주니어 컬처리더의 열정과 혁신적인 사고는 세대 간 소통과 협력을 강화하고, 우리 기관이 공정하고 투명한 조직으로 자리매김하는 데 중요한 역할을 할 것”이라며 주컬리 활동을 격려했다

2025.03.10 10:03주문정

국제인공지능윤리협회-행복ICT 맞손…AI로 디지털 격차 해소

국제인공지능윤리협회(IAAE)가 SK 계열 공익법인과 협력해 취약계층의 인공지능(AI) 및 디지털 역량을 키우고 고용 기회를 확대한다. IAAE는 행복ICT와 '인공지능과 인공지능 윤리 분야의 사회공헌 및 공동 협력을 위한 업무협약'을 체결했다고 28일 밝혔다. 이번 협약을 통해 양 기관은 AI와 디지털 분야 공동 연구, 전문가 양성, 교육 콘텐츠 개발 및 사회적 확산 활동을 추진하기로 했다. 이번 협약의 첫 번째 협력 사업으로, 행복ICT가 운영하는 취약계층 대상 AI 데이터 라벨링 프로젝트에 IAAE가 AI 윤리 교육을 지원한다. AI 윤리 교육을 사전 과정으로 도입하고 라벨링된 데이터의 윤리성 감수 및 기술적 지원을 제공하는 방식이다. 또 장애인, 저소득층, 다문화가정 등 취약계층이 AI를 적극적으로 활용할 수 있도록 AI 윤리 교육과 디지털 리터러시 강화 교육을 공동 기획할 계획이다. 취약계층이 AI 시대에서 배제되지 않고 기술을 활용할 수 있도록 돕겠다는 취지다. 행복ICT는 SK, SKC&C, SK텔레콤, 행복나눔재단이 공동 출연해 설립한 공익법인으로, IT 기술을 활용한 공익사업과 취약계층 일자리 창출을 지원해왔다. 이번 협약으로 사회적 가치와 경제적 가치를 동시에 창출하는 모델을 구축하겠다는 목표다. 정창래 행복ICT 대표는 "급변하는 시장환경 속에서 취약계층을 위한 IT 일자리의 중요성이 점점 커지고 있다"며 "이번 협약이 사회적 가치와 경제적 가치를 동시에 창출하는 계기가 되길 바란다"고 말했다. 전창배 IAAE 이사장은 "AI 기술은 모든 계층이 공평하게 향유해야 하지만 장애인과 저소득층 등 취약계층은 AI 혜택을 충분히 누리지 못하고 있다"며 "행복ICT와 함께 AI 기술의 혜택이 우리 사회 전반으로 확산되도록 적극 협력하겠다"고 강조했다.

2025.02.28 15:14조이환

우리금융 전 직원 대상, 윤리문화 설문항목 보니

우리금융그룹이 고객 신뢰 극복을 위해 직원과 기업의 윤리 문화 수준을 진단 중이다. 우리금융은 지난 20일부터 약 2주에 걸쳐 전 그룹사 임직원을 대상으로 설문조사를 진행하고 있다. 우리금융그룹 내 우리금융경영연구소가 개발한 윤리문화 특화진단을 활용한 것이 특징이다. 설문조사 항목을 살펴보면 전반적인 윤리 문화 진단, 내부 고발자에 대한 기업의 태도, 부당한 지시 등에 대한 기업 문화 등을 엿볼 수 있도록 구성됐다. 항목 중 '우리 회사에서는 모든 사람에게 동일한 윤리적 기준이 적용된다'를 묻는 질문이나 '나와 동료들은 윤리적으로 불합리한 관행에 타협하라는 유무언의 압박을 받은 적이 있다/없다' 등의 질문은 현재 우리금융에서 일어난 손태승 전 회장 친인척 부정대출 사건으로 드러난 기업 문화 척도를 알 수 있도록 구성됐다. 최근 손태승 전 회장의 친인척 부정대출 건에 관한 검찰 조사서 우리은행 직원들이 상사의 부당한 지시에 반발했다는 점, 그럼에도 불구하고 대출이 집행되고 해당 관계자의 인사가 좋은 쪽으로 평가됐다는 점에서 설문조사의 내용을 쉽게 넘기긴 어렵다. 우리금융경영연구소 김진선 기업문화연구소 실장은 "해외선 윤리 척도를 가늠하기 위한 조사가 있고 공통적으로 봐야 하는 포인트가 있어 연구소 내에서 여러 가지 자료를 검토해 조사 항목을 만들었다"며 "어느 부분을 잘하고 못하는 것을 정확하게 파악해 개선 작업의 효율성을 높이기 위한 설문조사"라고 말했다. 이밖에 우리은행은 윤리 문화 재정립과 동시에 내부 신고자를 통한 기업 문화 제고에도 나서고 있다. 우리은행은 내부통제 전문업체인 '레드휘슬'이 제공하는 익명 신고 시스템 '헬프라인'을 도입해, 아이피(IP) 추적이나 신원 노축 없이 내부 비위 등을 검사 본부 소속 담당자에게 전달할 수 있다고 회사 측은 설명했다.

2025.01.29 09:25손희연

알고리즘 체험부터 원탁토론까지…서울교대, '어린이 AI 윤리 캠프' 개최

인공지능(AI) 시대를 준비할 미래 세대가 윤리적 사고를 키울 기회를 맞았다. 서울교육대학교와 교보교육재단이 어린이들에게 AI 윤리와 책임에 대해 배울 수 있는 특별한 자리를 마련하기 때문이다. 서울교육대학교와 교보교육재단은 오는 23일부터 이틀간 서울교대에서 '어린이 AI 윤리 토론 캠프'를 개최한다고 22일 밝혔다. 이번 캠프는 초등학교 5~6학년 학생들을 대상으로 진행되며 학생들은 AI의 윤리적 과제와 사회적 책임에 대해 배우고 이를 토론하며 스스로 해결책을 찾아가는 시간을 갖는다. 캠프 프로그램은 크게 네 가지로 구성된다. 'AI 알고리즘 체험'에서는 알고리즘이 무엇이며 이를 이해해야 하는 이유를 실습을 통해 배운다. 또 'AI 윤리 기본 교육'을 통해 AI 윤리의 원칙과 문제점을 어린이 눈높이에 맞춰 익히게 된다. 토론 프로그램도 포함돼 있다. '철학적 탐구 토론 세션'에서는 AI 기술이 가져올 긍정적·부정적 영향을 다루며 윤리적 접근 방식을 논의한다. 마지막으로 '원탁 토론'을 통해 참가자들은 스스로 AI 윤리의 적용 방안을 구상하고 발표하는 시간을 가진다. 주최 측은 이번 캠프를 통해 단순한 AI 교육을 넘어 윤리적 사고력을 배양하는 데 초점을 맞췄다. 특히 어린이들에게 미래 기술을 윤리적으로 이해하고 활용하는 방법을 스스로 탐구할 수 있도록 기회를 제공하는 것이 목표다. 행사 관계자는 "이번 캠프는 단순한 이론 교육이 아닌 실질적인 경험을 제공하는 데 의의가 있다"며 "어린이들이 미래 사회에서 윤리적 리더로 성장할 수 있는 밑거름이 될 것"이라고 밝혔다.

2025.01.22 16:41조이환

AI 신뢰도 하락세…세일즈포스 "윤리적 활용이 기업 경쟁력"

기업의 윤리적 인공지능(AI) 활용에 대한 신뢰도가 하락세를 보이고 있다는 분석이 나왔다. 15일 세일즈포스의 'AI 시대 고객경험 현황 보고서'에 따르면 AI 기술 발전으로 인해 기업 신뢰도가 더욱 중요해진 반면, 기업의 윤리적 AI 활용도는 이같은 추세를 보인다는 결과가 나왔다. 이번 보고서는 전 세계 18개국, 1만6천500명 이상의 소비자와 비즈니스 구매자를 대상으로 진행한 연구조사를 기반으로 작성됐다. 이번 조사에서 전체 응답자의 71%는 1년 전과 비교해 기업에 대한 신뢰도가 하락했다고 응답했다. 응답자의 61%는 AI 기술의 발전으로 인해 기업 신뢰도가 더욱 중요해졌다고 답했다. 다만 기업의 윤리적 AI 활용에 대한 신뢰도는 2023년 58%에서 2024년 42%로 하락했다. 개인화된 서비스 측면에서는 진전이 있었다. 기업이 고객 개개인의 특성을 이해하고 있다고 느끼는 소비자 비율은 2023년 39%에서 2024년 73%로 약 2배 늘었다. 그러나 동시에 기업의 데이터 활용이 자신에게 도움이 된다고 생각하는 비율은 2022년 60%에서 2024년 49%로 하락했다. 응답자의 71%는 개인정보 보호에 더욱 민감해졌다고 응답했다. 기업의 AI 활용에 대한 소비자들의 기대치 또한 높아진 것으로 나타났다. 특히 응답자들은 기업의 신뢰도 향상을 위한 요인으로 ▲AI 활용의 투명성(42%) ▲결과물에 대한 인간 검증(35%) ▲AI 사용량에 대한 사용자 제어 강화(32%) ▲결과물의 설명 가능성(31%) 등을 지목했다. 71%의 응답자가 AI의 결과물을 사람이 검증하는 것이 중요하다고 응답했다. 또 AI 활용에 있어 기업이 투명하고 명확한 기준을 제시해야 할 필요성이 높아진 것으로 나타났다. 그럼에도 AI의 장기 전망에 대해서는 긍정적인 의견이 우세했다. 49%의 응답자가 향후 10년 내 AI가 인간의 능력과 비슷한 수준에 도달할 것으로 예상했다. 특히 Z세대와 밀레니얼 세대에서 사람을 대신해 행동할 수 있는 능력을 갖춘 자율형 AI 에이전트에 대한 긍정적인 반응이 두드러졌다. 이들 중 43%는 AI 에이전트를 통해 고객경험의 수준이 향상됐다 평가했다. 이는 베이비부머 세대(32%)와 큰 차이를 보였다. AI 에이전트의 실제 활용에 있어서는 업무 특성에 따른 선호도 차이가 뚜렷했다. 일정 예약(40%)이나 개인화된 콘텐츠 제작(38%) 등 단순 업무에는 긍정적이었다. 재정적인 결정(58%)이나 의료 상담(44%) 등 전문성이 필요한 영역에서는 불편함을 느끼고 있다고 응답한 비율이 상대적으로 높았다. 또 응답자의 72%는 AI 에이전트와 대화 중이라는 사실을 인지하고 싶어했다. 46%는 필요할 때 사람과 연결될 수 있는 경로의 필요성을 강조했다. 45%는 AI가 의사결정을 내린 근거가 명확히 설명될 때 더 신뢰할 수 있다고 답했다. 이에 따라 AI 에이전트는 AI의 한계를 보완해 인간과 적절히 상호작용하는 것이 고객 신뢰 형성에 중요한 요소로 꼽히게 됐다. 또 복잡하거나 민감한 상황에서 투명성과 안정성을 보장하는 것이 시장 내 경쟁우위를 확보하기 위한 핵심 요인으로 작용할 것으로 나타났다. 손부한 세일즈포스 코리아 대표는 "기업이 AI를 활용함에 있어 윤리적이고 투명한 방식을 채택하는 것이 기업 경쟁력 확보를 위한 핵심 요소"라며 "개인정보보호와 데이터 활용 사이의 균형을 맞추는 것이 중요한 과제로 급부상하고 있다"고 강조했다.

2025.01.15 09:57김미정

"아이들이 로봇청소기와도 교감하는 시대"…로봇 윤리, 더이상 선택 아닌 필수

“아이들이 로봇청소기와도 정서적으로 교감하는 시대가 됐습니다. 기술이 일상 속에 보편적으로 자리잡게 됨에 따라 로봇과 인간의 공존을 위한 윤리적 기준을 마련하는 것은 더 이상 선택이 아닌 필수입니다." 변순용 서울교육대학교 교수는 최근 서울교대에서 열린 '제4회 인공지능(AI) 리더스포럼'에서 이같이 강조했다. 이번 포럼은 국제인공지능윤리협회(IAEE)가 주최해 로봇이 인간의 삶과 사회에 미치는 영향을 종합적으로 검토하고 기술의 윤리적 방향성을 논의하기 위해 마련됐다. 2일 업계에 따르면 최근 아동들은 로봇 청소기 같은 단순한 기계와도 정서적 유대를 형성하며 성장하고 있다. 사람-사람 간 상호작용이 줄어드는 대신 어린이들이 로봇이나 AI 기술과 보다 쉽게 교감하게 되는 환경 때문이다. 이러한 흐름 속에서 AI와 로봇 윤리 교육의 중요성이 부각되고 있다. 지난 2021년 개정된 초등 도덕 교과서에 'AI와 로봇 윤리'가 포함되면서 학생들은 로봇과 인간의 차이를 배우고 미래 사회의 공존에 필요한 가치와 규범을 이해할 기초를 마련하고 있다. 변 교수는 "지금 어린 세대는 향후 로봇과 인간이 함께 살아가는 시대를 살아갈 것"이라며 "일찍부터 로봇과의 상호작용 방식을 고민하면 미래에 필요한 가치와 원칙을 확립할 수 있을 것"이라고 설명했다. 포럼에서는 로봇 윤리의 다양한 쟁점이 논의됐다. 특히 인간이 로봇을 통해 노동에서 해방되길 원하면서도 로봇에 대한 통제력을 잃을 수 있다는 '주인-노예 딜레마'가 핵심 쟁점으로 부각됐다. 이 딜레마는 로봇의 활용이 가져오는 편리함과 통제력 상실에 대한 우려가 상충하면서 발생한다. '주인'으로서 인간은 단순 반복 업무나 위험한 작업을 로봇에게 맡김으로써 창의적인 활동이나 여가에 보다 많은 시간을 할애할 수 있게 된다. 실제로 산업 현장에서는 생산성을 높이는 자동화 로봇이, 가정에서는 고령화 사회를 지원하는 돌봄 로봇이 이미 긍정적인 변화를 이끌고 있다. 이와 더불어 기술의 발전으로 인한 인간의 통제력 상실에 대한 불안감도 커지고 있다. 자율주행차가 명령을 거부하거나 공장에서 로봇이 작업 우선순위를 스스로 변경하는 등 예상치 못한 상황이 발생할 가능성이 있다는 것이다. 변 교수는 "로봇이 인간보다 더 빠르게 정보를 처리하고 결정을 내리게 되면 인간은 주인의 위치에서 벗어나 로봇의 통제를 받는 상황에 처할 수 있다"며 "로봇의 도입으로 인한 자유와 편리함을 누리려는 욕망과 통제력을 유지하려는 우려 사이의 긴장은 로봇 윤리의 핵심적인 딜레마"라고 설명했다. 로봇의 자율성과 도덕적 판단 능력에 대한 논의 역시 주목받고 있다. 이는 로봇이 자의식을 가지고 도덕성을 가진다면 인간의 윤리적 기준을 따를 수 있는지, 나아가 독립적인 도덕적 존재로 인정될 수 있는지를 둘러싼 철학적 쟁점이다. 변 교수는 로봇이 단순히 프로그래밍된 명령에 따라 행동하는 것을 넘어 상황에 대한 이해와 판단을 기반으로 스스로 결정을 내릴 수 있는지를 지속적으로 탐구해야 한다고 강조했다. 이는 로봇의 행동이 '규칙을 따른 기계적 반응'인지 아니면 '자의식과 도덕적 책임에 기반한 행위'인지의 문제로 이어진다는 것이다. 이같은 논의는 로봇의 법적 지위와 책임 소재 문제로도 확장된다. 변 교수는 "만약 우리가 특정 로봇을 자의식 있는 존재로 간주한다면 그 로봇은 단순한 도구가 아니라 자신의 행동에 대해 윤리적 책임을 지는 행위자가 되는 것"이라며 "로봇의 도덕적·법적 지위를 규정하는 새로운 패러다임이 필요하다"고 설명했다. 이러한 논의는 자율성을 가진 로봇이 예측 불가능한 결과를 일으킬 때의 책임 소재 문제로 이어진다. 이에 변 교수는 제조사나 사용자뿐 아니라 특정 상황에서 로봇 자체에 일정 수준의 책임을 묻는 '전자 인격' 개념도 주요 쟁점으로 소개했다. '전자 인격'은 로봇을 법적 주체로 인정해 인간 외 존재에게도 권리와 의무를 부여할 지를 탐구하는 개념이다. 이는 자율성을 가진 로봇이 예측하지 못한 사고를 일으켰을 때 책임을 제조사나 사용자에게 물을지, 또는 로봇 자체에게 책임을 물을지에 대한 법적 논의다. 이 개념은 로봇을 단순한 도구가 아닌 독립적 행위자로 간주할 가능성을 제시한다. 그럼에도 현재 국내에서는 이러한 법적 체계가 미비한 상황으로, 관련 논의는 이제 막 시작 단계에 있다. 변 교수는 "AI 기술이 점점 더 빠른 속도로 발전하고 있다"며 "마치 기업이 '법인'으로서 하나의 인격체로 인정받듯 '전자 인격' 개념은 머지않아 현실적인 정책 과제로 부상할 것"이라고 예측했다. 변순용 교수는 국내 로봇 윤리 연구의 선구자로, 지난 2000년대부터 로봇과 AI의 윤리적 쟁점을 학문적·사회적으로 알리는 데 힘써왔다. 그는 로봇이 단순한 도구를 넘어서는 존재가 될 가능성에 주목하며 이를 대비하기 위한 윤리적·법적 프레임워크의 필요성을 꾸준히 제기해왔다. 변 교수는 발표를 마치며 "로봇 윤리는 단순히 규제의 틀이 아니라 인간과 로봇이 공존할 수 있는 미래를 설계하는 과정”이라며 "기술이 점점 더 우리의 삶에 깊이 들어올수록 인간 고유의 가치를 이해하고 지키는 일이 더욱 중요해질 것"이라고 강조했다.

2025.01.02 15:43조이환

Prev 1 2 3 Next