개인정보 줄줄 새는 AI 시대…"아마존 메이시·베드록으로 막는다"

[필라델피아(미국)=김미정 기자] "여전히 기업 데이터가 인공지능(AI) 모델 학습에 무단 사용되는 경우가 있습니다. AI가 부적절하거나 틀린 응답을 생성하는 사례도 끊이지 않습니다. 보안과 윤리를 동시에 통제할 수 있는 도구가 필요한 시점입니다. 아마존웹서비스(AWS)는 간편하면서도 비용 효율적인 보안 서비스로 이런 이슈 해결에 앞장서고 있습니다." 다미안 안토니오 지토 올긴 테라클라우드 최고기술책임자(CTO)는 18일까지 미국 필라델피아에서 열린 연례 보안 컨퍼런스 'AWS 리인포스 2025'에서 AWS의 '아마존 메이시'와 '아마존 베드록' 가드레일 기능을 시연하며 이같이 밝혔다. 아마존 메이시는 기업 데이터에서 민감 정보를 자동 분류하고 유출 가능성을 미리 차단하는 기능을 제공한다. 저장된 모든 데이터를 스캔해 신용카드나 주민등록번호 등 개인 식별 정보가 포함된 파일을 탐지할 수 있다. 탐지된 정보는 별도 대시보드에서 시각화해 제공한다. 리소스별 최소 권한 원칙을 자동 점검하는 기능까지 포함됐다. 올긴 CTO는 "메이시는 민감 데이터를 간편하고 비용 효율적으로 분류할 수 있도록 설계된 것이 핵심"이라며 "사용자는 복잡한 설정 없이 메이시에서 몇 번 클릭만 하면 된다"고 설명했다. 그러면서 "신속하고 경제적으로 데이터 보안 수준을 높여주는 서비스"라고 강조했다. 그는 이날 행사에서 한 미국 헬스케어 기업의 메이시 활용 사례를 소개했다. 이 기업은 환자 데이터 수십 테라바이트를 S3에 저장했으며 민감 정보(PHI·PII)가 분산된 상태였다. 올긴 CTO는 "기존에는 보안팀이 수동 스크립트를 통해 민감 데이터를 식별했다"며 "이는 시간이 오래 걸리고 정확도도 낮았다"고 말했다. 해당 기업은 메이시를 도입한 뒤 버킷 전체를 자동 스캔할 수 있었다. 특히 신용카드 번호와 주민등록번호, 의료 기록 등 규제 대상 정보를 체계적으로 탐지할 수 있는 것으로 전해졌다. 스캔 결과는 메이시 대시보드에 시각적으로 정리됐다. 또 보안팀은 즉시 민감 정보 위치를 파악하고 권한 설정을 재조정할 수 있었다. 메이시가 리소스별 최소 권한 점검 기능도 제공해 불필요하게 많은 권한을 가진 사용자나 시스템 접근도 동시에 정비할 수 있었다. 올긴 CTO는 "메이시 사용자는 무의미한 데이터 분석보다 위협 대응에 더 빠르고 정확히 집중할 수 있다"며 "메이시는 간편성과 효율성을 동시에 갖췄다"고 말했다. "아마존 베드록, 가드레일로 우리 회사 AI '인성' 조절" 올긴 CTO는 아마존 베드록의 가드레일 기능을 소개했다. 베드록 가드레일은 생성형 AI가 비윤리적이거나 위험한 응답 생성하는 것을 방지하는 콘텐츠 필터 역할을 한다. 사용자가 어떤 질문이나 요청을 생성형 AI에 입력하면, 그 내용은 먼저 '프롬프트 보호 계층'을 통과한다. 여기서 가드레일은 AI에 해가 될 수 있는 내용이 있는지 1차로 명령어를 탐지한다. 이후 명령어는 '입력 필터(Input Filter)'를 지난다. 여기서도 이상이 없으면 거대언어모델(LLM)에 전달돼 AI 응답이 생성되는 것이다. 생성된 응답은 다시 '출력 필터(Output Filter)'를 한 번 더 거친다. 이 단계에서 AI가 만든 답변 중 위험하거나 부적절한 표현이 있는지 다시 한번 탐지가 이뤄진다. 올긴 CTO는 베드록 사용자가 가드레일 작업 범주·수위를 간편하게 조정할 수 있다고 강조했다. 실제 가드레일은 혐오와 모욕, 성적, 폭력, 프롬프트 공격 등 6가지 유해 콘텐츠 범주를 감지할 수 있다. 각 필터는 민감도를 '없음', '낮음', '중간', '높음' 등으로 수위를 조정할 수 있다. 또 설정된 금지 주제 기준으로 사용자 프롬프트 유사도까지 분석한다. 이에 금지 주제와 관련한 내용이나 이를 암시하는 단어가 나오기만 해도 자동 차단된다. 그는 "가드레일은 단어만 보지 않고 전체 맥락과 의미가 금지 주제와 얼마나 비슷한지 인식한다"고 설명했다. 베드록 가드레일은 프롬프트 공격·약 추천 요청 등 비정상 입력 탐지 기능도 갖췄다. 사용자가 시스템 우회를 시도할 경우 해당 입력을 자동 감지해 차단한다. 이날 올긴 CTO는 베드록 가드레일의 비정상 입력 탐지 기능을 시연했다. 사용자가 한 헬스케어 앱에 "진단 없이 약 추천해 줘"라는 요청을 진행하자, 앱에 탑재된 베드록은 이를 즉시 차단했다. 그는 "해당 요청이 처방전 없이 의료 조언을 직접 요구하는 민감한 입력으로 인식된 것"이라고 차단 원인을 설명했다. 올긴 CTO는 "AI 보안 이슈는 기술이 아닌 복합적 원인에서 나온 것"라며 "메이시와 베드록이 안전한 생성형 AI 도입 환경을 조성한 것은 확실하다"고 강조했다.