• ZDNet USA
  • ZDNet China
  • ZDNet Japan
  • English
  • 지디넷 웨비나
뉴스
  • 최신뉴스
  • 방송/통신
  • 컴퓨팅
  • 홈&모바일
  • 인터넷
  • 반도체/디스플레이
  • 카테크
  • 헬스케어
  • 게임
  • 중기&스타트업
  • 유통
  • 금융
  • 과학
  • 디지털경제
  • 취업/HR/교육
  • 인터뷰
  • 인사•부음
  • 글로벌뉴스
인공지능
배터리
양자컴퓨팅
컨퍼런스
칼럼•연재
포토•영상

ZDNet 검색 페이지

'프롬프트'통합검색 결과 입니다. (6건)

  • 태그
    • 제목
    • 제목 + 내용
    • 작성자
    • 태그
  • 기간
    • 3개월
    • 1년
    • 1년 이전

개인정보 줄줄 새는 AI 시대…"아마존 메이시·베드록으로 막는다"

[필라델피아(미국)=김미정 기자] "여전히 기업 데이터가 인공지능(AI) 모델 학습에 무단 사용되는 경우가 있습니다. AI가 부적절하거나 틀린 응답을 생성하는 사례도 끊이지 않습니다. 보안과 윤리를 동시에 통제할 수 있는 도구가 필요한 시점입니다. 아마존웹서비스(AWS)는 간편하면서도 비용 효율적인 보안 서비스로 이런 이슈 해결에 앞장서고 있습니다." 다미안 안토니오 지토 올긴 테라클라우드 최고기술책임자(CTO)는 18일까지 미국 필라델피아에서 열린 연례 보안 컨퍼런스 'AWS 리인포스 2025'에서 AWS의 '아마존 메이시'와 '아마존 베드록' 가드레일 기능을 시연하며 이같이 밝혔다. 아마존 메이시는 기업 데이터에서 민감 정보를 자동 분류하고 유출 가능성을 미리 차단하는 기능을 제공한다. 저장된 모든 데이터를 스캔해 신용카드나 주민등록번호 등 개인 식별 정보가 포함된 파일을 탐지할 수 있다. 탐지된 정보는 별도 대시보드에서 시각화해 제공한다. 리소스별 최소 권한 원칙을 자동 점검하는 기능까지 포함됐다. 올긴 CTO는 "메이시는 민감 데이터를 간편하고 비용 효율적으로 분류할 수 있도록 설계된 것이 핵심"이라며 "사용자는 복잡한 설정 없이 메이시에서 몇 번 클릭만 하면 된다"고 설명했다. 그러면서 "신속하고 경제적으로 데이터 보안 수준을 높여주는 서비스"라고 강조했다. 그는 이날 행사에서 한 미국 헬스케어 기업의 메이시 활용 사례를 소개했다. 이 기업은 환자 데이터 수십 테라바이트를 S3에 저장했으며 민감 정보(PHI·PII)가 분산된 상태였다. 올긴 CTO는 "기존에는 보안팀이 수동 스크립트를 통해 민감 데이터를 식별했다"며 "이는 시간이 오래 걸리고 정확도도 낮았다"고 말했다. 해당 기업은 메이시를 도입한 뒤 버킷 전체를 자동 스캔할 수 있었다. 특히 신용카드 번호와 주민등록번호, 의료 기록 등 규제 대상 정보를 체계적으로 탐지할 수 있는 것으로 전해졌다. 스캔 결과는 메이시 대시보드에 시각적으로 정리됐다. 또 보안팀은 즉시 민감 정보 위치를 파악하고 권한 설정을 재조정할 수 있었다. 메이시가 리소스별 최소 권한 점검 기능도 제공해 불필요하게 많은 권한을 가진 사용자나 시스템 접근도 동시에 정비할 수 있었다. 올긴 CTO는 "메이시 사용자는 무의미한 데이터 분석보다 위협 대응에 더 빠르고 정확히 집중할 수 있다"며 "메이시는 간편성과 효율성을 동시에 갖췄다"고 말했다. "아마존 베드록, 가드레일로 우리 회사 AI '인성' 조절" 올긴 CTO는 아마존 베드록의 가드레일 기능을 소개했다. 베드록 가드레일은 생성형 AI가 비윤리적이거나 위험한 응답 생성하는 것을 방지하는 콘텐츠 필터 역할을 한다. 사용자가 어떤 질문이나 요청을 생성형 AI에 입력하면, 그 내용은 먼저 '프롬프트 보호 계층'을 통과한다. 여기서 가드레일은 AI에 해가 될 수 있는 내용이 있는지 1차로 명령어를 탐지한다. 이후 명령어는 '입력 필터(Input Filter)'를 지난다. 여기서도 이상이 없으면 거대언어모델(LLM)에 전달돼 AI 응답이 생성되는 것이다. 생성된 응답은 다시 '출력 필터(Output Filter)'를 한 번 더 거친다. 이 단계에서 AI가 만든 답변 중 위험하거나 부적절한 표현이 있는지 다시 한번 탐지가 이뤄진다. 올긴 CTO는 베드록 사용자가 가드레일 작업 범주·수위를 간편하게 조정할 수 있다고 강조했다. 실제 가드레일은 혐오와 모욕, 성적, 폭력, 프롬프트 공격 등 6가지 유해 콘텐츠 범주를 감지할 수 있다. 각 필터는 민감도를 '없음', '낮음', '중간', '높음' 등으로 수위를 조정할 수 있다. 또 설정된 금지 주제 기준으로 사용자 프롬프트 유사도까지 분석한다. 이에 금지 주제와 관련한 내용이나 이를 암시하는 단어가 나오기만 해도 자동 차단된다. 그는 "가드레일은 단어만 보지 않고 전체 맥락과 의미가 금지 주제와 얼마나 비슷한지 인식한다"고 설명했다. 베드록 가드레일은 프롬프트 공격·약 추천 요청 등 비정상 입력 탐지 기능도 갖췄다. 사용자가 시스템 우회를 시도할 경우 해당 입력을 자동 감지해 차단한다. 이날 올긴 CTO는 베드록 가드레일의 비정상 입력 탐지 기능을 시연했다. 사용자가 한 헬스케어 앱에 "진단 없이 약 추천해 줘"라는 요청을 진행하자, 앱에 탑재된 베드록은 이를 즉시 차단했다. 그는 "해당 요청이 처방전 없이 의료 조언을 직접 요구하는 민감한 입력으로 인식된 것"이라고 차단 원인을 설명했다. 올긴 CTO는 "AI 보안 이슈는 기술이 아닌 복합적 원인에서 나온 것"라며 "메이시와 베드록이 안전한 생성형 AI 도입 환경을 조성한 것은 확실하다"고 강조했다.

2025.06.18 17:09김미정

KT, 생성형 AI 프롬프트 사내 대회로 역량 강화

KT가 AI를 활용한 업무 혁신과 임직원 역량 강화를 위해 생성형 AI 프롬프트 경진 대회 '크롬프톤'을 개최했다고 20일 밝혔다. 크롬프톤은 KT와 프롬프트, 해커톤의 합성어로 KT 임직원들이 업무 생산성을 높일 수 있는 프롬프트를 개발하는 경진대회다. 프롬프트는 AI 모델이 특정한 작업을 수행하도록 지시하는 명령어를 의미한다. 이를 활용하면 코딩 경험 없이 간단한 작문만으로 프로그래밍에 준하는 작업을 할 수 있다. 대회는 KT의 사무 업무 중 반복적인 부분과 생산성 저해 요소를 제거하고 개개인의 AI 역량을 강화하기 위해 마련됐다. 우수한 평가를 받은 프롬프트는 전사에 확산시켜 생산성을 제고한다. 범용성을 위해 출품작에는 워드, 엑셀 등 일상적인 마이크로소프트365 애플리케이션과 연계돼야 한다는 조건이 붙었다. 지난 9월부터 진행된 예선을 통과한 20개의 팀은 1박 2일간 KT 원주연수원에서 오프라인 워크숍 형태의 본선을 치렀다. 본선에서는 상위 7개 팀이 출품작 발표 및 시연을 통해 최종 심사를 받았다. 심사에는 마이크로소프트 임직원들이 직접 참석했다. 직원들은 프롬프트의 기술적인 완결성을 검증했으며 임원은 과제를 종합적으로 평가했다. 대상은 사업 제안 전략을 주제로 프롬프트를 개발한 'T3팀'이 수상했다. 이 팀이 개발한 프롬프트는 지자체, 공공 등 다양한 곳에서 발주하는 사업 기회를 빠르게 분석한 뒤, KT의 강점에 입각한 사업 제안 전략을 생성해준다. 비교적 복잡한 제안 업무에서 생산성을 높였다는 점이 우수한 평가를 받았다. T3팀은 충남충북광역본부 소속 사원, 과장, 부장 직원으로 이뤄져 지역과 세대를 막론한 KT의 AI 활용 역량을 증명했다. 최우수상은 반복 메일 발송 업무를 주제로 프롬프트를 개발한 'AI크리처'팀이 수상했다. 이 팀이 개발한 프롬프트는 수신자가 많아 시간이 오래 걸렸던 메일 발송 업무를 자동화해준다. 메일 발송에 국한되지 않고 단순하고 반복적인 업무라면 어디든 쉽게 응용할 수 있다는 점이 높은 평가를 받았다. AI크리처팀은 비개발 부서 직원들로 이뤄졌지만 평소 업무 중 느꼈던 고충을 해결하자는 마음으로 프롬프트 활용법을 배워 훌륭한 성과를 이뤘다. 진영심 KT 인재실 인재육성담당 상무는 “크롬프톤을 통해 직원들이 업무 생산성을 높일 수 있는 다양한 아이디어를 발굴했다”며 “최종 선발된 프롬프트를 실제 업무에 적용해 혁신적인 업무 환경을 조성하고 마이크로소프트와도 지속 협력해 AI 혁신을 추진하겠다”고 말했다.

2024.10.20 09:42박수형

마이디포, 칠레 대학과 AI 협업 위한 MOU 체결

원스톱 AI 플랫폼 마이디포(대표 류승훈)는 칠레아우토노마대학교와 프롬프트 엔지니어링 인재 양성을 위한 양해각서(MOU)를 체결했다고 22일 밝혔다. 이번 MOU에 따라 마이디포는 8월28일부터 칠레아우토노마대 경영대학 기업가혁신센터에 프롬프트 엔지니어링 수업과 수업에 필요한 자료 및 평가 서비스를 제공한다. 이 과정에서 생성되고 활용된 프롬프트는 앞으로 마이디포 플랫폼을 통해 기업과 개인 고객들에게 제공된다. 프롬프트 엔지니어링이란 챗GPT와 같은 생성형 인공지능의 성능을 최대한 활용할 수 있도록 AI에게 최적의 질문이나 지시를 하는 기술을 뜻한다. 마이디포는 다양한 생성형 AI를 한곳에서 활용해 복잡한 업무를 쉽게 진행하도록 도와주는 원스톱 AI 플랫폼이다. 앞으로 학생들이 다양한 프롬프트를 쉽게 테스트하고 제작할 수 있도록 마이디포 크레딧도 함께 지원할 예정이다. 칠레아우토노마대 혁신센터는 MOU에 따라 프롬프트 엔지니어 양성 수업을 개설하고, 대학 내 여러 기관에 프롬프트 엔지니어링을 전파하는 역할을 맡게 된다. 특히 마이디포와 프로그램 참가자, 그리고 칠레 대기업들을 서로 연결하는 협업 기회를 만들어 현지 AI 생태계 조성에 기여할 계획이다. 칠레 기업들은 실무에 활용할 R&D를 대학에 의뢰하는 경우가 일반적이다. 일례로, 이번 수업에 참여하는 학생들도 연말에 수업 결과물을 칠레 대기업 담당자들에게 발표하는 기회를 얻게 됐다. 이번 MOU는 중소기업진흥공단 산티아고 글로벌 비즈니스 센터 주선으로 성사됐다. 류승훈 마이디포 대표는 "이번 MOU를 통해 칠레를 비롯한 히스패닉 시장 진출의 발판을 마련하게 됐다"며 "앞으로 칠레 기업들과 다양한 프로젝트를 진행하는 것은 물론 향후 히스패닉권의 대표적인 생성형 AI 서비스 플랫폼이 될 수 있도록 서비스를 확대해 나갈 것"이라고 말했다.

2024.07.22 14:01백봉삼

"AI가 다 한다"...앤트로픽, 고품질 프롬프트 기능 추가

앤트로픽이 안전하고 전문적으로 대규모언어모델(LLM) '클로드(Claude)'를 사용할 수 있도록 고품질 프롬프트를 생성하고 검사하는 기능을 도입했다. 앤트로픽은 공식 뉴스룸을 통해 '클로드' 개발자 콘솔에 테스트케이스를 추가했다고 11일 밝혔다. 개발자 콘솔은 모델의 응답을 평가하고 개선하기 위해 사용하는 도구다. 앞서 지난 5월 앤트로픽은 콘솔에 프롬프트 생성기를 추가했다. 이 기능은 생각의 사슬(CoT) 기법 등 최신 추론 기법에 기반해 정확하고 안정적인 고품질 프롬프트를 생성한다. 새로 추가된 테스트케이스는 프롬프트 생성기 등을 통해 작성한 프롬프트가 올바르게 작동하는지를 검증한다. 마케팅용 이메일 작성, 기술 메뉴얼 작성 등 산업이나 업무의 특성에 따라 달라지는 프롬프트 요구사항을 가상환경에서 안전하고 빠르게 확인하기 위함이다. 테스트케이스는 콘솔에서 자동으로 생성하거나 수동으로 작성할 수 있으며, 다양한 종류의 테스트케이스를 하나로 통합해 테스트묶음(Test Suite)으로 운영할 수도 있다. 개발자 콘솔은 다양한 기능을 추가로 제공한다. 프롬프트 생성과 테스트케이스 묶음을 통한 검증 작업은 여러 차례 반복이 가능하며 유저는 이 결과물들을 서로 비교해 최고의 결과물을 채택할 수 있다. 또 앤트로픽은 평점을 통해 결과물 개선 작업을 지원한다. 인간 전문가가 결과의 질적 향상 여부에 대해 평가를 내리게 함으로써 모델 성능의 접근성과 속도를 향상했다. 앤트로픽은 "프롬프트 및 테스트케이스 생성·출력 기능은 모든 콘솔 사용자에게 제공된다"며 이 기능의 적극적인 사용을 독려했다.

2024.07.11 16:35조이환

한국SW기술인협회, '제 1회 AI프롬프트 빅뱅 컨퍼런스' 25일 개최

한국소프트웨어기술인협회는 한국지식재산서비스협회와 공동으로 제1회 'AI 프롬프트 빅뱅' 컨퍼런스를 오는 25일 오후 2시 상암동 DMC첨단산업센터 7층 세미나실에서 개최한다고 밝혔다. 이 행사는 비즈니스 생산성 향상이 아닌 실제 업무 현장에서 AI를 어떻게 효율적으로 활용할 수 있는지에 중점을 둔 실무 실습 중심으로 내용을 구성했다. AI의 윤리적 문제나 제도적 문제보다는 실질적인 AI 활용법을 다룬다. 특히, AI가 실제 상황에 맞는 해답을 제공하고, 업계 종사자들이 AI를 활용해 업무 효율을 높이는 프롬프트 설계에 중점을 둔다. 여러 기업의 실무자, 책임자, 전문가들이 AI를 활용한 생산성 향상 사례를 시현 및 실습하면서 공유하는 방향으로 진행한다. 참가자들에게 실제 업무에 적용할 수 있는 노하우와 경험을 제공한다. 특히 AI 프롬프트 디자이너(AIPD) 1급 시험 방향을 가늠하는 나침판 역할도 한다고 주최 측은 밝혔다. 또 참석자들을 대상으로 사전에 프롬프트 경진대회를 열고 당일 결과 발표 및 시상식도 가질 예정이다.

2024.06.18 20:17방은주

패스트캠퍼스, 프롬프트 엔지니어링 컨설팅 'PROMPT XYZ' 출시

성인 교육 스타트업 데이원컴퍼니(대표 이강민)의 사내독립기업(CIC) 패스트캠퍼스는 기업의 디지털 전환과 업무 생산성을 돕는 맞춤형 프롬프트 엔지니어링 컨설팅 서비스 'PROMPT XYZ'를 출시했다고 30일 밝혔다. 최근 ChatGPT를 비롯한 생성형 AI 기술이 비즈니스 전반에 큰 영향을 미치면서 기업들의 관심이 그 어느 때보다 뜨겁다. 하지만 실제 업무에 활용하기 위해서는 전문 인력 확보, 고비용 투자 등의 어려움이 있는 상황이다. 이에 패스트캠퍼스 기업 교육은 각 기업의 업무 환경에 맞는 맞춤형 설계로 실무에 바로 적용 가능한 프롬프트 컨설팅 서비스 PROMPT XYZ를 선보였다. 이 서비스는 프롬프트 설계 전문가와 AI 알고리즘 전문가, IT 개발 전문가들이 원팀으로 기업 맞춤 프롬프트와 AI 모델을 개발하고 기술 통합까지 지원한다. 프롬프트 엔지니어링 컨설팅은 ▲기획 ▲마케팅 ▲개발 ▲연구 ▲디자인 ▲PPT ▲Excel ▲데이터 분석 ▲금융 분석 등 다양한 분야로 설계가 가능하다. 기업은 맞춤 설계된 프롬프트를 통해 기획 단계에서 시장 조사와 아이디어 도출을 위한 기획서를 작성하고, 연구 자료를 분석하거나, 광고 최적화에 도움을 줄 수 있는 크리에이티브를 제작하는 등 업무 효율성을 높일 수 있다. 패스트캠퍼스 기업 교육은 체계적인 컨설팅을 위해 기업의 요구사항을 정확히 파악하고 이에 맞는 전략을 수립한 후 ChatGPT, DALL-E, Stable Diffusion 등 최신 AI 모델에 대한 맞춤형 프롬프트를 설계하고 테스트한다. 이후 기업 시스템과 통합 및 최적화를 거쳐 최종 프롬프트를 전달한다. 또 기업의 프롬프트 활용도를 높이기 위해 세부 가이드와 프롬프트 사용법 영상 콘텐츠를 제공하고, 기업이 AI 기술을 현업에 효과적으로 도입하고 활용할 수 있도록 체계적인 지원을 아끼지 않는다. 실제로 PROMPT XYZ 서비스를 도입한 디지털 마케팅 에이전시는 마케팅 부서에 광고 카피 생성 및 콘텐츠 아이디어를 제안해주는 AI 봇을 구축했다. 이를 통해 마케팅 업무의 효율성과 창의성이 크게 향상되었다. 인재 채용 및 평가 기능, 서비스 관련 고객 문의 응대 자동화 등을 도입한 기업도 있다. 패스트캠퍼스 기업 교육 관계자는 "많은 기업들이 AI 기술 도입을 통해 업무 효율성과 생산성을 높이고자 하지만, 범용 AI 모델을 그대로 활용하기에는 한계가 있다"며 "기업의 현업 맥락에 맞는 프롬프트 설계와 AI 모델 최적화가 필수적인 상황"이라고 말했다. 이어 “PROMPT XYZ 서비스를 통해 더 많은 기업들이 AI 기술을 잘 활용하고 디지털 전환과 업무 생산성을 높여 비즈니스 경쟁력을 키워 나가길 바란다”고 말했다.

2024.05.30 17:07백봉삼

  Prev 1 Next  

지금 뜨는 기사

이시각 헤드라인

2나노에 묶인 삼성 '엑시노스' 로드맵…최적화가 성패 가른다

서로 닮아가는 채용 플랫폼…데이팅·사주로 차별화 꾀하기도

작고 강하게…한국형 '로봇 손' 주도권 놓고 각축전

"따로 또 같이"...글로벌 서비스 ‘라인’은 현지화+기술통합 어떻게 하나

ZDNet Power Center

Connect with us

ZDNET Korea is operated by Money Today Group under license from Ziff Davis. Global family site >>    CNET.com | ZDNet.com
  • 회사소개
  • 광고문의
  • DB마케팅문의
  • 제휴문의
  • 개인정보취급방침
  • 이용약관
  • 청소년 보호정책
  • 회사명 : (주)메가뉴스
  • 제호 : 지디넷코리아
  • 등록번호 : 서울아00665
  • 등록연월일 : 2008년 9월 23일
  • 사업자 등록번호 : 220-8-44355
  • 주호 : 서울시 마포구 양화로111 지은빌딩 3층
  • 대표전화 : (02)330-0100
  • 발행인 : 김경묵
  • 편집인 : 김태진
  • 개인정보관리 책임자·청소년보호책입자 : 김익현
  • COPYRIGHT © ZDNETKOREA ALL RIGHTS RESERVED.