[reinvent 2024] Amazon Bedrock의 보안 및 개인 정보 보호 이해, Remitly 포함

들어가며

산업 조사에 따르면, 보안은 여전히 다양한 규모의 조직에서 주요한 관심사로 꼽히고 있습니다. 커뮤니케이션, 개인정보 보호, 데이터 보호와 같은 항목들이 매년 설문조사에서 주요 관심사로 나타납니다.

생성형AI 보안의 세 가지 단계

1. 모델 자체 보안
   • 모델 제공자는 데이터를 처리하고, 정제하고, 필터링하여 학습된 모델이 안전하도록 관리해야 합니다.
     
     
2. 모델 접근 보안
   • 누가 데이터에 접근할 수 있는지 인증하고 필요한 권한을 부여 받았는지 관리해야 합니다.
     
     
3. 생성형AI 애플리케이션의 전체적인 보안
   • 모델에 데이터를 학습시키지 전에 데이터가 얼마나 안전하게 보호되었는지를 평가하고 확인하는 것이며, 또한 모델이 결과를 출력한 이후에는 그 출력이 조직의 AI 정책을 준수하는지 확인해야 합니다.

Amazon Bedrock의 보안

Amazon Bedrock의 보안은 매우 중요한 사항입니다. 우선 Bedrock은 사용자의 추론 및 훈련 데이터를 저장하지 않습니다. 데이터가 저장되지 않으므로 유출될 가능성도 없습니다. Bedrock이 저장하는 데이터는 과금 관련 지표 등 여러 메타데이터를 포함한 운영지표 뿐입니다.

입력되는 데이터 뿐만 아니라 출력되는 내용에 있어서도 보안기능이 적용됩니다. Bedrock에서 제공하는 대표적인 출력 관련 보안 기능으로는 Guardrail이 있습니다.

• Amazon Bedrock Guardrail
  Amazon Bedrock은 Guardrail 이라는 기능을 제공합니다. 가드레일은 대부분의 유해한 컨텐츠를 걸러낼 수 있습니다. 유해성 컨텐츠 차단 외에 75% 이상의 환각현상을 필터링합니다.

Bedrock Guardrails는 자동 추론 검사 기능도 지원합니다. 이 기능은 LLM에서 생성된 응답의 정확성을 수학적으로 검증하고 Hallucination으로 인한 오류를 방지하는 데 도움이 됩니다.

생성형AI애플리케이션 보안 고려사항

생성형AI 애플리케이션에서 고려해야 할 보안은 다음과 같습니다.

1. 민감한 사용자 데이터나 PII를 보호하기 위해 어떤 조치가 시행되어야 하는지
2. 모든 FM의 상호작용이 완전히 분리되어 제대로 기록되고 있는지
3. 전체 애플리케이션에서 일관된 데이터 및 네트워크 보안 제어를 유지하려면 어떻게 해야 하는지
4. 유해한 주제 혹은 공격으로부터 사용자를 보호하려면 어떻게 해야 하는지
5. 사용자별로 올바른 상호작용이 이뤄지고 있는지 인증하고 승인하는 방법

프롬프트 엔지니어링을 통한 보안

프롬프트는 모델과 상호작용 하기 위한 인터페이스이며 프롬프트 엔지니어링은 LLM의 추론 결과 향상을 위해 매우 중요합니다. 프롬프트 엔지니어링을 통해 최적화된 프롬프트를 사용한다면 동일한 LLM으로도 두 배 이상의 성능 차이(정확도, 보안성 등)가 있을 수 있습니다. 99% 로는 부족한 보안 관련 내용에서 매우 중요한 부분을 담당하고 있습니다.

결론