[AWS SUMMIT 2025] KB국민은행과 카카오페이증권이 소개하는AWS기반의 AI혁신사례

들어가며

KB국민은행과 카카오페이증권이 소개하는AWS기반의 AI혁신사례

🎙️박기덕 테크니컬 어카운트 매니저, AWS 

🎙️조운현 PM, 금융AI 1센터, KB국민은행 

🎙️김성민 DevOps 팀장, 카카오페이증권

🗂️ 세션 토픽: 금융 및 핀테크

이번 블로그에서는 금융 산업에서의 생성형 AI 활용을 주제로 한 AWS Summit 세션을 듣고, 실제 기업들이 어떻게 Amazon Bedrock 기반 AI 서비스를 구현하고 있는지를 소개드리고자 합니다.

이번 세션에서는 KB국민은행의 AI 상담 시스템 구축 사례, 카카오페이증권의 AI를 활용한 생산성 향상, 그리고 AWS 기반의 보안성과 유연한 AI 인프라 설계인데요.

실제 적용 사례를 통해 금융권 내 생성형 AI 도입 시 고려해야 할 기술, 정책, 절차적 요소들을 폭넓게 배울 수 있었습니다.

[KB 국민은행] 생성형 AI로 강화하는 금융소비자 보호

KB국민은행은 금융소비자 보호법의 6대 판매원칙을 철저히 준수하며, 금융위 및 금감원의 가이드라인에 부합하는 AI 기반 상담 시스템을 구축하였습니다. 

고객이 상품을 정확히 이해하고 가입할 수 있도록, 상담 과정 전반(스크립트 생성, 설명, 녹취, 검증)을 자동화하고, 실시간 검증 기능을 통해 불완전 판매를 사전에 예방하고 있습니다.

🖥️ 주요 기능:

• 고객 맞춤형 설명 스크립트 및 시각 자료 자동 생성
• 음성합성 기술을 통한 상품 설명 및 녹취 저장
• 판매 채널별 자동화된 설명·녹취·검증 시스템
• AI 기반 불완전 판매 리스크 사전 예방

🧑‍💻 기술 인프라 및 운영 구조  : 

KB국민은행은 약 30개 이상의 서비스와 100개 이상의 Pod로 구성된 Amazon EKS 기반 클러스터를 통해, 고가용성과 무중단 배포 환경을 실현하고 있습니다.

도메인 주도 설계(DDD)와 Hexagonal Architecture를 적용해 업무 도메인과 인프라를 분리하고, 각 기능을 독립적인 MSA로 구현하여 유연한 기능확장이나 실험이 가능하도록 설계 하였습니다.

또한,  Prometheus와 Grafana를 활용해 애플리케이션 및 인프라의 성능은 물론, 비즈니스 메트릭까지 통합적으로 모니터링하고 있습니다. 또한, Fluent Bit를 통해 수집된 로그는 Amazon OpenSearch에 저장되어 MSA 기반 서비스 간의 흐름과 이슈를 신속하게 추적할 수 있도록 지원합니다. 아울러, Jennifer APM을 통해 각 애플리케이션의 성능을 상세히 분석하고 확인할 수 있습니다.

위와 같은 KB 국민은행은 AI기반 상담시스템을 구축 함으로써, 구축/ 운영 비용을 15% 절감할 뿐만아니라, 금융 규제 환경에서도 신뢰성과 확장성을 모두 만족하는 AI 상담 시스템을 운영 중입니다.

[카카오페이증권] 춘시리 – Amazon Bedrock 기반, 지식 검색부터 업무 자동화까지

카카오페이증권은 내부 지식 관리와 반복 업무의 비효율성을 해결하기 위해, Amazon Bedrock 기반의 사내 AI 챗봇 시스템 ‘춘시리’를 도입하였습니다.
이 플랫폼은 Confluence Wiki, 정책 문서, 회의록 등 다양한 사내 자료를 벡터 임베딩 하고, Slack 연동을 통해 필요 내용 검색 및 요약된 정보제공 등 다양한 현업 업무를 자동화 하고 있습니다.

🖥️ 주요 기능:

• Slack을 통한 질의 응답, 코드 리뷰 등 협업 자동화
• GitHub PR 리뷰 자동 생성
• Jira 티켓 요약을 통한 주간업무 정리 
• 캘린더 연동을 통한 미팅 예약 추천 기능
• 에러 알림 메시지를 기반으로 대응방안 답변

🧑‍💻 기술 인프라 및 운영 구조  : 

춘시리는 Confluence Wiki 등의 문서를 20분 간격으로 전처리하여 벡터 임베딩한 후, 유사도 기반으로 검색 응답을 제공하는 구조로 운영됩니다.
Amazon Bedrock Titan Text Embedding 모델과, Amazon Bedrock Claude 3.5 sonnet 모델을 역할에 맞게 분리하여 사용하고 있습니다.

Amazon Bedrock Titan Text Embedding 모델은 “춘시리 임베딩 엔진”에서 사용되며, 문서 Embedding을 통해 PostgreSQL 기반 Vector DB에 저장 합니다. 

이후, Amazon Bedrock Claude 3.5 sonnet 모델은 춘시리 RAG Query API를 통해 사용자 질문과 유사도 검색 결과를 조합하여, 자연어 프롬프트 기반 응답생성을 수행합니다. 

이러한 방식을 통해 사용자는 별도 시스템 접근 없이 Slack 연동 봇을 통해 사용자는 별도 시스템 접근 없이도 정보를 확인할 수 있으며, 정규식 기반 민감정보 알림 기능 및 Amazon Bedrock Guardrails를 활용해 개인정보 마스킹 처리와 같은 보안기능을 포함하였습니다.

현재는 춘시리는 다양한 MCP와의 통합을 통해 영역을 확장중에 있으며, AI를 통해 효율적인 플랫폼을 통해 개발 생성성을 향상하고, 향후 금융 서비스 전반에 적용가능한 AI 서비스를 목표로 발전하고 있습니다.

마무리하며

글 │ 메가존클라우드, HALO, Cloud Security Unit, Security Presales, 권채영