[AWS SUMMIT 2025] 클라우드를 위해 구축되고 AI에 최적화된: MongoDB Atlas on AWS
들어가며
클라우드를 위해 구축되고 AI에 최적화된: MongoDB Atlas on AWS
🎙️MongoDB, Solutions Architecture, Kyo-dong Kim
🗂️ 세션 토픽: 기술 트랜드, 생성형 AI, 생성형AI및머신러닝응용, 현대적클라우드인프라, 데이터베이스
MongoDB는 이제 단순한 NoSQL 데이터베이스를 넘어, 클라우드 네이티브 환경과 AI 워크로드 모두를 수용할 수 있는 데이터 플랫폼으로 진화하고 있다. 이번 세션에서는 MongoDB Atlas가 AWS 환경 위에서 어떻게 AI 애플리케이션 아키텍처를 단순화할 수 있는지, 특히 RAG 및 벡터 검색 기반의 생성형 AI 서비스 구현에 어떤 이점을 제공하는지를 중심으로 발표가 진행되었다.
MongoDB Atlas가 AI에 최적화된 이유
연사는 먼저 MongoDB가 다양한 형태의 비정형 데이터를 다루기에 적합한 JSON 기반 도큐먼트 모델을 제공한다는 점을 강조했다. 자연어 대화, 영상, 음성, 이미지 등 다양한 AI 데이터를 구조 변경 없이 그대로 저장하고 검색할 수 있다는 점에서 MongoDB는 AI 애플리케이션에 매우 유리한 구조를 갖추고 있다는 설명이다.
또한, MongoDB Atlas는 단순한 데이터베이스를 넘어 벡터 검색, 실시간 스트리밍, 타임 시리즈, 분석 처리 기능을 포함한 통합 데이터 플랫폼으로 진화했으며, 이러한 기능을 하나의 API와 모델로 통합적으로 제공함으로써 개발자가 더욱 쉽게 AI 관련 워크로드를 처리할 수 있다고 덧붙였다.
LLM + Embedding + Atlas = 완전한 RAG 구현
세션 중반에서는 생성형 AI 시스템에서 신뢰할 수 있는 응답을 제공하기 위한 핵심 전략으로서 RAG(Retrieval-Augmented Generation)가 소개되었다. 특히 연사는 Embedding 모델이 마치 ‘전문 사서’처럼 동작해 문서 간 의미적 유사성을 판별해준다고 표현하며, 이 Embedding 데이터를 MongoDB Atlas의 JSON 내에 함께 저장할 수 있다는 구조적 이점을 강조했다.
이 구조는 Hallucination 문제 완화에 매우 유효하며, 예시로 영화 줄거리를 벡터화한 뒤 “우주에서 싸우는 외계 캐릭터”라는 쿼리를 통해 의미론적으로 유사한 영화를 찾아내는 데 성공한 사례가 공유되었다.
이 구조는 Hallucination 문제 완화에 매우 유효하며, 예시로 영화 줄거리를 벡터화한 뒤 “우주에서 싸우는 외계 캐릭터”라는 쿼리를 통해 의미론적으로 유사한 영화를 찾아내는 데 성공한 사례가 공유되었다.
이와 유사하게, Airbnb 숙소 데이터를 대상으로 “수영장이 딸린 집”이라는 쿼리를 시맨틱하게 검색하는 예도 함께 소개되었다.
MongoDB Atlas + Amazon Bedrock 통합
Embedding과 RAG 워크플로우를 보다 손쉽게 구현하기 위해 Amazon Bedrock과의 통합 구조도 설명되었다. 연사는 Bedrock의 인베딩 모델을 사용해 데이터를 벡터화하고, 해당 벡터를 JSON 응답으로 받아 MongoDB 컬렉션에 바로 반영할 수 있다는 점을 언급했다.
또한 Bedrock API 호출 방식과 함께 Embedding이 어떻게 이루어지는지 코드와 함께 시각적으로 설명되었으며, 이 구조 덕분에 벡터 인덱스와 원본 데이터 간의 동기화를 별도 로직 없이 처리할 수 있다고 강조되었다.
또한 Bedrock API 호출 방식과 함께 Embedding이 어떻게 이루어지는지 코드와 함께 시각적으로 설명되었으며, 이 구조 덕분에 벡터 인덱스와 원본 데이터 간의 동기화를 별도 로직 없이 처리할 수 있다고 강조되었다.
RAG 기반 AI 아키텍처: 완전한 흐름
세션에서는 MongoDB와 Bedrock을 활용한 RAG 구성 흐름이 단계별로 설명되었다. 연사는 데이터를 청킹하고 벡터화하여 저장하는 데이터 수집 파이프라인부터, 사용자 질의가 들어왔을 때 벡터화 후 의미론적 검색을 수행하고, 최종적으로 LLM이 이를 기반으로 응답을 생성하는 전체 흐름을 시각적으로 정리해주었다.
이러한 구조는 단순한 문답 수준을 넘어, 요약·분류 등 다양한 형태로 확장 가능하다는 점이 강조되었다.
또한 이 구조 내에서 MongoDB Atlas가 Prompt Augmentation 기반 정확도 향상의 핵심 역할을 담당한다는 설명도 덧붙여졌다.
Hybrid Search와 AI 연동
연사는 MongoDB Atlas의 하이브리드 서치 기능도 중요한 포인트로 소개했다. Text Search와 Vector Search를 함께 사용하며 각 검색 결과에 대해 score 기반 우선순위를 부여함으로써 보다 정밀한 검색이 가능하다는 것이다.
RAG 시나리오의 실질적 예시로, MongoDB Best Practice 문서에서 특정 질의에 대해 벡터 유사도 검색을 수행하고, 이를 바탕으로 Claude 모델이 응답을 생성하는 사례가 소개되었다.
다양한 산업 사례와 확장성
실제 고객 사례로는 글로벌 게임사가 소개되었다. 이 회사는 게임 업데이트 공지사항을 다국어로 작성해야 하는 과정을 자동화하는 데 MongoDB Atlas와 RAG 구조를 적용했다. 기존에 6~10명의 인력이 수일간 작업하던 과정을, 단 1명 수준에서 실시간으로 처리할 수 있었다는 점이 강조되었다.
이 사례는 MongoDB가 단순 데이터 저장소가 아니라, 문서 자동화와 운영 효율화까지 아우르는 실용적 AI 플랫폼이 될 수 있음을 보여준다. 또한 Voyage AI 기반 리랭킹 기능이 검색 결과 정밀도 향상에 어떻게 기여하는지도 함께 설명되었다.
결론
전체 발표를 통해 강조된 메시지는 단순한 데이터 저장소를 넘어, MongoDB Atlas는 생성형 AI 시스템에서 의미 기반 검색, 신뢰할 수 있는 응답 생성, 그리고 아키텍처 단순화까지 모두를 아우를 수 있는 통합 플랫폼이라는 점이다.
복잡한 AI 스택을 운영 중이거나 RAG 기반 서비스를 준비 중인 팀이라면, MongoDB Atlas on AWS는 확실한 대안이 될 수 있음을 시사하는 발표였다.
복잡한 AI 스택을 운영 중이거나 RAG 기반 서비스를 준비 중인 팀이라면, MongoDB Atlas on AWS는 확실한 대안이 될 수 있음을 시사하는 발표였다.
글 │메가존클라우드, Specialty Service Unit(SSU), AI Communication Service Team, 이민호 매니저
AWS SUMMIT 2025
전문가의 시선으로 정리된 테크 블로그를 통해
2025년 IT 트렌드의 현재와 미래를 살펴보세요.
테크 블로그 목차 (바로 가기→)
게시물 주소가 복사되었습니다.
![[AWS SUMMIT 2025] LLM Observability: LLM의 잘못된 응답(Hallucination)을 잡아내는 법](https://img.iting.co.kr/wp-content/uploads/2025/05/iting-event-bg-aws-summit-2025.png)
