[AWS SUMMIT 2025] 생성형 AI를 위한 데이터 실무자 가이드

들어가며

생성형 AI를 위한 데이터 실무자 가이드

🎙️오대현-AWS 테크니컬 어카운트 매니저

🎙️조윤진-AWS 테크니컬 어카운트 매니저

🗂️ 세션 토픽: 생성형AI 및 머신러닝응용

AWS에서 생성형 AI로 데이터를 똑똑하게 쓰는 방법을 알려주었습니다. 요즘 핫한 생성형 AI를 AWS에서는 어떤 서비스를 제공하며 또 이를 통해 우리 비즈니스와 연결하여 진짜 스마트하게 활용 하는지를 보험업무 예시를 들어 설명해 주었습니다 , Amazon Bedrock , RAG, 벡터DB, LLM 등이 키워드였습니다.

생성형 AI 기반 보험 오케스트레이션 예시

실제 데모에서는 자동차 보험 예시가 소개되었습니다. Amazon Bedrock Agent가 사용자의 요청을 이해하고, 차량 정보 조회, 신용 조회, 보험금 청구 이력 확인 등 컨텍스트 기반 액션과, 신규 보험 인수, 기존 보험 갱신과 같은 작업 기반 액션을 자동으로 처리하는 방식이 시연되었습니다.

이는 복잡한 업무를 자동화하고, 사용자 맞춤형 서비스를 AI가 주도적으로 제공할 수 있음을 보여주는 예시였습니다.

Amazon Bedrock Agents와 오케스트레이션

Bedrock Agents는 사용자의 입력을 이해하고, 그에 따라 적절한 단계를 분리하고 실행하는 오케스트레이션 시스템입니다. 예를 들어 보험업계에서의 적용 사례에서는, 사용자가 보험 관련 요청을 하면 Bedrock Agent가 이를 적절한 단계로 분해하고, 각 단계를 지식 기반 검색 또는 API 호출로 처리한 뒤, 그 결과를 종합해 사용자에게 응답합니다.
이 과정에서 LLM은 다음에 어떤 단계를 수행해야 할지 판단하는 핵심 역할을 합니다.

RAG를 위한 적절한 데이터 아키텍처 선택

생성형 AI를 실무에 효과적으로 적용하기 위해서는, 단순한 모델 호출을 넘어서 RAG(Retrieval-Augmented Generation) 구조의 도입이 핵심입니다.
이 구조는 AI가 질문에 답하기 전에 관련 데이터를 검색해 맥락을 제공함으로써, 더욱 정확하고 신뢰성 있는 결과를 생성할 수 있게 해줍니다.AWS는 이러한 RAG 구조를 실현하기 위한 모든 요소들을 고루 갖추고 있습니다.
문서를 저장하고 정제할 수 있는 데이터 저장소(S3, Glue),
관련 정보를 빠르게 찾아주는 검색 시스템(OpenSearch, Kendra),
그리고 다양한 AI 모델을 손쉽게 호출할 수 있는 Amazon Bedrock까지
완전한 생태계를 제공합니다.

마무리하며

모든 데이터는 결국 분석을 위한 자산이며 이를 활용하여 기업 비즈니스에 도움이 되는 의사 결정과 서비스가 가능하다고 생각 합니다. AWS에는 다음과 같은 큰 맥락의 기술 파이프를 제공합니다.

– 서버리스 + 통합 파이프라인으로 빠르고 유연한 분석 인프라 가능
– 데이터 거버넌스와 보안은 LakeFormation과 DataZone으로 통제
– Athena + Redshift + Glue는 AWS의 대표적인 분석 서비스 조합

글 │ 메가존클라우드, Specialty Service Unit(SSU),Data Modernization Unit, Data Architect Unit, 강하늘 매니저