[reinvent 2024] 생성형 AI 및 서버리스로 회의 요약 솔루션 구축
Summary
이 세션에서는 생성형 AI로 회의 요약을 작성하기 위한 서버리스 애플리케이션이 실제로 어떻게 개발되고 구성되는지 확인하실 수 있습니다. AWS Step Functions을 통해 Amazon Transcribe 및 Amazon Bedrock을 오케스트레이션 하여 회의 대본을 작성하는 데이터 흐름을 만든 후, Amazon EventBridge의 이벤트 기반 기술을 사용하여 해당 Step Functions를 트리거 하는 애플리케이션 구성 방법을 확인하실 수 있습니다.
리인벤트 2024 테크 블로그의 더 많은 글이 보고 싶다면?
Overview
들어가며
최근 소프트웨어 개발에서는 서버리스 아키텍처와 이벤트 구동형 설계가 점점 더 중요해지고 있습니다. 이번 세션에서는 AWS의 서비스를 활용하여 S3 객체 생성 이벤트로 시작해 Step Functions를 통해 워크플로를 구축하고, AI 모델 호출과 결과까지 관리하는 사례를 다뤘습니다. 이 설계는 확장성, 개별성, 코드 유지보수 용이성 등 유연함을 제공하도록 설계되었습니다.
세션 개요
본 세션에서는 생성형 AI로 회의 요약을 작성하기 위한 서버리스 애플리케이션의 구성 방안을 확인할 수 있었습니다. Amazon Transcribe를 사용하여 Speech를 텍스트로 작성하고 Amazon Bedrock을 통해 요약하여 AWS Step Functions로 처리하는 구성으로 소개되었습니다.
Amazon EventBridge로 이벤트 기반 기술을 활용하여 애플리케이션을 간소화하고 확장하는 방법으로 자동화된 회의내역 작성 및 요약기능을 구현하였습니다. 이를 통해 전반적인 회의 내용에 대한 파악을 하는 서버리스 생성형 AI 솔루션을 개발할 수 있으며 이러한 솔루션 개발을 위한 실무에 밀접한 기술을 습득하기 위한 세션이었습니다.
AWS Step Functions
AWS Step Functions는 분산 애플리케이션, 데이터 파이프라인 등을 시각적으로 설계 및 실행할 수 있는 완전관리형 Serverless Workflow 서비스입니다. 이를 통해 이벤트 트리거 기반 workflow를 설계하고 작업간 의존성, 분기 등 다양하고 복잡한 프로세스를 효율적으로 관리할 수 있습니다.
AWS Step Functions를 통하여 220가지가 넘는 AWS의 다양한 서비스와 14,000여개의 API를 직접 활용 및 연결하여 애플리케이션을 구성할 수 있습니다.
주요 구성요소 및 데이터 흐름
AWS Step Functions를 통해 오케스트레이션 되는 Workflow의 각 구성요소 및 각각의 기능을 확인하고 해당 workflow에서 데이터의 흐름이 어떻게 되는지 알아보겠습니다.
A. 구성요소
1) Amazon S3
특정 폴더에 파일이 업로드 되는 등 객체 생성 이벤트 기반 트리거 작동
2) Amazon EventBridge
S3의 객체 생성 이벤트를 감지하여 Step Functions를 호출하는 중간다리 역할. Step Functions와 JSON 형태로 데이터를 주고 받으며 프로세스 수행
3) AWS Step Functions
EventBridge를 통해 전달된 이벤트 메시지를 기반으로 전체 작업 수행 및 전반적인 상태관리 수행
4) AWS Lambda
사용할 데이터의 크기가 Step Functions 로는 수행이 불가능한 사이즈(256KB 이상)라면 Lambda 활용 필요
5) AWS Bedrock
LLM 및 Titan Embedding v2 호출
B. 데이터 흐름
1) 새로운 회의 비디오 파일이 S3의 특정 경로에 업로드 되면 해당 객체생성 이벤트가 EventBridge를 트리거 하여 Amazon Transcribe가 구성되어있는Step Functions 실행
2) Transcript 결과를 S3에 적재하면 또 다시 EventBridge가 객체생성 이벤트로 인해 트리거
3) Script 객체가 생성된 경우의 분기처리를 통해 해당 Script를 Amazon Bedrock LLM을 통해 요약 진행
4) Meeting Summarization 완료
결론
최근 생성형 AI 분야는 굉장히 빠르게 변화하고 발전하고 있습니다. 다양한 기술이 개발되고, 새로운 환경이 나오며 비즈니스 요구사항 역시 매일 다변화되고 있습니다. 이에 적절한 대응을 하기 위해 생성형 AI 애플리케이션 개발 시 서버리스 아키텍처를 활용하면 이러한 변화에 발맞춰 유연하게 대응할 수 있습니다.
또한 Step Functions를 활용한다면 직접 AWS의 여러 서비스를 연결 및 호출하여 활용할 수 있기 때문에 코드 작성량을 줄일 수 있으며 이벤트 기반 접근방식을 통해 보다 쉽게 애플리케이션 개발 및 유지, 활용이 가능합니다.
앞서 소개된 EventBridge, Lambda, Bedrock 등 다양한 서비스를 Step Functions를 통해 엮어 이벤트 트리거 기반 서버리스 환경의 자동화 프로세스를 응용하여 애플리케이션 개발에 활용한다면 구조 및 리소스 활용 측면에서 굉장한 이점을 얻을 수 있을 것으로 예상됩니다.
