[AWS SUMMIT 2025] 생성형AI의 핵심 트렌드와비즈니스 혁신 : AWS 생성형 AI의 기술 실험에서 비즈니스 가치 창출까지

들어가며

생성형AI의 핵심 트렌드와비즈니스 혁신 : AWS 생성형 AI의 기술 실험에서 비즈니스 가치 창출까지

🎙️슬라빅 디미트로비치 AI/ML 솔루션즈 아키텍트 디렉터, AWS

🎙️김선수 AI/ML 사업개발 스페셜리스트, AWS

🗂️ 세션 토픽: 기술 트랜드, 생성형 AI, 생성형AI 및 머신러닝응용

들어가며

생성형 AI 기술은 현재 기업들에게 큰 기대와 함께 복잡한 도전 과제를 안겨주고 있습니다. 많은 기업들이 초기 실험과 POC를 진행하고 있지만, 이를 실제 비즈니스 가치로 전환하는 과정에서 어려움을 겪고 있습니다. AWS는 이러한 간극을 메우기 위해 인프라부터 애플리케이션까지 포괄하는 종합적인 생성형 AI 솔루션과 함께 체계적인 접근 방법론을 제시하고 있습니다.

특히 이번 서울 서밋 2025년의 첫머리를 장식하는 세션으로 이 ‘생성형 AI의 핵심 트렌드와 비즈니스 혁신’ 이라는것을 배치한것이, 현재 우리 기업들 당면한 과제가 무엇인가를 나타낸다고 할 수 있습니다.

개인적으로 작년 한해 많은 기업들과 생성형 AI 관련 PoC를 진행하면서, Prod 환경으로 발전한 것과 그렇지 않은 많은 프로젝트를 겪으며 혹시 우리가 놓치고 있는것은 무엇인가? 라는 생각이 들곤 했었고, 이번 세션을 통해서 그 실마리를 찾을수 있기를 원했습니다.

이러한 생성형 AI 도입 과정에서 가장 먼저 이해해야 할 것은 AWS가 제공하는 기술적 기반입니다. 클라우드 기반 AI 구현의 선두주자로서 AWS는 어떤 기술 스택을 통해 기업들의 AI 여정을 지원하고 있는지 살펴보겠습니다.

생성형 AI 발전 로드맵: 2023-2025 3개년 전략

AWS는 기업들이 생성형 AI를 도입하고 가치를 창출하는 과정을 3개년에 걸친 체계적인 흐름으로 제시하고 있습니다.

2023: PoC 과제의 해

2023년은 기술의 본질을 이해하고 안전성을 검증하며 모델 선택 기준을 수립하는 시기였습니다. 이 단계에서는 RAG(검색 증강 생성) 기술이 중심이 되었으며, Vector DB의 고도화가 진행되었습니다. 많은 기업들이 생성형 AI의 가능성을 탐색하는 초기 실험과 개념 증명(PoC)에 집중했습니다.

그러나 이 단계에서 많은 기업들이 명확한 성공 기준 부재, 불충분한 기술, 유스케이스-기술 불일치, 잘못 배치된 초점 등으로 인해 PoC 실패를 경험했습니다. AWS는 이러한 실패를 방지하기 위해 명확한 성공 기준 정의, 변수 최소화, 팀 역량에 맞는 범위 설정, 목표 집중과 같은 성공 전략을 제시하고 있습니다.

 2024: 실제 적용의 해

2024년은 비즈니스 우선순위에 따른 구체적 적용과 비용 최적화 전략 개발에 초점을 맞추는 시기였습니다. 기술적으로는 멀티모달 기술이 확장되고 다양한 데이터 형식을 처리하는 능력이 향상되었습니다. 이 단계에서 기업들은 PoC에서 프로덕션으로의 전환을 시도하게 되었으며, 이 과정에서 확장성, 안정성, 보안성, 비용 최적화를 중요한 고려사항으로 두었습니다.

AWS는 이 단계에서 기업들이 직면하는 주요 장애물로 복잡성(Complexity), 규모(Scale), 시간(Time) 제약을 지적하며, 이를 극복하기 위한 전략적 접근을 제시했습니다. 특히 품질, 지연시간, 비용 간의 균형을 찾는 것이 핵심이며, 이 세 요소는 상호 연관되어 있어 최적의 균형점을 찾아야 한다고 강조했습니다.

 2025: 비즈니스 가치의 해

2025년은 AI 에이전트의 전략적 활용과 조직 전반의 변화 관리 및 전사적 AI 역량 강화에 초점을 맞추는 시기가 될 것으로 예상 했습니다. 기술적으로는 Agentic AI가 부상하고 추론 능력이 강화된 에이전트가 발전할 것으로 예상 했습니다.

AWS는 AI 에이전트가 규모 확장(단일 → 수백 개 → 어디서나) 및 자율성 수준(내부 보조 → 고객 대면 → 인간 협업 → 완전 자율)의 두 축으로 발전할 것으로 전망 했습니다. 이 단계에서는 장기적 가치 창출 체계를 구축하고, 생성형 AI에 대한 이상적 기대와 실제 비즈니스 가치 창출 사이의 간극을 인식하고 관리하는 것을 포인트로 두었습니다.

AWS 생성형 AI 기술 스택: 인프라부터 애플리케이션까지

AWS의 생성형 AI 솔루션은 세 가지 주요 계층으로 구성되어 있습니다. 이 계층화된 접근법은 기업이 자신의 요구사항과 기술적 성숙도에 맞는 진입점을 선택할 수 있게 해줍니다.

인프라 계층

AWS는 AI 워크로드에 최적화된 다양한 컴퓨팅 옵션을 제공합니다. 최근 출시된 P5e, Trainium2, I8g와 같은 고성능 인스턴스는 대규모 AI 모델 훈련과 추론을 위한 강력한 기반을 제공합니다. 특히 Project Rainier와 같은 초대형 AI 훈련 인프라는 수십만 개의 AWS Trainium2 칩을 단일 클러스터로 통합하여 수백 엑사플롭스의 연산 능력을 제공하며, 이는 Anthropic의 기존 최대 훈련 클러스터보다 5배 강력한 성능을 자랑합니다.

데이터 관리 측면에서도 MemoryDB의 다중 리전 기능과 S3 메타데이터 관리 향상을 통해 고가용성 및 효율적인 데이터 라이프사이클 관리를 지원합니다. 이러한 인프라 혁신은 Amazon SageMaker AI를 통해 관리형 ML 인프라 서비스로 제공되어, 기업들이 복잡한 인프라 관리 부담 없이 AI 모델을 개발하고 배포할 수 있게 합니다.

모델 및 도구 계층

Amazon Bedrock은 AWS 생성형 AI 전략의 핵심입니다. 이 서비스는 다양한 파운데이션 모델에 안전하게 접근할 수 있는 통합 인터페이스를 제공합니다. 그리고 AWS의 자체 모델인 Amazon Nova 시리즈 (Micro, Lite, Pro, Premier)는 비용 효율성부터 고급 추론 능력까지 다양한 요구사항을 충족시키도록 설계되었습니다.

특히 주목할 만한 것은 RAG(Retrieval-Augmented Generation) 시스템에 대한 AWS의 강조입니다. RAG는 기업 데이터를 LLM과 통합하여 응답의 정확성을 높이고 환각 현상을 줄이는 핵심 아키텍처로, Amazon Bedrock Data Automation을 통해 기업 데이터를 보안적으로 안전하게 AI와 연결하는 자동화 프로세스를 제공합니다. GraphRAG 연동 및 GenAI Index in Kendra를 통한 데이터 연결 최적화도 주목할 만한 기능입니다.

애플리케이션 계층

최종 사용자 애플리케이션 측면에서 AWS는 Amazon Q Business와 Amazon Q Developer를 제공합니다. Amazon Q Business는 비즈니스 인사이트 및 자동화를 지원하고, Amazon Q Developer는 코드리뷰 및 단위 테스트 기능을 포함한 소프트웨어 개발 생명주기 전반을 지원합니다.

또한 Amazon Bedrock Agents는 지능형 워크플로우 자동화를 위한 종합적인 솔루션으로, Action Groups(외부 시스템 연동), Knowledge Bases(기업 데이터 연결), Code Interpreter(코드 실행 및 데이터 분석), 세션 상태 및 장기 메모리 기능을 제공합니다. 특히 멀티 에이전트 협업 기능은 복잡한 문제를 여러 전문 에이전트가 함께 해결할 수 있게 하여 AI 시스템의 역량을 크게 확장합니다.

생성형 AI 프로덕션 구현: 장애물과 해결 전략

생성형 AI를 실험실 환경에서 실제 비즈니스 환경으로 전환하는 과정에는 여러가지 장애물이 존재합니다. AWS는 이러한 장애물을 체계적으로 분석하고 해결 전략을 제시하고 있습니다.

기술적 장애물

PoC 단계에서 선택한 기술 스택이 대규모 운영 환경에서 부하를 감당하지 못하는 확장성 문제, 실험 단계의 통제된 데이터셋과 달리 실제 환경에서 발생하는 불완전하고 편향된 데이터로 인한 모델 성능 저하, 모델 모니터링, 재훈련, 버전 관리, 인프라 유지보수 등 복잡한 운영 문제, 그리고 기존 시스템과의 통합 과정에서 발생하는 아키텍처 설계 문제와 데이터 파이프라인 구축의 어려움이 주요 기술적 장애물입니다.

이를 해결하기 위해 AWS는 계층적 AI Ops 프레임워크를 제시했습니다. 이 프레임워크는 거버넌스(안전한 온보딩, 데이터/모델 거버넌스, 표준화된 프로세스), MLOps(실험 협업, CI/CD 파이프라인, 자동화된 평가, 모델 관리), FMOps(프롬프트 관리, 배포 가능한 아티팩트를 위한 모델 관리), GenAIOps(RAG/에이전트 지원, 지속적 빌드/테스트/배포, 시스템 관찰 가능성)의 네 가지 계층으로 구성됩니다.

조직적 장애물

생성형 AI 도입의 주요 장애물 중 하나는 시행착오를 위한 시간 부족과 경연진의 인내심 부족입니다. 많은 기업들이 AI 성숙도 곡선을 자연스럽게 따라갈 여유가 없는 편입니다. 또한 사용자 요구와의 불일치, 인간의 관성, 일자리 보안 우려, 조직 구조 문제도 주요 장애물로 작용합니다.

AWS는 이러한 조직적 장애물을 극복하기 위해 불필요한 작업에 AI를 집중하고, 내부 챔피언을 양성하며, 경영진의 지원을 확보하고, 인적 자원에 투자하는 지속 가능한 도입 전략을 제시하고 있습니다. 특히 AI 도입은 단순한 기술 구현이 아닌 조직 전반의 변화 관리 프로세스로 접근해야 하며, 최종 사용자 요구사항에서 시작하는 가치 중심 설계와 비즈니스 프로세스 및 인센티브 체계의 근본적 재설계가 필요합니다.

가치 실현 전략

생성형 AI의 실질적 가치를 실현하기 위해서는 명확한 가치 가설 수립, POC에서 POV(가치 증명)로의 전환, 비용 효율적 아키텍처 설계, 지속적 개선 수용이 필요합니다. AWS는 Working Backwards 방법론을 통해 고객 중심의 혁신 프레임워크를 제공하며, 이는 Listen, Define, Invent, Refine, Test and iterate의 5단계 프로세스로 구성됩니다.

또한 AWS Well-Architected Framework를 적용하면 빠른 구축 및 배포, 위험 및 비용 감소, 정보에 기반한 의사결정, AWS 모범 사례 학습 기회 등의 이점을 얻을 수 있습니다. 이러한 체계적인 접근법은 기업이 생성형 AI의 가치를 극대화하는 데 도움이 됩니다.

마지막으로, 지금까지 살펴본 전략들이 실제로 어떻게 적용되는지 사례를 통해 알아보겠습니다.

실제 비즈니스 적용 사례와 교훈

AWS의 생성형 AI 솔루션은 다양한 산업 분야에서 실질적인 비즈니스 가치를 창출하고 있습니다. 이러한 사례들은 기술적 가능성을 넘어 실제 비즈니스 문제 해결에 초점을 맞춘 접근법의 중요성을 보여줍니다.

글로벌 기업 사례

아마존 자체도 생성형 AI의 주요 사용자입니다. Rufus는 자연어 기반 지능형 쇼핑 어시스턴트로 맞춤형 제품 추천 및 대화형 쇼핑 경험을 제공하며, 고객 리뷰 AI는 방대한 리뷰 데이터를 분석하고 요약하여 효율적인 구매 결정을 지원합니다. Amazon Pharmacy는 의료 서비스에 생성형 AI를 접목하여 처방전 처리 속도를 향상시키고 고객 지원을 개선 했습니다.

스타벅스는 내부 직원용 젬봇과 법무 서류 작성 AI를 도입했으며, BMW는 “Root Cause Analysis” 시스템을 구축했습니다. 이러한 사례들은 생성형 AI가 특정 비즈니스 문제를 해결하는 데 초점을 맞출 때 가장 큰 가치를 창출한다는 것을 보여줍니다.

 국내 기업 사례

국내에서도 다양한 기업들이 AWS의 생성형 AI 솔루션을 활용하고 있습니다. GS리테일은 이미지 분류 검색 시스템을 구축했으며, 카카오스타일은 AI 코디 추천 서비스를, 오늘의집은 비서 ‘오집사’를 개발했습니다. 토스는 생성형 AI와 TEXT-TO-SQL 기술을 활용하고 있으며, 대한항공은 AI 콘텐츠 제작 및 검색 시스템을, LG전자는 Amazon Q를 활용한 차세대 BI를 구축했습니다.

이러한 사례들은 생성형 AI가 새로운 고객 경험 창출, 업무 생산성 향상, 데이터에서 인사이트 추출, 창의적 콘텐츠 생성 등 다양하고 실질적인 비즈니스 가치를 창출할 수 있는 강력한 도구임을 증명합니다.

마무리하며

AWS의 생성형 AI 전략은 “It’s the question that drives us… where is the value?”라는 핵심 질문에서 출발합니다. 화려한 기술 시연을 넘어 실질적인 비즈니스 가치를 창출하는 것이 궁극적인 목표입니다. 이를 위해 AWS는 인프라부터 애플리케이션까지 완전한 생성형 AI 스택을 제공하며, 기업들이 POC에서 프로덕션으로, 그리고 조직 전반의 도입을 거쳐 최종적인 가치 실현에 이르는 체계적인 여정을 지원 하고 있습니다.

생성형 AI는 이제 단순한 기술적 호기심을 넘어 기업의 핵심 경쟁력으로 자리잡고 있습니다. 그러나 이 기술의 진정한 가치는 기술 자체가 아니라 비즈니스 문제 해결과 새로운 기회 창출에 있습니다. AWS의 종합적인 솔루션과 체계적인 접근법은 기업들이 생성형 AI의 잠재력을 최대한 활용하여 실질적인 비즈니스 가치를 창출할 수 있도록 지원합니다.

성공적인 생성형 AI 도입을 위해서는 기술적 구현을 넘어 조직 문화, 인력 개발, 변화 관리까지 포괄하는 종합적인 접근이 필요합니다. AWS는 이러한 전체론적 관점에서 기업들의 AI 여정을 지원하며, 기술과 비즈니스의 균형 잡힌 통합을 통해 지속 가능한 혁신을 가능하게 합니다.

마지막으로, 발표자의 인상 깊었던 코멘트를 인용하여 글을 맺고자 합니다.

‘저희는 이미 많은 시행 착오를 겪었습니다. 그러니 여러분들이 AI를 비즈니스에 도입 할 때 겪을 시행착오를 되풀이 하지 않도록 돕겠습니다. 언제든지 연락을 주세요!’

글 │ 메가존클라우드, Cloud Technology Center(CTC), DSA Team11, 송상병 SA