[reinvent 2025] The Future of Agentic AI is Here

들어가며

키노트에서 발표된 신기술, 신 기능 중 현재 하고 있는 업무 및 고객사(산업군)와의 관련도가 높은 항목을 찾아 어떤 신기술, 신기능으로 발표 되었는지 내용에 대해 정리하고, 또한 해당 내용이 앞으로 어떻게 도움이 될지 그리고 어떤식으로 활용 가능한지에 대해 기재하였습니다.

에이전트 AI의 정의와 이점

■ 에이전트란 무엇인가?

• 에이전트는 디지털 환경을 감지하고 상호 작용하며, 높은 수준의 목표를 실행 가능한 단계로 변환하고, 시간이 지남에 따라 지속적으로 학습하고 효율성을 향상시키는 시스템입니다.

■ 에이전트와 챗봇의 차이

• 챗봇이 무엇을 조사해야 할지 조언하는 반면, 에이전트는 문제를 조사하고 진단하며 해결책을 시작합니다.

■ 에이전트의 구성 요소

• 모델 : 추론, 계획 및 실행을 담당하는 에이전트의 두뇌입니다.
• 페르소나 : 에이전트의 정체성을 정의하고, 의사 결정 과정을 안내합니다.
• 도구 : 실제 작업을 가능하게 하는 백엔드 API, 데이터베이스, 코드 인터프리터, 웹 브라우저 등입니다.

■ AWS의 에이전트 기술:

• Strand : 모델 주도 접근 방식을 수용하여 에이전트가 자율적으로 계획하고 실시간으로 예상치 못한 상황에 적응할 수 있도록 합니다. Strand는 불과 몇 달 만에 500만 번 이상 다운로드되었습니다.
• Amazon Bedrock Agent : 에이전트를 안전하게 구축, 배포 및 운영하기 위한 가장 진보된 플랫폼입니다. 모든 에이전트 프레임워크와 모든 모델에서 작동합니다.

AgentCore Memory

에이전트 코어 메모리는 에이전트가 프로덕션 환경에서 신뢰성 있게 작동하도록 보장하는 고급 메모리 시스템을 의미합니다.

■ 필요성 :
에이전트가 단순한 PoC를 넘어 실제 서비스로 확장하려면, 대화의 맥락을 관리하고 사용자 선호도를 기억하는 정교한 시스템이 필수적입니다.

■ 핵심 기능 :
AWS는 에이전트가 과거 경험으로부터 학습할 수 있도록 에피소드 및 장기 기억 기능 (Episodic and Long-Term Memory)을 출시했습니다.

■ 작동 목표:
이 기능을 통해 에이전트는 사용자와의 과거 상호 작용(에피소드)을 기억하고 학습하여, 사용자 행동 패턴을 인식하고 시간이 지남에 따라 자동으로 적응함으로써 효율성을 높일 수 있습니다.

■ 결론:
에이전트가 더 많이 경험할수록 더 똑똑해지도록 지원하며, 복잡한 비즈니스 문제를 해결할 수 있는 기반을 제공합니다.

AI 에이전트 적용 사례-Blue Origin(Willian Ban)

■ AI와 우주 탐사:
AI 에이전트가 학습하고, 적응하며, 결정을 내리는 능력을 통해 우주 접근 비용을 줄이는 임무를 가속화하고 있습니다.

■ Blue GVT:
핵심 AWS 프리미티브(Bedrock, Strand 등)를 기반으로 구축된 내부 제너레이티브 AI 플랫폼입니다. 이 플랫폼을 통해 2,700개 이상의 에이전트가 생성되었고, 직원의 70%가 사용하고 있습니다.

■ TREX 프로젝트:
달의 극한 환경에서 생존하기 위한 열 에너지 고급 레골리스 추출 시스템 개발에 AI 에이전트 팀을 활용했습니다. 에이전트 사용으로 전통적인 접근 방식보다 75% 이상 빠르게 제품을 제공하고, 무게를 40% 개선했습니다.

■ 핵심 학습 내용:
AI 채택을 기술 팀뿐만 아니라 모두의 일로 민주화하고, AWS가 에이전트 프리미티브 및 확장을 처리하도록 하여 고객 문제 해결에 집중해야 합니다.

Reinforcement Fine-Tuning in Amazon Bedrock

Amazon Bedrock에서 제공하는 강화 학습 미세 조정(RFT)은 모델 맞춤화의 접근성을 높이고 효율적인 에이전트 구축을 지원하는 기능입니다.

■ 배경 및 목표 :
전통적인 강화 학습(RL)은 PhD급 전문 지식과 대규모 컴퓨팅 비용이 필요하여 대부분의 기업에게 부담스러웠습니다. Bedrock RFT는 이러한 복잡성을 제거하고 고급 훈련 기술에 대한 접근을 제공하는 것이 목표입니다.

■ 작동 방식 :
사용자는 기본 모델을 선택하고 Bedrock에 레이블을 지정한 후, 보상 함수를 선택하면 됩니다. Bedrock이 내부적으로 강화 학습의 모든 복잡성을 자동으로 처리합니다.

■ 주요 이점 :

• 접근성 : 깊은 머신러닝 전문 지식이나 대규모 레이블링된 데이터 없이도 모델을 개선할 수 있습니다.
• 성능 : 기본 모델에 비해 평균 66%의 정확도 향상을 제공하는 등 강력한 결과를 보입니다.
• 모델 지원 : 현재 Amazon Nova로 시작할 수 있으며, 곧 오픈 모델에 대한 지원을 시작할 예정입니다.

Model Customization in Amazon SageMaker AI

Amazon SageMaker의 모델 맞춤화 기능은 완전한 제어와 독점적인 전문성을 확보하고자 하는 고객을 위한 솔루션입니다.

■ 목표:
축적된 지식 기반을 활용하여 경쟁 우위를 보장하는 자신만의 AI 모델을 구축하고 배포할 수 있도록 지원합니다.

■ 핵심 문제 해결:
모델 맞춤화 과정의 복잡성(데이터 정리, 인프라 설정, 하이퍼파라미터 조정 등)을 줄여, 전체 여정을 몇 달에서 며칠로 단축합니다.

■ 새로운 기능 (가이드 경험) :

• 사용자가 자연어로 사용 사례를 설명하면, AI 에이전트가 전체 맞춤화 시스템을 안내합니다.
• 올바른 미세 조정 레시피를 추천하고, 필요 시 합성 데이터 세트를 생성하는 것을 돕습니다.

■ 지원 모델 : Amazon Law, FEN Lama, GC와 같은 파운데이션 모델을 맞춤화하고 Bedrock 또는 SageMaker에 직접 배포할 수 있습니다.

결론적으로, SageMaker는 유연성을 제공하면서도 새로운 ‘가이드 경험’을 통해 복잡한 작업을 제거함으로써, 개발자가 모델 맞춤화의 어려운 부분을 AI 에이전트에게 맡기고 결과에 집중할 수 있도록 지원합니다.

Checkpointless Training on Amazon SageMaker HyperPod

Amazon SageMaker HyperPod의 체크포인트 없는 훈련(Checkpointless Training) 기능은 대규모 AI 모델 훈련의 탄력성을 획기적으로 개선합니다.

■ 문제 해결:
전통적인 체크포인트 기반 복구는 인프라 오류 시 전체 클러스터를 멈추고 수동으로 재시작해야 하는 비효율성을 초래했습니다.

■ 핵심 기능:
이 새로운 기능은 인프라 오류 발생 시 수동 개입 없이 몇 분 만에 자동으로 복구됩니다.

■ 원리:
모델 상태를 네트워크 전체에 지속적으로 보존하고 결함 있는 하드웨어를 제외한 후 건강한 운영자로부터 모델 스케일을 크래킹합니다.

■ 이점:
부분적인 훈련을 되돌릴 필요가 없어 복구 오버헤드를 상당히 줄이며 빠른 복구와 모델 훈련 비용의 상당한 절감을 가져옵니다.

Amazon Nova Act

Amazon Q는 초기에는 Amazon Nova로 언급되었으며, UI 워크플로우 자동화를 위한 서비스입니다. 이 서비스는 높은 신뢰성과 구현 용이성을 바탕으로 대규모의 자동화된 프로덕션 UI 워크플로우를 처리하도록 설계되었습니다.

1. 서비스 구성 및 통합

통합 구성 요소: Q는 긴밀하게 통합된 구성 요소들로 이루어져 최고의 결과를 제공합니다.

모델: 워크플로우 오케스트레이션을 위해 최적화된 경량 모델로 시작하여, 일반적인 기업 작업을 목표로 사후 훈련됩니다.

오케스트레이터: 브라우저 스크린샷을 모델에 전송하고, 모델은 클릭 및 탭과 같은 작업을 수행하여 사람이 하는 것과 동일한 방식으로 브라우저를 사용할 수 있도록 합니다.

SDK: 간단한 자연어 프롬프트를 사용하여 브라우저 자동화 에이전트를 구축하고, 복잡한 워크플로우를 하위 작업으로 쉽게 분해할 수 있는 진입점입니다.

2. 혁신적인 훈련 방식

Q의 모델은 기존의 모방 학습(imitation learning)의 단점(행동의 인과관계를 학습하지 못함)을 극복하기 위해 강화 학습(Reinforcement Learning)에 초점을 맞추어 훈련되었습니다.

엔드 투 엔드 훈련: 모델의 두뇌를 몸통과 다리와 함께 훈련하는 것과 같이, 에이전트가 상호 작용하는 모든 것을 고려하여 훈련 및 추론에 일관된 전체 스택을 사용합니다.

AI 짐 (Gym): 에이전트가 프로덕션 환경을 방해하지 않고 행동을 취하고 그 결과로부터 학습할 수 있도록 실제 기업 환경을 복제한 시뮬레이션 환경입니다.

성능: Q 에이전트는 RIA Bench 및 Green Spot과 같은 주요 벤치마크에서 해당 분야의 최고의 모델보다 더 잘 또는 더 나은 성능을 보이는 것으로 나타났습니다.

AWS 프론티어 에이전트

AWS의 새로운 프론티어 에이전트들은 높은 수준의 자율성과 지속성을 가지고 사람 팀과 함께 작업하도록 설계되었습니다.

이들은 Batholomew’s(Anthropic)의 세 가지 강력한 새로운 프론티어 에이전트로 언급되며ssss 목적에 맞게 구축되어 협력합니다.

1, CodeWhisperer Economic (개발자 협력)

역할: 개발자와 함께 작업하는 에이전트입니다.

주요 기능: 블로그 해결, 트리 아웃 마크 개선, 그리고 보우 커버리지(bow coverage) 향상을 돕습니다.

2, AWS Security (보안 협력)

역할: 애플리케이션이 처음부터 안전하도록 돕는 에이전트입니다.

주요 기능:보안 전문 지식 제공: 팀에 보안 전문 지식을 가져와 설계 작업을 검토합니다.

취약점 스캔: 코드의 취약점을 스캔합니다.

맞춤형 지침: 회사의 고유한 보안 정책을 기반으로 맞춤형 지침을 제공합니다.

통합: RUNS 스토어 보고서 및 CI/CD 파이프라인과 통합됩니다.

3, DevOps 관련 에이전트 (CodeWhisperer와 Security의 협력)
문서에서는 ‘DevOps’라는 용어로 통합된 에이전트가 직접 언급되지는 않았지만, 소프트웨어 개발 및 배포 파이프라인에서 핵심적인 역할을 하는 두 가지 에이전트가 소개되었습니다:

CodeWhisperer Economic: 개발 프로세스에 직접 관여하여 코드 품질과 커버리지를 개선합니다.

AWS Security: 보안 전문가의 역할을 수행하며, 설계 검토부터 코드 취약점 스캔, 그리고 CI/CD 파이프라인 통합을 통해 개발 및 배포 과정 전반에 걸쳐 보안을 보장합니다.

이 프론티어 에이전트들은 더 높은 수준의 자율성과 지속성을 가지고 우리와 함께 작업할 수 있습니다.

Amazon Connect : 인간과 에이전트의 협력

Amazon Bedrock에서 제공하는 강화 학습 미세 조정(RFT)은 모델 맞춤화의 접근성을 높이고 효율적인 에이전트 구축을 지원하는 기능입니다.

Amazon Connect는 클라우드 기반 옴니채널 고객 서비스 애플리케이션으로, AI 에이전트 동료와 인간 상담원의 협력을 통해 고객 경험을 혁신하는 사례로 설명됩니다.

■ 개념 및 목적: 

고객과의 상호 작용을 위한 AWS의 고객 서비스 플랫폼입니다. AI 에이전트가 인간 상담원의 역량을 증강하여 효율성과 고객 만족도를 높이는 것을 목표로 합니다.

■ 주요 협력 기능:

• 지능적 라우팅: 어떤 고객 상호 작용을 어떤 사람에게 라우팅할지 지능적으로 결정합니다.
• 실시간 지원: 인간 상담원에게 내부 지식 기반을 활용하는 실시간 지원을 제공하여, 고객 문의 처리를 돕습니다.
• 새로운 기능 (Nervous Orient 통합):

1. 음성 통화에서 자연스러운 대화를 가능하게 합니다.
2. AI 에이전트가 통화 중에 실시간으로 추천(recommendations) 및 **다음 단계(next best action)**를 자동으로 제안하여 상담원을 지원합니다.

■ 사례 예시: 신용카드 사기 조사와 같은 복잡한 경우, AI 에이전트가 거래 패턴을 분석하고 조사관(인간)에게 통찰력을 공유하여 신속하게 문제를 해결하도록 돕습니다.

요약하면, Amazon Connect는 AI 에이전트가 인간 상담원과 긴밀하게 협력하며 고객 서비스 환경을 자동화하고 지능화하는 AWS의 핵심적인 ‘협력 에이전트’ 제품입니다.

결론

AWS는 AI 에이전트가 우리 시대의 가장 혁신적인 변화 중 하나임을 강조하며, 빌더들이 한계를 넘어 창조할 수 있는 자유를 제공하는 데 집중하고 있습니다.

AI 에이전트와 AWS의 도구를 통해, 아이디어에서 영향(impact)까지 전례 없는 속도로 나아갈 수 있으며 , 이는 한때 불가능해 보였던 문제들을 해결할 수 있도록 합니다. AWS는 빌더 커뮤니티와 함께 이 놀라운 미래를 만들어가기를 기대합니다.