이번 칼럼에서는 에이전트 AI(Agentic AI)를 주제로 한 세션을 바탕으로, 생성형 AI를 넘어 실제로 ‘일을 대신 해주는’ AI가 어떻게 비즈니스에 녹아들고 있는지 정리해 보려고 합니다. 많은 기업이 이미 생성형 AI를 시도해 본 상황에서, 이제 관심은 “AI에게 어떤 일을 맡길 수 있을까?”로 빠르게 이동하고 있습니다. 이번 세션에서 특히 눈에 띈 부분은 에이전트 AI로의 진화 단계, 실제 활용 사례, 그리고 이를 도입하기 위해 조직과 파트너가 갖춰야 할 역량 변화였습니다.
생성형 AI를 넘어 ‘행동하는 AI(Agentic AI)’로
이번 세션의 출발점은 “AI가 더 이상 답만 해주는 조수가 아니라, 실제로 일을 처리하는 동료가 되고 있다”는 메시지였습니다. 초기 생성형 AI는 질문에 답변하고 문서를 요약하거나 작성하는 데 강점을 보였지만, 어디까지나 사람이 주도하고 AI가 보조하는 구조에 머물렀습니다. 이후 기업 데이터와 API, 각종 도구에 연결된 형태로 진화하면서, 문서 조회·시스템 조회·간단한 자동화 작업까지 수행하는 단계로 확장되었습니다.
에이전트 AI 단계에서는 여기에 ‘추론(Reasoning)’ 능력과 더불어 외부 시스템, API, 또는 도구(Tool)를 연동하여 실제 환경에 개입하고 작업을 완료하는 ‘도구 사용 능력’ 이 더해져, 코드를 작성하고, 문서를 생성하며, 특정 시스템에서 작업을 실행하는 등 복잡한 업무를 스스로 계획하고 수행할 수 있게 됩니다. 이 세션에서는 특히 개발 영역에서 코딩 에이전트의 활용이 두드러진다고 언급되었고, 나아가 각기 다른 역할을 가진 에이전트들이 협력하는 멀티 에이전트 시스템으로 아키텍처가 확장되고 있다는 점을 강조했습니다.
90%가 도입을 검토하는 에이전트 AI 활용 사례
세션에서 소개된 조사 결과에 따르면, 상당수의 조직이 향후 6~12개월 안에 에이전트 기반 접근을 도입할 계획이라고 답했습니다. 약 90%의 조직이 에이전트 AI 도입을 준비 중이고, 생성형 AI와 에이전트 AI를 비교하며 에이전트가 더 에이전트 AI 단계에서는 여기에 ‘추론(Reasoning)’ 능력과 더불어 외부 시스템, API, 또는 도구(Tool)를 연동하여 실제 환경에 개입하고 작업을 완료하는 ‘도구 사용 능력’ 이 더해져, 코드를 작성하고, 문서를 생성하며, 특정 시스템에서 작업을 실행하는 등 복잡한 업무를 스스로 계획하고 수행할 수 있게 됩니다.높은 전략적 가치와 전문성을 요구한다는 설명이 함께 제시되었습니다. 이는 에이전트 AI가 단순한 호기심이 아니라, 생산성 향상·비용 절감·리드타임 단축 등 눈에 보이는 실질적인 비즈니스 가치를 제공하고 있기 때문입니다. 에이전트 AI 단계에서는 여기에 ‘추론(Reasoning)’ 능력과 더불어 외부 시스템, API, 또는 도구(Tool)를 연동하여 실제 환경에 개입하고 작업을 완료하는 ‘도구 사용 능력’ 이 더해져, 코드를 작성하고, 문서를 생성하며, 특정 시스템에서 작업을 실행하는 등 복잡한 업무를 스스로 계획하고 수행할 수 있게 됩니다. 보안·사기 탐지 영역에서의 사례도 소개되었는데, 파트너 사례 슬라이드에서는 여행·레저, 소프트웨어 개발, 금융 사기 탐지 각각에 대해 어떤 에이전트를 도입했는지와 함께 “예약 완료 40% 증가”, “플랫폼 가용성 99.9%”, “오탐 45% 감소·케이스 해결 속도 60% 향상” 같은 숫자가 명확하게 제시되었습니다. 이런 사례들은 “에이전트 도입 → 운영비 절감 + 속도 향상”이라는 선순환이 충분히 가능하다는 것을 보여주었습니다.
‘코딩’에서 ‘컨텍스트 엔지니어링’으로의 전환
에이전트 AI 시대에는 소프트웨어를 구축하고 판매하는 방식도 완전히 달라져야 한다는 점이 인상 깊었습니다.
인간 vs AI 디자인: 미래의 소프트웨어 사용자가 ‘사람’이 아닌 ‘에이전트’가 될 수 있습니다. 따라서 사람이 클릭하기 좋은 UI가 아니라, 에이전트가 이해하고 상호작용하기 쉬운 인터페이스를 고민해야 합니다.
핵심 역량의 이동: 개발자의 핵심 역량이 단순히 코드를 짜는 것에서, 에이전트가 목표를 달성하는 데 필요한 모든 정보(도구, 데이터, 제약 조건)를 구조적으로 설계하고 제공하는 행위, 즉 ‘컨텍스트 엔지니어링(Context Engineering)’으로 이동하고 있습니다.
구매 방식의 변화: 소프트웨어 과금 모델 역시 단순 사용량(토큰) 기반이 아니라, 에이전트가 수행한 결과(Outcome)와 가치에 기반한 모델로 변화할 것입니다.
또한, 고객들이 에이전트 도입을 위해 파트너에게 의존하는 비중이 90%에 달한다는 점을 들며, 파트너들은 특정 산업(Vertical)에 대한 깊은 전문성을 갖추는 것이 성공의 열쇠라고 강조했습니다.
결론
이번 세션은 AI가 단순히 “똑똑한 도구”에서 “함께 일하는 동료”로 넘어가는 변곡점에 있다는 사실을 다시 한 번 확인시켜 주었습니다. 생성형 AI가 사람의 아이디어를 확장·지원해 주는 단계였다면, 에이전트 AI는 단순한 아이디어 구상을 넘어, 실제 업무 프로세스 내에서 이를 실행하고 완수하는 단계로 진화하고 있습니다.
앞으로 1년 안에, 우리 주변에는 코드를 대신 써주고, 일정을 조율해 주며, 데이터를 분석하고 리포트를 만들어 주는 에이전트들이 훨씬 자연스럽게 녹아들 가능성이 큽니다. 중요한 질문은 “어떤 AI 도구를 쓸까?”에서 “어떤 일을 에이전트에게 맡기고, 그 일을 잘 하도록 어떤 컨텍스트를 설계할까?”로 바뀌고 있습니다. 이 관점을 기반으로, 각자 속한 조직의 프로세스를 한 번쯤 에이전트 관점에서 다시 바라보면, 생각보다 많은 영역에서 새로운 자동화와 혁신의 기회를 발견할 수 있을 것 같습니다.
글 │메가존클라우드, Specialty Service Unit, Modernization SA 1팀, 박혜진 SA