[메클 특파원이 간다🏃♀️] AWS Summit 2024 키노트에서 확인한 생성형 AI 전략
날씨가 화창했던 5월 16일, 서울 코엑스에서는 올해로 10주년을 맞은 AWS Summit Seoul의 화려한 막이 올랐습니다. 지난 10년 간 무려 10만여 명의 IT인들과 다양한 인사이트를 나눠 온 AWS summit은 한국에서 열리는 가장 큰 규모의 IT 컨퍼런스입니다. 국내 최초 AWS Premier Tier Services Partner인 저희 메가존클라우드도 2015년 AWS Summit Seoul의 첫 시작부터 지금까지 쭉 함께해오고 있답니다.✌️
올해 AWS Summit의 화두는 단연 ‘생성형 AI’였습니다. 컨퍼런스의 큰 주제 역시 ‘생성형 AI 기반 기술 혁신’이었는데요, 전체 100여 개 세션 중 생성형 AI 관련 세션이 절반 이상이었을 뿐만 아니라 엑스포장 곳곳에서도 생성형 AI 기술을 접목한 솔루션들을 만나볼 수 있었습니다. AWS는 작년 11월 re:Invent에서 Amazon Bedrock과 Amazon Q를 선보이며 본격적으로 생성형 AI 경쟁에 뛰어들었죠. 이번 Summit에서는 특히 ‘유연성’과 ‘접근성’을 기반으로 한 AWS의 생성형 AI 전략을 확인할 수 있었습니다.
지금부터 바로 저, 메클 특파원이 생생한 현장의 이야기들을 들려드리려고 하는데요, 뭐니뭐니 해도 컨퍼런스의 꽃은 키노트! AWS Summit Seoul 2024의 첫째 날 키노트에서는 과연 어떤 아젠다들이 주요하게 다뤄졌는지 함께 짚어 보겠습니다.
올해 AWS Summit의 화두는 단연 ‘생성형 AI’였습니다. 컨퍼런스의 큰 주제 역시 ‘생성형 AI 기반 기술 혁신’이었는데요, 전체 100여 개 세션 중 생성형 AI 관련 세션이 절반 이상이었을 뿐만 아니라 엑스포장 곳곳에서도 생성형 AI 기술을 접목한 솔루션들을 만나볼 수 있었습니다. AWS는 작년 11월 re:Invent에서 Amazon Bedrock과 Amazon Q를 선보이며 본격적으로 생성형 AI 경쟁에 뛰어들었죠. 이번 Summit에서는 특히 ‘유연성’과 ‘접근성’을 기반으로 한 AWS의 생성형 AI 전략을 확인할 수 있었습니다.
지금부터 바로 저, 메클 특파원이 생생한 현장의 이야기들을 들려드리려고 하는데요, 뭐니뭐니 해도 컨퍼런스의 꽃은 키노트! AWS Summit Seoul 2024의 첫째 날 키노트에서는 과연 어떤 아젠다들이 주요하게 다뤄졌는지 함께 짚어 보겠습니다.
생성형 AI와 지속가능한 경영🌏
바야흐로 생성형 AI 시대, 여러분들의 비즈니스 화두는 무엇인가요? 첫째 날 키노트의 시작을 알린 함기호 AWS 코리아 대표는 생성형 AI의 등장으로 기술 혁신이 더욱 가속화되고 있는 지금, ‘지속가능성’과 ‘비용 절감’이 중요한 화두로 떠오르고 있다고 강조했습니다. 국내에서도 탄소 배출을 줄이는 저전력 프로세서와 기업의 비용 최적화를 위한 ML 워크로드 최적화 프로세서에 대한 니즈가 크게 늘고 있다고 하면서요.
AWS가 re:Invent 2023에서 저전력 프로세서인 ‘그래비톤4’를 출시했던 것 기억하시나요? 한국은 아시아태평양 지역에서 두 번째로 많은 그래비톤 인스턴스를 사용하고 있다고 합니다. 또한, 최근 생성형 AI 분야에서 GPU에 ‘트레이니엄’과 ‘인퍼런시아’ 칩을 도입하는 국내 고객이 크게 증가하고 있는데, 이를 통해 학습 비용과 추론 비용을 전 세대 대비 최대 50%까지 줄일 수 있다고 하네요.
AWS가 re:Invent 2023에서 저전력 프로세서인 ‘그래비톤4’를 출시했던 것 기억하시나요? 한국은 아시아태평양 지역에서 두 번째로 많은 그래비톤 인스턴스를 사용하고 있다고 합니다. 또한, 최근 생성형 AI 분야에서 GPU에 ‘트레이니엄’과 ‘인퍼런시아’ 칩을 도입하는 국내 고객이 크게 증가하고 있는데, 이를 통해 학습 비용과 추론 비용을 전 세대 대비 최대 50%까지 줄일 수 있다고 하네요.
SKT도, 배민도 AI한다🤖
올해 AWS Summit의 신청자 수만 무려 2만 9천여 명에 달했는데요, 이 많은 참관객들이 가장 궁금해 하는 주제는 아무래도 실제 고객 사례가 아닐까 싶습니다. 생성형 AI가 하나의 거대한 흐름이 된 지금, 도대체 다른 기업들은 이 상황에 어떻게 대응하고 있는지, 우리 기업이 적용해 볼 만한 점은 무엇인지 확인하고 싶기 때문일 것입니다. 그래서 이번 키노트에서도 DX를 넘어 이제 AX 여정을 함께 하고 있는 고객들의 사례가 소개되었습니다. 바로 SKT와 우아한형제들입니다.
정석근 SKT 부사장은 글로벌 통신사 특화 AI인 ‘Telco LLM’을 소개하며, Amazon Bedrock 위에서 파인 튜닝과 RAG 등의 기술을 개발해 이를 고도화해 나가고 있다고 설명했습니다. SKT가 Telco LLM 개발을 위해 AWS와 협력한 이유로는 다국어 지원을 통한 글로벌 확장의 용이함과 FM(파운데이션 모델) 선택에 있어서의 유연함 등을 꼽았습니다.
우아한형제들의 송재하 CTO는 2016년 시작한 AWS 기반의 클라우드 마이그레이션으로 팬데믹 시기 급격하게 증가한 트래픽에도 안정적으로 대응할 수 있었다고 합니다. 2023년부터는 AI 고도화를 위해 메뉴 분류, 메뉴 추천, 리뷰 필터링 등 AI/ML 기술을 접목해오고 있다고 밝혔는데요, 아마 배달의 민족 어플을 자주 쓰시는 분들은 이런 기능이 추가된 걸 보셨을 것 같아요. 더 나아가 생성형 AI에 힘입어 ‘로봇 기술’이 눈부시게 발전하고 있다며 Amazon Bedrock을 기반으로 개발 중인 자율주행 로봇 dilly가 올해 연말 베타 테스트 예정이라고 언급해 기대감을 모으기도 했습니다.
메가존클라우드는 우아한형제들의 클라우드 마이그레이션 여정을 함께한 파트너이기 때문에 이번 발표의 감회가 남달랐답니다. 4년간의 마이그레이션 여정이 궁금하신 분들은 이 영상을 확인해 보세요!
‘전략적 협업’으로 생성형 AI 스택 전투력 높이기🤝
“고도로 발달한 기술은 마법과 구별할 수 없다”
Francessca Vasquez AWS 생성형 AI 혁신센터 부사장은 SF 작가 아서 클라크의 유명한 말을 인용하며 AWS의 생성형 AI 스택을 소개했습니다. AWS가 제공하는 생성형 AI 기술이 그만큼 고도화되었다는 뜻이겠죠.
Francessca Vasquez AWS 생성형 AI 혁신센터 부사장은 SF 작가 아서 클라크의 유명한 말을 인용하며 AWS의 생성형 AI 스택을 소개했습니다. AWS가 제공하는 생성형 AI 기술이 그만큼 고도화되었다는 뜻이겠죠.
보시는 것처럼 생성형 AI 스택은 FM의 훈련과 추론을 위한 인프라, FM 및 LLM(대형언어모델) 기반 개발 도구, 그리고 이를 활용한 애플리케이션까지 총 세 가지 계층으로 이루어져 있습니다. 이번 키노트에서는 특히 고성능 인프라 구축을 위한 NVIDIA GPU 운영 최적화, Project Ceiba를 통한 AI 슈퍼컴퓨터 개발 등 NVIDIA와의 전략적 협업이 강조되었습니다.
또한, 파운데이션 모델의 경쟁이 날로 가속화되는 가운데 많은 사람들이 도대체 어떤 모델을 써야 하는지 묻지만, ‘단 하나의 모델이 모든 것을 지배할 수는 없다’며 Claude, Llama, Mistral, Stable Diffusion 등 다양한 모델에 대한 폭넓은 선택권을 제공하는 Amazon Bedrock을 그 해답으로 제시했습니다.
또한, 파운데이션 모델의 경쟁이 날로 가속화되는 가운데 많은 사람들이 도대체 어떤 모델을 써야 하는지 묻지만, ‘단 하나의 모델이 모든 것을 지배할 수는 없다’며 Claude, Llama, Mistral, Stable Diffusion 등 다양한 모델에 대한 폭넓은 선택권을 제공하는 Amazon Bedrock을 그 해답으로 제시했습니다.
주목할 만한 점은 이번 키노트에서 Neerav Kingsland 엔트로픽 글로벌 제휴총괄이 연사로 등장하여 Claud 3를 기반으로 한 앤트로픽과 AWS의 협업을 발표했다는 점인데요, 엔트로픽은 AWS의 트레이니엄과 인퍼런시아 칩을 통해 모델의 성능을 향상시키고 있으며, 앞으로 출시될 Claude 5는 지금보다 100배 이상 더 개선된 성능을 갖게될 것이라고 말했습니다.
이어서 생성형 AI 스택의 최상단에 위치한 Amazon Q에 대한 소개가 이어졌습니다. 특히 바로 얼마 전인 5월 초에 정식 버전으로 출시된 ‘Amazon Q Developer’가 주로 다뤄졌는데요, Amazon Q Developer는 AWS 환경 및 통합 개발 환경(IDE)에서 사용할 수 있으며 자동화된 코드 작성, 디버깅 등의 기능을 통해 개발 생산성과 코드 품질을 크게 향상할 수 있습니다. 영국의 최대 통신사인 BT 그룹이 Amazon Q를 도입해 4개월간 무려 10만 라인 이상의 코드를 작성한 사례가 함께 제시되었습니다.
마무리하며💡
자, 지금까지 AWS Summit Seoul 2024의 첫 번째 키노트를 정리해 보았습니다. 크게 유연성과 접근성을 핵심 경쟁력으로 삼기 위한 국내외 주요 AI 개발사와의 ‘전략적 협업’의 강화와 AI 인프라부터 애플리케이션까지 모두 커버하는 AWS의 생성형 AI 스택, 그리고 환경, 비용, 책임있는 AI 등 지속 가능한 경영에 대한 이야기가 다뤄졌네요. 여러분들은 오늘 포스팅을 어떻게 보셨나요? AWS Summit 키노트를 들은 후 내용을 한 번 정리하고 싶으셨거나 직접 참여하지 못해 아쉬웠던 분들께 많은 도움이 되었기를 바라며 두 번째 후기글도 기대해 주세요!
글 ｜ 메가존클라우드 마케팅그룹 최은영 매니저
게시물 주소가 복사되었습니다.
![[AI 프로젝트 성공 전략 2부] : AI 시대 기업이 선택해야 하는 것은 모델이 아니라 AI 운영 체계다](https://img.iting.co.kr/wp-content/uploads/2026/08/image4.png)
