메가존클라우드, 금융권 생성형 AI 혁신 가능성 검증
MG새마을금고·JB우리캐피탈, GenAI360으로 업무 혁신 시동
금융권에서 생성형 인공지능(AI) 기술 활용이 본격화하고 있다. 지난해 8월 금융위원회의 ‘금융분야 망 분리 개선 로드맵’ 발표 이후 금융 데이터의 클라우드 이전이 가능해지며 AI 도입으로 효율성과 경쟁력을 제고하려는 금융사들의 시도가 잇따르는 중이다.
망 분리 규제는 금융사의 내부망과 외부망을 물리적으로 분리해 보안을 강화하도록 규제하는 제도다. 금융 시스템 보호에 기여했지만, 클라우드·AI 같은 혁신 기술의 신속한 도입에 걸림돌로 작용해 왔다. 금융당국도 금융사들이 클라우드 기반 인터넷 환경에서 생성형 AI를 원활히 활용하는 등 디지털 전환(DX)에 나설 수 있도록 망 분리 완화를 위한 단계적 개선안을 도입했다.
이에 따라 금융권은 내부 업무에 생성형 AI를 도입하기 위해 활발히 움직이고 있다. 업무 자동화·데이터 관리·고객 응대 등 다양한 분야에서 DX가 이뤄지는 가운데 디지털 혁신 전문기업이 이를 실현하는 데 핵심적인 역할을 하고 있다.
다만 금융사들이 AI를 도입하기 위해서는 보안 규제와 실무 적용 가능성을 신중히 검토해야 한다. 금융 정보기술(IT) 분야에서 전문성과 기술력을 쌓아온 메가존클라우드는 금융사와 협력해 금융규제 샌드박스를 신청하고, PoC(개념 실증)를 진행하는 방식으로 AI 적용을 통한 효율성 극대화 방안 모색을 지원하고 있다.
특히 메가존클라우드는 자체 개발한 생성형AI 서비스 ‘GenAI360’을 적용해 금융사들이 엄격한 보안 규제를 준수하면서도 업무 효율성과 생산성을 극대화할 수 있도록 한다. GenAI360은 기업과 산업의 특성에 맞게 생성형 AI 시스템 구축을 돕는 메가존클라우드의 올인원 AI 서비스로, 컨설팅부터 개발·운영까지 통합적으로 지원한다. 지난해 10월에는 프로그래밍 지식 없이도 생성형 AI의 신뢰성을 높이고 최적화할 수 있게 해주는 ‘GenAI360 플랫폼’을 추가한 ‘GenAI360 v2’를 출시했다.
일반적으로 생성형 AI 구축에는 긴 개발 기간과 높은 비용이 소요된다. 그러나 메가존클라우드는 방대한 데이터를 사전에 완벽히 구축하는 방식이 아니라, 핵심 데이터를 우선 활용해 RAG(검색증강생성) 파이프라인을 먼저 구축하고 점진적으로 확장하는 접근법을 적용한다.
아울러 고객과 컨설팅을 통해 AI 도입 방향을 설정하고, 데이터 준비 상태를 점검한 뒤 필요한 업무 영역에 맞는 생성형 AI 구축 프로젝트를 진행한다. 빠르면 5일 내에 테스트 환경을 구축하고 4주 이내에 프로젝트를 완료할 수 있다.
메가존클라우드는 GenAI360을 활용해 다양한 산업에서 AI 프로젝트를 수행했다. 지난해 GenAI360을 적용해 해피캠퍼스 지식 상품 생성 서비스, 하나투어 AI 챗봇 시스템, hy(옛 한국야쿠르트) 자사 몰 검색 시스템 개선, 한솔제지 영업일지 시스템 고도화 사업 등을 수행하며 다수의 생성형 AI 프로젝트를 진행했다. 이 중 절반 이상이 PoC를 넘어 실제 비즈니스 가치 창출로 이어졌다는 설명이다.
MG새마을금고중앙회, 직원용 AI 챗봇 도입으로 업무 효율성 강화 검토
MG새마을금고중앙회는 최근 메가존클라우드와 협력해 생성형 AI 기반 직원용 업무지식 질의응답 AI 챗봇 과제를 수행했다. 그동안 MG새마을금고 직원들은 모르는 업무 지식을 습득하기 위해 지역별로 운영되는 중앙회 담당 직원에게 유선전화를 통해서 확인하거나 내부 업무 포탈 등을 이용해 업무지식을 찾아야 했다.
메가존클라우드는 MG새마을금고의 AI 챗봇 개발에 ‘GenAI360’ 플랫폼을 활용했다. 메가존클라우드는 MG새마을금고의 기존 데이터 활용 및 관리 프로세스를 분석해 직원들이 데이터를 검색하고 활용하는 과정에서 문제점을 파악한 뒤 이를 개선하기 위해 생성형 AI 기술을 활용한 직원용 AI 챗봇 개발을 진행했다.
이 과정에서 벡터DB(Vector Database)를 활용해 금융 관련 문서, 법률 자료, 상품 안내서 등을 최적화해 AI 학습이 가능하도록 변환했다. 벡터DB는 텍스트·이미지 등 방대한 양의 데이터를 AI가 이해하기 쉬운 벡터 형태로 변환해 저장하고, 의미적으로 유사한 정보를 빠르게 검색할 수 있도록 지원하는 데이터베이스다. 예를 들어 사람이 ‘대출’이라는 단어를 보면 자연스럽게 ‘상환’이나 ‘채무’, ‘연체’ 같은 용어를 떠올리는 것처럼 벡터DB도 데이터를 숫자로 변환해 저장한 후 연관된 정보를 신속하게 찾아준다.
실제 존재하지 않는 금융 상품을 추천하는 등의 오류가 발생하는 것을 방지하기 위해 메가존클라우드는 RAG기술도 적용했다. 대규모언어모델(LLM)이 단순히 사전 학습된 데이터에 기반해 응답하는 것이 아니라, 벡터DB를 활용해 내부 데이터베이스에서 관련 정보를 검색한 후 이를 반영해 보다 정확한 응답을 생성하도록 한 것이다.
실사용 환경에서의 테스트를 진행하며 챗봇의 정확성과 실효성을 개선, 검증했다. 고객이 특정 상품에 대해 문의하면 직원은 AI 챗봇을 통해 관련 약관, 상품 설명서 등 필요한 정보를 즉시 확인할 수 있다. 내부 규정이나 관련 법규가 궁금할 때도 챗봇에게 질문하면 신뢰할 수 있는 공식 문서를 곧바로 제공받을 수 있다.
MG새마을금고중앙회 담당자는 “생성형 AI가 MG새마을금고 업무 관련 문서 검색을 기반으로 보다 정확한 정보를 제공할 수 있음을 확인했다”며 “메가존클라우드와의 과제 수행을 통해 생성형 AI 도입이 직원들의 업무 효율성을 높이는 데 얼마나 도움이 될지 확인할 수 있었다”고 말했다.
JB우리캐피탈, 메가존클라우드와 생성형 AI 기반 보고서 자동화 협력
JB우리캐피탈도 문서 작성 자동화를 통한 금융 업무 효율성 향상을 검토하기 위해 메가존클라우드와 협력에 나섰다. 기존의 반복적인 문서 작업이 생산성 저하와 리소스 낭비를 초래하고 있다는 판단에 따라, 메가존클라우드와 협력해 생성형 AI를 활용한 보고서 자동 생성 기능 검증을 실시했다.
이 과정에서 ▲원본 데이터 분석 후 표와 이미지를 포함한 보고서 자동 생성 ▲문서의 체계적 정리 ▲음영 표시 등 시각적 요소를 적용한 가독성 향상 등을 확인했다. 사내 규정, 업무 지침, 복지 제도 등에 대한 자동 응답 기능을 추가해 직원들이 필요한 정보를 신속하게 확인할 수 있도록 지원하는 방안에 대해서도 기술적 검토를 진행했다.
JB우리캐피탈 디지털기획팀 담당자는 “생성형 AI가 내부 프로세스 개선 및 고객 서비스 품질 향상으로도 이어질 수 있다는 것을 확인했다”며 “이번 성과를 바탕으로 보다 정교한 검증 단계를 거쳐 더 많은 업무 영역으로 확장해 나갈 계획”이라고 했다.
공성배 메가존클라우드 AI&데이터분석센터 센터장은 “메가존클라우드는 보안과 데이터 거버넌스 환경을 강화한 금융사 맞춤형 AI 솔루션을 지속적으로 연구 개발하고 있다”며 “앞으로도 금융사들이 AI 기술을 활용해 업무 혁신을 실현할 수 있도록 지원하고, 생성형 AI가 금융권에서 안전하고 효과적으로 활용될 수 있는 방안을 모색하며 금융업계의 DX를 선도해 나갈 것”이라고 말했다.
관련 기사 (더 보기)
