ITing - [메클 특파원이 간다🏃] 비즈니스 리더를 위한 생성형 AI 전략: 회의론과 과대 광고 속에서 중심 잡기

안녕하세요, 여러분! 메클 특파원이 어느덧 세 번째 AWS Summit 세션 후기글을 가지고 돌아왔습니다.🙌 컨퍼런스 전체를 관통하는 큰 주제가 ‘생성형 AI’인 덕분에 키노트뿐 아니라 여러 세션을 통해서 관련 내용을 많이 접할 수 있었는데요, 오늘은 그중에서도 <생성형 AI 실전 도입 전략>을 다룬 두 개 세션을 함께 정리해 보려고 합니다.

회의론과 과대 광고, 생성형 AI를 둘러싼 복잡성이 날로 증가하는 가운데 비즈니스 리더로서 어떻게 중심을 잡아야 하는지 고민인 분들께 많은 도움이 될 것 같습니다.

제가 들은 세션은요…

📑생성형 AI를 엔터프라이즈 비즈니스에 적용하기 위한 실전 방법론｜메가존클라우드 AI & Data Center 서길주 그룹장
📑리더를 위한 생성형 AI 전략 6가지: 과거에서 배우고 미래를 설계하기｜AWS 강인호 SA, 어한나 SA

데이터의 급격한 증가, 확장 가능한 컴퓨팅 파워의 가용성, 머신러닝 혁신에 힘입어 이제 생성형 AI는 큰 전환점을 맞이하고 있습니다. 많은 이들이 이를 19C 전구의 발명, 20C 인터넷의 등장에 비견하는 거대한 기술 혁신이라고 이야기합니다. 그러나 기술 혁신의 속도는 점차 빨라지고 있고, 그 과도기에는 언제나 혼란이 가중됩니다.

메가존클라우드 서길주 ADC 그룹장은 문화적 수준의 기술 혁신은 부작용과 순작용이 동시에 존재하며, 약 10년 전 클라우드라는 기술이 처음 등장했을 때도 이같은 혼란이 있었다고 말합니다. 기존의 비즈니스 담당자와 제품 담당자부터 개발자, 운영자에 이르기까지 일하는 방식이 완전히 변화되었기 때문입니다. 구체적으로는 ‘섀도우 IT’로 인한거버넌스 통제력 약화, 표준화 부재로 인한 기술 부채 발생, 정보 유출 등의 문제를 지목했습니다.

그러나 앞서 언급했듯이 이러한 기술 혁신은 인류 역사에서 항상 존재해왔고 그로부터 새로운 기술이 출현할 때 어떻게 대응해야 하는지에 대한 교훈을 얻을 수 있습니다. 다음은 <리더를 위한 생성형 AI 전략 6가지> 세션에서 제시한 역사로부터 배우는 6가지 교훈인데요, 이중 특히 주목해야 할 내용 몇 가지를 함께 살펴보도록 하겠습니다.

성공한 사람들은 올바른 도구를 사용했다
탄탄한 기반이 선행되었다
회의론과 과대광고가 있을 것이다
로운 기술로 업무를 재구상하라
변화는 새로운 위험과 책임을 수반한다
새로운 아이디어의 가치는 폭발적으로 커진다

생성형 AI 시대에 올바른 도구를 사용한다는 건 무슨 의미일까요? 다양한 생성형 AI 접근법 가운데 우리 비즈니스에 가장 적합한 방법론을 선택해야 한다는 뜻입니다. 그러한 선택의 기준으로써 메가존클라우드는 ‘생성형 AI 추진 프레임워크’를 제시하고 있습니다.

1) 어떤 프로세스에 생성형 AI를 적용하는가?
2) 해당 프로세스는 어떤 데이터를 활용하는가?
3) 구체화된 흐름과 기능/비기능 요구사항은?
4) 대응하기 위한 최적의 기술은?

여기에서 핵심은 프로세스에 맞게 잘 정리된 데이터, 효율적으로 참조할 수 있는 데이터 카탈로그, 마지막으로 다양한 생성형 AI 모델을 활용할 수 있는 인터페이스입니다. 다양한 생성형 AI 모델을 활용할 수 있는 인터페이스로는 Amazon Bedrock이 있죠. AWS 강인호 SA는 다양한 파운데이션 모델 단일화된 api 쉽게 적용해볼 수 있다는 점과 Guardrails for Amazon Bedrock을 통해 안전한 데이터 보호가 가능한 점을 강점으로 설명했습니다.

생성형 AI 도입 이전에 반드시 선행되어야 할 기반이 있습니다. 바로 인프라를 유연하게 확장할 수 있는 클라우드와 잘 정제된 데이터입니다. <리더를 위한 생성형 AI 전략 6가지>에서 그 구체적인 방법을 확인할 수 있었습니다.

클라우드 여정 가속화 방법

클라우드 도입 목표/원칙 수립 → 클라우드 기반 요소 확립 → 교육/훈련 → 실습/체험 → 워크로드 이전 → 경험 있는 파트너 활용

데이터 정제 방법

편향되지 않은 다양한 데이터 세트를 수집 확장 → 데이터 품질에 더욱 집중하기 → 데이터 이력 관리/변화 추적 → 모델에 사용된 데이터 버전 관리 → 자동화를 통한 속도 향상 → 비용 인지 및 관리

또한, AWS 강인호 SA는 다음과 같은 통계 수치를 공유하며 회의론과 과대광고 속에서 리더는 어떤 역할을 해야 하는지에 대해 이야기했는데요,

미국 및 유럽 일자리가 일부 AI 자동화에 노출될 비율 66%
향후 5년 내에 재교육을 필요로 하는 직원의 비율 50%
1940년에는 존재하지 않았던 직종에 종사하는 직원의 비율 60%

요지는 똑같은 통계 수치를 보면서도 어떤 이는 변화에 대한 두려움을 갖기도 하고 어떤 이는 동기 부여를 얻기도 한다는 것입니다. 따라서 리더는 불확실성이 야기하는 다양한 관점을 이해하고 팀의 전적인 동의와 참여를 이끌어내는 것이 중요합니다.

마지막으로는 새로운 아이디어의 가치 폭발을 위한 ‘생성형 AI 프로젝트 라이프사이클’을 제시하였습니다. 비즈니스 가치를 추구할 수 있는 적합한 프로젝트를 선택하고 테스트와 평가를 반복하는 것이 핵심입니다.

선택: 기존 모델 선택 또는 직접 모델 생성
범위: 유즈케이스 정의
모델 조정 및 정렬: 프롬프트 엔지니어링, 파인튜닝, 인간 피드백 반영
애플리케이션 통합: 모델 최적화 및 추론을 위한 배포, LLM을 활용한 애플리케이션 구축

자, 이렇게 비즈니스 리더가 참고하면 좋을 <생성형 AI 실전 도입 전략>을 두 가지 세션을 바탕으로 정리해 보았습니다. 여러분들께도 많은 도움이 되었기를 바랍니다. 메가존클라우드에서는 기업의 고유 데이터를 기반으로 즉각적인 생성형 AI를 활용할 수 있도록 대상 업무 영역 컨설팅부터 구축 및 운영까지, 엔드 투 엔드 서비스를 제공하고 있습니다. 메가존클라우드의 ‘GenAI360’ 서비스가 궁금하신 분들은 사이트를 방문해 보세요.
👉GenAI360 자세히 보기