[reinvent 2024] 도요타, 세대 AI로 혁신을 주도하고 운영 효율성 향상
Summary
Generative AI를 사용하여 메인프레임 현대화를 가속화하고, 마이그레이션 일정을 최대 50% 단축하는 동시에 새로운 비즈니스 기능을 도입하는 도요타의 혁신적인 접근 방식을 알아보세요.
리인벤트 2024 테크 블로그의 더 많은 글이 보고 싶다면?
Overview
들어가며
Toyota에서 AWS에서 Gen AI를 통해 운영 효율성을 증가시킨 것에 대한 궁금증이 생겨 이 세션을 신청하게 되었습니다. 대기업 제조사인 Toyota에서 SageMaker, Bedrock등과 같은 AWS 서비스들을 왜 사용했는지, 장점이 무엇인지 소개 시켜 드리겠습니다.
AWS Bedrock을 사용한 이유
AWS Bedrock은 Toyota가 생성형 AI 솔루션을 구축하고 활용하는 데 중요한 역할을 하였으며 선택한 주요 이유는 아래와 같습니다.
1. 다양한 기반 모델의 유연한 활용
Bedrock은 다양한 기반 모델을 단일 API를 통해 제공합니다. Toyota는 특정 작업이나 요구 사항에 맞는 모델을 자유롭게 선택하거나 전환할 수 있어야 했습니다. 또, 특정 모델을 커스터마이징할 수 있는 옵션을 제공하기에 Bedrock을 통해 Toyota는 자체 데이터를 활용한 맞춤형 AI 모델을 구축할 수 있었습니다.
2. 데이터 프라이버시와 보안 보장
Bedrock은 데이터를 모델 학습에 사용하지 않기에 Toyota의 데이터가 외부로 유출되지 않음을 알 수 있었습니다. 기업 데이터의 민감성을 고려한 데이터 프라이버시 보장은 대규모 기업에 필수적입니다.
3. Retrieval-Augmented Generation (RAG) 기술 지원
Bedrock은 RAG 기능을 지원하여 Toyota가 내부 데이터베이스와 연결된 질문 응답 시스템을 구축할 수 있도록 했습니다.이를 통해 사용자는 Toyota의 방대한 제조 데이터를 바탕으로 신속하고 정확한 답변을 받을 수 있었습니다.
4. 빠르고 간단한 통합 및 운영
Bedrock은 복잡한 인프라를 설정하지 않고도 AI 모델을 손쉽게 활용할 수 있도록 설계 되어 있습니다.
Bedrock을 사용함으로써 별도의 모델 학습이나 인프라 구축 없이 바로 AI 솔루션을 개발하고 배포할 수 있었습니다.
5. 확장성과 미래 대비
Bedrock은 새로운 기반 모델이 추가될 때도 기존 데이터와 호환되도록 설계되어 있어 미래 확장성이 뛰어납니다. AI 모델을 지속적으로 개선하면서도 새로운 모델로 전환하거나 맞춤형 솔루션을 개발하는 데 필요한 유연성을 유지할 수 있었습니다.
1. 다양한 기반 모델의 유연한 활용
Bedrock은 다양한 기반 모델을 단일 API를 통해 제공합니다. Toyota는 특정 작업이나 요구 사항에 맞는 모델을 자유롭게 선택하거나 전환할 수 있어야 했습니다. 또, 특정 모델을 커스터마이징할 수 있는 옵션을 제공하기에 Bedrock을 통해 Toyota는 자체 데이터를 활용한 맞춤형 AI 모델을 구축할 수 있었습니다.
2. 데이터 프라이버시와 보안 보장
Bedrock은 데이터를 모델 학습에 사용하지 않기에 Toyota의 데이터가 외부로 유출되지 않음을 알 수 있었습니다. 기업 데이터의 민감성을 고려한 데이터 프라이버시 보장은 대규모 기업에 필수적입니다.
3. Retrieval-Augmented Generation (RAG) 기술 지원
Bedrock은 RAG 기능을 지원하여 Toyota가 내부 데이터베이스와 연결된 질문 응답 시스템을 구축할 수 있도록 했습니다.이를 통해 사용자는 Toyota의 방대한 제조 데이터를 바탕으로 신속하고 정확한 답변을 받을 수 있었습니다.
4. 빠르고 간단한 통합 및 운영
Bedrock은 복잡한 인프라를 설정하지 않고도 AI 모델을 손쉽게 활용할 수 있도록 설계 되어 있습니다.
Bedrock을 사용함으로써 별도의 모델 학습이나 인프라 구축 없이 바로 AI 솔루션을 개발하고 배포할 수 있었습니다.
5. 확장성과 미래 대비
Bedrock은 새로운 기반 모델이 추가될 때도 기존 데이터와 호환되도록 설계되어 있어 미래 확장성이 뛰어납니다. AI 모델을 지속적으로 개선하면서도 새로운 모델로 전환하거나 맞춤형 솔루션을 개발하는 데 필요한 유연성을 유지할 수 있었습니다.
GearPal
1. GearPal의 주요 목적
장비 문제 해결에 필요한 정보를 효율적으로 제공하여 운영 중단으로 인한 손실을 최소화하며 제조 현장에서의 작업자의 기술 격차를 줄이고 초보자도 전문가 수준의 문제 해결을 가능하도록 지원하게 하는 것이 주된 목적입니다.
2. GearPal의 주요 기능
– 중앙화된 데이터 관리
– 다국어 지원
Toyota의 제조 장비가 일본, 독일, 미국 등 다양한 국가에서 생산되어 문서가 다국어로 작성된 경우가 많아 Amazon Translate를 활용하여 모든 문서를 영어로 통합한 후 검색하며 필요 시 실시간으로 원문 언어로 번역하여 제공합니다.
3. AI 기반 질의 응답 시스템
작업자가 “왜 장비가 고장이 났는가?” 또는 “어떻게 수리해야 하는가?”와 같은 질문을 하면 관련 데이터를 분석해 최적의 해결 방법을 제안해주며 사용자는 문제 해결 과정에서 필요한 정보를 빠르게 검색할 수 있습니다.
4. 피드백을 통한 정확도 향상
사용자 피드백을 기반으로 AI 모델의 성능을 지속적으로 개선합니다. Golden Queries를 구축하여 정확성과 신뢰성을 보장하며 AI 모델 전환 시에도 데이터의 일관성을 유지할 수 있습니다.
5. GearPal이 가져온 성과
고장 진단과 복구 시간이 기존 대비 몇 시간에서 몇 분으로 단축되었으며 제조 장비의 중단 시간 감소로 생산 손실 최소화하여 비용이 절감되었습니다. 또한 작업자가 별도의 전문가 도움 없이도 장비 문제를 해결할 수 있어 생산성이 향상되었습니다.
장비 문제 해결에 필요한 정보를 효율적으로 제공하여 운영 중단으로 인한 손실을 최소화하며 제조 현장에서의 작업자의 기술 격차를 줄이고 초보자도 전문가 수준의 문제 해결을 가능하도록 지원하게 하는 것이 주된 목적입니다.
2. GearPal의 주요 기능
– 중앙화된 데이터 관리
– 다국어 지원
Toyota의 제조 장비가 일본, 독일, 미국 등 다양한 국가에서 생산되어 문서가 다국어로 작성된 경우가 많아 Amazon Translate를 활용하여 모든 문서를 영어로 통합한 후 검색하며 필요 시 실시간으로 원문 언어로 번역하여 제공합니다.
3. AI 기반 질의 응답 시스템
작업자가 “왜 장비가 고장이 났는가?” 또는 “어떻게 수리해야 하는가?”와 같은 질문을 하면 관련 데이터를 분석해 최적의 해결 방법을 제안해주며 사용자는 문제 해결 과정에서 필요한 정보를 빠르게 검색할 수 있습니다.
4. 피드백을 통한 정확도 향상
사용자 피드백을 기반으로 AI 모델의 성능을 지속적으로 개선합니다. Golden Queries를 구축하여 정확성과 신뢰성을 보장하며 AI 모델 전환 시에도 데이터의 일관성을 유지할 수 있습니다.
5. GearPal이 가져온 성과
고장 진단과 복구 시간이 기존 대비 몇 시간에서 몇 분으로 단축되었으며 제조 장비의 중단 시간 감소로 생산 손실 최소화하여 비용이 절감되었습니다. 또한 작업자가 별도의 전문가 도움 없이도 장비 문제를 해결할 수 있어 생산성이 향상되었습니다.
Knowledge Retention Solution Architecture
Toyota 내 지식의 효율적인 보존과 공유를 위해 Knowledge Retention Solution을 설계했습니다. 이 솔루션은 AWS 기반 생성형 AI 기술을 활용하여 팀 간 지식 격차를 줄이고 새로운 팀원이나 지역별 사용자가 필요한 정보를 쉽게 이해하고 활용할 수 있도록 지원합니다.
1. 목적 및 필요성
Toyota는 기존 제조 지식과 Mobility 전환 과정에서 생성된 새로운 데이터를 효과적으로 관리하고 다양한 팀과 지역에 걸쳐 지식을 공유할 필요가 있었습니다.지식 전달의 효율성을 높이고 모든 기술 수준의 직원이 중요한 정보를 쉽게 접근할 수 있도록 돕는 플랫폼이 요구되었습니다.
2. 주요 기능
(1) 데이터 수집 및 구조화
사용자는 문서, 매뉴얼, 사례 연구 등을 시스템에 업로드할 수 있으며 AI는 이 데이터를 구조화된 형태로 변환하여 문서의 중요 키워드 및 내용을 추출하여 요약 데이터로 저장합니다. 사용자가 특정 주제나 개념에 대해 질문을 입력하면, 관련 정보를 검색하여 정리된 답변 제공.
(2) RAG (Retrieval-Augmented Generation) 기술
RAG 기술을 활용해 기존 문서와 사용자의 질의를 결합하여 정확하고 맥락적인 응답 생성하며 질의 내용에 따라 기존 데이터베이스에서 적합한 정보를 검색하고 이를 기반으로 응답 생성.
(3) 다국어 지원
AWS의 언어 번역 서비스(Amazon Translate)를 활용하여 다국어 문서를 자동으로 번역하며 문서 및 질의 응답 결과를 다양한 언어로 제공하여 글로벌 팀 간 협업 강화.
(4) 지식 검증 및 피드백 루프
AI가 생성한 정보는 사용자가 검증할 수 있도록 피드백 시스템을 제공하며 정확한 응답일 경우 긍정 피드백을 남기고 잘못된 응답일 경우 추가 개선 요청을 하여 피드백 데이터를 바탕으로 AI 모델을 지속적으로 학습 및 개선.
3. 활용 사례
(1) 신입 팀원 교육
새로운 팀원이 들어올 때, Knowledge Retention Solution을 통해 필요한 정보를 빠르게 학습하여 팀원 간 정보 전달의 비효율성을 줄이고 학습 곡선을 단축.
(2) 글로벌 팀 간 협업
지역별 언어 장벽을 극복하고, 글로벌 수준에서 통일된 정보 제공하여 팀 간 기술과 프로세스의 일관성을 유지하며, 지식의 효율적 전파 가능.
(3) 지식 갱신 및 보존
시스템에 새로운 데이터를 지속적으로 업로드하고 기존 데이터를 업데이트하여 정보의 최신화를 유지.
1. 목적 및 필요성
Toyota는 기존 제조 지식과 Mobility 전환 과정에서 생성된 새로운 데이터를 효과적으로 관리하고 다양한 팀과 지역에 걸쳐 지식을 공유할 필요가 있었습니다.지식 전달의 효율성을 높이고 모든 기술 수준의 직원이 중요한 정보를 쉽게 접근할 수 있도록 돕는 플랫폼이 요구되었습니다.
2. 주요 기능
(1) 데이터 수집 및 구조화
사용자는 문서, 매뉴얼, 사례 연구 등을 시스템에 업로드할 수 있으며 AI는 이 데이터를 구조화된 형태로 변환하여 문서의 중요 키워드 및 내용을 추출하여 요약 데이터로 저장합니다. 사용자가 특정 주제나 개념에 대해 질문을 입력하면, 관련 정보를 검색하여 정리된 답변 제공.
(2) RAG (Retrieval-Augmented Generation) 기술
RAG 기술을 활용해 기존 문서와 사용자의 질의를 결합하여 정확하고 맥락적인 응답 생성하며 질의 내용에 따라 기존 데이터베이스에서 적합한 정보를 검색하고 이를 기반으로 응답 생성.
(3) 다국어 지원
AWS의 언어 번역 서비스(Amazon Translate)를 활용하여 다국어 문서를 자동으로 번역하며 문서 및 질의 응답 결과를 다양한 언어로 제공하여 글로벌 팀 간 협업 강화.
(4) 지식 검증 및 피드백 루프
AI가 생성한 정보는 사용자가 검증할 수 있도록 피드백 시스템을 제공하며 정확한 응답일 경우 긍정 피드백을 남기고 잘못된 응답일 경우 추가 개선 요청을 하여 피드백 데이터를 바탕으로 AI 모델을 지속적으로 학습 및 개선.
3. 활용 사례
(1) 신입 팀원 교육
새로운 팀원이 들어올 때, Knowledge Retention Solution을 통해 필요한 정보를 빠르게 학습하여 팀원 간 정보 전달의 비효율성을 줄이고 학습 곡선을 단축.
(2) 글로벌 팀 간 협업
지역별 언어 장벽을 극복하고, 글로벌 수준에서 통일된 정보 제공하여 팀 간 기술과 프로세스의 일관성을 유지하며, 지식의 효율적 전파 가능.
(3) 지식 갱신 및 보존
시스템에 새로운 데이터를 지속적으로 업로드하고 기존 데이터를 업데이트하여 정보의 최신화를 유지.
결론
Toyota의 Knowledge Retention Solution Architecture는 AWS의 생성형 AI 기술과 RAG 아키텍처를 활용하여 조직 내 지식 보존 및 공유를 획기적으로 개선한 사례입니다. 이 솔루션은 단순히 데이터를 저장하고 검색하는 기능을 넘어 지식의 맥락적 이해와 다국어 지원을 통해 글로벌 팀 간의 협업을 강화하며 신규 팀원 교육부터 제조 프로세스 개선까지 폭넓게 활용되고 있습니다.
특히, AWS의 Amazon Bedrock, Amazon Translate, SageMaker와 같은 AI 서비스는 Toyota가 가진 방대한 데이터를 효율적으로 활용하도록 지원했으며 지식 전달의 정확성과 일관성을 보장했습니다. 이러한 기술을 통해 Toyota는 제조업에서 흔히 발생하는 정보 격차와 언어 장벽 문제를 효과적으로 해결하고 팀과 지역 간의 조화를 이루는 데 성공했습니다. 이와 같이 AWS를 통해 여러 AI 서비스들을 활용하여 기업에 굉장히 도움되는 서비스들을 만들 수 있는 것을 깨닫게 되는 계기였던 것 같습니다.
특히, AWS의 Amazon Bedrock, Amazon Translate, SageMaker와 같은 AI 서비스는 Toyota가 가진 방대한 데이터를 효율적으로 활용하도록 지원했으며 지식 전달의 정확성과 일관성을 보장했습니다. 이러한 기술을 통해 Toyota는 제조업에서 흔히 발생하는 정보 격차와 언어 장벽 문제를 효과적으로 해결하고 팀과 지역 간의 조화를 이루는 데 성공했습니다. 이와 같이 AWS를 통해 여러 AI 서비스들을 활용하여 기업에 굉장히 도움되는 서비스들을 만들 수 있는 것을 깨닫게 되는 계기였던 것 같습니다.
글 │메가존클라우드, Enterprise Managed Service Center (EMS), Kubernetes Engineering Team, 유태균, 매니저
게시물 주소가 복사되었습니다.