[reinvent 2025] AI가 효과를 발휘할 수 있을까요? 설명 가능한 AI를 위한 의료계의 필수 요건

들어가며

안전하고 투명한 AI 도입을 위한 기업들의 접근 방식에 대해 논의합니다. 특히, 두 사람은 Sanofi의 여정에 대한 관점을 공유하고, Databricks가 특정 이니셔티브를 어떻게 지원하는지 논의합니다. 또한, 설명 가능 AI 구현, 규정 준수, 환자와 규제 기관 간의 신뢰 구축을 위한 실질적인 전략을 모색합니다.

Sanofi의 AI 도입 배경과 목표

Sanofi는 스스로를 “AI를 대규모로 활용하는 R&D 바이오 제약 회사”로 정의합니다. 이들의 궁극적인 목표는 치료법 발견과 시장 출시 사이의 기간(약 15년)을 단축하는 것입니다. 이를 위해 AI를 가치 사슬 전반(R&D, 제조, 공급, 상업, 직원 경험)에 걸쳐 적용하는 전략을 취하고 있습니다. AI는 이 “높은 위험과 장기적인 투자 결정이 필요한 많은 산업”의 전체 과정을 최적화하는 핵심 기술입니다.

AI 활용과 설명 가능성

AI는 빠르게 성과를 내는 분야(Quick Wins)와 장기적인 분야 모두에 활용됩니다. 수율 최적화나 공급망 개선 등은 기존의 머신러닝(ML) 기법으로 빠른 성과를 볼 수 있으며, 현재 소분자의 70%에 AI가 사용됩니다. 특히 규제 문서 제출과 같은 분야에서는 생성형 AI(Gen AI)가 큰 기회로 작용합니다.

그러나 제약 산업은 엄격하게 규제되기 때문에, AI 결과는 신뢰성, 안전성, 윤리성, 투명성 및 설명 가능성을 갖춰야 합니다. Sanofi는 RAIS 프레임워크를 통해 이를 관리하며, **”AI 준비된 데이터(AI Ready Data)”**를 구축하여 종단 간(end-to-end) 데이터 추적 가능성과 설명 가능성을 확보하고자 합니다.

위험 관리와 거버넌스의 중요성

AI 역량을 구현할 때 가장 큰 위험을 관리하기 위해 명확한 거버넌스가 필수적입니다. Sanofi는 두 가지 거버넌스를 운영합니다.

최고 경영진 수준 거버넌스: 

모든 AI 이니셔티브가 Sanofi의 단일 목표(치료법 발견 기간 단축)에 부합하는지 확인하며, 아이디어 제출 시 경영진의 후원과 3개월 이내 가치 입증을 요구합니다. 이는 가치를 창출하지 못하고 투자만 낭비하는 것을 방지하기 위함입니다.

데이터 및 AI 거버넌스: 

기술적 측면에서 ‘AI 준비된 데이터’ 개념과 규제 사항(특히 환자 데이터)을 관리합니다. 규제 관리 팀은 중앙 집중식이지만, 각 국가의 특수성을 고려하는 현지 전문가 팀과 협력합니다.

결론

Sanofi는 유행(hype)을 따르지 않고, 기업의 고유한 맥락과 유산을 바탕으로 전진해야 한다고 강조합니다. 모든 산업이 단일하고 공유된 목표를 가질 때 비로소 목표를 달성할 수 있으며, Sanofi의 단일 목표는 치료법과 발견 사이의 거리를 단축하는 것입니다.

궁극적으로, **”모든 것이 설명 가능할 필요는 없지만, 의약품은 환자를 위해 설명 가능해야 한다”**는 원칙을 통해 AI가 전체 가치 사슬에 걸쳐 실질적인 의미를 만들고 이 핵심 목표를 향해 나아가도록 합니다.