미국 식품의약국(FDA)이 '폐쇄형 AI(closed AI)' 시스템을 활용한 의료제품 규제 혁신에 속도를 내는 가운데, 의약품 및 의료기기 개발 전주기에 걸쳐 AI 기반 의사결정의 신뢰성을 확보하기 위한 포괄적 지침을 제시해 주목된다. 

이번 가이드라인은 FDA가 처음 제시한 의료제품 개발, 평가, 사후관리 전주기 관련 AI 활용 지침으로 국내외 보건당국과 산업계에도 영향을 미칠 것으로 예상된다.  

20일 한국바이오의약품협회(KoBIA)가 발간한 정책 프리브에 따르면 FDA는 책임 소재와 예측 가능성을 명확히 보장할 수있는 '폐쇄형 AI'를 중심으로 △의약품 및 생물학적제제와  △의료기기 소프트웨어용 AI 활용 가이드라인을 제시했다. 

폐쇄형 AI는 한 번 학습이 완료되면 고정된 알고리즘에 따라 동일한 결과를 도출하는 AI 모델로, 검증과 재현이 용이해 반복적인 신약 및 의료기기 심사를 일관되게 수행할 수 있는 장점이 있다. 

앞서 확립된 검토 및 평가 알고리즘을 변경하는 경우, 사전 승인을 거쳐야 하므로 AI 오작동이나 오류에 대한 책임 범위를 명확히 설정할 수 있고, 편향된 판단 가능성을 방지할 수 있다는 점에서 규제 분야에 적합한 모델로 평가된다. 

주요내용에 따르면 FDA는 임상시험 설계, 데이터 분석, 시판 후 안전관리 등 신약 개발 전주기에 걸쳐 폐쇄형 바카라사이트 비타임시스템 적용을 확대할 방침이다. 이를 위해 '의약품 및 생물학적제제의 규제결정을 지원하기 위한 바카라사이트 비타임 사용 고려사항' 가이드라인을 통해 바카라사이트 비타임 도구의 신뢰성을 평가하기 위한 7단계 프레임워크를 제시했다.

주요 내용은 △문제 정의(AI가 해결하려는 핵심 질문 설정) △AI 사용 맥락 정의 △AI 모델 실패 시 발생 가능한 위험 평가 △AI 결과 신뢰성 확보 계획 수립  △자료 수집 및 신뢰성 테스트 실행  △결과 문서화  △AI모델 신뢰성 최종 판단 등의 절차를 담고 있으며, AI 기반 의사 결정의 신뢰성, 투명성, 검증 가능성 확보에 초점을 뒀다. 

의료기기 분야에서는 바카라사이트 비타임 기반 소프트웨어 설계부터 변경 관리까지 제품 수명주기 전반에 걸친 규제 고려사항을 제시했다.

가이드라인에 따르면 FDA는 AI 기반 소프트웨어 제조업체가 AI 의료기기의 결함 등 설계와 관련된 위험 요소 뿐만 아니라 사용자의 사용 오류로 인한 위험까지 포괄적으로 식별하고 평가하는 통합적 위험 관리를 수행하도록 권고했다.  

FDA는 특히 폐쇄형 AI 시스템이 일부 변경되더라도 일정 조건을 충족하는 경우 재심사 없이 업데이트를 허용하는 절차를 검토 중이다. 이는 AI 기반 제품의 신뢰성을 확보하면서 상용화 속도를 높이는 새로운 규제 틀로 작용할 전망이다.  

한국바이오의약품협회(KoBIA)는 "이번 발표는 의약품, 의료기기 분야는 물론 FDA 내부 업무 전반에 걸쳐 AI 활용을 체계화하려는 움직임으로 해석된다"며 "AI 모델이 신뢰 가능한 성능을 보이는지를 핵심 평가 요소로 삼아 의약품, 의료기기 개발 전 과정에 AI를 효과적이고 안전하게 활용하기 위한 전략을 강조하고 있다"고 분석했다. 

FDA에 이어 각국 규제기관들도 AI를 활용한 규제 혁신에 속도를 내고 있다. 유럽 EMA와 일본 PMDA 등 주요국 규제당국은 AI법에 기반한 의료 및 의료제품 분야 규제를 개편 중이며, 식품의약품안전처도 의약품 허가·심사 과정에 AI를 도입해 효율성을 높이기 위한 지능형 의약품 허가·심사 체계 구축 정보전략계획(ISP) 수립을 추진하고 있다. 

한편 세계적으로 AI 기술패권 경쟁이 격화되면서 R&D 기반 산업 분야에서 핵심 기술 유출을 방지할 수 있는 AI 평가도구의 전략적 활용에 주의해야 한다는 지적이 나온다.

국내 한 의료제품 규제기관 관계자는 "FDA가 오픈소스가 아닌 '폐쇄형 AI'를 전략적 평가 도구로 도입한 것은 의약품·의료기기 심사에서 신뢰성과 예측 가능성을 확보하는 동시에 자국 내 AI 기술과 데이터를 보호하려는 의도로 보인다"며 "우리나라도 기술 주권 관점에서 AI 도입 시 민감 데이터의 역외 유출을 방지할 수 있는 평가 기준과 운영 체계를 마련해야 한다"고 강조했다.