진료현장에서 생성형 인공지능을 활용하는 의료기기가 빠르게 등장하는 가운데 미국 식품의약국 FDA가 기존 의료기기와는 다른 위험평가와 검증방식을 마련하기 위한 공식 논의에 착수했다. AI가 의료진의 문서 작성을 돕는 수준을 넘어 환자 정보 해석과 임상 의사결정에 관여할 가능성이 커지면서 제품 출시 전뿐 아니라 실제 사용 이후의 성능까지 어떻게 관리할지가 새로운 규제 과제로 떠오르고 있다.
FDA는 8월 18일 생성형 AI가 탑재된 의료기기의 규제를 주제로 한 논의문을 공개하고 의료기기 제조사와 의료진, 연구자, 소비자 등으로부터 의견을 받는다고 밝혔다. 논의 대상에는 위험평가와 시판 전 심사, 출시 이후 모니터링, 파운데이션 모델, 스스로 여러 단계의 작업을 수행하는 에이전트형 AI 등이 포함됐다.
생성형 AI 의료기기가 기존 소프트웨어와 다른 이유는 입력된 정보를 단순 계산하는 데 그치지 않고 새로운 문장이나 판단 보조 결과를 생성할 수 있기 때문이다. 같은 질문이라도 맥락에 따라 결과가 달라질 수 있고 기반 모델이 업데이트되면서 성능이 변화할 가능성도 있다. FDA 역시 생성형 AI 의료기기가 의료에 큰 가능성을 제공하는 동시에 전통적인 소프트웨어나 기존 AI 의료기기와 구별되는 고유한 위험을 가져올 수 있다고 설명했다.
FDA가 제안한 핵심 가운데 하나는 위험을 하나의 기준으로만 판단하지 않는 방식이다. 논의문에는 두 개 축을 활용한 잠재적 위험평가 틀이 제시됐으며, 기기가 잘못된 결과를 냈을 때 환자에게 미칠 수 있는 영향과 AI가 의료 과정에서 수행하는 역할 등을 고려해 규제 수준을 조정하는 방향이 검토되고 있다. 아직 확정된 규정은 아니며 의견수렴을 위한 제안 단계다.
출시 전 평가방식도 달라질 가능성이 있다. FDA는 의사가 교육과 평가를 거쳐 진료 역량을 검증받는 방식에서 착안한 일종의 역량평가 개념을 제시했다. 비임상 환경에서 표준화된 벤치마크를 통해 성능을 평가한 뒤 실제 임상환경에서도 의도한 대로 작동하는지 확인하는 방안이다. 단순히 정답률 하나만 높다고 의료현장에서 안전한 AI로 볼 수 없다는 문제의식이 반영된 것으로 볼 수 있다.
사용 이후의 관리도 중요한 쟁점이다. 생성형 AI는 병원별 환자군과 입력방식, 사용환경에 따라 실제 성능이 달라질 가능성이 있기 때문에 허가 당시의 시험 결과만으로 장기간의 안전성을 판단하기 어려울 수 있다. FDA 논의문은 위험 수준에 비례해 시판 후 성능을 모니터링하는 다양한 접근방식을 검토하고 있다.
특히 여러 의료정보를 스스로 결합하고 다음 행동을 선택하는 에이전트형 AI가 확산되면 책임범위 역시 복잡해질 수 있다. AI가 참고정보만 제공하는 경우와 진단이나 치료 결정에 직접 영향을 미치는 경우는 같은 위험수준으로 평가하기 어렵다. FDA가 파운데이션 모델과 에이전트형 시스템을 별도의 논의 대상으로 제시한 이유도 이러한 기술 변화 때문이다.
이번 발표가 새로운 생성형 AI 의료기기의 즉각적인 허가나 특정 제품의 안전성을 보증하는 것은 아니다. FDA는 10월 19일까지 관련 의견을 수렴해 향후 규제체계를 만드는 데 활용할 계획이다. 한국의 의료기기 허가제도와도 별개의 논의지만, 글로벌 의료AI 기업이 미국 시장 진입을 준비할 때 요구되는 임상검증과 사후관리 기준이 달라질 수 있다는 점에서 의료기기와 디지털헬스 산업이 주목할 만한 변화다.
생성형 AI가 의료현장에 빠르게 들어올수록 중요한 질문은 AI가 얼마나 자연스럽게 답하는가보다 실제 환자에게 일관되고 검증 가능한 결과를 제공하는가에 가까워지고 있다. 의료AI의 경쟁축 역시 모델 성능만이 아니라 임상 검증과 위험관리, 지속적인 성능 감시까지 포함하는 방향으로 이동할 가능성이 커지고 있다.
