인공지능(AI)이 보건의료 혁신의 핵심 동력으로 자리 잡으면서 기술 개발의 속도뿐 아니라 안전성과 신뢰성, 접근성을 함께 확보해야 한다는 전문가들의 제언이 나왔다.
21일 서울 코엑스마곡컨벤션센터에서 열린 ‘2026 세계 바이오 서밋’의 ‘New Science: AI가 불러올 미래’ 세션에서는 세계보건기구(WHO), 경제협력개발기구(OECD) 등 국제기구 관계자와 국내외 전문가들이 참석해 보건의료 분야의 AI 혁신 방향과 거버넌스 구축 필요성을 논의했다.
알랭 라브리크 WHO 디지털헬스·AI 국장은 보건의료 AI의 안전성을 확보하기 위해서는 기술에 대한 이해와 지속적인 모니터링이 중요하다고 강조했다.
라브리크 국장은 “AI 기술이 악의적인 목적으로 설계되지 않았더라도 설계 과정에서 문제가 발생하거나 환각(할루시네이션) 현상 등 예상치 못한 결과를 초래할 수 있다”며 “과학기술자들은 보건당국 관계자와 정책 입안자, 의료 전문가들이 우수한 AI 도구를 판단할 수 있도록 교육해야 한다”고 말했다.
그러면서 “AI 시스템을 실제로 구현한 이후에도 어떤 결과를 만들어내는지 지속적으로 모니터링해야 한다”며 “특히 여러 AI 에이전트가 상호작용하는 멀티 에이전트 시스템을 적절히 관리하지 않으면 중요한 문제를 놓칠 수 있다”고 지적했다.
AI 기술 개발이 환자의 필요와 보건의료체계 개선에 초점을 맞춰야 한다는 의견도 나왔다.
에릭 서덜랜드 OECD 수석 보건경제학자는 “기술 개발 자체를 위한 혁신이 아니라 실제 필요에 기반한 혁신이 이뤄져야 한다”며 “보건의료 분야에는 빠르게 혁신해야 한다는 요구와 환자에게 피해를 주지 않아야 한다는 원칙, 모든 사람에게 형평성 있는 혜택을 제공해야 한다는 과제가 동시에 작용한다”고 설명했다.
이어 “이 세 가지 요소를 고려해 최선의 결과를 도출할 수 있는 의사결정이 중요하다”고 덧붙였다.
이를 위해 AI에 대한 신뢰 구축과 활용 역량 강화, 지속 가능한 재정 모델 마련이 필요하다고 제언했다.
그는 “AI가 확산되기 위해서는 시스템 제공자에 대한 신뢰뿐 아니라 이해관계자 간 상호 신뢰가 구축돼야 한다”며 “공공부문과 산업계, 학계의 협력을 통해 AI 활용 역량을 높이고, 모든 사람에게 혜택이 돌아갈 수 있는 실질적인 재정 모델을 마련해야 한다”고 밝혔다.
마이아 하이타워 모핏암센터 최고보건정보책임자 역시 보건의료 AI의 확산을 위해 안전성과 신뢰 확보가 중요하다고 강조했다.
하이타워 최고보건정보책임자는 “보건의료는 인간의 기본적인 권리이며, 이를 실현하기 위해 가장 필요한 것은 신뢰”라며 “AI 거버넌스 체계를 통해 신뢰를 회복하고 가치 있는 보건의료 시스템을 구축해야 한다”고 말했다.
바이오서밋 마지막 날인 22일엔 AI를 활용한 글로벌 보건 혁신과 의료 접근성 확대를 위한 논의를 이어간다.
게이츠재단의 ‘AI로 생명을 구하다: 중저소득국가를 위한 글로벌 보건 공공재 구축’을 비롯해 ‘글로벌 보건을 위한 헬스 AI 기술의 새로운 지평’, ‘혁신에서 실질적 성과로: 접근 형평성을 위한 AI 기반 헬스케어 솔루션의 확산’ 등을 주제로 다양한 부대행사가 진행될 예정이다.
