인공지능(AI) 신약 개발 스타트업 ㈜팜캐드(PharmCADD)가 양자컴퓨팅을 활용해 심장과 간 독성을 더 크게 낮춘 항암 신약 후보물질을 제시했다. AI가 설계한 약물로 실제 실험 단계까지 이어진 제1세대 케이스를 만들어낸 데 이어 이번엔 양자까지 융합한 모델로 제2세대 케이스까지 만들어낸 것.
지난 5일 서울 코엑스에서 열린 ‘2025 코리아 테크 페스티벌’의 ‘양자 기술 Use-Case 시연’ 세션에서 우상욱 팜캐드 대표(부경대 물리학과 교수)는 “이 약물 구조를 처음 만든 것은 사람이 아니라 AI였다”며 제1세대 백혈병 치료 후보물질 구조를 먼저 제시했다.
AI가 설계한 첫 백혈병 후보약…국제학술지 게재에 특허까지
생성형 AI를 적용한 자체 플랫폼 ‘파뮬레이터(Pharmulator)’가 급성골수성백혈병(AML)의 주요 원인 중 하나인 FLT-3 단백질 돌연변이(D835Y)를 표적으로 하는 후보물질을 찾아낸 결과였다.
팜캐드는 AI가 만든 구조를 실제로 합성도 해보고 세포실험까지 마친 후, 백혈병 세포주에서 항암 효과까지 확인했다. 그 특별한 성과를 2022년 국제학술지에 게재하고, 해외 특허(PCT)도 출원했다. 우 대표는 “AI가 설계하고 실험적 효능까지 증명된 신약 후보로는 국내 첫 사례”라고 했다.
“효능 좋아도 독성이 문제”…양자컴퓨팅으로 보완
제약업계가 AI 신약 개발에서 가장 우려하는 지점은 독성(Toxicity)이다. 전반부에 잘 진행하다가도 후반부에 들어가 심장 독성(hERG) 문제, 또는 약물로 생긴 간 독성(DILI) 문제로 탈락하는 경우가 적지 않아서다. 실제로 hERG 독성은 심장의 이온 채널을 방해해 부정맥 등 심각한 심장 질환을 일으킬 수 있다.
우 대표는 이를 감안, 그 대비책으로 양자컴퓨터를 접목했다. “생성형 AI는 효능 면에서 강점이 있지만, 데이터 의존성이 커 예상하지 못했던 독성 문제까지 미리 선별하는 데는 한계가 있다”고 봐서다.
팜캐드는 신약 설계 단계에서부터 양자컴퓨팅 알고리즘을 도입하기로 했다. 복잡한 분자 공간을 한 번에 탐색할 수 있다는 양자비트 특성을 감안한 방향 전환. 이에 양자 회로와 생성형 AI를 결합한 ‘QGAN(Quantum GAN)’ 모듈을 자체 개발해 플랫폼을 업그레이드했다.
‘기존 AI’ vs ‘양자+AI’…독성 개선 효과 뚜렷
팜캐드는 FLT-3 돌연변이를 표적으로 기존 AI 모델과 새로운 QGAN 모델에 각각 10개씩최선의 후보물질을 찾아내게 했다. 그렇게 만든 후보물질들을 두 그룹(AI그룹 vs QGAN그룹)으로 나눠 신약 개발의 필수 과정을 순차적으로 적용했다.
그 결과, 두 그룹 모두 효능(도킹 스코어)과 합성 난이도는 서로 비슷하게 나왔다. 하지만 정작 궁금했던 독성 지표에서는 양자 기반의 QGAN 모델이 확연한 우위를 보였다. 우 대표는 “AI 단독모델에 비해 심장 독성은 100%, 간 독성은 약 42% 개선됐다”며 “내부 평가 기준에서 분명한 ‘양자 우위’(Quantum Advantage)를 확인했다”고 했다.
실제 분자 합성, 세포실험까지 해보니… ‘Hit’ 레벨 후보 5개 찾았다
팜캐드는 한 발 더 나아가 QGAN이 만든 10개 후보물질 중 합성하기가 상대적으로 나을 것으로 기대된 5개를 선정해 실제 합성까지 해보았다. 모두 98% 이상 순도로 제조에 성공했다.
이어 백혈병 세포주를 대상으로 항암 효과를 측정한 결과, 다섯 후보물질 모두 ‘Hit’ 수준의 효능을 보였다. 신약 개발 단계에서 ‘이 정도면 더 발전시켜 볼 만하다’고 인정할 수준이었다는 얘기다. 설계 → 합성 → 세포실험에 이르는 과정을 ‘양자+AI’ 후보들에까지 또 한 번 적용해 본 셈이다.
팜캐드는 이들 물질의 특허 출원도 준비하고 있다. 우 대표는 “임상에 진입할 후보군을 얼마나 ‘안전하게’ 구성하느냐가 신약 개발 성공률을 좌우한다”며 “효능이 비슷하다면 심장, 간 독성 위험이 낮은 후보를 더 많이 확보한 쪽이 훨씬 유리하다”고 했다.
펩타이드 신약으로 확장…나이벡과 협업
팜캐드는 2023년부터 한국연구재단의 ‘양자이득과제’를 수행하며 양자 기반 신약 설계를 빠르게 적용해온 기업으로 꼽힌다. 앞으로는 저분자 화합물뿐 아니라 펩타이드(단백질 조각) 치료제 영역까지 ‘양자+AI’ 조합을 확대할 계획이다.
이를 위해 우 대표는 “펩타이드 분야 강자인 ㈜나이벡(NIBEC)과도 공동 연구도, 양자 알고리즘과 생성형 AI 사이의 최적 조합을 찾는 연구도 추진하고 있다”고 했다.
“초기부터 안전성 높은 후보 골라낼 수 있어야”…신약개발 패러다임 전환
생성형 AI와 양자컴퓨팅이 동시에 발전하면서 신약 설계 과정도 ‘효율성보다 안전성’ 중심으로 재편되고 있다. 팜캐드의 최근 성과는 그런 흐름을 잘 드러낸다.
초기 단계에서부터 심장·간 독성이 낮은 후보를 빠르게 골라낼 수 있다면, 즉 안전한 약을 빠르게 설계할 수 있다면 미개척 영역이 많은 난치병·희귀질환 분야 신약 개발도 더 빨라질 가능성이 크다. 팜캐드가 기존 CPU·GPU 기반 플랫폼에 양자 알고리즘을 결합한 차세대 ‘Q-파뮬레이터’ 구축에 속도를 내는 이유도 그 때문이다.
