최근 인공지능(AI) 개발사 오픈AI와 앤트로픽의 서로 다른 결정이 세간의 주목을 받았다. 미 전쟁부는 베네수엘라, 이란 등 전장에서 앤트로픽의 AI모델 ‘클로드’의 효용성을 인정하고 모든 합법적인 용도에 클로드를 제한없이 사용할 수 있도록 개발사에 요구했다.
하지만 앤트로픽은 아무리 합법적이라고 하더라도 자신들이 개발한 AI가 미국 내 대중 감시나 완전 자율 살상 무기와 같은 비윤리적인 용도로 사용되는 것을 용인할 수 없다는 이유로 요청을 거절하였다. 그러자 트럼프 미국 대통령은 모든 연방기관에 ‘클로드’ 사용을 중단할 것을 지시했고, 미 전쟁부는 앤트로픽을 국가안보에 대한 ‘공급망 위험 기업’이라는 일종의 군납 블랙리스트에 올렸다.
이는 과거 냉전 시절 적성국 기업에 적용하던 규정으로, 지정되면 국방부와 거래하는 모든 기업은 앤트로픽과 거래할 수 없다. 사실상 회사의 입장에서는 사망 선고에 가까운 일이다. 같은 날 전쟁부는 군사적 AI 활용에 관련하여 오픈AI와 계약을 맺었다. 이 사건으로 과학기술윤리와 국가안보가 부딪치면 어떤 것에 우선순위에 둬야 하는지에 대한 논란이 일었다.
과학기술은 자연과학이나 기술을 적용하여 자연의 사물을 인간 생활에 유용하도록 가공하는 수단을 말한다. 하지만 과학기술을 인명 살상과 같은 군사 목적에 사용하는 것은 인간을 이롭게 한다는 과학기술 윤리에 어긋나는 일이다. 하지만 국가 간 긴장이 높아지거나 전쟁이 발발하면 국가로부터 이와 관련된 요청을 받는 경우가 많다. 이러한 상황에서 과학자나 기업은 국가의 요청을 수락할지에 대해 매우 어려운 문제에 직면한다.
이런 딜레마를 보여주는 흥미로운 일화가 있다
프리츠 하버(Fritz Haber, 1868~1934)는 독일에서 태어난 화학자로, 수많은 실패 끝에 고온·고압에서 질소 비료의 주원료인 암모니아를 합성하는 방법을 개발하여 1918년 노벨화학상을 받았다. 현재 전 세계 농경지에 뿌려지는 질소비료의 약 40%가 그의 방법으로 생산되며, 전 인류가 섭취하는 단백질의 약 1/3이 질소비료에서 비롯된다고 한다.
만약 질소비료가 없었다면 인류의 약 절반이 굶주렸을 것이라는 평가도 있어 그의 발명은 위대하다. 그러나 하버의 노벨상 수상 소식은 많은 논란을 불러일으켰다. 그는 유대인이었지만 조국 독일을 사랑하는 애국자로서 제1차 세계대전 당시 독일 정부와 협력해 암모니아로부터 질산칼륨을 제조하여 화약 원료를 생산했고, 전쟁용 독가스 개발 비밀부서의 책임자가 되어 세계 최초로 염소가스를 개발했기 때문이다.
이 독가스는 실제 전쟁에서 사용되어 연합군 병사 수천 명이 폐손상으로 사망하고 1만 명 이상이 가스 중독을 겪었다. 보고에 따르면 제1차 세계대전 중 화학무기로 사망한 병사는 약 10만 명, 가스 중독으로 인한 후유증을 겪은 병사는 약 100만 명에 이르렀다. 결국 하버는 전쟁이 끝난 뒤 전범으로 거론되기도 했다.
그렇다면 기업이나 과학자들이 전쟁과 같은 중대한 상황에서 국가로부터 협조 요청을 받으면 어떻게 해야 할까? 만약 협조를 거부하면 국가는 적국과의 무기 경쟁에서 뒤처질 수 있고 결국 전쟁에서 패배할 수 있다. 기업이나 개인은 해당 국가로부터 반역자로 몰리거나 블랙리스트로 낙인 찍혀 가혹한 처벌을 받거나 블랙리스트에 올라 파산할 수 있다.
반대로 살상무기 개발에 협조하여 조국이 승리하면 영웅이 되거나 애국기업이 되어 명예는 물론 막대한 경제적 이득을 얻을 수도 있다. 하지만 과학기술은 인간을 이롭게 하거나 인간생활을 유용하게 하는 곳에 사용되어야 한다는 과학기술윤리에 벗어나는 일이 된다. 조국이 전쟁에서 패한다면 과학자 개인이나 기업은 전범으로 처벌을 받게 될 수도 있다.
대량살상무기 개발은 물론 일반 대중 감시나 완전 자율 살상 무기 역시 과학기술의 목적인 인간을 이롭게 하려는 과학기술윤리 소명 의식과 상충한다. 하지만 민주주의 사회에서 적법한 과정을 거쳐 선출된 권력은 전쟁과 같은 긴급 상황에서 인적자원은 물론 기술과 물자를 통제하고 사용할 권한을 가지고 있다. 그리고 전쟁에서 수단과 방법을 가리지 않고 반드시 이겨야 한다는 목적성을 부인하기 어렵다. 문제는 민주주의 사회에서 적법한 과정을 거쳐 선출된 권력이라고 해도 이들의 행위가 모두 정당하지 않을 수도 있다는 것이다.
이러한 상황에서 민간 기업이나 과학자는 어떻게 해야 할까? 당신의 생각이나 의견을 댓글로 남겨주기 바란다.
