AI가 설계한 단백질, 무기화할 수 있을까?

버튼 하나만 누르면 단백질 구조를 만들어낼 수 있는 인공지능(AI) 도구, 안전하고 윤리적으로 사용되어야 하지 않을까? 과연 AI가 설계한 단백질이 생물무기로 사용될 수 있을까?

지난 8일자 국제학술지 '네이처(Nature)'는 이러한 가능성과 부담스러운 정부 규제의 가능성을 차단하기 위해 과학자들이 단백질 설계의 안전하고 윤리적인 사용을 촉구하는 이니셔티브를 시작했다고 밝혔다..

이러한 자발적 이니셔티브에 참여하고 있는 미국 시애틀 소재 워싱턴대의 계산생물물리학자 데이비드 베이커는 "AI에 의한 단백질 설계의 잠재적 이점은 현 시점에서의 위험보다 훨씬 더 크다"고 말한다. 생물학적 설계에 AI를 적용하는 수십 명의 다른 과학자들이 이 이니셔티브의 약속 목록에 서명했다.

"좋은 시작입니다. 저도 서명할 것입니다"라고 캘리포니아주 로스앤젤레스의 싱크탱크 헬레나에서 AI 및 바이오 보안에 관한 2023년 보고서를 주도한 워싱턴 DC의 조지타운대학의 글로벌 보건 정책 전문가 마크 다이불은 말한다. 그러나 그는 또한 "자발적인 지침뿐만 아니라 정부의 조치와 규칙이 필요하다"고 생각하고 있다.

이 이니셔티브는 미국 의회, 싱크탱크 및 기타 기관에서 알파폴드(AlphaFold)와 같은 단백질 구조 예측 네트워크부터 챗GPT(ChatGPT)를 구동하는 것과 같은 대규모 언어 모델(LLM)에 이르기까지 AI 도구가 새로운 독소나 전염성이 강한 바이러스 등 생물학적 무기 개발을 더 쉽게 만들 수 있다는 가능성을 탐구한 보고서가 나온 직후 발족한 것이다.

디자이너 단백질의 위험성
베이커와 그의 동료들을 포함한 연구자들은 수십 년 동안 새로운 단백질을 설계하고 만들기 위해 노력해 왔다. 하지만 최근 몇 년 동안 AI의 발전 덕분에 그 역량이 폭발적으로 증가했다. 특정 분자에 결합하는 단백질을 설계하는 것과 같이 과거에는 수년이 걸리거나 불가능했던 작업도 이제는 몇 분 만에 달성할 수가 있다. 과학자들이 이를 가능하게 하기 위해 개발한 이들 대부분의 AI 도구는 무료로 사용할 수 있다.

디자이너 단백질의 악의적인 사용 가능성을 점검하기 위해 워싱턴대의 '베이커 단백질 디자인 연구소'는 2023년 10월 AI 안전 서밋을 개최했다. 여기서는 "단백질 설계를 어떤 방식으로 어떻게 규제해야 하며, 위험성이 있다면 어떤 것이 있을까?"라는 질문이 있었다.

그와 미국, 유럽, 아시아의 수십 명의 다른 과학자들이 현재 추진하고 있는 이 이니셔티브는 바이오디자인 커뮤니티가 스스로를 보호할 것을 촉구하고 있다. 여기에는 AI 도구의 기능을 정기적으로 검토하고 연구 관행을 모니터링하는 것이 포함된다. 베이커는 자신의 분야에서 소프트웨어가 널리 사용되기 전에 이를 검토하고 필요한 경우 '가드레일(guardrail)'을 권고할 수 있는 전문가 위원회를 설립하기를 원하고 있다.

이 이니셔티브는 또한 AI가 설계한 단백질을 실제 분자로 변환하는 핵심 단계인 DNA 합성에 대한 스크리닝을 개선할 것을 요구한다. 현재 이 서비스를 제공하는 많은 회사가 '국제 유전자 합성 컨소시엄(IGSC)'이라는 산업 그룹에 가입되어 있어 독소나 병원균과 같은 유해한 분자를 식별하기 위해 주문을 선별해야 한다.

캘리포니아주 샌프란시스코 남부에 위치한 DNA 합성 회사인 트위스트 바이오사이언스의 바이오보안 책임자이자 IGSC의 의장인 제임스 디건스는 "AI로 인한 위협을 방어하는 가장 좋은 방법은 이러한 위협을 탐지할 수 있는 AI 모델을 갖추는 것"이라고 말한다.

위험 평가
각국 정부도 AI로 인한 생물보안 위험에 대처하기 위해 고심하고 있는 것으로 알려졌다. 지난해 10월, 조 바이든 미국 대통령은 이러한 위험에 대한 평가를 요청하는 행정 명령에 서명하고 연방 자금 지원을 받는 연구에 대해 DNA 합성 검사를 의무화할 가능성을 제기한 바 있다.

베이커는 정부 규제가 이 분야의 미래가 아니기를 바라며, AI가 설계한 단백질이 생산할 수 있는 약물, 백신 및 재료의 개발을 제한할 수 있다고 말한다. 한편 디건스는 단백질 설계 도구는 개발 속도가 빠르기 때문에 어떻게 규제할 수 있을지 불분명하다고 덧붙이고 있다. 그는 "한 주에는 적절했다가 다음 주에도 여전히 적절한 규제가 적용된다고 상상하기는 어렵다"라고 우려한다.

그러나 캘리포니아 스탠포드대의 미생물학자인 데이비드 릴먼은 과학자 주도의 노력만으로는 AI의 안전한 사용을 보장하기에 충분하지 않다면서 "자연 과학자만으로는 더 많은 대중의 이익을 대변할 수 없다"고 걱정하고 있다.

이제 자연을 모방하고 영감을 얻는 지속가능한 청색기술이  AI가 설계한 단백질의 안전성과 윤리적인 면 모두를 담보할 수 있는 혁신적인 개념으로 새삼스럽게 떠오르고 있다.