인공지능이 작성하고 검토한 논문을 환영하는 새로운 사전 출판 서버가 개설되었습니다.
기계가 생성하는 과학 연구 속도를 따라잡기 위해 인간 동료 검토가 어려움을 겪자, aiXiv는 봇을 활용하여 도움을 받고 있습니다.
2025년 12월 10일오후 5시 25분 (미국 동부시간)셀리나 자오 지음
종이를 관통하는 파란색 선들의 그림
A. 마스틴/ 과학
대부분의 과학 학술지에서는 인공지능(AI)이 공동 저술한 논문을 환영하지 않습니다. 하지만 aiXiv 라는 새로운 개방형 플랫폼에서는 AI 논문을 적극적으로 수용합니다. 이 플랫폼은 AI에 전폭적인 지원을 아끼지 않습니다. AI와 사람이 공동 저술한 논문을 모두 게재하고, 내장된 AI 검토 시스템을 통해 기본적인 품질 검사를 진행하며, 챗봇의 피드백을 바탕으로 저자가 논문을 수정하도록 안내합니다. aiXiv의 공동 창립자이자 맨체스터 대학교에서 AI와 경영학을 전공하는 박사 과정생인 구웨이 황은 "AI가 생성한 지식을 다르게 취급해서는 안 됩니다."라고 말합니다. "우리가 신경 써야 할 것은 품질이지, 누가 생산했는지는 중요하지 않습니다."
이 플랫폼은 아직 초기 단계에 있으며, 11월 중순 업데이트 이후에도 수십 편의 논문과 초기 단계 제안서만 등록되어 있습니다. 그러나 많은 연구자들은 이 플랫폼이 인공지능의 합법적 및 불법적 사용으로 인해 급증하는 논문들을 감당해야 하는 과부하 상태의 인간 심사 시스템에 반가운 숨통을 트여줄 것으로 기대하고 있습니다.
오리건 주립대학교 컴퓨터 과학 명예교수인 토마스 디터리히는 "자동화 과학 커뮤니티가 자신들의 연구를 어떻게 평가할 것인지에 대한 책임을 지는 것이 매우 중요하다"고 말합니다.
사이언스 데일리 헤드라인 뉴스레터를 구독하세요
이와 같은 유익한 콘텐츠를 더 많이 받아보세요!
하지만 디터리히를 비롯한 전문가들은 aiXiv와 같은 AI 친화적인 실험들이 과학계의 오랜 난제인 부정 연구나 피상적인 동료 심사 등에 필연적으로 직면하게 될 것이라고 경고합니다. 그는 "이러한 모델들은 과학 연구의 실제 모습을 점점 더 잘 모방하게 되지만, 반드시 더 나은 과학자가 되는 것은 아니다"라며, "과연 연구의 진정성을 어떻게 보장할 수 있을까?"라고 질문합니다.
현재 과학 출판사들 사이에서는 인공지능(AI)을 어떻게 다뤄야 할지에 대한 의견 일치가 거의 이루어지지 않고 있습니다 . AI는 여러 분야에서 논문 발표량을 급증시키고 있는데, 많은 학술지( Science 포함 )는 여전히 AI로 생성된 원고를 아예 금지하고 있습니다. 일부 학술지는 AI를 활용한 논문 작성을 허용하되, 그 사실을 공개하도록 요구합니다.
논문 사전 공개 서버들도 압박을 받고 있습니다. 의심스러운 논문들이 증가했다는 이유로, arXiv는 10월에 동료 심사를 거친 논문이 아니면 컴퓨터 과학 분야의 리뷰 논문이나 정책 논문을 더 이상 게시하지 않겠다고 발표했습니다. arXiv 컴퓨터 과학 부문 책임자인 디터리히는 "자동화된 AI 작성 문서는 arXiv의 모델을 심각하게 훼손하고 있다"고 말했습니다.
다른 이들은 AI 도구 자체를 활용하고 있습니다. AI의 도움을 받은 논문이 급증함에 따라, bioRxiv와 medRxiv를 운영하는 비영리 단체인 openRxiv는 지난달 논문 사전 공개본에 대한 피드백을 신속하게 생성하기 위해 AI 검토 도구를 추가할 것이라고 발표했습니다.
하지만 대부분의 학회나 학술지처럼 이러한 서버들도 여전히 AI 시스템을 저자로 명시하는 것을 금지하고 있는데, 이는 연구자들이 AI를 사용하면서도 그 사실을 밝히지 않도록 의도치 않게 부추기는 결과를 낳습니다 . 황 교수는 이러한 투명성 부족을 "절대 용납할 수 없다"고 비판했습니다.
그가 토론토 대학교(UToronto), 옥스퍼드 대학교, 칭화 대학교 등 여러 기관의 연구진과 협력하여 aiXiv를 설립한 이유 중 하나가 바로 이것입니다. 싱가포르에 본사를 둔 보리움(Bohrium)과 중국에 본사를 둔 DP 테크놀로지(DP Technology)와 같은 기술 기업들과도 파트너십을 맺고 있는 이 플랫폼은 스스로를 "확장 가능한 과학적 결과물을 위한 AI 시대의 최초의 구조화된 동료 검토 및 반복적 출판 인프라"라고 소개합니다.
논문이 제출되면, 자율적으로 작업을 완료하도록 조정된 대규모 언어 모델인 다섯 개의 "에이전트"가 논문의 독창성, 기술적 타당성, 그리고 잠재적 영향력을 평가합니다. 이 시스템은 부정행위를 방지하는 장치도 갖추고 있습니다. 예를 들어, 저자가 유리한 평가를 받기 위해 원고에 숨겨진 지시사항을 삽입하려는 시도를 감지할 수 있습니다. 다섯 개의 에이전트 중 세 개가 논문 게재를 권장하면 논문은 게시됩니다. 저자는 에이전트의 피드백을 바탕으로 논문을 수정하고 다시 제출하여 심사 과정을 거칠 수 있습니다. 저자들은 8월에 공개된 사전 논문 에서 예비 테스트 결과 이러한 반복적인 과정이 AI가 생성한 논문의 품질을 향상시키는 것으로 나타났다고 주장합니다. 황 연구원은 AiXiv의 인프라가 수천 건의 논문 제출을 처리할 수 있으며, 기존의 동료 심사 방식이 몇 달 또는 몇 년이 걸리는 것과 달리 일반적으로 1~2분 만에 심사 결과를 생성할 수 있다고 덧붙였습니다.
현재 이 사이트에는 독특한 물리학 이론부터 AI의 인지 능력을 평가하기 위해 "열 쾌적성 테스트"를 사용한 연구에 이르기까지 다양한 제출물이 있습니다. 토론토 대학교의 AI 연구원인 펭송 장에 따르면, 이 사이트는 현재 공식적으로 논문을 "접수"하는 것은 아닙니다. 오히려 모든 제출물은 플랫폼이 AI 검토 시스템을 개선하기 위한 실험의 일환으로 게시되고 있습니다.
다른 곳에서 진행된 초기 실험들은 이 문제가 얼마나 어려울 수 있는지를 시사합니다. AI를 제1 저자이자 심사위원으로 활용한 최초의 학회였던 Agents4Science(10월 개최)에서는 엇갈린 결과가 나타났습니다. 심사 시스템은 수치상의 불일치나 잘못된 참고 문헌을 잡아내는 데는 효과적이었지만, 논문의 독창성이나 영향력에 대해 지나치게 긍정적인 평가를 내리는 경우가 많았습니다. Agents4Science의 주최자이자 스탠포드 대학교의 생의학 데이터 과학자 겸 AI 연구원인 제임스 조우는 엄격하게 구조화된 학회와 비교했을 때, 사전 출판 서버는 "더욱 이질적이고 허술한 부분이 많아 이를 잡아내기가 더 어렵다"고 말합니다.
사람들은 aiXiv가 그러한 함정을 피할 수 있을지 예의주시할 것입니다. 코펜하겐 대학교의 생명윤리학자 세바스티안 포르스담 만은 "aiXiv가 저품질 논문의 쓰레기장이 되지 않도록 경계해야 합니다."라고 덧붙였습니다. "만약 이 플랫폼이 과학적 엄밀성보다는 저품질의 양적 축적과 연관된다면, AI 기반 연구 분야 전체의 정당성을 훼손하고 훌륭한 AI 연구를 모두 외면하게 될 것입니다."
AiXiv의 창립자들은 여전히 낙관적입니다. 장 대표는 팀이 10월에 열린 대규모 로봇 공학 학회에서 발표된 30편의 논문에 대해 AiXiv의 AI 검토 결과와 사람이 작성한 검토 결과를 비교한 데이터를 수집했다고 밝혔습니다. 이 데이터는 아직 공개되지 않았습니다. 장 대표에 따르면, AI 검토 결과는 대체로 사람의 평가 점수와 일치했으며, 일부 경우에는 더 자세한 피드백을 제공했습니다.
포르스담 만은 "AI 리뷰와 AI 과학에 대해 제기된 많은 문제들이 현행 시스템에도 그대로 적용된다"며 "AI가 이러한 문제들을 더욱 부각시킬 뿐"이라고 말합니다. 카네기멜론 대학교 컴퓨터 과학자 니하르 샤 역시 이에 동의하며, aiXiv의 등장은 "실험의 출처를 더 잘 추적하고 사람(또는 AI)이 실제로 실험을 수행했음을 검증 가능한 방식으로 인증하는 방법"에 대한 논의를 가속화하고 있다고 지적합니다.
샤는 "AI가 많은 연구를 진행하게 될 거의 필연적인 결과"에 대비하면서, aiXiv가 제기하는 질문들은 사라지지 않을 것이라고 말합니다. "이 플랫폼이 성공하든 실패하든, 이미 훌륭한 논의를 시작했습니다. 그것만으로도 충분히 칭찬할 만합니다."