웹사이트 소개
Introduction of the website
fluorF 소개
Introduction of fluorF
새로운 소식
News
하루 이야기
Daily essay
글
Articles
사진첩
Album
방명록
Guestbook
하루 이야기
Daily essay
연도별 책갈피
today 2025 2024 2023 2022 2021 2020 2019 2018 2017 2016 2015 2014 2013 2012 2011 2010 2009 2008 2007 2006 2005 2004오늘 너무 충격적인 경험을 하고 왔다. 모 저널에서 동료평가를 요청한다기에 이를 수락했고, 마침 기일인 오늘에야 겨우 읽어보고 결정할 기회가 생겨서 논문을 읽기 시작했다.
일단 총설(review) 논문이라 길이가 긴 것은 둘째 치고, 중동의 한 국가에서 근무하는 연구원이 작성하여 투고한 논문인데 영어가 너무 술술 잘 읽히는 게 무척 의심스러울 정도였다. 지금까지 이 지역에서 작성된 논문을 읽다보면 아무리 내가 원어민은 아니더라도 숱한 오류가 잘못된 표현을 발견할 수 있었는데 말이다. 어쩌면 나처럼 ChatGPT의 도움을 받아 영어를 세심하게 다듬었겠구나, 뭐 그런 생각을 하면서 논문을 읽고 있었다. 하지만 논문 내용이 정보를 담고 있는 것 같기는 한데 굉장히 수박 겉핡기같기도 하거니와 비슷한 말이 반복되는 느낌도 들고, 장황하게 길기는 하되 뭔가 제대로 된 정보를 제공한다는 느낌을 받지 못했다. 게다가 총설 논문에서 으레 볼 수 있는 그림 자료가 하나도 없어서 '이렇게 정보가 부실한 논문은 절대 받아들일 수 없다.' 뭐 이런 생각을 하고 있었다.
그런데 이 저널의 논문 인용 표기 방식이 Chicago style이라서 문장이나 어구 뒤에 바로 괄호 치고 저자 이름과 출판연도가 나와 있기에 ㅡ 예를 들면 (Kim, 2018) 이런 식으로 ㅡ 슬쩍 보는데...... 어라? 그 페이지에 있는 모든 인용 문헌의 저자는 2명씩이고, 출판연도는 2023년, 2024년, 2025년, 심지어 2026년도 있었다?!?! 의심이 여기에 이르자 나는 읽던 것을 멈추고 논문 맨 마지막의 reference list부터 보았다. 여기에서 난 큰 충격을 먹을 수밖에 없었다. 모든 인용 문헌의 출판연도는 2023-2026년이었고, 모든 문헌의 저자는 약속이나 한 듯 2명씩이었다. 아니, 2026년에 출판된다는 미래 논문을 어떻게 저자가 인용하나? 심지어 이들 논문에는 권호수와 같은 서지 정보도 완벽하게 적혀 있었다. 아래처럼 말이다.
Silva, R., & Costa, L. (2026). Bio-inspired catalysts for sustainable textile desizing. Textile Chemistry and Engineering, 11(3), 45–59. https://doi.org/10.1234/tce.2026.002 (Note: Hypothetical DOI; actual DOI unavailable)
저런 제목의 논문은 검색도 불가능했고, 애초에 Textile Chemistry and Engineering이라는 저널도 존재하지 않았다. DOI 주소도 가짜였고, 우스운 건 그 뒤에 (참고: 가상 DOI임. 진짜 DOI 쓰일 수 없음) 이라는 말까지 붙어 있다는 것이었다.
이것을 보자마자 아주 명쾌한 결론에 이를 수 있었다 ㅡ 이 논문은 인공지능(AI)에 의해 생성된 가짜 논문이다!
그래서 최종결정을 rejection이라 하고, 분노의 감정을 최대한 삭인 채 1/3 페이지 정도의 리뷰 레포트(review report)를 써서 제출했다. 그런데 요즘은 리뷰 레포트 제출을 하면 그날까지 다른 리뷰어들이 남긴 최종결정과 리뷰 레포트를 열람할 수 있는데, 내가 기일에 레포트를 제출했으니, 그 전에 리뷰를 완료한 나머지 3명의 리뷰 레포트를 모두 확인할 수 있었다.
그런데, 여기서 나는 더 큰 충격을 먹을수 밖에 없었다 ㅡ Minor revision 1 + Major revision 2 였던 것이다!!! 그리고 세 리뷰어 중 AI에 의한 논문 생성의 가능성을 지적한 이는 아무도 없었다. 심지어 어떤 리뷰어는 레포트 첫 문장이 'This article provides a good review on ~'였다. 내 참, 기가 막혀서. 그래서 나는 기어이 버튼을 눌러 이 논문의 동료 평가를 관장하는 편집장에게 이 논문이 절대로 게재되어서는 절대 안 된다고 강하게 어필하는 메일을 보냈다.
최근 KAIST를 비롯한 세계 유수의 대학 연구진들이 투고한 컴퓨터과학 분야 논문 내용 중에 AI가 긍정적인 리뷰를 하게끔 유도하는 명령어를 삽입한 것이 밝혀지면서 큰 파장이 일었다 (AI 심사관에 "좋은 평가 줘"... 논문 속 감춘 '비밀 명령문'. 조선일보. 2025-07-01). 이 사건은 동료평가의 본질을 망각한 채 AI에 모든 것을 일임하면서 자신의 의무를 손쉽게 해결하려는 일부 과학자들의 몰지각한 태도와 그것을 간파하고 교묘한 술수로 이용해 먹으려고 했던 다른 과학자들의 추태를 동시에 드러낸 추악한 사건이었다. 나는 이전부터 수차례 현재 과학 출판업의 구조는 20세기에나 유효하지, 요즘같이 수많은 기술이 급속도로 발전한 시대에는 걸맞지 않은 굉장히 낙후된 시스템임을 지적한 바 있었다. 자정과 혁신을 뒤로 한 채 과학 출판의 본질은 망각하고 영향 지수(impact factor) 장사와 오픈 액세스(open access)를 통한 수익 창출에만 목매달더니, 이제 과학 출판업은 위기에 직면하고야 말았다.
그런데 과학 출판업 뿐인가? 거기에 많은 것을 외부조달(outsourcing)했던 우리 과학자 커뮤니티도 위기에 처한 것은 마찬가지이다. 이제 윤리와 탐구는 실종되어 간다. 논문을 왜 쓰는가? 연구를 왜 하는가? 왜 배워야 하는가?
왜 사는가?
For the sake! Of the call!
-fluorF-
안녕하세요, 몇 년전에도 여기에 글 남긴 적이 있으며, 오랜 만에 들어와서 황당하면서도 재밌는 사례를 목격했네요.
저는 대학원 졸업 후 회사에서 일하느라 SCI 논문은 안쓰지만, 필요 시 자료를 수집하고 요약하는 데 AI 도움을 받고 있습니다. 그러나, 혹시 거짓말로 사기치지 않았나 이중 확인도 해야 하는 지라, 인간의 행위가 더 빨라졌다고 느낄 뿐이지 기계가 다 해준다는 생각은 가져본 적 없습니다.
중동의 누군인지는 모르겠지만, 연구자로서 해서는 안될 짓을 해놓고, 빼도 박도 못하는 흔적까지 남겨 놓다니...
자질도 없거니와 요령과 센스조차 아마추어보다 못한 수준으로 보여지네요...
기계의 도움으로 자료를 수집하고 요약까지는 하더라도, 이를 참고하고 현행 연구자들의 니즈까지 고려해, 향후 연구 방향성과 시사점을 도출하는 것은 신중함이 필요한 고도의 가치 판단 영역인데요. 이런 고도의 단계까지 AI의 도움으로 쉽게 할려는 것은 연구자의 자질을 버린 것과 다를 바 없다 봅니다.
따라서, 연구자로서 자질과 센스도 없이 AI 도움으로 거저먹기 식으로 논문을 작성하는 행위에 대하여는, 앞으로도 책임감 갖고 제지해 주시길 응원합니다.
깊은 사고와 성찰이 필요한 논문 작성은 인공지능으로 대체될 정도로 만만치 않다는 것을요.
안녕하세요, Kaiser님. 정말이지 말씀하신대로 AI의 발전은 역설적으로 인간의 통찰력과 수준 높은 지식/사고 체계의 중요성을 더욱 강조합니다. 세상은 이제 둘로 나뉘겠지요 ㅡ 기계가 모든 것을 다 해주니까 그것에 안주해서 자신의 모든 영역을 기계 안으로 가두는 다수의 일반인, 그리고 기계의 연산 값을 분별하는 것을 넘어서 이것을 또다른 연산 값과 연결지어 획기적인 발전을 이룩하는 소수의 엘리트. AI가 발전할수록 오히려 글을 쓰고 읽는 실력이 중요해지는 것인데, 이를 거꾸로 이해하고 모든 것을 기계에 외주를 주려는 사람들이 너무 많은 것 같아 안타까울 뿐입니다.
오늘 아침, 편집장이 메일을 보냈다. 조사 결과 AI에 의해 생성된 논문이 맞는 것 같다며, 논문을 거절하는 동시에 저자들에게 주의 조치가 내려졌음(flagged)을 안내해 주었다. 다행이다.