(資料圖片僅供參考)

由OpenAI 開發的人工智能（AI）驅動的聊天機器人ChatGPT 迅速引起了所有職業領域的轟動。ChatGPT的名字來源于它基于的生成性預約束轉換器(Generative Pre-trained Transformer，GPT)語言模型，其最具前沿性的特征是它能夠通過深度學習技術對輸入的文本做出類似人類的反應，其智能水平遠遠勝過其他人工智能模型。

ChatGPT囊括1750 億個參數，這使其成為當今最大且強有力的人工智能處理模型之一，也因其給出的反應更加人性化，因此在越來越多不同職業場景中使用，不難想象在未來它也將會擴展應用到臨床和轉化醫學。

ChatGPT 的新興應用在科學界引發了一場劇變，并引起了圍繞使用人工智能撰寫科學出版物的倫理問題的辯論，而這些出版物可能會影響醫生、研究人員和政策制定者的決策。

ChatGPT ：提供的不總是對的

ChatGPT 最顯著的缺點是它編譯的信息并不總是準確的，這一弊端在學術出版中尤其不利——畢竟，進步取決于分享適當的信息。在科學環境中不正確的數據呈現具有很大的危害性和風險性。

另外，對于一個由知識提升、加強干預和制定循證政策的極具時效性的領域來說，正在不斷擴大的信息差是一個不容忽視的障礙。如果學者們利用 ChatGPT 來進行內容創作，可能會包含虛假或過時的論文信息，其將損害作者在同行中的信譽。

ChatGPT ：使用的隱藏性

ChatGPT是一把雙刃劍的原因還在于：學者幾乎無法發現其他專業人士是否使用以及何時使用過它。西北大學（Northwestern University）的研究人員要求 ChatGPT 根據醫學期刊上發表的一系列文章撰寫 50 篇醫學研究摘要，隨后要求一組醫學研究人員找出這些捏造摘要——閱稿人只能正確識別 68%的 ChatGPT 生成的摘要和86%的真實摘要。這樣的結果證實了ChatGPT寫出了可信（盡管可能不準確）的科學摘要。

這項研究的結果對那些有意使用 ChatGPT 來推動寫作的人來說無疑是個福音，因為由此創作的作品可能并不會被認為是人工智能生成的。

然而，無法識別有效信息的問題也將隨之而來。科學家可能會遵循有缺陷的研究路線，從而造成研究經費的浪費和具有誤導性的結果；對于政策制定者來說，無法甄別虛假的研究將制定出基于錯誤信息的決策，從而對社會產生巨大影響。

由于這些影響，學界和科學出版界未來可能很快就會有禁止人工智能生成內容的政策，無論以任何身份使用ChatGPT的人都需要了解這些授權。

第40屆國際機器學習會議已經禁止了包括ChatGPT在內的AI工具撰寫的論文；Science系列期刊也在更新他們的許可和編輯政策，明確反對ChatGPT制作的文稿。他們在一篇社論中闡明了他們的立場，指出大多數科學不端行為的案例源于人類注意力的不足，允許ChatGPT生成的內容則將顯著增加了這種風險。

ChatGPT ：科研創新小助手

并非所有與ChatGPT相關的問題都會引起科研領域內的擔憂。2023年2月Nature雜志的一篇文章描述了計算生物學家使用ChatGPT來改進已完成的研究論文。在短短五分鐘內，生物學家們收到了對他們手稿的審查，這不僅增加了手稿的可讀性，還發現了在方程上的錯誤。在對三個手稿的進行試驗的過程中，盡管團隊對ChatGPT的使用并不總是一帆風順，但最終都得到了一篇潤色更好的文章。

將ChatGPT用于此目的則避免了科學界對人工智能使用不準確或過時信息的主要擔憂，因為根據計算生物學家最初撰寫的手稿，信息已經是準確的和最新的。ChatGPT可以幫助提高研究人員的生產力和內容的質量。而如果科學家們能花費更少的時間在文章編輯上，則可以投入更多的時間來推進醫學領域的科學研究。

不難看出，ChatGPT 對那些希望驗證答案或發現工作中問題的研究人員來說是很有益處的。然而到目前為止，由于ChatGPT還未接受過足夠的專業內容訓練，因此無法對技術進行事實性查驗。

ChatGPT ：應用于科研的挑戰和機遇

專家預計，集成ChatGPT的技術和項目將成為人工智能系統的先導。與此同時，這樣一個聊天機器人可以協助手稿編輯從而在學術和科學出版界中發揮積極作用。即便如此，ChatGPT 的使用者人必須意識到它的局限性。

正如Nature Machine Intelligence 雜志1月份發表的一篇社論所說，目前，我們不能指望ChatGPT提供正確的事實或可靠的參考，接受ChatGPT的局限性并僅將其用于某些任務，允許研究人員將乏味的工作（如手稿編輯）委托給人工智能模型，同時需要避免發布虛假信息等災難性后果的發生。

隨著 ChatGPT 的普及，調整對其能力的預期并接受它不能承擔每一份工作將是至關重要的。特別是在學術研究領域，任何需要專業學科知識或創新性思想和觀點的任務仍然需要人工智能無法替代的、真正的人情味。

ChatGPT ：并不是一個作家

由于ChatGPT在提供可靠信息方面不斷發展的局限性和潛力，在對ChatGPT進行迭代時必須十分謹慎：人工智能能代替人工輸入嗎？在此，H. Holden Thorp教授對于ChatGPT的觀點可能更為準確：“ChatGPT很有趣,但不是一個作家”。

科學家可以利用成熟的人工智能工具來提高工作效率等任務的校對和手稿審查。在未來,AI工具的使用可能能夠幫助他們在科學研究領域取得更廣泛的突破和更高的認可度,但更多需要根據自己的能力來進行人工輸入。

對于倫理與道德之間界限的討論需要進一步推進，在衛生研究中AI的使用也需要進一步探索建立指導方針。所有研究人員和參與者必須了解人工智能的安全和禁止范圍是哪些。因此，編輯和編輯委員會成員應繼續監管ChatGPT在學術研究中的應用，以起草期刊政策，讓撰稿人了解到人工智能的最佳實踐方式——畢竟,卓越的研究需要用道德和誠信來衡量。

參考文獻：

[1]Agüera y Arcas, B. (2022). Can machines learn how to behave? Medium. https://medium.com/@blaisea/can-machines-learn-how-to-behave-42a02a57fadb.

[2]Churchland, P. S. (2019). Conscience: The origins of moral intuition. Norton.

[3]Rowling, J. K. (1997). Harry Potter and the sorcerer"s stone, Bloomsbury.

[4]Hofstadter, D. (2022). Artificial neural networks are making strides towards consciousness. Economist (June 9).

[5]Lemoine, B. (2022). Is LaMDA sentient?: An interview. Medium. https://cajundiscordian.medium.com/is-lamda-sentient-an-interview-ea64d916d917.

[6]van Dis E, Bollen J, Zuidema W, van Rooij R, Bockting C. Chat-GPT: five priorities for research.Nature. 2023;614(7947):224-226.https://doi.org/10.1038/d41586-023-00288-7.

[7]Stokel-WalkerC,VanNoordenR.WhatChatGPTandgenerativeAI mean for science.Nature. 2023;614(7947):214-216.https://doi.org/10.1038/d41586-023-00340-6.

[8]The AI writing on the wall.Nat Mach.2023;5(1):1.https://doi.org/10.1038/s42256-023-00613-9

[9]Seyhan, A. Lost in translation: the valley of death across pre-clinical and clinical divide – identification of problems andovercoming obstacles.Transl Med Commun. 2019;4.https://doi.org/10.1186/s41231-019-0050-7

[10]Samuel G, Chubb J, Derrick G. Boundaries between researchethics and ethical research use in artificial intelligence healthresearch.JEmpirResHum. 2021;16(3):325-337.https://doi.org/10.1177/15562646211002744How to cite this article:Wen J, Wang W. Thefuture of ChatGPT in academic research andpublishing: A commentary forclinical andtranslational medicine.Clin Transl Med.2023;13:e1207.https://doi.org/10.1002/ctm2.1207

關鍵詞：