ChatGPT利與弊分析

在不到兩個月的時間里，人工智能（AI）項目ChatGPT已經成為一種文化轟動。它可以通過工具開發者OpenAI創建的門戶網站自由訪問。

基于書面提示自動創建文本的程序非常流行，如果你嘗試使用它，它很可能會“現在無法使用”。當你成功完成后，ChatGPT會提供無盡的娛樂。我要求它重寫經典美劇《推銷員之死》的第一幕，但以動畫電影《冰雪奇緣》中的埃爾莎公主為主角，而不是威利·洛曼。結果是一場有趣的對話，在這場對話中，兒子Happy告訴結束了艱難的一天銷售回家的艾爾莎：“來吧，媽媽。你是來自《冰雪奇緣》的艾爾莎。你有冰的力量，你是女王。你勢不可擋。”，但是對于像ChatGPT這樣的人工智能項目在科學界和學術界有著嚴重的影響。

Machines play an important role, but as tools for the people posing the hypotheses...and making sense of the result

ChatGPT（Generative Pre-trained Transformer）是用一種稱為“從人類反饋中強化學習”的技術開發出來的，用于訓練語言模型，使其能夠非常對話。正如該網站所言，“ChatGPT有時會寫出看似合理但不正確或荒謬的答案。”幾個例子表明，它可能會犯下明顯的錯誤，包括引用一項不存在的科學研究。許多擔憂與ChatGPT將如何改變教育有關。它當然可以寫一系列主題的文章。我給了它一次考試和一個期末項目，我在喬治·華盛頓大學教的一門關于科學的課上給了學生。它確實找到了事實的答案，但學術寫作還有很長的路要走。如果有的話，這對教育的影響可能會促使學者們以創新的方式重新思考他們的課程，并給出人工智能不容易解決的作業。

更令人擔憂的是ChatGPT對撰寫科學論文的影響。在最近的一項研究中，ChatGPT創建的摘要被提交給學術評審員，他們只發現了63%的造假。這是大量人工智能生成的文本，可能很快就會進入文獻。多年來，《科學》系列期刊的作者簽署了一份許可證，證明“作品是原創的”。對于《科學》雜志來說，“原創”一詞足以表明ChatGPT撰寫的文本是不可接受的：畢竟，它是從ChatGPT剽竊的。此外，我們的作者證明他們自己對論文中的研究負責。盡管如此，為了明確起見，我們現在正在更新我們的許可證和編輯政策，以規定ChatGPT（或任何其他人工智能工具）生成的文本不能用于工作，數字、圖像或圖形也不能作為此類工具的產品。人工智能程序不能是作者。違反這些政策將構成科學不端行為，與修改圖像或剽竊現有作品無異。當然，有許多合法的數據集（不是論文的文本）是人工智能在研究論文中故意生成的，而這些數據集并沒有被這種變化所涵蓋。

《科學期刊》處理的大多數科學不端行為都是因為人類注意力不足。快捷方式是通過使用Photoshop等圖像處理程序或從其他來源復制文本來實現的。更改的圖像和復制的文本可能會被忽略，因為它們沒有受到每位作者的仔細檢查。在我們這一方面，當編輯和審稿人不聽從他們內心的懷疑者的話，或者當我們沒有把注意力集中在細節上時，就會出現錯誤。在人們對科學的信任正在減弱的時候，科學家們必須重新致力于對細節的細致關注。科學記錄最終是人類努力解決重要問題的一部分。機器扮演著重要的角色，但它是人們提出假設、設計實驗和理解結果的工具。最終，產品必須來自我們頭腦中的奇妙計算機并由其表達。