慎重！不要拿 ChatGPT 干這 6 件事

譯者 | 明明如月出品 | CSDN（ID：CSDNnews）

ChatGPT 極其強大，對我們與計算機的互動方式產生了變革性影響。然而，像任何工具一樣，理解其限制并正確使用它非常重要。以下是你不應該用 ChatGPT 去做的 6 事情。

ChatGPT 的局限在我們深入具體內容之前，理解 ChatGPT 的局限是至關重要的。首先，它不能訪問實時或個人數據，除非在對話中明確提供，或者你已啟用 ChatGPT 的聯網插件。在未啟用瀏覽功能（這需要 ChatGPT Plus）的情況下，它根據在訓練過程中學習到的模式和信息生成回應，這包括在其訓練截止日期 2021 年 9 月之前的大量互聯網文本。但是，它并不以人類的感知“知道”任何事情，或者像人類那樣理解上下文。雖然 ChatGPT 經常能生成令人印象深刻的連貫和相關的回應，但它并非無懈可擊。它可能會產生錯誤或無意義的答案。其熟練程度在很大程度上取決于給出的提示的質量和清晰度。

不要在 ChatGPT 中使用敏感信息
由于其設計和工作方式，ChatGPT 不是分享或處理敏感信息的安全渠道。這包括財務詳情，密碼，個人身份信息或保密數據。最近，OpenAI 添加了一種新的“隱身”模式，以防止你的聊天記錄被存儲或用于未來的訓練，但只有你能決定是否信任這個承諾。一些公司，如三星，已經因為數據泄露禁止員工在工作中使用 ChatGPT。

不要用它來獲取法律或醫療建議
ChatGPT 沒有被認證，不能提供準確的法律或醫療建議。它的回應是基于它在訓練數據中可用的模式和信息。它無法理解個別法律或醫療案例的細微差別和具體情況。雖然它可能提供關于法律或醫療話題的一般信息，但你應該始終咨詢有資質的專業人士以獲得這樣的建議。GPT 是一項有前途的技術，無疑有潛力應用到合法的醫療診斷，但這將以專業化，經過認證的醫療 AI 系統的形式出現。它并非公眾可用的通用 ChatGPT 產品。

不要用它來替你做決定
ChatGPT 可以提供信息，提出選項，甚至基于提示模擬決策過程。但是，必須記住，AI 不理解其輸出的真實世界影響。它無法考慮到決策中涉及的所有人類方面，如情緒，道德或個人價值觀。因此，雖然它可以是頭腦風暴或探索想法的有用工具，但人類應始終做出最后的決定。對于 ChatGPT 3.5，這一點尤為重要，因為它是 ChatGPT 默認模型，也是目前唯一對免費用戶開放的模型。GPT 3.5 的推理能力明顯低于 GPT 4！

不要把它當作可信賴的來源
雖然 ChatGPT 受到大量信息的訓練并經常提供準確的回應，但它并不是權威的真實來源。它無法驗證信息或實時檢查事實。因此，從 ChatGPT 獲取的任何信息都應與可信賴和權威的來源進行交叉驗證，尤其是關于新聞，科學事實或歷史事件等重要事項。ChatGPT 容易出現“幻覺” 給出一些聽起來真實，但完全捏造的事實。大家要特別小心！

不要把 ChatGPT 當作心理咨詢師
雖然像 ChatGPT 這樣的 AI 技術可以模擬富有同情心的回應并提供一些普遍性的建議，但它們不能替代專業的心理健康支持。它們無法深入理解和處理人類的情緒。AI 不能替代人類心理咨詢師所固有的微妙理解，情緒共鳴和道德準則。對于任何嚴重的情緒或心理問題，始終尋求獲得執照的心理健康專業人士的幫助。

不要使用 ChatGPT 來做數學！乍一看，讓像 ChatGPT 這樣的 AI 幫助你做數學作業似乎是一種自然的應用。然而，需要注意的是，ChatGPT 的強項是語言，而不是數學。盡管其訓練數據龐大，但其準確執行復雜的數學運算或解決復雜問題的能力是有限的。雖然 ChatGPT 是一個令人印象深刻的工具，有廣泛的應用范圍，但理解其局限性至關重要。正確地使用這個工具將有助于發揮它作為輔助工具的優勢，而不是讓它成為誤導或可能有害的信息來源。