新聞中心

        EEPW首頁 > 智能計算 > 業界動態 > 跟AI聊天?這五件事千萬別說!

        跟AI聊天?這五件事千萬別說!

        作者: 時間:2025-03-31 來源:網易科技 收藏

        如今已經成為人們的常用工具。但在使用過程中,不要讓自己的成為人工智能的訓練素材,或者因為數據泄露而被曝光。                                    

        本文引用地址:http://www.104case.com/article/202503/468823.htm

        3月31日消息,過去幾年,用戶能從Open中學到了不少東西,而這個也記錄了許多關于用戶的個人信息。

        它從無數次的用戶交流中收集了大量個人信息,比如誰喜歡吃雞蛋,某些用戶的小寶寶需要靠哺乳入睡,還有用戶因為背痛需要調整運動方式。

        它甚至記住了更多更為私密、不便詳述的細節信息。

        無論選擇哪種:分享越多,它們就越有用。患者上傳血液報告分析,工程師粘貼未發布代碼尋求調試。但人工智能專家提醒,我們應該對這類擬人化工具保持警惕,諸如社會保障號碼、企業機密數據等敏感信息尤其需要防范。

        盡管科技公司急于利用數據來優化模型,但它們并不希望獲取用戶數據。Open明確警示,“請勿在對話中透露任何敏感信息。”谷歌也向Gemini用戶強調:“避免輸入機密信息或您不愿意被審核者查看的內容。”

        人工智能研究人員認為,關于奇怪皮疹或財務失誤的聊天記錄,既可能成為訓練新版人工智能的素材,也可能因為數據泄露而曝光。以下列舉用戶應當避免輸入的內容,并分享一些保護的對話技巧:

        聊天機器人逼真的人性化表達方式常會使人放下戒備。斯坦福以人為本人工智能研究所研究員詹妮弗·金(Jennifer King)提醒,一旦在聊天機器人中輸入信息,“你就失去了對這些信息的掌控。”

        2023年3月,漏洞使得部分用戶可以窺見他人初始對話內容,所幸公司很快就修復了漏洞。Open此前還曾誤發訂閱確認郵件,導致用戶姓名、電子郵件地址和支付信息外泄。

        若遭遇數據黑客攻擊或需配合司法搜查令,聊天記錄可能被包含在泄露數據中。建議為賬戶設置高強度密碼并啟用多重認證,同時避免輸入以下具體信息:

        身份標識信息。包括社會保障號碼、駕照號碼和護照號碼,出生日期、住址和聯系電話。部分聊天機器人具備此類信息自動脫敏功能,系統會主動屏蔽敏感字段。發言人表示,“我們致力于讓人工智能模型學習世界而非個人隱私,并積極減少個人信息收集。”

        醫療檢測報告。醫療保密制度本為防止歧視和尷尬,但聊天機器人通常不受醫療數據的特殊保護。若需要人工智能解讀檢測報告,斯坦福研究中心的金建議:“請先對圖片或文檔進行裁剪編輯處理,盡量只保留測試結果,并對其他信息進行脫敏處理。”

        金融賬戶信息。銀行及投資賬戶號碼可能成為資金監控或盜取的突破口,務必嚴加防護。

        公司機密信息。如果用戶在工作中喜歡使用各種通用版聊天機器人,即使只是編寫一封普通電子郵件,也可能無意中泄露客戶數據或商業機密。三星曾因工程師向ChatGPT泄露內部源代碼,全面禁用該服務。如果人工智能對工作確實有幫助,企業就應當選擇商用版或者部署定制化人工智能系統。

        登錄憑證。隨著能夠執行各種現實任務的智能體興起,向聊天機器人提供賬戶憑證的需求增多。但這些服務并非按數字保險庫標準構建,密碼、PIN碼及密保問題應該交由專業密碼管理器保管。

        當用戶對機器人回復給予好評或差評時,可能視為允許將提問及AI回復用于評估和模型訓練。如果對話因涉及暴力等敏感內容而被標記,公司員工甚至可能會進行人工審核。

        Anthropic公司開發的Claude默認不將用戶對話用于訓練人工智能,并會在兩年后刪除這些數據。的ChatGPT、微軟的Copilot和谷歌的Gemini雖然會使用對話數據,但都在設置中提供關閉這項功能的選項。如果用戶注重隱私,可以參考以下建議:

        定期刪除記錄。Anthropic首席信息安全官杰森·克林頓(Jason Clinton)建議,謹慎型用戶要及時清理對話。人工智能公司通常會在30天后清除被標記為“已刪除”的數據。啟用臨時對話。ChatGPT的“臨時聊天”功能類似于瀏覽器的無痕瀏覽模式。用戶啟用后,可防止信息被存入用戶檔案。此類對話既不保存歷史記錄,也不會用于訓練模型。

        匿名提問。隱私搜索引擎支持匿名訪問Claude、GPT等主流人工智能模型,承諾這些數據不會用于模型訓練。雖然無法實現全功能聊天機器人的文件分析等高級操作,但基礎問答足夠使用。

        謹記,聊天機器人永遠樂于繼續對話,但何時結束對話或點擊“刪除”鍵,始終取決于用戶自己。



        評論


        相關推薦

        技術專區

        關閉
        主站蜘蛛池模板: 宝坻区| 澄迈县| 五常市| 永德县| 达州市| 民乐县| 呈贡县| 登封市| 屯门区| 宁都县| 陕西省| 平陆县| 东丽区| 彩票| 兴宁市| 渝北区| 防城港市| 佛山市| 湘阴县| 宜州市| 英山县| 资中县| 周口市| 阜南县| 长沙市| 四子王旗| 莫力| 江津市| SHOW| 永靖县| 惠安县| 于田县| 普陀区| 嘉义县| 广水市| 米泉市| 娄烦县| 于都县| 汉阴县| 伊金霍洛旗| 朔州市|