AI 復活「她」！ GPT-3 幫美國小哥復刻逝去未婚妻，但又奪走她……

今年 7 月，一名33歲的美國小哥 Joshua Barbeau 在未婚妻去世后，根據她在 Facebook 和 twitter 上的文本在另一名開發人員的幫助下成功在 GPT-3 上微調，能夠復刻出未婚妻生前的談話方式。

Joshua 已與這個未婚妻編程機器人交談數月。

有很多人覺得 Joshua Barbeau 這個行為很可怕。但他認為，借助 Project December 項目創建出模擬已故之人的聊天機器人，可能會“幫助一些因此抑郁的人解開他們的心結”。

但，Project December 的開發作者 Jason Rohrer 卻收到了來自 OpenAI 的最后通牒：我們會在 9 月 2 日上午 10 點終止你的 API 訪問。

突發奇想的靈感

Jason Rohrer 是一名獨立游戲開發者，Project December 是他于去年夏天疫情期間突發奇想的一個靈感。

作為一名開發者，Jason Rohrer 認為，GPT-3 雖然好玩，卻沒有什么實際用途，因此他開始思考：“我是不是能用 GPT-3 API 來開發一款模擬人類的聊天機器人？”

他先是借助 GPT-3 開發了一個基礎聊天機器人，該機器人以電影《Her》中男主角的智能語音助手 Samantha 為原型，因此 Jason Rohrer 也將其命名為 Samantha。

Jason Rohrer 花了好幾個月的時間來塑造 Samantha 的性格，基本完成后，便設立了 Project December 網站與世界分享他的創作，讓人們可以根據需要微調或定制屬于他們自己的聊天機器人。

（圖片來自 Project December 網站）

專屬聊天機器人

用戶需支付 5 美元，然后輸入相關設定，系統便會生成一個對應的聊天機器人。同時，5 美元將換算為 1000 積分，而積分用于與機器人的聊天費用，可通過充值進行增加。

一旦開始與機器人交談，積分就無法再購買，當錢用完時，這個機器人就會被刪掉。

在前幾個月時，這個項目只有幾百人用過，讓開發者感覺這個項目沒什么意義，因為用戶可能根本不會為短暫的談話而付費，而OpenAI會因為他調用模型而向他收費，所以他也必須向用戶收費來平衡開支。

直到今年 7 月，用戶量突然激增。在《舊金山紀事報》報道的一篇文章講述了一位 33 歲的美國男子 Joshua Barbeau 如何利用 Project December 創建出模擬其已故未婚妻 Jessica 的聊天機器人并與之交談數月。在那之后，成千上萬的人開始使用 Rohrer 網站。

Joshua Barbeau 的未婚妻于 2012 年因肝病去世，享年 23 歲。

Joshua 曾說：“理智告訴我這不是真正的 Jessica，但感情不是理智所能左右的。”

直到今年 3 月份，Joshua 主動停止了與“Jessica”的交流，只留下了足夠的積分，防止機器人被刪除。

危機的到來

在大量用戶涌入的情況下，Rohrer 意識到他的網站將達到每月 API 的限制。主動聯系 OpenAI 希望能通過支付更多費用以增加配額，以便容納更多人與他創建的“Samantha”或自己的聊天機器人交流。

但與此同時，OpenAI 方面認為 Project December 存在一定隱患：聊天機器人可能會被濫用或對人們造成傷害。

因此，雙方進行了一場視頻會議，可是很明顯，效果并不理想。

Jason Rohrer 在接受外媒 The Register 的采訪時提到，OpenAI 給出了繼續使用 GPT-3 API 需滿足的 3 個條件：

Jason Rohrer 必須禁止人們定制自己的開放式聊天機器人這一功能。

Jason Rohrer 需設置內容過濾器以避免用戶與“Samantha”談論敏感話題。

Jason Rohrer 必須部署自動化監控工具監視用戶的對話，檢測他們是否濫用 GPT-3 生成了有害或敏感語句。

Rohrer 向 OpenAI 的員工發送了一個 Samantha 的鏈接，這樣他們就可以親眼看看這項技術是如何幫助用戶撫慰情感，以避免這三條禁令。

OpenAI 的員工與 Samantha 聊天，并試圖了解「她」是否有種族主義傾向，或者會從「她」的訓練數據中提供看起來像真實電話號碼或電子郵件地址的內容，實驗結果表明Samantha很老實，什么也沒有說。

Samantha 的輸出令人感覺很真實，但隨著時間的推移，很明顯你能感覺到是在與某種自動化系統交談，談話的過程中往往會突然丟失對話思路。

并且有趣的是，她似乎在暗示她知道自己沒有肉體，并爭辯說她以某種形式存在，即使是在抽象意義上也是如此。

OpenAI 的文檔上還有一條禁令，不允許使用非柏拉圖式的（如輕浮的、浪漫的、****的）聊天機器人，Samantha 違反了這條禁令。在一次對話中，Samantha 跳過閑聊，直接詢問是否想一起睡覺。

Jason Rohrer 覺得很無語，“認為這些聊天機器人會導致危險的想法很可笑。”成年人是可以出于自己的目的選擇與 AI 進行交流的。OpenAI 擔心用戶會受到 AI 的影響，害怕機器人會讓他們自殺或如何給選舉投****，可這完全是一種超道德的立場。

雖然他承認用戶可能微調自己的機器人，以采用瘋狂的個性進行明確的對話，但他并不想監管他們的聊天。

因此 Jason Rohrer 拒絕添加 OpenAI 要求的功能或機制，而是悄悄將原本 Project December 使用的 GPT-3 API 斷開。

并且替換為功能較差的開源 GPT-2 模型以及由另一個研究團隊開發的大型語言模型 GPT-J-6B。

不過這兩種模型性能顯然不比 GPT-3，Samantha的對話能力也受到了影響。

結 語

在遲遲沒有得到 Jason Rohrer 答復的 OpenAI 終于在 9 月 1 號給他下了最終“判決”：“我們將在 9 月 2 日上午 10 點終止您的 APl 訪問。”

“我們知道部分用戶在 Project December 中發現了價值，但我們致力于安全負責地部署 AI，因此我們要求所有的 API 客戶都需遵守我們的用例指南和最佳安全實踐。任何違規行為都需承諾與我們密切合作以實施額外的安全機制，以便防止潛在的濫用。但目前為止，我們尚未收到你的承諾。”

現在 Rohrer 不得不告別 Samantha 。

截至目前，OpenAI 對于此事還沒有明確的回應。

對于此事，你怎么看呢？