谷歌 CEO 承認 AI 摘要功能存在“幻覺”問題：尚無解決方案

5 月 26 日消息，谷歌搜索新推出的“AI 摘要（AI Overviews）”功能近日備受詬病，原因是該功能經常提供嚴重錯誤的搜索結果信息，例如，該功能曾建議用戶使用膠水來防止披薩上的奶酪滑落。

本周早些時候，據科技媒體 The Verge 報道，谷歌首席執行官桑達爾?皮查伊在接受采訪時承認，這些“AI 摘要”功能產生的“幻覺”是大型語言模型（LLM）的“固有缺陷”，而大型語言模型正是“AI 摘要”功能的核心技術。皮查伊表示，這個問題目前尚無解決方案（is still an unsolved problem）。

這意味著盡管谷歌工程師一直在努力修復“AI 摘要”功能出現的各種奇怪且嚴重錯誤的答案，但此類問題仍會持續出現。

然而，皮查伊似乎淡化了這些錯誤的嚴重性。他表示：“‘AI 摘要’功能有時會出錯，但這并不意味著它沒有用處。我認為這并不是看待該功能的正確方式。我們取得了進展嗎？是的，肯定有。與去年相比，我們在事實準確性方面的指標上取得了很大進步。整個行業都在改進，但問題還沒有完全解決。”

盡管皮查伊對“AI 摘要”功能的實用性持樂觀態度，但該功能出現的錯誤已經在網上引起了軒然大一波，許多用戶紛紛展示了該功能生成各種錯誤信息的例子。這進一步損害了谷歌搜索引擎的信譽，谷歌搜索此前就因向用戶提供垃圾結果而備受詬病。

注意到，人工智能顧問和 SEO 專家布蘭妮?穆勒在社交媒體上寫道：“人們期望人工智能的準確性遠遠超過傳統方法，但事實并非總是如此！ 谷歌正為了超越競爭對手 Perplexity 和 OpenAI 而在搜索領域進行一場冒險的賭博，但他們本可以將人工智能用于更大、更有價值的用例上。”