微軟打擊深度偽造，為 AI 生成的圖像和視頻加上“身份證”

IT之家 5 月 24 日消息，微軟近期推出了多款基于人工智能的軟件和服務，3 月份該公司正式發布了 Bing Image Creator，讓用戶可以用簡單的文字提示來創作藝術作品。4 月份，該公司又推出了 Microsoft Designer 的完整公測版，讓用戶可以用文字提示和 AI 模型來創建博客文章、網站等項目。

然而，人們也擔心 AI 生成的藝術作品可能被惡意利用，造成虛假信息的傳播。隨著越來越多的“深度偽造”圖像和視頻出現，微軟決定采取主動措施，確保其程序生成的 AI 藝術能夠被識別出來。今天，在微軟 Build 2023 開發者大會上，該公司宣布將在未來幾個月內增加一項功能，讓任何人都能識別 Bing Image Creator 和 Microsoft Designer 生成的圖像或視頻片段是否是由 AI 生成的。

微軟表示，“該技術使用密碼學方法對 AI 生成的內容進行標記和簽名，并附上有關其來源的元數據信息。微軟一直是驗證來源方法研發的領導者，并聯合創立了 Project Origin 和內容來源和真實性聯盟（C2PA）標準機構。微軟的媒體來源驗證將按照 C2PA 標準對生成內容進行簽名和驗證。”

微軟表示，該功能將適用于其兩款 AI 內容生成程序支持的“主要圖像和視頻格式”，但是沒有公布具體支持哪些格式。IT之家此前曾報道，微軟本月早些時候宣布 Bing Image Creator 現已支持 100 多種語言，該程序已經創造了超過 2 億張圖像。