微軟打擊深度偽造，為 AI 生成的圖像和視頻加上“身份證”

IT之家 5 月 24 日消息，微軟近期推出了多款基于人工智能的軟件和服務(wù)，3 月份該公司正式發(fā)布了 Bing Image Creator，讓用戶可以用簡(jiǎn)單的文字提示來創(chuàng)作藝術(shù)作品。4 月份，該公司又推出了 Microsoft Designer 的完整公測(cè)版，讓用戶可以用文字提示和 AI 模型來創(chuàng)建博客文章、網(wǎng)站等項(xiàng)目。

然而，人們也擔(dān)心 AI 生成的藝術(shù)作品可能被惡意利用，造成虛假信息的傳播。隨著越來越多的“深度偽造”圖像和視頻出現(xiàn)，微軟決定采取主動(dòng)措施，確保其程序生成的 AI 藝術(shù)能夠被識(shí)別出來。今天，在微軟 Build 2023 開發(fā)者大會(huì)上，該公司宣布將在未來幾個(gè)月內(nèi)增加一項(xiàng)功能，讓任何人都能識(shí)別 Bing Image Creator 和 Microsoft Designer 生成的圖像或視頻片段是否是由 AI 生成的。

微軟表示，“該技術(shù)使用密碼學(xué)方法對(duì) AI 生成的內(nèi)容進(jìn)行標(biāo)記和簽名，并附上有關(guān)其來源的元數(shù)據(jù)信息。微軟一直是驗(yàn)證來源方法研發(fā)的領(lǐng)導(dǎo)者，并聯(lián)合創(chuàng)立了 Project Origin 和內(nèi)容來源和真實(shí)性聯(lián)盟（C2PA）標(biāo)準(zhǔn)機(jī)構(gòu)。微軟的媒體來源驗(yàn)證將按照 C2PA 標(biāo)準(zhǔn)對(duì)生成內(nèi)容進(jìn)行簽名和驗(yàn)證。”

微軟表示，該功能將適用于其兩款 AI 內(nèi)容生成程序支持的“主要圖像和視頻格式”，但是沒有公布具體支持哪些格式。IT之家此前曾報(bào)道，微軟本月早些時(shí)候宣布 Bing Image Creator 現(xiàn)已支持 100 多種語言，該程序已經(jīng)創(chuàng)造了超過 2 億張圖像。