AI相機眨眼之間剝奪隱私
藝術項目旨在引發關于AI換臉技術的辯論
本文引用地址:http://www.104case.com/article/202404/458108.htm眾議院人工智能工作組主席討論AI的目標和風險 加州共和黨眾議員杰伊·奧伯諾爾特被選為眾議院人工智能工作組主席。福克斯新聞數字平臺采訪了這位加州共和黨人,詢問他對該小組目標以及對快速發展的技術的個人看法。
人們對人工智能可能在不久的將來對社會造成問題的方式可能會感到謹慎,這是很自然的。在個人層面上,您可能會擔心未來人工智能會奪走您的工作,或者創造一個回到過去試圖消滅年輕時的您的終結者。(我們承認,我們可能對此想得太多了。)
關于個人層面的一個您應該了解的有關AI的恐懼,因為它目前就在,那就是制作深度偽造照片,包括那些剝奪您最基本隱私權利的照片:保護您身體圖像的權利。
兩位德國藝術家最近創建了一款名為NUCA的相機,它利用人工智能剝奪主題的衣物來制作深度偽造照片。照片主題的衣物自動移除幾乎實時進行,將令人不安的因素加速了指數倍。
為什么會有人創造一個能夠脫掉衣服的AI相機? 兩位德國藝術家,馬蒂亞斯·維夫和本尼迪克特·格羅斯,決定創造這臺相機來展示人工智能的快速進展所帶來的影響。他們試圖思考AI對某人隱私可能產生的最糟糕的用途,并意識到創造NUCA相機所需的技術已經是可能的。
兩位藝術家希望人們能考慮繼續發展像這樣的AI技術可能帶來的危險,這可能會消除隱私的期望。他們希望這將引發關于AI發展方向的辯論。
數字脫衣服的相機是如何工作的? 德國藝術家使用3D設計和打印軟件創建了鏡頭和控制相機外殼的外殼。然后,它使用內部的智能手機處理圖像捕獲。NUCA將照片傳遞到云端,應用人工智能來剝奪主題的衣物。
當然,NUCA實際上并不是創造您的裸體照片。相反,它分析您的性別、面部、年齡和身體其他方面,以開發出AI認為您的裸體可能看起來像什么的復制品。
深度偽造裸體照片技術不是已經存在了嗎? 深度偽造裸體照片,通常是名人的照片,已經在色情網站上存在了很長時間,但NUCA相機拍攝的照片幾乎不需要任何專業技能。
更令人不安的是,NUCA能夠在大約10秒內完成這一過程。NUCA制作深度偽造裸體照片的速度之快,使其與通常需要相當多的編輯技能和時間的其他假裸體照片有所不同。
NUCA的深度偽造困境:藝術創新還是道德入侵? 底線:任何人都可以使用NUCA相機發現的技術,在幾秒鐘內制作出幾乎任何其他人的深度偽造裸體照片。NUCA不會征求您在照片中脫衣服的許可。
值得再次強調的是,這兩位藝術家沒有計劃允許其他人利用NUCA謀取商業利益。他們將在六月底的柏林藝術展上展示其功能,一切都是為了引發公眾辯論。
然而,下一個開發類似技術的人可能會選擇以完全不同的方式使用它,比如潛在地威脅要發布這些其他人不一定知道是偽造的裸體照片,以勒索人。
評論