警惕AI技術背后的隱蔽角落

換臉、變聲，移花接木，以假亂真……當前，AI技術正在以勢不可擋的趨勢，創造數字技術生活，為社會帶來深刻影響和變革。

然而，在AI技術被廣泛應用于各領域的背后，存在著隱蔽的黑暗角落。不法分子利用AI技術進行違法犯罪，對社會安全構成威脅。公安機關在對此類犯罪給予高度關注的同時也向公眾發出預警。

從眼下已經出現的利用AI技術實施電信網絡詐騙犯罪活動來看，其主要表現為下面幾種形式：一是騙子用AI換臉技術，偽裝成受害人的熟人、朋友，通過視頻通話，進行信息確認，騙取受害人的信任；二是騙子通過騷擾電話錄音等來提取聲音，獲取素材后，利用AI技術進行聲音合成，然后用偽造的聲音欺騙受害人；三是騙子利用AI技術分析公眾發布在網絡上的各類信息，根據所要實施的騙術對人群進行目標篩選，個性化定制詐騙腳本，從而實施精準詐騙。

但也有業內人士指出，目前的AI換臉技術若做到融進視頻通話中，并達到不卡頓、肉眼難以識別的真實質感，在技術上并非易事。同時，AI換臉換聲技術如果被用于詐騙，騙子還必須對被換臉人的外貌、聲音、行為習慣、思維方式以及和受害人之間的關系等非常熟悉，否則很容易露出馬腳。

當然，技術本身無好壞，關鍵在于如何利用。AI技術的應用必須符合國家的法律法規以及社會倫理規范。為規范AI技術的合法合規使用，今年1月開始施行的《互聯網信息服務深度合成管理規定》，對人臉生成、替換、操控，合成人聲、仿聲等都有明確約束；今年4月，國家互聯網信息辦公室發布《生成式人工智能服務管理辦法（征求意見稿）》，對AI偽造進行了全面規定。

我國各地公安機關出重拳、全鏈條嚴厲打擊利用AI技術實施違法犯罪行為。同時，對社會公眾來說，針對“變臉”“變聲”詐騙，一定要提高防范意識，不輕易向他人提供人臉、指紋等個人生物信息，不在社交平臺過度分享個人的動圖、視頻，一旦發現自己有被騙風險，及時報警求助。

歸根結底，在使用AI技術時，要因勢利導、趨利避害，堅守法律和道德的底線，使其更利于人類社會的進步發展。