「AI換臉擬聲」是違法侵權的重災區，在出席今年大陸兩會代表，雷軍與靳東都是「重度受害者」，兩人都提出希望管束這類違法亂象。
大陸全國人大代表雷軍，3月4日，在微信公眾號上發布「我的2025兩會建議」，他共提出了5項建議，分別為：加快推進自動駕駛量產的建議、發展智能網聯新能源汽車產業生態的建議、加快推進人工智能終端產業高質量發展的建議、優化新能源汽車號牌設計的建議、加強「AI換臉擬聲」違法侵權重災區治理的建議。
尤為引人關注，因為雷軍本人就是AI換臉擬聲的「重度受害者」。雷軍提到，人工智能（AI）深度合成技術的快速發展，推動了「AI換臉擬聲」在影視、廣告、社交等領域廣泛興起，成為社會喜聞樂見、傳播力強、易成熱點的技術應用。但同時，「AI換臉擬聲」不當濫用造成了違法侵權行為的重災區，易引發侵犯肖像權、侵犯公民個人訊息以及詐騙等犯罪行為，帶來社會治理等風險。基於此，他提出加快單行法立法進程、壓實平台企業等各方的責任和義務等建議。
一些賬號仿冒靳東吸引粉絲，從中謀取不正當經濟利益。圖/取自微博
同樣受到「AI換臉擬聲」困擾的大陸全國兩會政協委員靳東，據人民日報官博指出，在5日的政協小組討論上，靳東回應了AI換臉導致的詐騙問題。他說：「一些喜歡我影視劇的觀眾，被AI換臉視頻騙得很慘，這個性質非常惡劣。希望能建立更好的規則」。
此前，「AI真假靳東」的報導在網上引起熱議，一些賬號仿冒靳東吸引粉絲，從中謀取不正當經濟利益。
此前，據九派新聞報導，江西老太網戀「靳東」，欲貸200萬元人民幣給他拍戲；光明網也有報導，2023年5月至7月，上海靜安警方赴多省市展開「假靳東」詐騙團夥收網行動，先後抓獲8名犯罪嫌疑人。多位60多歲阿姨應援「假靳東」被騙。早在此前就發生過類似事件，2020年10月，江西61歲的黃大媽聲稱要嫁給演員靳東，原因是「靳東」已在全網向她告白。
