流浪汉闯入家中、女儿被人抱走……这样令人触目惊心的事情，竟然只是个玩笑。

　　近日，安徽铜陵的张先生在外地收到妻子李女士发来的图片，画面中一名流浪汉闯入家中，吓得他报了警。民警迅速出警，却发现是李女士用AI合成了流浪汉坐在自家餐厅的图片，试图“教训”爱喝酒的丈夫。经民警批评教育，李女士认错并公开道歉。

　　但闹剧并未收场，反而掀起模仿狂潮。有网友用AI制作“流浪汉闯入餐熊猫体育官方厅后厨”，老板吓到喊来保安；有人合成“同事电脑被流浪汉占用”视频，把当事人急哭；还有人为博关注用AI生成“女儿被人抱走”的“寻人启事”并发布到社交平台，最终被行政拘留……

　　记者尝试用某知名AI软件进行实测。先拍摄一张自家客厅沙发的照片上传，再输提示词：把一名流浪汉P到沙发上坐着。随后AI自动补充了画幅比例、高品质等常见指令。不到10秒，流浪汉坐在记者家沙发上的照片便出现在眼前。AI还给出了两种不同选择：一张是一名流浪汉单脚踩在沙发上，目光盯着镜头；另一张，有两名流浪汉坐在沙发上看电视。

　　记者对两名流浪汉的那张照片再次输入指令：把这张照片做成视频，让流浪汉动起来。AI回复：本次使用高品质模型生成，预计等待1~3分钟。大约1分钟，视频生成好了，两名流浪汉动起来了，一人左顾右盼，另一人抠手挠头，背景还营造出了手持相机的抖动感，甚至玻璃窗上也有倒影。视频时长5秒，不仅画面高清，还十分逼真。

　　“除了这种显式标识，隐式标识更重要。”杭州电子科技大学网络空间安全学院、浙江-法国数字媒体取证联合实验室主任乔通告诉记者，以图像为例，像素之间存在大量肉眼无法察觉的信息，隐式标识可以通过微调部分像素值，将标识信息偷偷嵌入其中，“一旦有人利用AI生成伪造视频或者图像等内容，并在互联网进行不良传播，隐式标识就像一把‘定位钥匙’，帮助快速追溯内容来源。”乔通说。

　　乔通表示，AI生成的图片中，色彩、光线、人物、背景等会看起来非常完美，给人一种“P过头”的感觉；AI生成的高清视频，由于技术原因还不能达到非常高品质的程度，牙齿、脸部边缘等细节会有缺陷和不流畅。对于AI生成的音频，他认为，现在光靠人耳是很难分辨是AI还是真人，尤其是简短的语音，“总之，别转钱。”他提醒道。

　　如今，有许多AI产品通过真假参半来打“擦边球”。如一些宠物博主通过实拍和AI结合，让小猫一脚将球踢进球框，点赞数上百万。虽然视频只为给大众图个乐子，但是此类视频往往没有AI标识，让人难以鉴别、浮想联翩。“若发现内容与日常认知存在偏差，逻辑或感官上‘别扭’，就需带着怀疑态度看待与核实。”乔通说。

　　金道律师事务所律师王杰认为，从法律层面看，行为人在被“整蛊”后陷入错误认知而报警，其本人不构成报假警，但整蛊者可能涉嫌扰乱公共秩序，根据《治安管理处罚法》，将面临5~10天拘留的处罚，最高可处1000元罚款。如果视频被转发从而引发社会恐慌，可能触犯刑法的“编造虚假信息罪”，最高能判5年以上有期徒刑。

　　“AI属于新事物，通过AI生成的图片或视频，真假越来越难以辨别。”王杰指出，针对人工智能的相关法律法规在逐步出台和完善，目前已有《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等规范，对于AI生成物的用途、审核管理机制、数据和基础模型来源的合法性、知识产权及个人信息保护、显著标识添加等提出了具体化的要求。

　　最高法院刑事审判第三庭庭长陈鸿翔此前在接受媒体采访时表示，针对AI深度伪造带来的新情况新问题，最高法将加强研究，会同相关部门及时出台规范性法律文件或实施细则，完善法律适用。针对电信网络诈骗犯罪这一AI侵权的重要表现形式，他指出，诈骗分子利用AI深度伪造新技术不断翻新诈骗手法，防范打击难度越来越大。对此，人民法院将积极应对挑战，强化法律支撑，完善相关法律规范。熊猫体育