AI生成“流浪汉”测试家人 莫让玩笑透支社会信任

技术浪潮之下，伦理与法律的边界需要被重新审视。10月17日，安徽铜陵一女子利用AI工具生成“流浪汉闯入家中”的逼真图片发送给丈夫，导致丈夫信以为真并报警，民警深夜出警核实后才发现是虚惊一场。

这场由技术工具编织的荒诞剧并非个例。近期多地出现类似AI整蛊闹剧——有的引发整栋楼逐层排查，有的导致亲属紧急奔袭。这些曾经需要专业团队才能完成的虚假信息生产，如今已成为随手可得的“情感测试工具”，而它们正以更隐蔽、更危险的方式透支着社会信任。

       技术滥用的代价

民警深夜出警的公共资源浪费，只是显性成本，更值得警惕的是，当虚假信息与真实警情在公众认知中边界模糊，社会应急机制的灵敏度或将受损。若真有危险发生，人们是否会因“整蛊后遗症”而迟疑？这种信任损耗所产生的蝴蝶效应，可能让更多无辜群体为个别技术狂欢买单。

律师周兆成认为，从法律层面看，并不是仅本人打电话才算报假警，明知家人可能会误判报警，还故意制作AI图片、视频，属于“间接故意”，可能算共犯。此前，某地曾有人利用AI制作假寻人启事，说女儿被拐，家人信了报警，最后被行政拘留。

周兆成表示，因这一行为报警，占用的不仅是警力，还可能是别人的救命机会。如果被警方认定是报假警，按《中华人民共和国治安管理处罚法》，将面临5天至10天拘留的处罚，同时需缴纳500元罚款。如果视频被转发从而引发社会恐慌，可能触犯《中华人民共和国刑法》的“编造虚假信息罪”，最高能判5年以上有期徒刑。

       识别与治理的双重挑战

面对这些以假乱真的图像，识别成为难题。人工智能大模型研究员潘季明指出，从技术角度来说，最快的方式还是基于AI的方式去进行识别，如专门的深度伪造鉴别模型，用于分析视频和音频中的不自然的特征，如检测眨眼频率、面部肌肉运动的生理一致性、音频与纯嘴唇同步率、光源一致性等细微的物理或生理破绽。

为应对AI技术滥用带来的挑战，我国自2025年9月起正式施行了《人工智能生成合成内容标识办法》，其中明确要求，所有AI生成的文字、图片、视频等内容必须添加显式标识以"亮明身份"，同时鼓励添加数字水印等隐式标识。平台企业应当依据《人工智能生成合成内容标识办法》，从源头嵌入标识机制，为AI生成内容附加不可篡改的数字水印，并确保这些标识在经过剪辑、压缩后仍能被准确识别。

中国互联网络信息中心发布的《生成式人工智能应用发展报告(2025)》显示，我国生成式人工智能产品用户规模已高达5.15亿人。当技术赋予我们“造梦”的能力时，我们更需守护求真的初心。

破解困局，需构建“技术-法律-伦理”的三维防护网。技术层面，平台应建立AI内容溯源机制，给数字信息打上“可信标签”。法律层面，需明确“技术性造谣”的认定标准，提高违法成本。伦理层面，则要推动负责任创新的行业共识，引导技术开发者与使用者共同承担道德责任。相关部门已将AI生成谣言列为重点打击对象，就鲜明传递出技术发展须守住边界的信号。

（综合自：央视新闻客户端 光明网 工人日报）