当 AI 让造假门槛变低 我们还能分辨真假吗？

发布时间：2026-09-21 08:39:09 来源：一毫不差网 作者：百科

AI 技术愈发普及，造假制图、门槛们还修图门槛越来越低，变低辨可偏偏有人动起歪脑筋，造假把 AI 当成违法牟利的门槛们还工具。

近日，变低辨上海杨浦区人民法院就审理了一起利用 AI 造假实施敲诈勒索的造假案件。被告人杨某在 2025 年 11 月至 2026 年 1 月期间，门槛们还频繁在辖区内多家餐饮店消费，变低辨堂食、造假点外卖后，门槛们还利用 AI 修图、变低辨绘图功能，造假伪造出急性肠胃炎诊断证明、门槛们还就医病历、变低辨电子发票等材料，甚至还 P 出虚假呕吐物照片，谎称自己和女友吃完食物后身体不适。手握全套 “虚假证据” 后，杨某开始向商家索要医药费赔偿，还放出狠话：如果不赔钱，就向监管部门投诉、在消费平台刷差评。

而不少商家担心店铺口碑受损，无奈之下选择妥协。经核查，杨某通过这套 AI 造假碰瓷手段，实际敲诈到手 2500 元，另有 7000 余元敲诈行为未遂。

庭审中，杨某也如实承认，所有虚假图片、凭证都是靠 AI 批量制作而成。

承办法官介绍，根据法律规定，敲诈勒索公私财物数额达到 2000 元以上，就已构成敲诈勒索罪。综合案件情节，加之杨某到案后主动坦白、全额退赔钱款，并获得受害商户谅解，法院最终依法判处杨某拘役四个月，缓刑四个月，并处罚金 2000 元。

通过AI造假已经并非个例。此前湖北就有房东用 AI 生成虚假水电表照片，当作诉讼证据提交法院，当场被法官识破，当事人也因提交虚假证据、妨碍民事诉讼受到训诫。层出不穷的 AI 造假行为，也给司法证据核验工作带来新挑战。

不少网友疑惑：现在 AI 修图、改图这么厉害，难道真能做到完全以假乱真、肉眼分辨不出？

记者在跟着网上有人分享的指令，试图让 AI凭空创作一张拍摄手机聊天内容的照片后发现，AI 凭空制作的图片，还是很容易出现头像错乱、文字生硬、表情图片违和等漏洞。

可一旦依托真实原图进行局部修改，成品仅凭肉眼确实很难辨别真假。

对此，复旦大学信息学院副教授凌力解释，再逼真的 AI 造假图片也留有破绽。图片光影、清晰度、色彩亮度编码等细节，都会和原图存在差异，借助专业检测工具，依旧可以发现 AI 合成痕迹。法院也表示，今后会通过源头核查、证据链比对、专业技术鉴定等多种方式，严审各类可疑证据。

法官也郑重提醒所有人：AI 是便民、赋能工作与生活的工具，绝非违法犯罪的“帮凶”。

利用 AI 制作虚假材料搞碰瓷、敲诈、诬告等行为，轻则违反治安法规，重则触犯刑法，必将受到法律惩处。在此也呼吁大家，理性、合法使用 AI 技术，坚守法律底线，别让前沿技术沦为违法工具。

相关文章