破解AI犯罪“黑箱”取证难题！出台生成式人工智能刑案电子数据取证审查指引

随着生成式人工智能技术迅猛发展，大语言模型、图像生成、音频合成等技术在赋能生产生活的同时，也被不法分子用于实施诈骗、伪造、侵害知识产权等新型犯罪。此类案件中的电子数据贯穿模型开发、服务提供与技术使用全链条，呈现出“取证难、专业性强、逻辑复杂”等特征。

“生成式人工智能的运行机制往往是‘黑箱’，其算法逻辑不透明、模型迭代频繁，给司法实践中因果关系的构建与证据链的完整性带来巨大挑战。”徐汇区人民检察院人工智能综合履职团队成员陆倩慧表示。

《指引》共4章42条，形成了从基础规范到取证指引、审查标准到协作机制的完整体系，同时对各个环节进行分解细化，力争对具体工作有较强的针对性、指导性和可操作性。《指引》第一章总则明确了指引的基本遵循；第二章针对四类生成式人工智能刑事案件，分别以技术开发者、服务提供者、技术使用者为主体，明确取证重点和方法，并就侦查实验和技术鉴定提出取证方向；第三章明确了检察机关审查电子数据的标准和方法，强调全面审查电子数据与案件事实多元关联，避免孤立判断；第四章协作配合指出生成式人工智能刑事犯罪打击和安全风险防控，均需公检机关间建立长效协作机制。

针对“算法黑箱”难以溯源的问题，《指引》创新提出通过变量对比、环境模拟、同一性校验等实验方法，还原数据生成路径，为司法实践提供可操作的取证路径。

为确保《指引》的科学性与适用性，徐汇区人民检察院组织召开专家论证会，邀请来自上海市检察机关、公安机关及中国政法大学、华东政法大学等高校的专家学者共同“把脉会诊”，参与制度校准。

上海市公安局法制总队副总队长税兵表示，《指引》是从实操经验与实务案例中提炼总结而来的，对侦查办案具有很大的意义和价值。一是针对性强，《指引》对生成式人工智能刑事案件表现形式进行了深入研究、归纳总结，为审查工作开展了有效探索。二是可操作性强，《指引》结合侦查实验和检验鉴定两个重点方面，制作了全面详细的审核要点清单，明确了证据采信和不采信的具体情形，为公安内部审核工作提供了标准化清单。

上海市人民检察院普通犯罪检察部副主任徐亚之也表示，《指引》的发布是打击生成式人工智能犯罪、维护数字安全的重要一步，希望作为一个开放式的指引体系，能根据涌现的新类型问题不断更新迭代，确保对案件指导的及时性，也促进整个指引与时俱进。也希望通过细化规则与创新机制，助力构建规范有序的发展环境，确保人工智能安全、可靠、可控。