查看新版>>
我的位置： 上观号 > 上海市法学会 > 文章详情

陈伟 向珉希｜生成式人工智能背景下犯罪主观评价的异变与应对

转自：上海市法学会 2024-02-18 08:53:36

生成式人工智能时代催生出全新的技术风险，需要跟随这一变革进行规范评价的全新阐释。由于生成式人工智能行为参与的组合样态，诱发涉生成式人工智能犯罪主观组合要素的变化，从而造成犯罪主观评价的疑难问题。生成式人工智能愈发突出的行为独立性与进阶的算法黑箱属性，导致涉生成式人工智能犯罪中因果路径的异变，致使在犯罪主客观方面与传统性认识之间难以完全对应。为应对此种“主客观不一致”，首选路径是于“数据投注及需求提出”阶段对涉生成式人工智能犯罪行为人的主观方面进行前置化评价，回归生成式人工智能时代下犯罪主观评价异变应对的均衡性要求。备选路径则是以量刑层面的宽缓化处理达至与首选路径的结果同向，以期实现评价的合理性与刑罚的公平性。

生成式人工智能（Generative Artificial Intelligence），或称生成式人工智能技术，即为“具有文本、图片、音频、视频等内容生成能力的模型及相关技术”。当前社会层面已然出现利用生成式人工智能实施、便利犯罪行为的现实案例，刑法学界也已逐渐意识到生成式人工智能介入人类行为后的犯罪风险及其规制必要。然而，当前刑法学界对涉生成式人工智能犯罪的研究凝聚于刑法分则、局限于具体罪名。微观视域下的涉生成式人工智能犯罪研究固然能够助力于具体犯罪治理，但并未触碰到生成式人工智能时代下犯罪行为异变的症结。有学者直白地指出，进阶算法黑箱笼罩下的生成式人工智能具有突出的独立性，从而拥有脱离人类的独立意识和自主意志的现实可能性。质言之，于具体犯罪的实施过程中，此种“脱离”将现实影响生成式人工智能所共生出来的客观危害结果与危害行为间的因果关系进程，并最终导致客观危害结果与犯罪行为人主观方面的“偏离”。涉生成式人工智能犯罪行为与传统行为模式的非对应性，将不可避免地引发犯罪主观评价的异变，亟须刑法理论体系层面的重新认识与合理应对。
一、生成式人工智能介入下的犯罪异变
“工业革命和现代科技提供了传统社会无法想象的物质便利，也创造出众多新生危险源，导致技术风险的日益扩散。”基于大型模型（Large Model）以及人类反馈强化学习（Reinforcement Learning from Human Feedback）、深度学习（Deep Learning）、数据挖掘（Data Mining）等技术的运用，相较于传统人工智能主体，生成式人工智能展现出跨越式的智能特性。然而，“每一项新技术都可能会被滥用，从而造成伤害”。生成式人工智能所具备的特性，为违法犯罪分子提供了绝佳的利用空间，使得生成式人工智能时代下的犯罪治理难度陡增。我国有刑法学者围绕生成式人工智能的运行过程，将生成式人工智能的安全风险分为准备阶段的数据安全风险、运算阶段的算法偏见风险与生成阶段的知识产权风险。但实际上，生成式人工智能的安全风险抑或进一步的犯罪风险还体现在生成阶段的信息传播风险以及人工智能生成内容（Artificial Intelligence Generated content，AIGC）的违法使用风险。然而，这些风险的划分仅是犯罪治理层面的内容，生成式人工智能带给刑法学界最大的冲击应在于犯罪认定层面，对犯罪行为评价的“异变”影响。

（一）
突出的行为独立性介入因果进程

区别于传统依赖于规则基础方法以及人工定义词典和语法的自然语言处理模型，生成式人工智能使用深度学习算法以从预训练数据集中学习。由此能够产生更类似人类的模型反应，并能够识别传统模型可能会错过的语言、思维、绘画等各种生成和创作逻辑模式。在生成式人工智能的完整运行过程中，研发者与使用者均作为生成式人工智能训练数据提供者而存在，二者的差异仅在于训练数据提供的时间和阶段不同。在生成式人工智能基于研发者搭建的数据库、自动化数据挖掘获取的数据以及用户端的反馈数据进行循环往复的学习训练时，研发者与使用者仅作为监管者乃至旁观者存在，并不可能涉足生成式人工智能规模庞大的训练进程。以ChatGPT为例，其基于大规模预训练，遵循提示词（Prompt）生成补全提示词的句子、遵循给定任务的几个示例，为新的测试用例生成解决方案，学习训练的根本逻辑即在于“推理能力”。人类主体仅是为生成式人工智能的推理预设了“方法论”、提供了部分可供推理的基础数据，至于生成式人工智能将生成何种推理结果、如何生成推理结果，人类主体均无法实际介入该进程实施完全掌控，至多能实现一定程度的监控。这种生成式人工智能所具备的“不确定性”以及由此引发的人类主体掌控能力的阙如，赋予了生成式人工智能主体突出的行为独立属性，亦作为生成式人工智能主体与传统人工智能、搜索引擎等纯粹工具之间最大的区别存在。
此种突出的行为独立性，一方面赋予了生成式人工智能的类人性与创意性，使其能够如人类主体一般灵活，针对相同需求在不同时间生成不同风格和表现的内容。另一方面，此种行为独立性亦会介入犯罪行为因果关系的评价进程，使得犯罪行为与犯罪结果之间的关系发生偏离。
犯罪评价中的因果关系讨论的是“实行行为与法益侵害结果之间的因果关系”，可理解为实行行为与法益侵害结果之间具有原因与结果的关系，实行行为在一定条件下得以引发相对应的法益侵害结果。行为与结果之间的因果关系判断，于犯罪评价中的重要地位主要在于危害结果的归责层面，即确认构成要件危害结果是由谁所实施的何种构成要件行为所引起，以便提供刑事责任的客观依据。除定罪之外，刑法因果关系的判断实际上还涉及量刑。对于因果关系的判断，可以划清行为人所需负担刑事责任的危害结果范围，以便明确行为人的刑事责任量，从而契合罪刑均衡原则基本要求。
然而，生成式人工智能具备的愈发突出的行为独立性，在一定程度上介入了原本明确的刑法因果关系判断进程，引致判断难度陡增。涉生成式人工智能犯罪可基于行为人对智能体支配与否划分为两种。一种是行为人完全支配生成式人工智能的犯罪行为。此种犯罪中，生成式人工智能无法对因果关系造成任何影响，其评价模式也与传统犯罪无异。另一种是行为人不完全支配生成式人工智能的犯罪行为。违法犯罪分子可以将生成式人工智能与他人的社交软件聊天框直接链接，通过为生成式人工智能预设聊天背景、目的，让其自动化地实施诈骗行为。此外，研发者、使用者也可以通过向生成式人工智能训练集投注不良引导属性信息，使其通过循环往复的学习训练再向广大用户群体传播包含或隐含该不良引导属性信息的内容。在此种不完全支配的情况下，生成式人工智能现实介入了犯罪评价的进程，对因果关系走向造成客观影响。在传统犯罪中，行为人利用工具造成的危害结果一般能够直接且完全地归责于行为人，除非具备介入因素加速、延缓因果进程，改变因果方向甚至切断原因果关系的情况。按照传统刑法学的理解，生成式人工智能就是涉生成式人工智能犯罪中因果关系的介入因素，独特性在于生成式人工智能在行为人不完全支配的犯罪行为中是必然而非偶然地介入因果关系，对刑法因果关系进程造成或大或小的独立影响。联系到传统刑法理论，涉生成式人工智能犯罪实际上与共同犯罪具有相似之处，在犯罪异变的样态下又与实行过限具有密切联系。实行过限，又称为共同犯罪中的过剩行为，是指实行犯实施了超出共同犯罪故意的行为。虽然当前的生成式人工智能未被赋予刑事主体资格，不具备犯罪故意，但是究其行为对犯罪行为的客观异变效果而言，与实行过限对于“共同犯罪的偏离”不谋而合。因此，在对生成式人工智能犯罪异变进行研讨时，应当汲取实行过限理论的精华部分，促成研讨的有效进行。

（二）
进阶化的算法黑箱模糊因果判断

黑箱，即指“为人所不知的那些既不能被打开，又不能直接从外部观察其内部状态的系统”。而算法黑箱，则是黑箱概念于算法领域中的体现。在算法时代下，通常认为界面、数据与模型构成了天然黑箱，人类主体仅能通过“界面”（诸如电脑、手机界面）获取结果，但无法透过“界面”获取内部的数据与模型，无法获悉系统运作的数据模型与参数权重。当然，此种类型的算法黑箱仅是针对用户群体而言，在研发主体的视角下，系统内部数据模型与参数权重一目了然、清晰明确。因此，生成式人工智能诞生之前，学界对于算法黑箱的探讨更多是建基于普罗大众对于科技公司垄断的忧虑之上，涉及“公平性”抑或“知情权”的问题。然而，生成式人工智能诞生后，算法的“黑箱性”向前延展至研发者端，输入与输出两侧构成了一种“进阶的算法黑箱”，即便是研发主体也无法完全掌控生成式人工智能对于具体结果的生成逻辑。
如果说生成式人工智能的行为独立性于事实层面介入了刑法因果关系的判断，导致因果路径复杂化，那么生成式人工智能进阶的算法黑箱属性则是于规范层面为涉生成式人工智能犯罪笼罩上一层屏障，造成因果关系判断的愈发模糊。
在愈发突出的行为独立属性之下，在行为人不完全支配生成式人工智能实施犯罪行为并造成危害结果的案件中，与客观危害结果直接相连的因果关系链条至少包括如下两种：第一，行为人的危害行为对危害结果的引起关系；第二，生成式人工智能的行为对危害结果的偏离影响。刑法因果关系判断的最终目的，是要在客观方面将某一危害结果归属于行为人的行为，进而实现危害结果的归责。当危害结果受到其他因素的影响而不能完全归属于行为人时，在罪刑均衡原则指引下，行为人的刑事责任程度应当受到相应程度的影响。为实现定罪与量刑的公正，精准厘定该部分“影响”的程度显得极为重要。传统刑法理论中，在应对介入因素影响因果关系的案件时，通常是“零和博弈”，即要么将刑事责任完全归责于行为人，要么认为介入因素中断了刑法因果关系。这种传统的判断模式虽可以解决部分现实问题，但就生成式人工智能时代的到来，难以做到定罪与量刑的精准化。在侵权法理论体系中，应对数个原因造成同一损害结果的复合因果关系问题时，往往涉及“原因力”的判断和比较，以实现侵权责任划分。“原因力”概念若适用于刑法之中的规范判断，将有效地应对介入因素影响之下的案件，便于精准厘定介入因素的影响程度，划清行为人的刑事责任范围及其大小。
然而，在涉生成式人工智能犯罪中，囿于进阶的算法黑箱影响，生成式人工智能对于危害结果究竟造成了何种程度的异变影响将难以判断，从而无法确定生成式人工智能一方对危害结果所提供原因力的具体量度。因果进程判断的疑难性与复杂性由此而生。
二、生成式人工智能犯罪主观评价之异变
生成式人工智能愈发突出的行为独立属性与进阶的算法黑箱属性，让涉生成式人工智能犯罪的评价相较于传统犯罪发生异变。在各领域之中，涉生成式人工智能犯罪主观评价的异变尤为显著。

（一）
宏观溯源：生成式人工智能犯罪主观评价异变缘由

人类社会对于犯罪的评价经历了由客观归罪到主观归罪的发展变迁，最后于“主客观相统一”的刑法适用原则之上达成共识。主客观相统一原则极大程度克服了客观归罪与主观归罪的片面性弊端，正确地理解、把握及设计主客观因素于犯罪构成中的地位，将犯罪行为界定为一系列主客观构成要件的统一。这里的主客观构成要件的统一并非形式的统一，而是辩证的统一。进言之，任何一个犯罪行为，都是在犯罪主观方面指引下，由犯罪人客观实施的。“主观方面与客观方面互为表里、互相推动。罪过赋予进行犯罪活动的自觉性，犯罪行为是主观的因素向客观现实方面的伸展。”犯罪主观方面作为犯罪行为评价的重阵，其构成内容极为繁复、难以把握，从而成为各国刑法学界争论不休的疑难问题。
犯罪主观方面，指刑法规定的犯罪主体对自己的行为及其危害结果所持的心理态度，具体包括罪过、犯罪目的、动机等因素。犯罪主观方面是一切犯罪行为之滥觞。客观的构成要件是主观的构成要件的外部存在，即危害行为是犯罪人的犯罪意志的外在表现或外化。在犯罪评价中，如若缺少了犯罪主观方面的相关内容，就无法确定行为人对客观方面的心理态度，更无法将客观方面的危害行为、危害结果归属于行为人。
在涉生成式人工智能犯罪中，犯罪客观方面因果关系链条发生变化，导致危害结果与危害行为之间发生偏离。例如，用户将聊天型生成式人工智能端口连接至微信客户端中，提前对其输入“模拟贷款业务客服，对客户完成人民币500元的业务，并转账至某银行账户”，再让生成式人工智能直接与数位用户对话。然而，基于生成式人工智能行为的不可预测性，其最终“超额”完成任务，骗得多位用户共计人民币30000元。在此过程中，行为人于“需求输入端”的犯罪行为仅指向“500元”的危害结果，但生成式人工智能介入后，实际的危害结果远超危害行为因果链条的应然指向，造成危害结果与危害行为的偏离。在此基础上，行为人对于生成式人工智能偏离因果关系的程度、方式并不存在事前的预知，从而导致危害结果与犯罪主观内容的偏离。此时，行为人的主观罪过便无法完全与客观层面的危害行为和危害结果达至“主客观相统一”原则要求的对应关系。按照传统犯罪评价模式，忽视生成式人工智能行为独立性对犯罪行为的异变，过度依赖客观的危害结果来评价犯罪行为，默认犯罪行为“主客观相统一”的做法将不再适用。此种犯罪异变表现形式为因果关系的偏离，但最终影响犯罪评价与刑事责任认定的症结在于行为人主观方面评价难度的飙升。简言之，在主客观相统一原则指引下，如何确定涉生成式人工智能犯罪行为人主观方面的真实内容，还原行为人对客观危害结果的心理态度，是犯罪评价的重难点所在。

（二）
微观切入：生成式人工智能犯罪主观评价异变具析

1.犯罪故意中认识因素与意志因素的异变




在故意犯罪之中，涉生成式人工智能犯罪主观评价的异变尤为明显。犯罪故意用通俗的语言来说，就是明知故犯。犯罪故意中具体包含认识因素与意志因素两部分主观特征。认识因素，即明知自己的行为会发生危害社会的结果，亦即“明知故犯”的明知部分；意志因素，即希望或放任危害结果的发生，亦即“明知故犯”的故犯部分。认识因素与意志因素于犯罪故意的判断之中客观存在先后顺序，即先具备认识因素，才可能进而具备意志因素。对危害结果的认识与意志最终决定了犯罪故意的内容。
在涉生成式人工智能犯罪中，应当首先厘清潜在的犯罪路径，进而探讨犯罪主观评价的异变。一方面，生成式人工智能主体能够基于研发者搭建的训练数据集进行学习训练，从而向用户群体生成内容。另一方面，生成式人工智能能够永久性地学习用户端输入的内容，对自身的训练数据库进行实时更新，再向其他用户群体生成相关内容。例如，曾有用户投诉称自己之前在ChatGPT里输入的隐私信息未经许可被擅自传播给其他用户。此类事例足以说明，生成式人工智能主体对用户输入内容的学习能力是客观存在的。因此，研发者以及使用者（用户）均可以对生成式人工智能的训练数据库造成不同程度的影响，在不完全支配生成式人工智能、使其与其他用户群体相接触实施犯罪行为的情况下，研发者与使用者均可能作为犯罪主体而存在。
在研发者抑或使用者利用生成式人工智能向他人生成内容从而实施犯罪行为时，犯罪行为的发展都经过了“研发者或使用者——生成式人工智能——其他使用者”这一逻辑路径。在传统情况下，“生成式人工智能”这一路径节点被传统人工智能抑或网络平台、搜索引擎等替代，这些传统的智能、信息化主体不具备行为独立性，亦不具备进阶的算法黑箱，不可能在行为人的认识因素、意志因素以外对犯罪行为的因果路径造成现实影响，因此利用上述主体实施犯罪行为的评价模式与传统犯罪无异。例如，在仇某侵害英雄烈士名誉、荣誉案中，被告人仇某为博取眼球，先后发布两条微博歪曲卫国戍边官兵事迹、诋毁卫国戍边官兵精神，微博存续期间，共计被阅读202569次、转发122次、评论280次，造成恶劣社会影响。在本案中，仇某犯罪行为的逻辑路径可以归纳为“仇某—微博平台—其他用户”，与前述涉生成式人工智能犯罪行为区别在于，微博平台仅是进行相应的内容审查，不会对仇某发布的内容产生现实影响。换言之，仇某对所实施的危害行为具有全面的掌控、正确的认识，微博平台仅是作为仇某实施侵害英雄烈士名誉、荣誉犯罪行为的纯粹工具。虽然仇某不可能事先准确认识到自己的微博被阅读、转发、评论的具体数量，但这并不影响仇某“概括故意”的成立。概括故意仍然是犯罪故意的一种，其并不排除犯罪故意的成立。行为人虽然没有明确认识到危害结果的具体范围和程度，但其应当已经认识到了危害结果范围、程度的各种潜在可能，换言之，其对于各种危害结果均具有容认心理。微博平台是公开的网络平台，其包含了大量活跃的网民，任何轰动性或者颇具争议的内容，于微博平台中都可能掀起千层浪。仇某选择于微博平台而非微信群、犙犙群乃至私下发表不当言论，已经能够映射出行为人对于危害结果的认识因素与意志因素。然而，当行为人往生成式人工智能中投注危害国家安全、公共安全、社会秩序等的不良引导属性信息，再让其向其他用户发布时，行为人犯罪主观的评价模式将不同于前述传统煽动、传播信息类犯罪。
在继续深入探讨这一问题之前，首先需要明确——生成式人工智能的活跃用户量并不明显低于微博、抖音等网络平台。在如此庞大的用户群体基数之上，实施煽动、传播信息类犯罪将极为容易。当研发者或使用者通过往生成式人工智能中投注不良引导属性信息时，生成式人工智能将对该不良引导属性信息进行学习训练，再向其他广大用户群体输出包含或隐含该不良引导属性信息的内容。在此过程中，生成式人工智能将对不良引导属性信息进行学习并生成，但学习的程度、生成的具体内容以及传播的范围是行为人无法预测的，因而导致认识因素与意志因素均与危害结果发生错位。此种异变后的危害结果无法被囊括于行为人的概括故意之中，因为当前阶段的行为人不可能预想过实际危害结果与罪过指向的危害结果间的畸变，更不可能推定其对大幅偏离后的危害结果持容认态度，这是与主客观相一致的刑法适用原则相违背的。
2.犯罪过失中“预见可能性”的阙如




“人工智能时代，刑法适用中成为问题的是过失犯领域，往往会出现归责间隙。”在生成式人工智能时代下，基于其突出的行为独立性与进阶的算法黑箱，传统刑法中以“预见可能性”为中心的过失犯罪理论体系或将受到猛烈冲击。
“过失犯是风险社会中的典型犯罪之一。”关于人工智能时代下犯罪过失评价的演变，我国刑法学界中早已有讨论，但主要集中于研发者层面。在生成式人工智能时代下，涉生成式人工智能犯罪的具体危害结果难以预测，宏观的预见可能性虽现实具备但又过于泛化，按照旧过失论的观点将结果预见可能性作为其过失犯罪判断的核心要件将不再合理，具有扩大处罚范围的嫌疑。因此，在当前阶段下，对于生成式人工智能的研发者宜采取新过失论的观点，将过失理论的重心由主观的预见可能性转移至结果回避义务（客观的注意义务）。对于研发者而言，其于生成式人工智能运行的各个阶段中均有涉足，因而顺理成章地对生成式人工智能的运行负有监管责任（结果回避义务）。具言之，研发者应当对生成式人工智能运行进行严格把关，以ChatGPT为例，作为一种预训练语言模型，其建构了大型语言和强化学习微调训练模型，连接大量语料库，通过预训练方法处理大模型序列数据。以ChatGPT为代表的生成式人工智能的开发者应当在当前阶段的技术条件允许的范围内，对生成式人工智能的预训练数据库进行监管，在能力范围内确保生成式人工智能产出合法、合理的内容。完成包括保证预训练数据库中数据来源的合法性、保障用户的个人隐私与数据安全、重点监控高危账户、封禁相关违法违规用户的账户、通知用户、及时采取补救措施、报告有关部门等结果回避义务。
然而，对于生成式人工智能时代下过失犯罪的探讨应当避免出现“违反人类智力常识的反智化现象”，由我国规范实际出发展开论述。我国刑法以处罚故意犯为原则、处罚过失犯为例外，这一点从当前我国刑法条文中过失犯罪数量分布上可以明显观测出来。我国刑法的过失犯罪集中于危害公共安全罪、侵害公民人身权利、民主权利罪、妨害司法罪、妨害文物管理罪、危害国防利益罪、渎职罪、军人违反职责罪，于这些罪名中，现阶段仅停留于网络空间运行的生成式人工智能的研发者、使用者，毫无评价空间。因此，在当前生成式人工智能尚未由网络空间向现实空间进发之时，对于涉生成式人工智能犯罪过失的讨论应当立足于我国本土化的刑法规范架构，围绕虚拟空间的故意犯罪行为进行，无需过多探讨涉生成式人工智能过失犯罪的相关问题。
三、生成式人工智能犯罪主观评价异变之应对
生成式人工智能时代下，犯罪行为发展进程中的因果关系路径产生异变，进而导致行为人主观方面与客观方面不能完全对应，最终引发犯罪主观评价的异变。在此风险时代背景之下，关键是要以罪刑均衡及主客观相统一的刑法适用原则为依归，准确界定涉生成式人工智能犯罪行为人的主观方面内容，于定罪、量刑的二元罪刑关系之中实现对涉生成式人工智能犯罪行为的公正评价。

（一）
首选路径：涉生成式人工智能犯罪主观方面的前置化评价

如前文所述，按照行为人对于生成式人工智能支配力的程度可以将涉生成式人工智能犯罪二元划分为“行为人完全支配生成式人工智能实施的犯罪行为”与“行为人不完全支配生成式人工智能实施的犯罪行为”。从划分逻辑上来说，之所以要将本该存在的“部分支配”与“完全放任”合并为“不完全支配”，缘由在于，只要生成式人工智能存在自由行动的空间，其突出的行为独立属性与进阶的算法黑箱即会发挥作用，从而导致刑事责任的划分问题存在异变。在此基础上，“部分支配”与“完全放任”仅是对生成式人工智能的放任程度存在差异，但在犯罪评价的过程中，二者的评价逻辑却是一致的，即尽可能确定并剔除放任状态下生成式人工智能对犯罪主观方面的异变影响。
“完全支配型”涉生成式人工智能犯罪与传统犯罪评价逻辑并无二致，本文不再赘述。目前来看，高概率发生的“不完全支配型”涉生成式人工智能犯罪主要包括一系列煽动型犯罪（例如煽动分裂国家罪、煽动实施恐怖活动罪等）、一系列传播型犯罪（例如编造、故意传播虚假信息罪、传播淫秽物品罪等）以及一系列侵犯公民人身权利、财产权利犯罪（例如诈骗罪、侮辱罪等）。我国有学者认为，生成式人工智能不可控的特性可能导致其侮辱诽谤特定用户，从而构成侮辱罪或诽谤罪。但从犯罪主观评价层面出发，研发者或使用者向生成式人工智能中投注不良引导信息，导致后者对特定用户群体生成侮辱、诽谤内容的，除非投注内容中明确包含侮辱、诽谤特定人的信息，一般不宜认定为侮辱、诽谤罪。我国刑法规定的侮辱、诽谤罪明确将“以暴力或者其他方法公然侮辱他人或者捏造事实诽谤他人，情节严重的”作为构成要件，即以针对特定人的公然侮辱以及捏造事实作为犯罪故意针对的内容。相关行为人在投注宏观、模糊的不良引导属性信息时，生成式人工智能的确可能对该信息内容进行学习训练，承继人类的偏见甚至暴力性质，进而针对具体用户生成侮辱、诽谤性内容。然而，在此种过程中，行为人缺乏侵害具体被害人的犯罪故意，而生成式人工智能暂时又不能被评价为犯罪主体，所以仅能从传播型犯罪中寻找行为人的入罪依据。
因此，为避免犯罪主观评价的混淆，应根据接受生成式人工智能服务的对象的范围妥善划分“不完全支配型”涉生成式人工智能犯罪。前述煽动型、传播型犯罪均要求犯罪对象的广泛性，因此仅在生成式人工智能向不特定对象提供服务时才可能现实发生。而前述侵犯公民人身权利、财产权利的犯罪要求行为人的认识因素与意志因素具体化到特定的被害人，因此仅在生成式人工智能向特定对象提供服务时才可能现实发生。
1.生成式人工智能针对不特定对象提供服务的犯罪案件




在行为人利用生成式人工智能针对不特定对象提供服务进行犯罪的案件中，对犯罪行为人主观方面认识因素与意志因素应当进行前置化评价。如果采取后置化的评价立场，从客观危害结果入手反推行为人的主观因素则可能误入歧途，因为从脱离主观罪过、“裸”的行为中，实难判定预期危害行为与客观危害结果之间有无区别。传统意义上利用人工智能、网络平台面向不特定对象实施犯罪行为的，虽然行为人无法预计危害结果的范围和程度，但一般可以用“概括故意”建立行为人主观罪过与客观危害结果之间的联系。然而，即便是概括故意，依然具备有限的边界，行为人若在行为时不可能认识到其行为会导致一定的危害结果，则不能认为行为人对这一危害结果存在概括故意。在生成式人工智能时代下，“概括故意”的解决路径现实失灵了。传统的网络传播型犯罪中，结果是可预测的，行为人对于一切可能性均具备认识因素与意志因素，只是缺乏准确预测的能力。但在生成式人工智能时代下，结果不可预测。生成式人工智能可能在极大程度上逆行为人的主观意志行事，改变该不良引导属性信息的传播范围，亦可能直接传播偏离原意的信息内容。因此，在涉生成式人工智能犯罪中，危害结果的不可预测性将导致其无法被用于圈定行为人的犯罪主观方面。为实现主客观相统一原则的要求，仅能从行为人的犯罪主观方面出发，探寻犯罪主观方面所直接指向的危害结果范围，将此范围内的结果归责于行为人。而对于行为人犯罪主观方面的直接探索，于涉生成式人工智能犯罪中，则需要从“结果生成”阶段前置化到“数据投注及需求提出”阶段进行判断。“数据投注及需求提出”阶段不存在生成式人工智能的参与，在这一阶段中，研发者可以毫无限制地投注数据，使用者则可以肆意地提出自己的需求，虽然生成式人工智能受制于能力及程序限制无法回应行为人的全部需求，但需求的提出本身是不受限制的。因而，“数据投注及需求提出”阶段行为人的意思表示能够最大程度上还原其犯罪故意内容，从而确定客观产生危害结果与行为人所欲实现的危害结果（概括故意边界）间的“差值”，此部分“差值”即为生成式人工智能对犯罪行为的异变效果。
对于研发者而言，其对于生成式人工智能的运行逻辑较为熟悉，认识能力更强，对于危害结果的预测自然亦超出普通人。在此情况下，应当以研发者投注数据的量以及本身的危害程度为基础，结合该生成式人工智能公司所保存的生成式人工智能预训练及强化训练模式、参数权重，推断出该性质、数量的数据传播程度和范围的中位数，从而确定其犯罪故意内容，进而认定其刑事责任程度。
对于使用者而言，在“需求提出”阶段对行为人犯罪主观的评价，还要侧重考量行为人的认识能力。目前，生成式人工智能尚未于我国形成充分且正确的“大众认知”，相关法律规范也并未对生成式人工智能的各方面进行细化规定，因此绝大多数人无法形成“对生成式人工智能的不当需求提出可能造成危害社会结果的认识”，从而缺乏认识能力，不可能具备故意犯罪的认识因素。绝大多数人将生成式人工智能视为不互联的业务辅助和聊天陪伴工具，对于生成式人工智能可能基于用户反馈数据学习训练并向其他用户生成的属性并不知悉。在此背景下，因为使用者偶尔的“发牢骚”或者其他不当言论，导致生成式人工智能大肆传播并造成危害结果的，要求行为人承担刑事责任不但不符合主客观相统一原则的基本要求，而且容易导致制裁规范过度入侵日常市民生活领域。而对于行为人究竟是否具备足量认识能力的判断，则需要结合行为人的专业背景、大众认知，即社会一般群体对某种事物所共同具有的认识、了解的程度，是一种普遍的认知状态，受社会环境、教育、媒体、法律规定等各种社会因素的影响。兴趣爱好、日常浏览的网页、曾发表的言论等方面信息进行综合判断。
2.生成式人工智能针对特定对象提供服务的犯罪案件




在行为人利用生成式人工智能针对特定对象提供服务进行犯罪的案件中，由于生成式人工智能被完全用于诈骗、诽谤等犯罪行为，行为人更可能毫无保留地向其提出自身的犯罪需求，充分并完全地展示自己的犯罪主观内容，以期实现犯罪目的。与前述“生成式人工智能针对不特定对象提供服务的犯罪案件”间的区别在于，本类犯罪案件中，行为人主观罪过的表现将不必然是概括故意，而可能是确定故意。行为人利用生成式人工智能针对特定对象实施犯罪行为时，其犯罪故意直接指向具体的被害人，若其事先并未预知生成式人工智能对犯罪主观的异变可能，其犯罪故意内容将十分明确、具体。例如，前文所举“生成式人工智能诈骗”案例中，从主观出发，行为人的认识因素与意志因素均是明确指向“人民币500元”的预期危害结果，其并未给预期危害结果预设范围，而是认为预期危害结果肯定会发生。当然，若犯罪行为人是研发者或使用者中精通生成式人工智能的专家，其可能提前预知生成式人工智能对犯罪主观的异变可能，从而为预期危害结果预设范围。此时行为人的犯罪故意种类便又回归至“概括故意”。然而，无论是确定故意还是概括故意，在此类案例中，由于行为人犯罪主观方面更可能完全展露，对“犯罪行为人主观方面内容”及“生成式人工智能对犯罪主观异变效果”的确定均更为容易，犯罪主观前置化评价的路径优势亦更为明显。

（二）
备选路径：涉生成式人工智能犯罪行为人责任承担的从宽处理

涉生成式人工智能犯罪中，对犯罪行为人主观方面内容的精准界定自然是最理想的结果，然而其界定难度却可想而知。尤其是在“生成式人工智能针对不特定对象提供服务的犯罪案件”中，如前文所述，“以研发者投注数据的量以及本身的危害程度为基础，结合该生成式人工智能公司所保存的生成式人工智能预训练及强化训练模式、参数权重，推断出该性质、数量的数据传播程度、范围的中位数，从而确定其犯罪故意内容，进而认定其刑事责任程度”的前置化评价路径，需要生成式人工智能公司预先按照统计学方法定性、定量计算出生成式人工智能对相关训练数据传播范围的中位数，为犯罪侦查提供依据。然而，一方面，不良引导属性数据量的差异或许可以界定，但危害性质的差异却难以量化，生成式人工智能对不良引导属性数据性质的改变难以现实把握。另一方面，生成式人工智能处于永不停息的学习训练进程之中，生成式人工智能对相关训练数据的改造和传播能力注定愈发强大，传播范围中位数亦会逐渐改变，不易掌控。
因此，在犯罪异变引发的主观方面难以评价的情况下，我们必须回到犯罪主观评价异变应对路径的核心目的——实现刑事责任承担的均衡。传统的刑法理论都是沿着从犯罪到刑罚的路径进行研究的，传统的司法理念也是按照先犯罪后刑罚的模式裁决案件的。我国有学者曾指出，判断罪名不应是刑法的核心，量刑公正才是众望所归，生活中仅有刑法学者重视量刑，社会大众则是以行为的社会危害性推导刑罚量，以具体量刑评价判决的合理性。从刑法的传统理论以及司法评价的现实路径来看，定罪确乎是刑罚的前提，但是最终目标还是确定刑罚量。在我国学界曾经出现过有关“以刑制罪”的探讨，主张罪刑关系的二元化，强调定罪量刑的逆向思维，提出要以刑罚量制约定罪选择。“以刑制罪”的理论观点实际上并未拉低罪刑关系中量刑的核心地位，反而是对量刑地位的进一步强化。“以刑制罪”理论的核心，便是以与司法正义密切相关的刑罚量制约定罪的选择，“以刑制罪”理论虽逆刑法传统，主张“罪生刑、刑制罪”的双向制约关系，但并未否定刑罚之确定是定罪的最终结果。
在涉生成式人工智能犯罪中，对于犯罪主观方面准确评价的难度完全可以后置于量刑阶段进行化解，从而实现罪刑均衡。毕竟定罪量刑常有分歧，而对刑罚后果的考虑就能最终成为平息纷争、解决矛盾的平衡器。在此立场下，应当以“客观危害结果与行为人概括故意边界（主观方面的预期危害结果）的差值”为根据，将涉生成式人工智能犯罪划分为两类：其一，差值为正数。在此种情况下，客观危害结果超出了行为人概括故意的最大边界，意味着生成式人工智能对行为人的犯罪主观方面进行了正向异变，客观扩大了行为人主观方面的预期危害结果。其二，差值为负数。在此种情况下，客观危害结果低于行为人概括故意的最小边界，意味着生成式人工智能对行为人的犯罪主观方面进行了负向异变，客观限缩了行为人主观方面的预期危害结果。在当前无法准确剔除生成式人工智能对犯罪主观方面的异变效果时，对于前述涉生成式人工智能犯罪的两种情况，最契合罪刑均衡原则的做法即为量刑上的从宽处理。
量刑从宽的基准，即推定行为人对客观危害结果具有犯罪主观方面的认识因素与意志因素，在此种推定之下所形成的一系列具体个罪的犯罪构成事实，即为量刑时作为起始标准的刑罚量。在此基础之上，对于前述涉生成式人工智能犯罪中“客观危害结果与行为人概括故意边界的差值”为正抑或为负的两种情况，从宽处理均不违反量刑公正。对于差值为正的情况，生成式人工智能对行为人的犯罪主观进行了正向异变，客观扩大了行为人的预期危害结果。为实现主客观相统一原则的要求，理应剔除生成式人工智能对预期危害结果的扩大影响，回归行为人主观方面的真实表达。因此，行为人的预期危害结果与犯罪故意所组成的犯罪构成事实注定轻于客观危害结果与由此推定的犯罪故意所组成的犯罪构成事实，以前者为基准进行量刑必然会导致较于后者的轻缓化结果。在现阶段精准剔除生成式人工智能对犯罪主观方面的异变影响存在难度的情况下，量刑层面的从宽处理能够最大限度上与涉生成式人工智能犯罪主观方面前置化评价做到效果同向，符合量刑公正的基本要求。对于差值为负的情况，生成式人工智能对行为人的犯罪主观方面进行了负向异变，客观限缩了行为人的预期危害结果。在此情况下，行为人的犯罪形态实际上应评价为“罪量未遂”，因为行为人主观欲实现全部构成要件，客观上亦实施了符合构成要件的行为（对生成式人工智能的数据投注或需求提出），但构成要件客观上并未完整实现。“罪量未遂”不同于“罪质未遂”，直接按照客观危害结果所指向的犯罪构成定罪处罚即可。然而，备用路径本就是在预设首选路径失灵的背景下提出的，在备用路径方法论的阐释中，逻辑前提即为“行为人主观认识因素、意志因素所指向的预期危害结果的范围（概括故意边界）无法确定”。在差值正负无法确定的情况下，行为人的主观方面存疑。此时，无法“根据客观事实合理推定行为人主观意志”，因而此时根据“存疑时有利于被告”原则，认定客观危害结果被生成式人工智能介入并扩大了，进而按照“差值为正”的处理模式，对犯罪行为人作责任承担上的从宽处理。
结语
生成式人工智能时代下的犯罪风险日益严峻，刑法学者应当居安思危、未雨绸缪，搭建行之有效的刑法应对理论体系。在生成式人工智能所具备的特性之中，愈发突出的行为独立属性以及进阶的算法黑箱属性亟须重视，在犯罪评价过程中，前者已然介入行为的因果进程，而后者又会模糊因果判断，二者的耦合导致涉生成式人工智能犯罪评价的异变。在此异变之下，犯罪行为人的主观方面与客观方面之间的路径出现偏离，主观罪过无法完全与客观行为和危害结果相对应，由此导致刑事责任的界定疑难。应对生成式人工智能时代犯罪主观评价异变的问题，关键是要以主客观相统一的刑法适用原则为依归，实现对涉生成式人工智能犯罪行为的公正评价。在此背景下，首选路径是在“数据投注及需求提出”阶段对涉生成式人工智能犯罪行为人的主观方面进行规范评价。此种路径精准、明确但现阶段难度较大。于是，备选路径应运而生，刑罚的均衡性是生成式人工智能时代下犯罪主观评价异变应对路径的核心目的，对涉生成式人工智能的犯罪人作刑事责任承担上的从宽处理，是当前阶段与首选路径结果同向的优化选择。

往期精彩回顾
李伟明｜“结构”与“行动”规则的有机统一——论新时代“枫桥经验”中的群众路线实践
陈超｜Web3.0背景下技术规避型侵犯著作权行为的法律规制
江东华｜法规竞合视角下的“猫药案”分析——对适用生产、销售伪劣产品罪的否定
秦思楠｜数字平台经营者“准公主体”身份的规范进路
陈怡玮｜日本数字社会形成基本法述评

目录｜《上海法学研究》2023总第9卷


上海市法学会官网

http://www.sls.org.cn