本文刊载于2026年10月13日《上海法治报》第A02版
都市公园的一角，一台免费AI互动机器，仅凭两张人脸照片，就能生成情侣“未来宝宝”的趣味合影。这新奇体验吸引了大量游客参与，但少有人知晓，甜蜜的“未来想象”背后，自己的脸，甚至被镜头无意捕捉到的路人的脸，在未经提示下都已被设备本地留存，并上传至云端……黄浦区人民检察院近日办理了一起AI互动拍照装置违规处理人脸信息公益诉讼案件，揭开了公共文旅场景中，AI野蛮生长的现实一角。
当AI合影、AI生成设备大量涌入公园、展会、文旅点位，技术为生活带来趣味的同时，敏感人脸信息正遭遇泄露风险。文旅场景下AI技术创新与个人信息保护之间的边界何在？又该如何平衡两者之间的关系，从源头上补齐治理短板？记者就此展开采访。
虚拟生成“一家三口”照片 新奇体验带来安全隐患
今年上半年，上海某公园内，一台提供所谓“未来宝宝”合影服务的AI拍摄装置颇为新奇，吸引了众多游客前来打卡。
现场，游客只需要在镜头前拍摄两人照片，机器就能运用深度合成技术，生成包含“未来宝宝”在内的一家三口合影，继而在微信小程序内就能查看、下载。
这样的一种AI互动体验是否合规？会不会存在个人信息泄露的风险？益心为公志愿者将自己在游园中获取的线索，第一时间转交给了黄浦区检察院。
“人脸信息属于敏感个人信息，一旦被违规采集、存储、上传，可能损害不特定多数人的个人信息权益和社会公共利益。”为此，黄浦区检察院公益诉讼检察官陈雯在获取线索后，立即前往现场进行了实地勘查。
“我们实地模拟了普通游客的一套完整操作流程，站在镜头前直接点击拍照，发现屏幕上没有任何弹窗提示，告知人脸采集事项，也没有取得处理敏感个人信息的单独同意，也就是说，游客只要按下快门键，人脸数据便完成了采集、上传。”
陈雯向记者解释，依据《个人信息保护法》，处理人脸必须单独告知采集目的、存储期限、信息去向，获取用户单独同意，禁止捆绑授权、概括授权，“而该设备完全忽略了这些法定流程。”陈雯坦言，“很多游客只当是小游戏‘拍一张玩玩’，其实人脸数据从点击拍照的这一刻起就已经脱离了自身掌控。”
上万张人脸被永久留存 行政民事公益诉讼协同推进
上述只是这台AI互动设备前端的问题，对于存储环节存在的潜在风险，今年5月，黄浦区检察院委托上海市人民检察院技术中心开展了调查取证。市检察院出具的《取证分析报告》显示，涉案设备内嵌的AI程序具备拍摄照片并上传功能，在相关应用文件夹中提取到所拍摄照片一万余张。
“这些素材不只是体验项目的游客，还包含大量试拍、误拍画面，以及路过镜头边，对此毫不知情的普通路人的清晰人脸。”陈雯透露，所有照片除保存在机器本地，还同步上传至企业云服务器，系统也没有设置自动删除规则，未设置合理保存期限，默认就是永久存储。“这些都违背了处理个人信息应当‘知情同意’‘最小必要’的基本要求。”
“在用户授权环节，也是暗藏隐患。”陈雯告诉记者，游客想要查看照片，必须一揽子同意合并编写的《用户协议与隐私政策》，但用户协议和隐私条款混杂在一起，文本内含有“永久存储”“二次利用”“无条件出境”等霸王条款。
通过进一步调查，检察机关发现，这是一家在外省市的AI产业公司，该企业在本市甚至全国有大量同类业务，其中AI漫剧、短剧就是其核心业务之一，“也就是说，其本身存在训练分析人脸数据的业务需求，这一万多张未经合法授权的人脸样本，潜藏被挪作商业用途的风险，即便没有证据证实已经发生泄露，大规模无约束存储敏感个人信息，本身就侵害了社会公共利益。”
为推动企业实现全面整改，从办理一案实现治理一片，检察机关一方面通过行政公益诉讼向主管行政机关制发检察建议，督促其规范行业内个人信息处理行为；另一方面同步以民事公益诉讼立案，通过磋商协议固定整改义务，至8月份，企业已依法删除本地及云端违法存储的人脸信息，并逐条修改隐私协议，完成了个人信息合规整改。
线下AI设备成新风尚 文旅场景存在合规灰色地带
事实上，AI“未来宝宝”拍照机并非个例，随着AI技术的创新发展，商场、公园、展会、文旅点位，正越来越多出现AI报刊打印、AI换脸、AI合影等AI趣味生成类设备。
上海社科院法学所教授彭辉指出，这类文旅场景下的AI深度合成设备，往往存在类似的未取得单独同意、告知同意流于形式、违背最小必要原则等合规漏洞。“包括如果设备面向未成年人开放，还需要单独取得监护人同意，这也是当下一些AI设备普遍缺失的合规环节。”
在此之外，深度合成标识落实缺位也是一大问题。“按照《互联网信息服务深度合成管理规定》，AI生成人物图像应当加注显著标识，提示公众这是AI合成内容，但一些设备并未履行这一义务。”彭辉指出，最高人民法院相关司法解释进一步明确，未经同意利用AI处理自然人肖像生成虚拟形象，有可能构成肖像权侵权。
“从监管层面来看，权责交叉问题也比较凸显。”彭辉告诉记者，目前AI生成类设备涉及网信、公安、工信、市场监管、广电等多个部门，加上文旅、商务等场所主管部门，是“九龙治水”的局面，遇到问题容易出现权责模糊。
陈雯还谈道，此类线下AI设备大多采用租赁模式，跟随商业活动、展会、快闪等短期投放，活动结束即撤场，流动性强，这也给监管带来了现实阻碍。
“这些设备多投放在活动场景内，由主办单位引入第三方商业企业运营，而源头上，活动审批多重点关注活动本身与现场安全，缺少对AI服务商的数据安全前置审查，容易忽略其中个人信息保护的重要环节。”陈雯表示。
探索“沙盒监管”，限定场景内实行容错纠错
平衡AI创新与个人信息保护
对于层出不穷的AI应用，该如何平衡技术创新发展和个人信息权益保护？采访中，陈雯和彭辉都认为，线下生成式AI属于技术落地新赛道，监管不能简单一刀切禁止。如何把握尺度，平衡两者之间的关系，是当下AI领域社会治理需要不断探索的课题。
“其核心思路应是‘包容审慎’，既不能‘一管就死’，也不能‘一放就乱’。”彭辉认为，沙盒监管、触发式监管是适配AI新业态的治理工具，“通过划定一个可控范围，允许新业态先行先试，在限定场景内实行容错纠错，一旦风险超出预设阈值，立刻触发监管干预。”
同时，彭辉谈道，治理思路需从单纯“管技术”转向管风险、管主体、管后果。“不以是否使用AI作为监管分界线，而是依据风险高低划定监管强度。高风险场景从严监管；低风险趣味应用，可采用备案承诺制。同时要厘清设备生产商、运营方、场地方的完整责任链条，做到责任可追溯。”
陈雯也认同这个观点，“检察公益诉讼介入AI领域，应当严守履职边界，以具有‘违法性+公益受损’作为介入标准，区分风险等级灵活选择监督方式，避免过度干预企业正常经营。”“面对已经显现的大规模泄露风险，果断启动公益诉讼，如果风险较低，可通过磋商等方式提示行政机关，引导企业进行整改，以较小代价化解风险，兼顾产业发展。”
“AI治理是多元共治工程，政府定规则、企业担主体责任、行业协会制定自律规范、公众与媒体参与监督，形成动态平衡的治理生态。”彭辉表示，“技术治理不能只靠立法执法，还须提升公众风险认知和维权能力。可以依托基层网格，在商场、公园、景区等AI设备密集处开展常态化风险预警，持续开展公众普法，从源头上建立防护墙。”
记者：季张颖
来源：上海法治报
制作审核：院党委宣传部
（院科研成果传播办公室）
责任编辑：王艺博
