只花9块9就能“拍写真” 生成式AI该如何监管

(资料图片仅供参考)

只花9.9元，上传二十几张照片，就能获取一套人工智能生成的写真集。过去两周，“妙鸭相机”小程序成为我国生成式人工智能领域的一个爆款应用。刷屏的同时，妙鸭也刷出了用户隐私保护、消费者权益保护等“暗雷”，提醒我们人工智能未必如想象中那么美好。

先来看隐私保护。现在搜索“妙鸭相机”，各渠道排在前面的关联热词都是“妙鸭相机会盗取个人信息吗”“妙鸭相机安全吗”，表明安全性已成为用户最关注的问题。而这恰恰是妙鸭最先踩中的雷，上线不久，就有媒体报道，妙鸭用户协议中明确规定，“您特此授权我方在全世界（包括元宇宙等虚拟空间）范围内享有永久的、不可撤销的、可转让的、可转授权的、免费的和非独家的许可，使得我方可以任何形式、任何媒体或技术（无论现在已知或以后开发）使用您的内容”。这就相当于企业试图占有用户的脸，还要用户倒贴9.9元。

人脸是一个人最核心的生物信息之一，如果被滥用、盗用，可能会成为AI诈骗、网络色情等非法活动的素材来源，危害无穷。尽管被质疑后，妙鸭很快更新了协议，称“不会提取识别信息，不会用于识别用途，服务完成后，系统将自动删除上述信息，不予留存”，但作为一家生成式人工智能的创业公司，内部居然能认可并上线第一版协议，可见企业对用户隐私的漠视以及对法律的无知。这也说明，人工智能行业还需强化用户隐私信息保护的底线意识。

妙鸭踩中的第二个雷，是消费者权益保护。据媒体报道，妙鸭规定“一旦购买成功，不支持退款”。上海市消费者权益保护委员会对此发声：涉嫌侵害消费者公平交易权。随后，妙鸭宣布照片生成失败可退款。

开发这款小程序的企业提供的服务属于在线虚拟服务，原本不在消费者权益保护法规定的7日无理由退货范畴。消费者一旦上传素材，不管最终生成的照片效果如何，已实际使用了带宽和企业提供的技术，企业事实上履行了合同。从这个角度讲，企业有理由拒绝退费。

然而，消费类企业必须回答一个问题：起草、执行相关服务协议时，是从保障消费者权益出发，还是从自身利益考量出发？如果只是嘴上喊着“优化消费体验”，实际抛出的却是冷冰冰的条款，采取简单粗暴的执行手段，给用户的感觉完全不友好，这不仅无助于产品与服务品质的塑造提升，更不可能吸引消费者对品牌的信任追随。妙鸭从拒绝到同意的态度转变，值得深思。

小程序揭示的人工智能风险隐患才刚刚冒头，仍存在不少值得研究的问题。例如，企业承诺自动删除用户信息，谁来监督落实？用户把堪比个人证件照的高精度正面照交给一家小创业公司，它有没有能力抵御黑客攻击？风潮过去后，企业会不会倒闭？这不是杞人忧天，妙鸭也在用户协议中提醒，“如果出现合并、分立、解散、破产等情况，用户个人信息可能会转移到接收方”。在这个过程中，用户信息能不能得到妥善保护，接收方又会如何处理用户信息？这一切都是充满了风险的未知数。

妙鸭入水，激起了数据时代的监管新挑战。互联网大厂投入巨资开发的文心一言、通义千问等大模型，免费给用户使用，没能做成爆款；一家名不见经传的小企业，推出一个要用户掏钱的小程序竟然做到了。这预示着，人工智能领域的竞争将是激烈的，也是出乎意料的。要跟上行业发展，监管理念、技术和相应的法律体系需抓紧完善。我们鼓励创新的“七十二变”，但保护用户隐私和消费者权益的“紧箍咒”一定得戴上。

标签：