生成式人工智能如何监管
作者:经济日报
时间:2023-08-03

只花9.9元,上传二十几张照片,就能获取一套人工智能生成的写真集。过去两周,“妙鸭相机”小程序成为我国生成式人工智能领域的一个爆款应用。刷屏的同时,妙鸭也刷出了用户隐私保护、消费者权益保护等“暗雷”,提醒我们人工智能未必如想象中那么美好。

先来看隐私保护。现在搜索“妙鸭相机”,各渠道排在前面的关联热词都是“妙鸭相机会盗取个人信息吗”“妙鸭相机安全吗”,表明安全性已成为用户最关注的问题。而这恰恰是妙鸭最先踩中的雷,上线不久,就有媒体报道,妙鸭用户协议中明确规定,“您特此授权我方在全世界(包括元宇宙等虚拟空间)范围内享有永久的、不可撤销的、可转让的、可转授权的、免费的和非独家的许可,使得我方可以任何形式、任何媒体或技术(无论现在已知或以后开发)使用您的内容”。这就相当于企业试图占有用户的脸,还要用户倒贴9.9元。

人脸是一个人最核心的生物信息之一,如果被滥用、盗用,可能会成为AI诈骗、网络色情等非法活动的素材来源,危害无穷。尽管被质疑后,妙鸭很快更新了协议,称“不会提取识别信息,不会用于识别用途,服务完成后,系统将自动删除上述信息,不予留存”,但作为一家生成式人工智能的创业公司,内部居然能认可并上线第一版协议,可见企业对用户隐私的漠视以及对法律的无知。这也说明,人工智能行业还需强化用户隐私信息保护的底线意识。

妙鸭踩中的第二个雷,是消费者权益保护。据媒体报道,妙鸭规定“一旦购买成功,不支持退款”。上海市消费者权益保护委员会对此发声:涉嫌侵害消费者公平交易权。随后,妙鸭宣布照片生成失败可退款。

开发这款小程序的企业提供的服务属于在线虚拟服务,原本不在消费者权益保护法规定的7日无理由退货范畴。消费者一旦上传素材,不管最终生成的照片效果如何,已实际使用了带宽和企业提供的技术,企业事实上履行了合同。从这个角度讲,企业有理由拒绝退费。

然而,消费类企业必须回答一个问题:起草、执行相关服务协议时,是从保障消费者权益出发,还是从自身利益考量出发?如果只是嘴上喊着“优化消费体验”,实际抛出的却是冷冰冰的条款,采取简单粗暴的执行手段,给用户的感觉完全不友好,这不仅无助于产品与服务品质的塑造提升,更不可能吸引消费者对品牌的信任追随。妙鸭从拒绝到同意的态度转变,值得深思。

小程序揭示的人工智能风险隐患才刚刚冒头,仍存在不少值得研究的问题。例如,企业承诺自动删除用户信息,谁来监督落实?用户把堪比个人证件照的高精度正面照交给一家小创业公司,它有没有能力抵御黑客攻击?风潮过去后,企业会不会倒闭?这不是杞人忧天,妙鸭也在用户协议中提醒,“如果出现合并、分立、解散、破产等情况,用户个人信息可能会转移到接收方”。在这个过程中,用户信息能不能得到妥善保护,接收方又会如何处理用户信息?这一切都是充满了风险的未知数。

妙鸭入水,激起了数据时代的监管新挑战。互联网大厂投入巨资开发的文心一言、通义千问等大模型,免费给用户使用,没能做成爆款;一家名不见经传的小企业,推出一个要用户掏钱的小程序竟然做到了。这预示着,人工智能领域的竞争将是激烈的,也是出乎意料的。要跟上行业发展,监管理念、技术和相应的法律体系需抓紧完善。我们鼓励创新的“七十二变”,但保护用户隐私和消费者权益的“紧箍咒”一定得戴上。

文章来源:经济日报

正品保证 优质服务 急速物流 售后无忧