莫让“投毒”污染AI信任基石
央视3·15晚会的一则曝光,让许多习惯了向AI大模型寻求建议的消费者心头一紧:原来,那些看似客观、智能的“标准答案”,竟可能是商家花钱“喂”出来的虚假信息。一条名为GEO(生成式引擎优化)的灰色产业链浮出水面,它打着“优化信息分发”的旗号,实则通过批量制造软文、系统性投放虚假数据,对AI大模型进行“投毒”,以此操控搜索结果,谋取不当商业利益。
这一现象不仅令人咋舌,更敲响了数字文明时代的警钟。
曾以为互联网竞价排名已是一种信息污染,如今造假手段随AI技术迭代升级,更加令人触目惊心:一款虚构的智能手环,仅凭十余篇自动生成的软文,便成功“骗过”多个主流AI大模型,登上推荐榜单前列。试想,若虚假的医疗产品、错误的健康建议通过GEO技术“喂料”给AI,患者在搜索病症时,得到的可能不是专业的诊疗指导,而是被精心包装的虚假信息。这不仅会延误病情,更会破坏社会对医疗信息的信任,让原本服务于公众的AI工具,沦为别有用心者谋利的工具。AI能快速融入生活,核心在于其“信任基石”——用户相信它能基于海量数据提供中立真实的参考,而GEO黑产正从根本上动摇这一基础。当“真相”可明码标价、“推荐”可人为操控,AI便沦为收割流量的工具,长此以往,不仅侵害消费者权益,更会摧毁数字经济生态的公信力。
作为中国“数字经济第一城”,杭州拥有众多互联网领军企业,也是AI产业发展的前沿阵地。从“最多跑一次”到“城市大脑”,杭州始终致力于构建可信数字社会,面对AI“投毒”乱象,更应主动担当、率先破局。
守护AI可信度,需多方协同发力。AI运营商要扛起主体责任,升级算法防御机制,完善数据清洗与溯源体系,堵住技术漏洞;监管部门要利剑出鞘,依据相关法律法规,严厉打击GEO灰色产业链,提高违法成本;互联网企业应带头践行行业自律,拒绝参与数据操纵,同时加强公众媒介素养教育,引导大家理性使用AI、不盲信“标准答案”。
技术本身无罪,底线不可逾越。AI是通往未来的钥匙,不该成为欺骗大众的帮凶。在数字经济高速发展的今天,唯有坚守诚信底色,凝聚企业、监管等各方合力,才能让AI真正服务于人,守护好我们共同的数字家园,让数字文明的光芒照亮前行之路。