AI虚假宣传：问题与影响

亚马逊今年因其在多家实体超市安装的“Just Walk Out”技术而受到批评。这套由AI驱动的系统让顾客可以直接选购商品后离开，AI通过大量传感器判断顾客选择的商品，然后自动结账。然而，今年四月有报道称，这项技术实际上需要印度的约1000名工人手动检查近三分之二的交易。亚马逊迅速回应称这些报道有误，表示印度员工只是对系统进行审核，并未查看所有商店的视频。同时，亚马逊补充道，这与任何重视准确性的AI系统没有区别，人类审查员在此类系统中很常见。

不论具体细节如何，亚马逊的案例是一个高调的例子，展示了企业是否夸大了其AI使用的一个新兴问题。这种现象被称为“AI虚假宣传”，类似于环保领域的“绿色洗”。

首先，回顾一下AI的定义。虽然没有确切的定义，AI让计算机能够学习和解决问题。AI在经过大量信息训练后能做到这一点。近年来备受关注的是所谓的“生成式AI”，这种AI专门用于创造新内容，比如文本对话、音乐或图像。chatgpt、Google的gemini和Microsoft的copilot是生成式AI的流行例子。

在AI虚假宣传中，有几种类型。有些公司声称使用AI，实际上只是使用了不太复杂的计算技术；有些则夸大了其AI的效果，或声称其AI解决方案已完全投入使用，实际上并非如此。此外，还有一些公司只是将AI聊天机器人添加到其现有的非AI操作软件上。

根据英国和芬兰的投资基金OpenOcean的数据，2022年只有10%的科技初创公司在推介中提到使用AI，这一比例在2023年上升到超过四分之一。OpenOcean预计今年这一比例将超过三分之一。OpenOcean团队成员Sri Ayangar表示，竞争融资和希望看起来处于技术前沿，促使一些公司夸大其AI能力。

Ayangar说：“一些创始人似乎认为，如果他们在推介中不提到AI，这可能会使他们处于不利地位，无论AI在他们的解决方案中扮演什么角色。”他补充道：“根据我们的分析，声称拥有AI能力的公司与展示出可见AI驱动结果的公司之间存在显著差距。”

这问题已悄然存在多年。根据另一家技术投资公司MMC Ventures的数据，2019年的一项研究发现，自称为“AI初创公司”的新技术公司中有40%实际上几乎没有使用AI。MMC Ventures的合伙人Simon Menashy说：“今天的问题与当时一样，外加一个不同的问题。”他解释道：“尖端AI功能现在每个公司都可以买到，价格相当于标准软件。但许多公司只是将聊天机器人界面放在非AI产品上，而不是构建整个AI系统。”

英国四大会计师事务所之一的KPMG新兴技术风险部门负责人Douglas Dick表示，AI虚假宣传的问题并没有得到一个统一的AI定义的帮助。Dick说：“如果我问一屋子的人他们对AI的定义，他们会给出不同的答案。这个术语被非常广泛和松散地使用，没有明确的参考点。这种模糊性导致了AI虚假宣传的出现。”他补充道：“AI虚假宣传可能对企业产生令人担忧的影响，从为技术和服务支付过高费用，到未能达到AI被期望帮助实现的运营目标。”

与此同时，对于投资者来说，辨别真正创新的公司变得更加困难。Ayangar说：“如果消费者对那些声称提供先进AI驱动解决方案的产品有未满足的期望，这可能会削弱他们对那些真正进行开创性工作的初创公司的信任。”

在美国，监管机构开始关注。今年早些时候，美国证券交易委员会(SEC)表示将对两家投资咨询公司因关于其AI使用程度的虚假和误导性陈述进行起诉。国际律师事务所Charles Russell Speechlys的合伙人Nick White表示：“SEC的坚定立场表明，在AI虚假宣传方面没有回旋余地，这意味着至少在美国，我们可以预计未来会有更多的罚款和制裁。”

在英国，已有涵盖AI虚假宣传的法规和法律，包括广告标准管理局(ASA)的行为准则，该准则规定营销传播不得在实质上误导或可能误导消费者。英国公司法事务所Walker Morris的监管团队副主席Michael Cordeaux表示，AI声明已成为ASA调查广告的一个越来越常见的特征。

例如，ASA曾认为关于一款应用程序的Instagram付费帖子中“用AI增强你的照片”的描述夸大了该应用程序的性能，因此具有误导性。Cordeaux表示：“很明显，AI声明越来越流行，并且显然在吸引消费者兴趣方面非常有效。”

牛津大学技术与监管教授、全球AI专家Sandra Wachter认为：“我们正处于AI炒作周期的顶峰。”她指出，我们似乎忘记了是否有必要在所有任务中使用AI。她还提到，AI的环境影响常常被忽视。

Wachter说：“AI不是从树上长出来的……这项技术对气候变化的贡献已经超过了航空业。我们必须从这种单方面的过度炒作讨论中走出来，认真考虑AI在具体任务和行业中的实际益处，而不是盲目地将其应用于所有事物。”

然而，MMC Ventures研究主管Advika Jalan认为，从长远来看，AI虚假宣传问题可能会自行消退。她说：“AI变得如此普遍——即使只是chatgpt的包装——‘AI驱动’作为品牌工具可能会在一段时间后失去其差异化作用。就像曾经说‘我们在互联网上’一样。”

本文译自 BBC，由 BALI 编辑发布。