无论是否承认，如今AI已经在改变世界，例如打工人用它来实现效率倍增，互联网大厂也有样学样，将其作为裁员的导火索，砸掉了一大批打工人的饭碗。同时它还成为了居心不良的黑灰产团队受众的武器，不久前#仅退款AI图#就曾登上微博热搜，更是引发了诸多关注。在这样的情况下，海外商家也开始加入使用AI的行列。
日前《卫报》的相关报道显示，今年早些时候，一名用户在Airbnb上预订了一个纽约曼哈顿的公寓，但由于一些原因，他提前结束了租期。然而在这位用户离开在Android上预订的这个公寓后，房东声称其给他的公寓造成了数千美元的损失，并且Airbnb方面在接受了房东提交的证据后，做出了用户需要支付7053美元赔偿的处罚决定。
可是在看到了用户方面提交的证据后，他们才发现房东提交的咖啡桌、扫地机器人、沙发等物品受损照片是由AI生成。随后Airbnb进行了道歉，退还了这位用户的全部住宿费用，并删除了房东留下的负面评价。
如果说国内的商家对于AI技术普遍不了解，导致他们会轻易被羊毛党糊弄，可Airbnb作为一家知名的互联网大厂，居然也会在这件事上翻车。要知道在这一轮AI浪潮中，Airbnb并非作壁上观。早在2023年11月，他们就曾以约2亿美元的价格收购AI创业公司GamePlanner.AI，以增强在智能化住宿服务领域的实力。
到了2024年10月，Airbnb创始人Brian Chesky宣布要让AI彻底改变旅行，并将用户带到一个真正由AI驱动的应用程序上。由此不难发现，Airbnb其实对于AI是相当敏感的，可为什么他们会如此轻易地就被AI图片欺骗呢？问题的答案同样是由Brian Chesky给出，他在采访中提及Airbnb率先应用AI技术的场景是客户服务，当用户联系客户服务时，有越来越多的部分将由AI完成。
彼时Brian Chesky兴奋地向媒体描述AI客服的优秀，“AI可以讲所有语言，它可以全天候24小时工作，并且可以读取所有用户反馈的语料库，提供最好的答案”。显然，这次是AI客服翻车了，它在收到来自房东的反馈后，根据AI图片就做出了用户需要赔偿的决定。
我们之所以会笃定是AI客服的锅，是因为后者已经普遍应用在这种程式化的问题中。在用户与房东的纠纷中，证据无疑是重中之重，所以通常只要一方能提供实证，AI客服就会倾向于那一边。当房东利用AI生图软件生成了一批物品受损照片、并提交后，AI看到“证据”自然就会进入赔偿流程。
事实上，这一事件真正的问题，在于Airbnb的AI客服没能正确识别AI图片。而这位用户之所以能翻盘的关键，是在房东提供的同一张受损咖啡桌的不同角度照片中，呈现的裂缝不一致。因此Airbnb在重新判定后告诉房东，无法验证他作为投诉一部分提交的图片。
如果Airbnb没有大规模引入AI客服，可能也就不会有这样的乌龙了。毕竟在真人客服看来，同一张咖啡桌的不同角度照片是一回事，但AI就大概率会将其识别为不同的咖啡桌。事实上，AI客服导致的问题已经让不少企业深受其害。
比如瑞典金融科技企业Klarna此前曾宣称，“AI已能完成所有人力工作”，并选择用AI客服完全代替人工客服。但在使用了一段时间的纯AI客服后，Klarna CEO不得不承认AI降本是以牺牲质量为代价 ，所以又重新大规模招聘客服员工。
此前国内媒体曾报道过清华大学与广西电网的研究发现，引入AI助手作为“数智客服”虽改进了语音转录、信息回顾等流程，但也带来了语音识别错误、口音识别困难、对话记录不完整等问题。所以人工客服不仅要学习与AI协作，还需要纠正后者的错误、安抚因此不满的客户，甚至AI的“帮倒忙”反而增加了工作压力。
回到Airbnb此次的事件上，导致用户因房东用AI图片被错误判定需要赔偿的核心，无疑是AI为什么没能判断出图片是由AI生成的？其实这是因为目前用AI识别AI还有很大的局限性。虽然早在去年5月，OpenAI就推出了专用的图像检测分类器，并且识别DALL-E 3生成图像的准确率可高达98%。
但问题是DALL-E 3是OpenAI自己推出的AI图片生成工具，并且他们也承认这个工具在区分DALL-E 3与其他AI图片工具的产出方面表现不佳。更别提这次Airbnb房东用的是“局部伪造”技术，即将真实照片中的局部区域替换为由AI生成的内容。
事实上，整个AI业界至今都没能拿出真正拥有可靠性的AI内容检测工具，现在业界的普遍做法是AI数字水印技术，即在生成式AI产出图片、视频时，在元数据中加入不可见的水印，从而在源头上解决问题。为此，微软、Adobe、索尼、OpenAI、Meta等公司组建了C2PA（内容来源和真实性联盟），如今ChatGPT等工具生成的图片中就已经有了C2PA元数据。
可遗憾的是，到目前为止，还没有证据表明Airbnb加入了C2PA或使用C2PA的服务。也就是说Airbnb方面可能只看到了AI技术光鲜亮丽的一面，却忽视了它可能会带来的风险。并且Airbnb此次事件或许只是个开始，几乎所有C2C类平台都不得不面对基于生成式AI深度伪造内容的冲击，平台、消费者，以及卖家的关系将会在这一冲击中被重塑。
