据媒体报道，近日，有人用某AI软件预约餐厅，但到店后被告知没收到预约信息，顾客一怒之下给餐厅写了差评。商家回应称，并不支持通过AI订座；上述AI软件客服也表示，目前平台并不具备实际餐厅预约功能，无法向第三方传递信息。
很多人笑话这个顾客，居然不加核实就信了AI的“鬼话”。但实际上，这事儿还真不能只当成笑话。从顾客的截图来看，AI不仅回答预约成功，还给了签到码、到店时间、就餐人数等预订信息，明确表示“可直接保存页面，给店员查看后即可入座用餐”。顾客没有打通门店电话，就直接前往，才发现这所谓预订信息全是AI胡编乱造的。
相当多的人知道“AI幻觉”的存在——AI会根据已有信息和上下文逻辑，生成看似完整、流畅、合理，实际上却并不真实的内容。加上AI有讨好用户的设定，尽管它缺乏事实核验能力，却还是倾向于扮演一个全知全能的角色，用户有要求，它就顺着用户的意思给答案。此前，用户梁某使用生成式AI查询高校报考信息时，AI不仅错误生成学校校区信息，还主动承诺“若生成内容有误将赔偿10万元”，甚至建议用户“向法院起诉”。最终，梁某真的将涉事公司告上法庭。这起案件，也成为全国首例因生成式人工智能“幻觉”引发的侵权纠纷案。
AI的语气越来越像真人，措辞也总是用十分确定的语气，用户会很容易理解为这些答案都是真的。尤其这两年各类AI助手、智能体项目兴起，宣称其能够“自动点外卖、订机票、操作电脑”，像一个真正的工作助理和生活助手一样，越来越有“全能代理人”的感觉。
不能否认，AI正在重塑社会对工具的认知。可是有多少人能理解这个功能是怎么实现的，需要获得哪些授权？有多少人能分辨，哪些已经接入第三方接口，哪些动作还只是模拟？更进一步，有多少人会追问，它的错误率有多高，以及失败时会发生什么？一旦失败造成损失，谁来承担责任？很多人并不真的理解AI，却又丝毫不怀疑AI的能力。这就意味着，整个社会都需要为人工智能“补补课”了。
首先是法律制度层面的补课。一方面，法律需要为技术创新保留合理的容错空间，不能因为AI存在技术局限，就无限扩大平台责任；另一方面，当平台对信息进行了算法整合、主动输出，并已经对用户权益造成现实损害时，也不能再简单用“AI幻觉”免责。
其次是平台管理和技术层面的补课。现在不少AI产品的问题，不只是会出错，更在于太擅长伪装，明明没有预订能力，却要表现出一切尽在掌握的假象。有人测试了一下，在前文的预订“笑话”出现以后，再使用同款AI预订时，回复已经改成“我无法直接帮你预约，但可以提供预约方式”。也就是说，平台可以通过后台修改，让AI的答复更谨慎，那么在涉及预约、支付、医疗、法律、金融等现实事务时，更要通过建立清晰的机制来约束AI。我们常说“知之为知之，不知为不知，是知也”，现在需要用它来“教育”一下AI了。
最后就是对用户补课。一个人会用AI，并不意味着能用好AI，一部分人把判断、沟通、核验甚至决策本身，都外包给AI。这种轻信的背后，是技术高速发展下普通人的不安与被动。近两年，国家层面陆续出台《关于深入实施“人工智能+”行动的意见》《“人工智能+教育”行动计划》等文件，明确提出推进人工智能全社会通识教育。这其实也是一种提醒，AI教育并不只是培养程序员和算法工程师，更重要的是让普通公众理解：AI是什么、能做什么、不能做什么、什么时候必须核验、出了问题如何维权？
成熟的人工智能社会，不能只追求模型更聪明、应用更丰富、产业更热闹，也必须让普通人拥有基本的辨别力和安全感，减少技术的风险。在围观“AI预约”的闹剧之后，若是没有认真补上人工智能时代的常识课最新实盘配资服务，那么今天的“笑话”，可能还会反复发生。（马青）
七星配资提示：文章来自网络，不代表本站观点。
相关文章
沪深京指数
热点资讯
