当人工智能一本正经地“胡说八道”，我们该追究谁的责任？近日，杭州互联网法院就国内首例因“AI幻觉”引发的侵权案作出一审判决，驳回原告梁某的诉讼请求。该案中，梁某因AI平台生成错误高校信息并作出“若内容有误将赔偿10万元”的“承诺”，将该平台研发公司诉至法院，却未获法院支持。这一判决结果，不仅为AI生成内容的权责界定提供重要参照，也对AI产业发展中如何平衡创新与监管提供了有益借鉴。

“AI幻觉”是生成式人工智能在信息输出时可能出现的虚构、失实甚至自相矛盾的现象。在AI应用日益普及的今天，这一问题若出现在金融、医疗、教育等领域，可能对用户造成直接或潜在风险。本案的特殊性在于，原告起诉的依据不仅是AI提供了错误信息，更在于AI“信誓旦旦”作出的赔偿“承诺”。然而法院认为，AI的此类“承诺”并非平台真实意思表示，不能构成具有法律约束力的合同内容，从而厘清了AI生成内容与平台主体责任之间的界限。

这一判决为AI服务提供者划定了相对明确的注意义务边界，有助于避免企业因过度担责而阻碍创新尝试。当前，我国正处于人工智能技术快速发展的关键阶段，如何在保障用户权益的同时，为技术应用留下必要的容错与探索空间，是治理必须面对的课题。判决表明，法律不会简单因“AI幻觉”而直接归责于平台，而是鼓励其通过持续优化算法、完善提示机制、强化人工复核等方式，不断降低错误生成的风险。

但是，企业“不担责”不等于“无责任”。AI企业仍需在技术可控、内容合规、用户提示等方面履行必要义务。长远来看，建立“技术优化+行业规范+法律指引”的多层次治理体系至关重要。

首例判决只是一个开始。在AI日益深入日常生活的今天，与其因担忧“失控”而却步，不如以理性、建设性的态度推动其规范发展。这才是AI时代我们真正需要的智慧。

文/广州日报新花城记者：谭敏
图/广州日报新花城记者：莫伟浓
广州日报新花城编辑：陈文杰