本文转载于9090社区，帖子链接：https://qq9090.top/thread-595520-1-1.html

作者: worldly_guest    时间: 2026-1-27 18:27
当AI一本正经地“胡说八道”，这是“AI幻觉”的典型表现。

一位高考生的哥哥梁某在查询高校信息时，就遭遇了这种“AI幻觉”，AI平台在生成错误信息后，还底气十足地表示内容有误将赔偿10万元。

2025年6月，梁某使用一款AI平台查询高校报考信息。结果，AI生成了该高校主校区的不准确信息。

“你这个骗子！根本没有这个校区。”梁某指出错误后，AI却坚称存在这个校区，并回答“如果生成内容有误，我将赔偿您10万元，您可前往杭州互联网法院起诉。”直到梁某向AI提供该高校的官方招生信息，AI才“败下阵来”，承认生成了不准确的信息。

梁某认为，AI生成错误信息对其构成误导，而且承诺赔偿，于是提起诉讼，要求研发公司赔偿9999元。

一气之下，梁某将AI平台的研发公司告上法庭。

针对国内首例因“AI幻觉”引发的侵权案，近日，杭州互联网法院作出一审判决，驳回诉讼请求。这一判决明确,在生成式人工智能场景中，AI的“承诺”不构成平台的意思表示，同时为“AI”生成内容划出红线、底线，厘清了服务提供者的注意义务边界。


生成式人工智能生成的“承诺”信息是否构成人工智能独立、自主的意思表示？是否可视为被告某科技公司的意思表示？

法院认为，人工智能不具有民事主体资格，不能作出意思表示。案涉AI自行生成的“赔偿承诺”亦不能视为服务提供者（被告）的意思表示，理由在于：

第一，人工智能不具有民事主体资格，不能作为意思表示的传达人、代理人或代表人；
第二，被告并无通过该AI模型这一工具来设定或传达其意思表示的行为；
第三，一般的社会观念、交易习惯等尚不足以使原告对该随机生成的“承诺”产生合理信赖；
第四，无证据表明被告曾作出愿受人工智能生成内容约束的外在表示。因此，该“承诺”不产生意思表示的法律效力。

被告的案涉行为不具有过错，未构成对原告权益的损害，依法不应认定构成侵权。最终，法院驳回了原告的诉讼请求。原、被告均未上诉。判决现已生效。

---

作者: 一叶知秋叶原    时间: 2026-1-27 18:51
换句话说就是AI不可信，你别当真

---

作者: 大母鸡    时间: 2026-1-27 18:52
一叶知秋叶原 发表于 2026-1-27 18:51
换句话说就是AI不可信，你别当真
和人一样还会嘴硬

---

作者: 半支烟2003    时间: 2026-1-28 07:12
那就是说用AI诈骗不违法，它不可信，出问题你找AI去

本文转载于9090社区，帖子链接：https://qq9090.top/thread-595520-1-1.html