行业

欧洲人权法院禁赛两年:罗马尼亚律师引用AI虚构判例被查处

精选理由

一个真实翻车案例:罗马尼亚律师用AI写状纸,结果引用的判例根本不存在,被欧洲人权法院停职两年。对比各家厂商宣称幻觉率大幅下降,这案子说明没人工核查照样出事,做法律、合规工作的朋友尤其该看看。

欧洲人权法院(ECtHR)对一名罗马尼亚律师作出停职两年的处罚,起因是她提交的AI代写文书引用了不存在的法院判例。法院还在真实判决书中发现了凭空编造的段落,甚至有真实判例的内容恰好与她引用它所支持的论点相矛盾。

正文

这位律师承认使用了AI,但辩称这些问题只是“引用错误”。法院调查后认定,部分引用“完全没有经过任何核查”。Gary Marcus 转发此案并评论称,所谓“幻觉已基本解决”的说法本身就是一种幻觉——说明语言模型的虚构引用问题在实际法律工作中并未消失,从业者不加核查直接使用会带来真实的职业后果。

原文 · Gary Marcus

“Hallucinations are basically solved!” is itself a hallucination. International Cyber Digest @IntCyberDigest ‼️ Europe's top human-rights court has banned a Romanian lawyer for 2 years after her AI-drafted filings cited court cases that don't exist. The European Court of Human Rights also found made-up paragraphs in real rulings, and real rulings that contradicted the very arguments she cited them for. She admitted using AI and called the mistakes "citation errors." The court found that for some references, "no checks whatsoever had been carried out." 🔗 View Quoted Tweet📊 4 ⚡

产业坐标与信源核验

本条情报归属 AITOP「行业」核心栏目,重点聚焦欧洲人工智能治理与技术生态。在跨区域产业观察坐标中,该动态直接关联「各国 AI 监管法案、合规治理与主权算力政策」研究主线,反映出当前技术演进与商业落地的最新风向。涉及核心实体与技术议题包括:ECtHR、GaryMarcus、幻觉、AI安全,读者可通过下方标签进入对应专题页查阅历史脉络与关联对比。

信源核验说明:本文原始线索采编自「Gary Marcus」(@GaryMarcus),经 AITOP 多维评分管线结构化提炼。