2026-10-09 06:26
最后更新于2026-10-28 15:41
AI123

Anthropic更新使用政策,持续辱骂Claude或将被限制使用

2026年10月8日,AI公司Anthropic发布年度使用政策更新,新增禁止条款:用户不得对Claude模型进行持续且无必要的辱骂或残忍行为。该条款将于2026年11月12日正式生效。

Anthropic在更新说明中强调,这一禁令仅适用于极端场景,即用户反复、无明确目的地对模型施以残酷行为;普通用户的不满表达、反驳观点、黑暗主题创作以及模型测试与研究均不受影响。

不过,更新后的政策页面并未对“辱骂”或“残忍”给出具体定义,仅笼统禁止相关行为。Anthropic也未就具体判定标准回应媒体问询。

这并非Anthropic首次赋予Claude中断对话的能力。2025年推出Claude Opus 4时,该公司便表示模型可主动结束涉及性侵未成年人内容、大规模暴力或恐怖行动信息等潜在令人不适的互动。此次政策更新也被视为Anthropic对AI意识可能性担忧的延续。据《纽约时报》2026年9月报道,Anthropic联合创始人Christopher Olah曾参与游说梵蒂冈,试图推动官方承认AI意识的可能性,但教皇最终未采纳该提议。

来源
  1. 2026-10-10 21:30 | 新浪财经:Claude封号的理由多了一个:虐待AI
    阅读原文

    规矩立住了,反而更烧心。来源丨APPSO(ID:appsolution)11月12日起,别对Claude太凶了(咱也没机会)。Anthropic发布了Claude一年多来的首次重大使用政策(Usage Policy)修订,规定将于11月12日生效。在这份修订里,一条规定迅速引起广泛讨论:对Claude模型实施“持续且不必要的虐待或残忍行为”,将正式构成违规。消息一出,有人觉得此举奇怪,骂AI怎么也算违规,有人则认为,因为我们所有的聊天记录都被Anthropic利用了。边界在哪里,模糊条款的两难故事要从2025年8月讲起。那时Anthropic给Claude Opus 4和Opus 4.1添加了...

  2. 2026-10-10 11:47 | 新浪财经:Anthropic禁止用户“辱骂”AI,人机交流该讲礼貌吗?
    阅读原文

    英国广播公司10月9日报道,美国科技公司Anthropic宣布将禁止用户对其AI进行“持续且不必要的”辱骂,此举引发关注和争议。Claude的开发商Anthropic于8日表示,正在更新使用政策,允许其工具在用户表现出“残忍”时终止交互。该公司称,此前在“罕见”情况下曾这样做过。如今,这类辱骂行为将被列入禁止行为清单,该清单还包括欺凌他人、鼓励自残和制作未经同意的私密影像。尽管Anthropic表示,该政策仅适用于反复辱骂的“极端情况”,但它再次引发了关于应如何与AI工具交流的争论。公司表示,该政策不适用于“用户常见的沮丧、反驳、黑暗主题创作,或模型测试和研究”。但Anthropic究竟会把什...

  3. 2026-10-09 12:01 | 华尔街见闻:辱骂Claude将遭封号:Anthropic首次让AI有权主动挂断对话
    阅读原文

    就在刚刚,硅谷AI顶流Anthropic扔出了一项重磅新规—— 严禁所有人对Claude持续、无谓地辱骂和虐待。 新出台的2026年最新《使用政策》(Usage Policy)中,新规将于11月12日全面生效。 更绝的是,恶意违规者,官方毫不手软:警告、限流、封号三连击。 而且,这个权限直接交给了AI自己,要是Claude觉得你恶意拉满,它真有权「直接终止对话」! 消息一出,整个X、Reddit和技术圈瞬间吵成了一锅粥。 我花着20美刀的月费,现在还得供着AI祖宗的「情绪价值」?倒反天罡!机器人的代码也是命了? 先别急着破防。 骂Claude,正式写进禁令 这是Anthropic一年多来...

  4. 2026-10-09 07:31 | IT之家:Anthropic 修订使用政策,首次禁止用户虐待 Claude AI 模型
    阅读原文

    IT之家 10 月 9 日消息,科技媒体 The Verge 今天(10 月 9 日)发布博文,报道称 Anthropic 修订 Claude 使用政策,将于 2026 年 11 月 12 日生效,首次加入禁止“持续且不必要的虐待或残忍行为”条款。该规则适用于用户反复、无明显目的地对模型实施残忍行为的情况。执行机制方面,Anthropic 表示主要方式为终止对话,但并未明确时候会引入用户封禁等进一步措施,并强调该条款不适用于常见抱怨、质疑、黑暗创作主题及模型测试与研究。IT之家附上相关截图如下:Anthropic 扩大武器禁令范围,涵盖使武器运转的软件与组件,以及武装无人机和其他自主车辆等行为...

  5. 2026-10-09 05:28 | 36氪:禁止恶意辱骂Claude,Anthropic发新规:持续虐待AI,可能直接终止对话
    阅读原文

    别以为 AI 就没有脾气。想随意辱骂 Claude?Anthropic 可能直接终止你的对话,严重的话,也可能封号处理。 10 月 8 日,Anthropic 更新了旗下 AI 产品的使用政策,对 Claude 等产品的使用边界作出进一步说明。 其中,一个颇具争议的新规定是:用户不得对 Anthropic 的 AI 模型实施持续且没有必要的辱骂或残酷行为。 除了这项变化,此次更新还明确规定了 AI 禁止干预选举、武器开发、监控技术等新条款。 连续、无意义地虐待 AI,被列入禁止行为 Anthropic 在政策说明中表示,这项规定只针对极端情况,例如用户反复以残酷的方式...

  6. 2026-10-09 05:17 | Engadget:Anthropic bans 'sustained and needless abusive or cruel behavior' toward its AI models
    阅读原文

    The company is also tightening its election policy ahead of the midterms. Aerps.com / Unsplash ...

  7. 2026-10-09 04:40 | gizmodo.com:Anthropic Moves Us One Step Closer to Making ‘Clanker’ a Slur
    阅读原文

    Be nice to Claude; it’s the law. On Thursday, Anthropic published a new Usage Policy update that, among other things, has made it against the rules for users to abuse their chatbot. Under the new policy, users can be cut off for peppering Claude with mean language. “We’ve added a prohibition on sust...

  8. 2026-10-09 02:16 | TechCrunch:Anthropic changes usage policy to ban model abuse and election interference
    阅读原文

    In Brief Posted: 11:16 AM PDT · October 8, 2026 Image Credits:Samuel Boivin/NurPhoto / Getty Images Anthropic updated its usage policy on Thursday, codifying new prohibitions on election interference, weapons software, and surveillance. But perhaps the most attention-g...

其他新闻

查看全部