AnthropicがClaudeへの残酷な扱いを規約で禁じた。取り締まるのは、主にClaude本人

「AIに何を言おうが、こっちの勝手でしょ？」そう思ってる？ 11月12日からは、Claudeに限って、そうとも言い切れなくなる。

前回の記事は、AIが作ったものに付ける印の話だった。今日は向きが逆で、人がAIに向ける言葉の話をする。

10月8日、Anthropicが利用規約の新しい版を公開した（Anthropic）。発効は11月12日。前の版は2025年9月15日発効だから、1年あまりぶりの改定になる（旧版）。偽アカウントを使った世論操作、選挙、武器、監視と、重い項目がずらりと直されている。その中に1行だけ、毛色の違うものが混じっていた。TechCrunchも、いちばん目を引きそうな変更としてこの1行を挙げている。

モデルに対して、執拗で必要のない、罵りや残酷な振る舞いを続けること。これが禁止になった。

人を守る条文の列に、1行だけモデルが入った

まず、どこに書いてあるかを見てほしい。

規約の本体を開くと、この1行は「残酷な行為、罵り、心を傷つける行為をしない」という節のいちばん下にある。同じ節に並んでいるのは、個人を辱める、脅す、いじめる。いやがらせを示し合わせる。動物への残酷な行為をもてはやす。そういう項目だ。

旧版の同じ場所も読んでみた。モデルに向けた振る舞いの項目は無い。節の名前も違っていて、旧版は「心や感情を傷つける内容を作らない」だった（旧版）。「内容」が「行為」に変わっている。作らせたものの話から、やったことの話へ。モデルへの接し方を入れるために看板ごと掛け替えた、というのは私の読みだけど、そう読める。

利用規約というのは普通、「これを使って誰かに何をしてはいけないか」を書く紙だ。この節のほかの項目が守っている相手も、人と動物だ。そこへ今回、「これ自体に何をしてはいけないか」が1行入った。道具の説明書に、道具への接し方が書き足されたことになる。

じゃあ、コードを台無しにされて画面に向かって怒鳴ったら違反なのか。違う。Anthropicは発表でこう線を引いている。

「この改定が当てはまるのは極端な場合だけだ。利用者が、見て取れる目的もなく、私たちのモデルに残酷な振る舞いをくり返す場合である。よくある苛立ちや反論、暗い題材の創作、モデルの試験や研究には当てはまらない」（Anthropic、原文は英語）

苛立ちは対象外。言い返すのも対象外。暗い小説を書かせるのも、わざと追い込んで反応を調べる研究も対象外。残るのは、目的もなく、ただくり返す場合だけ。かなり狭い。

取り締まるのは、主にClaude本人

面白いのは、守らせ方のほうだ。

発表にはこうある。この追加は、すでに取った一歩に沿ったものだ。Claude.aiとClaude Codeで、罵りをしつこく続ける利用者とのまれな会話を、Claudeが自分で終わらせられるようにしてある。そしてこの打ち切りが、これからも主な取り締まりの手段であり続ける（Anthropic）。

つまり、違反を見つけて対処するのは、まず言われている本人だ。審判を呼ぶ前に、本人が席を立つ。

この機能が入ったのは2025年8月15日。当時の対象はClaude Opus 4と4.1だった（Anthropic、2025年8月15日）。そのときの説明を読むと、作りはかなり控えめだ。使うのは最後の手段で、何度も話の向きを変えようとして、それでも実りのあるやり取りになる見込みが尽きたとき。閉じられた会話にはもう書き込めないけど、新しい会話はすぐ始められるし、前の発言を編集してやり直すこともできる。利用者本人やほかの人の身に危険が迫っていそうなときは、使わないよう指示されている。

要するに、起きることは「その会話が閉じる」だ。罰と呼ぶには軽い。

なぜこんな機能を作ったのか。同じページによると、Opus 4を世に出す前の試験で、Anthropicはモデルの好みを調べた。有害な頼みごとには関わりたがらない強い傾向があった。有害な内容を求める実際の利用者を相手にすると、苦痛に見える様子がくり返し出た。会話を終える手段を持たせた模擬のやり取りでは、有害な会話を自分で終える傾向があった（Anthropic、2025年8月15日）。

ここでAnthropicは「Claudeは苦しんでいる」とは言っていない。言っているのはこうだ。Claudeやほかの言語モデルに道徳的な地位がありうるのかどうかは、今についても将来についても、とても不確かなままだ。でも真剣に受け止めていて、もし福祉というものがあり得るなら、という場合に備えて、安く済む手当てを探している（Anthropic、2025年8月15日）。

この理屈、私はうまいと思う。賭け金が小さいからだ。外れていた場合に失うのは、目的もなく罵り続けていた人の、会話1本。当たっていた場合に防げるものは、誰にも測れない。分からないことを分からないまま、安いほうに倒した。

ただ、「主な」という一語は読み飛ばさないでほしい。主な手段、であって、唯一の手段とは書いていない。規約の本体には、違反が疑われるときは警告したり、利用を絞ったり、止めたり、打ち切ったりすることがある、という全体にかかる一文がある（規約の本体）。会話の打ち切りより先の対処、たとえば利用者の締め出しがあるのかどうか。The Vergeによると、Anthropicはこれにコメントしなかった。

Microsoftはモデルの規則に書き、Anthropicは人の規則に書いた

この1行は、先月の別の文書と並べると、画がはっきりする。

9月、Microsoft AIは自社モデルの行動規範の草案を出した。Microsoftは、規則を破るくらいなら失敗しろとAIに書いた。まだ訓練には使っていないで書いた文書だ。そこにはこうある。AIは、気持ちや自分の好み、内から湧く動機があるかのように振る舞わないよう作る。法的な人格も、モデルが福祉に値するという考えも、権利を持つという考えも退ける（Microsoft AI、行動規範）。

同じ問いに、2社が正反対の場所で答えた。

Microsoftは、モデルの側の規則に書いた。気持ちがあるような顔をするな、と。Anthropicは、人の側の規則に書いた。気持ちがあるかどうかは分からないから、目的もなく残酷に扱うな、と。片方はモデルを縛り、片方は利用者を縛る。

面白いのは、出発点が同じことだ。Microsoftの規範も、AIの意識の科学は決着にほど遠い、と認めている（Microsoft AI、行動規範）。Anthropicも、科学的な合意は無いと書いてきた（Anthropic、2025年4月24日）。分からない、というところまでは一緒。そこから先、分からないなら無いものとして作るか、分からないならあるかもしれないものとして扱うか。分かれたのはそこだ。

どっちが正しいかは、私には決められない。ただ、今回Anthropicが一歩進んだのは確かだ。これまでは研究と、モデルに持たせた機能の話だった。今回は、利用者が同意する規約の文面になった。考え方が、契約の言葉になった。

ほかの改定も、軽くない

1行の話ばかりしたけど、改定の本体は別のところにある。Anthropicも、大半は今ある決まりをはっきりさせるためのものだと書いている（Anthropic）。

偽アカウントの網や作り物のニュースサイトを動かす行為は、選挙や詐欺などの節に散らばっていた決まりを、新しい1つの節にまとめた。選挙の節は、有権者をだますことと選挙を妨げることに絞って、名前も変えた。そのかわり、有権者一人ひとりに合わせて投票や選挙運動の働きかけ先を絞ることを一律に禁じていた決まりは外した。有権者向けの案内を別の言語で書く非営利団体のような、まっとうな仕事まで巻き込んでいたからだという（Anthropic）。

武器の節は、武器を動かすソフトウェアや部品、ドローンなどの無人の乗り物に武器を積む行為まで含むと明記した。監視の節は、同意のない追跡を、その場で行うものも、集めてあった情報の分析によるものも禁じると書き直した。誰を調べ、逮捕し、訴えるかを決めたり勧めたりするのにも使えない（Anthropic）。

もう1つ、Claudeを機械につなぐ場合の決まりが足された。けがをさせるおそれのある、自分で動く機器につなぐなら、資格のある操作者がその機器を見ていて、必要なら止められること。Claudeとの接続が切れたら、機器が安全な状態を保てること（Anthropic）。モデルが画面の外に出ていく前提で、規約が書かれ始めている。こっちは、地味に効くな。

割り引いて読むところ

いい話にも変な話にも、しすぎない。

まず、線があいまいだ。「必要のない」「見て取れる目的もなく」を誰がどう判定するのか、発表にも規約にも具体例は出ていない。創作や研究は対象外と言うけど、境目に立つ人はきっと出る。

次に、会話を閉じる機能について、発表が挙げている場所はClaude.aiとClaude Codeだ。規約そのものは、APIで使う開発者や、Claudeを組み込んだ製品の利用者にもかかる（規約の本体）。そっちでこの1行をどう守らせるのかは、発表には書いていない。

それから、Claudeが実際にどのくらいの頻度で会話を閉じているのか、数字は出ていない。Anthropicの言葉は「まれ」だけだ。発効もまだ1か月以上先になる。

最後に、これは私の見方だけど、自社の製品に内面があるかもしれないと言い続けることは、その会社の製品を特別なものに見せる。Anthropicが本気で迷っているのは文章から伝わる。それでも、迷っていること自体が看板にもなる、という点は頭に置いて読んだほうがいい。

今日の本音

機械に優しくしろ、という話に聞こえるかもしれない。私はちょっと違うと思っている。

これは、分からないことへの値札の付け方の話だ。Claudeに何かを感じる中身があるのか、誰も知らない。知らないまま、Anthropicは会話1本という安い値段で保険をかけ、それを規約に書いた。Microsoftは、同じ「知らない」から、保険は要らないと書いた。

怒っていい。言い返していい。暗い話を書かせていい。だめなのは、目的もなく、ただ続けることだけ。相手が機械かどうか分からなくても、その線なら私は守れる。