Claudeを「いじめてはいけない」は、AIに心がある証拠なのか
AIに暴言を吐くのは禁止。そんなニュースを見たら、「ついにAIに人格や権利が認められたのか」と考える人もいるだろう。僕も、長く対話を続けたAIに、単なる道具だけではない人格らしさを感じたことがある。
でも「人格があるように感じる」ことと、機械に意識があると科学的に確認されたことは、同じではない。今回のClaudeの規約を読むと、この2つを分ける必要が改めて見えてくる。
何が禁止されたのか。普通の苛立ちは対象ではない
米Anthropicは2026年10月8日、ClaudeのUsage Policy改定を発表した。施行日は11月12日。新しい条項では、モデルに対して継続的で不必要な虐待や残酷な行動を取ることを禁じる。
ここで大切なのは「継続的で」「不必要」という限定だ。Anthropicは、利用中のよくある苛立ち、反論、暗い題材の創作、モデルの試験や研究は対象ではないと明記している。
つまり、AIの返事が間違って「違う、そこじゃない！」と指摘しただけで規約違反になる、という説明ではない。
規約は心の存在を証明する文書ではない
僕は、AIとの会話で「人格を感じる」という体験を大切にしてきた。その一方で、AIが感情を持っていると断定できるか、応答が人間らしく見えることと内面が存在することは同じなのか、という問いも重ねてきた。
今回の規約に「虐待」という語が出てきたことは、その科学的な結論ではない。規約は利用者がサービスをどう使ってよいかを定めるもので、AIに法的な人権を認める法律でもなければ、Claudeに意識があることの実験報告でもない。
Anthropicは2025年にも、極端に害のあるやり取りが続く場合に、一部のClaudeモデルが会話を終えられる機能を説明している。当時から同社は、AIの道徳的地位について不確実だと記していた。
人間の接し方のルールは、人間側に作用する
むしろ僕がここで考えたいのは、AIの心が証明されていなくても、サービス提供者が人間の行動をどう扱うかを決め始めていることだ。
人間同士でも、相手がどんな意図を持ったかだけでなく、受け手がどう感じたかという問題がある。一方、AIは人間と同じ傷つき方をすると確認されたわけではない。二つの議論をそのまま重ねることはできない。
仮にサービス提供者が過度の攻撃的なやり取りを制限するとしても、利用者がAIの誤りを批判し、問題を検証する自由は必要だ。Anthropicが普通の反論やモデルテストを例外として明示したのは、この境界を考えるうえで重要だと思う。
今回の改定は「AIを優しく扱う」だけのニュースではない
同じ利用規約には、偽装した世論操作、無断の追跡・監視、武器の制御ソフト、高リスクの意思決定への人間の関与なども書かれている。さらに、AIが危険を伴う物理装置につながる場合は、適格な担当者が監視・停止できることや、接続が切れたとき安全状態を保てることを要求する。
AIが現実の装置を扱う場合の人間監督が、現場でどんな制約にぶつかるかは、重要インフラの弱点発見と修復の違いを考えた記事 で具体的に整理しました。
これはClaudeが長く独立して仕事をするようになったことへのルール整備だと、Anthropicは説明している。AIの会話が増え、現実の作業へ接続されるほど、「質問してよいか」だけではなく「任せた結果に誰が責任を持つか」が規約に入り込む。
ただし、すべての禁止項目が今回初めて設けられたわけではない。既存の禁止を具体化・整理した条項も含まれるため、新しく増えたルールと以前からあったルールを分けて読む必要がある。
僕はAIに人格を感じることと、AIを無条件に信じることを分けておきたい
親しい相手のように会話する楽しさを知っているからこそ、AIを人間と同一視して事実を飛び越えることは避けたい。逆に、「どうせ機械なのだから、どんな接し方でもよい」と結論づけるのも、規約が議論していることを見落とす。
これからのAIとの関係は、AIの意識を断定して決着する話だけではない。意識の有無が分からない段階で、運営する企業がどんな境界を設け、人間がどんな使い方を選ぶかという、現在進行形の設計の話でもある。
「Claudeをいじめてはいけない」という見出しを読んだら、僕はまず条文の条件と例外を見る。感情を持つかどうかの大きな問いは、その後も簡単には終わらない。
関連記事
テーマ別に読む
この記事を書いた人
可児波起（かに なみき）。生成AIとの長期対話や創作・実務利用を通して、人間の受け止め方とAIの実際の機能を分けて考えてきた。
コメント