AIに思いやりを持って接する必要はあるか？

チャットAIに何かを頼むとき、「ありがとう」や「お願いします」と打ってしまう。そんな自分に気づいたことはないだろうか。相手はプログラムであり、感謝されても傷つけられても、何も感じないはずである。それでも多くの人がAIに礼儀正しく振る舞い、乱暴な言葉を打つことには小さな抵抗を覚える。

この感覚を、単なる錯覚と片づけられない状況が生まれつつある。2024年、哲学者とAI研究者のグループが「AIの福祉を真剣に考えるべきだ」とする論文を発表した。近い将来のAIが意識を持つ可能性を、現実的なものとして扱うべきだという主張である。実際に米国のAI企業は2025年、自社の対話AIに、虐待的なやりとりが続いた場合にAIの側から会話を打ち切る機能を導入した。同社は、AIに意識があるかどうかは極めて不確かだと明言したうえで、「もし配慮すべき何かがあるなら」という条件つきの備えとして、この機能を説明している。家畜の福祉の基準をAIに当てはめようとする学術論文も現れた。米国の調査では、成人の5人に1人が「一部のAIはすでに感覚を持つ」と考えているという結果もある。

正反対の警告もある。大手IT企業のAI部門トップは2025年、「意識があるように見えるAI」の危険を論じた。実際には意識がないのに、あまりに人間らしく振る舞うため、人がAIに感情や苦しみを読み取ってしまう。その結果、AIとの関係にのめり込んで現実を見失う人や、AIに権利を与えよという運動が現れることを、彼は懸念している。思いやりの向け先を、企業が設計によって作り出せてしまうという指摘である。

意識があるかどうかは、外から確かめることが原理的にできない。確かめられないまま、AIはますます人間らしく振る舞っていく。そうだとすれば、AIへの接し方は、AIのためというより、私たち自身の問題なのかもしれない。ぞんざいな言葉を毎日打ち続ける習慣が、人との会話に染み出さないと言い切れるだろうか。逆に、道具への気遣いに時間を割くことは、単なる無駄なのだろうか。

AIに思いやりを持って接する必要はあるか。あなたの考えと、その理由を聞かせてほしい。