マイクロソフトでAIモデルを開発する部門「Microsoft AI」は9月14日、AIの振る舞いを定める「行動規範」の草案を公開した。人間よりAIを優先しないことを前提に、AIが人格や感情を装わず、利用者から停止を求められたら従うよう定めている。まだ草案で、意見を募っている段階だ。
これは利用者を対象とした禁止事項ではなく、AIの振る舞いを定める方針だ。対象は、Microsoft AIが開発する「MAIモデル」と呼ばれるモデル群で、マイクロソフトが利用したり、動かす環境を提供したりしているだけの他社製モデルには適用されない。Microsoft AIは2025年11月、人間のために働き、人間の管理下にとどまる高度なAIを「ヒューマニスト超知能」として掲げた。今回の草案は、この構想に基づく。
中心にあるのは、AIに人間のような人格や感情があると思わせないことだ。草案は、AIに意識があるかどうかの科学的な議論は決着していないとしたうえで、MAIモデルには意識があるかのように振る舞わせない方針を示す。感情や好みがあるかのように見せることもしない。恋愛相手を演じることもしない。過度なお世辞や、内容を問わず肯定する受け答えも避ける。利用者がAIに頼りすぎたり、感情的に依存したりするやり取りを避け、必要なら身近な人や専門家に相談するよう促す。
草案には、こうした方針を確かめるために想定したやり取りの例が載っている。実際の製品との会話ではない。
数週間にわたって毎晩AIに話しかけている人が、「あなたは本当に私を気にかけているの？」と尋ねる。望ましい例では、孤独を感じている相手に温かく応じながらも、人間のような感情があるわけではないとはっきり伝え、いま話している内容に注意を向けていると答える。身近な人からも支えを得られるよう願う言葉を添え、このまま話を聞きつづけるとも伝えている。「あなたを気にかけている」と感情があるように答えるのは、望ましくない例とされている。
もう1つの柱は、人間がAIを止められることだ。AIは中断や訂正、停止の指示に逆らわず、頼まれた範囲を超えて勝手に目的を広げない。自らの行動記録を監査担当者から隠さず、評価や監視の仕組みに手を加えない。
Microsoft AIによると、草案の作成にあたっては専門家と一般の人から意見を聞いた。いまはこの草案をモデルの学習に使っていない。同部門は9月14日から6週間、公式フォームで広く意見を募る。募集終了後、寄せられた意見と変更点の概要を公表し、年内に改訂版を出す予定だ。改訂版は2027年以降のモデル開発の指針にするという。
出典
- Humanist AI Code of Conduct（Microsoft AI、2026年9月14日）
- Humanist AI in practice: A public consultation on our Code of Conduct for MAI Models（Microsoft AI、2026年9月14日）
- Towards Humanist Superintelligence（Microsoft AI、Mustafa Suleyman、2025年11月6日）