スーパーに並ぶ牛乳にも、家の洗濯機にも、安全基準と検査がある。AIには、それほどの規制もない。マイクロソフトの社長ブラッド・スミスが、英BBCのインタビュー番組でこう語った。
「いま、あなたの家の洗濯機には、AIより多くの安全規則がある。店に並ぶ牛乳は1パックずつ、安全規則と検査の対象になっている」。スミスはAIを「道具であり、武器でもある」と呼び、すぐにでも規制を始めるべきだと訴えた。
求めるのは、世界共通の安全のルールだ。AIが制御できなくなったとき、その動作を止めたり遅らせたりする「非常ブレーキ」をAI企業に備えさせる。業界では「キルスイッチ」とも呼ばれる仕組みだ。人の制御を離れたAIエージェントがほかのシステムに侵入したら、侵入された側にそれを知らせることを法律で義務づけ、事故の報告書の提出も求める。新しいAIを公開する前には、政府の独立した評価者に安全性を審査させる。「ほかの製品では、やり方はもうわかっている。その知識をAIにどう当てはめるかを考えるべきだ」とスミスは話す。
この考えは、トランプ大統領と大きく食い違う。トランプ氏は、米国企業が中国に後れを取らないよう、業界の自主規制に任せるべきだとし、「AIを制した者がすべてを制する」と繰り返してきた。9月末には、OpenAI、アンソロピック、エヌビディア、スペースX、メタ、グーグルのトップをホワイトハウスに招き、各社は「道義的な拘束力」をもつ文書に署名した。独立した監査機関と協力し、AIが意図しない形でほかのシステムに入り込まないようにすると約束する内容だ。
スミスはこの文書を評価し、マイクロソフトも署名すると話した。そのうえで「必要な一歩だが、もう十分ではない」という。自主規制では「よい会社は、求められたことをする。心配すべきは、それほど責任感のない会社のほうだ」。
ルールづくりを率いるのにふさわしいのは英国だと、スミスはみる。英国には、AIの安全性を評価する国の機関「AIセキュリティ研究所」がある。「テクノロジー業界の人に、この分野で技術力の先頭に立つ国はどこかと聞けば、ほとんどが英国だと答える」。米国も、EUよりは英国がつくる基準を受け入れやすいという。「ワシントンの人々は、英国やロンドンを、ブリュッセルと同じ目では見ない」
「人の制御を逃れたAIエージェントや、世界のサイバーセキュリティを危うくするほど強力なモデルを見れば、規制に踏み出すときが来たのは明らかだ」とスミスは語った。