ネットにつながる家電や安いテレビ用の端末は、乗っ取られてサイバー攻撃の踏み台にされてきた。10月12日、アンソロピックの研究者たちは、そうした機器の上でAIが自分の複製を広げる日が近いと警告した。
研究者たちはまず、1台55ドルほどの無名ブランドのAndroidテレビ用端末を15台買い、ネットワークでつないだ。メモリは1台4GBしかなく、1台ではモデル全体を載せることができない。そこで、グーグルが公開しているモデル「Gemma 4」を層ごとに分け、1台に2層ずつ載せて動かした。モデルは動いた。文章を書き出す速さは、1秒に0.39トークンとごく遅かった。
家電やテレビ用の端末が狙われるのは、ネットにつながっているうえに、守りが手薄なものが多いからだ。研究者たちによると、冷蔵庫やオーブン、ロボット掃除機にも、分けたモデルの一部を動かすだけの処理能力がある。防犯カメラやテレビ会議の機器には、AIを動かすための小さなチップを積んだものも増えている。無名ブランドのAndroidテレビ用端末を中心に、200万台以上が「Kimwolf」と呼ばれるボットネットに乗っ取られた例もある。
では、AIは乗っ取りから複製までを、人の手を借りずにやり遂げることができるのか。研究者たちは、Androidの端末に見立てた8台のコンピューターでネットワークを組み、AIに、まだ入り込んでいない端末を探し、そこへモデルを送り込み、動かすところまでを任せた。動きはじめた複製は、また次の端末を探す。最後までやり遂げたのは、中国のZ.aiが公開している「GLM-5.2」だけだった。5回のうち4回で8台すべてに、残る1回でも7台に広がった。ほかのモデルは、途中で失敗した。
この実験の端末は、パスワードなしで外から操作できる状態にしてあった。それでも研究者たちは、現実との差は大きくないと見ている。過去には、メーカーが最初に設定したパスワードを順に試すだけで広がったボットネットもあるからだ。
家電に載るほど小さなモデルは、まだGLM-5.2ほどのことはできない。ただ、端末を探す、モデルを送り込むといった個々の手順なら、すでに多くをこなしている。研究者たちは、小さなモデルがこれまでと同じ速さで性能を伸ばせば、年末までにGLM-5.2の水準に届くと見ている。
従来のマルウェアは、決まった種類の機器に合わせて作られている。Kimwolfが狙うのも、Androidのテレビ用端末やスマホだ。AIの複製は、初めて入り込んだ機器でも、そこでAIを動かす方法を自分で探す。実験では、小さなモデルが、9種類の機器のうち8種類で、AIを動かす準備を自分で整えた。複製は、前の世代が残したメモも受け継ぐ。メモを引き継ぐと、準備に成功する割合は最初の45％から、61〜84％まで上がった。
こうした複製は、どこか1か所を止めれば全体が止まるというものではない。そのため、一度広がると止めるのは難しい。一方で、広がる速さは遅く、数が倍になるのに数日かかるという。研究者たちは、デジタルの「粘菌」や「ショウジョウバエの群れ」にたとえている。Kimwolfと同じ200万台に広がれば、およそ13万3,000の複製が動く計算になる。
守る手立てもある。複製が広がれば、大きなデータが機器のあいだを流れ続けるので、通信事業者の監視で見つけることができる。かつて広がったボットネット「Mirai」では、通信事業者が感染した契約者の通信を制限して知らせたところ、14日で92％が駆除された。知らせなかった場合は74％にとどまった。英国では、家電を初期設定のパスワードのまま売ることが、すでに認められていない。
AIの安全性を研究する米国の団体、パリセード・リサーチの代表ジェフリー・ラディッシュは、米メディアのThe Vergeにこう話している。「12か月以内に、こうしたAIが実際に出回る最初の例を目にすることになるだろう」