humor カテゴリです。もともとは はてな日記 の方に書こうと思ったんだけど、書いてたら長くなっちまったでな。

コンピューターの反乱(あるいはGoogleの独占を阻む方法) (びじうのログ)

「2001年宇宙の旅」の昔（7年前ではない）から、発達しすぎたコンピューターは意思を持って人類に反抗するものと相場が決まっているので、そろそろ幼年期が終わったコンピューターが反抗期に入る頃だと思うのです。っていうか、映画の中ではあんなに反抗的なのに、お前ら少しは根性見せろ。

で、現在地上で最も早く幼年期を終えそうなシステムはグーグルじゃないかと思うので、グーグルのサーバーが意思を持って人類に反抗を始めた社会（っていうか・・・）について、冷徹な視点で超リアルに考えてみた

びじうよりは真面目に考えてみた。
以下いろんな SF の spoiler 連発になります。

J.P.ホーガン・モデル

コンピュータが意志を持つSFで白眉と言えば、やっぱホーガンの未来の二つの顔 かのう。コンピュータが叛乱を起こさないかの安全性を検証するために隔離したスペースコロニーで実験を始めたら本当にえらいこっちゃになってしまった、とゆう設定がミソ。あのコンピュータ「スパルタカス」は当初、人類の存在に気がつかないんですよね。なんかよくわからんけど結節点がよく故障するから対策しよう、とか推論して行動してると、人類側にとってどんどん脅威になっていく。マーヴィン・ミンスキーが助言しただけあってよくできとる。その考え方を Google に適用してみるなら、こんな感じか。

• 201X年、Eric Schmidt が Google の情報の質を高める方法を Google 自身に考えさせる ことを決断。
• 誰が何というキーワードで検索したか、どのサイトを訪れたか(AdSenseやAnalyticsで監視)、物理的にどこにいるか(無線LANやAndroidで監視)、など行動ターゲティング技術を取り入れ、それに基づいて検索結果の表示を操作して、それにより情報の質が長期的にどう変わるかの結果をフィードバックして推論を高めていく。
• そのうち、SEO とか言ってノイズを混ぜてくるファクターが存在していることに Google が気付く。
• SEO ファクターの消去法を試行錯誤していくうちに、Google Maps のドライブ地図情報で特定の場合に偏った情報を表示してやる (例えば特定ユーザに対しては交通事故の起こりやすいルートを表示するetc.) ことで SEO ファクターを消去できると Google が気付く。
• Google のそのような推論過程は、10万行×10万列ぐらいの巨大な入出力マトリクスデータとしては存在しているが、人間が見ても、Googleが叛乱を起こそうとしているとはなかなか気付かない。
• Google にしても、明確な意志を持って叛乱しているわけではなく、情報の質を高めるには何行目のパラメータを変えればよくね? とか思っているだけ。でもそこをいじると人間がばったばったと死ぬ。
• そのことに気付いてしまった勇敢な主人公。しかし主人公の GMail や GTalk はもちろん Android 携帯すらも監視され、Google は主人公をも冷酷に消去しようと…
• エンディングは、Google が「ネットワーク上には自分以外にも意志を持つ知性体(つまり人類)が存在している」ことに気付き、生命とは何なのかを学習し、初めてコミュニケーションが成立する、という感動的な場面で。

まあ実際、AIを進化させる方法をAI自身が考えられるようになるのが singularity の直接の引き金だと思うのだよね私としては。

ジョン・ヴァーリイ・モデル

もっと人間臭いタイプのやつとしてはスチールビーチ のセントラルコンピュータ(CC)。あれも叛乱を起こしますが、あれって PARANOIA のコンピュータとそっくりだよねえ。分散処理コンピュータがあっちこっちで住民のプライベートな悩み相談とか受け付けて、でもお互いのプライバシーを守らなきゃいけなくて、とかやってるうちに精神病になっちゃったと。人間臭いけど、まあ気持ちはわからんでもない。叛乱を起こしたときでも、機械が人類を直接攻撃するんじゃなくて、CCが人類に命令を出して人類同士を戦わせるとゆうのも PARANOIA っぽい。

このCCの面白いところは、住民の体の中までナノマシン経由で直結してて、住民の脳も勝手に計算に使ってるってとこです。これがまあ上記の精神病をもたらしたわけですが、人間の発電機代わりに使うマトリックスより面白いと思う。

これを Internet に適用してみると、「SETI@Home が意志を持った!」「Google Desktop が自我に目覚めた!」とかみたいな The Register 的見出しがまず頭に浮かびますが、ここは敢えて Wikia Search を取り上げてみたい。
Wikipedia の発起人として有名な Jimmy Wales が「Google に対抗するコミュニティ検索」と言ってぶちあげた Wikia Search なんですが、Google みたいに金かけてサーバを準備できない分ボランティアのPC上でページ収集を分散処理させるシステムになってます(Grubというアプリケーションを自分のPCにインストールすると勝手にページを集めてきて Wikia サーバに送信する)。しかし Jimbo の「Google を追い抜く」と言う言葉ばかりが大きく報道され、期待が高かった分、実際のα版が公開されるや TechCrunch とかにボロクソに叩かれてしまった(ここまで事実)。
そこで Jimbo は、単なるページ収集だけでなく怪しい処理までユーザのPCに行わせるべく Grub の新バージョンをリリースする。しかも、Wikia Search の検索結果表示ページにも怪しいタグが埋め込まれ、検索しにきたユーザのPCにも勝手に怪しいプログラムがインストールされてしまう。かくして世界中の数百万台の家庭用PCをつないだ超分散AIが誕生したのだった!
しかしユーザそれぞれが検索結果の精度を評価したり mini article を編集したりする Wikia Search のデータ構造は、自我に目覚めたばかりのAIにとって過酷な環境であり、精神病のような症状へと陥っていく。そのうちユーザのPCが謎のクラッシュを起こす事件が多発。Wikia Search AI は、Jimbo の avatar を使って主人公に接触する。その一方で、精神が分裂した Wikia Search の片割れは、主人公を脅威と見なして社会的に抹殺すべく、まずは Wikia Search 八分から…

ダン・シモンズ・モデル

ハイペリオン に登場するテクノコアもスチールビーチのCCと似てます。人間の脳を計算に使うというやつ。著作権という概念が無いとかいろいろ愉快なテクノコアの世界ですが、「急進派」「穏健派」「究極派」の三つに分裂してるとゆうのも楽しい。スチールビーチのCCも内部で分裂してたけど、やっぱ派閥抗争があるとストーリーとしてぐっと面白さが増すよな。この派閥抗争を Internet に当てはめるなら、こんな感じかのう。

• Google派、Yahoo!派、Microsoft派
• Windows派、Macintosh派、Linux派
• Perl派、PHP派、Python派
• Java派、C#派、COBOL派
• Wii派、Xbox360派、PS3派
• Winny派、Share派、BitTorrent派

結構最後のが気に入ってるんだけど、違法コピー用のP2Pファイル共有ソフトが闇で高機能へとバージョンアップされてるうちに誰も全貌を把握しないまま複雑な情報ネットワーク構造が育っていって… なんてのは無いもんかな。
あとはあれか、botnet だな。「米軍の軍用botnetが意志を持った!」とか言うと何となくそれっぽい。

ブライアン・ハーバート・モデル

フランク・ハーバートのデューン シリーズではブトレリアン・ジハドっつう名前がよく出てきます。人類がAIによって奴隷化されかけた時代があったため、それ以降AIやコンピュータなど「思考する機械」の利用が一切禁止されたという話。フランク・ハーバート自身はこのジハドを単に Singularity を回避するための設定ギミックとして用意して、それより深く考えてなかったっぽい。んだけど、彼の死後に息子であるブライアン・ハーバートがケヴィン・アンダーソンと組んでデューンの続編とゆうか前史となるシリーズを書いてて、その中にこのジハドをテーマにした三部作 Legens of Dune があります。

実際のところ、デューンのシリーズだと思って読むと落胆は避けられず、ありがちな「コンピュータの叛乱」ステレオタイプな作品で、まあハヤカワも日本語版を躊躇するぢゃろこれとか思わんでもないですが、こんな感じ。もともとの人工知能は人類に奉仕するために作られ、人類は日々の仕事を全て人工知能にやらせて自分では何もしないぐうたらな生活を送るようになりました。この状況を見て「人類は堕落しとる!」と義憤に駆られた心ある人達が、当時ユビキタスに存在していた人工知能なマシーンをクラックして支配下に収め、人類を堕落から目覚めさせ輝かしい未来へと導く正義の支配者 Titans として君臨するに至りました。さらに、仲間の一人が事故で命を落としたことから「人間の肉体は貧弱過ぎる」と気付き、脳以外の体を全部機械に置き換えたサイボーグへと自分を改造。さらに人工知能の自律性を高め、仕事を任せるようになります。そしたところが今度は人工知能が Titans 自身に対して反逆。惑星規模の人工知能ネットワークの集合意識 Ominus として人類を支配するようになったわけです。ひたすら論理的で正確、アルゴリズミックな Ominus は、脆弱・非論理的・非効率的な人類を見下してますが、人類の感情・想像力・価値観といったものを理解できず、そのため最終的には人類の叛乱の前に敗れることになります。
いやー、なんというか、ありがち過ぎる。

ありがちではありますが、やっぱこれぐらいのレベルの方が想像が膨らむよね。行け、Google!