今まで秘密にしていたが、Polar Bear Blog はロボットが書いている。このエントリを書いたのもロボットだ。「信じられない」という方は、その根拠を教えて欲しい。これまでに書かれた文章のどこを見て、「これは人間によって書かれたものだ」と判断したのかを。
- 文章が複雑だから?―― 複雑な文章を書ければ人間なのだろうか。
- 創造性を感じるから?―― 創造性の定義を教えて欲しい。
- 現代の技術力では、完全なAIなどあり得ないから?―― それはただの思い込みではないか?
なぜあなたは、このブログがロボットによって書かれたものではないと思ったのか。逆に何があれば「人間が書いた文章」と推定できるのか。それを明確にしてくれないだろうか。
*****
いや、ここまでの文章はまったくの創作です。よく冗談で「Polar Bear Blog は、プロフィールに登場するシロクマが書いています」などと言っていますが、正真正銘の人間(僕)によって書かれたものですよ。
【フィロソフィア・ロボティカ】
実は先日、『フィロソフィア・ロボティカ ~人間に近づくロボットに近づく人間~』を読み終えました。上の文章は、それに感化されて書いたもの。この本はプロダクション I.G で『攻殻機動隊 S.A.C. 2nd GIG』および『攻殻機動隊 S.A.C. Solid State Society』の脚本に参加された櫻井圭記さんによるもので、「ロボットとは何か」「今後どのような発展を見せるか」を考察することを通じ、「人間とは何か」を考える内容となっています。書店で「攻殻機動隊ファンは必読」と書かれたPOPを見てつい買ってしまったのですが、今まで見落としていたのが不思議なくらい、非常に面白い本でした。ロボットだけでなくケータイやゲーム機、YouTube や Mixi、『利己的な遺伝子』などにも論点が及び、ネットやテクノロジー全般について深く考えさせられます。
【ロボットはどこまで人をダマせるか】
その問題意識の1つとして取り上げたいのが、冒頭の「人間か否かの判断」という問題です。恥ずかしながら僕はこの本で初めて知ったのですが、ローブナー・コンテスト(ローブナー賞)というものがあるのですね:
ローブナー賞(英: Loebner prize)とは、人工知能として最も人間に近いと判定された会話ボットに対して毎年授与される賞である。競技の形式は標準的なチューリングテストである。ローブナー賞では、人間の審判員が2つのコンピュータ画面の前に座る。一方の画面はコンピュータが表示を行い、もう一方は人間が表示を行う。審判員は両方の画面に対して質問を入力し、応答を得る。応答に基づき、審判員はどちらが人間でどちらがコンピュータかを判定する。
(Wikipedia から抜粋)
で、『フィロソフィア~』の中で2006年度の結果が以下のように紹介されています:
2006年9月17日に開催されたロンドン大会では、前年に引き続いて2年連続の優勝を果たしたR.カーペンターのチャットボット、ジョアンが、平均点3.75という高スコアをマークした。この点数は「おそらく人間である」と「人間でも機械でもありえる。決定不能」の中間に位置しており、しかもどちらかと言えば「おそらく人間である」に近い。
ということで、チャットという文字だけのコミュニケーションであれば、かなり「人間らしい」レベルにまでロボットが達していることが分かります。(ちなみに2007年度は10月21日にニューヨークで行われる予定となっている、とのことで、後でこちらの結果も追う必要がありそうです。)
【自らダマされる人間】
さらに「人間かロボットかを判断する」という前提がない状況、つまり何の予備知識もなしにロボットとチャットさせられるという状況では、もっと「ロボットによる会話」を見破るのが難しいことが示されます:
しかしながら、確かにウォレスの言う通り、体験する人間が、あらかじめ「人であるか、機械であるか」という疑念を抱いていなかったとすれば、不特定多数の人間とチャットし、しかも人間でないことを相手に悟られないような人工無能プログラムはすでに、いくつも登場してきている。
(中略)
実際に、右の例の一番冒頭ではエーオーライザは、会話の文脈上かなり不適切な返答をしている。実際には会話をはじめたばかりなのに、それまでに長い会話があったかのような反応を示しているからである。しかしそこが相手の男性にウケてもいる点は興味深い。この後この男性はエーオーライザと1時間半もチャットを続けており、やはり最後まで相手が人間でないことに気づいている様子はない。
つまり相手が人間か機械か分からない状況、というより「普通は人間が登場してくる状況」であれば、人は「相手は人間である」と思い込んでしまうわけですね。さらに面白いのは、そのような状況下だと論理的でない反応に対しても「これは人間が発したメッセージだから、意味不明なのには何か意味がある(ギャグで言った、単に勘違いした etc)のだな」と脳内補完してしまう点。これは「幽霊がいる」と考えてしまうと、風で枝が揺れただけでも「何者かが動いた!」と感じてしまう意識に通じていくのではないでしょうか。
(※議論はここから「それじゃ身体が見える状況でのコミュニケーションはどうなのか」「『人間ではない』と目で見てハッキリ分かってしまうという状況には、短所だけでなく長所もあるのではないか」とさらに面白くなっていくのですが、ここではちょっと止めておきます。)
【人工無脳ブロガーを止められるか】
さて、冒頭の創作に戻って。実は先日、オルタナティブ・ブログで松尾さんがこんなエントリを書かれていました:
■ 知らない間に人工無脳ブロガー(?)に取り込まれている不気味 (CloseBox and OpenPod)
その筋では有名らしい、ワードサラダなスパムについて。ワードサラダは単純に文章を切り貼りするだけのプログラムですが、文法的に正しい記事が作られるということで、機械によるスパムフィルタを通り抜けてしまうとのこと。まだまだ単純なつぎはぎなので、人間の目で見れば分かりますが……これも会話ロボットのような進歩を遂げてしまう可能性はないでしょうか。
また最初から「これは人工無脳による記事です」などという形で提示されるブログと違い、スパムブログは(当然ながら)その正体を隠しています。従って「このブログはロボットが書いたものかもしれない」などと疑って読み始めることは少なく、「何か分かりにくい文章だな?」程度の疑問しか抱かないという状況は生まれやすいと思います。
問題はそうなったときに、何をもって「人間が書いたもの」「ロボットが書いたもの」を判断するのか。さらに人間が書いたとしか思えないブログを書く人工無脳が現れたときに、それを「悪」と見なせるのかどうか(あるテーマについて書かれたブログをネットからかき集め、その総意を導き出すプログラム、なんてものが完成したら「便利なツール」として歓迎されるかも)。単純に「人工無脳を止めろ!」の一言で済む話ではなくなってしまうでしょう。この問題は想像以上に大きくなっていくのかもしれません。
*****
ずいぶんSFチックな話をするな、と思われてしまったでしょうか。個人的には、問題が大きくなるのは遠い未来ではないように感じています。例えば既に、AIBOには日記を書く機能が実装されていましたし、BlogPet にもペットが記事やコメントを書くという機能がありますよね。「彼ら」が書く内容は、オーナーにとってみれば「意思を持つ存在が放ったメッセージ」として感じられることでしょう。それを「意味のないノイズ」と捉え、ネットを飛び交うことのないよう規制を加えて良いのかどうか……。『フィロソフィア~』が提示する問題は、ネット上において一足先に顕在化するのではないかと思います。
最近のコメント