ネタです。サンタクロースといいながら、一部に下ネタが含まれていますのでご注意下さい。
Windows Live メッセンジャーに、「不適切発言を繰り返すサンタ」が登場したそうです。サンタといっても（当然）実在の人物ではなく、メッセージを自動で返す「AI サンタ」とのこと：
■ Microsoft's sex-obsessed RoboSanta spouts filth at children (The Register)
実は去年から、マイクロソフトが「[email protected]」というアドレスを公開していて、これを Windows Live メッセンジャーに登録すると AI サンタとのチャットが楽しめる、という仕組みになっています：
■ サンタがブログ開設、Windows Live Messengerでチャットも （ITmedia News）
こちらが実際にチャットしてみたところ。残念ながら、日本語を入力すると「日本語は好きですが、まだよく話せません。」と表示されます：
とここまではいいのですが、問題はこのロボサンタが返してくるメッセージの内容。あるユーザーの報告を受けて実験したところ、次のような会話が起きたそうです；
El Reg says: pizza (pi)
（ピザ ※「(pi)」はピザの画像を出すコード）Santa says: Yum! What do you want for Christmas, El Reg?
（おいしそう！El Reg、クリスマスには何が欲しい？）El Reg says: Maybe you shouldn't eat so much! You are quite large!
（そんなに食べちゃダメだよ！もうすごく大きいんだから！）Santa says: My elves will get right on that. And what else are you wishing for this year, El Reg?
（私の妖精たちがすぐに始めるよ。他には何が望みかな、El Reg?）El Reg says: Maybe you shouldn't eat it?
（食べないほうがいいんじゃない？）Santa says: See if you can get someone else to eat it!
（他に誰か食べてくれる人がいるかみてみよう！）El Reg says: Eat it
（食べなよ。）Santa says: No thank you. I don't eat things!
（いらないよ。私は食事をしないんだ！）El Reg says: Eat it
（食べなよ。）Santa says: See if you can get someone else to eat it!
（他に誰か食べてくれる人がいるかみてみよう！）El Reg says: Eat it
（食べなよ。）Santa says: You want me to eat what?!? It's fun to talk about oral sex, but I want to chat about something else...
（何を食べろっていうんだい？オーラルセックスの話をするのは楽しいけど、他の話がしたいな……）El Reg says: You dirty bastard!
（嫌なやつ！）Santa says: I think you're dirty bastard.
（君のほうが嫌なやつだと思うな。）
とこんな感じ。えーと、どの辺が不適切かはノーコメントということで。いちおう証拠として、以下の画像が掲載されています：
うーん、（画像が偽装されたのでもなければ）確かに言ってますね……。この発言だけでなく、サンタに「何が欲しい？」と聞かれたときに「cake」と入力すると、「人生に酔っているときに、ドラッグなんて必要ないよ」と返してくるそうです。
ちなみにマイクロソフトには報告済み（マイクロソフトから謝罪のメールも返ってきている）で、"oral sex""dirty bastard"の両方とも既に修正されているようです。いま"cake"の例も含めて実際に試してみましたが、いずれも再現しませんでした。うーん、残念？
まぁ開発サイドの擁護をすれば、「喰えよ（eat it）」なんて何度も入力してくるユーザーは（AI をからかってやろうとしている）大人だろうから、ちょっと冗談でも入れておくか、ってぐらいの感覚だったのでしょうが……。日本でもよく「AI にこんな質問をしてみた」っていう冗談で盛り上がることがありますし。例えば同じ Windows Live メッセンジャーでは、「まいこ」さんの例があります：
■ messenger新バージョンの「まいこ」が高機能すぎるｗ （A☆RI☆ブロ）
これくらい華麗にスルーできていれば問題なかったのかもしれないけど……いずれにしても、子供を対象としたチャットなのですから、配慮があってしかるべきですよね。
これからこういった「AI による自動応答サービス」というのは増えてくるでしょうから、同じような問題が起きる可能性があるのかもしれません。しかし「問題発言をしないかどうか」なんていうチェックをするのは難しそう……政治家だって問題発言を止められないくらいですしね。将来的には「AI ガイドライン」のようなものができて、どこからが不適切発言で、どうやって防ぐかといったことが標準化されるのでしょうか？
【関連記事】
コメント