残酷なアルゴリズム

なんとなく個人的にも引っかかるところがあったので。

Facebookユーザーの方はご存知だと思いますが、いまFacebookの公式アプリとして、「今年のまとめ」機能が提供されています。ユーザーが今年1年に投稿した内容を自動で整理して、「○○さんの一年」のようなタイトルをつけて記事にしてくれるというアレです。記事生成は公式URLをクリックするだけで自動的に行われるため（最初はカギ付きで、その後カスタマイズするか/シェアするかを決められる）、念のためきちんとリンクを明示しておきたいと思います：

■ Your Year in Review | Facebook
(https://www.facebook.com/yearinreview)

確かに自分の1年を振り返り、友人たちとシェアできるというのは楽しい機能です。僕も自分のタイムライン上でいくつも投稿されているのを見かけました。ただすごく気になっていたのは、このアプリ、自分から上記のURLをクリックしなくても（つまり能動的に作成することを選択しなくても）勝手にトップタイトル（1年を象徴するような写真＋記事の表題）が生成されて、自分のタイムラインに「これをみんなに公開しませんか？」という提案として流れてくるという点です。

僕は今年、ちょっと気恥ずかしい写真（法に触れるとかいう話ではないです）を妻にアップされて、それにたくさんの「いいね！」が付けられました。そのためか、僕のタイムライン上に流れてきた上記の「これをみんなに公開しませんか？」という提案には、その写真が使われていました。最初は上記の仕組み（最初は自分しか見られない状態で生成されて、その後公開するかどうかを決める）を知らなかったので、いつの間にこんな恥ずかしい投稿をしてしまったんだ！？とかなり焦りました。

僕のように「ちょっと恥ずかしい」レベルであれば、プライベートの記事としてこうした提案が自動生成されても、まったくFacebook開発者たちは……で流すことができます。しかしそうではない人もいました：

■ Inadvertent Algorithmic Cruelty (meyerweb.com)

タイトルを直訳すれば「不注意によるアルゴリズムの残酷性」となるでしょうか。実は書かれたEric A. Meyerは、今年娘さんを亡くされていました。そして先ほどの自動生成される「今年のまとめ」トップ画像に、その娘さんの写真が使われてたのです。公開を促す提案記事には、こんなメッセージが添えられていました。

“Eric, here’s what your year looked like!”

「エリック、これがあなたの今年一年でした！」

エリックさんはブログ記事の中で、心境をこう記しています。

写真は亡くなった娘のものだった。今年命を落とした娘だ。

そうだ、これが僕の今年一年だ。まったくその通り。僕の今年は、この世にはもういない、小さな娘の顔をしているのだ。しかしこんな強制的な形で僕に思い出させるのは、あまりに冷酷ではないだろうか。

確かにこれは意図的なものではなく、「不注意で」アルゴリズムが残酷性を見せてしまった結果だろうとエリックさんは認めます。こうしたケースはごく少数で、大部分のユーザーにとっては、楽しい一年を振り返らせてくれるアプリだろうと。しかしそれでも、亡くなった家族の写真に「これがあなたの一年でした！」というコメントがついて、突然タイムラインに表示されるなどという事態があってはならず、何らかの形で防げたのではないでしょうか。

たとえばとして、エリックさんは「写真を自動的に埋める前にユーザーの承認を取る」「プレビューを見るかどうかを選択させる」という2つの改善を提案しています。どちらも当たり前の話で、アプリの本質を大きく失わせるものではないでしょう。それだけに、逆にこの程度の配慮もできなかったのか、という思いがします。「恥ずかしい写真をアップしてしまった」というレベルは論外にせよ、今年を振り返りたくない、忘れたいという人は、エリックさんがこの世でただ一人などということは絶対にあり得ません。アルゴリズムを実装した人々は、アルゴリズムそのものに気を取られるあまり、そんな単純なことに注意を向けなかったのかもしれません。

そういえばビッグデータによるプライバシー侵害のリスクを象徴する事例として、最近よく「女性の購買履歴から妊娠を検知するアルゴリズムが開発され、それに基づいて妊娠したティーンエイジャーの女性宅に育児用具のクーポンを送った結果、女性の父親に妊娠がバレしてしまった」という話が取り上げられますが（米ターゲット社のアレです）、これもある意味でアルゴリズムを先行させてしまった結果だと思います。アルゴリズムは時に残忍な一面を見せるもの、というより、アルゴリズムの中には本質的に残酷性が隠れているのだという意識を心に刻むことが、これからさらに開発者や企画者に求められてくるのではないでしょうか。