だれもが一度は聞いたことがあると思う。Googleの検索結果が偏っているとか、Facebookでフェイクニュースが拡散して世論に影響しているとかいう話だ。それをまじめに考えてみたのが応用数学教授であるこの本の著者だ。
本書は18の章立てになっており、まとめである最終章を除いて、それぞれの章でひとつの話題について話しているので、どの章から読み出してもわかりやすい。また、むずかしい数学は一切登場しない。統計学の基本用語が二、三登場するくらいだからありがたい。身近な現象を数学的見方からわかりやすくわくわくするようなやり方で紹介してくれている。
本書のターゲットであるアルゴリズムとは、方法や手順のこと。Googleで上位にくる検索結果を選ぶ、Facebookでニュースフィードを更新する、Amazonでおすすめ商品を選ぶ、いずれもアルゴリズムあればこそだ。
同時に、アルゴリズムによって選ばれた結果が「公正な」ものであるかどうかはいつも論争の的だ。Googleでサイトが検索上位にくるように仕向ける方法は広く知られているし（本書にも登場する）、TwitterのフォロワーやFacebookの「いいね！」をお金を払って買うことができるという番組をNHKが放送したこともある。こうしたことが重なると、「わたしたちはアルゴリズムが示す結果に行動を支配されつつある」というささやきが、まことしやかに広がり始める。著者はこう書いている。
たびたび、アルゴリズムは私たちの人間性を理解したり、将来の行動を予測したりできる魔法のツールとして売り出されている。事実、アルゴリズムは人材採用、融資、収監の可否を判断するために使われている。こうしたアルゴリズムの内部では何が起きているのか？ そして、どういう種類の誤りが起こりうるのか？ 私はそれをもっと詳しく理解しなければと思った。
アルゴリズムが「公正」かどうかは、AI医師やらAI裁判官を設計しようとする人々、アルゴリズムによって採用活動を効率的に行いたい人々にとって大問題だ。リクナビが就活生の登録情報を分析することで「内定辞退の可能性」なるものをはじき出して販売しようとして、大問題になったことがあるが、アルゴリズム自体の「公正性」が保証できなければ、アルゴリズムによって内定獲得を左右される学生にとってはたまったものではない。
内定辞退の可能性よりさらに問題になるのは、再犯率だ。アメリカではアルゴリズムによって犯罪者の再犯可能性を評価する試みが進められているが、問題になったのは、白人と黒人が「公平に」評価されているかどうかであった。著者によると、数学的観点からすると「真の平等」は達成不可能だという。それに近づける努力をするにとどまるのだろう。
彼らは、アルゴリズムがふたつの集団に対して同程度に信頼でき、なおかつ一方の集団のほうがもう一方よりも再犯率が高い場合に、偽陽性の割合が両集団で等しくなることはありえないことを証明した。黒人の被告人の再犯率のほうが高いとすれば、黒人が誤って高リスクと分類される確率は必然的に高くなってしまう。そうでなければ、そのアルゴリズムはふたつの人種に対して公平に較正されていないことになる。白人と黒人の被告人で異なる評価を行わなければならなくなるからだ。
また、Amazonの「こちらもおすすめ」が売れ行きに影響し、さらにはベストセラーに影響する可能性も充分あるという。
クリスティーナいわく、「こちらもおすすめ」システムは「異世界」をつくり出すのだという。つまり、自分自身の選択についてあまり深く考えず、ほかの人々の誤った判断をいっそう強化してしまうような多数の人々によって人気が決まるオンライン世界だ。
著者はとてもかんたんな数学的手法で「こちらもおすすめ」をシミュレートしてみた。単純に25人のサイエンス分野の人気作家をならべ、それぞれが本を一冊書いたと仮定して、ある読者Aがそのうちの二冊を買うと、売れた本が、次の読者Bに買われる確率がちょっとだけ上がるようにしてみたのだ。たとえば、最初の読者Aがどの本を買うか、確率は等しく1/25だが、次の読者Bが本を買うとき、Aがすでに買った本が選ばれる確率は2/(25+2) = 2/27、その他の本が選ばれる確率は1/27になる。するとどうだろう？ シミュレーションをしていくうちに、ベストセラー作家とそうでない作家の違いがくっきりと分かれてきた。「こちらもおすすめ」が、本の売れ行きに大きな影響を及ぼしたことがよくわかる結果になった。この数学的手法が本を買う確率だけを使っており、本の内容にはいっさいふれていないこと、最初の読者Aが買った二冊の本がランダムに選ばれたことに注意してほしい。Amazonの「こちらもおすすめ」に従って、ほかの人が買った本にちょっとだけ余分に注意を払うことで、本の売れ行きにおどろくほどの差が生じるかもしれないを、著者はちょっとした数学的遊びとして示してみたのだ。本好きなら「ベストセラーが必ずしも『良い』本とは限らない」ことをよく口にするが、まさにあれだ。
一方で、フェイクニュースの影響力は皆が恐れるほどではないだろうというのが著者の見方だ。だれもがネットだけから情報を得ているわけではなく、リアル友達や、政治的意見はちがうけれど趣味が同じのネット友達とコミュニティをつくることで、フェイクニュースの影響力を低めることができるという。
フェイクニュースの拡散が政治の動向を変えるとか、ボットの増加が政治的な議論の形態に悪い影響を与えるという具体的な証拠はない。私たちは、ポスト・トゥルース世界に住んではいない。ボブ・ハックフェルトの政治的な議論をめぐる研究によれば、他人の意見が自分のバブルへ浸透してくる原因は、私たちの趣味や関心にあるという。
一方で、トランプ大統領がツイートでフェイクニュース批判を乱発したり、国家機関がフェイクニュースを流して選挙結果を左右しようとしているという陰謀論がささやかれたりするたび、やはり私は不安になる。私たちはネット上のニュースに判断を曇らされているのではないか、さらにそれは意図的に仕組まれているのではないかーー漠然とした不安が消えない。著者自身も、最終章で、数学的観点からフェイクニュースの影響力が思ったほどではないなどと話すと「場がしらける」と言っている。
結局のところ、フェイクニュースに踊らされているのではないかとうたがうのは、政府に騙されているのではないかという猜疑心によるものだ。応用数学による分析はとても面白かったけれど、それでもFacebookやTwitterを楽しんでいるときにふと不安が忍び寄り、なかなか消えないのは、事実や真実とは別のところにある、私自身の問題でしかない。
