最近、立て続けに2つの問題が起こりました。個人的には、これらの問題そのものよりも、その背景にある構造がとてもショックだったので、問題提起しておきたいと思います。

Facebookの嘘ニュース人気問題

アメリカ大統領選挙で、嘘のニュースがFacebook上で、ホンモノのニュースよりも多くシェアされてしまったという話です。

「Facebook: 大統領選を通じてもっとも良く読まれたニュースは真実よりも嘘の方が多い」という記事が詳しいです。

例えば、

Pope Francis Shcks Worlds, Endorses Donald Trump for President, Release Statement
（ローマ教皇、大統領選ではドナルド・トランプ氏指示を表明）

といったようなニュースが、内容は嘘であるにも関わらず非常にFacebook上でシェアされてしまい、投票行動に影響があったのではないか、という話です。

悲しいかな「虚構新聞」のような嘘というのは非常に、拡散されやすいんですね。

Welqの「しにたい」問題

もう一つの問題は、Welqの「しにたい」問題です。

Welq騒ぎと「しにたい」検索で見えた日本の幼稚で残念なインターネット

Welqが席巻するSEO界隈と、DeNAのコンテンツ戦略、そしてその行く末に思うこと。～Welq編～

要は、Welqというサイトが「しにたい」というビッグキーワードで検索トップに現れてしまった上に、コンテンツにコピペ疑惑がある上に、広告クリックを誘発しやすいものであったがために問題になった、という話です。

なぜFacebookの嘘ニュースやWelqのインチキ記事が量産されたのか

NYTimesに「Inside a Fake News Sausage Factory: ‘This Is All About Income’」という記事がありました。

要は、嘘ニュースは非常に拡散されやすく、その結果「儲かる（‘This Is All About Income’）」からやってしまった、という訳です。

DeNAのWelqも同じでしょう。インチキ記事を量産し、SEOからのトラフィックを得ることで、広告売上が増えるからやっている、というのは、モラルの問題はさておき、営利企業としては必ずしも間違っていないのかもしれません。

（決して、医療領域でインチキ記事を量産したDeNAを擁護するつもりはありませんが）実際、DeNAのほどのスケールではないにしろ、インチキ記事を量産する業者というのは昔から存在します。

他方、昔からそういった記事はGoogleで上位に来ないようになっており、「インチキ記事を量産しても儲からないよね」という認識があったかと思います。

従って、今回のWelq問題は、見方によっては「DeNAがGoogleを上手くハックした」とも言えます。同じように、「Facebookが嘘ニュースにハックされた」とも言えます。

アメリカでは、嘘ニュースを量産した人たちよりも、プラットフォームのFacebookのあり方に問題が向かっている気がします。他方、日本では、Google批判よりもDeNA批判がずっと多く見られます。個人的には、（医療領域でインチキ記事を量産したDeNAを擁護するつもりはありませんが）Googleも問題だよなぁと強く思います。

問題はそこまでシンプルではない...

ではGoogleやFacebookはなぜこのようなスパムを防げないのでしょうか？

GoogleもFacebookも検索順位やタイムラインに登場する記事の選定アルゴリズムに数千人〜数万人単位の世界中で最も優秀なエンジニアを投入し続けています。要は、この2つには、世界中の人工知能の最高峰の知恵が投入されているわけです。

Googleの検索結果は、特定のキーワードを記事に入れたくらいではビクともせず、その記事へのリンクだけでなく、クリック率、滞在時間、直帰率などあらゆる要素を考慮して「検索したユーザーが最も読みたいであろうページ」を表示するように作られています。

Facebookのタイムラインも同じように、あるユーザーがもっともエンゲージメント（読む・いいね・シェア）するであろう記事をアルゴリズムが選定しています。

要は誰も反応しないようなダメ記事は、自然と淘汰される知能が既に入っている訳です。

今回の2つの問題は、「本来よろしくない記事」がこれらのアルゴリズムをかいくぐって上位に来てしまっており、その原因が人間であったことが問題だと言えるでしょう。

そして、それらのアルゴリズムは、読者（人間）が反応すればするほど、その記事により高い評価を与えるように出来ていますので、要は、「嘘につられた人間が...」という話なんだと思います。

アルゴリズムは、天才たちのおかげであっという間に賢くなりますが、それを使う人間が賢くなるには非常に長い時間がかかりますし、多くの人間は賢くなりませんから、こういった「ハック」が可能になってしまうのかと思います。

この「アルゴリズムが人間よりもずっと早く賢くなる問題」というのはこれからあらゆるところで、社会との摩擦になって現れてくると思います。

「アルゴリズムが不完全だからこういうことが起こる」という人もいるでしょうし、僕もそう思わないこともありません。がしかし、この「アルゴリズムが人間よりもずっと早く賢くなる問題」は無視できないレベルまで来ているのではないかと思うのです。

特にもう少しすると、人工知能が「与えられたトピックに対してウェブ上から情報を収集して文書を生成する」といったタスクは自動化してしまう日が来るでしょう。そうなったら、Googleの検索上位はスパムで埋め尽くされるのでしょうか？そうならないためには、読者の多くがそういったスパム記事に反応しないだけの知性を持ち合わせる必要があるのですが、そんなことは本当に現実的なのでしょうか？

皆さんはどう思われますか？

（表紙画像: https://www.seroundtable.com/google-warning-to-repeated-violators-was-unnecessary-20925.html）

----------------------------

1ヶ月あたり4〜8本の有料ノートが追加される予定の「有料マガジン」もあります。是非ご覧ください。

気に入ってくださった方は、↓から「スキ」「フォロー」してください！