前回の続き。
オンラインでのリアルさ
テイラー・スウィフトの「信憑性」は「事実」と「現実」の二重の意味を持つようになっていた。彼女のインスタグラムに登場する不機嫌そうな白猫は本当に彼女の猫だった。（略）思いついたときに手書きの優しいメッセージを添えてクリスマスプレゼントを贈ったりしているのも事実だった。
（略）
「これからは、ファンとの絆を作るには、ファンに意外性の要素を提供し続けることが必要になると思う。“衝撃”じゃなくて“意外性”よ。お互いの意外な面を発見できる限り、カップルは愛し合っていられると思うの。アーティストとファンの間にもそういう愛情関係が成り立っていいはずでしょ？」
スウィフトは人生をでっち上げたわけではなく、演じたのだ。最も共感を呼ぶもの（略）に光を当てた投稿をアップして、ファンと同じ目線で彼らに接し、自分の生き方をファンのイメージに合わせた。
（略）
とはいえ、こうしたインターネット時代の信憑性が必要不可欠だったのは、何と言っても選挙政治においてだった。
（略）
皮肉なのは、選挙に出馬するほとんどの候補者があまり親近感を抱かせる人物とは言えないことだ。彼らはたいてい資産家で、エリート中のエリートであり、有権者の日常的な問題とは無縁だ。そのため、アメリカの政治は長らく誰が最も信頼できそうかをめぐる綱引きとなってきた。十九世紀にはどんなに裕福な候補者でも、先祖はつましい農民だったことを強調するエピソードを新聞に掲載したものだ。
（略）
[だがSNS時代になり]オンラインでのリアルさとは何かに注目が集まるようになった。（略）
トランプはアメリカ政治の鉄則にすべて反していた。「庶民」のふりをせず、金持ちであることを自慢し、思いつく限りの社会のタブーを破り、突飛な発言をし、絶対に謝らなかった。しかし「エキスパート」のアナリストたちがうんざりしたように首を左右に振っていたころ、何百万もの有権者たちは、耳をそばだて注目していた。正真正銘、信憑性を感じさせる政治家がそこにいたのだ。
トランプの信憑性の要は彼のツイッターだった。明らかに本人が書き込んでいて、予想がつかず、大げさで、本能的な衝動にあふれていた。トランプを誰よりも激しく批判していた人びとでさえ、夜遅くまでベッドの中で思いつくままにツイートする大統領候補にどこか引かれるものを感じていた。（略）
「みんなトランプが自分に語りかけているみたいに感じたんだ」。
「戦争が起きている。あなたの心をめぐって！」
NATOとEUを支えてきたドイツはシリア難民を無制限に受け入れると発表し、波紋を呼んだ。そのためロシアの情報戦士たちはドイツに狙いを定めた。
それは身の毛のよだつような話だった。十三歳のロシア系ドイツ人の少女がアラブからの移民三人に誘拐され、暴行され、レイプされた。しかも警察は捜査を拒否しているというのだ。（略）
ニュースがドイツの極右メディアを駆けめぐると、はるかに大規模な抗議デモが起きた。しかしじつは、事態を憂慮したドイツ政府が繰り返し説明したように、ニュースはでっち上げで、家出した少女が苦し紛れに口にした出任せだった。だが、政府の説明に誰も耳を貸さなかった。そのうちロシアの外相までが、ロシアの代理人たちが広めた噂をめぐるロシアの報道をもとに参戦した。（略）
「政治的動機のために移民問題が現実を“粉飾” することにつながらなければいいが。そんなことをするのは間違っている」。だが本人は政治的動機のために現実を粉飾していた。肝心なのはそこだった。
（略）
内紛がくすぶるところでは、必ずロシアのプロパガンダ要員が遠くから手を貸していた。彼らは二〇一四年にはスコットランドの独立の是非を問う住民投票に介入した。二〇一六年にはブレグジット推進をそれまで以上に後押しし、さらにアメリカ大統領選挙の行方を左右することも画策した。
（略）
ボットやトロールやソックパペットたちはどこからともなく新たな「事実」を作り出せる。同類性と確証バイアスのおかげで、彼らを信じる人たちが少なくとも何人かはいるはずだ。それだけでも十分恐ろしく、社会を二極化させ、不信感を生み出す。しかし賢明な集団や政府は、自分たちの目標に合うようにこの現象をねじ曲げ、バイラル性と認知を利用して目標達成に近づくことができる。偽情報と呼ぼうが、単なる心理操作と呼ぼうが、同じことだ。悪名高い陰謀論サイトのインフォウォーズのタグラインが言い得て妙だ。「戦争が起きている。あなたの心をめぐって！」
こうした攻勢は二つの原則に従っている。一つは信憑性だ。人工的な虚偽がうまくいくのは、かすかに真実味を帯びている場合だ。既存の偏見に乗じ、ターゲットの心にすでに存在する「物語」に、少しだけ虚偽を上塗りする。
（略）
情報作戦の第二の原則は、拡張だ。虚偽のなかで最も破壊的なものは、長期間にわたって大勢の人間に広まる。そういう虚偽は根強く残ることで広がる。否定する行為自体が、その話題に新たな命を吹き込んで、集団意識にさらに深く入り込むのに役立つようにできている。そんなふうに作られた話はかかりのついた矢のようなもので、相手が抜こうともがくほど毒が広がり、腐敗が進む。猥褻な告発ほどいい。政治にまつわる有名な伝説で、のちにアメリカ大統領になったリンドン・ベインズ・ジョンソンが議会選で後れを取ったとき、対立候補が「豚とやった」という噂を流すよう選挙運動本部長に指示したとされている。本部長は証拠がないと反論した。「わかっている」とジョンソンは答えた。「だが、やつに否定させよう」
インターネットは、攻撃し、苦痛を長引かせるのをさらに容易にする。ソーシャルメディアのアルゴリズムは、自分たちのネットワーク上ではやっているコンテンツが人びとの怒りを買っていても(買っていればとくに)、そのコンテンツに注目させる仕組みだ。その結果、油の火災のように、何かに対する非難が広がり、それを見た新たなユーザーのグループがまた非難する。バイラル性は複雑さと両立しないため、文脈や詳細はあっという間にはぎ取られる。残るは論争そのものだけとなり、それがいかにでたらめや、ばかばかしいものに思えようと、論争に「参加する」べきだと感じる人びとが図らずも広めることになる。（略）
[悪名高いピザゲートのジャック・ポソビエックが反トランプ派の抗議デモで「メラニアをレイプしろ」という看板を掲げた]
オルタナ右翼のプロキシとロシアのRTのプロモーションのおかげで、画像はたちまちバイラル化した。
（略）
[炎上後]何もかもでたらめだと一部のユーザーは気づいた。（略）
[色々な]グループがポソビエックが仕組んだことだったと主張した。これが新たな非難と議論の応酬を呼んだ。ポソビエックが仲間と陰謀の相談をしているというやりとり(“メラニアをファックしろ”では“弱すぎる”と結論)が掲載されたが、ポソビエック本人はそれを否定した。
（略）
だが、その騒ぎのなかで失われた話があった。そもそも抗議のために集まった数百人の動機だ。たった一度、議論がそれたせいで、[反トランプという]彼らの目的とメッセージは消えたも同然になったのだ。
言論の自由
あるネオナチが著者たちに対してばかにしたように指摘したとおり、新たなアカウントをほんの数秒で開設できた。その結果、言論の自由は、ある元従業員によれば「くそったれどものハニーポット」と化した。
（略）
YouTubeは「違法、猥褻、もしくは脅迫的な」動画を禁止した。しかし（略）
YouTubeは拷問に反対するエジプト人活動家の動画も削除した。拷問反対の動画なので、当然ながら、拷問の様子も記録されていたからだ。
（略）
フェイスブック社は当初からMyspaceを競合と見ていたので、Myspaceのようなスキャンダルはなるべく避けたがった。フェイスブックの社内用ガイドブックはまもなく中規模国の憲法並みになった。
（略）
ユーザーがアメリカ大統領を銃撃してくれと誰かに依頼すれば、それは明らかに扇動であり、削除することができた。一方、「髪の赤い人間を蹴る」よう促している場合は、より一般的な脅しなので許容範囲だった。
（略）
「ぐちぐち言うのをやめないと、その舌を切り取るぞ」というメッセージは、確定ではなく条件付きの脅しなのでセーフという具合だ。
一見明確な規約──「裸と性行為」の全面禁止など──でさえ、一触即発の火種になった。最初は歴史家と芸術評論家が抗議の声を上げ、絵画や彫刻の写真では裸を許容する一方、古典主義者がポルノだと見なすデジタルアートの場合は、裸を許容しないよう同社に圧力をかけた。次に抗議したのは産後まもない女性たちだった。彼女たちは授乳している画像が「猥褻」だとして削除されたことに憤っていた。#freethenipple(乳首の解放)という独自のハッシュタグ(当然ながら、ポルノ配信者たちに乗っ取られた)を作り、母親たちによるロビー活動を開始した。これらの乳首戦争を受けて、社内では何年も白熱した審議が続いた。結局、幹部たちは授乳の描写を許可する新しい方針を決めた。ただし、画像の主要な焦点でないことが条件だった。
何十億ドルもの利益をあげ、世界中でニュースに影響をおよぼした世界最大のデジタルプラットフォームを構築したエンジニアたちは、まさか社内の取締役室で、どの程度まで乳首を見せるべきかをめぐって何百時間も議論するはめになろうとは夢にも思わず、期待もしていなかった。
（略）
恐ろしい皮肉だが、言論の自由を破壊するテロリストたちにとって、ツイッターが当初言論の自由を約束していたのは好都合だった。テロリストが越えられない一線は唯一、個人攻撃だった。「不信心者(非イスラム教徒)」は暴力的な死に値するという一般的なツイートをするのは許されるが、特定の非イスラム教徒に対して首を切り落とすぞと脅すことはできなかった。テロリストがプラットフォームを利用できることに憤る声も多かったが、ツイッターはそうした声を一蹴した。NATOが味方にアフガニスタンの話をしてかまわないなら、タリバンだって同じことをしていいはずだ、という理屈だった。かくして、野心に燃えるテロ組織にとって、ツイッターは信奉者とつながる場であるばかりか、新兵と欧米のジャーナリストの両方に自分たちの存在を知らしめる格好の場となったのである。
（略）
ISISのプロパガンダが自社のプラットフォームを十数カ国語で駆けめぐるなか、ツイッター幹部陣は不意打ちをくらって立ち尽くすだけだった。同社のコンテンツ監視チームは、サービスが全面的に兵器化される状況への備えができていなかった。関心がなかっただけでなく、リソースも不足していたのだ。ネットワーク監視に時間を割けば、その分ネットワークを拡大し、投資家に価値を示すための時間が減った。ツイッターの目的はプロパガンダと戦うことなのか、それとも収益性を向上させることなのか。
（略）
ツイッターは策を講じようとしたが、ISISはしつこかった。アクセスを遮断されると自分たちのネットワークを自動的に復活するスクリプトを開発した。ツイッターのブロックリスト──本来は悪名高いトロールをひとまとめにして阻止することで嫌がらせと戦うために開発された──を悪用し、自分たちを追跡するユーザーから自分たちのオンラインでの活動を隠そうとした（略）。一部のアカウントは閉鎖されても、多くの場合、アカウント名にある番号だけを変えて復活 (@TurMedia335など)し、それを文字どおり何百回も繰り返した。
（略）
ISISのアカウント一掃は大いに喧伝されたが（略）二〇一五年には、超国家主義者、白人至上主義者、偏狭な反移民派および反イスラム派が一つにまとまってオルタナ右翼運動を形成し始めた。つけ上がった彼らはしだいに増長し、憎悪をむき出しにするようになった。
ただし、そのやりかたは狡猾だった。自分たちの感情をミームや控えめな言及で覆い隠し、一線を越えるぎりぎりのところで踏みとどまった。たとえば、オルタナ右翼のリーダーであるリチャード・スペンサーは、すべてのユダヤ人や黒人の殺害を擁護するために、自分の人気のある(かつ実証済みの)ツイッターのプロフィールは使わなかった。代わりに、アメリカが白人だけの国になれば、どれだけましかを並べ立てた。オルタナ右翼は、人びとを反ユダヤの嫌がらせの標的にする新しい方法を思いつき、もてあそんだ。たとえば、ユダヤ人とわかっているか、それらしい姓を三重括弧でくくった。「スミス」なら「(((スミス)))」という具合だ。そうした戦術のおかげで、ゲーマーゲートのような激しい個人攻撃が容易になった。何か言われたら、「トローリングしているだけ」だと主張した。ユーザー・アカウントが閉鎖されそうになったら、途端に被害者のふりをして「言論の自由」を実践しているせいで標的にされていると主張した。
（略）
しばらくの間、グーグルとフェイスブックとツイッターはほとんどお手上げ状態で見て見ぬふりをしていた。人種差別と偏狭さは不快だが、不快なものを検閲するのは自分たちの仕事ではないと、三社はあっさり認めた。
（略）
二〇一六年半ば、ツイッターが攻撃の口火を切って、ブライトバートの編集者で挑発的な極右のマイロ・ヤノプルスをツイッターから追い出した。
（略）
[トランプ選出後ヘイトクライムが相次ぎ]
ソーシャルメディア巨人は「ヘイトスピーチ」の定義を拡大し、特に悪質な違反者を追放するようになった。ツイッターは白人至上主義のアカウントのうち、とりわけバイラル性の強いものを禁止
（略）
シリコンバレーはもう一つの、さらに根本的な難題を自覚し始めていた。（略）
バイラル性は確かに決定的な形で現実を左右していた。
（略）
こうした状況を痛感させたのは、ドナルド・トランプが大統領に選出されたことだった。最も衝撃を受けたのはフェイスブックで、ほとんどが若く進歩的な考えの持ち主である従業員たちは、自分たちのやってきたことがトランプを権力の座に就かせたのではないかとおののいた。実際、そのとおりだという強力な証拠があった。ツイッターがトランプの貴重なマイクの役割を果たしたとはいえ（略）
明らかにでっち上げだとわかる話を何億回も「シェア」する人びとのネットワークにはまったのは、フェイスブックを通してだった。
（略）
ザッカーバーグはまず否認したい衝動に駆られた。フェイスブックのプラットフォームに出回った偽情報が、誰かの投票に影響したというのは「じつにばかげた考え」だと、彼は選挙の数日後に語った。当初の否認に対して、世間には怒りが広がり、オバマ大統領から個人的な叱貴まで受けてザッカーバーグは態度を変え、次々と通達を出してフェイスブック上のでっち上げや偽情報への対策強化を約束した。同時に、これは比較的小さい問題だとユーザーを安心させようとした。一方、業を煮やした社員たちは内々に話し合い、クラウドソースによる独自の解決策を模索した。その後、社内の一部は選挙期間中にフェイスブックのプラットフォームで偽情報が野放しになっている状況を懸念していたが、同社の「客観性」を侵害する可能性や、保守的なユーザーと議員を疎外する可能性をおそれて、何も変えられなかったことが明らかになった。
二〇一七年半ばには、フェイスブックの態度は大きく変わっていた。同社のセキュリティチームは「情報作戦とフェイスブック」と題して、初の虚偽ニュース対策白書を発表し、自社のプラットフォームが「わかりにくく狡猾な形で悪用」されるにいたった経緯を説明した。もう一つの、やはり初めての報告書では、敵を公然と名指しした。敵とはロシア政府だ。しかし批判派は、フェイスブックは九ヶ月もの非常に重要な時期を無為に過ごしたではないかと指摘した。
（略）
ソーシャルメディアの巨人は、政治問題──テロリズムや過激主義や偽情報と戦う事──に本腰を入れて対策を講じるために、政治と戦争の「グレーゾーン」から生じるスキャンダルに巻き込まれて、ますます身動きが取れなくなった。良かれと思っての通報システムがトロールに悪用されたりもした。あるいは、不適切なコンテンツを監視するモデレーターが、自分が行ったことのない国から投稿されるコンテンツが適切かどうかを、彼らにはとうてい理解できない政治的背景のなかで判断することを期待されて、手がかりのないまま、高い代償を伴うミスを犯す可能性もあった。
（略）
[フェイスブックは]「国際的に承認された国家の占領に抵抗するための暴力」への肯定的な言及をすべて禁じていた。（略）この規定によって、パレスチナ、カシミール、西サハラのユーザーのコンテンツが大量に削除されるはめになった。
（略）
ミャンマーでは、少数民族のロヒンギャが、フェイスブックを使って自分たちを標的にした政府主導の民族浄化作戦を記録しようとしたものの、投稿の一部は削除された。彼らを苦しめている軍の暴虐をくわしく報告したというのが理由だった。
しかしながら、こうした厄介で容赦ない政治問題化の過程で、シリコンバレーの誰もが一貫して守り抜いたルールがあった。最終損益を優先するということだ。（略）
[二〇一五年]ロシアの大規模なボットネットの証拠を発見していたが、無視するよう言われた。結局、ボットが増えるほどアカウントも増え、ツイッターが拡大し、ユーザー数も増えているように見える効果があったからだ。「会社は偽アカウントや攻略されたアカウントよりも、成長を示す数字のほうを気にしていたんだ」と、そのエンジニアは説明した。
フェイスブックの社員たちから、当時大統領候補だったトランプがすべてのイスラム教徒のアメリカ入国を禁じると公約していることについて詰め寄られた際、ザッカーバーグはそれがヘイトスピーチであり、同社のポリシーに違反していることを認めた。それでも自分にはどうすることもできないと彼は釈明した。その投稿を削除すれば、保守的なユーザーを失いかねず、そうなればビジネスにも支障が出るからだった。
