データでいのちを描く テレビディレクターが自分でAIをつくったわけ

 東日本大震災の報道での無力感から、辿り着いたのがビッグデータ

データでいのちを描く―テレビディレクターが自分でAIをつくったわけ

データでいのちを描く―テレビディレクターが自分でAIをつくったわけ

 

 ナースコール

 意外なところにデータが眠っていることもあります。(略)

協力してもらったのは、熊本県にある済生会熊本病院。長年大量のデータを収集・活用しており、データに関するリテラシーが高い病院です。自前で巨大なサーバーを用意し、検査データは看護師の皆さんが即時にデジタル化を行います。提供してもらった1年分のナースコールのデータは、約109万回分。(略)

 提供されたデータには患者個人が特定できるような情報は含まれておらず、ナースコールが押された日時や病棟の場所、診療科、患者の年代や性別、押した目的などの限られた属性がひも付けられているだけでした。しかし、「109万回」という、とてつもないボリュームが大きな意味を持ったのです。(略)

頻繁にナースコールが押されるのは何時ごろか、性別はどうなのか、どの年代が多いのか。結果、80代の男性患者が、消灯から1時間の間に、「寂しいから」という理由で押すパターンがいちばん多かったとわかりました。

飲酒運転

 飲酒運転を撲滅したい──強い思いで臨む現地取材チームが福岡県警と交渉し、過去10年間の飲酒運転による事故の詳細データを提供してもらったのです。(略)
[データは予想以上に]とても細かくデジタル化されていました。

 事故の起こった地点、運転者のアルコール量、発進した後いくつ目のカーブを曲がりきれずにぶつかったかなど、事故の詳細が記録されていたのです。これらのデータを分析したところ、飲酒運転で事故の起きたケースの多くでは、発進後一つ目のカーブすら曲がりきれないことがわかりました。

ディープラーニングが最強なわけではない

第3次AIブームを牽引するディープラーニングは画期的なものですが、最新の学習法が使用されたプログラムだけがAIではないというのが個人的な意見です。

 私自身の体験を紹介しましょう。あるセンサーデータをAIに学習させて、自動判別を行うことを試みました。「どうせやるなら最高の技術を投入しよう」と、数日かけてディープラーニングによる学習モデルをつくりました。結果は、判定精度が98%と高い成績を収め、その力強さに大満足。そこで終えても良かったのですが、古典的な機械学習との差を確認しようと、そちらも試してみることに。結果、95%と高い精度を叩き出しました。わずか30分で実装したものです。さらに、設定値を少し調整すると98%に到達することがわかりました。

 確かにディープラーニングのパフォーマンスはすばらしいのですが、古典的な技術とあまり変わらない場合もあるのです。ある意味で手垢の付いた古典的な技術は、その導入方法やロジック、あるいは問題点が明確になっており、使い勝手が良いという利点があります。

(略)

 ここで、ちょっとした笑い話を紹介しましょう。あるプログラマーと話していたときのことです。その人は「自分は決してエクセルを使わない」と言い張りました。エクセルは、データの整理もグラフ化も数理処理も手軽に行える、優れた表計算ソフトです。最近は性能も上がり、ビッグデータ解析にも使えます。しかし、その人は普段からプログラムを書くことにこだわりを持っており、既存のソフトウエアを使うことはあまりないと言うのです。

 あるとき、データの中に混じっている“汚れ”を取り除くことをお願いしたのですが、その処理をするためだけにプログラムを書いたそうです。エクセルですれば10分でできるはずなのに3時間かかっていました。これは典型的な“プログラマーあるある”です。「必要もないのに、20行のプログラムコードを3行に短くして自慢する」「計算速度を5倍にすることに数日かける」。少し汚いコードでも、正確に動いてくれれば問題ありませんし、コーディングに数日かけるくらいなら、さっさと計算を始めて、空いた時間でコーヒーブレイクした方がいいでしょう。

 AIの技術も同様です。シンプルな機械学習を使わない(認めない)プライドの高い人がいますが、それはもったいないです。たとえ10年前と同じ手法であっても、今だからこそ入手できるビッグデータを学習させるならば、当時よりはるかに良質な結果が得られます。

 また、一つの手法を磨くよりも、複数を組み合わせた方が効果的な場合もあります。NECの開発した、「異種混合学習」という学習法はその内部で巧みに手法を組み合わせており、防犯カメラの顔認証から食品スーパーの在庫管理まで驚異的な精度を出しています。

ディープラーニングブラックボックス

 たくさん技術がある中で、どれを社会課題解決型AIに使えばいいのか。ここで二つの大きな選択肢があります。

1.ブラックボックス

2.ホワイトボックス型

 ディープランニングは前者に分類されます。比類のない高い成果を生み出しますが、開発者であっても弾き出された回答までのプロセスの理解は困難で、ブラックボックス化してしまうのです。

(略)
 しかし、社会課題を解決したい場合、それでは困ります。100万件の交通事故状況のデータをAIに学習させるのならば、「事故発生確率が60%」と予測をするだけでなく、確率の高くなる要因が「ドライバーの年齢」なのか、「日が暮れて暗くなってきたこと」なのか、「街路樹が多いこと」なのか、原因を突き止めることが求められます。事故発生予測AIをつくることに意味はありません。具体的な解決の一手にたどり着かなければ、新たに発生する事故を、ただ見守ることしかできないのです。

 さて、選択肢の二つ目、ホワイトボックス型のAIにはどんなものがあるのでしょうか。(略)機械学習の中には、決定木や次元削減、クラスタリング、回帰分析など長年使用されてきた技術が山のようにあります。可視化の方法や精度の上げ方も明確です。そして、AIの“思考”プロセスをのぞくことが可能なこともポイントでしょう。

 事例によってはディープラーニングのパフォーマンスに敵わないこともありますが、精度の差が極端に開くことは少ないので、開発者は目的に応じて適切な技術を選択すればいいわけです。思い切った表現をするならば、ホワイトボックス型AIの技術水準はもはや“伝統芸”の領域に達しているとも言え、安定した結果を生み出してくれます。

(略)

AIは「何でも放り込めば、後は何とかうまくやってくれる」と思われがちですが、内部構造をつくる際、さまざまな値を設定する必要があり、その微妙なコントロールがパフォーマンスに大きく影響します。まるで職人の世界です。設定値は、データの種類や量によっても変わるのですが、「うまくいったらそれが正解」的な性格が強くて、研究者の方とお話ししていても、「やってみないとわからないね」と返ってくることが多々あります。

「人は被害に遭うまで避難しない」 

東日本大震災の際の携帯電話の位置情報から、浸水域を対象に10メートル以上移動した人のデータを抽出し、その軌跡をグラフ化したのです。(略)

 ざっと解説しますと、震度7地震が発生した直後、さらなる余震、そして津波を警戒して人は移動し始めました。しかし、データから見えてきたのは多くの動かない人たちです。最初の地震から約15分、震度5程度の余震が発生すると、最初よりは少ないですがやはり人々は移動を始めました。その後、しばらくは大きな行動は見当たりません。そして津波警報などの情報が入り始め、また少しずつ動きが出始めます。そのタイミングでまた余震が起き、そこでまた少し移動するのが認められます。その後しばらくはほとんど動かない時間が続き、最後に、津波が押し寄せてから多くの人々が動き出しました。

 ここから見えてくるのは、「人は被害に遭うまで避難しない」ということです。 

ブレードランナー証言録

 

第一章 ハンプトン・ファンチャー

ブレードランナー』とフィルム・ノワール

[原作]は気に入らなかったが、映画の視点から見て一つ興味深い要素があった。それは一人の男が何体かのアンドロイドを追跡するというもので、そのような部分をもとにしてアイデアを積み重ねていった。構造的にはかなり単純なものだった。それが本から提供されたアイデアだ。

(略)

当時はレイモンド・チャンドラーの作品をたくさん読み漁っており、それがきっかけでフィルム・ノワールについて思いついたんだ。主人公がやさぐれたアルコール依存症で、失望のどん底にあるシニカルな男であれば、おもしろくなるだろうと思った。結婚しておらず、孤独だ。私は配役にロバート・ミッチャムを想定して書き進めていった。

 ちょうどその頃リドリー・スコットが関わってきた。最初はロバート・マリガンという別の監督がいたが、引き継いだリドリーはフィルム・ノワールのアイデアを理解してくれた。(略)

その段階では、アパートの中という非常に限られた空間でストーリーは展開し、まだあの独特の世界は存在しなかった。それがじわじわ発展していった。

(略)

それから脚本が大幅に直され、ハリソン・フォードがその役にぴったりであるように思えてきた。ただ、その配役について確信をもてる者はいなかった。ハリソンはまだスターになっていなかったからね。(略)

デッカードレプリカントか?

答えを明確にしない方がいいと思う。(略)

疑問符のままにしておくほうがおもしろい。(略)

リドリー・スコットははっきりさせたがったが、私はそのことで彼と言い争ったんだ。

 最初のヴァージョン

──『ブレードランナー』にはいくつのヴァージョンがあるのでしたか。

七つだ。

──それぞれの違いをどう考えますか。

最初のヴァージョンのデッカードのヴォイスオーバー(一人称の語り)は、みんなバカげたアイデアだと思ったね。ひどかった。ナレーションがない新しいヴァージョンはすばらしかった。でも今思い起こすと最初のヴァージョンに対してノスタルジックになってしまう。当時は陳腐な手法だと思っても、後から思い出すと感傷的になるものだ。日によって気分が変わるように、いろいろなヴァージョンが好きになることがある。

フィリップ・K・ディック

ブレードランナー』については映画を作りたかった。だから本当はディックに脚本を書いてほしかった。(略)

[だがどこにいるのか誰もわからず諦めていた時、ビバリーヒルズの通りでレイ・ブラッドベリが話しかけてきたので、ディックについて尋ねると電話番号を教えてくれた]

ディックはロサンゼルス近郊のオレンジ郡にある大学で教鞭をとっていた。ディックは私のことを好きじゃなかったと思う。『電気羊』の映画化なんて嫌だったはずだ。彼から『ユービック』という著書をもらったが、私は気に入らなかった。『電気羊』もあまり好きではなかった。ただ、いい映画になると思っただけなんだ。でもそのときは、何も起こらなかった。

 それから数年して、友人であるブライアン・ケリー(『ブレードランナー』のエグゼクティブ・プロデューサー)がプロジェクトを探していたので、ディックに会いにいくように言ってみた。するとブライアンは映画化権が取れたと言ってきた。(略)

[ちょうどフランスの会社とのオプションの期限が切れたところで]

二〇〇〇ドルで取得することができたんだ。ディックはお金が必要だった。

(略)

──ディックは、薬物の影響下にあったと伝えられますが、実際はどうでしたか。(略)

私の目にはパラノイアに見えたが、薬物の影響か、もともとの性格かはわからない。まるで別世界に住んでいるような男だった。話している途中で突然止まって、また話し始めると言う変わった人。ただいろいろなものを超越した、非常に興味深い天才だ。

(略)

彼の作品にはあまり興味がない。(略)彼の作品を気に入ったことはない。読んだのは『ユービック』と『電気羊』だけだが、どちらも気に入らなかった。

(略)

──(略)[原作とは]かなり違う作品に発展したように思いますが。

まったく違う。ただ原作の中には、映画にとって非常に重要なことが、いくつかある。一つは「人造人間を破壊するために、探し回る人間」というアイディアだ。フォークト・カンプフ検査も重要だ。

第二章 マイケル・グリーン

『2049』での自分の仕事は、デッカードが人間であるのかないのか、という問いに対する答えを出さないことであると直感的に理解しました。答えを出すのは、バカげています。

ライアン・ゴズリング

──さきほどライアン・ゴズリングを念頭に置いて書いたと言いましたが、その時点では彼のキャスティングはすでに決まっていたのでしょうか。

まったく決まっていませんでした。さきほど言ったように最初はリドリー・スコットの助けを借りながら書き、それに対してスタジオがOKを出しました。次に重要なことはハリソン・フォードを引き入れることでした。もしハリソン・フォードがノーと言えば私が書いたヴァージョンは却下されてしまいます。ですからハリソン・フォードがそれを読んで受け入れてくれたときは歓喜の瞬間でした。

ニアンダー・ウォーレスの倫理観

 彼は目が見えませんが、自分には視力があると思っています。それにははっきりとした理由があります。事の是非はさておき、人類の未来は自分が見通したいと思っている特定の事柄につながっていると彼は信じているからです。(略)

彼は自分の行動や現実を、彼の言葉で言うと「崇高的な目的」のために正当化してきました。彼は一万年、二万年先を見て人類の未来を救おうとしている、その結果、自分の眼前にいる生物の苦痛を取るに足らないものだと考えてもいいと信じています。

レイチェルの寿命

──レプリカントの間に子どもが生まれるというアイデアはあなたのものですか、ファンチャーのものですか。

それは難しい質問です。すべて二人が生み出したというべきかもしれません。

──レイチェルには寿命がなかった、ということはネクサス7型ですか?

それは誰を信じるかによります。彼女が無期限の寿命であるというヴォイスオーヴァーが入るヴァージョンもあれば、ガフが「残念ながら彼女は長くは生きない」と言うヴァージョンもあります。彼女がネクサス7型であるとか、8型であるとか、あるいはまだ世に出ていないまったく新しいヴァージョンであるとか、信じたければどれを信じてもいいのです。レイチェルが妊娠していなければ生きていたかもしれない、というのは解釈の余地があります。生きていた可能性もありますし、子どもができたために死んでしまったのかもしれません。彼女が元々そのようにプログラムされていた可能性もあります。

第三章 渡辺 信一郎

[リドリー・スコットのヴィジョンと執念]だけではこんな作品にはならないでしょうね。(略)[キャスト・スタッフのせめぎあい、アクシンデントなどの奇跡的偶然で生まれた名作]
──『ブレードランナー』は奇跡の産物であったと。

関係者の話を聞くと、ハンプトン・ファンチャーの存在も大きいみたいですね。(略)

作品の基本的なトーンを決定づけたらしくて。彼の最初にあげてくる脚本は脚本というより散文とか詩のような感じらしいんですよ。そこから直しを経てだんだん脚本っぽくなるそうなんですけど、おそらくこの作品の詩的な部分は、彼に負うところが大きいんじゃないかな。

(略)

監督のドゥニ・ヴィルヌーヴが言ってたんだけど、ファンチャーに脚本に関して相談すると、その返信として詩が送られて来たらしくて。

(略)

ケミストリーが起きた、というとキレイな感じがするけど、実際はもっとカオス状態というか、制作ももめまくってるしキャストやスタッフとも喧嘩状態だったりで、そういう緊張感が奇跡的にいい方に作用しているという(略)

あとリドリー・スコット監督は美術畑の出身なんですごくセットにうるさくて、いくらスタッフがつくり込んでもOKが出なかったらしいです。予算もなくなってきて、困ったスタッフがLA近郊のジャンク屋をまわって鉄屑を買ってきて、かたっぱしからセットにくっつけまくっていったらOKが出たという。だからセットのデザイン画と全然違うカオス状態になっちゃってて、偶然の産物なんだけどそこにまた再現不可能な良さがあるんですよね。

(略)

[デザイン部門のトップ、デニス・ガスナー]はけっこうなベテランで、若かった頃にフランシス・フォード・コッポラ監督の『ワン・フロム・ザ・ハート』のセットをつくったりしていたらしいんです。それで一つ面白い話があってね、最初の『ブレードランナー』のとき(略)撮影の終わった他の映画からネオンとかを借りてきてやりくりしていたらしいんです。その中には『ワン・フロム・ザ・ハート』のセットからもらってきた有名なカウガールのネオンもあった。それで、デニスさんが『2049』 をやることになってリドリーにその話をしたら「あのときのネオンは、お前がつくったのか!」って驚かれたらしい。

第四章 ポール・M・サモン

『2049』は八〇〇〇万ドルから一億三〇〇〇万ドルの赤字です。これまでの映画の中で三〇番目に赤字の映画であると考えられています。

(略)

[『ブレードランナー』を]多くのSFファンは気に入りませんでした。理解できなかったのです。(略)

批評家のコンセンサスが変化しはじめたのは、一九九二年になってからなのです。

(略)

[初期投資を回収するためにテレビやケーブルで放映され若い世代が魅了され]この映画の深さを理解して、批評家たちも再評価しはじめました。

 (略)

 撮影中、ハリソン・フォードとリドリーの馬が合わなかったことは有名な話です。リドリーは、カメラが写している映像をそのまま見ることができるモニターを持ち込んでいました。(略)当時はそれほど一般的ではありませんでした。ハリソン・フォードはそれがいやだったのです。リドリーが現場にいなくてテントの中でモニターを見ているので、ハリソンはフィードバックをリドリーからもらえないのが不満だったのです。

(略)

[ハリソン・フォードとの交流。撮影中]

私がミハイル・ブルガーコフの『巨匠とマルガリータ』というロシアの小説を小脇に抱えて歩いているのを見かけ、話しかけてきました。彼は、「君が撮影所にいるのに気付いていたけど、何をしているんだい」と訊いてきました。私は、「この映画が製作される全部の過程について本を書くためです」と答えました。ハリソンが、「全部だって? いったいどんなことを書くんだい」と訊ねるので、私は「真実を書くんです」と答えました。

(略)

[ハリソンのトレーラーの]中には本棚が作ってあり、ドストエフスキートルストイ、それにブルガーコフの小説があり、まさに彼はロシア文学を読んでいました。それから、私たちはロシア文学について二〇分くらい話し合いました。ハリソンはハリウッドでもっとも知的な俳優の一人で、しっかりとした自分の意見をもっている人物です。

(略)

[レイチェル役のショーン・ヤングについて]

最初かなり混乱していたようです。(略)周囲と摩擦が生じていました。問題の一端は、ハリソン・フォードが熟練の俳優で、彼女は駆け出しの女優だったということです。さらに、単純に言って彼女とハリソンは相性も悪かった。だから二人のロマンスを描かなくてはいけないときは大変でした。

(略)

[2000年代にハリソンにインタビューすると]

彼は、「『ブレードランナー』は、その時点までの自分のキャリアにおいて最も不快な経験の一つだった」と言いました。緊張や軋轢の連続で、ヴォイスオーヴァーも気に入らず、ショーン・ヤングも嫌いで、リドリー・スコットが彼をレプリカントにしたいという考えも嫌でした。おまけにリドリーのことも嫌いだったのです。(略)

[デッカードの役作りについて]

彼が最初に言ったのは、「デッカードは破損品」という答えでした。それはおそらくアルコール依存症や、反社会的で、自滅的な人であるという意味だったと思います。そういうことを彼は考えていたのです。

シド・ミード

 ミードはデザイナーで、自動車マニアです。彼の創作におけるアプローチは機械のユートピアとでもいうべきものでしたが、『ブレードランナー』でのリドリー・スコットの考えはディストピアでした。ですから摩擦がありました。ミードは普段のアプローチをやめて、リドリーに合わせなければなりませんでした。彼の貢献は膨大です。(略)

[空飛ぶ車スピナー、]フォークト・カンプフ検査機のデザインを手伝ったのもミードです。電話のデザイン、様々なコンピューター・スクリーンのデザインを手伝ったのもミードです。彼は時計をデザインするとき、時計自体だけではなくその周囲のものもデザインします。車のデザインも、車だけではなくそれが走るストリートもデザインするのです。

バンド・デシネの影響

リドリースコットはもともと『エイリアン』でメビウスを起用しました。彼が『エイリアン』の宇宙服をデザインしたのです。メビウスが(略)メタル・ユルラン、英語では「ヘヴィ・メタル」のムーブメントの中心にいることをリドリーが知ったのは、一九七七年頃のことでした。

 『エイリアン』の脚本を書いたダン・オバノンが、リドリーにメビウスの『ザ・ロング・トゥモロウ』(一九七六年)を見せたのです。(略)これは、未来の大都会で探偵が活躍する話ですが、一九四〇年代のフィルム・ノワールのパロディでもあります。

  リドリーは『ブレードランナー』を意識的にヘヴィ・メタルのように作ろうとしました。ヘヴィ・メタルのほとんどのストーリーは奇抜でシュールなものですが、と同時に非常に現実的です。現実に根差しているものと、現実離れした想像を融合したもです。とてもドライでおもしろい。メビウスはそういうことに非常に長けています。だからリドリー・スコットメビウスに『ブレードランナー』をまかせようとしたがうまくいかなかった。しかし、彼が基本的にやったことはすべてをヘヴィ・メタルの感受性でフィルターにかけることでした。(略)

リドリー・スコットは「『ブレードランナー』が大人のためのヘヴィ・メタル・コミックであることをみんな理解していない」と何回か言っています。この発言をふまえてこの映画を見ると、コミックのコマの連続のように思えてきます。

『電気羊』と『ブレードランナー

[ディックは図書館で]

ほとんど子どもだけが入れられている収容所の司令官が、「ユダヤ人の子どもが夜中に泣き叫ぶので、睡眠不足になる」と不平を言っている[ゲシュタポの]日記に出くわします。もちろん、子どもたちはのちに殺される運命です。

 それを読んでディックは愕然としました。どうやったら人間にそんなことが書けるのか理解できなかったのです。ディックは、彼らは人間ではないと断じました。彼らには人間として何かが欠けていて、最悪なことに、その欠けている部分が人間を大量殺戮できる官僚システムを考え出したのです。そして、第二次世界大戦後もそのシステムが使われるようになったとディックは語っています。

 「人間ではない人間」──それが『電気羊』の主眼です。人間性を決定するのは何なのか。何が現実と非現実を分けるのか。

(略)

[原作と]映画の底流にある無意識のテーマは、この人間性です。映画と小説の最大の違いは、小説ではアンドロイドは魂もなく、悪意がありますが、映画ではレプリカントは人間よりも魂があることです。

 映画ができたあとに、リドリーはついにディックに会うことになるのですが、大激論が始まりました。ディックはリドリーに「レプリカントには魂がないはずなのに、あなたは魂を与えた」と言いました。リドリーはそれに対して「彼らは飛べないスーパーマンみたいなもので、欠陥がある。だから完璧に人間的だ」と言いました。そこが最大の違いでした。

試写版が一番優れたヴァージョンだ

 私が何年も前から好きなのはいわゆるワーク・プリントと言われるもので、公開される前にデンバーやダラスで試写されたヴァージョンです。それには本当に最後の部分以外にはヴォイスオーヴァーが入っていません。オリジナル版のバカげたハッピーエンディングも入っていません。

 『ブレードランナー』にたくさんのヴァージョンがあるのは金儲けのためだ、と多くの人が言っていますが、それは事実ではありません。リドリー・スコットのスケジュールはずっと多忙を極めていたので、二〇〇六年まで自分の希望通りの『ブレードランナー』を作り上げることができなかったのです。二〇〇七年が公開二五周年でそれに間に合わせるために、すべての要素を洗い出し、失われたものを再構築して自分の思い通りのヴァージョンである「ファイナル・カット」を作り上げたのです。

(略)

ファイナル・カットが私の最も好きなヴァージョンです。それがワーク・プリントにもっとも近いものです。ワーク・プリントにあるものを集めて編集したものです。

 ファイナル・カットについての私の唯一最大の不満は、デジタル化されて、いくつかのシーンが明るくされたことです。あの巨大な地獄のような産業用地の風景の部分はファイナル・カットの方がずいぶん明るくなっています。

クルーとの軋轢

問題は、アメリカ人のクルーがイギリス人であるリドリー・スコットのことをまったく理解できなかったことです。

(略)

異なる背景をもった監督と働くということを理解していませんでした。

 最初リドリーは非常に冷静で、礼儀正しく、気さくでした。(略)

[しかし]ハリウッド・システムでは(略)「こういう理由で、私はこうやりたいんだ」というように、スタッフにいちいち説明しないといけません。リドリーはとうとう堪忍袋の緒が切れて「くそったれ」と怒鳴り始めました。その態度の変化をアメリカ人は理解できませんでした。

(略)

 そういう状況の中、プロデューサーを務めたマイケル・ディーリーはリドリーの熱心な擁護者でした。マイケルは作品の完成に深く関わっていますが、その功績を十分に認められていません。彼がいなければ「ブレードランナー」は存在しなかったでしょう。

デッカードは結局何者か?

撮影現場で耳にしたことを教えましょう。リドリー・スコット自身は何年にもわたって考えを変えてきました。撮影中でさえも考えを変えたかもしれません。最初からリドリーは、これは曖昧さとパラノイアについての映画だと言っています。自分こそが最も憎むべきもので、殺すべき対象であることに気付く──これ以上パラノイアであるものはあるだろうか。それが彼が私に言ったことです。

 ハリソン・フォードは「ちょっと待て、それはあまりにも曖昧すぎる。観客で感情移入できる者は誰もいない。デッカードは人間であるはずだ。私は観客と映画を感情的につなぐ存在であるはずだ」と言っていました。そこでハリソンとリドリーはまた争ったのです。ハリソンはレプリカントになりたくなかった。彼は弱い人間でその弱さを克服する人間になりたかった。

(略)

 私は、デッカードレプリカントかどうかは曖昧なままでいいと思います。『2049』に、すばらしい台詞が出てきます。Kがデッカードにはじめて会うシーンに犬が出てきますが、そのときKは「それは本物の犬か?」と訊ねます。デッカードは「わからない、犬に聞いてみたらどうだ」と返す。まさにそのシーンこそ、このミステリーについて象徴的に語られているところだと思います。

 解説 中条省平

(略)

ファンチャーが原作小説において特に重視したのは、核戦争と核の残留物の影響で、自然の動物がほとんど死滅した世界と言う舞台設定でした。動物のいない世界、すなわち、自然の生命を人工物で置き換える世界ということです。自然の生命を滅ぼし、人間がすべてを人工的に作りなおす世界とは、人間中心主義の極限であり、人間が神になることを意味します。ファンチャーはそのような未来のディストピアを恐れ、人間中心主義を批判しようとしたのです。 

 [関連記事]

否定的なもののもとへの滞留 スラヴォイ・ジジェク - 本と奇妙な煙

「いいね! 」戦争 その3

前回の続き。

「いいね! 」戦争 兵器化するソーシャルメディア

「いいね! 」戦争 兵器化するソーシャルメディア

 

 オンラインでのリアルさ

テイラー・スウィフトの「信憑性」は「事実」と「現実」の二重の意味を持つようになっていた。彼女のインスタグラムに登場する不機嫌そうな白猫は本当に彼女の猫だった。(略)思いついたときに手書きの優しいメッセージを添えてクリスマスプレゼントを贈ったりしているのも事実だった。

(略)

「これからは、ファンとの絆を作るには、ファンに意外性の要素を提供し続けることが必要になると思う。“衝撃”じゃなくて“意外性”よ。お互いの意外な面を発見できる限り、カップルは愛し合っていられると思うの。アーティストとファンの間にもそういう愛情関係が成り立っていいはずでしょ?」

 スウィフトは人生をでっち上げたわけではなく、演じたのだ。最も共感を呼ぶもの(略)に光を当てた投稿をアップして、ファンと同じ目線で彼らに接し、自分の生き方をファンのイメージに合わせた。

(略)

 とはいえ、こうしたインターネット時代の信憑性が必要不可欠だったのは、何と言っても選挙政治においてだった。

(略)

皮肉なのは、選挙に出馬するほとんどの候補者があまり親近感を抱かせる人物とは言えないことだ。彼らはたいてい資産家で、エリート中のエリートであり、有権者の日常的な問題とは無縁だ。そのため、アメリカの政治は長らく誰が最も信頼できそうかをめぐる綱引きとなってきた。十九世紀にはどんなに裕福な候補者でも、先祖はつましい農民だったことを強調するエピソードを新聞に掲載したものだ。

(略)

[だがSNS時代になり]オンラインでのリアルさとは何かに注目が集まるようになった。(略)

トランプはアメリカ政治の鉄則にすべて反していた。「庶民」のふりをせず、金持ちであることを自慢し、思いつく限りの社会のタブーを破り、突飛な発言をし、絶対に謝らなかった。しかし「エキスパート」のアナリストたちがうんざりしたように首を左右に振っていたころ、何百万もの有権者たちは、耳をそばだて注目していた。正真正銘、信憑性を感じさせる政治家がそこにいたのだ。

 トランプの信憑性の要は彼のツイッターだった。明らかに本人が書き込んでいて、予想がつかず、大げさで、本能的な衝動にあふれていた。トランプを誰よりも激しく批判していた人びとでさえ、夜遅くまでベッドの中で思いつくままにツイートする大統領候補にどこか引かれるものを感じていた。(略)

「みんなトランプが自分に語りかけているみたいに感じたんだ」。

「戦争が起きている。あなたの心をめぐって!」 

NATOEUを支えてきたドイツはシリア難民を無制限に受け入れると発表し、波紋を呼んだ。そのためロシアの情報戦士たちはドイツに狙いを定めた。

 それは身の毛のよだつような話だった。十三歳のロシア系ドイツ人の少女がアラブからの移民三人に誘拐され、暴行され、レイプされた。しかも警察は捜査を拒否しているというのだ。(略)

ニュースがドイツの極右メディアを駆けめぐると、はるかに大規模な抗議デモが起きた。しかしじつは、事態を憂慮したドイツ政府が繰り返し説明したように、ニュースはでっち上げで、家出した少女が苦し紛れに口にした出任せだった。だが、政府の説明に誰も耳を貸さなかった。そのうちロシアの外相までが、ロシアの代理人たちが広めた噂をめぐるロシアの報道をもとに参戦した。(略)

「政治的動機のために移民問題が現実を“粉飾” することにつながらなければいいが。そんなことをするのは間違っている」。だが本人は政治的動機のために現実を粉飾していた。肝心なのはそこだった。

(略)

 内紛がくすぶるところでは、必ずロシアのプロパガンダ要員が遠くから手を貸していた。彼らは二〇一四年にはスコットランドの独立の是非を問う住民投票に介入した。二〇一六年にはブレグジット推進をそれまで以上に後押しし、さらにアメリカ大統領選挙の行方を左右することも画策した。

(略)

ボットやトロールソックパペットたちはどこからともなく新たな「事実」を作り出せる。同類性と確証バイアスのおかげで、彼らを信じる人たちが少なくとも何人かはいるはずだ。それだけでも十分恐ろしく、社会を二極化させ、不信感を生み出す。しかし賢明な集団や政府は、自分たちの目標に合うようにこの現象をねじ曲げ、バイラル性と認知を利用して目標達成に近づくことができる。偽情報と呼ぼうが、単なる心理操作と呼ぼうが、同じことだ。悪名高い陰謀論サイトのインフォウォーズのタグラインが言い得て妙だ。「戦争が起きている。あなたの心をめぐって!」

 こうした攻勢は二つの原則に従っている。一つは信憑性だ。人工的な虚偽がうまくいくのは、かすかに真実味を帯びている場合だ。既存の偏見に乗じ、ターゲットの心にすでに存在する「物語」に、少しだけ虚偽を上塗りする。

(略)

情報作戦の第二の原則は、拡張だ。虚偽のなかで最も破壊的なものは、長期間にわたって大勢の人間に広まる。そういう虚偽は根強く残ることで広がる。否定する行為自体が、その話題に新たな命を吹き込んで、集団意識にさらに深く入り込むのに役立つようにできている。そんなふうに作られた話はかかりのついた矢のようなもので、相手が抜こうともがくほど毒が広がり、腐敗が進む。猥褻な告発ほどいい。政治にまつわる有名な伝説で、のちにアメリカ大統領になったリンドン・ベインズ・ジョンソンが議会選で後れを取ったとき、対立候補が「豚とやった」という噂を流すよう選挙運動本部長に指示したとされている。本部長は証拠がないと反論した。「わかっている」とジョンソンは答えた。「だが、やつに否定させよう」
 インターネットは、攻撃し、苦痛を長引かせるのをさらに容易にする。ソーシャルメディアアルゴリズムは、自分たちのネットワーク上ではやっているコンテンツが人びとの怒りを買っていても(買っていればとくに)、そのコンテンツに注目させる仕組みだ。その結果、油の火災のように、何かに対する非難が広がり、それを見た新たなユーザーのグループがまた非難する。バイラル性は複雑さと両立しないため、文脈や詳細はあっという間にはぎ取られる。残るは論争そのものだけとなり、それがいかにでたらめや、ばかばかしいものに思えようと、論争に「参加する」べきだと感じる人びとが図らずも広めることになる。

(略)

[悪名高いピザゲートのジャック・ポソビエックが反トランプ派の抗議デモで「メラニアをレイプしろ」という看板を掲げた]

オルタナ右翼のプロキシとロシアのRTのプロモーションのおかげで、画像はたちまちバイラル化した。

(略)

[炎上後]何もかもでたらめだと一部のユーザーは気づいた。(略)

[色々な]グループがポソビエックが仕組んだことだったと主張した。これが新たな非難と議論の応酬を呼んだ。ポソビエックが仲間と陰謀の相談をしているというやりとり(“メラニアをファックしろ”では“弱すぎる”と結論)が掲載されたが、ポソビエック本人はそれを否定した。

(略)

 だが、その騒ぎのなかで失われた話があった。そもそも抗議のために集まった数百人の動機だ。たった一度、議論がそれたせいで、[反トランプという]彼らの目的とメッセージは消えたも同然になったのだ。

 言論の自由

[自由放任主義ツイッターではアカウントを閉鎖されても]

あるネオナチが著者たちに対してばかにしたように指摘したとおり、新たなアカウントをほんの数秒で開設できた。その結果、言論の自由は、ある元従業員によれば「くそったれどものハニーポット」と化した。

(略)

YouTubeは「違法、猥褻、もしくは脅迫的な」動画を禁止した。しかし(略)

YouTubeは拷問に反対するエジプト人活動家の動画も削除した。拷問反対の動画なので、当然ながら、拷問の様子も記録されていたからだ。

(略)

フェイスブック社は当初からMyspaceを競合と見ていたので、Myspaceのようなスキャンダルはなるべく避けたがった。フェイスブックの社内用ガイドブックはまもなく中規模国の憲法並みになった。

(略)

ユーザーがアメリカ大統領を銃撃してくれと誰かに依頼すれば、それは明らかに扇動であり、削除することができた。一方、「髪の赤い人間を蹴る」よう促している場合は、より一般的な脅しなので許容範囲だった。

(略)

「ぐちぐち言うのをやめないと、その舌を切り取るぞ」というメッセージは、確定ではなく条件付きの脅しなのでセーフという具合だ。

 一見明確な規約──「裸と性行為」の全面禁止など──でさえ、一触即発の火種になった。最初は歴史家と芸術評論家が抗議の声を上げ、絵画や彫刻の写真では裸を許容する一方、古典主義者がポルノだと見なすデジタルアートの場合は、裸を許容しないよう同社に圧力をかけた。次に抗議したのは産後まもない女性たちだった。彼女たちは授乳している画像が「猥褻」だとして削除されたことに憤っていた。#freethenipple(乳首の解放)という独自のハッシュタグ(当然ながら、ポルノ配信者たちに乗っ取られた)を作り、母親たちによるロビー活動を開始した。これらの乳首戦争を受けて、社内では何年も白熱した審議が続いた。結局、幹部たちは授乳の描写を許可する新しい方針を決めた。ただし、画像の主要な焦点でないことが条件だった。

 何十億ドルもの利益をあげ、世界中でニュースに影響をおよぼした世界最大のデジタルプラットフォームを構築したエンジニアたちは、まさか社内の取締役室で、どの程度まで乳首を見せるべきかをめぐって何百時間も議論するはめになろうとは夢にも思わず、期待もしていなかった。

(略)

恐ろしい皮肉だが、言論の自由を破壊するテロリストたちにとって、ツイッターが当初言論の自由を約束していたのは好都合だった。テロリストが越えられない一線は唯一、個人攻撃だった。「不信心者(非イスラム教徒)」は暴力的な死に値するという一般的なツイートをするのは許されるが、特定の非イスラム教徒に対して首を切り落とすぞと脅すことはできなかった。テロリストがプラットフォームを利用できることに憤る声も多かったが、ツイッターはそうした声を一蹴した。NATOが味方にアフガニスタンの話をしてかまわないなら、タリバンだって同じことをしていいはずだ、という理屈だった。かくして、野心に燃えるテロ組織にとって、ツイッターは信奉者とつながる場であるばかりか、新兵と欧米のジャーナリストの両方に自分たちの存在を知らしめる格好の場となったのである。

(略)

ISISのプロパガンダが自社のプラットフォームを十数カ国語で駆けめぐるなか、ツイッター幹部陣は不意打ちをくらって立ち尽くすだけだった。同社のコンテンツ監視チームは、サービスが全面的に兵器化される状況への備えができていなかった。関心がなかっただけでなく、リソースも不足していたのだ。ネットワーク監視に時間を割けば、その分ネットワークを拡大し、投資家に価値を示すための時間が減った。ツイッターの目的はプロパガンダと戦うことなのか、それとも収益性を向上させることなのか。

(略)

 ツイッターは策を講じようとしたが、ISISはしつこかった。アクセスを遮断されると自分たちのネットワークを自動的に復活するスクリプトを開発した。ツイッターのブロックリスト──本来は悪名高いトロールをひとまとめにして阻止することで嫌がらせと戦うために開発された──を悪用し、自分たちを追跡するユーザーから自分たちのオンラインでの活動を隠そうとした(略)。一部のアカウントは閉鎖されても、多くの場合、アカウント名にある番号だけを変えて復活 (@TurMedia335など)し、それを文字どおり何百回も繰り返した。

(略)
ISISのアカウント一掃は大いに喧伝されたが(略)

二〇一五年には、超国家主義者、白人至上主義者、偏狭な反移民派および反イスラム派が一つにまとまってオルタナ右翼運動を形成し始めた。つけ上がった彼らはしだいに増長し、憎悪をむき出しにするようになった。

 ただし、そのやりかたは狡猾だった。自分たちの感情をミームや控えめな言及で覆い隠し、一線を越えるぎりぎりのところで踏みとどまった。たとえば、オルタナ右翼のリーダーであるリチャード・スペンサーは、すべてのユダヤ人や黒人の殺害を擁護するために、自分の人気のある(かつ実証済みの)ツイッターのプロフィールは使わなかった。代わりに、アメリカが白人だけの国になれば、どれだけましかを並べ立てた。オルタナ右翼は、人びとを反ユダヤの嫌がらせの標的にする新しい方法を思いつき、もてあそんだ。たとえば、ユダヤ人とわかっているか、それらしい姓を三重括弧でくくった。「スミス」なら「(((スミス)))」という具合だ。そうした戦術のおかげで、ゲーマーゲートのような激しい個人攻撃が容易になった。何か言われたら、「トローリングしているだけ」だと主張した。ユーザー・アカウントが閉鎖されそうになったら、途端に被害者のふりをして「言論の自由」を実践しているせいで標的にされていると主張した。

(略)

 しばらくの間、グーグルとフェイスブックツイッターはほとんどお手上げ状態で見て見ぬふりをしていた。人種差別と偏狭さは不快だが、不快なものを検閲するのは自分たちの仕事ではないと、三社はあっさり認めた。

(略)

二〇一六年半ば、ツイッターが攻撃の口火を切って、ブライトバートの編集者で挑発的な極右のマイロ・ヤノプルスをツイッターから追い出した。

(略)

[トランプ選出後ヘイトクライムが相次ぎ]

ソーシャルメディア巨人は「ヘイトスピーチ」の定義を拡大し、特に悪質な違反者を追放するようになった。ツイッターは白人至上主義のアカウントのうち、とりわけバイラル性の強いものを禁止

(略)

シリコンバレーはもう一つの、さらに根本的な難題を自覚し始めていた。(略)

バイラル性は確かに決定的な形で現実を左右していた。

(略)

こうした状況を痛感させたのは、ドナルド・トランプが大統領に選出されたことだった。最も衝撃を受けたのはフェイスブックで、ほとんどが若く進歩的な考えの持ち主である従業員たちは、自分たちのやってきたことがトランプを権力の座に就かせたのではないかとおののいた。実際、そのとおりだという強力な証拠があった。ツイッターがトランプの貴重なマイクの役割を果たしたとはいえ(略)

明らかにでっち上げだとわかる話を何億回も「シェア」する人びとのネットワークにはまったのは、フェイスブックを通してだった。

(略)

ザッカーバーグはまず否認したい衝動に駆られた。フェイスブックのプラットフォームに出回った偽情報が、誰かの投票に影響したというのは「じつにばかげた考え」だと、彼は選挙の数日後に語った。当初の否認に対して、世間には怒りが広がり、オバマ大統領から個人的な叱貴まで受けてザッカーバーグは態度を変え、次々と通達を出してフェイスブック上のでっち上げや偽情報への対策強化を約束した。同時に、これは比較的小さい問題だとユーザーを安心させようとした。一方、業を煮やした社員たちは内々に話し合い、クラウドソースによる独自の解決策を模索した。その後、社内の一部は選挙期間中にフェイスブックのプラットフォームで偽情報が野放しになっている状況を懸念していたが、同社の「客観性」を侵害する可能性や、保守的なユーザーと議員を疎外する可能性をおそれて、何も変えられなかったことが明らかになった。

 二〇一七年半ばには、フェイスブックの態度は大きく変わっていた。同社のセキュリティチームは「情報作戦とフェイスブック」と題して、初の虚偽ニュース対策白書を発表し、自社のプラットフォームが「わかりにくく狡猾な形で悪用」されるにいたった経緯を説明した。もう一つの、やはり初めての報告書では、敵を公然と名指しした。敵とはロシア政府だ。しかし批判派は、フェイスブックは九ヶ月もの非常に重要な時期を無為に過ごしたではないかと指摘した。

(略)

 ソーシャルメディアの巨人は、政治問題──テロリズムや過激主義や偽情報と戦う事──に本腰を入れて対策を講じるために、政治と戦争の「グレーゾーン」から生じるスキャンダルに巻き込まれて、ますます身動きが取れなくなった。良かれと思っての通報システムがトロールに悪用されたりもした。あるいは、不適切なコンテンツを監視するモデレーターが、自分が行ったことのない国から投稿されるコンテンツが適切かどうかを、彼らにはとうてい理解できない政治的背景のなかで判断することを期待されて、手がかりのないまま、高い代償を伴うミスを犯す可能性もあった。

(略)
[フェイスブックは]「国際的に承認された国家の占領に抵抗するための暴力」への肯定的な言及をすべて禁じていた。(略)

この規定によって、パレスチナカシミール西サハラのユーザーのコンテンツが大量に削除されるはめになった。

(略)

ミャンマーでは、少数民族ロヒンギャが、フェイスブックを使って自分たちを標的にした政府主導の民族浄化作戦を記録しようとしたものの、投稿の一部は削除された。彼らを苦しめている軍の暴虐をくわしく報告したというのが理由だった。

 しかしながら、こうした厄介で容赦ない政治問題化の過程で、シリコンバレーの誰もが一貫して守り抜いたルールがあった。最終損益を優先するということだ。(略)

[二〇一五年]ロシアの大規模なボットネットの証拠を発見していたが、無視するよう言われた。結局、ボットが増えるほどアカウントも増え、ツイッターが拡大し、ユーザー数も増えているように見える効果があったからだ。「会社は偽アカウントや攻略されたアカウントよりも、成長を示す数字のほうを気にしていたんだ」と、そのエンジニアは説明した。

 フェイスブックの社員たちから、当時大統領候補だったトランプがすべてのイスラム教徒のアメリカ入国を禁じると公約していることについて詰め寄られた際、ザッカーバーグはそれがヘイトスピーチであり、同社のポリシーに違反していることを認めた。それでも自分にはどうすることもできないと彼は釈明した。その投稿を削除すれば、保守的なユーザーを失いかねず、そうなればビジネスにも支障が出るからだった。