本 AI・ビッグデータの罠 キャッシーオニール 著 インターシフト

 いまは結構一般に知られるようになった　罠　について　早いうちから気づいた著者。　その気づきの過程が詳細が書かれている。

　P71　リーマンショック後２００９年

　　　この出来事を目のあたりにしたことで、私は一気に目が覚めた。とりわけ、数学がその一端を担っていたことに失望し、幻滅した。醜悪な真実ーーー公式化されたもでるが事実の解明のためではなく印象操作のために意図的に利用された事実ーーーを否応なく突き付けられたのだ。このような有害な概念に直に接したのはこれが最初だったため、私は逃げ出したい衝動にかられた。

　ｐ７４　

　　リスクについて頑なに知ろうとしない姿勢は、金融業界に深くねづいている。

　ｐ７５

　　私の新しい仕事は、旅行ウェブサイト閲覧者の行動を予測するモデルの構築から始まった。　「エクスペディア」サイトの訪問者が、ただ閲覧しているだけなのか、お金を落とす見込みのある客なのかを予測するのだ。旅行の予定のない閲覧者が収益につながる可能性は極めて低い。そこでそのような閲覧者には「トラベロシティ」や「オービッツ」などの競合サービスとの比較広告を表示する。閲覧者がその広告をクリックすれば小銭が入る。何もないよりマシである。しかし、予約するつもりで真剣に探している閲覧者にそのような広告は見せたくない。最悪の場合、わずかな広告収入と引き換えに」、ロンドンや東京のホテルを予約して数千ドルを支払ってくれるはずだった見込み客をライバル社に送り込んでしまう可能性もある。その1回で失われた数百ドルの手数料を取り戻すには　数千回の広告閲覧が必要になる。だからこそ、見込み客をサイト内にとどめることが重要なのだ。

　ｐ７７

　　富はもはや、生活の糧を得るための手段ではなかった。その人物の価値に直結していたのである。。傍らからみれば社会の仕組みの悪戯とまぐれでしかない幸運の組み合わせでそこにいるだけなのに。

さらに、どちらの業界も、乱雑な現実世界とは切り離されていた。人間の存在をデータの痕跡に置き換え捉えようとするとそうなりがちである。　目的にあわせて対象を最適化するために、人々を「予約する確率の高い見込み客」、「投票者」、「労働者」として捉える。成功したかどうかは匿名のスコアとして返されるし、対象とされた人々は画面上を流れる数字と同程度まで抽象化されて、ビットデータとして扱われるのだから、実行するのは簡単だし、正当化するのも簡単である。　　。。。。テクニカルなモデルと現実世界の人々が切り離されていることについても、そのような分離から生じるモラル上の影響についてもしだいに懸念を深めていった。。。。。　この問題について本格的に調査するために仕事を辞めた。