今年19冊目読了。ハーバード・ケネディ・スクールで教鞭をとるセキュリティ技術者の筆者が、「強者はいかにルールを歪めるのか、それを正すにはどうしたらいいのか」を考察する一冊。
ハッキングというとコンピューターの世界だけに感じるが、実は社会システムに対してもそうだ、と筆者が切り込むところが非常に興味深い。
世の中が『強者総取り』に近づく仕組みを「金持ちの多くはルールが自分たちにも当てはまるということを受け入れない。あるいは、少なくとも自分たちの利益のほうが優先されると、当たり前に思っている。その結果、金持ちはいつの世にもシステムをハッキングする」「市場経済にハッキングを呼び込むのは財力であり、それで利益を得るのは富裕層」「ハッキングは寄生的であり、ほとんどが権力のある富裕層によって実行され、それ以外の全員を犠牲にして成り立っている」「結果が軽微なものであり、アルゴリズムが発覚しないうちは、ハッキングが起こっていることに誰も気づかないかもしれない」「力を持たない者のハッキングは違法と判定され、ハックは不正になる」と、ハッキングをベースに捉えるというのは実に斬新ながら、確かにそう感じる。
ハッキングについての「社会システムは信頼の上に成り立っており、ハッキングはその信頼を失う」「システムは階層が上がるほど一般性が上がり、上のシステムが下のシステムを支配する。そしてハックはどのレベルでもターゲットにできる」「ハッキングは、世の中をよくする力になりうる。大切なのは、良いハックを後押ししつつ、同時に悪いハックに歯止めをかける方法を理解することであり、両者の違いを知ることだ」「ハッキングは、システムの規則や規範を打ち破って、システムの意図をくじく。いわば『システムの逆手を取る』。ハッキングは、不正行為とイノベーションの真ん中に位置している」「ハックは、脆弱性とその脆弱性を利用するしくみで成り立っている」「ハッキングは狙ったシステムに対して強すぎてはいけない。ハッキングが成立するにはシステムが存続しなければならないからだ」というフレーミングは確かにそうだと思う。
また、テクノロジーの脅威について「テクノロジーは、その変動の幅を変える。短期的な上下の変動は激しくなっており、長期的な軌跡には影響しないだろうが、その短い期間を生きる人すべてにとっての影響は甚大」「コンピューターとAIの技術が組み合わさると、速度、規模、範囲、複雑度という4つの次元でハッキングは加速する」と鋭く指摘するあたりも共感できる。
AIについての「人間の言語と思考においては、目標や願望が常に言葉たらずで終わっている」「AIが人間に思いも寄らなかった解決策を見つけるのは、人間が共有し当然だと思っている文脈や規範、価値観という観点では考えないから」という言及はなるほどとうならされるし、AIによるハッキングから社会を守るために、筆者はガバナンスシステムとして「①迅速さと正確さが必要②できる限り多くの視点を持つ③プロセスと裁定は公式に透明である④構造、機能、意思決定力、アプローチを短時間で進化させるメカニズムが必要」と主張するあたりも納得。
人間の特性から「虚偽情報は、注意力、説得、信頼、権威、同族意識、あるいは恐怖などの裏をかくハック」「信頼に向けられる私たちの認知システムは、個人を信頼することに基盤を置いている」「人はデータよりも物語に基づいてリスクに反応する」と読み解くあたりも面白いし、「フェイスブックとYouTubeが両極端を目指しているのは（1）ユーザーの関心に基づいてアルゴリズムが最適化した結果、両極端なコンテンツが表示されるようになった（2）そこから生じかねない問題を、経営陣が度外視すると決めた、が理由」は空恐ろしい…
では、世の中はどうすればよいのか。セキュリティ技術者故の「ハッキングの対策は『原因になっている脆弱性をなくすこと』『ハックの効果を下げること』『事後にハッキングを検出して、そこから復旧すること』『悪用されないうちに脆弱性を発見すること』」「私たちが構築しなければならないのは、ハックに速やかに効果的に対応できる回復性を備えたガバナンス」という言説は非常に納得できる。なかなか読みにくいが、面白かった。
余談ながら、アラフィフとしては「ソウルオリンピックで、アメリカのデビッド・バーコフと日本の鈴木大地は背泳ぎをハッキングした。プール長辺の過半まで潜水で進むという泳ぎで驚くべき記録を打ち立てたのである」のくだりは確かにそうだなぁと感じた。なるほど…
