お父さんは サイエンスファシリテーター

お父さんは サイエンスファシリテーター

目標は、名著『ビジネスマンの父より30通の手紙』のような【書】を子ども達に残すこと!でスタートしたけれど、自分のエゴにおこがましさを感じはじめた今日この頃(笑) 小さな歩みをコツコツ積み重ね、20年後の自分が振り返った時に、幸福感と高揚感に包まれるブログにしたいです。 ★★★科学館での親子イベントや読書会型ワークショップによる共創学習をお手伝いしています。 ご依頼はメッセージにてお気軽にお問い合わせください。宜しくお願い致します。★★★

レビュー『あなたを支配し、社会を破壊する、AI・ビッグデータの罠』 キャシー・オニール・著 インターシフト・出版 ~レゾナンスリーディングvol.44

 
 
 

【知っていますか?

AI・ビッグデータの暗黒面(ダークサイド)】

 
 
 
『あなたを支配し、社会を破壊する、
 AI・ビッグデータの罠 』

 
 
 著者:キャシー・オニール
 訳者:久保 尚子
 出版社:インターシフト
 発売日:2018/6/18
 
http://www.amazon.co.jp/exec/obidos/ASIN/4772695605
 
 
 
f:id:hd_murakami:20180716174737j:plain
 
 
こんにちは。
親と子と科学をむすび、未来を創る「サイエンスファシリテーターの村上英範です。
https://peatix.com/group/48586/
 
「大人も子どもも共に学ぼう、学びの宇宙空間づくり」を使命とし、ライフワークで共創型ワークショップを主催しています!
(コラボ開催・出張開催のご依頼お待ちしております。)
 
 
 
 
さて、今回レビューする
『あなたを支配し、社会を破壊する、
 AI・ビッグデータの罠 』は
テクノロジーの暗黒面(ダークサイド)を暴いた1冊です。
 
 

「AIが人間の仕事を奪う」という予測は
言うならば「AIが優れいていること(良い面)」の裏返しです。
 
 
一方、本書で語られているのは
進行している事実で、ガチの「暗黒面(ダークサイド)」です。
AIやビッグデータの仕組みや活用法そのものの中に
人生や社会を狂わせ、破壊する「罠」が潜んでいるとあります。
 
 
著者はその「罠」を
「数学的破壊兵器(Weapons of Math Destruction :WMD )」
と称し、実例を枚挙し、警鐘を鳴らします。

(「大量破壊兵器」をもじった造語です。)
 
 
データ経済を動かしているテクノロジーの裏側には
数学の力で動くアプリケーションがあります。
 

このアプリケーションは、感情や忖度がないマシンで
一見、中立・公正であるかのように振る舞っていますが
事実はその逆であることが多いとのことです。



なぜならば、それらは「人間の選択」の上に築き上げられている
ものだからです。
「作り手」の価値観やニーズ、収益、先入観、誤解、偏見が
アルゴリズムの欠陥として常に潜んでいるのです。
 
 
そして、アルゴリズム
ブラックボックスな状態にあります。
 
 
これが「数学的破壊兵器」の正体で、
貧しい者や社会で虐げられている者を罰し、
豊かな者をより豊かにする「有害な数理モデル」です。
 
 
 
2015年に読んだ『勝手に選別される社会』には

Amazon CAPTCHA
 
私たちは日常生活のすべてが点数化され
「評判(レピュテーション)」で「選別」されていくだろうとありました。
(当時これを読みSNSの使い方を見直しました。)
 

3年経ち「選別社会」が進んでいる状況を明らかにしたのが
本書『AI・ビックデータの罠』であるという印象です。
 
 
 

◆罠とは何か?何が起こるのか?

 
 
 

ある日、玄関の呼び鈴が鳴り、ドアを開けると警官が立っている。
 
「警察はあなたを監視しているので、気をつけるように」
 
そう告げられるが、これまで犯罪をおかしたことなどない。
だが、ビッグデータを活用した「犯罪予測システム」によって、
要注意人物として指定されたという。
ソーシャルネットワーク解析によって、
知り合いに犯罪者のいたことが、その理由の一端らしい。



近未来のことに感じるかもしれませんが
すでに起こっている事だと著者は述べます。
 
 
AIやビッグデータはすでにこの世界に入り込み
私たちは便利さを享受しています。
 
 
便利さの源にあるアルゴリズムは、
提供者の効率や収益を優先します。
数値化しにくいリアルな世界の
複雑さや公平性を欠いたまま
私たちの能力や適性・信用、善悪・身体までをも
静かに、数値化・スコア化し、蓄積しているのです。


 
しかし、「有害な数理モデルとしての側面を
私たちはどこまで認識できているのでしょうか?
 
 
そのため先の事例のように、予期せぬところで
自身の信用格付けが下がる危険性があります。
 
 
一度アルゴリズムが評価を落としてしまうと
自分自身の他の分野にまで影響が及んでいき
やがて悪魔のフィードバックループに沈んでいきます。
 
 
このように現実の世界で進行している「罠」について
教育、宣伝、正義、就職、仕事、信用、身体、政治
観点から、実例豊富に描かれているのが本書の特徴です。
 
 
あなたなら、この「数学的破壊兵器」に
どのように対処していきますか?
 
 
 

◆私が気になった最近のビジネス書との接点

 
 
 
本書には、最近のビジネス書でも
よく目にする言葉がいくつか出てきます。
例えば「種族(トライブ)」「スコアリング」です。
 
 
種族(トライブ)マーケティングブランディング
(熱狂的なファンづくり) 

◆参考

startup-papa.hatenablog.com

 
スコアリング:マネジメント、組織開発
 (ゲーム理論でモチベーションアップ)

◆参考

startup-papa.hatenablog.com
 
 
 
先に述べたように
AIやビックデータ、そして、それを活用する側は
私たちを ある「種族(トライブ)」として分類し
「スコアリング」で評価をしています。
 
 
テクノロジー≒ビジネスであるから必然なのでしょうが
私自身もビジネスを通して選別(支配)することを
常日頃から意識づけされているのかもしれません。
 
 
潜んでいるメッセージを見逃さないよう
意識しておきたいです。
 
 
 

◆では、どうすれば解決できるのか?

 
 
 
正直これが私には見つかりませんでした。
 
 
いえ、著者からの提案はしっかりとあるのです。
それに対して、理解も示します。
 
 
しかし、一個人の具体的な行動として
落し込めていないのが本音になります。


 
 
「AIが人間の仕事を奪う」問題に対しては
あえて単純明快に言うならば
「AIに奪われない仕事を創る」など一次回答はあります。
 
 
一方、「選別され、監視され、支配される」問題に対しては
著者の回答を踏まえつつもモヤモヤしています。
 
(どこか『ターミネーター』鑑賞後のような感じです。)
 
 
 
しかしながら、こうも考えています。
このモヤモヤ感は決して悪い状態ではなく
むしろ未来を考えていくための生産的カオスであると。

 
 
今、答えがないことに問題があるのではありません。
「未来を創造していくのは人間」だという証に
結び付いていく
のだと推察します。

人間による意思決定には、欠陥も多いが、
1つ大きな長所がある。
それは、進化しうる、という点だ。
人類は学習し、適応する。
私たちは変化し、前に進んでいく。
他方で、自動化されたシステムは、
エンジニアが変更を加えるまで、
立ち留まったままになる。 

 

ビッグデータは過去を成文化する。
ビッグデータは未来から生まれない。
未来を創るには、モラルのある想像力が必要であり、
そのような力をもつのは人間だけだ。
私たちはアルゴリズムに、
より良い価値観を明確に組み込み、
私たちの倫理的な導きに従う
ビッグデータモデルを作り上げなければならない。
それは、場合によっては利益よりも
公平性を優先させる、ということでもある。


このように本書は、
テクノロジーによって変遷する社会を見晴らす
重要な一冊になるのではないでしょうか。
 
実際に手に取り、羅針盤にしてください。
 



f:id:hd_murakami:20180716174822j:plain 
 
 

◆関連:合わせて深めたい本/投稿

 
startup-papa.hatenablog.com

startup-papa.hatenablog.com

startup-papa.hatenablog.com
 
 
 
 
○●○●○●○

○●○●○●○
 
 

 

◆◆ 村上英範のライフワーク ◆◆

 
サイエンスファシリテーター

「親と子と科学をむすび、未来を創る」

「大人も子どもも共に学ぼう、宇宙は共通言語!」

 
startup-papa.hatenablog.com
 
サイエンス ブック クラブ
peatix.com
 
 
レゾナンスファシリテーター
 

「1冊20分・人生が飛躍する読書術とアクションプラン」

「変化の時代のコンテンツづくり」

 
resonance-murakami.peatix.com
 
 
ライフチャレンジ・エンジニア
ビジネスモデルイノベーション協会認定ジュニアコンサルタント
 
描こう あなたのビジネスモデルキャンバス
peatix.com
事業開発/キャリア構築/組織づくりワークショップ
 
 
その正体は、サラリーマンでエンジニア。4人のパパです。
 

○●○●○●●○

 
 
 
最後までお読みくださり、ありがとうございました (^_^)
 
 
 
○●○●○●○

○●○●○●○
 
 
f:id:hd_murakami:20180704175309j:plain