【知っていますか?
AI・ビッグデータの暗黒面(ダークサイド)】
『あなたを支配し、社会を破壊する、
AI・ビッグデータの罠 』
著者:キャシー・オニール
訳者:久保 尚子
出版社:インターシフト
発売日:2018/6/18
http://www.amazon.co.jp/exec/obidos/ASIN/4772695605
こんにちは。
親と子と科学をむすび、未来を創る「サイエンスファシリテーター」の村上英範です。
https://peatix.com/group/48586/
「大人も子どもも共に学ぼう、学びの宇宙空間づくり」を使命とし、ライフワークで共創型ワークショップを主催しています!
(コラボ開催・出張開催のご依頼お待ちしております。)
さて、今回レビューする
『あなたを支配し、社会を破壊する、
AI・ビッグデータの罠 』は
テクノロジーの暗黒面(ダークサイド)を暴いた1冊です。
「AIが人間の仕事を奪う」という予測は
言うならば「AIが優れいていること(良い面)」の裏返しです。
一方、本書で語られているのは
進行している事実で、ガチの「暗黒面(ダークサイド)」です。
AIやビッグデータの仕組みや活用法そのものの中に
人生や社会を狂わせ、破壊する「罠」が潜んでいるとあります。
著者はその「罠」を
「数学的破壊兵器(Weapons of Math Destruction :WMD )」
と称し、実例を枚挙し、警鐘を鳴らします。
(「大量破壊兵器」をもじった造語です。)
データ経済を動かしているテクノロジーの裏側には
数学の力で動くアプリケーションがあります。
このアプリケーションは、感情や忖度がないマシンで
一見、中立・公正であるかのように振る舞っていますが
事実はその逆であることが多いとのことです。
なぜならば、それらは「人間の選択」の上に築き上げられている
ものだからです。
「作り手」の価値観やニーズ、収益、先入観、誤解、偏見が
アルゴリズムの欠陥として常に潜んでいるのです。
そして、アルゴリズムは
ブラックボックスな状態にあります。
これが「数学的破壊兵器」の正体で、
貧しい者や社会で虐げられている者を罰し、
豊かな者をより豊かにする「有害な数理モデル」です。
2015年に読んだ『勝手に選別される社会』には
Amazon CAPTCHA
私たちは日常生活のすべてが点数化され
「評判(レピュテーション)」で「選別」されていくだろうとありました。
(当時これを読みSNSの使い方を見直しました。)
3年経ち「選別社会」が進んでいる状況を明らかにしたのが
本書『AI・ビックデータの罠』であるという印象です。
◆罠とは何か?何が起こるのか?
ある日、玄関の呼び鈴が鳴り、ドアを開けると警官が立っている。
「警察はあなたを監視しているので、気をつけるように」
そう告げられるが、これまで犯罪をおかしたことなどない。
だが、ビッグデータを活用した「犯罪予測システム」によって、
要注意人物として指定されたという。
ソーシャルネットワーク解析によって、
知り合いに犯罪者のいたことが、その理由の一端らしい。
近未来のことに感じるかもしれませんが
すでに起こっている事だと著者は述べます。
AIやビッグデータはすでにこの世界に入り込み
私たちは便利さを享受しています。
便利さの源にあるアルゴリズムは、
提供者の効率や収益を優先します。
数値化しにくいリアルな世界の
複雑さや公平性を欠いたまま
私たちの能力や適性・信用、善悪・身体までをも
静かに、数値化・スコア化し、蓄積しているのです。
しかし、「有害な数理モデル」としての側面を
私たちはどこまで認識できているのでしょうか?
そのため先の事例のように、予期せぬところで
自身の信用格付けが下がる危険性があります。
一度アルゴリズムが評価を落としてしまうと
自分自身の他の分野にまで影響が及んでいき
やがて悪魔のフィードバックループに沈んでいきます。
このように現実の世界で進行している「罠」について
教育、宣伝、正義、就職、仕事、信用、身体、政治の
観点から、実例豊富に描かれているのが本書の特徴です。
あなたなら、この「数学的破壊兵器」に
どのように対処していきますか?
◆私が気になった最近のビジネス書との接点
本書には、最近のビジネス書でも
よく目にする言葉がいくつか出てきます。
例えば「種族(トライブ)」「スコアリング」です。
・種族(トライブ):マーケティング、ブランディング
(熱狂的なファンづくり)
◆参考
startup-papa.hatenablog.com
先に述べたように
AIやビックデータ、そして、それを活用する側は
私たちを ある「種族(トライブ)」として分類し
「スコアリング」で評価をしています。
テクノロジー≒ビジネスであるから必然なのでしょうが
私自身もビジネスを通して選別(支配)することを
常日頃から意識づけされているのかもしれません。
潜んでいるメッセージを見逃さないよう
意識しておきたいです。
◆では、どうすれば解決できるのか?
正直これが私には見つかりませんでした。
いえ、著者からの提案はしっかりとあるのです。
それに対して、理解も示します。
しかし、一個人の具体的な行動として
落し込めていないのが本音になります。
「AIが人間の仕事を奪う」問題に対しては
あえて単純明快に言うならば
「AIに奪われない仕事を創る」など一次回答はあります。
一方、「選別され、監視され、支配される」問題に対しては
著者の回答を踏まえつつもモヤモヤしています。
(どこか『ターミネーター』鑑賞後のような感じです。)
しかしながら、こうも考えています。
このモヤモヤ感は決して悪い状態ではなく
むしろ未来を考えていくための生産的カオスであると。
今、答えがないことに問題があるのではありません。
「未来を創造していくのは人間」だという証に
結び付いていくのだと推察します。
人間による意思決定には、欠陥も多いが、
1つ大きな長所がある。
それは、進化しうる、という点だ。
人類は学習し、適応する。
私たちは変化し、前に進んでいく。
他方で、自動化されたシステムは、
エンジニアが変更を加えるまで、
立ち留まったままになる。
ビッグデータは過去を成文化する。
ビッグデータは未来から生まれない。
未来を創るには、モラルのある想像力が必要であり、
そのような力をもつのは人間だけだ。
私たちはアルゴリズムに、
より良い価値観を明確に組み込み、
私たちの倫理的な導きに従う
ビッグデータモデルを作り上げなければならない。
それは、場合によっては利益よりも
公平性を優先させる、ということでもある。
このように本書は、
テクノロジーによって変遷する社会を見晴らす
重要な一冊になるのではないでしょうか。
実際に手に取り、羅針盤にしてください。
◆◆ 村上英範のライフワーク ◆◆
サイエンスファシリテーター
「親と子と科学をむすび、未来を創る」
「大人も子どもも共に学ぼう、宇宙は共通言語!」
startup-papa.hatenablog.com
サイエンス ブック クラブ
peatix.com
レゾナンスファシリテーター
「1冊20分・人生が飛躍する読書術とアクションプラン」
「変化の時代のコンテンツづくり」
resonance-murakami.peatix.com
ライフチャレンジ・エンジニア
ビジネスモデルイノベーション協会認定ジュニアコンサルタント
描こう あなたのビジネスモデルキャンバス
peatix.com
事業開発/キャリア構築/組織づくりワークショップ
その正体は、サラリーマンでエンジニア。4人のパパです。
○●○●○●●○
最後までお読みくださり、ありがとうございました (^_^)
○●○●○●○
○●○●○●○