カレッジマネジメント213号

2/74

‘超訳’された邦題から際きわもの物的内容を予想すると本書の価値を見損なう。AI・ビッグデータが諸悪の根源だと誤解してもいけない。脅威の本質を見誤り、希望の道を見失う。本書の原題はWeapons of Math Destruction。MathをMassに替えた大量破壊兵器の意味をかけているので、正訳は「数学大量破壊兵器」（WMD）である。この本は、WMDのどこが危険なのか、どう対したら良いのかをまじめに考えた良書である。著者は米国の大学で数学教授を務めたあと、大手ヘッジファンドへと転じてクオンツ（金融工学の専門家）となった。グローバル経済を相手に心躍らせて働き出したものの、1年後の2008年秋にリーマン・ショックに見舞われ、このとき初めてWMDの脅威を目撃する。著者が愛した数学はテクノロジーと結びついて、住宅危機、金融機関の倒産、失業率の上昇等、カオスを何倍にも増幅させてしまった。今や人々を熱狂させる新たな数学的手法が次々に生み出されてその応用領域は拡大し続ける。数学者と統計学者が生み出した手法は金融市場にとどまらず、消費者の信用度調査、就職希望者の潜在能力、恋人としての適性、犯罪者になる可能性等の計算に適用されるようになった。1〜2秒あれば、数千件もの履歴書がAIに処理されて、有望な採用候補者のリストが手に入る。だが、そこで用いられている数理モデルには3つの危険が潜む。第一にデータソースやアルゴリズムが不透明であること、第二にモデルが適用される規模が拡大してしまう条件を備えていること、最後に有害な結果を学習して修正するフィードバックを欠くことである。こういう条件を満たす有害な数理モデルを、著者はWMDと呼んで糾弾する。WMDが効率性と公平性を謳いながら、実は貧しく虐げられた人々の不利益をいっそう拡大させているという事実も、本書が告発するポイントの一つだ。野球の数理モデルのような「良いモデル」ももちろん実在するが（映画『マネー・ボール』を参照）、本書では教育に始まり、宣伝、仕事、信用、政治まで、有害なモデルが検討の俎上に挙げられている。ワシントンDCで導入された、学力テスト結果の向上・低下に基づく教師評価システム（それによって206人の教師がわけもわからず抗議もできぬまま解雇された）、人種差別を助長しやすい犯罪の再犯モデル等々。なかでも本誌の読者には、大学ランキングの事例が馴染みやすいだろう。ひとたび数理モデルに基づくランキングが計算されると、良い大学の定義もアルゴリズムも不透明であるにもかかわらず、評価の低かった大学には学生も寄付も集まらずいっそう評価が落ちるというフィードバックループが出現する。それを恐れて大学人はランキングを上げるために新たな行動をとる。結果として「良い」大学が増えるわけではなく、大学の多様性は奪われてしまう。WMDの脅威をいかに減じ、長所を人々の幸福に生かしていくのか。著者は言う。「人々から利益を吸い取ることを目的にするのではなく、人々を助けることを目的にすれば、数学破壊兵器は非武装化される」。WMDの非武装化のためには、「モラルのある想像力」が必要だ、アルゴリズムにより良い価値観を組み込んでビッグデータモデルを作り上げねばならないと著者は説く。高等教育人材がWMDの拡大に荷担する社会の将来は暗い。本書は、高等教育の今日的使命がどこにあるのかを教えている。キャシー・オニール 著 久保尚子 訳『あなたを支配し、社会を破壊する、AI・ビッグデータの罠』（2018年　インターシフト）効率性・公平性を謳う発展がもたらした危険使用目的の変化とモラルある想像力が鍵