[書評]「おそろしいビッグデータ 超類型化AI社会のリスク」
このタイミングでこのタイトル・・・普通なら手に取らなかった気がしますが、Twitter上での感想を目にし、また直近のビジネス法務の特集の中で「憲法とAI」の関わり方についての論考を読んだことがきっかけで手に取るに至りました。著者は、憲法という切り口から、ビッグデータの「素晴らしさ」を十分理解しながらも、日本ではあまりに過少に見積もられている「AIによってプロファイリングされること」へのリスクを説明し、そのAIの「素晴らしさ」を十分享受するためのより良いバランスを取る方策を説いています。
自分が何も考えなくても、着たいであろう服、食べたいであろう料理、買いたいであろう本、目にしたいであろう情報を入手できる世界。
これらの理想郷に向かって加速度的に向かっているように見える産業界、システム開発の世界。
実用レベルとして目指されているとなったAIやロボットは大抵の人よりも平均的に安全かつ優れているという前提を認めつつ、「自動で自分の願ったサービスを受けられる状態が、本当に幸福な状態なのか?」という点に再考を求めています。
健康的な食生活、それは本人のためのように思えて、実は医療費を削減したいという国家側からの必要性が強いことが分析できる。
不健康で刹那的に生きる、そういう自由「愚かに生きる自由」というものも憲法13条でうたっている「人は全て個人として尊重される」という理念に含まれているんだという指摘にはハッとさせられました。
また、日本の個人情報法制の構造的な問題点、社会的な関心が「情報漏洩」問題にばかり行き過ぎていて、本当にビックデータが利活用される際に問題となりうる「プロファイリング」の問題については、無関心かそれに対して問題提起をすること自体が周りから非難を浴びる雰囲気すらあるというのは、予てから高木浩光氏らの指摘するところです。
また、改正個人情報保護法により、要配慮個人情報(病歴や身分などに関わりうるセンシティブな情報)に関しては同意の際の取得が要件となり、一定の配慮が設けられたように見えるけれども、一見どうでも良さそうな「フツウの個人情報」をビックデータとして組み合わせた結果、この人は「鬱状態にある」というようなネガティブに判断されうる状態であるという「推測」が働き、それが近年AIが収集した公開されている情報を組み合わせて採用選考に生かしてゆく、というサービスに利用された際に、それを利用する企業には本人は理由がわからず不採用を繰り返してしまうデストピアが今まさに迫りつつある、という指摘は直近のAIを利用した採用サービスをめぐる一連の議論を想起させました。
まずは、サービスを提供する側が一定のバランス感覚としてこの書籍で指摘されている内容を理解することが重要かと思います。
実際、法務担当者としてこの指摘を具体的なサービスに関する相談の際にどのように盛り込むのか、「悪い意味で法務っぽい」という風になりそうな気もうっすらしつつ、まずは自分の中で両論併記した上でバランスを取って行きたいです。
新書で読みやすいので、一般の読書としてもオススメです。
AI礼賛、ビックデータ最高、という一面的な情報の波に飲まれそうになっていると感じている方へ。