アルゴリズムの時代　ハンナ・フライ　文藝春秋　要約

2021.11.15

アルゴリズムの影響が大きくなり、人とアルゴリズムの関係性を知ることの重要になっている

　アルゴリズムとは無数のコードの連なりからできるコンピューターとインターネットの歯車。現代の生活では無意識のうちにアルゴリズムを頼るようになっている。
　
　本書で登場するさまざまなアルゴリズムを知ることでアルゴリズムの引き起こす問題も知ることができる。アルゴリズムそのものが悪いわけではなく、未来が明るいと思える理由も多くある。
　　
　多くの事例から、アルゴリズムと人の関係を知ることのできる本となっている。

アルゴリズムはデータを数学的処理でコードへ変換すること

　アルゴリズムとは何らかの目標を鉄製するための段階を追った手順と辞書には書かれている。簡単にいえば一つの作業をどのように成し遂げるかを論理的に記した手順のことで、ケーキのレシピも家具の組み立てもアルゴリズムの一種。
　しかし、実際にはデータを取集し、数学的な操作を用いてコンピュータコードへ変換する意味で使われるることが多い。

アルゴリズムは4つに分類できる

　アルゴリズムは担う役割によって4つに分類される。
1．優先順位
　Google検索の順位、ネットフリックスのおすすめなど無数の選択肢を処理し、順位つけする
2．分類
　インターネットを見ている人の特徴をもとに何に興味がある人物か分類する。
3．関連
　物事の共通点や繋がりを見つける。出会いアプリのマッチングにも利用去れる。
4．フィルタリング
　雑音と信号を分け不要な情報を排除する。個々の関心によって記事を変えたり、音声認識の際に雑音を消去などに利用される。
　
　大半のアルゴリズムは4つの組み合わせで作られている。

アルゴリズムが適切なものを選ぶ方法は２つ

　無限にある選択肢から適切なものをアルゴリズムが選ぶ際にはルールに基づいたアルゴリズムと機械学習によるものがある。

　ルールに基づく場合は人間が全ての手順を記載するもの、機械学習はデータとゴールを示し目的に達成する最善の方法をコンピュータにみつけさせるもの。
　
　どちらの手段にも欠点はあり、機械学習による学習は広い意味でのAIとなる。AIが最善の方法選ぶ過程を人間が理解できないこともあり、人間のコントロールが効かず、人間に歯向かうなど脅威をもつものとして書かれることもある。しかし、現在のAIの知能はかなり限定的。

アルゴリズムは絶対的でも役立たずのどちらでもない

　現在のAIは完璧から遠いにもかかわらず、機械の言うことを鵜呑みにしてしまう人は多い。カーナビを信じすぎて事故を起こす、検索結果を理性的に判断せずに信じてしまうことなどが知られている。

　AIが欠陥のある結果を出しても、それに疑いを持たずに採用してしまう例も見られる。コンピュータが出した答えに疑問を持ちにくい。コンピュータが間違っていて人間が合っていることも逆もある。
　その一方でアルゴリズムがミスを犯すと知った瞬間，完全に無視して間違いだらけの自分の判断に頼ろうとしてしまう。
　人はアルゴリズムを万能の神か役立たずのどちらに決めてしまうが、もう少し客観的に見る必要がある。人間の欠点を知り、能力に見合った権限をアルゴリズムに与えることが重要。

アルゴリズムの進化とともにデータの価値は増加している

　人々の買ったものとその人の情報を初めて結びつけたのはスーパーのポイントカードだったが、インターネットでは情報の量は大幅に増加している。
　データブローカーと呼ばれる企業は個人の情報を集め、売ったり、分配し利益を得ている。ネット上の買い物履歴、サイトへの登録などから多くの情報を得ている。情報量の増加は広告のターゲッティングをしやすくするため、多くの企業の欲しがる情報となる。
　消費者側からはプライバシー保護の観点から反対されることも少なくなく、データブローカーを規制する国も出てきている。さらには特定の行動から特定の候補に投票を促すような広告がうたれた可能性も疑われている。

　これらのターゲットの効果はそれほど大きくはないが、選挙のように大規模になれば1000分の1が影響を受けただけでも大きな意味を持つ可能性もある。　

データから個人を格付けする動きすら見られる

　データブローカーの持つ個人情報から個人を点数化するシステムも中国で検討されている。クレジットカードの利用履歴、住所、日常的な行動、SNSへの投稿、閲覧したサイトなどから点数がつけられ、点数によってさまざまな特典や不利益がある。

　個人情報の利用法については徐々に規制の動きも出てきて、消費者の権利を尊重する方向に向かってはいるが、ただより高いものはないと考え、個人情報を差し出すに値するかを考慮することが大事となる。

司法分野へのアルゴリズムの進出も進んでいる

　司法制度は完璧になりようがなく、裁判官なら常に正しい判断が出来るわけではない。同じような内容の訴訟に対しても裁判官によって判決は大きく異なり、同じ裁判官が同じ訴訟に対し、違う判決を下すこともある。このような状態でアルゴリズムの利用が進んでいる。

アルゴリズムは再犯予測に利用されているが、完璧ではない　

　アルゴリズムには有罪か無罪かの判断や証拠の分析、被告が反省しているかなどの判断はできない。一方で、被告が再犯するかの予想には利用されている。過去の犯罪者の犯罪種類や年齢、前科などのデータと実際に再犯したかを組み合わせることで再犯を行うかを予測できる。実際にアルゴリズムの予測は裁判官の予測を上回る結果を出している。

　しかしアルゴリズムも完璧ではなく、間違いを犯すことも多い。また、アルゴリズムをもとに裁判官が再犯率が高いと考え、刑務所に送った場合、その判断が正しいか確かめるすべはない。（釈放されたときに再犯したかを確かめられない）

人も公平な判断が苦手

　アルゴリズムは完璧ではなく、差別を含んでしまう場合もある。アメリカでは黒人は伝統的に経済状況が悪く、犯罪率が高いため、データをそのまま読み取れば、黒人の方がアルゴリズムによる判断は不利になる。
　しかし、人間も公平な判断は非常に苦手。人間は自然界で生き残るため、直感的な素早い判断を優先し論理的で分析的な判断を利用しないで済ませようとする傾向にある。
　
　裁判官も同じように自分の直感的な判断から逃れることはできない。現実的には裁判官の欠点をアルゴリズムで補うやり方が未来への正しい一歩といえる。

医療の進化＝パターン化のためアルゴリズムの利用に適している

　近代医学の進歩はパターンを発見することでなされてきた。パターンを見つけ、分類し、予測することが得意なアルゴリズムの活躍しやすい分野と言える。
　
　たくさんのデータを読み込ませ、調整し、学習をさせるニューラルネットワークはデータがふえるに従い調整され予測の精度が上がっていく。
　C Tスキャンした画像などを大量に読み込ませることでアルゴリズムは病理医に勝る精度で異常を検知出来る。人間に比べ、正常な細胞を異常とみなしやすい傾向にあるが、病理医と組み合わせることで効率化を測ることができる。アルゴリズムが異常を検知し、それが異常であるかは病理医がもう一度確認することで精度と効率を上げることができる。
　
　様々な病気のデータを読みこませることで、医師を上回る精度で病気を見つけることは複数の病気で行われている。

万能の診断用アルゴリズムは実現困難

　単一の病気であるかないかを画像から判断するように、特定の材料を読みこんで、問題なしかありか判断するアルゴリズムは可能だが、診断用のアルゴリズムは格段に難しい。

　診断時には根本原因から何歩か離れた情報しか得られず、さかのぼって原因を特定しなくてはならない。またあらゆる病気を読みこませる必要があるとその手間も非常にかかる。

医療データの取り扱いにはプライバシーとのバランスが欠かせない

　また、そもそも医療情報をどのように取り扱うか、例えばある病院で受けた診断結果を共有するかにはプライバシーの問題も大きくたちはだかる。

　遺伝子検査が一般化し、個々の遺伝情報を知ることが標準的になるとますますプライバシーと社会の利益、個人と全体のバランスをとることが欠かせなくなる。

自動運転は想像以上に困難

　運転は多くの人がそれなりの人がそれなりに技術を身につけており、簡単そうに見える。コントロールしなければならないのはスピードと方向だけであるが、想像以上に難しい。

　医療に使われるようにカメラから得られた画像情報から状況を理解することは出来るが、理解した情報をどう使うか決めることは難しい。
　現在はカメラやレーダーなど複数の情報源を組み合わせて、自分の位置を把握することで自動運転を行っている。

倫理的な問題も答えは出ない

　自動運転が可能になったとして、倫理的な問題にどのように対応するかも難しい。動運転車が事故に遭った際に、運転者と通行人のどちらを救うかなどは人間でも判断がわかれるため、決めることができていない。

　また、時には交通ルールを破る必要もあるが、そのような場合をどのようにアルゴリズムに認識させるかも難しい。現実的には自動運転者車は学習済みの地域だけを走るようになると予想されている。

　自動運転が標準化されると運転者に権限が移っても急には対応できなくなる。飛行機ではすでに自動化が進んでいるが、アクシデントで操縦士に運転の権限が移った際にうまく対応できず、事故につながっている。
　自動化が進むと徐々に運転する機会が減り、能力が低下し、アクシデントに対応できなくなる。何年に一度しかエラーが出ず、急に運転しろといわれてもとても対応できなくなる。
ただし、補助的な自動運転でも事故の減少や燃費の向上には貢献できる。

　人間は微妙のモノを理解し、状況を分析し、パターン化することは得意だが、注意を払い、正確で一貫していることは非常に苦手。人間とアルゴリズムの得意な部分と苦手な部分は正反対なため、アルゴリズムで人間の欠点を補うような使い方が現実的となる。

犯罪捜査でもアルゴリズムによって人間の欠点を補える


　犯罪捜査でアルゴリズムが使用された例には、同じ犯人によって繰り返し行われた犯行の場所を解析することで犯人の住所を探り当てるというものがある。犯行現場から近すぎず、遠すぎない場所を犯行場所に選ぶため、犯行地点から犯人の住所が予測可能になる。

　軽犯罪の起こりやすい場所をマッピングし、重点的に取り締まることで重犯罪も減少し、ニューヨークの地下鉄の治安が良化した。

　一方で犯罪のおこりやすい場所をパトロールする回数を増えれば、犯罪を見つけやすくなるが、その場所の犯罪数は増加してしまうジレンマもある。

アルゴリズムの予想が間違っていても正しいと思いこみやすい

　顔認識アルゴリズムは犯罪捜査で広く用いられているが、犯人を誤認逮捕してしまった例もある。顔認識アルゴリズムは人間に比べれば、正確に人の顔を見分けることができるが、データ数が増えればデータベース上の似ている顔も増え、間違いがおきやすくなる。

　アルゴリズムで被害を受ける可能性と犯人を見つけることをどれほど重視するかを決めることはよりよい社会とはどんなものか決めることになる。アルゴリズムの影響を持つ範囲を制限する方向性となると思われる。

ヒットの予測にもアルゴリズムが利用されているが完全ではない

　ヒット曲が生まれる要因を調査するための研究も多く行われている。同じ曲を集め、別のサイトで人気を比較すると人気のない曲はどのサイトでも人気がなかったが、人気の曲はサイトによって差があった。

　人には人気の曲を好む傾向があり、初めにランキング上位になると人気になりやすい。一方でランキングを途中でひっくり返し、不人気の曲を1位にしてしまうと、サイトそのものに人気がなくなってしまう。ヒット曲の誕生には質も重要だが、人気と質が正比例するわけではない。

　映画のヒット予測をアルゴリズムで行った例もあるが、その映画の公開前に予測させることは難しい。

　芸術作品をアルゴリズムに理解させるには質の数値かが必要となるが、人間そのものが質を定量化できていない、評価の際に作品だけでなく、その背景を理解する必要があるなどため、具体的な尺度を作ることはできない。

　効果的な方法は類似性を探すこと。ネットフリックス等のおすすめは作品の質ではなく、類似性を測り個人ごとのおすすめを作っている。

アルゴリズムによる芸術作品の作製は既存の組み換え

　アルゴリズムが一から音楽を作れるわけではないが、既存の曲から組み替えて新しい曲を作ることは出来る。
　人間も完全な無から新しいものをつくことは少なく、創造力は無関係に見える事柄に関連を見いだすことともいわれる。
　それでも芸術は人間とのつながりにあるとする声もあり、全てを数式であらわされるわけではないため、アルゴリズムにできることは限界がある。

アルゴルリズムを強力な武器とすれば人の創造力を引き出せる

　暮らしのあらゆる部分で自動化が大いに役立っているのは確か。しかしアルゴリズムを何かの権威として扱うのは間違った方向。完璧なアルゴルズムを目指すよりもミスをしても簡単に修正できるように
設計し、人に指示をするのではなく、人の下す判断のサポートをするように設計すると良い。
　機械を客観性の権威とするのではなく、強力な武器として利用することでアルゴリズムの力を引き出し、人の想像力を増加させることができる。
　

　
　

　

コメント

タイトルとURLをコピーしました