本の概要
新たな科学技術の発見と普及は、人類の発展に大きな貢献をしてきました。科学技術の重要性はさらに増加しており、多くの技術が開発されています。
現在、特に注目されている科学技術はAI、人工知能と遺伝子編集などのゲノムテクノロジーです。
これらの技術で人類がさらなる発展することが期待されています。
しかし、AIは知能、ゲノムテクノロジーは生命という人間特有のものに直接影響を与えるものであるため、従来の技術とは異質の脅威を持つものであります。
科学技術に影は付き物ですが、AIとゲノムテクノロジーはこれまで以上に大きな影を持っている可能性もあり、取り扱いを誤れば人類を滅亡させてしまう可能性も秘めています。
AIとゲノムテクノロジーにの持つ影の部分とは何か、科学技術の影とどのように向き合うべきかを知ることができる本になっています。
この本や記事で分かること
・AIやゲノムテクノロジーの問題点
・科学技術の持つ問題点、影との向き合いかた
科学技術の影との向き合い方について書かれた「科学技術の軍事技術」の要約はこちら
ChatGPTの脅威について書かれた「ChatGPTの全貌」の要約はこちら
今、注目されている科学技術は何か
現在、ATとゲノムテクノロジーに大きな注目が集まり、その応用による発展が期待されています。しかし、AIとゲノムテクノロジーは知能と生命という人間特有のものに直接影響を与えるため、従来の技術とは、異質の脅威を生む可能性があり、人類の行動でこれらの技術が暗転すれば、人類が滅亡する可能性もあります。
AIはどのように進化しているのか
生成AIのようにAIの開発は激化し、進化のスピードは大きく向上しています。
このまま進化が続けば、汎用人工知能が生まれる可能性があります。
汎用人工知能は役割が限定されず、人間の手を借りずに進化することも可能になります。
なぜ、AIが人間にとって脅威になるのか
人工知能が進化を続け、人間の知能を超えることで、あらゆる場面で人類知能が知用され、
決定権を持つようになります。
決定権を持つようになれば、人が「主」、AIが「従」であった状態が逆転していきます。
人工知能への依存が進めば、人工知能の暴走を防ぐすべは無くなってしまいます。
ゲノムテクノロジーはどのように利用されるのか
クリスパーキャスナインによって、より正確な遺伝子編集が可能となり、多くの分野での応用が期待されています。
しかし、一方で、エンハンスメントやデザイナーベビーなど倫理的な問題を引き起こす可能性があります。
ゲノムテクノロジーにはどのような問題があるのか
現在、遺伝子編集した胚での妊娠は世界的に禁止されています。
しかし、病気に治療や予防であれば遺伝子編集に肯定的な人も多くいます。
一度、人体の遺伝子編集が始まれば、治療との境界線があいまいな能力強化の導入が進むことは避けられない状況となります。
なぜ、影のある科学技術をやめることは難しいのか
一度、利用を始めた技術を影があるという理由で、利用を停止することは難しいことです。
それは核なき社会が理想あることは明らかですが、その実現が難しいことからも明らかです。
今は倫理的に許容されていない技術であっても、最初の一歩を誰かが踏み出してしまえば、その後の流れを止めることは困難となります。
滑り坂を転がらないためには、どうすればいいのか
滑り坂を転がらないためには、最初の一歩を踏み出さないことが重要です。
最初の一歩を踏み出さないためには、法律による規制だけでは限界があり、倫理や国際組織によるガバナンス形成が必要です。
そのためには、幅広い人々の議論で、超えてはならない線を決め、その線を守っていくことが求められます。
本の要約
現在、人類は知能と生命という自らを形成する最も重要な２つに関する技術を手にし、熱心に育てています。
知能にあたるものが、人工知能、生命に当たるものがゲノムテクノロジーであり、これまで様々な科学技術が人類発展のために利用されてきたことと同じように大きな期待が集まっています。
しかし、この二つの技術は知能と生命に直接的に影響を与えるため、従来の技術とは異質の脅威を創り出す可能性も持っています。
画期的テクノロジーほど暗転した時のリスクが大きいのは、核をはじめとした歴史が示した通りであり、技術が発展する時点での人類の行動がテクノロジーを最良の手段とするか暗転させるものかが決まります。
生成AIにみられるようにAIの開発競争は激化し、世の中の期待も大きくなっています。
文章、画像、動画、音楽、プログラムコードなど様々なコンテンツを生成できる生成AIは、多くの仕事に影響を与え、様々な仕事への進出し、多くの仕事を奪う可能性があります。
また、現在のAIはすべて特定の問題の解決を行う「特化型人工知能」ですが、さらにAIが進化し、役割が限定されず、柔軟性が高い「汎用人工知能」が生まれる可能性があります。
汎用人工知能が進化をつづければ、あらゆる分野で人間の知能を超えた「人口超知能」の時代に突入し、人工知能は人間の手を借りずに、進化することが可能になります。
そうなれば、あらゆる場面で利用され、人間に代わって政治などで決定権を持つことになり、この時点では人間が「主」、人工知能が「従」であった立場が逆転することとなります。
人口知能に全権をゆだねるような愚かなことはしないと考えている人は多くいますが、実際に進化していけば依存する可能性は極めて高く、社会における問題が複雑化し、人間で対応できないことが増えれば、人工知能への依存度はより一層増加していきます。
人工知能に依存することで、人工知能をコントロールできなくなれば、人工知能の暴走を防ぐすべは無くなってしまいます。
AIと並んで人類の未来を左右する技術がゲノムテクノロジーです。
生物の遺伝情報の狙い撃ちしたい部分を切断し、欠落させたり、切断した箇所に他の遺伝情報を組みいれることを可能にしたクリスパーキャスナインは正確な遺伝子編集を可能にしました。
これまで以上に正確な遺伝子編集は病気のメカニズムの解明や異常な遺伝子の正常な遺伝子への置き換え、免疫細胞を操作しがん細胞を攻撃するなど医療分野だけでなく、植物の遺伝子を操作することで、栄養価の向上や収穫量の増加、温暖化に強い作物の開発など食糧問題への対策も期待されています。
ゲノムを読み取る速度の向上とコストの低下もあり、今後ゲノムテクノロジーは加速度的に進化していくことが予測されます。
一方で、遺伝子改変による人間の能力の向上、エンハンスメントに利用されたり、デザイナーベビーを生む可能性がありあます。
現在では、遺伝子編集した胚の妊娠は禁じられていますが、病気の治療や予防のためであれば、人体への遺伝子編集にも肯定的な人も多く見られます。
病気の治療とエンハンスメントの境界はあいまいであり、徐々に能力の強化に使われることも十分にあり得ます。
ゲノム編集によって優れた能力を持つことができるようになれば、禁止されている状態は続かず、多くの人がゲノム編集を望むようになり、歯止めが利かなくなっていきます。
コンピュータやGPSのように軍事技術が民生利用されたり、飛行機や３Dプリンターのように民生技術が軍事利用されることからも明らかなように、科学には光にも影のどちらにもなりうる二面性をもっています。
また、核なき世界が理想であることは誰もが理解していますが、核兵器を減らすことができていないように、技術が影をもっていても、その技術の利用をやめることは難しいことです。
現在では、倫理的に許容しがたい技術であっても、倫理や価値観は一致しているわけではないため、一部の人が最初の一歩を踏み出してしまうことは充分にあり得ます。
最初の一歩を踏み出すと、倫理的にも許容されたことになり、それに続く過程を止めることなくなる滑り坂のような状態になります。
滑り坂理論では最初の一歩を踏み出さないようにすることが大切になってきます。
最初の一歩を踏み出さないためには、法律による規制が考えられますが、法律は強制力が強いもの、未知数の部分が多い先端科学技術のリスクに対して果たせる役割には、限界があります。
法律で追いつかない部分は倫理や、国際的な組織による世界規模のガバナンスの形成が求められます。
そのためには市民、研究者、行政、企業が十分に議論し、妥当な利用の在り方について、コンセンサスを形成し、先端科学技術が実現し、社会実装されたときにリスクをイメージし、それに対応する方法を考え、共有していくことが必要になってきます。
一度生み出したものを制御することは生み出す以上に難しいことです。越えてはいけない線を見出し、世界全体で守ることがなによりも重要です。
コメント