「人類存亡の脅威」に瀕している今こそ我々が必要とするものとは

読売新聞「あすへの考」（2023年6月18日）で人類存亡の脅威についての記事がありました。「人類存亡の脅威」と聞くと、恐竜が滅びたと言われる小惑星の衝突を思い浮かべ同様な天災を想像する人が多いと推定しますが、この記事では人間の活動、特に技術や産業の発展で生じた脅威を取り上げていました。　具体的には「気候変動」「核兵器」「遺伝子の改変」「生成ＡＩ」の四つを脅威として取り上げていました。

当該記事の一部を引用します。

【（前略）「気候変動」と「核兵器」は「エネルギー」に関わる。１８世紀後半からの産業革命で化石燃料の採掘・利用が広がり、温暖化につながった。気温上昇が続けば、地球の環境は激変する。20世紀に入ると、人類は原子核のエネルギーを発見し、核爆弾を製造した。今や世界の核は文明を破壊しつくす潜在力を持つ。一方、「遺伝子の改変」は「命」の謎解きに挑む生命科学が生んだリスクだ。特に近年、遺伝子を自在に操作できるゲノム編集が登場したことで懸念が強まった。この技術を人の生殖細胞や受精卵に使い、遺伝子を望み通りに変えた「デザイナーベビー」を誕生させるとどうなるか。改変の影響は子々孫々まで残る。専門家は人類の多様性や進化に未知の問題を生じさせかねないと危惧する。

もちろん科学技術や産業の発展は多大な恵みをもたらしてきた。

数次の産業革命で私たちの暮らしは豊かになった。核エネルギーは原子力という新しい電源を生んだ。核融合にも期待が集まる。遺伝子の研究は難病の治療や新薬の開発、作物の品種改良などでめざましい成果を上げてきた。だが人類は、恵みと引き換えに、扱いを誤れば自らの生存を危うくするリスクを背負った。

いわば、災いが詰まった「パンドラの箱」を開けてしまった。（中略）イスラエルの歴史家ユヴァル・ノア・ハラリ氏は英誌エコノミストで、「言語」が人類の文明を築いてきたことを考えれば、生成ＡＩ問題はもっと「大きな構図」で捉えるべきだと論じた。「民主主義は対話であり、対話は言語による。ＡＩが言語を乗っ取れば、有意義な対話、すなわち民主主義は破壊されかねない」さらに「核兵器は文明を物理的に破壊できる」が、生成ＡＩは「私たちの精神世界と社会」を滅ぼす「新しい大量破壊兵器」になりうる、とまで指摘した。もちろんハラリ氏も、生成ＡＩが社会の抱える様々な課題の解決に役立つ可能性は認めている。

しかし今は、その能力を見極め、規制を優先すべき時だと訴える。

第一に、技術の進歩や影響の波及のスピードが桁違いだ。だから規制が追いつかない。チャットＧＰＴの利用者は昨年１１月の公開から５日で100万人、2か月で１億人に達した。気候変動は産業革命の幕開けから温暖化が実感されるまで200年以上、核兵器は5か国への拡散に約20年、北朝鮮を含む9か国に増えるまでに約60年かかった。どちらも規制について議論するそれなりの時間的余裕はあった。

第二に、関わるプレーヤーが質も数も他の脅威とは異なる。まず、主役は巨大ＩＴ企業だ。　このことは営利企業が人類の命運に関わるかもしれない技術の根幹を握ることを意味する。また、生成ＡＩは文章の作成がとても楽になる。スマホでも使えるようになってきた。悪用しようと思えば、誰でも可能だろう。核を持つのは少数の国家、遺伝子の改変も扱えるのは限られた専門家であるのとはワケが違う。

第三に、生成ＡＩを含む人工知能は競争力や軍事力の源泉になりうる。従って規制の議論には米中の覇権争いなども絡んでくる。

第四に、何をどう規制すればよいのか、不明な点が多い。そもそも生成ＡＩがなぜこれほどの能力を得たのか、今後どんな進歩が予想されるか、専門家もよく分かっていないからだ。（後略）】

*****

「人類存亡の脅威」になるような活動をする可能性のある政治家、科学者、そして一般市民の行動を政府なり国際機関が規制する議論が盛んに行われています。私見ですが、もっと大事なことがあると思います。各個人が「人類存亡の脅威」になるような活動をしないという倫理観の醸成が必要なことと思います。

私は、昔、国際的会計事務所のパートナーでありました。国際的会計事務所で特に注意すべきことは“利益相反(Conflict of interest)”です。利益相反を生じさせないひとつはクライアントの株式を所有しないことです。国際的会計事務所ですと自分は関与していないが事務所のクライアントがたくさんあります。そこで、現役時代私は株式投資を一切しませんでした。これは職業的倫理観がさせたものです。

生成ＡＩの脅威は、「フェイクニュース」からもたらされることが多いと推測されます。政治家、科学者、そして一般市民が生成AIを利用してニュースを発信する場合、「フェイクニュース」を流さないという倫理観の醸成がものすごく大事になってきます。生成ＡＩは「人類存亡の脅威」になる可能性が大きいとの認識ができれば、人の智恵は生成ＡＩを有効活用の方向に舵をきると思っています。

もう少し倫理観について検討してみたいです（次回に続く）。