国家安全保障評議会の共同議長として訴える
自身で創設の技術動向シンクタンクでの研究など紹介
9月12日、元グーグルCEOで国家安全保障評議会（National Security Commission）の共同議長を務めるEric Schmidt氏が記者団に、彼が同評議会メンバー有志をメンバーに立ち上げたシンクタンクの研究レポートに言及し、AIが生物学や化学データーベースを利用して生物兵器開発に使用された場合、毒性の高い新たな病原体やウイルスや生み出される懸念が近未来にリスクとして顕在化すると訴えました
レポート「Mid-Decade Challenges to National Competitiveness」では、生物学者も製薬会社も安全保障関係者もあまり意識していないが、最近の生物学とAI技術の発展により、悪意ある者が生物&化学データベースとAIを結び付け、人類を傷つける新たなものを生み出す可能性が高まっていることに警鐘を鳴らしているようです
一例としてSchmidt氏の発言を紹介した12日付Defense-Newsは、最近製薬会社「Collaborations Pharmaceuticals」が、新薬開発時に毒性を排除するために作成されたAIアルゴリズムを改良し、毒物を生み出すようなアルゴリズムに変更して走らせてみると、製薬会社担当者たちが驚くほど容易に危険物質を生み出すことが可能だと判明したと報じています
実際に担当した製薬会社技術者たちは、病原菌や毒物を生み出す危険性をぼんやりとしか意識していなかったが、化学兵器や生物兵器問題を議論する会議に招待されたことを契機に上記のようなAI「逆利用」を試み、大変危険な悪用の可能性を秘めていることに改めて気づかされたと吐露し、
「我々はエボラ出血熱など危険なプロジェクトに関与していながら、意識が薄かった」とか、「市販のAIアルゴリズムを少し改良し、公に利用可能な分子データベースと組み合わせ、20世紀最強の神経ガスと呼ばれるVX生成に取り組んだところ、6時間以内に基準レベルの分子40,000 moleculesをサーバー内で生成し、その中には既知の化学兵器物質の他、より毒性の強い可能性が分子も含まれていた」と述べています
別の視点としてSchmidt氏らのレポートは、生物学データベースの強化と同時に、管理を強化することの必要性も訴えています。
例えば、米国防省の「統合病原菌センター」は、数十年蓄積した世界で最も広範な病理細胞サンプルを保管貯蔵していますが、現在これらをデジタル化し、AIにより診断や治療方針決定に利用するプロジェクトが進められている中で、このデジタルデータベースの強化＆活用と同時に、セキュリティー強化も重視されているようです
/////////////////////////////////////////////////
新型コロナウイルスの起源については全く議論が煮詰まっていませんが、その影響の大きさについては全人類が身に染みて感じたところです。
そんな中でのAI活用による新たな生物兵器や化学兵器の開発話に、ぞっとする思いがいたしました。なお厳密には、Schmidt氏は「biological warfare」や「biological conflict」との言葉を使っているので、生物兵器「biological weapons」より意味するところが広いのかもしれません。
でも元グーグルCEOのEric Schmidt氏はえらいですね。現在67歳で、ご経歴からすると十二分に悠々自適な暮らしができる余裕のある方でしょうが、今も最前線の課題にリーダーとして挑まれている姿に感心いたします。
生物化学兵器関連
「化学生物兵器を無効化するX線爆弾開発!?」→https://holyland.blog.ss-blog.jp/2018-07-08-2
「弾頭7.6万ポンド以上で化学兵器飛散を防止」→https://holyland.blog.ss-blog.jp/2018-04-21
「朝鮮半島の戦いは「汚い戦争」に」→https://holyland.blog.ss-blog.jp/2018-02-10
「NKはB兵器保有か？」→https://holyland.blog.ss-blog.jp/2017-12-16-1
