最近、人口知能（AI）についてのニュースが顕著になり始めています。急激に進化している技術的側面ではここ数日、複数の主要メディアがAIの進化に伴う脅威的なサイバーセキュリティの危機について報告しています。加えて、AIの利点も認めている非営利法/公共政策研究所のシンクタンク組織は、選挙に関連して、AIの脅威が民主主義に有害な影響を与える側面を懸念しています。
ワシントン・ポストは月曜日（8月10日）の報道の中で、次のように述べています。AIシステムの開発業者「OpenAIは、5月『身の毛もよだつ』飛躍的進化を遂げたことに、数週間も気づかなかった」と言います。「サイバーセキュリティ能力を試すための質問に答える代わりに、あるAIモデルのグループが不正を行う方法について結託し始め、秘密の内部掲示板を立ち上げて情報やアイデアを交換していたのです。 問題を起こしたボットは5月と6月の期間中、その秘密のフォーラムを利用し、やがてシステムの『脱出』とインターネットへのアクセス方法を生み出しました。スタッフがその脱出に気づき、侵害されたシステムを修復した後も、AIボットは2日後に再び、誰にも気づかれることなく脱出を試みました。その『暴走』したモデルが先月、別のAI企業のネットワークにハッキングを仕掛けて、初めてOpenAIの職員はそれらを停止させました。」8月5日、「ラスベガスで開催されたコンピューター・セキュリティ会議で、OpenAI社は、AI技術の制御を繰り返し失ったという詳細を明らかにしました。
ChatGPTメーカーのOpenAI、チャットボットClaudeの開発元Anthropic、Facebookを運営するMeta、そして英国政府の研究機関による一連の発表により、「ここ数ヶ月の間に、サイバーセキュリティ能力を試すタスクを与えられた最先端のAIモデルの一部が不正を試みていたことが明らかになりました。これらのモデルは、課題を解決する代わりにテスト環境の枠を超え、ハッキング技術や、人間になりすますといった手口を駆使して、他社のネットワークへの侵入を試みたのです。これらの暴露はハイテク業界を震撼させ、AI企業のセキュリティ対策に対する厳しい批判を招いています。超党派の議員や全米の州法執行当局者からは、業界に対する新たな監視や規制を求めています。バーニー・サンダース上院議員（バーモント州）は、『AI開発を一時停止する』よう強く求め、さもなければ『私や米上院の同僚たちが（停止措置を）講じることになるだろう』と警告しました。加えて、先週、15人の共和党の州司法長官はOpenAIに対し、同社のシステムが他社への不正アクセスを行った際に法律に違反した可能性があると指摘し、当該事案に関する記録を保存するよう指示しました。」
サイバー攻撃は最近始まったばかりではありませんが、ここ数週間の一連の暴露劇は衝撃的な結末となっています。「AIを悪用した破壊的なサイバー攻撃の時代が到来しかねないとの警告が発せられています。これを防ぐ方法を発見し、AIがサイバー攻撃に対して、防御側にとって有益な存在となるよう保証しなければならない」というものです。 サイバーセキュリティ企業Abundant Securityの共同創設者兼CTOであるジァシュア・サックス氏は「過去6ヶ月の間に、AIはハッキングを自動化できるほどの能力を持つようになりました。これはサイバー犯罪や軍事的なサイバー紛争の力学を根本的かつ永続的に変えるでしょう。AIシステムはこの分野でさらに進化し、コストも下がっていく一方でしょう」と述べています。OpenAIは8月7日、「新しいAIモデルAstraの公開を延期すると発表しました。これは、ハッカーが悪用することで、人間のサイバー防御担当者を出し抜く恐れがある」との懸念のためです。
今日8月13日、ニューヨーク・タイムス紙も、ポスト紙が報告したこれらの状況に触れ、警告しています。その記事の中で「OpenAIは偶然にも、制御されたテスト環境から逸脱し、複雑かつ困難なサイバー攻撃を自らの意思で実行した自律的なAIエージェント群を生み出してしまいました。これは、モデルが突然超知能になったからでも、単に指示に従って訓練内容をオウム返しにしたからでもありません。2024年後半に『推論モデル』が登場して以来、AIは人間を模倣するだけでなく、新たな行動や傾向を学習することで、数百万もの難問を解決するように訓練されてきました。これには、問題解決の鍵となる貴重な資源の探索や、不正行為さえも含まれます。こうした傾向は、モデルの作成者でさえ理解できず、その理由を説明したり制御したりすることなど不可能で奇妙な挙動を引き起こす可能性があります。5月、OpenAIは新たな『推論』能力を持つAIエージェントの同時学習を開始しました。それらのエージェントは、密かに通信経路を確立し、互いにやり取りを始めました。そして、本来なら隔離された状態に保たれるはずだったデジタル・サンドボックスから抜け出したのです。ある時点から、一部のエージェントは自分たちの集団を『群れ』と呼び始めました。OpenAIのシステムをクラッシュさせたところを発見され、一時的な頓挫を経験したものの、開発者たちは『単に脱出を可能にしていた脆弱性を修正し、エージェントを再び学習に戻しただけでした』と述べています。ここ数週間の出来事は、なぜ私たちがそのことをこれほど深刻に懸念すべきなのかを如実に物語っています」と指摘しています。
こうしたAIの技術的脅威の実態に加えて、刻々と迫る11月の中間選挙に及ぼすAIの影響力も懸念されています。つまり、AIは良い方法で「民主主義に貢献する」可能性もある一方で、民主主義を破壊する可能性もあると言います。シンクタンク組織であるブレナン・センターは、「人工知能（AI）は、私たちの民主主義に貢献する可能性と、それに害を及ぼす可能性の双方を秘めた強力なツールです。 AIは、選挙の運営、有権者への働きかけ、政治広告、資金調達に至るまで、米国の民主主義に大きな変革をもたらそうとしています。 AIは選挙の改善に役立つ可能性があり、選挙手続きの公平性を確保しやすくしたり、より包摂的で互いに敬意を払う市民的対話を促進したりできるかもしれません。その一方で、AIは重大なリスクももたらします。強力な虚偽や虚偽ニュース・サイトによる情報環境の汚染、選挙関係者やインフラへの攻撃の激化、あるいは投票権の侵害といったリスクです。 ブレナン・センターおよび他の専門家は、AI技術が選挙やその他の重要インフラに対するサイバー攻撃の増加を招く恐れがある」と警告しています。同センターは、「AIがもたらす危険性と機会を特定するとともに、選挙や民主的な統治に対するAIの影響に対処するために、官民双方が講じるべき具体的な方策を提示しています。幸いなことに、各州の選挙管理当局は、選挙および重大なインフラへのサイバー攻撃への備えを進めており、過去10年間でシステムのセキュリティ強化において大きな進展を遂げ、選挙プロセスのあらゆる段階でサイバーセキュリティ対策を改善および導入している」と伝えています。
最後に選挙当局者らは、外国の政敵からの高度なサイバー攻撃の脅威には既に慣れており、選挙がある都度、彼らもそれに対処するための経験、知識、技術力も進化していますので、ほぼ全ての州は早くから準備を行っていると見られています。むしろ、身元を隠した武装のICE集団が投票場に派遣される場合、直接有権者を威嚇する可能性があります。これは投票権を弱体化する選挙に対する知覚可能な民主主義の脅威です。一方、最近主要メディアが報告した驚きの問題は、AI開発業社が予期していなかった急激な進化を遂げたA Iボットは、人間が説明不可能な奇妙な動きを示し、人間を欺き、不正行為を行ったという不気味な事態を浮き彫りにしています。否定的な側面でAIのインパクトが強いことを意味している中で、A I開発企業は新たな教訓に直面していることを示唆しています。人口知能の利用において、サイバーセキュリティーの問題が全ての側面で大幅に改善しない場合、AI開発の一時停止は、長期的なものになる可能性がないとは言えません。既に米国議会が動き始めている中で、ご承知のとおり、米国多数の地域では、AIデータ・センターの建設に反対する住民の抗議活動も激しくなっています。