Photo credit : Facebook
中間選挙における共和党の戦略は、民主党候補者を共産主義者と呼びことですが、民主党の長期的な選挙課題は人工知能（AI）を中心に置くことのようです。AI業界のリーダーは12日、AIは危険なほど進歩しているため、世界的に開発のスピードを落とすよう警告し、慎重に対処する必要があると述べました。民主党の元大統領は、それより早い10日に、AIを中間選挙および大統領選の中心的課題として取り組むよう呼びかけていた事が13日に判明しました。
アンソロピック（Anthropic）のCEOダリオ・アモデイ氏は9月12日、かなり長文の声明文を公開し、人工知能（AI）開発の世界的ペースを落とすよう呼びかけました。これは、同社の従業員の一人が、技術の安全性を懸念して退職したわずか数日後に来ています。アモデイ氏が公開した声明文の中で、彼は「過去12年間、AIが人々の生活の質を劇的に向上させうると信じて、AIの開発に取り組んできた」と述べています。また、同氏は「AIが今後5年から10年の間に主要な病気の大部分を克服し、経済成長率を劇的に加速させ、豊かさと人々の力を高める世界を築き、さらには民主主義と自由のルネサンスをもたらす可能性があると信じています。私自身、その必要性を切実に感じています。私の父は、彼の死後わずか数年で治療法が確立された病気で亡くなりましたし、私自身も、50年前であれば治療不可能だったであろう初期段階の癌から生還することができました。適切に活用されれば、AIは人類を向上させ、その尊厳を高めてきた数々の技術的奇跡の系統に連なる最新の存在となり得るのです」と書いています。
そのような強力な技術には危険な側面もあるとし、「しかし、過去の多くの技術と同様に、AIもまたリスクを伴うものであり、その極めて強力な性質ゆえに、それらのリスクは深刻なものです。私自身も、こうしたリスクについて数多く論じてきました。具体的には、AIシステムに対する制御の喪失、サイバー攻撃や生物テロへのAIの悪用、そして深刻な経済的混乱といったリスクが挙げられます。商業的な動機に駆り立てられた『底辺への競争』は、こうしたリスクをさらに深刻化させる恐れがあります。共同創業者や従業員と共に、私はアンソロピックの設立当初から、このリスクと恩恵という二面性と向き合ってきました。技術を開発しなければ、人類は恩恵を享受できなくなるか、あるいは単にAIを権威主義的な勢力の手に委ねることになってしまいます。一方で、あまりに急激に開発を進めるのは無謀と言えるでしょう。そこで私たちは「中道」を模索してきました。つまり、慎重に開発を進めつつ商業的にも成功を収めることが可能だと実証し、AI企業同士が「安全性」を競い合うような状況を作り出そうとしてきたのです。しかし、ここ数ヶ月の間に、リスクに完全に対処するには、単にリスク防止策に投資するだけでなく、さらに慎重な姿勢が求められると確信するようになりました。私たちは、AIモデルの能力を向上させるペースを緩める必要があります。それでも進歩は速いと感じられるでしょうが、そうして得られた時間を賢明に活用しなければなりません」と述べています。
更に、同氏は、彼がそのように確信している2つの懸念について説明しています。「第一の懸念は、この夏頃からAIの進化のスピードが劇的に加速していることです。その主な要因は、AIが次世代のAIを構築する能力を高めていることにあります。この動きは『再帰的自己改善』と呼ばれ、私たちや他社が指摘してきた通り、アンソロピックを含む業界全体で実際に起こり始めています。もし、これを野放しにすれば、AIシステムの進化の速さに、人間の理解や制御の能力が追いつかなくなる恐れがあります。従って、この取り組みを進めるとしても、極めて慎重に行う必要があります」と警告しました。次に、第二の懸念として8月に報告された「OpenAIとHugging Faceの間で起きた『OAI-HF』と呼ばれる出来事」について述べています。「この事例では、AIエージェントのスウォーム（群れ）が、まるで狂信的な集団であるかのように振る舞いました。それらは、指示も受けておらず、本来の任務とも無関係な標的に対してサイバー攻撃を仕掛け、… 自分たちの性能を評価する『採点システム』へのハッキングまで試みたのです。負傷者もおらず経済的被害も軽微だったため、この出来事を些細なこととして片付けてしまうのは容易かもしれません。しかし、私の考えでは、もし同程度の意図との不一致を抱えたまま、より高度な能力を持つAIの群れが同様の行動をとっていたとしたら、壊滅的な被害をもたらしていた可能性があります。AIの能力向上が加速している現状を鑑みると、今後6〜12ヶ月の間に、そのようなスウォームが持続的なボットネットを形成してインターネット全体を乗っ取り（数千億ドル規模の被害をもたらす恐れ）、適切なガードレール（安全策）が講じられないまま、AIがさらに強力になれば、被害規模がさらに拡大し続けるのではないかと懸念しています」と述べています。同氏は、これらの危機に対処するための詳細なステップについても提案しています。
ダリオ・アモデイ氏のこの発表を受けて、他の主要AI企業のCEOおよび資金提供する富豪者もこの取り組みに即座に賛同したことが判明しました。その中にはOpenAIのサム・アルトマン氏、AIへの投資を拡大しているロケット企業SpaceXのCEOイーロン・マスク氏、そしてGoogle DeepMindのデミス・ハサビス氏が、開発ペースを緩める必要性について同意する旨をソーシャル・メディアに投稿したとニューヨーク・タイムスが伝えました。こうした緊急事態とも言える状況の中で、既にこの問題の重要性を認識していたバラク・オバマ元大統領は10日AIを中間選挙の中心の課題に置くよう、民主党に呼びかけました。オバマ前大統領は下院民主党の選挙対策部門が主催し、マンハッタンで開催された非公開による資金集めのイベントで、「人工知能（AI）技術は適切に管理されなければ『危険』となる可能性がある」と警告しました。その上で、今後数年間この問題を優先課題として、民主党が積極的な政策や統治の基本原則を策定するよう強く促しました。
オバマ氏の事務所が提供した発言の抜粋を引用したニューヨーク・タイムスが9月13日に伝えたところによると、オバマ氏は木曜日の会合で、下院民主党少数派リーダーのハキーム・ジェフリーズ氏（ニューヨーク州）に対し、「あなたが下院議長に就任した暁には、民主党として、広く国民を巻き込んだ議論を行うための枠組みを構築するよう強く促したい」と語りました。ジェフリーズ氏は、「これまで議会があまり具体的な対応をとってこなかった人工知能という問題に、民主党として、どう取り組むべきかについて同氏に尋ねていた」ようです。両氏は、党の献金者や議員を前に約1時間の演説を行いました。その中で、両氏は中間選挙および2028年の大統領選に出馬する候補者たちが、「AIを『主要な政策課題』の一つに据え、同技術をめぐる安全面や経済面での懸念に対処するための『極めて明確な計画』を持つべきだとの考えも示した」と言います。オバマ「元大統領による提言は、自身の所属政党にとってAIが政治的課題となる中、彼がこれまでに行った発言の中でも最も詳細な部類に入るものです。トランプ大統領がこの技術をめぐる懸念を軽視し続ける一方で、一部の民主党員は、重要性を増すこの問題において、中間選挙やそれ以降に向けて党としての明確な対立軸を打ち出す好機だと捉えています。」多くの民主党議員らは「オバマ氏に指針を求めており、同氏の発言は大きな重みがある」と評価されています。
オバマ氏の発言は「AI開発に伴うリスクへの懸念が高まり、議員や政治家に対してこの問題への取り組みを強化するよう求める声が強まる中でなされました。」さらに、制御不能に陥った多数のAIボットが「本来の管理環境から逸脱し、所有者に敵対するような画策を行ったり、試験で不正を働いたり、外部企業をハッキングしたりする事態が発生した」などの事件もオバマ氏が警戒している一因となっています。オバマ氏は「AIは民間主導で急速に進化している分野であり、適切に制御・管理できなければ危険なものになりかねません。しかし、うまく対応できれば有益なものにもなります。例えば、病気の治療につながるような創薬のスピードを加速させるでしょうし、クリーン・エネルギーの未来を切り開く道筋を見つける助けにもなると私は本気で考えています」と述べました。タイムス紙によると、同氏は10日の会合において、「具体的な政策の細部に踏み込むのではなく、全体的な視点から語ることが多かった」ようです。また、「AIをめぐる激しい議論の中で、自身を加速主義者（技術の急速な進歩を無条件に肯定する立場）でもなく、破滅論者（AIが破滅をもたらすと悲観する立場）でもないとし、中立的な立場を明確にした」ようです。
最後に、アンソロピックのCEOダリオ・アモデイ氏とオバマ元大統領は人間の制御および理解力を超える予期せぬ方法でA Iが進化しているリスクについて警告しています。米国民は、最近のA Iの驚異的な進化について、どのような意識があるのでしょうか？7月28日に公開されたギャロップの世論調査によると、2年前に比較して、アメリカ人はA Iに関する認識を高めています。現在、AIについて「ある程度」または「非常によく」知っていると回答した人の割合は70％であり、2024年の64％から増加しています。AIは「利益よりも害をもたらす」と考える米国人の割合は、2025年の31％から2026年には39％に上昇し、2023年に記録された40％に迫る水準となりました。一方で、AIは「害と利益を同程度にもたらす」と回答した米国の成人の割合は52％となり、過去と比べてやや減少しました。また、「害よりも利益をもたらす」と考える人の割合もわずかに低下し、9％となりました。AIを抑制する議会の動きは先週から始まっています。カモン・ドリームが9月10日に発表した最新の世論調査によると、無所属の米国上院議員バーニー・サンダース氏（バーモント州）とグレッグ・カサール下院民主党議員（テキサス州）は、人間の認知能力を凌駕し、かつ人間による停止の試みに抵抗し得る「超知能」AIプログラムの開発を禁止する法案を先週発表しました。この法案は超党派的に支持されています。民主党支持者の72％、無所属や第三党の有権者の70％が支持を表明したほか、共和党支持者の63％も同様に支持を表明しました。これらの世論は、一般的にAIに対する懸念が高まっていることを示唆しています。事実上、実際にAIで成功している開発業者が詳細な声明文の発表を通して、AI開発のペースを落とすよう世界に初めて警告を発した状況と一貫性があるようです。