Photo credit : TechVidvan
The Godfather of A.I.’ Leaves Google and Warns of Danger Ahead
この記事は、人工知能のパイオニア（an artificial intelligence pioneer）であるジェフリー・ヒントンが人工知能の将来の危険性について懸念を表明するようになったことについて詳述している。この分野で最も尊敬されている彼は、彼の生涯の仕事を後悔している理由を自由に話すため、10 年以上勤務してきたグーグルを辞職することを決定した。これは、非常に興味深い課題である。なぜ、突然この変化が起きているのか？
ニューヨーク・タイムスによると、3 月にサンフランシスコのスタートアップ OpenAI がChatGPT の新バージョンを発表した後、1,000 人以上のテクノロジー関連の指導者と研究者は、AI テクノロジーが「社会そして人間に深刻なリスク（profound risks to society and humanity）をもたらす」危険性があるため、新しいシステムの開発を 6 か月間一時停止（a six-month moratorium）するよう要求する公開書簡に署名した。その数日後、40 年の歴史を持つ学会である人工知能推進協会の現職および元リーダー19 人が、AI のリスクを警告する（warning of the risks of A.I）独自の手紙を発表した。そのグループには、マイクロソフトの最高科学責任者であるエリック・ホーヴィッツが含まれていた。マイクロソフトは、Bing 検索エンジンを含む幅広い製品に Open AI のテクノロジーを展開している。
ヒントン博士とトロント大学の 2 人の大学院生は2012 年に人工知能の知的技術を開発した。それは、大企業のテクノロジー業界が、自社の将来への鍵であると信じているシステムである。しかし、1日の月曜日、ヒントン博士は、ChatGPT のような人気のあるチャットボットを強化する生成型人工知能（generative artificial intelligence）の技術による製品を生産するための積極的なキャンペーンで、これらの企業は危険に向かって競争していると主張する批評家のグループに正式に参加した。彼はグーグルを辞職し、発言者の 1 人になったので、AI のリスクについて自由に発言できるようになったと述べた。彼はこれらの書簡のいずれにも署名せず、仕事を辞めるまではグーグルや他の企業を公に批判したくないと述べていた。「AI のゴッドファーザー」と呼ばれることが多いヒントン博士は、先週、トロントの自宅のダイニング・ルームでの長いインタビューで 、「私は通常の言い訳で自分を慰めます。もし私がやらなかったら、他の誰かがやっていたでしょう」と言った。
タイムスは、AI の開拓者であるヒントン博士の変化を「革新者から終末論者への移行」と呼び、「恐らく、数十年で最も重要な変曲点（most important inflection point）にあるテクノロジー業界にとって注目に値する瞬間（a remarkable moment）である」と述べている。驚異的な「新しい AIシステムは、1990 年代初頭のウェッブ・ブラウザーの導入と同じくらい重要であり、医薬品研究から教育に至るまでの分野で優れた突破口（breakthrough）につながる可能性があるためである。しかし、多くの業界関係者は、彼らが「何か危険なものを野放しにしているという恐怖」もあるという。ジェネレーティブ AI はすでに誤報のツールになっており、すぐに、それは仕事へのリスク（a risk to jobs）になる可能性がある。どこかで、テクノロジーの最大の心配事（biggest worriers）は、それが人類へのリスク（a risk to humanity）になる可能性があると言う。ヒントン博士は「悪意のある者（the bad actors）がそれを悪用するのをどのように防ぐことができるかを理解するのは難しい」と述べた。
現在AI技術を応用した装置や製品はすでに市場に出回っている。それらの顕著なものは ⑴ 教育における人工知能の応用で、学部間の生産性を向上させ、オフィスや管理業務よりも学生に集中するのに役立ち、教育者を支援するために自動化されたシステムである。⑵ 個人化されたショッピングと呼ばれる商業でのAI の適用もある。これは顧客の閲覧履歴、好み、興味に基づいて、推奨事項エンジンを作成することで、顧客との関係を強化することに役立つ。⑶ ライフスタイルにおける人工知能の応用には ① トヨタ、アウディ、ボルボ、テスラなどが生産している自動運転車がある。② AI スパム・フィルターは、日常生活で使用する電子メールに送られるスパム・メールをフィルター処理してスパムまたはゴミ箱フォルダーに送信する機能が組み込まれている。③ 顔認識技術は、業界の高度なセキュリティ関連の分野でも広く使用されている人工知能アプリケーションである。電話、ラップトップ、PCなどの安全なアクセスを提供するため、顔フィルターを使用して検出および識別することに利用されている。⑷ ナビゲーションにおける人工知能の応用は、MIT の研究に基づいて、GPS テクノロジはユーザーに正確でタイムリーな詳細情報を提供して、安全性を向上させることが可能である。この技術は、運用効率の向上、道路交通の分析、ルートの最適化のために、ユーバーや多くの物流会社で頻繁に使用されている。
⑸ ロボティクスにおける人工知能の応用ではAI を搭載したロボットを利用して、進路上の障害物を感知し、その移動を即座に事前計画することで、病院、工場、倉庫での荷物の運搬 、オフィスや大型機器の清掃、在庫管理などの用途に使用可能である。⑹ 人事における人工知能の応用は、求職者のプロフィールと履歴書をスキャンして、採用担当者が選択すべき人材プールの理解を援助するシステムである。⑺ ヘルス・ケアにおける人工知能の応用は、病気を検出してがん細胞を特定できる高度なマシンを構築する。AI は、ラボやその他の医療データを使用して慢性疾患を分析し、早期診断を確実にするのに役立ち、過去のデータと医療インテリジェンスを組み合わせて新薬を開発する。⑻ 農業における人工知能の応用は、雑草が生えている場所を分析し、土壌の欠陥や栄養不足を特定するために使用される。労働者よりも大量かつ速いペースで作物を収穫するのに役立つと言われている。⑼ ゲームにおける人工知能の応用は、ゲームの設計とテストを改善し、人間の行動を継続的に追跡および予測するために利用可能である。
すでに利用されている上記にリストした人口知能技術の応用システムや製品を見ると、素晴らしいことばかりに見える。しかし、長年、人工知能の開拓者であるヒントン博士は、辞職してまで、「社会そして人間に深刻なリスク」をもたらすと公的に語ることを選択した。それはなぜか？ ヒントン博士は様々な理由を挙げている。
例えば、インターネットに洪水のように溢れる虚偽の写真、ビデオ、テキストにより、平均的な人々にとって、それらは「何が真実か分からなくなる」と述べている。また、AI テクノロジーが、単純な仕事や面倒な作業を奪い、「やがて雇用市場を一変させる」可能性があり、「それ以上のものを奪うかもしれない」との懸念を語った。さらに、「分析する膨大な量のデータから予期せぬ行動を学ぶ」機会が多い彼は、将来のテクノロジーの改作が人類に脅威をもたらすことを心配している。それは、AIシステムが、独自のコンピューター・コードを生成するだけでなく、自律的な兵器、つまり、殺人ロボットが現実になる日を恐れている。現在、AIが「人間よりも賢くなる」と信じているのは少数の人々だけであり、彼の学生や同僚を含む他の多くの専門家は、そのような脅威は仮説に過ぎないと述べている。しかし、ヒントン博士は、グーグルとマイクロソフト間の競争などは、ある種の世界的な規制がない場合、終わりのない世界的な競争へとエスカレートすると考えている。つまり、「世界をリードする科学者が技術を制御する方法について協力」しない限り、「核兵器とは異なり、企業や国が秘密の技術に取り組んでいるかどうかを知る方法はない」からである。当ブログは、ヒントン博士の突然の変化を非常に衝撃的で重大な問題として捉えている。彼は、終わりのない高度技術に対して、政府が何らかの規制をするよう呼びかけた可能性があることを示唆している。