今朝の読売新聞の記事から、「AIの影響力 背景か」「制御不能の脅威も」という見出しの記事を抜粋要約します。

　2024年のノーベル物理学賞は、人工知能(AI)の基礎技術である機械学習を確立した米国とカナダの2人に贈られることが決まった。AI技術の応用によって社会の利便性が高まる一方、弊害も深刻化しており、専門家たちは、今回の受賞決定はAIの影響力の大きさを示した結果と見ている。

　同賞選考委員会は8日、米プリンストン大のジョン・ホップフィールド名誉教授とカナダ・トロント大のジェフリー・ヒントン名誉教授について、「2人の研究は既に多大な恩恵をもたらした。新素材の開発など多くの分野で使われている」と称賛した。選考委員会は2氏の功績の関係者として、AI技術の源流となる「神経回路モデル」を考案した福島邦彦・元大阪大学教授も挙げた。

　AIの性能は、機械学習によって劇的に向上した。16年にはAIの「アルファ碁」がトップ棋士に勝利し、世界を驚かせた。AIが急速に社会の注目を集め、開発競争が激化した。

　慶応大学教授の杉浦孔明・慶応AIセンター長は「今回の受賞はAIの社会的な影響力の大きさが認められた証だろう」と語る。一方、生成AIで作成された偽動画の拡散など、AIは社会の混乱の一因にもなっている。ほかにも、AIの軍事転用などへの懸念が強まっている。同日、電話で記者会見したヒントン氏は「様々な悪影響が制御不能に陥るという脅威も心配しなくてはならない。人間より賢いシステムが生まれ、（私たちを）支配するのではないか」と懸念を示した。ノーベル賞の歴史に詳しい小山慶太・早稲田大学名誉教授（科学史）は「選考員会は、AIの負の面について社会に警鐘を鳴らすメッセージも込めているはずだ」と指摘する。

　昨年5月のBBCニュースでは、人工知能（AI）が人類滅亡を招く恐れがあると、専門家らが警告を発しているとありました。

　ウェブサイト「センター・オブ・AIセーフティー」に掲載されたAIのリスクについての声明文には、「チャットGPT」を開発したオープンAIのサム・アルトマン最高経営責任者（CEO）、グーグル・ディープマインドのデミス・ハッサビスCEO、アンソロピックのダリオ・アモデイCEOといった、テクノロジー企業のトップも署名しています。

　「センター・オブ・AIセーフティー」には、いくつかの惨事シナリオが載っていました。

◆AIの兵器化：新薬開発ツールが化学兵器の製造に使われるといった可能性

◆AIで生成された偽情報が社会を不安定化させ、「集団での意思決定に害を及ぼす」可能性

◆AIの力がより少数の人に集中し、国家が「監視と抑圧的な検閲を通じて、狭い価値観を強制」できるようになる可能性

◆「映画『ウォーリー』で描かれたシナリオのように」、人類がAIに頼って衰退する可能性

　これらの懸念に対して、今回、ノーベル賞を受賞するジェフリー・ヒントン名誉教授も支持しているとのことでした。

  本当に便利になりました。AIの進化は日々凄まじいものがあり、驚くようなことができるようになっています。従来のAIは学習済みのデータを元に回答するというものでしたが、生成AIは、こちらが望むような文章、画像、音楽、動画など様々なコンテンツを「新たに」生み出すことができます。本当に便利だし、凄いことだと思います。

　しかし一方で、「AIが人類滅亡を招く恐れ…」と言われると、本当に恐怖です。もちろん、そんなことはあり得ないという学者の方もおられます。しかしながら、そんな懸念を最先端の開発や研究をされている方々、AIを生み出した方々が言っているところがなおさら恐ろしくなります。便利なことと上手に向き合っていきたいとは思いますが、私たちの想像をはるかにこえる「進化」が世の中には起きている現実も知っておく必要があると思います。