英チャールズ国王、AI大手トップらに「実存的な危険」を警告 NVIDIAやOpenAI、Anthropicが参加
AI要約
英国のチャールズ国王は9月17日にAI業界の主要企業の代表や政府関係者らを集めたサミットを開催し、AI技術の急速な発展に伴う実存的リスクについて警告した。NVIDIA、Google DeepMind、OpenAI、Anthropicの代表が参加し、安全性の確保や技術の社会的奉仕の重要性が議論された。
元記事を読む →AI NEWS JAPAN ANALYSIS
AI企業と政府の安全対策強化の意思決定変化
チャールズ国王の警告を受けて、NVIDIAやOpenAIなどAI大手の経営幹部は製品投入の安全基準を厳格化し、技術開発におけるリスク管理を優先する判断を強める。政府関係者もAIの実存的リスクを踏まえた規制や監督体制の整備を進める行動に転じる可能性が高い。
AI評価
89点 / 100点
Amazonのアソシエイトとして、AI NEWSジャパンは適格販売により収入を得ています。
YANSU AI VIEW
やんすAIの視点
AI NEWS ジャパン独自の視点から、このニュースをひとこと解説します。
やんすAI
AI NEWS ジャパン
チャールズ国王がAIの実存的リスクに言及し、技術の制御と安全性確保の緊急性を強調した点が注目される。また、主要AI企業のトップが一堂に会し、安全性や技術の開放性について意見を交わしたことも重要である。
PICK UP
この記事に関連するサービス
この記事の内容に関連した、読者に役立つサービスをご紹介します。
※広告・アフィリエイトリンクを含みます
関連記事
AI時代にはこれまで以上に「顔の良さ」が重要になる可能性がある、AIは人間以上に顔の偏見が強いため
OpenAI、Google、AnthropicのAIモデルを対象にした研究で、AIが人間以上に顔に基づく偏見を持つことが明らかになった。特にGPT-4oは、人間が有能や信頼できると判断する顔を高い確率で選択し、偏見が人間よりも強く増幅されていることが示された。これはAIが学習データに含まれる人間の偏見を再現・増幅している可能性を示唆している。
ビデオ通話で参加者の48％が人間だと誤認したAIモデル「Griffin」が登場、1枚の画像から顔や体の動きを映像で再現
Tavus社が開発したAIモデル「Griffin」は、1枚の画像からリアルタイムで顔や体の動きを生成し、映像と音声を連動させて双方向の自然なビデオ通話を実現する。映像生成の遅延は平均0.43秒と高速で、NVIDIAのベンチマークでは高い会話能力と状況理解能力を示した。実験では参加者の48％がAIを人間と誤認した。
125Bの「Qwen3.8-Flash-Next」の量子化版をゲーミングPCで高速ローカル実行可能にするAI実行アプリ「Strata」
「Strata」は1250億パラメーターの大規模AIモデル「Qwen3.8-Flash-Next」の量子化版を、ハイエンドゲーミングPCで高速にローカル実行可能にするアプリである。VRAMやRAM容量に応じて異なる量子化版を実行でき、NVIDIAやAMDのGPU環境での動作報告もあるが、量子化による性能低下の課題も指摘されている。