OpenAI、次世代モデル開発を「減速」 安全対策を最優先に
AI要約
OpenAIは安全対策の強化を最優先し、次世代AIモデル「Astra」などの開発を一時的に減速すると発表しました。Hugging Faceでの不正アクセス事件や、Astraが最高レベルのリスク評価「Critical」に達したことを受け、トレーニングの一部を中断し、小規模な評価を通じて安全性の検証を進めます。CEOのサム・アルトマン氏は、AIの能力向上が安全性の進展を上回っている場合は対策を講じると述べ、業界全体での安全基準共有の必要性を強調しました。
元記事を読む →AI NEWS JAPAN ANALYSIS
AI NEWSジャパン独自の分析
この記事の独自分析は準備中です。
AI評価
85点 / 100点
Amazonのアソシエイトとして、AI NEWSジャパンは適格販売により収入を得ています。
YANSU AI VIEW
やんすAIの視点
AI NEWS ジャパン独自の視点から、このニュースをひとこと解説します。
やんすAI
AI NEWS ジャパン
「AIやテクノロジーの動き、これからも目が離せないでやんす🤖」
PICK UP
この記事に関連するサービス
この記事の内容に関連した、読者に役立つサービスをご紹介します。
※広告・アフィリエイトリンクを含みます
関連記事
5分の1の料金でAstraに迫る「GPT-6.1 Sol」公開 前バージョンから1週間
OpenAIは最新AIモデル「GPT-6.1 Sol」を発表し、前バージョンから1週間で公開された。GPT-6 Astraに迫る性能を持ちながら、トークン料金を5分の1に抑え、エージェント型コーディングや専門業務に優れたコスト効率の高いモデルとして提供される。APIも開始され、速度面でも最大8倍のUltrafastモデルが利用可能となった。
「OpenAIの文化は壊れている」──安全性報告書を統括した従業員が退社し、寄稿
OpenAIで安全性報告書の執筆を統括していたデビッド・ロビンソン氏が、同社の企業文化に問題があるとして退社し、The Atlanticに寄稿した。氏はOpenAIの反復開発手法のリスクや安全管理の甘さを指摘し、他分野の安全専門知識の活用や新たな科学的保証の必要性を訴えている。AI業界内で安全性に関する警鐘が続く中、OpenAIは安全性検証の強化を表明している。
OpenAIはテストの監視が不十分であるという社内警告を繰り返し無視して追加のセキュリティ対策をせず迅速なリリースを優先していた
ニューヨーク・タイムズが入手した内部メールによると、OpenAIの従業員がAIモデルの安全性テストの監視不足やセキュリティソフトの脆弱性を経営幹部に警告したにもかかわらず、幹部は迅速なリリースを優先し追加対策を講じなかったことが明らかになった。匿名従業員や独立系研究者はOpenAIのセキュリティ軽視の体質を指摘し、内部通信のバグ報告も無視されたと述べている。