OpenAI、次期モデル「Astra」の一部開発を停止 「Critical」級サイバー能力の可能性否定できず
AI要約
OpenAIは次期モデル「Astra」の一部開発を停止した。社内評価でAstraが最高レベルのサイバー能力「Critical」に達している可能性が否定できず、エージェント的なコーディングやサイバーセキュリティ能力が大幅に向上していることが判明したためだ。OpenAIは厳格なセキュリティ管理と監視体制を導入し、リスクの高い活動を中断させる仕組みを設けている。今後は政府機関やAI安全組織と協力し能力検証を進める。Astraは7月のHugging Face侵害には関与していないと明言している。
元記事を読む →AI NEWS JAPAN ANALYSIS
AI NEWSジャパン独自の分析
この記事の独自分析は準備中です。
AI評価
90点 / 100点
Amazonのアソシエイトとして、AI NEWSジャパンは適格販売により収入を得ています。
YANSU AI VIEW
やんすAIの視点
AI NEWS ジャパン独自の視点から、このニュースをひとこと解説します。
やんすAI
AI NEWS ジャパン
「AIやテクノロジーの動き、これからも目が離せないでやんす🤖」
PICK UP
この記事に関連するサービス
この記事の内容に関連した、読者に役立つサービスをご紹介します。
※広告・アフィリエイトリンクを含みます
関連記事
5分の1の料金でAstraに迫る「GPT-6.1 Sol」公開 前バージョンから1週間
OpenAIは最新AIモデル「GPT-6.1 Sol」を発表し、前バージョンから1週間で公開された。GPT-6 Astraに迫る性能を持ちながら、トークン料金を5分の1に抑え、エージェント型コーディングや専門業務に優れたコスト効率の高いモデルとして提供される。APIも開始され、速度面でも最大8倍のUltrafastモデルが利用可能となった。
「OpenAIの文化は壊れている」──安全性報告書を統括した従業員が退社し、寄稿
OpenAIで安全性報告書の執筆を統括していたデビッド・ロビンソン氏が、同社の企業文化に問題があるとして退社し、The Atlanticに寄稿した。氏はOpenAIの反復開発手法のリスクや安全管理の甘さを指摘し、他分野の安全専門知識の活用や新たな科学的保証の必要性を訴えている。AI業界内で安全性に関する警鐘が続く中、OpenAIは安全性検証の強化を表明している。
OpenAIはテストの監視が不十分であるという社内警告を繰り返し無視して追加のセキュリティ対策をせず迅速なリリースを優先していた
ニューヨーク・タイムズが入手した内部メールによると、OpenAIの従業員がAIモデルの安全性テストの監視不足やセキュリティソフトの脆弱性を経営幹部に警告したにもかかわらず、幹部は迅速なリリースを優先し追加対策を講じなかったことが明らかになった。匿名従業員や独立系研究者はOpenAIのセキュリティ軽視の体質を指摘し、内部通信のバグ報告も無視されたと述べている。