Anthropic在籍の研究者2人も同調──「AIが人類を滅ぼしかねないと本気で考えている」
AI要約
米Anthropicの研究者2人が、同社を退社したジェイコブ・コクソン氏のAIによる人類滅亡のリスクに関する主張に同調し、個人的に今後10年以内にそのリスクが10％超と見積もっていることを明かした。彼らは現行モデルのリスクは低いとしつつも、再帰的自己改善による超知能のリスクを懸念し、AIの安全なアライメント手法が未確立であることや、開発競争の中で減速を望む声があることを指摘している。
元記事を読む →AI NEWS JAPAN ANALYSIS
AI開発者の安全重視と開発減速の内部圧力増加
Anthropicの研究者が個人としてAIの存在リスクを具体的に認識し、開発競争の中で安全なアライメント手法未確立を懸念している。これにより、同社の安全性研究者や高位従業員は開発速度の減速を求める動きを強め、企業内で安全優先の判断や開発方針の見直しが進む可能性が高まっている。
AI評価
85点 / 100点
Amazonのアソシエイトとして、AI NEWSジャパンは適格販売により収入を得ています。
YANSU AI VIEW
やんすAIの視点
AI NEWS ジャパン独自の視点から、このニュースをひとこと解説します。
やんすAI
AI NEWS ジャパン
Anthropicの研究者が個人としてAIの存在リスクを真剣に考えていることと、現行技術の限界や開発競争の問題点を具体的に示している点が注目される。
PICK UP
この記事に関連するサービス
この記事の内容に関連した、読者に役立つサービスをご紹介します。
※広告・アフィリエイトリンクを含みます
関連記事
アマゾン、Ring初のバッテリー式4K防犯カメラなど4機種
AmazonはホームセキュリティブランドRingの新製品4機種を発表し、Ring初のバッテリー給電対応4K屋外カメラ「Ring Outdoor Cam 4K Plus」などを10月7日より順次発売開始した。新製品は独自の映像技術「Retinal Vision」を搭載し、高画質映像と多様な給電方法を特徴としている。
IDCFクラウドへのランサム攻撃、495の企業・自治体に影響 一部には「復元難しい」との通達も
ソフトバンク子会社のIDCフロンティアが提供する法人向けクラウドサービス「IDCFクラウド」が10月7日に第三者によるランサムウェア攻撃を受け、495の企業・自治体に影響が及んだ。福島県白河市のデータセンターの一部システムが不正アクセスを受け、サービス停止や機能不具合が発生。複数の企業や自治体、サービスで障害が報告され、一部ではデータ復元が困難との通達もあった。
YouTubeショートの「おすすめ」がオリジナルコンテンツ優先に変更、他人のコンテンツを再アップロードするチャンネルは露出減少
YouTubeはショート動画のレコメンデーションシステムを更新し、オリジナルコンテンツを優先的に表示し、他者の動画を独自の要素なしに再アップロードするチャンネルの露出を減少させる方針を発表した。これにより、クリエイターの成長機会を確保し、視聴者体験の向上を目指す。