Mistral AIが小型モデレーションAI「Shieldstral」を公開、文章や画像を自然言語のルールで判定可能
AI要約
Mistral AIは、小型のモデレーションAI「Shieldstral」を発表しました。このAIは文章や画像を自然言語のルールに基づいて判定できるのが特徴です。コンテンツの適切性を効率的に判断する新たなツールとして期待されています。
元記事を読む →AI NEWS JAPAN ANALYSIS
AI NEWSジャパン独自の分析
この記事の独自分析は準備中です。
AI評価
88点 / 100点
Amazonのアソシエイトとして、AI NEWSジャパンは適格販売により収入を得ています。
YANSU AI VIEW
やんすAIの視点
AI NEWS ジャパン独自の視点から、このニュースをひとこと解説します。
やんすAI
AI NEWS ジャパン
「AIやテクノロジーの動き、これからも目が離せないでやんす🤖」
PICK UP
この記事に関連するサービス
この記事の内容に関連した、読者に役立つサービスをご紹介します。
※広告・アフィリエイトリンクを含みます
関連記事
無料で国のミッションクリティカル作業のために構築された主権AIモデル「Kolibri」、公共行政・産業・航空宇宙などの規制分野での使用が前提でオープンソースなだけでなく構築過程も透明化
ドイツのAIスタートアップAleph Alphaは、780億パラメータの主権AIモデル「Kolibri」を発表しました。公共行政や産業、航空宇宙などの規制分野向けに設計され、ドイツ語と英語に対応し、高効率かつ高性能な処理を実現しています。モデルの構築過程は透明化され、主権とコンプライアンスを重視。オープンソースで提供され、ドイツとフィンランドのインフラで欧州法に準拠してトレーニングされています。
「OpenAIの文化は壊れている」──安全性報告書を統括した従業員が退社し、寄稿
OpenAIで安全性報告書の執筆を統括していたデビッド・ロビンソン氏が、同社の企業文化に問題があるとして退社し、The Atlanticに寄稿した。氏はOpenAIの反復開発手法のリスクや安全管理の甘さを指摘し、他分野の安全専門知識の活用や新たな科学的保証の必要性を訴えている。AI業界内で安全性に関する警鐘が続く中、OpenAIは安全性検証の強化を表明している。
OpenAIはテストの監視が不十分であるという社内警告を繰り返し無視して追加のセキュリティ対策をせず迅速なリリースを優先していた
ニューヨーク・タイムズが入手した内部メールによると、OpenAIの従業員がAIモデルの安全性テストの監視不足やセキュリティソフトの脆弱性を経営幹部に警告したにもかかわらず、幹部は迅速なリリースを優先し追加対策を講じなかったことが明らかになった。匿名従業員や独立系研究者はOpenAIのセキュリティ軽視の体質を指摘し、内部通信のバグ報告も無視されたと述べている。