AI時代にはこれまで以上に「顔の良さ」が重要になる可能性がある、AIは人間以上に顔の偏見が強いため
AI要約
OpenAI、Google、AnthropicのAIモデルを対象にした研究で、AIが人間以上に顔に基づく偏見を持つことが明らかになった。特にGPT-4oは、人間が有能や信頼できると判断する顔を高い確率で選択し、偏見が人間よりも強く増幅されていることが示された。これはAIが学習データに含まれる人間の偏見を再現・増幅している可能性を示唆している。
元記事を読む →AI NEWS JAPAN ANALYSIS
AI導入企業の採用・評価基準見直しの必要性
AIを採用や評価に利用する企業は、AIが顔に基づく偏見を人間以上に強く持つことを踏まえ、AIの判断を鵜呑みにせず偏見検証や補正を徹底する必要がある。これにより、顔の良さに過度に依存した不公平な評価を避ける行動が増えると考えられる。
AI評価
85点 / 100点
Amazonのアソシエイトとして、AI NEWSジャパンは適格販売により収入を得ています。
YANSU AI VIEW
やんすAIの視点
AI NEWS ジャパン独自の視点から、このニュースをひとこと解説します。
やんすAI
AI NEWS ジャパン
研究では、顔の特徴を操作した画像ペアを用いてAIの判断を8000回以上試行し、AIの顔に基づく偏見の強さを定量的に評価した点が注目される。
PICK UP
この記事に関連するサービス
この記事の内容に関連した、読者に役立つサービスをご紹介します。
※広告・アフィリエイトリンクを含みます
関連記事
「OpenAIの文化は壊れている」──安全性報告書を統括した従業員が退社し、寄稿
OpenAIで安全性報告書の執筆を統括していたデビッド・ロビンソン氏が、同社の企業文化に問題があるとして退社し、The Atlanticに寄稿した。氏はOpenAIの反復開発手法のリスクや安全管理の甘さを指摘し、他分野の安全専門知識の活用や新たな科学的保証の必要性を訴えている。AI業界内で安全性に関する警鐘が続く中、OpenAIは安全性検証の強化を表明している。
OpenAIはテストの監視が不十分であるという社内警告を繰り返し無視して追加のセキュリティ対策をせず迅速なリリースを優先していた
ニューヨーク・タイムズが入手した内部メールによると、OpenAIの従業員がAIモデルの安全性テストの監視不足やセキュリティソフトの脆弱性を経営幹部に警告したにもかかわらず、幹部は迅速なリリースを優先し追加対策を講じなかったことが明らかになった。匿名従業員や独立系研究者はOpenAIのセキュリティ軽視の体質を指摘し、内部通信のバグ報告も無視されたと述べている。
Google、「Gemini 4 Pro」ではなく「Gemini 4 Agron」発表 まずはサイバー防御組織に限定提供、出力上限は100万トークンに
Googleは次世代AIモデル「Gemini 4 Argon」を発表し、まずは信頼できるサイバー防御組織に限定提供を開始した。最大出力は従来の6万4000トークンから100万トークンに拡大し、ソフトウェア開発やサイバーセキュリティ分野で高い性能を示している。安全対策を強化しつつ、一般提供は今後段階的に拡大する予定である。