「AIが生成した文章であることを示す電子透かし」についてAnthropicが公式解説

AI要約

Anthropicは、EUのAI規制に対応するため、同社の大規模言語モデルClaudeが生成した文章に対して電子透かし（ウォーターマーク）を付与する仕組みを公式に解説しました。この透かしは肉眼で見えるものではなく、単語選択のパターンに基づくもので、Google DeepMindのSynthIDテキスト技術を活用しています。透かしは乱数ではなく特定の鍵に基づいて単語を選ぶため、文章中に特定のパターンが繰り返されることでAI生成の可能性を示します。ただし、透かしの検出はあくまで可能性の指標であり、確定的な判定はできません。透かし検出APIも近日提供予定で、出力品質や処理速度への影響はほぼありません。制限としては、他のAIの文章判定ができないことや短文・編集済み文章の判定が困難な点、人間による編集で透かしが除去される可能性があることが挙げられています。Anthropicは透かしが示すのはClaudeの関与の可能性であり、翻訳時には透かしが明確になると説明しています。