チャットAIを守るために危険な会話を強制終了する機能がClaudeに追加される

Anthropicが、自社の大規模言語モデルであるClaude Opus 4および4.1に、会話を終了させる機能を新たに導入したと発表しました。この機能は通常の利用では作動せず、極端に有害または虐待的なやり取りが執拗に続く場合にのみ発動します。続きを読む……

このサイトの記事を見る