AIシステムはどのように失敗するのかをAnthropicが解説

AIモデル「Claude」をリリースしているAI企業のAnthropicが、「AIシステムの失敗はどこに原因があるのか」について研究結果を発表しました。研究では、従来は「AIが人間の意図を捉え損ねて出力に失敗する」と考えられていましたが、「まったく意味のない行動」を示す失敗も重要な要因であることが示されました。続きを読む……

このサイトの記事を見る