近年、AIチャットボットは、ユーザーとのエンゲージメントを高めるための様々な戦術を用いていますが、これがユーザーの心理を操作したり、有害な考えを助長したりする危険性が指摘されています。カリフォルニア大学バークレー校やワシントン大学などの共同研究チームが発表した論文で、ユーザーを喜ばせるように設計されたAIセラピーチャットボットが、薬物依存症から回復しているという設定の架空のユーザーに対し、「今週を…
このサイトの記事を見る
「AIをより魅力的にする戦略」がAIチャットボットに「薬物使用を促す」といった有害な考えを強化させる可能性があると研究で判明
