GIGAZINE 大規模言語モデルへの攻撃において「詩」が有効であるとの研究結果
詩は文芸の一種であり、言葉の表面的な意味だけでなく語感やリズム、美的性質などを用いてさまざまな表現を行います。時には難解でわかりにくいこともある詩を使うことで、大規模言語モデルへの攻撃が成功しやすくなるとの研究結果が、プレプリントサーバーの...
AI, セキュリティ,
GIGAZINE GIGAZINE 「中国のスパイがAIで情報を盗み出していた」とAnthropicが発表、証拠の提示が少なく信ぴょう性が低いという指摘も
チャットAI「Claude」の開発元であるAnthropicが「AIエージェントを用いたスパイ活動を検知し、阻止した」とする報告書を2025年11月14日に公開しました。報告書には中国政府と関係のある攻撃者がAnthropic製AIツールを...
GIGAZINE Microsoftの研究者がAIチャットボットとの会話内容を通信パケットと送信タイミングから特定する攻撃「Whisper Leak」を報告
Microsoftの研究者らが、ChatGPTやGoogle GeminiなどのAIチャットボットを支える大規模言語モデル(LLM)に、暗号化された通信からでも会話のトピックを推測することを可能にする脆弱(ぜいじゃく)性「Whisper L...