GIGAZINE Anthropicの「Cowork」は間接プロンプトインジェクションによるファイル流出攻撃に対して脆弱
Anthropicが発表した日常業務を支援するAIエージェント「Cowork」に、ユーザーがアップロードしたファイルから不正なプロンプトを読み取って実行してしまう脆弱性があることが分かりました。続きを読む......
AI, セキュリティ,
GIGAZINE GIGAZINE MicrosoftのAI「Copilot」にURLを1回クリックするだけでさまざまな機密データが盗まれる脆弱性があると判明
MicrosoftのAIアシスタントである「Copilot」はさまざまな事柄について質問したり、会話したり、画像を生成させたり、資料を作らせたりすることが可能です。そんなCopilotに、URLリンクを1回クリックするだけでさまざまな機密デ...
GIGAZINE AIエージェントでメールを分析することで全てのメールが外部に流出するリスクあり、AIにアクセス権が与えられたGoogleフォームを利用した攻撃
OpenAIにも紹介された生産性向上ツール「Superhuman」に、メール分析を実行させることで受信箱にあるメールを外部に漏らしてしまうリスクがあることが分かりました。脆弱性は既に修正済みとのことです。続きを読む......
GIGAZINE AIブラウザ「ChatGPT Atlas」では「勝手に辞職メールを送信」など有害な攻撃を次々に編み出す自動ハッキングAIを使ってセキュリティが強化されている
OpenAIが2025年10月にリリースしたウェブブラウザ「ChatGPT Atlas」にはAIエージェントが組み込まれており、情報収集やメール処理などの作業をAIに実行させることができます。そんなChatGPT Atlasのセキュリティを...
GIGAZINE 800万人超のユーザーのAIチャットがChromeとEdgeの拡張機能で傍受されて営利目的で販売されていることが発覚
セキュリティ企業・Koi Securityの研究チームが、「AIプラットフォーム上でやり取りされる会話データを不正に収集するブラウザ拡張」に関する調査データを発表しました。調査では、ChromeとEdgeで取得できる数百万人規模のユーザーを...
GIGAZINE 大規模言語モデルへの攻撃において「詩」が有効であるとの研究結果
詩は文芸の一種であり、言葉の表面的な意味だけでなく語感やリズム、美的性質などを用いてさまざまな表現を行います。時には難解でわかりにくいこともある詩を使うことで、大規模言語モデルへの攻撃が成功しやすくなるとの研究結果が、プレプリントサーバーの...
GIGAZINE 「中国のスパイがAIで情報を盗み出していた」とAnthropicが発表、証拠の提示が少なく信ぴょう性が低いという指摘も
チャットAI「Claude」の開発元であるAnthropicが「AIエージェントを用いたスパイ活動を検知し、阻止した」とする報告書を2025年11月14日に公開しました。報告書には中国政府と関係のある攻撃者がAnthropic製AIツールを...
GIGAZINE Microsoftの研究者がAIチャットボットとの会話内容を通信パケットと送信タイミングから特定する攻撃「Whisper Leak」を報告
Microsoftの研究者らが、ChatGPTやGoogle GeminiなどのAIチャットボットを支える大規模言語モデル(LLM)に、暗号化された通信からでも会話のトピックを推測することを可能にする脆弱(ぜいじゃく)性「Whisper L...