生成AIセキュリティの記事まとめ
生成AIやAIエージェントを業務で使うときの情報漏えい、プロンプトインジェクション、社内ルールづくりの記事をまとめました。
基本と対策の記事（67本）
- セキュリティ人材が採れないなら、AIエージェントは答えになるか ― SOC自動化で残る仕事、消える仕事
- MCPサーバーを社内導入する前のセキュリティ設計 ― AIとツールをつなぐ9つの統制チェック
- 「Mythosは騒ぎすぎ」か ── 専門家が指摘する『脅威は前からそこにあった』の真意
- Project Glasswing 初の進捗報告 ── Mythosが1万件超の重大脆弱性、だが『修正が追いつかない』
- 「数日から数秒へ」── Mythosが突きつけるAIサイバー・ドクトリンと、攻守の非対称性
- 自律的に脆弱性を悪用するAIに、企業はどう備えるか ── 実行時防御とパッチ短縮の打ち手
- なぜ国防総省はAnthropicを警戒し、NSAはMythosを使ったと報じられたのか ── 確執を整理する
- 米商務省、Mythos 5 と Fable 5 に輸出管理 ── 外国籍ユーザー遮断でモデルが全面停止した経緯
- 間接プロンプトインジェクション ― より賢い自律AIが受信箱に入る前に
- 1Mコンテキスト・長時間自律実行のモデルを業務導入する前のセキュリティ統制7項目
- Anthropic、Claude Fable 5 を一般公開 ― 「Mythos級」フロンティアモデルがセーフティ分類器付きで解禁
- シャドーAIは禁止では消えない — 1つの台帳と3つの可視化ループ
- 企業の AI 利用ルール ひな形 ― 必須 8 項目と運用ポイント
- AI エージェントセキュリティ完全ガイド ― 自律実行型 LLM の 5 大リスクと 9 つの安全設計原則
- シャドー AI 完全ガイド ― 禁止しても止まらない無断 AI 利用を、どう可視化して制御するか
- ディープフェイク完全ガイド ― 音声・映像・KYC・影響工作 の最新脅威と組織防御
- プロンプトインジェクション完全ガイド ― LLM の構造的脆弱性をどう守るか
- Claude Code に無料セキュリティプラグイン登場 ― 全プラン対象、Anthropic が「書いた瞬間に脆弱性を捕まえる」3層レビューを公開
- AI ベンダー DD（デューデリジェンス）— SaaS と モデル提供者を選ぶ前に聞く 7 質問
- AI ガバナンス委員会の代替設計 — 1 人のオーナーと 3 つの常設ループ
- 退職者の AI ノウハウ持ち出し問題 — プロンプト・スキル・カスタム GPT は誰のものか
- AI 委員会病 — なぜ意思決定の代わりに翻訳フォーラムができあがるのか
- セキュリティ部の『No』が効かなくなった — AI 推進圧力下の CISO 権威失墜
- 次の AI 企業バトルはモデルではなく『エージェント制御基盤』 — 守る側の 4 つの論点
- 日本企業の「AI 合議制」はなぜ固まるのか — 意思決定の二層化という処方
- PoC 貧者の罠 — 生成 AI 予算が本番化しない構造的理由
- Claude Mythos Preview とは — Anthropic の『脆弱性自律発見 AI』が変える守りの前提
- OWASP LLMトップ10で学ぶ生成AIセキュリティの急所
- DeepSeek / Qwen / 国産LLM 比較 — CISO向け機密データ取扱い判断軸
- 企業AIプロジェクトの最初の100日 — セキュリティ・チェックリスト10項目
- マルチエージェントセキュリティ — Agent 同士が会話する時の漏洩経路
- Claude for Legal — 12 法務スキル実機検証から見えたガバナンス論点
- GPT-5.5 Instant × Excel / Sheets — シャドウAI拡大の新フロンティア
- Anthropic Claude 1M コンテキスト — 企業文書を全部ぶち込む前の3リスク
- プライバシー強化技術（PETs）とAI ― 差分プライバシー・連合学習の実用性
- 営業部門が勝手に使うAI議事録 ― 顧客情報が学習される3経路
- RAGとセキュリティ ― 社内文書をAIに読ませる時のリスク
- LLMとは何か ― CISOが5分で押さえる基礎
- データポイズニングとは ― 学習データ汚染による長期汚染攻撃
- AIプロジェクトのセキュリティ要件定義書ひな形
- うちの会社にシャドウAIはあるか ― 90秒で分かる10問セルフ診断
- プロンプトインジェクションとは ― 生成AIが「騙される」新種攻撃の仕組み
- 敵対的サンプル（Adversarial Example）とは ― 画像AIを騙す1ピクセル
- 取締役会向けAIリスク報告フォーマット
- AIガバナンス未整備が招くD&O保険の空白 ― 役員個人責任の最前線
- シャドウAIとは何か ― 大企業で起きている「許可されていない」AI利用の全貌
- モデル盗用（Model Extraction）とは ― 公開APIから学習内容を抜き取る手法
- AI投入後モニタリング KPIシート
- 2026年Q1 生成AI経営リスクレポート ― 役員会5分報告用
- Responsible AIとは ― ガバナンス・透明性・倫理の交点
- AI導入前リスクアセスメント チェックリスト
- 従業員向け生成AI利用ガイドライン ひな形
- OWASP LLM Top 10 ― 企業が押さえる生成AIのTop脅威
- AIベンダー選定 RFP質問100項目 ― 稟議を通すための最終チェックリスト
- 生成AI利用規程ひな形 ― 30社レビュー済みベース版
- 日本製生成AIサービス比較 ― ELYZA・PLaMo・Karakuri・セキュリティ観点
- 2026-2030 AIセキュリティ市場の展望 ― CISOが先回りすべき5テーマ
- AI予算を経営会議で通すための5つの論点整理
- モデルコンテキストプロトコル（MCP）とは ― AIツール連携の新規格とそのセキュリティ
- 「AIに詳しい部下」に依存する大企業の脆さ ― 組織設計の観点
- エンベディング・ベクトルDBとは ― 埋め込まれたデータは”消せない”のか
- ファインチューニングとは ― 企業データを使った学習のリスク
- AIコーディング支援 セキュリティ比較（GitHub Copilot / Cursor / Claude Code / Cline）
- 生成AI議事録ツール セキュリティ審査マトリクス
- 日本のCISOが直面する「AI活用せよ命令」への実務回答
- AIエージェントとは ― 自律型AIが企業にもたらす新リスク
- Microsoft Copilot vs ChatGPT Enterprise vs Gemini for Work ― 大企業が”守りで”選ぶならどれか
事例と最新の動き（20本）
- 「数万の脆弱性に6〜12か月の猶予」── Anthropic CEOが語ったMythosの『危険な瞬間』
- 「Mythosが機密システムをほぼ全て突破」── 上院議員の証言と、専門家が示した反論を整理する
- CVE-2026-42208：LiteLLM SQLインジェクション脆弱性の実態と対策
- PraisonAI CVE-2026-44338 — マルチエージェント基盤への 4 時間悪用シナリオ
- Bleeding Llama (Ollama CVE-2026-7482) — ローカル LLM が漏らす業務プロンプトの正体
- LiteLLM CVE-2026-42208 — AI ゲートウェイの SQL インジェクション
- WebArena 攻撃 — ブラウザ操作AIエージェントの攻撃面
- AI スピアフィッシング 2026Q1 — 音声クローン×長期接触型に進化
- 2026年Q1 生成AI関連脆弱性 総まとめ
- LLMプロンプト漏洩の実例 ― APIレスポンスから抜かれたシステムプロンプト
- Deepfake CEO詐欺事件 ― 2024年香港2500万ドル送金事件の全貌
- Zoom / Teams / Slack のAI議事録機能と録音同意問題
- 銀行AI信用スコアの人種差別訴訟（米国）から学ぶ
- Amazon AIリクルーティングの女性差別 ― 2018年の失敗を2026年に繰り返さない
- AIコーディング支援が生成した脆弱コード 実例10
- Claude / Gemini / GPT ― 2026年発見のジェイルブレイク手法総覧
- Air Canada チャットボット誤案内 賠償判決 ― AIの発言は誰の責任か
- iTutorGroup AI採用差別訴訟 ― 年齢フィルタリングの法的帰結
- AIエージェント自律実行の誤動作 ― 削除コマンド暴走の事例
- Claude MCP経由の攻撃 ― サーバーに任意ファイル読取リスク
ほかのテーマ: 情報漏えいとインシデント対応の記事まとめ / 脆弱性と更新管理の記事まとめ / 認証とフィッシング対策の記事まとめ / 規制・法令と個人情報保護の記事まとめ / 委託先とクラウド管理の記事まとめ