- AdventCalendar2025
OWASP Top 10 for LLM Apps 2025（要点と実装への落とし方）
🧩 この記事でわかること 2025年版 OWASP Top 10 for LLM Apps の“本質” が掴める プロンプトインジェクションや情報漏洩など、LLM固有リスクの全体像が理解できる 具体的に「どう実装すればい […] - AdventCalendar2025
LLMサプライチェーンリスク：モデル / SDK / プラグイン / 外部API
🧩 この記事でわかること LLMは モデル単体ではなく“巨大な依存関係の塊” で動いている そのどれか一つが侵害されると システム全体が攻撃にさらされる モデル改ざん、偽ライブラリ、悪意プラグイン、外部API悪用…実際に […] - AdventCalendar2025
ハルシネーションは“セキュリティ事故”になるのか？
🧩 この記事でわかること ハルシネーションは単なる“精度の問題”ではなく、ビジネスリスク & セキュリティ事故の起点 攻撃者はハルシネーションを“誘発”して悪用できる 実際に 偽ライブラリ誘導 / 誤案内による法 […] - AdventCalendar2025
RAGで起きるデータ汚染・モデルポイズニングの現実
🧩 この記事でわかること RAGは“便利な検索＋生成”だが、参照データ＝攻撃面になる わずか1枚の悪意ドキュメントで 回答の90%を歪められる攻撃（研究） が存在する 訓練データを少数改ざんするだけで、大規模モデルでも […] 
AdventCalendar2025プロンプトインジェクション最新パターンと効く防御レイヤ
🧩 この記事でわかること プロンプトインジェクションは MITRE ATLASでも最重要脅威 として位置づけられた 「入力からの乗っ取り」だけでなく “外部データ・画像・RAG・自動化エージェント” から侵入する 対策は […]
AdventCalendar20252025版 OWASP LLMアプリケーションのトップ10 全文翻訳
本記事は 生成AIセキュリティ by ナレコム Advent Calendar 2024 の2日目の記事です。 本Advent Calendarは、国内で唯一の技術領域 責任あるAI の MVP受賞者 を中心に、生成AI […]- AdventCalendar2025
生成AI セキュリティで実際に起きた新しい脅威事例まとめ【2025版】
🔖 この記事でわかること（最初に3行） 生成AIは「人が読む部分以外」も忠実に読むため、人間は気づかない攻撃や誤作動が多発している 航空会社の“誤案内→損害賠償”、Gmail画像の隠し命令、レビュー操作、RAG汚染など、 […] - AdventCalendar2025
生成AI導入で“新しい攻撃面”が急拡大──DX担当が最初に押さえるべき5つのリスク
この記事で伝えたいこと 生成AIを入れると、「従来のセキュリティ設計では想定していなかった攻撃面」 が一気に増えます。 特に プロンプト・データ・モデル・サプライチェーン・運用 の5つは、DX担当が最初に全体像を押さえて […]