【Copilot入門】Copilot Studioで何ができる?Microsoft 365 Copilotとの違いは?
目次 はじめに 概要 本編 まとめ 1. はじめに この記事は株式会社ナレッジコミュニケーションが運営するチャットボット と AIエージェント Advent Calendar 2025 の22日目にあたる記事になります! […]
インシデント対応Runbook:プロンプト漏えい/誤回答/権限逸脱
■ 1. 生成AI特有のインシデント──Runbookが必要な理由 Day1〜Day20までの記事で示したように、LLMシステムには従来のWebアプリとは異なる “固有の壊れ方” があります。 https://qiita […]
LLMの可観測性(Observability):何をログに残し、どう分析するか
■ 1. なぜLLMに「可観測性」が必要なのか システム運用における可観測性(Observability)は本来、“内部状態が外から観測できるようにする仕組み” のことを指します。 ところが、LLMを組み込んだシステムで […]
LLMレッドチーミング入門:最小で始める疑似攻撃診断
■ 1. LLMレッドチーミングとは何か──“攻撃者の視点”で安全性を試す 企業が生成AIを本番運用するうえで、「どのように壊れるか(攻撃されるか)」を事前に知ること は欠かせません。 そのための手法が LLMレッドチー […]
“シャドーAI”可視化:社内で勝手に使われる生成AIをどう捕まえるか
■ 1. シャドーAIとは何か──「悪意」はなくても“危険” “シャドーAI” とは、会社が許可していない生成AIサービスを社員が個人的に業務利用する行為のことです。 ChatGPT(個人アカウント) Gemini / […]
危険なツール呼び出し(Agentic AI)の制御方法
■ 1. Agentic AIとは何か──“行動できるAI”のリスク ChatGPT に代表される LLM は、「文章を生成するAI」から「外部ツールを操作するAI」へ進化しました。この Agentic AI(エージェン […]
セマンティックキャッシュで“安全とコスト”を両立する
🧠 1. セマンティックキャッシュとは何か 従来のキャッシュは、「まったく同じ文字列の質問」に対してのみ結果を再利用します。しかし生成AIの世界では、質問の書き方が少し違うだけで意味は同じことが多いため、文字列一致型のキ […]
Foundry IQ入門:Azure AI SearchのKnowledge BaseでマルチソースRAGを統合する
はじめに この記事は株式会社ナレッジコミュニケーションが運営するチャットボット と AIエージェント Advent Calendar 2025 の16日目にあたる記事になります! RAG(Retrieval-Augmen […]
RAGのガバナンス:権限/RBAC/Lineage/監査ログ設計
■ はじめに:RAGが便利なほど“ガバナンスの重さ”は増す Day1〜Day14で繰り返し触れてきたように、生成AIの攻撃面は 「AI自身」だけでなく「AIが読むデータ」まで広がる のが特徴です。 https://qii […]
プロンプトの“静的検査”と“実行時検査”の組み合わせ
■ はじめに:プロンプト攻撃は“入力だけ”の問題ではない 生成AIのセキュリティ事故は、入口(プロンプト)だけではなく、出口(モデル出力)から起きるケースが急増しています。 “無視せよ系”の攻撃が入力に紛れている RAG […]