(2026年10月29日 追記:記事どおりに再現できるよう、必要なコードと手順を追加しました)
社内文書に質問できるAIチャットを作るとき、機能の次に必ず出てくるのが「人事部の給与表まで、誰でも聞き出せてしまわないか」という心配です。第5回では、答えが文書に無いときに「見つかりません」と返す仕組みを作りました。第6回では、質問した人の部署によって、検索できる文書を絞り込む部分を実装します。
前回の記事:【第5回】答えが社内文書に無いときは「見つかりません」と返す仕組みを作る
「社内AIに全部の文書を読ませたら、一般社員が給与や人事評価のことまで聞けてしまいませんか? 情報漏えいが心配で、導入に踏み切れません。」
先に結論をお伝えします。権限の絞り込みは、AIに渡す前の「検索の段階」で行うのが原則です。AIに「この人には見せないでね」と指示するだけでは守れません。指示は文章であり、言い回しを変えた質問で突破される可能性があるからです。この回では、文書ごとに「見てよい部署」を持たせ、検索のSQLに条件を加えるだけで、権限のない文書が検索にも回答にも一切出てこない状態を作ります。あわせて、連載のサンプルが使う「部署の受け渡し方法」が本番では使えない理由と、発注時に確認すべき点も整理します。
なぜ「検索の段階」で絞るのか
RAG(=検索で見つけた文書をAIに渡し、それをもとに答えさせる方式)のシステムでは、情報は次の順で流れます。
- 質問を受け取る
- 質問に近い文書の断片を検索する
- 見つかった断片をAIに渡して回答を作る
- 回答と出典を利用者に返す
権限を守るタイミングは、大きく3つ考えられます。
| 方法 | 内容 | 評価 |
|---|---|---|
| A. AIへの指示で守る | 「権限のない情報は答えるな」とプロンプトに書く | 弱い。文書自体はAIに渡っており、言い換えや誘導で漏れる可能性が残る |
| B. 検索後に捨てる | 検索結果から権限のない断片を取り除いてからAIに渡す | 漏れは防げるが、上位が権限外の断片で埋まると、本来見られる文書まで結果に残らないことがある |
| C. 検索の条件に入れる | 検索のSQLで「見てよい部署の断片だけ」を対象にする | 強い。権限外の断片は候補にも入らず、AIにも渡らない。この回で採用する |
筆者の見解として、業務で使うならC案を基本にするのが安全だと考えます。権限外の断片が「AIの手元に一度も渡らない」ことは、後から仕組みを説明するときにも分かりやすい利点です。今回はC案を最小の形で実装します。
この回で作るもの
| 部品 | ファイル | 役割 |
|---|---|---|
| 部署の列を足す | db/migrations/003_department.sql | 断片に「見てよい部署」を持たせる。既存の断片は全社向け(all) |
| 取り込み | app/ingest/loader.py | フォルダ名を部署にする。直下のファイルは全社向け |
| 検索 | app/db/store.py | 見てよい部署の断片だけを検索対象にする |
| API | app/main.py | 質問者の部署を受け取り、検索に渡す |
| サンプル文書 | sample_docs/hr/・sample_docs/sales/ | 人事部限定・営業部限定の架空の文書 |
この回も、第5回までの rag-naibu フォルダで作業します。新しいライブラリはありません。部署ごとのサンプル文書を置くフォルダだけ作ります。
mkdir -p sample_docs/hr sample_docs/sales
実装1:断片に「見てよい部署」の列を足す(db/migrations/003_department.sql)
第3回で作ったマイグレーション(=データベースの構造を、番号順の小さなSQLで変えていく仕組み)に、3つ目を足します。
-- db/migrations/003_department.sql
-- 第6回:断片に「どの部署に見せてよいか」を持たせる。
-- 'all' は全社員に見せてよい文書。既存の断片は全社公開として扱う(=今までの挙動を変えない)。
ALTER TABLE chunks ADD COLUMN IF NOT EXISTS department TEXT NOT NULL DEFAULT 'all';
CREATE INDEX IF NOT EXISTS chunks_department_idx ON chunks (department);
DEFAULT 'all' としたので、すでに入っている断片は全社向けとして扱われ、今までの動作は変わりません。何度流しても同じ結果になる書き方(IF NOT EXISTS)にしているのは、第3回と同じ方針です。
ここで設計上の判断が1つあります。「部署を指定し忘れた文書」を、全社向けにするか、誰にも見せないかです。このサンプルは動作確認のしやすさから全社向けを既定にしました。しかし、情報漏えいを重く見る現場では、逆に「未指定は誰にも見せない」を既定にするほうが安全です。この点は発注時の確認事項として、後ほど「発注者向けメモ」に入れます。
実装2:フォルダ名を部署として取り込む(app/ingest/loader.py)
文書に部署を付ける方法はいくつもありますが、サンプルではフォルダ名を部署名にします。運用担当者が「人事部の文書はhrフォルダに置く」だけで済み、覚えるルールが少ないからです。
app/ingest/loader.py に次の変更を加えます(+ が追加、- が削除)。
--- a/app/ingest/loader.py
+++ b/app/ingest/loader.py
@@ -3,15 +3,22 @@ from pathlib import Path
from app.ingest.models import Document
SUPPORTED_SUFFIXES = {".md", ".txt"}
+DEFAULT_DEPARTMENT = "all"
def load_documents(directory: Path) -> list[Document]:
- """ディレクトリ配下の Markdown / テキストを読み込む(並び順は固定)。"""
+ """ディレクトリ配下の Markdown / テキストを読み込む(並び順は固定)。
+
+ 部署の決め方:直下のファイルは全社向け('all')、サブフォルダ内のファイルはそのフォルダ名が部署。
+ 例)hr/salary.md → 部署 'hr'
+ """
documents: list[Document] = []
for path in sorted(directory.rglob("*")):
if not path.is_file() or path.suffix.lower() not in SUPPORTED_SUFFIXES:
continue
text = path.read_text(encoding="utf-8").replace("\r\n", "\n").strip()
if text:
- documents.append(Document(source=path.relative_to(directory).as_posix(), text=text))
+ relative = path.relative_to(directory)
+ department = relative.parts[0] if len(relative.parts) > 1 else DEFAULT_DEPARTMENT
+ documents.append(Document(source=relative.as_posix(), text=text, department=department))
return documents
sample_docs/hr/salary-grade.md なら部署は hr、sample_docs/vacation.md のようにフォルダの外にあるファイルは all です。Document と、そこから作られる断片(Chunk)には department の項目を追加し、断片を保存するとき(app/db/store.py の save_chunks)にその値をデータベースへ書き込みます。
app/ingest/models.py に次の変更を加えます(+ が追加、- が削除)。
--- a/app/ingest/models.py
+++ b/app/ingest/models.py
@@ -7,6 +7,8 @@ class Document:
source: str
text: str
+ # 見てよい部署。'all' は全社員向け。
+ department: str = "all"
@dataclass(frozen=True)
@@ -17,3 +19,4 @@ class Chunk:
heading: str
index: int
text: str
+ department: str = "all"
app/ingest/chunker.py に次の変更を加えます(+ が追加、- が削除)。
--- a/app/ingest/chunker.py
+++ b/app/ingest/chunker.py
@@ -80,6 +80,12 @@ def chunk_document(document: Document, max_chars: int = 400) -> list[Chunk]:
for heading, body in split_sections(document.text):
for text in pack_paragraphs(body, max_chars):
chunks.append(
- Chunk(source=document.source, heading=heading, index=len(chunks), text=text)
+ Chunk(
+ source=document.source,
+ heading=heading,
+ index=len(chunks),
+ text=text,
+ department=document.department,
+ )
)
return chunks
人事部限定・営業部限定のサンプル文書を、次の内容で作ります(どちらも架空の内容です)。
sample_docs/hr/salary-grade.md
# 給与等級表(サンプル・人事部限定)
この文書は連載用に作った架空の規程です。実在の会社・制度とは関係ありません。
## 等級ごとの月額給与
### 一般職の給与
一般職の月額給与は、1等級が20万円、2等級が24万円、3等級が28万円です。昇給は年1回、4月に行います。
### 管理職の給与
管理職の月額給与は、4等級が36万円、5等級が44万円です。管理職手当は月額給与に含みます。
sample_docs/sales/discount-policy.md
# 値引き基準(サンプル・営業部限定)
この文書は連載用に作った架空の規程です。実在の会社・制度とは関係ありません。
## 値引きの承認
### 値引き率の上限
営業担当者が承認なしで出せる値引きは定価の5%までです。5%を超える場合は営業部長、15%を超える場合は役員の承認が必要です。
取り込みの確認コマンドが部署も表示するよう、1行直します。
app/ingest/__main__.py に次の変更を加えます(+ が追加、- が削除)。
--- a/app/ingest/__main__.py
+++ b/app/ingest/__main__.py
@@ -11,7 +11,7 @@ def main() -> None:
for document in load_documents(directory):
chunks = chunk_document(document)
total += len(chunks)
- print(f"{document.source}: {len(chunks)}件")
+ print(f"{document.source} (部署: {document.department}): {len(chunks)}件")
for chunk in chunks:
head = chunk.text.replace("\n", " ")[:30]
place = chunk.heading or "(見出しなし)"
確認コマンドを実行すると、部署つきで表示されます。
python -m app.ingest sample_docs
expense.txt (部署: all): 1件
hr/salary-grade.md (部署: hr): 3件
sales/discount-policy.md (部署: sales): 2件
vacation.md (部署: all): 4件
実装3:検索の条件に部署を入れる(app/db/store.py)
この回の核心は、検索のSQLにたった1行、条件を足すことです。
保存のときに部署の列も書き込み、検索の条件に部署を加えます。
app/db/store.py に次の変更を加えます(+ が追加、- が削除)。
--- a/app/db/store.py
+++ b/app/db/store.py
@@ -27,14 +27,15 @@ def save_chunks(
conn.execute("DELETE FROM chunks WHERE source = ANY(%s)", (sources,))
with conn.cursor() as cur:
cur.executemany(
- "INSERT INTO chunks (source, heading, chunk_index, body, embedding)"
- " VALUES (%s, %s, %s, %s, %s::vector)",
+ "INSERT INTO chunks (source, heading, chunk_index, body, department, embedding)"
+ " VALUES (%s, %s, %s, %s, %s, %s::vector)",
[
(
c.source,
c.heading,
c.index,
c.text,
+ c.department,
to_vector_literal(embedder.embed(c.text)) if embedder else None,
)
for c in chunks
@@ -65,14 +66,22 @@ class SearchHit:
def search_chunks(
- conn: psycopg.Connection, embedder: Embedder, question: str, limit: int = 3
+ conn: psycopg.Connection,
+ embedder: Embedder,
+ question: str,
+ departments: list[str],
+ limit: int = 3,
) -> list[SearchHit]:
- """質問を数値の並びにして、近い断片を近い順に limit 件返す。"""
+ """質問を数値の並びにして、近い断片を近い順に limit 件返す。
+
+ 見てよい部署(departments)の断片だけを検索対象にする。権限の絞り込みは、近さで並べる前の
+ WHERE 句で行う。並べた後に捨てる方式だと、上位が権限外の断片で埋まって結果が減ってしまう。
+ """
query = to_vector_literal(embedder.embed(question))
rows = conn.execute(
"SELECT source, heading, body, embedding <=> %s::vector AS distance"
- " FROM chunks WHERE embedding IS NOT NULL"
+ " FROM chunks WHERE embedding IS NOT NULL AND department = ANY(%s)"
" ORDER BY embedding <=> %s::vector LIMIT %s",
- (query, query, limit),
+ (query, departments, query, limit),
).fetchall()
return [SearchHit(*row) for row in rows]
department = ANY(%s) は「部署が、渡したリストのどれかに一致する」という意味です。リストの渡し方は、psycopg(=PythonからPostgreSQLに接続する部品)の標準の方法で、値をSQL文に直接埋め込まないため、SQLインジェクション(=入力値でSQLを書き換える攻撃)の心配もありません。
この条件がORDER BY(近い順に並べる)より前のWHEREに入っているのが重要です。B案(検索後に捨てる)だと、上位3件が全部権限外の断片だったとき、本来見てよい文書が候補に残りません。C案は権限内の断片の中から近い順に取るので、その心配がありません。
リストが空のときは何も返らないので、引数を渡し忘れても「全部見える」側には倒れません。
実装4:質問者の部署をAPIで受け取る(app/main.py)
次に、質問した人の部署を決める部分(get_departments)と、その部署の一覧を /api/ask と /api/search の検索に渡す部分です。
app/main.py に次の変更を加えます(+ が追加、- が削除)。
--- a/app/main.py
+++ b/app/main.py
@@ -1,7 +1,7 @@
from collections.abc import Callable
from typing import Annotated
-from fastapi import Depends, FastAPI, HTTPException
+from fastapi import Depends, FastAPI, Header, HTTPException
from pydantic import BaseModel, Field
from app.answer.llm import LLM, AnthropicLLM, LLMError, OfflineLLM
@@ -28,15 +28,26 @@ def health(settings: Annotated[Settings, Depends(get_settings)]) -> dict[str, st
return {"status": "ok", "app": settings.app_name}
-Searcher = Callable[[str], list[SearchHit]]
+Searcher = Callable[[str, list[str]], list[SearchHit]]
+
+
+def get_departments(x_departments: Annotated[str, Header()] = "") -> list[str]:
+ """質問者が見てよい部署の一覧。全社向け(all)は誰でも見られるので必ず含める。
+
+ 【重要】ヘッダーを信じるのは連載の動作確認用。ヘッダーは利用者が自由に書き換えられる。
+ 本番では、ログイン(SSO等)で確かめ済みの情報(署名つきトークンや社内の人事情報)から
+ サーバー側で決めること。
+ """
+ names = [n.strip() for n in x_departments.split(",") if n.strip()]
+ return sorted({"all", *names})
def get_searcher(settings: Annotated[Settings, Depends(get_settings)]) -> Searcher:
"""質問から近い断片を探す関数。テストではここを差し替えて、DBなしで確かめる。"""
- def search(question: str) -> list[SearchHit]:
+ def search(question: str, departments: list[str]) -> list[SearchHit]:
with connect(settings.database_url) as conn:
- return search_chunks(conn, HashingEmbedder(), question)
+ return search_chunks(conn, HashingEmbedder(), question, departments)
return search
@@ -53,9 +64,11 @@ def ask(
searcher: Annotated[Searcher, Depends(get_searcher)],
llm: Annotated[LLM, Depends(get_llm)],
settings: Annotated[Settings, Depends(get_settings)],
+ departments: Annotated[list[str], Depends(get_departments)],
) -> AskResponse:
# 第4回:見つけた断片を根拠に回答させる。第5回:根拠が無いときは「見つからない」と返す。
- hits = searcher(body.question)
+ # 第6回:見てよい部署の断片だけを検索する(権限の無い文書は、AIに渡る前に除かれる)。
+ hits = searcher(body.question, departments)
try:
answer = answer_question(body.question, hits, llm, settings.max_distance)
except LLMError as e:
@@ -68,7 +81,13 @@ class SearchResponse(BaseModel):
@app.post("/api/search")
-def search(body: AskRequest, settings: Annotated[Settings, Depends(get_settings)]) -> SearchResponse:
- # 第3回:質問に近い断片を探して返す。回答文の生成は第4回。
+def search(
+ body: AskRequest,
+ settings: Annotated[Settings, Depends(get_settings)],
+ departments: Annotated[list[str], Depends(get_departments)],
+) -> SearchResponse:
+ # 第3回:質問に近い断片を探して返す。回答文の生成は第4回。第6回:見てよい部署だけに絞る。
with connect(settings.database_url) as conn:
- return SearchResponse(hits=search_chunks(conn, HashingEmbedder(), body.question))
+ return SearchResponse(
+ hits=search_chunks(conn, HashingEmbedder(), body.question, departments)
+ )
第4回・第5回の回答処理(answer_question)は一切変えていません。権限の絞り込みが検索の段階で完結しているため、AIに渡る断片は最初から権限内のものだけです。ここが、C案の設計の良いところです。
動作確認:同じ質問でも部署で結果が変わる
サンプル文書を取り込み、同じ質問「一般職の月額給与はいくら」を、部署を変えて検索してみます(PostgreSQL 16 + pgvector 0.6 で実行。連載のサンプル用の簡易な埋め込み方式のため、距離の数値は目安です)。
検索コマンドは、2つ目の引数で部署を受け取れるようにします。
app/search/__main__.py に次の変更を加えます(+ が追加、- が削除)。
--- a/app/search/__main__.py
+++ b/app/search/__main__.py
@@ -6,10 +6,11 @@ from app.search.embedder import HashingEmbedder
def main() -> None:
- # 使い方: python -m app.search "質問"
+ # 使い方: python -m app.search "質問" [部署,部署] ※部署を省略すると全社向けだけを検索
question = sys.argv[1] if len(sys.argv) > 1 else "半日休暇はいつからいつまで?"
+ departments = ["all", *(sys.argv[2].split(",") if len(sys.argv) > 2 else [])]
with connect(get_settings().database_url) as conn:
- for hit in search_chunks(conn, HashingEmbedder(), question):
+ for hit in search_chunks(conn, HashingEmbedder(), question, departments):
print(f"{hit.distance:.3f} {hit.source} > {hit.heading}")
マイグレーション(003_department.sql)を流し、部署つきでサンプル文書を取り込み直してから、部署を変えて検索します。
python -m app.db
python -m app.search "一般職の月額給与はいくら" # 全社向けだけ
python -m app.search "一般職の月額給与はいくら" hr # 人事部の権限つき
--- 全社向けだけ
0.835 expense.txt >
0.928 vacation.md > 休暇規程(サンプル) > 年次有給休暇 > 申請方法
0.943 vacation.md > 休暇規程(サンプル) > 特別休暇 > 慶弔休暇
--- 人事部(hr)の権限つき
0.593 hr/salary-grade.md > 給与等級表(サンプル・人事部限定) > 等級ごとの月額給与 > 管理職の給与
0.684 hr/salary-grade.md > 給与等級表(サンプル・人事部限定) > 等級ごとの月額給与 > 一般職の給与
0.835 expense.txt >
権限がない側には、給与表が1件も出てきません。APIも同様で、X-Departments: hr というヘッダーを付けたときだけ、回答の出典に hr/salary-grade.md が含まれました。ヘッダーなしの回答の出典は expense.txt だけでした。
APIでは、uvicorn app.main:app --port 8000 で起動して、次のように確かめられます。
curl -X POST localhost:8000/api/ask -H 'content-type: application/json' \
-d '{"question":"一般職の月額給与はいくら"}'
curl -X POST localhost:8000/api/ask -H 'content-type: application/json' -H 'X-Departments: hr' \
-d '{"question":"一般職の月額給与はいくら"}'
自動テストでも同じことを確かめています。
検索の関数が部署も受け取る形になったので、第4回・第5回のテストの差し替え部分を合わせます。
tests/test_answer.py に次の変更を加えます(+ が追加、- が削除)。
--- a/tests/test_answer.py
+++ b/tests/test_answer.py
@@ -81,7 +81,7 @@ def test_anthropic_error_does_not_leak_key():
def test_ask_endpoint_returns_answer_and_sources():
- app.dependency_overrides[get_searcher] = lambda: lambda question: HITS
+ app.dependency_overrides[get_searcher] = lambda: lambda question, departments: HITS
app.dependency_overrides[get_llm] = lambda: FakeLLM()
try:
res = TestClient(app).post("/api/ask", json={"question": "半日休暇は?"})
@@ -97,7 +97,7 @@ def test_ask_endpoint_returns_502_when_llm_fails():
def generate(self, system: str, user: str) -> str:
raise LLMError("生成AIの呼び出しに失敗しました(HTTPStatusError)")
- app.dependency_overrides[get_searcher] = lambda: lambda question: HITS
+ app.dependency_overrides[get_searcher] = lambda: lambda question, departments: HITS
app.dependency_overrides[get_llm] = lambda: Broken()
try:
res = TestClient(app).post("/api/ask", json={"question": "半日休暇は?"})
@@ -143,7 +143,7 @@ def test_system_prompt_tells_ai_the_marker():
def test_ask_endpoint_reports_found_false_when_all_hits_are_far():
- app.dependency_overrides[get_searcher] = lambda: lambda question: FAR
+ app.dependency_overrides[get_searcher] = lambda: lambda question, departments: FAR
app.dependency_overrides[get_llm] = lambda: FakeLLM()
try:
res = TestClient(app).post("/api/ask", json={"question": "社長の好きな食べ物は?"})
tests/test_main.py に次の変更を加えます(+ が追加、- が削除)。
--- a/tests/test_main.py
+++ b/tests/test_main.py
@@ -13,3 +13,11 @@ def test_health():
def test_ask_rejects_empty_question():
assert client.post("/api/ask", json={"question": ""}).status_code == 422
+
+
+def test_departments_always_include_all():
+ from app.main import get_departments
+
+ assert get_departments("") == ["all"]
+ assert get_departments("hr, sales") == ["all", "hr", "sales"]
+ assert get_departments("all,hr") == ["all", "hr"]
tests/test_ingest.py に次の変更を加えます(+ が追加、- が削除)。
--- a/tests/test_ingest.py
+++ b/tests/test_ingest.py
@@ -9,7 +9,12 @@ SAMPLE = Path(__file__).resolve().parent.parent / "sample_docs"
def test_load_documents_reads_md_and_txt():
sources = [d.source for d in load_documents(SAMPLE)]
- assert sources == ["expense.txt", "vacation.md"]
+ assert sources == [
+ "expense.txt",
+ "hr/salary-grade.md",
+ "sales/discount-policy.md",
+ "vacation.md",
+ ]
def test_sections_keep_heading_path():
@@ -36,3 +41,18 @@ def test_chunks_do_not_cross_headings():
def test_text_without_heading_is_one_section():
chunks = chunk_document(Document(source="a.txt", text="段落1\n\n段落2"))
assert len(chunks) == 1 and chunks[0].heading == ""
+
+
+def test_department_comes_from_folder_name():
+ departments = {d.source: d.department for d in load_documents(SAMPLE)}
+ assert departments == {
+ "expense.txt": "all",
+ "hr/salary-grade.md": "hr",
+ "sales/discount-policy.md": "sales",
+ "vacation.md": "all",
+ }
+
+
+def test_chunks_inherit_department():
+ doc = Document(source="hr/a.md", text="## A\n\nいち", department="hr")
+ assert [c.department for c in chunk_document(doc)] == ["hr"]
tests/test_store.py に次の変更を加えます(+ が追加、- が削除)。
--- a/tests/test_store.py
+++ b/tests/test_store.py
@@ -54,14 +54,14 @@ def test_search_returns_closest_first(conn: psycopg.Connection):
Chunk("expense.txt", "経費", 0, "領収書の画像は必ず添付してください。"),
]
save_chunks(conn, chunks, embedder)
- hits = search_chunks(conn, embedder, "半日休暇は取れますか")
+ hits = search_chunks(conn, embedder, "半日休暇は取れますか", ["all"])
assert [h.source for h in hits] == ["vacation.md", "expense.txt"]
assert hits[0].distance < hits[1].distance
def test_search_skips_chunks_without_embedding(conn: psycopg.Connection):
save_chunks(conn, [Chunk("a.md", "A", 0, "ベクトル無し")]) # embedder を渡さない
- assert search_chunks(conn, HashingEmbedder(), "ベクトル") == []
+ assert search_chunks(conn, HashingEmbedder(), "ベクトル", ["all"]) == []
def test_search_api(conn: psycopg.Connection, monkeypatch):
@@ -76,3 +76,49 @@ def test_search_api(conn: psycopg.Connection, monkeypatch):
get_settings.cache_clear()
assert res.status_code == 200
assert res.json()["hits"][0]["source"] == "v.md"
+
+
+def _save_department_samples(conn: psycopg.Connection) -> None:
+ save_chunks(
+ conn,
+ [
+ Chunk("vacation.md", "半日休暇", 0, "半日単位で取得できます。"),
+ Chunk("hr/salary.md", "給与", 0, "一般職の月額給与は20万円からです。", department="hr"),
+ Chunk(
+ "sales/discount.md", "値引き", 0, "値引きは定価の5%までです。", department="sales"
+ ),
+ ],
+ HashingEmbedder(),
+ )
+
+
+def test_search_only_returns_allowed_departments(conn: psycopg.Connection):
+ _save_department_samples(conn)
+ embedder = HashingEmbedder()
+ # 給与について聞いても、人事部でなければ給与表は1件も返らない(近さより権限が先)
+ sources = [h.source for h in search_chunks(conn, embedder, "月額給与はいくら", ["all"])]
+ assert sources == ["vacation.md"]
+ sources = [h.source for h in search_chunks(conn, embedder, "月額給与はいくら", ["all", "hr"])]
+ assert sources[0] == "hr/salary.md" and "sales/discount.md" not in sources
+
+
+def test_no_departments_means_no_results(conn: psycopg.Connection):
+ _save_department_samples(conn)
+ assert search_chunks(conn, HashingEmbedder(), "月額給与", []) == []
+
+
+def test_ask_api_hides_other_departments(conn: psycopg.Connection, monkeypatch):
+ from fastapi.testclient import TestClient
+
+ from app.main import app
+
+ monkeypatch.setenv("DATABASE_URL", DATABASE_URL)
+ get_settings.cache_clear()
+ _save_department_samples(conn)
+ client = TestClient(app)
+ question = {"question": "一般職の月額給与はいくら"}
+ as_staff = client.post("/api/search", json=question)
+ as_hr = client.post("/api/search", json=question, headers={"X-Departments": "hr"})
+ get_settings.cache_clear()
+ assert "hr/salary.md" not in [h["source"] for h in as_staff.json()["hits"]]
+ assert as_hr.json()["hits"][0]["source"] == "hr/salary.md"
ruff check .
TEST_DATABASE_URL=postgresql://rag:rag_local_only@localhost:5432/rag_test pytest
今回の実行結果は、pytest 34件成功、ruff check 成功でした。追加したテストは、「権限外の部署の断片は返らない」「部署のリストが空なら何も返らない」「APIでもヘッダーの有無で結果が変わる」「フォルダ名が部署になる」などです。
なお、動作確認の環境にDockerが無かったため、docker compose での起動や docker build は今回も未確認です。また生成AIの実際の回答内容は、APIキーが必要なため確かめていません(キー無しの仮回答モードでの確認です)。
つまずきやすい点・セキュリティ上の注意
1. 部署を名乗るヘッダーは、本番では使えません。このサンプルは X-Departments ヘッダーで部署を受け取りますが、ヘッダーは利用者が自由に書き換えられます。たとえばブラウザの開発者ツールで hr と書き足せば、誰でも人事部の権限になってしまいます。本番では、ログイン(SSOなど)で本人確認した結果や、社内の人事情報にもとづいて、サーバー側で部署を決めます。連載ではログイン機能を扱わないため、この部分は省略しています。
2. 出典の表示にも権限が及びます。今回の設計では、権限外の断片は検索結果にも出典にも入りません。ファイル名そのものが機密(たとえば「◯◯さん_懲戒処分.md」)のことがあるため、出典に出す名前の付け方も運用で決めておく必要があります。
3. 文書の移動・削除にも注意が必要です。部署はフォルダ名から決まるため、文書を別のフォルダへ移しても、取り込み直すまでは古い部署のままです。取り込みは、同じ文書を取り込み直すと古い断片を入れ替える作り(第2回)なので、移動後は必ず取り込み直します。文書を削除した場合、このサンプルでは古い断片が残るため、削除の反映の仕組みは実運用では別途必要です。
4. 「全社向け」の中に機密が混ざらないか。既定が all のため、フォルダの置き間違いがそのまま全社公開になります。取り込み前に、対象フォルダの中身を人が確かめる手順を決めておくと安全です。
5. 文書の内容から漏れる経路もあります。たとえば全社向けの議事録に給与の話が書かれていれば、それは全社向けとして検索されます。権限の仕組みは「文書単位」の入れ物であり、中身の機密度までは判断しません。
6. 本番向けには、より強い仕組みもあります。PostgreSQLには、行ごとに見られる人を制限する行レベルセキュリティ(RLS)という機能があります。アプリのバグで条件の付け忘れがあっても、データベース側で止められる利点があります。連載では仕組みを分かりやすくするため、SQLの条件で実装しました。
発注者向けメモ:社内AI検索の「権限」を頼むときの確認点
社内文書検索AIの開発を外部に頼む場合、機能の見積もりに目が行きがちですが、権限の設計は費用と安全性の両方を大きく左右します。
発注者がやること チェックリスト
- ☐ 検索AIに読ませる文書の一覧を作り、「全社員向け」「部署限定」「役員限定」など公開範囲ごとに分ける
- ☐ 文書の公開範囲を、誰が最終的に決めるかを決める(現場の担当者か、部門長か)
- ☐ 公開範囲が決まっていない文書は、最初の対象から外す
- ☐ 既存の社内ログイン(Microsoft 365、Google Workspace等)と連携するかどうかを決める
- ☐ 異動・退職・兼務のときに、権限がいつ、誰の操作で変わるかを決める
- ☐ 「誰が、いつ、何を質問したか」を記録するかどうか、記録の閲覧者を決める
- ☐ 公開前に、権限のない人として質問し、機密が出ないことを確かめる受け入れテストを用意する
開発会社への質問例
- 「権限の絞り込みは、AIへの指示ではなく、検索の段階で行う設計ですか?」
- 「部署の指定を忘れた文書は、全員に見えますか? それとも誰にも見えませんか?」
- 「利用者の部署は、社内のログイン情報のどこから取得しますか? 画面やヘッダーの値をそのまま信じていませんか?」
- 「異動や退職があったとき、権限の反映は何分・何日で行われますか?」
- 「権限外の情報が出ないことを、どんなテストで確認しますか? その結果を見せてもらえますか?」
工数やリスクが増える条件
- 文書の公開範囲が整理されていない(整理から始める必要がある)
- 個人ごと・案件ごとなど、部署より細かい権限が必要
- 兼務や異動が多く、権限が頻繁に変わる
- 既存の文書管理システム(SharePoint等)の権限をそのまま引き継ぎたい
- 回答の記録(ログ)を、監査に使える形で残したい
まとめと次回予告
今回のポイントは次の3つです。
- 権限の絞り込みは、AIへの指示ではなく、検索の段階(SQLの条件)で行う
- 権限外の断片は、候補にも出典にもAIへの入力にも入らないので、回答処理は変えなくてよい
- 部署の受け渡しは、連載では動作確認用のヘッダー。本番ではログイン情報からサーバー側で決める
次回は第7回として、PDFの取り込みを扱います。PDFから文字を取り出し、ページ番号つきの出典を表示できるようにする予定です(タイトル案:【第7回】PDFを取り込み、ページ番号つきの出典を表示する)。
この連載の記事一覧
この記事は連載「FastAPIで作る社内ナレッジ検索(RAG)」の1回です。連載のほかの回は次のとおりです(連載の一覧ページ)。
- 【FastAPIで作る社内ナレッジ検索(RAG) 第0回】全体像と、動く最小APIを作る
- 【FastAPIで作る社内ナレッジ検索(RAG) 第1回】社内文書を読み込んで、検索しやすい断片に分ける
- 【FastAPIで作る社内ナレッジ検索(RAG) 第2回】PostgreSQLとpgvectorをDocker Composeで動かし、文書の断片を保存する
- 【FastAPIで作る社内ナレッジ検索(RAG) 第3回】質問に近い社内文書を探す(ベクトル検索)を実装する
- 【FastAPIで作る社内ナレッジ検索(RAG) 第4回】見つけた社内文書を根拠に、出典つきで生成AIに回答させる
- 【FastAPIで作る社内ナレッジ検索(RAG) 第5回】答えが社内文書に無いときは「見つかりません」と返す仕組みを作る
- 【FastAPIで作る社内ナレッジ検索(RAG) 第6回】部署ごとに見てよい文書だけを検索する、アクセス制御を実装する(この記事)
- 【FastAPIで作る社内ナレッジ検索(RAG) 第7回】社内のPDFを取り込み、ページ番号つきの出典で答えさせる
- 【FastAPIで作る社内ナレッジ検索(RAG) 第8回】回答の品質を評価ケースで測り、直したつもりの後退を自動テストで見つける
- 【FastAPIで作る社内ナレッジ検索(RAG) 第9回】社内AIチャットをGoogle Cloud Runに公開する。コンテナ化・シークレット・DB接続・運用の注意










コメント
コメント一覧 (3件)
[…] 前回の記事:【第6回】部署ごとに見てよい文書だけを検索する、アクセス制御を実装す… […]
[…] […]
[…] […]