【第10回】AI Compliance研究会

講師：株式会社イーコンプライアンス 代表取締役 村山 浩一 ／ 合計 2時間10分

イーコンプライアンスでは、製薬業界・医療機器業界において規制要件の遵守や査察対応を行うための戦略的な生成AI活用方法を研究する「AI Compliance研究会」を月1回開催しています。本商品はその第10回（2026年6月3日収録、120分）を収めたものです。 本回は「生成AIが書いた文書を、もはや人間は見抜けない」という問題提起から始まります。フロンティアモデルの出力が人間の専門家による文書と区別できない水準に達した結果、SOP、バリデーション報告書、変更管理記録、CAPA、査察対応文書といったGxP文書において、完璧な見た目の中にもっともらしい誤りが紛れ込むリスクが現実のものとなっています。 テーマ1「生成AIの基本知識とハルシネーション対策」では、次のトークンを予測する仕組み、Temperature、RLHFといったLLMの基本構造を非エンジニア向けに整理し、ハルシネーションが確率モデルの構造上避けられない根本原因を解説します。産業領域別の発生率や、実際に起きた偽判例の引用事件、査読へのAI混入、医療チャットボットの偽論文引用といった事例を紹介したうえで、プロンプトエンジニアリング、RAG、Chain-of-Verification、マルチエージェントによるクロスチェック、組織プロセスという5層の対策モデルを整理し、Claude Cowork上での実演をご覧いただきます。 テーマ2「AIはうそをつく ― 人間のレビューには限界がある」では、Human in the Loopの前提が崩れつつある現実を直視し、オートメーションバイアス、社会的手抜き、レビュアーの知識上限、認知負荷とスピード圧、AI出力への不当な信頼という5つの構造的限界を事例とともに分析します。そのうえで、レビュー可能領域の明確化、5層の多重防御、チェックリスト、組織文化という対策の枠組みを示し、「AIを使っているか否かではなく、AIの限界を理解した運用設計があるか」が査察・監査の評価軸となることを提示します。

収録内容

• 【第10回】AI Compliance研究会2時間10分

配布資料

• 📄 Adversarial_Reviewer_Coworkプロンプト集.docx（購入後にダウンロード可能）
• 📄 第10回 AI Compliance研究会20260603.pptx（購入後にダウンロード可能）