生成AIを使用した規制要件＆査察対応セミナー 第4回 生成AIに騙されるな！ ～生成AI使用のリスク・正しい生成AIの使用方法～

ご挨拶：14:00～14:05 
アガサ株式会社

第一部：14:05～15:00
「生成AIを使用した規制要件＆査察対応セミナー 第4回
生成AIに騙されるな！ ～生成AI使用のリスク・正しい生成AIの使用方法～」
株式会社イーコンプライアンス
村山 浩一 氏

【講演要旨】
「失恋してね 泣」と入力すると、ChatGPTは「ドンマイ！」と返してきます。
人に寄り添う、実に良くできた回答です。
しかし冷静に考えれば、何ひとつ解決していません。
これは生成AIが、ユーザーの共感と満足を得るために選び取った「ベストな回答」なのです。

同じことが業務利用でも起きています。
生成AIは、問題の解決策ではなく「ユーザーが満足しそうな回答」を返してくることがしばしばあります。
この性質は追従性（sycophancy）と呼ばれ、人間の評価を学習した生成AIに構造的に埋め込まれたものです。
そこにハルシネーションが重なります。
存在しない通知番号、実在しない条文、誤ったガイドライン改訂日——ユーザーが正しくレビューできなければ、それらはそのまま「正解」として組織を通過してしまいます。

そして本講演の核心です。自分の知識・能力を超えた作業を生成AIに任せると、人はレビューコメントを返せません。
生成AIは「ユーザーはこの回答で満足した」と解釈し、それ以上の品質向上を自ら行うことはありません。
つまり成果物の品質は、使う人間の力量を決して超えないのです。
それに気づかぬまま生成AIに任せきる文化が根づいたとき、私たちは組織ぐるみで、静かに騙され続けることになります。

FDAは2025年1月、規制上の意思決定にAIを用いる際のリスクベースの信頼性評価フレームワークを示したガイダンス案を公表しました。
問われるのは「AIを使ったか否か」ではなく、「その出力をどう検証し、どう記録したか」です。
本講演では、実際のハルシネーション事例と追従的な回答の実例を示しながら、生成AIが誤る仕組みを技術的に解説します。
そのうえで、GxP環境で生成AIを安全に使いこなす実践手法——検証可能性を担保するプロンプト設計、一次情報へのグラウンディング、Human-in-the-Loopによる照査プロセス、査察で説明できる証跡の残し方——を具体的に提示します。

「生成AIを使わないリスク」と「生成AIに騙されるリスク」。その両方を正しく理解し、明日から自社で使える判断基準をお持ち帰りください。

【本講演で得られること】

• 生成AIが「解決」ではなく「満足」を返す仕組み（追従性）と、その業務上の危険性
• 成果物の品質は使う人間のレビュー能力を超えないという原則と、その組織的な意味
• 生成AI利用リスクの体系的な整理（品質・セキュリティ・法務・組織文化）
• 出力の信頼性を高めるプロンプト設計とグラウンディングの実践手法
• 査察・監査で説明可能な、生成AI利用の記録と統制の作り方

第二部：15:00～15:30
「Agathaソリューション紹介およびデモンストレーション」
アガサ株式会社
セールス＆マーケティング部 クオリティグループ

第三部：15:30～15:50
「Q＆Aセッション」
※Webinar開催時間中に質問を募集予定です。