2026年8月20日、千曲商工会議所青年部様にて、企業向けAIセミナーの第3回を実施いたしました。お忙しい中ご参加いただいたみなさま、誠にありがとうございました。

第3回のテーマは「正しく怖がって、使い倒す。」。第1回で「AIの正体を知る」、第2回で「実際に作ってみる」ところまで進みましたので、今回は安心して使い続けるための「守り」の回としました。

当日お伝えした内容

冒頭は、Googleの「NotebookLM（ノートブックエルエム）」に原稿を読み込ませて作った解説動画を上映するところから。ナレーションも画面の図も自動で、人は動画編集を1秒もしていません。自社の業務マニュアルや商品資料を読ませれば、そのまま社内向けの説明動画になります、というご紹介です。

そのうえで、生成AIの3つのリスクを、実際に起きた事故と一緒に振り返りました。

• AIは、もっともらしい「うそ」をつく（ハルシネーション）
  米国の弁護士が、AIの作った実在しない判例を裁判所に提出してしまった件。大手航空会社のチャットボットが規定と違う案内をして、賠償を命じられた件。政府に納めた報告書に存在しない文献が入っていて、契約金の一部を返金することになった件。
• 入れた情報は、「戻ってこない」（入力データの学習利用）
  社員が機密のプログラムや会議の録音内容をAIに入力してしまい、全社で生成AIが一時禁止になった件。3人とも悪意はなく、ただ仕事を早く終わらせたかっただけ、というところが要点です。
• AIは、「読んだ文章」にだまされる（プロンプトインジェクション）
  販売店のチャットボットが、言葉巧みに誘導されて新車を「1ドルで売る」と答えてしまった件。カレンダーの予定に仕込まれた“人には見えない命令”によって、家の照明やシャッターが動かされた実証実験（研究チームによる実証で、実際の被害が出た事例ではありません。現在はメーカー側で対策済みです）。

番外編として、ビデオ会議に出てきた上司も同僚も全員AIの作ったニセモノで、約38億円を送金してしまった海外の事件もご紹介しました。自社がAIを使っていなくても、AIを使った攻撃のほうからやってくる時代です。「急ぎ・極秘・送金」の3点セットが来たら、電話など別の手段で本人確認を、とお伝えしました。

会社としての備えは「ルール・道具・人」

個人の注意力に頼っていると、いつか抜けます。チームで使うなら仕組みで守る、ということで、事故を防ぐ3つの視点を整理しました。

• ルール・ガイドライン… 入れていい情報とダメな情報を決める。外に出す前は人が確認する、を明文化する
• ツールの選定… 法人向けプランなら学習に使われない。公認の道具を決めて、こっそり使う“野良AI”を防ぐ
• 人材教育… リスクごと知る場を社内にも。合言葉は「AIの答えは下書き」

一度に全部そろえる必要はありません。まずは「うちのAIルール」をA4・1枚作るところから。それだけで、事故の大半は防げます。

後半は、ご要望にお応えした実演を2つ

第2回のアンケートでいただいたご要望にお応えして、その場での実演も行いました。ひとつは「集客の方法を知りたい」という声を受けて、スマホの写真1枚から、Googleマップ（ビジネスプロフィール）の投稿文をAIに作らせて掲載するまでの流れ。もうひとつは「見積もりをPDFにしてメールを送りたい」という声を受けて、見積書づくりからメールの下書きまでをひとつづきで、という流れです。

ただし、下書きまではAIがやっても、送信ボタンは人が押す。ここは変えずにおきましょう、というのが今回の締めくくりでした。

「こわいから使わない」が、いちばんのリスク

リスクを知っている会社ほど、安心してAIに仕事を任せられます。危ないところが分かっていれば、どこまで任せていいかを自分で決められるからです。

本セミナーは今後も継続して開催させていただく予定です。ご興味のある方は、千曲商工会議所青年部様までお問い合わせください。

引き続き、地域の企業様のAI活用を後押しできるよう取り組んでまいります。