生成AIを社内で安全に使う運用ルール|情報漏洩を防ぐ基本

生成AIを社内で安全に使う運用ルール

ChatGPTなどの生成AI(文章や画像を作るAI)は、仕事の手間を減らすツールとして役に立ちます。一方で、使い方をまちがえると、会社の情報が外にもれるおそれがあります。「便利そうだが、会社の情報を入れて大丈夫なのか」と不安に思う社長も多いはずです。

この記事では、中小企業が生成AIを社内で安全に使うための、基本の約束と考え方を説明します。むずかしい規程を作る前に、まず決めておきたい最低限のことに絞りました。ツールの選び方は、生成AI業務効率化ツール比較で説明しています。

この記事でわかること

  • 生成AIを仕事で使うときの、4つの危ないところ
  • AIに入れてよい情報と、入れてはいけない情報の分け方
  • 使うAIサービスで確かめておく設定
  • 社員全員で守る、4つの約束の例

生成AIを使うときの4つの危ないところ

生成AIを仕事で使うときに、気をつけたい点は主に4つあります。

  • 情報がもれる:入れた内容が、AIの学習(AIを賢くするための材料)に使われる場合がある。扱いはサービスや設定で違う
  • まちがった答えが出る:AIは、もっともらしい言い方でまちがいを答えることがある。これを「ハルシネーション」と呼ぶ
  • 著作権の問題:AIが作った文章や絵が、他人の作品に似てしまう場合がある
  • 責任があいまいになる:AIが作った書類でも、使った責任は会社と人が負う

たとえば、営業の担当者がAIに作らせた見積の説明文に、まちがった数字が入っていたとします。お客様に出してしまえば、「AIがまちがえた」では通りません。4つの点を知ったうえで、社内の約束を決めることが最初の一歩です。

入れてよい情報・入れてはいけない情報を分ける

いちばん大切なのは、「AIに入れてよい情報」と「入れてはいけない情報」を、会社として決めておくことです。情報を3つに分けると、社員が迷わずにすみます。

情報の3つの分け方

分け方 具体的な例 判断の目安
入れてよい 一般的な文の下書き・公開済みの情報の要約・案出し もれても困らないもの
気をつけて使う 社内の数字・仕事の進め方の細かい中身 名前や数字を消してから使う
入れてはいけない お客様の個人情報・契約の中身と金額・社外秘の技術 もれると法律や取引の問題になるもの

「名前を消して使う」とは、相手が分かる部分を抜いて頼むことです。たとえば、「A社の田中様からの問い合わせに返信したい」とは書きません。「お客様から商品について問い合わせが来た。返信の文を作ってほしい」と書きます。会社名や名前は、できた下書きに担当者があとから書き足します。

具体的にどんな情報がどちらに入るかを、表にまとめました。

入れてよい情報と、入れない情報の例

入れてよい情報(目安) 入れない情報
業界の一般的な知識や動き 取引先の会社名・担当者名・連絡先
公開済みの情報・自社サイトの内容 お客様の名前・住所・電話番号
作り話の例・見本のデータ 社内の未公開の情報・社外秘
すでに発表した会社の情報 決算の数字・原価・未公開の契約
名前を消したメールの文 社員の個人情報・評価・給与

迷ったときに使えるように、入れる前の確かめ方を図にしました。次の図は、AIに情報を入れる前に、どの順で確かめるかを示しています。

AIに情報を入れる前の確認の流れ。個人情報があれば入れない。社外秘があれば名前を消してから使う。どちらも無ければ使ってよい、という図。

事務の担当者が、お客様の名簿をAIで整理したいと考えたとします。名簿には個人情報が入っているので、そのままでは入れません。名前や電話番号を消した表に作り直すか、AIを使わずに整理するかを選びます。

国の注意と、個人情報の扱い

個人情報保護委員会は、個人情報の扱いを見守る国の機関です。この委員会は、2023年6月2日に「生成AIサービスの利用に関する注意喚起等」を出しました。会社などの事業者に向けて、次の点を示しています。

  • 個人情報を含む内容をAIに入れるときは、その個人情報を集めたときの目的の範囲に収まるかを十分に確かめる
  • 本人の同意なく個人データを入れ、それが答えを出す以外の目的に使われると、法律に反するおそれがある。入れるなら、AIの会社がそのデータを学習に使わないことなどを十分に確かめる

つまり、お客様の名前や連絡先をAIに入れることは、会社にとって法律の問題にもなりえます。お客様の個人情報は、AIに入れないことを基本の約束にするのがいちばん安全です。この記事は一般的な説明です。個別の判断は、弁護士などの専門家に相談してください。

使うAIサービスの設定を確かめる

生成AIのサービスは、プランや設定によって、入れた情報の扱いが違います。

  • 会社向けのプランでは、入れた内容を学習に使わない決まりのものが多い
  • 個人向けの無料プランでは、入れた内容が学習に使われる設定が最初から有効な場合がある
  • 設定の画面で、学習に使わないように切り替えられるサービスもある

たとえば、社員が自分のスマートフォンに入れた無料のAIアプリを、仕事に使い始めたとします。会社はその設定を知らないままです。これを防ぐには、仕事で使うサービスとプランを会社で決め、その設定を一度確かめておきます。確かめるときは、各社の利用規約とプライバシーポリシー(個人情報の扱い方の決まり)を読んでください。

社員全員で守る4つの約束

「社員がAIを使い始めていたのに、約束を決めていなかった」という状態は避けたいところです。最初は、紙1枚に収まる短い約束で十分です。次の図は、約束の例を4つにまとめたものです。

社内の4つの約束として、1 決めたサービスを使う、2 個人情報は入れない、3 人が確かめる、4 迷ったら聞く、を並べた図。
  1. 仕事でAIを使うときは、会社が決めたサービスを使う
  2. お客様の個人情報や契約の中身は、AIに入れない
  3. AIが作ったものは、必ず人が確かめてから使う
  4. 迷ったときは、決めた担当者や上司に聞く

この4つだけでも、全員が同じ考えで動けば、多くのもめごとを防げます。たとえば朝礼で、社長がこの紙を配って5分説明するだけでも効果があります。くわしい規程を作るのは、社員がAIに慣れてからでも遅くはありません。

まちがえて入れてしまったとき

約束を決めても、まちがいは起こります。たとえば、新しく入った社員が、お客様の名前が入ったメールをそのままAIに貼り付けてしまったとします。このとき大切なのは、本人が隠さずにすぐ報告できることです。

報告を受けた担当者は、まず何を入れたかを本人と一緒に確かめます。次に、そのサービスで会話の履歴を消せるか、学習に使われる設定だったかを調べます。履歴を消しても、サービスの会社の側に一定の期間残る場合があります。お客様への影響が心配なときは、早めに専門家に相談してください。報告した社員を責めない決まりにしておくと、社員がすぐに報告しやすくなります。

AIの答えをそのまま信じない

生成AIは、もっともらしい文章を作るのが得意です。ただし、中身が正しいとは限りません。法律・制度・数字・会社や人の名前は、特にまちがいがまじりやすい部分です。

たとえば、社長がAIに補助金の締切を聞いたとします。AIの答えが、去年の日付だったということは起こりえます。大事な情報は、公式のサイト・法律の条文・専門家で必ず確かめる習慣を、社内に広げてください。

まとめ

生成AIを安全に使うために、むずかしい決まりは要りません。最初に「何を入れないか」と「だれが確かめるか」を決めることが大切です。要点は次の3つです。

  • AIに入れてよい情報と入れてはいけない情報を、会社として決める。お客様の個人情報は入れない
  • 仕事で使うサービスとプランを会社で決め、学習に使われるかの設定を確かめる
  • AIが作ったものは、人が確かめてから使う。大事な数字は公式の情報で確かめる

最初の一歩として、社長が上の4つの約束を紙1枚に書き、社員に配ってください。そのうえで、社内で使っているAIサービスの設定を一度だけ確かめると、多くの心配を減らせます。

関連記事

社内のAIルール整備もサポートします

「どこから手をつければいいか」から一緒に考えます。オンライン・全国対応の無料体験(60分)を受け付けています。

AI活用度 無料診断を受ける
無料体験(60分)はこちら

※この記事の図は、画像生成AIで作成したものです。