Chat GPTの利⽤に伴うセキュリティリスク

セキュリティに課題を抱える企業を対象に独自のセキュリティサービスを提供されている、株式会社CISO 代表取締役 那須慎二様によるセキュリティコラム第4回。今回は、Chat GPTの利⽤に伴うセキュリティリスクについてご説明いただきます。

前回の記事は以下よりご確認いただけます。

• Web3.0の発展とセキュリティリスク

Chat GPTの利用に伴うセキュリティリスク【セキュリティコラム第4回】

Chat GPTの特徴とは

具体的な特徴としては以下のようなことが挙げられます。

・⾃然に対話ができ、⾔葉に違和感がない（AIっぽくない）

・⽂章を作る能⼒が⾼い。⼩説や詩、メールやレポートなどの⽂章の添削や校正、要約などでも活⽤ができる

・導き出される解答レベルが⾼い（⽶司法試験の上位10％に⼊る成績を叩き出すほど）

・プログラミングやソースコード、Excelの関数まで書ける

・ビジネスのアイデア出し（ブレストや壁打ち役）までできる

例えば、「顧客に◯◯を売る⽅法を考えてください」「◯◯のキャッチコピーを考えてください」など、マーケティングや新事業の考案等、幅広い質問に答えてくれます。

使いこなすことができればとても便利なものですが、⼀⽅でセキュリティ上のリスクについても、合わせて理解しておく必要があります。
特に、⼀般的に利⽤できるChatGPT（https://chat.openai.com/）では、⼀度でも⼊⼒された情報がAIの学習ソースとして活⽤されてしまい、永遠に取り出すことができなくなります。これは、インターネット上に⼀度でも 書き込んでしまうと削除しても残ってしまう「デジタルタトゥ問題（⾝体につけるタトゥのように、ウェブ上でデータやログがいったん記録されたら永続的に残り続け、消すことはできない）」と同様、もしくはそれ以上のリスクになる恐れもあります。

Chat GPTと情報漏洩リスク

例えば、以下のような情報を⼊⼒してしまうと、ChatGPTのモデル学習ソースとして取り込まれてしまい、情報漏洩リスクに発展する恐れがあるので、注意が必要です。

・売上を上げるために⾃社の売上数字や業績情報などの数字を⼊⼒してしまう

・取引先のことを知るために、会社名＋個⼈情報を⼊⼒してしまう

・内容の不備を⾒つけてもらうために、機密⽂章をコピぺして貼り付けてしまう

・内部の⼈しか知り得ない、⾃社の業務ノウハウ等を⼊⼒してしまう

・納期短縮や業務効率を更に向上させるために、⾃社の情報を詳しく⼊⼒してしまう

・新規開発の精度を上げるために、詳細な未公開情報を⼊⼒してしまう

また、⼊⼒した情報はアメリカのサーバに保存されてしまいますので、⽇本のノウハウが海外へ流出する問題へ発展する可能性にも気をつけないといけません。
「⼈の⼝に⼾は⽴てられない」といいますが、ChatGPTにおける情報流出リスクを回避するには、個⼈情報や機密情報など、業務上で機密と扱われている情報を⼊⼒しないことに尽きます。

最後に

尚、ChatGPTは法⼈利⽤が可能なモデルである「ChatGPT Enterprise」を発表しました。
⼊⼒した質問（プロンプト）や、企業内で利⽤されているデータは、学習ソースとして利⽤しないことと銘打っているため、情報漏洩対策としては効果が⾒込まれます。
また、マイクロソフト社が提供している「Azure Open AI Service」も同様に、Open AI社が提供しているGPTモデルを活⽤しながらも、⼊⼒されたデータを学習ソースとしては利⽤できないようになってます。

法⼈としてChatGPTを本格的に利⽤する場合は、上述したような「学習ソースとして⾃社のデータは利⽤せず、分離している」と、情報漏洩対策を明⾔しているサービスを利⽤することが必須事項となるでしょう。

セキュリティコラムトピック一覧

本コラム連載の掲載トピック一覧は以下のとおりです。ぜひご期待ください。

<掲載済>
【第1回】どうなる？2023年以降のサイバー攻撃情勢予測
【第2回】DXの発展とセキュリティリスク
【第3回】Web3.0の発展とセキュリティリスク
【第4回】Chat GPTの利用に伴うセキュリティリスク(今回)

<掲載予定>
【第5回】攻撃者の侵入経路
【第6回】具体的な攻撃シナリオ
【第7回】特に気をつけてほしいサイバー攻撃（ランサムウェア）
【第8回】特に気をつけてほしいサイバー攻撃（Emotet）
【第9回】セキュリティエンジニアに必須となる「ネットワーク」基礎知識その1
【第10回】セキュリティエンジニアに必須となる「ネットワーク」基礎知識その2
※内容は変更の可能性がございます。