AI EXPOに行く前、私は「AIで攻撃の手間が減ったら、次に何が狙われるんだろう」と考えていました。EXPOの前後でいろいろ話を聞くうちに、ふだん自分が仕事を頼んでいるAIも、狙う側から見れば仕事の情報にたどり着く入口なんじゃないかと思うようになりました。

私はブログの下書きを作るときも、公開した記事を整理するときも、AIに途中経過を伝えています。作業を終えてから「あれ、いつごろ始めたっけ?」と聞けば、最初の依頼と公開の報告をたどれる。それくらい普段の仕事が会話に残っているわけです。クラウドのフォルダにつなぎ、下書きを探してもらうこともあります。

もし、そのAIに誰かが私としてログインできたら。あるいは、資料の中に仕込まれた指示をAIが受け取ったら。そもそも、私が入れたAIの配布元が偽物だったら。どれも仕事の情報に関わる話ですが、私が見直せる場所はそれぞれ違います。

AIのアカウントを取られたら、仕事の途中まで見えてしまう

ブログには、公開できる形に整えたものを載せます。AIとのチャットには、書くか迷っている企画、公開前の原稿、締切や次にやることまで書いています。私の使い方だと、公開済みの記事を読むより、チャットを読まれた方が、今どんな仕事をしているかはずっと分かりやすいはずです。

アカウントに不正に入られると、そこから閲覧できる会話やアップロード資料にアクセスされるおそれがあります。外部サービスを連携していれば、そのアカウントからAI経由で扱える情報や操作も影響範囲に入ります。

たとえば、ChatGPTで連携先のどの情報を読めるか、どんな操作をできるかは、アプリの機能、接続時の許可、ワークスペースの設定などで変わります。確認すべきなのは、自分が実際に何をつないで、どこまで許可しているかです。
参考:ChatGPTの連携アプリと権限(OpenAI)

ログインには多要素認証を設定し、パスワードを使う場合は使い回さない。外部サービスのアカウントでログインしているなら、そのログイン元も守る。使わなくなった連携は解除する。OpenAIの案内では、多要素認証を有効にしても、すでにログイン済みの端末は自動でログアウトされません。

ChatGPTで身に覚えのないログインがあったら、公式の案内に沿ってログイン情報を見直し、すべてのセッションを終了するところまで確認します。
参考:OpenAIアカウントを安全に保つための公式案内

カレンダーをつないでいなくても、会話に予定は残る

AI EXPOに行ったとき、Museは私が来場登録したことを、公開した記事とチャットの記録から把握したと説明してくれました。私はGoogleカレンダーをつないでいませんでしたが、Museとの会話には、どのセミナーを何時ごろに聴くか、その日の回り方の提案まで残りました。
関連記事:AIエージェントに背中を押されてAI EXPOへ行った|カレンダーを渡していないのに、予定を覚えていた話

もしアカウントを乗っ取られて、これから行く場所や時間まで知られたらどうでしょうか。AIの提案どおりに動く日なら、待ち伏せやつきまといにつながるおそれがあります。

自宅の場所と留守の予定が知られれば、空き巣の心配も出てきます。北海道警察も、SNSに載せた情報から居場所や予定を知られると、ストーカー被害や空き巣につながりうると注意を呼びかけています。

AIとの非公開の会話でも、予定を第三者に見られた場合には同じ種類の心配があります。
参考:その情報、SNSに載せて大丈夫?(北海道警察)

たとえば一日の仕事を組み立ててもらうだけなら、「午後は外出する」と伝えれば足りることもあります。予定を相談するときには、行き先や時間をどこまで具体的に伝える必要があるかも考えておきたいです。

「この資料を読んで」と頼んだとき、AIは何を指示として受け取るのか

たとえば、私はAIに「このページを読んで、記事に使えそうなところを要約して」と頼みます。そのページに、記事の本文とは別にAIへ別の行動を取らせようとする文章が仕込まれていたら、AIがそれを指示として扱ってしまう場合があります。外部のページやメール、文書を経由して起きるものは「間接プロンプトインジェクション」と呼ばれます。Googleの脅威調査チームは、公開ウェブ上でこうした指示を観測したと報告しています。
参考:公開ウェブ上のプロンプトインジェクション調査(Google)

AI EXPOのセミナーでも、「このメールを要約して」という依頼から、文面に紛れた指示によって不正な操作につながりうる、という例を聞きました。普段どおりの頼み方でも、そのAIにファイルの操作や外部への送信を許していれば、影響が要約の外に広がります。前の記事では、会場で聞いた例と、私が仕事でどこまで権限を渡しているかをまとめました。
関連記事:AIに任せすぎると何が起きる?|AI EXPOで聞いた失敗例とプロンプトインジェクション

外のページを読むだけの仕事なら、その仕事に使うページだけを渡す。メールなら下書きまで頼み、宛先と本文を確認して自分で送る。記事も最後の公開ボタンは自分で押す。

普段の分担をここまで決めておくと、AIが外の資料を読んだあとに、どこまで操作できるかも把握しやすくなります。
参考:AIエージェントを使うときの対策(OpenAI)

「ChatGPTと同等のAIをPCに入れられます」と言われたら

私自身、自分のPCで動くローカルLLMに興味があって、小さな言葉のAIを作ったこともあります。だから「いつも使っているAIと同じくらい使えるものを、手元のPCに入れられる」と言われたら、気になると思います。

そんなとき、まず見たいのは、誰が何を配っているかです。モデルそのものなのか、モデルを動かすアプリなのか、両方をまとめたインストーラーなのか。

「同等」が何を指すのかも気になります。特定のテストで近い点数を取れること、普段のサービスと同じ機能が使えること、同じ安全対策が働くことは、それぞれ別の話です。

たとえばOpenAIが公開しているローカル実行可能なモデル「gpt-oss」も、公式案内ではChatGPTで提供されているモデルとは別に紹介されています。
参考:OpenAIの公開モデル「gpt-oss」の公式案内

実際、Microsoftは2026年4月に、DeepSeek V4の公式配布を装う偽のGitHubリポジトリから、情報を盗むマルウェアが配布された事例を確認しました。
この事例では、人気のAIの名前が、悪意のあるファイルを入れさせるために使われています。OWASPはこれに加え、配布されるモデルや追加部品が改変されるリスク、モデルが特定の条件で意図しない動きをするよう細工されるリスクも挙げています。

入れたアプリが端末で情報を盗むケースと、改変されたモデルが意図しない応答を返すケースでは、起きていることが違います。
参考:AIブランドを悪用した配布事例(Microsoft) / AIのサプライチェーンのリスク(OWASP) / データとモデルの改変リスク(OWASP)

「AIをスパイとして送り込まれるかもしれない」と私が考えたのは、こういう入口があるからです。
便利そうなアプリを入れ、いつものように下書きや資料を渡していたら、そのソフトが仕事のすぐそばで動くことになります。
それでもローカルAIは試していきたいので、開発元の公式サイトから案内された配布先を確認し、初めて試すアプリには本番の仕事ファイルを渡さず、サンプルだけで動かしてみようと思います。

ローカル動作をうたうアプリでも、外部通信の有無や、どのフォルダへのアクセスを求めているかは確認したいところです。
参考:配布元と第三者製部品の確認(OWASP)

おわりに

私はAIに「公開したよ」と報告するようになって、あとから仕事の流れをたどりやすくなりました。その便利さを残しながら、アカウントを守ること、外部の資料を読ませるときに権限を絞ること、PCに入れるものの配布元を確かめることも、普段の作業に取り入れたいです。

次に新しいAIを試すとき、どれくらい速く書けるかと同じくらい、「これに、どこまで仕事を見せるか」も考えておきたいと思います。

関連記事:免許証情報が漏れると何が危険?タイムズの情報漏えいから考えるAI時代のフィッシング対策