GoogleのAI「Gemini」は個人のGoogleドライブ内のファイルやGmailを人間のレビュー担当者が見ることができるようにしている可能性がある

GeminiとGoogle Workspaceの連携は、「Geminiのカスタマイズ」から行うことができます。「＋」アイコンをクリックして接続を開始するほか、接続したアプリを解除することも可能です。

このGeminiとGoogle Workspaceの連携について、明示的に依頼した場合以外でも日常的な質問をきっかけに関連するメールやファイルが取得される場合があり、データの一部が人間によるレビューの対象になる可能性があるとGitHubユーザーのthisisme6598氏が述べています。

thisisme6598氏によると、GoogleはGemini Workspace拡張機能をリリースした2023年時点では、「Gmail、ドキュメント、ドライブの個人コンテンツは人間のレビュー担当者には見られない」という明確な約束をしていたそうです。しかし、この方針は後にひっそりと撤回され、Googleは接続されたドライブやGmailが人間のレビューパイプラインにルーティングされることを明示的に確認し、レビュー担当者がメールまたはファイルを見る可能性があること、および「レビュー担当者に見られたくない機密情報が含まれている場合は、アプリをGemini Appsに接続しないでください」という明確な警告を発しているとのこと。

そこでthisisme6598氏は、Geminiのデータ取り込みについて調査を実施し、GitHubのリポジトリで「gemini_files」という調査結果を報告しました。

thisisme6598氏によると、アプリ連携を有効にした状態でGeminiとチャットすると、明確に「Gmailからこの情報を探索して」などの指示をしていない場合でも、旅行や予約など個人的な話題がチャット内で言及されると、バックグラウンドでWorkspaceの検索が自動的に実行されることがあるとのこと。

Geminiの応答パターンとして、接続済みアプリツールを起動せずにモデルのウェイトや過去の会話履歴のみから応答する場合、Geminiがメールやファイルを取得して「これに関するメールが3件あります」のように概要を生成する場合、Geminiがメールやファイルから具体的な文章を抽出する場合、メールまたはファイルのテキストを丸ごと取得する場合の4種類があるとのこと。これらは確率的に発生し、情報を取得しないかどれだけ取得するかは同じ質問でも毎回異なっていたそうです。

thisisme6598氏は「GoogleがGoogle Workspaceとの連携機能を人間のレビューから完全に隔離することを保証していた時期ならまだしも、その隔離が撤廃された今、Geminiが日常会話中に確率的にファイル全体を取り込んでいますとすると、意図しない個人情報が他人に見られてしまうことになります」と指摘しました。なおリポジトリの補足説明では、今回の調査が対象としているのは標準的な個人用Googleアカウントであり、商用アカウントでは人間のレビューと外部生成トレーニングはデフォルトで除外されるとしています。