AIサービスを含むGoogleのシステムは、ログイン状態での行動データを同一のアカウントIDに集め、統合している（Googleのプライバシーポリシーおよびサービス規約に明記）。Gmailの送受信内容、位置情報の推移、検索履歴、動画視聴履歴といった情報は、単一の識別子に紐づけられた状態でサーバーに保存される。利用者が履歴の削除や設定のオフを選択した場合でも、サーバーのログやバックアップデータとして一定期間の保持が物理的に行われる。こうした実態は、近年の米国等におけるプライバシー訴訟において、証拠として提出された内部メールや会議資料が公開されたことで明らかになった。シークレットモード中や位置情報設定のオフ後も、実態としてデータ収集が継続されていたことが司法の場で認定されており（カリフォルニア州やアリゾナ州など）、利用者への説明と実際の挙動の違いが事実として指摘されている。
また、データから氏名などの直接的な識別情報を分離する処理を行った後も、残存する位置情報や端末固有の識別子、行動パターンの組み合わせなどによって、特定の個人を再識別（特定）することは技術的に可能である（多くの学術論文や情報工学の実験で証明済み）。特にチャットでの対話においては、家族構成や職業、投資相談による資産状況、健康上の悩みといった、個人情報の深いところまで及ぶ具体的な内容が入力される。これらの情報はアカウント情報と直結した履歴として蓄積され、個人を詳細に特定するプロファイリングの基礎データとなる。このしくみは、政府当局の調査報告書や裁判資料によって裏付けられている。
「消去しても残る」、「知らないうちに特定される」といった構造からは、だれも逃れることはできない。
こうした現状に対し、専門家や司法当局はリスクを指摘し、是正を求めているが、これらのサービスは仕事や生活を維持するための不可欠な道具となってしまっており、利用を完全に停止することは現実的に困難であろう。その結果、利用者はサービスを使い続けるため、自分の情報が収集・分析されることを事実上受け入れざるを得ない状況にある。
現在、この不透明なデータ運用と個人の権利を巡り、世界各地で多数の裁判が継続され、実態の解明が進められている。
