Appleが生成AIの端末への組み込みを発表 - iPhoneのセキュリティに影響は？

Appleは6月10日、生成AI技術による新機能「Apple Intelligence」を発表し、Open AIとも連携してiPhoneなどでChatGPTといった対話型AIが使えるようになるようです。

今回の発表はiPhoneのセキュリティに影響はあるのでしょうか？アクロニスの最高セキュリティ責任者（CISO）のケビン・リード（Kevin Reed）は以下のようにコメントを公開しました。

＊＊＊＊＊＊＊＊＊＊＊

今回Appleが発表した生成AI技術による新機能は、iPhoneのセキュリティには影響しないと思われます。見たところ、Siriへの問い合わせの「一部」がOpenAIに送られ、その結果がユーザーに提供されるようです。自分のリクエストがAppleによって処理されるのか、そうでないのかがユーザーにはわからないため、OpenAIに不用意にデータが漏れるリスクはあるかもしれませんが、まだ製品がリリースされておらず、どのようなプライバシー保護が行われるのか、それがどの程度効果的なのかが不明なため、判断するのは時期尚早と思われます。

Private Cloud Compute（PCC）に関するAppleのブログによれば、彼らはある脅威モデルの下でのデータ・プライバシーの確保に力を注いでいるようです。残念なことに、Apple社はその脅威モデルが何であるかを明示しておらず、いくつかのパラメータ（例えば、稼働中のサーバーへの物理的なアクセスによる脅威）に言及しているに過ぎません。Appleがモデルの一部として特定の脅威に対応しているかどうかを評価することができません。

例えば、AppleではiPhoneが大規模言語モデル（LLM）プロンプトと推論パラメータを特定の処理ノード公開鍵を使用して暗号化し、処理ノードにリクエストを渡す前に解読するロードバランサーは間に存在しないと述べています。しかし、クライアントがノードの整合性をリモートで証明できるかどうか、またそのような証明が検証可能かどうかは明らかにされていません。

データが攻撃対象になる可能性に対処するため、Apple社はPCCノードに“N out of M “のサービス発見アプローチを採用し、提供される選択肢を監査可能なランダム分布にしています。また、プライバシーを保護するプロキシサーバーを使用して、PCCノードからユーザーのIPを隠します。これは優れたアプローチである一方で、攻撃者はユーザーとリクエストを一致させることができないという結論は、プロキシサーバーの前後のトラフィックを監視できるネットワークオブザーバーの存在を考慮していないように思われます。繰り返しになりますが、どのような脅威が脅威モデルの一部であるかを明確に示すことで、Apple社はそれをより透明化し、独立した研究者が関係するリスクを理解しやすくすることができるでしょう。

Appleは、ユーザーのプライバシーを侵害するPCCソフトウェアの修正バージョンを自ら出荷してしまうという脅威に対処するためにソフトウェアの公開監査可能なビルドを許可しようとしています。これは間違いなく驚くべき動きですが、現時点ではどのように実施されるのか、また提供される保証が十分なものなのか、詳細は不明です。PCCノードが本質的に「リモートコード実行」マシンであることを考えると、新たな悪用の場を開く可能性があり、Appleが構築したと主張するプライバシー保護アーキテクチャを考えると、攻撃の試みをブロックするのは難しいと思われます。

総合的に見ると、Apple社は間違いなく多くの努力を払っており、その保護機能は最先端と言えるでしょう。しかし多くの脅威アクターにとっては最重要ターゲットにもなりえます。