CSAM検出機能について、あまりにも各所からネガティブな反応が出てきたこともあって、Appleのソフトウェアエンジニアリング担当上級副社長のクレイグ・フェデリギ氏が説明しているというWSJのインタビュー動画。

＃直接は再生できないので、動画はリンク先からどうぞ。

何回「Misunderstood」言うのかってくらい誤解であることを強調してますね。

この件、CSAM検出機能として、ひとまとめに論じられることが多いのですが、Appleが発表した機能は大きく二つになります。

1）はCSAM検出機能。

2）はメッセージアプリでの不適切な画像の検出と警告を行う機能。

で、最初に1）のCSAM検出機能についての説明が行われていて、僕が大事かなと思ったポイントとしては以下がありました。

つまり、CSAM検出機能はiCloudに写真を保存しなければ動かないということになります。

インタビュアーのJoanna Stern氏は率直な質問を投げていて、「なぜ今これ（検出システム）を導入しようとしたのか？何かの圧力？」という問いには「いいえ」とは答えたものの、やや返答に詰まった後「なんとかしたかった」というにとどめています。

また、「Tim Cook CEOは今年初めに”バックドアの無い強固な暗号機能はプライバシーの基礎だと認識されている”と話していたが、これはバックドアではないのか？」という問いに対しては、「これはバックドアとは思わないし、なんでそう思われるのか理解できない」とのこと。

ではどう思うのか？ということについてのFederighi氏は、この後に長々と早口で説明を加えているのですが、わかりやすい明確な答えにはなっていないかなーとも思いました。

ここまでは、”iCloudにアップロードされるCSAM写真の検出”についてで、続いて、2）の”メッセージ上での不適切な写真を検出する”機能についての説明。

この機能は、親が子供にiPhoneを渡す時に設定できる”コミュニケーションを安全にするための機能”で、これがオンになっていると子供が使っているiPhoneのメッセージアプリのやりとりの中でポルノの可能性がある写真はすぐには表示されず、警告文が下に表示されるようになります。

続けて、警告文の右側にあるView photo…をタップすると表示できますが、その時に年齢によっては親にも通知が行きますよ、という警告文が全面表示。

ここで重要なのは、この検出と警告システムは前述の”iCloudにアップロードされる写真の検出”の機能とは異なるものであるという点。

メッセージアプリの画像検出では「On-Device Image Recognition」、つまり、デバイス上のマシンラーニングで画像検出を行うということです。

さらにJoanna Stern氏は、このメッセージアプリの画像検出について、「どのくらい自信を持っているのか、どうやって不適切な写真と判断するのか」と質問。

Craig Federighi氏は「機械学習は非常に優秀で、間違いを起こすことはできない。」として、そのあとも長々とその優秀さをアピールしていますが、WSJの動画では、このシーンの後にEFFなどが表明した、このシステムの懸念や危うさの記事を引用していて、第三者から見て明確に安全とも言い切れない可能性が存在しているように感じました。

最後にJoanna Stern氏は「（iPhoneを手にとり）これは誰のものなのか？」「1984にはBig Brother（=IBM）をバッシングしていたが、（Appleも今回のアップデートにより）同じようなポケットに入ってしまったのでは無いか」と質問。

ここではCraig Federighi氏は明確に「私が考えるに携帯電話は顧客のものです。それは間違いない」「今回の話は”Appleが写真をスキャンする”ということではなく、Appleサーバーに保存される写真について、また、認識する機能について、可能な限り監査可能で検証可能な方法で行うということ」としています。

うーん。

この記事を書くまでに、この動画を3〜4回は見返して、よくわからないところは何回も再生停止したりして、Appleの主張を僕なりに読み解こうと思ったのですが、EFFが「慎重に検討された狭い範囲のバックドアであっても、それがバックドアであることに変わりはない」とする見解の方がしっくりくるというか。

おそらく、Appleとしては”良かれ”と思って開発した技術で、尚且つ、Appleの先進性を全世界にアピールするチャンスと思ったんでしょう。

Appleの上級経営陣の中でも誠実なルックスでは一番かなとも思うCraig Federighi氏も、誤解を解きたくて一生懸命説明してるんですけど、言葉に詰まる箇所、言葉を選んでいる様子があって、どうもシンプルな言葉で明確に伝わるようには説明できてない。

近い将来、このアップデートが有効化されれば、子供にiPhoneを与える親の立場としては、今よりも安心してメッセージアプリを使わせることができるでしょう。

ただし。その基準はAppleの考える基準であり、ML自体がどの程度正確なものかは、Federighi氏の「機械学習は非常に優秀」という言葉を信じるしかないし、もし内部的に閾値を変えたとしても、当事者以外は誰にもわかりません。

その先も考えてみましょう。

仮にこの先、何も問題なくメッセージアプリでの猥褻画像の検出がうまくいったとしましょう。

けど、誰かから猥褻画像を送られる可能性があるのはメッセージアプリだけとは限らないですよね。

コミュニケーションツールとしてみんなが使ってるのは、むしろ、他のアプリじゃないでしょうか。

となると、正義の味方としては、他のアプリ上でのやりとりも監視したらいいんじゃね？この機能を実装しないアプリはApp Storeから排除ね、という方向に進みかねないようにも思います。

この辺りが僕が考えた危うさだったりします。

この辺をどうとらえるか。

個人的には、Appleの言うセキュリティやプライバシーマターは以前ほど信頼できないかもしれないと考えるようになってきました。

Appleがアナウンスした、iCloud Photosに含まれるChild Sexual Abuse Material（CSAM）コンテンツを検出する機能について、The Electronic Frontier Foundationは「Apple’s Plan to “Think Different” About Encryption Opens a Backdoor to Your Private Life」で以下のような見解を示していました。

他のセキュリティ関係者からの懸念と同じように、EFFの見解としては、バックドアをシステムに内包することにより、より広範な悪用への道を開いてしまうことを問題視しています。

現在もいくつかの国では、メッセージの出所を特定し、コンテンツを事前に審査するという要件が含まれている法律があり、今回のAppleの変更により、エンド・ツー・エンドのメッセージングサービスにおいて、このようなスクリーニング、テイクダウン、報告が可能になり、例えば、LGBTQ+を禁止している政府が検閲し処罰を行うためのツールとして悪用することになる可能性も容易に考えられるとしています。

これはLGBTQ+だけでなく、ある国の政府が好まない表現を内包した写真をユーザーが持っている場合に検閲する、といった目的にはとても便利なツールということにもなります。

Electronic Frontier Foundationはデジタルの世界で市民の自由を守る非営利団体として1990年に設立。
政策分析、草の根活動、技術開発、インパクトのある訴訟を通じて、ユーザーのプライバシー、表現の自由、イノベーションを保護することを目的としています。

なお、Appleは今回のCSAM検出機能のアメリカ以外の国での展開については、現地の法律や規制に応じて国ごとに行うと9to5Macに回答しているそうです。

また、CSAM検出機能を追加の国に拡大する時期やその可能性について、具体的なスケジュールなどは明らかにされていません。

Johns Hopkins大学で暗号化学を教えているMatthew Green氏が、AppleはクライアントサイドのCSAM（児童性的虐待のコンテンツ）スキャニングツールを明日にもリリースするとツイートしています。

この話は複数の独立した情報源から得た情報としていて、Matthew Green氏は続くツイートで、「AppleはあなたのiPhoneの写真をスキャンして、特定の知覚的ハッシュに一致する写真を探し、あまりにも多く出現した場合にはAppleのサーバーに報告することができるようになる」としていて、当初はクラウド保存されている写真のクライアントサイドのスキャンに使用されるようだが、最終的には、暗号化されたメッセージングシステムに監視機能を追加するための重要な要素になるかもしれないと懸念を表明しています。

Matthew Green氏は、暗号学を専攻する学生たちとともに、法執行機関がiPhoneに侵入できる可能性について研究を行っていて、Johns Hopkins大学とともにAppleと協力してメッセージのセキュリティバグを修正したこともある人物です。

近年において、Appleを含むGAFAなどのグローバル企業がCSAM撲滅の取り組みを行うことは重要なことですが、仮にiPhone内の写真のスキャンをユーザーに知らせずに行い、一方的な基準で当局に報告するようなシステムが運用されるということになると、これまでAppleが主張していたユーザー主体のセキュリティ・マターという観点からは離れるものになるように思います。

Green氏の情報通りであるならば、このスキャニングツールは近日中にリリースされるはずです。