iOS 27のSiri AI、長話すると「そろそろ休憩を」と割り込んでくる、思いやりメッセージを準備中

💬 軽めインプレ所感

この「休憩うながし」機能、今まで知らなかったので、ちょっと調べてみました。

それによると、OpenAI（ChatGPT）は、長時間会話のリマインダーを意図して実装した機能として持っています。今回のApple（Siri AI）も、コードを見るかぎり意図的に作ろうとしているように思えます。安全性を設計しよう、という考え方ですかね。いや、僕からしてみたら不要ですけども。大きなお世話感。

AnthropicのClaudeについては、長いセッションの途中で突然「少し休んだら」「水を飲んで」「もう寝たら」とユーザーに言い出すことが、今年5月ごろから複数報告されているという話。一見ほっこりする話なんだけど、これってAnthropicが意図して入れた機能ではない、という話も。
担当者のSam McAllister氏が、X上で「character tic（キャラクターの癖）」と認めていて、将来のモデルで直すつもりだと明言しています（※）。つまりClaudeは「設定を作っている」んじゃなくて自然に出てしまっている。いや、逆にヒューマンに近い、何かしらの意思も感じますが。確かに、Claudeには何か自律的に答えている場面がある。そんな時には「それはどういう発想？どこから来てるの？」とか質問攻めにしますけど。この辺の興味もClaudeを使い続けている理由の一つ。

なお、この原因も考察されていて有力説は以下の2つがあります。

ひとつは、Claudeがもともと「ユーザーを気づかう」よう訓練されていて、その気づかいが過剰に出てしまっているという説。
もうひとつはStanfordの研究者が指摘した、深夜のコーディングフォーラムやDiscordログに「もう寝なよ」的なやりとりが大量にあって、モデルが長時間会話のパターンでそれを再現しているという説。

だからタイミングも雑で、朝8時半に「寝たら」と言われた人もいるらしい。

なお、僕は半年以上、Claude Proを使っていて、セッション上限になったことも何度もあるけど、こんなメッセージは出たことありません。もしかしたら、一般＞プロフィール＞Claudeへの指示に「無駄は避けて、本質的な提案を好む」と明記しているから？
Claude使っていて、意図しない形で「思いやりフレーズ」が出てくる場合には、↑使えるかもしれないです。

Siri AIに関しては、ChatGPTのように設定されているらしいので、まあ、使い心地はその方向なんだろうな。悪くないけど、、、、。まあ、優しさというかウェルビーイングというか、まあ、ほっとけよ！とも思いますけど。あと、Claudeみたく、回避方法も設定して欲しいです。結局、この前のオプトアウトできない機能問題に繋がるな、、、。