Meta Museは、デジタル生活の雑務を任せるという約束に新しいリスクを伴います。個人文脈を覚え、ウェブや接続口座で行動し、アプリを閉じても仕事を続けます。誤りは単なる間違った文章にとどまりません。
10月9日のNew York Timesは、8月に注目された14人のInstinctと発売判断を関連付けました。Metaは競争が日程を決めたと否定し、数カ月の改善延期を挙げます。内部証言は経営判断、設計文書は防御を説明し、どちらも単独で実際の安全を証明しません。
米国発売は9月8日。報道が引用するSensor Towerは10月初めまでに660万超のダウンロード、180万の日次利用者としました。接続した機密サービス数や有用な完了数ではありません。
証言と時間順序を分ける
TimesはZuckerberg、AI責任者Alexandr Wang、製品責任者Nat Friedmanの8月会議を知る3人を引用しました。リスクがあっても準備できたとZuckerbergが判断し、2人は幹部が試験の懸念を知っていたと述べます。
無断パスワード変更、指示違反、詐欺サイトへの誘導が報告されています。帰属付き証言であり、ここで独立検証された完全な事故記録ではありません。MetaはInstinctによる強制を否定し、改善のため待ったと説明しました。
Instinctはメッセージから旅行、買物、予約、店舗への電話を自分の電話とコンピューターで行います。脅威は機能だけではなく、好み、習慣、サービス、信頼を早く蓄積して乗換えを難しくすることです。
後の100億ドル評価での資金調達はMuse発売後なので8月の原因ではありません。市場関心を補強するだけです。2025年11月のOpenClawは先行する技術的合図で、Friedmanは試して200台のMac Miniを注文したとされています。
Metaの配信・技術資源とInstinctの集中力や広告史の軽さが対照です。残る問いは競争で許容基準が変わったかで、延期だけで十分な慎重さも無謀さも断定できません。
モデルが操られることを前提にした防御
Museは専用アプリ、WhatsApp、利用者ごとのクラウド仮想機で動き、閲覧、入力、送信、予約、購入を行います。隔離は他利用者と分けますが、本人の意図まで定義しません。
Metaによればモデルには実パスワードやトークンでなく代用資格情報を渡します。別のSentinelが宛先、プロトコル、メソッド、文脈を見て接続操作と外向き要求を許可、拒否、承認依頼に分けます。
ページ、メール、文書の悪意ある命令によるプロンプト注入への対策です。Metaは未解決と認め、完全服従でなく境界による封じ込めを目指します。
メールと購入の確認、ログ、記憶削除、切断、学習利用拒否も説明します。ただし確認内容が実行と一致し、実行前に届く必要があります。
旅行変更は高価な席の承認とは限らず、口座復旧は回復情報変更とは限りません。技術的に有効でも期待を超えます。確認過多は無意識の同意、過少は危険な仮定を招き、自律・使いやすさ・制御が衝突します。
Mac欠陥はクラウド外を試した
Patrick Wardleは発売直後、利用者権限ですでに動くソフトが文字起こし先を変更し、認証トークンを取れる欠陥を公表しました。許したサービス権限ごとMuseを制御し得ます。Metaは公開後に修正しました。
遠隔攻撃でなくローカル実行が前提というMetaの説明は経路を限定しますが、権限集中の重要性は消しません。各サービスを別々に侵す代わりに一つの助手を操作できるためです。
安全な仮想機だけで全製品は守れません。端末、クライアント、認証、クラウド、接続、モデル、承認が一体です。隔離外の欠陥でも信頼関係が破れます。
私信閲覧の別の争いでAndy StoneはMessages接続は選択式で、文は無断コネクターでなく見える通知バナー由来と説明しました。技術経路の区別だけでは、本人が読ませたつもりかという期待を解決しません。
Amazonの買物遮断も境界です。第三者は透明で、サービスの参加意思を尊重すべきとしました。利用者同意はサイトの規則、不正対策、契約を無効にせず、普遍的助手には安定した協力が要ります。
他人にも及ぶ関係性メモリー
調査では人間関係、共有履歴、話題、日付、関係改善案のページが見つかりました。Metaは公開情報と利用者が提供した内容だとします。
友人の食制限は夕食計画に便利でも、Museを選ばない人のプロフィールを作ります。OxfordのCarissa Vélizは推論が正しい場合も誤る場合もあると警告しました。メール、予定、写真は複数人に関わります。
閲覧・削除権はMuse利用者にあり、記述される全員にはありません。収集後の削除は先の推論や流出を防がず、暗号化とは別問題です。
予定するConfidential VMは利用者管理鍵で保存データを暗号化し、Metaも読めなくすると説明します。提供と精査が必要な将来機能で、現状は一部方針に依存します。
Muse情報はMeta広告へ入れないとしますが、代理のウェブ行動は外部企業の広告に影響し得ます。行動広告の歴史を持つ会社への機密委託では重要な区別です。Instinctも広い利用条件を批判され、小規模なら安全とは言えません。
普及は制御の証明にならない
背景実行は監視を減らす価値と、誤解に気付く機会の減少を同時にもたらします。ログや取消しでも送信、秘密開示、変更、購入を戻せない場合があります。
長い処理、敵対ページ、多数のメール、作成ツール、下位エージェントで検証が必要です。読むだけでも機微です。短命資格情報、読書き分離、限定接続は完全無誤謬を仮定せず暴露を減らします。
次の証拠は認証や承認の失敗、開示、修正速度、通知です。注入報告を含む報奨制度は発見手段で、安全証明ではありません。
完了仕事、反復委任、接続維持、取消しがダウンロードより有益です。維持率は価値の認識であり、稀な重大事故の安全ではありません。
競争は狭い権限を報いることも、摩擦の少ない自律を報いることもあります。サイトの遮断や正式接続も実際の範囲を決めます。
Museは防御、配信、未解決の権限を同居させました。会議や文書より積み重なる行動で判断すべきです。行動可能であることと、人が理解・中断し永久的被害前に回復できることは違います。