Appleの会話要約AI「Siri Recap」を2週間使った結果「自分が救急搬送された」という架空の記録が生成される
Siri Recapを有効にするとApple Watchが周囲の会話を聞き取り、Apple Intelligenceが会話のタイトルや要点を自動生成します。作成された要約はSiriアプリから確認できるため、会話中は相手の話に集中し、必要な情報を後から振り返ることが可能です。
周囲の会話を聞き取る都合上プライバシーの問題がありますが、Appleは対策として音声データを専用のセキュリティ機構で処理し、処理後すぐに削除する仕組みを採用しています。またSiri Recapは初期設定で無効になっており、利用者が有効にする時間帯や場所を指定可能。生成された要約も保存を指定しない限り1日・3日・7日のいずれかで自動削除される仕組みです。
さらにSiri Recapは話者を特定せず、誰が何を話したかを示す詳細な文字起こしも残さないという徹底ぶり。しかし、The Vergeのウェアラブル端末担当記者であるヴィクトリア・ソン氏はプライバシー保護のために利用者の声を学習しない仕組みが会話の誤認識につながっていると指摘しています。
ソン氏がSiri Recapの使用中に敗血症で救急搬送された体験を語るTikTok動画を視聴したところ、Siri Recapは動画の内容をソン氏自身や知人の出来事であるかのように要約してしまいました。また、別のTikTok動画で紹介されていた「コンサートで青いビキニトップを着た女性が親友の夫を誘惑しようとした」という話もソン氏自身が関わる出来事のように要約されたとのこと。
Siri Recapが話者を識別する仕組みを採用していないことで、実際の会話とスマートフォンから流れる動画の音声を区別しにくくなってしまっているわけです。
なお、iPhoneやApple Watchに接続したヘッドホンで音声コンテンツを再生している間はSiri Recapによる要約が自動的に停止します。ソン氏はAirPodsを使えば動画の音声が要約される問題を回避できるものの、AIの誤認識を防ぐために自分の行動が制限される点を指摘しています。
Siri Recapを仕事で利用した際には便利な場面もあり、ソン氏はスマートグラスの製品説明会でSiri Recapを有効にしたところ、後から記事を執筆する際に説明内容を思い出すのに役立ったと報告しています。
ただしSiri Recapは数字や日付などの具体的な情報を優先する傾向があり、インタビューで印象に残った個人的な体験談や意見が要約から抜け落ちることもあったとのこと。友人との雑談や冗談が事務的に記録されるなど、会話の文脈を十分に理解できない場面も見られました。
ソン氏が試用中に生成した要約は50件以上に上りましたが、約90%は本人以外には意味が分からない内容だったといいます。ソン氏は「役立つ例として取り上げるものを探すのにかなり苦労した」と報告しています。
ソン氏はプライバシーを重視するAppleの方針を評価しつつも、会話を自動的に要約する機能が日常生活に必要なのか疑問を抱いたと述べています。Siri Recapには周囲の人に動作中であることを知らせる音や表示がないため、使用する際には会話相手への説明や配慮が必要になると指摘。こうした負担について「機能をオフにしてしまえば何も考えずに済む」と締めくくっています。
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.




