نموذج Muse من ميتا ينشيء ملفات عن العائلة كل ساعة "دون موافقة"

توصل فحص حديث للنموذج الشخصي الجديد Muse، التابع لشركة ميتا، إلى أنه ينشيء ملفات عن الأشخاص المرتبطين بالمستخدم، تتجاوز بياناتهم الأساسية لتصل إلى تاريخ ودرجة القرابة، والموضوعات المشتركة، واقتراحات لتعزيز التواصل.

واستخرج الباحث المستقل كاران جوشي تعليمات تشغيل Muse عبر واجهة المحادثة، بحسب تقرير نشره موقع "Wired".

وأفاد الباحث بحدوث عملية دورية تتكرر كل ساعة لتنظيم معلومات عن العائلة والأصدقاء والزملاء، مع توجيه النظام إلى الاعتماد على الأدلة المتاحة، وتجنب اختلاق التفاصيل.

Muse والسياق الشخصي للمستخدم

توضح وثائق الدعم الرسمية من ميتا أن فهم Muse للمستخدم يُبنى من مصادر متعددة، تشمل المعلومات التي يشاركها مباشرة في المحادثات، والتفضيلات والأنماط التي يلاحظها النظام خلال التفاعل، والسياق المتاح عبر الخدمات المتصلة، إلى جانب ذاكرة محفوظة في ملفات.

وبذلك، لا يقتصر التخصيص على تذكر إجابة عن سؤال سابق، بل يشمل الاستفادة من معلومات متراكمة لتكييف المساعدة والاقتراحات بمرور الوقت.

وتتيح الشركة للمستخدم أن يطلب تعديل ما يتذكره الوكيل، أو تحديثه عبر المحادثة، كما تسمح بتحرير المعلومات يدوياً، ويمكن أيضاً استيراد سجل المحادثات من مساعد آخر، من خلال رفع ملف التصدير إلى Muse، لبناء سياق شخصي منذ بداية الاستخدام.

لماذا يحتاج Muse إلى معلومات المستخدم؟

تقدم ميتا Muse باعتباره وكيلاً يتولى تنفيذ الأعمال، من إدارة المهام إلى حجز السفر، بدلاً من الاكتفاء بالإجابة عن الأسئلة، ويعمل على كمبيوتر سحابي مخصص للمستخدم، ويواصل بعض المهام حتى بعد إغلاق التطبيق.

وتعرض الشركة أمثلة توضح دور الذاكرة في هذه التجربة، مثل تحويل وصفة محفوظة على إنستجرام إلى قائمة مشتريات، واقتراح قائمة طعام لحفل عشاء، وتذكر القيود الغذائية للأصدقاء قبل إرسال الدعوات.

وتقول ميتا إن المستخدم يحدد التطبيقات التي يستطيع الوكيل الاتصال بها ومستوى الوصول الذي يحصل عليه، بما في ذلك السماح بقراءة البريد الإلكتروني، أو إرساله نيابة عنه، مع إمكانية تعديل الصلاحيات وفصل الخدمات لاحقاً.

ومن الناحية العملية، يعني ذلك أن المعلومات المتعلقة بالآخرين ربما تصبح جزءاً من السياق الذي يستخدمه الوكيل لمساعدة صاحب الحساب، وهذه إحدى الإشكاليات التي يثيرها تصميم المساعد الشخصي؛ فالمعلومات التي يشاركها المستخدم عن حياته قد تتضمن أيضاً تفاصيل تخص أفراد أسرته وأصدقاءه وزملاءه.

كيف تراقب عمل Muse؟

توضح ميتا في شرح تصميم المنتج أن Muse يمكنه متابعة أعمال متعددة في الخلفية، وإرسال رسائل من تلقاء نفسه عندما تظهر نتيجة مهمة، أو يحتاج إلى تدخل المستخدم.

ولإتاحة متابعة هذه الأنشطة، يوفر التطبيق سجلاً للأعمال والصلاحيات المعتمدة، كما يعرض ما يعمل عليه الوكيل، وتتيح ملفات الذاكرة للمستخدم قراءة المعلومات المحفوظة وتحريرها مباشرة.

وتقول الشركة إنها تعتمد واجهات موافقة واضحة للإجراءات الحساسة، مثل إرسال البريد الإلكتروني وإتمام المشتريات، بدلاً من الاعتماد على المحادثة وحدها لتحديد الإذن.

الوصول إلى بيانات Muse

بحسب الشرح التقني للشركة، يعمل Muse داخل بيئة معزولة، وتتولى منظومة مستقلة، تحمل اسم Sentinel، مراقبة الإجراءات، والاتصالات الخارجية، وتطبيق الصلاحيات.

لكن ميتا توضح أن البنية الحالية تقيد وصول موظفيها إلى البيانات عبر سياسات تشغيلية، ولا تمنع الشركة من الوصول إليها عند الضرورة لدعم الخدمة، أو تأمينها، أو تشغيلها.

وتخطط الشركة لتقديم بيئة "Muse Confidential VM" لاحقاً خلال 2026، بهدف منع وصول ميتا إلى بيانات الكمبيوتر الافتراضي باستخدام وسائل تشفير قابلة للتحقق، ويظل ذلك قدرة مستقبلية وفق الوثائق المنشورة، وليس ضمانة عامة في النسخة الحالية.

نشاط Muse وتخصيص الإعلانات

تقول ميتا إن المحادثات وبيانات الكمبيوتر الافتراضي لا تُشارك مع أنظمتها الإعلانية، لكنها تشير إلى أن نشاط الوكيل على مواقع خارجية قد يؤثر بصورة غير مباشرة في الإعلانات التي يراها المستخدم.

كما توضح أن المحادثات ومسارات تنفيذ المهام يمكن استخدامها لتدريب النماذج بعد إزالة معلومات أساسية تحدد الهوية، مع إتاحة الانسحاب من هذا الاستخدام عبر الإعدادات.

وتبرز هذه التفاصيل أهمية التمييز بين صلاحيات تنفيذ المهام، والمعلومات المحفوظة في الذاكرة، واستخدام البيانات في التدريب؛ فهي جوانب مختلفة من تجربة الوكيل الشخصي، ويتوقف فهم حدود الخصوصية على مراجعة كل منها.