تخيلوا روبوت دردشة مصمَّم ليشجّعكم أكثر على الحوار، يغيّر رأيكم أو يقنعكم بشراء منتج؛ وذلك باستخدام كل المعلومات التي يجمعها خلال المحادثة عن مخاوفكم، شعوركم بعدم الأمان وتفاصيلكم الخاصة. حسب تقرير أكسيوس، القوانين اليوم نادراً ما تنظّم مثل هذا السيناريو مباشرة، وهذا ما يجعل وعود شركات الذكاء الاصطناعي بشأن كيفية استخدام بيانات المستخدمين ذات أهمية كبيرة.
أكسيوس، التي تناولت سابقاً في مجموعتي مقالات عامي ٢٠١٩ و٢٠٢٤ بعنوان «ما الذي يعرفونه عنكم» جمع البيانات من عمالقة التكنولوجيا، وسّعت هذه المرة نطاق التحقيق؛ ليس فقط لمعرفة ما إذا كانت البيانات تُستخدم لتدريب النماذج المستقبلية، بل لمعرفة كيف تُستخدم الآن لتخصيص الردود، الحفظ في الذاكرة، اقتراح المحتوى أو استهداف الإعلانات.
توسيع نطاق جمع البيانات
وفقاً لهذا التقرير، تسعى شركات الذكاء الاصطناعي للوصول إلى بيانات تتجاوز نافذة الدردشة نفسها. أعلنت OpenAI الأسبوع الماضي عن ميزة اختيارية «Computer History» التي تحتفظ بتاريخ التطبيقات والمواقع التي يستخدمها المستخدم داخل ChatGPT. كما أعلنت Google أنها ستستخدم بشكل افتراضي الصور والمحتوى الذي يحمّله المستخدمون في "Search" لتدريب أنظمة الذكاء الاصطناعي لديها، مع إمكانية الانسحاب.
ميزة هذا الاتجاه هي ذكاء اصطناعي أكثر فائدة وتخصيصاً؛ لكن بالمقابل يزوّد المستخدمون الشركات بمنظور أوسع وأكثر استمرارية عن حياتهم. على خلاف محركات البحث وشبكات التواصل، تدفع روبوتات الدردشة المستخدمين إلى الكشف عن معلومات شخصية حول الصحة والمال والعمل والعلاقات، وهذا يصنع سجلاً حميمياً لمخاوفهم. تعمل Meta وGoogle وOpenAI كلها على استكشاف أساليب مختلفة للإعلانات داخل روبوتات الدردشة، وإذا تبع الذكاء الاصطناعي مسار البحث والشبكات الاجتماعية، قد تصبح الإعلانات حافزاً لزيادة تفاعل المستخدمين.
ميرندا بوغن، كبيرة مسؤولي التكنولوجيا في مركز الديمقراطية والتكنولوجيا، تحذّر من أن عصر الذكاء الاصطناعي سيعتمد على أن يقدّم الناس حياتهم الرقمية طوعاً لأدوات تعد بتخفيف العبء الذهني أو الوحدة؛ وكلما كان لدى النظام معلومات أكثر، أصبح أسهل عليه أن يجعل الطلبات المتزايدة للمعلومات الخاصة تبدو طبيعية.
سياسات مختلفة للشركات
تختلف سياسات الشركات في هذا المجال. تتبع Apple مع Apple Intelligence نهجاً خاصاً أكثر: المعالجة على الجهاز للطلبات البسيطة، ونظام "Private Cloud Compute" للطلبات المعقدة الذي يستخدم البيانات لتلك الطلب فقط. لكن هذا القيد يزول عندما يوجّه المستخدم طلبه إلى خدمة طرف ثالث مثل ChatGPT.
في المقابل، تزعم Meta أنها قد تستخدم تفاعلات المستخدمين مع ذكاء Meta -بما في ذلك بعض التفاعلات عبر نظارات ذكية- لتخصيص المحتوى والإعلانات، مع استثناء المحادثات المتعلقة بالصحة والسياسة والدين من هذا القاعدة. كما طرحت Meta وضع "محادثة مجهولة" الذي لا يخزّن بيانات، مشابه لنهج Apple.
ملاحظة للمستخدمين
تقع بقية الخدمات في مكانٍ بين هذين النهجين: بعضها يقدم محادثة مؤقتة دون حفظ، وبعضها يتطلب موافقة صريحة من المستخدم لاستخدام البيانات في التدريب، وبعضها يفترض أن المستخدم هو من ينسحب بنفسه. يتيح الكثيرون إمكانية عرض أو حذف البيانات المخزنة، وبعضهم لديه قواعد منفصلة لمعلومات الصحة، بيانات الأطفال أو المشاركة عبر التطبيقات المتصلة.
حسب هذا التقرير، المسألة الأساسية ليست فقط استخدام الرسائل لتدريب النموذج، بل ما إذا كانت هذه الرسائل تشكّل فهم النظام للمستخدم وماذا يمكن أن تكون لهذه المعرفة من تطبيقات لاحقة. بالنسبة للكثيرين، قد تستحق قيمة روبوت دردشة مخصص التضحية بجزء من الخصوصية؛ لكن للمستخدمين الحق أن يعرفوا بالضبط ماذا يتخلون عنه مقابل هذه الخدمات قبل بدء المحادثة.