استخدام نماذج الذكاء الاصطناعي التوليدية للحصول على نصائح، حل المشكلات، كتابة النصوص وحتى التحدث عن قضايا شخصية يتزايد بسرعة. كلما أصبحت هذه الأدوات أكثر شبهاً بمحادثة بشرية، زاد احتمال أن يشارك المستخدمون معلومات معَها لا يقولونها عادةً للآخرين.
أظهر استعراض معهد الذكاء الاصطناعي الموجّه للإنسان بجامعة ستانفورد (Stanford HAI) لسياسات الخصوصية لدى ست شركات أمريكية كبرى تشمل Amazon وAnthropic وGoogle وMeta وMicrosoft وOpenAI أن كل هذه الشركات الست تستخدم بيانات محادثات المستخدمين لتدريب أو تحسين نماذجها؛ مع اختلاف طرق تطبيق خيار الانسحاب ومدة الاحتفاظ بالبيانات بين الشركات. كما تسمح بعض الشركات بمراجعة المحادثات بواسطة بشر لأغراض تدريبية.
لهذا السبب، يوصي خبراء الأمن والخصوصية بأن يكون المستخدمون أكثر حذراً على الأقل حول خمس فئات من المعلومات الحساسة عند التعامل مع روبوتات الدردشة.
1. معلومات الهوية والتعريف
الاسم الكامل، عنوان السكن، رقم الهاتف، رقم جواز السفر، رخصة القيادة وأرقام الهوية الحكومية من بين المعلومات التي من الأفضل عدم مشاركتها مع روبوتات الدردشة.
قد يُكوّن جمع عدة من هذه المعلومات صورة نسبياً كاملة عن هوية شخص، وإذا اطلع عليها أشخاص غير مصرح لهم، فقد تُمهد الطريق لهجمات تصيّد، سرقة هوية وهندسة اجتماعية. لذلك إذا كنت تنوي مشاركة سيرة ذاتية أو مستند للتلخيص أو التحرير باستخدام نموذج ذكاء اصطناعي، فإن حذف معلومات التعريف غير الضرورية قبل الرفع إجراء احترازي مهم.
2. المعلومات النفسية والقضايا الشخصية الكاملة
النبرة الودية والإجابات المتعاطفة لروبوتات الدردشة قد تثير شعوراً كبيراً بالأمان؛ لكن لا ينبغي الخلط بين هذا الشعور وسرية مهنية مثل سرية مع معالجة نفسية أو محامٍ أو طبيب.
أصبح هذا الموضوع أكثر أهمية لأن بعض المستخدمين يلجأون إلى الذكاء الاصطناعي للحديث عن مشاكل شخصية، علاقات عاطفية وقضايا عاطفية. أظهرت استبيان جامعة إيلون في عام 2026 أن 27 بالمئة من البالغين مستخدمي الإنترنت في الولايات المتحدة لديهم تفاعلات اجتماعية أو عاطفية كبيرة مع النماذج اللغوية، وما يقرب من 40 بالمئة من هؤلاء المستخدمين قالوا إنهم شاركوا مع الذكاء الاصطناعي أموراً لم يشاركُوها مع الآخرين.
3. السجلات الطبية ومعلومات الصحة
التقارير الطبية، نتائج الفحوصات، الوصفات الطبية، الصور الطبية وتفاصيل الأمراض تُعتبر من أكثر أنواع البيانات الشخصية حساسية. لذلك من الأفضل التحقق من سياسة خصوصية الخدمة المستخدمة وكيفية تخزين ومعالجة المعلومات قبل رفعها.
كما أكدت ستانفورد أن حماية البيانات الشخصية في فضاء الذكاء الاصطناعي تواجه مجموعة معقدة من القوانين والسياسات المختلفة، وللمعلومات الحساسة أهمية استخدام أوضاع خاصة أو مؤقتة والتحكم بخيارات تدريب النموذج.
4. المعلومات السرية للشركات
التقارير الداخلية، معلومات العملاء، شفرة المصدر، المستندات المالية للشركة والمحتوى الخاضع لعقود السرية لا ينبغي أن تُعرض على روبوتات الدردشة العامة دون إذن المؤسسة.
قد يؤدي ذلك إلى كشف معلومات تجارية وكذلك عواقب تعاقدية وقانونية. لذلك عادة ما يجب على المؤسسات تحديد أي الأدوات المسموح بها لمعالجة المعلومات الداخلية وكيفية حفظ أو استخدام البيانات المُدخلة.
5. المعلومات المالية
أرقام الحسابات المصرفية، معلومات بطاقات الائتمان، الإقرارات الضريبية، قسائم الرواتب وتفاصيل حسابات الاستثمار تقع أيضاً ضمن مجموعة البيانات التي لا ينبغي إدخالها في روبوتات الدردشة العامة إلا عند الضرورة.
يمكن أن تُستخدم مثل هذه المعلومات بعد كشفها لتصميم هجمات هندسة اجتماعية مستهدفة أو عمليات احتيال مالية. في الحالات التي تتطلب تحليلاً مالياً متخصّصاً، يكون نهج أكثر حذراً حذف بيانات التعريف والأرقام الحساسة أو استخدام خدمات ذات ضمانات خصوصية محددة.
كيف نقلل المخاطر؟
حذف محادثة من السجل لا يعني بالضرورة أن جميع النسخ المحتملة من البيانات أُزيلت فوراً من كل الأنظمة ذات الصلة. لذلك شددت ستانفورد على أهمية تصميم ميزات مثل دردشة مؤقتة، ضوابط خصوصية أكثر شفافية وإمكانية اختيار واعٍ بشأن استخدام المحادثات لتدريب النماذج.
يمكن للمستخدمين أيضاً قبل استخدام أي خدمة مراجعة إعدادات حفظ السجل، استخدام المحادثات لتدريب النموذج ووضع الدردشة المؤقت. كما من الأفضل بدلاً من إدخال أسماء وتفاصيل حقيقية استخدام عبارات عامة مثل «مريض»، «عميل» أو «شركة»؛ ما لم يكن تقديم معلومات دقيقة ضرورياً بالفعل.
في النهاية، التوصية الرئيسية للخبراء بسيطة: لا ينبغي اعتبار روبوت الدردشة المدعوم بالذكاء الاصطناعي كصديق أو مذكرات خاصة تماماً. يجب إدخال أي معلومات في نظام على الإنترنت مع افتراض أنها قد تُخزن أو تُعالَج أو تُراجع تحت ظروف معينة. كما دعت ستانفورد إلى التحرك نحو سياسات تجعل استخدام بيانات المحادثات لتدريب النماذج معطلاً افتراضياً والحصول على موافقة صريحة من المستخدم لمثل هذا الاستخدام.