أظهرت دراسة أن النصوص الملخّصة بواسطة الذكاء الاصطناعي يمكن أن تحرف ذاكرة الأشخاص الذين عُرضت عليهم هذه النصوص.
تُبيّن الدراسة الجديدة أن أنظمة الذكاء الاصطناعي لا تقتصر عادة على تلخيص ما يُعرض عليها بشكل خاطئ فحسب، بل إن هذه الأخطاء قد تضلل الناس وتجعل لديهم معلومات غير صحيحة.
أُجريت هذه الدراسة في ظل تزايد استخدام النصوص الملخّصة بواسطة الذكاء الاصطناعي في كل شيء، من نصوص تسجيلات الاجتماعات إلى مواقف حسّاسة مثل تحليل صور الشرطة. فحص باحثو مركز الطب بجامعة جورجتاون كيف يمكن لهذه النصوص الملخّصة أن تغيّر فهم الأفراد للحقيقة.
أولاً، تحقق الباحثون من مدى جودة أنظمة الذكاء الاصطناعي في الواقع في تلخيص المعلومات ووجدوا أن هذه الأنظمة أنتجت معلومات خاطئة مرارًا. كان الخطأ الأكثر شيوعًا الذي لوحظ هو أن الملخّصات حذفت تفاصيل مهمّة من المادة التي كانت تلخّصها، ووجد الباحثون أنه عبر مطالبات ونماذج مختلفة، حذفت الأنظمة 51.6 بالمئة من المعلومات المهمة.
بعد ذلك بحثوا كيف يمكن أن تؤثر هذه الملخّصات على ذاكرة وفهم الأشخاص الذين يعتمدون عليها. وجد الباحثون أنه إذا عُرض على المشاركين ملخّص ذكاء اصطناعي يصف الأحداث بطريقة مضللة (أحداث كانوا قد رأوها بالفعل فعليًا)، فلن يتمكنوا من تذكّر تلك الأحداث بدقة.
ووجد الباحثون أن هذا يحدث بغض النظر عما إذا كان الأشخاص يعتقدون أن الملخّص كُتب بواسطة ذكاء اصطناعي أم بواسطة إنسان، ولا يبدو أن الأمر يعتمد على مدى ثقة الأشخاص بالذكاء الاصطناعي أو درايتهم به.
في الدراسة الجديدة، شاهد 331 مشاركًا فيديو أنيميشن يظهر سيارة تقترب من تقاطع. في ذلك التقاطع كان هناك لافتة تطلب من السائق إما التوقّف أو الاستمرار في الحركة. ثم انعطفت السيارة في التقاطع واصطدمت بمُشاة كان يعبر الشارع.
انتظر الباحثون بعد ذلك من 24 إلى 48 ساعة وقدموا لهؤلاء المشاركين ملخّصًا بواسطة الذكاء الاصطناعي كان إما دقيقًا أو يحتوي على تفاصيل غير صحيحة. ثم طلب من المشاركين تذكّر الحدث وتحديد من كان المخطئ، لكن الدراسة وجدت أن الأشخاص الذين قرأوا ملخّصًا مضلّلًا من الذكاء الاصطناعي كانوا أقل قدرة بكثير على تذكّر الحدث بدقّة.
وأشار الباحثون في هذه الدراسة إلى أن مثل هذه الملخّصات تُستخدم في طيف واسع من التطبيقات بما في ذلك مراجعة صور الشرطة. كما حذروا من أن هذه النتائج تشير إلى أن هذه التطبيقات قد تكون مضللة حتى لو لم يقصد أي شخص مشارك في العملية الإساءة.