أصبحت الذكاء الاصطناعي في وقت قصير أحد الأدوات اليومية للعديد من المستخدمين. روبوتات المحادثة مثل ChatGPT قادرة على كتابة النصوص، تلخيص المعلومات، ترتيب البيانات، طرح الأفكار والمساعدة في إنجاز مجموعة واسعة من المهام الشخصية والمهنية. مع ذلك، زيادة قدرة هذه الأدوات لا تعني أنها خالية من الأخطاء أو آمنة تمامًا.
قد تنتج نماذج الذكاء الاصطناعي معلومات خاطئة، تتجاهل بعض التفاصيل المهمة أو تقدّم إجابة تبدو مقنعة ظاهريًا لكنها غير مناسبة للظروف الواقعية عند مواجهة مشكلة معقدة. كما توصي OpenAI بأن يبقى الإنسان في عملية اتخاذ القرار في الأمور المهمة وأن يُستعان بمتخصصين مؤهلين في المسائل الطبية والمالية.
في هذا السياق، تُعدّ الأمور الخمسة التالية من بين المهام التي من الأفضل عدم تفويضها كليًا إلى الذكاء الاصطناعي.
١. الوصول غير المحدود إلى الحسابات الشخصية
بعض أدوات الذكاء الاصطناعي يمكن توصيلها بالخدمات وحسابات المستخدمين لأتمتة مهام مثل البحث عن معلومات، إدارة البريد الإلكتروني أو إجراء مهام على الإنترنت. قد تكون هذه الإمكانيات مفيدة، لكن منح أذونات أكثر مما يلزم يزيد من مستوى وصول الذكاء الاصطناعي إلى المعلومات الشخصية.
من الأفضل أن يحصل كل أداة على الوصول فقط إلى البيانات والخدمات التي تحتاجها لأداء مهمة محددة. لا ينبغي أن تُمنح حسابات البنوك، رسائل البريد الإلكتروني التي تحتوي على معلومات حساسة أو المستندات المهمة إلى عوامل الذكاء الاصطناعي دون مراجعة دقيقة للأذونات. للإجراءات مثل تحويل الأموال أو تغيير المعلومات الحساسة، يكون التأكيد البشري أكثر أهمية.
٢. تفويض القرارات الطبية إلى الذكاء الاصطناعي
يمكن أن يساعد الذكاء الاصطناعي في شرح المصطلحات الطبية، تلخيص المعلومات أو إعداد قائمة أسئلة للطبيب؛ لكن تشخيص المرض، تحديد شدة حالة ما أو بدء وتغيير العلاج هي أمور مختلفة.
حتى الأدوات الأكثر تخصصًا في مجال الصحة لم تُصمّم لتحل محل الطبيب. على سبيل المثال، تؤكد خدمة Health من OpenAI أنها مصممة لدعم الرعاية الصحية وليست بديلاً للتشخيص أو العلاج من قِبَل مختص.
لذلك لا ينبغي أن تكون إجابة روبوت المحادثة أساسًا نهائيًا لتناول دواء، تغيير العلاج أو تجاهل علامة خطيرة.
٣. تفويض القرارات المالية المهمة
يمكن للذكاء الاصطناعي المساعدة في إعداد الميزانية، تصنيف النفقات وشرح المفاهيم المالية، لكن اتخاذ قرار بشأن الاستثمار، الضرائب، الديون الكبيرة أو مسائل مالية مهمة أخرى يعتمد على عوامل متعددة مثل الدخل، الالتزامات، الأهداف ومدى تحمل الشخص للمخاطر.
حتى الخدمات المالية المتخصصة لا تعتبر نفسها بديلًا عن الحكم المهني. وقد صرّحت OpenAI أن المخرجات المالية قد تكون خاطئة أو ناقصة أو غير محدثة ولا ينبغي اعتبارها نصيحة استثمارية.
٤. استخدام روبوت المحادثة كبديل للعلاج والدعم البشري
قد يكون التحدّث مع روبوت محادثة سهلاً لتنظيم الأفكار أو التعبير عن مسألة شخصية، لكنه لا ينبغي أن يحل محل التواصل مع أشخاص موثوقين أو الحصول على مساعدة مهنية. في الحالات الحرجة، يجب أن يستند القرار حول الحاجة إلى مساعدة متخصصة إلى تقييم بشري مناسب.
في الواقع، يمكن أن تتمثل الميزة الرئيسية لروبوت المحادثة في هذا المجال بمساعدة تنظيم الأفكار أو إعداد الأسئلة، وليس أن يتولى دور المعالج.
٥. إدخال معلومات سرية للشركة
أحد الأخطاء الأكثر أهمية هو وضع الشيفرة المصدرية الخاصة، معلومات العملاء، المستندات الداخلية، العقود السرية أو أسرار التجارة في خدمة ذكاء اصطناعي دون إذن الشركة.
كما حذرت لجنة التجارة الاتحادية الأمريكية (FTC) من مخاطر إفشاء المعلومات الحساسة والسرية للشركات في خدمات الذكاء الاصطناعي وشدّدت على ضرورة الالتزام بالالتزامات المتعلقة بحماية البيانات.
هذا القلق ليس مجرد نظرية. في عام ٢٠٢٣، بعدما أدخل موظفو سامسونج معلومات وشيفرات حساسة في ChatGPT، حدّدت الشركة استخدام الموظفين لأدوات الذكاء الاصطناعي المولدة. كما قيّدت أبل في نفس العام استخدام الموظفين لـ ChatGPT وبعض أدوات الذكاء الاصطناعي الخارجية بسبب القلق من إفشاء معلومات سرية.
في التقرير الأصلي لهذه المادة تم التشديد أيضًا على هذه المجالات الخمسة: الوصول إلى الحسابات الشخصية، القرارات الطبية والمالية، الدعم العاطفي والمعلومات السرية المتعلقة بالعمل.
في الختام، المسألة الأساسية ليست الاستغناء التام عن الذكاء الاصطناعي، بل تحديد الحدود بين «الاستعانة» و«تفويض المسؤولية». يمكن للذكاء الاصطناعي تلخيص المعلومات، شرح الخيارات وتقديم اقتراحات لأداء المهام؛ لكن في القرارات الحساسة يظل الفحص البشري، التحكم في الأذونات واستخدام المصادر الموثوقة ذا أهمية أساسية.