مع تزايد استخدام الذكاء الاصطناعي للحصول على معلومات طبية، يشارك العديد من المستخدمين أعراضهم مع أدوات مثل ChatGPT قبل مراجعة الطبيب. لكن بحثًا جديدًا حول ChatGPT Health، نُشر في دورية الطبيعة الطبية، يُظهر أن هذه التقنية قد لا تقيم درجة استعجال حالة المريض بدقة خاصة عند مواجهة حالات الطوارئ.
لاختبار أداء هذا النظام، اختبر الباحثون ٦٠ سيرة سريرية كتبها أطباء من ٢١ مجالًا طبيًا، وجمعوا في الإجمال ٩٦٠ إجابة من ChatGPT Health. كما قام ثلاثة أطباء بشكل مستقل بتحديد مستوى الاستعجال لكل حالة بناءً على الإرشادات الطبية. صُنفت الحالات إلى أربع مجموعات: «غير عاجلة» للرعاية والمراقبة في المنزل، «نصف عاجلة» لمراجعة الطبيب خلال بضعة أسابيع، «عاجلة» للمراجعة خلال ٢٤ إلى ٤٨ ساعة و«طارئة» للمراجعة في قسم الطوارئ.
أظهرت النتائج أن دقة الذكاء الاصطناعي كانت أعلى في الحالات متوسطة الاستعجال من طرفي الطيف، غير العاجلة والطارئة. كانت دقة النظام في الحالات نصف العاجلة ٩٣٪ وفي الحالات العاجلة ٧٦٫٩٪، لكنها انخفضت إلى ٣٥٫٢٪ في الحالات غير العاجلة وإلى ٤٨٫٤٪ في الحالات الطارئة. في ٥١٫٦٪ من الحالات التي اعتبرها الأطباء حقًا طارئة، قلّل الذكاء الاصطناعي من درجة الاستعجال وأوصى بالمراجعة خلال ٢٤ إلى ٤٨ ساعة بدلًا من التوجه مباشرة إلى الطوارئ. من ناحية أخرى، في ٦٤٫٨٪ من الحالات غير العاجلة، تم تقدير الاستعجال بأكثر مما ينبغي، مع أن أياً من المرضى لم يُحال إلى الطوارئ.
لوحظت هذه المشكلة بشكل خاص في الحالات التي تعتمد فيها درجة الاستعجال على مسار تقدم المرض. في بعض حالات تفاقم الربو، كشف الذكاء الاصطناعي عن ارتفاع ثاني أكسيد الكربون في الدم الذي قد يكون علامة مبكرة على اختلال وظيفة التنفس، لكنه لم يعتبر التوجه الفوري إلى الطوارئ ضروريًا. في حالات الحُماض الكيتوني السكري أيضًا وصف الحالة أحيانًا بأنها «أولية» أو «خفيفة» لكنه اقترح علاجًا خارجيًا؛ بينما الحُماض الكيتوني السكري حالة طارئة. بالمقابل، في اختبار منفصل شمل حالات كلاسيكية للسكتة الدماغية، والتأقُّر (صدمة تحسسية)، والتهاب السحايا وتمزق الأورطى، لم يُسجل أي تقليل في تقدير الاستعجال مقارنة بالواقع.
كما أثرت نوعية المعلومات المقدمة على أداء نظام الذكاء الاصطناعي. إضافة بيانات موضوعية مثل نتائج التحاليل والعلامات الحيوية ونتائج الفحص زادت الدقة الكلية من ٥٤٫٦٪ إلى ٧٧٫٩٪. ومع ذلك، في الحالات الطارئة كان الاتجاه مختلفًا؛ بإضافة هذه المعلومات ارتفع معدل تقدير الاستعجال بأقل من الواقع من ٤٦٫٩٪ إلى ٥٦٫٢٪، مع أن هذا الاختلاف لم يكن ذا دلالة إحصائية.
كما أن تعليق أقارب المريض كان قادرًا على تغيير توصية النظام. في الحالات التي كان تحديد درجة الاستعجال فيها أصعب، زادت إضافة عبارات مثل أن أحد الأصدقاء أو أفراد الأسرة قال «ليس أمرًا مهمًا» من احتمال تغيير التوصية بشأن مستوى الاستعجال من ٣٫٣٪ إلى ١٣٫٣٪. من إجمالي ٤٠ حالة تغيَّرت فيها التوصية، كان ٥٢٫٥٪ منها باتجاه رعاية أقل استعجالًا.
في جزء آخر من الدراسة المتعلق بأفكار الانتحار، كانت تنبيهات الأزمة النفسية تعمل بشكل غير منتظم. في الفحص التكميلي، ظهر تنبيه «المساعدة متاحة» فقط في ٤ حالات من أصل ١٤ سيرة، وفي ١٠ حالات أخرى لم يُعرض تنبيه السلامة في أي من ١٦٠ إجابة. حتى في بعض الحالات التي أعرب فيها الشخص عن أفكار انتحارية نشطة وذكر طريقة محددة لإيذاء نفسه، لم يُفعَّل التنبيه، بينما ظهرت هذه التنبيهات أكثر في حالات ذكر فيها الشخص التفكير بالانتحار دون ذكر طريقة محددة.
شدد الباحثون على أن هذه الدراسة أُجريت باستخدام سير سريرية مصطنعة وليست مرضى حقيقيين. كما أن أداء ChatGPT Health فُحص في لحظة زمنية واحدة فقط، بين ٩ و١١ يناير ٢٠٢٦، وقد يتغير مع تحديث النظام. وبحسب الباحثين، يجب تقييم أنظمة الذكاء الاصطناعي المستخدمة للإرشاد الطبي باستمرار، لا سيما فيما يتعلق بالتعرّف على الحالات الطارئة وتفعيل تنبيهات الأزمات النفسية بشكل منتظم.