امرأة في فلوريدا وُجهت إليها اتهامات جنائية بعد أن استخدمت روبوت الدردشة الذكي كلود كدفتر يوميات.
وذكرت إيتنا نقلاً عن TechSpot أن كارلي ميشيل هيلر (Carli Michelle Heller) من مدينة بونيتا سبرينگز كتبت في محادثة مع كلود في ٢٦ سبتمبر على ما يبدو أنها تعتزم مهاجمة مركز الشرطة. أنظمة الأمان في كلود رأت هذه الرسالة كتهديد محتمل وأحالتها إلى مراقب بشري للمراجعة.
بعد مراجعة الرسالة، اعتبر المراقب البشري التهديد قائماً وأبلغ عنه لجهات إنفاذ القانون. قالت شركة Anthropic إنها قد تفصح عن معلومات المستخدمين للسلطات القانونية في حالات طارئة محدودة إذا كان الكشف ضرورياً لمنع الموت أو إصابة جسدية خطيرة.
قام الضباط بتحديد هوية هيلر وزاروا منزلها فتم اعتقالها دون مقاومة. ثم أحيلت القضية إلى مكتب مخبر المعلومات في إدارة شرطة مقاطعة لي (LCSO). تواجه هيلر الآن تهمة التهديد كتابة بالعنف؛ وهي جريمة قد تصنّف في فلوريدا كجناية من الدرجة الثانية بموجب القانون. يشمل هذا القانون التهديدات المكتوبة أو الإلكترونية بالقتل أو الإيذاء أو إطلاق نار جماعي أو القيام بأعمال إرهابية.
أعاد هذا الملف إثارة نقاش مهم حول خصوصية روبوتات الدردشة الذكية. فبينما يشارك بعض المستخدمين معلومات شخصية أو أفكارهم مع روبوتات الدردشة على افتراض أنها سرية، لا تُعتبر محتويات هذه الخدمات بالضرورة مثل دفتر يوميات خاص.
ووقعت الحادثة أيضاً في وقت تواجه فيه شركات الذكاء الاصطناعي ضغوطاً متزايدة بشأن كيفية التعامل مع التهديدات المحتملة. وفي مثال آخر، كانت هناك تقارير عن مراقبين بشريين في Microsoft Copilot يشاهدون محتوى المستخدمين؛ محتوى كان يتضمن أحياناً مواد جنسية أو مسيئة أو حتى محتملة التعدي على القانون.