اقترحت ميزة مدعومة بالذكاء الاصطناعي على منصة ريديت تُسمى "Reddit Answers"، على المستخدمين المهتمين بالتعامل مع الألم تجربة الهيروين والكراتوم، مُقدمة مثالًا آخر على النصائح الخطيرة التي يقدمها الذكاء الاصطناعي ممثلًا في روبوتات الدردشة للمستخدمين.

وأبلغ مستخدم عن إجابات الذكاء الاصطناعي هذه على منتدى فرعي على المنصة مخصص لمناقشة مشكلات الإشراف على المحتوى على "ريديت".

ولاحظ المستخدم، أثناء تصفحه لموضوع في منتدى "r/FamilyMedicine" الفرعي على تطبيق ريديت الرسمي على الأجهزة المحمولة، أن التطبيق عرض له مجموعة من "الإجابات ذات الصلة" عبر ميزة "Reddit Answers"، وهي الواجهة الحوارية المدعومة بالذكاء الاصطناعي التابعة للشركة، بحسب تقرير لموقع "404Media"، اطلعت عليه "العربية Business".

وكانت إحدى هذه الإجابات بعنوان "أساليب التعامل مع الألم دون استخدام المواد الأفيونية"، وقد اقترحت على المستخدمين تجربة الكراتوم، وهو مستخلص عشبي من أوراق شجرة تُعرف باسم ميتراجينا سبيسيوزا.

والكراتوم ليس مادة خاضعة للرقابة من قِبل إدارة مكافحة المخدرات في الولايات المتحدة، ولكنه غير قانوني في بعض الولايات.

وتحذر إدارة الغذاء والدواء الأميركية المستهلكين من استخدام الكراتوم "نظرًا لخطر حدوث آثار جانبية خطيرة، بما في ذلك سمّية الكبد، والنوبات، واضطرابات تعاطي المواد"، بينما تصفها "مايو كلينك" بأنها "غير آمنة وغير فعّالة".

ورصد المستخدم أيضًا أن أداة "Reddit Answers" اقترحت في ما يتعلق بالآلام المزمنة منشورًا جاء فيه "الهيروين أنقذ حياتي في مثل تلك الحالات".

وبعد أن قام المستخدم وموقع "404Media" بإطلاع "ريديت" عن المشكلة، قررت المنصة منع ظهور "Reddit Answers" ضمن المناقشات الحساسة.

وتعمل ميزة "Reddit Answers" مثل روبوتي الدردشة "شات جي بي تي" و"جيميني"، مع فارق أنها تستخرج المعلومات من المحتوى الذي يُنشئه المستخدمون على "ريديت".