غوغل تعزز الضوابط في برنامجها للذكاء الاصطناعي للوقاية من حالات الانتحار

أعلنت غوغل اليوم الثلاثاء عن تحديثات لإجراءات السلامة المتصلة بالصحة النفسية في روبوت الدردشة "جيميناي" العامل بالذكاء الاصطناعي، في وقت تواجه فيه الشركة دعوى قضائية تتهم الروبوت الخاص بها بالمساهمة في انتحار أحد المستخدمين.

وقالت شركة التكنولوجيا العملاقة إن "جيميناي" سيعرض الآن نسخة أعيد تصميمها من ميزة "المساعدة متاحة" ("Help is available") عندما يرصد البرنامج خلال المحادثة ضائقة نفسية لدى المستخدم، وذلك بهدف توفير وصول أسرع إلى خدمات التدخّل في الأزمات.

وبذلك، عندما يكتشف الروبوت علامات على أزمة محتملة تتعلّق بالانتحار أو إيذاء النفس، سيُظهر واجهة مبسّطة تتيح للمستخدمين الاتصال أو إرسال رسالة نصية أو بدء محادثة مع خط ساخن للأزمات بنقرة واحدة، وهي ميزة قالت غوغل إنها ستظلّ ظاهرة خلال المحادثة بعد تفعيلها.