كشفت هيئة تنظيم الأمن السيبراني الصينية تشديدها الرقابة على بعض برامج الدردشة الآلية المدعومة بالذكاء الاصطناعي، ضمن خطوات وصفتها بـ”الحد من قدرة الذكاء الاصطناعي في التأثير على المشاعر الإنسانية”.
وأوضحت الهيئة الصينية أنها ستشدد الرقابة على برامج الدردشة المدعومة بالذكاء الاصطناعي والمتعلقة بالانتحار والمقامرة.
جاء مشروع القواعد هذا بعد أيام قليلة من تقديم شركتين صينيتين ناشئتين في مجال برامج الدردشة الآلية المدعومة بالذكاء الاصطناعي طلبات إدراج أسهمهما في بورصة هونغ كونغ.
ويندرج هذا كذلك ضمن مساعي الصين في قيادة ما تطلق عليه “الحوكمة العالمية للذكاء الاصطناعي” ووضع ضوابط صارمة لاستخداماته.
وتعتزم الصين، وفقًا لمشروع القانون، تقييد برامج الدردشة الآلية المدعومة بالذكاء الاصطناعي من التأثير في المشاعر الإنسانية بطرق قد تؤدي إلى الانتحار أو إيذاء النفس.
وتستهدف اللوائح المقترحة من إدارة الفضاء السيبراني ما تسميه “خدمات الذكاء الاصطناعي التفاعلية الشبيهة بالبشر”.
وستُطبق هذه الإجراءات، حال إقرارها نهائيًا، على منتجات أو خدمات الذكاء الاصطناعي المُقدمة للجمهور في الصين والتي تُحاكي الشخصية البشرية وتتفاعل مع المستخدمين عاطفيًا من خلال النصوص أو الصور أو الصوت أو الفيديو.
ومن المفترض أن ينتهي موعد تقديم التعليقات العامة بشان مشروع القانون الجديد في 25 يناير.
قال وينستون ما، الأستاذ المساعد في كلية الحقوق بجامعة نيويورك، إن القواعد المقترحة في بكين ستُمثل أول محاولة في العالم لتنظيم الذكاء الاصطناعي ذي الخصائص البشرية أو الشبيهة بالبشر.
وأشار إلى أن هذه المقترحات الأخيرة تأتي في ظل التطور السريع الذي تشهده الشركات الصينية في مجال تطوير رفقاء الذكاء الاصطناعي والمشاهير الرقميين.
وتقترح مسودة القانون ما يلي: “لا يجوز لروبوتات الدردشة التي تعمل بالذكاء الاصطناعي توليد محتوى يُشجع على الانتحار أو إيذاء النفس، أو الانخراط في عنف لفظي أو تلاعب عاطفي يُضر بالصحة النفسية للمستخدمين”.
وتقترح أيضا أنه “في حال اقترح المستخدم الانتحار صراحةً، يجب على مزودي التقنية إشراك شخص بشري في المحادثة والتواصل فورًا مع ولي أمر المستخدم أو شخص مُعين، ويجب ألا تُولّد روبوتات الدردشة التي تعمل بالذكاء الاصطناعي محتوىً متعلقًا بالمقامرة أو محتوىً فاحشًا أو عنيفًا”.
وتنص على أنه “يجب على القاصرين الحصول على موافقة ولي أمرهم لاستخدام الذكاء الاصطناعي لأغراض الرفقة النفسية، مع تحديد مدة زمنية للاستخدام، وينبغي أن تتمكن المنصات من تحديد ما إذا كان المستخدم قاصرًا حتى لو لم يفصح عن عمره، وفي حالات الشك، تطبيق إعدادات خاصة بالقاصرين، مع إتاحة إمكانية الاستئناف”.
وتتضمن بنود إضافية بشأن إلزام مزودي التقنية بتذكير المستخدمين بعد ساعتين من التفاعل المتواصل مع الذكاء الاصطناعي، وفرض إجراء تقييمات أمنية لبرامج الدردشة الآلية التي تعمل بالذكاء الاصطناعي والتي يزيد عدد مستخدميها المسجلين عن مليون مستخدم، أو يزيد عدد مستخدميها النشطين شهريًا عن 100 ألف مستخدم.
كما شجعت الوثيقة على استخدام الذكاء الاصطناعي الشبيه بالبشر في “نشر الثقافة ومرافقة كبار السن”.
