أصدرت الجهة المنظمة للأمن السيبراني في الصين، يوم السبت، مسودة قواعد لطرحها للتشاور العام، من شأنها تشديد الرقابة على خدمات الذكاء الاصطناعي المصممة لمحاكاة الشخصيات البشرية والتفاعل العاطفي مع المستخدمين.
وتؤكد هذه الخطوة سعي بكين إلى توجيه الإطلاق السريع للذكاء الاصطناعي الموجّه للمستهلكين، من خلال تعزيز متطلبات السلامة والأخلاقيات. وستنطبق القواعد المقترحة على منتجات وخدمات الذكاء الاصطناعي المقدَّمة للجمهور في الصين، والتي تُظهر سمات شخصية بشرية مُحاكاة، وأنماط تفكير وأساليب تواصل، وتتفاعل مع المستخدمين عاطفيًا عبر النصوص أو الصور أو الصوت أو الفيديو أو غيرها من الوسائط.
وتحدد المسودة نهجًا تنظيميًا يُلزم المزوّدين بتحذير المستخدمين من الإفراط في الاستخدام، والتدخل عند ظهور علامات الإدمان.
وبموجب المقترح، سيُطلب من مقدّمي الخدمات تحمّل مسؤوليات السلامة طوال دورة حياة المنتج، وإنشاء أنظمة لمراجعة الخوارزميات، وأمن البيانات، وحماية المعلومات الشخصية.
كما تستهدف المسودة المخاطر النفسية المحتملة، إذ يُتوقع من المزوّدين تحديد حالات المستخدمين وتقييم مشاعرهم ومستوى اعتمادهم على الخدمة. وإذا تبيّن أن المستخدمين يُظهرون مشاعر متطرفة أو سلوكًا إدمانيًا، فعلى المزوّدين اتخاذ التدابير اللازمة للتدخل.
وتضع الإجراءات حدودًا واضحة للمحتوى والسلوك، مؤكدةً أن الخدمات يجب ألا تُنتج محتوى يهدد الأمن القومي، أو ينشر الشائعات، أو يروّج للعنف أو المواد الإباحية.
