أصدرت الهيئة المنظمة للفضاء السيبراني في الصين يوم السبت مسودة قواعد لاستطلاع الرأي العام، تهدف إلى تشديد الرقابة على خدمات الذكاء الاصطناعي المصممة لمحاكاة الشخصيات البشرية والتفاعل العاطفي مع المستخدمين.
وتؤكد هذه الخطوة مساعي بكين لصياغة ملامح الانتشار السريع للذكاء الاصطناعي الموجه للمستهلكين من خلال تعزيز متطلبات السلامة والمعايير الأخلاقية.
نطاق القواعد الجديدة
ستُطبق القواعد المقترحة على منتجات وخدمات الذكاء الاصطناعي المقدمة للجمهور في الصين والتي:
-
تظهر سمات شخصية بشرية محاكاة أو أنماط تفكير وأساليب تواصل معينة.
-
تتفاعل مع المستخدمين عاطفيًا عبر النصوص، الصور، الصوت، الفيديو، أو أي وسائط أخرى.
التدخل في حالات الإدمان والمخاطر النفسية
تحدد المسودة نهجًا تنظيميًا يلزم المزودين بتحذير المستخدمين من الاستخدام المفرط والتدخل عند ظهور علامات الإدمان. وبموجب المقترح، يتعين على مقدمي الخدمة:
-
تحمل مسؤوليات السلامة طوال دورة حياة المنتج.
-
إنشاء أنظمة لمراجعة الخوارزميات، وأمن البيانات، وحماية المعلومات الشخصية.
-
تحديد الحالات النفسية للمستخدمين وتقييم عواطفهم ومدى اعتمادهم على الخدمة.
وفي حال تبين أن المستخدمين يظهرون مشاعر حادة أو سلوكًا إدمانيًا، يجب على المزودين اتخاذ الإجراءات اللازمة للتدخل.
الخطوط الحمراء للمحتوى
وضعت الإجراءات خطوطًا حمراء للمحتوى والسلوك، مؤكدة أن الخدمات يجب ألا تولد محتوى يعرض الأمن القومي للخطر، أو ينشر الشائعات، أو يروج للعنف أو الإباحية.
