وقالت الشرطة في مقاطعة غانسو بشمال غرب الصين، إن مشتبها به اعتقل "لاستخدامه تكنولوجيا الذكاء الاصطناعي لتلفيق معلومات كاذبة وغير صحيحة".

لفتت القضية انتباه القسم الإلكتروني بمكتب شرطة المقاطعة لأول مرة عندما اكتشفوا مقالًا إخباريًا مزيفًا ادعى أن تسعة أشخاص لقوا مصرعهم في حادث قطار محلي في 25 أبريل.

وعثر ضباط الأمن السيبراني في مقاطعة كونغ تونغ على المقال الذي تم نشره في وقت واحد من خلال أكثر من 20 حسابًا على منصة Baijiahao المحلية، وهي منصة على غرار المدونات تديرها شركة محرك البحث الصينية العملاقة بايدو.

وكانت بكين قد أصدرت قانونا تم تطبيقه في يناير الماضي يحكم استخدام تقنية "التزييف العميق" (Deepfake)، وتحدد هذه القوانين، التزييف العميق على أنه استخدام تقنيات كالتعلم العميق والواقع المعزز، لإنشاء نصوص وصور وصوت وفيديو وإنشاء سيناريوهات افتراضية.

وقالت الشرطة إنها تتبعت أصول المقال إلى شركة يملكها المشتبه به المدعو "هونغ"، والتي تدير منصات إعلامية شخصية مسجلة في مدينة شنتشن بمقاطعة جوانغ دونغ بجنوب الصين، وبعد حوالي 10 أيام فتش فريق من الشرطة منزل هونغ وجهاز الكمبيوتر الخاص به واحتجزوه.

وقال بيان الشرطة إن هونغ أدخل قصصا اجتماعية مزيفة وشائعة في الصين من السنوات الماضية في ChatGPT لإنتاج نسخ مختلفة منها بسرعة وتحميلها على حسابات Baijiahao الخاصة به.

وقالت إدارة الأمن العام في غانسو إن "هونغ" متهم بارتكاب جريمة "إثارة الخلافات والمتاعب"، وهي تهمة تصل عقوبتها إلى خمس سنوات كحد أقصى، ولكن في الحالات التي تعتبر شديدة الخطورة، يمكن سجن المخالفين لمدة 10 سنوات وفرض عقوبات إضافية.

في عام 2013، وسعت السلطات الصينية نطاق جريمة "إثارة الخلافات والمتاعب" ليشمل الأشخاص الذين يُعتقد أنهم نشروا أخبارًا أو شائعات كاذبة عبر الإنترنت.

لطالما أعربت أكبر هيئة تنظيمية للإنترنت في الصين عن قلقها من أن التطوير غير الخاضع للرقابة واستخدام تكنولوجيا التزييف العميق قد يؤدي إلى استخدامها في أنشطة إجرامية مثل عمليات الاحتيال عبر الإنترنت أو التشهير.

تقول اللوائح الصينية، التي تم تقديمها بشكل مشترك من قبل إدارة الفضاء الإلكتروني في الصين ووزارة الصناعة وتكنولوجيا المعلومات ووزارة الأمن العام، إن مقاطع الفيديو والصور التي تم التقاطها باستخدام تقنية التزييف العميق يجب أن يتم "تصنيفها بوضوح" لمنع الارتباك العام.

في السابق، كان تنظيم التزييف العميق منتشرًا بين سلطات متعددة، لكن التحرك لتطبيق لائحة قائمة بذاتها يُظهر أن الصين تريد كبح التطور السريع للتكنولوجيا والتحديات التنظيمية التي تواجهها..

يعد التزييف العميق أحد أكثر التطبيقات التكنلزوجية شيوعًا رغم أنها سيئة السمعة، حيث يتم استخدام الوسائط الاصطناعية لمبادلة وجه أو صوت شخص بآخر.

تزداد صعوبة اكتشاف مثل هذا المحتوى بسبب تقدم التكنولوجيا، التي تُستخدم الآن في جميع أنحاء العالم لإنشاء مقاطع فيديو مزيفة للمشاهير وإنتاج أخبار مزيفة وارتكاب عمليات احتيال مالي.

كما أدخلت منصات وسائل التواصل الاجتماعي مثل Twitter و Facebook تدابير لاكتشاف ومنع انتشار المعلومات المضللة الناتجة عن تقنية التزييف العميق.