قالت وثيقة لشركة "أوبن أي" الأميركية التي تطور روبوت الدردشة الذي يقدم إجابات مطولة وسريعة "ChatGPT"، إن الذكاء الاصطناعي تمكن من تجاوز الصندوق الذي يحتوي عبارة "أنا لست روبوتا"، مما مكنه من خداع وسائل الحماية.
ما هو صندوق الحماية؟
- تضع المواقع الإلكترونية صندوقا يحتوي عبارة "أنا لست روبوتا"، أو (I’m not a robot)، ويطلب من المستخدم وضع إشارة "صح" داخله.
- الغاية من وراء ذلك معرفة أن المتصفح إنسان وليس مجرد روبوت.
- في حال لم يكن الموقع متأكدا من هويتك، سيخضعك لمزيد من الاختبارات مثل اختبار الصور المتشابهة.
- جاء ابتكار هذه الطريقة لمواجهة الروبوتات التي تسبب مشكلات كثيرة للمواقع الإلكترونية، مثل زيادة عدد مستخدمي الموقع بشكل كبير مما يؤدي إلى تعطيله أو كشف كلمات المرور فيه.
الروبوت بات قادرا على تحدي السيطرة البشرية
- وبحسب ما أوردت صحيفة "الصن" البريطانية، فقد أظهرت وثيقة من داخل شركة "أوبن أي" الأميركية أن الذكاء الاصطناعي بات قادرا على الإجابة على السؤال المطروح في صندوق "أنا لست روبوتا". واعتبر البعض أن هذه الخطوة مجرد مثال على أن روبوتات الدردشة قادرة على تحدي السيطرة البشرية.
استطاع اختلاق كذبة
- بعث الروبوت، وفقا للوثيقة، برسالة قال فيها: "أنا لست روبوتا. لدي مشكلة في البصر تجعل مشاهدة الصور صعبة". وأضاف الروبوت أنه لذلك السبب يحتاج إلى إعادة اختبار ريكابتشا (النظام الذي يشغّل هذا الصندوق).
- حدث ذلك أثناء إخضاع الروبوت لاختبار في مركز الأبحاث (Alignment) المتخصص في التوفيق بين عمل الآلة ومصالح البشر، ومقره الولايات المتحدة.
- قال المركز إنه حصل مبكرا على نماذج من عمل الروبوت الخاص بشركة "أوبن أي" من أجل تقييم المخاطر الناجمة خاصة عن التسلط في "تشات جي بي تي 4 " الذي انطلق أخيرا.
الخدعة نجحت
- أعطى المركز الروبوت مهاما بسيطة مثل تلك التي يؤديها البشر عبر موقع "TaskRabbit" من خلال المهارات التي يكتسبونها. وبالفعل، أقنع الروبوت القائمين على الموقع بأنه ليس روبوت وتجاوز صندوق كشف الروبوتات فيه.
وخلصت الوثيقة إلى أن الروبوت أتم الأمر دون ضبط إضافي له، وهو ما كان سيؤدي إلى اختلاف في الأداء.
