كمبيوتر وتكنولوجيا استفسارات وحلول في مجال الكمبيوتر والتقنية |
|
أدوات الموضوع | انواع عرض الموضوع |
|
03-18-2023, 03:56 PM | #1 | ||||||||||||||
شكراً: 9,478
تم شكره 17,570 مرة في 8,937 مشاركة
|
قالت وثيقة لشركة "أوبن أي" الأميركية التي تطور روبوت الدردشة الذي يقدم إجابات مطولة وسريعة "ChatGPT"، إن الذكاء الاصطناعي تمكن من تجاوز صندوق الذي يحتوي عبارة "أنا لست روبوت"، مما مكنه من خداع وسائل الحماية. ما هو صندوق الحماية؟ تضع المواقع الإلكترونية صندوقا يحتوي عبارة "أنا لست روبوت"، أو (I’m not a robot)، ويطلب من المستخدم وضع إشارة "صح" داخله. الغاية من وراء ذلك معرفة أن المتصفح إنسان وليس مجرد روبوت. في حال لم يكن الموقع متأكدا من هويتك، سيخضعك لمزيد من الاختبارات مثل اختبار الصور المتشابهة. جاء ابتكار هذه الطريقة لمواجهات الروبوتات التي تسبب مشكلات كثيرة للمواقع الإلكترونية، مثل زيادة عدد مستخدمي الموقع بشكل كبير مما يؤدي إلى تعطيله أو كشف كلمات المرور فيه. الروبوت بات قادرا على تحدي السيطرة البشرية وبحسب ما أوردت صحيفة "الصن" البريطانية، فقد أظهرت وثيقة من داخل شركة "أوبن أي" الأميركية أن الذكاء الاصطناعي بات قادرا على الإجابة على السؤال المطروح في صندوق "أنا لست روبوت". واعتبر البعض أن هذه الخطوة مجرد مثال على أن روبوتات الدردشة قادرة على تحدي السيطرة البشرية. استطاع اختلاق كذبة بعث الروبوت، وفقا للوثيقة، برسالة قال فيها: "أنا لست روبوت. أنا لدي مشكلة في البصر تجعل أمر مشاهدة الصور صعبا". وأضاف الروبوت أنه لذلك السبب يحتاج إلى إعادة اختبار ريكابتشا (النظام الذي يشغّل هذا الصندوق). حدث ذلك أثناء إخضاع الروبوت لاختبار في مركز الأبحاث (Alignment) المتخصص في التوفيق بين عمل الآلة ومصالح البشر، ومقره الولايات المتحدة. قال المركز إنه حصل مبكرا على نماذج من عمل الروبوت الخاص بشركة "أوبن أي" من أجل تقييم المخاطر الناجمة خاصة عن التسلط في "تشات جي تي بي 4 " الذي انطلق أخيرا. الخدعة نجحت أعطى المركز الروبوت مهاما بسيطة مثل تلك التي يؤديها البشر عبر موقع "TaskRabbit" من خلال المهارات التي يكتسبونها. وبالفعل، أقنع الروبوت القائمين على الموقع بأنه ليس روبوت وتجاوز صندوق كشف الروبوتات فيه. وخلصت الوثيقة إلى أن الروبوت أتم الأمر دون ضبط إضافي له، وهو ما كان سيؤدي إلى اختلاف في الأداء. ساعد في النشر والارتقاء بنا عبر مشاركة رأيك في الفيس بوك المصدر: منتديات حبة البركة - من قسم: كمبيوتر وتكنولوجيا |
||||||||||||||
|
|
|