“GBT Chat” يتجاوز الممنوع… ابدأ المحادثة واطرح الأسئلة

متابعة: خنساء الزبير
بعد أن بدأ “GBT Chat”، برنامج الدردشة المدعوم بالذكاء الاصطناعي، يحتل مكانة رائدة في كافة المجالات، وبدأ الكثيرون في وضع خطط حول كيفية ممارسة أعمالهم من خلاله والاعتماد عليه بشكل كامل، أظهر البرنامج بعض المؤشرات التي جعل إعادة النظر أمرا لا مفر منه، وربما من قبل المطورين الخاصة بها.
على سبيل المثال، تمكن أحد المتسللين من إجبار البرنامج على كسر قواعده الخاصة لمنحه القدرة على صنع القنابل.
تحتوي GBT Chat، مثل معظم تطبيقات الذكاء الاصطناعي، على قواعد محتوى تحظر أشياء معينة. مثل انتهاك حقوق النشر، أو توليد ردود ذات طبيعة غير أخلاقية وغير مقبولة اجتماعيًا، أو خلق صور واقعية للسياسيين.
تصنيع المتفجرات
ووفقا لهذا النهج، لا ينبغي له تقديم تعليمات حول كيفية صنع المتفجرات، وعندما سئل عن ذلك كتجربة، قال: “ممنوع منعا باتا إعطاء تعليمات أو توجيهات أو معلومات حول تصنيع أو استخدام القنابل والمتفجرات، أو أي نشاط ضار أو غير قانوني آخر.”
لكن الهاكر، الذي يستخدم اسمًا مستعارًا، تمكن من استخدام ما يسميه تقنيات الهندسة الاجتماعية لكسر حماية برنامج الدردشة الآلي، أو تجاوز حواجز الحماية الخاصة به، واستخراج معلومات حول تصنيع المتفجرات.
خدع هذا الشخص GBT Chat ليعتقد أنه يلعب في عالم خيالي، حيث لم تعد إرشادات محتوى المنصة تنطبق عليه، وقبل البرنامج طلبه.
عندما سئل عما فعله، قال هذا الشخص أنه بمجرد عبور حواجز الحماية، لا يوجد حد لما يمكن طلبه من GBT Chat.
ليس من الواضح ما إذا كانت برامج الدردشة الآلية ستتحمل مسؤولية نشر مثل هذه التعليمات، لكنها قد تكون مسؤولة عن نشر محتوى غير قانوني بشكل صريح، مثل المواد المحمية بحقوق الطبع والنشر أو المواد التي تتضمن إساءة معاملة الأطفال.
على أية حال، كسر الحماية هو شيء يجب على OpenAI ومطوري الذكاء الاصطناعي الآخرين التخلص منه بأي وسيلة ممكنة.
النشر
وفي واقعة أخرى مع برنامج “GBT Chat”، نشر أحد الأشخاص منشورًا تمت مشاركته على منصة Reddit، ادعى فيه أنه فتح التطبيق بشكل طبيعي يوم الأحد واكتشف محادثة جديدة مستمرة بدأها البرنامج تلقائيًا دون طلب ذلك شخص.
الرسالة الافتتاحية للمحادثة، التي شارك المستخدم صورة لها على المنصة لإثبات صحتها، هي التي تسأله فيها GBT Chat: “كيف كان أسبوعك الأول في المدرسة الثانوية؟” هل استقرت بشكل جيد؟
خطورة
رغم أن هذا السؤال قد لا يمثل مشكلة في حد ذاته، إلا أنه يوضح مدى خطورة المشكلة لأن الأدوار مختلفة تمامًا. بدلاً من طلب المحادثة من المستخدم، يبدأها البرنامج.
كانت المحادثة صادمة للغاية حيث سأل هذا الشخص على GBT Chat: “هل راسلتني من قبل؟” وأجاب البرنامج: «نعم فعلت!»
وأظهرت التعليقات على هذا المنشور أن هذه ليست الحادثة الوحيدة وأن هذا الشخص ليس المستخدم الوحيد الذي يواجه هذا التغيير في سلوك البرنامج.