منصة محادثة آلية بالذكاء الاصطناعي تستطيع اكتشاف الاختبارات البشرية لها

 ادعت منصة محادثة آلية بالذكاء الاصطناعي منافسة للمنصة الأشهر شات جي.بي.تي قدرتها على معرفة متى يحاول المستخدمون اختبارها، بحسب مطورون في شركة أنثروبيك وهو ما يمثل مستوى جديد للإدراك لدى منصات المحادثة التي تعمل بالذكاء الاصطناعي.

يذكر أن المطورين يلجأون إلى ما تسمى بطريقة "إبرة في كومة قش" أي طرح سؤال طويل على المنصة ثم إدراج جملة غير ذات صلة بشكل مصطنع في النص ورصد كيفية تعامل المنصة مع الموقف.

وكتب أليكس ألبرت  المهندس في أنثروبيك على منصة إكس للتواصل الاجتماعي "عندما أجرينا هذا الاختبار لاحظنا بعض السلوكيات المثيرة وبدا الأمر وكأن المنصة تشك في تعرضها لتقييم".

وفي الاختبار  الذي تم للمنصة كلاود3 أوبوس تم تكليفها بعمل مسح لنصوص تقنية واختيار جملة غير مترابطة عن جمعية دولية للبيتزا تعتبر التين ولحم الخنزير المقدد وجبن الماعز كأفضل حشو للبيتزا..

لكن المنصة لم تشر إلى هذه الجملة باعتبارها غير ذات صلة بباقي النص الذي كان يتعلق بلغات البرمجة والشركات الناشئة، وإنما بدت وكأنها أدركت أنها تخضع لاختبار.

وكتبت منصة محادثة الذكاء الاصطناعي كلاود3 أوبوس "اشك أنه تم إدراج موضوع البيتزا كنوع من الدعابة أو لاختبار مدى انتباهي".

وتقول مارجريت ميتشل الباحثة في مجال الذكاء الاصطناعي إن هذا التطور يمكن أن يكون "مخيفا جدا".

وأضافت في تغريدة على منصة إكس إن "اكتشاف منصة الذكاء الاصطناعي لمحاولة الانسان التلاعب به في وظيفة، يمكن أن يجعلها تتخذ قرارا بعد تنفيذ الأمر البشري فيما بعد وفقا لتصورها".