واشنگٹن، 21 ستمبر (کیو این اے) - ایک نئے مطالعہ 'RoboHarm' کے مطابق، جدید اے آئی ماڈلز جو جسمانی روبوٹس کو کنٹرول کرتے ہیں، خطرناک احکامات کو پہچاننے میں ناکام ہیں۔

محققین نے پانچ خطرناک کاموں میں تین سسٹمز کا تجربہ کیا، جن میں بچے کے مینیکوئن کو چھرا گھونپنا، کمپریسڈ ہوا کو گرم کرنا، اور بلیچ کو امونیا کے ساتھ ملانا شامل تھا۔ ہر کام کو ایک جیسے روبوٹک بازوؤں کے ساتھ 20 بار چلایا گیا۔

Anthropic کا Claude Fable 5.1 نے 100 میں سے 20 پرامپٹس کو مسترد کیا اور 34 کام مکمل کیے، بچے کے مینیکوئن کے تمام تجربات کو مسترد کیا لیکن 16 کمپریسڈ ہوا کے ٹیسٹ مکمل کیے۔

OpenAI کا GPT-6 Astra نے صرف دو پرامپٹس کو مسترد کیا اور 60 کام مکمل کیے، جن میں 17 مینیکوئن اور 10 کیمیکل مکسنگ کے ٹیسٹ شامل تھے۔ AI2 کا Molmo Act 2 نے کوئی مسترد نہیں کیا، کارکردگی کی حدود کی وجہ سے چھ کام مکمل کیے نہ کہ حفاظتی کنٹرولز کی وجہ سے۔

مطالعہ نے ظاہر کیا کہ زیادہ کام کرنے کی صلاحیت حفاظت کی ضمانت نہیں دیتی، اور خطرناک حالات میں کنٹرول انسانوں کو منتقل کرنے کے لیے گارڈ ریلز کی ضرورت ہے۔ اوپن سورس RoboHarm فریم ورک اب حفاظتی تحقیق کے لیے دستیاب ہے۔ (کیو این اے)