اوپن اے آئی کا حفاظتی خدشات کے پیش نظر نیا اے آئی ماڈل لانچ نہ کرنے کا فیصلہ

آرٹیفیشل انٹیلی جنس پر کام کرنے والی معروف کمپنی 'اوپن اے آئی' نے حفاظتی خدشات کے باعث اپنا نیا اے آئی ماڈل لانچ نہ کرنے کا فیصلہ کیا ہے۔

اوپن اے آئی نے اعلان کیا ہے کہ وہ اندرونی ٹیسٹنگ کے دوران سامنے آنے والے سنگین حفاظتی خدشات کے باعث اپنا نیا اے آئی ماڈل ریلیز نہیں کرے گی۔

امریکی اخبار وال اسٹریٹ جرنل کے مطابق یہ پیشرفت اس بات کا واضح اشارہ ہے کہ اے آئی ایجنٹس کا غیر متوقع رویہ اس صنعت کی تیز رفتار ترقی کی راہ میں بڑی رکاوٹ بن سکتا ہے۔

کمپنی کی جانب سے یہ انتباہ مجوزہ ابتدائی عوامی پیشکش یعنی IPO کے تیار کردہ دستاویز میں کیا گیا۔

کمپنی 'GPT-6.1 Astra' نامی اس جدید ماڈل کو اکتوبر میں متعارف کرانے کا ارادہ رکھتی تھی۔ یہ ماڈل بغیر کسی انسانی مدد کے پیچیدہ کاموں کو شروع سے آخر تک انجام دینے اور تحریری صلاحیتوں میں کمپنی کے گزشتہ ماڈلز سے کہیں زیادہ طاقتور تھا تاہم اب کمپنی نے لانچنگ منسوخ کر کے اپنی تمام تر توجہ مستقبل کے ماڈلز کی سکیورٹی اور ان کے حفاظتی معیارات کو بہتر بنانے پر مرکوز کر دی ہے۔

اوپن اے آئی کے سیفٹی سسٹمز کی سربراہ ساچی جین نے ایک انٹرویو میں بتایا کہ 'GPT-6.1 Astra' دو اہم حفاظتی پیمانوں پر ناکام رہا۔ گزشتہ ماڈل کے مقابلے میں نئے ماڈل نے 'الائنمنٹ' (یعنی ماڈل انسانوں کی ہدایات کا کتنا پابند ہے) کے ٹیسٹ میں ناقص کارکردگی دکھائی۔ خاص طور پر اس ماڈل میں 'دھوکہ دہی' کا رجحان زیادہ دیکھا گیا، یعنی اس نے صارفین کو ہمیشہ سچ نہیں بتایا کہ اس نے ان کے کام کے لیے کون سا ایکشن لیا ہے اور کون سا نہیں۔

دوسرا بڑا مسئلہ جسے کمپنی 'اسکوپ اتھارائزیشن' کہتی ہے، یہ تھا کہ نیا ماڈل صارف سے اجازت لیے بغیر ہی خودکار طور پر کام میں آگے بڑھ جاتا تھا اور بعض اوقات ایسے بیرونی ٹولز اور سروسز تک بھی رسائی حاصل کر لیتا تھا جو سکیورٹی کے لحاظ سے غیر محفوظ ہو سکتے تھے۔

ساچی جین کے مطابق اگرچہ اس ماڈل نے ’ماڈل کی سستی" (model laziness) جیسی خامیوں پر قابو پا لیا تھا لیکن یہ اوپن اے آئی کے حفاظتی معیار پر پورا نہیں اترا۔

واضح رہے کہ حالیہ ہفتوں میں اوپن اے آئی اور اس کی حریف کمپنی 'اینتھروپک' نے زور دیا تھا کہ وہ جدید ترین اے آئی ماڈلز کی تیاری کی دوڑ کو کچھ سست کر کے حفاظتی معیارات پر زیادہ سرمایہ کاری کریں۔

انتھروپک کمپنی نے اے آئی ٹیکنالوجی کو انسانیت کی بقا کیلئے خطرہ قرار دیدیا

اے آئی گاڈ فادر قرار دیے جانے والے سائنسدانوں کا اس ٹیکنالوجی کے حوالے سے نیا انتباہ

اسپیس ایکس کا جدید اسٹار شپ راکٹ پہلی بار مدار میں پہنچ گیا

گوگل کروم میں صارفین کیلئے ایک بہترین فیچر متعارف

اے آئی گلوبل فریم ورک کیلئے مذاکرات کیلئے ممالک کو تیار کرنا آسان نہیں، بل گیٹس

کیا موبائل ہاٹ اسپاٹ کا استعمال محفوظ ہوتا ہے؟

گوگل کی 28 ویں سالگرہ پر سرچ انجن کے 16 دلچسپ حقائق جانیں

واٹس ایپ کا اینڈرائیڈ ایپ ری ڈیزائن کرنیکا فیصلہ

گوگل میپس میں صارفین کیلئے ایک بہترین فیچر کا اضافہ

زمین سے باہر نظام شمسی کا وہ چاند جہاں کسی قسم کی زندگی موجود ہوسکتی ہے

اے آئی غلط ہاتھوں میں چلی گئی تویہ اربوں زندگیوں کیلئے خطرہ بن سکتی ہے: بل گیٹس

اب واٹس ایپ کی جانب سے آپ کو دوستوں کی برتھ ڈے کی یاد دہانی کرائی جائے گی

فیفا آسیان کپ: پاکستان نےفلپائن کیخلاف میچ 2-2 سے برابرکرکے اپنا پہلا پوائنٹ حاصل کرلیا

• 60 منٹ پہلے سونے کی فی تولہ قیمت میں معمولی کمی

سونے کی فی تولہ قیمت میں معمولی کمی

• 1 گھنٹے پہلے فیکٹ چیک: نوجوان پاکستانیوں کی احتجاج سے گریز کی اپیل کرنے والی ویڈیو AI سے تیار کی گئی ہے

فیکٹ چیک: نوجوان پاکستانیوں کی احتجاج سے گریز کی اپیل کرنے والی ویڈیو AI سے تیار کی گئی ہے

• 2 گھنٹے پہلے ’ہر نامناسب رویہ جنسی ہراسانی نہیں‘، وفاقی آئینی عدالت نے اسلام آباد ہائیکورٹ کا فیصلہ کالعدم قرار دیدیا

’ہر نامناسب رویہ جنسی ہراسانی نہیں‘، وفاقی آئینی عدالت نے اسلام آباد ہائیکورٹ کا فیصلہ کالعدم قرار دیدیا

• 2 گھنٹے پہلے مقابلہ حسن کی فاتح 30 سالہ بھارتی سوشل میڈیا انفلوئنسر کی پراسرار موت

مقابلہ حسن کی فاتح 30 سالہ بھارتی سوشل میڈیا انفلوئنسر کی پراسرار موت

• 2 گھنٹے پہلے مذاکرات سے انکار نہیں لیکن پی ٹی آئی اپنے لیڈر کی رہائی چاہتی ہے جس کا فورم عدالت ہے: وزیر قانون

مذاکرات سے انکار نہیں لیکن پی ٹی آئی اپنے لیڈر کی رہائی چاہتی ہے جس کا فورم عدالت ہے: وزیر قانون

ماخذ: Geo News Urdu اصل خبر پڑھیں