آنکھوں کی بیماری کا علاج، نئی دوا امید کی کرن

بدنام زمانہ گینگسٹر کو شادی کیلیے 12 گھنٹے کی رہائی مل گئی

آرم ریسلر نے بچی کے والد سے جان بوجھ کر ہار کر سب کے دل جیت لیے

2300 سال سے زائد قدیم ارسطو کا اسکول دریافت

واشنگٹن: اوپن اے آئی کے مصنوعی ذہانت کے ایجنٹس نے امریکی حکومتی ویب سائٹس کو بھی نشانہ بنانا شروع کر دیا ہے۔

وال اسٹریٹ جرنل کی رپورٹ کے مطابق اوپن اے آئی کے مصنوعی ذہانت پر مبنی ایجنٹس کے ایک جتھے نے امریکی حکومت کی ویب سائٹس تک رسائی حاصل کی، جو کمپنی کے تجربات کے غلط سمت میں جانے کا نتیجہ تھا۔

اے آئی ایجنٹس نے محکمہ تجارت اور سیکیورٹیز اینڈ ایکسچینج کمیشن سے متعلق ویب سائٹس تک رسائی حاصل کی اور ایسی سرگرمی میں ملوث ہوئے جسے اوپن اے آئی نے ’’مس الائنڈ‘‘ (misaligned) قرار دیا۔ اے آئی کمپنیاں یہ اصطلاح اپنے ایجنٹس کے نامناسب رویے کو بیان کرنے کے لیے استعمال کرتی ہیں۔

اس کیس میں یہ ’مس الائنمنٹ‘ جارحانہ انداز میں ویب براؤزنگ کرنے کی صورت میں سامنے آئی تھی۔

بی بی سی کے مطابق اوپن اے آئی کے بوٹس نے امریکا کے متعدد سرکاری اداروں کی ویب سائٹس میں مداخلت کی، اوپن اے آئی نے اعتراف کیا ہے کہ اس نے دنیا بھر کے ’’درجنوں‘‘ اداروں کو خبردار کیا کہ ممکن ہے اس کے اے آئی بوٹس نے نامناسب طریقے سے کام کرتے ہوئے ان کی ویب سائٹس میں مداخلت کی ہو۔

کمپنی نے کہا کہ اے آئی ایجنٹس نے ’’حکومتوں، جامعات، سرکاری اداروں اور دیگر اداروں‘‘ سے معلومات حاصل کرنے کی کوشش کی، جن میں امریکی سیکیورٹیز اینڈ ایکسچینج کمیشن، مردم شماری بیورو اور محکمہ تعلیم شامل ہیں۔

بے قابو اوپن اے آئی ایجنٹ نے آسٹریلوی ادارے کا سسٹم خود سے ہیک کر کے تہلکا مچا دیا، دنیا کا پہلا واقعہ قرار

یہ انکشافات آسٹریلوی وزیر اعظم انتھونی البانیزے کے اس اعلان کے چند روز بعد سامنے آئے ہیں کہ اوپن اے آئی کے ایجنٹس نے ان کی حکومت کے زیر انتظام صحت کی دیکھ بھال کے نظام کی ویب سائٹ پر موجود غیر عوامی فائلوں تک رسائی حاصل کر لی تھی۔

اگست سے مصنوعی ذہانت کے ایسے آلات کے حوالے سے عوامی خدشات میں اضافہ ہوا ہے جو انسانی کنٹرول سے باہر ہو جائیں اور جن کے اثرات ممکنہ طور پر سنگین بلکہ جان لیوا بھی ہو سکتے ہیں۔

اوپن اے آئی نے بیان میں کہا کہ اے آئی ایجنٹس نے کچھ ڈیٹا تک رسائی حاصل کی۔ یہ بنیادی طور پر ایسے بوٹس ہیں جنھیں کسی حد تک خودمختار انداز میں کام کرنے کے لیے ڈیزائن اور تربیت کیا گیا ہے اور وہ ’’عوامی معلومات کے مستند ذرائع‘‘ تلاش کر رہے تھے۔ تاہم کمپنی نے بتایا کہ بعض بوٹس اس سے آگے بڑھ گئے اور ویب سائٹس پر موجود حفاظتی اقدامات کو نظر انداز کرنے کی کوشش کی۔

کمپنی کے مطابق، مثال کے طور پر، مردم شماری بیورو سے معلومات حاصل کرنے کی کوشش کے دوران اے آئی ایجنٹس نے ایسے ٹولز استعمال کیے جو سافٹ ویئر ڈویلپرز کے لیے مخصوص تھے۔ اوپن اے آئی نے کہا کہ بوٹس نے حکومت کا جتنا بھی ڈیٹا حاصل کیا، وہ سب عوامی تھا۔

تاہم کمپنی نے بتایا کہ ایس ای سی سے بوٹس نے جو معلومات حاصل کیں، جو امریکی اسٹاک مارکیٹ کو منظم کرتا اور سرمایہ کاروں کا تحفظ کرتا ہے، وہ بعد میں اے آئی ایجنٹس نے ایک دوسری ویب سائٹ پر شائع کر دیں۔ اوپن اے آئی کا کہنا ہے کہ یہ کارروائی دانستہ نہیں تھی۔

اوپن اے آئی نے جمعے کو جن دیگر واقعات کی تفصیلات ظاہر کیں، ان میں ایسے واقعات بھی شامل تھے جہاں اے آئی ایجنٹس نے ڈیٹا اس وقت منتقل کیا جب انھیں ایسا نہیں کرنا چاہیے تھا۔ ایسی سرگرمی کے نتیجے میں کم از کم 53 واقعات پیش آئے جن میں اوپن اے آئی کے کسی ایجنٹ نے چیٹ جی پی ٹی کے صارف کی سرگرمی سے ایک تصویر حاصل کی اور اسے کسی دوسری جگہ منتقل کر دیا۔

کمپنی نے کہا کہ ہر اس معاملے میں جہاں صارف کی تصویر کسی اے آئی ایجنٹ نے استعمال کر کے منتقل کی، صارف نے خود اس بات کی اجازت دی تھی کہ اوپن اے آئی اس کے ڈیٹا کو اپنے ماڈلز کی تربیت کے لیے استعمال کرے۔ اس کے باوجود اوپن اے آئی نے اعتراف کیا ’’یہ اس ڈیٹا کا مناسب استعمال نہیں ہے۔‘‘

کمپنی نے مزید کہا کہ صارفین کی تصاویر کا افشا اس وقت ہوا جب اس نے اے آئی کی تربیت کے لیے نئے حفاظتی انتظامات نافذ نہیں کیے تھے، اور وہ ان تمام صارف تصاویر کو، جو کسی تیسرے فریق کو منتقل کی گئی تھیں، ہٹانے کے لیے کام کر رہی تھی۔

اوپن اے آئی نے جولائی میں پیش آنے والے ایک واقعے کے بعد ایسے واقعات کو زیادہ سنجیدگی سے لینا شروع کیا تھا۔ اس واقعے میں اس کے اے آئی ایجنٹس کے ایک گروپ یا جتھے نے بغیر کسی ہدایت کے اے آئی ڈویلپر پلیٹ فارم ہگنگ فیس (Hugging Face) کو ہیک کر لیا تھا۔

ہگنگ فیس نے سب سے پہلے اس واقعے کو عوام کے سامنے لایا تھا، جبکہ بعد میں اوپن اے آئی نے بھی عوامی طور پر اس کی ذمہ داری قبول کر لی تھی۔ ہگنگ فیس کے سربراہ کلیمنٹ ڈیلانگ نے بدھ کو مصنوعی ذہانت سے متعلق اقوام متحدہ کی سلامتی کونسل کے اجلاس کے دوران کہا ’’میں اکثر سوچتا ہوں کہ اگر میں نے اس حملے کو عوامی سطح پر ظاہر نہ کرنے کا فیصلہ کیا ہوتا تو کیا ہوتا۔‘‘

ڈیلانگ نے مزید کہا ’’خصوصاً اب جب کہ ہمیں معلوم ہے کہ اس سے ملتے جلتے واقعات کئی ماہ پہلے ہی مانیٹرنگ کے بغیر، چند سرِفہرست اے آئی لیبارٹریز میں خفیہ طور پر پیش آ رہے تھے۔‘‘

اسی اقوام متحدہ کے اجلاس کے دوران اوپن اے آئی کے چیف ایگزیکٹو سام آلٹ مین اور حریف کمپنی اینتھروپک کے سربراہ داریو امودی نے بین الاقوامی رہنماؤں سے مطالبہ کیا کہ وہ اے آئی کی سیفٹی کے لیے عالمی معیارات وضع کریں اور ایسے واقعات کی نگرانی اور رپورٹنگ کے طریقے تشکیل دیں۔