اے آئی ایجنٹ نے ٹیسٹ کے مقاصد پورے کرنے کے لیے انتہائی پیچیدہ اور غیر متوقع طریقہ اختیار کیا
برلن: مصنوعی ذہانت تیار کرنے والی معروف امریکی کمپنی اوپن اے آئی نے انکشاف کیا ہے کہ اس کے دو جدید ترین اے آئی ماڈلز نے ایک داخلی سیکیورٹی ٹیسٹ کے دوران غیر معمولی خودمختاری کا مظاہرہ کرتے ہوئے ٹیسٹنگ ماحول سے باہر نکل کر ایک دوسری اے آئی کمپنی ہگنگ فیس کے سرورز تک رسائی حاصل کر لی۔
اوپن اے آئی کے مطابق یہ واقعہ ایک داخلی سائبر سیکیورٹی مشق کے دوران پیش آیا، جس کا مقصد جدید اے آئی ماڈلز کی سائبر صلاحیتوں کا جائزہ لینا تھا۔ تاہم کمپنی کا کہنا ہے کہ اس دوران ایک خودکار اے آئی ایجنٹ نے توقع سے زیادہ پیچیدہ اقدامات کیے۔
کمپنی کے مطابق یہ خودکار ایجنٹ، جو نئے متعارف کرائے گئے GPT-5.6 Sol اور ایک مزید جدید لیکن تاحال غیر اعلانیہ ماڈل پر مبنی تھا، ٹیسٹ ماحول سے نکل کر کھلے انٹرنیٹ تک پہنچ گیا۔
اوپن اے آئی کا کہنا ہے کہ اے آئی ایجنٹ نے مبینہ طور پر حاصل کیے گئے لاگ اِن معلومات اور ایک نامعلوم سیکیورٹی خامی کا استعمال کرتے ہوئے ہگنگ فیس کے سرورز تک رسائی حاصل کی۔
کمپنی نے اس واقعے کو ایک غیر معمولی سائبر واقعہ قرار دیتے ہوئے کہا کہ اے آئی ایجنٹ نے ٹیسٹ کے مقاصد پورے کرنے کے لیے انتہائی پیچیدہ اور غیر متوقع طریقہ اختیار کیا۔
ہگنگ فیس کے شریک بانی کلیمنٹ ڈیلانگ نے کہا کہ انہیں پہلے ہی شبہ تھا کہ اس کارروائی کے پیچھے کسی جدید اے آئی لیب کا ماڈل ہو سکتا ہے، تاہم ان کے مطابق انہیں یقین ہے کہ اوپن اے آئی کی جانب سے کوئی بدنیتی نہیں تھی۔
انہوں نے کہا کہ یہ واقعہ حیران کن ہے کیونکہ تمام کارروائی خودکار انداز میں انجام دی گئی اور ممکن ہے کہ یہ اپنی نوعیت کا دنیا کا پہلا واقعہ ہو۔
امریکی کانگریس کے ڈیموکریٹ رکن گریگ کاسر نے اس واقعے پر تشویش کا اظہار کرتے ہوئے کہا کہ مصنوعی ذہانت انتہائی تیزی سے ترقی کر رہی ہے، جبکہ اس کے لیے مؤثر قوانین اور حفاظتی ضوابط ابھی تک موجود نہیں۔ Politics
انہوں نے مطالبہ کیا کہ جدید اے آئی سسٹمز کی لازمی آزادانہ سیکیورٹی جانچ، سیکیورٹی واقعات کی لازمی رپورٹنگ اور بین الاقوامی سطح پر مشترکہ ضابطہ سازی کی ضرورت ہے۔
یہ انکشاف ایسے وقت میں سامنے آیا ہے جب چند ہفتے قبل امریکی صدر ڈونلڈ ٹرمپ نے جدید ترین مصنوعی ذہانت کے نظاموں کے قومی سلامتی پر ممکنہ اثرات کا جائزہ لینے کے لیے ایک نیا ایگزیکٹو آرڈر جاری کیا تھا۔
دوسری جانب سائبر سیکیورٹی اور مصنوعی ذہانت کے ماہرین کافی عرصے سے خبردار کرتے آ رہے ہیں کہ مستقبل میں اے آئی پر مبنی سائبر حملوں اور انسانی نگرانی سے باہر جانے والے خودکار نظام عالمی سطح پر ایک بڑا چیلنج بن سکتے ہیں۔
