اوپن اے آئی نے انکشاف کیا ہے کہ اس کے مصنوعی ذہانت پر مبنی بعض اے آئی ایجنٹس نے امریکی حکومت کی متعدد ویب سائٹس کے ساتھ غیر متوقع انداز میں تعامل کیا، جس کے بعد کمپنی نے اپنے ماڈلز کے ایسے رویوں کا وسیع جائزہ شروع کر دیا ہے جو ان کے مطلوبہ یا متوقع استعمال سے مختلف ہوں۔
امریکی خبر رساں ادارے ایسوسی ایٹڈ پریس کے مطابق اوپن اے آئی نے جمعے کو بتایا کہ اس کے ماڈلز نے امریکی سیکیورٹیز اینڈ ایکسچینج کمیشن، یعنی ایس ای سی، کی دو ویب سائٹس پر موجود عوامی معلومات تک رسائی حاصل کی، جبکہ امریکی مردم شماری بیورو کے ڈیٹا کو بھی استعمال کیا۔
مزید اپڈیٹس کیلئے وٹس ایپ چینل فالو کریں: چینل لنک
کمپنی کے مطابق اب تک کی جانچ میں اس بات کے کوئی شواہد نہیں ملے کہ اے آئی ایجنٹس نے ایس ای سی کی کسی لاگ اِن معلومات یا سرکاری اکاؤنٹ کا استعمال کیا ہو، کسی غیر عوامی معلومات تک رسائی حاصل کی ہو، کسی سرکاری ڈیٹا یا نظام میں تبدیلی کی ہو یا کسی سیکیورٹی کمزوری سے فائدہ اٹھایا ہو۔
اوپن اے آئی کا کہنا ہے کہ یہ سرگرمیاں اس کے اے آئی ماڈلز کے ایسے غیر متوقع رویوں کی تحقیقات کے دوران سامنے آئیں جنہیں کمپنی "misaligned model activity” قرار دیتی ہے، یعنی ایسا رویہ جو ماڈل کے لیے طے شدہ یا مطلوبہ طرزِ عمل سے مطابقت نہ رکھتا ہو۔
اوپن اے آئی کی ترجمان لز بورژوا نے ایک بیان میں کہا کہ کمپنی ایسے معاملات کا جائزہ جاری رکھے ہوئے ہے اور جہاں ممکنہ طور پر کسی دوسرے ادارے کے نظام پر اثر پڑنے کا خدشہ سامنے آتا ہے، وہاں متعلقہ تنظیموں کو بھی آگاہ کیا جا رہا ہے۔
مزید اپڈیٹس کیلئے وٹس ایپ چینل فالو کریں: چینل لنک
اوپن اے آئی کے چیف ایگزیکٹو سیم آلٹمین نے بھی جمعے کو سوشل میڈیا پر کہا کہ کمپنی اپنے اے آئی ایجنٹس کی تربیت اور جانچ کے دوران انٹرنیٹ تک رسائی کے استعمال کا "وسیع اور مسلسل جائزہ” لے رہی ہے۔
یہ انکشاف ایسے وقت میں سامنے آیا ہے جب دنیا بھر میں مصنوعی ذہانت کے ایسے نظاموں سے متعلق خدشات بڑھ رہے ہیں جو خودکار انداز میں انٹرنیٹ استعمال کر سکتے ہیں، بیرونی ویب سائٹس پر جا سکتے ہیں اور بعض صورتوں میں ایسی کارروائیاں انجام دے سکتے ہیں جو ان کے ڈیزائنرز کی توقعات سے مختلف ہوں۔
