OpenAI ایجنٹ اسٹیک میں بلاست دروازہ بناتا ہے

پہلا حصہ: رپورٹ کرنے کے قابل حقائق

اوپن اے آئی کے چیٹ جی پی ٹی ریلیز نوٹس میں لاک ڈاؤن موڈ کو 4 جون 2026 کی تازہ کاریوں کے تحت درج کیا گیا ہے اور اسے ایک اختیاری، آپٹ ان جدید سیکیورٹی سیٹنگ کے طور پر بیان کیا گیا ہے جو پرامپٹ انجیکشن سے ڈیٹا کی خارج ہونے کے خطرے کو کم کرنے کے لیے ویب اور بیرونی خدمات تک رسائی کو محدود کرتی ہے۔ ریلیز نوٹس کہتے ہیں کہ یہ لاگ ان شدہ صارفین کے لیے اکاؤنٹ کی اقسام اور ورک اسپیسز میں دستیاب ہے، اور کہ ذاتی صارفین اسے سیٹنگز > سیکیورٹی سے فعال کر سکتے ہیں جبکہ ورک اسپیس کے منتظمین ورک اسپیس کی سیٹنگز اور کردار کی بنیاد پر کنٹرول کے ذریعے رسائی کو ترتیب دے سکتے ہیں۔

اوپن اے آئی کی مخصوص مدد کی مرکز کی صفحہ عملی تفصیلات فراہم کرتی ہے۔ یہ کہتا ہے کہ لاک ڈاؤن موڈ اوپن اے آئی کی مصنوعات میں بہت سے ٹولز اور صلاحیتوں کو محدود کرتا ہے جو ویب یا بیرونی خدمات سے جڑ سکتے ہیں، باہر جانے والی نیٹ ورک کی درخواستوں کو محدود کر کے۔ یہ صفحہ غیر فعال یا محدود خصوصیات کی فہرست دیتا ہے جن میں براہ راست ویب براؤزنگ شامل ہے، جو کیشڈ مواد تک محدود ہے؛ ویب سے حاصل کردہ امیج سپورٹ؛ ڈیپ ریسرچ؛ ایجنٹ موڈ؛ کینوس نیٹ ورکنگ؛ اور ڈیٹا تجزیے کے لیے فائل ڈاؤن لوڈ۔ یہ بھی کہتا ہے کہ لاک ڈاؤن موڈ یادداشت، فائل اپ لوڈ، گفتگو کی شیئرنگ، ماڈل کی بہتری کے ڈیٹا کی ترتیبات، یا کوڈیکس نیٹ ورک کی رسائی کو تبدیل نہیں کرتا۔

اوپن اے آئی کی مدد کی صفحہ ایپس اور کنیکٹرز کے لیے ایک مخصوص تفریق کرتی ہے۔ ذاتی اکاؤنٹس اور خود سروس چیٹ جی پی ٹی بزنس اکاؤنٹس کے لیے، لاک ڈاؤن موڈ ہم آہنگ ڈیٹا استعمال کرنے والے کنیکٹرز کی اجازت دیتا ہے لیکن براہ راست کنیکٹر رسائی اور کنیکٹر لکھنے کی کارروائیوں کو روکتا ہے؛ کچھ جڑے ہوئے تجربات، بشمول چیٹ جی پی ٹی میں مالیات اور خریداری کے ایجنٹ کے تجربات، دستیاب نہیں ہیں۔ منظم ورک اسپیس کے لیے، ایپس، ایم سی پی، اور کنیکٹرز ورک اسپیس کی سیٹنگز اور کردار کی بنیاد پر رسائی کنٹرول کے تحت رہتے ہیں، اور اوپن اے آئی منتظمین کو مشورہ دیتا ہے کہ وہ صرف قابل اعتماد ایپس اور کارروائیاں فعال کریں جو لاک ڈاؤن موڈ کا استعمال کرنے والے اراکین کو درکار ہیں۔

لیئر 2: سسٹم ریڈ

اہم کہانی یہ نہیں ہے کہ چیٹ جی پی ٹی نے ایک اور سیکیورٹی سیٹنگ حاصل کی۔ یہ ہے کہ اوپن اے آئی پرامپٹ انجیکشن کو ایک ایگزیکیوشن-ماحول کے مسئلے کے طور پر دیکھ رہا ہے۔ ایک سادہ چیٹ بوٹ میں، ایک بدنیتی پر مبنی ہدایت جواب کو بگاڑ سکتی ہے۔ ایک ایجنٹک سسٹم میں جس میں براؤزنگ، ایپ تک رسائی، فائلیں، کنیکٹرز، اور لکھنے کی صلاحیت رکھنے والے اعمال شامل ہیں، وہی ہیرا پھیری ایک ڈیٹا-فلو کے مسئلے میں تبدیل ہو سکتی ہے: نجی سیاق و سباق اندر جاتا ہے، غیر معتبر مواد ماڈل پر اثر انداز ہوتا ہے، اور ایک آؤٹ باؤنڈ چینل معلومات باہر لے جاتا ہے۔

لاک ڈاؤن موڈ اس زنجیر کے آؤٹ باؤنڈ حصے پر حملہ کرتا ہے۔ یہی وجہ ہے کہ یہ فیچر فن تعمیر کے لحاظ سے اہم ہے۔ یہ ماڈل پر ہر بدنیتی پر مبنی ہدایت کو قابل اعتماد طور پر شناخت کرنے پر منحصر نہیں ہے۔ بلکہ یہ سسٹم کی نیٹ ورک درخواستیں کرنے، براہ راست مواد حاصل کرنے، فائلیں ڈاؤن لوڈ کرنے، یا مخصوص ایپ اور کنیکٹر کے اعمال انجام دینے کی صلاحیت کو محدود کرتا ہے۔ پیٹرن نیکسس کی اصطلاحات میں، اعتماد کی سرحد ماڈل کے فیصلے سے رن ٹائم کی اجازتوں کی طرف منتقل ہوتی ہے۔

سائیمن ولیسن کا تجزیہ اس کو اس طرح فریم کرتا ہے کہ اس نے اس نام نہاد مہلک ٹرائیفیکٹا کے اخراج کے حصے کو کاٹ دیا ہے: نجی ڈیٹا تک رسائی، غیر معتبر مواد کے سامنے آنے، اور چوری شدہ ڈیٹا کو منتقل کرنے کا راستہ۔ ان کا نقطہ یہ ہے کہ متعین حدود ایک حملہ آور کے لیے ان کے گرد پرامپٹ کرنا زیادہ مشکل ہیں بجائے اس کے کہ دفاعات کسی دوسرے AI کی تہہ سے حملے کو پہچاننے اور روکنے کے لیے کہیں۔ یہ پڑھائی اوپن اے آئی کی اپنی دستاویزات کے ساتھ ہم آہنگ ہے، جو کہتی ہے کہ لاک ڈاؤن موڈ کو پرامپٹ انجیکشن پر مبنی ڈیٹا کے اخراج کے آخری مرحلے کو روکنے کے لیے ڈیزائن کیا گیا ہے نہ کہ تمام پرامپٹ انجیکشن کو روکنے کے لیے۔

وسیع تر اشارہ یہ ہے کہ AI حکمرانی کا اگلا مرحلہ ماڈل کی لیڈربورڈ کی طرح کم نظر آئے گا اور شناخت، نیٹ ورک، اور اجازتوں کی انجینئرنگ کی طرح زیادہ نظر آئے گا۔ ادارے نہ صرف یہ پوچھیں گے کہ کون سا ماڈل سب سے زیادہ قابل ہے، بلکہ یہ بھی کہ کون سا ماڈل ایک حکومتی ایگزیکیوشن لفافے کے اندر رکھا جا سکتا ہے: ڈیفالٹ کے طور پر کوئی وسیع ایگریس نہیں، آڈٹ کرنے کے قابل کنیکٹر تک رسائی، مخصوص لکھنے کے اعمال، کردار پر مبنی پالیسی، اور جب غیر معتبر مواد ورک فلو میں داخل ہوتا ہے تو قابل پیش گوئی رویہ۔

لیئر 3: اگلی چیز کیا دیکھیں

پہلا، یہ دیکھیں کہ آیا لاک ڈاؤن موڈ ہائی رسک سیاق و سباق کے لیے ایک ڈیفالٹ طرز عمل بن جاتا ہے نہ کہ ایک اختیاری ٹوگل۔ اوپن اے آئی کہتا ہے کہ یہ سب کے لیے نہیں ہے، اور یہ فیچر تحفظ کے لیے افادیت کی قربانی دیتا ہے۔ لیکن جتنا زیادہ چیٹ جی پی ٹی مالی اکاؤنٹس، کاروباری فائلوں، ای میل، کیلنڈرز، کوڈ ریپوزٹریز، اور کاروباری ایپس کے ساتھ استعمال ہوتا ہے، اتنا ہی زیادہ دباؤ ہوگا کہ خطرے کی بنیاد پر ڈیفالٹس ہوں نہ کہ صارف بہ صارف سیکیورٹی کی آگاہی۔

دوسرا، یہ دیکھیں کہ اوپن اے آئی منظم ورک اسپیسز کو کس طرح سنبھالتا ہے۔ دستاویزات کہتی ہیں کہ لاک ڈاؤن موڈ ان ماحول میں ہر ایپ کو خود بخود غیر فعال نہیں کرتا اور ایڈمنز کو فیصلہ کرنا ہوتا ہے کہ کون سی ایپس اور اعمال قابل اعتماد ہیں۔ یہ ایک حکومتی بوجھ پیدا کرتا ہے: ایڈمنسٹریٹرز کو نہ صرف ڈیٹا کے ذرائع کی درجہ بندی کرنے کی ضرورت ہے، بلکہ ڈیٹا کے سنک اور سائیڈ اثرات کی بھی۔ ایک ریڈ-اونلی کنیکٹر ایک لکھنے کی صلاحیت رکھنے والی ایپ سے مختلف ہے؛ ایک ہم وقت سازی شدہ ڈیٹا کا ذریعہ براہ راست نیٹ ورک تک رسائی سے مختلف ہے۔

تیسرا، مقابلے کے اشارے پر نظر رکھیں۔ اگر اوپن اے آئی آؤٹ باؤنڈ نیٹ ورک کی پابندی کو ایک قابل دید پروڈکٹ فیچر بنا رہا ہے، تو دیگر AI پلیٹ فارم ممکنہ طور پر اسی طرح کے کنٹرولز پر جانچے جائیں گے۔ ایجنٹ پلیٹ فارم جو براؤز، کلک، کوڈ، خریداری، پیغام رسانی، یا ریکارڈز کو اپ ڈیٹ کر سکتے ہیں، انہیں واضح ایگریس پالیسیوں، فی ٹول اجازتوں، آڈٹ کے نشانات، اور وضاحت کرنے کے قابل ناکامی کے طریقوں کی ضرورت ہوگی۔ سیکیورٹی کا سوال یہ ہوگا کہ آیا ماڈل تجرید میں محفوظ ہے یا ایجنٹ اسٹیک یہ ثابت کر سکتا ہے کہ اسے کیا چھونے کی اجازت تھی اور اسے کہاں ڈیٹا بھیجنے کی اجازت تھی۔

آخر میں، صارف کے رویے پر نظر رکھیں۔ ایک کنٹرول جو صارفین ہر چیٹ میں غیر فعال کر سکتے ہیں صرف اس صورت میں مفید ہے جب ارد گرد کا انٹرفیس خطرے کو واضح بناتا ہے۔ مارکیٹ کو AI ایگزیکیوشن کے خطرے کے لیے ایک نئی UX زبان کی ضرورت ہو سکتی ہے: جب ایک کام براہ راست براؤزنگ، کنیکٹر کی تحریر، فائل ڈاؤن لوڈ، یا ایپ کے اعمال کی ضرورت ہوتی ہے، تو سسٹم کو واضح کرنا چاہیے کہ کون سے دھماکہ دروازے کھل رہے ہیں اور کیوں۔

نتیجہ

لاک ڈاؤن موڈ پرامپٹ انجیکشن کا حل نہیں ہے، اور اوپن اے آئی یہ دعویٰ نہیں کرتا کہ یہ ہے۔ اس کی اہمیت زیادہ عملی ہے: اوپن اے آئی چیٹ جی پی ٹی کے ایجنٹ اسٹیک میں ایک دھماکہ دروازہ بنا رہا ہے۔ یہ اگلی AI معیشت کے لیے صحیح سیکیورٹی استعارہ ہے۔ سب سے محفوظ ایجنٹ وہ نہیں ہوگا جو کبھی بھی دھوکہ نہ کھانے کا وعدہ کرتا ہے؛ یہ وہ ہوگا جس کا ماحول دھوکہ کھانے والے ماڈل کو زیادہ نقصان کرنے سے روکتا ہے۔