AI Sandbox؛ محیط امن برای اجرای Agent و کد تولیدشده

AI Sandbox چیست؟

Sandbox یک محیط محدود و جدا از سامانه اصلی است که اجرای Agent یا کد در آن با دسترسی، زمان و منابع مشخص انجام می‌شود.

هدف این است که اثر اجرای اشتباه یا ناامن محدود بماند و امکان بازبینی فراهم شود.

کنترل‌های اصلی Sandbox

ایزوله‌سازی به‌تنهایی کافی نیست. شبکه، فایل، Secret، CPU، حافظه، زمان اجرا و خروجی باید policy جداگانه داشته باشند.

• دسترسی شبکه حداقلی
• Secretهای کوتاه‌عمر یا بدون Secret
• محدودیت زمان و منابع
• فایل‌سیستم موقت
• ثبت Trace و خروجی

Sandbox و Prompt Injection

Prompt Injection می‌تواند Agent را به اجرای دستور ناخواسته سوق دهد. Sandbox اثر بالقوه را کم می‌کند، اما تشخیص ورودی مخرب و محدودیت ابزار همچنان لازم است.

Prompt Injection چیست؟ (مطالعه بیشتر)

برای ادامهٔ این بحث، مقالهٔ «وقتی یک سند به دستیار هوشمند دستور می‌دهد» را در دانشنامهٔ لیان بخوانید.

الزامات محیط تولید

محیط آزمون، staging و تولید باید جدا باشند. دسترسی واقعی فقط پس از ارزیابی، بازبینی و تعریف rollback مجاز است.

AI Governance چیست؟ (مطالعه بیشتر)

یک Sandbox خوب چه مرزی دارد؟

Sandbox باید محدوده شبکه، فایل، هویت و زمان اجرای مستقل داشته باشد. اگر Agent برای یک Task فقط به یک API خواندنی نیاز دارد، بازکردن دسترسی عمومی اینترنت یا فایل‌سیستم میزبان با هدف ایزوله‌سازی ناسازگار است.

داده خروجی نیز بخشی از مرز است. لاگ و فایل موقت باید قابل‌مشاهده و دارای عمر محدود باشند تا اجرای آزمایشی به انبار ناخواسته اطلاعات حساس تبدیل نشود.

چرخه امن از آزمون تا تولید

مسیر مناسب معمولاً با سناریوی آزمایشی، مجوزهای کمینه و معیار توقف آغاز می‌شود. فقط پس از مشاهده رفتار پایدار و بازبینی Trace، همان الگو با Policy روشن به محیط بعدی می‌رود.

Rollback باید عملی باشد: بدانید کدام اتصال، Secret یا ابزار را می‌توان فوراً غیرفعال کرد و چه کسی اختیار این کار را دارد. Sandbox حادثه را کوچک می‌کند، اما پاسخ‌گویی را حذف نمی‌کند.

سناریوی نمونه: تحلیل فایل در محیط موقت

یک Agent برای تحلیل فایل‌های بارگذاری‌شده، فایل را در فضای موقت دریافت می‌کند و فقط به کتابخانه‌ها و خروجی موردنیاز همان Task دسترسی دارد. فایل‌سیستم میزبان و Secretهای تولیدی در دسترس او نیستند.

اگر فایل بخواهد ارتباط شبکه‌ای غیرمجاز برقرار کند یا زمان اجرا از سقف تعیین‌شده عبور کند، محیط متوقف و رخداد ثبت می‌شود. نتیجه قابل‌مشاهده است، اما اثر آن از محیط اصلی عبور نمی‌کند.

پس از پایان، فایل‌های موقت و Tokenهای کوتاه‌عمر پاک می‌شوند و Trace لازم برای بازبینی باقی می‌ماند. این تفکیک باید با آزمایش دوره‌ای، نه صرفاً تنظیم اولیه، تأیید شود.