عامل‌های Computer Use؛ اجرای کنترل‌شدهٔ کار با نرم‌افزار

Computer Use Agent چیست؟

این Agent برای انجام کار با محیط نرم‌افزاری، مشاهده وضعیت و استفاده از ابزارها طراحی می‌شود. وظیفه می‌تواند از چند گام تشکیل شود و بین مشاهده، تصمیم و اقدام جابه‌جا شود.

توان اجرای کار، آن را از یک پاسخ‌گوی صرف متمایز می‌کند و سطح ریسک را نیز بالا می‌برد.

مرز امن اجرا

محیط اجرا باید از داده و Credential غیرضروری جدا باشد. Agent فقط ابزارها و مجوزهایی را می‌بیند که برای Task لازم است.

فهرست اقدام‌های مجاز، محدودیت دامنه، timeout، ثبت Trace و امکان توقف باید پیش از اجرا تعریف شوند.

Prompt Injection چیست؟ (مطالعه بیشتر)

برای ادامهٔ این بحث، مقالهٔ «هویت و دسترسی امن برای عامل‌های هوش مصنوعی» را در دانشنامهٔ لیان بخوانید.

تأیید انسان برای اقدام‌های مهم

ارسال، حذف، پرداخت، تغییر سطح دسترسی و انتشار نباید صرفاً با تصمیم مدل انجام شود. Agent می‌تواند پیش‌نویس یا طرح اقدام را آماده کند و انسان مرحله نهایی را تأیید کند.

ارزیابی Computer Use Agent

فقط نتیجه نهایی را نسنجید؛ مسیر صفحات، ابزار، خطا، تلاش مجدد و مواردی که Agent باید متوقف می‌شد نیز مهم‌اند.

Agent Observability چیست؟ (مطالعه بیشتر)

طراحی یک وظیفه قابل‌اجرا

وظیفه را به ورودی، اقدام‌های مجاز، نتیجه موردانتظار و شرایط توقف تقسیم کنید. «ثبت درخواست پشتیبانی با اطلاعات تأییدشده» قابل‌کنترل‌تر از «رسیدگی به همه پیام‌ها» است، چون دامنه و پایان آن روشن است.

محیط آزمایشی باید داده ساختگی یا حداقلی داشته باشد. Agent نباید برای پیدا کردن مسیر درست ناچار به دیدن پنل‌ها، پرونده‌ها یا حساب‌هایی شود که به Task ارتباطی ندارند.

معیار پذیرش قبل از تولید

یک سناریوی خوب فقط مسیر موفق را نمی‌آزماید؛ صفحه تغییرشکل‌داده، داده ناقص، پیام خطا، کندی سرویس و درخواست مبهم را نیز شامل می‌شود. Trace باید نشان دهد Agent چه دید، چه تصمیمی گرفت و چرا متوقف شد.

برای اقدام‌های برگشت‌ناپذیر، الگوی «پیشنهاد، نمایش خلاصه، تأیید انسان، اجرا» امن‌تر از اجرای مستقیم است. این الگو هم مسئولیت را روشن می‌کند و هم امکان یادگیری از تصمیم‌ها را می‌دهد.

سناریوی نمونه: آماده‌سازی درخواست پشتیبانی

Agent می‌تواند از متن تأییدشده کاربر، فرم درخواست را در محیط آزمایشی باز کند، فیلدهای لازم را پر کند و پیش‌نمایش نهایی را نمایش دهد. دکمه ارسال باید در اختیار کاربر باقی بماند.

اگر صفحه تغییر کرد، فیلدی پیدا نشد یا داده ناقص بود، Agent باید متوقف شود و دلیل آن را ثبت کند؛ تلاش نامحدود برای کلیک‌کردن نشانه موفقیت نیست.

این سناریو با حساب کم‌دسترسی، داده آزمایشی و زمان اجرای محدود شروع می‌شود. پس از مشاهده Traceهای موفق و ناموفق، دامنه آن به‌تدریج توسعه می‌یابد.