هوش مصنوعی مولد چیست؟
Generative AI خانواده‌ای از سامانه‌هاست که از الگوهای آموخته‌شده برای تولید خروجی تازه استفاده می‌کند. خروجی می‌تواند خلاصه، پاسخ، تصویر، کد یا پیشنهاد ساختاریافته باشد.
تولید روان به‌تنهایی نشانه درستی نیست؛ کیفیت به مدل، Context، منبع و کنترل کل سامانه وابسته است.
کاربردهای Generative AI در سازمان
خلاصه‌سازی اسناد، پاسخ‌گویی دانش‌محور، تولید پیش‌نویس، استخراج داده و کمک به تیم پشتیبانی نمونه‌های رایج هستند.
هر کاربرد باید هدف، داده مجاز، مالک نتیجه و مسیر ارجاع به انسان داشته باشد.
- خلاصه و جست‌وجوی اسناد
- پاسخ مستند به کارکنان
- پیش‌نویس محتوا و مکاتبه
- استخراج و طبقه‌بندی اطلاعات
محدودیت‌ها و ریسک‌ها
مدل ممکن است پاسخ نامستند یا نادرست تولید کند، داده حساس را در Context ببیند یا درخواست مبهم را بیش از حد قطعی تفسیر کند.
برای تصمیم و اقدام مهم، منبع معتبر، محدودیت دسترسی، ارزیابی و تأیید انسانی ضروری است.
از کجا شروع کنیم؟
به‌جای انتخاب مدل از یک مسئله مشخص شروع کنید: چه کسی چه پرسشی دارد، پاسخ قابل‌قبول چیست و در صورت خطا چه اثری دارد؟
یک Pilot محدود با معیار کیفیت، هزینه و زمان پاسخ، زمینه مناسبی برای گسترش کنترل‌شده فراهم می‌کند.
چگونه یک کاربرد مناسب انتخاب کنیم؟
کاربرد خوب با یک پرسش تکرارشونده، داده‌ای که سازمان حق استفاده از آن را دارد و خروجی قابل‌سنجش شروع می‌شود. نمونه‌ای مانند پاسخ مستند به آیین‌نامه داخلی، از «چت‌بات عمومی» مرز و معیار روشن‌تری دارد.
پیش از توسعه، یک نمونه پاسخ مطلوب و چند نمونه خطا تعریف کنید. این نمونه‌ها مبنای سنجش کیفیت، هزینه و نیاز به ارجاع انسانی در پایلوت خواهند بود.
چک‌لیست پیش از گسترش
مالک کسب‌وکار، منبع دانش، نقش‌های مجاز، سیاست نگه‌داری داده و روش گزارش خطا باید پیش از اتصال مدل مشخص شوند. اگر پاسخ باید مستند باشد، نمایش منبع بخشی از تعریف محصول است نه یک ویژگی فرعی.
پس از پایلوت، فقط تعداد گفت‌وگوها را اندازه نگیرید؛ نرخ پاسخ مفید، موارد ارجاع، خطاهای پرریسک، هزینه هر درخواست و زمان حل مسئله را هم بسنجید.
سناریوی نمونه: پاسخ‌گویی به سیاست‌های داخلی
فرض کنید کارکنان درباره مرخصی، خرید یا امنیت اطلاعات پرسش‌های تکراری دارند. به‌جای آن‌که مدل از حافظه پاسخ دهد، فقط مجموعه مصوب سیاست‌ها بازیابی و همراه پاسخ نمایش داده می‌شود.
کاربر باید بتواند سند منبع را باز کند و در صورت ناکافی‌بودن پاسخ، موضوع را به واحد مسئول ارجاع دهد. این طراحی، مدل را از مرجع تصمیم‌گیری به دستیارِ دسترسی به دانش تبدیل می‌کند.
در ارزیابی، پرسش‌های مبهم، نسخه‌های قدیمی سند و سؤال‌هایی که پاسخ آن‌ها در منبع نیست را هم وارد کنید. پاسخ درست در این موارد ممکن است «اطمینان ندارم» یا ارجاع به انسان باشد.
پرسش‌های متداول
آیا Generative AI همان چت‌بات است؟
خیر؛ چت‌بات فقط یکی از تجربه‌های کاربری ممکن برای مدل‌های مولد است.
آیا خروجی مدل همیشه درست است؟
خیر؛ پاسخ‌های حساس باید با منبع، ارزیابی و کنترل انسانی بررسی شوند.
منابع
- NISTGenerative AI ProfileNIST AI 600-1 · Official guidance
- Google CloudGenerative AI overviewOfficial documentation