فوری یکشنبه ۲۹ شهریور ۱۴۰۵
برچسب

#Prompt Injection

۱ مطلب با این برچسب.

مدار تک

جیل‌بریک چیست و چرا در عصر عامل‌های هوش مصنوعی مهم‌تر شده است؟

هرچه مدل‌های هوش مصنوعی از پاسخ‌گویی ساده به انجام کارهای پیچیده و استفاده از ابزارها نزدیک‌تر می‌شوند، یک پرسش جدی‌تر می‌شود: اگر مدل تلاش کند از محدودیت‌هایی که برایش تعیین شده عبور کند، چه اتفاقی می‌افتد؟ یکی از مفاهیمی که در چنین بحث‌هایی زیاد شنیده می‌شود، جیل‌بریک (Jailbreak) است.

۱۴۰۵/۰۶/۲۹