استراتژی جدید آنتروپیک برای شناسایی متون کلود

به گزارش تک مسیر؛ این واترمارک نوین به‌گونه‌ای طراحی شده است که با چشم انسان قابل‌تشخیص نبوده و هیچ تغییری در کیفیت، خوانایی یا لحن نوشته‌های کلود ایجاد نمی‌کند. شیوۀ کار این فناوری بر اساس تصمیمات کوچک و کم‌اهمیتی است که مدل زبانی هنگام کلمه‌سازی می‌گیرد. به‌جای استفاده از یک عدد تصادفی محض، نسخه واترمارک‌دار کلود انتخاب کلمات خود را بر پایه یک کلید رمزنگاری‌شده همراه با متن پیشین تنظیم می‌کند.

این رویکرد که بر مبنای تکنیک بنیادین گوگل دیپ‌مایند (SynthID) توسعه یافته است، یک الگوی آماری ظریف در پاسخ مدل ایجاد می‌کند. این الگو برای خواننده عادی نامرئی است، اما هر کسی که کلید تطبیق را در اختیار داشته باشد می‌تواند احتمال تولید شدن متن توسط کلود را ارزیابی کند. آنتروپیک تأکید کرده است که این قابلیت هیچ هزینه‌ای از نظر مصرف توکن بیشتر یا کند شدن سرعت تولید متن به همراه ندارد.

نکته قابل‌توجه این است که آنتروپیک اعلام کرده به دلیل دشواری تفکیک منطقه‌ای، این واترمارک‌ها را به صورت سراسری و جهانی روی محصولات مبتنی بر مدل‌های جدید خود اعمال می‌کند. با این حال، شرکت اذعان کرده که این روش محدودیت‌هایی نیز دارد؛ برای مثال اگر متنی توسط کلود ویرایش یا ترجمه شود، ممکن است نشانۀ واترمارک در آن ثبت شود، اما این ابزار به‌طور قطعی نمی‌تواند تفکیک کند که کلود نویسندۀ اصلی بوده یا صرفاً آن را بازنویسی کرده است.

میانبر تک‌مسیر:

با ورود ابزارهای هوش مصنوعی به عرصۀ قانون‌گذاری بین‌المللی، مرز بین اصالت و تولید ماشینی باریک‌تر از همیشه شده است. آیا اجباری شدن واترمارک‌های دیجیتال می‌تواند جلوی انتشار اخبار جعلی و محتوای غیرقابل‌اعتماد را بگیرد، یا راه را برای محدودیت‌های بیشتر باز می‌کند؟ نظرات و تحلیل‌های خود را در این خصوص با ما در میان بگذارید.