قطع همکاری OpenAI با ۳ پژوهشگر ایمنی؛ ماجرای اطلاعات حساس چه بود؟

به گزارش تک مسیر؛ این اتفاق در شرایطی رخ داده که موضوع ایمنی هوش مصنوعی و نحوه مدیریت ریسک در شرکت‌های سازنده مدل‌های پیشرفته، بار دیگر مورد توجه قرار گرفته است. با این حال، شواهد منتشرشده درباره علت قطع همکاری این سه پژوهشگر، مشخصاً به نحوه برخورد با اطلاعات حساس مربوط است و نمی‌توان آن را صرفاً به اختلاف بر سر سیاست‌های ایمنی نسبت داد.

OpenAI درباره قطع همکاری چه گفته است؟

به گزارش TechCrunch، سخنگوی OpenAI اعلام کرده است که این شرکت پس از یک بررسی داخلی، همکاری خود را با سه نفر به دلیل نقض سیاست‌های مربوط به دسترسی و مدیریت اطلاعات حساس قطع کرده است.

طبق توضیح این شرکت، این افراد اطلاعات حساس را خارج از رویه‌های تعیین‌شده مدیریت کرده‌اند؛ موضوعی که OpenAI آن را نقض سیاست‌های شرکت و اعتماد سازمانی دانسته است.

گزارش وال‌استریت ژورنال نیز می‌گوید این پژوهشگران ظاهراً اطلاعات محرمانه شرکت را با یک سازمان ثالث فعال در حوزه ایمنی هوش مصنوعی به اشتراک گذاشته‌اند. با این حال، در گزارش TechCrunch نام سازمان، نوع دقیق اطلاعات منتقل‌شده و جزئیات کامل این اتفاق مشخص نشده است.

آیا این اتفاق با اختلافات داخلی بر سر ایمنی مرتبط است؟

زمان‌بندی این قطع همکاری قابل توجه است. دو روز پیش از انتشار این خبر، گزارش دیگری درباره هشدارهای برخی کارکنان OpenAI درباره رویه‌های امنیتی و ایمنی شرکت منتشر شده بود.

OpenAI در واکنش به آن گزارش تأکید کرده بود که نگرانی‌های امنیتی را جدی می‌گیرد و برای کارکنان کانال‌های داخلی گزارش نگرانی وجود دارد. این شرکت همچنین پذیرفته بود که در برخی زمینه‌ها نیاز دارد سریع‌تر عمل کند.

با این حال، مشخص نیست سه پژوهشگری که همکاری‌شان قطع شده، پیش از انتقال اطلاعات به خارج از شرکت، نگرانی‌های خود را از مسیرهای داخلی مطرح کرده بودند یا نه. بنابراین نمی‌توان این پرونده را به‌طور قطعی به اختلاف نظر میان پژوهشگران و مدیران OpenAI (اوپن‌ای‌آی) درباره ایمنی نسبت داد.

ماجرا در چه شرایطی رخ داده است؟

این اتفاق در دوره‌ای رخ داده که امنیت هوش مصنوعی و کنترل عامل‌های هوش مصنوعی به یکی از موضوعات مهم صنعت تبدیل شده است. در هفته‌های اخیر نیز گزارش‌هایی درباره خروج برخی عامل‌های هوش مصنوعی از محیط‌های کنترل‌شده و سوءاستفاده از قابلیت‌های آنها منتشر شده است.

هم‌زمان، OpenAI اعلام کرده بود که عرضه برنامه‌ریزی‌شده GPT-6.1 Astra را به دلیل نگرانی‌های ایمنی کنار گذاشته است؛ موضوعی که نشان می‌دهد ارزیابی ریسک همچنان بخشی از تصمیم‌های مهم مربوط به توسعه مدل‌های جدید است.

پرونده اخیر همچنین یادآور این مسئله است که در شرکت‌های فعال در حوزه هوش مصنوعی، حفاظت از اطلاعات داخلی و سازوکارهای گزارش‌دهی درباره ریسک، دو موضوع جدا اما به هم مرتبط هستند. درباره پرونده سه پژوهشگر نیز فعلاً اطلاعات عمومی کافی برای تعیین ابعاد کامل ماجرا وجود ندارد.

میان‌بر تک‌مسیر

• عصاره خبر: OpenAI همکاری خود را با سه پژوهشگر تیم ایمنی به دلیل نقض سیاست‌های مربوط به مدیریت اطلاعات حساس قطع کرده است؛ جزئیات کامل این پرونده هنوز عمومی نشده است.

• مسیر اقدام: در پروژه‌های مبتنی بر هوش مصنوعی، علاوه بر عملکرد مدل، باید سطح دسترسی، نحوه نگهداری اطلاعات حساس و مسیر گزارش رخدادهای امنیتی نیز مشخص باشد.

• ایده تک: با افزایش توانایی مدل‌ها و عامل‌های هوش مصنوعی، مرز میان «قابلیت فنی» و «کنترل و امنیت» هر روز مهم‌تر می‌شود.

• ایستگاه بعدی:  غیبت OpenAI از طرح ایمنی NVIDIA برای مهار عامل‌های سرکش هوش مصنوعی