OpenAI مدل‌های نوین شناسایی و طبقه‌بندی آسیب‌های دیجیتال را رونمایی کرد
در گامی مهم برای تقویت امنیت فضای سایبری، OpenAI دو مدل پیشرفته با نام‌های gpt-oss-safeguard-120b و gpt-oss-safeguard-20b را به طور رسمی منتشر کرده است. این ابزارها بر پایه معماری مدل‌های gpt-oss ساخته شده‌اند و به توسعه‌دهندگان امکان می‌دهند تا طیف وسیعی از آسیب‌های آنلاین را در بسترهای خود شناسایی، دسته‌بندی و مدیریت کنند.
بر اساس گزارشی از سی‌ان‌بی‌سی، این مدل‌ها حاصل همکاری OpenAI با پلتفرم‌های معروفی نظیر دیسکورد، SafetyKit و ROOST بوده و در حال حاضر در فاز پیش‌نمایش تحقیقاتی در دسترس عموم قرار دارند.
مشخصات و قابلیت‌های منحصر به فرد مدل‌های Safeguard
ویژگی متمایزکننده این مدل‌ها، natureza بازِ وزن (open-weight) آن‌هاست. بدین معنا که پارامترهای داخلی و بارهای مدل به صورت عمومی قابل دسترس هستند، بنابراین محققان و توسعه‌دهندگان شفافیت و کنترل کامل بر روی رفتار و خروجی‌های سیستم خواهند داشت.
🔗 بیشتر بخوانید: بنچمارک‌ها: ابزار ارزیابی یا گمراه‌کننده؟
علاوه بر دقت بالا در تشخیص، این مدل‌ها توانایی استدلال و توضیح منطق تصمیم‌گیری خود را نیز دارند. توسعه‌دهندگان می‌توانند به سادگی روند پردازش و نحوه رسیدن مدل به یک نتیجه خاص را پیگیری کنند. برای مثال، یک سایت نقد و بررسی می‌تواند نظرات جعلی را غربال کند یا یک انجمن گیمینگ می‌تواند پست‌های مرتبط با تقلب و نقض قوانین را به سرعت شناسایی و دسته‌بندی نماید.
با تسریع پیشرفت هوش مصنوعی، لزوم توسعه همزمان ابزارهای ایمنی، تحقیقات بنیادی و دستیابی به انها برای همه ضروری‌تر شده است.
وزن‌های پیش‌آموزش‌دیده این مدل‌ها از طریق پلتفرم Hugging Face قابل دانلود و استقرار هستند. انتشار این ابزارها می‌تواند گامی موثر باشد در پاسخگویی OpenAI به انتقادات موجود در خصوص سرعت تجاری‌سازی تکنولوژی‌های هوش مصنوعی بدون توجه کافی به جنبه‌های اخلاقی و ایمنی.
🔗 بیشتر بخوانید: نیسان ایکس تریل با دو مدل جدید نیسمو و راک کریک معرفی شد