گوگل فناوری واترمارکگذاری متن را متنباز کرد؛ گامی بزرگ برای شناخت محتوای هوش مصنوعی, گوگل تصمیم گرفت فناوری را که امکان نهانگذاری واترمارک دیجیتال در متولهای تولیدشده توسط هوش مصنوعی را فراهم میسازد، به صورت متنباز در اختیار عموم قرار دهد. این حرکت به توسعهدهندگان امکان میدهد تا خروجی مدلهای زبانی مولد خود را قابل ردیابی و شناسایی کنند و به این ترتیب، مرز بین متن نوشتهشده توسط انسان و متن ماشینی شفافتر شود.
چیست و چگونه کار میکند؟ یک فناوری نهاننگاری پیشرفته است که با ایجاد تغییرات ریز و ناخالص برای چشم انسان در توزیع توکنها و احتمالات خروجی مدل، یک امضای دیجیتال منحصربهفرد در متن نهان میکند.
ترسی توسعهدهندگان از طریق کیت AI این ابزار اکنون از طریق کیت توسعه AI در دسترس است.
گوگل با ارائه این کتابخانه، قصد دارد توسعه هوش مصنوعی اخلاقی و مسئولیتپذیر را تسهیل کند و شرکتها و پژوهشگران را به ادغام مکانیزمهای شفافیت در محصولات خود تشویق نماید. چرا واتمرکگذاری متن در عصر هوش مصنوعی حیاتی شده است؟ با گسترش بیسابقه استفاده از مدلهای زبانی بزرگ (LLM) برای تولید محتوای خودکار، خطرات ناشی از اخبار جعلی، فیشینگ پیشرفته، تقلب در آموزش و پراکندگی اطلاعات گمراهکننده به شدت افزایش یافته است.
در حمایت از واتمرک اجباری ایالت کالیفرنیا در حال تدوین قانونگذاری برای اجباری کردن واتمرکگذاری در کلیه سیستمهای هوش مصنوعی مولد است.
از سوی دیگر، جمهوری خلق چین از سال گذشته توسعهدهندگان را ملزم به نهانگذاری واتمرک در خروجی ابزارهای متنباز کرده است. این روند نشاندهندهاجماع جهانی بر لزوم شفافیت در محتوای تتیک است. تاریخچه و گستره کاربرد گوگل برای نخستین بار در تابستان سال جاری رونمایی از را انجام داد. این فناوری نه تنها بر روی متن، بلکه روی تصاویر، ویدئوها و فایلهای صوتی هم قابل اجرا است.
ادعای گوگل بر این است که نسخه متنی با حفظ طبیعت زبان، déé (قابلیت شناسایی) را برای ماشینها ممکن میسازد بدون اینکه تجربه خوانش برای انسان دچار اختلال شود.