شرکت OpenAI اعلام کرد که چندین حساب کاربری وابسته به چین را که از ChatGPT برای طراحی تبلیغات و توسعه ابزاری جهت رصد شبکههای اجتماعی سوءاستفاده میکردند، مسدود نموده است.
بر اساس گزارش رسمی این شرکت، این حسابها از طریق شبکههای خصوصی مجازی (VPN) از داخل چین به ChatGPT متصل میشدند و بهنظر میرسد برای یک مشتری دولتی فعالیت میکردند. ابزار مورد نظر بهعنوان یک سیستم رصد شبکههای اجتماعی توصیف شده که به اپراتورها امکان میدهد پلتفرمهایی مانند ایکس (X)، فیسبوک، اینستاگرام، ردیت، تیکتاک و یوتوب را از منظر محتوای مرتبط با قومیت، مذهب یا سیاست پایش کنند.
حسابهای مسدودشده ChatGPT احتمالاً به نهادی دولتی در چین وابسته بودهاند
OpenAI تأکید کرده که حسابهای مسدودشده نتوانستهاند از مدلهای هوش مصنوعی این شرکت برای رصد شبکههای اجتماعی بهرهبرداری کنند، اگرچه این شرکت بهطور قاطع نمیتواند تایید نماید که آیا این ابزار واقعاً توسط نهادهای دولتی چین به کار رفته است یا خیر.
🔗 بیشتر بخوانید: بازی فکری برای دختران ۱۲ ساله: ۸ بازی جذاب_دریای تکنولوژی
علاوه بر موارد فوق، OpenAI یک حساب دیگر را نیز مسدود کرده که از ChatGPT برای تهیه پیشنهادی در ارتباط با پروژهای مربوط به رصد تحرکات مسلمانان اویغور سوءاستفاده میکرد. گفته میشود این سیستم برای ردیابی جابهجایی اویغورها، تطبیق اطلاعات با اسناد پلیس و صدور هشدارهای زودهنگام درباره تحرکات آنها طراحی شده بود. در سالهای اخیر، سازمانهای مدافع حقوق بشر بارها دولت چین را به نقض حقوق مسلمانان اویغور متهم کردهاند.
گزارش منتشرشده توسط OpenAI جزئیات بیشتری در مورد گروههای چینی، روسی و کره شمالی ارائه میدهد که بهنظر میرسید در تلاش بودند از ChatGPT برای گسترش و بهبود بدافزارها — از جمله تروجانهای دسترسی از راه دور، ابزارهای دزدیدن اطلاعات و نرمافزارهایی برای دور زدن فرآیندهای شناسایی در سیستمها — سوءاستفاده کنند.
همچنین OpenAI شبکههای کلاهبرداری مستقر در کامبوج، میانمار و نیجریه را که سعی در سوءاستفاده از مدلهای این شرکت داشتند، شناسایی و منقضی نموده است.
🔗 بیشتر بخوانید: مطالعهی تازه در مورد خطر ابتلا به سرطان با مصرف غذاهای فرآوری شده