هشدار سمآلتمن هوش مصنوعی و بحران کلاهبرداری دیجیتال؛ تهدیدی برای امنیت مالی, هوش مصنوعی به عنوان یکی از پیشرفتهترین دستاوردهای تکنولوژی شناخته میشود، اما این پیشرفت چالشهای جدی امنیتی را نیز به همراه داشته است. سمآلتمن، مدیرعامل اوپنایآی، در جلسهای در فدرال رزرو آمریکا نسبت به بروز یک بحران کلاهبرداری گسترده ناشی از سوءاستفاده از این فناوری هشدار داد.
تهدید جدی برای سیستمهای احراز هویت آلتمن بیان کرد که پیشرفت مدلهای هوش مصنوعی به زودی امکان جعل صدا و تصویر افراد با واقعگرایی کامل را فراهم خواهد کرد. او تأکید کرد که این فناوری تقریباً تمام روشهای احراز هویت رایج را — به استثنای رمزهای عبور — ناکارآمد میسازد.
نقطه ضعف در بخش بانکداری و مالی مدیرعامل اوپنایآی به آسیبپذیری مؤسسات مالی اشاره کرد که همچنان برای تایید تراکنشهای سنگین، تنها بر روی احراز هویت صوتی متکی هستند. آلتمن این رویه را ترسناک توصیف کرد و پیشبینی نمود که در آینده نزدیک، تماسهای ویدیویی و فیستایم جعلی نیز از مکالمات واقعی غیرقابل تفکیک خواهند بود. شواهد واقعی کلاهبرداریهای مبتنی بر دیپفیک این هشدارها تنها پیشبینیهای آیندهنگرانه نیستند.
در ماههای اخیر موارد متعددی از سوءاستفاده از تکنولوژی دیپفیک گزارش شده است.ی اخطار داده بود.
مثالهای برجسته سوءاستفاده یکی از موارد شگفتانگیز، جعل هویت مارکو روبیو، وزیر امور خارجه آمریکا، توسط یک فرد ناشناس بود که با استفاده از ابزارهای هوش مصنوعی، با چندین مقام ارشد دولتی آمریکا تماس گرفت و اعتماد آنها را کسب کرد. این رویداد نشاندهنده سطح خطرناک دسترسی به تکنولوژیهای جعل هویت است.
موقف اوپنایآی و انتقادات موجود آلتمن در پاسخ به انتقادات، ادعا کرد که اوپنایآی مستقیماً بر روی ابزارهای جعل هویت کار نمیکند. با این حال، منتقدان معتقدند که مدل سورا این شرکت برای تولید ویدیو، پتانسیل بالایی برای ساخت محتوای دیپفیک واقعگرایانه دارد که میتواند دقیقاً برای سناریوهای خطرناک پیشبینی شده توسط خود آلتمن مورد استفاده قرار گیرد.