سم آلتمن درمورد وقوع بحران بزرگ کلاهبرداری با هوش مصنوعی هشدار داد_دریای تکنولوژی

«سم آلتمن»، مدیرعامل OpenAI، در سخنرانی خود در فدرال رزرو آمریکا هشدار داد هوش مصنوعی یک «بحران کلاهبرداری بزرگ» تشکیل خواهد کرد. او پیش‌بینی کرد که به‌زودی هوش مصنوعی به هر فردی این قوت را خواهد داد که بتواند صدا و عکس دیگران را به‌شکلی کاملاً واقع‌گرایانه جعل کند؛ تهدیدی که به حرف های او، می‌تواند پایه‌های امنیت مالی و مطمعن اجتماعی را به لرزه درآورد.

سم آلتمن در گفتگو با نایب رئیس نظارت فدرال رزرو نگرانی عمیق خود را از آینده امنیت در عصر هوش مصنوعی ابراز کرد. او او گفت: «هوش مصنوعی به‌طور کامل اکثر راه حلهای احراز هویت جاری، به جز رمزهای عبور، را ناکامی داده است.»

او به‌طور اشکار به صدمه‌پذیری سیستم‌های بانکی اشاره کرد: «چیزی که مرا به وحشت می‌اندازد این است که تا این مدت مؤسسات مالی وجود دارند که یک تاثییر صوتی را به گفتن مدرک احراز هویت برای انتقال مبالغ هنگفت می‌پذیرند.» آلتمن هشدار داد که این تهدید به شدت درحال پیشروی است: «اکنون فقط تماس صوتی است؛ اما به‌زودی تماس ویدیویی یا فیس‌تایم هم از حقیقت قابل تشخیص نخواهد می بود.»

هشدار سم آلتمن درمورد کلاهبرداری با هوش مصنوعی

این نگرانی‌ها فقطً پیش‌بینی نیست. شواهد مشخص می کند که این بحران از هم‌اکنون اغاز شده است؛ پیش‌ازاین، موارد بسیاری از کلاهبردارانی گزارش شده که با همانند‌سازی صدای افراد، از خانواده‌هایشان خواست باج کرده یا کارمندان را برای انتقال وجوه شرکت فریب داده‌اند.

سال قبل، FBI درمورد تهدید فزاینده مجرمان سایبری که از هوش مصنوعی برای انجام حملات فیشینگ و کلاهبرداری‌های همانند‌سازی صدا و عکس منفعت گیری می‌کنند، هشدار داده می بود. در یک نمونه شگفت، فردی با منفعت گیری از هوش مصنوعی خود را به‌جای «مارکو روبیو»، وزیر امور خارجه آمریکا، جا زده و با چندین مقام عالی‌رتبه تماس گرفته می بود.

مسئله جنجالی در این هشدار سم آلتمن، نقش خود شرکت OpenAI است. آلتمن در این گفتگو تلاش کرد تا شرکت خود را از این بحران تبرئه کند و ادعا کرد که «OpenAI بر روی ابزارهای جعل هویت کار نمی‌کند.» بااین‌حال، منتقدان می‌گویند مدل پیشرفته تشکیل ویدیوی OpenAI، یعنی Sora، پتانسیل این را دارد که دقیقاً برای ساخت ویدیوهای جعلی و دیپ‌فیک‌هایی که آلتمن درمورد آنها هشدار می‌دهد، مورد منفعت گیری قرار گیرد.