همشهری آنلاین -یکتا فراهانی: تصور کنید نیمهشب تلفنتان زنگ میخورد و صدای فرزندتان را میشنوید که با اضطراب میگوید تصادف کرده، گرفتار پلیس شده و برای حل ماجرا فوراً به پول نیاز دارد. صدا کاملاً آشناست؛ لحن، مکثها و حتی نفسکشیدن او را میشناسید. در چنین لحظهای احتمالاً فرصت چندانی برای فکرکردن ندارید. اما ممکن است کسی که آنسوی خط است، فرزند شما نباشد.
فقط یک وویس ۳ ثانیهای کافی است
دکتر محمد عنبری فلوشیپ و پسادکتری هوش مصنوعی - برگزیده جشنواره اختراعات سیلیکونولی آمریکا و جایزه پروفسور تسلا و دبیر شورایعالی متخصصین هوش مصنوعی ایران و مدیرعامل شرکت دانشبنیان میگوید: دوران «شنیدن» بهمثابه سند هویت برای همیشه به پایان رسید؛ هوش مصنوعی با ۳ ثانیه صدا، اعتماد شما را میدزدد!
پیشرفت مدلهای پایهای مانند VALL-E و VoiceBox، شبیهسازی لحظهای صدا را ممکن ساخته است. کلاهبرداریهای نسل جدید، دیگر شنود نیستند؛ بازآفرینی تمامعیار هویت صوتیاند. در عصر «محتوای جعلی عمیق هوش مصنوعی»، گوش و چشم، هر دو میتوانند خطا کنند.
هوش مصنوعی چطور جای عزیزانتان حرف میزند؟
ساعت ۲:۳۰ بامداد. تلفن همراه به صدا در میآید. شمارهای که ثبت نشده، اما پیش از اینکه بتوانید «الو» بگویید، صدایی از آنسوی خط فریاد میزند: بابا منم... تصادف کردم، پلیس من را و نگه داشته اگر این مقدار مبلغ کارت به کارت طرف شاکی انتقال نکنم گرفتار میشم و...
قلبتان از جا کنده میشود. لحن، اضطراب، حتی نفسهای بلندش، بینقص شبیه بستگان است. شما فقط ۳۰ ثانیه فرصت دارید تا سرنوشت یک تراکنش بانکی را تعیین کنید.
اما یک حقیقت انکارناپذیر علمی این میانبر را میشکند: فرزندتان پشت خط نیست. او فقط یک «توهم صوتی» (Audio Hallucination) است که هوش مصنوعی از روی سه ثانیه وویس ضبط شده در فضای مجازی نظیر اکانت اینستاگرام فرزندتان ساخته است.
بیشتر بخوانید:
- اندرویدی ها مراقب این مدل کلاهبرداری باشند
- حرکت ایران به سمت رمزنگاری پساکوانتومی | باید به فکر حفاظت از دادههایمان باشیم
رشد سریع مهندسی اجتماعی صوتی
به گفته دبیر شورایعالی متخصصین هوش مصنوعی ایران، این فیلمنامه تریلرهای سایبری نیست؛ این «واقعیت عملیاتی» جرایم سازمانیافته در سال ۲۰۲۶ است. افبیآی (FBI) و کمیسیون تجارت فدرال آمریکا (FTC) رسماً اعلام کردهاند که «مهندسی اجتماعی صوتی» (Voice Social Engineering) سریعترین رشد را در میان جرایم مالی دارد. مشکل فقط پیشرفت فناوری نیست؛ مشکل این است که مغز انسان در تشخیص بازنماییهای دیجیتال از اصوات ارگانیک، اغلب ناتوان است.
انقلاب خاموش در الگوریتمهای تولید صدا
تا سه سال پیش، شبیهسازی صدا (Voice Cloning) نیازمند ساعتها داده بدون نویز و قدرت پردازش ابری بود. اما ظهور مدلهای متنوع در این حوزه، قواعد بازی را بر هم زده است.
گاهی با تنها ۳ ثانیه صدای هدف، با استفاده از معماری رمزگذار‑رمزگشای عصبی و مکانیزم کوانتیزاسیون باقیمانده (RVQ)، نهتنها تن صدا که احساسات، آکوستیک اتاق و حتی لحن نفسکشیدن را کپی میکند.
حمله به نقطه کور مغز: چرا در لحظات بحرانی فریب میخوریم؟
به عقیده دکتر عنبری، وقتی تماسگیرنده میگوید «تصادف کردم»، قشر پیشانی مغز که مسئول استدلال منطقی است، بلافاصله توسط دستگاه لیمبیک (سیستم هیجانی) مهار میشود. بدن وارد حالت «جنگ یا گریز» میشود و جعبه سیاه تصمیمگیری، فدای سرعت عمل میشود.
تراژدی اعتماد در عصر دیپفیک
برگزیده جشنواره اختراعات سیلیکونولی آمریکا میگوید کلاهبرداران حرفهای دقیقاً از همین «پنجره بحران» استفاده میکنند:
۱. القای اضطراب فوری (الان پول بفرست).
۲. اعمال فشار محرمانگی (به هیچکس نگو، مبادا پروندهات بدتر شود).
۳. استفاده از اطلاعات زمینهای (نام دوستش، مقصد سفرش) که از شبکههای اجتماعی استخراج شده است.
۴. شکاف فاحش با جهان؛ رویکرد افتراقی، ضرورت نه فوریت
چگونگی مقابله با دیپفیک
دکتر عنبری اضافه میکند در سوی دیگر جهان، اتحادیه اروپا با قانون هوش مصنوعی (AI Act)، تولید محتوای هایپر رئالیستی را «خطر سیستمی» تلقی و جریمههای نقدی تا سقف ۳۵ میلیون یورو را برای پلتفرمهای متخلف وضع کرده است.
مقایسه با رویکردهای تقنینی در اتحادیه اروپا، ایالات متحده و چین نشان میدهد که جرمانگاری اختصاصی تولید محتوای جعلی عمیق با رویکرد افتراقی، ضرورتی انکارناپذیر است. این یعنی در دنیا، قانونگذاران به این نتیجه رسیدهاند که با «یک تیغ» نمیتوان با «هزارچهره دیجیتال» مقابله کرد؛ بنابراین نیاز به جرایم جداگانه با عناصر مادی مختص به خود داریم.
راهکار چیست؟
آیا باید به همه بدبین بود؟ دکتر عنبری پاسخ میدهد خیر؛ باید «هوشمندانه بدبین» بود. یک پروتکل ۳۰ ثانیهای میتواند زندگی شما را نجات دهد:
توقف مطلق: اولین واکنش شما به درخواست مثلاً درخواست پولی باید «نه» مودبانه باشد.
راستیآزمایی با شماره قدیمی: از همان لحظه با گوشی دوم یا خط ثابت، با شمارهای که قبلاً ذخیره کردهاید (نه شماره تماسگیرنده) با فرد موردنظر تماس بگیرید.
کلمه رمز پویا: یک سؤال ازپیشتعیینشده که در هیچ شبکه اجتماعی ثبت نشده است، مثلاً: «پسرم شب گذشته شام چه خوردیم؟»
پرچم قرمز محرمانگی: اگر تماسگیرنده گفت «به هیچکس نگو»، بدون شک کلاهبردار است. کلاهبرداران از پنهانکاری بهعنوان سلاح اصلی علیه هوشیاری قربانی استفاده میکنند.
مسیر غیرقابلبازگشت: اگر روش پرداخت، رمزارز (USDT/Bitcoin) یا کارت هدیه است، یعنی قصد بازگرداندن پول وجود ندارد و حمله با ۹۹ درصد احتمال، جعلی است.