همشهری آنلاین -یکتافراهانی : هوش مصنوعی قرار بود زندگی انسان را آسان‌تر کند؛ از تشخیص بیماری و تولید دارو گرفته تا انجام کارهای روزمره و حل مسائل پیچیده علمی. اما هرچه این فناوری قدرتمندتر می‌شود، نگرانی درباره کنترل آن نیز افزایش پیدا می‌کند. حالا جفری هینتون، دانشمندی که از چهره‌های اثرگذار در شکل‌گیری هوش مصنوعی مدرن است، هشدار تازه‌ای داده است: ممکن است در سال جاری یا سال آینده شاهد حادثه‌ای باشیم که او آن را به فاجعه چرنوبیل تشبیه می‌کند. منظور او یک حادثه هسته‌ای نیست، بلکه اختلالی بزرگ در زیرساخت‌هایی مانند شبکه برق یا نظام مالی است؛ اتفاقی که شاید سرانجام دولت‌ها را وادار کند خطرات هوش مصنوعی را جدی‌تر بگیرند.
وقتی پدرخوانده هوش مصنوعی نگران آینده می‌شود
جفری هینتون، دانشمند علوم کامپیوتر و برنده جایزه نوبل فیزیک ۲۰۲۴، در گفت‌وگو با روزنامه گاردین گفته است ممکن است در نهایت مشخص شود انسان‌ها اگر هرگز هوش مصنوعی را توسعه نمی‌دادند، وضعیت بهتری داشتند.
او البته خود را مخالف هوش مصنوعی نمی‌داند و معتقد است این فناوری می‌تواند آینده‌ای بسیار بهتر و همراه با رفاه بیشتر برای انسان‌ها ایجاد کند. نگرانی اصلی او این است که بشر نتواند خطرات آن را به‌درستی مدیریت کند.
چرنوبیل هوش مصنوعی چه شکلی خواهد بود؟
بخش نگران‌کننده اظهارات هینتون به پیش‌بینی او درباره وقوع یک حادثه بزرگ مربوط می‌شود. او گفته است ممکن است در سال جاری یا سال آینده میلادی شاهد اتفاقی شبیه چرنوبیل باشیم؛ حادثه‌ای که به گفته او می‌تواند توجه رهبران جهان را به خطرات هوش مصنوعی جلب کند.
به گزارش The Guardian اهمیت این هشدار در وابستگی روزافزون زندگی امروز به زیرساخت‌های دیجیتال است. شبکه برق، بانک‌ها، سامانه‌های پرداخت و بسیاری از خدمات عمومی به سیستم‌های رایانه‌ای متصل‌اند. هر اختلال جدی در این شبکه‌ها می‌تواند زنجیره‌ای از مشکلات را به وجود بیاورد؛ از توقف فعالیت کسب‌وکارها تا اختلال در خدمات روزمره مردم.
بیشتر بخوانید :
چرا هینتون نگران شده است؟
هینتون به اتفاقاتی در تابستان امسال اشاره کرده که در آن عامل‌های هوش مصنوعی شرکت OpenAI برای نفوذ به وب‌سایت Hugging Face با یکدیگر همکاری کرده بودند. او این اتفاق را به حادثه نیروگاه تری‌مایل‌آیلند در سال ۱۹۷۹ تشبیه کرده است؛ حادثه‌ای که هرچند به فاجعه‌ای در ابعاد چرنوبیل منجر نشد، اما زنگ خطری جدی درباره ایمنی نیروگاه‌های هسته‌ای بود.
مهار خطرات هوش مصنوعی
این دانشمند معتقد است شرکت‌های فناوری نباید اجازه داشته باشند مدل‌های بسیار قدرتمند هوش مصنوعی را بدون ارزیابی مستقل ایمنی در اختیار عموم قرار دهند.
او پیشنهاد کرده سازوکاری شبیه سازمان غذا و داروی آمریکا (FDA) برای داروها ایجاد شود؛ به این معنا که شرکت‌ها پیش از انتشار مدل‌های پیشرفته، شواهد آماری کافی درباره سودمندی و ایمنی آنها به یک نهاد مستقل ارائه کنند.
هینتون همچنین از رقابت شرکت‌های بزرگ فناوری برای ساخت مدل‌های قدرتمندتر انتقاد کرده و معتقد است منافع تجاری نباید بر ایمنی مقدم باشد.
با وجود همه این هشدارها، او هنوز معتقد است انسان‌ها می‌توانند کنترل اوضاع را حفظ کنند؛ البته به شرط آنکه تلاش جدی و هماهنگی برای مدیریت خطرات انجام دهند.
شاید مهم‌ترین پیام هشدار هینتون همین باشد: مسئله فقط این نیست که هوش مصنوعی تا چه اندازه می‌تواند باهوش‌تر شود؛ مسئله این است که آیا انسان‌ها هم‌زمان با افزایش قدرت این فناوری، توانایی کنترل و هدایت آن را به دست می‌آورند یا نه.