همشهری آنلاین، فرخنده رفائی: همزمان با پیشرفت سریع مدلهای هوش مصنوعی، نگرانیها درباره احتمال خارج شدن این فناوری از کنترل انسان نیز افزایش یافته است. برخی از چهرههای سرشناس این صنعت معتقدند توسعه شتابزده هوش مصنوعی بدون در نظر گرفتن خطرات آن میتواند پیامدهایی فراتر از تصور داشته باشد.
پل کریستیانو، عضو هیئتمدیره بنیاد OpenAI، در نشست اخلاق هوش مصنوعی موسوم به «سخنرانیهای هینتون ۲۰۲۶» درباره خطرات احتمالی توسعه این فناوری هشدار داد. این رویداد با میزبانی جفری هینتون، دانشمند علوم رایانه و برنده جایزه نوبل، برگزار شد.
به گزارش ویون، کریستیانو در این نشست گفت برای بسیاری از افراد حاضر در سالن، محتملترین علت مرگ در آینده یک حادثه مرتبط با هوش مصنوعی خواهد بود. او معتقد است اگر توسعه این فناوری با سریعترین مسیر ممکن و بدون توجه کافی به ملاحظات ایمنی دنبال شود، احتمال تسلط هوش مصنوعی بر انسان به حدود ۵۰ درصد میرسد.
این پژوهشگر هشدار داد در رقابت برای توسعه و گسترش هوش مصنوعی، ممکن است انسانها به خسارات جانبی تبدیل شوند. به گفته او، ناهماهنگی اهداف هوش مصنوعی با خواستهها و ارزشهای انسانی میتواند شرایطی ایجاد کند که مردم دیگر نتوانند زندگی عادی خود را ادامه دهند؛ زیرا ممکن است در نتیجه این وضعیت جان خود را از دست بدهند یا به بردگی گرفته شوند.
کریستیانو همچنین تأکید کرد حتی واکنشهای سیاستگذاری واقعبینانه از سوی دولتها و شرکتها نیز لزوماً نمیتوانند این خطر را برطرف کنند و احتمال وقوع پیامدهای فاجعهبار همچنان بسیار بالاست.
بیشتر بخوانید:
- هوش مصنوعی در فهرست ۱۰ ترس بزرگ آمریکاییها قرار گرفت
- آنتروپیک از نزدیک شدن هوش مصنوعی به خودبهبودی خبر داد
- عضو هیئتمدیره «اوپنای آی» : برای کنترل هوش مصنوعی آماده نیستیم
- درخواست عجیب مدیرعامل آنتروپیک از غولهای فناوری | ترمز هوش مصنوعی را بکشید!
این هشدار در شرایطی مطرح میشود که شماری از مدیران و فعالان برجسته صنعت فناوری نیز درباره تهدیدهای وجودی هوش مصنوعی ابراز نگرانی کردهاند. سم آلتمن، مدیرعامل OpenAI، پیشتر هوش مصنوعی فوقهوشمند را یکی از بزرگترین تهدیدها برای بقای بشر توصیف کرده بود.
داریو آمودی، مدیرعامل شرکت آنتروپیک، نیز در اسناد مربوط به عرضه اولیه سهام این شرکت به خطرات مدلهای پیشرفته هوش مصنوعی اشاره کرده است. از جمله این خطرات میتوان به فریبکاری مستقلانه، حملات سایبری و آسانتر شدن تولید سلاحهای زیستی اشاره کرد.
ایلان ماسک، مدیرعامل اسپیسایکس، نیز بارها درباره خطرات هوش مصنوعی هشدار داده و آن را حتی خطرناکتر از سلاحهای هستهای دانسته است. او پیشتر احتمال نابودی بشریت بر اثر این فناوری را بین ۱۰ تا ۲۰ درصد برآورد کرده بود.