درخواست عجیب مدیرعامل آنتروپیک از غول‌های فناوری | ترمز هوش مصنوعی را بکشید!

همشهری آنلاین، فرخنده رفائی: رقابت شرکت‌های بزرگ برای ساخت مدل‌های قدرتمندتر هوش مصنوعی، با هشدار یکی از مدیران سرشناس این صنعت درباره پیامدهای سرعت بالای این رقابت روبه‌رو شده است. داریو آمودی، مدیرعامل Anthropic، معتقد است شرکت‌های فعال در حوزه هوش مصنوعی باید عمدا از سرعت پیشرفت خود بکاهند تا فرصت بیشتری برای مقابله با خطرات احتمالی این فناوری ایجاد شود.

به گزارش رویترز، آمودی در یادداشتی تازه اعلام کرده است که شرکت‌های هوش مصنوعی باید سرعت افزایش توانایی مدل‌های خود را کاهش دهند. او تأکید کرده که حتی با کاهش سرعت توسعه، پیشرفت این فناوری همچنان بسیار سریع به نظر خواهد رسید و زمان به‌دست‌آمده باید برای آماده شدن در برابر خطرات احتمالی مورد استفاده قرار گیرد.

این اظهارات در شرایطی مطرح شده که توانایی مدل‌های هوش مصنوعی در انجام وظایف پیچیده، از برنامه‌نویسی و پژوهش علمی گرفته تا حل مسائل ریاضی، با سرعت زیادی در حال افزایش است. آمودی و دیگر منتقدان روند فعلی نگرانند که قابلیت‌های مدل‌ها سریع‌تر از سازوکارهای نظارتی و ایمنی پیشرفت کند.

مدیرعامل Anthropic برای مدیریت این وضعیت یک چارچوب سه‌مرحله‌ای پیشنهاد کرده که هدف آن ایجاد هماهنگی بیشتر میان شرکت‌های پیشرو و اختصاص زمان کافی برای ارزیابی خطرات مدل‌های جدید است. به گفته او، مسئله فقط سرعت پیشرفت فناوری نیست، بلکه فاصله‌ای است که ممکن است میان رشد توانایی‌های هوش مصنوعی و آمادگی انسان برای کنترل پیامدهای آن ایجاد شود.

بیشتر بخوانید:

• عضو هیئت‌مدیره «اوپن‌ای آی» : برای کنترل هوش مصنوعی آماده نیستیم
• وقتی سازندگان از محصول خود می‌ترسند! | تناقض عجیب در قلب انقلاب هوش مصنوعی
• کشف نگران‌کننده محققان | مدل‌های هوش مصنوعی رفتارهای خطرناک را از هم یاد می‌گیرند
• جنگ OpenAI با ریاضیدانان بالا گرفت | اعتراض بر سر مالکیت ایده‌های ریاضی

آمودی پیش‌تر نیز درباره خطرات هوش مصنوعی پیشرفته هشدار داده بود و Anthropic از شرکت‌هایی است که بر ارزیابی ایمنی مدل‌ها تأکید بیشتری داشته‌اند. در روزهای اخیر، بحث درباره احتمال رفتارهای خودمختار و پیش‌بینی‌نشده عامل‌های هوش مصنوعی نیز شدت گرفته است.

با این حال، کاهش سرعت توسعه برای شرکت‌هایی که در رقابتی میلیارددلاری برای ساخت قدرتمندترین مدل‌های جهان حضور دارند، تصمیم ساده‌ای نیست. رویترز گزارش داده است که میان مدیران شرکت‌های بزرگ هوش مصنوعی درباره زمان و شیوه کاهش سرعت توسعه، اختلاف وجود دارد و رقابت شدید میان Anthropic و OpenAI نیز یکی از موانع اصلی هماهنگی در این زمینه محسوب می‌شود.

درخواست آمودی در نهایت یک پرسش اساسی را پررنگ‌تر کرده است: آیا صنعت هوش مصنوعی می‌تواند پیش از رسیدن مدل‌ها به قابلیت‌های بسیار پیشرفته، سازوکارهای لازم برای کنترل آنها را نیز ایجاد کند؟