همشهری آنلاین، فرخنده رفائی: هوش مصنوعی در حال تبدیل شدن به ابزاری برای ساخت نسخه‌های قدرتمندتر خودش است؛ روندی که می‌تواند سرعت پیشرفت این فناوری را افزایش دهد، اما هم‌زمان نگرانی‌های تازه‌ای درباره توانایی انسان برای نظارت و کنترل آن ایجاد می‌کند. شرکت سازنده کلود اکنون می‌گوید احتمال دارد به آستانه‌ای نزدیک شده باشد که در آن، هوش مصنوعی شتابی بی‌سابقه به توسعه مدل‌های جدید می‌دهد.
به گزارش تک‌کرانچ، شرکت آنتروپیک در نسخه اصلاح‌شده اسناد ثبت عرضه اولیه سهام خود در کمیسیون بورس و اوراق بهادار آمریکا، درباره نزدیک شدن به مرحله‌ای هشدار داده است که در آن استفاده از هوش مصنوعی برای توسعه مدل‌های پیشرفته‌تر می‌تواند سرعت توسعه این فناوری را به‌طور چشمگیری افزایش دهد.
این مرحله با اصطلاح «خودبهبودی بازگشتی» (Recursive Self-Improvement) شناخته می‌شود. در این وضعیت، هوش مصنوعی به‌اندازه‌ای در توسعه و آموزش مدل‌ها توانمند می‌شود که بتواند به بهبود نسخه‌های بعدی خود کمک کند و در نتیجه، روند پیشرفت فناوری شتاب بگیرد.
آنتروپیک در اسناد خود اعلام کرده است که استفاده فزاینده از هوش مصنوعی در پژوهش و توسعه داخلی ممکن است باعث شود توانایی مدل‌ها سریع‌تر از ظرفیت این شرکت برای تدوین، ارزیابی و اجرای تدابیر ایمنی و امنیتی افزایش یابد. این شرکت همچنین اذعان کرده است که در گذشته، شتاب قابل‌توجه در پیشرفت مدل‌ها را تا پس از وقوع آن تشخیص نداده است.
بیشتر بخوانید:
- هوش مصنوعی در فهرست ۱۰ ترس بزرگ آمریکایی‌ها قرار گرفت
- عضو هیئت‌مدیره «اوپن‌ای آی»: برای کنترل هوش مصنوعی آماده نیستیم
- درخواست عجیب مدیرعامل آنتروپیک از غول‌های فناوری | ترمز هوش مصنوعی را بکشید!
برآوردهای داخلی آنتروپیک نشان می‌دهد این شرکت ممکن است به‌زودی به تعریف سیاست مقیاس‌پذیری مسئولانه خود از «پیشرفت به‌شدت شتاب‌گرفته ناشی از هوش مصنوعی» برسد. بااین‌حال، آنتروپیک تأکید کرده است که هنوز هیچ‌یک از مدل‌های فعلی خود را فراتر از این آستانه ارزیابی نکرده و همچنان داده‌های مرتبط را بررسی می‌کند.
این شرکت در عین حال اعلام کرده است که فعلا انتظار ندارد بتواند بدون نظارت یا درک معنادار انسانی، نسل‌های متوالی مدل‌های پیشرفته را به‌طور کاملا خودمختار طراحی و تولید کند. آنتروپیک در حال بررسی تغییراتی در سیاست‌های ایمنی خود است تا نقش انسان در توسعه مدل‌های پیشرفته حفظ شود.
با وجود این، برخی منتقدان یادآوری می‌کنند که اسناد عرضه اولیه سهام علاوه بر افشای اطلاعات، می‌توانند جنبه تبلیغاتی نیز داشته باشند. بنابراین، نزدیک بودن به چنین مرحله‌ای هنوز به معنای تحقق خودبهبودی بازگشتی نیست.
نظر شما