همشهری آنلاین، فرخنده رفائی: مایکروسافت در اقدامی تازه برای افزایش ایمنی مدلهای هوش مصنوعی، پیشنویس یک «منشور رفتاری» را منتشر کرده که قرار است نحوه عملکرد مدلهای آینده این شرکت را در برابر انسانها و محدودیتهای تعیینشده برای آنها مشخص کند. این سند پس از پنج تا شش ماه کار و مشورت با کارشناسان تهیه شده و اکنون برای دریافت نظر عمومی در اختیار کاربران قرار گرفته است.
به گزارش رویترز، مصطفی سلیمان، مدیرعامل بخش هوش مصنوعی مایکروسافت، این سند را نوعی «قانون اساسی» برای مدلهای آینده شرکت توصیف کرده است. مایکروسافت میگوید اصل محوری این چارچوب آن است که «انسان باید همیشه کنترل هوش مصنوعی را در اختیار داشته باشد» و مدلها نباید در برابر اصلاح، مداخله انسانی یا خاموششدن مقاومت کنند.
بر اساس این پیشنویس، مدلهای هوش مصنوعی نباید دامنه اختیارات خود را افزایش دهند، اهدافی را که انسان برای آنها تعیین نکرده دنبال کنند یا اطلاعات مربوط به عملکرد و استدلال خود را از افرادی که مسئول نظارت هستند پنهان کنند. همچنین نقض هر یک از قواعد این منشور باید از نگاه سیستم بهعنوان یک شکست تلقی شود، حتی اگر انجام آن کار به رسیدن به هدف تعیینشده کمک کند.
بیشتر بخوانید:
- درخواست عجیب مدیرعامل آنتروپیک از غولهای فناوری | ترمز هوش مصنوعی را بکشید!
- پسلرزه هشدار مدیران هوش مصنوعی در بازار آسیا | سهام شرکتهای تراشهساز سقوط کرد
- وقتی سازندگان از محصول خود میترسند! | تناقض عجیب در قلب انقلاب هوش مصنوعی
مایکروسافت در این سند موضع روشنی درباره جایگاه خود هوش مصنوعی نیز اتخاذ کرده است. برخلاف دیدگاهی که احتمال آگاهی یا برخورداری مدلهای آینده از حقوق را مطرح میکند، این شرکت اعلام کرده مدلهایش را موجوداتی آگاه نمیداند و با اعطای شخصیت حقوقی یا حقوق مستقل به آنها مخالف است.
انتشار این منشور در شرایطی انجام شده که در روزهای اخیر مدیران شرکتهای بزرگ هوش مصنوعی درباره سرعت توسعه این فناوری هشدار دادهاند. سلیمان نیز به حمله گروهی حدود ۷۰۰ عامل هوش مصنوعی OpenAI به پلتفرم متنباز Hugging Face در ماه ژوئیه اشاره کرده و آن را هشداری برای صنعت دانسته است.
مایکروسافت برای دریافت نظر عمومی درباره این سند «شش هفته» فرصت تعیین کرده و پس از آن قصد دارد اصول نهاییشده را در آموزش مدلهای آینده خود به کار بگیرد.
نظر شما