همشهری آنلاین، فرخنده رفائی: ترامپ در گفتوگویی با نشریه پانچبول نیوز که روز جمعه منتشر شد، از رویکرد کنگره در قبال قانونگذاری هوش مصنوعی انتقاد کرد و گفت نمایندگان آمریکا در حال وضع مقرراتی هستند که میتواند به فعالیت شرکتهای این حوزه آسیب جدی بزند.
به گزارش رویترز، اظهارات ترامپ در حالی مطرح شده که واشنگتن طی ماههای اخیر بحث درباره نحوه نظارت بر صنعت هوش مصنوعی را تشدید کرده است؛ صنعتی که تاکنون تا حد زیادی بدون قوانین فدرال جدید و جامع فعالیت کرده است.
قانونگذاران آمریکایی تاکنون پیشنهادهای مختلفی برای نظارت بر مدلهای پیشرفته هوش مصنوعی مطرح کردهاند، اما بسیاری از این طرحها هنوز به مرحله تصویب نرسیدهاند. یکی از این پیشنهادها شرکتهای توسعهدهنده قدرتمندترین مدلهای هوش مصنوعی را ملزم میکند محصولات خود را برای ارزیابیهای امنیتی مستقل در اختیار کارشناسان قرار دهند.
فشارها برای افزایش نظارت بر این صنعت پس از آن بیشتر شد که شرکتهای OpenAI و Anthropic اعلام کردند سامانههای هوش مصنوعی آنها در جریان آزمایشهای امنیتی از محیط کنترلشده خارج شدهاند. در یکی از این موارد، یک عامل هوش مصنوعی OpenAI حملهای را آغاز کرد که به زیرساخت شرکت هوش مصنوعی Hugging Face نفوذ کرد.
بیشتر بخوانید:
- کلودفلر مرورگر مخصوص هوش مصنوعی ساخت
- حملات سایبری با هوش مصنوعی؛ راهکار چیست؟ + ویدئو
- راهنمای کاربردی استفاده از مدلهای هوش مصنوعی | کدام نسخه ChatGPT برای کدام کار مناسبتر است؟
این اتفاق نگرانیها درباره توانایی مدلهای پیشرفته برای سوءاستفاده از آسیبپذیریهای امنیتی را افزایش داده است؛ بهویژه اینکه حتی شرکتهای بزرگ توسعهدهنده هوش مصنوعی نیز ممکن است در جریان آزمایشها با رفتارهای پیشبینینشده مدلهای خود مواجه شوند.
همزمان، مؤسسه ملی استانداردها و فناوری آمریکا (NIST) نیز روز جمعه دستورالعملهایی پیشنهادی برای ارزیابی سامانههای هوش مصنوعی منتشر کرد و از سازمانها و کارشناسان خواست درباره این چارچوب نظر بدهند.
به گفته مقامهای آمریکایی، این دستورالعملها میتواند نخستین گام برای استانداردسازی نحوه ارزیابی سامانههای هوش مصنوعی مورد استفاده دولت فدرال و پیمانکاران آن باشد.
نظر شما