همشهری آنلاین، فرخنده رفائی: اگر از پاسخ اشتباه یک چت‌بات عصبانی شوید و با لحنی تند به آن اعتراض کنید، قرار نیست به‌خاطر این رفتار حساب کاربری‌تان را از دست بدهید. اما آنتروپیک در سیاست‌های جدید خود مرزی میان انتقاد و مخالفت با هوش مصنوعی و آزار عمدی و مکرر آن ترسیم کرده است؛ مرزی که بخشی از قواعد تازه استفاده از کلاود را تشکیل می‌دهد.
چه زمانی بدرفتاری با کلاود ممنوع می‌شود؟
به گزارش دیجیتال ترندز، آنتروپیک در سیاست استفاده خود که از ۱۲ نوامبر ۲۰۲۶ اجرایی می‌شود، آزار مکرر کلاود با هدف آزار دادن آن را ممنوع کرده است. این محدودیت به معنای ممنوعیت بحث، انتقاد یا حتی استفاده از لحن تند در گفت‌وگو با هوش مصنوعی نیست.
کاربرانی که پاسخ اشتباه کلاود را زیر سؤال می‌برند، عملکرد آن را برای اهداف پژوهشی آزمایش می‌کنند یا در قالب داستان‌نویسی به سراغ موقعیت‌های تاریک و خشونت‌آمیز می‌روند، مشمول این ممنوعیت نمی‌شوند. آنچه آنتروپیک هدف گرفته، رفتارهایی است که در آنها کاربر به‌طور مکرر و صرفا برای آزار دادن چت‌بات، با آن بدرفتاری می‌کند.
کلاود هم از قبل راهی برای مواجهه با چنین رفتارهایی داشته است. اگر کاربری در وب‌سایت Claude.ai یا ابزار برنامه‌نویسی Claude Code به آزار و رفتار توهین‌آمیز ادامه دهد، این هوش مصنوعی می‌تواند مکالمه را خاتمه دهد؛ روشی که به گفته آنتروپیک، همچنان راهکار اصلی شرکت برای مدیریت این وضعیت خواهد بود.
قوانین جدید فقط به رفتار کاربران محدود نمی‌شوند
بخش دیگری از تغییرات سیاست استفاده کلاود به جلوگیری از سوءاستفاده‌های سیاسی و اجتماعی مربوط است. استفاده از این هوش مصنوعی برای اداره حساب‌های جعلی یا رسانه‌های خبری ساختگی با هدف جهت‌دهی به افکار عمومی ممنوع شده است؛ محدودیتی که هم فعالیت‌های سیاسی و هم کسب‌وکارها را در بر می‌گیرد.
قواعد مربوط به انتخابات نیز صریح‌تر شده‌اند. استفاده از کلاود برای فریب رأی‌دهندگان، جا زدن خود به‌جای نامزدها یا کارکنان انتخاباتی و منصرف کردن مردم از حضور در انتخابات مجاز نیست. در مقابل، آنتروپیک ممنوعیت گسترده پیشین درباره هدف‌گیری شخصی‌سازی‌شده در کارزارهای سیاسی را کنار گذاشته است؛ زیرا این محدودیت می‌توانست فعالیت‌های مفیدی مانند تهیه راهنمای رأی‌گیری به زبان‌های مختلف را نیز مختل کند. بااین‌حال، فریب رأی‌دهندگان یا استفاده از اطلاعات شخصی آنها برای هدف‌گیری همچنان ممنوع است.
در حوزه امنیت نیز کلاود نباید در ساخت کد یا تجهیزات مورد استفاده برای تسلیحات، از جمله نصب سلاح روی پهپادها، کمک کند. نظارت بر افراد بدون رضایت آنها و کمک به پلیس برای شناسایی افرادی که باید هدف اقدامات قانونی قرار بگیرند نیز محدود شده است؛ هرچند پژوهش حقوقی، روزنامه‌نگاری و بررسی تقلب همچنان مجاز است.
بیشتر بخوانید:
آیا کاربران عادی باید نگران باشند؟
برای بیشتر کاربران، این تغییرات به معنای محدودیت تازه‌ای در استفاده روزمره از کلاود نیست. مخالفت با پاسخ‌های هوش مصنوعی، درخواست اصلاح اشتباهات و حتی ابراز نارضایتی از عملکرد آن همچنان امکان‌پذیر است.
بااین‌حال، آنتروپیک درباره استفاده از کلاود برای تصمیم‌گیری‌های حساس در حوزه سلامت، امور مالی و مسائل حقوقی نیز تأکید کرده است که امکان بررسی و اصلاح توصیه‌های هوش مصنوعی توسط فردی واجد صلاحیت فراهم باشد و افراد متأثر از این تصمیم‌ها بدانند که هوش مصنوعی در فرایند تصمیم‌گیری نقش داشته است.
در مجموع، سیاست جدید بیش از آنکه کاربران عادی را هدف بگیرد، تلاش می‌کند مرزهای استفاده مسئولانه از هوش مصنوعی را روشن‌تر کند؛ از جلوگیری از سوءاستفاده‌های سیاسی و امنیتی گرفته تا محدود کردن آزار عمدی و مکرر چت‌بات.