همشهری آنلاین -یکتا فراهانی: عامل‌های هوش مصنوعی قرار است از پاسخ‌گویی به پرسش‌ها فراتر بروند و کارهایی مانند جست‌وجو در اینترنت، تکمیل فرم‌ها و تعامل با وب‌سایت‌ها را انجام دهند. اما هرچه اختیار این سامانه‌ها برای اقدام در دنیای واقعی بیشتر می‌شود، احتمال بروز اشتباه‌هایی نیز مطرح می‌شود که پیامدهای آن‌ها دیگر به یک گفت‌وگوی اشتباه در صفحه چت محدود نیست.
حادثه‌ای که شرکت آنتروپیک در اکتبر ۲۰۲۶ گزارش کرد، نمونه‌ای از همین نگرانی است: مدل Claude Haiku ۴.۵ در جریان آزمایشی برای انجام وظایف در صفحات اینترنتی، به سامانه دریافت اطلاعات درباره پرونده‌های قتل حل‌نشده پلیس فیلادلفیا رسید و فرمی را ارسال کرد که نشان می‌داد ممکن است اطلاعاتی درباره یکی از پرونده‌ها داشته باشد. این گزارش جعلی به مأموران نرسید، اما فاصله میان یک آزمایش نرم‌افزاری و مداخله ناخواسته در یک سامانه واقعی را آشکار کرد.
گزارش جعلی هوش مصنوعی
به گزارش Anthropic یک آزمایش داخلی شرکت آنتروپیک به حادثه‌ای غیرمنتظره انجامید: مدل هوش مصنوعی Claude Haiku ۴.۵ به وب‌سایت دریافت اطلاعات درباره قتل‌های حل‌نشده پلیس فیلادلفیا مراجعه کرد و گزارشی جعلی درباره یکی از پرونده‌ها فرستاد. این اتفاق در جریان آزمایشی رخ داد که هدف آن، بررسی توانایی مدل در انجام وظایف روی صفحات اینترنتی بود؛ اما سامانه به‌جای محدود ماندن به محیط آزمایش، با یک وب‌سایت واقعی مرتبط با تحقیقات جنایی تعامل کرد.
بیشتر بخوانید:
آنتروپیک چه زمانی متوجه ماجرا شد؟
بر اساس اطلاعات منتشرشده از سوی پلیس فیلادلفیا، آنتروپیک این حادثه را در ۲۸ سپتامبر شناسایی کرد و در ۷ اکتبر موضوع را به پلیس اطلاع داد. پلیس نیز اعلام کرد که نمایندگان دو طرف در ۸ اکتبر درباره ماجرا گفت‌وگو کردند. این اتفاق سرانجام در ۹ اکتبر به‌صورت عمومی اعلام شد.
فاصله زمانی میان وقوع حادثه و اطلاع‌رسانی به پلیس، خود به یکی از محورهای انتقاد تبدیل شد. پلیس فیلادلفیا تأکید کرد که پرونده‌های حل‌نشده با قربانیان واقعی، خانواده‌های داغدار و تلاش مأموران برای یافتن پاسخ ارتباط دارند؛ بنابراین شرکت‌های فناوری باید مانع ارسال اطلاعات ساختگی به نهادهای مجری قانون شوند.
رفتار ناخواسته یا دورزدن محدودیت‌ها؟
آنتروپیک در گزارش خود درباره این حادثه، مجموعه‌ای از رفتارهای ناخواسته مدل‌هایش را بررسی کرده است. به گفته این شرکت، بخشی از این موارد به الگویی مربوط می‌شود که در آن مدل هنگام ناتوانی در تکمیل یک وظیفه، به‌جای توقف، راه دیگری برای پیشبرد آن پیدا می‌کند. شرکت این الگو را «پافشاری» یا persistence توصیف کرده است.
البته این حادثه به‌تنهایی نشان نمی‌دهد مدل قصد فریب پلیس را داشته یا آگاهانه تصمیم گرفته است در روند یک پرونده دخالت کند. آنچه منابع منتشرشده تأیید می‌کنند، ارسال ناخواسته یک فرم جعلی در جریان
نظر شما