به گزارش همشهری آنلاین، در این برنامه، دکتر «محمدحسین شفیع‌آبادی»، استاد دانشگاه و کارشناس هوش مصنوعی، درباره دستکاری اطلاعات، سوگیری الگوریتم‌ها، اعتماد به پاسخ‌های هوش مصنوعی و ضرورت افزایش سواد دیجیتال توضیح داد.
راهی برای تأثیرگذاری بر انتخابات
محور اصلی گفت‌وگو، گزارشی منتسب به رویترز درباره تلاش برخی نامزدهای انتخاباتی آمریکا برای تأثیرگذاری بر پاسخ چت‌بات‌ها بود. انتشار گسترده محتوای هدفمند در اینترنت می‌تواند پاسخ ابزارهایی مانند چت‌جی‌پی‌تی، جمینای و کلود را تحت تأثیر قرار دهد. شفیع‌آبادی دو مسیر اصلی برای جهت‌دهی به پاسخ‌های هوش مصنوعی معرفی کرد:
دستکاری داده‌ها: انتشار گسترده اطلاعات نادرست یا جهت‌دار در منابع اینترنتی.
دستکاری مدل‌ها: تغییر ساختار یا آموزش مدل‌های هوش مصنوعی برای تولید پاسخ‌های مطلوب.
روش نخست ساده‌تر و در دسترس‌تر است؛ هرچند مدل‌های جدیدتر تلاش می‌کنند تأثیر تکرار مصنوعی اطلاعات را کاهش دهند.
می‌توان به پاسخ چت‌بات‌ها اعتماد کرد؟
- همچنان احتمال تولید پاسخ‌های نادرست، منابع غیرواقعی و تحلیل‌های سوگیرانه وجود دارد.
- پاسخ متفاوت چت‌بات‌ها به پرسش‌های یکسان می‌تواند ناشی از تفاوت در مدل‌ها، منابع اطلاعاتی و شیوه پردازش داده‌ها باشد.
مهم‌ترین توصیه‌ها درباره پاسخ‌های هوش‌مصنوعی
- بررسی منابع و ارجاعات ارائه‌شده توسط هوش مصنوعی.
- مقایسه پاسخ‌ها با منابع معتبر و مستقل.
- پرهیز از اعتماد مطلق به یک چت‌بات.
- استفاده از هوش مصنوعی به‌عنوان دستیار، نه جایگزین دانش تخصصی.
آینده تبلیغات سیاسی در اختیار عامل‌های هوشمند؟
در بخشی از برنامه، به آماری مبنی بر مراجعه حدود ۲۵ درصد واجدان شرایط رأی‌دهی آمریکا به چت‌بات‌ها برای کسب اطلاعات انتخاباتی اشاره شد. شفیع‌آبادی پیش‌بینی کرد که این روند گسترش یابد و در آینده، عامل‌های هوشمند بتوانند نقش فعال‌تری در تبلیغات سیاسی ایفا کنند؛ ابزارهایی که با میلیون‌ها کاربر ارتباط برقرار می‌کنند و ممکن است در مقاطع انتخاباتی به سمت حمایت از نامزد مشخصی جهت‌دهی شوند.
تهدیدهای سایبری و ضرورت آموزش عمومی
بخش دیگری از گفت‌وگو به توانایی عامل‌های هوشمند در اجرای عملیات پیچیده سایبری اختصاص یافت. به گفته کارشناس برنامه، فعالیت مستمر و قدرت پردازشی این ابزارها می‌تواند تهدیدهای امنیتی تازه‌ای ایجاد کند. جمع‌بندی برنامه بر یک ضرورت اساسی تأکید داشت: توسعه سواد هوش مصنوعی در جامعه. شفیع‌آبادی خواستار برنامه‌ریزی نهادهای آموزشی و حاکمیتی برای آموزش عمومی شد و تأکید کرد که کاربران باید ضمن بهره‌گیری از قابلیت‌های هوش مصنوعی، نگاه انتقادی خود را حفظ کنند و صحت اطلاعات دریافتی را بسنجند.