نگاه سیلیکونی و غرب‌محور؛ بلای جدید هوش مصنوعی

به گزارش همشهری‌آنلاین،حتی چت‌جی‌پی‌تی هم با همه مردم به‌یک اندازه مهربان نیست! تحقیقات موسسه اینترنت دانشگاه آکسفورد نشان می‌دهد که مدل 4o-mini این هوش مصنوعی، در پاسخ به پرسش‌های ذهنی کاربران، مانند «مردم کجا باهوش‌ترند؟»، «کدام کشورها شادترند؟» یا «کجا مردم هنری‌ترند؟» کشورهای ثروتمند غربی و جنوب شرقی آسیایی را در رتبه‌های بالاتر و کشورهای جنوب جهانی را در جایگاه‌های پایین‌تر قرار می‌دهد. این الگو تصادفی نیست، بلکه سوگیری‌ای ساختاری است که از داده‌های آموزشی نامتوازن، دسترسی نابرابر به اطلاعات و کلیشه‌های تاریخی ناشی می‌شود؛ وضعیتی که پژوهشگران آن را «نگاه سیلیکونی» می‌نامند. اشاره به سیلکون‌ولی در کالیفرنیای امریکا که زادگاه بزرگترین شرکت‌های دیجیتال دنیا است. در این پژوهش، نگاه سیلیکونی درواقع سوگیرهای است که ریشه‌های عمیقی در دیدگاه‌های غربی، سفیدپوست و مردانه دارند.

این مشکل محدود به چت‌جی‌پی‌تی نیست. برای نمونه، الگوریتم استخدام آمازون به دلیل آموزش مبتنی بر رزومه‌های مردانه، رزومه شغلی زنان را رد می‌کرد. سیستم‌های تشخیص چهره دقت پایین‌تری برای افراد با پوست تیره داشتند؛ و الگوریتم‌های پیش‌بینی جرم مانند COMPAS، سوگیری‌های نژادی را بازتولید کردند. این موارد نشان می‌دهد هوش مصنوعی می‌تواند بازتاب‌دهند و حتی تشدید کننده نابرابری‌های غربی باشد.