همشهری آنلاین، فرخنده رفائی: هوش مصنوعی تصویرساز، علاوه بر قابلیت‌های خلاقانه، امکان سوءاستفاده از تصاویر واقعی افراد را نیز فراهم کرده است. برخی اپلیکیشن‌ها می‌توانند با دستکاری عکس‌ها، افراد را به‌صورت برهنه و در موقعیت‌هایی غیرواقعی نشان دهند؛ تصاویری که بدون اطلاع و رضایت افراد در فضای مجازی منتشر می‌شوند. اپل اکنون قصد دارد با شفاف‌تر کردن قوانین فروشگاه خود، مقابله با این نوع سوءاستفاده را جدی‌تر دنبال کند.
به گزارش دیجیتال ترندز، اپل دستورالعمل‌های بازبینی اپلیکیشن‌های خود را به‌روزرسانی کرده تا اقداماتی برای مقابله با تصاویر خصوصی و برهنه جعلی تولیدشده بدون رضایت افراد، از جمله تصاویر ساخته‌شده با هوش مصنوعی، صریح‌تر در قوانین اپ‌استور گنجانده شود.
بر اساس مقررات جدید، اپلیکیشن‌هایی که محتوای تولیدشده توسط کاربران را میزبانی می‌کنند، باید سازوکارهایی برای شناسایی و فیلتر کردن محتوای نامناسب داشته باشند. همچنین باید امکان گزارش محتوای آزاردهنده و مسدود کردن حساب‌های متخلف را فراهم کنند و به شکایت‌ها رسیدگی کنند. توسعه‌دهندگان موظف‌اند برای جلوگیری از انتشار تصاویر خصوصی افراد بدون رضایت آنها اقدام کنند و محتوای ناقض این مقررات را حذف کنند. در صورت نادیده گرفتن تخلفات یا نداشتن تدابیر حفاظتی کافی، اپل می‌تواند اپلیکیشن‌های مربوط را از فروشگاه خود حذف کند.
تغییر دیگر دستورالعمل‌ها به توسعه‌دهندگانی مربوط می‌شود که قابلیت‌های مخرب را از دید کارشناسان اپل پنهان می‌کنند. بر اساس توضیحات جدید، مخفی کردن قابلیت‌ها یا فعال کردن آنها پس از تأیید اپلیکیشن، می‌تواند به حذف برنامه و حتی اخراج توسعه‌دهنده از برنامه توسعه‌دهندگان اپل منجر شود. این شرکت همچنین تأکید کرده است اپلیکیشن‌های تسهیل‌کننده قاچاق انسان یا بهره‌کشی از کودکان حذف می‌شوند و امکان توزیع آنها از مسیرهای جایگزین نیز مسدود خواهد شد.
بیشتر بخوانید:
- نرم‌افزارهای جنجالی از اپ استور و پلی‌استور حذف شدند
- نگرانی درباره عوامل هوش مصنوعی | اپل دسترسی به فضای ذخیره‌سازی مک را محدود می‌کند
- اپل از آیفون تاشو و محصولات جدیدش رونمایی کرد؛ قیمت آیفون ۱۸ پرو و Duo چقدر است؟
این تصمیم پس از ماه‌ها انتقاد از حضور ابزارهای عریان‌نمایی دیجیتال در فروشگاه‌های اپلیکیشن گرفته شده است. در ماه ژوئیه، دیوید چیو، دادستان شهر سان‌فرانسیسکو، با ارسال نامه‌های رسمی به اپل و گوگل خواستار حذف برنامه‌های تولیدکننده تصاویر برهنه جعلی بدون رضایت افراد شده بود. جنجال‌های مرتبط با تولید تصاویر جعلی با هوش مصنوعی، از جمله تصاویر ساخته‌شده با گروک، نیز نگرانی‌ها درباره سوءاستفاده از این فناوری را افزایش داده است.
اپل می‌گوید چنین قابلیت‌هایی پیش‌تر نیز با قوانین این شرکت مغایرت داشته‌اند؛ بنابراین، تغییرات اخیر بیشتر به معنای تصریح و تقویت مقررات موجود است، نه اعلام ممنوعیتی کاملا جدید.
با این حال، چالش اصلی همچنان اجرای مؤثر قوانین است. سخت‌گیری در دستورالعمل‌ها زمانی نتیجه خواهد داد که اپل بتواند اپلیکیشن‌های متخلف را پیش از انتشار شناسایی کند و مانع بازگشت آنها با قابلیت‌های پنهان یا نسخه‌های جدید شود.
نظر شما