همشهری آنلاین -یکتا فراهانی: یک تصویر از موجودی شبیه دایناسور منتشر میشود، برایش یک مکان مشخص اعلام میکنند، کاربران آن را بازنشر میکنند و خیلی زود این تصور شکل میگیرد و تصور میشود «وقتی عکس وجود دارد، پس حتماً اتفاقی هم افتاده است.» اما هوش مصنوعی مولد این معادله قدیمی را به هم زده است.
شاید سؤال اصلی دیگر فقط این نباشد که «این عکس واقعی است یا جعلی؟»؛ بلکه باید پرسید تصویر از کجا آمده، چگونه تولید شده، چه تغییراتی داشته و آیا ادعایی که همراه آن منتشر شده واقعاً صحت دارد یا نه.
تصویر دایناسور؛ یک نمونه از یک مشکل جهانی
برگزیده جشنواره اختراعات سیلیکونولی آمریکا و جایزه پروفسور تسلا، دبیر شورایعالی متخصصین هوش مصنوعی ایران و مدیرعامل یک شرکت دانشبنیان میگوید امروز تصویر میتواند واقعی، دستکاریشده، کاملاً تولیدشده با هوش مصنوعی یا حتی یک عکس واقعی باشد که با یک روایت دروغین و خارج از زمینه اصلیاش منتشر شده است. ماجرای اخیر انتشار تصویری از موجودی شبیه دایناسور و ادعای مشاهده آن در مناطق بیابانی خراسان رضوی، نمونهای از همین مسئله است. اداره کل حفاظت محیطزیست خراسان رضوی این ادعا را تکذیب کرد و تصویر را تولیدشده با هوش مصنوعی دانست و اعلام کرد گزارشی از مشاهده چنین موجودی توسط محیطبانان و کارشناسان وجود نداشته است. توجه به واقعیت پشت تصاویر
از نگاه دکتر عنبری، اهمیت این ماجرا فقط به «دایناسور» مربوط نمیشود؛ بلکه نشان میدهد اعتماد ما به تصویر بهعنوان سند، دیگر مانند گذشته قابلاتکا نیست.
امروز ممکن است یک تصویر با دوربین ثبت شده باشد، بعداً دستکاری شده باشد، کاملاً توسط هوش مصنوعی ساخته شده باشد، بخشی از آن با AI تغییر کرده باشد یا اصلاً واقعی باشد؛ اما با یک داستان جعلی در فضای مجازی منتشر شود.
بیشتر بخوانید:
آیا دایناسورها بازخواهند گشت؟
سنگهای کنار برکه بقایای بزرگترین دایناسور جنوب شرق آسیا بودند!
تصویر از کجا آمده است؟
دکتر عنبری برای راستیآزمایی حرفهای تصویر، یک مسیر چندمرحلهای را پیشنهاد میکند. نخست باید سراغ منشأ و سابقه تصویر رفت.
اولینبار چه کسی آن را منتشر کرده؟ نسخه اصلی کجاست؟ آیا همین تصویر قبلاً در اینترنت وجود داشته؟ آیا پیشازاین با داستان دیگری منتشر شده است؟
ابزارهایی مانند جستوجوی معکوس تصویر میتوانند در این مرحله کمک کنند. اگر مشخص شود تصویری که امروز با عنوان «مشاهده دایناسور در ایران» منتشر شده، ماهها قبل در کشور دیگری و با موضوعی متفاوت منتشر شده است، بخش مهمی از معما حل میشود.
متادیتا هم حکم قطعی نیست
در مرحله بعد میتوان اطلاعات فنی فایل، مانند EXIF و Metadata را بررسی کرد؛ اطلاعاتی مانند مدل دوربین، زمان ثبت، لنز یا حتی موقعیت جغرافیایی.
اما دکتر عنبری تأکید میکند نبودن متادیتا به معنای هوش مصنوعی بودن تصویر نیست. شبکههای اجتماعی، نرمافزارهای ویرایش و حتی انتقال فایل میتوانند این اطلاعات را حذف کنند؛ بنابراین متادیتا یک سرنخ است، نه حکم نهایی.
استانداردهایی مانند C۲PA و Content Credentials نیز با هدف ثبت منشأ و تغییرات محتوا شکلگرفتهاند. اما این فناوریها هم قرار نیست مشخص کنند یک اتفاق واقعاً در دنیای بیرون رخداده یا نه؛ آنها بیشتر درباره منشأ و سابقه فایل اطلاعات میدهند.
هوش مصنوعی جادو نمیکند!
یکی از مهمترین نکات صحبتهای دکتر عنبری، درباره ابزارهای تشخیص تصاویر تولیدشده با هوش مصنوعی است. این ابزارها میتوانند احتمال مصنوعی بودن یک تصویر را بررسی کنند، اما هیچ Detector واحدی نمیتواند بهتنهایی حکم قطعی صادر کند. چون تغییر اندازه تصویر، فشردهسازی، اسکرینشات، فیلتر و ویرایش میتواند نشانههای فنی را تغییر دهد. از طرف دیگر، خود مدلهای تولید تصویر نیز دائماً پیشرفتهتر میشوند.
به همین دلیل، اگر یک ابزار بگوید «این تصویر AI است»، بهتر است آن را یک شاهد در میان مجموعهای از شواهد بدانیم، نه پایان پرونده.
تغییر بعضی معادلات در عصر هوش مصنوعی
در عصر هوش مصنوعی بسیاری تر معادلات تغیر کرده و باید به این پروسه دقت داشت دیدن → پرسشکردن → بررسی منشأ → بررسی فنی → راستیآزمایی ادعا → باورکردن
به گفته دکتر عنبری، این همان تغییری است که سواد رسانهای در عصر هوش مصنوعی به آن نیاز دارد؛ توانایی تشخیص اینکه چه چیزی واقعاً ثبت شده، چه چیزی تولید یا دستکاری شده و چه چیزی با یک روایت نادرست به مخاطب عرضه شده است.
بنابراین در عصر هوش مصنوعی، تصویر دیگر سند نیست؛ تصویر یک ادعاست. سند زمانی شکل میگیرد که منشأ، اصالت فنی و صحت ادعای آن با شواهد مستقل احراز شود.