همشهری آنلاین -یکتا فراهانی: از قیمت یک کالا و مشخصات یک محصول گرفته تا تاریخ یک رویداد یا حتی یک موضوع تخصصی، کاربران امروز برای پیدا کردن پاسخ بسیاری از پرسشهای روزمره سراغ هوش مصنوعی میروند. پاسخها معمولاً مرتب، روان و سریع هستند و همین ظاهر منسجم میتواند این تصور را ایجاد کند که اطلاعات ارائهشده حتماً بررسی و تأیید شدهاند.
یک جواب شیک و دقیق؛ اما کاملاً اشتباه!
امین خاقانیفر، مدیرکل کسبوکار استراتژیک یک اپراتور تلفن همراه، با اشاره به نقش داده در عملکرد ابزارهای هوش مصنوعی میگوید یکی از دلایل خطای این ابزارها میتواند اطلاعات نامناسبی باشد که مبنای پاسخ قرار گرفته است.
تصور کنید از هوش مصنوعی درباره قیمت یک خانه سؤال میکنید و عددی دقیق و قاطع دریافت میکنید؛ عددی که در نگاه اول کاملاً قابلاعتماد به نظر میرسد، اما با قیمت واقعی بازار فاصله زیادی دارد.
اگر ابزار برای تخمین قیمت به آگهیهای اینترنتی مراجعه کرده باشد ممکن است قیمت پیشنهادی فروشندهها را مبنا قرار دهد؛ درحالیکه قیمت آگهی لزوماً همان قیمت نهایی معامله نیست. آگهیهای قدیمی، تکراری یا مربوط به خانههای نامشابه نیز میتوانند نتیجه را منحرف کنند.
در چنین شرایطی، حتی اگر محاسبات درست انجام شده باشد، خروجی نهایی الزاماً درست نخواهد بود؛ چون داده اولیه مناسب نبوده است.
بیشتر بخوانید :
هوش مصنوعی فقط محتوا تولید نمیکند؛ در انتخاب و توزیع آن هم نقش دارد
پرامپتهایی برای خلق تصاویر خاص | با هوش مصنوعی عکسهایت را حرفهای کن
وقتی داده بد، هوش مصنوعی را به بیراهه میبرد
هر عدد، تاریخ، نام، توضیح یا سندی که وارد فرایند پاسخگویی میشود، میتواند روی نتیجه اثر بگذارد. بخشی از اطلاعات از دانستههای قبلی مدل میآید و در برخی ابزارها نیز اطلاعات اینترنتی یا اسناد در فرایند پاسخگویی مورداستفاده قرار میگیرند؛ بنابراین فقط خود اطلاعات مهم نیست؛ منبعی که اطلاعات از آن آمده نیز اهمیت دارد.
به گفته خاقانیفر، برای ارزیابی یک منبع نباید فقط به وجود یک لینک اکتفا کرد. باید دید مطلب را چه کسی منتشر کرده، مربوط به چه زمانی است و آیا اساساً ارتباطی با سؤال موردنظر دارد یا نه.
یکی از دامهای رایج هنگام بررسی اطلاعات، اشتباهگرفتن «تعداد نتایج» با «تعداد منابع مستقل» است.
ممکن است یک ادعا در چندین سایت منتشر شده باشد و در نگاه اول معتبر به نظر برسد، اما اگر همه این صفحات اطلاعات خود را از یک منبع اولیه گرفته باشند، در واقع با چند تأیید مستقل روبهرو نیستیم.
شاید اشتباه از خودمان شروع شده باشد!
از نگاه خاقانیفر، بنابراین نباید صرفاً بر اساس تعداد نتایج جستوجو درباره اعتبار یک ادعا تصمیم گرفت. گاهی یک منبع اولیه معتبر، ارزش بیشتری از دهها صفحهای دارد که همان اطلاعات را بدون بررسی دوباره تکرار کردهاند.
همه خطاها الزاماً از خود هوش مصنوعی شروع نمیشوند. گاهی کاربر اطلاعات نادرست یا ناقصی را وارد میکند و سپس انتظار دارد ابزار بر اساس همان دادهها به یک نتیجه درست برسد.
به همین دلیل، پیش از ارسال درخواست، بهتر است عددها، تاریخها، نامها و واحدها بررسی شوند. اگر شرایط خاصی وجود دارد که میتواند روی پاسخ تأثیر بگذارد، باید آن شرایط نیز در درخواست ذکر شود.
پرامپت بهتر؛ جلوی همه اشتباهها را نمیگیرد
خاقانیفر در ادامه بر اهمیت نحوه سؤال پرسیدن از هوش مصنوعی تأکید میکند. به گفته او، پرامپت یا همان درخواست کاربر باید تاحدامکان روشن باشد و هدف، شرایط، محدودیتها و شکل پاسخ موردانتظار را مشخص کند.
برای مقایسه دو گزینه، باید معیار مقایسه مشخص باشد. برای دریافت پیشنهاد، نیازها و محدودیتها باید گفته شود و درباره موضوعات روز نیز باید بر استفاده از اطلاعات بهروز تأکید کرد.
حتی میتوان یک منبع مشخص مانند سند رسمی، گزارش تخصصی یا راهنمای معتبر را در اختیار ابزار قرارداد و از آن خواست ادعاهای مهم را بر اساس همان منبع بررسی کند.
سؤال خوب تضمین دریافت پاسخ صحیح نیست
باوجود همه این اقدامات، یک نکته همچنان باقی میماند: حتی سؤال دقیق و داده معتبر هم تضمین نمیکند که هوش مصنوعی همیشه پاسخ درست بدهد. مدل، ممکن است اطلاعات را اشتباه تفسیر کند یا در مرحله نتیجهگیری دچار خطا شود؛ بنابراین برای تصمیمهای مهم، نباید فقط به ظاهر مطمئن یک پاسخ تکیه کرد.
بررسی منبع، مقایسه اطلاعات و توجه به شواهد همچنان ضروری است؛ بهخصوص زمانی که نتیجه یک پاسخ قرار است مبنای تصمیمی مهم قرار بگیرد.
دو سؤال مهم
در نهایت، پیش از اعتماد به یک پاسخ قاطع از هوش مصنوعی، میتوان دو سؤال ساده مطرح کرد: من چه اطلاعاتی به این ابزار دادهام؟ این پاسخ بر چه اطلاعاتی بنا شده است؟
همین مکث کوتاه میتواند فاصله میان یک پاسخ ظاهراً دقیق و یک تصمیم اشتباه را آشکار کند. هوش مصنوعی میتواند ابزار قدرتمندی برای جستوجو، تحلیل و تصمیمسازی باشد، اما قاطع بودن یک پاسخ، بهتنهایی دلیل کافی برای درست بودن آن نیست.