همشهری آنلاین -یکتا فراهانی: هوش مصنوعی مولد در سالهای اخیر توانایی شگفتانگیزی در تولید و پردازش اطلاعات پیدا کرده است؛ از نوشتن یک پیام تسلیت و توضیح مفاهیم پیچیده گرفته تا تحلیل داده، ترجمه و ارائه راهکار برای مسائل مختلف. همین توانایی گاهی این تصور را ایجاد میکند که ماشین نهتنها اطلاعات را میداند، بلکه موقعیت انسانی پشت آن اطلاعات را هم درک میکند. درحالیکه میان تولید یک پاسخ مناسب و تجربه یا درک انسانیِ یک موقعیت تفاوت مهمی وجود دارد؛ تفاوتی که شناخت آن بخشی از سواد هوش مصنوعی است.
وقتی ماشین برای اندوه شما متن مینویسد
دکتر اباذر کریمی پنابندانی، متخصص هوش مصنوعی و عضو آکادمی علوم اروپا، با اشاره به همین تفاوت توضیح میدهد اگر از یک سامانه هوش مصنوعی بخواهیم برای دوستی که عزیزی را ازدستداده، پیام تسلیت بنویسد، سامانه میتواند در چند ثانیه متنی روان، مؤدبانه و متناسب با شرایط تولید کند. حتی ممکن است نام فرد، نسبت خانوادگی و لحن موردنظر ما را نیز در متن بگنجاند.
اما پرسش اینجاست: آیا سامانه متوجه اندوه ما هم می شود.
البته این پرسش از ارزش پاسخ هوش مصنوعی کم نمیکند؛ بلکه مرز میان توانایی تولید یک پاسخ مناسب و تجربه یا درک انسانی موقعیت را نشان میدهد.
بییشتر بخوانید :
فراتر از یک ماشین حفظ اطلاعات
کریمی میگوید هوش مصنوعی مولد از حجم بسیار زیادی از متنها و نمونهها الگو میآموزد و بر اساس درخواست کاربر، پاسخ تازهای تولید میکند. میتواند مفاهیم را توضیح دهد، میان موضوعهای مختلف ارتباط برقرار کند، متنها را خلاصه کند و در حل بسیاری از مسائل به کاربر کمک کند.
بنابراین، سادهانگارانه است که هوش مصنوعی را صرفاً یک ماشین حفظکردن اطلاعات بدانیم. بااینحال، روان صحبتکردن یا حتی درست پاسخدادن به یک سؤال، بهتنهایی نشان نمیدهد که سامانه تجربه زیسته، احساس یا قصدی مشابه انسان دارد.
تفاوت «دانستن» با «فهمیدن»
در گفتوگوهای روزمره، «دانستن» و «فهمیدن» گاهی بهجای یکدیگر استفاده میشوند؛ اما در مواجهه با هوش مصنوعی، جداکردن این دو مفهوم اهمیت بیشتری پیدا میکند.
ممکن است فردی همه قوانین یک بازی را از حفظ باشد، اما تا زمانی که در یک موقعیت واقعی قرار نگیرد، ظرافتهای آن را بهطور کامل درک نکند. هوش مصنوعی نیز میتواند درباره اضطراب امتحان توضیحی بسیار دقیق ارائه دهد، اما خودِ اضطراب دانشآموز، شرایط خانواده او یا پیامدهای یک توصیه را تجربه نکرده است.
این مثال البته حکمی قطعی درباره همه شکلهای ممکن فهم ماشینی نیست؛ بلکه تفاوتی کاربردی را نشان میدهد که هنگام استفاده از این فناوری باید به آن توجه داشت.
پاسخ درست، همیشه شناخت درست نیست
به گفته این متخصص هوش مصنوعی، این تفاوت زمانی مهمتر میشود که پاسخ ظاهراً درست هوش مصنوعی را با شناخت کامل یک موقعیت اشتباه بگیریم.
فرض کنید معلمی از هوش مصنوعی بخواهد درباره دانشآموزی که افت تحصیلی پیدا کرده، نظر بدهد. سامانه میتواند مجموعهای از علتهای احتمالی و راهکارهای عمومی را ارائه کند؛ اما علت واقعی ممکن است بیماری، فشار روانی یا تغییری در شرایط خانوادگی دانشآموز باشد.
در چنین شرایطی، پاسخ هوش مصنوعی بهتر است نقطه شروع بررسی باشد، نه پایان آن. گفتوگوی مستقیم معلم با دانشآموز و خانواده و توجه به حریم خصوصی همچنان اهمیت دارد.
به گفته این متخصص هوش مصنوعی، سامانه میتواند تحلیل انسان را غنیتر و فرایند بررسی را سریعتر کند، اما مسئولیت انتخاب همچنان بر عهده انسان و سازمان باقی میماند.
یک سؤال ساده برای سنجش پاسخ هوش مصنوعی
برای کاربر عادی نیز یک تمرین ساده میتواند مفید باشد. بعد از دریافت پاسخ از هوش مصنوعی، باید از خود بپرسیم: این پاسخ بر چه اطلاعاتی تکیه دارد و کدام بخش از موقعیت من را نمیداند؟
اگر پاسخ درباره فرد دیگری است، آیا اطلاعات را از خود آن فرد هم گرفتهایم؟ اگر قرار است بر اساس پاسخ، تصمیم مهمی بگیریم، آیا شواهد مستقل یا نظر یک متخصص را هم بررسی کردهایم؟
حتی میتوان این پرسشها را مستقیماً از خود مدل پرسید: «چه فرضی درباره شرایط من کردهای؟» یا «چه اطلاعاتی لازم داری تا پاسخ دقیقتری بدهی؟» البته توضیحی که خود مدل درباره محدودیتها و فرضیاتش ارائه میکند نیز باید با نگاه انتقادی بررسی شود.
سواد هوش مصنوعی یعنی دانستن مرزها
سواد هوش مصنوعی فقط به معنی بلد بودن کار با ابزارهای مختلف نیست. بخش مهمی از این سواد، تشخیص این است که یک ابزار چه نوع دانشی در اختیار ما میگذارد و چه نوع قضاوتی همچنان به انسان نیاز دارد.
هوش مصنوعی ممکن است در چند ثانیه حجم بسیار زیادی از متن را پردازش کند و درباره موضوعهای بیشمار پاسخ بدهد، اما این توانایی را نباید باتجربه زیسته انسان یکی دانست. شناخت همین فاصله کمک میکندهم از تواناییهای فناوری بهتر استفاده کنیم و هم زمانی که تصمیمهای ما بر زندگی دیگران اثر میگذارد، با دقت و مسئولیت بیشتری عمل کنیم.
نظر شما