یکشنبه ۲۳ مرداد ۱۳۹۰ - ۰۵:۳۹

ترجمه - محسن یادگاری: یک روبات، سرباز دشمن را با ایجاد ردپای غلط و مخفی شدن فریب می‌دهد به‌گونه‌ای که دستگیر نشود.

روبات سرباز

هرچند این امر شبیه صحنه‌ای از یکی از فیلم‌های ترمیناتور است اما حقیقتا یک سناریو، از یک آزمایش انجام شده توسط محققان در مؤسسه فناوری جورجیاست که به‌عنوان نخستین قسمت از چیزی است که نخستین آزمایش دقیق فریب روباتیک است.
رونالد آرکین، یک پروفسور در دانشکده رایانش تعاملی در دانشگاه جورجیا می‌گوید: ما الگوریتم‌هایی ایجاد کرده‌ایم که به یک روبات این امکان را می‌دهد تا تعیین کند آیا باید یک انسان یا ماشین هوشمند دیگر را فریب دهد یا خیر؟ و تکنیک‌هایی ایجاد کرده‌ایم که به روبات کمک می‌کند بهترین راهکار فریب‌آمیز را انتخاب کند تا احتمال کشف شدنش را کاهش دهد.

به گزارش ساینس دیلی، نتایج آزمایش‌های روبات و مدلسازی تئوری و شناختی فریب به‌صورت آنلاین اخیرا در مجله بین‌المللی روباتیک عمومی منتشر شد؛ چون محققان پدیده فریب روباتیک را از یک دیدگاه عمومی مورد کاوش قرار دادند، نتایج تحقیق برای تعاملات روبات-روبات و انسان-روبات نیز صدق می‌کند. این تحقیق توسط اداره تحقیقات دریایی پشتیبانی می‌شود.

این گزارش می‌افزاید، در آینده روبات‌های دارای قابلیت فریب ممکن است برای کاربردهای مختلفی شامل عملیات‌های نظامی و جست‌وجو و نجات، ارزشمند باشند. یک روبات جست‌وجو و نجات، ممکن است نیاز داشته باشد تا همکاری یک قربانی وحشت زده را دریافت یا آن را آرام کند. روبات‌ها در میدان نبرد با قابلیت فریب دادن قادر خواهند بود پنهان شوند و دشمن را گمراه کنند تا خود و اطلاعات ارزشمند خود را به‌صورت ایمن نگه دارند.

همکار مولف، آلن واگنر که یک محقق در مؤسسه تحقیقات فناوری جورجیاست، می‌گوید: بیشتر روبات‌های اجتماعی احتمالا به ندرت از فریب استفاده خواهند کرد اما هنوز یک ابزار مهم در انبار مهمات تعاملی روبات است؛ زیرا روبات‌هایی که نیاز به فریب را تشخیص می‌دهند مزایایی از لحاظ کارایی در مقایسه با روبات‌های دیگر دارند.

در این تحقیق، محققان روی اعمال، باورها و ارتباطات یک روبات تمرکز کردند که تلاش داشت از روبات دیگری پنهان شود تا برنامه‌هایی را ایجاد کند که به‌طور موفقیت آمیز رفتار فریب آمیز ایجاد می‌کند. نخستین تلاش آنها آموزش به روبات فریب‌دهنده در مورد چگونگی تشخیص یک موقعیت است که متضمن استفاده از فریب است. واگنر و آرکین از نظریه همبستگی متقابل و نظریه بازی‌ها برای ایجاد الگوریتم‌هایی استفاده کردند که ارزش فریب را در یک موقعیت خاص بررسی می‌کرد. یک موقعیت باید 2 شرط کلیدی را ارضا کند تا فریب را تضمین کند: باید بین روبات فریب‌دهنده و روبات جست‌وجوگر تضاد وجود داشته باشد و روبات فریب‌دهنده باید از عمل فریب منفعتی کسب کند.

زمانی که یک وضعیت متضمن فریب درنظر گرفته شد، روبات یک عمل فریبنده را با ایجاد یک ارتباطات غلط انجام می‌دهد تا از نتیجه آن بهره‌مند شود. تکنیک ایجاد شده توسط محققان مؤسسه فناوری جورجیا، انتخاب عمل فریب‌آمیز در یک روبات را مبتنی بر یافته‌های روبات فریب‌دهنده از روبات دیگر درنظر می‌گرفت.

جهت آزمودن این الگوریتم‌ها، محققان 20 آزمایش مخفی شدن و جست‌وجو را با 2روبات خودکار اجرا کردند. نشانه‌های رنگی در طول 3مسیر بالقوه به سوی محل‌هایی برای مخفی شدن قرار گرفته بود. روبات مخفی‌شونده به‌صورت تصادفی، یک مکان برای مخفی شدن را از 3گزینه انتخاب می‌کرد و به سوی آن مکان حرکت می‌کرد، ضمن اینکه نشانه‌های رنگی را در طول مسیر بر زمین می‌زد. زمانی که به نقطه‌ای بعد از نشانه‌ها می‌رسید، روبات مسیر را تغییر می‌داد و در یکی از 2 مکان دیگر مخفی می‌شد. حضور یا غیاب نشانه‌ها، نشان‌دهنده مکان روبات مخفی‌شونده برای روبات جست‌وجوگر است.

واگنر توضیح می‌دهد: ارتباطات غلط ارسالی از سوی روبات مخفی‌شونده به وسیله انتخاب یک الگو از نشانه‌های زمین افتاده تعریف می‌شد که یک موقعیت جهت مخفی شدن غلط را نشان می‌دهد؛ برای مثال، روبات به سوی راست حرکت می‌کند و سپس در واقع به چپ حرکت می‌کند.

روبات‌های مخفی‌شونده قادر به فریب دادن روبات‌های جست‌وجوگر در 75درصد آزمایش‌ها بودند که آزمایش‌های ناموفق ناشی از ناتوانی روبات پنهان‌شونده برای انداختن نشانه‌های صحیح برای ایجاد ارتباطات فریب آمیز مطلوب است.

واگنر می‌گوید: نتایج تجربی کامل نبود اما آنها یادگیری و به‌کارگیری سیگنال‌های فریب توسط روبات‌های واقعی در یک محیط پرسروصدا را نشان دادند. نتایج، یک نشانه مقدماتی بود بر اینکه تکنیک‌ها و الگوریتم‌های تشریح شده در این مقاله می‌توانند برای ایجاد رفتار فریب‌آمیز در یک روبات مورد استفاده قرار گیرند.

مطابق نظر محققان، ضمن اینکه مزایایی برای ایجاد روبات‌های دارای ظرفیت فریب وجود دارد، مضامین اخلاقی نیز وجود دارند که باید درنظر گرفته شوند تا اطمینان حاصل شود این مخلوقات با انتظارات عمومی و رفاه جامعه سازگاری دارند.

آرکین می‌گوید: ما نگران مضامین اخلاقی مربوطه به ساخت روبات‌های با قابلیت فریب هستیم و درک می‌کنیم که جنبه‌های منفعت‌رسان و زیان‌رسان وجود دارد. ما اکیداً از بحث در این باره حمایت می‌کنیم که چه قوانین یا دستورالعمل‌هایی توسعه روبات‌های فریب‌دهنده را محدود می‌کند.

ساینس دیلی 

کد خبر 143028

برچسب‌ها