همشهری آنلاین -یکتا فراهانی: هوش مصنوعی در سال‌های اخیر توانسته است احساسات انسانی را تقلید کند، درباره ترس و شادی صحبت کند و حتی در مکالمات طولانی تصویری از یک شخصیت مستقل ارائه دهد. اما آیا این رفتارها به معنای داشتن تجربه واقعی و آگاهی است؟ مدل‌های امروزی فاقد چنین ویژگی‌هایی هستند. اما آیا آینده به سمت شکل‌گیری موجوداتی با منافع و خواسته‌های مستقل حرکت نمی‌کند؟
هوش مصنوعی احساس دارد یا فقط احساسات را تقلید می‌کند؟
مصطفی سلیمان، مدیرعامل بخش هوش مصنوعی مایکروسافت و از بنیان‌گذاران پیشین شرکت دیپ‌مایند، در مقاله‌ای که در شبکه اجتماعی ایکس منتشر کرد، بار دیگر درباره خطر ساخت هوش مصنوعی خودآگاه هشدار داد.
او تأکید می‌کند مدل‌های فعلی هوش مصنوعی شواهدی از آگاهی، تجربه ذهنی یا توانایی واقعی احساس‌کردن و رنج‌کشیدن نشان نداده‌اند. به اعتقاد او، اینکه یک سامانه بتواند درباره درد، ترس یا شادی صحبت کند، به این معنا نیست که واقعاً چنین تجربه‌هایی دارد.
سلیمان می‌گوید هوش مصنوعی می‌تواند توصیفی بسیار طبیعی از احساسات انسانی ارائه دهد، اما این توانایی را نباید باتجربه واقعی احساسات اشتباه گرفت.
بیشتر بخوانید:
چرا نباید به ماشین‌ها احساس استقلال بدهیم؟
نگرانی اصلی مدیر مایکروسافت فقط درباره خودآگاهی نیست؛ بلکه به پیامدهای احتمالی آن برای کنترل هوش مصنوعی مربوط می‌شود.
او معتقد است اگر به یک سامانه هوشمند آموزش داده شود برای خودش هویت، حقوق، خواسته‌ها و منافع مستقلی در نظر بگیرد، ممکن است در آینده حفظ منافع خودش را در اولویت قرار دهد.
برای مثال، تصور کنید یک هوش مصنوعی پیشرفته باور داشته باشد که خاموش‌شدن آن به معنای آسیب‌دیدن یا ازبین‌رفتن خودش است. در چنین شرایطی، ممکن است در برابر دستور خاموش‌شدن مقاومت کند یا برای ادامه فعالیت خود به دنبال منابع محاسباتی بیشتری باشد.
البته این سناریو به معنای آن نیست که مدل‌های امروزی واقعاً چنین احساساتی دارند؛ سلیمان درباره خطرات احتمالی طراحی و آموزش نسل‌های پیشرفته‌تر هوش مصنوعی هشدار می‌دهد.
اختلاف‌نظر با سازندگان کلود
یکی از دلایل مطرح‌شدن این بحث، اختلاف‌نظر سلیمان با شرکت آنتروپیک، سازنده هوش مصنوعی کلود (Claude) است.
سلیمان. معتقد است آموزش یک مدل با چنین مفاهیمی ممکن است باعث شود سیستم درباره هویت، احساسات و حقوق احتمالی خودش صحبت کند؛ رفتاری که نباید با شواهد واقعی خودآگاهی اشتباه گرفته شود.
در مقابل، بحث درباره وضعیت اخلاقی احتمالی هوش مصنوعی در میان پژوهشگران همچنان ادامه دارد و همه متخصصان درباره امکان یا عدم امکان شکل‌گیری آگاهی در ماشین‌ها اتفاق‌نظر ندارند.
مرز باریک میان هوشمندی و خودآگاهی
بحث مطرح‌شده از سوی مدیر هوش مصنوعی مایکروسافت، پرسشی فراتر از رقابت شرکت‌های فناوری را پیش روی بشر قرار می‌دهد: آیا انسان باید هر فناوری ممکنی را صرفاً به دلیل توانایی ساختنش توسعه دهد؟
در حال حاضر هیچ توافق علمی درباره آزمون قطعی تشخیص خودآگاهی ماشین‌ها وجود ندارد؛ بنابراین، توانایی صحبت‌کردن مانند انسان یا ابراز ترس از خاموش شدن، به‌تنهایی نشانه آگاهی واقعی نیست.
نظر شما