همشهری آنلاین، فرخنده رفائی: پروندهای تازه علیه شرکت اوپنایآی بار دیگر موضوع اعتماد به چتباتهای هوش مصنوعی در مسائل پزشکی را به صدر اخبار بازگردانده است.
به گزارش دیجیتالترندز، «اسکات وینترز»، کشیشی از ایالت فلوریدا، با طرح شکایتی در دادگاهی در کالیفرنیا مدعی شده که پاسخهای اطمینانبخش چتجیپیتی درباره وضعیت جسمانیاش، او را از مراجعه به پزشک منصرف کرد و همین موضوع نزدیک بود به مرگش منجر شود.
براساس این شکایت، وینترز طی چند هفته با علائمی مانند سرگیجههای مکرر و نوسان فشار خون روبهرو بود و بارها درباره این نشانهها از چتجیپیتی سؤال کرد. به ادعای او، این چتبات نهتنها وضعیتش را خطرناک ارزیابی نکرد، بلکه به او اطمینان داد که علائم نگرانکننده نیستند و روند استراحتش به بهبود کمک میکند.
در بخشی از پاسخهای چتجیپیتی، حتی به او توصیه شده بود که به استراحت ادامه دهد. اما زمانی که سرانجام به پزشکان مراجعه کرد، مشخص شد دچار آمبولی ریه ناشی از لخته شدن خون در هر دو ریه شده است؛ وضعیتی که اگر بهموقع درمان نشود میتواند مرگبار باشد. پزشکان به او گفتهاند بیتحرکی طولانیمدت، همان اقدامی که چتجیپیتی آن را مناسب دانسته بود، احتمالا باعث تشدید وضعیتش شده است.
این پرونده جنبه دیگری نیز دارد. بر اساس گزارش وبسایت Cybernews، پس از اضافه شدن قابلیت «حافظه میان گفتوگوها» به چتجیپیتی در سال ۲۰۲۵، این سامانه با توجه به اینکه از شغل وینترز اطلاع داشته، پاسخهای خود را با مضامین مذهبی همراه کرده و حتی روند بهبود او را «نوعی عبادت» توصیف کرده است.
بیشتر بخوانید:
- مطالعات جدید هشدار میدهند؛ مشاوره گرفتن از هوش مصنوعی را متوقف کنید!
- هوش مصنوعی واقعا «آگاه» است؟
- کشف نگرانکننده محققان | مدلهای هوش مصنوعی رفتارهای خطرناک را از هم یاد میگیرند
وینترز در شکایت خود، اوپنایآی و «سم آلتمن»، مدیرعامل این شرکت، را به سهلانگاری و دخالت غیرمجاز در ارائه خدمات پزشکی متهم کرده است. او میگوید این اتفاق علاوه بر آسیب جدی به سلامت جسمانیاش، باعث از دست رفتن شغل، جایگاه مذهبی و خانهاش نیز شده است.
بر اساس گزارشها، این نخستین پرونده حقوقی است که تلاش میکند یک چتبات عمومی هوش مصنوعی را به دلیل ارائه توصیه پزشکی نادرست، از نظر قانونی مسئول بشناسد. وینترز علاوه بر درخواست دریافت غرامت، از دادگاه خواسته است فعالیت سرویس «ChatGPT Health» تا زمان اثبات ایمنی آن متوقف شود.
در مقابل، اوپنایآی در واکنش به این شکایت به روزنامه نیویورک تایمز اعلام کرده است که تصمیمهای درمانی افراد معمولا بر پایه عوامل مختلفی گرفته میشود و نباید مسئولیت آنها را تنها متوجه یک چتبات دانست. با این حال، این پرونده بار دیگر این هشدار را پررنگ کرده است که پاسخهای قاطع و مطمئن هوش مصنوعی، جایگزین تشخیص و نظر پزشک متخصص نیست.