همشهری آنلاین، فرخنده رفائی: با اجرایی شدن قوانین جدید اتحادیه اروپا برای شفاف‌تر شدن محتوای تولیدشده با هوش مصنوعی، شرکت‌های فناوری باید راهی برای قابل‌شناسایی کردن این محتوا پیدا کنند. OpenAI نیز در همین چارچوب تصمیم گرفته است واترمارک‌گذاری متن‌های ChatGPT را آغاز کند.
به گزارش تک‌کرانچ، اوپن‌ای‌آی قصد دارد طی هفته‌های آینده واترمارک متنی را برای کاربران واجد شرایط ChatGPT و Codex در اتحادیه اروپا فعال کند. این اقدام در راستای قوانین شفافیت «قانون هوش مصنوعی اتحادیه اروپا» انجام می‌شود که شرکت‌های فعال در حوزه هوش مصنوعی را ملزم می‌کند محتوای تولیدشده توسط سامانه‌های هوش مصنوعی را به شکلی قابل شناسایی علامت‌گذاری کنند.
واترمارک جدید اوپن‌ای‌آی یک نشانه قابل مشاهده نیست، بلکه با تغییرات بسیار ظریف در انتخاب کلمات ایجاد می‌شود. این واترمارک برخلاف نشانه‌های معمول، هیچ علامت یا عبارت قابل مشاهده‌ای به متن اضافه نمی‌کند و در خود کلمات پنهان می‌شود. اوپن‌ای‌آی می‌گوید این فناوری می‌تواند هنگام کپی و انتقال متن نیز همراه آن باقی بماند، اما تغییر دادن بخشی از نوشته ممکن است توانایی سامانه برای شناسایی منشأ آن را کاهش دهد.
سازوکار این واترمارک به این شکل است که مدل هنگام تولید متن، از میان گزینه‌های مختلف برای کلمه بعدی الگوهایی را انتخاب می‌کند که برای خواننده عادی قابل تشخیص نیستند، اما یک سامانه تشخیص با استفاده از کلید مخصوص می‌تواند این الگوها را شناسایی کند.
اوپن‌ای‌آی این روش را textGrain نامیده و همزمان با معرفی آن، یک گزارش فنی نیز منتشر کرده است. این فناوری با همکاری پژوهشگرانی از دانشگاه پنسیلوانیا و دانشگاه ییل توسعه یافته است. از آنجا که واترمارک در خود متن قرار دارد، هنگام کپی و چسباندن نوشته نیز همراه آن منتقل می‌شود.
بیشتر بخوانید:
- درخواست عجیب مدیرعامل آنتروپیک از غول‌های فناوری | ترمز هوش مصنوعی را بکشید!
- آلتمن: باید بعضی پیامدهای منفی هوش مصنوعی را پذیرفت
- عضو هیئت‌مدیره «اوپن‌ای آی»: برای کنترل هوش مصنوعی آماده نیستیم
البته این فناوری کاملا غیرقابل دور زدن نیست. آزمایش‌های اوپن‌ای‌آی نشان داده‌اند که جایگزین کردن حدود ۱۰ درصد کلمات متن با مترادف‌ها می‌تواند میزان موفقیت تشخیص را از حدود ۹۲ درصد به ۶۶ درصد کاهش دهد. متن‌های کوتاه، پاسخ‌های ریاضی و متن‌های ترجمه‌شده نیز از جمله مواردی هستند که شناسایی واترمارک در آنها دشوارتر است.
اوپن‌ای‌آی تأکید کرده است که وجود یا نبود واترمارک به‌تنهایی نمی‌تواند ثابت کند متنی توسط انسان نوشته شده است. برای مثال، ممکن است متن بیش از حد کوتاه یا ویرایش‌شده باشد یا اساسا توسط یک هوش مصنوعی دیگر تولید شده باشد. همچنین این واترمارک هویت کاربر را مشخص نمی‌کند.
در مرحله نخست، دسترسی به ابزار تشخیص واترمارک تنها در اختیار پژوهشگران تأییدشده و سازمان‌های متخصص قرار می‌گیرد تا میزان دقت و کاربردهای مسئولانه آن بررسی شود. توسعه‌دهندگان API نیز در سراسر جهان می‌توانند از امروز این قابلیت را برای برخی مدل‌های اوپن‌ای‌آی فعال کنند، اما این گزینه به‌صورت پیش‌فرض خاموش خواهد بود.
شرکت اوپن‌ای‌آی پیش‌تر نیز فناوری واترمارک متنی را توسعه داده بود، اما به‌دلیل نگرانی از مهاجرت کاربران به سرویس‌های رقیب، از عرضه آن خودداری کرده بود. اکنون این شرکت تصمیم گرفته است اجرای آن را ابتدا در اتحادیه اروپا آغاز کند؛ اقدامی که پس از تصمیم مشابه آنتروپیک برای واترمارک‌گذاری متن‌های تولیدشده با کلاود در سراسر جهان انجام می‌شود.
نظر شما