پلتفرم AO ۳ رکورد شکنی کرد!

به گزارش مجله خبری نگار/آنا، این جنجال زمانی آغاز شد که یک کاربر با بررسی کد‌های HTML خروجی کلود متوجه شد این هوش مصنوعی هنگام کپی مستقیم متن، تگ اختصاصی font-claude-response-body را نیز به آن اضافه می‌کند. او سپس یک پوسته سفارشی برای AO ۳ طراحی کرد؛ قابلیتی که ظاهر صفحات سایت را تغییر می‌دهد و می‌تواند وجود این کد را شناسایی کند. در صورتی که این کد در متن یک داستان وجود داشته باشد، پس‌زمینه صفحه به رنگ قرمز درمی‌آید تا به کاربران هشدار دهد متن احتمالاً به‌صورت مستقیم از کلود کپی شده است.

نواقص فنی سیستم شناسایی و خطر متهم شدن نویسندگان بی‌گناه

اگرچه وجود این کد می‌تواند نشانه‌ای از استفاده مستقیم از کلود باشد، اما کارشناسان می‌گویند این روش محدودیت‌های زیادی دارد. این ابزار تنها زمانی عمل می‌کند که نویسنده متن را مستقیماً از کلود در ویرایشگر AO ۳ جای‌گذاری کند. اگر همان متن ابتدا به برنامه‌هایی مانند مایکروسافت ورد منتقل شود و سپس در AO ۳ قرار گیرد، این کد‌های HTML حذف می‌شوند و دیگر هیچ نشانه‌ای از استفاده از کلود باقی نمی‌ماند.

از سوی دیگر، این ابزار مشخص نمی‌کند هوش مصنوعی تا چه اندازه در تولید متن نقش داشته است. قرمز شدن صفحه ممکن است به معنای تولید کامل یک داستان توسط هوش مصنوعی باشد، اما ممکن است فقط به این دلیل رخ داده باشد که نویسنده چند جمله از متن خود را برای اصلاح نگارشی، ترجمه یا بازنویسی در کلود وارد کرده و سپس نتیجه را در داستان خود قرار داده است. همین محدودیت در روز‌های اخیر باعث شکل‌گیری موجی از بی‌اعتمادی، حمله‌های گروهی و اتهام‌زنی در شبکه‌های اجتماعی علیه برخی از نویسندگان این جامعه شده است.

ریشه اعتراض‌ها و نبود راهکاری قطعی برای تشخیص متون هوش مصنوعی

مخالفت بخشی از جامعه نویسندگان فن‌فیکشن با هوش مصنوعی ریشه در مسائل اخلاقی و رعایت حقوق مولف دارد. بسیاری از آنها معتقدند شرکت‌های بزرگ فناوری، آثار منتشرشده در وب‌سایت‌هایی مانند AO ۳ را بدون اجازه جمع‌آوری کرده و برای آموزش مدل‌های هوش مصنوعی خود به کار گرفته‌اند. به همین دلیل، استفاده از این ابزار‌ها را نوعی بی‌احترامی به حقوق و خلاقیت نویسندگان می‌دانند. از سوی دیگر، تکیه بر سبک نگارش یا حس و حال متن نیز معیار قابل اعتمادی نیست، زیرا مدل‌های هوش مصنوعی دقیقاً با یادگیری از نوشته‌های انسان آموزش دیده‌اند و می‌توانند همان سبک‌های نگارشی را بازتولید کنند.

در حال حاضر، برخلاف تصاویر و ویدئو‌ها که از فناوری‌هایی مانند واترمارک نامرئی SynthID گوگل بهره می‌برند، هنوز هیچ روش فنی دقیق و قابل اتکایی برای تشخیص قطعی متن تولیدشده توسط هوش مصنوعی از نوشته انسان وجود ندارد. AO ۳ پیش‌تر یک برچسب اختیاری با عنوان «تولیدشده با هوش مصنوعی مولد» معرفی کرده بود تا نویسندگان در صورت تمایل اعلام کنند که از هوش مصنوعی استفاده کرده‌اند، اما فضای پرتنش کنونی انگیزه چندانی برای استفاده از این برچسب باقی نگذاشته است. در نتیجه، این نگرانی وجود دارد که نویسندگان تازه‌کار یا افرادی با سبک نگارشی متفاوت، در آینده به اشتباه به استفاده از هوش مصنوعی متهم شوند.