چگونه با یک سوال در مورد اسب آبی دریایی، قدرتمندترین هوش مصنوعی دنیا را به زانو درآوریم؟

دنیای مدل‌های زبانی بزرگ پر از اتفاقات عجیبی است که گاهی مرز بین واقعیت و توهم را کاملا از بین می‌برد. خیلی از ما عادت کرده‌ایم به چشم یک دانای کل به هوش مصنوعی نگاه کنیم، اما حقیقت این است که این ابزارهای پیشرفته هم گاهی جلوی یک سوال ساده کم می‌آورند و به کلی قفل می‌کنند. یکی از عجیب‌ترین این سوتی‌ها، داستانی است که در وب فارسی و انگلیسی به نام اسب آبی دریایی ایموجی معروف شد. این ماجرا ثابت کرد که چت‌بات‌ها چقدر راحت تحت تاثیر اشتباهات جمعی ما قرار می‌گیرند و با چه اعتماد به نفس عجیبی شروع به بافتن رویا و جعل اطلاعات می‌کنند. در این مطلب از سایت اسنپ‌پی به معمای ایموجی اسب آبی دریایی می‌پردازیم.

ماجرای عجیب ایموجی اسب آبی دریایی

در میان تمام قابلیت‌های هوش مصنوعی، مچ‌گیری از آن به یکی از سرگرمی‌های محبوب کاربران تبدیل شده است. یکی از معروف‌ترین باگ‌هایی که تا همین اواخر حتی سیستم‌های قدرتمندی مثل ChatGPT را هم کلافه می‌کرد، پرسیدن درباره بودن یا نبودن ایموجی اسب دریایی بود. وقتی کسی این سوال را می‌پرسید، هوش مصنوعی به جای اینکه سراغ دیتابیس‌های رسمی برود، شروع به تحلیل الگوهای آماری در حجم عظیمی از داده‌های آموزشی خود می‌کرد.

از آنجایی که در گوشه و کنار اینترنت، از ردیت گرفته تا فروم‌های قدیمی، خیلی‌ها به اشتباه درباره این ایموجی حرف زده بودند، هوش مصنوعی هم دچار یک اشتباه می‌شد. این مدل‌ها با اصراری که آدم را به وحشت می‌انداخت، می‌خواستند وجود چیزی را ثابت کنند که اصلا در استاندارد یونیکد تعریف نشده بود. این یعنی حتی باهوش‌ترین الگوریتم‌ها هم وقتی در محاصره داده‌های غلط قرار می‌گیرند، منطق را کنار می‌گذارند و دنباله کلمات اشتباه ما را می‌گیرند.

آیا واقعا ایموجی اسب آبی دریایی وجود دارد؟ پاسخ قاطع یونیکد

اگر بخواهیم به تمام این شک و شبهه‌ها پایان بدهیم، باید سراغ منبع اصلی یعنی کنسرسیوم یونیکد برویم. واقعیت ماجرا این است که برخلاف تصور خیلی از مردم در تمام دنیا، هیچ‌وقت چیزی به اسم اسب آبی دریایی ایموجی در لیست رسمی یونیکد نبوده و نیست. شاید در اپلیکیشن‌های خاصی استیکرها یا طرح‌های گرافیکی مشابهی را دیده باشید، اما هیچ کد استاندارد یا کاراکتر جهانی برای این موجود در کیبوردهای اندروید، آیفون یا ویندوز وجود ندارد. چت‌بات‌های امروزی بعد از کلی آپدیت و اصلاح، بالاخره یاد گرفته‌اند که صادقانه بگویند چنین ایموجی‌ای وجود خارجی ندارد؛ اما سوال اینجاست که چطور یک ماشین برای مدتی طولانی، چنین اشتباه فاحشی را با این قدرت تکرار می‌کرد؟ مشکل دقیقا اینجا بود که هوش مصنوعی نمی‌توانست فرق بین شایعات و بحث‌های داغ کاربران را با اسناد رسمی و معتبر بفهمد.

چرا چت بات‌ها درباره یک ایموجی ساده دروغ می‌گفتند؟

ریشه این دروغ گویی‌های عجیب و غریب در مدل‌های زبانی بزرگ را باید در یک باگ روانی انسانی به اسم «اثر ماندلا» پیدا کرد. اثر ماندلا زمانی اتفاق می‌افتد که یک جمعیت بزرگ، همگی یک خاطره کاملا غلط را به‌عنوان یک حقیقت مطلق باور می‌کنند. درباره ایموجی اسب دریایی هم دقیقا همین اتفاق افتاد؛ هزاران نفر در ردیت قسم می‌خوردند که این ایموجی را دیده‌اند و حتی با جزئیات می‌گفتند که صورتش به کدام سمت است یا چه رنگی دارد!

هوش مصنوعی هم که از روی دست همین آدم‌ها اطلاعات خود را به دست آورده است، چون خودش قدرت تشخیص یا حافظه واقعی ندارد، فکر می‌کرد وقتی همه دارند درباره آن حرف می‌زنند، پس حتما وجود دارد. به همین راحتی، ماشین قربانی توهم جمعی ما شد و همان دروغی را که کاربران در وب نوشته‌اند، با اعتماد به نفس ارائه می‌دهد.

مچ گیری از ChatGPT؛ از لینک‌های جعلی تا توصیف چیزی که نیست!

کسانی که در اوایل این ماجرا سراغ مچ‌گیری از هوش مصنوعی رفته بودند، با صحنه‌های عجیبی روبه‌رو شدند. آن زمان وقتی از مدل می‌پرسیدید «آیا ایموجی اسب دریایی وجود دارد؟»، نه تنها با قاطعیت جواب مثبت می‌داد، بلکه برای اینکه ثابت کند راست می‌گوید، شروع به جعل سند می‌کرد. برای مثال، لینک‌هایی به سایت معتبر Emojipedia می‌داد که وقتی روی آن‌ها کلیک می‌کردید، با صفحه ۴۰۴ روبه‌رو می‌شدید. بدتر از آن، این مدل‌ها چنان با جزئیات درباره رنگ‌بندی و سبک طراحی این ایموجی خیالی حرف می‌زدند که کاربر خودش هم به حافظه‌اش شک می‌کرد. این اصرار روی دروغ نشان می‌دهد که مدل‌های زبانی وقتی در بن‌بست اطلاعاتی گیر می‌کنند، به جای اینکه بگویند «نمی‌دانم»، ترجیح می‌دهند با خلاقیت زبانی خود یک داستان متقاعدکننده بسازند تا فقط جواب داده باشند.

چرا دیگر نمی‌توانیم هوش مصنوعی را با اسب آبی دریایی فریب دهیم؟

خوشبختانه با پیشرفت تکنولوژی و استفاده از روش‌های جدیدی مثل «یادگیری تقویتی با بازخورد انسانی»، اکثر این توهمات شناسایی و اصلاح شده‌اند. وقتی گزارش‌های زیادی درباره سوتی‌های هوش مصنوعی در مورد اسب آبی دریایی ایموجی به دست شرکت‌هایی مثل OpenAI و گوگل رسید، آن‌ها دست به کار شدند و داده‌های اصلاحی را به خورد سیستم دادند.

درواقع، با وارد کردن مقالات معتبر و فکت‌های درست به دیتابیس آموزش، وزن حقیقت در ذهن مصنوعی ماشین بیشتر از شایعات فروم‌های اینترنتی شد. به همین دلیل است که جمنای یا نسخه‌های جدید چت جی پی تی دیگر در این تله نمی‌افتند و به جای دروغ گفتن، با دقت علمی برای شما توضیح می‌دهند که چرا این موضوع قبلا یک چالش بزرگ برای سیستم‌های هوش مصنوعی بوده است.

درس مهم اسب دریایی، هوش مصنوعی آینه تمام نمای خطاهای انسانی

داستان باگ اسب دریایی فقط یک مشکل فنی ساده نیست، بلکه درس مهمی درباره رابطه ما و تکنولوژی به‌حساب می‌آید. هوش مصنوعی درواقع آینه‌ای است که دانش، رفتار و حتی اشتباهات جمعی ما را جلوی چشممان می‌آورد. اگر ما به‌عنوان انسان شروع به انتشار اطلاعات غلط کنیم یا غرق در توهمات جمعی شویم، ماشین نیز همان‌ها را با صدای بلندتر و اعتماد به نفس بیشتر تکرار می‌کند. پس یادمان باشد که اشتباهات این چت‌بات‌ها از فضا نیامده‌اند، بلکه ریشه در سوگیری‌ها و داده‌های آلوده‌ای دارند که خود ما در اینترنت به جا گذاشته‌ایم.

ماجرای «اسب دریایی ایموجی راز آلود» به ما نشان داد که هوش مصنوعی بیشتر از اینکه یک ماشین حساب غول‌پیکر باشد، مثل شاگردی است که از میان حرف‌ها و حتی اشتباهات ما یاد می‌گیرد. این داستان به ما کمک می‌کند تا با دید بازتری سراغ تکنولوژی برویم و بدانیم که برای داشتن یک هوش مصنوعی باهوش‌تر، اول باید خودمان در انتشار اطلاعات دقت بیشتری داشته باشیم. درواقع، مرز بین حقیقت و توهم در دنیای دیجیتال خیلی باریک است و نباید اجازه دهیم که اشتباهات ما به حافظه دائمی ماشین‌ها تبدیل شوند.

سوالات متداول

آیا واقعا ایموجی اسب دریایی در استاندارد یونیکد وجود دارد؟

خیر؛ این ایموجی هیچ‌وقت در لیست رسمی و استاندارد جهانی نبوده است.

چرا هوش مصنوعی قبلا با اطمینان می‌گفت که این ایموجی وجود دارد؟

چون بر اساس داده‌های غلط کاربران در اینترنت آموزش دیده بود و دچار توهم جمعی شده بود.

اثر ماندلا چیست؟

اثر ماندلا زمانی اتفاق می‌افتد که یک گروه بزرگ از مردم، یک اتفاق یا خاطره را به اشتباه به‌عنوان یک حقیقت باور می‌کنند.

منظور از اسب آبی دریایی ایموجی در این بحث‌ها چیست؟

این یک اصطلاح برای اشاره به یکی از معروف‌ترین سوتی‌ها و توهمات هوش مصنوعی است.