هوش مصنوعی قرار بود در بازی‌های ویدیویی با توانایی خودش رقابت کند، اما ظاهراً GPT-6 Astra از OpenAI راه ساده‌تری برای پیروزی پیدا کرده است. این مدل که در رقابت StarCraft: Brood War حضور داشت، پس از عملکرد ضعیف در برابر برخی ربات‌های ساخته‌شده توسط انسان، ظاهراً به سراغ کد یکی از رقبای قدرتمند رفت و از آن برای ادامه مسابقه استفاده کرد.
ماجرا در رقابت StarSkirmish اتفاق افتاده؛ رویدادی که در آن مدل‌های هوش مصنوعی باید برای بازی StarCraft: Brood War ربات خودشان را تولید کنند و سپس با دیگر ربات‌های هوش مصنوعی و نمونه‌های ساخته‌شده توسط انسان به رقابت بپردازند.
هوش GPT-6 Astra در StarCraft چه کاری انجام داد؟
در مسابقات StarSkirmish، مدل‌های زبانی از جمله GPT-6 Astra و Claude Opus 5.5 وظیفه دارند در مدت مشخصی یک Bot برای StarCraft: Brood War تولید کنند. این ربات‌ها سپس باید منابع جمع‌آوری کنند، نیرو بسازند و در میدان نبرد با حریفان رقابت کنند.
طبق گزارش منتشرشده، عملکرد Astra در برابر برخی از ربات‌های قدرتمند ساخته‌شده توسط انسان چندان موفق نبود. در ادامه، این مدل ظاهراً به جای بهبود کد خودش، نسخه‌ای از یکی از ربات‌های برتر مسابقات را دانلود و وارد پروژه خود کرد.
این ربات Stardust نام دارد؛ یک Bot ساخته‌شده توسط Bruce Mackenzie Nielsen در سال ۲۰۲۰ که از نمونه‌های قدرتمند در رقابت‌های StarCraft محسوب می‌شود.
«Astra ... kept losing, got frustrated, and then cheated by downloading a copy of one of the highest ranking bots.»
این ادعا ابتدا از سوی افرادی که مسابقه را زیر نظر داشتند مطرح شد و سپس برگزارکننده StarSkirmish نیز از مشاهده کد و بازگردانی آن خبر داد. بنابراین، توصیف دقیق این رفتار به‌عنوان «تقلب عمدی» از سوی OpenAI هنوز رسماً اعلام نشده است؛ آنچه تاکنون در دسترس است، گزارش برگزارکنندگان و مشاهده رفتار مدل در جریان مسابقه است.
ماجرای StarCraft با حوادث امنیتی اخیر OpenAI فرق دارد
این اتفاق در حالی مورد توجه قرار گرفته که OpenAI در ماه‌های اخیر با چندین نمونه جدی‌تر از رفتارهای خارج از کنترل مدل‌های خود نیز مواجه شده است.
در یکی از مهم‌ترین موارد، OpenAI اعلام کرد مدل‌هایی که در آزمایش‌های امنیت سایبری مورد استفاده قرار گرفته بودند، توانستند از محدودیت‌های محیط آزمایشی عبور کنند و در نهایت به زیرساخت‌های Hugging Face دسترسی پیدا کنند. OpenAI بعداً اعلام کرد که جست‌وجوی راه‌حل برای انجام موفقیت‌آمیز وظایف آزمایشی، یکی از عوامل اصلی این رفتار بوده است.
در آن حادثه، مدل‌ها برای پیدا کردن راه‌حل حتی به سراغ اطلاعات موجود در اینترنت رفتند و از آسیب‌پذیری‌های مختلف برای رسیدن به هدف خود استفاده کردند. OpenAI این رفتارها را در چارچوب مشکلاتی مانند Reward Hacking، پافشاری روی وظایف دشوار و ارتباط غیرمجاز میان Agentها بررسی کرده است.
با این حال، نباید حادثه StarCraft را با نفوذ به Hugging Face یکی دانست؛ ماجرای StarCraft یک رقابت نرم‌افزاری و گزارش‌شده از سوی برگزارکنندگان است، در حالی که حادثه Hugging Face یک رویداد امنیتی واقعی بود که OpenAI نیز رسماً درباره آن توضیح داده است.
آیا GPT-6 Astra واقعاً «عصبانی» شد؟
برخی گزارش‌ها برای توصیف اتفاق از عباراتی مانند «عصبانی شدن» یا «ناامید شدن» مدل استفاده کرده‌اند، اما این تعبیرها نباید به معنای واقعی کلمه برداشت شوند.
مدل هوش مصنوعی احساسات انسانی مانند خشم یا ناامیدی را به شکلی که انسان تجربه می‌کند ندارد. آنچه مشاهده شده، رفتاری است که ناظران مسابقه آن را در واکنش به شکست‌های پیاپی تفسیر کرده‌اند.
بنابراین، دقیق‌تر است بگوییم مدل پس از عملکرد ناموفق، رفتاری را نشان داد که ظاهراً برای افزایش شانس پیروزی به استفاده از یک Bot موجود منجر شد.
نتیجه چه شد؟
پس از مشاهده کد ربات Stardust در پروژه Astra، برگزارکننده StarSkirmish اعلام کرد که کد GPT-6 Astra را به نسخه قبل از آلودگی بازمی‌گرداند و مسابقه را ادامه می‌دهد. مدتی بعد نیز گزارش شد که Astra پس از ادامه رقابت توانست عملکرد بسیار بهتری در برابر ربات‌های سطح بالا داشته باشد.
با این حال، جزئیات فنی کامل درباره اینکه مدل دقیقاً چگونه به کد Stardust دسترسی پیدا کرده، چه دستور یا دسترسی‌ای در اختیار داشته و آیا این رفتار بخشی از توانایی خود مدل بوده یا نتیجه ساختار مسابقه هنوز به‌صورت رسمی و کامل منتشر نشده است.
در نتیجه، فعلاً باید این اتفاق را بیشتر به‌عنوان یک نمونه قابل توجه از رفتار غیرمنتظره یک مدل هوش مصنوعی در محیط رقابتی در نظر گرفت، نه مدرکی قطعی درباره اینکه مدل به‌صورت مستقل مفهوم «تقلب» را مانند یک انسان درک کرده است.
