گروهی از توسعه‌دهندگان با استفاده از ابزارهای غیررسمی موفق شده‌اند محدودیت برخی محاسبات هوش مصنوعی را در کارت‌های گرافیک NVIDIA RTX 20، RTX 30 و RTX 40 دور بزنند. این تغییر در برخی آزمون‌ها توان محاسباتی هسته‌های Tensor را تقریباً دو برابر کرده است؛ بااین‌حال، افزایش عملکرد مذکور به معنای دو برابر شدن سرعت اجرای بازی‌ها نیست.
افزایش توان محاسباتی کارت‌های گرافیک انویدیا
بر اساس گزارش VideoCardz، این روش با تغییر تنظیمات سطح پایین پردازنده گرافیکی، محدودیت برخی عملیات محاسباتی مرتبط با هوش مصنوعی را برطرف می‌کند و به تعویض سخت‌افزار یا فلش کردن VBIOS نیازی ندارد.
نتایج گزارش‌شده نشان می‌دهند عملکرد محاسبات ماتریسی در کارت RTX 3090 Ti برای عملیات BF16 از ۸۷٫۵ به ۱۵۷٫۴ ترافلاپس رسیده است؛ افزایشی حدود ۸۰ درصدی. در کارت RTX 4090 نیز توان محاسباتی FP16 از ۱۶۵٫۶ به ۳۳۱٫۶ ترافلاپس افزایش یافته که تقریباً دو برابر است.
در یک آزمایش دیگر، نتیجه ثبت‌شده برای RTX 2080 Ti از ۵۹٫۹ به ۱۱۱ ترافلاپس رسیده است. البته این اعداد به عملیات و آزمون‌های مشخصی مربوط می‌شوند و نباید آن‌ها را معادل افزایش مشابه در تمام کاربردها دانست.
آیا این تغییر روی بازی‌ها تأثیر می‌گذارد؟
هدف اصلی این ابزارها بهبود عملکرد پردازش‌های هوش مصنوعی، از جمله اجرای مدل‌های زبانی محلی و برخی عملیات تولید تصویر است. طبق گزارش‌های منتشرشده، سرعت پردازش اولیه ورودی در بعضی مدل‌های زبانی می‌تواند حدود ۱۴ تا ۳۶ درصد افزایش یابد؛ اما سرعت تولید توکن‌ها لزوماً بهبود چشمگیری ندارد، زیرا این بخش اغلب به پهنای باند حافظه وابسته است.
این ابزارها غیررسمی هستند و پشتیبانی از همه مدل‌های کارت گرافیک تضمین نشده است. بیشتر پروژه‌ها برای لینوکس توسعه یافته‌اند و برخی نسخه‌های ویندوزی همچنان آزمایشی هستند. همچنین، ناسازگاری ممکن است باعث اختلال در راه‌اندازی سیستم شود و استفاده از این روش‌ها بدون بررسی خطرات فنی توصیه نمی‌شود.
