پردازنده Intel Core Ultra 9 288V از سری Lunar Lake عملکردی چشمگیر با تاخیر ۲۸.۵ میلی‌ثانیه برای ۳۲ ورودی و ۳۱.۴ میلی‌ثانیه برای ۱۰۲۴ توکن ورودی را نشان داده است. مدل جدید LLaMA 3.2 توسط Meta معرفی شده که با پشتیبانی از پارامترهای گسترده‌تر، وظایف هوش مصنوعی متنوعی را پوشش می‌دهد. مدل اصلی LLaMA در فوریه سال گذشته عرضه شد و تنها دارای ۸ و ۷۰ میلیارد پارامتر بود. نمایش قدرتمند هوش مصنوعی اینتل در تست‌های انجام گرفته، نشان از ورود اصولی اینتل به حوزه هوش مصنوعی است که روز به روز در حال پیشرفت و توسعه است.
نسخه جدید با گسترش پارامترها به طور کامل با پلتفرم‌های سخت‌افزاری هوش مصنوعی اینتل سازگار شده است. اینتل در مقاله‌ای به بهبود عملکرد LLaMA 3.2 در سخت‌افزارهای خود مانند شتاب‌دهنده‌های هوش مصنوعی Gaudi، پردازنده‌های eo و گرافیک‌های Arc اشاره کرده است. رابرت هالوک، معاون اینتل، در پستی در لینکدین اعلام کرد که پردازنده‌های Core Ultra اینتل با LLaMA 3.2 عملکرد برجسته‌ای از خود نشان می‌دهند.
طبق اعلام اینتل، پردازنده Core Ultra 9 288V قادر است در مدل ۳ میلیارد پارامتری LLaMA تاخیر بسیار کم ۲۸.۵ میلی‌ثانیه برای ۳۲ ورودی و ۳۱.۴ میلی‌ثانیه برای ۱۰۲۴ ورودی را ارائه دهد، که معادل ۳۲ تا ۳۵ توکن در ثانیه است و این یک عملکرد فوق‌العاده در استنتاج هوش مصنوعی محسوب می‌شود.
LLaMA 3.2 مدل‌های جدیدی با ۱ و ۳ میلیارد پارامتر برای وظایف متنی ساده معرفی کرده که در نسخه قبلی وجود نداشتند. علاوه بر این، مدل چند‌وجهی ۱۱ میلیارد پارامتری جدید نیز معرفی شده که قادر به تفسیر تصاویر، نمودارها و گراف‌ها است.
در یک مثال عملی، کاربران PCهای هوش مصنوعی اینتل می‌توانند با استفاده از پردازنده Core Ultra 9 288V و گرافیک داخلی Arc 140V، استدلال تصویری را اجرا کرده و از مدل 11B Vision Instruct در LLaMA 3.2 برای شناسایی اشیا و تحلیل عناصر در تصاویر استفاده کنند.
اینتل همچنین روی چارچوب استنتاج هوش مصنوعی خود به نام OpenVINO کار می‌کند که با بهینه‌سازی عملکرد سخت‌افزارهای اینتل، بهره‌وری در دستگاه‌های لبه‌ای و PCها را بهبود می‌بخشد. سخت‌افزارهای هوش مصنوعی اینتل شامل NPU و شتاب‌دهی Xe Matrix Extensions در GPUهای داخلی Arc هستند که به ویژه در مدل ۱۱ میلیاردی LLaMA 3.2 برای استدلال تصویری کارایی بالاتری را ارائه می‌دهند.
مطالب مرتبط:
