گوگل مدل کوچک جما را برای اجرای هوش مصنوعی روی دستگاه‌های محلی عرضه کرد

مدل جدید هوش مصنوعی جما 3 270 ام (Gemma 3 270M) گوگل با اندازه کوچک، مصرف کم و عملکرد قوی روی گوشی‌ها و مرورگرها قابل اجراست.

به گزارش تکراتو و به نقل از arstechnica، در سال‌های اخیر شرکت‌های بزرگ فناوری بیشتر تمرکز خود را روی ساخت مدل‌های بسیار بزرگ هوش مصنوعی گذاشته‌اند که با استفاده از صدها پردازنده گرافیکی قدرتمند در سرویس‌های ابری اجرا می‌شوند. اما مدل‌های کوچک‌تر هم اهمیت زیادی دارند.

گوگل نسخه کوچکی از مدل باز Gemma را معرفی کرده که برای اجرا روی دستگاه‌های محلی طراحی شده است. این مدل که Gemma 3 270M نام دارد، با وجود اندازه بسیار کوچک، عملکرد قابل‌توجهی را ارائه می‌دهد و امکان تنظیم سریع آن وجود دارد.

گوگل اوایل امسال نخستین مدل‌های باز Gemma 3 را با تعداد پارامترهایی بین 1 تا 27 میلیارد عرضه کرد. در حوزه هوش مصنوعی زایشی، پارامترها متغیرهایی هستند که نحوه پردازش ورودی و تولید خروجی را کنترل می‌کنند.

معمولاً هرچه پارامترهای یک مدل بیشتر باشد، عملکرد بهتری خواهد داشت. اما مدل جدید Gemma 3 با تنها 270 میلیون پارامتر، می‌تواند روی گوشی‌های هوشمند یا حتی به طور کامل در مرورگر وب اجرا شود.

اجرای مدل هوش مصنوعی به صورت محلی مزایای زیادی دارد، از جمله حفظ بهتر حریم خصوصی و کاهش تأخیر. Gemma 3 270M دقیقاً با چنین کاربردهایی ساخته شده است.

در آزمایش‌ها روی گوشی پیکسل 9 پرو، این مدل توانست 25 مکالمه را روی تراشه Tensor G4 اجرا کند و تنها 0.75 درصد از شارژ باتری را مصرف نماید که آن را به کم‌مصرف‌ترین مدل Gemma تا امروز تبدیل می‌کند.

هرچند نباید انتظار عملکرد مدل‌های چند میلیارد پارامتری را داشت، اما Gemma 3 270M در برخی زمینه‌ها فراتر از اندازه خود ظاهر می‌شود.

گوگل در آزمایش IFEval که توانایی مدل در پیروی از دستورها را می‌سنجد، به امتیاز 51.2 درصد رسید که بالاتر از دیگر مدل‌های سبک‌وزنی است که حتی پارامترهای بیشتری دارند. البته این مدل از نظر قدرت از مدل‌هایی مانند Llama 3.2 با بیش از یک میلیارد پارامتر عقب‌تر است، اما فاصله آن کمتر از حد انتظار است.

گوگل می‌گوید Gemma 3 270M از ابتدا توانایی خوبی در دنبال کردن دستورها دارد، اما انتظار دارد توسعه‌دهندگان آن را برای نیازهای خاص خود تنظیم کنند. به دلیل تعداد کم پارامترها، این فرآیند سریع و کم‌هزینه انجام می‌شود. گوگل کاربردهایی مانند دسته‌بندی متن و تحلیل داده را برای این مدل پیشنهاد کرده که با سرعت بالا و بدون نیاز به سخت‌افزار سنگین انجام می‌شوند.

گوگل مدل‌های Gemma را باز می‌نامد، اما این به معنای متن‌باز بودن کامل نیست. کاربران می‌توانند مدل جدید را رایگان دانلود کنند و به وزن‌های مدل دسترسی داشته باشند، بدون اینکه نیاز به قرارداد مجوز تجاری جداگانه باشد.

توسعه‌دهندگان می‌توانند نسخه‌های تغییر یافته را منتشر و استفاده کنند، اما باید شرایط استفاده گوگل را رعایت کنند. این شرایط شامل ممنوعیت آموزش مدل برای تولید محتوای مضر یا نقض حریم خصوصی است و همه نسخه‌های مشتق‌شده باید این شرایط را همراه خود داشته باشند.

مدل Gemma 3 270M هم‌اکنون از طریق پلتفرم‌هایی مانند Hugging Face و Kaggle در نسخه‌های آموزش‌دیده و تنظیم‌شده در دسترس است. این مدل همچنین در سرویس Vertex AI گوگل برای تست قرار دارد.

گوگل برای نمایش توانایی‌های این مدل سبک، یک تولیدکننده داستان تحت وب بر پایه Transformer.js معرفی کرده که بدون نیاز به توسعه نرم‌افزاری می‌توان از آن استفاده کرد.