Google объявила о значительном достижении, которое позволит пользователям запускать модели искусственного интеллекта на своих устройствах до трех раз быстрее, не требуя при этом покупки нового оборудования. Инженеры компании разработали инновационную технологию, получившую название Multi-Token Prediction drafters.
Эта новая разработка позволяет таким моделям, как Gemma 4, функционировать со значительно повышенной скоростью непосредственно на пользовательском оборудовании. Важно отметить, что для этого не требуется подключение к облачным сервисам, что обеспечивает полную автономность и конфиденциальность. При этом, по заверениям Google, никакого снижения качества или точности работы ИИ не происходит.
Таким образом, Google делает мощный и быстрый искусственный интеллект доступным для более широкого круга пользователей, устраняя барьеры в виде необходимости дорогостоящих апгрейдов или зависимости от облачной инфраструктуры.
Источник: Decrypt