Contents
AI Lab PrismML, основанная исследователями Caltech и рекомендованная Ion Stoica из Калифорнийского университета в Беркли, создала версию своих крошечных языковых моделей для умных очков на чипах Snapdragon от Qualcomm. Об этом стало известно в среду на саммите Qualcomm Snapdragon, где производитель чипов показал 1-битный Bonsai LLM от PrismML, работающий локально.
В среду на саммите Qualcomm Snapdragon производитель чипов продемонстрировал 1-битный Bonsai LLM от PrismML, который можно запускать локально на интеллектуальных очках AI, построенных на платформе Snapdragon AR 1 Gen 1.
В чём особенность моделей PrismML?
Как ранее сообщал TechCrunch, претензия PrismML на известность заключается в том, что она существенно сокращает более крупные модели (в данном случае в 4 раза), сохраняя при этом почти всю их производительность на стандартных эталонах. Версия для умных очков — это модель с 2 миллиардами параметров, настроенная на зрение и язык, поэтому пользователи могут спросить, на что они смотрят в режиме реального времени.
Основной целью Prism является ИИ с открытым весом, который работает на устройствах и лучше использует вычислительную мощность, которую они уже имеют. Стартап представляет это как альтернативу в зависимости от обещаний конфиденциальности проприетарных лабораторий ИИ и их ненасытной потребности в большем количестве вычислений.
Какая цель у PrismML?
Выпуск модели для чипа Qualcomm является шагом к этому видению. Но никаких умных очков под управлением PrismML пока не анонсировали.
Вопросы и ответы
На каком чипе Qualcomm работает Bonsai LLM от PrismML?
Модель запускается на платформе Snapdragon AR 1 Gen 1, предназначенной для умных очков. Демонстрация прошла в среду на саммите Qualcomm Snapdragon, где чипмейкер показал 1-битную Bonsai LLM, работающую локально на интеллектуальных очках.
Сколько параметров у версии Bonsai LLM для умных очков и что она умеет?
Версия для умных очков имеет 2 миллиарда параметров и настроена на зрение и язык. Благодаря этому пользователи могут в реальном времени спрашивать, на что они смотрят. Модель работает локально на устройстве.
Уже выпустили умные очки под управлением PrismML?
Нет, умные очки под управлением PrismML пока не анонсировали. Выпуск модели для чипа Qualcomm назван лишь шагом к видению компании: ИИ с открытым весом, который работает на устройствах и эффективнее использует их вычислительную мощность.
