Kirin 9050 запускает на смартфоне ИИ-модель с 30 млрд параметров без интернета

В среду Huawei рассказала, как чипы серии Kirin 9050 запускают на устройстве ИИ-модель с 30 млрд параметров без подключения к интернету. Новый нейропроцессор Da Vinci использует низкоразрядную квантизацию и координирует работу памяти и вычислительных блоков, чтобы модель могла работать на смартфоне.

Модель на архитектуре «смесь экспертов» одновременно задействует около 2 млрд параметров. Huawei сообщала об этой цифре на брифинге, посвящённом чипам, в октябре. На этой неделе компания также рассказала, что тот же процессор поддерживает такие функции, как чтение содержимого экрана с помощью ИИ и перелистывание страниц взглядом.