Модель

Mistral Large 4: мультимодальная MoE-модель с открытыми весами

Mistral Large 4 принимает текст и изображения, имеет 1M-токенный контекст и входит в каталог Ollama Cloud для OpenClaw.

· 2 мин чтения

Коротко

  • Mistral Large 4, также известная как Le Chonk, принимает текст и изображения, а выдаёт только текст.
  • В модели около 1T параметров, 49B активных и окно контекста на 1M токенов.
  • В каталоге Ollama Cloud для OpenClaw модель имеет id mistral-large-4 и ref ollama-cloud/mistral-large-4.

Сверено с документацией OpenClaw 2026.10.9, 30 октября 2026.

Что нового в Mistral Large 4

Mistral Large 4 сочетает большой пул экспертов с разреженным вниманием и энкодером Pixtral. Языковая модель выбирает небольшую группу экспертов для каждого токена, а индексер внимания выбирает прежние позиции контекста.

Текстовый декодер имеет 72 слоя, скрытое измерение 6,144 и 64 головы внимания. Из 128 экспертов softmax-роутер выбирает четыре, а один общий эксперт работает вместе с ними. Итого на каждый токен приходится пять активных экспертов.

Для изображений используется энкодер Pixtral на 1,6B параметров. Индексер DSA выбирает до 2,048 позиций с ключами для каждого запроса; внимание сочетает MLA и DSA.

Mistral позиционирует Le Chonk для кибербезопасности, задач по написанию кода и мультимодальности. На Artificial Analysis Cyber Index модель набирает 82%.

Контекст и формат входа

Контекст самой Mistral Large 4 составляет 1M токенов. Модель работает с текстом и изображениями, но выдаёт только текст.

В опубликованной конфигурации vLLM задан параметр --max-model-len 131072.

Где доступна в OpenClaw

Mistral Large 4 находится в облачном каталоге Ollama Cloud под id mistral-large-4. По схеме OpenClaw полный ref модели: ollama-cloud/mistral-large-4.

Провайдер ollama-cloud обращается к https://ollama.com через нативный /api/chat. Локальный сервер Ollama и приложение в облачном режиме для этого не нужны. Для доступа требуется API-ключ.

Как подключить в OpenClaw

  1. Получите API-ключ по инструкции Ollama и выполните авторизацию:
openclaw onboard --auth-choice ollama-cloud
  1. Выберите подтверждённый ref Mistral Large 4:
openclaw models set ollama-cloud/mistral-large-4
  1. Проверьте, что модель появилась в каталоге провайдера:
openclaw models list --provider ollama-cloud

Когда не подойдёт

  • Для чисто текстовых задач преимущество мультимодальности не используется.
  • 2-битные квантизации работают на одном Apple Silicon Ultra с 512 GB объединённой памяти, а остальные требуют распределённого инференса.
  • В опубликованном тесте IQ2_XXS на 800K контекста скорость prefill снизилась до 129 ток/с, а генерации — до 3 ток/с. На коротком контексте показатели составляли 500 и 30 ток/с.
  • NVFP4 в vLLM требует GPU NVIDIA Blackwell.
  • Веса распространяются по Mistral Ecosystem Open-Weight License — производной от MIT лицензии с ограничениями для предложений «модель как сервис».