Nvidia больше не монополист.

Стартап Etched анонсировал новый чип Sohu для LLM. Он в 20 раз мощнее аналогичного Nvidia H100 и может генерировать 500.000 токенов в секунду.

Для примера, во время обучения GPT-4 потребовалось 8000 чипов Nvidia, сейчас для этих целей нужно всего 400 Sohu.

Подходит для любых приложений на основе трансформеров: Llama, Stable Diffusion, Sora, Claude, GPT и т.д.

• Подробнее