xAI открыл код своей большой языковой модели

Стартап xAI, который Илон Маск запустил летом 2023 года, опубликовал исходный код своего чат-бота Grok. Сторонние разработчики могут использовать его для создания собственных сервисов и чат-ботов.

Сильные стороны

— LLM состоит из 314 миллиардов параметров и по сложности находится между моделями ChatGPT-3.5 Turbo и ChatGPT-4

— Лицензия позволяет использовать чат-бот в коммерческих целях

— Исходный код модели весом 296 ГБ доступен для скачивания на GitHub, в репозитории есть всё необходимое для запуска нейросети, включая инструкцию и рекомендации

Слабые стороны

— Модель обучали на данных, собранных до октября 2023 года

— Разработчики не настраивали Grok под определённую задачу, например, под ведение диалогов

Для тех, кто не знаком с Grok: это чат-бот с чувством юмора и способностью отвечать на острые вопросы. Создатели были вдохновлены произведением «Автостопом по Галактике» Дугласа Адамса.