ChatLLaMA

Meta недавно представила LLaMA, набор основных моделей больших языков с параметрами от 7 до 65 миллиардов. LLaMA вызывает много восторга из-за того, что он меньше, чем GPT-3, но продемонстрировал превосходную производительность. Например, модель 13 миллиардов параметров превосходит GPT-3, несмотря на то, что она в 10 раз меньше. Этот новый набор базовых моделей дает возможность быстрее применять принципы инференции и реальных ассистентов по типу ChatGPT, при этом он доступен по разумной цене и работает на одной видеокарте. Тем не менее, LLaMA не был адаптирован для задач обучения с помощью подхода к обучению на основе обратной связи человека.

ChatLLaMA - это экспериментальный интерфейс чат-бота, позволяющий взаимодействовать с версиями LLaMA от Facebook. Модель 7 миллиардов параметров была настроена с помощью набора данных Alpaca.

Источник: https://github.com/juncongmoo/chatllama