MemPrompt

MemPrompt - это система, которая запоминает ошибки и обратную связь, полученные от пользователей, и использует их, чтобы избежать повторения этих ошибок.

Языковые модели, работающие на искусственном интеллекте (ИИ) и машинном обучении, имеют возможность изменить многие отрасли. Однако иногда эти модели могут допускать ошибки и давать результаты, зависящие от смещений в данных, на которых они обучены. Для улучшения точности и производительности языковых моделей AI2 (Институт Аллена для искусственного интеллекта) разработал метод под названием MemPrompt, который объединяет языковую модель GPT-3 и память записанных событий. Это позволяет пользователям давать обратную связь модели, когда она неправильно интерпретирует их намерения, помогая уточнить желаемую задачу и улучшить понимание языковой модели. MemPrompt также позволяет неспециалистам давать входные данные и оценивать понимание модели на основе их ожиданий. Данный подход разработан для повышения эффективности языковых моделей путем включения в них пользовательского ввода и обратной связи.

Источник: https://www.marktechpost.com/2022/12/18/allen-institute-for-artificial-intelligence-introduces-memprompt-a-new-method-to-fix-gpt-3-after-deployment-with-user-interaction/