Телеграм бот с нейросетью Ru-GPT3 от Сбера

Небольшой "тренировочный" кейс по прикручиванию NLP-нейронки Ru-GPT3 к боту в телеге.
Весьма интересный опыт, который стоило получить :)

Как это работает?

Пользователь пишет боту команду
/gen !число_последовательностей!начало_последовательности
Например:

/gen !200!курочка убийца захватила город

И модель выводит сгенерированную последовательность.

Загрузить нужную модель можно в строке:

tok, model = load_tokenizer_and_model("sberbank-ai/rugpt3medium_based_on_gpt2")

Для "игр" с ботом и отладки, его можно поднять в PyCharm.

Ссылки

Репозиторий с моделями ru-GPT от Сбербанка
BotFather
telebot
PyCharm