Об авторе

Меня зовут Артём, я бэкенд-разработчик. Последние три года занимаюсь тем, что подключаю языковые модели к обычным продуктам: поддержка, поиск по документам, разбор обращений.

Этот блог — записная книжка. Здесь нет обзоров новых релизов и прогнозов, только то, что я проверил руками на рабочих задачах, с числами и граблями. Пишу раз в месяц-полтора, когда накапливается что-то, что хочется зафиксировать.

О чём здесь

Оценка качества ответов и как её автоматизировать.
Стоимость: токены, кэш, батчи, где уходят деньги.
Поиск по документам и его границы.
Инфраструктура вокруг моделей: очереди, ретраи, лимиты.

Связь

Замечания и вопросы по статьям — на почту hello@privetai.ru. Отвечаю не быстро, но отвечаю.