Для компании, активно использующей LLM, создали инструмент, который помогает управлять стоимостью и эффективностью промптов в реальном времени
ОСОБЕННОСТИ ПРОЕКТА
Компания столкнулась с ростом затрат и отсутствием контроля над эффективностью использования LLM. Мы разработали инструмент для анализа и оптимизации этих процессов.
ТЕХНОЛОГИЯ
Python, FastAPI для серверной части, React для интерфейса, PostgreSQL для хранения данных.
РЕЗУЛЬТАТ
Инструмент быстро набрал популярность, привлек около 100 клиентов за несколько месяцев, однако проект был завершен после успешного пилота.