💸 Не платите большой модели за «да» или «нет»
Во многих автоматизациях от ИИ нужен не текст, а решение: продажи или поддержка, спам или нет, подходит сервис под задачу или нет. Для таких задач появился новый класс моделей.
Jev от TypeSafe не пишет текст. Вы задаёте варианты ответа, модель выбирает один и возвращает вероятность от нуля до единицы.
⏺️Быстро и дёшево. Ответ приходит за 70–500 мс, миллион входных токенов стоит $0.042, выходные токены бесплатные. ⏺️Честная уверенность. 0,8 означает, что модель права примерно в 80% случаев. ⏺️Без выдумок, но не без ошибок. Ответа вне списка модель не выдаст, но уверенно ошибиться может.
Я встроил Jev в Креатор, в новый раздел «Подбор инструментов». Вы описываете задачу, а Креатор подбирает сервисы из каталога примерно на 200 позиций и отмечает, нужен ли VPN, можно ли оплатить российской картой и сколько это стоит в рублях.
По каждому инструменту Jev отвечает, решает ли он задачу, и даёт вероятность. Поэтому процент совпадения честный, а не придуманный чат-ботом. Один подбор занимает около полсекунды и стоит меньше десятой доли цента.
Ориентир такой: если все допустимые ответы помещаются на стикер, большая модель не нужна.
