Наконец-то поигрался с Jev, новой моделью которая не генерирует текст как обычные LLM, а условно, очень быстро, почти забесплатно и при это качественно – заполняет JSON поля; технически вот тут можно почитать как устроена – нужна она чтобы быстро ставить чему-то оценку или классифицировать, или нажимать какие-то кнопки заданные заранее

В видео тест в реальном времени – попросил ее оценить 4 мегабайта текста (~1 597 постов) этого канала, и разбить по категориям

Справилась за ~1 минуту в 16 потоков, стоило все 0.08$ долларов

Я всего на 3% шутник, понятно вам? В канале приколов нет, теперь официально 🗿