Итак, появилась модель которая превосходит GPT 3.5 в переводе с японского на английский.
Вполне себе шустро работает, нужно как минимум 8 гигабайт видеопамяти, чтобы полностью уместить 5 или 6 квант данной модели в памяти.
За сим, сделал небольшой интерфейс для удобства, работает в паре с kobold.cpp и textractor. То есть берет японский текст из буффера обмена который предоставляет textractor и через апи кобольда переводит его.
kobold.cpp - Releases · LostRuins/koboldcpp · GitHub
Модель - https://huggingface.co/lmg-anon/vntl-llama3-8b-gguf
Сам textractor - Releases · Artikash/Textractor (github.com)
Кому интересно - https://drive.google.com/file/d/1fYMY0PaO2aOsassFwA_WvJ8eOD-1HDf9/view?usp=sharing сам фронт.
Исходники (Дисклеймер: я не прогромист/веб разработчик лучше не смотреть можно получить инфаркт) - https://drive.google.com/file/d/1fYMY0PaO2aOsassFwA_WvJ8eOD-1HDf9/view?usp=sharing
Видео фрагмент с использованием другой модели.
Подробнее
ffl Dataset Viewer Split (1) train • 59 rows Q, Search this dataset rank int64 llllllllll model string ■ lengths ■ll.a quant string - classes 1 59 1 11 46 7 values 1 openai/gpt-4o-2024-05-13 Unknown/Cloud 2 openai/gpt-4-turbo-2024-O4-09 Unknown/Cloud 3 deepseek/deepseek-chat Unknown/Cloud 4 lmg-anon/vntl-8b Q8_0 5 openai/gpt-3.5-turbo-1106 Unknown/Cloud 6 openai/gpt-3.5-turbo-0125 Unknown/Cloud 7 anthropic/claude-3-sonnet Unknown/Cloud 8 qwen/qwen-2-72b-instruct Unknown/Cloud 9 meta-llama/llama-3-70b-instruct Q5_K_M G Auto-converted to Parquet </> API ffl View in Dataset Viewer accuracy float64 ....hi.. sim_mean float64 ni.. sim_stdev float64 0.37 0.66 0.48 0.78 0.11 0.13 • 0.656037 0.779579 0.123542 0.653714 0.769782 0.116068 0.643727 0.773554 0.129826 0.630879 0.754616 0.123737 0.629558 0.744381 0.114823 0.62562 0.746318 0.120698 0.614717 0.734815 0.120099 0.613066 0.732585 0.11952 0.605975 0.727178 0.121203 ▼
нейросети,переводчик,Визуальные новеллы,фэндомы,удалённое
![ д *rí] Y Г г : ИЩ к * w w
» . я 1 • ^ i](http://img10.reactor.cc/pics/thumbnail/post-5435009.jpg " д *rí] Y Г г : ИЩ к * w w
» . я 1 • ^ i")
https://blog.sugoitoolkit.com/sugoi-offline-model-v4-0-showcase/
https://archive.org/details/sugoi-toolkit-v-8.0-public-link-1234324