![Pron with a soul,Ero VN,Визуальные новеллы,фэндомы,БЛ нейроарт,Бесконечное лето,Ru VN,Русскоязычные визуальные новеллы,Отечественные визуальные новеллы,Славя(БЛ),Самая трудолюбивая девочка лета!,удалённое Pron with a soul,Ero VN,Визуальные новеллы,фэндомы,БЛ нейроарт,Бесконечное лето,Ru VN,Русскоязычные визуальные новеллы,Отечественные визуальные новеллы,Славя(БЛ),Самая трудолюбивая девочка лета!,удалённое](http://img10.reactor.cc/pics/post/Pron-with-a-soul-Ero-VN-%D0%92%D0%B8%D0%B7%D1%83%D0%B0%D0%BB%D1%8C%D0%BD%D1%8B%D0%B5-%D0%BD%D0%BE%D0%B2%D0%B5%D0%BB%D0%BB%D1%8B-%D0%91%D0%9B-%D0%BD%D0%B5%D0%B9%D1%80%D0%BE%D0%B0%D1%80%D1%82-8526973.jpeg)
Pron with a soul Ero VN БЛ нейроарт Бесконечное лето Ru VN Славя(БЛ) удалённое Визуальные новеллы фэндомы
![Pron with a soul,Ero VN,Визуальные новеллы,фэндомы,БЛ нейроарт,Бесконечное лето,Ru VN,Русскоязычные визуальные новеллы,Отечественные визуальные новеллы,Славя(БЛ),Самая трудолюбивая девочка лета!,удалённое Pron with a soul,Ero VN,Визуальные новеллы,фэндомы,БЛ нейроарт,Бесконечное лето,Ru VN,Русскоязычные визуальные новеллы,Отечественные визуальные новеллы,Славя(БЛ),Самая трудолюбивая девочка лета!,удалённое](http://img10.reactor.cc/pics/post/Pron-with-a-soul-Ero-VN-%D0%92%D0%B8%D0%B7%D1%83%D0%B0%D0%BB%D1%8C%D0%BD%D1%8B%D0%B5-%D0%BD%D0%BE%D0%B2%D0%B5%D0%BB%D0%BB%D1%8B-%D0%91%D0%9B-%D0%BD%D0%B5%D0%B9%D1%80%D0%BE%D0%B0%D1%80%D1%82-8526973.jpeg)
Вполне себе шустро работает, нужно как минимум 8 гигабайт видеопамяти, чтобы полностью уместить 5 или 6 квант данной модели в памяти.
За сим, сделал небольшой интерфейс для удобства, работает в паре с kobold.cpp и textractor. То есть берет японский текст из буффера обмена который предоставляет textractor и через апи кобольда переводит его.
kobold.cpp - Releases · LostRuins/koboldcpp · GitHub
Модель - https://huggingface.co/lmg-anon/vntl-llama3-8b-gguf
Сам textractor - Releases · Artikash/Textractor (github.com)
Кому интересно - https://drive.google.com/file/d/1fYMY0PaO2aOsassFwA_WvJ8eOD-1HDf9/view?usp=sharing сам фронт.
Исходники (Дисклеймер: я не прогромист/веб разработчик лучше не смотреть можно получить инфаркт) - https://drive.google.com/file/d/1fYMY0PaO2aOsassFwA_WvJ8eOD-1HDf9/view?usp=sharing
Видео фрагмент с использованием другой модели.