Richard Palethorpe
e6ebfd3ba1
feat(whisper-cpp): Convert to Purego and add VAD ( #6087 )
...
* fix(ci): Avoid matching wrong backend with the same prefix
Signed-off-by: Richard Palethorpe <io@richiejp.com >
* chore(whisper): Use Purego and enable VAD
This replaces the Whisper CGO bindings with our own Purego based module
to make compilation easier.
In addition this allows VAD models to be loaded by Whisper. There is not
much benefit now except that the same backend can be used for VAD and
transcription. Depending on upstream we may also be able to use GPU for
VAD in the future, but presently it is disabled.
Signed-off-by: Richard Palethorpe <io@richiejp.com >
---------
Signed-off-by: Richard Palethorpe <io@richiejp.com >
Co-authored-by: Ettore Di Giacinto <mudler@users.noreply.github.com >
2025-08-28 17:25:18 +02:00
Ettore Di Giacinto
900745bb4d
chore(model gallery): add opengvlab_internvl3_5-2b ( #6147 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-08-26 18:09:49 +02:00
Ettore Di Giacinto
15a7fc7e9a
chore(model gallery): add opengvlab_internvl3_5-4b ( #6146 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-08-26 17:55:53 +02:00
Ettore Di Giacinto
03dddec538
chore(model gallery): add opengvlab_internvl3_5-8b ( #6145 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-08-26 17:49:31 +02:00
Ettore Di Giacinto
3d34386712
chore(model gallery): add opengvlab_internvl3_5-14b ( #6144 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-08-26 17:17:49 +02:00
Ettore Di Giacinto
1b3f66018b
chore(model gallery): add opengvlab_internvl3_5-30b-a3b ( #6143 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-08-26 16:39:46 +02:00
Ettore Di Giacinto
8193d18c7c
feat(img2img): Add support to Qwen Image Edit ( #6113 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-08-20 10:18:55 +02:00
Ettore Di Giacinto
1361d844a1
chore(model gallery): add lfm2-1.2b ( #6092 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-08-18 22:24:50 +02:00
Ettore Di Giacinto
fcc521cae5
chore(model gallery): add lfm2-vl-1.6b ( #6091 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-08-18 22:21:35 +02:00
Ettore Di Giacinto
8cad7138be
chore(model gallery): add lfm2-vl-450m ( #6090 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-08-18 22:17:03 +02:00
Ettore Di Giacinto
1d0e24a865
chore(model gallery): add impish_longtail_12b ( #6082 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-08-17 09:41:01 +02:00
Ettore Di Giacinto
b8b1ca782c
chore(model gallery): add wingless_imp_8b-i1 ( #6077 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-08-16 08:45:38 +02:00
Ettore Di Giacinto
1149fb66d3
chore(model gallery): add thedrummer_gemma-3-r1-4b-v1 ( #6076 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-08-16 08:39:10 +02:00
Ettore Di Giacinto
8da38a0d10
chore(model gallery): add thedrummer_gemma-3-r1-12b-v1 ( #6075 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-08-16 08:35:49 +02:00
Ettore Di Giacinto
60786fc876
chore(model gallery): add thedrummer_gemma-3-r1-27b-v1 ( #6074 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-08-16 08:31:42 +02:00
LocalAI [bot]
80f15851c5
chore(model-gallery): ⬆️ update checksum ( #6071 )
...
⬆️ Checksum updates in gallery/index.yaml
Signed-off-by: github-actions[bot] <41898282+github-actions[bot]@users.noreply.github.com>
Co-authored-by: mudler <2420543+mudler@users.noreply.github.com >
2025-08-15 22:29:17 +02:00
Ettore Di Giacinto
79973a28ad
chore(model gallery): add gemma-3-270m-it-qat ( #6063 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-08-15 08:41:38 +02:00
Ettore Di Giacinto
429bb7a88c
chore(model gallery): add baichuan-inc_baichuan-m2-32 ( #6042 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-08-12 09:43:13 +02:00
LocalAI [bot]
06129139eb
chore(model-gallery): ⬆️ update checksum ( #6010 )
...
⬆️ Checksum updates in gallery/index.yaml
Signed-off-by: github-actions[bot] <41898282+github-actions[bot]@users.noreply.github.com>
Co-authored-by: mudler <2420543+mudler@users.noreply.github.com >
2025-08-11 07:54:01 +02:00
Ettore Di Giacinto
240b790f29
chore(model gallery): add impish_nemo_12b ( #6007 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-08-10 10:05:20 +02:00
Ettore Di Giacinto
9a41331855
chore(model gallery): add outetts ( #6000 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-08-08 12:55:58 +02:00
Ettore Di Giacinto
facc0181df
chore(model gallery): add chatterbox ( #5999 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-08-08 12:53:13 +02:00
Ettore Di Giacinto
4733adb983
chore: add Dia to the model gallery, fix backend ( #5998 )
...
* fix: correctly call OuteTTS and DiaTTS
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
* chore(model gallery): add dia
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
---------
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-08-08 12:40:16 +02:00
Ettore Di Giacinto
326fda3223
chore(model gallery): add tarek07_nomad-llama-70b ( #5997 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-08-08 12:06:20 +02:00
Ettore Di Giacinto
abf61e5b42
chore(model gallery): add openai-gpt-oss-20b-abliterated-uncensored-neo-imatrix ( #5996 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-08-08 11:14:46 +02:00
Ettore Di Giacinto
2ae45e7635
chore(model gallery): add huihui-ai_huihui-gpt-oss-20b-bf16-abliterated ( #5995 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-08-08 11:01:52 +02:00
Ettore Di Giacinto
09457b9221
chore(model gallery): add qwen_qwen3-4b-thinking-2507 ( #5988 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-08-07 09:28:37 +02:00
Ettore Di Giacinto
41aa7e107f
chore(model gallery): add qwen_qwen3-4b-instruct-2507 ( #5987 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-08-07 09:20:15 +02:00
Ettore Di Giacinto
89978c8b57
fix(harmony): improve template by adding reasoning effort and system_prompt ( #5985 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-08-07 00:31:37 +02:00
Ettore Di Giacinto
987b5dcac1
chore(model gallery): add openai_gpt-oss-20b-neo ( #5986 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-08-07 00:31:17 +02:00
Ettore Di Giacinto
9c2840ac38
feat(kokoro): complete kokoro integration ( #5978 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-08-06 15:23:29 +02:00
Ettore Di Giacinto
20a70e1244
feat(backends): add KittenTTS ( #5977 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-08-06 12:38:45 +02:00
Ettore Di Giacinto
da6f37f000
Update qwen-image.yaml
...
Signed-off-by: Ettore Di Giacinto <mudler@users.noreply.github.com >
2025-08-06 10:40:46 +02:00
Ettore Di Giacinto
c092633cd7
feat(models): add support to qwen-image ( #5975 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-08-06 10:36:53 +02:00
Ettore Di Giacinto
7e2a522229
Update harmony.yaml
...
Signed-off-by: Ettore Di Giacinto <mudler@users.noreply.github.com >
2025-08-05 23:58:48 +02:00
Ettore Di Giacinto
a5c0fe31c3
chore(models): add gpt-oss-120b ( #5974 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-08-05 23:13:24 +02:00
Ettore Di Giacinto
c68907ac65
chore(models): add gpt-oss-20b ( #5973 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-08-05 23:08:34 +02:00
Ettore Di Giacinto
173e0774c0
chore(model gallery): add flux.1-krea-dev-ggml ( #5949 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-07-31 18:32:06 +02:00
Ettore Di Giacinto
8ece26ab7c
chore(model gallery): add flux.1-dev-ggml-abliterated-v2-q8_0 ( #5948 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-07-31 17:23:48 +02:00
Ettore Di Giacinto
d704cc7970
chore(model gallery): add flux.1-dev-ggml-q8_0 ( #5947 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-07-31 17:13:19 +02:00
Ettore Di Giacinto
3d22bfc27c
feat(stablediffusion-ggml): add support to ref images (flux Kontext) ( #5935 )
...
* feat(stablediffusion-ggml): add support to ref images
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
* Add it to the model gallery
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
---------
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-07-30 22:42:34 +02:00
Ettore Di Giacinto
4438b4361e
chore(model gallery): add qwen_qwen3-30b-a3b-thinking-2507 ( #5939 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-07-30 21:18:56 +02:00
Ettore Di Giacinto
04bad9a2da
chore(model gallery): add arcee-ai_afm-4.5b ( #5938 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-07-30 15:37:07 +02:00
Ettore Di Giacinto
8235e53602
chore(model gallery): add qwen_qwen3-30b-a3b-instruct-2507 ( #5936 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-07-30 15:29:34 +02:00
Ettore Di Giacinto
949e5b9be8
feat(rfdetr): add object detection API ( #5923 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-07-27 22:02:51 +02:00
Ettore Di Giacinto
c717b8d800
chore(model gallery): add qwen3-coder-480b-a35b-instruct ( #5888 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-07-23 11:59:58 +02:00
Ettore Di Giacinto
f1d35c4149
chore(model gallery): add qwen3-235b-a22b-instruct-2507 ( #5887 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-07-23 11:54:58 +02:00
Ettore Di Giacinto
ee7e77b6c1
chore(model gallery): add menlo_lucy ( #5886 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-07-23 11:51:51 +02:00
Ettore Di Giacinto
324fecbb75
chore(model gallery): add entfane_math-genius-7b ( #5885 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-07-23 11:45:23 +02:00
Ettore Di Giacinto
a79bfcf0a7
chore(model gallery): add dream-org_dream-v0-instruct-7b ( #5884 )
...
Signed-off-by: Ettore Di Giacinto <mudler@localai.io >
2025-07-23 11:40:53 +02:00