Ettore Di Giacinto
|
50f9c9a058
|
feat(watchdog): add Memory resource reclaimer (#7583)
* feat(watchdog): add GPU reclaimer
Signed-off-by: Ettore Di Giacinto <mudler@localai.io>
* Handle vram calculation for unified memory devices
Signed-off-by: Ettore Di Giacinto <mudler@localai.io>
* Support RAM eviction, set watchdog interval from runtime settings
Signed-off-by: Ettore Di Giacinto <mudler@localai.io>
---------
Signed-off-by: Ettore Di Giacinto <mudler@localai.io>
|
2025-12-16 09:15:18 +01:00 |
|