更新 Nginx/根据gpu使用率调度/readme.md

2024-01-29 16:01:28 +08:00 · 2024-01-29 16:01:28 +08:00 · f2d623e4a5
commit f2d623e4a5
parent 3feb41272e
1 changed files with 0 additions and 0 deletions
--- a/Nginx/根据gpu使用率调度/readme.md
+++ b/Nginx/根据gpu使用率调度/readme.md
@ -0,0 +1,3 @@
+## 思路：
+1.使用python获取gpu使用率，推送绑定gpu的大模型副本链接及使用率到redis  
+2.使用openresty+lua，获取redis中的最合适副本链接