diff --git a/Others/根据gpu使用率调度/readme.md b/Others/根据gpu使用率调度/readme.md new file mode 100644 index 0000000..7980f52 --- /dev/null +++ b/Others/根据gpu使用率调度/readme.md @@ -0,0 +1,3 @@ +## 思路: +1.使用python获取gpu使用率,推送绑定gpu的大模型副本链接及使用率到redis +2.使用openresty+lua,获取redis中的最合适副本链接 \ No newline at end of file