linkease/rkllm_openai repository overview

使用 RK3588 或者 RK3576 实现兼容 openai 的 API！配合其他工具，彻底本地话无线使用大模型。

比如 Chatbox 或者 open-webui 填入 http://ip:8081/v1⁠ ，密码 abc 即可使用大模型。 大模型下载建议打开：https://console.box.lenovo.com/l/l0tXb8⁠ 密码：rkllm 下载。