旷视科技发布轻量级LLM模型推理框架InferLLM
来源:鞭牛士
发布时间:2023-07-28 15:36:36
(相关资料图)
鞭牛士 7月28日消息,旷视科技发布全新轻量级LLM模型推理框架InferLLM,提供一个比llama.cpp更简单更容易上手的本地部署框架,助力大模型实现落地。
标签:
(相关资料图)
鞭牛士 7月28日消息,旷视科技发布全新轻量级LLM模型推理框架InferLLM,提供一个比llama.cpp更简单更容易上手的本地部署框架,助力大模型实现落地。
标签:
Copyright © 2015-2022 欧洲饰品网版权所有 备案号:沪ICP备2022005074号-23 联系邮箱: 58 55 97 3@qq.com