infero

用 Rust 编写的推理引擎，支持 GGUF、AWQ 和 FP8（W8A8）检查点，使用手写的 CUDA 和 Metal 内核。

AI 翻译

查看原文

An inference engine written in Rust for GGUF, AWQ, and FP8 (W8A8) checkpoints, with hand-written CUDA and Metal kernels.

开发工具Rust · CudaGitHub @jackwangfeng在线运营者未确认

访问项目 GitHub

试用过了吗？ 点一下就好，无需登录。

运行状态: 在线; 30 天在线率 100%
最近代码更新: 10月18日; 活跃仓库
最新版本: 无
贡献者: 1 人; 复刻 0
许可证: 许可证说明
以下为主要许可证条件摘要。实际使用条件请查看仓库 LICENSE、各文件声明及附加条款。
此项目显示的信息
GitHub 自动识别 · 仓库主要许可证
Apache-2.0
提供的许可证信息 ↗
仓库观测不代表已核实所有文件条件、多重许可证或依赖项。
观测时的信息 · 最近成功收集于 10月28日 03:21 · 最近收集失败于 9月29日 07:46 （韩国时间）
在仓库查看 LICENSE ↗
主要许可证比较
表中许可证在遵守各项条件时允许商用。多重、自定义或未识别许可证的许可范围须查阅原文。窄屏可横向滚动表格。
主要许可证的商用、修改与再分发、源码提供义务及核心条件。名称链接到官方原文。
许可证 · 原文商用修改与再分发源码提供义务核心条件
MIT ↗ 允许允许无源码提供义务在副本或实质部分保留版权与许可声明
Apache-2.0 ↗ 允许允许无源码提供义务保留许可证、相关声明与 NOTICE，并标明修改。含专利授权及专利诉讼终止条款
BSD-2-Clause ↗ 允许允许无源码提供义务在源码或二进制文档与材料中保留版权、条件与免责声明
BSD-3-Clause ↗ 允许允许无源码提供义务 BSD-2 条件，加上未经许可不得以版权持有人或贡献者姓名宣传或背书
ISC ↗ 允许允许无源码提供义务在所有副本保留版权与许可声明
GPL-2.0 ↗ 允许遵守 GPL 条件时允许分发时提供该程序及衍生作品的对应源码以 GPL 分发，保留版权、许可证与更改声明。单纯聚合不在适用范围内
GPL-3.0 ↗ 允许遵守 GPL 条件时允许分发时提供该程序及衍生作品的对应源码以 GPL 分发，保留声明并标明修改。含专利条款；适用消费产品须提供修改版本安装信息
LGPL-2.1 ↗ 允许遵守 LGPL 条件时允许分发库时提供该库及修改版本的源码应用可用其他许可证链接；须允许替换或重新链接库，以及为调试修改而进行逆向工程等
LGPL-3.0 ↗ 允许遵守 LGPL 条件时允许分发库时提供该库及修改版本的源码应用可用其他许可证链接；保障替换、重新链接及为调试修改而进行逆向工程；适用产品须提供安装信息
MPL-2.0 ↗ 允许遵守 MPL 条件时允许分发时提供 MPL 覆盖文件及修改版本的源码按文件保留 MPL 与声明；不含 MPL 代码的独立文件可采用其他许可证组合
AGPL-3.0 ↗ 允许遵守 AGPL 条件时允许分发时提供对应源码；向修改版本的远程用户免费提供源码访问分发条件类似 GPL-3.0，并向修改程序的网络用户告知获取源码的方法
Unlicense ↗ 允许允许无源码提供义务将版权奉献至公有领域；请核对法律允许范围与原文
CC0-1.0 ↗ 允许允许无源码提供义务放弃版权等权利，若无效则提供替代许可；不含专利与商标权
GPL、LGPL、AGPL 的 -only 仅允许该版本；-or-later 可选择该版本或后续版本。不要仅凭无版本与后缀的标注推断允许后续版本。源码提供义务针对条款规定的接收者或用户，并非始终要求向整个互联网公开。
GitHub 许可证识别与显示指南 ↗; GitHub 自动识别 · 先前收集的数据 · 收集于 10月28日
nomorevibe 收录: 9月20日; 仓库创建于 2026年8月

语言构成

Rust 70.4%
Cuda 23%
Python 3.6%
Metal 等 3%

更新0 条更新

全部

尚未检测到更新。GitHub 发布版本后会显示在这里。

infero

用 Rust 编写的推理引擎，支持 GGUF、AWQ 和 FP8（W8A8）检查点，使用手写的 CUDA 和 Metal 内核。

AI 翻译

查看原文

An inference engine written in Rust for GGUF, AWQ, and FP8 (W8A8) checkpoints, with hand-written CUDA and Metal kernels.

开发工具Rust · CudaGitHub @jackwangfeng在线运营者未确认

访问项目 GitHub

试用过了吗？ 点一下就好，无需登录。

运行状态: 在线; 30 天在线率 100%
最近代码更新: 10月18日; 活跃仓库
最新版本: 无
贡献者: 1 人; 复刻 0
许可证: 许可证说明
以下为主要许可证条件摘要。实际使用条件请查看仓库 LICENSE、各文件声明及附加条款。
此项目显示的信息
GitHub 自动识别 · 仓库主要许可证
Apache-2.0
提供的许可证信息 ↗
仓库观测不代表已核实所有文件条件、多重许可证或依赖项。
观测时的信息 · 最近成功收集于 10月28日 03:21 · 最近收集失败于 9月29日 07:46 （韩国时间）
在仓库查看 LICENSE ↗
主要许可证比较
表中许可证在遵守各项条件时允许商用。多重、自定义或未识别许可证的许可范围须查阅原文。窄屏可横向滚动表格。
主要许可证的商用、修改与再分发、源码提供义务及核心条件。名称链接到官方原文。
许可证 · 原文商用修改与再分发源码提供义务核心条件
MIT ↗ 允许允许无源码提供义务在副本或实质部分保留版权与许可声明
Apache-2.0 ↗ 允许允许无源码提供义务保留许可证、相关声明与 NOTICE，并标明修改。含专利授权及专利诉讼终止条款
BSD-2-Clause ↗ 允许允许无源码提供义务在源码或二进制文档与材料中保留版权、条件与免责声明
BSD-3-Clause ↗ 允许允许无源码提供义务 BSD-2 条件，加上未经许可不得以版权持有人或贡献者姓名宣传或背书
ISC ↗ 允许允许无源码提供义务在所有副本保留版权与许可声明
GPL-2.0 ↗ 允许遵守 GPL 条件时允许分发时提供该程序及衍生作品的对应源码以 GPL 分发，保留版权、许可证与更改声明。单纯聚合不在适用范围内
GPL-3.0 ↗ 允许遵守 GPL 条件时允许分发时提供该程序及衍生作品的对应源码以 GPL 分发，保留声明并标明修改。含专利条款；适用消费产品须提供修改版本安装信息
LGPL-2.1 ↗ 允许遵守 LGPL 条件时允许分发库时提供该库及修改版本的源码应用可用其他许可证链接；须允许替换或重新链接库，以及为调试修改而进行逆向工程等
LGPL-3.0 ↗ 允许遵守 LGPL 条件时允许分发库时提供该库及修改版本的源码应用可用其他许可证链接；保障替换、重新链接及为调试修改而进行逆向工程；适用产品须提供安装信息
MPL-2.0 ↗ 允许遵守 MPL 条件时允许分发时提供 MPL 覆盖文件及修改版本的源码按文件保留 MPL 与声明；不含 MPL 代码的独立文件可采用其他许可证组合
AGPL-3.0 ↗ 允许遵守 AGPL 条件时允许分发时提供对应源码；向修改版本的远程用户免费提供源码访问分发条件类似 GPL-3.0，并向修改程序的网络用户告知获取源码的方法
Unlicense ↗ 允许允许无源码提供义务将版权奉献至公有领域；请核对法律允许范围与原文
CC0-1.0 ↗ 允许允许无源码提供义务放弃版权等权利，若无效则提供替代许可；不含专利与商标权
GPL、LGPL、AGPL 的 -only 仅允许该版本；-or-later 可选择该版本或后续版本。不要仅凭无版本与后缀的标注推断允许后续版本。源码提供义务针对条款规定的接收者或用户，并非始终要求向整个互联网公开。
GitHub 许可证识别与显示指南 ↗; GitHub 自动识别 · 先前收集的数据 · 收集于 10月28日
nomorevibe 收录: 9月20日; 仓库创建于 2026年8月

语言构成

Rust 70.4%
Cuda 23%
Python 3.6%
Metal 等 3%

更新0 条更新

全部

尚未检测到更新。GitHub 发布版本后会显示在这里。

infero

许可证说明

此项目显示的信息

主要许可证比较

语言构成

更新0 条更新

评论

infero

许可证说明

此项目显示的信息

主要许可证比较

语言构成

更新0 条更新

评论

放大图片

你是此项目的运营者吗？

介绍

README

README

README

主要许可证的商用、修改与再分发、源码提供义务及核心条件。名称链接到官方原文。
许可证 · 原文	商用	修改与再分发	源码提供义务	核心条件
MIT ↗	允许	允许	无源码提供义务	在副本或实质部分保留版权与许可声明
Apache-2.0 ↗	允许	允许	无源码提供义务	保留许可证、相关声明与 NOTICE，并标明修改。含专利授权及专利诉讼终止条款
BSD-2-Clause ↗	允许	允许	无源码提供义务	在源码或二进制文档与材料中保留版权、条件与免责声明
BSD-3-Clause ↗	允许	允许	无源码提供义务	BSD-2 条件，加上未经许可不得以版权持有人或贡献者姓名宣传或背书
ISC ↗	允许	允许	无源码提供义务	在所有副本保留版权与许可声明
GPL-2.0 ↗	允许	遵守 GPL 条件时允许	分发时提供该程序及衍生作品的对应源码	以 GPL 分发，保留版权、许可证与更改声明。单纯聚合不在适用范围内
GPL-3.0 ↗	允许	遵守 GPL 条件时允许	分发时提供该程序及衍生作品的对应源码	以 GPL 分发，保留声明并标明修改。含专利条款；适用消费产品须提供修改版本安装信息
LGPL-2.1 ↗	允许	遵守 LGPL 条件时允许	分发库时提供该库及修改版本的源码	应用可用其他许可证链接；须允许替换或重新链接库，以及为调试修改而进行逆向工程等
LGPL-3.0 ↗	允许	遵守 LGPL 条件时允许	分发库时提供该库及修改版本的源码	应用可用其他许可证链接；保障替换、重新链接及为调试修改而进行逆向工程；适用产品须提供安装信息
MPL-2.0 ↗	允许	遵守 MPL 条件时允许	分发时提供 MPL 覆盖文件及修改版本的源码	按文件保留 MPL 与声明；不含 MPL 代码的独立文件可采用其他许可证组合
AGPL-3.0 ↗	允许	遵守 AGPL 条件时允许	分发时提供对应源码；向修改版本的远程用户免费提供源码访问	分发条件类似 GPL-3.0，并向修改程序的网络用户告知获取源码的方法
Unlicense ↗	允许	允许	无源码提供义务	将版权奉献至公有领域；请核对法律允许范围与原文
CC0-1.0 ↗	允许	允许	无源码提供义务	放弃版权等权利，若无效则提供替代许可；不含专利与商标权

主要许可证的商用、修改与再分发、源码提供义务及核心条件。名称链接到官方原文。
许可证 · 原文	商用	修改与再分发	源码提供义务	核心条件
MIT ↗	允许	允许	无源码提供义务	在副本或实质部分保留版权与许可声明
Apache-2.0 ↗	允许	允许	无源码提供义务	保留许可证、相关声明与 NOTICE，并标明修改。含专利授权及专利诉讼终止条款
BSD-2-Clause ↗	允许	允许	无源码提供义务	在源码或二进制文档与材料中保留版权、条件与免责声明
BSD-3-Clause ↗	允许	允许	无源码提供义务	BSD-2 条件，加上未经许可不得以版权持有人或贡献者姓名宣传或背书
ISC ↗	允许	允许	无源码提供义务	在所有副本保留版权与许可声明
GPL-2.0 ↗	允许	遵守 GPL 条件时允许	分发时提供该程序及衍生作品的对应源码	以 GPL 分发，保留版权、许可证与更改声明。单纯聚合不在适用范围内
GPL-3.0 ↗	允许	遵守 GPL 条件时允许	分发时提供该程序及衍生作品的对应源码	以 GPL 分发，保留声明并标明修改。含专利条款；适用消费产品须提供修改版本安装信息
LGPL-2.1 ↗	允许	遵守 LGPL 条件时允许	分发库时提供该库及修改版本的源码	应用可用其他许可证链接；须允许替换或重新链接库，以及为调试修改而进行逆向工程等
LGPL-3.0 ↗	允许	遵守 LGPL 条件时允许	分发库时提供该库及修改版本的源码	应用可用其他许可证链接；保障替换、重新链接及为调试修改而进行逆向工程；适用产品须提供安装信息
MPL-2.0 ↗	允许	遵守 MPL 条件时允许	分发时提供 MPL 覆盖文件及修改版本的源码	按文件保留 MPL 与声明；不含 MPL 代码的独立文件可采用其他许可证组合
AGPL-3.0 ↗	允许	遵守 AGPL 条件时允许	分发时提供对应源码；向修改版本的远程用户免费提供源码访问	分发条件类似 GPL-3.0，并向修改程序的网络用户告知获取源码的方法
Unlicense ↗	允许	允许	无源码提供义务	将版权奉献至公有领域；请核对法律允许范围与原文
CC0-1.0 ↗	允许	允许	无源码提供义务	放弃版权等权利，若无效则提供替代许可；不含专利与商标权

infero

语言构成

更新0 条更新

评论

开发工具 分类的热门项目

infero

语言构成

更新0 条更新

评论

开发工具 分类的热门项目

你是此项目的运营者吗？

介绍

README

README

README

开发工具分类的热门项目

开发工具分类的热门项目