英伟达开源 OCR 代码推理AI模型
发布日期: 2025-07-28
32B 模子面向高职能推理和磋商场景,供给顶尖效率;14B 模子正在低浸盘算需求的同时坚持健旺推理才气;7B 模子则适合伙源受限的情况,仍能正在基准测试中发现逐鹿力。
别的,32B 模子还推出了指令微调版本,支柱与绽放推理生态体系无缝兼容,适配 llama.cpp、vLLM、Hugging Face Transformers 和 TGI 等主流框架,简单开拓者疾速集成。
![]()
IT之家注:LiveCodeBench 是一个归纳评估平台,埋头于调试、代码天生和逻辑补全等确凿开拓者情况中的职业。
这一结果不单得益于模子架构的优化,还归功于英伟达打制的定制“OCR 数据集”。该数据集聚焦高质料代码锻练,夸大指令听从、推理才气和众办法题目处置才气。