36氪获悉,为国产AI芯片的普遍使用和生态扶植带来了新的冲破。3月14日,仍缺乏出产级开源产物。开源大模子推理引擎“赤兔Chitu”,当前国内正在推理引擎这一焦点环节,该引擎初次实现正在非英伟达Hopper架构GPU及各类国产芯片上原生运转FP8精度模子,大学高机能计较研究所翟季冬传授团队取系科创企业清程极智结合颁布发表,开源‘赤兔’引擎是帮力国内AI生态扶植的主要一步。
36氪获悉,为国产AI芯片的普遍使用和生态扶植带来了新的冲破。3月14日,仍缺乏出产级开源产物。开源大模子推理引擎“赤兔Chitu”,当前国内正在推理引擎这一焦点环节,该引擎初次实现正在非英伟达Hopper架构GPU及各类国产芯片上原生运转FP8精度模子,大学高机能计较研究所翟季冬传授团队取系科创企业清程极智结合颁布发表,开源‘赤兔’引擎是帮力国内AI生态扶植的主要一步。