ComfyUI-MiniCPM>MiniCPM-V GGUF
ComfyUI-MiniCPM
时间:2025/11/03

MiniCPM-V GGUF

MiniCPM-V GGUF节点用于加载MiniCPM V4版本的GGUF格式模型(由于 llama-cpp-python 兼容性问题,MiniCPM-V-4.5 GGUF 模型暂时不可用),并完成对图像或视频的分析推理任务,最终生成对应的文字描述(caption / 分析 / 解释等)。
MiniCPM-V GGUF-节点参数说明
输入参数
image可选参数,输入待分析的图像,支持多张图像
video可选参数,输入待分析的视频,内部通过抽帧(默认最多 64 帧)用于分析
输出参数
STRING输出经过MiniCPM模型分析后的文字结果
控件参数
model选择GGUF格式的模型,支持多种量化版本
preset_prompt选择预设的prompt类型。
custom_prompt自定义prompt。如果填写了就覆盖 preset_prompt
device选择运行设备,默认 Auto,会优先用 CUDA,如果不可用则回退到 CPU
memory_management模型内存管理策略: • Keep in Memory:加载后常驻内存 • Clear After Run:运行后释放内存 • Global Cache:共享缓存,多个节点可共用
seed随机数种子
使用Q4_0量化的GGUF格式模型,对视频进行了分析,注意prompt要选对应的视频相关的。


不同格式的模型介绍

| 模型                     | 大小      | 描述                        

| --------------------    | --------- | ---------------------------

| MiniCPM-V-4 (Q4_K_M)    | ~2.19GB   | 推荐的质量/大小平衡          

| MiniCPM-V-4 (Q4_0)      | ~2.08GB   | 标准 4-bit 量化            

| MiniCPM-V-4 (Q4_1)      | ~2.29GB   | 4-bit 量化改进版            

| MiniCPM-V-4 (Q4_K_S)    | ~2.09GB   | 4-bit K-quants 小          

| MiniCPM-V-4 (Q5_0)      | ~2.51GB   | 5-bit 量化                  

| MiniCPM-V-4 (Q5_1)      | ~2.72GB   | 5-bit 量化改进              

| MiniCPM-V-4 (Q5_K_M)    | ~2.56GB   | 5-bit K-quants 中等        

| MiniCPM-V-4 (Q5_K_S)    | ~2.51GB   | 5-bit K-quants 小          

| MiniCPM-V-4 (Q6_K)      | ~2.96GB   | 非常高的质量                

| MiniCPM-V-4 (Q8_0)      | ~3.83GB   | 最高质量量化          

广告

可加入知识星球获取所有示例工作流

广告

微信扫码入群,加入AIGC大家庭,与大家一起交流学习