用途:LLaVA(Large Language and Vision Assistant)是面向对话式图像理解的开源视觉语言模型,适用于视觉问答(VQA)、图像描述与字幕、多轮图像对话、视觉指令跟随以及结合图片的文档理解。
主要能力:将 CLIP 视觉编码器与 Vicuna/LLaMA 语言模型结合,支持基于图像的多轮对话和文本形式的物体列举、场景理解等任务。项目标称 23000+ GitHub 星,Apache 2.0 许可,提供 7B、13B、34B 等参数规模,官方文档称其目标为接近 GPT-4V 能力。资料给出的基准包括 VQAv2 78.5%、GQA 62.0%、MM-Vet 35.4%、MMBench 64.3%。
使用方式:可克隆仓库后用 pip install -e . 安装,再用 Python 加载模型并生成回复;也可通过 CLI 执行,例如 python -m llava.serve.cli --model-path liuhaotian/llava-v1.5-7b --image-file image.jpg --query "What is in this image?";或启动 Gradio 网页界面:python -m llava.serve.gradio_web_server --model-path liuhaotian/llava-v1.5-7b,访问 http://localhost:7860。训练自定义模型分两阶段执行 pretrain.sh 与 finetune.sh。支持 4-bit 与 8-bit 量化以降低显存占用。
适用场景:构建视觉聊天机器人、图片问答、图像描述、多轮图片对话和文档图像理解等。
限制:可能产生幻觉,空间推理与精确定位较弱,小字号文本识别困难,物体计数不精确;需要 GPU 才能获得可用速度,CPU 推理极慢;推理速度慢于 CLIP。资料中未提供具体收费或价格信息,也未提供更详细的平台支持说明。