第9章：VIRGL 后端（OpenGL / vrend）

VIRGL 是 virglrenderer 的原点项目 2014 年诞生时就是为了它。它把 Guest 的 OpenGL 命令翻译成 Host 的 OpenGL/OpenGL ES 调用。相比后来的 venus/drmvrend 是真正意义上的翻译器——它要理解每一条图形命令的语义而不只是转发。本章拆解src/vrend/的内部结构。9.1 定位一个 GL→GL 的翻译器输入Guest Mesa 的 virgl Gallium 驱动产出的命令流着色器以TGSIGallium 的着色器中间表示内嵌输出Host 的 OpenGL 3.3–4.6 / OpenGL ES 调用capsetVIRTGPU_DRM_CAPSET_VIRGL (1)与VIRGL2 (2)。关键点vrend 不假设 Host 有和 Guest 一样的 GL 特性它要做能力协商通过 capset 上报 Host 实际支持的 GL 版本/扩展见第5章并在翻译时做必要的降级或模拟。如下图Guest 里跑的是 Mesa 的virgl 虚拟驱动不对应真实硬件把 GL 命令编码成 virgl 命令流经 virtio-gpu 送到 Host由 vrend 翻译重放性能代价这种API 层转发意味着Guest 与 Host 各跑一整套用户态驱动栈——Guest 侧 Mesa virgl 把 GL 编码成命令流Host 侧 vrend 再用一套完整 GL 驱动把语义重走一遍还要在 Host 重新编译着色器TGSI→GLSL→驱动后端。两套 UMD 的重复劳动 着色器重编译是 vrend以及同属 API 转发的 venus开销高于 DRM native context 的根本原因后者 Guest 只跑一套原生 UMD、着色器只编一次Host 侧不再跑第 UMD全栈而是直接走 libdrm 进 host 的 内核见第11章、第17章。9.2 目录结构导览src/vrend/各文件的职责文件职责vrend_renderer.c渲染器主逻辑上下文、状态机、绘制、资源、fencevrend_decode.c命令解码把 virgl 命令流分派到 renderer 的处理函数vrend_shader.c着色器转换TGSI → GLSLvrend_object.cGL 对象管理句柄 ↔ GL 名字的映射表vrend_formats.c像素格式映射与能力表vrend_blitter.c用着色器实现的 blit格式/尺寸转换拷贝vrend_tweaks.c针对特定 Guest/驱动的兼容性微调vrend_debug.c调试与日志virgl_video.c/vrend_video.c视频编解码加速可选vrend_winsys*.c窗口系统后端EGL / GLX / GBMiov.c/vrend_iov.hscatter-gatheriovec读写辅助9.3 命令解码vrend_decode.c解码器是后端的入口对应virgl_context-submit_cmd见第8章。它的骨架是一个大switch/* 伪代码命令解码主循环 */while(has_more_commands(buf)){uint32_theaderread_dword(buf);uint32_tcmdheader0xff;/* 命令类型 */uint32_tlengthheader16;/* 载荷长度dword */switch(cmd){caseVIRGL_CCMD_CREATE_OBJECT:vrend_decode_create_object(...);break;caseVIRGL_CCMD_DRAW_VBO:vrend_decode_draw_vbo(...);break;caseVIRGL_CCMD_SET_FRAMEBUFFER_STATE:...;break;caseVIRGL_CCMD_BIND_SHADER:...;break;/* ...几十种命令... */}buflength;/* 跳到下一条 */}每个vrend_decode_*函数负责边界校验命令来自不可信 Guest见第8章 / 第16章解析参数调用vrend_renderer.c里对应的状态设置或 GL 调用。9.4 着色器转换TGSI → GLSL这是 vrend 最有技术含量的部分vrend_shader.c。Guest 的着色器是 TGSIHost 的 GL 只认 GLSL所以要做源到源翻译TGSI 汇编 生成的 GLSL ------------------------ ------------------------ DCL IN[0], POSITION → in vec4 in0; DCL OUT[0], COLOR → out vec4 out0; MOV OUT[0], IN[0] → out0 in0; ...难点在于版本/扩展差异根据 Host GL 能力生成对应#version和扩展声明语义映射TGSI 的输入/输出/采样器语义要映射到 GLSL 的in/out/uniform/sampler修正与变通某些 GL 实现的 bug 或缺失特性要在生成的 GLSL 里绕过与vrend_tweaks.c配合缓存转换开销不小生成的 GLSL/编译结果会被缓存复用。9.5 GL 对象管理vrend_object.cGuest 用句柄handle引用纹理、缓冲、着色器、采样器等对象Host GL 用自己的对象名GLuint。vrend_object.c维护二者的映射表每个上下文有自己的对象命名空间创建对象 → 分配 Host GL 名字 → 登记 handle↔name销毁 → 释放 GL 资源 从表中移除命令里的 handle 都要先查表校验非法 handle 直接拒绝防越权。9.6 Winsys渲染到哪里去vrend 需要一个 GL 上下文和渲染目标这由 winsys 层提供支持三种后端winsys文件场景EGLvrend_winsys_egl.c主流配合 surfaceless 无需真实窗口GBMvrend_winsys_gbm.c直接经 DRM/GBM 分配可扫描输出的 bufferGLXvrend_winsys_glx.c传统 X11 环境初始化标志与之对应#defineVIRGL_RENDERER_USE_EGL1#defineVIRGL_RENDERER_USE_GLX(12)#defineVIRGL_RENDERER_USE_SURFACELESS(13)/* 无窗口离屏渲染 */#defineVIRGL_RENDERER_USE_GLES(14)/* 用 GLES 而非桌面 GL */服务器/云场景几乎都用EGL surfaceless不需要 X server、不需要显示器纯离屏渲染结果通过 dma-buf 导出见第7章。9.7 格式与 Blitvrend_formats.c维护 virgl 像素格式 ↔ GL 内部格式的映射表以及每种格式支持的用途可采样/可渲染/可 blit。格式协商错误会导致创建资源失败或采样错乱。vrend_blitter.c当硬件 blitglBlitFramebuffer不适用格式不兼容、需要缩放/转换时用一对内置着色器画一个全屏四边形来完成拷贝转换。9.8 视频加速可选virgl_video.c/vrend_video.c在开启video编译选项VIRGL_RENDERER_USE_VIDEOunstable时提供硬件视频编解码虚拟化把 Guest 的 VA-API 请求经由 Host 的视频引擎加速。属于可选特性默认不编。9.9 兼容性微调与调试vrend_tweaks.c针对特定 Guest 应用/驱动版本的已知问题做开关式修正例如某些坐标约定、精度处理。这是现实世界不完美的沉淀。vrend_debug.c提供分类日志、命令 dump、对象统计等配合环境变量开启见第17章。9.10 一次绘制的内部旅程submit_cmdvrend_decode 循环CREATE_OBJECT: 建 GL 对象, 登记 handleBIND_SHADER: TGSI→GLSL, 编译, 缓存SET_*_STATE: 设置管线状态DRAW_VBO: 校验→设状态→glDraw*Host GL 执行glFenceSync → fence 完成回传9.11 常见问题与调试着色器编译失败TGSI→GLSL 生成的代码在某些 Host 驱动上不被接受开 shader dump 看生成的 GLSL。格式不支持vrend_formats.c没有该 virgl 格式到 Host GL 的映射或 Host 驱动能力不足。黑屏/无输出winsys 没起来EGL/surfaceless 配置问题或 fence 没回传。性能差着色器缓存未命中导致频繁重编或格式导致走了软件 blit 路径。小结vrend 是真正的 GL→GL 翻译器核心难点是TGSI→GLSL与能力协商vrend_decode.c解码、vrend_shader.c转译、vrend_object.c管句柄、vrend_winsys*提供 GL 上下文服务器场景标配EGL surfaceless大量兼容性微调tweaks是它成熟度的体现。下一章看另一种完全不同的思路——Venus 后端不翻译而是把 Vulkan 命令原样转发。