NVIDIA-搭建ComfyUI

ComfyUI 是一个基于节点的生成式人工智能的界面和推理引擎，可以实现更高的定制化和可控的内容生成。

Github仓库：https://github.com/comfyanonymous/ComfyUI
官方文档：https://docs.comfy.org/
官方网站：https://www.comfy.org/zh-cn/

本篇的主要目的是带你掌握如何在 Nvidia Jetson AGX Orin 中搭建运行环境

Nvidia Jetson AGX Orin 环境搭建

首先要做的就是 Nvidia Jetson AGX Orin 的装机操作，请参考这篇文章完成基础环境搭建。

安装完成后您就拥有了 Python 3.10 环境，后续步骤均建立在该基础之上。

安装 PyTorch

Nvidia Jetson AGX Orin 安装 PyTorch 与平常安装方式不同，需要对特定设备进行编译，总之很麻烦。

经过作者不懈努力的收集、寻找，终于找到了有效的解决方案：

  1. 确定自己的 NVIDIA Jetson AGX Orin Developer Kit 版本和 CUDA 版本 Jetpack 6.2 [L4T 36.4.3] 12.6.68
  2. 从这个网站中找到对应版本的whl安装包并安装它 torch-2.7.0-cp310-cp310-linux_aarch64.whl

ComfyUI 环境搭建

做完上面👆的步骤后，一切变得简单了起来，按照官方文档的安装步骤进行即可。以下说明一些需要注意的点：

  • 安装环境时建议使用venv搭建 cd Comfy-UI && python -m venv --system-site-packages .venv
  • 安装时可能会出现依赖版本不兼容的问题，请参考如下版本安装：
    • numpy==1.26.4
    • scipy==1.15.2
    • pybind11==2.13.6
  • 建议交由systemd管理后台服务进程，请参考如下配置：
# cat /etc/systemd/system/comfy-ui.service
[Unit]
Description=ComfyUI Service
After=network.target

[Service]
Type=simple
User=<user>
Group=<group>

WorkingDirectory=/path/to/ComfyUI

ExecStart=/path/to/ComfyUI/.venv/bin/python main.py --listen 0.0.0.0

Restart=always
RestartSec=5s

Environment="PYTHONUNBUFFERED=1"
Environment="CUDA_LAUNCH_BLOCKING=1"
Environment="TORCH_USE_CUDA_DSA=1"
Environment="TORCH_CUDA_ARCH_LIST=8.0;8.6;8.7+PTX"
[Install]
WantedBy=multi-user.target