NVIDIA-搭建ComfyUI
ComfyUI 是一个基于节点的生成式人工智能的界面和推理引擎,可以实现更高的定制化和可控的内容生成。
Github仓库:https://github.com/comfyanonymous/ComfyUI
官方文档:https://docs.comfy.org/
官方网站:https://www.comfy.org/zh-cn/
本篇的主要目的是带你掌握如何在 Nvidia Jetson AGX Orin 中搭建运行环境
Nvidia Jetson AGX Orin 环境搭建
首先要做的就是 Nvidia Jetson AGX Orin 的装机操作,请参考这篇文章完成基础环境搭建。
安装完成后您就拥有了 Python 3.10 环境,后续步骤均建立在该基础之上。
安装 PyTorch
Nvidia Jetson AGX Orin 安装 PyTorch 与平常安装方式不同,需要对特定设备进行编译,总之很麻烦。
经过作者不懈努力的收集、寻找,终于找到了有效的解决方案:
- 确定自己的 NVIDIA Jetson AGX Orin Developer Kit 版本和 CUDA 版本
Jetpack 6.2 [L4T 36.4.3]
12.6.68
- 从这个网站中找到对应版本的
whl
安装包并安装它torch-2.7.0-cp310-cp310-linux_aarch64.whl
ComfyUI 环境搭建
做完上面👆的步骤后,一切变得简单了起来,按照官方文档的安装步骤进行即可。以下说明一些需要注意的点:
- 安装环境时建议使用
venv
搭建cd Comfy-UI && python -m venv --system-site-packages .venv
- 安装时可能会出现依赖版本不兼容的问题,请参考如下版本安装:
numpy==1.26.4
scipy==1.15.2
pybind11==2.13.6
- 建议交由
systemd
管理后台服务进程,请参考如下配置:
# cat /etc/systemd/system/comfy-ui.service
[Unit]
Description=ComfyUI Service
After=network.target
[Service]
Type=simple
User=<user>
Group=<group>
WorkingDirectory=/path/to/ComfyUI
ExecStart=/path/to/ComfyUI/.venv/bin/python main.py --listen 0.0.0.0
Restart=always
RestartSec=5s
Environment="PYTHONUNBUFFERED=1"
Environment="CUDA_LAUNCH_BLOCKING=1"
Environment="TORCH_USE_CUDA_DSA=1"
Environment="TORCH_CUDA_ARCH_LIST=8.0;8.6;8.7+PTX"
[Install]
WantedBy=multi-user.target
NVIDIA-搭建ComfyUI
https://blog.cikaros.top/doc/12dc1b26.html