ARTIFACT // RUN-EDGE-ORIN-NANO2-DEEPX-RISCV.SH (SH)
边缘 AI 实测启动脚本:树莓派 5 + DEEPX DX-M1M (3W)、Jetson Orin Nano 2 与 RISC-V RVA23 (LFM3-1.7B) (run-edge-orin-nano2-deepx-riscv.sh)
一键核验边缘 NPU/GPU/RISC-V RVV 环境,在树莓派 5 + DEEPX DX-M1M (3W)、Jetson Orin Nano 2 或 RISC-V RVA23 上启动 LFM3-1.7B 与视觉推理管线。
[核心实测结论 / TL;DR]本配置包「边缘 AI 实测启动脚本:树莓派 5 + DEEPX DX-M1M (3W)、Jetson Orin Nano 2 与 RISC-V RVA23 (LFM3-1.7B)」(文件名:run-edge-orin-nano2-deepx-riscv.sh,格式:SH)是 Tinker AI 实测工坊配套指南《jetson-orin-nano-2-78tops-vs-deepx-dx-m1m-3w-pi5-and-riscv-rva23-edge-ai》的参数化生产模板。支持在本地浏览器实时定制 目标边缘平台(pi5_deepx_lfm3 | jetson_cuda | riscv_rvv) (EDGE_PLATFORM=pi5_deepx_lfm3)、LFM3-1.7B / LFM3-VL-2B GGUF 路径 (LFM3_GGUF_PATH=models/LFM3-1.7B-Q4_K_M.gguf)、物理 CPU 线程数 (-t) (CPU_THREADS=4)、OpenAI 接口端口 (SERVER_PORT=8080) 等 4 项核心变量,默认遵循 127.0.0.1 回环绑定与最小权限规范。
01 // HOMELAB本地 AI / HomeLab· 验证日期:2026-11-16
查看全部 60 套配置附件 →run-edge-orin-nano2-deepx-riscv.sh
查看配套实测指南 →边缘 AI 实测启动脚本:树莓派 5 + DEEPX DX-M1M (3W)、Jetson Orin Nano 2 与 RISC-V RVA23 (LFM3-1.7B)
一键核验边缘 NPU/GPU/RISC-V RVV 环境,在树莓派 5 + DEEPX DX-M1M (3W)、Jetson Orin Nano 2 或 RISC-V RVA23 上启动 LFM3-1.7B 与视觉推理管线。
参数化定制变量 (Variables — 自动保存在本地浏览器)
UTF-8 编码 · 零延迟实时编译
#!/usr/bin/env bash
# Tinker AI — Edge AI Runner: DEEPX DX-M1M (3W Pi 5) / Jetson Orin Nano 2 / RISC-V RVA23 (Guide #52)
set -euo pipefail
PLATFORM="pi5_deepx_lfm3"
MODEL="models/LFM3-1.7B-Q4_K_M.gguf"
THREADS="4"
PORT="8080"
if [ "$PLATFORM" = "pi5_deepx_lfm3" ]; then
echo "=== [Pi 5 + DEEPX DX-M1M 3W Mode] Checking PCIe Gen3 NPU & launching LFM3-1.7B on CPU ==="
lspci | grep -iE "DEEPX|DX-M1" || echo "Note: DEEPX M.2 NPU not detected on PCIe; running CPU-only LFM3."
exec llama-server -m "$MODEL" -t "$THREADS" -c 16384 -fa on --cache-type-k q8_0 --port "$PORT"
elif [ "$PLATFORM" = "jetson_cuda" ]; then
echo "=== [Jetson Orin Nano 2 / Orin Nano Super CUDA Mode] Offloading 100% layers to GPU ==="
nvpmodel -q || true
exec llama-server -m "$MODEL" -ngl 99 -c 32768 -fa on --cache-type-k fp8_e4m3 --port "$PORT"
elif [ "$PLATFORM" = "riscv_rvv" ]; then
echo "=== [RISC-V RVA23 Vector Mode] Checking RVV ISA & running llama.cpp v1.0.0 ==="
grep -i "isa" /proc/cpuinfo | head -n 2 || true
exec llama-server -m "$MODEL" -t "$THREADS" -c 16384 --port "$PORT"
else
echo "Unknown EDGE_PLATFORM=$PLATFORM (expected: pi5_deepx_lfm3 | jetson_cuda | riscv_rvv)" >&2
exit 1
fi
PARAMETER SPECIFICATION // 参数化变量规范说明表
「run-edge-orin-nano2-deepx-riscv.sh」可定制环境变量与默认值说明
本配置模板(SH 格式)支持 4 项运行时参数注入,所有替换均在本地浏览器内完成。
| 模板占位符 | 参数用途说明 | 安全默认值 | 填写示例 |
|---|---|---|---|
{{EDGE_PLATFORM}} | 目标边缘平台(pi5_deepx_lfm3 | jetson_cuda | riscv_rvv) | pi5_deepx_lfm3 | pi5_deepx_lfm3 |
{{LFM3_GGUF_PATH}} | LFM3-1.7B / LFM3-VL-2B GGUF 路径 | models/LFM3-1.7B-Q4_K_M.gguf | models/LFM3-1.7B-Q4_K_M.gguf |
{{CPU_THREADS}} | 物理 CPU 线程数 (-t) | 4 | 4 |
{{SERVER_PORT}} | OpenAI 接口端口 | 8080 | 8080 |
PAIRED HARDWARE MANIFEST // 配套实测环境与边界记录
配套指南《2026 边缘 AI 新硬件横评:NVIDIA Jetson Orin Nano 2(78 TOPS · 15W)、树莓派 5 + DEEPX DX-M1M(3W · 25 TOPS)与 RISC-V RVA23 算力平台》验证基线
实测硬件与操作系统 (Hardware & OS)
边缘硬件目标:NVIDIA Jetson Orin Nano 2(78 TOPS · 8GB LPDDR5x · 15W)、树莓派 5 (8GB) + Sixfab AI HAT+(DEEPX DX-M1M 25 TOPS · ~3W 功耗 · 整机 13–15W)、RISC-V RVA23 平台(SpacemiT V100 / 玄铁 C950)
锁定软件栈与模型版本 (Pinned Versions)
DEEPX DX-NN SDK + Sixfab AI HAT+ PCIe Gen 3 FFC (
~3W NPU, 13–15W total Pi 5 draw)llama.cpp v1.0.0 (LiquidAI/LFM3-1.7B Q4_K_M ~1.05 GB, RVV / ARM NEON / CUDA)Jetson Orin Nano 2 reference specs (78 TOPS, 8GB LPDDR5x, 8-core Arm CPU, 15W envelope)离线与安全边界 (100% 离线边缘视觉与轻量语言模型推理)
视觉检测、NPU 推理与本地 LFM3-1.7B 语言模型均在 15W–27W 供电预算内 100% 离线运行。
已知限制与失败边界 (Known Limits)
DEEPX DX-M1M(板载 1–2 GB 内存)专攻视觉检测,需搭配宿主机 CPU 跑语言模型:DX-M1M以~3W超低功耗提供 25 TOPS 视觉算力且模组单价约$30,但板载仅 1–2 GB 内存,无法独立装入 7B LLM。最佳组合是 NPU 跑多路 YOLO 视觉,树莓派 CPU 跑LFM3-1.7B或BitNet。- Jetson Orin Nano 2 上市窗口与 8GB 内存上限: Orin Nano 2 于 2026 年 8 月发布,预计 2027 年上半年正式铺货(官方售价待定)。其 8GB LPDDR5x 仍适合
1.7B–4B端侧模型,跑 7B+ 长上下文依然会触发内存瓶颈。 - RISC-V RVA23 生态驱动仍需逐项核验: 尽管
RVA23统一了RVV 1.0矢量指令集,让llama.cpp v1.0.0可直接编译优化,但外接 PCIe NPU/GPU 的驱动支持仍不如 x86/ARM64 成熟,选型前务必确认厂商 SDK 支持列表。
DEPLOYMENT CHECKLIST // 配置落地核验步骤
部署 run-edge-orin-nano2-deepx-riscv.sh 后的 3 步验收清单
- 已确认树莓派 5 使用足额 27W (5V/5A) 电源并开启
dtparam=pciex1_gen=3以保证 M.2 NPU 满速通信。 - 已将视觉检测隔离在
DEEPX DX-M1M板载内存中,并将LFM3-1.7B(~1.05 GB)留在树莓派主存运行。 - 已在持续 15W 满载下通过
vcgencmd measure_temp或tegrastats核验无过热降频。