用香橙派AIpro部署大模型、安装宝塔搭建私有随身WEB开发环境

AI百科6个月前更新 快创云
46 0

  什么是香橙派

  Orange Pi AI Pro 开发板是华为联合打造的高性能 AI 设备,搭载昇腾 AI 处理器,提供 8TOPS INT8 的计算能力,内存可选 8GB 或 16GB。它支持图像、视频等多种数据分析与推理计算,适用于教育、机器人、无人机等领域。

  如果你拥有这样一块香橙派AI Pro,你会如何使用它呢?

  首先,香橙派AI Pro 可以用于部署大语言模型。例如,通过安装 Ollama,可以运行 llama3、qwen 等大型模型。虽然性能可能受限,但你可以尝试探索其极限。此外,香橙派 AI Pro 还支持安装宝塔面板(BT Panel),这是一款服务器管理软件,可以帮助你轻松管理服务器,提升运维效率。通过宝塔面板,你可以一键部署 WordPress 等网站系统,实现快速建站。

  香橙派 AI Pro 的硬件规格包括:

  • CPU:昇腾 AI 技术路线(据传是 A55)
  • 内存:8GB/16GB LPDDR4X(我使用的是 8GB 版本)
  • HDMI 2.0 输出接口:2个
  • 千兆网口:1个
  • USB3.0 接口:2个
  • USB Type-C 3.0 接口:1个
  • Wi-Fi5 + 蓝牙 4.2
  • 支持 SATA/NVMe SSD 2280 的 M.2 插槽
  • 可外接 32GB/64GB/128GB/256GB eMMC 模块
  • Type-C 供电

  详细信息请访问:Orange-Pi-AIpro 产品页面

  将香橙派 AI Pro 连接显示器、键盘、鼠标和网线后,开机时风扇声音较大,但进入系统后声音会变小。你可以通过 SSH 远程连接进行进一步操作。Ubuntu 系统的固定 IP 可以设置为 192.168.1.22,以避免 IP 被局域网占用的情况。

  在 Ubuntu 22.04 系统下,你可以使用 VNC 远程控制香橙派。我在板子上添加了一块 1T 的 SSD,并挂载到 /www 目录下。准备工作完成后,就可以开始搭建本地的模型了。

  除了部署大语言模型外,香橙派 AI Pro 还支持多种应用场景。例如,它可以作为学习 Linux 的有力工具,满足大多数 AI 算法原型验证、推理应用开发的需求。此外,它还可以用于智能家居设备的控制和管理等。如果你拥有这样一块小设备,你会如何发挥它的潜力呢?请分享你的创意和想法吧!

© 版权声明

相关文章