深思考首发鸿蒙版deepseek超小端侧模型,支持多模态

AI百科2天前发布 快创云
4 0

  端侧AI技术正引领智能硬件应用新趋势。以DeepSeek R1为代表的高效模型,在维持卓越性能的同时,成功大幅缩减模型参数,有效解决了以往端侧AI对存储空间需求高、算力消耗大及推理延迟等部署难题,使得端侧AI能够低成本、低能耗地应用于手机、PC、摄像头、机器人等多种终端设备。

  在此背景下,深思考人工智能(iDeepWise.ai)于2月23日上午,正式发布了鸿蒙系统“TinyDongni”及“DeepSeek”超小端侧多模态大模型,并与国产模组领军企业广和通、深开鸿达成合作,共同推出适配国产算力的硬件解决方案。

  深思考人工智能,作为专注于类脑人工智能与多领域技术探索的高新科技企业,凭借长期的技术积累,在多模态深度语义理解及人机交互技术方面拥有显著优势,已将其大模型技术深度融入智慧医疗、智能终端等多个应用场景。此次合作标志着国产端侧AI技术在低功耗、高性能领域取得了重大突破,打破了“国产算力性能不足”的固有观念。通过“模型+硬件+生态”的三位一体方案,为智能终端厂商提供了便捷的端侧AI能力,加速赋能各行业。

  此次发布的TinyDongni和DeepSeek系列端侧多模态大模型,在减少参数的同时,保证了卓越的应用效果。例如,TinyDongni端侧多模态大模型采用创新量化方法,将参数规模压缩至1.5B,实现了高效运算,并显著降低首Token延迟,支持32K超长上下文理解。此外,通过多芯片协同处理与内存优化技术,TinyDongni实现了低功耗与高响应速度的完美结合。而DeepSeek系列则聚焦于多模态能力,通过优化设计强化复杂场景下的语义理解,降低了内存占用30%,完美适配智能硬件与边缘计算场景。

  为便捷各行业使用,深思考人工智能联合深开鸿、广和通推出了两大解决方案,打造“即插即用”的端侧AI标准化产品。其中,基于深开鸿智能硬件设备,深思考人工智能发布了全自研、基于开源鸿蒙操作系统的端侧多模态大模型及DeepSeek低比特量化模型的模组;而广和通模组则配置了高通QCS8550芯片及高性能图形引擎和综合算力达48TOPS的AI引擎,为车载等场景提供实时AI处理能力。

  这些模组方案的推出,不仅降低了AI智能硬件的技术门槛,缩短了开发周期50%,还在国产算力硬件上成功运行大模型,证明了深思考人工智能技术的轻量化与高效能。目前,这些解决方案可兼容OpenHarmony、Windows、Android、Linux等主流操作系统,满足跨平台部署需求。

  此外,深思考人工智能的TinyDongni端侧多模态大模型在搜索引擎方面展现出强大优势。其支持端侧多模态交互,提供文件、图像、视频搜索功能,覆盖法律、医疗、教育等多个场景。同时,TinyDongni具备深度语义理解模糊搜索能力,大幅提高搜索效率。其“Her”模式还能与用户进行深度情感交流与对话,打造个性化陪伴体验。此外,TinyDongni还支持海外13个国家和地区的搜索功能,提供中文及当地语言两种语言搜索结果。

  在医学领域,深思考人工智能长期深耕并积累了丰富的专业知识。基于“重疾早筛”垂直场景,完成了超10万例临床回顾性分析和验证。截至2024年,宫颈癌筛查量已超过3000万人份。借助TinyDongni和Dongni.ai大模型技术,医学用户能提升工作效率并享受专家咨询、健康报告单解读等服务。

  目前,深思考人工智能的端侧多模态大模型已在存储、医疗、AI PC Suite、智能汽车及人形和萌宠机器人等多个领域实现落地应用。未来随着全球端侧AI市场的持续扩张及端侧商业模式的转变端侧AI将成为AI普惠化的重要支柱重塑产业链格局。深思考人工智能将持续优化多模态交互能力推动AI在医疗、工业、消费等领域的深度应用。

© 版权声明

相关文章