MacPaw联手Liquid AI推进端侧模型落地
摘要
乌克兰软件开发商 MacPaw 正与 Liquid AI 合作,推进本地部署的 AI 模型能力。双方计划先将这套技术用于 MacPaw 自家的 AI 助手 Eney,后续再向 SetApp 平台开发者开放,用于构建可在设备端运行的 AI 应用。先用于本...
乌克兰软件开发商 MacPaw 正与 Liquid AI 合作,推进本地部署的 AI 模型能力。双方计划先将这套技术用于 MacPaw 自家的 AI 助手 Eney,后续再向 SetApp 平台开发者开放,用于构建可在设备端运行的 AI 应用。
先用于本地版 Eney
MacPaw 去年发布了 AI 助手 Eney,目前正准备推出本地运行版本。为此,Liquid AI 将为其开发名为 Elix 的端侧推理系统,并配套本地记忆系统。
Liquid AI 联合创始人兼首席执行官 Ramin Hasani 表示,这类模型会先根据硬件选择不同架构,以提升设备端运行效率,同时兼顾隐私和安全。MacPaw 首席执行官 Oleksandr Kosovan 也表示,本地模型还能支持离线运行的助手和自动化工作流。
SetApp准备引入更多 AI 应用
MacPaw 还计划调整订阅制应用商店 SetApp 的 AI 产品布局。该平台目前拥有超过 15 万名付费用户,公司希望未来承载更多 AI 应用。
在与 Liquid AI 确定本地处理架构后,MacPaw 打算把这套技术栈开放给开发者,让他们在自己的应用中接入端侧推理能力。Kosovan 说,平台也会接入谷歌等公司的云端模型,作为开发者统一调用的入口。
测试积分制计费
MacPaw 已开始测试新的积分计费方式。用户可根据手中积分数量,以及任务复杂度,执行一定次数的 AI 操作。
文章提到,苹果已经向开发者提供自家的本地模型能力。不过 Liquid AI 认为,其模型更强调针对不同任务的性能优化,同时也在构建模型定制能力,使模型可结合用户输入持续调整。
评论 (5)
积分制计费有点意思,按积分和任务复杂度操作AI,不知道会不会让用户用起来更灵活。
SetApp想引入更多AI应用,还接入云端模型,这布局挺广,就看后续开发者能做出啥好应用。
和苹果的本地模型比,强调性能优化和定制能力,看能不能做出差异化优势来。
这合作挺不错,先用于自家助手再开放,能让更多开发者用上端侧推理能力,还测试新计费方式,有想法。
搞端侧模型落地,还兼顾隐私安全和离线运行,就是不知道实际用起来效果咋样。