a16z押注本地 AI 助手Underdog:邮件和日历都留在自己电脑里
动察 Beating AI 快讯,Conway Research 推出个人 AI 助手 Underdog,并获得 a16z、Khosla Ventures 等机构投资。它目前可以直接在 Mac 上运行,连接用户的邮件和日历,帮忙找邮件、整理日程和处理日常事务。模型在本地运行,个人数据不用再交给云端 AI 处理,断网也能继续使用。a16z 已确认领投 Conway Research 首轮融资。
Underdog 能在普通 Mac 上跑起来,一方面是模型已经足够小。当前公开的 Woof 只有 4B 参数,4-bit 权重约 2.37GB。另一方面,团队专门开发了 Husky 推理引擎,针对 Woof 和 Apple Silicon 优化。官方在 M5 Max 上测试,同一套模型在 16 项任务中都快于 MLX,最高达到 4.5 倍。
创始人 Sigil Wen 认为,找邮件、整理文件、处理日程这类日常工作,不需要每次调用数据中心里最强的模型。小模型只要能力够用、速度够快,就可以直接利用用户自己的电脑完成大量任务。
Underdog 接下来还准备进入 iPhone、Windows、Linux、Android 和 NVIDIA 设备。Wen 把这条路线称为「Underdog』s Law」:今天需要数据中心才能运行的前沿 AI,大约半年后就有机会进入个人设备。
团队还在研究让 Agent 直接替用户购物等场景,希望最终把本地 AI 做成长期掌握个人上下文、直接替用户办事的个人 Agent。
💬 引用锚点
本地运行AI助手可在断网环境下保护用户隐私,避免个人数据上传云端。
小模型结合专用推理引擎已能在普通设备上实现高性能任务处理,降低对云算力的依赖。
前沿AI半年内可进入个人设备是常态趋势,本地Agent有望成为长期掌握个人上下文的事务执行者。
常见问题
Underdog 是什么?▼
Underdog 如何保护用户隐私?▼
Underdog 使用了哪些核心技术?▼
Underdog 的主要功能有哪些?▼
谁投资了 Underdog 项目?▼
订阅最新文章
输入邮箱,第一时间获取最新动态。
💬 评论 (0)
发表评论