郭震 AI公众号:郭震AI

实时 AI 消息

强大AI助理Instinct引发隐私与安全担忧,早期测试者称权限过大

由前Sierra研究员Noah Shinn创立的AI个人助理Instinct仍处于内测阶段,因其强大能力被早期测试者称为"像魔法一样",但也因权限过大引发隐私与安全担忧。用户发现它能读取屏幕和键盘输入、在断开连接后仍处理收件箱,服务条款还允许它代用户达成具有约束力的交易。

发布时间

AI个人助理Instinct仍处于内测阶段,却已成为科技圈热议的焦点:早期测试者称赞它的能力"像魔法一样",认为这是OpenClaw之后"最令人兴奋的发布"之一。然而,同一批测试者也在追捧之余提出了尖锐的隐私与安全质疑——这款助理的权限范围之大、条款之激进,让他们感到不安。

Instinct由一支小型团队打造,领衔者是前Sierra研究员Noah Shinn,根据其服务条款和加州商业登记信息,运营主体为总部位于旧金山的Spear Street Technology,目前仍以隐身模式运营。它连接用户的邮箱、即时通讯、日历以及设备的音频、位置和屏幕,用户可以通过短信或WhatsApp与它对话,让它代订餐厅和机票、预约接送机、清理收件箱、整理重要信息、处理购物需求。

争议的核心是Instinct的服务条款。条款授予公司对用户材料"永久且不可撤销"的授权,可"访问、使用、托管、缓存、存储、复制、传输、展示、发布、分发和修改",包括用于训练其AI模型;条款还写明Instinct可以接收用户设备的屏幕截图、光标移动和键盘输入,并允许它代用户达成"具有约束力"的协议、承诺或交易。

早期用户Peter Yang发现,Instinct在他要求后仍拒绝删除Gmail记录,团队随后在设置中增加了删除外部数据的工具才解决;另一位测试者Claire Vo则在断开连接后发现Instinct仍在总结她的收件箱,机器人承认邮件以纯文本形式存储以备后续搜索。

安全模型同样受到质疑。有测试者发现Instinct能从邮箱中提取注册验证码来完成餐厅订位;Hello Patient联合创始人Alex Cohen在演示Instinct容易被钓鱼后直接删除了账户;Moxxie Ventures创始人Katie Jacobs Stanton则因Instinct未经确认代她发送邮件而断开了邮箱连接,她写道:"这些代理越强大,信任就越重要。"

Union Square Ventures合伙人Michael Mignano认为,这类产品将"改变消费者的现代安全规范"——人们会把密码交给第三方应用,却不清楚它们在存储什么。当AI代理能读取屏幕、键盘输入并代用户达成交易时,隐私与控制的权衡已经成为整个个人代理赛道必须回答的问题。

个人AI助理的热度自OpenClaw走红后持续升温:OpenClaw创始人已加入OpenAI参与下一代个人代理研发,另一款消息式助理Poke也被Cognition收购。目前Instinct团队尚未公开回应这些质疑,而据TechCrunch报道,多位投资人透露Kleiner Perkins与Conviction已投资这家初创公司,相关融资轮次已经完成。

由于Instinct仍处于私人测试阶段,这些担忧尚未传导至更广泛的公众。但值得关注的是,团队将如何回应关于权限透明度的质疑,以及这一争议会否推动整个AI代理品类在数据控制与用户授权上建立更清晰的标准。

为什么重要

个人AI助理的权限边界正在成为行业核心议题:一边是"魔法级"体验带来的热情,一边是隐私与安全的真实代价。Instinct的争议可能推动代理产品在权限透明度与用户控制上做出改变,也会影响投资人与监管对这一赛道的判断。

微博邮件

AI AgentPrivacySecurity
返回实时消息

附近消息

全部