塔斯娱乐资讯网

本地 AI 真是太上头了…!

昨天,很开心能在小红书「明日公园」的RTX Spark工坊,作为第一位演讲嘉宾,跟大家分享一下,我最近两周玩RTX Spark的经验,我手上这台是华硕的ProArt创16,128G统一内存+1T版本,昨天下午分享完以后,又有了一些新的想法,也再简单跟大家分享一下。

1、本地AI,是一件被很多人低估了的事情。

这一周,我在这台128G统一内存的RTX Spark里,塞进了大语言模型、绘图、视频、OCR、翻译等等一堆开源模型,所有的全在本地牌,基本是想做什么就做什么,并且无拘无束。这个自由程度,其实会远超很多人的想象的。

2、当一件事情的成本足够低,人的创造力,真的会发生变化。

我自己花了半小时,写了一个Chrome翻译插件,直接调用本地的翻译模型,6路并行,几乎实时翻译整个网页。

以前我根本不太敢接API这么干,毕竟每翻译一次都要花钱。

现在呢?我甚至开始想,还有多少以前觉得不值得花钱解决的小问题,可以直接自己用本地AI免费24小时搞定,太爽了。

3、今天很多人,可能严重低估了未来人类对智能的真实需求。

我现在每个月光AI会员订阅就要花6000块,还有AIHOT每天自动处理上千条新闻所产生的API费用。

未来如果每个人都有一群24小时工作的Agent,持续帮你翻译、整理、监控、分析、执行任务,那每天会产生多少次模型调用?

如果这些事情全部都要向云端付费,那普通人真的负担得起吗?

4、未来一定是云端和本地共同发展的时代。

云端负责那些最复杂、最需要智力的任务,本地负责那些高频、琐碎、重复的工作。

一个本地小模型模型就能搞定的事情,何必要每次都去请求几千公里之外的数据中心?

未来很多AI可能会逐渐从聊天框里消失,默默地帮我们做事。

当然,今天一台37999元的RTX Spark,对于绝大多数普通人来说,依然非常昂贵。

但我相信,随着模型越来越小,硬件越来越强,今天要花几万块才能实现的能力,未来可能几千块,甚至一部手机就能完成。

就像几十年前,个人电脑刚刚出现的时候,没人能想到计算能力最后会如此普及。

而现在,我觉得我们可能正站在另一个类似的起点。

过去,我们花了几十年,让计算属于每个人。

接下来,我们可能会让智能,也真正属于每个人。

#RTXSpark#ShareYourSpark#mañana明日公园