AI 这个词现在很火爆,但 AI 是新技术吗?不认为 AI 是一个新的技术,其实这些概念的提出都是在几十年前的事情了。
受限于当时的计算机计算能力,AI 很多概念都来源于人工神经网络,《人工智能》这门课程早在几十年前就是大学的必修课程了。
二十世纪40年代后期,心理学家唐纳德·赫布根据神经可塑性的机制创造了一种对学习的假说,现在称作赫布型学习。赫布型学习被认为是一种典型的非监督式学习规则,它后来的变种是长期增强作用的早期模型。
从1948年开始,研究人员将这种计算模型的思想应用到B型图灵机上。
但受限于当时的计算机处理能力,很多概念无法实现。
对搜索的厌倦
人类对知识的获取总是希望越快,越准确越好。
搜索引擎的作用是把所有所有索引到的内容通过一定的优先级进行排序的方式显示出来,但现实的过程中并没有对具体需要的内容进行分析和编排,导致很多内容无效。
使用 Google,对于一些一般性的内容,通常都能找到不少的答案,但那个答案是正确的,需要使用搜索的人自己去判断,甚至尝试。
在计算机里面举个例子,校验电话号码的正则表达式是什么?
如果之间使用搜索,会出现一堆结果,但那个结果是正确的,需要自己去验证。
AI 的作用
AI 针对上面的问题,进行了了处理,通常能够返回一个相对准确的结果。
针对这个相对准确的结果能够降低在搜索使用时候的无力感。
我们甚至可以把 AI 定义为:带有 API 功能的更高准确率搜索引擎。
这个更高准确率是需要通过 LLM (大型语言模型)来训练后生成。
怎么训练 LLM
训练 LLM 需要计算能力,用土话来说,AI 对模型的训练算法需要 GPU 来通过更大的计算能力,CPU 也不是不可以,只是 GPU 的效果更好。
这个主要也是根据 CPU 和 GPU 的特性和指令集来决定的。
从上面的图片可以看到 GPU 在训练 AI 模型上比 CPU 更有优势。
在这个时候,简单粗暴的办法就是堆性能,你的模型可能不是那么先进,也可能是里面代码是有不少可以优化的地方,也可以采取一些方法来避免过度的使用硬件性能。
但在这一切都以快为基础的情况下,堆机器是最快的解决办法,这也很印度。
软件不行,硬件来凑。
华尔街在这里面看到了商机,也逐步的推高了英伟达的市场估值,好像现在没有英伟达的 高端 GPU 芯片模型都跑不了一样的。
当然,对马斯克和华尔街来说是乐见其成的,他们能够通过这些概念来强化市场。
前一段时间,AWS 来我们公司推销 LLM,最后什么都谈得还可以,唯独是这训练使用的机器谈不明白,因为 AWS 希望推荐使用最高性能的 GPU 优化后的机器来处理 LLM。
就上面这个配置,一小时需要 3 美元,训练的适合还不能只用这样一台机器,还需要多个 VPS 叠加 GPU。
根据公司内部的资料完成训练的话,每个小时都几百美元的支出,这谁受得了。感觉 AWS 的目的就是来卖他们的 EC2 的,至于模型优化啥的都不是回事。
Deepseek
Deepseek 的做法就很中国。
我们擅长于把一个产品做到市场上都没有竞争对手,最大的对手是自己。
硬件差点意思,我们改软件。
我们证明,虽然我们达不到 GPT 完全等同的效率,但也大差不差,最主要的是我们便宜。我们能做到极致的便宜。
我们不需要高级的 GPU,就算是低性能的 GPU 我们也可以玩的。
Deepseek 可以说是 AI 市场的一根搅屎棍,本来华尔街那边都在等着数钱,结果有人站出来说这 AI 也不需要那么复杂的计算能力,就是个普通小机器也是可以玩的。
就好像说,Oracle 告诉你他们的数据库只适合跑小型机上,PGSQL 站起来说,就是个 4G 的虚拟机也可以玩数据库的高级功能的,性能大差不差。
SQLite 更加不服了,我更小。
对数据库和 LLM 来说,真实的需求是不同的,没有人能够承担数据丢失的损失,但 LLM 不同。
那个模型便宜我就用那个模型训练,就算训练坏了,没事,原始数据没丢,换个模型重新来,只要训练速度足够快,价格足够便宜。
Deepseek 的作用不在于说 Deepseek 真正有多强大,在于 Deepseek 把 AI 的一堆概念给整明白了,后来发现这东西也没那么玄乎,可能最后你可以在自己家都可以训练自己的 AI 了。
DeepSeek 证明了什么 - AI - iSharkFlyAI 这个词现在很火爆,但 AI 是新技术吗?不认为 AI 是一个新的技术,其实这些概念的提出都是在几十年前的事情了。 受限于当时的计算机计算能力,AI 很多概念都来源于人工神经网络,《人工智能》这门课程早在几十年前就是大学的必修课程了。 二十世纪40年代后期,心理学家唐纳德·赫布根据神经可塑性的机制创造了一种对学习的假说,现在称作赫布型学习。赫布型学习被认为是一种典型的非监督式学习规则,它后来的变种是长期增强作用的早期模型。 从…https://www.isharkfly.com/t/deepseek/16855