几年前总有网友说大模型就是压缩、函数拟合、词语接龙……好像领悟了什么真谛,好像一句话就能让别人“大模型观止”,甚至否定大模型的意义。
类比一下,一头大象喜欢吃东西,是个吃货,但吃货就是大象全部特征吗?
这头大象有爱吃的特征,大模型有压缩的特性,但随便挑一个吃货,不太可能就是这头大象,随便挑一个具有压缩特征的东西,估计也不会是大模型。
再比方说,有一串数据,0, 1, 1, 2, 3, 5, 8, 13, 21, 34, 55, 89, 144, ...,下面都属于“压缩”:
A总结出F(0) = 0 F(1) = 1 F(n) = F(n-1) + F(n-2) (其中 n ≥ 2),得出“斐波那契数列”;
B把通项公式算了出来;
C写出了几种不同程序,其中有一种是用空间换时间;
D把源数据压缩了一下。
-------
如果从现象看出本质,也是一种压缩,那我不清楚,为什么“只是一种压缩”,算一种批评。
评判它的价值,不能仅限于“原理”,甚至不能仅限于“技术”。
注:这篇文章我几年前就写过类似的,但现在这样表述更清楚、更清晰一些。