刘备教授 - 努力进化 在这个市场里站着把钱赚了

两大AI领域争议:一是数学家抗议AI大模型剽窃人类未完成的研究成果并抢先发表,提出AI不得抢发、必须标注人类贡献、研究成果需人类负责三大要求;二是Anthropic指责其他公司通过“蒸馏”(包括黑盒和白盒方式)其Claude模型提升自身能力,但个人认为知识学习本应共享,Anthropic自身也大量蒸馏人类知识,存在明显双标。最后分析了美国CPI数据及加息可能性,指出通胀已接近控制,9月加息或为最后一次,随后将转入降息周期。

第一个瓜,数学家们集体抗议AI大模型。

事情大致如下,最近AI大模型证明了很多数学猜想,但是数学家们发现,这些证明很可能是剽窃了人类的已有成果。

打个比方,现实中有一种学术不端行为叫做“抢发”,A写了一篇论文,已经完成了95%,B看到了这篇论文草稿以后,赶紧组织人力把剩下的5%完成,抢在A之前投稿,就变成了成果的所有者。

大模型差不多也是如此,很多人类数学家在研究某个问题,将未完成的成果上传到AI大模型,本意是希望大模型能够帮助完成工作。

但大模型,或者说是控制大模型的技术人员,发现了这些草稿,于是赶紧调用各种资源来完成研究,并抢先发表出来,作为自己这个大模型牛叉的证明。

所以数学界提出三个要求。

1、AI大模型不得抢发人类研究。

2、AI大模型做出的成果,必须恰当标注人类的贡献,不能骗人说都是我做的。

3、所有研究成果必须有人类数学家署名和负责,AI不允许单独发布研究成果。这个我理解就和看病一样,哪怕是AI出的治疗方案,也必须有人类医生审核并签名,否则出了医疗事故算谁的?

可能很多人不太理解这些要求,我给你们举个例子。

我博士读了5年多,前5年其实就在思考一个问题:博士论文到底研究什么题目。

论文写了半年左右,其中前面5个月都是在不断调整论文的结构,尝试用各种方法来获得数据、寻找思路和方法,这些都是创造性工作,最后1个月则类似搬砖,把所有的材料和数据组织在一起,形成论文。

最后这个月的工作,随便找个硕士或者优秀本科生来,都可以完成,甚至比我做得更好,但前5年5个月的工作才是关键。

AI大模型目前做的就是最后一个月的工作,但却将成果据为己有。

所以我当然100%支持数学家们的要求。

……

第二个瓜,Anthropic写了100多页的小作文,表示全球很多大模型都在蒸馏我,是不道德的,里面还提供了许多细节。

总体来说,这些大模型有三种行为。

1、黑盒蒸馏,也就是问了Cluade很多问题,拿到答案以后反推过程,以此来增加自己的能力。

2、白盒蒸馏,不仅要答案,而且还很详细问了思考的过程和细节,以此来增加自己的能力。

无论是白盒还是黑盒,其实都对应现实中的人类学习行为。就像一道数学题你不会做,去请教老师,黑盒就是老师只告诉你一个答案,白盒就是老师还把结题过程详细教给你。

两种都是有用的,黑盒更有用。

个人看法,无论白盒还是黑盒,都是合理的行为,不涉及侵犯知识产权。

拿人类的例子来说,你想办法(如花钱、请吃饭、提供情绪价值等等)请老师给你详细讲了一道题目,然后用这个思路去解决别的题目,这是很普遍的行为。如果这种行为不允许存在,人类就没有知识传承可言。

当然,老师有权力说,你出的钱太少了,我不愿意仔细讲;或者说,这个是我的秘密,你给多少钱我都不愿意说。

古代这种现象是很多的,担心“教会徒弟、饿死师傅”,所以老师经常只讲一点点,不愿意多说。

但总体看,所谓蒸馏,就是“学习”,你可以不教,甚至挡着别人来学,但不能说别人想办法来学这件事是不道德的。

因为知识是属于全人类的,而不是某个人,或者某家公司。

反过来说,Anthropic自己也蒸馏了无数人类的知识和数据,几乎也没有付费。既然你可以蒸馏别人,别人为何不能蒸馏你呢?

3、有公司直接将用户提问转发给Claude,并将Claude的回答转发给用户,自己只当一个中转站。

其实这种行为现实中也很常见,比方说学生问了老师一个问题,老师自己也没啥把握,就转问了其他同事,最后把答案转回给学生。在这个过程中,老师自己也是一边学习(蒸馏),一边回答问题。

唯一不妥的地方在于,如果学生这个问题涉及到隐私,在转发过程中就扩散了这个隐私,对学生不负责任。

推论则是,未来涉及到重大机密的课题,大概都会部署自己的私有AI大模型,而不是直接在公网上提问。这个私有大模型大概率是开源的,或者是和你利益完全绑定的闭源模型。

不难发现,上面两个巨瓜是有关联的。

就是OpenAI和Anthropic两大巨佬一边在拼命蒸馏人类的知识,还抢占人类的研究成果,但另一边则道德绑架其他大模型公司,试图将他们的蒸馏定义为不道德的。

双标玩得很溜,只能说一句在下佩服。

…….

周五晚美国公布了CPI数据,其中8月核心CPI同比+2.4%,创2021年以来的新低。说个比较粗暴的结论,就是西大目前已经接近控制住了通胀问题。

另外,海湾国家和伊朗打算进行会谈,聊霍尔木兹的通行问题,伊朗在这个问题上的态度有所软化。这也是伊朗一贯以来的口径,霍尔木兹问题和美国无关,是海湾国家之间的事。

除了CPI数据以外,西大人均薪酬数据也是不支持加息的。

由于金融行业大量裁员(用AI取代人),导致高薪岗位减少,目前西大的人均薪酬水平是下降的。嗯,美概互联虽然也裁员,但同时也招人,总量还没有减少。

所以,虽然目前显示9月加息概率高达90%,但未必一定会加。

即便真的加了,那很可能是最后一次加息,后面转入降息周期。

所以周五晚油价下跌,黄金、铜等反弹,纳指强势反弹,正规市场不是开玩笑的。

就这些。💸

comments powered by Disqus