
两大AI领域争议:一是数学家抗议AI大模型剽窃人类未完成的研究成果并抢先发表,提出AI不得抢发、必须标注人类贡献、研究成果需人类负责三大要求;二是Anthropic指责其他公司通过“蒸馏”(包括黑盒和白盒方式)其Claude模型提升自身能力,但个人认为知识学习本应共享,Anthropic自身也大量蒸馏人类知识,存在明显双标。最后分析了美国CPI数据及加息可能性,指出通胀已接近控制,9月加息或为最后一次,随后将转入降息周期。
第一个瓜,数学家们集体抗议AI大模型。
事情大致如下,最近AI大模型证明了很多数学猜想,但是数学家们发现,这些证明很可能是剽窃了人类的已有成果。
打个比方,现实中有一种学术不端行为叫做“抢发”,A写了一篇论文,已经完成了95%,B看到了这篇论文草稿以后,赶紧组织人力把剩下的5%完成,抢在A之前投稿,就变成了成果的所有者。
大模型差不多也是如此,很多人类数学家在研究某个问题,将未完成的成果上传到AI大模型,本意是希望大模型能够帮助完成工作。
但大模型,或者说是控制大模型的技术人员,发现了这些草稿,于是赶紧调用各种资源来完成研究,并抢先发表出来,作为自己这个大模型牛叉的证明。
所以数学界提出三个要求。
1、AI大模型不得抢发人类研究。
2、AI大模型做出的成果,必须恰当标注人类的贡献,不能骗人说都是我做的。
3、所有研究成果必须有人类数学家署名和负责,AI不允许单独发布研究成果。这个我理解就和看病一样,哪怕是AI出的治疗方案,也必须有人类医生审核并签名,否则出了医疗事故算谁的?
可能很多人不太理解这些要求,我给你们举个例子。
我博士读了5年多,前5年其实就在思考一个问题:博士论文到底研究什么题目。
论文写了半年左右,其中前面5个月都是在不断调整论文的结构,尝试用各种方法来获得数据、寻找思路和方法,这些都是创造性工作,最后1个月则类似搬砖,把所有的材料和数据组织在一起,形成论文。
最后这个月的工作,随便找个硕士或者优秀本科生来,都可以完成,甚至比我做得更好,但前5年5个月的工作才是关键。
AI大模型目前做的就是最后一个月的工作,但却将成果据为己有。
所以我当然100%支持数学家们的要求。
……
第二个瓜,Anthropic写了100多页的小作文,表示全球很多大模型都在蒸馏我,是不道德的,里面还提供了许多细节。
总体来说,这些大模型有三种行为。
1、黑盒蒸馏,也就是问了Cluade很多问题,拿到答案以后反推过程,以此来增加自己的能力。
2、白盒蒸馏,不仅要答案,而且还很详细问了思考的过程和细节,以此来增加自己的能力。
无论是白盒还是黑盒,其实都对应现实中的人类学习行为。就像一道数学题你不会做,去请教老师,黑盒就是老师只告诉你一个答案,白盒就是老师还把结题过程详细教给你。
两种都是有用的,黑盒更有用。
个人看法,无论白盒还是黑盒,都是合理的行为,不涉及侵犯知识产权。
拿人类的例子来说,你想办法(如花钱、请吃饭、提供情绪价值等等)请老师给你详细讲了一道题目,然后用这个思路去解决别的题目,这是很普遍的行为。如果这种行为不允许存在,人类就没有知识传承可言。
当然,老师有权力说,你出的钱太少了,我不愿意仔细讲;或者说,这个是我的秘密,你给多少钱我都不愿意说。
古代这种现象是很多的,担心“教会徒弟、饿死师傅”,所以老师经常只讲一点点,不愿意多说。
但总体看,所谓蒸馏,就是“学习”,你可以不教,甚至挡着别人来学,但不能说别人想办法来学这件事是不道德的。
因为知识是属于全人类的,而不是某个人,或者某家公司。
反过来说,Anthropic自己也蒸馏了无数人类的知识和数据,几乎也没有付费。既然你可以蒸馏别人,别人为何不能蒸馏你呢?
3、有公司直接将用户提问转发给Claude,并将Claude的回答转发给用户,自己只当一个中转站。
其实这种行为现实中也很常见,比方说学生问了老师一个问题,老师自己也没啥把握,就转问了其他同事,最后把答案转回给学生。在这个过程中,老师自己也是一边学习(蒸馏),一边回答问题。
唯一不妥的地方在于,如果学生这个问题涉及到隐私,在转发过程中就扩散了这个隐私,对学生不负责任。
推论则是,未来涉及到重大机密的课题,大概都会部署自己的私有AI大模型,而不是直接在公网上提问。这个私有大模型大概率是开源的,或者是和你利益完全绑定的闭源模型。
不难发现,上面两个巨瓜是有关联的。
就是OpenAI和Anthropic两大巨佬一边在拼命蒸馏人类的知识,还抢占人类的研究成果,但另一边则道德绑架其他大模型公司,试图将他们的蒸馏定义为不道德的。
双标玩得很溜,只能说一句在下佩服。
…….
周五晚美国公布了CPI数据,其中8月核心CPI同比+2.4%,创2021年以来的新低。说个比较粗暴的结论,就是西大目前已经接近控制住了通胀问题。
另外,海湾国家和伊朗打算进行会谈,聊霍尔木兹的通行问题,伊朗在这个问题上的态度有所软化。这也是伊朗一贯以来的口径,霍尔木兹问题和美国无关,是海湾国家之间的事。
除了CPI数据以外,西大人均薪酬数据也是不支持加息的。
由于金融行业大量裁员(用AI取代人),导致高薪岗位减少,目前西大的人均薪酬水平是下降的。嗯,美概互联虽然也裁员,但同时也招人,总量还没有减少。
所以,虽然目前显示9月加息概率高达90%,但未必一定会加。
即便真的加了,那很可能是最后一次加息,后面转入降息周期。
所以周五晚油价下跌,黄金、铜等反弹,纳指强势反弹,正规市场不是开玩笑的。
就这些。💸