「OpenAI动荡背后的路线之争:有效利他主义与有效加速主义」的摘要信息
OpenAI管理层的动荡,大概是前两周科技圈最热的新闻,讨论非常多。相比商业部分,我对陶芳波在这档播客节目中提到的AI路线之争更感兴趣,原来OpenAI成立至今8年的时间中,路线之争一直存在,并发生过多次分裂,此前最著名的一次是2021年几位OpenAI早期员工离职创建Anthropic公司,并推出GPT的竞品Claude。Claude应该是目前市面上,仅次于GPT的AI对话产品。 所谓路线之争,主要是两派:有效利它主义(EA)和有效加速主义(E/ACC),两者都支持AI的发展,只是前者偏保守,追求确保AI安全的前提下进行产品化和商业化;后者更激进,希望加速产品化和商业化。 陶芳波基于Sam和Ilya近期的采访认为,GPT-5技术上应该有大的突破,以至Sam和Ilya可能在对技术应用产生分歧,这是导致Ilya投票同意辞退Sam的原因之一。 我不知道这两个路线哪个更好,但我对人性(作为整体的乌合之众)比较悲观,并认为在利益面前,有效加速主义将胜出。 Ilya在某次采访中做了个比喻表达他的担心说:AI和人类的关系可能会发展成人类与宠物的关系。——人类爱宠物,但这个爱不平等。 当前AI的发展速度似乎比移动互联网还快,ChatGPT发布仅仅一年时间,已经有很多产品真真切切的侵入到生活和工作当中,甚至影响了某些行业的就业机会。移动互联网短短15年已经彻底颠覆了人们的生活,15年后的AI会是什么样的?想想挺可怕。 (2023-11-28@上海)