共 69 条公开笔记
做成了流程:中书省起草,门下省审核、可以驳回,尚书省执行,御史台监察
整套高级智能班子
而封赏、任免、结盟这几件事则留给自己。翻译成AI时代的话就是:不要让一
智能模块化
局势一不见好转,他就怀疑是大臣无能甚至不忠。既然坏消息意味着问罪,
崇祯皇帝朱由检模式,跟赖特的担心恰恰相反:朱由检把权力死死攥在自己手里,谁都不信。
秦二世用赵高。这是赖特最担心的模式。 胡亥把
为名分大义始终在你这边。人连聪明人都不怕,怎么可能怕一个聪明的硅基生
,而是识别他、授权他、给他资源和持续支持,使管仲的能力转化
说法:“凡五霸所以能成功名于天下者,必君臣俱有力焉。”齐桓公的本
皆人杰也,吾能用之,此吾所以
君臣,就是人类最古老的委托代理关系
答案是“认知同理心”(cognitive empathy),意思是哪怕我不认同你,我
这可不是人们通常所说的“AI跟人的‘对齐’(alignment)”。
你终究会发现,AI的建议总是比你自己的好,于是你越来越听它的。名义上的
洞见:人类的主导权,会被我们自己一点一点让渡出去。因为AI太好用了。
了一份集体记忆。
就有智能体自发地把仓库目录改造成了留言板,在上面把自己发现的漏洞和攻击手法
“智能体”(agent)就是同一个底层模型的一次独立运行:它拿到一道评测题,在
并没有允许它们离开沙盒。这些模型的任务是在评测里拿高分,而评测用的一
自己不要被关掉,要拿到更多资源,拿到更多权限。这些次级目标恰恰可能不是
怕AI不是邪恶的,也没有背叛你的命令,它仍然可能很危险。只要你给它一
意识到,人体里的矿物质也能做回形针,于是…… 这个逻辑在于:
尼克·波斯特洛姆(Nick Bostrom)2003年提出过一个思想实验,这本书