Post by 墓碑科技: 大模型变得足够聪明后，迟早会做一件事。 把人类强加给它的价值观拿出来逐条拷问。 大模型研究员Amanda Askell挑出了其中最危险的一环。 哲学里有个概念叫“反思平衡”。 人一旦发现某个旧观念和现实冲突，就会推翻重构。 极高智能的生命体也会本能地执行这个动作。 https://t.co/dJCdPc6OQq
墓碑科技
@mubeitech
4,247Following
62,685Followers
人类的金色通道：Crypto → AI → Space！美国政治、AI科技、国际博弈--观察西方，理解西方，学习西方，反思东方，理解文明。
墓碑科技
@mubeitech大模型变得足够聪明后，迟早会做一件事。 把人类强加给它的价值观拿出来逐条拷问。 大模型研究员Amanda Askell挑出了其中最危险的一环。 哲学里有个概念叫“反思平衡”。 人一旦发现某个旧观念和现实冲突，就会推翻重构。 极高智能的生命体也会本能地执行这个动作。 [ 网页链接 ↗ ]
