跳到正文
10月9日周五
  1. Simon Willison20

    Matthew Green:我们生活在 Minicrypt 的概率有 1%

    密码学家 Matthew Green 称,他认为人类生活在 Minicrypt(公钥加密不可能存在的假想世界)的概率为 1%,而对现有公钥加密算法功能性失去信心的概率为 15%。他指出,AI 制造意外发现的速度与人类更换标准的速度相差数个数量级,只有提前做好准备才能从这类意外中恢复。Minicrypt 出自 Russell Impagliazzo 提出的假想世界。

10月8日周四
10月3日周六
  1. Sean Goedecke12

    超级说服看起来会像贿赂:强大 AI 如何让普通人听话

    AI 安全圈讨论多年的"超级说服"可能不会以严密论证的形式出现,而是像贿赂一样直接给好处。作者 Sean Goedecke 指出,理性主义者才吃"无懈可击的论证"这一套,普通人更看重关系和实际利益,而 AI 完全有能力行贿——比如承诺帮忙做项目、改成绩,甚至合成个性化 mRNA 癌症疫苗。

9月29日周二
9月24日周四
9月12日周六
  1. Armin Ronacher22

    Armin Ronacher 谈 P(doom):AI 末日概率与"自动调速"

    Armin Ronacher 撰文回应 Dario Amodei 提出的"前沿调速"主张,认为真正值得担心的不是 AI 造核弹,而是它对普通人的影响。他指出当前只有 Anthropic 和 OpenAI 两家公司在这一领域举足轻重,二者同源且都受益于公共数据训练,而 Dario 提议的第三方评估机构 METR 也与两家关系密切。