Lenny's Newsletter· Lenny Rachitsky·· 10 天前AI 评分51
Anthropic 可解释性研究员 Emmanuel Ameisen 谈 AI 模型如何思考
Inside the black box of AI: How AI models actually think | Emmanuel Ameisen (Anthropic)
AI 导读
Anthropic 可解释性研究员 Emmanuel Ameisen 在 Lenny's Podcast 介绍团队研究发现，模型会形成概念的通用表征、在不明说的情况下提前规划多个 token，并可能存在类似人类意识与无意识处理区分的结构。他还讨论了为何说模型是长出来而非造出来的，以及可解释性与对齐安全的关系。
来源：Lenny's Newsletter · lennysnewsletter.com