论文解读、算法突破、架构分析
本文是Transformer系列的终章,深入剖析LayerNorm、残差连接、前馈网络和编码器-解码器注意力这些关键组件,它们虽小却支撑着整个模型的高效运转。读完你将完整看到Transformer的每一块拼图。
有些Python库不会教你新知识,但能让你从繁琐的手动操作中解脱。本文以APScheduler为例,展示这类库如何用两行代码搞定定时任务。
罗切斯特大学团队开发基因疗法平台,利用脑部类淋巴系统输送改造的病毒载体,实现人类胶质细胞广泛转导,绕过血脑屏障和肝脏毒性,为多发性硬化、亨廷顿病等脑疾病提供新路径。
NASA 与七家美国公司签订约 1700 万美元合同,研发下一代火星机器人移动系统。同时,Firefly Aerospace 获 1300 万美元分包合同,为 SkyFall 直升机任务建造防热罩。
本文是 PyTorch 性能分析系列第三篇,聚焦注意力机制的性能优化。通过 Profiler 工具可视化 Transformer 中 attention 层的计算瓶颈,对比标准实现与 FlashAttention 的差异,并给出实战优化建议。
OpenAI近日宣布撤回对SWE-Bench Pro作为AI编码能力可靠基准的推荐,内部审计发现约30%的测试任务存在缺陷,且噪声天花板约70%,削弱了评估前沿模型的价值。
Anthropic 与 AE Studio 联合提出 GRAM 方法,通过在语言模型中添加小型辅助模块,将危险知识(如病毒学、核物理)隔离为可移除模块。删除模块后,模型如同从未训练过该数据,而通用性能几乎不受影响。该方法有望在不牺牲模型能力的前提下,实现细粒度安全管控。
台积电计划到2028年将光子集成电路月产能从500片扩至25000片,增长超过30倍。英伟达、博通和AMD被视为首批客户,但产能瓶颈和良率问题(目前仅为20%-50%)可能影响CPO部署。
澳大利亚昆士兰海滩出现6个金属球体,经鉴定为外国火箭再入大气层后的压力容器。消防部门启动危险品应急响应,居民疏散,目前海滩已重新开放。
加州大学圣地亚哥分校的研究人员首次使用远程操控的人形机器人进行活体手术,相关成果发表在《自然》杂志。两台名为“Surgie”的机器人成功完成胆囊切除等操作,展现了便携机器人扩大手术可及性的潜力。
加拿大多伦多西奈健康团队利用新型基因编辑工具CRISPR-KOALA,发现了81个与基底样三阴性乳腺癌相关的未知基因,解决了染色体混乱如何驱动这种致命癌症的长期谜团,为精准治疗开辟新路径。
美国能源部阿贡国家实验室发布开源 AI 框架 ChemGraph,通过自然语言接口与智能体系统自动化计算化学工作流,有望加速电池、燃烧和材料发现研究。
研究人员利用时空调制环网络模拟旋转黑洞,首次在实验室观察到超辐射效应,验证了彭罗斯-泽尔多维奇过程,为理解黑洞能量提取提供了新平台。
研究发现,社交平台内置的AI写作工具会悄悄改变用户帖子的立场,累积影响下逐步操控公众舆论。测试显示,大语言模型偏向特定观点,而X的Grok功能因一条指令产生了倾向性。监管框架尚未覆盖这种微妙操控。
中国天问二号探测器经过约400天、10亿公里飞行,已抵达距地球近地小行星Kamo'oalewa约20公里处。该任务将尝试采样返回,若成功将是首次从小行星采样并探索其是否为月球碎片。
云安全公司 Sysdig 记录了首个完全由自主大语言模型智能体驱动的勒索软件攻击,攻击者利用 Langflow 漏洞入侵服务器、窃取凭证、加密数据并摧毁备份,全程无人类干预,标志着 AI 网络犯罪进入新阶段。
传统LLM推理为每个请求预留最大内存,浪费严重。MPP方法根据请求需要的精度动态分配内存,利用精度等级和误差估计器,在保证质量的前提下大幅降低内存占用,提升吞吐量。