论文解读、算法突破、架构分析
NASA发布Artemis III演示任务对接程序,计划2027年在近地轨道测试与SpaceX和Blue Origin月球着陆器的对接操作,这是2028年重返月前的关键演练。
谢菲尔德大学和印第安纳大学的物理学家提出新理论,认为暗物质可能存在于一个隐藏的第五维中,通过暗光子共振自然产生,无需精细调节。这一发现为暗物质研究提供了全新方向。
一个团队试图从零复现GPT-1(约1.1亿参数),却在训练中遭遇灾难性遗忘——损失曲线先降后崩,模型输出重回混乱。调查发现,问题根源在基数据集BookCorpus:重复、截断、质量不均。本文记录了他们如何排查问题、寻找替代数据集的完整过程。
本文是Transformer系列的终章,深入剖析LayerNorm、残差连接、前馈网络和编码器-解码器注意力这些关键组件,它们虽小却支撑着整个模型的高效运转。读完你将完整看到Transformer的每一块拼图。
传统深度学习的权重纠缠问题让企业AI陷入两难:要么容忍数据中毒,要么花费巨资重新训练。动态解耦消融(DDA)技术通过虚拟模块化权重,实现了对特定知识的即时“擦除”,解决合规与安全难题。
日本实验性可重复使用火箭RV-X在东北部能代实验场完成首次测试飞行,上升11米并成功着陆。该项目由JAXA与三菱重工联合开发,旨在追赶SpaceX的可重复使用技术,降低发射成本。
Google Research 推出 SensorFM,一个基于万亿分钟可穿戴传感器数据训练的基础模型,在 35 项健康预测任务中超越传统方法,为个人健康智能体奠定基础。
蚂蚁集团具身智能单元Robbyant开源了LingBot-World 2.0,可生成长达1小时、720p/60fps的连贯视频环境,同时还发布了基于MoE架构的视频生成基础模型LingBot-Video,专为具身智能设计。
国际天体物理团队首次观测到双极扩散的迹象——离子与中性分子之间的速度差异。这一发现直接证实了气体尘埃云在磁场中坍塌形成恒星的关键机制,为恒星诞生理论提供了首个直接观测证据。
本文拆解本地与云端混合推理的底层逻辑:守护进程如何通过一个字符决定请求发往GPU还是数据中心,统一内存为何成为长任务的天花板,以及Ollama、Foundry Local等运行时如何连接编码助手。
本文通过一个简单的四词句子“I like to draw”,手动演示GPT-2中注意力机制的计算全过程:从原始分数到softmax权重,再到值向量的加权平均,并解释残差连接的作用。让你彻底理解Attention到底在做什么。
Alan Turing Institute 研究人员发现,通过将恶意请求分散到一系列无害的编码步骤中,可绕过 GitHub Copilot 的安全过滤,成功率高达 100%。同时,新提出的 HMNS 技术可实现 96%-99% 的攻击成功率。NIST 发布证明称,无限护盾无法抵御所有对抗性攻击,建议转向持续红队测试。
有些Python库不会教你新知识,但能让你从繁琐的手动操作中解脱。本文以APScheduler为例,展示这类库如何用两行代码搞定定时任务。
罗切斯特大学团队开发基因疗法平台,利用脑部类淋巴系统输送改造的病毒载体,实现人类胶质细胞广泛转导,绕过血脑屏障和肝脏毒性,为多发性硬化、亨廷顿病等脑疾病提供新路径。
NASA 与七家美国公司签订约 1700 万美元合同,研发下一代火星机器人移动系统。同时,Firefly Aerospace 获 1300 万美元分包合同,为 SkyFall 直升机任务建造防热罩。
本文是 PyTorch 性能分析系列第三篇,聚焦注意力机制的性能优化。通过 Profiler 工具可视化 Transformer 中 attention 层的计算瓶颈,对比标准实现与 FlashAttention 的差异,并给出实战优化建议。
OpenAI近日宣布撤回对SWE-Bench Pro作为AI编码能力可靠基准的推荐,内部审计发现约30%的测试任务存在缺陷,且噪声天花板约70%,削弱了评估前沿模型的价值。