位置编码 RoPE ALiBi Transformer 深度学习从位置走到信息:AI位置编码笔记之前用绝对位置编码,生成到1000+token时效果明显变差。 醉月思📁 学习笔记📅 2024-08-12
AI成本 云成本 成本优化关于AI成本优化的几点记录增长本身没问题,但有几个迹象不太对: 1. 成本曲线不是平滑的,有些天莫名其妙高 30-50% 2. 同样功能的 API 调用,成本差异明显 … 醉月思📁 技术实践📅 2024-08-11