训练过程远比推理过程复杂。在推理阶段，涉及的运算类型相对有限，且多数可以通过GPU加速完成。对于这类任务，华为的Ascend或摩尔线程S系列计算卡能够提供足够的性能支持，尽管它们的能效比可能不如某些竞争对手。然而，在训练阶段，运算种类多达数百种，参数规模从几百亿到几万亿不等。虽然处理几百亿规模的参数是可行的，但当涉及到上万亿的参数时，现有的解决方案就显得力不从心了。
CUDA是什么？
CUDA是一个活跃开发中的库，仅靠少数公司难以全面覆盖其所有功能。它通过特定的API调用方式，为开发者提供了利用NVIDIA GPU进行通用并行计算的能力。
如何看待国内某大学出台的大模型禁止令？
实际上，博士生们是在利用AI的推理能力作为工具，基于先前的研究成果来提出解决方案。这种方式包括使用AI来激发创意、构建研究框架以及设计实验方案。但是，重要的是明确界限，比如禁止直接由AI生成论文主体或将敏感内容上传至AI平台。这样做是为了确保学术诚信和信息安全。
使用AI并不等同于抄袭。任何技术都有其两面性：既能带来便利，也可能伴随着风险。这就像刀具一样，既能用于烹饪美食，也可能成为危险的武器。我们不能因为存在风险就完全否定技术的价值，而是应该找到合理的方法去管理和利用它。