结束语 实践出真知，拒绝盲从，拥抱云原生
你好，我是潘野。
时光飞逝，两个月的时间转瞬即逝，我们的课程也到了尾声。在这段时间里，我们一起探讨了云原生基础架构管理的诸多问题，见证了新的技术如何改变我们管理和部署应用的方式。
从犹豫到笃定
其实起初撰写这门课程时，我也曾犹豫过，不知道还有多少人关心云原生和Kubernetes。
的确，Kubernetes现在已发展到一个特性相对稳定的阶段。在Operator模式的加持下，Kubernetes的功能被极大地扩展，可以适用于绝大多数场景，我们也不再需要对Kubernetes的核心源码做二次开发。于是，许多人都在尽可能将业务容器化，以利用Kubernetes带来的便利。
然而，并不是所有场景都适合使用Kubernetes，这在实践中也引发了一些质疑。你可能也从各处看到一些质疑云原生的文章，提出“不要将xx运行在Kubernetes”这样的论调。不可否认，虽然云原生架构提供了许多先进的技术优势，但它并非适合所有场景。
Kubernetes设计初衷是为了解决大规模、动态的分布式系统管理问题，特别是在容器化应用的调度、扩展和管理方面。对于小规模或者传统的企业应用，引入 Kubernetes 可能会带来不必要的复杂性和管理负担。比如对于一些单体应用或者小规模服务，使用简单的虚拟机或者传统的托管服务，性价比反而更高。
另外，云原生架构通常涉及微服务、容器、服务网格、持续集成和持续部署（CI/CD）等多个组件。这种分散的架构虽然提高了系统的灵活性和可扩展性，但同时也增加了系统的复杂性。管理和监控这样一个多元化的环境也需要更多的工具和专业知识。
如何更加科学客观地评估是否上云，如何根据自身业务需求、技术栈和团队情况做出综合评估，上了云以后又有哪些重要问题需要考虑，这些我们都在前面的课程里详细做了讨论。看到同学留言里提到课程里的指导很有用，也让我更加坚定了写好这门课的信心。
总之，我希望分享给你的并不是“上不上云”的简单答案，而是对于云原生基础架构管理的系统方法论。这些经验让我在过去少走了很多弯路，也希望帮到学了这门课程的你。
AI与云原生
技术世界日新月异，每天都在涌现新工具和新概念。仅仅一年时间，AI的开源大模型便迅速进步，AI在真正意义上进入了我们的工作中，为我们的业务提供价值。
现在（2024年）行业的焦点似乎从云原生转向了AI，那么我们是否还需要在云原生与Kubernetes领域投入精力，做学习和研究呢？我想结合自己近来的经历，聊一聊这个问题。
过去的一年里，我的工作中有很大一部分是建立云原生AI基础设施。我与公司的数据分析团队合作，将机器学习应用从传统虚拟机迁移到了Kubernetes。在AI模型训练领域，Kubernetes的高效资源调度能力，确保了GPU等关键硬件资源的最优使用。此外，我们还对开源项目Kubeflow进行了二次开发，有效支持了公司众多机器学习任务，为视觉处理、产品预测等关键业务做出了重要贡献。
在AI基础设施的管理中，利用容器和Kubernetes，我们可以将GPU驱动、Runtime、调度和监控统一地管理起来。这不仅提高了资源利用率，还简化了操作流程，让部署和维护AI应用更加高效、灵活。通过这种方式，我们能够更好地控制和优化计算资源，从而支持更复杂的AI模型和算法。
从初步的犹豫到深入的实践，我们的旅程充满了学习和发现。尽管云原生架构并非银弹，适用于所有场景，但它确实为许多组织带来了巨大的便利和效率提升。在正确的场景里，云原生技术和Kubernetes始终在发挥重要的价值，这个领域仍然值得我们深耕。
当然，伴随业务场景的变化，我们也将面临更多新的挑战，需要我们不断学习、研究，并且在实践中进行技术验证和策略调整。
实践出真知
在管理AI基础设施时，我也发现虽然GPU和CPU在管理层面有一些相似之处，比如应用调度、性能监控及网络与存储管理等方面。然而，GPU和CPU在架构设计和应用场景下有着本质差异，比如GPU在功耗、散热和硬件兼容性方面，都可能和传统基础设施不一样。
比如说，在部署AI模型时，我们必须考虑到模型的计算需求和可用硬件的性能限制。当实际运行模型的时候，GPU机器会达到满载状态，我们不仅需要关注GPU的性能指标，还需要关注整机功耗，确保所在机柜的电力足够支持业务的稳定运行。
再比如，在AI基础设施中，数据中心设计也跟传统的标准有所不同。比如需要更加关注散热需求、能效比这样的指标。对此我们需要实际进行负载测试和性能监控，才能在基础架构管理以及运维策略上做出更明智的选择。
最后，我想和你说的是，在未来，无论技术如何变迁，核心的挑战和机遇仍然在于如何更好地理解和应用这些工具，来解决实际问题。记住，技术始终是手段而非目的，它们的价值在于能够帮助我们更有效地达成业务和技术的目标。
感谢你这两个月来的陪伴，希望这门课程能对你有所帮助。这段时间里，我们一起漫游了云原生基础架构管理的世界，为未来的前行打下了坚实的基础。课程虽然告一段落，但未来要探索的“海域”将更为辽阔。在变革的浪潮中，实践才是指引航向的灯塔。再见了，朋友们，希望在技术的大海中，我们还能有缘再会！
最后，我知道有不少同学在默默潜水学习，在课程的尾声，非常希望你可以花几分钟填写一下课程问卷，期待听到你的反馈！
- kissingers 👍（0） 💬（0）
老师可以讲讲AI 基础设施这块，kubernetes 怎么高效利用GPU吗?
2025-02-20 - 橙汁 👍（0） 💬（0）
下个课程见 老师
2024-05-17