《CSDiy》笔记
课程的深邃与广阔：智能计算系统的探索之旅
在当今这个智能化迅猛发展的时代，智能计算系统的设计与开发已成为推动科技进步的重要力量。中国科学院大学的智能计算系统课程，正是为培养这一领域的专业人才而设立。课程的先修要求包括体系结构与深度学习，编程语言涵盖Python、C++及BCL，难度评级为🌟🌟🌟，预计学时超过100小时。课程的核心在于通过实验引导学生深入理解人工智能的技术栈，从深度学习框架到底层算子的编写，再到硬件中MLU的设计，形成系统思维，体会自上而下的融会贯通之乐趣。
在这门课程中，学生不仅能够接触到现代智能计算系统的设计理念，还能通过实践实验加深对理论知识的理解。以我个人的学习经历为例，第三章的算子实现实验让我对深度学习框架的底层机制有了更为深刻的认识。通过编写算子，我体会到了深度学习框架的复杂性与灵活性，仿佛在与一位智者对话，逐步揭开其神秘的面纱。与此同时，第五章的BCL语言编写算子实验，若对CUDA有所了解的同学，定会感到耳熟能详，仿佛在重温一段熟悉的旋律。
课程资源的丰富与多样：助力学习的良师益友
课程的资源配置同样令人瞩目，官方网站、课程视频及教材等一应俱全，极大地方便了学生的学习与复习。课程网站提供了详尽的实验手册与作业指导，确保每位学员都能在学习过程中不迷失方向。尤其是2024年新版实验的推出，全面使用PyTorch，添加了大模型相关实验，标志着课程内容的与时俱进。对于希望深入了解智能计算系统的同学而言，购买相关教材无疑是一个明智的选择。
在学习过程中，借助于丰富的在线资源，我也逐渐形成了自己的学习笔记与总结。这些笔记不仅记录了我在实验中的思考与收获，更是对课程内容的深度消化与理解。通过与同学们的交流与讨论，我们共同探讨了实验中的难点与疑惑，形成了良好的学习氛围。正如古人所言：“三人行，必有我师焉。”在这样的环境中，知识的传递与碰撞，激发了我们对智能计算系统的热情与探索欲。
深度学习系统的全景：从理论到实践的无缝连接
CMU的深度学习系统课程则为我们提供了另一种视角，课程内容覆盖了深度学习系统的全栈知识体系。从顶层设计到自微分算法的实现，再到底层硬件加速与实际生产部署，课程的广度与深度令人叹为观止。通过五个课程作业，学生将从零开始设计并实现一个完整的深度学习库——Needle，涵盖了计算图的自动微分、GPU硬件加速等关键技术。
这门课程的独特之处在于，它不仅关注理论知识的传授，更强调实践能力的培养。即使是深度学习领域的小白，也能在循序渐进的教学中找到自己的位置。课程的设计者Zico Kolter与Tianqi Chen两位教授，凭借其深厚的学术背景与丰富的实践经验，为学生提供了宝贵的学习资源与指导。通过配套的Jupyter Notebook，学生能够直观地理解复杂的实现细节，仿佛在一位耐心的导师的引导下，逐步揭开深度学习的奥秘。
机器学习编译的前沿探索：开辟新领域的契机
在机器学习编译领域，Bilibili大学的课程则为我们打开了一扇新的大门。由顶尖学者陈天奇教授主讲的这门课程，聚焦于如何将开发模式下的机器学习模型，通过一套普适的抽象与优化算法，转化为高性能且适配各类底层硬件的部署模式。课程内容不仅涵盖了Apache TVM这一主流机器学习编译框架的使用，还深入探讨了机器学习编译的宏观概念。
对于希望在这一前沿领域有所建树的同学而言，这门课程无疑是一个绝佳的起点。通过具体的代码示例与Jupyter Notebook，学生能够在实践中掌握机器学习编译的核心技术，提升自己的编程能力与理论水平。正如课程所强调的，机器学习编译不仅是技术的挑战，更是对思维方式的重新审视。在这个快速发展的领域，保持学习的热情与探索的勇气，将是我们不断前行的动力。
在这条探索之路上，智能计算系统、深度学习系统与机器学习编译的课程，犹如璀璨的星辰，照亮了我们前行的方向。每一门课程都为我们提供了独特的视角与丰富的知识，激励着我们在科技的海洋中不断探索与创新。