你将学会
- 能独立完成开源大语言模型的本地部署
- 理解量化精度对显存占用的要求差异
- 能快速搭建大模型交互式对话界面
- 了解生成参数对文本多样性的作用
本课程通过环境配置与Gradio开发,讲解ChatGLM3-6B本地部署流程,解决开源大模型私有化运行,帮助学习者搭建对话应用。
手把手带读者在自己的 Windows 电脑上跑起一个开源对话大模型。文章先说明不同精度版本对内存和显存的硬件要求,再一步步准备环境、下载模型、按自身硬件选择加载方式,并最终实现可多轮对话的交互界面。适合想脱离云端、在本地体验乃至二次开发开源大模型的读者,照着文章一步步做即可在本机完成部署。
本课程通过 Flat/IVF/PQ 索引案例,讲解 Faiss 索引原理,解决大规模向量检索慢与内存高,帮助学习者高效相似检索。
本课程以银行转账案例讲解死锁成因与 std::lock 用法,解读加锁释放重试源码,帮助学习者编写多锁安全代码,提升并发排查能力。
本课程通过贝叶斯公式推导与垃圾邮件算例讲解朴素贝叶斯,解决文本自动分类问题,帮助学习者掌握分词、平滑与概率计算完整流程。