大模型原理与部署-蜗牛学苑

首页 / AI人工智能 · 第三阶段:大语言模型LLM / 大模型原理与部署

发布于 2024-06-05 · 784 次观看

展开剩余

直播计划
视频列表
评论
课程介绍
资料列表
教师笔记

大模型-20241112-01-回顾与Transformer结构

28分钟 · 173次播放

大模型-20241112-02-位置编码原理与实现

47分钟 · 22次播放

大模型-20241112-03-多头自注意力原理

42分钟 · 28次播放

大模型-20241112-04-掩码残差正则及模型训练

41分钟 · 32次播放

大模型-20241114-01-GPT模型结构与数据集构建

33分钟 · 22次播放

大模型-20241114-02-GPT代码与模型训练和推理

34分钟 · 19次播放

大模型-20241114-03-torch.nn.Transformer分类

43分钟 · 21次播放

大模型-20241114-04-torch.nn.Transformer翻译

15分钟 · 13次播放

大模型-20241116-01-transformers框架概述

31分钟 · 35次播放

大模型-20241116-02-transfromers模型运行

24分钟 · 22次播放

大模型-20241116-03-bert预训练模型分类任务

45分钟 · 21次播放

大模型-20241116-04-文本分类生成翻译操作

27分钟 · 18次播放

大模型-20241116-05-bert模型分类的预处理

33分钟 · 22次播放

大模型-20241116-06-基于bert头条分类再训练

39分钟 · 28次播放

大模型-20241119-01-transformers的pipline

31分钟 · 16次播放

大模型-20241119-02-模型微调技术原理

44分钟 · 30次播放

大模型-20241119-03-peft与LoRA微调实战

44分钟 · 22次播放

大模型-20241121-01-微调Qwen2

38分钟 · 19次播放

大模型-20241121-02-微调Qwen2

27分钟 · 27次播放

大模型-20241121-03-LlamaFactory与量化基础

54分钟 · 39次播放

大模型-20241123-01-模型量化原理与公式

45分钟 · 25次播放

大模型-20241123-02-模型量化实战操作

37分钟 · 16次播放

大模型-20241123-03-各类环境配置注意事项

34分钟 · 20次播放

大模型-20241123-04-Ollama部署与调用

29分钟 · 35次播放

大模型-20241123-05-Ollama的API调用

48分钟 · 59次播放

共有条回复

{{replyComment.createTime | dateForMat(replyComment.createTime)}}

课程目标

能理解并自主Transformer和GPT架构模型，能熟练运用transformers和modelscope模型进行模型应用、模型微调、模型量化等、能够熟练部署私有化大模型并进行开发调用。

知识要点

Transformer架构、编码器-解码器结构、GPT模型框架、自主开发和训练Transformer与GPT模型、HuggingFace的tansfomers框架的应用、模型微调技术、模型量化技术(peft与LLaMAFactory）、大模型实验环境构建、Ollama与OpenWebUI模型部署、大语言模型的两大托管平台：HuggingFace、ModelScope的使用、模型的下载与运行、提示词工程等。

课程详情

大模型原理-源代码.zip

大模型原理与部署，各类微调训练等全套源代码

33.34MB · 10次下载

大模型-数据集.zip

模型训练和微调会用到的数据集

28.79MB · 10次下载

授课讲师

邓强

邓强，蜗牛学苑创始人，资深AI讲师，高级AI训练师，四川大学硕士，22年软件研发及管理经验。目前专注于AI和大模型领域的课题和技术研究。曾为中原银行、永州医院、南天佳信、深圳移动、大唐软件、华夏基金等30余家企业提供研发咨询及企业内训服务。从事培训事业以来教授学生数万，遍布国内外各大IT公司，视频课程全网播放量超1000万。出版多部IT与AI相关技术书籍，教学严谨，原理讲解透彻，擅长项目驱动式教学，硬派实战专家。

看看TA的主页

推荐课程

计算机网络

卢成波 · 3人观看 · 607分钟

计算机网络

加入收藏

ArkUI架构、数据库实战

徐朝波 · 3899人观看 · 1919分钟

ArkUI架构、数据库实战

1. 基于ArkUI容器来实现各种页面的布局设计 2. 本地数据库持久化，动态加载性能优化 3. 路由环境搭建、路由跳转和参数传递，路由拦截业务 4. 网络请求模块解析，异步请求封装工具 5. 身份认证和身份存储的概念

条件渲染、动态渲染、数据懒加载、布局容器、全局状态、页面状态缓存、本地数据库持久化设计、网络请求封装、webscoket双工通信规则、华为账号一键登录、路由守卫、用户首选项、华为支付接口联调

加入收藏

自动化测试开发的体系架构

邓强 · 1583人观看 · 162分钟

自动化测试开发的体系架构

测试开发代替测试工具的可行性分析，测试框架开发的价值，测试框架的关键技术及原理，基于持续集成的测试开发技术与流程应用。

自动化测试解决什么问题，自动化测试和测试开发区别在哪里，什么情况下需要测试开发，测试开发的价值和应用场景，测试开发的技术体系构成及实现原理。

加入收藏

内网和域渗透专题

邓强 · 7445人观看 · 2147分钟

内网和域渗透专题

1、深入理解内网渗透的各类操作和工具的使用，包括端口转发、内网路由、内网代理、内网扫描、隧道通信等原理与实现 2、能够熟练配置Windows域控服务器和安全策略，能够理解域认证过程和各类票据的制作过程，并从中理解域相关漏洞利用的原理 3、熟练使用各类技术手段和已知漏洞，完成对域控服务器的渗透过程，并进行横向移动和域提权操作

内网实验环境搭建、基于netsh和iptables实现端口转发、基于MSF实现端口转发、内网路由和内网代理服、MSF内网扫描与入侵实验、基于Neo-reGeorg和EarthWorm的隧道通信及代理配置、基于FRP和EarthWorm的端口映射技术、Windows域控服务器配置、域认证机制Kerberos、域安全策略、域信息搜集、域用户枚举、域横向渗透、PTH Hash传递攻击、PTT票据传递攻击、黄金票据、白银票据、域委派攻击、域内RCE漏洞、域提权漏洞、域环境入侵综合实战

加入收藏

TypeScript核心实战

徐朝波 · 2198人观看 · 1426分钟

TypeScript核心实战

1. 熟悉TypeScript编程的规范和核心要素 2. 熟悉函数类型接口编程，类类型接口编程 3. 面向对象编程核心概念，继承、封装的概念和实战应用 4. 泛型编程、模块化编程实现业务设计

TypeScript核心概念、变量提升函数提升、枚举类型、IIFE、接口编程、递归编程、类型断言、面向对象编程、原生对象、继承、泛型编程、泛型工具、高级类型检查、模块化编程概念

加入收藏

方差分析与非参数检验

周一 · 10615人观看 · 487分钟

方差分析与非参数检验

熟悉非参数检验基本问题、单因素非参数检验中位数检验分布检验、游程检验知识

方差分析基本原理、一元单因素方差分析-同质性检验、一元单因素方差分析-方差来源及检验、一元单因素方差分析-多重比较

加入收藏

想要吊打高并发？你必须知道的底层原理

徐朝波 · 1880人观看 · 158分钟

想要吊打高并发？你必须知道的底层原理

volatile的使用场景和内存屏障的产生原因与性能优化。

1、synchronized锁的使用和注意事项。 2、对象创建过程与对象字节码信息。

加入收藏

回归分析与预测

邓强 · 5500人观看 · 879分钟

回归分析与预测

线性回归、逻辑回归、归一化处理、梯度下降、模型拟合、数据预测

一元线性回归、最小二乘法、函数求导、梯度下降、归一化处理、数据集处理、损失函数、多元线性回归、逻辑回归、Sigmoid函数、模型训练、模型验证、哑特征设计、正则化、欠拟合、过拟合、销售额预测项目实战、病患预测项目实战

加入收藏

物联网通信

罗江 · 2649人观看 · 2251分钟

物联网通信

使用不同通信协议完成智能家居的通信与平衡车项目

定时器、输入捕获、PWMI、编码器，USART、RFID、I2C、蓝牙、ZigBee通信，短距离无线通讯，蜂窝无线网络技术，LPWAN技术及常用场景，LoRa技术及应用场景，外设RFID读卡器、MPU6050姿态传感器、ASRPRO语音识别模块、JDY-25M蓝牙模块、DL-20 ZigBee模块，平衡车

加入收藏

协议级接口测试自动化

邓强 · 15636人观看 · 1588分钟

协议级接口测试自动化

熟练掌握各种互联网常见协议标准及应用，能够从协议层面分析接口的定义，并且根据接口定义构造相关的请求完成接口自动化。能够自己编写接口自动化测试框架，实现全平台接口测试。

常见网络传输协议，视频播放协议，PostMan，接口压力测试

加入收藏

Ps+AI

罗斌 · 1382人观看 · 1701分钟

Ps+AI

PS+AI

加入收藏

MySQL数据库

杨波 · 13043人观看 · 1073分钟

MySQL数据库

数据库知识，范式，MySQL配置，命令，建库建表，数据CRUD操作，约束，视图，存储过程，函数，触发器，事务，游标，建模工具课程目标：深入理解数据库管理系统通用知识及MySQL数据库的使用与管理。为软件测试和测试开发打下基础

加入收藏

基本信息

联系信息

上传资料