大模型原理与部署-蜗牛学苑

首页 / AI人工智能 · 第三阶段:大语言模型LLM / 大模型原理与部署

发布于 2024-06-05 · 457 次观看

展开剩余

直播计划
视频列表
评论
课程介绍
资料列表
教师笔记

大模型-20241112-01-回顾与Transformer结构

28分钟 · 111次播放

大模型-20241112-02-位置编码原理与实现

47分钟 · 16次播放

大模型-20241112-03-多头自注意力原理

42分钟 · 18次播放

大模型-20241112-04-掩码残差正则及模型训练

41分钟 · 17次播放

大模型-20241114-01-GPT模型结构与数据集构建

33分钟 · 13次播放

大模型-20241114-02-GPT代码与模型训练和推理

34分钟 · 10次播放

大模型-20241114-03-torch.nn.Transformer分类

43分钟 · 14次播放

大模型-20241114-04-torch.nn.Transformer翻译

15分钟 · 3次播放

大模型-20241116-01-transformers框架概述

31分钟 · 21次播放

大模型-20241116-02-transfromers模型运行

24分钟 · 12次播放

大模型-20241116-03-bert预训练模型分类任务

45分钟 · 12次播放

大模型-20241116-04-文本分类生成翻译操作

27分钟 · 11次播放

大模型-20241116-05-bert模型分类的预处理

33分钟 · 15次播放

大模型-20241116-06-基于bert头条分类再训练

39分钟 · 20次播放

大模型-20241119-01-transformers的pipline

31分钟 · 9次播放

大模型-20241119-02-模型微调技术原理

44分钟 · 17次播放

大模型-20241119-03-peft与LoRA微调实战

44分钟 · 12次播放

大模型-20241121-01-微调Qwen2

38分钟 · 12次播放

大模型-20241121-02-微调Qwen2

27分钟 · 17次播放

大模型-20241121-03-LlamaFactory与量化基础

54分钟 · 19次播放

大模型-20241123-01-模型量化原理与公式

45分钟 · 15次播放

大模型-20241123-02-模型量化实战操作

37分钟 · 7次播放

大模型-20241123-03-各类环境配置注意事项

34分钟 · 9次播放

大模型-20241123-04-Ollama部署与调用

29分钟 · 17次播放

大模型-20241123-05-Ollama的API调用

48分钟 · 30次播放

共有条回复

{{replyComment.createTime | dateForMat(replyComment.createTime)}}

课程目标

能理解并自主Transformer和GPT架构模型，能熟练运用transformers和modelscope模型进行模型应用、模型微调、模型量化等、能够熟练部署私有化大模型并进行开发调用。

知识要点

Transformer架构、编码器-解码器结构、GPT模型框架、自主开发和训练Transformer与GPT模型、HuggingFace的tansfomers框架的应用、模型微调技术、模型量化技术(peft与LLaMAFactory）、大模型实验环境构建、Ollama与OpenWebUI模型部署、大语言模型的两大托管平台：HuggingFace、ModelScope的使用、模型的下载与运行、提示词工程等。

课程详情

大模型原理-源代码.zip

大模型原理与部署，各类微调训练等全套源代码

33.34MB · 6次下载

大模型-数据集.zip

模型训练和微调会用到的数据集

28.79MB · 7次下载

授课讲师

邓强

蜗牛学苑资深讲师，教学总监，四川大学硕士，系统架构师。20年软件研发、测试、管理及授课经验，精通各种开发和测试技术，如Java开发、PHP开发、Python开发、性能测试、渗透测试、安全攻防等，精通AI人工智能技术体系及底层原理，具备丰富的项目研发和实施经验，正式出版多本个人专著。从事培训事业以来学生过万，遍布国内外各大IT公司。教学严谨细致、原理讲解透彻、注重底层原理，全面培养学生各项素质。

看看TA的主页

推荐课程

回归分析与预测

邓强 · 4779人观看 · 879分钟

回归分析与预测

线性回归、逻辑回归、归一化处理、梯度下降、模型拟合、数据预测

一元线性回归、最小二乘法、函数求导、梯度下降、归一化处理、数据集处理、损失函数、多元线性回归、逻辑回归、Sigmoid函数、模型训练、模型验证、哑特征设计、正则化、欠拟合、过拟合、销售额预测项目实战、病患预测项目实战

加入收藏

NodeJs服务器端实战

邓乃文 · 14403人观看 · 1075分钟

NodeJs服务器端实战

掌握面向对象编程基本思想，nodejs+express搭建后台，熟练使用mongodb搭建数据库以及用mongoose实现后台于数据库交互

面向对象的基础概念、nodejs的使用以及express框架的基础运用，MongoDB的使用以及mongoose的api学习

加入收藏

ArkUI架构、数据库实战

徐朝波 · 3083人观看 · 1919分钟

ArkUI架构、数据库实战

1. 基于ArkUI容器来实现各种页面的布局设计 2. 本地数据库持久化，动态加载性能优化 3. 路由环境搭建、路由跳转和参数传递，路由拦截业务 4. 网络请求模块解析，异步请求封装工具 5. 身份认证和身份存储的概念

条件渲染、动态渲染、数据懒加载、布局容器、全局状态、页面状态缓存、本地数据库持久化设计、网络请求封装、webscoket双工通信规则、华为账号一键登录、路由守卫、用户首选项、华为支付接口联调

加入收藏

Jenkins持续集成

王斌 · 8308人观看 · 247分钟

Jenkins持续集成

持续集成概念，Jenkins介绍，Jenkins使用，日程表，邮件通知，Jenkins+Jmeter+ant

加入收藏

SPSS分析中国消费者信心指数

周一 · 5147人观看 · 1069分钟

SPSS分析中国消费者信心指数

1、专业统计分析工具SPSS的基本使用。 2、如何结合热点案例应用SPSS进行分析。 3、统计分析主要知识点梳理和学习

1、专业的统计学工具实战讲解 2、全程案例驱动，结合社会热点案例进行分析

加入收藏

ps软件基础

罗斌 · 8158人观看 · 1282分钟

ps软件基础

1、精通造型工具AI软件的基本操作；2、理解配色基本规律-色相明度纯度色调等；3、理解不同风格插图类型与规律并进行写生练习

ai软件基础、色彩、风格

加入收藏

运营设计

陈中明 · 7527人观看 · 717分钟

运营设计

·理解插画在UI界面中的作用 ·能熟练使用PS、AI、Sketch等软件绘制运营插画 ·理解Banner图在界面中的作用，以及其设计规范、原则 ·理解瓷片区的定义、设计要点 ·理解H5的定义、设计流程、设计要点 ·能对不同弹窗进行不同维度的分类，区分模态弹窗与非模态弹窗 ·理解情感化设计在UI界面设计中的作用

·UI界面中的插画运用 ·UI界面中的Banner与瓷片区设计 ·H5的认知与设计流程 ·弹窗设计 ·情感化页面设计：启动页、引导页、缺省页

加入收藏

Java消息队列核心技术与应用实战

吴聪聪 · 1717人观看 · 180分钟

Java消息队列核心技术与应用实战

全程现场编码实验，同步解释关键节点。

以实践，提出问题，解决问题为驱动的课程

加入收藏

网页布局实战

徐朝波 · 4265人观看 · 3138分钟

网页布局实战

1. 熟练掌握HTML5、CSS3、Less、Sass，独立实现基础页面布局、页面性能优化、考虑用户性能体验 2. 熟练运用HTML+CSS特性完成页面布局、掌握常见的兼容性处理，浮动布局和弹性布局的对比和使用常见 3. 熟练应用CSS3技术，动画、弹性盒模型设计网页，熟练的完成页面动画设计，并优化网页的布局

网页核心布局标签、网页样式设计、导航样式、产品列表、选择器、雪碧图、浮动布局、标准盒子模型、表单样式、字体图标、样式继承、样式权重计算

加入收藏

应用服务器部署

邓强 · 15323人观看 · 866分钟

应用服务器部署

1、能够在Linux和Docker环境下部署各类应用系统，如LAMP、LNMP、JAVA+Tomcat、HTTPS、集群环境、Redis、宝塔等 2、能够在Windows操作系统下完成各类Web及应用服务器环境的配置及使用Shell进行自动化安装部署 3、理解各类服务器的核心配置项，并了解其脆弱项，能够对其日志进行分析，并通过配置项进行安全加固 4、逐步深入理解HTTP和HTTPS协议的特性，并拓展WebSocket、HLS、SOAP等其他协议，为后续的学习打下坚实的基础

Linux下环境部署、Xampp详细配置、Apache与MySQL配置项、Java安装、Tomcat配置、HTTPS服务器配置、Nginx配置、LNMP配置、集群环境配置、Jboss安装配置、宝塔控制面板、Docker命令与核心操作、Docker容器化部署、日志文件配置、安全配置项、Nginx配置安全过滤器、Shell自动化部署、Windows环境部署、流量泛洪实验器

加入收藏

Java语言基础-西安

潘峰 · 6058人观看 · 1089分钟

Java语言基础-西安

熟悉Java语言的语法基础

环境搭建，基本数据类型，变量及其声明，运算符，流程控制语句，数组及其应用

加入收藏

面向对象/集合-预科

陈云 · 1197人观看 · 917分钟

面向对象/集合-预科

类与对象、static，构造函数，有参构造，this，toString()；List，迭代器，比较器，匿名内部类。（引导词：数据是立体的，String是平面的，用String同时记录id-name-sex-age，存取时只好大量split()和拼接，很不优雅，引入实体类，String[]变Person[]，List变List。。。）

人员名单面向对象化，集合化。

加入收藏

基本信息

联系信息

上传资料