课题组第四周学习 ZeRO-Offload方法提出背景对大模型训练来说，GPU显存对参数规模巨大的网络来说是一个瓶颈，然而CPU内存可以做到TB级别，因此可以考虑将一部分参数放在CPU上，而将需要频繁访问的参数放在GPU上，这样可以减少GPU显存的压力，提高训练速度。ZeRO-Offload提出了一种没有数据冗余的优化方法，可以将模型参数分布在CPU和GPU上，而且可以在CPU和GPU之间进行无缝的迁移。 大模型传 2023-10-13 技术 科研 技术 课题组 周报 神经网络 pytorch
课题组第一周学习 理论学习反向传播算法反向传播是一种基于有监督学习，用于根据误差和损失函数调整网络权重的算法。反向传播算法的核心思想是通过链式法则计算损失函数对于每个权重的梯度，然后使用梯度下降法更新权重。过程： 首先通过正向传播，根据输入数据得到一个网络的激励 根据得到的激励与目标值计算损失函数 根据损失函数，从输出层开始，依次沿着计算图反向计算每个权重的梯度 根据得到的梯度调整权重[1] 深度学习入门: 基 2023-09-30 技术 科研 技术 课题组 周报 神经网络 pytorch
关于selenium包安装运行的问题排除 selenium 包安装首先是想要在base环境下安装的，但是因为base环境的内容太多，solve解决依赖问题耗时过长，所以考虑新建环境。 123conda create -n webdriver python=3.7conda activate webdriverconda install selenium 出现问题在按照例程运行代码时，出现了以下问题： 12345678from seleni 2023-09-24 技术 python web 技术 python
世界观其一 写在最前面这篇文章主要是在闲极无聊学sql时，看到不同版本sql语法不兼容时感到的一种割裂感，进而想到用ai创作一幅表达我心态的画。从这里又跳跃到，如果在未来，ai创作一幅画仅需要一念，那么对生活又是一种什么样颠覆的改变呢。于是乎，在这种想法的引导下决定试着写一写自己心目中近未来世界的一些简单的世界观。 居家生活房间的装潢对于一个生活在不远的未来的人来说，由于世界范围内开源运动与算力共享运动的蓬勃 2023-08-20 写作 科幻小说 近未来主题 世界观 写作 科幻 世界观
电赛培训-23-07-19 pid控制系统公式$$ u(t)=K_p e(t)+K_i \int_0^t e(\tau) d\tau + K_d \frac{de(t)}{dt} $$ 作用 比例项：减小误差 积分项：消除稳态误差 微分项：减小超调量 超调量$$ \xi = \frac{e^{-\frac{\pi \zeta}{\sqrt{1-\zeta^2}}}}{\sqrt{1-\zeta^2}} 2023-07-19 技术 电赛
电赛培训-23-07-18 arduino小车测速霍尔编码器外部中断一个霍尔编码器如果有两个传感器传出两路信号，就能根据相位差同时测量速度和方向但是arduino只有两个硬件中断管脚，同时还要使能计时器中断，所以需要一个外部中断库PinChangeInterrupt库 定时中断atmel内部有三个定时器 Timer0是delay用的 Timer1是pwm用的 只有Timer2可以使用来进行定时中断因此，需要使用MsTime 2023-07-18 技术 电赛
电赛培训-23-07-14 PWM通用定时器预分频通过对时钟频率进行分频，实现了让计数器可以计数更长的时间。 占空比占空比的实现是通过调节计数器到达翻转电平的值的大小来实现的。利用的是计数器的比较功能通过调节一个计数器不同的值，可以同时实现多个pwm的多个占空比的调节。但是他们的频率是相同的，若想要不同频率需要使用不同的计时器。TIM3/4通道数较多 捕获模式捕获模式可以用来测量信号的频率，占空比等。 设置打开对应 2023-07-14 技术 电赛
电赛培训-23-07-13 stm32串口通信定时器通用定时器采用apb1/apb2总线 预分频计时时长= (预分频+1) * (计数器值+1) / 时钟频率 中断回调HAL_TIM_PeriodElapsedCallback(TIM_HandleTypeDef *htim)这个函数可以复制到it文件中，定义这个函数即可在中断中调用这个函数。 2023-07-13 技术 电赛
电赛培训-23-07-12 stm32定时器SysTick控制寄存器：在SysTick_Config函数中，需要传进一个参数，代表着多少个tick触发一次中断。这个参数是一个32位的寄存器，但是只有24位有效，因此最大值是2^24-1，也就是16777215，也就是16Mhz的时钟下，最大延时是1s。如果需要更长的延时，需要自己写一个计数器，然后在中断中进行判断。有一个变量是SystemCoreClock，代表当前时钟速度。 2023-07-12 技术 电赛
