Skip to content
This repository has been archived by the owner on Sep 5, 2021. It is now read-only.

Latest commit

 

History

History
20 lines (15 loc) · 537 Bytes

04-Day6.md

File metadata and controls

20 lines (15 loc) · 537 Bytes

第六周课程总结

时间:2021.03.30

求导运算

  • 数值微分
    • 根据导数定义来计算
    • 舍入误差
    • 计算效率低
  • 符号微分
    • 从表达式出发,将表达式本身看作符号的运算,直接得到求导结果的表达式
    • 随着函数变复杂,符号微分表达式复杂程度指数级增加
    • 需要保存大量中间变量,容易出错
  • 自动微分

自动微分

  • 前向模式:计算输出对某个输入的微分
  • 反向模式:计算输出对所有输入的微分值