导数：$f'(x)=\lim\limits_{\Delta x\to 0}\frac{f(x+\Delta x)-f(x)}{\Delta x}$

给定$h>0$，差分：
前向：$\tilde Df(x)=\frac{f(x+h)-f(x)}{h}\quad$ 后向：$\tilde Df(x)=\frac{f(x)-f(x-h)}{h}$


中心：$\tilde Df(x)=\frac{f(x+h)-f(x-h)}{2h}$

设$f$足够光滑，将$f$泰勒展开：
$f(x+h)=f(x)+f'(x)h+\frac{f''(\xi)}{2}h^2, \quad \xi\in[x,x+h]$

$|\frac{f(x+h)-f(x)}{h}-f'(x)|=|\frac{f''(\xi)}{2}h|\sim O(h)$

误差随步长线性减少

$f(x+h)=f(x)+f'(x)h+\frac{f''(x)}{2}h^2+\frac{f'''(\xi_1)}{6}h^3$

$f(x-h)=f(x)-f'(x)h+\frac{f''(x)}{2}h^2-\frac{f'''(\xi_2)}{6}h^3$

$|\frac{f(x+h)-f(x-h)}{2h}-f'(x)|=|\frac{f'''(\xi_1)+f'''(\xi_2)}{12}h^2|\sim O(h^2)$

误差随步长平方减少

$f''(x)\approx \frac{f'(x+\frac{h}{2})-f'(x-\frac{h}{2})}{2\cdot\frac{h}{2}}=\frac{f'(x+\frac{h}{2})-f'(x-\frac{h}{2})}{h}\quad$ (中心差分)

$f'(x+\frac{h}{2})\approx\frac{f(x+\frac{h}{2}+\frac{h}{2})-f(x+\frac{h}{2}-\frac{h}{2})}{2\cdot\frac{h}{2}}=\frac{f(x+h)-f(x)}{h}\quad$ (中心差分)

$f'(x-\frac{h}{2})\approx\frac{f(x-\frac{h}{2}+\frac{h}{2})-f(x-\frac{h}{2}-\frac{h}{2})}{2\cdot\frac{h}{2}}=\frac{f(x)-f(x-h)}{h}\quad$ (中心差分)

$f''(x)\approx\frac{\frac{f(x+h)-f(x)}{h}-\frac{f(x)-f(x-h)}{h}}{h}=\frac{f(x+h)-2f(x)+f(x-h)}{h^2}$

$f(x+h)=f(x)+f'(x)h+\frac{f''(x)}{2}h^2+\frac{f^{(3)}(x)}{6}h^3+\frac{f^{(4)}(\xi_1)}{24}h^4$

$f(x-h)=f(x)-f'(x)h+\frac{f''(x)}{2}h^2-\frac{f^{(3)}(x)}{6}h^3+\frac{f^{(4)}(\xi_2)}{24}h^4$

$|\frac{f(x+h)-2f(x)+f(x-h)}{h^2}-f''(x)|=|\frac{f^{(4)}(\xi_1)+f^{(4)}(\xi_2)}{24}h^2|\sim O(h^2)$

误差随步长平方减少

拓展阅读：外插法

数值微分的一般形式 $\tilde Df=\sum\limits_k c_kf(x_k)$

思考：先用插值法得$p(x)$作为$f(x)$的近似，再用$p'(x)$作为$f'(x)$的近似，是不是一个好方法？

积分是有界运算：
$|\int_a^bf(x)-p(x)dx|\le\|f-p\|(b-a)$

若$f(x)$与$p(x)$的差异有界，则其积分的差异也有界

微分是无界运算，即使$f(x)$与$p(x)$的差异有界，其微分的差异仍可以为无穷大。例：$f(x)-g(x)=2\sqrt x$，在$(0,1)$上有界，但$f'(x)-g'(x)=1/\sqrt{x}$，在$(0,1)$上无界