part Ⅱ主要内容为 不等式、常微分方程 (ODE)、级数理论 和 多元函数微积分,包括工具定理、计算方法与部分证明,以例题辅助解释。
常用常数
任何正数的任意根次之值
;
展开/收起 π 的一些极限/级数式
; ; ; ; ; ; ; ; ; ; ; ; ; ; ; ;
不等式综述
不等式在分析学中是极其重要的,某种意义上,数学分析和实分析是玩弄不等式的艺术。
多元不等式
多元不等式更“普适”、更“普通”,例如柯西不等式和
排序不等式
设长度为
切比雪夫的和不等式
切比雪夫不等式的离散形式是排序不等式的推广。
离散形式:设
积分形式:
切比雪夫不等式还算直观,其离散形式构造
积分形式的推广:设
基本不等式
; .
基本不等式可以被认为是下述均值不等式的特例,因为
离散均值不等式
即对于非负数列
当且仅当
如果当
积分均值不等式
从左到右,不等式中的四式分别被称为积分调和平均数 (
对数平均值不等式
当
Schur不等式
设
伯努利不等式
如果
三角不等式
三角不等式在度量空间中有重要作用。
当且仅当
琴生不等式
琴生不等式(Jensen's
inequality)描述了一个由于凸函数的凸性而导致的不等式,于1906年被丹麦数学家Johan
Jensen证明。首先要说明的是,(下) 凸函数本身有多种等价定义,例如在区间
则称
对于区间
如果函数在
柯西不等式
柯西不等式(Cauchy-Buniakowsky-Schwarz inequality)有多种形式,从离散实数和、积分到测度论、泛函分析,都有他的身影,实在是贯彻了数学的许多分支、方向。
实数空间里,柯西不等式的离散形式与积分形式分别为:
与
其实
应当注意,在离散形式中,将
解析几何:
,当向量 与 线性相关取等; 中: ,当向量 与 线性相关取等;概率空间中:
,要求随机变量 与 的二阶矩存在、 存在,当 或 与 成立其一时取等;对于正定矩阵
: ;
离散形式的柯西不等式证明法里,除了用数学归纳法完成,最直接、最直观的办法应该是构造二次函数。记
连续形式的柯西不等式也可以按如上过程证明,取
柯西不等式有非常之多的证明方法,例如还可以利用二重积分、通过构造函数和依据定积分定义等进行证明,这里不再一一陈述。
Young不等式
设
Young不等式能通过
还可以利用拉格朗日乘子法证明,由于证Young不等式等价于证
Young不等式在卷积中亦有体现,卷积形式的Young不等式常见的证明是利用Hölder不等式进行的。设
Hölder不等式
Hölder不等式可以视为柯西不等式的推广,在泛函分析中有重要意义;通常将Young不等式作为证明Hölder不等式的引理。
当
离散形式:
积分形式:
注:当
特别地,当
如果
这里利用Young不等式简单证明一下积分形式的Hölder不等式,如果
Minkowski不等式
当
Minkowski不等式可以被视为范数的三角不等式在
除此之外,还有广义Minkowski不等式,这里只给出不等式形式,不加证明:设
Carlson不等式
Carlson不等式也是柯西不等式的推广,和Hölder不等式是等价的,二者结合起来可以导出更一般的不等式。
Carlson不等式可以与矩阵关联,是关于几何平均数的不等式:对于
Gronwall不等式
Gronwall不等式有多种变形,比较常见的有:
- 对区间
上的连续非负实值函数 与 ,如果有 ,其中 是任意常数,则在 上成立不等式
这种Gronwall不等式的证明可以参考:Gronwall 不等式的几种证明,作者给出了四种证法,在此不再赘述。
- 设
和 均为 上的连续实值函数, 且 ,则在 上成立不等式 - 此外Gronwall不等式还有一些推广,这就不在本文的讨论范围之内了。
Gronwall不等式在常微分方程、偏微分方程中都有极其重要的意义,同样地他也有相应的离散形式,在此不做赘述,而只证明第二种变形的积分形式。以下证明过程非常具有代表性,是证明微分不等式的一种较为泛用的方法。
记
由
说一个题外话,证明微分方程解的唯一性的另一个引理是“设
杂例
反Hölder不等式;
反Minkowski不等式;
Hanner不等式;
Clarkson不等式;
Bessel不等式;
Hardy不等式;
上述本文未介绍的不等式,一般情况下没有本文所提到的不等式常用,因此不再此处赘述,但不能说明他们并不重要,只不过本文主要方向是高等数学(分析);轻击便会跳转到相应的详解文章,可供参阅。
多元不等式证明法 (“全导数”)
通常来说,证明不等式可以认为是在证明极值(最值),也可以认为是“放缩的艺术”;不等式和分析学的关系是密不可分的,这说明了不等式的重要性。对于无条件不等式,直接求导和利用现成不等式构造并放缩是最常见的做法,在此介绍另外一种可以逐渐将变量个数较多的一个多元不等式转化为容易处理的多个变量个数较少的不等式的方法。
有人将这种方法称为“全导数”,个人觉得这个称呼不是十分适合,因为和全微分的定义没有太大联系。这个方法的思想在一般的动力系统(主要是ODE)教材中肯定是有所提及的,并不是新鲜事物。
首先对任意可微函数
- 恒有
; - 当
时,恒有 ;
此时必然有
考虑到不少不等式具有轮换对称性,即各个变量的“地位”是相等的,这种情况下对于第二个条件只需要任取一个
该方法的证明极其简单:已知
一元不等式
一元不等式更“特殊”,例如琴生不等式和
不等式原理:泰勒公式
利用在 part Ⅰ 中的泰勒公式,以拉格朗日余项作为不等式的误差,基本上可以证明任何一元可微函数的不等式。方法略过,这是比较直观的。
涉及三角函数的不等式
;在 处取等, 时不等号反向。
涉及对数的不等式
;仅在 处取等,在 时放缩程度小于下式。 ,并且在 较大时放缩程度相对较小, 除点 外是严格凹函数。 ,其中 。
涉及指数的不等式
;仅在 处取等,事实上根据泰勒公式可以把这个不等式的左端部分写到任意次多项式。
常微分方程
本文不做任何关于微分方程理论上的推导,只给出常见微分方程的解法。
这里给出通解的定义,注意通解不一定等价于所有解:把含有
还有所谓的积分方程,一般解法是等号两端求导化为微分方程再求解。
一个微分方程,将等式两端微分倾向于增加解,原来的解也是微分后新方程的解;如果对两端同时积分,倾向于减少解,原来的解中的一部分是新方程的解。
一阶微分方程的通解
一阶微分方程的一般形式是
可分离变量的方程
若微分方程能被分解为
齐次方程
称
一阶非齐次变系数线性方程
称
该公式若一时想不起,也可以很容易地进行推导。联系到 part Ⅰ
在微分中值定理证明题中针对
一般来说通解
示例 1:解微分方程
示例 2:解微分方程
*** 伯努利方程
称
*** 全微分方程
称
- 判定微分方程为全微分方程:当
、 在单连通区域内连续可微时,方程 是全微分方程的充要条件是 ; - 断定方程为全微分方程后,寻找
的解法:- 偏积分;
- 凑微分;
- 线积分。
其他方法
若给出的一阶微分方程不属于上述任何形式,首先考虑将
(反函数求导)
*** 降阶的高阶方程
一般的高阶微分方程没有容易求得的通解(二阶就没有了),但对特殊的高阶方程可以降阶求解。
型,这是最简单的一类高阶微分方程,直接两边不断积分即可降阶求解。
接下来以二阶微分方程为例,二阶微分方程的一般形式是
型,这类方程不直接包含 项,令 、 将原式化为 ,这是一个关于 与 的一阶方程,求解即可得到 ,再积分得到 。 型,这类方程不直接包含 项,令 、 (注意与前文处理方法的异同),原式化为 。
对于更高阶的微分方程,也可以如此降阶。
*** 线性微分方程组
高阶线性微分方程与欧拉方程
无论是
线性微分方程的叠加原理
If u1 and u2 are solutions of linear PDE in some function space R, then u = c1u1 + c2u2 with any constants c1 and c2 are also a solution of that PDE in the same function space.
变系数线性微分方程
研究高阶线性微分方程,需要研究线性微分方程的解的结构,这一点和高等代数中基础解系内容是相通的。
标准
标准
重要定理 1:如果
重要定理 2:如果
重要定理 3:如果
重要定理 4:以二阶齐次线性微分方程为例,如果
截至到今日,对一般的高阶变系数线性方程的求解仍然没有比较通用的理论,但是部分变系数线性方程可以通过巧妙的换元化为常系数线性方程,通过将未知的问题转化为已知的问题求解。例如,欲求方程
常系数线性微分方程
普通方法(公式法)
简便起见,首先讨论常系数齐次线性微分方程
特征方程:以二阶方程为例,称
设
当
与 为两不等实根时 ,通解为 , 与 是该齐次微分方程的两个线性无关特解;当
与 为相等实根时 ,通解为 , 与 是方程的两个线性无关特解;当
与 互为共轭复根,记作 ,通解为 。事实上他们均为
的特例,下文会有一般方程通解的完整形式。
对于二阶常系数非齐次线性微分方程,其一般形式为
当
,其中 为 次多项式,考虑待定系数法。令 ,其中 是 作为齐次方程的特征方程 根的重数( 不是根时取 )、 是一个一般的 次多项式,然后将含待定系数的 代入原式,找到 ,于是得到确切的特解 ,进而得到通解。当
,也是考虑待定系数法。取 ,令 ,这里 不再是 作为齐次方程的特征方程的根重数,而是 作为特征方程的根重数,然后代入含待定系数的 便能找到确切的特解 ,进而得到通解。
高阶的线性常微分方程,类似处理。
上图中给出了针对特征方程解为一对
算子法求特解
在这里只列出算子法计算特解常用的公式,完整内容稍后再介绍。
记
当
,即 ,包括 ,因为取 即可:- 若
,则 - 若
,但 ,则 - 若
、 ,但 ,则
例如求
的特解,令 ,计算得 , , ,因此- 若
对于
或 ,其中特别约定 , 是一个常数(即 中不包含一阶微分算子 ):若
,则若
,则
例如求
的特解,令 ,计算得 ,因此对于一般的
或 (即 中包含一阶微分算子 ),处理方法是基于上一种情况的,但解起来相对麻烦一点。直接以求
特解为例,令 ,则 ,先直接代入 ,后续再做讨论:当
,即 ,利用泰勒级数 将 展开即可。例如求
的特解,令 ,则推广:当
,即 ,其中 是任意一个实函数,有 利用该公式消掉分母的重 要 公 式 : 、 或常数项后,将 视为整体,于是按上文情况处理即可。例如求
的特解, 又例如求注 意 到 代 入 有 的特解, 要特别注意微分算子 的作用对象,虽然 与 之间有交换律、分配律等运算法则成立,但是当 作用于函数时切不可随意颠倒次序,一定要以作用函数为起点,从右往左逐个计算导数算子或积分算子,例如最后一个例子中, 的运算只能是 而不可以是 这样只会得到错误的结果。虽然很多情况下为书写的简便起见没有写明表运算顺序的括号,但在计算时一定要从右往左逐个计算。
完整的算子法收纳了起来,如有需要可以展开下面这篇论文。
展开/收起算子法论文
反推微分方程
给定通解,如何反推微分方程?我将方法总结如下,称之为“观察”与“求导”。
以式子
方法“观察”,顾名思义,就是观察通解的形式。可以发现,式子
本身并不是任何一个二阶常系数微分方程的通解,因为将 分离后得 ——这不满足一般二阶常系数微分方程通解的形式(如果满足的话,我们可以干净利落地给出特征方程,然后直接得到原方程)。显然,对于二阶与高阶常系数微分方程我们很好处理,但二阶与高阶变系数微分方程就没有很好的方法应对了,可这里的式子又显然不是常系数微分方程的解,怎么办呢?我们可以想办法尝试着把这里的变系数问题转化成一个常系数问题。细心观察可以发现,式子
等号右边的那部分正是一个标准的二阶常系数微分方程通解,所以可以作换元 ,把原式化为 并将式子视为 与 的微分方程,易见这时的特征方程为 ,因此原方程为 代回 ,得 整理得 这是一个变系数微分方程,但我们通过巧妙的换元,将一个未知的问题(还原变系数微分方程)转变为了已知的问题(还原常系数微分方程),类似的思想充斥着数学的各个领域。方法“求导”,其实也就是直接对给出的式子求导,联立方程求解。直接对等式
两端求导,有由以上二式解得
将
的表达式代回 ,整理得 这一方法可能没有上一方法“优雅”,但至少也是可行的。
*** 欧拉方程
欧拉方程
*** 幂级数解法
可以解决勒让德方差与贝塞尔方程,略。
*** 首次积分
一阶差分方程
差分这一概念在统计学中较为常用,例如时间序列中的AR模型。某种意义上,可以把差分看作“数列的导数”,这也是为何差分方程的解和微分方程有相似之处。
对于序列
一阶常系数线性齐次差分方程:
,通解为 ,其中 是初值,在初值未知的情况下考虑用待定系数 代替;一阶常系数线性非齐次差分方程:
,通解为 ,其中 是 的解、 是特解,因此只需要找出特解,就可以给出一阶线性非齐次差分方程的通解。下面列出常见情况下的特解,其中 均为待定系数:- 当
,其中 是 阶多项式:- 若
,则特解为 - 若
,则特解为
- 若
- 当
,其中 是 阶多项式:- 若
,则特解为 - 若
,则特解为
- 若
- 当
,其中 、 不同时为 ,记 :- 若
,则特解为 - 若
,则特解为
- 若
部分特例:
当
,- 若
,则特解为 - 若
,则特解为
- 若
当
,- 若
,则特解为 - 若
,则特解为
- 若
当
,- 若
,则特解为 - 若
,则特解为
- 若
- 当
对于一些二阶差分方程的解,可以参考:差分方程基本理论
级数理论
阿贝尔定理略。
阿贝尔变换
称阿贝尔变换为“离散的分部积分”是不为过的,他的确十分强大。阿贝尔变换之于差分,正如分部积分之于微分。
数项级数
数项级数值的计算往往要借助幂级数的和函数,这部分内容见后文幂级数部分。
数项级数敛散性
级数
- 若
,则级数必发散;
尽管逐项求导/求积不改变收敛半径,但可以证明:
- 为数项级数加上括号会增强收敛性;
- 将数项级数括号去掉会削弱收敛性;
- 绝对收敛的数项级数,加上或去掉括号,即任意改变运算先后次序,结果均绝对收敛。
给级数加上小括号改变运算顺序,会增强收敛性:原本收敛的级数加上括号后一定收敛,加上括号后发散的级数一定发散。
级数
若
收敛,不一定有 收敛,例如 ;但如果
是绝对收敛的,或 是正项级数,则由 可知 绝对收敛,因为存在 使得当 时有若
收敛,不一定有 收敛,例子是容易想到的,例如若
收敛,则 绝对收敛,因为
凡是收敛的级数,无论怎样增添删减括号,结果仍是一个收敛的级数,且新级数的收敛值等于原级数的收敛值,即使原级数仅仅是条件收敛的。
但如果要调整级数项的次序,则在级数绝对收敛的条件下才能
收 敛 存 在
展开/收起1道级数收敛性例题
设
, ( ),证明级数 收敛;证:观察
,等号右边式子的分子部分 可以联系到 ,因为如果 存在,则 收敛。由基本不等式,有 ,所以 。如果 ,则 与 均为正项级数,根据正项级数的比较判别法,当后者收敛时前者也收敛。理清了思路后就可以着手证明了。先证极限
存在, (因为上文已经由基本不等式导出了 ),所以 是单调递减数列,又 有下界 ,根据单调有界定理, 存在,进一步地对题干条件的方程两边同时取极限,还可以知道 ,不过这里只需要推出极限存在就足够了。接下来证级数
收敛,记部分和 ,由于 存在,所以 从而级数 收敛,所以 因此,作为正项级数, 收敛。这道题并不是什么难题,但其中蕴含的将
与 相联系的技巧是十分重要的。
基本重要数项级数类
下文的判断数项级数的敛散性方法,常常需要通过与一些基本的数项级数进行对比方能得以讨论。
几何级数(等比级数):当
级数敛散性判别法
正项级数
由单调有界定理知,正项级数的部分和
有界的充要条件是级数收敛。比较原则(控制收敛),常配合放缩技巧使用:设
,则 收敛 收敛; 发散 发散;
比较原则极限形式:设
,- 若
,则 与 同敛散; - 若
,则当 收敛时 收敛,当 发散时 发散; - 若
,则当 收敛时 收敛,当 发散时 发散;
- 若
比值判别法,达朗贝尔判别法:对于正项级数
,假设存在某正数 与正常数 ,- 若对一切
,成立不等式 ,则级数 收敛; - 若对一切
,成立不等式 ,则级数 发散。
- 若对一切
比式判别法极限形式,涉及
、 时极为有效:设 ,则收 敛 发 散 敛 散 性 未 知 推广:
若
,则级数收敛;若
,则级数发散。
根式判别法,柯西判别法:对于正项级数
,假设存在某正数 与正常数 ,- 若对一切
,成立不等式 ,则级数 收敛; - 若对一切
,成立不等式 ,则级数 发散。
- 若对一切
根式判别法极限形式,涉及
时极为有效:设 ,则收 敛 发 散 敛 散 性 未 知 推广:
记
,结论同上。
积分判据,尤其针对
级数的推广 形级数敛散性判定极为有效:设
是 上单调递减的非负连续函数,则 与 同敛散,这是充要的。或 、 收 敛 发 散 或 、 收 敛 发 散 - 如果分母包含有多个项,则只要有一个项满足收敛条件,积分就收敛,事实上根据比较判别法的极限形式这点是显然的。例如,对于无穷积分
,虽然 ,但 ,所以积分收敛;同理,瑕积分 也是收敛的,进而导出 也是收敛的。
所以直接把无穷积分
的判据照搬来级数 即可。 级数推广再推广: 在 时发散,在 时收敛。其中, ,嵌套 次。柯西凝聚判别法:设
是单调递减的正项数列,则正项级数 收敛的充要条件是凝聚项级数 收敛。这一方法可以解决 级数的收敛性问题,也可以解决 收敛性问题(尽管积分判据似乎更便捷)。拉贝判别法:对于正项级数
,假设存在某正数 与正常数 ,- 若对一切
,成立不等式 ,则级数 收敛; - 若对一切
,成立不等式
- 若对一切