机器学习数学基础-微积分-2

集合与函数¶

集合的基本概念¶

• 如实数集R是一个集合，其中一个是他的元素，通常用大写字母表示集合，用小写字母表示元素，元素和集合的关系用属于和不属于表示如

$$a\in{B} 和 a\notin{B}$$

• 集合的列举方法有列举法和描述法

$$列举法如:A=\{1,2\}, 描述法如:\{x|x^2-2x-3=0\}$$

• 集合分类
  • 有限集
  • 无限集
  • 空集
  • 常用的数集：
    • N 自然数集
    • Q 有理数集
    • Z 整数集
    • R 实数集

集合运算¶

• 交运算：∩
• 并运算：∪
• 补运算：属于A且不属于B的集合，为B关于A的相对补集，记做 A-B
• 子集:A⊆B

Venn图:表示集合的另一种表示¶

函数¶

函数的几种类型：

极限¶

区间¶

• 有限区间
  • 开区间 {x|a<x<b} 记做(a,b)
  • 闭区间 {x|a<=x<=b} 记做[a,b]
  • 半开区间
• 无限区间
  • [a,+∞] = {x|a<=x}
  • (-∞,b)={x|x<b}

邻域¶

• 以a为中心的两个相同长度的区域
• 如果不想包含点a，那么叫做去心delta邻域

数列&函数的极限¶

• ε为epsilon，见英文罗马注音
• 极限的定义即，某一个数列，当n趋向于无穷的时候，数列无限逼近（可能比之大也可能比之小）与某一个数，那么这个数就是这个数列的极限
• 如:Ax = {1/x|x>0}，当x->∞时候, limit(n->∞)Ax=0
• 函数的极限如何表示

$$\lim\limits_{t \to \infty }{f(x)}=a$$

• 极限的保号性：如果数列{an}存在极限a，并且a>0，那么数列从某一项开始，以后所有的项都是>0的。<0也一样
• 极限的夹逼定理：如果三个数列x,a, y，如果x,y有相同的极限，那么a有极限，并且和x,y相同

---

• 罗尔定理：两端点y相等，区间内连续可导，那么肯定存在一个点导数为0（水平）

• 拉格朗日中值定理：两端点相等，区间内连续可导，那么肯定存在一个点的斜率，等于ab两个端点组成的这条弦组成的斜率

以下函数四个函数，当x区域无穷大的时候，经常会碰到无穷大减无穷大，0*无穷大，0/0, 无穷大/无穷大的情况。如何求他们的极限？这个时候要用到柯西中值定理和洛必达法则

• 柯西中值定理：

• 洛必达法则：

  

  

连续与微分¶

函数的间断有多种情况，如下图所示

导数与微分¶

导数的四则运算：

$$设y=x^3-e^x+\sin{x}+\ln{3}，求y^{'}\\ 解:y^{'}=(x^3-e^x+\sin{x}+\ln{3})^{'}\\ =(x^3)^{'}-(e^x)^{'}+(\sin{x})^{'}+(\ln{3})^{'}\\ =3x^2-e^x+\cos{x} $$

复合函数求导

例题：

导数的作用：

• 链式求导：神经网络反向传播
• 梯度下降：最简单的优化方法