最小二乘法
最小二乘法(Least Squares Method)是一种用于数据拟合的方法,通过最小化观测值与模型预测值之间的误差平方和,来求得模型参数的最优估计。下面以一元线性回归为例,详细推导最小二乘法的过程。 一、问题描述 给定 $n$ 组数据点 $x1, y1, x2, y2, \ldots, xn, yn$,希望用一个线性函数 $$ y...
常用积分表
一、常见积分表 | 序号 | 积分表达式 | 积分结果 | | | | | | 1 | $\int x^n \, \mathrm{d}x$ ...
常微分方程求解(6)
设$n$阶常数矩阵$\mathbf{A}$中的每一元素$a{ij}\ i,j=1,\cdots,n$都是常数,则称 $$ \frac{\mathrm{d}\mathbf{x}}{\mathrm{d}t} = \mathbf{Ax} + \mathbf{f}t $$ 为常系数线性微分方程组。 我们先介绍常系数齐次方程组 $$ \frac{\m...
叉积和混合积性质
一、叉积 1、定义 设$\mathbf{a} = a1, a2, a3$,$\mathbf{b} = b1, b2, b3$是三维空间中的两个向量,则它们的差积(叉积)定义为: $$ \mathbf{a} \times \mathbf{b} = \begin{vmatrix} \mathbf{i} & \mathbf{j} & \...
矩估计和极大似然估计
一、矩估计(Method of Moments, MM) 1、意义 矩估计是一种参数估计方法。其基本思想是用样本矩(即样本的若干阶幂平均)去逼近总体矩(即理论矩),从而求出未知参数的估计值。也就是说,通过样本的统计量去“模拟”总体分布的性质。 2、计算方法 (1)一般步骤 1. 设总体分布含有$k$个未知参数$\theta...
假设检验的基本概念
一、原假设与备择假设的定义 1、原假设(Null Hypothesis, $H0$) .原假设是指在进行假设检验时,最初假定被检验的参数或总体特性在某一特定值或范围内。一般认为原假设是“无效”或“无差异”的假设。例如: $$ H0: \mu = \mu0 $$ 意思是总体均值等于$\mu0$。 2、备择假设(Alternativ...
枢轴量
概率论与数理统计中的枢轴量法详解 一、基本概念 在概率论与数理统计中,枢轴量法(Pivot Quantity Method)是一种常用的构造置信区间的方法。其核心思想是通过构造一个在参数未知时依然服从已知分布的函数(枢轴量),进而推导出参数的置信区间。 设有样本 $X1, X2, \ldots, Xn$,依概率分布 $fx;\theta$...
一阶线性微分方程组解的一般理论
我们约定向量用粗体小写字母表示,如 $\mathbf{x}$,矩阵用大写字母表示,如 $A$。该部分考试不做要求。 一、一阶微分方程组的标准形式 含有 $n$ 个未知函数 $x1t, x2t, \ldots, xnt$ 的 $n$ 个一阶微分方程构成的一阶微分方程组,如果已经解出了一阶导数 $\frac{\mathrm{d}x1}{\mathr...
梯度、散度、旋度
我们首先介绍矢量微分算子 $\nabla$ Nabla 或 Del 算子。在三维笛卡尔坐标系中,它的定义是: $$ \nabla = \mathbf{i} \frac{\partial}{\partial x} + \mathbf{j} \frac{\partial}{\partial y} + \mathbf{k} \frac{\partial}{\p...
格林公式、高斯公式、斯托克斯公式
一、格林公式 1、公式内容 $$ \oint{C} P\,\mathrm{d}x + Q\,\mathrm{d}y = \iint{D} \left \frac{\partial Q}{\partial x} \frac{\partial P}{\partial y} \right\mathrm{d}x\,\mathrm{d}y $$ ...