如何使用Octave\MatLab精确计算ML梯度下降代价函数的简单演算?

我在跟踪一个 我正在使用 倍频程 (MatLab应相同)。

这个练习与计算一个项目的成本函数有关 梯度下降算法

在课程幻灯片中,我知道这是我必须使用倍频程实现的成本函数:

这是课程幻灯片中的公式:

所以J是θ矩阵表示的θ变量的函数(在前面的第二个方程中)。

这是J(θ)计算的正确MatLab\Octave实现:

function J = computeCost(X, y, theta)
%COMPUTECOST Compute cost for linear regression
%   J = COMPUTECOST(X, y, theta) computes the cost of using theta as the
%   parameter for linear regression to fit the data points in X and y

% Initialize some useful values
m = length(y); % number of training examples

% You need to return the following variables correctly 
J = 0;

% ====================== YOUR CODE HERE ======================
% Instructions: Compute the cost of a particular choice of theta
%               You should set J to the cost.

J = (1/(2*m))*sum(((X*theta) - y).^2)

% =========================================================================

end

哪里:

十 是一个2列的矩阵 米 将第一列的所有元素都设置为值的行 1 :

X =

1.0000    6.1101
1.0000    5.5277
1.0000    8.5186
......    ......
......    ......
......    ......

y 是一个向量 米 元素(如 十

y =

   17.59200
    9.13020
   13.66200
   ........
   ........
   ........

最后 θ 是一个2列向量,其值为0,如下所示:

theta = zeros(2, 1); % initialize fitting parameters
theta
theta =

   0
   0

好,回到我的工作方案:

J = (1/(2*m))*sum(((X*theta) - y).^2)

具体到这个矩阵乘法(矩阵之间的乘法 十 θ ):我知道这是一个有效的矩阵乘法,因为 (2列)等于 θ

令我发疯的疑问(可能是一个微不足道的疑问)与上一张课程幻灯片的内容有关:

正如你在计算电流的第二个方程式中所看到的 它使用的值 而不是代码中的θ向量。

为什么?

我怀疑这只取决于 矢量。它是这样建造的:

theta = zeros(2, 1); % initialize fitting parameters

即生成一个2行1列向量,而不是一个经典的1行2列向量。所以也许我不必转置它。但我绝对不能肯定这个断言。

我的直觉是正确的还是我遗漏了什么?