跳转到正文

研究笔记：从问题到方法

Date: Estimated Reading Time: 1 min Author: Weiwen Wang

欢迎来到我的 Blog。这里将记录机器学习、科研与教学中的思考。这篇示例展示了研究笔记的基本组织方式，也作为这个博客的起点。

从问题出发

一份研究笔记，可以先回答三个问题：我们希望解决什么问题，现有方法有哪些局限，以及为什么值得继续探索？

把问题写清楚，往往比一开始就列出复杂的方法更有帮助。

用公式描述方法

以经验风险最小化为例，给定训练样本，我们希望找到使平均损失最小的模型参数：

\[\theta^* = \arg\min_{\theta}\; \frac{1}{n}\sum_{i=1}^{n}\ell\bigl(f_{\theta}(x_i), y_i\bigr).\]

其中，$n$ 是样本数量，$\ell$ 是损失函数。写下公式之后，还需要说明其中的假设，以及它在实际数据中是否成立。

一个简单的代码示例

下面用均方误差说明如何把损失函数写成代码：

def mean_squared_error(predictions, targets):
    if len(predictions) != len(targets) or not targets:
        raise ValueError("Expected non-empty inputs of equal length.")
    return sum((p - y) ** 2 for p, y in zip(predictions, targets)) / len(targets)

记录观察与局限

将实验中观察到的现象，与对现象的解释分开记录。

记录内容需要回答的问题
实验设置数据、划分和评价指标是什么？
主要观察哪些现象在多次实验中重复出现？
方法局限哪些假设尚未验证？
下一步哪个实验最有助于减少不确定性？

继续思考

把尚未解决的问题留在笔记末尾，方便下一次阅读时继续推进。随着理解加深，同一份笔记也可以持续补充与修订。