GAMES003：Basic scientific literacy

Research

发布日期: 2024-09-28

更新日期: 2025-03-16

文章字数: 2.2k

阅读时长: 7 分

阅读次数: 9

Week1: 课程内容概览 & 建立领域视野

课程动机

科研中常见情况：缺乏研究策略 $\to$ 面临科研困难 $\to$ 遭遇情绪低落

课程内容：如何选题与设计方法 $\to$ 如何实验与提升方法 $\to$ 如何写作与宣传工作

课程目标：知道如何在科研过程中自我提升科研能力，成为一个快乐的研究人员。

课程安排

传授科研流程，解释每一步的具体操作，配合案例加以说明。

初始化科研课题：建立领域视野 $\to$ 选择科研课题 $\to$ 设计技术方案
迭代技术方案：基于技术方案设计实验 $\leftrightarrow$ 基于实验结果提升方案
撰写学术论文：写作规划 $\to$ 故事梳理 $\to$ 论文画图 $\to$ 论文写作 $\to$ 论文评审

分享科学研究中的软技能，包括如何做报告和一些有用的科研习惯。

怎么最好的受益

从本课程中学习科研流程与每个步骤的方法论
根据自己的经验思考并总结方法论
通过实践熟悉研究方法
重要：总结你自己的研究方法

课程概览

第一部分：初始化科研课题

Step1：建立领域视野

什么是领域视野？

“ 领域 ” 的定义：特定的科研方向，如 3D reconstruction, Novel view synthesis.

为什么需要建立视野？

领域的视野为以下五件事奠定基础

做好以上六件事情成为该领域的专家。

如何建立领域的视野？

确定领域的 milestone papers
查找之前和之后的论文
阅读论文以了解这些论文解决的问题和pipeline，以及他们的技术见解
整理技术的演变轨迹 $\to$ 跟踪和预测新技术
整理领域热点问题的演变 $\to$ 跟踪和预测新问题

案例学习：多视角重建

如何识别 MileStone papers？

查找该领域被引用次数最多的论文并按照日期对它们进行排序。
寻求经验丰富的研究人员的建议。

怎么梳理技术发展脉络？

首先，初始化一个时间轴，将论文列到时间轴、并阅读每篇论文，了解它解决的问题、pipeline和技术见解。

然后，确定哪些论文是 milestone paper、哪些论文是 follow-up，根据论文方法的创新度判断。

Milestone paper 的技术范式
Follow-up papers 作出的改进

最后，总结这些论文，构建思维导图，看看每年的热点问题是什么，并要求能够回答如下问题：

如何有效阅读论文？

可以借助论文解析树来解决这个问题，将阅读论文的过程转变为回答问题的过程。论文解析树的结构如下：

Step2：选择科研课题

如何选择课题？

选择课题需要确定如下两件事情：

确定 Project setting，输入和输出
确定想解决的 Failure case 及其背后的技术挑战

为什么课题选择非常重要？

一个好的课题将使科研变得容易很多。

如何找到好的课题？

Aim high: 努力完成一个达到你能力极限的科研课题。

Step3：设计技术方案

什么是方法设计？

在选定课题后，需要设计一一种新颖的pipeline来达到SOTA performance。

为什么要有方法设计的系统性思路？

一个清晰的方法设计思路能够更有效地解决问题问题并达到SOTA
提出的方法更有动机，同时使得论文的故事更吸引人
保证了方法的技术创新性，以免审稿人说它没novelty
同时，该系统性思路可以有效提升对技术的insights

如何设计方法？

分析原因：遵从第一性原理，分析为什么当前的SOTA效果不够好。
设计方法：根据分析的原因，设计一种能达到SOTA的方法。
判断合理性：判断提出的技术方法是否合理。
改进方法：通过读论文、讨论和做实验改进技术方法。

设计方法的三个要点

不只是要Work，还要保证论文方法的技术创新性。
争取在Pipeline层面设计解法。
要判断论文方法是否有足够技术贡献，是否有新的知识、新的认识、新的观点。

第二部分：迭代技术方案

Part1: 基于技术方案设计实验

实验设计是什么？

规划要做哪些实验，实现并提升Technical idea，达到SOTA指标。

实验设计的两个好处

让研究变得更简单：想清楚实验的目的，明确科学研究的方法。
让实验更简单：降低实验难度，提高实验效率。

如何设计实验？

核心原则：减少实验中包含的探索点的数量。

如何减少 exploration points 的数量
- 分解 pipeline：将 idea 分解为不同组件，从可控的idea开始，不断添加探索性和创新性的框架或模块。
- 分解实验设置：从一个简答的 setting 开始探索，然后逐渐增加难度，之后进入到真正的 setting。

同时，还应该考虑 exploration points 的重要性，进行实验优先级排序。

Part2: 基于实验结果提升方案

为什么需要改进方法 ?

因为初始提出的方法通常会不 Work

理想情况：提出一个 idea $\to$ 进行实验 $\to$ Good results

实际情况：提出一个 idea $\to$ 进行实验 $\to$ Not working

如何改进方法 ?

可以把改进方法的过程当做 SGD 优化过程。

具体改进方法的思路：

第三部分：论文写作

Step1: 写作规划

画一个清楚的pipeline figure的草图（理清楚方法的流程步骤），梳理论文story，写一版introduction的初稿。
列出要做的comparison experiments和ablation studies，并开始做起来。
写method，同时做实验。
改introduction和method，同时做实验。
实验做差不多以后，写experiment。
写related work。
Review论文，改论文的introduction、method和experiment。
写abstract，取论文名字。
反复review论文，改论文。

为什么要规划写作？

大幅度提高投稿率！！
让自己做论文更轻松，避免最后几天熬夜。

Step2: 故事梳理

怎么梳理论文故事？

首先，整理论文方法流程，给论文画一个pipeline figure的草图，帮助自己直观地看清论文方法：

按照 “ 输入 $\to$ 模块1 $\to$ 中间输出1 $\to$ 模块2 $\to \dots \to$ 模块N $\to$ 输出 ”，用文字描述 pipeline。需要清楚地描述流程。
选择流程图的布局并绘制简单的流程图。

第二，按序回答以下问题，

pipeline有哪些贡献（提出新任务、确定新的技术挑战、提出新的技术贡献）?
贡献有哪些好处？它们解决了哪些技术挑战 ?
论文带来了哪些新的insights ?
如何通过介绍以往的方法引入关注的技术挑战和新的insights ?

第三，概述论文故事，

介绍论文的任务。
通过讨论以前的方法来引入解决的技术挑战。
为了应对这一技术挑战，提出 XX 贡献。
贡献有哪些技术优势，有哪些新的insights ?

Step3: 论文画图

画好看的图的目的：提高中稿率

绘制 pipeline 图的步骤流程

按照 “ 输入 $\to$ 模块1 $\to$ 中间输出1 $\to$ 模块2 $\to \dots \to$ 模块N $\to$ 输出 ”，用文字描述 pipeline。需要清楚地描述流程。
选择流程图的布局并绘制简单的流程图。
可视化 “ 输入 ”、“模块”、“中间输出” 和 “输出” 等元素。
给流程图涂上颜色。
优化流程图布局，保证简洁。避免过多的空白区域和大大空白区域。

好看的线条、框图、元素可视化、配色非常重要。

Step4: 论文写作

写 method 的步骤

画一个 pipeline figure 的草图。
梳理 Method section，确定各个subsection将涵盖哪个方法模块。
分别写各个subsection。每个subsection包括三个部分：模块的具体设计、模块的 motivation、模块的技术优势。
- 首先写清楚模块的具体设计：给定 xx 输入，第一步 xx，第二步 xx，第三步 xx，最终得到 xx 输出。
- 然后模块的 motivation、技术优势。