机器学习领域读博这段旅程的一些感悟

发布时间:2024-10-20 16:01

点击上方“AI公园”,关注公众号,选择加“星标“或“置顶”


作者:Maithra Raghu

编译:ronghuaiyang

导读

一位来自Cornell大学的博士给出了他6年博士旅程的一些个人的经验和建议:小步迭代、策略性阅读、主动、专注、坚持、记笔记、重视社区、拓展视野,无论是工程还是研究,都很有用。

2020年是非常具有挑战性的一年,就我个人而言,也是一个重要的里程碑 —— 从Cornell大学获得计算机科学博士学位。这是一个六年的旅程,我作为机器学习研究人员的个人成长,从第一次被拒稿到识别出一个更广泛的研究前景,也发生在整个领域的快速增长和变化的背景下。

随着今年即将结束,我总结了一些我的思考以及从我的(机器学习)博士经历中学到的教训。我讨论的主题包括对未来的期望,在读博士期间常见的挑战(以及一些帮助挑战的策略),跟上论文发布的步伐,研究的社区性质并发展处一个研究愿景。我希望这些主题对指导博士和机器学习的研究有帮助!

对读博士的期望

在这篇文章的标题中,我将博士学位称为一段“旅程”,这是一个经常被低估的方面,尤其是那些刚从本科毕业的人(这也是我的经历)。典型的机器学习博士是相对非结构化的5 - 6年的时间,在这期间,不仅可以学习到如何做研究该领域的知识,你还能够开发出个人对特定问题的偏好。

这些不断变化的个人偏好将影响你决定从事的研究类型,甚至你博士之后选择的职业道路。但尤其是在读博士的初期,很难预测这些个人观点将如何演变。

就我而言,开始读博士时,我完全假定自己会留在工业界,读了一段时间后,我开始认真考虑学术界的问题,最后做出了一个非常艰难的决定:拒绝学术界的邀请,继续留在工业界。

所以进入博士阶段,有助于一步一步向前走,并专注于获得的经验(学习/研究/社区参与),而不是一个非常具体的期望结果(这很容易变化,也会添加不必要的压力。)

这个旅途中的一些常见的挑战

攻读博士学位是一个非常有益的经历,尤其是在机器学习方面,它提供了一个为理解基础科学和有影响力的技术部署做出贡献的机会。我非常感谢我的博士学位给了我很多机会去体验这两种体验!然而,博士学位的持续时间和非结构化也会使其具有挑战性。我的旅程肯定是有起有落的,在不同的时候,我挣扎于感觉到孤立,完全被卡住,甚至试图跟上快速进展的步伐而不知所措。回顾过去,通过与同龄人的讨论,我现在知道,不幸的是,这些低谷可能是相当普遍的。但因为这些经历是很多人共有的,所以也可以有一些策略来克服它们。下面我将讨论其中的一些经验和策略。

感觉完全被卡住

一个很常见的挑战就是感觉完全被卡住了,不管是在某个特定项目上还是在整个研究过程中。

如果你面临的挑战是一个具体的项目,你已经付出了很大的努力,但它仍然没有发挥作用,那么一些策略可能会有所帮助:

  • 写一篇文章:收集所有的部分实验结果,数学见解,草草记下的动机等,并花时间把这些都放到一起,组成一篇文章。这有助于让我们了解关于事物的现状和重要的差距。

  • 关键点:如果项目的某个特定部分不可行,是否有可能重新定义问题(可能从相关工作中获得灵感),使其更容易处理?

  • 形成联系:当前项目所关注的内容与其他研究领域之间是否存在联系?在这个项目中可以探索这种联系吗?这既有助于项目的进展,也有助于使项目与更广泛的社区相关。

  • 关于写作的反馈:从研究社区的同行、合作者和朋友那里获得关于项目写作的反馈可能也很有帮助。他们可能会提供新的观点或提出改进建议。

  • Workshop submission:提交Workshop也很有用。这也提供了一个帮助收集所有研究结果并获得有用反馈的机会。(一段时间以来,我从机器学习会议的研讨会中收获最多,因为我可以讨论/获得正在进行的方向的反馈,并与其他从事同一领域的研究人员会面。)

  • 结束并继续前进:有时候,可能会有一个项目在开始时听起来很有前途,但却很难付诸实施,并且在重构或形成与其他领域的联系方面也具有内在的挑战性。在这种(困难的)情况下,最明智的做法是迅速结束项目并继续前进。如果你得到的只是部分结果,那就很有可能创建一个最终记录并分享,所以一个选择就是这样做,得到合作者的确认和最终反馈,并将其作为arXiv预印本或研讨会论文保存下来。

ItVuer - 免责声明 - 关于我们 - 联系我们

本网站信息来源于互联网,如有侵权请联系:561261067@qq.com

桂ICP备16001015号