Categories

哇,好复杂的 TorchDynamo,我们拆开看看吧~

TIP

最近这一周负责调研 TorchDynamo,唔,也是很久没写博客了嘛,所以就浅记录下,顺便梳理下 Dynamo 中的各个流程和部分细节~

注意本文最初的动机是调研,因此内容排布上可能对新手不是很友好。因为一直没时间整理优化,暂时先这样了。

Python 3.11 核心加速原理——指令特化

TIP

近期在做一些 Python 3.11 的适配工作,结果 Python 3.11 的改动实在是太多了,针对一个一个问题解决并不利于理解 Python 3.11 改动的本质,因此这里稍微花了点时间来调研和整理 Python 3.11 的核心变化。

TensorFlow 踩坑记:训练状态的设置

TIP

虽然说 TensorFlow V2 比 V1 易用性提高了很多,但杂乱的 API 还是让人抓狂,特别是 Keras 中有着多种多样的模型实现方式(最简单的 Sequential、最灵活的 Functional、最规整的 SubClass)以及训练方式(fit 和自己写训练循环),fit 过于封装,有时候想加点东西都挺麻烦,而自己写循环又怕效率较低,也可能会忽略点什么,果不其然,最近又发现了训练状态的设置问题,于是它差点又把我推向了 PyTorch 的怀抱