(A check list for myself. At least human-readable 🤔) ¶Initialization DDP arguments and device torch.cuda.set_device(ddp_local_rank) output direct ...

夕阳下树木拖着的影子越来越长，风捉摸不定地吹着，空气中混杂着太阳暴晒后泥土和杂草的味道。我顺手记录下了这一刻的夕阳，咔嚓。 夏天来了。 就这么漫无目的地散步，直到夜幕降临，星星挂上天空。远处，城市的灯火向上投射出极不自然的红光。 突然，头上一点荧光闪烁，断断续续不规则地划向空中。是萤火虫，是我很久没 ...

背景 工欲善其事，必先利其器。缺少一个好的科研写作环境怎么行呢？😎 查了查 LaTeX 写作的相关软件，发现大家主要推荐 TeXsudio 或者 VSCode+latex-workshop。作为一个忠实的 VSCode 粉，自然就选择了 VSCode+latex-workshop 环境。 环境配置 ...

背景 在配置以 vscode 为主的 LaTeX 写作环境时，使用 homebrew 安装开源 PDF 浏览软件 skim —— brew cask install skim。在安装失败的同时收到了来自 github 的邮件： Hi @x1aokeHuang, You recently used a ...

看到很多人的 Blog 都发布了各自的 2019 回忆。嗯，我也试一试吧！ 坑会慢慢填，先尝试一下图片（TODO 感觉图片有点大，打开有点慢，需要压缩一下 Done） document.querySelectorAll('.github-emoji') . ...

URL: https://arxiv.org/pdf/1806.08342.pdf ¶TL;DR 作者介绍了 TensorFlow 最早的量化工具。工具提供了三种量化方式：只量化 weights 、同时量化 weights 和 activations 、量化训练 (B. Jacob 2017)。 此 ...

背景 最早了解到渊栋大神是在沐神的一篇回忆 博士这5年 中，里面有这么一段：“在CMU回到了去百度前的一周七天工作无休的节奏。每周至少80个小时花在学校。如果累了就去健身房，我一般晚上12点去。不仅是我一个人，大家都很努力，例如凌晨的健身房，早3点的办公室，四处都可以见到中国或者印度学生。我那时候的 ...

1. 量化的背景 尽管模型大小正在不断地被压缩，但其计算量通常在100M - 200M FLOPS，对于目前移动端CPU算力来说还是太大。因此，不论从提高推理速度还是减少能耗的方面考虑，对模型进行量化都是必要的。 接下来是对 NVIDIA 的 TensorRT 8-bit Inference wit ...

0. 引入 多说无益，Show you the code 😎。 参考资料：廖雪峰 GIt教程 强烈推荐 1. 用户配置 安装完成后，设置用户，--global表示机器上所有git仓库使用此配置 12$ git config --global user.name "Your Name"$ git ...

1. 主体思想 实验科学： 避免难以复现; 验证idea 正确的实验： 必须可复现; 结果可解读、可比较; 良好 code style 协作 信息公开; 经常交流 2. 错误行为 ¶中途改动导致不可复现实验 实验启动后不要改动 如果想修改，重新复制，git 管理，做记录 ¶修改共 ...