TensorFlow 学习
一张让你代码能力突飞猛进的速查表
# 这是一张机器&深度学习代码速查表 标签（空格分隔）： 陈扬 啊啊啊啊啊!!!!知乎小透明一下子收到了200个赞,啊啊啊爱了爱了, 还有我要给全国人民谢罪,因为这几天天天在忙着写代码,实在是没时间看知乎,对不起各位大大! OUCMachineLearning/OUCML 上面这个就是各位大大要得高清无码 图,本来早就传上 github了,忘记放链接了,实在是抱歉 给各位大大说声抱歉了, 嘻嘻嘻,可以关注一波我们的公众号:机器学习算法工程师 吗?我有一个…
我觉得真心不难，学习路线图应该是这样的：第一步：学Python3，不要学Python2了，到2020年Python2就不再被维护了。下面是我觉得最好的Python3自学书籍下载链接。Python3程序开发指南.第二版(带书签).pdf 第二步：学习深度学习简单的例子，如MNIST, CIFAR, PTB, Word2Vec等等。只要学习了这里面的基础任务，基本可以说是入门了。我建议结合网上的深度学习教材来看代码。深度学习: 基础例子 第三步：学习更加复杂的深度学习例子，并…
介绍一个我们实验室内部使用的调参利器fitlog，开源地址： https://github.com/fastnlp/fitlog figlog原本是作为fastNLP的一部分开发，后来分为一个单独项目。 这里有个简单的介绍：使用fitlog 辅助 fastNLP 进行科研 https://fastnlp.readthedocs.io/zh/latest/tutorials/extend_3_fitlog.html 但实际功能远远多于介绍里的功能，有兴趣的同学可以挖掘下。 下面是开发小组提供的简洁版说明。 Tabular显示实验结果，方便不同超参数之间的对比。以下一行是一次实验。 [图片] (1.1) 支持group操作，方便查看某…
熬了几个通宵，我写了份CUDA新手入门代码
字节跳动 员工
在用PyTorch或者TensorFlow搭积木的时候，你是不是也遇到过下面这些情况： 自带的算子及其组合都无法满足你超（bian）常（tai）的计算需求。自带的算子不可导，需要自己定义反向传播的梯度，例如argmax。自带的算子太慢了，严重影响了你发paper的速度。 [图片] 这时候你就会想，要是能自己实现一个速度又快、又能满足需求的算子就好了。 你想到了CUDA，自己写一个CUDA算子不就完事了嘛！ 然后问题又来了，写是写完了，怎么用python代码调…
强烈推荐的TensorFlow、Pytorch和Keras的样例资源（深度学习初学者必须收藏）
TensorFlow、Keras和Pytorch是目前深度学习的主要框架，也是入门深度学习必须掌握的三大框架，但是官方文档相对内容较多，初学者往往无从下手。本人从github里搜到三个非常不错的学习资源，并对资源目录进行翻译，强烈建议初学者下载学习，这些资源包含了大量的代码示例（含数据集），个人认为，只要把以上资源运行一次，不懂的地方查官方文档，很快就能理解和运用这三大框架。 一、TensorFlow 资源地址： https://github.com/aymericdamien/TensorFlow-Examples …
Batch Normalization原理与实战
计算广告/信贷风控/花呗算法
好久没有更新专栏了，从去年6月开始一直在忙实习，年初实习结束了又在写毕业论文，终于搞的差不多了，可以抽空来慢慢更新专栏内容了！ 前言本期专栏主要来从理论与实战视角对深度学习中的Batch Normalization的思路进行讲解、归纳和总结，并辅以代码让小伙伴儿们对Batch Normalization的作用有更加直观的了解。 本文主要分为两大部分。 第一部分是理论板块，主要从背景、算法、效果等角度对Batch Normalization进行详解；第二部…
微信公众号：PyVision
写深度学习网络代码，最大的挑战之一，尤其对新手来说，就是把所有的张量维度正确对齐。如果以前就有TensorSensor这个工具，相信我的头发一定比现在更浓密茂盛！ 【此处防脱发洗发水广告位火热招租......】TensorSensor，码痴教授 Terence Parr 出品，他也是著名 parser 工具 ANTLR 的作者。 在包含多个张量和张量运算的复杂表达式中，张量的维数很容易忘了。即使只是将数据输入到预定义的 TensorFlow 网络层，维度也要弄对。当…
GitHub超过3300星的TensorFlow教程，简洁清晰还不太难丨资源
伊瓢 发自 凹非寺 量子位 报道 | 公众号 QbitAI最近，弗吉尼亚理工博士Amirsina Torfi在GitHub上贡献了一个新的教程，教程清晰简单，喜提3300颗星~ 这个教程不一样Torfi小哥一上来，就把GitHub上的其他TensorFlow教程批判了一番： 你们啊，都是为做而做，分享的教程都各种跳入跳出，要么搞的特别复杂，要么没什么文档支撑。 搞这些大家都不看的教程有什么用？既不能帮助开发人员搬砖，也不能帮助研究人员搞科研，浪费这时间干嘛…
简单来说就是我们没有足够的人手能够在短时间内同时技术上做出足够的深度而且大规模推广，所以我们前期是舍推广保技术。详细来说我稍微发散下，可以把当下的深度学习（DL）比作修真世界（传统武侠也类似）。学术界是各个门派，公司是世家，不过这个世界里世家比较强势。目前是盛世，各个流派之争，新人和技术层出不穷，各大擂台（例如imagenet）和大会（据说今年nips 8k人参加，一个月前就把票卖光了）热火朝天。平台作为修真练…
人工智障养成工程师
小样本情况，无论是低维还是高维，不如SVM和贝叶斯模型低维数据，大样本量，不如各种ensemble类算法以上主要问题在于过拟合，传统机器学习算法大部分对过拟合都有比较合理的解决方案，而神经网络基本只靠heuristic。dropout虽然在Bayesian deep learning里面有不错的意义，但只依靠dropout来做inference实践上未免有点单薄低维时序数据，小样本量，大部分情况下比不过HMM，ARIMA一类的，比如语音识别里至今CNN没有比HMM效果好多…
去年 10 月，在 DCASE 2017 Challenge 结束后不久，我用了一周半的时间，自己撸了一个做该项比赛任务四 的神经网络。先简要介绍一下这个任务。任务的目标是判断一段 10 秒的音频中含有哪些音频事件，事件一共有 17 种，主要是各种车辆和警报的声音。训练数据是 Google Audio Set 的一个子集，含有大约 5 万条音频，约占全集的 2.5%。成绩用所有事件的 micro-average F1 来衡量，如果你不知道这是个什么东西，那你就知道这是一个百…
[视频] wandb，weights&bias，最近发现的一个神库。 深度学习实验结果保存与分析是最让我头疼的一件事情，每个实验要保存对应的log，training curve还有生成图片等等，光这些visualization就需要写很多重复的代码。跨设备的话还得把之前实验的记录都给拷到新设备去。 wandb这个库真是深得我心，只要几行代码就可以把每一次实验打包保存在云端，而且提供了自家的可视化接口，不用每次都自己写一个logger，也省掉了import matplotlib, ten…
个人觉得如果是纯python，不加任何外部的库，那你就需要做好准备半年时间去自己开发深度学习框架了。不过好在有很多大牛人或者机构已经给你开发好了很多可以拿来直接用的库，模块。这些都是大大的好啊。真心感谢他们的贡献。 具体来说说用python开发或学习机器学习，深度学习的重要模块！应该说是必不可少的模块！ 1. 前期准备， 你多多少少需要懂python科学运算，数据整理还有出图像结果的模块，这三个必不可少：numpy [ 教程 ],…
前端人工智能？TensorFlow.js 学会游戏通关
关键字：Tensorflow，JavaScript，AI，前端开发，人工智能，神经网络，遗传算法 [视频] 先上最终效果T-Rex Runner 是隐藏在 Chrome 中的彩蛋游戏，最近我用刚推出的 TensorFlow.js 开发了一个完全独立运行于浏览器环境下的 AI 程序，如下图所示 AI 可以轻松控制暴龙（T-Rex）避开障碍物。 [图片] [图片] 查看在线演示神经网络版 - 仅支持 Chrome 桌面版遗传算法 + 神经网络 - 仅支持 Chrome 桌面版 下载或收藏我在 Github 上的源代码MagicCube/t-rex-run …
干货 | TensorFlow的55个经典案例
BigQuant.com 让每个投资者用上AI
导语: 本文是TensorFlow实现流行机器学习算法的教程汇集，目标是让读者可以轻松通过清晰简明的案例深入了解 TensorFlow。这些案例适合那些想要实现一些 TensorFlow 案例的初学者。本教程包含还包含笔记和带有注解的代码。第一步：给TF新手的教程指南1：tf初学者需要明白的入门准备机器学习入门笔记： aymericdamien/TensorFlow-Examples MNIST 数据集入门笔记 aymericdamien/TensorFlow-Examples 2：tf初学者需要了解的入门基础Hel…
2022年了，当你找到一篇两三年前好论文，并且发现它开源的代码是Pytorch写的，那你去官网直接用Pytorch的最新稳定版，大概率是不会因为Pytorch而报错的。 但是当你发现它是用tensorflow写的，还是1.x甚至0.x版本的时候，你想让它成功跑起来那就是非常具有挑战性的事了。 究其原因，就是TF的兼容性太差，版本的微小差异就会引起代码报错，加上30系显卡不兼容CUDA10，而1.X又得是CUDA10的问题。光是配好环境就需要大量的时间。这都…
梦想家/AI Research
先说结论：目前Tensorflow还没有被Pytorch比下去，但之后极大概率被比下去。 作为谷歌tensorflow某项目的Contributor，已经迅速弃坑转向Pytorch了。 1.目前，在学术界Pytorch已经超越Tensorflow在题目的补充内容中，包含大量的“学术界Pytorch比Tensorflow更有优势”的证据，因此不再多说，直接看题目中的数据即可，Pytorch因其简单易上手，而被广大Researcher所使用。 道理很简单，Research的目的是快速实现、验证自己的想法，…
谷歌今日上线基于TensorFlow的机器学习速成课程（免费中文版）
随着机器学习越来越受到公众的关注，很多初学者希望能快速了解机器学习及前沿技术。而今天谷歌上线了基于 TensorFlow 的机器学习速成课程，它包含 40 多项练习、25 节课程以及 15 个小时的紧凑学习内容。谷歌官方描述为机器学习热爱者的自学指南，且课程资料都是中文书写，课程视频都由机器学习技术转述为中文音频。这对于中文读者来说将会有很大的帮助，当然我们也能选择英文语音以更精确地学习内容。此外，据机器之心了解，这…