深度学习

深度学习是一种基于人工神经网络的机器学习方法，它通过多层神经网络对数据进行建模和学习，从而使计算机能够自动从数据中提取特征并进行预测。深度学习在图像处理、语音识别、自然语言处理等领域取得了显著的突破，特别是在大数据和强大计算能力的支持下，深度学习已成为解决复杂问题的主要技术。

来源：CSDN

ArendHintze写了一篇很好的短文，叫《理解AI的四种类型》，分别是反应机器（ReactiveMachine）、有限的记忆（LimitedMemory）、思维理论（TheoryofMind）、自我意识（Self-Awareness）。

这种分类比把人工智能分成“狭义”和“通用”要好很多，它试图把狭义AI分成3类。开发者可以通过更多的概念来区分各种不同AI实现。借此机会，我想针对深度学习领域提出更加细致的分类，这样，开发者就可以清楚地知道自己目前所处的位置。

下面具体阐述一下深度学习能力的五个分类。

C

C级别作者的定义是ClassificationOnly，可以理解为只能做分类。涉及到的系统包含全链接神经网络（FCN）、卷积网络（CNN）以及它们的各种组合。这些系统采用高维向量作为输入并实现单个结果，通常是输入向量的一个分类。你可以把这些系统当作是无状态函数，这意味着当前的行为仅仅是输入的一个函数。生成模型也是热门研究领域中的一员，也归于此类。简而言之，这些系统本身都是相当有能力的。

英特尔SSF，可以为HPC用户减少面对众多新科技选择时的烦恼，同时为用户提供最有效的软硬件组合的相关建议。

英特尔SSF集成了一系列软件与硬件技术，包括英特尔OPA，基于3D XPoint 技术的英特尔Optane SSDs，以及最新的英特尔硅光子技术。同时它集成了包括英特尔至强处理器，英特尔至强融核处理器以及英特尔Lustre 软件企业版在内的的一系列英特尔计算与储存产品。

从性能基准来看，相比基于GPU的AlexNet以及GoogleNet，英特尔SSF技术组合（英特尔至强融核处理器和英特尔OPA）可以为用户在深度学习的神经网络中提供更好地集成性和性能。

深度学习是一门经验科学，许多基础设施的质量也在倍增。幸运的是，现在的开源生态系统可以使任何人建立不错的深度学习基础设施。

在这篇文章中，我们将讲述深度学习研究通常如何进行，介绍可选的对应基础设施以及开源的kubernetes-ec2-autoscaler，用于Kubernetes的批次优化扩展管理。希望这篇文章对你构建自己的深度学习基础设施有所帮助。

用例
深度学习典型的进步是从一个想法开始的，你在一个小问题上进行测试。在这个阶段，你想要快速的进行许多临时实验。理想情况下，你可以通过SSH连上一台机器，然后运行脚本，并在一小时以内得到结果。
要使模型真正工作，通常需要预见所有可能出错的情况，并且设法解决这些限制。（这类似于构建新的软件系统，你多次运行代码来了解它的运行情况。）

视频
你需要从多个角度来考察你的模型，以了解它们的实际学习情况。上面这个来自于Dario Amodei的强化学习Agent（控制右边的球拍）取得了高比分，但当你看着它玩时，你会发现它只是呆在一个地方。因此，深度学习基础设施必须能够让用户灵活观察模型，仅仅给出汇总统计是不够的。

有许多人分析过深度学习重要性以及它是怎样风靡世界的，我十分赞同他们的说法。研究/应用深度学习时使我感觉自己最像个魔术师，我清楚地知道在未来的三年里，任何一个伟大的软件都将被深度学习所驱动。然而，深度学习目前还不是一个主流，所以我想我应该分享一些杰出贡献者的研究成果，希望能够离这个这个目标更近一点。

以下是我认为深度学习即将成为热潮的十个理由：

1、还在为一张像素低的图片头疼吗？Deep Learning可以预测出此图片在高像素环境下的呈现，并且加上缺失的细节。

此功能对于动漫图像的像素处理也有一样惊艳的效果。

本文简要介绍了增强学习（RL），主要解释了其实现过程：讲述一些基本理论，然后走马观花地看一下为玩《战舰》游戏而训练神经网络的最小python程序。

我们这里要简要介绍一下增强学习（RL）——一种为了提高玩游戏效率的训练程序的通用技术。我们的目标是解释其实际实现：我们讲述一些基本理论，然后走马观花地看一下为玩《战舰》游戏而训练神经网络的最小python程序。

导言

增强学习[RL]技术是一种可用于提高效玩游戏效率的学习算法。与督导机器学习[ML]方法一样，增强学习是从数据——这里是指过去玩游戏的数据——中进行学习。然而，尽管督导学习算法只是根据现有的数据进行训练，但RL还挑战如何在收集数据的过程中表现良好性能。具体地说，我们所追求的设计原则是

让程序从过去实例中识别好的战略,

通过连续地玩游戏快速地学习新的战略。

我们在这里特想让我们的算法快速学习的理由是在培训数据有限或者战略空间太大而难以进行穷尽搜索的情况下最富有成果地运用RL。正是在这种体制下督导技术面临困境而RL则闪耀着光芒。

作者：李泽南来源：机器之心

本文介绍了包括 Python、Java、Haskell等在内的一系列编程语言的深度学习库。

Python

Theano 是一种用于使用数列来定义和评估数学表达的 Python 库。它可以让 Python 中深度学习算法的编写更为简单。很多其他的库是以 Theano 为基础开发的：

Keras 是类似 Torch 的一个精简的，高度模块化的神经网络库。Theano 在底层帮助其优化 CPU 和 GPU 运行中的张量操作。

Pylearn2 是一个引用大量如随机梯度（Stochastic Gradient）这样的模型和训练算法的库。它在深度学习中被广泛采用，这个库也是以 Theano 为基础的。

Lasagne 是一个轻量级的库，它可以在 Theano 中建立和训练神经网络。它简单、透明、模块化、实用、专一而克制。

Blocks 是一种帮助你在 Theano 之上建立神经网络模型的框架。

要搞清它们的关系，最直观的表述方式就是同心圆，最先出现的是理念，然后是机器学习，当机器学习繁荣之后就出现了深度学习。

AI（人工智能）是未来，是科幻小说，是我们日常生活的一部分。所有论断都是正确的，只是要看你所谈到的AI到底是什么。

例如，当AlphaGo程序打败韩国职业围棋高手Lee Se-dol，媒体在描述AlphaGo的胜利时用到了AI、机器学习、深度学习等术语。AlphaGo之所以打败Lee Se-dol，这三项技术都立下了汗马功劳，但它们并不是一回事。

接上文《<a href="http://intel.eetrend.com/content/2016/100003341.html">深度学习概述：从感知机到深度网络（上）</a>》

受限波尔兹曼机 
　　
下一步来看下受限波尔兹曼机（<a href="http://en.wikipedia.org/wiki/Restricted_Boltzmann_machine">Restricted Boltzmann machines</a> RBM），一种可以在输入数据集上学习概率分布的生成随机神经网络。

近些年来，人工智能领域又活跃起来，除了传统了学术圈外，Google、Microsoft、facebook等工业界优秀企业也纷纷成立相关研究团队，并取得了很多令人瞩目的成果。这要归功于社交网络用户产生的大量数据，这些数据大都是原始数据，需要被进一步分析处理；还要归功于廉价而又强大的计算资源的出现，比如GPU的快速发展。

除去这些因素，AI尤其是机器学习领域出现的一股新潮流很大程度上推动了这次复兴——深度学习。本文中我将介绍深度学习背后的关键概念及算法，从最简单的元素开始并以此为基础进行下一步构建。

机器学习基础

如果你不太熟悉相关知识，通常的机器学习过程如下：

1、机器学习算法需要输入少量标记好的样本，比如10张小狗的照片，其中1张标记为1（意为狗）其它的标记为0（意为不是狗）——本文主要使用监督式、二叉分类。

2、这些算法“学习”怎么样正确将狗的图片分类，然后再输入一个新的图片时，可以期望算法输出正确的图片标记（如输入一张小狗图片，输出1；否则输出0）。

订阅深度学习

深度学习

深度学习的五个能力级别

【优于GPU】英特尔SSF在深度学习中的表现如何？

如何构建自己的深度学习基础设施

10项研究成果告诉你，为什么深度学习正在成为热潮

深度增强学习实践：让Python小程序玩一款游戏，来训练神经网络

基于10大编程语言的30个深度学习库

AI、机器学习和深度学习的区别到底是什么？

深度学习概述：从感知机到深度网络（下）

深度学习概述：从感知机到深度网络（上）