线性代数推荐两本国外的教材。
其一是 **Gilbert Strang** 所著的 **Introduction to Linear Algebra**，英文版在2016年出到第五版，暂无中译本。这本通过直观形象的概念性解释阐述抽象的基本概念，同时辅以大量线性代数在各领域内的实际应用，对学习者非常友好。作者在麻省理工学院的OCW上开设了相应的视频课程，还配有习题解答、模拟试题等一系列电子资源。
其二是 **David C Lay** 所著的 **Linear Algebra and its Applications**，英文版在2015年同样出到第五版，中译本名为**《线性代数及其应用》**，对应原书第四版。这本书通过向量和线性方程组这些基本概念深入浅出地介绍线代中的基本概念，着重公式背后的代数意义和几何意义，同样配有大量应用实例，对理解基本概念帮助很大。
概率论的基础读物可以选择 **Sheldon M Ross** 所著的
**A First Course in Probability**，英文版在2013年出到第九版（18年马上要出第十版），中译本名为**《概率论基础教程》**，对应原书第九版，也有英文影印本。这本书抛开测度，从中心极限定理的角度讨论概率问题，对概念的解释更加通俗，书中还包含海量紧密联系生活的应用实例与例题习题。
另一本艰深的读物是 **Edwin Thompson Jaynes** 所著的
**Probability Theory: The Logic of Science**，本书暂无中译本，影印本名为**《概率论沉思录》**也已绝版。这本书是作者的遗著，花费半个世纪的时间完成，从名字就可以看出是一部神书。作者从逻辑的角度探讨了基于频率的概率，贝叶斯概率和统计推断，将概率论这门偏经验的学科纳入数理逻辑的框架之下。如果读这本书，千万要做好烧脑的准备。
数理统计的基础读物可以选择陈希孺院士所著的**《数理统计学教程》**。关于统计学是不是科学的问题依然莫衷一是，但它在机器学习中的重要作用毋庸置疑。陈老的书重在论述统计的概念和思想，力图传授利用统计观点去观察和分析事物的能力，这是非常难能可贵的。
进阶阅读可以选择 **Roger Casella** 所著的 **Statistical Inference**，由于作者已于2012年辞世，2001年的第二版便成为绝唱。中译本名为**《统计推断》**，亦有影印本。本书包含部分概率论的内容，循循善诱地介绍了统计推断、参数估计、方差回归等统计学中的基本问题。
最优化理论可以参考 **Stephen Boyd** 所著的 **Convex Optimization**，中译本名为**《凸优化》**。这本书虽然块头吓人，但可读性并不差，主要针对实际应用而非理论证明，很多机器学习中广泛使用的方法都能在这里找到源头。
信息论书籍推荐 **Thomas Cover** 和 **Jay A Thomas**
合著的 **Elements of Information Theory**，2006年出到第二版，中译本为**《信息论基础》**。这本书兼顾广度和深度，虽然不是大部头却干货满满，讲清了信息论中各个基本概念的物理内涵，但要顺畅阅读需要一定的数学基础。另外，本书偏重于信息论在通信中的应用。
**部分书目链接**：
[Introduction to Linear Algebra](https://math.mit.edu/~gs/linearalgebra/linearalgebra5_Preface.pdf)
[Linear Algebra and its Applications](http://www.zuj.edu.jo/download/linear-algebra-and-its-applications-david-c-lay-pdf/)
[A First Course in Probability](http://julio.staff.ipb.ac.id/files/2015/02/Ross_8th_ed_English.pdf)（8th edition）
[Probability Theory: The Logic of Science](http://www.med.mcgill.ca/epidemiology/hanley/bios601/GaussianModel/JaynesProbabilityTheory.pdf)
[Statistical Inference](https://fsalamri.files.wordpress.com/2015/02/casella_berger_statistical_inference1.pdf)
[Convex Optimization](https://web.stanford.edu/~boyd/cvxbook/bv_cvxbook.pdf)
[Elements of Information Theory](http://www.cs-114.org/wp-content/uploads/2015/01/Elements_of_Information_Theory_Elements.pdf)
