目前為止,Python仍是最受程序員喜歡的語言,在2018年5月份已經超過Java語言,到現(xiàn)在7月份已經超過Java語言5%d多。過去一年更新的Python數據庫都已經被我們收錄,現(xiàn)在擴充了原來的清單。排名不分先后,每一個都有它的優(yōu)勢劣勢。
1. SciPy
另一個科學計算核心庫SciPy,基于NumPy而構建,并擴展了NumPy的功能。SciPy的主要數據結構是多維數組,使用Numpy實現(xiàn)。該庫提供了一些用于解決線性代數、概率論、積分計算等任務的工具。
SciPy通過與不同的操作系統(tǒng)進行持續(xù)集成的方式帶來了重大改進,比如新的函數和方法,更重要的是——最新的優(yōu)化器。此外,開發(fā)團隊對很多新的BLAS和LAPACK函數進行了包裝。
2. StatsModels
Statsmodels是一個Python模塊,為統(tǒng)計數據分析提供了很多可能性,例如統(tǒng)計模型估計、運行統(tǒng)計測試等。你可以借助它來實現(xiàn)很多機器學習方法,并探索不同的繪圖可能性。
該庫在不斷演化,帶來了更多的可能性。今年帶來了時間序列改進和新的計數模型GeneralizedPoisson、零膨脹模型和NegativeBinomialP,以及新的多變量方法因子分析、MANOVA和ANOVA的重復測量。
3.PandasPandas
Pandas提供了很多內置的方法,用于分組、過濾和組合數據,還提供了時間序列功能。所有這些方法的執(zhí)行速度都很快。新發(fā)布的pandas庫還提供了數百個新特性、功能增強、錯誤修復和API變更。這些改進與Pandas對數據進行分組和排序的能力有關,支持自定義類型操作。是一個Python庫,提供了高級的數據結構和各種分析工具。該庫的一大特色是能夠將相當復雜的數據操作轉換為一兩個命令。
4. NumPy
在過去一年,開發(fā)團隊對該庫進行了大量改進。除了錯誤修復和解決兼容性問題之外,關鍵的變更還包括樣式改進,即NumPy對象的打印格式。此外,一些函數現(xiàn)在可以處理任意編碼的文件,只要這些編碼受Python支持。NumPy是該領域的主要軟件庫之一。它旨在處理大型的多維數組和矩陣,并提供了很多高級的數學函數和方法,因此可以用它來執(zhí)行各種操作。
可視化
5. Matplotlib
Matplotlib是一個用于創(chuàng)建二維圖表和圖形的低級庫。你可以用它來構建各種圖表,從直方圖和散點圖到非笛卡爾坐標圖。此外,很多流行的繪圖庫都為Matplotlib預留了位置,可與Matplotlib結合在一起使用。
該庫在繪圖樣式方面做出了很多變更,如顏色、尺寸、字體、圖例等。例如,坐標軸圖例的自動對齊和對色盲患者更友好的色環(huán)。
6. Seaborn
Seaborn實際上是基于matplotlib庫構建的高級API。它為處理圖表提供了更恰當的默認選項。此外,它還提供了一組豐富的可視化圖庫,包括時間序列、聯(lián)合圖和小提琴圖等復雜的類型。
Seaborn的更新主要是問題修復。不過,F(xiàn)acetGrid(或PairGrid)與增強的交互式matplotlib后端之間的兼容性有所改進,為可視化添加了參數和選項。
7. Bokeh
Bokeh庫使用JavaScript小部件在瀏覽器中創(chuàng)建交互式和可伸縮的可視化圖形。該庫提供了多種圖形、樣式、鏈接圖形式的交互能力、添加小部件、定義回調以及更多有用的功能。
Bokeh改進的交互式功能值得稱贊,例如可旋轉的分類刻度標簽,以及小型的縮放工具和自定義工具提示字段增強。
8. Plotly
Plotly是一個可以幫助你輕松構建復雜圖形的流行庫。該庫適用于交互式Web應用程序,它提供了很多很棒的可視化效果,包括輪廓圖形、三元圖和3D圖表。
這個庫在持續(xù)地增強和改進,帶來新的圖形和特性,支持“多鏈接視圖”、動畫和串擾集成。
9. Pydot
Pydot是一個用于生成面向復雜圖形和非面向復雜圖形的庫。它作為面向Graphviz的一個接口,使用Python編寫。我們可以借助它來顯示圖形的結構,這在構建神經網絡和基于決策樹的算法時經常會用到。
機器學習
10. Scikit-learn
這個基于NumPy和SciPy的Python模塊是處理數據的最佳庫之一。它為很多標準的機器學習和數據挖掘任務提供算法,例如聚類、回歸、分類、降維和模型選擇。
該庫有很多增強功能。交叉驗證已經獲得更新,現(xiàn)在可以使用多個指標。一些訓練方法(如鄰近取樣和邏輯回歸等)得到一些小改進。它的主要更新之一是完成了通用術語和API元素詞匯表。
11. XGBoost/LightGBM/CatBoost
梯度提升是最流行的機器學習算法之一,它的核心原理在于構建連續(xù)精煉的基本模型的集合,即決策樹。因此,有些專門的庫被設計用于方便快速地實現(xiàn)該方法。我們認為XGBoost、LightGBM和CatBoost是值得關注的。它們都是解決常見問題最強有力的工具,而且使用方式幾乎一樣。我們可以使用這些庫快速實現(xiàn)高度優(yōu)化且可擴展的梯度提升,所以它們在數據科學家和Kaggle競爭者中非常受歡迎,他們在這些算法的幫助下贏得了很多比賽。
12. Eli5
通常情況下,機器學習模型的預測結果并不完全是清晰的,這個時候可以借助Eli5來解決這個問題。它是一個用于可視化和調試機器學習模型的庫,可以逐步跟蹤算法的執(zhí)行過程。它支持scikit-learn、XGBoost、LightGBM、lightning和sklearn-crfsuite庫,并可以為每個庫執(zhí)行不同的任務。
深度學習
13. TensorFlow
TensorFlow是一個流行的深度學習和機器學習框架,由Google Brain開發(fā)。它支持在人工神經網絡中使用多個數據集。最受歡迎的TensorFlow應用場景包括物體識別、語音識別等。還有很多基于TensorFlow構建的庫,例如tflearn、tf-slim、skflow等。
這個庫發(fā)布新版本的速度很快,引入了很多新功能。最新的修復包括潛在的安全漏洞和改進的TensorFlow與GPU的集成,現(xiàn)在可以在單臺計算機的多個GPU上運行Estimator模型。
14. PyTorch
PyTorch是一個大型框架,可用它基于GPU加速執(zhí)行張量計算、創(chuàng)建動態(tài)計算圖以及自動計算梯度。此外,PyTorch還提供了豐富的API,用于解決與神經網絡相關的應用。
該庫基于Torch而構建,使用C語言實現(xiàn),并包含了使用Lua編寫的包裝器。它的Python API于2017年推出,從那時起,該框架越來越受歡迎,并吸引了越來越多的數據科學家。
15. Keras
Keras是一個用于處理神經網絡的高級庫,運行在TensorFlow或Theano之上,現(xiàn)在發(fā)布的新版本可以使用CNTK或MxNet作為后端。它簡化了很多特定任務,并大大減少了樣板代碼的數量,但它可能不適用于某些復雜的事情。
該庫在性能、可用性、文檔和API方面進行了改進,并推出了一些新特性,如Conv3DTranspose層、新的MobileNet應用程序和自我規(guī)范化網絡。
分布式深度學習
16. dist-keras/elephas/spark-deep-learning
深度學習問題變得越來越重要,因為越來越多的場景要求更多的時間和成本。而像Apache Spark這樣的分布式計算系統(tǒng)可以更輕松地處理大量數據,這反過來又為深度學習帶來更多的可能性。dist-keras、elephas和spark-deep-learning變得越來越流行,并正在迅速發(fā)展演化。很難說它們當中哪個更好,因為它們都是為解決一些相同的任務而設計的。這些庫和Keras可以直接用在Apache Spark中,用以訓練神經網絡。spark-deep-learning還提供了工具用于為Python神經網絡創(chuàng)建管道。
自然語言處理
17. NLTK
NLTK是一組庫的集合,一個完整的自然語言處理平臺。你可以借助NLTK以各種方式處理和分析文本,如標記、打標簽、提取信息等。NLTK還用于原型設計和構建研究性系統(tǒng)。
該庫的增強還包括API和兼容性的微小變更以及面向CoreNLP的新接口。
18. SpaCy
SpaCy是一個自然語言處理庫,包含了優(yōu)秀的示例、API文檔和演示應用程序。該庫使用Cython(Python的C擴展)編寫。它支持將近30種語言,可以方便地與深度學習集成,并保證健壯性和高準確率。SpaCy有一個為處理整個文檔而設計的架構,在處理文檔時不需要將它分成短語,這也是SpaCy的一個重要特性。
19. Gensim
Gensim基于Numpy和Scipy而構建,是一個用于語義分析、主題建模和向量空間建模的Python庫。它提供了主流的NLP算法實現(xiàn),例如word2vec。Gensim有自己的models.wrappers.fasttext實現(xiàn),不過仍然可以使用fasttext庫進行單詞表示的高效學習。
數據抓取
20. Scrapy
Scrapy是一個用于創(chuàng)建掃描網站頁面并收集結構化數據的爬蟲的庫。此外,Scrapy可以從API中提取數據。因為具備良好的可擴展性和可移植性,該庫使用起來非常方便。
該庫在過去一年里的變化包括代理服務器的若干次升級以及改進的錯誤通知和問題識別系統(tǒng)。用在元數據設置中的Scrapy解析也有了新的特性。
這是2018年Python數據庫的集合,相比上一年有些數據庫深受開發(fā)人員的喜愛,不過有些景點庫也在改進。