怎樣用python構建一個卷積神經網絡

用keras框架較為方便

為合江等地區用戶提供了全套網頁設計制作服務，及合江網站建設行業解決方案。主營業務為成都網站制作、成都網站建設、合江網站設計，以傳統方式定制建設網站，并提供域名空間備案等一條龍服務，秉承以專業、用心的態度為用戶提供真誠的服務。我們深信只要達到每一位用戶的要求，就會得到認可，從而選擇與我們長期合作。這樣，我們也可以走得更遠！

首先安裝anaconda，然后通過pip安裝keras

以下轉自wphh的博客。

#coding:utf-8

'''

GPU?run?command:

THEANO_FLAGS=mode=FAST_RUN,device=gpu,floatX=float32?python?cnn.py

CPU?run?command:

python?cnn.py

2016.06.06更新：

這份代碼是keras開發初期寫的，當時keras還沒有現在這么流行，文檔也還沒那么豐富，所以我當時寫了一些簡單的教程。

現在keras的API也發生了一些的變化，建議及推薦直接上keras.io看更加詳細的教程。

'''

#導入各種用到的模塊組件

from?__future__?import?absolute_import

from?__future__?import?print_function

from?keras.preprocessing.image?import?ImageDataGenerator

from?keras.models?import?Sequential

from?keras.layers.core?import?Dense,?Dropout,?Activation,?Flatten

from?keras.layers.advanced_activations?import?PReLU

from?keras.layers.convolutional?import?Convolution2D,?MaxPooling2D

from?keras.optimizers?import?SGD,?Adadelta,?Adagrad

from?keras.utils?import?np_utils,?generic_utils

from?six.moves?import?range

from?data?import?load_data

import?random

import?numpy?as?np

np.random.seed(1024)??#?for?reproducibility

#加載數據

data,?label?=?load_data()

#打亂數據

index?=?[i?for?i?in?range(len(data))]

random.shuffle(index)

data?=?data[index]

label?=?label[index]

print(data.shape[0],?'?samples')

#label為0~9共10個類別，keras要求格式為binary?class?matrices,轉化一下，直接調用keras提供的這個函數

label?=?np_utils.to_categorical(label,?10)

###############

#開始建立CNN模型

###############

#生成一個model

model?=?Sequential()

#第一個卷積層，4個卷積核，每個卷積核大小5*5。1表示輸入的圖片的通道,灰度圖為1通道。

#border_mode可以是valid或者full，具體看這里說明：

#激活函數用tanh

#你還可以在model.add(Activation('tanh'))后加上dropout的技巧:?model.add(Dropout(0.5))

model.add(Convolution2D(4,?5,?5,?border_mode='valid',input_shape=(1,28,28)))?

model.add(Activation('tanh'))

#第二個卷積層，8個卷積核，每個卷積核大小3*3。4表示輸入的特征圖個數，等于上一層的卷積核個數

#激活函數用tanh

#采用maxpooling，poolsize為(2,2)

model.add(Convolution2D(8,?3,?3,?border_mode='valid'))

model.add(Activation('tanh'))

model.add(MaxPooling2D(pool_size=(2,?2)))

#第三個卷積層，16個卷積核，每個卷積核大小3*3

#激活函數用tanh

#采用maxpooling，poolsize為(2,2)

model.add(Convolution2D(16,?3,?3,?border_mode='valid'))?

model.add(Activation('relu'))

model.add(MaxPooling2D(pool_size=(2,?2)))

#全連接層，先將前一層輸出的二維特征圖flatten為一維的。

#Dense就是隱藏層。16就是上一層輸出的特征圖個數。4是根據每個卷積層計算出來的：(28-5+1)得到24,(24-3+1)/2得到11，(11-3+1)/2得到4

#全連接有128個神經元節點,初始化方式為normal

model.add(Flatten())

model.add(Dense(128,?init='normal'))

model.add(Activation('tanh'))

#Softmax分類，輸出是10類別

model.add(Dense(10,?init='normal'))

model.add(Activation('softmax'))

#############

#開始訓練模型

##############

#使用SGD?+?momentum

#model.compile里的參數loss就是損失函數(目標函數)

sgd?=?SGD(lr=0.05,?decay=1e-6,?momentum=0.9,?nesterov=True)

model.compile(loss='categorical_crossentropy',?optimizer=sgd,metrics=["accuracy"])

#調用fit方法，就是一個訓練過程.?訓練的epoch數設為10，batch_size為100．

#數據經過隨機打亂shuffle=True。verbose=1，訓練過程中輸出的信息，0、1、2三種方式都可以，無關緊要。show_accuracy=True，訓練時每一個epoch都輸出accuracy。

#validation_split=0.2，將20%的數據作為驗證集。

model.fit(data,?label,?batch_size=100,?nb_epoch=10,shuffle=True,verbose=1,validation_split=0.2)

"""

#使用data?augmentation的方法

#一些參數和調用的方法，請看文檔

datagen?=?ImageDataGenerator(

featurewise_center=True,?#?set?input?mean?to?0?over?the?dataset

samplewise_center=False,?#?set?each?sample?mean?to?0

featurewise_std_normalization=True,?#?divide?inputs?by?std?of?the?dataset

samplewise_std_normalization=False,?#?divide?each?input?by?its?std

zca_whitening=False,?#?apply?ZCA?whitening

rotation_range=20,?#?randomly?rotate?images?in?the?range?(degrees,?0?to?180)

width_shift_range=0.2,?#?randomly?shift?images?horizontally?(fraction?of?total?width)

height_shift_range=0.2,?#?randomly?shift?images?vertically?(fraction?of?total?height)

horizontal_flip=True,?#?randomly?flip?images

vertical_flip=False)?#?randomly?flip?images

#?compute?quantities?required?for?featurewise?normalization?

#?(std,?mean,?and?principal?components?if?ZCA?whitening?is?applied)

datagen.fit(data)

for?e?in?range(nb_epoch):

print('-'*40)

print('Epoch',?e)

print('-'*40)

print("Training...")

#?batch?train?with?realtime?data?augmentation

progbar?=?generic_utils.Progbar(data.shape[0])

for?X_batch,?Y_batch?in?datagen.flow(data,?label):

loss,accuracy?=?model.train(X_batch,?Y_batch,accuracy=True)

progbar.add(X_batch.shape[0],?values=[("train?loss",?loss),("accuracy:",?accuracy)]?)

"""

《Python神經網絡》2——神經元

雖然計算機擁有相對大量的電子計算元件、巨大的存儲空間，并且這些計算機的運行頻率比肉蓬蓬、軟綿綿的生物大腦要快得多，但是即使是像鴿子一樣小的大腦，其能力也遠遠大于這些電子計算機。

傳統的計算機按照嚴格的串行順序，相當準確具體地處理數據。對于這些冰冷堅硬的計算機而言，不存在模糊性和不確定性。而另一方面，動物的大腦表面上看起來以慢得多的節奏運行，卻似乎以并行方式處理信號，模糊性是其計算的一種特征。

雖然神經元有各種形式，但是所有的神經元都是將電信號從一端傳輸到另一端，沿著軸突，將電信號從樹突傳到樹突。然后，這些信號從?一個神經元傳遞到另一個神經元。

我們需要多少神經元才能執行相對復雜的有趣任務呢？

一般來說，能力非常強的人類大腦有大約1000億個神經元！一只果蠅有約10萬個神經元，能夠飛翔、覓食、躲避危險、尋找食物以及執行許多相當復雜的任務。? 10萬個神經元，這個數字恰好落在了現代計算機試圖復制的范圍內。? ? 一只線蟲僅僅具有302個神經元，與今天的數字計算資源相比，簡直就是微乎其微！但是一直線蟲能夠完成一些相當有用的任務，而這些任務對于尺寸大得多的傳統計算機程序而言卻難以完成。

激活函數：

階躍函數，S函數。

從零開始用Python構建神經網絡

從零開始用Python構建神經網絡

動機：為了更加深入的理解深度學習，我們將使用 python 語言從頭搭建一個神經網絡，而不是使用像 Tensorflow 那樣的封裝好的框架。我認為理解神經網絡的內部工作原理，對數據科學家來說至關重要。

這篇文章的內容是我的所學，希望也能對你有所幫助。

神經網絡是什么?

介紹神經網絡的文章大多數都會將它和大腦進行類比。如果你沒有深入研究過大腦與神經網絡的類比，那么將神經網絡解釋為一種將給定輸入映射為期望輸出的數學關系會更容易理解。

神經網絡包括以下組成部分

? 一個輸入層，x

? 任意數量的隱藏層

? 一個輸出層，?

? 每層之間有一組權值和偏置，W and b

? 為隱藏層選擇一種激活函數，σ。在教程中我們使用 Sigmoid 激活函數

下圖展示了 2 層神經網絡的結構(注意：我們在計算網絡層數時通常排除輸入層)

2 層神經網絡的結構

用 Python 可以很容易的構建神經網絡類

訓練神經網絡

這個網絡的輸出 ? 為：

你可能會注意到，在上面的等式中，輸出 ? 是 W 和 b 函數。

因此 W 和 b 的值影響預測的準確率. 所以根據輸入數據對 W 和 b 調優的過程就被成為訓練神經網絡。

每步訓練迭代包含以下兩個部分:

? 計算預測結果 ?，這一步稱為前向傳播

? 更新 W 和 b,，這一步成為反向傳播

下面的順序圖展示了這個過程：

前向傳播

正如我們在上圖中看到的，前向傳播只是簡單的計算。對于一個基本的 2 層網絡來說，它的輸出是這樣的：

我們在 NeuralNetwork 類中增加一個計算前向傳播的函數。為了簡單起見我們假設偏置 b 為0：

但是我們還需要一個方法來評估預測結果的好壞(即預測值和真實值的誤差)。這就要用到損失函數。

損失函數

常用的損失函數有很多種，根據模型的需求來選擇。在本教程中，我們使用誤差平方和作為損失函數。

誤差平方和是求每個預測值和真實值之間的誤差再求和，這個誤差是他們的差值求平方以便我們觀察誤差的絕對值。

訓練的目標是找到一組 W 和 b，使得損失函數最好小，也即預測值和真實值之間的距離最小。

反向傳播

我們已經度量出了預測的誤差(損失)，現在需要找到一種方法來傳播誤差，并以此更新權值和偏置。

為了知道如何適當的調整權值和偏置，我們需要知道損失函數對權值 W 和偏置 b 的導數。

回想微積分中的概念，函數的導數就是函數的斜率。

梯度下降法

如果我們已經求出了導數，我們就可以通過增加或減少導數值來更新權值 W 和偏置 b(參考上圖)。這種方式被稱為梯度下降法。

但是我們不能直接計算損失函數對權值和偏置的導數，因為在損失函數的等式中并沒有顯式的包含他們。因此，我們需要運用鏈式求導發在來幫助計算導數。

鏈式法則用于計算損失函數對 W 和 b 的導數。注意，為了簡單起見。我們只展示了假設網絡只有 1 層的偏導數。

這雖然很簡陋，但是我們依然能得到想要的結果—損失函數對權值 W 的導數(斜率)，因此我們可以相應的調整權值。

現在我們將反向傳播算法的函數添加到 Python 代碼中

為了更深入的理解微積分原理和反向傳播中的鏈式求導法則，我強烈推薦 3Blue1Brown 的如下教程：

Youtube：

整合并完成一個實例

既然我們已經有了包括前向傳播和反向傳播的完整 Python 代碼，那么就將其應用到一個例子上看看它是如何工作的吧。

神經網絡可以通過學習得到函數的權重。而我們僅靠觀察是不太可能得到函數的權重的。

讓我們訓練神經網絡進行 1500 次迭代，看看會發生什么。 注意觀察下面每次迭代的損失函數，我們可以清楚地看到損失函數單調遞減到最小值。這與我們之前介紹的梯度下降法一致。

讓我們看看經過 1500 次迭代后的神經網絡的最終預測結果：

經過 1500 次迭代訓練后的預測結果

我們成功了!我們應用前向和方向傳播算法成功的訓練了神經網絡并且預測結果收斂于真實值。

注意預測值和真實值之間存在細微的誤差是允許的。這樣可以防止模型過擬合并且使得神經網絡對于未知數據有著更強的泛化能力。

下一步是什么?

幸運的是我們的學習之旅還沒有結束，仍然有很多關于神經網絡和深度學習的內容需要學習。例如：

? 除了 Sigmoid 以外，還可以用哪些激活函數

? 在訓練網絡的時候應用學習率

? 在面對圖像分類任務的時候使用卷積神經網絡

我很快會寫更多關于這個主題的內容，敬請期待!

最后的想法

我自己也從零開始寫了很多神經網絡的代碼

雖然可以使用諸如 Tensorflow 和 Keras 這樣的深度學習框架方便的搭建深層網絡而不需要完全理解其內部工作原理。但是我覺得對于有追求的數據科學家來說，理解內部原理是非常有益的。

這種練習對我自己來說已成成為重要的時間投入，希望也能對你有所幫助

用Python畫圖

今天開始琢磨用Python畫圖，沒使用之前是一臉懵的，我使用的開發環境是Pycharm，這個輸出的是一行行命令，這個圖畫在哪里呢？

搜索之后發現，它會彈出一個對話框，然后就開始畫了，比如下圖

第一個常用的庫是Turtle，它是Python語言中一個很流行的繪制圖像的函數庫，這個詞的意思就是烏龜，你可以想象下一個小烏龜在一個x和y軸的平面坐標系里，從原點開始根據指令控制，爬行出來就是繪制的圖形了。

它最常用的指令就是旋轉和移動，比如畫個圓，就是繞著圓心移動；再比如上圖這個怎么畫呢，其實主要就兩個命令：

turtle.forward(200)

turtle.left(170)

第一個命令是移動200個單位并畫出來軌跡

第二個命令是畫筆順時針轉170度，注意此時并沒有移動，只是轉角度

然后呢？ 循環重復就畫出來這個圖了

好玩吧。

有需要仔細研究的可以看下這篇文章 ，這個牛人最后用這個庫畫個移動的鐘表，太贊了。

Turtle雖好玩，但是我想要的是我給定數據，然后讓它畫圖，這里就找到另一個常用的畫圖的庫了。

Matplotlib是python最著名的繪圖庫，它提供了一整套和matlab相似的命令API，十分適合交互式地行制圖。其中，matplotlib的pyplot模塊一般是最常用的，可以方便用戶快速繪制二維圖表。

使用起來也挺簡單，

首先import matplotlib.pyplot as plt?導入畫圖的圖。

然后給定x和y，用這個命令plt.plot(x, y)就能畫圖了，接著用plt.show()就可以把圖形展示出來。

接著就是各種完善，比如加標題，設定x軸和y軸標簽，范圍，顏色，網格等等，在 這篇文章里介紹的很詳細。

現在互聯網的好處就是你需要什么內容，基本上都能搜索出來，而且還是免費的。

我為什么要研究這個呢？當然是為了用，比如我把比特幣的曲線自己畫出來可好？

假設現在有個數據csv文件，一列是日期，另一列是比特幣的價格，那用這個命令畫下：

這兩列數據讀到pandas中，日期為df['time']列，比特幣價格為df['ini']，那我只要使用如下命令

plt.plot(df['time'], df['ini'])

plt.show()

就能得到如下圖：

自己畫的是不是很香，哈哈！

然后呢，我在上篇文章 中介紹過求Ahr999指數，那可不可以也放到這張圖中呢？不就是加一條命令嘛

plt.plot(df['time'], df['Ahr999'])

圖形如下：

但是，Ahr999指數怎么就一條線不動啊，?原來兩個Y軸不一致，顯示出來太怪了，需要用多Y軸，問題來了。

繼續谷歌一下，把第二個Y軸放右邊就行了，不過呢得使用多圖，重新繪制

fig = plt.figure() # 多圖

ax1 = fig.add_subplot(111)

ax1.plot(df['time'], df['ini'], label="BTC price")? #?繪制第一個圖比特幣價格

ax1.set_ylabel('BTC price') #?加上標簽

# 第二個直接對稱就行了

ax2 = ax1.twinx()#?在右邊增加一個Y軸

ax2.plot(df['time'], df['Ahr999'], 'r', label="ahr999")??#?繪制第二個圖Ahr999指數，紅色

ax2.set_ylim([0, 50])# 設定第二個Y軸范圍

ax2.set_ylabel('ahr999')

plt.grid(color="k", linestyle=":")# 網格

fig.legend(loc="center")#圖例

plt.show()

跑起來看看效果，雖然丑了點，但終于跑通了。

這樣就可以把所有指數都繪制到一張圖中，等等，三個甚至多個Y軸怎么加？這又是一個問題，留給愛思考愛學習的你。

有了自己的數據，建立自己的各個指數，然后再放到圖形界面中，同時針對異常情況再自動進行提醒，比如要抄底了，要賣出了，用程序做出自己的晴雨表。

如何用python激活指定窗口的輸入框，方便下一步模擬輸出

可以使用StringVar()對象來完成，把Entry的textvariable屬性設置為StringVar()，再通過StringVar()的get()和set()函數可以讀取和輸出相應內容，以下為測試代碼（python3.x）：

from tkinter import *

def submit():

print(u.get())

p.set(u.get())

root = Tk()

root.title("測試")

frame = Frame(root)

frame.pack(padx=8, pady=8, ipadx=4)

lab1 = Label(frame, text="獲取:")

lab1.grid(row=0, column=0, padx=5, pady=5, sticky=W)

#綁定對象到Entry

u = StringVar()

ent1 = Entry(frame, textvariable=u)

ent1.grid(row=0, column=1, sticky='ew', columnspan=2)

lab2 = Label(frame, text="顯示:")

lab2.grid(row=1, column=0, padx=5, pady=5, sticky=W)

p = StringVar()

ent2 = Entry(frame, textvariable=p)

ent2.grid(row=1, column=1, sticky='ew', columnspan=2)

button = Button(frame, text="登錄", command=submit, default='active')

button.grid(row=2, column=1)

lab3 = Label(frame, text="")

lab3.grid(row=2, column=0, sticky=W)

button2 = Button(frame, text="退出", command=quit)

button2.grid(row=2, column=2, padx=5, pady=5)

#以下代碼居中顯示窗口

root.update_idletasks()

x = (root.winfo_screenwidth() - root.winfo_reqwidth()) / 2

y = (root.winfo_screenheight() - root.winfo_reqheight()) / 2

root.geometry("+%d+%d" % (x, y))

root.mainloop()

效果如下：

本文標題：用python畫激活函數 如何用python畫函數
網頁鏈接：http://www.yijiale78.com/article4/doddjie.html

成都網站建設公司_創新互聯，為您提供網站改版、建站公司、關鍵詞優化、網站收錄、網頁設計公司、App設計

廣告

聲明：本網站發布的內容（圖片、視頻和文字）以用戶投稿、用戶轉載內容為主，如果涉及侵權請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網站立場，如需處理請聯系客服。電話：028-86922220；郵箱：631063699@qq.com。內容未經允許不得轉載，或轉載時需注明來源： 創新互聯