第二十七章 可惡！又……
“把前一時間步的輸出和當(dāng)前時間步的狀態(tài)同時合并作為當(dāng)前輸入么？好像這樣確實(shí)可以保留時間信息……但會不會‘笨’了一點(diǎn)？”
周粥站在徐毅身后，看著桌子上老師畫的草圖，抿了抿嘴說道：
“這樣的話我們必須儲存之前每一步的狀態(tài)，對于計(jì)算速度和內(nèi)存都是不小的麻煩……”
“而且這個循環(huán)結(jié)構(gòu)中單個詞組對后文的影響似乎是隨距離而衰減的，我感覺在處理長難句的時候會有不小的誤差吧？”
聽到學(xué)生的分析，徐毅滿意地點(diǎn)了點(diǎn)頭，他給二人講的是最基礎(chǔ)的循環(huán)神經(jīng)網(wǎng)絡(luò)（RNN），這個網(wǎng)絡(luò)其中一個最嚴(yán)重的問題就是無法解決長期依賴問題。
例如一句“徐毅，帥氣十足的老師，正在搬桌子”，在經(jīng)過RNN后就會被理解成“徐毅帥氣十足”和“老師正在搬桌子”，與原意謬之千里。
他僅僅是在紙上畫出了這個網(wǎng)絡(luò)結(jié)構(gòu)的草圖，還沒有進(jìn)行任何實(shí)驗(yàn)，周粥就能憑感覺一語道出其中的缺陷，這不禁讓徐毅對這位愛徒更加喜愛。
于是便把筆放到一旁，起身考校起女孩：“很好的想法！那你覺得該怎么改進(jìn)比較好？”
周粥皺眉思考了一下，猶豫道：“或許我們可以增加一個判斷步驟，來決定是否將本時間步的輸出傳遞給下一時間……”
想了想，干脆抓起筆，在徐毅之前的草圖上寫寫畫畫起來：
“例如這樣，我們在下面再增加一個通道，用1和0分別代表是否將信息傳入下一時間步，這樣只需要將上下兩個通道相乘即可……”
“不，不行，0和1是離散數(shù)據(jù)，不能通過梯度下降學(xué)習(xí)……那我們干脆就用0到1之間的連續(xù)函數(shù)，剛好可以表示傳入下一時間的百分比……”
“tanh函數(shù)變形，就可以完美的把全部實(shí)數(shù)映射到0到1之間！”
“……不，甚至可以用tanh函數(shù)本身！負(fù)值的存在或許更可以截?cái)嗖幌嚓P(guān)的相鄰信息！”
她不斷地提出想法又一個個否定并改進(jìn)，徐毅原本的手稿早已被改得面目全非，隨著想法逐漸完善，周粥的眼睛也越來越亮。
終于，女孩把一團(tuán)亂麻的草圖丟到一邊，在新的白紙上完整地畫出了自己改進(jìn)后的神經(jīng)網(wǎng)絡(luò)，興奮地展示給一旁的老師：
“徐老師，你看我畫的這個結(jié)構(gòu)怎么樣！”
怎么樣？棒極了！
眼前的網(wǎng)絡(luò)模型，已經(jīng)有了藍(lán)星上長短時記憶網(wǎng)絡(luò)（LSTM）的雛形，只要稍加打磨必然能取得遠(yuǎn)超RNN的效果，對這一點(diǎn)徐毅毫不懷疑。
但是姑娘，您有這智商，學(xué)數(shù)學(xué)去不好嗎？
干嘛要來計(jì)算機(jī)行業(yè)碾壓我們凡人？
可惡！蒼天何其不公！既生毅，何生粥！
徐毅直勾勾地盯著周粥思緒萬千，全沒注意面前的少女被看紅了臉。
“老師……老師！”耳旁傳入學(xué)生含羞的嗔聲，將他的思緒拉回了現(xiàn)實(shí)。
他方才驚覺，自己剛剛談話中走神的行為好像相當(dāng)不禮貌。
連忙掩飾起來：“咳咳……嗯，這個想法其實(shí)挺好的，不過還可以再完善一下，例如我們可以把信息的傳遞通過輸入門、遺忘門和輸出門三個通道……”
“我建議你先把自己的想法直接實(shí)現(xiàn)一下，然后可以參考我提出的思路改進(jìn)——當(dāng)然，如果你有自己的思路也完全沒問題，加油！”
這就是大佬間的惺惺相惜嗎？
師徒二人激烈討論的一旁，王浩中像一個透明人左看右看，在心底發(fā)出了積沉已久的吶喊：
“可惡！……真的好羨慕！”
似乎聽到了小胖子的心聲，徐毅終于注意到了似乎學(xué)會隱身術(shù)的小徒弟：“王浩中，我們剛才討論的內(nèi)容你能跟上么？”
“嗯……差不多吧老師，不過可能需要回去再仔細(xì)理解一下……”
王浩中努力擺出“哦哦原來如此我完全懂了”的架勢，殊不知迷茫的眼神早把他出賣的一干二凈。
一看就知道這小胖子完全沒懂……徐毅在心底微不可及的嘆了口氣，旋即猛然驚醒。
自己什么時候習(xí)慣了周粥的速度，產(chǎn)生了“學(xué)生一教就會很正常”這種錯誤認(rèn)知的？
明明王浩中這種情況才是常態(tài)！他甚至還是華東學(xué)生里面最優(yōu)秀的之一！
默默檢討自己的錯誤心態(tài)，徐毅重新鋪開紙筆，準(zhǔn)備給前愛徒仔細(xì)講解一下剛剛的一些重點(diǎn)內(nèi)容，卻不防手機(jī)突然響起。
“喂，我是徐毅……吳院長么？好……好的，我馬上過去?！?p> 掛斷電話，徐毅無奈地嘆了一聲，然后說道：“吳院長叫我過去一趟，時長不確定，周粥你來給王浩中講一下吧，我得先走了。”
看到徐老師雷厲風(fēng)行的披上外套走出門外，周粥叉起腰，一臉壞笑的看著發(fā)?。?p> “王小胖，我感覺好像不太用給你講呀，畢竟你連英文措辭都會改，還有‘差不多吧老師’~”
不就改了你一個單詞嘛？至于這么久還記仇么？
聽到這熟悉的揶揄語氣，王小胖自知逃不過女魔頭的毒手，皺起了小臉哭喪道：“姐姐，我錯了！當(dāng)時年紀(jì)小不懂事，您就饒弟弟這一回吧……”
“我給您買雪糕！種類隨你挑！”
………………
不知道背后周粥已經(jīng)迫害小胖子簽下屈辱協(xié)議，徐毅風(fēng)風(fēng)火火走到院長辦公室。
“砰砰砰——”
“請進(jìn)！”
一進(jìn)門，徐毅便看到對面的沙發(fā)上坐了個人正與吳院長談笑。
見到徐毅進(jìn)來，二人同時起身，吳院長笑呵呵地率先開口介紹：“鄒市長，我給您介紹一下，這就是我院的徐毅老師；”
又轉(zhuǎn)頭向徐毅：“徐毅，這是鄒志明鄒市長，鄒市長主管我們市的文化和教育方面工作，你之前在電視上應(yīng)該也見過?！?p> 徐毅點(diǎn)了點(diǎn)頭，上前伸出手：“鄒市長您好，很高興認(rèn)識您?！?p> 面前的中年人向前一步抓住他的手，用力地晃了晃：“徐老師你好！好哇，百聞不如一見！徐老師果然青年才俊，一表人才！”
待兩人松開手后，鄒志明才轉(zhuǎn)頭對吳臻說道：“吳院長，這次舉辦國際交流會，可以提升華東大學(xué)、魔都乃至華國的國際影響力，是一件大好事！我們市里一定無條件支持，無論會議是開在華東校內(nèi)，還是在校外！”
抬手看了看表，對二人道：“時間不早了，我就不叨煩吳院長和徐老師了，我先走了！”
說完又重重拍了拍徐毅肩膀，然后向外走去，似乎是為了見徐毅一面才等到現(xiàn)在。
待送走了鄒市長，二人轉(zhuǎn)身進(jìn)樓，吳臻嘴角含笑，開口說道：“怎么樣，見到咱們的副市長，驚喜不驚喜？意外不意外？”
“額，還好吧，”完全不知道魔都副市長是什么概念，徐毅內(nèi)心自然毫無波動。
看到徐毅的表情，吳臻失笑不已：“你老師說的真沒錯！唉，你啊……”
搖了搖頭，轉(zhuǎn)向正題：“你這次可真是驚天動地了！報(bào)告結(jié)束之后，你知道今天學(xué)校收到了多少與會申請么？”
“58家！里面有三十多家世界名校，甚至還有MIT和芝加哥大學(xué)的兩名學(xué)者希望提前一周過來交流！這還只是一天的數(shù)據(jù)，后面肯定會再增加……”
“要不然你以為鄒市長這種大忙人為什么專門跑來咱們學(xué)院？這件事都驚動咱們政府了！”
“你小子，倒真是給了我們一個好大的驚喜！”見徐毅依舊不為所動，吳臻失笑著拍了拍他肩膀：“說點(diǎn)跟你有關(guān)的，學(xué)校已經(jīng)同意了我的申請，破格把你提成副教授了。”
“你先別不滿意，現(xiàn)在提教授一是學(xué)院暫時沒有名額，二來你雖然成果很突出，但發(fā)表論文其實(shí)并未達(dá)標(biāo)，容易被有心人抓住做文章，”
不等徐毅反應(yīng)，吳院長就接著說道，“不過放心，今年年底的教授名額，絕對有你的一席之地！你安心做學(xué)術(shù)就夠了，其他事情有我和你王老師解決！”
額……其實(shí)教授還是副教對我都無所謂，我主要是想當(dāng)院長……
徐毅看著眼前的老人，摸了摸腦袋，終于還是沒有開口。
嘿嘿，情商+1！
感受到自己的成長，他得意地笑了。