2014年2月，俞勝法來阿里報到。公司初期安排他向胡曉明匯報，他一邊跟胡曉明一起管理安全方面的事務，一邊藉機熟悉公司運營，適應阿里的企業文化。
進入公司之後，俞勝法才發現，在外面看互聯網企業和身處其中是大不一樣的。剛來時，他覺得很新鮮，阿里內部的管理機制和運作模式對他而言都是嶄新的，周圍年輕人的朝氣和活力也在不斷感染著他。
比如，互聯網企業的運營模式跟傳統銀行完全不一樣。當時，他對完全用互聯網來做運營還比較陌生，在風控、客戶准入、引導，包括後續的運營和管理方面，傳統銀行主要是依靠個人的經驗判斷，靠客戶經理對客戶的調研，但互聯網企業基本上不必跟客戶見面。
基於互聯網的大數據風控讓俞勝法眼前一亮。一開始他也不明白為什麼阿里小貸「算一下」就能給客戶貸五萬元、十萬元，後來才瞭解到，互聯網企業用的是大數據風控模型，在放貸的過程中，將准入政策、後續管理、催收和貸後監控等流程做了數據化的運營，這就使效率得以大大提升，而這些都是傳統銀行所不具備的。
新鮮感總是短暫的。時間一長，俞勝法逐漸感到身上的壓力很大，最直觀的變化是在工作時間上。在杭州銀行工作時，雖然他也很忙，但是工作基本還是朝九晚五，作為領導的他最晚到七點就下班了。然而在支付寶，加班是家常便飯，很多員工直到晚上八九點仍在工作。為了不佔用工作時間，很多會議都被放在下班以後召開。
「那時我連什麼叫H5[4]都不知道」，這桿「金融老槍」就邊干邊學，向年輕人請教技術性問題，這種狀態一直持續到現在。他看的更多的是技術類的東西，金融的東西反而看得少了。
2014年年中，胡曉明調任阿里巴巴集團，俞勝法接手微貸事業群，主管阿里旗下小貸業務。與剛來時相比，俞勝法肩上的擔子又加碼了，但是他心裡清楚，決戰還沒有真正到來，他來阿里的最大挑戰就是網絡銀行的籌建。