到了2000年初期,研究神經(jīng)網(wǎng)絡(luò)的“傻子”更不受待見了:學(xué)術(shù)機(jī)構(gòu)不允許他們發(fā)表論文,計(jì)算機(jī)視覺(jué)圈子將他們拒之門外。大量專家學(xué)者都覺(jué)得,這是一條行不通的道路。
2003年,LeCun從產(chǎn)業(yè)界回歸,成為紐約大學(xué)的教授。他和Hinton、Bengio結(jié)成非正式的聯(lián)盟,共同合作研究神經(jīng)網(wǎng)絡(luò)。2006,Hinton和學(xué)生終于完善了BP算法,此時(shí)距離它被提出已經(jīng)過(guò)去了整整20年。
不過(guò),真正讓這套算法聲名鵲起的,是6年以后的一場(chǎng)大賽,它和日后被稱為“AI女神”的李飛飛有關(guān)。
極富個(gè)性的AI女神
1992年,李飛飛隨父母從北京到新澤西,落地后不久,媽媽找了份收銀的工作,爸爸給人修相機(jī)。用她的話來(lái)說(shuō),“過(guò)往的一切被連根拔起”。
膚色不同外加語(yǔ)言不通,很長(zhǎng)一段時(shí)間李飛飛是被排擠的對(duì)象,好在她擁有驚人的毅力:每天只睡4小時(shí)惡補(bǔ)英語(yǔ),17歲時(shí)每天花10多個(gè)小時(shí)在餐廳里當(dāng)清潔工賺錢,用兩年多的時(shí)間完成了美國(guó)高考課程。
其間,她的數(shù)學(xué)天賦引起了老師的注意,在午休時(shí)抽空教她超綱的微積分。1995年,李飛飛以數(shù)學(xué)滿分,總分1250分的高分吸引了無(wú)數(shù)名校的橄欖枝,最終她選擇了普林斯頓大學(xué)。
和Hinton一樣,李飛飛是個(gè)“不安分”的學(xué)生。本科學(xué)物理,因?yàn)閷?duì)生物感興趣還去研究了一年藏藥,研究生學(xué)的是電子工程,博士研究的是當(dāng)時(shí)還是冷門的機(jī)器視覺(jué),足跡遍布普林斯頓、加州理工、斯坦福等高等學(xué)府。
豐富的經(jīng)歷也讓她最終成為美國(guó)三院院士(美國(guó)國(guó)家工程院院士、美國(guó)國(guó)家醫(yī)學(xué)院院士以及美國(guó)藝術(shù)與科學(xué)院院士)。
早年間李飛飛的論文署名是Feifei Li,將姓放在后面,但很快這個(gè)署名變成了Li Feifei,但凡引用她論文的人都習(xí)慣性地用了Feifei——這個(gè)世界有太多人姓Li了,可在人工智能領(lǐng)域,F(xiàn)eifei只此一位。
神經(jīng)網(wǎng)絡(luò)殺了回來(lái)
2009年,年僅33歲的李飛飛在斯坦福萌生了一個(gè)瘋狂的想法,建立一個(gè)龐大的數(shù)據(jù)庫(kù)用來(lái)教會(huì)計(jì)算機(jī)識(shí)別各種動(dòng)物和物體。在此之前,計(jì)算機(jī)圖片識(shí)別還僅限于汽車、飛機(jī)、豹子和人臉。
這個(gè)想法需要耗費(fèi)大量的人和時(shí)間用于基礎(chǔ)的標(biāo)注工作,無(wú)論是產(chǎn)業(yè)還是學(xué)界都不愿意給資金支持,逼得李飛飛一度想重開爸媽當(dāng)年的洗衣店——那會(huì)兒,她一度開出10美元一小時(shí)的價(jià)格,讓名校學(xué)生參與標(biāo)注。盡管這樣,按照進(jìn)度,完成項(xiàng)目至少要19年時(shí)間。
一次偶然的機(jī)會(huì),她了解到了亞馬遜的全球眾籌項(xiàng)目AMT,以較低成本讓全球有空余時(shí)間的網(wǎng)友幫忙完成這個(gè)不可能的任務(wù)。
到了2009年,她攜手這個(gè)名為ImageNet的項(xiàng)目發(fā)布論文時(shí),已經(jīng)動(dòng)用了167個(gè)國(guó)家的5萬(wàn)人,他們?cè)趦赡臧氲臅r(shí)間里前赴后繼,最終建立了一個(gè)涉及5247個(gè)類別,320萬(wàn)張圖片的龐大數(shù)據(jù)庫(kù),其中圖片數(shù)據(jù)是當(dāng)時(shí)最大數(shù)據(jù)庫(kù)的100倍。
等到2011年它停止擴(kuò)建時(shí),數(shù)據(jù)更新到了21841個(gè)類別,近1420萬(wàn)張圖片。
2010年,ImageNet開始舉辦大規(guī)模視覺(jué)識(shí)別挑戰(zhàn)賽,利用自己海量的數(shù)據(jù)庫(kù)檢測(cè)各種人工智能機(jī)器視覺(jué)識(shí)別的能力。比如,給出一只東北虎的照片,允許機(jī)器給出5個(gè)判斷,只要里面有“東北虎”就算正確,一個(gè)都沒(méi)對(duì)算錯(cuò)。
第一年,冠軍的識(shí)別錯(cuò)誤率是28.2%,第二年錯(cuò)誤率僅僅降低了2.4%。但在2012年,一個(gè)叫AlexNet的模型將錯(cuò)誤率一下子降低到了16.4%。
這個(gè)模型就是Hinton和他的學(xué)生Alex Krizhevsky、Ilya Sutskever設(shè)計(jì)完成的。他們率先在機(jī)器視覺(jué)領(lǐng)域使用了卷積神經(jīng)網(wǎng)絡(luò),在人工智能的夜空上砸下了一枚重量級(jí)的煙花。
砰的一聲、火花四濺、光芒萬(wàn)丈。
自此,神經(jīng)網(wǎng)絡(luò)就像LeCun曾預(yù)言的那樣:殺了回來(lái)!
聲明:
本文僅代表作者個(gè)人觀點(diǎn),與新江南網(wǎng)無(wú)關(guān)。其原創(chuàng)性以及文中陳述文字和內(nèi)容未經(jīng)本站證實(shí),對(duì)本文以及其中全部或者部分內(nèi)容、文字的真實(shí)性、完整性、及時(shí)性本站不作任何保證或承諾,請(qǐng)讀者僅作參考,并請(qǐng)自行核實(shí)相關(guān)內(nèi)容,新江南網(wǎng)號(hào)系信息發(fā)布平臺(tái),新江南網(wǎng)僅提供信息存儲(chǔ)空間服務(wù)。如有侵權(quán)請(qǐng)出示權(quán)屬憑證聯(lián)系管理員(yin040310@sina.com)刪除!
閱讀推薦
新聞爆料
點(diǎn)擊排行