Facebook VP:AI存在計(jì)算依賴性問題
Facebook副總裁Jerome Pesenti在加入Facebook領(lǐng)導(dǎo)其人工智能項(xiàng)目以來的首次公開演講中,表達(dá)了他對(duì)創(chuàng)建強(qiáng)大人工智能系統(tǒng)所需的計(jì)算能力日益增長(zhǎng)的擔(dān)憂?!拔铱梢愿嬖V你,這讓我夜不能寐,”Pesenti說。“對(duì)于Facebook和谷歌這樣的公司來說,能夠負(fù)擔(dān)得起實(shí)驗(yàn)的峰值計(jì)算能力,我們已經(jīng)達(dá)到了這個(gè)水平?!彼硎荆斯ぶ悄芤朐诓皇茏璧K的情況下長(zhǎng)大,將需要更多的軟件創(chuàng)新,而硬件和軟件的優(yōu)化,而不是蠻力計(jì)算,可能在未來幾年對(duì)人工智能至關(guān)重要。不太依賴計(jì)算機(jī)實(shí)現(xiàn)創(chuàng)新突破的系統(tǒng)包括由Facebook AI Research和卡內(nèi)基梅隆大學(xué)(Carnegie Mellon University)開發(fā)的人工智能系統(tǒng)Pluribus。在《科學(xué)》雜志的一篇文章中,研究人員稱Pluribus只需要150美元的云計(jì)算培訓(xùn)。摩爾定律的終結(jié)意味著創(chuàng)造最先進(jìn)的人工智能所需的計(jì)算量正在上升。Pesenti引用了OpenAI的一項(xiàng)分析,該分析發(fā)現(xiàn),自2012年以來,創(chuàng)建最先進(jìn)系統(tǒng)所需的計(jì)算量每年增長(zhǎng)10倍。Pesenti說:“隨著計(jì)算能力的提升,我們依舊看到了增長(zhǎng),但是來自這個(gè)問題的壓力將會(huì)變得更大?!薄拔艺J(rèn)為我們?nèi)詫⒗^續(xù)運(yùn)用更多的計(jì)算,你仍將運(yùn)用網(wǎng)絡(luò),但它將變得更慢,因?yàn)槟銦o法跟上每年10倍的速度。這是不可能的?!鄙蟼€(gè)月發(fā)布的分析發(fā)現(xiàn),像OpenAI的gps -2這樣的培訓(xùn)系統(tǒng)的成本可能會(huì)超過五輛汽車的碳排放量。Pesenti是Facebook人工智能的負(fù)責(zé)人,他今天在VentureBate的轉(zhuǎn)換會(huì)議上談到了Facebook在為全球28億用戶部署人工智能系統(tǒng)時(shí)遇到的獨(dú)特挑戰(zhàn),比如解析細(xì)微差別,比如一篇文章是否符合仇恨言論的標(biāo)準(zhǔn),或者視頻是否只是被篡改或播放。企業(yè)在部署人工智能的過程中遇到的障礙可能是文化或后勤方面的,也可能只是未能認(rèn)識(shí)到人工智能堆棧與典型的工程堆棧并不相同。人工智能幾乎在Facebook服務(wù)的每一個(gè)方面都發(fā)揮著作用,從在Facebook或Instagram上顯示什么廣告、推薦什么內(nèi)容,到內(nèi)容審核,以及Portal的智能相機(jī)等新的客戶體驗(yàn)。Facebook工程經(jīng)理Kim Hazelwood去年表示,許多Facebook服務(wù)都采用英特爾處理器。與谷歌、微軟和Airbnb的高管一樣,Pesenti也在他們的轉(zhuǎn)型談話中談到了多元化在招聘中的重要性,并確保人工智能對(duì)每個(gè)人都適用。他認(rèn)為偏見通常來自數(shù)據(jù)集而不是AI系統(tǒng)的創(chuàng)建者?!拔覀冋谌〉眠M(jìn)展。這離我們應(yīng)該達(dá)到的目標(biāo)還很遠(yuǎn)?!薄拔覀冃枰M我們所能來增加這個(gè)領(lǐng)域的多樣性。”本周早些時(shí)候,F(xiàn)acebook公布了與公司多樣性有關(guān)的新統(tǒng)計(jì)數(shù)據(jù),但沒有公布完全致力于人工智能的Facebook人工智能研究等部門的種族或性別多樣性統(tǒng)計(jì)數(shù)據(jù)。數(shù)據(jù)與社會(huì)研究員、算法問責(zé)法案合著者M(jìn)utale Nkonde的分析發(fā)現(xiàn),F(xiàn)acebook人工智能研究現(xiàn)在雇傭了146名員工,其中沒有非洲裔。由Facebook AR/VR業(yè)務(wù)主管Lade Obamehinti創(chuàng)建的一個(gè)包容性人工智能程序現(xiàn)在正在內(nèi)部用于審查產(chǎn)品的偏見。Obamehinti在一年前發(fā)明了這個(gè)程序,因?yàn)樗l(fā)現(xiàn)Portal的智能相機(jī)AI對(duì)像她這樣膚色較深的人不起作用。然而,團(tuán)隊(duì)對(duì)人工智能多樣性的測(cè)量可能很快就會(huì)過時(shí)。Pesenti希望Facebook內(nèi)部的開發(fā)人員成為公司每個(gè)團(tuán)隊(duì)和部門的一部分。他說:“我的目標(biāo)是讓公司中的每一個(gè)工程師都成為ML工程師,去年這個(gè)數(shù)字增加了3倍,所以你說的是成千上萬(wàn)的工程師,他們不在我的團(tuán)隊(duì)中,實(shí)際上也不是ML工程師?!?/p>