-
當(dāng)前位置:首頁 > 創(chuàng)意學(xué)院 > 技術(shù) > 專題列表 > 正文
優(yōu)化目標(biāo)是什么意思(優(yōu)化目標(biāo)是什么意思呀)
大家好!今天讓創(chuàng)意嶺的小編來大家介紹下關(guān)于優(yōu)化目標(biāo)是什么意思的問題,以下是小編對此問題的歸納整理,讓我們一起來看看吧。
開始之前先推薦一個(gè)非常厲害的Ai人工智能工具,一鍵生成原創(chuàng)文章、方案、文案、工作計(jì)劃、工作報(bào)告、論文、代碼、作文、做題和對話答疑等等
只需要輸入關(guān)鍵詞,就能返回你想要的內(nèi)容,越精準(zhǔn),寫出的就越詳細(xì),有微信小程序端、在線網(wǎng)頁版、PC客戶端
官網(wǎng):https://ai.de1919.com。
創(chuàng)意嶺作為行業(yè)內(nèi)優(yōu)秀的企業(yè),服務(wù)客戶遍布全球各地,如需了解SEO相關(guān)業(yè)務(wù)請撥打電話175-8598-2043,或添加微信:1454722008
本文目錄:
一、什么叫整體優(yōu)化
"整體優(yōu)化"
英文對照
global
optimization;
"整體優(yōu)化"
在學(xué)術(shù)文獻(xiàn)中的解釋
1、二是注意整體優(yōu)化與
局部
優(yōu)化相結(jié)合,整體優(yōu)化是指
人才培養(yǎng)
計(jì)劃的優(yōu)化,包括處理好各
部分
的比例關(guān)系、銜接關(guān)系,做到學(xué)時(shí)分配、課程組合、教學(xué)環(huán)節(jié)的銜接、知識(shí)、能力和素質(zhì)的協(xié)調(diào)培養(yǎng)都有根有據(jù)
2、整體優(yōu)化是指最大限度覆蓋所有部門和個(gè)人.最大限度覆蓋所有管理
要素
.整體規(guī)劃,整體設(shè)計(jì).對管理要素及其
結(jié)構(gòu)
進(jìn)行優(yōu)化,使系統(tǒng)功能得到放大和發(fā)揮
3、所謂整體優(yōu)化是指一個(gè)管理者在實(shí)施管理措施時(shí)要以系統(tǒng)的
總體
目標(biāo)為目標(biāo).而按照系統(tǒng)觀點(diǎn)整體不等于各部分的簡單相加整體有可能大于各個(gè)部分之和也有可能小于各個(gè)部分之和
4、“整體優(yōu)化”是指不論哪一種環(huán)境都要在育人的內(nèi)容、方法、途徑幾
方面
不斷完善、不斷更新追求育人的最佳
效應(yīng)
.優(yōu)化校園環(huán)境首先是優(yōu)化
軟環(huán)境
5、所謂整體優(yōu)化,是指在明確整體目標(biāo)的
前提
下,協(xié)調(diào)組成整體的各部分之間的關(guān)系,使之得到最優(yōu)化的合理組合.其中地礦部專項(xiàng)撥款300萬元,學(xué)院調(diào)整預(yù)算向評(píng)價(jià)傾斜100萬元
6、整體優(yōu)化是指整個(gè)
教學(xué)過程
所在系統(tǒng)的優(yōu)化.局部優(yōu)化是指在這個(gè)
教學(xué)系統(tǒng)
中各個(gè)要素的優(yōu)化.整體優(yōu)化是一個(gè)綜合的、整體的觀點(diǎn).局部優(yōu)化是一個(gè)部分概念.局部優(yōu)化是整體優(yōu)化的前提和
基礎(chǔ)
整體優(yōu)化是局部優(yōu)化的目的和結(jié)果
7、繼續(xù)教育既是對
教育素質(zhì)
結(jié)構(gòu)的整體優(yōu)化,也是本質(zhì)優(yōu)化,整體優(yōu)化是指
全方位
、多
層面
,本質(zhì)優(yōu)化是提升個(gè)人學(xué)歷文憑,具備教師資格認(rèn)證條件
8、整體優(yōu)化是指組隊(duì)時(shí)應(yīng)首先考慮如何提高隊(duì)伍的整體戰(zhàn)斗力.實(shí)際上老子根本不承認(rèn)有什么絕對的弱者、強(qiáng)者.一切都是相對的“反者道之動(dòng)”一切都依某種條件而轉(zhuǎn)移
9、(2)整體優(yōu)化技術(shù)所謂整體優(yōu)化是指地下、地上相結(jié)合的
油藏工程
、
采油工程
、地面工程總體
方案
優(yōu)化地面工程各系統(tǒng)總體方案優(yōu)化
二、目標(biāo)是什么?
目標(biāo):指的是射擊、攻擊或?qū)で蟮膶ο?,也指想要達(dá)到的境地或標(biāo)準(zhǔn)。
【引證解釋】
1、射擊、攻擊或?qū)で蟮膶ο?。柳青《銅墻鐵壁》第一章:“人一亂跑開就壞了,正好成了掃射的目標(biāo)。”
2、想要達(dá)到的境界或目的。毛澤東《關(guān)于中華人民共和國憲法草案》:“我們的總目標(biāo),是為建設(shè)一個(gè)偉大的社會(huì)主義國家而奮斗?!?/p>
擴(kuò)展資料
目標(biāo)的作用
1、目標(biāo)產(chǎn)生積極的心態(tài)
目標(biāo)是努力的依據(jù),也是鞭策。目標(biāo)給人一個(gè)看得見的彼岸。隨著實(shí)現(xiàn)這些目標(biāo),就會(huì)有成就感,心態(tài)就會(huì)向著更積極主動(dòng)的方向轉(zhuǎn)變。
2、目標(biāo)使人看清使命,產(chǎn)生動(dòng)力
有了目標(biāo),心中便有一幅清晰的圖畫,就會(huì)集中精力和資源于所選定的方向和目標(biāo)上,因而也就更加熱心于所選目標(biāo)。
3、目標(biāo)使人感覺到生存的意義和價(jià)值
如果你心中有了理想,你就會(huì)感到生存的重要意義,如果這個(gè)理想(人生目標(biāo))又是由一個(gè)個(gè)目標(biāo)組成的,那么,就會(huì)覺得為目標(biāo)付出努力是有價(jià)值的。
參考資料來源:百度百科-目標(biāo)
三、優(yōu)化設(shè)計(jì)是指什么?
優(yōu)化設(shè)計(jì)(Optimal Design)是近年來發(fā)展起來的一門新學(xué)科,是最優(yōu)化技術(shù)和計(jì)算機(jī)計(jì)算技術(shù)在設(shè)計(jì)領(lǐng)域應(yīng)用的結(jié)果。優(yōu)化設(shè)計(jì)為工程設(shè)計(jì)提供了一種重要的科學(xué)設(shè)計(jì)方法,使得在解決復(fù)雜設(shè)計(jì)問題時(shí),能從眾多的設(shè)計(jì)方案中尋到盡可能完善的或最適宜的設(shè)計(jì)方案。在設(shè)計(jì)過程中,常常需要根據(jù)產(chǎn)品設(shè)計(jì)的要求,合理確定各種參數(shù),例如,重量、成本、性能、承載能力等,以達(dá)到最佳的設(shè)計(jì)目標(biāo)。這就是說,一項(xiàng)工程設(shè)計(jì)總是要求在一定的技術(shù)和物質(zhì)條件下,取得一個(gè)技術(shù)經(jīng)濟(jì)指標(biāo)為最佳的設(shè)計(jì)方案。優(yōu)化設(shè)計(jì)就是在這樣一種思想的指導(dǎo)下產(chǎn)生和發(fā)展起來的。
目前優(yōu)化設(shè)計(jì)方法在結(jié)構(gòu)設(shè)計(jì)、化工系統(tǒng)設(shè)計(jì)、電氣傳動(dòng)設(shè)計(jì)、制造工藝設(shè)計(jì)等各專業(yè)中都有廣泛的應(yīng)用。實(shí)踐證明,在工程設(shè)計(jì)中采用優(yōu)化設(shè)計(jì)方法,不僅可以減輕機(jī)械設(shè)備重量,降低材料消耗與制造成本,而且可以提高產(chǎn)品的質(zhì)量與工作性能。因此,優(yōu)化設(shè)計(jì)已成成為現(xiàn)代機(jī)械設(shè)計(jì)理論和方法中的一個(gè)重要領(lǐng)域,并且越來越受到從事機(jī)械設(shè)計(jì)的科學(xué)工作者和工程技術(shù)人員的重視。
機(jī)械優(yōu)化設(shè)計(jì)是使某項(xiàng)機(jī)械設(shè)計(jì)在規(guī)定的各種設(shè)計(jì)限制條件下,優(yōu)選設(shè)計(jì)參數(shù),使某項(xiàng)或幾項(xiàng)設(shè)計(jì)指標(biāo)獲得最優(yōu)值。工程設(shè)計(jì)上的“最優(yōu)值”(Optimum)或“最佳值”是指在滿足多種設(shè)計(jì)目標(biāo)和約束條件下所獲得的最令人滿意、最適宜的值。它反映了人們的意圖和目的,這不同于表示事物本身規(guī)律的極值——最大值和最小值,但是在很多情況下,也可以用最大值或最小值來代表最優(yōu)值。最優(yōu)值的概念是相對的,隨著科學(xué)技術(shù)的發(fā)展及設(shè)計(jì)條件的變動(dòng),最優(yōu)化的標(biāo)準(zhǔn)也將發(fā)生變化。也就是說,優(yōu)化設(shè)計(jì)反映了人們對客觀世界認(rèn)識(shí)的深化,它要求人們根據(jù)事物的客觀規(guī)律,在一定的物質(zhì)基礎(chǔ)和技術(shù)條件之下,充分發(fā)揮人的主觀能動(dòng)性,得出最優(yōu)的設(shè)計(jì)方案。
最優(yōu)化技術(shù),是優(yōu)化設(shè)計(jì)全過程中各種方法技術(shù)的總稱。它主要包含兩部分內(nèi)容:優(yōu)化設(shè)計(jì)問題的建模技術(shù)和優(yōu)化設(shè)計(jì)問題的求解技術(shù)。如何將一個(gè)實(shí)際的設(shè)計(jì)問題抽象成一個(gè)優(yōu)化設(shè)計(jì)問題,并建立起符合實(shí)際設(shè)計(jì)要求的優(yōu)化設(shè)計(jì)數(shù)學(xué)模型,這是建模技術(shù)要解決的問題。建立實(shí)際問題的優(yōu)化數(shù)學(xué)模型,不僅需要熟悉掌握優(yōu)化設(shè)計(jì)方法的基本理論;設(shè)計(jì)問題抽象和數(shù)學(xué)模型處理的基本技能;更重要的是要具有該設(shè)計(jì)領(lǐng)域的豐富設(shè)計(jì)經(jīng)驗(yàn)。此外,在進(jìn)行優(yōu)化設(shè)計(jì)求解過程中,要不斷地分析實(shí)際問題,以及數(shù)學(xué)模型之間存在的差距,不斷地修正優(yōu)化設(shè)計(jì)數(shù)學(xué)模型,只有這樣,才能建立起正確的數(shù)學(xué)模型,求解得到的最優(yōu)解才具有實(shí)際意義。
優(yōu)化設(shè)計(jì)的基本思想是搜索、迭代和逼近。首先確定設(shè)計(jì)變量和目標(biāo)函數(shù)構(gòu)造優(yōu)化模型,從某一點(diǎn)x出發(fā),根據(jù)目標(biāo)函數(shù)和約束函數(shù)在該點(diǎn)的某些信息,確定本次迭代計(jì)算的一個(gè)方向和適當(dāng)?shù)牟介L,去尋找新的迭代點(diǎn)x′,然后用x′代替x,x′點(diǎn)的目標(biāo)函數(shù)值應(yīng)比原x點(diǎn)的目標(biāo)函數(shù)值小一些。這樣一步步的重復(fù)迭代,逐步改進(jìn)目標(biāo)函數(shù)值,直到最終逼近極值點(diǎn)。這樣一個(gè)逐步尋優(yōu)的過程,即尋找極小點(diǎn)(無約束或約束極小點(diǎn))的過程比喻為向“山”的頂峰攀登的過程,始終保持向“高”的方向前進(jìn),直至達(dá)到“山頂”。當(dāng)然,“山頂”可以理解為目標(biāo)函數(shù)的極大值,也可以理解為極小值,前者稱為上升算法,后者稱為下降算法。這兩種算法都有一個(gè)共同的特點(diǎn),就是每前進(jìn)一步都應(yīng)該使目標(biāo)函數(shù)值有所改善,同時(shí)還要為下一步移動(dòng)的方向提供有用的信息,如圖4-22所示。
圖4-22 優(yōu)化設(shè)計(jì)
四、多目標(biāo)優(yōu)化在推薦中的應(yīng)用
多目標(biāo)排序通常是指有兩個(gè)或兩個(gè)以上的目標(biāo)函數(shù),尋求一種排序使得所有的目標(biāo)函數(shù)都達(dá)到最優(yōu)或滿意。
在推薦系統(tǒng)中,大多產(chǎn)品都是基于隱式反饋進(jìn)行推薦,導(dǎo)致評(píng)估用戶滿意度的時(shí)候有不同的偏差:
1)不同目標(biāo)表達(dá)不同的滿意程度:在電商應(yīng)用中,購買行為表達(dá)的滿意度高于點(diǎn)擊、瀏覽;
2)單個(gè)目標(biāo)衡量不全面:在信息流應(yīng)用中,僅以點(diǎn)擊率為目標(biāo),可能會(huì)存在標(biāo)題黨;在招聘應(yīng)用中,僅以投遞轉(zhuǎn)化率為目標(biāo),可能存在招聘方不活躍或者對候選者不滿意度下降。
3)用戶表達(dá)滿意的方式不同:在電商應(yīng)用中,用戶喜歡商品的表達(dá)可能會(huì)以收藏或者加購的形式,取決于用戶偏好;在招聘應(yīng)用中,招聘方對候選者的滿意方式可能以在線溝通、電話溝通、直接面試邀請等形式,取決于招聘方偏好。
推薦系統(tǒng)中有多個(gè)業(yè)務(wù)指標(biāo),可以通過一些手段使得多個(gè)業(yè)務(wù)的綜合目標(biāo)收益最大化。比如說,電商場景,希望能夠在優(yōu)化GMV的基礎(chǔ)上提高點(diǎn)擊率,提高用戶粘性;信息流場景,希望提高用戶點(diǎn)擊率的基礎(chǔ)上提高用戶關(guān)注、點(diǎn)贊、評(píng)論等行為,提高留存;招聘場景,希望提高求職者投遞轉(zhuǎn)化率的基礎(chǔ)上提高招聘方的體驗(yàn)滿意度,從而使得雙方的滿足度均提高。因此推薦系統(tǒng)做到后期,往往會(huì)向多目標(biāo)方向演化,承擔(dān)起更多的業(yè)務(wù)目標(biāo)。
多目標(biāo)排序問題的解決方案:多模型分?jǐn)?shù)融合、通過樣本權(quán)重進(jìn)行多目標(biāo)優(yōu)化、排序?qū)W習(xí)(Learning To Rank,LTR)、多任務(wù)學(xué)習(xí)(Multi-Task Learning,MTL)。
1.多模型分?jǐn)?shù)融合
多模型融合的方式也是比較經(jīng)典傳統(tǒng)的做法,每個(gè)目標(biāo)訓(xùn)練一個(gè)模型,每個(gè)模型算出一個(gè)分?jǐn)?shù),然后根據(jù)自身業(yè)務(wù)的特點(diǎn),通過某種方式將這些分?jǐn)?shù)綜合起來,計(jì)算出一個(gè)總的分?jǐn)?shù)再進(jìn)行排序,綜合分?jǐn)?shù)的計(jì)算通常會(huì)根據(jù)不同目標(biāo)的重要性設(shè)定相應(yīng)的參數(shù)來調(diào)節(jié)。
最常見的是weighted sum融合多個(gè)目標(biāo),給不同的目標(biāo)分配不同的權(quán)重。當(dāng)然,融合的函數(shù)可以有很多,比如連乘或者指數(shù)相關(guān)的函數(shù),可以根據(jù)自己面臨的場景不斷去探索。
1.1 規(guī)則公式法
以電商推薦系統(tǒng)為例,假定有五個(gè)預(yù)估目標(biāo),分別是點(diǎn)擊率 CTR、購買轉(zhuǎn)化率 CVR、收藏率 collect,加購率 cart、停留時(shí)長 stay,這五個(gè)目標(biāo)分別對應(yīng)五個(gè)模型,排序階段的作用就是利用模型根據(jù)各自目標(biāo)來給候選 Item 計(jì)算一個(gè)預(yù)估值(分?jǐn)?shù)),排序階段結(jié)束每個(gè) Item 都會(huì)有五個(gè)不同的目標(biāo)預(yù)估分?jǐn)?shù),如何用這些分?jǐn)?shù)進(jìn)行融合,是交給下一個(gè)流程--重排序模塊來處理的。
分?jǐn)?shù)融合的一種思路是利用一個(gè)帶參數(shù)公式來實(shí)現(xiàn),如下:
有了公式,那么超參數(shù)(α,β,a,b,c 等)如果進(jìn)行學(xué)習(xí)獲取?目前工業(yè)界就是人工調(diào)參,通過線上AB實(shí)驗(yàn)不斷調(diào)整參數(shù),一個(gè)很繁瑣的工作。
1.2 線性回歸法
如果經(jīng)驗(yàn)公式,我們很容易想到的一種思路是類似于集成學(xué)習(xí)中一種多模型融合方法 Stacking,即將多個(gè)目標(biāo)模型預(yù)估出的結(jié)果作為輸入,然后用一個(gè)簡單的線性回歸進(jìn)行線性加權(quán)融合,學(xué)習(xí)到各個(gè)目標(biāo)的權(quán)重,這樣我們就可以預(yù)估綜合分?jǐn)?shù)了。但是我們卻忽略了一個(gè)重要的問題,該如何設(shè)置樣本的 Label 呢?事實(shí)上,并沒有一個(gè)真實(shí)的綜合分?jǐn)?shù)可供我們?nèi)ビ?xùn)練學(xué)習(xí),因此,這種辦法很難真正去實(shí)現(xiàn)。而在工業(yè)界,更多的做法是人工調(diào)試,但如此又會(huì)帶來很多問題,比如模型靈活度不夠。
2.樣本權(quán)重(sample weight)
如果主目標(biāo)是點(diǎn)擊率,分享功能是我們希望提高的功能。那么點(diǎn)擊和分享都是正樣本(分享是點(diǎn)擊行為的延續(xù)),分享的樣本可以設(shè)置更高的樣本權(quán)重。模型訓(xùn)練在計(jì)算梯度更新參數(shù)時(shí),對于sample weight大的樣本,如果預(yù)測錯(cuò)誤就會(huì)帶來更大的損失,梯度要乘以權(quán)重。通過這種方法能夠在優(yōu)化點(diǎn)擊率的基礎(chǔ)上,優(yōu)化分享率。實(shí)際AB測試會(huì)發(fā)現(xiàn),這樣的方法,目標(biāo)點(diǎn)擊率會(huì)受到一定的損失換取目標(biāo)分享率的增長。通過線上AB測試和sample weight調(diào)整的聯(lián)動(dòng),可以保證在可接受的A目標(biāo)損失下,優(yōu)化目標(biāo)B,實(shí)現(xiàn)初級(jí)的多目標(biāo)優(yōu)化。
優(yōu)點(diǎn):模型簡單,僅在訓(xùn)練時(shí)通過梯度上乘sample weight實(shí)現(xiàn)對某些目標(biāo)的boost或者decay帶有sample weight的模型和線上的base模型完全相同,不需要架構(gòu)的額外支持。
缺點(diǎn):本質(zhì)上沒有對多目標(biāo)的建模,而是將不同的目標(biāo)折算成同一個(gè)目標(biāo)。折算的程度需要多次AB測試才能確定。
3. 排序?qū)W習(xí)(Learning To Rank,LTR)
多模型融合中我們通過模型計(jì)算預(yù)估值或者是綜合打分,其根本目的是為了給推薦物品排序,而不是真正的打分。因此我們可以使用排序?qū)W習(xí)方法來解決多目標(biāo)問題。再由于是多個(gè)目標(biāo),可以排除pointwise方案,可以考慮pairwise和listwise方案。具體,模型可以考慮 BPR 或者 LambdaMART 等算法。
相比多模型融合中 Label 標(biāo)注,排序?qū)W習(xí)模型的的 Label 標(biāo)注相對更容易一點(diǎn),因?yàn)橹魂P(guān)心相對關(guān)系,而不需要真實(shí)的打分?jǐn)?shù)據(jù)。一種常見的標(biāo)注方法是對多目標(biāo)產(chǎn)生的物品構(gòu)建 Pair,比如用戶對物品 i產(chǎn)生的購買,對物品j產(chǎn)生了點(diǎn)擊,假定我們覺得購買的目標(biāo)比點(diǎn)擊的目標(biāo)更重要,就可以讓i>uj,其他目標(biāo)以此類推。有了順序?qū)?,我們便可以?xùn)練排序?qū)W習(xí)模型,這樣一個(gè)模型便可以融合多個(gè)目標(biāo),而不用訓(xùn)練多個(gè)模型。
4. 多任務(wù)學(xué)習(xí)(Multi-Task Learning,MTL)
4.1 概念
多任務(wù)學(xué)習(xí)是基于共享表示,把多個(gè)相關(guān)的任務(wù)放在一起學(xué)習(xí)的一種機(jī)器學(xué)習(xí)方法。多任務(wù)學(xué)習(xí)涉及多個(gè)相關(guān)的任務(wù)同時(shí)并行學(xué)習(xí),梯度同時(shí)反向傳播,利用包含在相關(guān)任務(wù)訓(xùn)練信號(hào)中的特定領(lǐng)域的信息來改進(jìn)泛化能力。
一般來說,優(yōu)化多個(gè)損失函數(shù)就等同于進(jìn)行多任務(wù)學(xué)習(xí)。 即使只優(yōu)化一個(gè)損失函數(shù),也有可能借助輔助任務(wù)來改善原任務(wù)模型。
多任務(wù)學(xué)習(xí)的前提條件:多個(gè)任務(wù)之間必須具有相關(guān)性以及擁有可以共享的底層表示。
在多任務(wù)學(xué)習(xí)的定義中,共享表示是一個(gè)非常重要的限定,個(gè)人認(rèn)為共享表示對于最終任務(wù)的學(xué)習(xí)有兩類作用:
促進(jìn)作用——通過淺層的共享表示互相分享、互相補(bǔ)充學(xué)習(xí)到的領(lǐng)域相關(guān)信息,從而互相促進(jìn)學(xué)習(xí),提升對信息的穿透和獲取能力;
約束作用——在多個(gè)任務(wù)同時(shí)進(jìn)行反向傳播時(shí),共享表示則會(huì)兼顧到多個(gè)任務(wù)的反饋,由于不同的任務(wù)具有不同的噪聲模式,所以同時(shí)學(xué)習(xí)多個(gè)任務(wù)的模型就會(huì)通過平均噪聲模式從而學(xué)習(xí)到更一般的表征,這個(gè)有點(diǎn)像正則化的意思,因此相對于單任務(wù),過擬合風(fēng)險(xiǎn)會(huì)降低,泛化能力增強(qiáng)。
因此在深度神經(jīng)網(wǎng)絡(luò)中,執(zhí)行多任務(wù)學(xué)習(xí)有兩種最常用的方法:
參數(shù)的硬共享機(jī)制
共享 Hard 參數(shù)是神經(jīng)網(wǎng)絡(luò) MTL 最常用的方法。在實(shí)際應(yīng)用中, 通常通過在所有任務(wù)之間共享隱藏層,同時(shí)保留幾個(gè)特定任務(wù)的輸出層來實(shí)現(xiàn), 如下圖所示:
共享 Hard 參數(shù)大大降低了過擬合的風(fēng)險(xiǎn)。
參數(shù)的軟共享機(jī)制
共享 Soft 參數(shù),每個(gè)任務(wù)都有自己的參數(shù)和模型。模型參數(shù)之間的距離是正則化的,以便鼓勵(lì)參數(shù)相似化,例如使用 L2 距離進(jìn)行正則化。
多任務(wù)學(xué)習(xí)之所以有效,是因?yàn)槎嗳蝿?wù)學(xué)習(xí)的方式引入了歸納偏置(inductive bias),歸納偏置有兩個(gè)效果:
1)互相促進(jìn),可以把多任務(wù)模型之間的關(guān)系看作是互相先驗(yàn)知識(shí),也稱歸納遷移(inductive transfer),有了對模型的先驗(yàn)假設(shè),可以更好的提升模型的效果;
2)約束作用,借助多任務(wù)間的噪聲平衡以及表征偏置來實(shí)現(xiàn)更好的泛化性能。
4.2 主流多任務(wù)學(xué)習(xí)模型
主流模型有ESMM模型、EMS2模型、MMoE模型等。本文以阿里ESMM模型為例進(jìn)行介紹。
用戶的行為可以抽象為一個(gè)序列模式:瀏覽 -> 點(diǎn)擊 -> 購買。
CVR 是指從點(diǎn)擊到購買的轉(zhuǎn)化,傳統(tǒng)的 CVR 預(yù)估會(huì)存在兩個(gè)問題:樣本選擇偏差和稀疏數(shù)據(jù)。
樣本選擇偏差:模型用戶點(diǎn)擊的樣本來訓(xùn)練,但是預(yù)測卻是用的整個(gè)樣本空間。
數(shù)據(jù)稀疏問題:用戶點(diǎn)擊到購買的樣本太少。
ESMM是一個(gè)多任務(wù)學(xué)習(xí)模型,它同時(shí)學(xué)習(xí)學(xué)習(xí)點(diǎn)擊率和轉(zhuǎn)化率兩個(gè)目標(biāo),即模型直接預(yù)測展現(xiàn)轉(zhuǎn)換(pCTCVR):單位流量獲得成交的概率,把 pCVR 當(dāng)做一個(gè)中間變量,模型結(jié)構(gòu)如下 :
該網(wǎng)絡(luò)結(jié)構(gòu)共有三個(gè)子任務(wù),分別用于輸出 pCTR、pCVR 和 pCTCVR。
對于 pCTR 來說可將有點(diǎn)擊行為的曝光事件作為正樣本,沒有點(diǎn)擊行為的曝光事件作為負(fù)樣本,對于 PCTCVR 來說,將同時(shí)有點(diǎn)擊行為和購買行為的曝光事件作為正樣本,其他作為負(fù)樣本。上面公式可以轉(zhuǎn)化為
我們可以通過分別估計(jì)pCTCVR和pCTR,然后通過兩者相除來解決。而pCTCVR和pCTR都可以在全樣本空間進(jìn)行訓(xùn)練和預(yù)估。但是這種除法在實(shí)際使用中,會(huì)引入新的問題。因?yàn)樵陬A(yù)測階段pCTR其實(shí)是一個(gè)很小的值,范圍一般在百分之幾,預(yù)估時(shí)會(huì)出現(xiàn)pCTCVR>pCTR的情況,導(dǎo)致pCVR預(yù)估值大于1。ESMM巧妙的通過將除法改成乘法來解決上面的問題。
它引入了pCTR和pCTCVR兩個(gè)輔助任務(wù),訓(xùn)練時(shí),loss為兩者相加。
在CTR有點(diǎn)擊行為的展現(xiàn)事件構(gòu)成的樣本標(biāo)記為正樣本,沒有點(diǎn)擊行為發(fā)生的展現(xiàn)事件標(biāo)記為負(fù)樣本;在CTCVR任務(wù)中,同時(shí)有點(diǎn)擊和購買行為的展現(xiàn)事件標(biāo)記為正樣本,否則標(biāo)記為負(fù)樣本。
另外兩個(gè)子網(wǎng)絡(luò)的 embedding 層是共享的,由于 CTR 任務(wù)的訓(xùn)練樣本量要遠(yuǎn)超過 CVR 任務(wù)的訓(xùn)練樣本量,ESMM 模型中 embedding 層共享的機(jī)制能夠使得 CVR 子任務(wù)也能夠從只有展現(xiàn)沒有點(diǎn)擊的樣本中學(xué)習(xí),從而能夠極緩解訓(xùn)練數(shù)據(jù)稀疏性問題。
MTL可以使得多個(gè)模型特性互相彌補(bǔ):點(diǎn)擊率預(yù)估模型善于學(xué)習(xí)表面特征,其中包括標(biāo)題黨,圖片帶來的點(diǎn)擊誘惑;而轉(zhuǎn)化模型學(xué)習(xí)更深層的特征,比如體驗(yàn)、服務(wù)質(zhì)量。
4.3構(gòu)建所有l(wèi)oss的pareto
多任務(wù)學(xué)習(xí)本質(zhì)上是一個(gè)多目標(biāo)問題,因?yàn)椴煌蝿?wù)之間可能產(chǎn)生沖突,需要對其進(jìn)行取舍。
帕累托最優(yōu)所指的情況要求有多個(gè)優(yōu)化目標(biāo),指的是不能在不損失其他目標(biāo)的情況下優(yōu)化一個(gè)目標(biāo)。
4.3.1 Multi-Task Learning as Multi-Objective Optimization
定義如下:
優(yōu)化目標(biāo):
5.多目標(biāo)優(yōu)化實(shí)踐
【參考文獻(xiàn)】
1. https://arxiv.org/pdf/1810.04650v1.pdf Multi-Task Learning as Multi-Objective Optimization
2.
以上就是關(guān)于優(yōu)化目標(biāo)是什么意思相關(guān)問題的回答。希望能幫到你,如有更多相關(guān)問題,您也可以聯(lián)系我們的客服進(jìn)行咨詢,客服也會(huì)為您講解更多精彩的知識(shí)和內(nèi)容。
推薦閱讀:
win10自帶的優(yōu)化軟件在哪里(win10自帶的優(yōu)化軟件在哪里打開)
網(wǎng)絡(luò)優(yōu)化公司必找云尚網(wǎng)絡(luò)(云尚互聯(lián))
不懂就要問優(yōu)化設(shè)計(jì)答案(不懂就要問作業(yè)設(shè)計(jì)及答案)
靜態(tài)IP(靜態(tài)ip和動(dòng)態(tài)的區(qū)別)
外賣餐盒生產(chǎn)設(shè)備(外賣餐盒生產(chǎn)設(shè)備價(jià)格)