多模態(tài)、預(yù)訓(xùn)練排序是當(dāng)下的熱門(mén)話題，同時(shí)也將會(huì)是未來(lái)金融行業(yè)的主攻方向之一。一直以來(lái)，度小滿關(guān)注創(chuàng)新技術(shù)的發(fā)展，加強(qiáng)創(chuàng)新技術(shù)在金融領(lǐng)域的運(yùn)用，在多模態(tài)、預(yù)訓(xùn)練排序等領(lǐng)域取得出色的成績(jī)。日前，由度小滿數(shù)據(jù)智能應(yīng)用部AI-Lab撰寫(xiě)的兩篇論文，對(duì)多模態(tài)和預(yù)訓(xùn)練排序提出新穎算法，獲得了業(yè)界的高度關(guān)注。

　　度小滿兩篇論文對(duì)多模態(tài)和預(yù)訓(xùn)練排序提出新穎算法

　　近日，度小滿數(shù)據(jù)智能應(yīng)用部AI-Lab的兩篇論文分別入選ACM MM和CIKM國(guó)際頂級(jí)會(huì)議。兩篇論文分別就多模態(tài)和預(yù)訓(xùn)練排序等多個(gè)熱門(mén)話題提出了新穎的算法，并在相關(guān)任務(wù)上達(dá)到了國(guó)際頂尖水平，獲得了審稿人的一致好評(píng)并最終錄用。這標(biāo)志著度小滿在自然語(yǔ)言處理和計(jì)算機(jī)視覺(jué)等人工智能前沿領(lǐng)域的研究得到了國(guó)際同行的認(rèn)可。

　　其中，度小滿論文中具有實(shí)體對(duì)齊網(wǎng)格的位置增強(qiáng)Transformer被ACM MM錄用。據(jù)了解，許多圖像除了實(shí)際的物體和背景等信息外，通常還包含著很有價(jià)值的文本信息，這對(duì)于理解圖像場(chǎng)景是十分重要的。因此度小滿這篇論文主要研究基于文本的視覺(jué)問(wèn)答任務(wù)，這項(xiàng)任務(wù)要求機(jī)器可以理解圖像場(chǎng)景并閱讀圖像中的文本來(lái)回答相應(yīng)的問(wèn)題。然而之前的大多數(shù)工作往往需要設(shè)計(jì)復(fù)雜的圖結(jié)構(gòu)和利用人工指定的特征來(lái)構(gòu)建圖像中視覺(jué)實(shí)體和文本之間的位置關(guān)系。為了直觀有效地解決這些問(wèn)題，度小滿科研團(tuán)隊(duì)提出了具有實(shí)體對(duì)齊網(wǎng)格的位置增強(qiáng)Transformer。

　　該模型能夠整合目標(biāo)檢測(cè)、OCR以及基于Transformer的文本表示等多種方法的優(yōu)勢(shì)，增強(qiáng)算法對(duì)于圖像中場(chǎng)景信息的理解，更精準(zhǔn)的融合圖像與文本多模態(tài)的信息，進(jìn)一步助力證件識(shí)別、人臉與活體檢測(cè)等業(yè)務(wù)場(chǎng)景，提升度小滿在視覺(jué)風(fēng)控方面的技術(shù)能力。

　　度小滿布局預(yù)訓(xùn)練語(yǔ)言模型，廣泛運(yùn)用于金融服務(wù)場(chǎng)景中

　　而度小滿另一篇論文中基于BERT的動(dòng)態(tài)多粒度排序模型被CIKM錄用。近年來(lái)，預(yù)訓(xùn)練的語(yǔ)言模型廣泛應(yīng)用于文本的檢索排序任務(wù)中。然而，在真實(shí)場(chǎng)景中，用戶的行為往往受到選擇或曝光偏差的影響，這可能會(huì)導(dǎo)致錯(cuò)誤的標(biāo)簽進(jìn)而引入額外噪聲。

　　而對(duì)于不同候選文檔，以往的訓(xùn)練優(yōu)化目標(biāo)通常使用單一粒度和靜態(tài)權(quán)重。這使得排序模型的性能更容易受到上述問(wèn)題的影響。因此，在度小滿這篇論文中科研人員重點(diǎn)研究了基于BERT的文檔重排序任務(wù)，開(kāi)創(chuàng)性地提出了動(dòng)態(tài)多粒度學(xué)習(xí)方法。此外，該方法還同時(shí)考慮了文檔粒度和實(shí)例粒度來(lái)平衡候選文檔的相對(duì)關(guān)系和絕對(duì)分?jǐn)?shù)。

　　該模型有效地提升了長(zhǎng)文本理解與排序任務(wù)的性能，特別是其中所用到的預(yù)訓(xùn)練語(yǔ)言模型已經(jīng)成為度小滿在自然語(yǔ)言處理方面的基礎(chǔ)架構(gòu)，在獲客、信貸等業(yè)務(wù)場(chǎng)景被廣泛地使用，為業(yè)務(wù)模型提供了更加豐富的文本表示和精準(zhǔn)的文本特征，在保障業(yè)務(wù)穩(wěn)健發(fā)展中起到了十分重要的作用。

　　各種創(chuàng)新技術(shù)的誕生和應(yīng)用，為金融服務(wù)產(chǎn)業(yè)的發(fā)展帶來(lái)了諸多機(jī)遇。可以說(shuō)，加強(qiáng)技術(shù)創(chuàng)新，將會(huì)是企業(yè)搶占金融服務(wù)市場(chǎng)先機(jī)的有效途徑之一。相信在以度小滿為代表的一批創(chuàng)新金融科技企業(yè)的共同努力下，未來(lái)金融服務(wù)行業(yè)將擁有更多可能性。

   【免責(zé)聲明】本文僅代表合作供稿方觀點(diǎn)，不代表和訊網(wǎng)立場(chǎng)。投資者據(jù)此操作，風(fēng)險(xiǎn)請(qǐng)自擔(dān)。