智能語(yǔ)音機(jī)器人小知識(shí)（7）--什么是交互式語(yǔ)音應(yīng)答?:

ivr1.jpg使用ivr可以使客戶(hù)戶(hù)一天24小時(shí)隨時(shí)都能得到信息服務(wù)，提高服務(wù)質(zhì)量，以及協(xié)調(diào)用戶(hù)操作過(guò)程。 那是中國(guó)呼叫中心產(chǎn)業(yè)的快速發(fā)展時(shí)期。在產(chǎn)品及價(jià)格日益趨同的今天，服務(wù)質(zhì)量的高低、服務(wù)的多元化及差異化已顯得尤為重要。 顯然，那些以傳統(tǒng)方式經(jīng)營(yíng)和服務(wù)的企業(yè)，已經(jīng)無(wú)法滿(mǎn)足消費(fèi)者的需求，無(wú)法在這種爭(zhēng)奪客戶(hù)資源的競(jìng)爭(zhēng)中取得優(yōu)勢(shì)。為此，許多企業(yè)開(kāi)始借助于信息化技術(shù)的應(yīng)用，利用基于計(jì)算中心電話(huà)交互技術(shù)的呼叫中心來(lái)改善服務(wù)。 ivr2.pngivr交互式語(yǔ)音應(yīng)答技術(shù)的特點(diǎn)ivr提供每周7天，每天24小時(shí)全天候服務(wù)。ivr為企業(yè)處理大量的日常業(yè)務(wù)，無(wú)須通過(guò)業(yè)務(wù)代表。 顧客通過(guò)按鍵或語(yǔ)音選擇，向企業(yè)主機(jī)輸入信息，在允許范圍內(nèi)訪(fǎng)問(wèn)各類(lèi)企業(yè)數(shù)據(jù)庫(kù)，自助得到多種服務(wù)，令業(yè)務(wù)代表有更多的時(shí)間服務(wù)于有特別要求的顧客。

【bat全球擴(kuò)張ai路線(xiàn)圖】百度早于谷歌，騰訊投資最多:

2016年，阿里巴巴與杭州政府合作，進(jìn)行智慧城市項(xiàng)目。這個(gè)項(xiàng)目主要側(cè)重于減少交通擁堵，并提供實(shí)時(shí)交通更新。 從那時(shí)起，阿里一直與其他地方政府合作，共同打造智慧城市和智能旅游計(jì)劃，最近還與馬來(lái)西亞政府達(dá)成了首次國(guó)際合作伙伴關(guān)系。此外，阿里巴巴最近還進(jìn)行了自動(dòng)駕駛車(chē)輛的測(cè)試。 阿里巴巴稱(chēng)，“城市大腦可以連接各種城市管理系統(tǒng)，包括緊急調(diào)度、救護(hù)車(chē)呼叫、交通指揮和交通信號(hào)燈控制等。它可以?xún)?yōu)化城市交通，比如保證救護(hù)車(chē)輛在最短的時(shí)間內(nèi)到達(dá)現(xiàn)場(chǎng)?！?商湯科技表示，它將與阿里巴巴合作推出智能交通、城市管理和智能監(jiān)控系統(tǒng)。 騰訊進(jìn)軍醫(yī)療保健領(lǐng)域通過(guò)投資和合作，騰訊將醫(yī)療保健技術(shù)從世界各地引入中國(guó)大陸。 現(xiàn)在的中國(guó)已經(jīng)變成了數(shù)字化經(jīng)濟(jì)，這導(dǎo)致了政府和大型科技公司手中的大量消費(fèi)者數(shù)據(jù)。

【nsr】中國(guó)人工智能迎來(lái)黃金時(shí)代，跟風(fēng)發(fā)展快但缺乏重大突破:

這種自學(xué)習(xí)的能力與類(lèi)腦計(jì)算關(guān)系密切，其中包括兩個(gè)重要的方面：第一，系統(tǒng)必須要是可塑的，正如人類(lèi)的大腦一樣。第二，機(jī)器要能跟其所在的社會(huì)和自然環(huán)境交互。 曾毅：我認(rèn)為人工智能的圣杯（holy grail）是開(kāi)發(fā)通用智能系統(tǒng)，這種系統(tǒng)由人腦的機(jī)制啟發(fā)，并且表現(xiàn)得像人類(lèi)。真正的人類(lèi)水平的智能系統(tǒng)應(yīng)當(dāng)可以處理環(huán)境信息，定義問(wèn)題，然后自己找到解決方案。 中國(guó)人工智能的黃金時(shí)代蒲慕明：中國(guó)在人工智能領(lǐng)域做了什么？需要什么樣政策是支持其發(fā)展？譚鐵牛：在中國(guó)，這是神經(jīng)科學(xué)和人工智能的黃金時(shí)代。中國(guó)政府在非常認(rèn)真地對(duì)待這件事。 通過(guò)虛擬化計(jì)算技術(shù)，現(xiàn)在我們研發(fā)出的處理器雖然很小，但是可以在神經(jīng)網(wǎng)絡(luò)中模擬不限數(shù)量的神經(jīng)系統(tǒng)和突觸。蒲慕明：在中科院自動(dòng)化研究所呢？您覺(jué)得有什么進(jìn)展？曾毅：腦啟發(fā)智能是我們研究所的關(guān)注點(diǎn)。 并行大腦模擬器也是一系列認(rèn)知機(jī)器人的“大腦”，這個(gè)人工大腦的多個(gè)區(qū)域可以相互協(xié)調(diào)執(zhí)行各種認(rèn)知任務(wù)。

強(qiáng)強(qiáng)聯(lián)袂！騰訊云與國(guó)雙戰(zhàn)略簽約，錨定國(guó)產(chǎn)數(shù)據(jù)庫(kù)巨大市場(chǎng):

日前，騰訊云計(jì)算（北京）有限責(zé)任公司與北京國(guó)雙科技有限公司簽署了《國(guó)產(chǎn)數(shù)據(jù)庫(kù)產(chǎn)品戰(zhàn)略合作協(xié)議》，雙方將在數(shù)據(jù)庫(kù)技術(shù)方面展開(kāi)深度合作，通過(guò)分布式交易型tdsql數(shù)據(jù)庫(kù)的聯(lián)合研發(fā)、產(chǎn)品服務(wù)體系建設(shè)、品牌和市場(chǎng)共建 ，進(jìn)一步擁抱云原生，共建共贏生態(tài)，為千行百業(yè)提供企業(yè)級(jí)數(shù)據(jù)庫(kù)解決方案，助力產(chǎn)業(yè)發(fā)展、企業(yè)和政府組織的數(shù)字化智能化轉(zhuǎn)型。 國(guó)雙自主研發(fā)的新一代云原生并存并算數(shù)據(jù)倉(cāng)庫(kù)產(chǎn)品在賦能企業(yè)和政府組織數(shù)智化轉(zhuǎn)型的進(jìn)程中發(fā)揮著獨(dú)特的作用。 今天，我們能夠與騰訊云聯(lián)袂出陣，優(yōu)勢(shì)互補(bǔ)互為生態(tài)，相信一定能夠通過(guò)國(guó)產(chǎn)數(shù)據(jù)庫(kù)的建設(shè)，為大型企業(yè)和政府?dāng)?shù)字化轉(zhuǎn)型做出貢獻(xiàn)?！?tdsql金融核心系統(tǒng)客戶(hù)數(shù)國(guó)內(nèi)領(lǐng)先 ↓↓點(diǎn)擊閱讀原文，了解更多優(yōu)惠

南陵縣政府辦公政務(wù)OA系統(tǒng)：滄　縣政務(wù)政務(wù)OA系統(tǒng)中覆蓋四種場(chǎng)景、包含正負(fù)向反饋，騰訊、西湖大學(xué)等發(fā)布推薦系統(tǒng)公開(kāi)數(shù)據(jù)集tenrec

用性，通過(guò)手機(jī)即可隨時(shí)隨地的處理“公文流轉(zhuǎn)、公文簽批、日程管理、通訊錄、新聞資訊”等等在內(nèi)的企業(yè)辦公功能，解放了管理者和使用者，讓辦公真正高效起來(lái)。既然移動(dòng)辦公成為未來(lái)發(fā)展趨勢(shì)，那么協(xié)同管理政務(wù)OA系統(tǒng)辦公軟件廠(chǎng)商該如何在移動(dòng)辦公軟件上發(fā)力呢？多數(shù)業(yè)內(nèi)人士認(rèn)為技術(shù)創(chuàng)新是關(guān)鍵，而對(duì)于技術(shù)上始終保持領(lǐng)先優(yōu)勢(shì)的政務(wù)OA企業(yè)來(lái)說(shuō)，負(fù)責(zé)人表示技術(shù)基礎(chǔ)之上，拓展性強(qiáng)的功能更為重要，進(jìn)一步講則是項(xiàng)目落地能力要強(qiáng)，才會(huì)展現(xiàn)出協(xié)同管理電子政務(wù)oa系統(tǒng)系統(tǒng)的服務(wù)品質(zhì)?！耙苿?dòng)政務(wù)OA系統(tǒng)生逢其時(shí)，但是移動(dòng)政務(wù)OA系統(tǒng)必須適應(yīng)隨需而變的應(yīng)用環(huán)境，如果從資源整合延伸到功能拓展，很大程度上能夠滿(mǎn)足多數(shù)移動(dòng)化辦公人群的需求?！币?a href="http://m.opentechcloud.com/" target="_blank" style="font-size:16px; line-height:35px;color:red;">政務(wù)OA負(fù)責(zé)人的觀(guān)點(diǎn)，移動(dòng)化OA辦公軟件的項(xiàng)目落地能力成為系統(tǒng)服務(wù)品質(zhì)高低的“分水嶺”，言外之意不是從pc端轉(zhuǎn)機(jī)器之心專(zhuān)欄 機(jī)器之心編輯部 來(lái)自騰訊、西湖大學(xué)的研究者發(fā)布了一種新的推薦系統(tǒng)數(shù)據(jù)集 tenrec，記錄了來(lái)自四種不同推薦場(chǎng)景的各種用戶(hù)反饋。 近些年來(lái)，通過(guò)各種內(nèi)容平臺(tái)瀏覽視頻或者是閱讀文章的用戶(hù)越來(lái)越多，而現(xiàn)有的推薦算法有時(shí)難以很好地建模用戶(hù)的偏好，因此需要更準(zhǔn)確的推薦系統(tǒng)模型。但已知的推薦系統(tǒng)（rs）的基準(zhǔn)數(shù)據(jù)集要么是小規(guī)模的，要么是用戶(hù)反饋形式非常有限。在這些數(shù)據(jù)集上評(píng)估的推薦系統(tǒng)模型往往缺乏實(shí)用性，難以為大規(guī)模真實(shí)場(chǎng)景應(yīng)用提供足夠的價(jià)值。 在本文中，來(lái)自騰訊、西湖大學(xué)的研究者發(fā)布了 tenrec 數(shù)據(jù)集，一套超大規(guī)模的推薦系統(tǒng)公開(kāi)數(shù)據(jù)集和評(píng)測(cè)基準(zhǔn)，它記錄了來(lái)自四種不同推薦場(chǎng)景的各種用戶(hù)反饋。 論文地址：https://arxiv.org/abs/2210.10629 代碼地址：https://github.com/yuangh-x/2022-nips-tenrec 數(shù)據(jù)集地址：https://static.qblv.qq.com/qblv/h5/algo-frontend/tenrec_dataset.html 具體來(lái)說(shuō)，tenrec 有 以下五個(gè)特點(diǎn)：(1)規(guī)模大，包含約 500 萬(wàn)用戶(hù)和 1.4 億次互動(dòng)；(2)不僅有正向的用戶(hù)反饋，也有真實(shí)的負(fù)反饋；(3)它包含四種不同場(chǎng)景中重疊的用戶(hù)和重疊 items；(4)它包含各種類(lèi)型的用戶(hù)正反饋，以點(diǎn)擊、點(diǎn)贊、分享形式等；(5)它包含了除了用戶(hù) id 和 item id 之外的附加特征，如用戶(hù)年齡、性別和 items 類(lèi)別等。 研究者通過(guò)對(duì)每個(gè)任務(wù)運(yùn)行幾個(gè)經(jīng)典的 baseline 模型來(lái)驗(yàn)證 11 個(gè)不同的推薦任務(wù)上的 tenrec 表現(xiàn)。tenrec 有很大的潛力成為一個(gè)對(duì)多數(shù)流行推薦系統(tǒng)任務(wù)有用的基準(zhǔn)數(shù)據(jù)集。 數(shù)據(jù)集描述 tenrec 是一個(gè)為多個(gè)推薦任務(wù)開(kāi)發(fā)的數(shù)據(jù)集，數(shù)據(jù)收集來(lái)自騰訊的兩個(gè)不同的內(nèi)容推薦平臺(tái)（qb 和 qk）。qk/qb 中的一條數(shù)據(jù)可以是一篇圖文或一段視頻。需要注意的是，圖文推薦模型和視頻推薦模型是分別用不同的神經(jīng)網(wǎng)絡(luò)和特征進(jìn)行訓(xùn)練的。因此，可以認(rèn)為 tenrec 總共是由四個(gè)場(chǎng)景的用戶(hù)反饋組成的，即 qk-video、qk-article、qb-video 和 qb-article。研究者從兩個(gè)內(nèi)容平臺(tái)收集用戶(hù)（匿名處理）的行為日志，首先從 qk-video 的數(shù)據(jù)庫(kù)中隨機(jī)抽取五百萬(wàn)的用戶(hù)，抽取的這些用戶(hù)至少包含五個(gè)及以上的點(diǎn)擊行為。然后再抽取用戶(hù)的相關(guān)行為，包含正反饋行為：點(diǎn)擊、分享、喜歡和關(guān)注等，負(fù)反饋行為：item 曝光但無(wú)點(diǎn)擊的用戶(hù)行為。最終抓取約 1.42 億的點(diǎn)擊行為，1 千萬(wàn)的喜歡行為，1 百萬(wàn)的分享行為和 86 萬(wàn)的關(guān)注行為以及總共 3.75 百萬(wàn)的視頻數(shù)量。除了用戶(hù)行為以外，還包括經(jīng)過(guò)脫敏處理后的用戶(hù)年齡、用戶(hù)性別和物品類(lèi)別等特征。對(duì)于 qk- article、qb-video 和 qb-article 場(chǎng)景采用相似的數(shù)據(jù)處理方式，其中 qk-video 為主場(chǎng)景數(shù)據(jù)集，另外三個(gè)為次要場(chǎng)景，可用于推薦系統(tǒng)中的遷移學(xué)習(xí)場(chǎng)景或者冷啟動(dòng)場(chǎng)景等。詳細(xì)的數(shù)據(jù)統(tǒng)計(jì)可見(jiàn)下表 1。 圖 2(a)和 (b) 顯示了 qk-video 在點(diǎn)擊行為中的 item 頻率。由下圖可得，item 頻率遵循典型的長(zhǎng)尾分布。(c)展示了會(huì)話(huà)長(zhǎng)度的分布，其中具有 [0～20] 長(zhǎng)度的會(huì)話(huà)的數(shù)量占所有會(huì)話(huà)的 53%。另外三個(gè)數(shù)據(jù)集有相似的結(jié)論。 其次，tenrec 在四個(gè)場(chǎng)景中有重疊的用戶(hù)和 item。對(duì)于用戶(hù)，我們統(tǒng)計(jì) qk-video 和 qk-article，qb-video，qb-article 的重疊數(shù)量，因?yàn)?qk-video 覆蓋了最多的用戶(hù)、items 和交互。其中，qk-video 和 qk-article 重疊用戶(hù)數(shù)為 268207，qk-video 和 qb-video 重疊用戶(hù)數(shù)為 3261，在 qk-video 和 qb-article 之間的重疊用戶(hù)數(shù)為 58。對(duì)于 items 的重疊數(shù)量，qk-video 和 qb-video 之間有 78,482 個(gè)重疊的視頻。重疊的用戶(hù)和 items 可以通過(guò)其唯一的 id 索引進(jìn)行關(guān)聯(lián)。由于 tenrec 有交疊的用戶(hù)和 items，因此它非常適合用于研究遷移學(xué)習(xí)和交叉領(lǐng)域?qū)W習(xí)等任務(wù)。 除上述所說(shuō)的優(yōu)勢(shì)之外，tenrec 和現(xiàn)有的推薦系統(tǒng)不同的是，它包含不止一種用戶(hù)反饋。qk-video 和 qb-video 除了用戶(hù)點(diǎn)擊行為外，還包括點(diǎn)贊，分享和關(guān)注等行為，這些行為比點(diǎn)擊行為更加能夠反映出用戶(hù)的偏好程度。在 qk-article 和 qb-article 同樣有用戶(hù)的正反饋，除上述行為之外，還包括閱讀行為和喜歡行為。除了上述的各種正反饋行為外，tenrec 還包括真實(shí)的負(fù)反饋行為，即 item 展示給用戶(hù)，但是用戶(hù)不感興趣并沒(méi)有點(diǎn)擊 item。真實(shí)的負(fù)樣本可以幫助 ctr 等推薦系統(tǒng)任務(wù)更加真實(shí)地學(xué)習(xí)到用戶(hù)的興趣。 tenrec 數(shù)據(jù)集具體的特征如下所示，qk-video/qb-video 的特征包括 {user id, item id, click, like, share, follow,video category, watching times, user gender, user age}。其中 click, like, share, follow 特征是二值屬性，代表用戶(hù)是否有相關(guān)的行為。video category 是視頻類(lèi)別，watching times 是用戶(hù)觀(guān)看該視頻次數(shù)。而有敏感信息的 user id, item id, user gender, user age 特征都做了匿名化處理。另外，qk-article/qb-article 的特征包括 {user id, item id, click, like, share, follow, read, favorite, click_count, like_count, comment_count, exposure_count, read_percentage, category_second, category_first, item_score1, item_score2, item_score3, read_time}。其中“*_count” 代表的是相應(yīng)行為的總數(shù)量， read_percentage 是用戶(hù)的閱讀完成度，取值范圍從 0 到 100。category_first 和 category_second 是文章的類(lèi)別，其中 category_first 是粗粒度類(lèi)別（如體育、娛樂(lè)、軍事等），category_second 是細(xì)粒度類(lèi)別 （例如：nba、世界杯、科比等）。item_score1、item_score2、item_score3 表示不同評(píng)分系統(tǒng)給出的打分。read_time 是閱讀的持續(xù)時(shí)間。 實(shí)驗(yàn)驗(yàn)證 接下來(lái)研究者將用十一個(gè)不同的推薦任務(wù)驗(yàn)證 tenrec 數(shù)據(jù)集。 1、ctr prediction ctr prediction 是一個(gè)經(jīng)典的推薦任務(wù)，其目標(biāo)是預(yù)測(cè)用戶(hù)是否要點(diǎn)擊一個(gè)推薦的項(xiàng)目。研究者在 qk-video 的采樣版本上執(zhí)行這個(gè)任務(wù)，即隨機(jī)抽取從 qk-video 數(shù)據(jù)集中抽取 100 萬(wàn)個(gè)用戶(hù)，稱(chēng)為 qk-video-1m。 數(shù)據(jù)預(yù)處理：在處理過(guò)程中保留所有的正反饋（點(diǎn)擊行為），并抽取一部分真實(shí)負(fù)反饋，正 / 負(fù)抽樣比為 1：2。通過(guò)這樣做，我們總共獲得了 1,948,388 個(gè)項(xiàng)目和 86,642,580 個(gè)交互作用，可以達(dá)到 96.7% 的稀疏性。然后研究者將數(shù)據(jù)切分成 8：1：1，分別作為訓(xùn)練集，驗(yàn)證集，和測(cè)試集。訓(xùn)練樣本包括如下特征：user id、item id、性別、年齡、視頻類(lèi)別和用戶(hù) 10 個(gè)歷史點(diǎn)擊項(xiàng)目。我們分別對(duì)上述特征做特征嵌入。 baseline 模型：在該任務(wù)中，研究者使用如下模型：wide & deep, deepfm, nfm, xdeepfm, afm, dcn, dcnv2, din, dien。另外，進(jìn)行了共享歷史 embeddings 和非共享歷史 embeddings 的實(shí)驗(yàn)比較。 實(shí)驗(yàn)結(jié)果：上表顯示了不同方法在 qk-video-1m 數(shù)據(jù)集上的 auc 評(píng)估指標(biāo)結(jié)果。可以觀(guān)察到，一般來(lái)說(shuō)，這些 ctr 模型的表現(xiàn)非常相似。其次非共享歷史 embeddings 的表現(xiàn)要略好于共享 embeddings。 2、session-based recommendation 基于會(huì)話(huà)的推薦（sbr），也稱(chēng)序列推薦，給定一個(gè)會(huì)話(huà)序列（即之前的交互 items），目的是預(yù)測(cè)下一個(gè) item，sbr 的一個(gè)關(guān)鍵特征是在訓(xùn)練過(guò)程中明確地建模交互順序，這通常會(huì)產(chǎn)生更好的 top-n 結(jié)果。 數(shù)據(jù)處理：研究者使用 qk-video-1m 來(lái)評(píng)估各個(gè) baseline 模型。遵循常規(guī)的實(shí)驗(yàn)設(shè)置，研究者過(guò)濾掉序列長(zhǎng)度小于 10 的會(huì)話(huà)，同時(shí)設(shè)置會(huì)話(huà)的最大長(zhǎng)度為 30。經(jīng)過(guò)數(shù)據(jù)預(yù)處理之后，可以得到 928,562 個(gè)用戶(hù)，1,189,341 個(gè) items 和 37,823,609 個(gè)點(diǎn)擊互動(dòng)。實(shí)驗(yàn)保留會(huì)話(huà)中的最后一項(xiàng)用于測(cè)試，最后第二項(xiàng)用于驗(yàn)證，剩下的用于訓(xùn)練。 baseline 模型：在該任務(wù)中，研究者使用如下模型：gru4rec, nextitnet, sasrec, bert4rec。 實(shí)驗(yàn)結(jié)果：研究者使用標(biāo)準(zhǔn)的 top-n 排名指標(biāo)來(lái)評(píng)估所有的模型，即 hr 和 ndcg。n 被設(shè)置為 20。表 3 顯示了 4 個(gè)模型試驗(yàn)的結(jié)果。觀(guān)察結(jié)果如下：(1)單向模型 gru4rec、nextitnet 和 sasrec 在 hr@20 和 ndcg@20 上比雙向 bert4rec 提供更好的結(jié)果。(2)在相同的訓(xùn)練方式下，三個(gè)單向模型的性能相似。 3、multi-task learning for recommendation 多任務(wù)學(xué)習(xí)（mtl）的目標(biāo)是同時(shí)學(xué)習(xí)兩個(gè)或多個(gè)任務(wù)，同時(shí)最大化其中一個(gè)或所有任務(wù)的性能。在這里，我們?cè)噲D對(duì)用戶(hù)對(duì)點(diǎn)擊和點(diǎn)贊的偏好進(jìn)行建模而不是其中之一。該任務(wù)中使用與 ctr prediction 相同的數(shù)據(jù)集和分割策略。不同之處在于，該任務(wù)有兩個(gè)輸出目標(biāo)，一個(gè)用于點(diǎn)擊，另一個(gè)用于點(diǎn)贊?？紤]到 tenrec 包含了許多類(lèi)型的用戶(hù)反饋，人們可以利用更多的目標(biāo)來(lái)構(gòu)建更具挑戰(zhàn)性的 mtl 任務(wù)，例如 3 個(gè)、4 個(gè)甚至 6 個(gè)任務(wù) (即通過(guò)點(diǎn)擊、點(diǎn)贊、分享、關(guān)注、閱讀、收藏等) 從 qk-article 數(shù)據(jù)集學(xué)習(xí)。 baseline 模型：在該任務(wù)中，研究者使用如下模型：esmm、mmoe、ple。 實(shí)驗(yàn)結(jié)果：表 4 顯示了四種方法在 qk-video-1m 數(shù)據(jù)集上 auc 的結(jié)果。正如我們所看到的，esmm 在點(diǎn)擊和點(diǎn)贊的預(yù)測(cè)方面都比 mmoe 表現(xiàn)得更好。 4、transfer learning for recommendation 遷移學(xué)習(xí)（tf）——首先通過(guò)預(yù)訓(xùn)練，然后進(jìn)行微調(diào)，這已經(jīng)成為 nlp 和 cv 中常用的方法。該任務(wù)中，首先在源域預(yù)先訓(xùn)練 sbr 模型（即 nextitnet 和 sasrec），然后在目標(biāo)域中使用相同的模型（其他參數(shù)隨機(jī)初始化），將在源域?qū)W習(xí)到的隱藏層參數(shù)遷移到目標(biāo)領(lǐng)域中（即 cnn 和 self-attention 的參數(shù)）。 數(shù)據(jù)預(yù)處理：使用在 sbr 任務(wù)中的數(shù)據(jù)集作為源數(shù)據(jù)集，并使用 qb-video 點(diǎn)擊反饋?zhàn)鳛槟繕?biāo)數(shù)據(jù)集。 baseline 模型：在該任務(wù)中，研究者使用如下模型：nextitnet、sasrec。 實(shí)驗(yàn)結(jié)果：表 5 顯示了有和沒(méi)有預(yù)訓(xùn)練的比較結(jié)果。觀(guān)察可得，nextitnet 和 sasrec 通過(guò)預(yù)訓(xùn)練能產(chǎn)生更好的 top-n 結(jié)果。這表明，從大型訓(xùn)練數(shù)據(jù)集學(xué)習(xí)到的隱藏層參數(shù)，可以作為在目標(biāo)域訓(xùn)練數(shù)據(jù)不足時(shí)模型參數(shù)的初始化。 5、user profile prediction 用戶(hù)個(gè)人信息是個(gè)性化推薦系統(tǒng)的重要特征，特別是對(duì)冷用戶(hù)或者新用戶(hù)的推薦。最近，相關(guān)文獻(xiàn)證明了通過(guò)對(duì)用戶(hù)的點(diǎn)擊行為進(jìn)行建模，可以很準(zhǔn)確地預(yù)測(cè)用戶(hù)的個(gè)人信息。 數(shù)據(jù)預(yù)處理：研究者在 qk-video-1m 上完成實(shí)驗(yàn)。先移除沒(méi)有個(gè)人信息特征的用戶(hù)，然后按照 8:1:1 的比例劃分成訓(xùn)練集、驗(yàn)證集和測(cè)試集。 baseline 模型：在該任務(wù)中，研究者使用如下模型：dnn、peterrec 和 bert4rec。 實(shí)驗(yàn)結(jié)果：表 6 顯示了 5 個(gè) baseline 模型的 acc 結(jié)果。首先，peterrec 和 bert4rec 的表現(xiàn)優(yōu)于 dnn，表明建模用戶(hù)序列行為時(shí) cnn 和 self-attention 網(wǎng)絡(luò)更強(qiáng)大。第二，peterrec 和 bert4rec 的有預(yù)訓(xùn)練比從零開(kāi)始訓(xùn)練效果更好。 6、cold-start recommendation 冷啟動(dòng)是推薦任務(wù)中一個(gè)懸而未決的挑戰(zhàn)。tenrec 的一個(gè)主要優(yōu)點(diǎn)是有用戶(hù)重疊和 items 重疊的信息，因此可用于解決冷啟動(dòng)的問(wèn)題。 數(shù)據(jù)預(yù)處理：該任務(wù)中 qk-video 作為源數(shù)據(jù)集，qk-article 作為目標(biāo)數(shù)據(jù)集。為了更加貼合實(shí)際場(chǎng)景，研究者設(shè)置了幾個(gè)不同的冷用戶(hù)場(chǎng)景，例如全冷用戶(hù)和冷熱用戶(hù)混合場(chǎng)景。同樣的，這里設(shè)置 8:1:1 的數(shù)據(jù)劃分策略。 baseline 模型：在該任務(wù)中，研究者使用如下模型：peterrec 和 bert4rec。 實(shí)驗(yàn)結(jié)果：表 7 顯示了 cold-start recommendation 的結(jié)果。首先，我們發(fā)現(xiàn) peterrec 和 bert4rec 通過(guò)預(yù)訓(xùn)練都有明顯的效果提升。 7、lifelong user representation learning 當(dāng)把一個(gè)模型從一個(gè)領(lǐng)域遷移到另一個(gè)領(lǐng)域時(shí)，在原始任務(wù)訓(xùn)練的參數(shù)往往會(huì)被修改來(lái)適應(yīng)新的任務(wù)。因此，模型將不再適用于原始任務(wù)，這就是災(zāi)難性遺忘。conure 提出了一個(gè) "一個(gè)模型適用所有任務(wù)" 的學(xué)習(xí)框架，其目的是建立一個(gè)適用所有場(chǎng)景的用戶(hù)表征（user representation：ur）模型。在本節(jié)中，研究者通過(guò)在四個(gè)場(chǎng)景中遷移用戶(hù)的偏好來(lái)研究終身學(xué)習(xí)（lifelong learning ll），即從 qk-video 到 qk-article 到 qb-video 到 qb-article。 數(shù)據(jù)預(yù)處理：研究者從 qk-video-1m 隨機(jī)抽取百分之五十的用戶(hù)用于 ll 的任務(wù) 1。然后使用 qk-article、qb-video 和 qb-article 與作為其他任務(wù)的數(shù)據(jù)集。其中，qk-article 保留最多三個(gè)交互，由于 qb-video 和 qb-article 的用戶(hù)量和點(diǎn)擊行為較少，因此保留這兩個(gè)數(shù)據(jù)集的用戶(hù)的所有交互。 baseline 模型：在該任務(wù)中，研究者將 conure 的方法應(yīng)用在 nextitnet 和 sasrec 上。 實(shí)驗(yàn)結(jié)果：表 8 顯示了用持續(xù)學(xué)習(xí)的用戶(hù)表征進(jìn)行推薦的結(jié)果。可以清楚地看到，因?yàn)樵谌蝿?wù) 1 的預(yù)訓(xùn)練，conure 在任務(wù) 2、3 和 4 上提供了性能改進(jìn)。 8、model compression 模型壓縮可以將大型神經(jīng)模型部署到容量有限的設(shè)備中，如 gpu 和 tpu（張量處理單元）。對(duì)于推薦系統(tǒng)模型來(lái)說(shuō)，嵌入層的參數(shù)數(shù)量很容易達(dá)到數(shù)億到數(shù)十億的級(jí)別。 數(shù)據(jù)預(yù)處理：研究者對(duì) session-based recommendation 任務(wù)中的模型進(jìn)行參數(shù)壓縮，并使用與 session-based recommendation 任務(wù)相同的數(shù)據(jù)集。 baseline 模型：該任務(wù)中將 cprec 框架應(yīng)用在 nextitnet 和 sasrec 上。 實(shí)驗(yàn)結(jié)果：表 9 顯示 cprec 將 nextitnet 和 sasrec 壓縮到其原始大小的三分之二。 9、model training speedup 這項(xiàng)任務(wù)的目的是加速層數(shù)非常多的模型的訓(xùn)練過(guò)程。與淺層的 ctr 模型不同，sbr 模型層數(shù)可以更深。為了加速訓(xùn)練過(guò)程，他們提出了 stackrec，它首先學(xué)習(xí)一個(gè)淺層模型，然后將這些淺層復(fù)制為深層模型。同樣地，研究者通過(guò)使用 nextitnet 和 sasrec 作為骨架來(lái)評(píng)估 stackrec 框架。 數(shù)據(jù)預(yù)處理：數(shù)據(jù)集使用和預(yù)處理方式與 session-based recommendation 任務(wù)相同。 baseline 模型：該任務(wù)中將 stackrec 框架應(yīng)用在 nextitnet 和 sasrec 上。 實(shí)驗(yàn)結(jié)果：表 10 顯示了訓(xùn)練加速的結(jié)果?？梢缘贸鰩讉€(gè)觀(guān)察結(jié)果：(1) stackrec 明顯減少了 nextitnet 和 sasrec 的訓(xùn)練時(shí)間；(2) 訓(xùn)練加速并沒(méi)有導(dǎo)致推薦精度的下降。 10、model inference speedup 隨著模型層數(shù)地增加，會(huì)出現(xiàn)一個(gè)問(wèn)題：推理成本也大大增加。導(dǎo)致在線(xiàn)推理的高延遲。然而實(shí)際場(chǎng)景中，推薦系統(tǒng)中的用戶(hù)可以分為困難用戶(hù)和容易用戶(hù)，向容易用戶(hù)推薦物品不需要通過(guò)整個(gè)網(wǎng)絡(luò)。因此，可應(yīng)用 skiprec 框架。在模型推理階段，它可以自適應(yīng)地決定哪個(gè)用戶(hù)需要哪個(gè)層。 數(shù)據(jù)預(yù)處理：數(shù)據(jù)集使用 qb-video，預(yù)處理方式與 session-based recommendation 任務(wù)相同。 baseline 模型：該任務(wù)中將 skiprec 框架應(yīng)用在 nextitnet 和 sasrec 上。 實(shí)驗(yàn)結(jié)果：表 11 顯示了 skiprec 對(duì) qb-video 的影響。我們看到 skiprec 中的跳過(guò)策略可以大大加快 sbr 模型的推理時(shí)間，例如 nextitnet 約加速 23%，sasrec 約 32%。且 32 層的 skiprec-nextitnet 依然要比 16 層的 nextitnet 的推理速度要快。 11、top-n recommendation top-n 推薦是推薦系統(tǒng)較為經(jīng)典的任務(wù)。研究者在 qb-video 數(shù)據(jù)集上驗(yàn)證 top-n recommendation。 數(shù)據(jù)預(yù)處理：過(guò)濾掉序列長(zhǎng)度小于 10 的用戶(hù)，并且按照 8:1:1 的分割比例劃分訓(xùn)練集、驗(yàn)證集和測(cè)試集。另外，采用隨機(jī)采樣和頻率采樣作為負(fù)采樣方法。 baseline 模型：在該任務(wù)中使用 mf，ncf，ngcf 和 light gcn 模型。 實(shí)驗(yàn)結(jié)果：實(shí)驗(yàn)結(jié)果表明，一個(gè)更好的負(fù)采樣器有助于提高準(zhǔn)確率，例如頻率采樣。 結(jié)論 本文向讀者介紹了 tenrec，目的是推動(dòng)推薦系統(tǒng)社區(qū)的發(fā)展。它是目前最大和最通用的推薦數(shù)據(jù)集之一，涵蓋多個(gè)具有各種類(lèi)型用戶(hù)反饋的真實(shí)場(chǎng)景，用戶(hù)反饋行為包括點(diǎn)擊，點(diǎn)贊，分享，關(guān)注和真實(shí)負(fù)反饋等。并且研究者呈現(xiàn)了十一個(gè)熱門(mén)推薦系統(tǒng)任務(wù)的經(jīng)典算法在 tenrec 上的實(shí)驗(yàn)結(jié)果，tenrec 可用于 ctr 預(yù)測(cè)、序列推薦、多任務(wù)學(xué)習(xí)、遷移學(xué)習(xí)、用戶(hù)畫(huà)像預(yù)測(cè)、冷啟動(dòng)推薦、終身學(xué)習(xí)、模型壓縮、模型訓(xùn)練加速、模型推理加速和 top-n 推薦等相關(guān)任務(wù)研究。除了上述任務(wù)以外，tenrec 還可以應(yīng)用于交叉領(lǐng)域推薦，用戶(hù)不同反饋的遷移和不同負(fù)采樣的 items 推薦等任務(wù)。tenrec 經(jīng)過(guò)數(shù)據(jù)脫敏處理，用戶(hù)的個(gè)人信息隱私問(wèn)題得到了很好的保護(hù)。 ? the end 轉(zhuǎn)載請(qǐng)聯(lián)系本公眾號(hào)獲得授權(quán) 投稿或?qū)で髨?bào)道：content@jiqizhixin.com

中國(guó)云計(jì)算產(chǎn)業(yè)發(fā)展前景與投資戰(zhàn)略分析:

作為工信部云計(jì)算標(biāo)準(zhǔn)委員會(huì)的主要成員，百度還參與了中國(guó)云計(jì)算的標(biāo)準(zhǔn)制定，并在科技部863云計(jì)算關(guān)鍵技術(shù)與系統(tǒng)（一期）重大項(xiàng)目中，承擔(dān)了網(wǎng)絡(luò)操作系統(tǒng)研制和互聯(lián)網(wǎng)語(yǔ)言翻譯系統(tǒng)研制兩個(gè)重要課題。 （2）電子政務(wù)市場(chǎng)競(jìng)爭(zhēng)格局由于電子政務(wù)應(yīng)用的特殊性，國(guó)外廠(chǎng)商 ibm、sap、oracle 等廠(chǎng)商涉足較少，國(guó)內(nèi)軟件服務(wù)企業(yè)成為電子政務(wù)的主要業(yè)務(wù)應(yīng)用軟件供應(yīng)商，如山東浪潮齊魯軟件產(chǎn)業(yè)股份有限公司、同方政務(wù)系統(tǒng)科技有限公司等 中國(guó)云計(jì)算重點(diǎn)工程計(jì)劃發(fā)展情況分析北京“祥云工程（一）“祥云工程”具體措施分析“祥云工程”具體措施包括以下三方面：（1）建設(shè)堅(jiān)實(shí)一流的信息技術(shù)基礎(chǔ)設(shè)施服務(wù)平臺(tái)（iaas，“基礎(chǔ)云”）；（2）扶植統(tǒng)一開(kāi)放的云計(jì)算軟件開(kāi)發(fā)與應(yīng)用環(huán)境服務(wù)平臺(tái) 在保證核心地圖產(chǎn)品的基礎(chǔ)上，公司在智能車(chē)載操作系統(tǒng)、混合導(dǎo)航引擎、手機(jī)車(chē)聯(lián)方案等產(chǎn)品線(xiàn)上做了深入布局，結(jié)合云端海量數(shù)據(jù)處理服務(wù)，提供了面向車(chē)載領(lǐng)域最完整的、擁有完全自主知識(shí)產(chǎn)權(quán)的車(chē)聯(lián)網(wǎng)方案。 2.云計(jì)算產(chǎn)業(yè)投資機(jī)會(huì)分析最先受益產(chǎn)業(yè)分析it 基礎(chǔ)設(shè)施包括服務(wù)器、存儲(chǔ)、網(wǎng)絡(luò)等硬件設(shè)備，操作系統(tǒng)、虛擬化、it 系統(tǒng)運(yùn)維監(jiān)測(cè)等方面的軟件，以及系統(tǒng)集成服務(wù)。

和聯(lián)合國(guó)對(duì)話(huà)的機(jī)會(huì)來(lái)了！:

今天，聯(lián)合國(guó)駐華系統(tǒng)宣布和騰訊共同啟動(dòng)“中國(guó)青年對(duì)話(huà)未來(lái)”系列活動(dòng)，將向所有的中國(guó)青年開(kāi)放報(bào)名。 要做什么？ 作為聯(lián)合國(guó)與青年之間重要的對(duì)話(huà)交流活動(dòng)，大家將有機(jī)會(huì)圍繞科技和文化等主題分小組來(lái)探討，通過(guò)騰訊會(huì)議向聯(lián)合國(guó)駐華系統(tǒng)提交針對(duì)消除貧困、保護(hù)地球等社會(huì)問(wèn)題的創(chuàng)新解決方案。 “中國(guó)青年對(duì)話(huà)未來(lái)”系列活動(dòng) “中國(guó)青年對(duì)話(huà)未來(lái)”系列活動(dòng)將面向聯(lián)合國(guó)2030可持續(xù)發(fā)展目標(biāo)，例如消除貧困、保護(hù)地球、文化傳承等等，希望能激發(fā)和支持青年積極思考，理性表達(dá)，成為實(shí)現(xiàn)可持續(xù)發(fā)展目標(biāo)的重要推動(dòng)力 （左滑查看，立即預(yù)約報(bào)名） 詳細(xì)的招募細(xì)則，將在5月底的正式報(bào)名時(shí)公布。 期待各位青年的參與。 也許你的一個(gè)小想法，能影響77億人的未來(lái)。 ? 聯(lián)合國(guó)駐華系統(tǒng) 聯(lián)合國(guó)駐華系統(tǒng)由24個(gè)聯(lián)合國(guó)駐華基金、計(jì)劃署規(guī)劃署和專(zhuān)門(mén)機(jī)構(gòu)組成。 聯(lián)合國(guó)駐華機(jī)構(gòu)與各級(jí)政府和非政府伙伴合作，支持政府落實(shí)國(guó)家發(fā)展目標(biāo)以及各國(guó)商定的共同發(fā)展目標(biāo)，包括可持續(xù)發(fā)展目標(biāo)。

【pony.ai無(wú)人車(chē)隊(duì)廣州正式上路】樓教主攜手廣汽，打造“世界級(jí)智駕公司”:

作者：常佩琦【新智元導(dǎo)讀】今天，小馬智行pony.ai與廣汽集團(tuán)達(dá)成戰(zhàn)略合作伙伴關(guān)系，推出了全國(guó)第一支城區(qū)運(yùn)營(yíng)白天黑夜全場(chǎng)景無(wú)人駕駛車(chē)隊(duì)，正式在廣州南沙上路。 此次正式上路由南沙區(qū)政府出發(fā)，拐入南沙主干道路鳳凰大道，途徑風(fēng)景優(yōu)美的沿河蕉西路，最后到達(dá)燈光節(jié)的舉辦地市民廣場(chǎng)，為廣大市民體驗(yàn)最新的駕駛技術(shù)提供便利。 james peng也充滿(mǎn)信心，“小馬智行世界級(jí)的軟件研發(fā)實(shí)力，結(jié)合廣汽集團(tuán)世界級(jí)的硬件實(shí)力和車(chē)輛技術(shù)，雙方一定能研發(fā)出世界一流的智能駕駛系統(tǒng)。” 政府支持+投資者青睞，打造“世界級(jí)智能駕駛公司”在廣州“iab”計(jì)劃以及南沙區(qū)管委會(huì)對(duì)人工智能產(chǎn)業(yè)的大力支持下，小馬智行表示，要在南沙持續(xù)發(fā)力，成立人工智能研究院和無(wú)人駕駛展示中心；與激光雷達(dá)公司velodyne 小馬智行也得到了資本的青睞，于一月份剛剛完成了a輪融資，融資金額為1.12億美元，是目前國(guó)內(nèi)無(wú)人駕駛初創(chuàng)公司的最高a輪融資紀(jì)錄。?

解讀美國(guó)國(guó)會(huì)關(guān)于opm數(shù)據(jù)泄露事件的調(diào)查報(bào)告:

)；2014年10月，在fbi發(fā)出“美國(guó)大量政府和商業(yè)公司正遭受網(wǎng)絡(luò)間諜攻擊”的警告后，攻擊者從opm網(wǎng)絡(luò)中轉(zhuǎn)移到了存儲(chǔ)有opm竊取資料的美國(guó)內(nèi)政部doi數(shù)據(jù)中心；2014年12月，攻擊者從內(nèi)政部doi 當(dāng)前，很多政府機(jī)構(gòu)嚴(yán)重依賴(lài)第三方承包商進(jìn)行信息系統(tǒng)維護(hù)，存在很多潛在安全風(fēng)險(xiǎn)，比如，承包商公司員工可以以政府雇員身份使用未授權(quán)的認(rèn)證登錄進(jìn)入政府網(wǎng)絡(luò)系統(tǒng)，當(dāng)然這也就不難理解造成opm數(shù)據(jù)泄露事件的原因。 2004年8月簽發(fā)的國(guó)土安全12號(hào)總統(tǒng)令(hspd-12),要求政府機(jī)構(gòu)在簽發(fā)和使用聯(lián)邦個(gè)人身份驗(yàn)證智能卡證書(shū)時(shí)必須遵循特定的技術(shù)標(biāo)準(zhǔn)和業(yè)務(wù)流程,包括驗(yàn)證員工和承包商身份所需的標(biāo)準(zhǔn)化背景調(diào)查。 在2005-2007年間的opm督察辦審計(jì)年報(bào)中都對(duì)信息系統(tǒng)存在的漏洞進(jìn)行過(guò)識(shí)別。在2008年的半年國(guó)會(huì)報(bào)告中，opm督察辦承認(rèn)保護(hù)敏感信息和個(gè)人身份信息的長(zhǎng)期必要性。 年9月，opm督察辦報(bào)告聲稱(chēng)opm的信息安全狀況正在惡化；2010年初，opm督察辦繼續(xù)對(duì)opm信息安全狀況表示“嚴(yán)重?fù)?dān)心“； 2012年，opm把信息安全業(yè)務(wù)集中劃歸給首席信息辦（ocio）承擔(dān)，2012

轉(zhuǎn)載請(qǐng)注明出處,本站網(wǎng)址：http://m.opentechcloud.com/news_2062.html