數(shù)據(jù)挖掘技術(shù)在科技期刊網(wǎng)站中的應(yīng)用論文
隨著互聯(lián)網(wǎng)技術(shù)的快速發(fā)展,學(xué)術(shù)研究環(huán)境較以前更加開放,對傳統(tǒng)的科技出版業(yè)提出了開放性、互動(dòng)性和快速性的要求; 因此,以信息技術(shù)為基礎(chǔ)的現(xiàn)代數(shù)字化出版方式對傳統(tǒng)的科技出版業(yè)產(chǎn)生著深刻的影響。為了順應(yīng)這一趨勢,不少科技期刊都進(jìn)行了數(shù)字化建設(shè),構(gòu)建了符合自身情況、基于互聯(lián)網(wǎng)B /S 結(jié)構(gòu)的稿件處理系統(tǒng)。
以中華醫(yī)學(xué)會(huì)雜志社為代表的部分科技期刊出版集團(tuán)均開發(fā)使用了發(fā)行系統(tǒng)、廣告登記系統(tǒng)、在線銷售系統(tǒng)以及站。這些系統(tǒng)雖然積累了大量的原始用戶業(yè)務(wù)數(shù)據(jù); 但從工作系統(tǒng)來看,由于數(shù)據(jù)本身只屬于編輯部的業(yè)務(wù)數(shù)據(jù),因此一旦相關(guān)業(yè)務(wù)工作進(jìn)行完畢,將很少再對這些數(shù)據(jù)進(jìn)行分析使用。
隨著目前人工智能和機(jī)器學(xué)習(xí)技術(shù)的發(fā)展,研究人員發(fā)現(xiàn)利用最新的數(shù)據(jù)挖掘方法可以對原始用戶業(yè)務(wù)數(shù)據(jù)進(jìn)行有效分析和學(xué)習(xí),找出其中數(shù)據(jù)背后隱含的內(nèi)在規(guī)律。這些有價(jià)值的規(guī)律和寶貴的經(jīng)驗(yàn)將對后續(xù)科技期刊經(jīng)營等工作提供巨大的幫助。
姚偉欣等指出,從STM 期刊出版平臺(tái)的技術(shù)發(fā)展來看,利用數(shù)據(jù)存取、數(shù)據(jù)管理、關(guān)聯(lián)數(shù)據(jù)分析、海量數(shù)據(jù)分析等數(shù)據(jù)挖掘技術(shù)將為科技期刊的出版和發(fā)行提供有力的幫助。通過使用數(shù)據(jù)挖掘( data mining) 等各種數(shù)據(jù)處理技術(shù),人們可以很方便地從大量不完全且含有噪聲或相對模糊的實(shí)際數(shù)據(jù)中,提取隱藏在其中有價(jià)值的信息,從而對后續(xù)科技期刊出版工作起到重要的知識(shí)發(fā)現(xiàn)和決策支持的作用。
1 數(shù)據(jù)挖掘在科技期刊中應(yīng)用的現(xiàn)狀
傳統(tǒng)的數(shù)據(jù)庫對數(shù)據(jù)的處理功能包括增、刪、改、查等。這些技術(shù)均無法發(fā)現(xiàn)數(shù)據(jù)內(nèi)在的關(guān)聯(lián)和規(guī)則,更無法根據(jù)現(xiàn)有數(shù)據(jù)對未來發(fā)展的趨勢進(jìn)行預(yù)測,F(xiàn)有數(shù)據(jù)挖掘的任務(wù)可以分為對數(shù)據(jù)模型進(jìn)行分類或預(yù)測、數(shù)據(jù)總結(jié)、數(shù)據(jù)聚類、關(guān)聯(lián)規(guī)則發(fā)現(xiàn)、序列模式發(fā)現(xiàn)、依賴關(guān)系發(fā)現(xiàn)、異;蚶恻c(diǎn)檢測以及趨勢發(fā)現(xiàn)等,但目前國內(nèi)科技期刊行業(yè)利用數(shù)據(jù)挖掘方法進(jìn)行大規(guī)模數(shù)據(jù)處理仍處在起步階段。張品純等對中國科協(xié)所屬的科技期刊出版單位的現(xiàn)狀進(jìn)行分析后發(fā)現(xiàn),中國科協(xié)科技期刊出版單位多為單刊獨(dú)立經(jīng)營,單位的規(guī)模較小、實(shí)力較弱,多數(shù)出版單位不具備市場主體地位。這樣就導(dǎo)致國內(nèi)大部分科技期刊既沒有能力進(jìn)行數(shù)據(jù)挖掘,也沒有相應(yīng)的數(shù)據(jù)資源準(zhǔn)備。以數(shù)據(jù)挖掘技術(shù)應(yīng)用于期刊網(wǎng)站為例,為了進(jìn)行深入的數(shù)據(jù)分析,期刊經(jīng)營人員需要找到稿件與讀者之間、讀者群體之間隱藏的內(nèi)在聯(lián)系。目前,數(shù)據(jù)挖掘的基本步驟為: 1) 明確數(shù)據(jù)挖掘的對象與目標(biāo);2) 確定數(shù)據(jù)源; 3) 建立數(shù)據(jù)模型; 4) 建立數(shù)據(jù)倉庫; 5)數(shù)據(jù)挖掘分析; 6) 對象與目標(biāo)的數(shù)據(jù)應(yīng)用和反饋。
2 期刊數(shù)據(jù)的資源整合
編輯部從稿件系統(tǒng)、發(fā)行系統(tǒng)、廣告系統(tǒng)、站等各個(gè)系統(tǒng)中將相關(guān)數(shù)據(jù)進(jìn)行清洗、轉(zhuǎn)換和整理,然后加載到數(shù)據(jù)倉庫中。進(jìn)一步,根據(jù)業(yè)務(wù)應(yīng)用的范圍和緊密度,建立相關(guān)數(shù)據(jù)集市。期刊數(shù)據(jù)資源的整合過程從數(shù)據(jù)體系上可分為數(shù)據(jù)采集層、數(shù)據(jù)存儲(chǔ)處理層和數(shù)據(jù)展現(xiàn)層。
要獲得能夠適合企業(yè)內(nèi)部多部門均可使用、挖掘和分析的數(shù)據(jù),可以從業(yè)務(wù)的關(guān)聯(lián)性分析數(shù)據(jù)的準(zhǔn)確性、一致性、有效性和數(shù)據(jù)的內(nèi)在關(guān)聯(lián)性。
3 期刊數(shù)據(jù)的信息挖掘
信息挖掘?yàn)榱藦牟煌N類和形式的業(yè)務(wù)進(jìn)行抽取、變換、集成數(shù)據(jù),最后將其存儲(chǔ)到數(shù)據(jù)倉庫,并要對數(shù)據(jù)的質(zhì)量進(jìn)行維護(hù)和管理。數(shù)據(jù)挖掘可以有效地識(shí)別讀者的閱讀行為,發(fā)現(xiàn)讀者的閱讀模式和趨勢,對網(wǎng)站改進(jìn)服務(wù)質(zhì)量、取得更好的用戶黏稠度和滿意度、提高科技期刊經(jīng)營能力有著重要的意義。作為一個(gè)分析推薦系統(tǒng),我們將所分析的統(tǒng)計(jì)結(jié)果存儲(chǔ)于服務(wù)器中,在用戶或決策者需要查詢時(shí),只需輸入要找尋的用戶信息,系統(tǒng)將從數(shù)據(jù)庫中抽取其個(gè)人信息,并處理返回到上網(wǎng)時(shí)間分布、興趣點(diǎn)所在、適配業(yè)務(wù)及他對于哪些業(yè)務(wù)是有價(jià)值客戶,甚至包括他在什么時(shí)段對哪類信息更感興趣等。只有這些信息才是我們的使用對象所看重和需要的。
網(wǎng)站結(jié)構(gòu)挖掘是挖掘網(wǎng)站中潛在的鏈接結(jié)構(gòu)模式。通過分析一個(gè)網(wǎng)頁的鏈接、鏈接數(shù)量以及鏈接對象,建立網(wǎng)站自身的鏈接結(jié)構(gòu)模式。在此過程中,如果發(fā)現(xiàn)某一頁面被較多鏈接所指向,則說明該頁面信息是有價(jià)值的,值得期刊工作人員做更深層次的挖掘。網(wǎng)站結(jié)構(gòu)挖掘在具體應(yīng)用時(shí)采用的結(jié)構(gòu)和技術(shù)各不相同; 但主要過程均包括預(yù)處理、模式發(fā)現(xiàn)和模式分析3 部分。為了反映讀者興趣取向,就需要對數(shù)據(jù)庫中的數(shù)據(jù)按用戶進(jìn)行抽樣分析,得到興趣點(diǎn)的統(tǒng)計(jì)結(jié)果,而個(gè)人的興趣分析也可基于此思路進(jìn)行。下面以《中華醫(yī)學(xué)雜志》為例做一介紹。
預(yù)處理預(yù)處理是網(wǎng)站結(jié)構(gòu)挖掘最關(guān)鍵的一個(gè)環(huán)節(jié),其處理得到的數(shù)據(jù)質(zhì)量直接關(guān)系到使用數(shù)據(jù)挖掘和模式分析方法進(jìn)行分析的結(jié)果。預(yù)處理步驟包括數(shù)據(jù)清洗、用戶識(shí)別、會(huì)話識(shí)別、路徑補(bǔ)充和事件識(shí)別。以《中華醫(yī)學(xué)雜志》網(wǎng)站www. nmjc. net. cn 的日志分析為例。首先給出一條已有的Log,其內(nèi)容為“2014-03-04 12: 13: 47 W3SVC80003692 172. 22. 4. 3GET /index. asp-80-123. 185. 247. 49Mozilla /5. 0 +( Windows + NT + 6. 1; + WOW64 ) + AppleWebKit /537. 36 + ( KHTML,+ like + Gecko) + Chrome /28. 0.1500. 95 + Safari /537. 36 + SE + 2. X + MetaSr + 1. 0200 0 0”。從Log 的內(nèi)容,工作人員可以得到相關(guān)信息,如用戶IP、用戶訪問頁面事件、用戶訪問的頁面、用戶請求的方法、返回HTTP 狀態(tài)以及用戶瀏覽的上一頁面等內(nèi)容。
由于服務(wù)器同時(shí)部署了多個(gè)編輯部網(wǎng)站,這就要求工作人員必須對得到的訪問www. nmjc. net. cn 日志,去除由爬蟲軟件產(chǎn)生的記錄。這些記錄一般都會(huì)在日志結(jié)尾包含“Spider”的字樣。同時(shí),還需要去除不是由GET 請求產(chǎn)生的日志以及請求資源不是頁面類型的日志。最后,工作人員還需要去除訪問錯(cuò)誤的請求,可以根據(jù)日志中請求的狀態(tài)進(jìn)行判斷。一般認(rèn)為,請求狀態(tài)在( 200, 300) 范圍內(nèi)是訪問正確的日志,其他如403、400 和500 等都是訪問錯(cuò)誤的日志。用戶識(shí)別可以根據(jù)用戶的IP 地址和用戶的系統(tǒng)信息來完成。只有在IP 地址和系統(tǒng)信息都完全一致的情況下,才識(shí)別為一個(gè)用戶。會(huì)話識(shí)別是利用面向時(shí)間的探索法,根據(jù)超時(shí)技術(shù)來識(shí)別一個(gè)用戶的多次會(huì)話。如果用戶在一段時(shí)間內(nèi)沒有任何操作,則認(rèn)為會(huì)話結(jié)束。用戶在規(guī)定時(shí)間后重新訪問,則被認(rèn)為不屬于此次會(huì)話,而是下次會(huì)話的開始。
利用WebLogExplore 分析日志、用戶和網(wǎng)頁信息在獲得了有效的日志數(shù)據(jù)后,工作人員可以利用一些有效數(shù)據(jù)挖掘算法進(jìn)行模式發(fā)現(xiàn)。目前,主要的數(shù)據(jù)挖掘方法有統(tǒng)計(jì)分析、關(guān)聯(lián)規(guī)則、分類、聚類以及序列模式等技術(shù)。本文主要討論利用Apriori 算法來發(fā)現(xiàn)科技期刊日志數(shù)據(jù)中的關(guān)聯(lián)規(guī)則。本質(zhì)上數(shù)據(jù)挖掘不是用來驗(yàn)證某個(gè)假定的模式的正確性,而是在數(shù)據(jù)庫中自己尋找模型,本質(zhì)是一個(gè)歸納的過程。支持度( Support) 的公式定義為: Support ( A≥B) = P( A ∪B) 。支持度可以用于度量事件A 與B 同時(shí)出現(xiàn)的概率。如果事件A 與B 同時(shí)出現(xiàn)的概率較小,說明事件A 與B 的關(guān)系不大; 如果事件A 與B 同時(shí)出現(xiàn)非常頻繁,則說明事件A 與B 總是相關(guān)的。置信度( Confidence) 的公式定義為: Confidence( A≥B) = P( A | B) 。置信度揭示了事件A 出現(xiàn)時(shí),事件B 是否也會(huì)出現(xiàn)或有多大概率出現(xiàn)。如果置信度為100%,則事件A 必然會(huì)導(dǎo)致事件B 出現(xiàn)。置信度太低,說明事件A 的出現(xiàn)與事件B 是否出現(xiàn)關(guān)系不大。
對所有的科技期刊日志數(shù)據(jù)進(jìn)行預(yù)處理后,利用WebLogExplore 軟件可得到日志匯總表。表中存儲(chǔ)了所有用戶訪問網(wǎng)站頁面的詳細(xì)信息,工作人員可將其導(dǎo)入數(shù)據(jù)庫中。以查看到所選擇用戶訪問期刊頁面的詳細(xì)信息。
同樣,在WebLogExplore 軟件中選擇感興趣的頁面,可以查看所有用戶訪問該頁面的統(tǒng)計(jì)信息,如該頁面的訪問用戶數(shù)量等。工作人員可以對用戶訪問排名較高的頁面進(jìn)行進(jìn)一步的模式分析。
步驟1: 將圖2 日志信息匯總表中的數(shù)據(jù)導(dǎo)入數(shù)據(jù)庫中,建立日志總表。
步驟2: 在數(shù)據(jù)庫中建立一個(gè)新表命名為tj。
步驟3: 通過查詢程序得到日志總表中每一個(gè)用戶訪問的頁面,同時(shí)做distinct 處理。
步驟4: 將查詢得到的用戶訪問頁面記錄進(jìn)行判斷。如果用戶訪問過排名前20 位的某個(gè)頁面,則在數(shù)據(jù)庫中寫入true,否則寫入false。依次循環(huán)判斷寫入數(shù)據(jù)庫中。
步驟5: 統(tǒng)計(jì)每個(gè)訪問排名靠前頁面的支持度,設(shè)置一維項(xiàng)目集的最小閥值( 10%) 。
步驟6: 統(tǒng)計(jì)大于一維閥值的頁面,寫入數(shù)組,并對數(shù)組內(nèi)部頁面進(jìn)行兩兩組合,統(tǒng)計(jì)每個(gè)組合2 個(gè)頁面值均為true 時(shí)的二維項(xiàng)目集的支持度。
步驟7: 設(shè)置二維項(xiàng)目集支持度的閥值,依次統(tǒng)計(jì)三維項(xiàng)目集支持度和置信度( A≥B) ,即當(dāng)A 頁面為true 時(shí),統(tǒng)計(jì)B 頁面為true 的數(shù)量,除以A 為true 的數(shù)量。設(shè)置相應(yīng)的.置信度閥值,找到訪問排名靠前頁面之間較強(qiáng)的關(guān)聯(lián)規(guī)則。
4 數(shù)據(jù)挖掘技術(shù)應(yīng)用的意義
1) 對頻繁訪問的用戶,可以使用用戶識(shí)別技術(shù)分析此用戶的歷史訪問記錄,得到他經(jīng)常訪問的頁面。當(dāng)該用戶再次登錄系統(tǒng)時(shí),可以對其進(jìn)行個(gè)性化提示或推薦。這樣,既方便用戶使用,也可將系統(tǒng)做得更加友好。很多OA 期刊網(wǎng)站,不具備歷史瀏覽記錄的功能; 但瀏覽記錄對用戶來講其實(shí)十分重要,隱含了用戶對文章的篩選過程,所以對用戶經(jīng)常訪問的頁面需要進(jìn)行優(yōu)化展示,不能僅僅提供鏈接地址,需要將文章題名、作者、關(guān)鍵詞等信息以列表的方式予以顯示。
2) 由數(shù)據(jù)挖掘技術(shù)而產(chǎn)生的頻繁項(xiàng)目集的分析,可以對網(wǎng)站的結(jié)構(gòu)進(jìn)行改進(jìn)。支持度很高的頁面,說明該頁面的用戶訪問量大。為了方便用戶以及吸引更多的讀者,可以將這些頁面放置在更容易被訪問的位置,科技期刊的網(wǎng)站內(nèi)容一般以年、卷、期的形式展示。用戶如果想查看某一篇影響因子很高的文章,也必須通過年卷期的方式來查看,非常不方便而且頁面友好性不高。通過數(shù)據(jù)挖掘的分析,編輯部可以把經(jīng)常被訪問或者高影響因子的文章放在首頁展示。
3) 對由數(shù)據(jù)挖掘技術(shù)產(chǎn)生的頻繁項(xiàng)目集的分析,可以發(fā)現(xiàn)用戶的關(guān)注熱點(diǎn)。若某些頁面或項(xiàng)目被用戶頻繁訪問,則可以用這些數(shù)據(jù)對用戶進(jìn)行分析。一般來說科技期刊的讀者,每個(gè)人的專業(yè)和研究方向都是不同的,編輯部可以通過數(shù)據(jù)挖掘技術(shù)來判斷讀者的研究方向和感興趣的熱點(diǎn),對每一個(gè)用戶進(jìn)行有針對性的內(nèi)容推送和消息發(fā)送。
4) 網(wǎng)站管理者可以根據(jù)在不同時(shí)間內(nèi)頻繁項(xiàng)目集的變化情況對科技期刊網(wǎng)站進(jìn)行有針對性的調(diào)整,比如加入更多關(guān)于該熱點(diǎn)的主題資源。目前大多數(shù)科技期刊網(wǎng)站首頁的內(nèi)容,均為編輯部工作人員后臺(tái)添加、置頂、高亮來吸引用戶的; 通過數(shù)據(jù)挖掘技術(shù),完全可以擯棄這種展示方式。編輯部網(wǎng)站的用戶訪問哪些頁面頻繁,系統(tǒng)便會(huì)自動(dòng)將這些頁面的文章推向首頁,不需要編輯部的人工干預(yù),整個(gè)網(wǎng)站實(shí)現(xiàn)自動(dòng)化運(yùn)行。
5 后記
本文重點(diǎn)討論了數(shù)據(jù)挖掘技術(shù)與科技期刊網(wǎng)站頁面之間的關(guān)系。其實(shí)我們還可以從很多方面進(jìn)行數(shù)據(jù)挖掘,比如可以對網(wǎng)站的用戶和內(nèi)容進(jìn)行數(shù)據(jù)挖掘,通過分析可以為后期的期刊經(jīng)營做好鋪墊。
有一點(diǎn)很重要,沒有一種數(shù)據(jù)挖掘的分析方法可以應(yīng)付所有的需求。對于某一種問題,數(shù)據(jù)本身的特性會(huì)影響你的選擇,需要用到許多不同的數(shù)據(jù)挖掘方法以及技術(shù)從數(shù)據(jù)中找到最佳的模型。
在目前深化文化體制改革,推動(dòng)社會(huì)主義文化大發(fā)展、大繁榮的政治形勢下,利用數(shù)據(jù)挖掘技術(shù)從中進(jìn)行提取、分析和應(yīng)用,能有效地幫助企業(yè)了解客戶、改進(jìn)系統(tǒng)、制訂合理的市場策略、提高企業(yè)的銷售水平和利潤。通過利用數(shù)據(jù)挖掘技術(shù)準(zhǔn)確定位優(yōu)質(zhì)客戶,向客戶提供更精確、更有價(jià)值的個(gè)性化服務(wù)。這將成為未來科技期刊經(jīng)營十分重要的突破點(diǎn)和增長點(diǎn)。
【數(shù)據(jù)挖掘技術(shù)在科技期刊網(wǎng)站中的應(yīng)用論文】相關(guān)文章:
科研管理中數(shù)據(jù)挖掘技術(shù)的應(yīng)用論文10-21
數(shù)據(jù)挖掘在CRM中的應(yīng)用論文04-10
網(wǎng)絡(luò)營銷中數(shù)據(jù)挖掘技術(shù)的應(yīng)用論文07-07
高校管理中數(shù)據(jù)挖掘技術(shù)的應(yīng)用途徑論文10-28
數(shù)據(jù)挖掘在培訓(xùn)管理中的應(yīng)用論文07-02
數(shù)據(jù)挖掘技術(shù)在網(wǎng)絡(luò)輿情危機(jī)管理中的應(yīng)用論文10-20
高校管理中數(shù)據(jù)挖掘技術(shù)的研究論文07-03
大數(shù)據(jù)挖掘在智游應(yīng)用中的探究論文04-13
淺談數(shù)據(jù)挖掘技術(shù)及其在高等學(xué)校教學(xué)中的應(yīng)用教育論文07-05