數據挖掘技術與用戶知識獲取

時間:2022-03-24 11:27:00

導語:數據挖掘技術與用戶知識獲取一文來源于網友上傳,不代表本站觀點,若需要原創文章可咨詢客服老師,歡迎參考。

數據挖掘技術與用戶知識獲取

【摘要題】實踐研究

【正文】

1數據挖掘技術概述

隨著信息技術的迅速發展,數據庫的規模不斷擴大,從而產生了大量的數據。為給決策者提供一個統一的全局視角,在許多領域建立了數據倉庫。但大量的數據往往使人們無法辨別隱藏在其中的能對決策提供支持的信息,而傳統的查詢、報表工具無法滿足挖掘這些信息的需求。因此,需要一種新的數據分析技術處理大量數據,并從中抽取有價值的潛在知識,數據挖掘(DataMining)技術由此應運而生。數據挖掘技術也正是伴隨著數據倉庫技術的發展而逐步完善起來的。

數據挖掘是指從數據集合中自動抽取隱藏在數據中的那些有用信息的非平凡過程,這些信息的表現形式為:規則、概念、規律及模式等。它可幫助決策者分析歷史數據及當前數據,并從中發現隱藏的關系和模式,進而預測未來可能發生的行為。數據挖掘的過程也叫知識發現的過程,它是一門涉及面很廣的交叉性新興學科,涉及到數據庫、人工智能、數理統計、可視化、并行計算等領域。數據挖掘是一種新的信息處理技術,其主要特點是對數據庫中的大量數據進行抽取、轉換、分析和其他模型化處理,并從中提取輔助決策的關鍵性數據。數據挖掘是KDD(KnowledgeDiscoveryinDatabase)中的重要技術,它并不是用規范的數據庫查詢語言(如SQL)進行查詢,而是對查詢的內容進行模式的總結和內在規律的搜索。傳統的查詢和報表處理只是得到事件發生的結果,并沒有深入研究發生的原因,而數據挖掘則主要了解發生的原因,并且以一定的置信度對未來進行預測,用來為決策行為提供有利的支持。

2數據挖掘的常用技術

機器學習、數理統計等方法是數據挖掘進行知識學習的重要方法。數據挖掘算法的好壞將直接影響到所發現知識的好壞,目前對數據挖掘的研究也主要集中在算法及其應用方面。統計方法應用于數據挖掘主要是進行數據評估;機器學習是人工智能的另一個分支,也稱為歸納推理,它通過學習訓練數據集,發現模型的參數,并找出數據中隱含的規則。其中關聯分析法、人工神經元網絡、決策樹和遺傳算法在數據挖掘中的應用很廣泛。

1)關聯分析法。從關系數據庫中提取關聯規則是幾種主要的數據挖掘方法之一。挖掘關聯是通過搜索系統中的所有事物,并從中找到出現條件概率較高的模式。關聯實際上就是數據對象之間相關性的確定,用關聯找出所有能將一組數據項和另一組數據項相聯系的規則,這種規則的建立并不是確定的關系,而是一個具有一定置信度的可能值,即事件發生的概率。關聯分析法直觀、易理解,但對于關聯度不高或相關性復雜的情況不太有效。

2)人工神經元網絡(ANN),是數據挖掘中應用最廣泛的技術。神經網絡的數據挖掘方法是通過模仿人的神經系統來反復訓練學習數據集,從待分析的數據集中發現用于預測和分類的模式。神經元網絡對于復雜情況仍能得到精確的預測結果,而且可以處理類別和連續變量,但神經元網絡不適合處理高維變量,其最大的缺點是不透明性,因為其無法解釋結果是如何產生的,及其在推理過程中所用的規則。神經元網絡適合于結果比可理解性更重要的分類和預測的復雜情況,可用于聚類、分類和序列模式。

3)決策樹(DT)是一種樹型結構的預測模型,其中樹的非終端節點表示屬性,葉節點表示所屬的不同類別。根據訓練數據集中數據的不同取值建立樹的分支,形成決策樹。與神經元網絡最大的不同在于其決策制定的過程是可見的,可以解釋結果是如何產生的。決策樹一般產生直觀、易理解的規則,而且分類不需太多計算時間,適于對記錄分類或結果的預測,尤其適用于當目標是生成易理解、可翻譯成SQL或自然語言的規則時。決策樹也可用于聚類、分類及序列模式,其應用的典型例子是CART(回歸決策樹)方法。

4)遺傳算法(GA)是一種基于生物進化理論的優化技術。其基本觀點是“適者生存”原理,用于數據挖掘中則常把任務表示為一種搜索問題,利用遺傳算法強大的搜索能力找到最優解。實際上遺傳算法是模仿生物進化的過程,反復進行選擇、交叉和突變等遺傳操作,直至滿足最優解。遺傳算法可處理許多數據類型,同時可并行處理各種數據,常用于優化神經元網絡,解決其他技術難以解決的問題,但需要的參數太多,對許多問題編碼困難,一般計算量大。

3數據挖掘技術在用戶知識獲取中的應用

網絡的發展為用戶提供了多種新的信息服務,因特網以其豐富的內容、強大的功能以及簡單的操作,在各種信息服務方式中脫穎而出,成為未來信息服務的主要方向。但當前因特網信息服務中更多的是單向、被動的服務模式,而網上用戶信息需求的挖掘,可以改進因特網與用戶的交互,使因特網與用戶真正融為一體,不再是操作與被操作的關系。數據挖掘技術的應用,使因特網能根據用戶的需求采取更主動、更有針對性的服務。并且可以建立一種個性化的信息服務系統,針對不同用戶的信息需求,提供不同的信息服務。而個性化服務系統的建立,則依賴于用戶信息需求的挖掘。

3.1用戶知識概述

用戶知識包括用戶的身份、目標、興趣、系統經驗和用戶背景知識等。它可通過用戶模型來描述,用戶模型可以模型化用戶的特點、背景知識和經驗,使用特定知識獲取方法識別和描述用戶的各種特征。用戶模型可提高人機交互能力,解釋和評價系統的執行,使系統發揮主動作用;改進整個系統的執行性能,如幫助識別用戶的信息需求;增強系統的靈活性,適用于各類用戶。

3.2用戶知識獲取方法

用戶知識獲取有3種基本方式:通過觀察獲取信息,即觀察用戶與系統交互中的行為、使用的系統命令和參數;從觀察到的事實進行推理,獲得未知的信息;從已知實例集合,執行基于實例的推理,激發原型庫中的模型,推導出當前用戶的初始模型。隨著數據挖掘技術的應用,有以下幾種常用的知識獲取方法。

3.2.1用戶知識的關聯分析對用戶數據的挖掘有兩方面的內容:一是如何提取用戶的信息需求;二是獲得用戶需求的數據后,如何利用數據挖掘技術對這些數據進行處理,以獲取潛在知識及為用戶所用。關聯分析法的一個主要應用是在零售業,比如在超級市場的銷售管理中,條碼技術的發展使得數據的收集變得更容易、更快捷,從而存儲了大量交易資料。關聯規則就是辨別在這些交易項目之間是否存在某種關聯關系。例如:關聯規則可以表示“購買了項目A和B的顧客中有95%的人又購買了C和D”。這種關聯規則提供的信息可以用作商品銷售目錄設計、商場布置、生產安排,進行有針對性的市場營銷。在搜索頁面的設計中也可運用用戶的點擊率、內容及相關頁面,了解用戶的偏好和習慣,并用關聯分析的方法來獲取潛在用戶知識,這有助于決定搜索頁面的設計和相關知識的鏈接。

3.2.2組合分析法由于用戶的興趣是時常變化的,用戶行為信息所反映的用戶信息需求往往是多條線索混合在一起,這給識別信息需求帶來了很大的困難。這種問題的解決,一般需要預先指定一個主題,但這就增加了用戶的負擔,而且僅用關聯法也很難全面獲得用戶相關信息。人工神經元網絡和決策樹的方法結合起來能較好地從相關性不強的多變量中選出重要的變量,并從中分析出用戶的需求偏好,服務器可根據用戶的需求偏好進行主動信息推薦。

3.2.3分類填表法用戶知識可以由用戶主動填寫表格來獲取,用戶設定信息需求可以通過設定關鍵詞或主題詞來完成。分類填表法可將用戶的信息需求較客觀地表達出來。表格的設計可以采用預先分類的方法,將用戶的記錄分配到已定義好的類中去,從而構造出用戶信息的分類模型,利用此模型可將用戶數據庫中的數據映射到相應的子集中,進行數據預測。這是一種簡單實用的方法,但不足之處是難以制作一個完整的分類調查表,將用戶的真實意圖全部表達出來。

3.2.4智能方法現在常用的瀏覽器中,有一個歷史菜單欄,當用戶在地址欄中輸入網址進行瀏覽時,系統會自動將這個網址記錄下來,作為上網的歷史記錄存放在系統中,方便用戶以后使用。這些瀏覽歷史反映了一定時期內用戶在網上的信息利用情況,是用于分析用戶的信息偏好,確定用戶信息需求的一個很好的依據。

利用智能(IntelligentAgent)監視用戶信息查詢過程,是自動獲取用戶信息需求的一種方法。其方法是在用戶的終端上運行一個監視的信息(InformationAgent),信息將用戶和瀏覽時的相關信息不斷傳送給遠端的服務器,服務器將信息進行數據取樣和數據調整,利用強大的搜索能力和遺傳算法反復學習找到最優解,使得用戶信息的提取更加量化,問題更加明確。利用用戶在瀏覽器上存儲的書簽(Bookmark)獲得用戶信息需求的方法屬于“監視用戶”類。在Bookmark中存儲的信息往往是用戶最關心的,需要記錄下來以便以后再讀。用戶還可以對Bookmark進行多級目錄管理,不同的目錄反映其不同的興趣。相對瀏覽歷史記錄而言,Bookmark對考查用戶的信息需求更有價值。如果說瀏覽歷史只是一種對上網情況的“自然”記錄的話,那么Bookmark卻是用戶對歷史記錄進行比較、篩選后的結果,是用戶眼中的網址精華,因而能更有效、更準確地反映用戶的需求,而且它的組織性要比瀏覽歷史好得多,更便于進行有效的分析。Bookmark系統采用HTTP協議實現信息的自動搜集。系統通過監測用戶信息記錄獲得信息需求,信息分類器對搜索來的信息進行自動分類,裝入信息數據庫;信息過濾器根據用戶提出的信息推薦請求,對數據庫中的信息進行過濾并將合適的信息提交給用戶;信息評價器根據用戶對推薦信息作出的評價對系統進行優化。運行結果表明Bookmark系統具有良好的信息記錄、推薦和共享功能。

4結束語

數據挖掘技術及其應用是目前國際上的一個研究熱點,并在許多行業中得到了很好的應用,尤其是在市場營銷中獲得了成功,初步體現了其優越性和發展潛力。在信息管理領域,綜合應用數據挖掘技術和人工智能技術,獲取用戶知識、文獻知識等各類知識,將是實現知識檢索和知識管理發展的必經之路。

【參考文獻】

1張玉峰.智能情報系統.武漢:武漢大學出版社,1991

2馮萍,宣慧玉.數據挖掘技術及其在營銷中的應用.北京輕工業學院學報,2001(1)

3郝先臣等.數據挖掘工具和應用中的問題.東北大學學報(自然科學版),2001(2)

4劉海虹,劉伯螢.數據挖掘技術.丹東紡專學報,2001(1)

5盧增祥等.Bookmark——智能化網絡信息服務系統.高技術通訊,1999(6)