工程機(jī)械行業(yè)普遍使用大型ERP軟件系統(tǒng),如SAP、ORACLE等。這些軟件系統(tǒng)功能強(qiáng)大,各模塊集成度很高,極大地提升了對(duì)公司各項(xiàng)業(yè)務(wù)的支持能力。但是,隨著IT技術(shù)的發(fā)展,伴隨著功能擴(kuò)展和集成度提高同時(shí),也給業(yè)務(wù)系統(tǒng)帶來(lái)了巨大的數(shù)據(jù)增長(zhǎng)量。
以廣西柳工機(jī)械股份有限公司(以下簡(jiǎn)稱柳工)的ERP系統(tǒng)實(shí)施進(jìn)程為例,1996年部署的TCM—EMS系統(tǒng)(MRPⅡ系統(tǒng))最大數(shù)據(jù)量只有5GB,2000年部署的IFS系統(tǒng)(ERP系統(tǒng))最大數(shù)據(jù)量接近100GB,2006年上線的SAP系統(tǒng)(ECC6版本)僅初始安裝數(shù)據(jù)量就接近300GB,系統(tǒng)上線后ERP數(shù)據(jù)量增長(zhǎng)迅速,一個(gè)月的數(shù)據(jù)增長(zhǎng)超過原系統(tǒng)幾年的數(shù)據(jù)增長(zhǎng),系統(tǒng)數(shù)據(jù)的增速是越來(lái)越快。隨著業(yè)務(wù)的增長(zhǎng)以及對(duì)數(shù)據(jù)存儲(chǔ)、保存和可用性存在法規(guī)上的要求,面對(duì)著不斷增長(zhǎng)的數(shù)據(jù),這些數(shù)據(jù)的備份成為各公司和組織的當(dāng)務(wù)之急。并且,數(shù)據(jù)量的劇增造成系統(tǒng)的負(fù)荷加重,性能需求加大,必須采購(gòu)更高級(jí)的服務(wù)器(更多的CPU和內(nèi)存)來(lái)滿足性能需求,同時(shí)需要不斷對(duì)存儲(chǔ)進(jìn)行擴(kuò)容以滿足容量需求。而生產(chǎn)系統(tǒng)數(shù)據(jù)量增加,配套的質(zhì)量保證系統(tǒng)(用于測(cè)試)數(shù)據(jù)量需要增加,相應(yīng)的主存儲(chǔ)需要擴(kuò)容,備份存儲(chǔ)也需要擴(kuò)容,同時(shí)備份設(shè)備也需要擴(kuò)容,環(huán)環(huán)相扣,給系統(tǒng)的IT基礎(chǔ)架構(gòu)帶來(lái)了巨大的壓力。
然而,數(shù)據(jù)也是有生命周期的。隨著時(shí)間的推移,數(shù)據(jù)的重要性和關(guān)鍵性都會(huì)改變。大部分產(chǎn)生的數(shù)據(jù)都只在短時(shí)間內(nèi)有重要性,時(shí)間一長(zhǎng)就不那么重要了,這一點(diǎn)決定了數(shù)據(jù)存儲(chǔ)解決方案的使用。由于法規(guī)性及審計(jì)要求,特定的業(yè)務(wù)數(shù)據(jù)有保留期,并且在審計(jì)時(shí)能夠讀取或在必要的時(shí)候可以再次使用,這使得SAP系統(tǒng)的數(shù)據(jù)將會(huì)有相當(dāng)長(zhǎng)的保留期限,對(duì)某些財(cái)務(wù)數(shù)據(jù)來(lái)說(shuō),保存期可能達(dá)到15年以上。面對(duì)這種壓力,僅僅依靠簡(jiǎn)單硬件的升級(jí)來(lái)提升性能和擴(kuò)容容量,既不經(jīng)濟(jì)也難以持續(xù)滿足未來(lái)需求,數(shù)據(jù)歸檔的需求應(yīng)運(yùn)而生。
1.數(shù)據(jù)歸檔原理分析
根據(jù)不同的數(shù)據(jù)類型和應(yīng)用,數(shù)據(jù)歸檔可以分為3類:數(shù)據(jù)庫(kù)歸檔、記錄歸檔和內(nèi)容歸檔。出于性能考慮,大型ERP系統(tǒng)的數(shù)據(jù)主要存放于后臺(tái)數(shù)據(jù)庫(kù)中,以便隨時(shí)能訪問所需數(shù)據(jù)。當(dāng)數(shù)據(jù)庫(kù)數(shù)據(jù)量較小時(shí),其大小對(duì)性能影響不明顯;但當(dāng)數(shù)據(jù)庫(kù)數(shù)據(jù)量增加很多,數(shù)據(jù)表的大小達(dá)到幾百萬(wàn)甚至上千萬(wàn)條數(shù)據(jù),數(shù)據(jù)庫(kù)容量也達(dá)到幾百GB或幾千GB時(shí),量變已經(jīng)引起質(zhì)變,需要多方優(yōu)化并且控制整個(gè)數(shù)據(jù)庫(kù)的數(shù)據(jù)規(guī)模,才能保證數(shù)據(jù)庫(kù)的性能水平不降低。因此,對(duì)于制造業(yè)的ERP系統(tǒng)來(lái)說(shuō),其數(shù)據(jù)歸檔的主要內(nèi)容是對(duì)ERP數(shù)據(jù)庫(kù)的歸檔。
簡(jiǎn)單的說(shuō),數(shù)據(jù)歸檔就是將不再需要頻繁訪問并且以后也不會(huì)再發(fā)生變化的數(shù)據(jù),從數(shù)據(jù)庫(kù)中轉(zhuǎn)移到歸檔文件中去,然后將這部分?jǐn)?shù)據(jù)從在線數(shù)據(jù)中刪除,以降低在線數(shù)據(jù)的數(shù)據(jù)庫(kù)容量,提升數(shù)據(jù)庫(kù)的性能,進(jìn)而整體提升業(yè)務(wù)系統(tǒng)的性能。數(shù)據(jù)庫(kù)是結(jié)構(gòu)化的數(shù)據(jù)集合,“數(shù)據(jù)歸檔的核心是標(biāo)識(shí)數(shù)據(jù)庫(kù)中非活動(dòng)數(shù)據(jù),然后將活動(dòng)數(shù)據(jù)從中央數(shù)據(jù)庫(kù)中分離出來(lái)存儲(chǔ),至更廉價(jià)的存儲(chǔ)設(shè)備。通常將應(yīng)用系統(tǒng)的歸檔文件存儲(chǔ)在外部歸檔介質(zhì)或系統(tǒng)上,并且被歸檔出去的數(shù)據(jù)還可以通過多種方式進(jìn)行訪問,部分?jǐn)?shù)據(jù)可以重載到系統(tǒng)中�,F(xiàn)以SAP系統(tǒng)的數(shù)據(jù)歸檔來(lái)進(jìn)行說(shuō)明,數(shù)據(jù)歸檔原理如圖1所示。
圖1 SAP數(shù)據(jù)歸檔原理圖
由圖1可知,要進(jìn)行數(shù)據(jù)歸檔,首先需要標(biāo)識(shí)出滿足數(shù)據(jù)歸檔條件的數(shù)據(jù):但是如何讓系統(tǒng)知道哪些數(shù)據(jù)能夠被歸檔呢?對(duì)SAP系統(tǒng)來(lái)說(shuō),只有滿足以下兩方面條件的數(shù)據(jù)才允許被歸檔:第一,業(yè)務(wù)已經(jīng)完結(jié)且憑證記錄完整;第二,數(shù)據(jù)的駐留期小于歸檔時(shí)間與數(shù)據(jù)創(chuàng)建時(shí)間之差。這需要了解SAP數(shù)據(jù)歸檔中的一個(gè)重要概念——駐留期。駐留期是指數(shù)據(jù)從創(chuàng)建到允許進(jìn)行歸檔的時(shí)間。通過對(duì)駐留期的定義,可以在成千上萬(wàn)的數(shù)據(jù)中將可以歸檔的部分區(qū)分出來(lái),使數(shù)據(jù)歸檔具有可行性。駐留期與保留期的區(qū)別如圖2所示。
圖2 駐留期示意圖
2.現(xiàn)行國(guó)內(nèi)工程機(jī)械行業(yè)SAP系統(tǒng)使用分析
大部分企業(yè)在SAP上線時(shí),都會(huì)上FI/CO/MM/SD模塊,PP模塊通常只在制造業(yè)才會(huì)使用,由于工程機(jī)械企業(yè)的離散制造的特點(diǎn),決定了其PP模塊使用會(huì)更為復(fù)雜,因此工程機(jī)械企業(yè)在使用SAP數(shù)據(jù)歸檔解決方案時(shí),需要依據(jù)其自身的特點(diǎn)進(jìn)行調(diào)整。國(guó)內(nèi)一些主要工程機(jī)械企業(yè)均使用了SAP ERP系統(tǒng),包括柳工、徐工集團(tuán)、三一重工、中聯(lián)中科、廈工等在內(nèi)。這些企業(yè)的業(yè)務(wù)模塊和基礎(chǔ)架構(gòu)都有如下特點(diǎn):
a.這些企業(yè)都使用了SAP的五大基本模塊:FI(財(cái)務(wù)會(huì)計(jì))/CO(管理會(huì)計(jì))/MM(物料管理)/PP(生產(chǎn)計(jì)劃)/SD(銷售和分銷)。部分企業(yè)還使用了QM(質(zhì)量管理)/PM(工廠管理)/HR(人力資源)模塊。但由于離散制造業(yè)的特點(diǎn),F(xiàn)I/CO/MM/PP4個(gè)模塊通常是數(shù)據(jù)的主要來(lái)源,是影響系統(tǒng)數(shù)據(jù)量的主要方面,其他模塊占數(shù)據(jù)總量的比例較小。數(shù)據(jù)歸檔的主要對(duì)象也將圍繞這4個(gè)模塊展開。
b.IT基礎(chǔ)架構(gòu)上,這些企業(yè)的SAP系統(tǒng)都采用UNIX小型機(jī)+FC—SAN存儲(chǔ)架構(gòu)。標(biāo)準(zhǔn)的IT基礎(chǔ)架構(gòu),使得數(shù)據(jù)歸檔方案可以相互借鑒和參照。
柳工和三一重工SAP系統(tǒng)上線時(shí)間較早,距今已經(jīng)超過5年。通常,使用時(shí)間超過5年,應(yīng)用系統(tǒng)各方面都會(huì)進(jìn)入一個(gè)較為成熟穩(wěn)定的階段,總體的業(yè)務(wù)方案及技術(shù)架構(gòu)的調(diào)整不會(huì)過于劇烈和頻繁,具備了進(jìn)行數(shù)據(jù)歸檔的基本條件。并且經(jīng)過5年的使用,SAP系統(tǒng)的數(shù)據(jù)量也達(dá)到了一個(gè)較為龐大的規(guī)模,對(duì)IT基礎(chǔ)架構(gòu)各性能、容量、備份等方面的要求也越來(lái)越高,實(shí)施數(shù)據(jù)歸檔的必要性也越來(lái)越迫切。目前柳工和三一重工均已實(shí)施了數(shù)據(jù)歸檔項(xiàng)目,其他的企業(yè)也將陸續(xù)面臨數(shù)據(jù)歸檔的問題。這兩個(gè)企業(yè)的數(shù)據(jù)歸檔項(xiàng)目的成功經(jīng)驗(yàn)也可以為后續(xù)企業(yè)提供有益的參考和項(xiàng)目思路。
3.柳工SAP數(shù)據(jù)歸檔方案介紹
柳工SAP R/3系統(tǒng)自2007年上線以來(lái),核心系統(tǒng)SAP R/3數(shù)據(jù)量由上線時(shí)的300GB增長(zhǎng)到2010年末的超過4 200GB,項(xiàng)目前SAP數(shù)據(jù)庫(kù)增長(zhǎng)量超過4GB/天,系統(tǒng)數(shù)據(jù)量劇增造成系統(tǒng)響應(yīng)速度變慢,系統(tǒng)運(yùn)行效率降低,MRP運(yùn)算時(shí)間由原來(lái)的十幾分鐘上升到幾個(gè)小時(shí),系統(tǒng)備份時(shí)間由原來(lái)的幾個(gè)小時(shí)增長(zhǎng)到30多個(gè)小時(shí)。于是,柳工在2011年開始啟動(dòng)SAP數(shù)據(jù)歸檔項(xiàng)目。
柳工的數(shù)據(jù)歸檔采用ADK(Archive Development Kit)結(jié)合File System的方式進(jìn)行,SAP數(shù)據(jù)歸檔架構(gòu)如圖3所示。ADK是SAP標(biāo)準(zhǔn)模塊之一,SAP系統(tǒng)通過ADK接口提供結(jié)構(gòu)化數(shù)據(jù)(TransactionalData)的歸檔功能,把數(shù)據(jù)從SAP數(shù)據(jù)庫(kù)系統(tǒng)中移出并歸檔到外部的文件系統(tǒng)。為提高效率,歸檔文件存放在UNIX小型機(jī)的文件系統(tǒng)中,以備后續(xù)的數(shù)據(jù)歸檔和歸檔數(shù)據(jù)查詢,并在歸檔后對(duì)系統(tǒng)數(shù)據(jù)庫(kù)進(jìn)行優(yōu)化重組,以釋放數(shù)據(jù)庫(kù)空間。
圖3 SAP數(shù)據(jù)歸檔架構(gòu)圖
需要明確的是,數(shù)據(jù)歸檔項(xiàng)目不僅僅是IT部門的事情,它需要業(yè)務(wù)部門和IT部門高度合作,并在此基礎(chǔ)上共同計(jì)劃和實(shí)施的一個(gè)項(xiàng)目。實(shí)施過程在技術(shù)上分幾個(gè)階段進(jìn)行。第一階段:分析和設(shè)計(jì)。定義歸檔對(duì)象、策略和流程。需要通過全面的數(shù)據(jù)分析,業(yè)務(wù)部門需要與IT部門高度合作,最終定義好歸檔對(duì)象和歸檔策略。需要注意的是,數(shù)據(jù)歸檔通常按年限進(jìn)行,需要與各業(yè)務(wù)單位確認(rèn)好歸檔的年份,通常在線數(shù)據(jù)會(huì)保留最近的2—3年。
柳工在開展項(xiàng)目時(shí),通過與業(yè)務(wù)單位溝通,確定了保留兩年的在線數(shù)據(jù)。歸檔分析過程中,首要的是對(duì)SAP數(shù)據(jù)庫(kù)中TABLE of TOPl00(數(shù)據(jù)量排名前100的表)進(jìn)行分析。TABLEl00數(shù)據(jù)庫(kù)表容量圖見表1。通過對(duì)大表的數(shù)據(jù)分析,最終將相關(guān)的數(shù)據(jù)表容量歸集到歸檔對(duì)象中,并按照年份形成歷年各個(gè)歸檔對(duì)象的數(shù)據(jù)分布,項(xiàng)目預(yù)期的歸檔目標(biāo)可以在此基礎(chǔ)上產(chǎn)生。歸檔對(duì)象容量分析見表2。從表2中可以看到,PP—ORDER生產(chǎn)訂單的數(shù)據(jù)量非常大(>800GB),這就是工程機(jī)械行業(yè)相對(duì)其他行業(yè)特別之處——大量的生產(chǎn)訂單,所以該對(duì)象的歸檔是重點(diǎn)需要考慮的問題。
表1 TABLEl00數(shù)據(jù)庫(kù)表容量圖
表2 歸檔對(duì)象容量分析表
第二階段:歸檔測(cè)試。完成歸檔配置、歸檔開發(fā)以及歸檔測(cè)試。通過第一階段的分析,對(duì)本項(xiàng)目的歸檔情況已經(jīng)有了初步的預(yù)期�?梢砸罁�(jù)確定的歸檔年限,進(jìn)行相應(yīng)的系統(tǒng)配置,本項(xiàng)目歸檔2007年、2008年、2009年這3年的數(shù)據(jù)。由于只有完結(jié)了業(yè)務(wù)流程的數(shù)據(jù)才能被歸檔,所以通過與業(yè)務(wù)部門的充分溝通,可以促成業(yè)務(wù)部門對(duì)部分長(zhǎng)期未清業(yè)務(wù)進(jìn)行清理,一定程度上提高業(yè)務(wù)的規(guī)范性。一個(gè)基本的歸檔過程(或歸檔循環(huán))通常有3個(gè)步驟。數(shù)據(jù)歸檔過程如圖4所示。業(yè)務(wù)對(duì)象的歸檔有相應(yīng)的先后順序,總體上通常是按照模塊CO/FI/MM/PP/SD的順序來(lái)進(jìn)行。由于數(shù)據(jù)歸檔后,大部分的數(shù)據(jù)不能通過原來(lái)的事物代碼進(jìn)行訪問,因此需要通過特定歸檔事物碼SARI訪問。對(duì)于很多自開發(fā)的報(bào)表,必須要通過對(duì)信息結(jié)構(gòu)進(jìn)行配置及進(jìn)行相應(yīng)的歸檔開發(fā),才能保證數(shù)據(jù)歸檔后,能夠按照正確的邏輯進(jìn)行讀取、匯總和計(jì)算。對(duì)于個(gè)別需要經(jīng)常性讀取在線數(shù)據(jù)和歸檔數(shù)據(jù)的標(biāo)準(zhǔn)事物代碼,需要進(jìn)行歸檔增強(qiáng)開發(fā)。本階段主要難點(diǎn)在于清理歸檔區(qū)間內(nèi)的未結(jié)業(yè)務(wù)和進(jìn)行歸檔開發(fā)。
圖4 數(shù)據(jù)歸檔過程
第三階段:歸檔實(shí)施。調(diào)整歸檔策略,歸檔配置并完成生產(chǎn)系統(tǒng)的正式歸檔。由于測(cè)試環(huán)境和生產(chǎn)環(huán)境的差異,測(cè)試時(shí)通過的配置參數(shù)在生產(chǎn)系統(tǒng)實(shí)施時(shí),有很大幾率因性能或其他問題而需要進(jìn)行調(diào)整,才能不影響生產(chǎn)系統(tǒng)正常業(yè)務(wù)的運(yùn)行。同時(shí),歸檔的開發(fā)工作在此階段也持續(xù)進(jìn)行,業(yè)務(wù)部門需要經(jīng)常對(duì)信息結(jié)構(gòu)進(jìn)行優(yōu)化,并且需要對(duì)最終用戶進(jìn)行充分培訓(xùn),以保證獲取業(yè)務(wù)數(shù)據(jù)的準(zhǔn)確性。
第四階段:上線和支持。重組數(shù)據(jù)庫(kù),歸檔確認(rèn)和后續(xù)技術(shù)支持。完成數(shù)據(jù)歸檔后,對(duì)數(shù)據(jù)庫(kù)進(jìn)行重組以釋放數(shù)據(jù)庫(kù)空問并提升性能,處理歸檔開發(fā)中可能遺漏的BUG。同時(shí),由于歸檔數(shù)據(jù)不會(huì)發(fā)生修改,因此對(duì)歸檔數(shù)據(jù)的備份不需要頻繁進(jìn)行,可以以較低的備份頻率進(jìn)行備份,以縮減備份窗口,降低對(duì)備份設(shè)備存儲(chǔ)資源的占用。
柳工通過6個(gè)月的項(xiàng)目實(shí)施,成功完成了對(duì)24個(gè)歸檔對(duì)象實(shí)施歸檔,保證歸檔數(shù)據(jù)安全可查。通過數(shù)據(jù)歸檔釋放生產(chǎn)系統(tǒng)數(shù)據(jù)庫(kù)空間,降低生產(chǎn)系統(tǒng)數(shù)據(jù)庫(kù)容量,縮短系統(tǒng)響應(yīng)時(shí)間,提高系統(tǒng)性能,總體來(lái)看數(shù)據(jù)庫(kù)空間減少1.24TB,約占?xì)w檔前總數(shù)據(jù)量的32%,達(dá)到數(shù)據(jù)庫(kù)容量減少30%的預(yù)期目標(biāo)。通過對(duì)SAP系統(tǒng)的數(shù)據(jù)歸檔,可以給企業(yè)帶來(lái)如下的收益:
a.SAP系統(tǒng)的響應(yīng)時(shí)間有明顯的改善,報(bào)表整體查詢效率提高,有效地提高員工的工作效率;
b.通過提高系統(tǒng)的運(yùn)行效率,連帶提高與SAP集成的系統(tǒng)接口運(yùn)行效率,減少客戶因系統(tǒng)響應(yīng)問題產(chǎn)生的投訴,提高了服務(wù)質(zhì)量;
c.縮短了系統(tǒng)的備份時(shí)間和恢復(fù)時(shí)間,從而整體上提高了系統(tǒng)的安全性;
d.通過將過期的數(shù)據(jù)從數(shù)據(jù)庫(kù)剝離出去,可以降低總體擁有成本(TCO),如對(duì)主機(jī)系統(tǒng)、存儲(chǔ)系統(tǒng)、備份系統(tǒng)的投入;
e.由于數(shù)據(jù)量增速下降,連帶降低了對(duì)數(shù)據(jù)庫(kù)及存儲(chǔ)進(jìn)行優(yōu)化、擴(kuò)容的維護(hù)工作量,降低SAP系統(tǒng)的維護(hù)成本和風(fēng)險(xiǎn);
f.建立了數(shù)據(jù)管理機(jī)制,保證柳工SAP系統(tǒng)數(shù)據(jù)庫(kù)容量增長(zhǎng)保持相對(duì)穩(wěn)定目標(biāo)的實(shí)現(xiàn)。
4.結(jié)束語(yǔ)
在工程機(jī)械行業(yè)中開展數(shù)據(jù)歸檔項(xiàng)目,其實(shí)施過程中需要充分考慮行業(yè)自身的特點(diǎn),才能達(dá)到可預(yù)期的結(jié)果。數(shù)據(jù)歸檔技術(shù)在ERP系統(tǒng)上的應(yīng)用通常表現(xiàn)為對(duì)數(shù)據(jù)庫(kù)的歸檔,對(duì)解決企業(yè)ERP系統(tǒng)數(shù)據(jù)量劇增問題有著極為明顯的優(yōu)勢(shì)。作為一個(gè)軟件為主導(dǎo)而又能影響硬件的方案,它摒棄了傳統(tǒng)的硬件為主的對(duì)應(yīng)方案,從根本上減弱ERP系統(tǒng)大數(shù)據(jù)對(duì)硬件的依賴,成為軟硬結(jié)合、治標(biāo)治本的解決方案。隨著軟硬件技術(shù)的不斷發(fā)展,對(duì)應(yīng)的各種解決方案也將呈現(xiàn)出新的軟硬件結(jié)合的趨勢(shì),只有多方技術(shù)設(shè)備結(jié)合使用,才能獲取最優(yōu)TCO解決方案。
轉(zhuǎn)載請(qǐng)注明出處:拓步ERP資訊網(wǎng)http://m.guhuozai8.cn/
本文標(biāo)題:SAP數(shù)據(jù)歸檔在工程機(jī)械企業(yè)中的應(yīng)用
本文網(wǎng)址:http://m.guhuozai8.cn/html/consultation/10839313326.html