
日前由陜西弈聰軟件信息技術股份有限公司(簡稱:弈聰軟件)自主開發的的“BDS大數據公共服務平臺”通過中國版權保護中心審核并取得國家軟件著作權登記證書。
據悉弈聰BDS大數據公共服務平臺按照系統數據集設計,包括政務服務公共信息庫、生產業務信息庫、民生便民公共信息庫三大領域主題庫,項目建設目的是建立為政務及事業單位,科研院所及相關機構,智能制造生產企業及民生服務領域基礎大數據樣本平臺,提升本企業在大數據領域的技術及業務探索,以便為后續具體行業大數據技術服務提供技術支撐及業務合作藍本。
弈聰BDS大數據公共服務平臺自2017年6月開始進行市場調研,需求分析及前期技術準備工作,依照項目進度計劃穩步進行。截至目前已經完成項目市場調研,需求分析,技術可行性論證,相關設施設備及技術準備工作;系統總體技術架構研發及搭建;數據加密方式研發以及初步應用;相關核心技術研發;數據安全及用戶UI、UE等方面設計以及基礎平臺架構搭建完成?;就瓿上到y穩定性,抗壓性,邏輯功能測試,數據及系統整體可靠性安全體系驗證;系統性能的優化與健壯性升級改進;在系統架構穩定,技術成熟前提下根據需求按照批次有序進行對應業務數據采集挖掘、清洗整理存儲,及相應的數據分析工作;開發外部接口API及第三方接口支持工作。按照系統初期數據集設計,包括政務服務公共信息庫、生產業務信息庫、民生便民公共信息庫三大領域主題庫。除生產業務信息庫正在建設外,其余兩個數據集已經完成并進入數據入庫及整理清洗,達到初步預期。
弈聰BDS大數據公共服務平臺系統技術架構采用Hadoop分布式系統,運用自主知識產權的大數據爬蟲技術 (BDS Crawler)實現數據的采集與清洗,利用Hadoop系統的HDFS高吞吐量數據訪問,高度容錯性等特性,將所采集數據及文件進行分塊存儲。平臺的技術創新點就是以Flume和Kafka采集中間件為基礎,采用自主研發的數據采集大數據爬蟲技術 (BDS Crawler)實現數據的采集與清洗,為后續的近實時的在線分析系統和離線分析系統提供數據服務。其創新點在于:
A、基于Flume和Kafka自主研發:綜合Flume和Kafka各自優勢,自主研發技術。
B、大并發高性能:滿足大數據平臺大并發高性的基本要求,每秒處理幾十萬條數據;
C、海量數據實時性:支持TB級甚至是PB級的數據規模;優化緩沖機制,保證較低的延遲時間,達到秒級甚至是毫秒級;
D、分布式和易用性:支持大數據的基本架構,能夠平滑擴展;能夠快速進行開發和部署;
E、支持自定義規則:可定義數據采集規則和數據清洗規則;支持二次開發;
F、數據可靠性處理:各種不同數據源數據進入大數據系統,數據可靠性尤其重要。
目前BDS大數據公共服務平臺已經于2018年7月通過陜西省軟件評測中心測評。且根據公司內部按照ISO20000信息服務體系相關測試流程對系統關鍵參數如BDS Crawler數據采集效率、系統壓力及承載能力進行內部測試及其它第三方平臺系統安全性測試結果表明,系統核心技術成熟度和穩定性、系統運行效率、系統安全性等得到進一步印證,其相關技術參數達到預期設計要求。
【全文完】版權聲明:
1、弈聰軟件網站內容中凡注明“來源:XXX(非陜西弈聰網站)”的作品,轉載自其它媒體,轉載目的在于傳遞更多信息,其中涉及的網站建設,網站優化,APP開發,微信小程序開發,大數據平臺開發,區塊鏈技術開發等軟件開發技術細節并不代表本站贊同支持其觀點,并不對其真實性負責。對于署名“陜西弈聰”的作品系本站版權所有,任何人轉載請署名來源,否則陜西弈聰將追究其相關法律責任。
2、本站內容中未聲明為“原創”的內容可能源自其它網站,但并不代表本站支持其觀點,對此帶來的法律糾紛及其它責任與我方無關。如果此內容侵犯了您的權益,請聯系我方進行刪除。
