站長資訊網
        最全最豐富的資訊網站

        阿里收購德國開源數據公司 押注實時流處理框架Flink

        導讀:

        “與阿里的合作可以讓我們上升一個新的維度,我們將有機會開拓新的領域,將公司成為更有價值的實時數據處理系統。”Data Artisan合伙人Kostas Tzoumas在新聞稿中表示。

        在微軟宣布GitHub免費開放私有代碼庫的同一天,阿里巴巴確認收購德國初創企業Data Artisan。后者創建的Apache Flink是全球頂級的開源流處理框架,它不但是雙十一大規模數據實時處理的秘密武器,更是荷蘭國際集團、Netflix和Uber在內的國際巨頭不可或缺的工具。

        Data Artisans由開源流處理框架Apache Flink的創建者Kostas Tzoumas等人于2014年創建。作為流處理方面為數不多的前沿技術,Flink為企業部署大規模的數據處理解決方案,以便他們能夠即時響應數據,并做出更好更快的業務決策。

        遠在此項投資公布的三年多前,阿里巴巴已經成為Apache Flink框架的用戶。目前,阿里基于Flink開發的內部平臺Blink已經廣泛服務于阿里集團內外、包括廣告、搜索等大量核心實時業務,并多次為雙十一的極端運算要求賦能。

        阿里收購德國開源數據公司 押注實時流處理框架Flink

        當地時間1月8日,德國媒體率先爆料后,阿里和Data Artisan紛紛發布新聞稿確認了雙方合作的消息。

        “我們相信這一戰略合作將進一步加強Flink社區的發展,加速數據處理技術并為全球開發人員提供協作和建設性的開放環境。”阿里巴巴集團副總裁周靖人在新聞稿中表示。

        從微軟收購Github到IBM巨資334億美元收購開源軟件巨頭紅帽,收購具有獨特技術和資源的開源企業,無疑是巨頭們在2018年最重要的并購趨勢之一。而本次阿里的收購,代表了全球第三大云廠商對這一前沿領域的技術布局。

        根據德國媒體報道,該項收購金額在9000萬歐元,但雙方官方均未確認金額。該公司曾在2016年獲得英特爾旗下投資基金及Btov、Tengelmann Ventures共650萬歐元的A輪融資,以及一輪未公開的B輪融資。

        根據Market Insights Reports的數據,預計到2025年全球流媒體分析市場規模將達到477.5億美元,從2017年到2025年將增長34.98%。

        火爆流框架

        城市車流快速移動、工廠流水線不等人、醫院在排號、叫的外賣在快跑,打車、點餐、網購等等,人們無法忍受長時間等待,等待意味著訂單流失。所以,毫秒級、亞秒級大數據分析就凸顯極大價值。

        隨著大數據、人工智能的興起及5G技術發展,即時性成為了各個領域的剛需。上述場景還可以延展至高速公路監測、ADAS高級輔助駕駛、廣告推薦、電商搜索推薦、股票交易市場、金融實時智能反欺詐等產業端。

        據悉,Data Artisans所掌握的大數據流處理技術Flink可以在很大程度上解決越來越迫切的數據迅速處理問題。Flink核心是一個流式的數據流執行引擎,其針對數據流的分布式計算提供了數據分布、數據通信以及容錯機制等功能。

        根據其官網顯示,2014年Flink作為主攻流計算的大數據引擎開始在開源大數據行業內嶄露頭角。經過4年的快速發展,Apache Flink社區已經培養出了42名Committer和19名PMC Member。

        以核心用戶Netflix為例,大型視頻內容服務的處理需求之大幾乎是不可想象的。每天有超過1.09億的消費者,通過在線用戶服務享受1.25億小時的電視和電影內容。這對公司的數據提取管道和流處理引擎提出了很高的要求,這些引擎必須處理涉及12 PB數據和3萬億日常事件。

        Netflix流處理管理員Steve Wu表示,Flink for Netflix的關鍵元素是它能夠定位有狀態標注的應用程序,包括支持事件的時間戳,例如回滾和重放視頻等。

        經過幾年的發展,中國的互聯網巨頭也開始了流計算的廣泛應用,騰訊、華為、滴滴、美團、字節跳動等公司也將Flink作為首選的流處理引擎。

        阿里Blink野心

        盡管鮮有人聽說,但Flink技術距離我們并不遙遠。每年雙十一阿里總部大屏幕的實時成交數字,就是通過巨大的網絡流量,匯總各地方的報表、數據庫,在毫秒級別時間進行計算,并匯總為單一視圖的方式。

        根據阿里巴巴Flink平臺開發負責人之一、高級技術專家王紹翾曾在接受InfoQ采訪中表示,2015年起,阿里巴巴就開始調研新一代流計算引擎。“我們當時的目標就是要設計一款低延遲、exactly once(一次就準確)、流(運算)和批(處理)統一的,能夠支撐足夠大體量的復雜計算的引擎。”

        最終,Flink以高吞吐、低延遲的計算引擎、同時支持批處理和流運算等特性獲得了阿里巴巴的青睞。

        阿里巴巴計算平臺事業部資深技術專家莫問曾在2018云棲大會的演講中表示,阿里一直在尋找一種方式來開發一套統一的大數據引擎。“解決通用大數據計算需求,批流融合的計算引擎,才是大數據技術的發展方向,并且最終我們選擇了Flink。”

        基于Flink,阿里巴巴搭建的平臺于2016年正式上線,并從阿里巴巴的搜索和推薦這兩大場景開始實現。

        “彼時的Flink不管是規模還是穩定性尚未經歷實踐,成熟度有待商榷。”阿里巴巴實時計算團隊在一篇文章中寫道。團隊決定在阿里內部建立一個Flink分支Blink,并對Flink進行大量的修改和完善,讓其適應阿里巴巴這種超大規模的業務場景。

        在這個過程當中,該團隊不僅對Flink在性能和穩定性上做出了很多改進和優化,同時在核心架構和功能上也進行了大量創新和改進。

        關于Flink在阿里巴巴的大規模應用,莫問披露,Flink最初上線阿里巴巴只有數百臺服務器,目前規模已達上萬臺,此等規模在全球范圍內也是屈指可數的;基于Flink,阿里內部積累起來的狀態數據已經是PB級別規模;如今每天在阿里Flink的計算平臺上,處理的數據已經超過萬億條;在峰值期間可以承擔每秒超過4.72億次的訪問,最典型的應用場景是阿里巴巴雙11大屏。

        2018年4月,以Blink為基礎的阿里云實時計算正式商業化,使用用戶已經超過2000家。在已有的用戶中,實時計算主要應用于實時互聯網數據分析、實時數據大屏、實時金融風控、電商實時推薦等諸多領域。

        阿里集團內淘寶、天貓、天弘基金、菜鳥、工業大腦等諸多業務均大量應用了實時計算技術,在集團外,也有包括眾安保險、全民TV、新華智云、貴州茅臺等諸多公司的應用案例。

        巨頭+開源

        從微軟到IBM,再到此時的阿里,對以大數據、人工智能、為核心的企業服務領域,開源的價值極其顯著。與此同時,開源項目也需要足夠多資金、項目和運營不斷發展出更多的應能用領域。

        華為云高級技術專家時金魁近日撰文認為,開源項目后面的商業公司若不在,項目本身必然走向滅亡,純粹靠分散的發燒友的力量無法支撐一個成功的開源項目。

        同樣是在流計算領域,Flink盡管有一定技術優勢,但仍然是競爭者眾。根據Newstack.com網站顯示,流數據處理開源框架很多,如Google的Beam,Intel的Gearpump,IBM的Edgent,這三家巨頭都提前對流計算做出了布局。同時,Storm、LinkedIn的Samza也憑借獨特的優勢各領風騷。

        業界認為,阿里對Data Artisans的收購無疑可以進一步整合Flink的整個生態資源,作出更有利于Flink發展的規劃。“與阿里的合作可以讓我們上升一個新的維度,我們將有機會開拓新的領域,使公司具有為更有價值的實時數據處理系統。”Data Artisan合伙人Kostas Tzoumas在新聞稿中表示。

        根據阿里最新發布的消息,在本月之內,阿里也將把內部軟件Blink開源給整個社區,這一凝結兩年多阿里開發人員心血、助力阿里各項核心業務的軟件即將被更多的企業和開發者使用。此外,阿里巴巴還將致力于推動Flink在生態上得到更多語言的支持,不僅僅是Java、Scala語言,甚至是機器學習下用的Python、Go語言。

        業內人士分析,在云端、AI混戰中,全球廠商都在尋找關鍵技術來提升自己的競爭優勢。此次收購后,Flink必將轉化為阿里云的核心競爭力之一。但在流分析服務方面,亞馬遜和微軟早已經實現托管的高速實時流分析服務,阿里云還需進一步完善。

        贊(0)
        分享到: 更多 (0)
        網站地圖   滬ICP備18035694號-2    滬公網安備31011702889846號
        主站蜘蛛池模板: 久久精品九九亚洲精品| 精品人妻码一区二区三区| 亚洲精品无码精品mV在线观看| 好属妞这里只有精品久久| 亚洲国产精品成人网址天堂| 成人精品一区二区三区在线观看| 日本VA欧美VA欧美VA精品| 欧美人与性动交α欧美精品| 久久se精品一区精品二区| 久久精品国产亚洲AV高清热 | 综合人妻久久一区二区精品| 国产精品人人做人人爽| 国内精品免费在线观看| 亚洲日韩欧美制服精品二区| 精品国产呦系列在线观看免费 | 中国精品18videosex性中国| 国产亚洲精品AA片在线观看不加载 | 国产精品无码专区| 亚洲欧洲美洲无码精品VA| 狠狠色伊人久久精品综合网 | 999国产精品色在线播放| 国产精品麻豆高清在线观看| 久久精品无码专区免费东京热| 亚洲精品WWW久久久久久| 久久久WWW成人免费精品| 久久精品国产精品亚洲下载| 精品国产福利盛宴在线观看| 国产精品手机在线观看你懂的| 99精品国产成人一区二区| 潮喷大喷水系列无码久久精品| 国产精品拍天天在线| 国产乱码精品一品二品| 99国产精品国产精品九九| 91精品国产综合久久婷婷| 99久久精品午夜一区二区| 99精品国产丝袜在线拍国语 | 99精品国产一区二区三区| AV无码精品一区二区三区| 成人精品在线视频| 久久精品一区二区国产| 亚洲嫩草影院久久精品|