data storage

Facebook、圧縮アルゴリズムのZstandardとストレージエンジンのMyRocksをオープンソース化

次の記事

スウェーデンのスタートアップGretaが、巨大なCDN市場を突き崩す

今日(米国時間8/31)Facebookは、圧縮アルゴリズムのZstandardをオープンソース化する。時代遅れとなったDeflate圧縮アルゴリズムを使用しているzlibライブラリーを置き換えることが、このロスレス技術の目的だ。さらにFacebookは、zStandardに加え、ストレージエンジンのMyRocksもオープンソース化する。MyRocksは、Facebook社内でMySQLデータベースのストレージ効率を高めるために使われている。

いずれも、カリフォルニア州サンノゼで行われたFacebookの@Scaleカンファレンスで発表された。このカンファレンスは、大規模な技術的課題を抱えるエンジニアたちを集め、オープンソース技術の発展に力を入れている業界各社と共に解決するのを支援することを目的としている。ZstandardやMyRocksを使うと、デベロッパーは大規模で多様なユーザー基盤に効率よくスケーリングできるプラットフォームを作ることができる。

重要なインフラストラクチャーの更新や置き換えを考えているエンジニアにとって、最大の恐怖は新しいライブラリーがシステム全体をダウンさせてしまうことだ。Facebookのインフラストラクチャー技術担当VP、Jay Parikhは、ZstandardもMyRocksも、デベロッパーに公開する前にFacebookで全社規模でテストされていることを誇らしげに語った。

「ここにいる全員が両製品を使っている」とParikhは言った。

Zstandardをテストした6ヵ月間に、Facebookはすばらしい結果を残した。zlibと同じ圧縮比ならZstandardの方が5倍も速かった。圧縮時間が同じなら、ファイルサイズは10%小さかった。

MyRocksもまた、ストレージ効率を著しく改善した。InnoDBとの比較で、MyRocksは同じ量のデータを半分のサーバースペースに保存することかできた。

「オープンソースにすることは、コミュニティー全体の利益になる。単独の企業が所有しているよりも、オープンソースにした方が早く普及する」とParikhは話した。

Facebookは、同社のオープンソースソリューションが新たな業界標準になることを期待している。

[原文へ]

(翻訳:Nob Takahashi / facebook