GoGPT Best VPN GoSearch

OnWorksファビコン

s3backer - クラウド上のオンライン

Ubuntu Online、Fedora Online、Windows オンライン エミュレーター、または MAC OS オンライン エミュレーター上の OnWorks 無料ホスティング プロバイダーで s3backer を実行します。

これは、Ubuntu Online、Fedora Online、Windows オンライン エミュレーター、または MAC OS オンライン エミュレーターなどの複数の無料オンライン ワークステーションの 3 つを使用して、OnWorks 無料ホスティング プロバイダーで実行できるコマンド sXNUMXbacker です。

プログラム:

NAME


s3バッカー — Amazon S3 経由の FUSE ベースの単一ファイル バッキング ストア

SYNOPSIS


s3バッカー [オプション] バケット /マウント/ポイント

s3バッカー - テスト [オプション] DIR /マウント/ポイント

s3バッカー --消去 [オプション] バケット

s3バッカー --リセットマウントフラグ [オプション] バケット

DESCRIPTION


s3バッカー Amazon Simple Storage によってバックアップされた単一のファイルを含むファイルシステムです。
サービス (Amazon S3)。 ファイルシステムとしては非常にシンプルです。単一の通常のファイルを提供します。
固定サイズを持つこと。 その下で、ファイルはブロックに分割されており、
各ブロックは一意の Amazon S3 オブジェクトに保存されます。 言い換えれば、何 s3バッカー は、大阪で
実際には、ファイルシステムというよりは、S3 をサポートする仮想ハードディスク デバイスに似ています。

通常の使用法では、「通常の」ファイルシステムは、
s3バッカー ループバック マウント (Mac OS X ではディスク イメージ マウント) を使用したファイル システム。

この配置には、より完全な S3 ファイルシステムと比較していくつかの利点があります。
実装:

o 完全なファイルシステムを実装しようとしないことにより、これは複雑な作業であり、
正しく理解するのが難しく、 s3バッカー 非常に軽量でシンプルなままにすることができます。 HTTP は XNUMX つだけ
GET、PUT、DELETE の操作が使用されます。 に関するすべての経験と知識
既存のファイルシステムを再利用できるように適切に実装する方法。

o 既存のファイルシステムを利用することにより、完全な UNIX ファイルシステムのセマンティクスが得られます。 微妙なバグ
または、ハードリンク、拡張属性、POSIX ロック、
などが避けられます。

o 通常のファイルシステムのセマンティクスと Amazon S3 の「結果整合性」の間のギャップは次のとおりです。
S3 オブジェクトを単純なデバイス ブロックとして解釈できると、より簡単かつ単純に解決できます。
ファイルシステム オブジェクトではなく (以下を参照)。

o お客様の制御下にない Amazon S3 サーバーにデータを保存する場合、
データの暗号化と認証の機能が重要な問題になります。 s3バッカー サポート
安全な暗号化と認証。 あるいは、組み込まれている暗号化機能
Linux ループバック デバイスを使用できます。

o S3 データはネットワーク経由でアクセスされるため、ローカル キャッシュも非常に重要です。
パフォーマンス上の理由。 以来 s3バッカー 仮想ハードディスクと同等のものを提供します。
カーネルでは、ファイルシステムのキャッシュのほとんどは、あるべき場所で実行できます。
カーネルのページ キャッシュを介してカーネルにアクセスします。 しかし s3バッカー 独自の内部も含まれます
パフォーマンスを向上させるためにキャッシュをブロックし、非同期ワーカー スレッドを使用して
ネットワークに固有の並列処理の利点。

一貫性 保証
Amazon S3 は、読み取りのタイミングと一貫性に関して比較的弱い保証を行っています。
vs. 書き込み (総称して「結果整合性」と呼ばれます)。 s3バッカー ロジックが含まれており、
これらの制限を回避する構成パラメータを使用すると、ユーザーは次のことを保証できます。
必要なレベルまで一貫性を維持し、最大 100% の検出と回避を実現します。
間違ったデータ。 これらは:

1. s3バッカー 連続する PUT または DELETE 操作間の最小遅延を強制します。
同じブロック。 これにより、Amazon S3 がこれらの操作を順番どおりに受信しないことが保証されます。

2. s3バッカー 内部ブロック MD5 チェックサム キャッシュを維持し、自動
GET 操作によって返された「古い」ブロックの検出と拒否。

このロジックは、次のコマンド ライン オプションによって構成されます。 --md5キャッシュサイズ,
--md5キャッシュタイム, --minWriteDelay.

ゼロ化 ブロック 最適化
簡単な最適化としては、 s3バッカー すべてゼロを含むブロックは保存されません。 その代わり、
それらは単に削除されるだけです。 逆に、存在しないブロックの読み取りにはすべて XNUMX が含まれます。
言い換えれば、バックアップされたファイルは常に最大限にスパースになります。

その結果、使用前にブロックを作成する必要はなく、特別な処理も必要ありません。
新しいファイルシステムを作成するときに初期化が必要です。

--listBlocks フラグが与えられ、 s3バッカー 起動時に既存のブロックをすべてリストします。
どのブロックが空であるかを事前に正確に知ることができます。

File   ブロック サイズ 自動検出
便宜上、バックアップされたファイルの最初のブロックが書き込まれるたびに、 s3バッカー 含ま
メタデータとして (「x-amz-meta-s3backer-filesize」ヘッダー内) ファイルの合計サイズ。
ブロック自体のサイズとともに、この値はチェックおよび/または自動検出できます。
後でファイルシステムが再マウントされると、 --blockSize or - サイズ
フラグを明示的に提供し、既存のフラグの偶発的な誤解を避ける
ファイルシステム。

ブロック キャッシュ
s3バッカー パフォーマンスを向上させるための内部ブロック キャッシュのサポートが含まれています。 ブロック
キャッシュ キャッシュは、MD5 チェックサムのみを保存する MD5 キャッシュとは完全に分離されています。
一時的であり、その唯一の目的は「結果整合性」を軽減することです。 ブロックキャッシュ
は、キャッシュされたデータ ブロックを含む従来のキャッシュです。 いっぱいになると、クリーンなブロックが排除されます
必要に応じて LRU の順序で。

キャッシュされたブロックの読み取りは、ネットワーク トラフィックなしですぐに返されます。 キャッシュへの書き込み
また、すぐに戻り、ネットワークへの非同期書き込み操作をトリガーします。
別のワーカースレッド。 カーネルは通常、FUSE ファイルシステムを介してブロックを書き込むため
一度に XNUMX つずつ、非同期に書き込みを実行すると、 s3バッカー を活用する
ネットワークに固有の並列処理により、書き込みパフォーマンスが大幅に向上します。

ブロック キャッシュは、キャッシュされたデータをローカル ファイルではなくローカル ファイルに保存するように構成できます。
メモリー。 これにより、より大きなキャッシュ サイズが許可され、 s3バッカー キャッシュされたデータを後でリロードするには
再起動。 リロードされたデータは、再利用前に Amazon S5 の MD3 チェックサムによって検証されます。

ブロック キャッシュは、次のコマンド ライン オプションで構成されます。 --blockCacheFile,
--blockCacheMaxDirty, --blockCacheNoVerify, --blockCacheSize, --blockCacheSync,
--blockCacheThreads, --blockCacheTimeout, --blockCacheWriteDelay.

読む 先んじて
s3バッカー ブロック キャッシュに単純な先読みアルゴリズムを実装します。 設定可能な場合
ブロックの数が順番に読み取られ、ブロック キャッシュ ワーカー スレッドが起動されて読み取りが開始されます。
後続のブロックはブロック キャッシュに格納されます。 先読みはカーネルが続く限り継続します
ブロックを順次読み取り続けます。 カーネルは通常、ブロックを一度に XNUMX つずつ要求します。
したがって、複数のワーカースレッドがすでに次の数ブロックを読み取っていると、読み取りが向上します
ネットワーク固有の並列性を利用してパフォーマンスを向上させます。

カーネルは先読みアルゴリズムも実装していることに注意してください。 その行動は取られるべきである
考慮に入れます。 デフォルトでは、 s3バッカー 合格 -o max_readahead=0 FUSE のオプション。

先読みは、 --先を読む   --readAheadトリガー コマンドラインオプション。

Encryption   認証
s3バッカー による暗号化をサポートします。 -暗号化, - パスワード, --パスワードファイル フラグ。 いつ
暗号化が有効になり、SHA1 HMAC 認証も自動的に有効になります。 s3バッカー
適切に暗号化および署名されていないブロックは拒否されます。

での暗号化 s3バッカー 上位層 (例:
ループバック デバイス層)、データが s3バッカー すでに暗号化されているのを見ると、それはできません
ゼロ化されたブロックを最適化するか、意味のある圧縮を行います。

圧縮
s3バッカー ブロックレベルの圧縮をサポートしているため、転送時間とストレージコストが最小限に抑えられます。

圧縮は次の方法で設定されます。 -圧縮 国旗。 圧縮は自動的に有効になります
暗号化が有効な場合。

読み取り専用 アクセス
使用するために Amazon S3 アカウントは必要ありません s3バッカー。 ファイルシステムはすでに必要です
パブリック読み取りアクセス用に設定された ACL を持つ S3 オブジェクトが存在し、持っている (「 --accessType
下); ユーザーは読み取り専用フラグを使用してルーバック マウントを実行する必要があります (「 mount(8))および
提供する --readOnly フラグを立てる s3バッカー。 この操作モードにより、
パブリックな読み取り専用ファイルシステム。

同時 マウント
ネットワーク経由で機能しますが、 s3バッカー ファイルシステムは分散型ではありません
ファイル システムであり、同時読み取り/書き込みマウントはサポートされていません。 (これはあなたのものではありません
通常は、ハードディスクのパーティションでも問題ありません。) 安全対策として、 s3バッカー
データ ストア内の「すでにマウントされている」フラグを使用してこの状況を検出しようとします。
起動できない場合があります。

以前の場合、この検出により誤検知が発生する可能性があります。 s3バッカー プロセスはシャットダウンされませんでした
きれいに; そうであれば、 --リセットマウントフラグ フラグを使用して「すでにマウントされている」をリセットできます
国旗。 ただし、以下のバグも参照してください。

統計 File
s3バッカー ファイルシステムに人間が判読できる統計ファイルを追加します。 見る
--statsファイル名 を参照してください。

ロギング
通常の操作では s3バッカー 経由でログに記録されます syslog(3)。 で実行すると、 -d or -f フラグ、
s3バッカー 標準エラーに記録されます。

OPTIONS


各コマンド ライン フラグには XNUMX つの形式があります。たとえば、 --accessFile=ファイル   -o アクセスファイル=ファイル.
最初の形式のみを以下に示します。 どちらの形式でも多く使用できます。 どちらも同等です。 の
XNUMX 番目の形式では、マウント オプションを直接指定できます。 /etc/fstab そして合格しました
シームレスに s3バッカー ヒューズによる。

--accessFile=ファイル
「accessID:accessKey」ペアを含むファイルを XNUMX 行に XNUMX つずつ指定します。 空白行と
`#' で始まる行は無視されます。 いいえの場合 - アクセスキー が指定されている場合、このファイルは
で指定されたアクセス ID に一致するエントリが検索されます。 --アクセスID; if
どちらもありません - アクセスキー また --accessId が指定されている場合、このファイルの最初のエントリは
利用される。 デフォルト値は $HOME/.s3backer_passwd.

--accessId=ID
Amazon S3のアクセスIDを指定します。 アクセス ID を強制的に使用しない場合は、空の文字列を指定します。 いいえの場合
アクセス ID が指定されている (アクセス ファイルに何も見つからない) 場合 s3バッカー 意志
引き続き機能しますが、公開されているファイルシステムの読み取りのみが機能します。

--accessKey=KEY
Amazon S3 アクセスキーを指定します。 コマンドライン経由でこの秘密を公開しないようにするには、
つかいます --accessFile このフラグの代わりに。

--accessType=TYPE
新しく書き込まれるブロックの Amazon S3 アクセス権限 ACL タイプを指定します。 値
`private'、`public-read'、`public-read-write'、または `authenticated-
読む'。 デフォルトは「プライベート」です。

--accessEC2IAM=ロール
アクセス資格情報とセキュリティ トークンを JSON ドキュメント形式でダウンロードします。
http://169.254.169.254/latest/meta-data/iam/security-credentials/ROLE XNUMXつごと
分。

このオプションを使用すると、指定された IAM 経由で S3 認証情報を自動的に提供できるようになります。
の役割 s3バッカー Amazon EC2 インスタンス上で実行する場合。

--authVersion=TYPE
リクエストの認証方法を指定します。 サポートされている認証は XNUMX つあります
メソッド: aws2 オリジナルの AWS 認証スキームです。 aws4 より新しい、
推奨される認証方式。

aws4 はバージョン 1.4 以降のデフォルト設定であり、特定の場合に必須です。
米国以外の地域では、 aws2 一部の Amazon S3 プロバイダー以外では引き続き必要になる場合があります。

--baseURL=URL
ベース URL を指定します。これはスラッシュで終わる必要があります。 デフォルトは
`http://s3.amazonaws.com/'.

--blockCacheFile=ファイル
キャッシュされたデータ ブロックを保存するファイルを指定します。 このフラグがないと、ブロックは
キャッシュは完全にプロセス メモリ内に存在し、キャッシュされたデータは次の場合に失われます。 s3バッカー
停止されています。 ファイルが存在しない場合は作成されます。

以前の呼び出しによって作成されたキャッシュ ファイル s3バッカー 再利用可能です
同じ構成されたブロック サイズで作成されている限り (そうでない場合は起動
失敗します)。 たとえそうであったとしてもこれは真実です s3バッカー たとえば、次のような理由で突然停止されました。
システムクラッシュ。 ただし、この保証は、ファイルシステムが
キャッシュ ファイルが含まれていると、呼び出し全体で書き込みの順序が変更されません。 fsyncとします。

既存のキャッシュが使用されているが、異なるサイズで作成された場合、 s3バッカー 意志
起動時にファイルを自動的に拡大または縮小します。 縮小すると、それがブロックされます
新しいキャッシュに収まらない小さいキャッシュは破棄されます。 このプロセスにより、
可能な範囲でキャッシュファイルを保存します。

いずれの場合も、再起動後に回復できるのはクリーンなキャッシュ ブロックのみです。 これは、
システムがクラッシュすると、キャッシュ内のダーティ ブロックが失われます (もちろん、
インメモリキャッシュの場合も同様です)。 使用 --blockCacheWriteDelay これを制限するために
窓。

デフォルトでは、キャッシュ ファイルからキャッシュをリロードすると、 s3バッカー 確認します
最初に使用する前に、Amazon S5 でリロードされた各ブロックの MD3 チェックサム。 これ
検証操作ではブロックのデータを実際に読み取る必要がないため、
比較的早いです。 これにより、キャッシュされたデータが知らないうちに取得されることを防ぎます。
キャッシュ ファイルが最後に使用されてから同期が取れていない、それ以外の状況
不可能 s3バッカー 検出する。

--blockCacheMaxDirty=NUM
ブロック キャッシュ内のダーティ ブロックの数の制限を指定します。 この制限がかかると、
に達すると、既存のダーティ ブロックがなくなるまで、以降の書き込み試行はブロックされます。
正常に書き込まれました (したがってダーティではなくなりました)。 このフラグは、
基盤となる S3 データ ストアに関して存在する可能性のある不整合の量。

デフォルト値はゼロで、制限がないことを意味します。

--blockCacheNoVerify
で指定されたキャッシュ ファイルからロードされたブロックの MD5 検証を無効にします。
--blockCacheFile。 このフラグを使用するのは危険です。 確実な場合にのみ使用してください
キャッシュされたファイルは破損しておらず、そこに含まれるデータは最新です。

--blockCacheSize=SIZE
ブロック キャッシュ サイズ (ブロック数) を指定します。 キャッシュ内の各エントリは、
約ブロック サイズ + 20 バイトを消費します。 値 XNUMX はブロックを無効にします
キャッシュ。 デフォルト値は 1000 です。

--blockCacheThreads=NUM
ブロック キャッシュに関連付けられたスレッド プールのサイズを設定します (有効な場合)。 これ
ネットワークに対して同時に実行できる書き込みの数を制限します。 デフォルト
値は20です。

--blockCacheTimeout=MILLIS
クリーンなエントリがブロック キャッシュに保持されるまでの最大時間を指定します。
強制的に削除され、それに関連するメモリが解放されます。 値がゼロの場合は、
タイムアウトなし。 この場合、ブロック キャッシュ内のエントリの数は決して増加しません。
減少し、最終的には次のように構成された最大サイズに達します。 --blockCacheSize  
そこに滞在しています。 ブロック キャッシュのメモリ使用量が低い場合は、ゼロ以外の値を構成します。
懸念。 デフォルト値はゼロ (タイムアウトなし) です。

--blockCacheWriteDelay=MILLIS
ダーティ ブロックがブロック キャッシュに残されるまでの最大時間を指定します。
ネットワークに書き出されます。 キャッシュがある場合、ブロックはより早く書き込まれる可能性があります
プレッシャー。 値をゼロにすると、「ライトスルー」ポリシーが構成されます。 より大きな値
「ライトバック」ポリシーを設定します。 値が大きいほど、小さい場合のパフォーマンスが向上します。
多くのブロックが繰り返しアクセスされるため、不一致が大きくなります。
基盤となる S3 データ ストア。 デフォルト値は 250 ミリ秒です。

--blockCacheSync
ブロック キャッシュ レイヤーでの同期書き込みを強制します。 返す代わりに
すぐに実行し、実際の書き込み操作が後で実行されるようにスケジュールする場合は、
書き込みが完了するまでリクエストは返されません。 このフラグはより厳格です
要件より --blockCacheWriteDelay=0、これは単に書き込みを引き起こすだけです
できるだけ早く開始されます (ただし、書き込みリクエストが返された後でも)。

このフラグには次の要件が必要です --blockCacheWriteDelay ゼロになること。 このフラグを使用すると、次のようなことが起こる可能性があります。
書き込みパフォーマンスが大幅に低下します。

--blockSize=SIZE
ブロックサイズを指定します。 これは XNUMX のべき乗であり、次の倍数である必要があります。
カーネルのネイティブ ページ サイズ。 サイズには、キロバイトを表すオプションの接尾辞「K」が付く場合があります。
「M」はメガバイトなどを表します。

s3バッカー 部分ブロック操作をサポートしますが、各操作の前に読み取りが強制されます。
書く; ブロックキャッシュの使用と適切なアライメント s3バッカー ブロックサイズ
意図された用途 (たとえば、「上位」ファイルシステムのブロック サイズ) は、最小化に役立ちます。
追加の読み取り。 ファイルシステムが大きなブロック用に構成されている場合でも注意してください。
多くの場合、カーネルは依然としてページ サイズのブロックを書き込みます。

s3バッカー ブロック番号 XNUMX を読み取ることでブロック サイズの自動検出を試みます。
起動。 このオプションが指定されていない場合は、自動検出された値が使用されます。 もしも
このオプションが指定されていますが、自動検出された値と一致しません。 s3バッカー 意志
そうでない場合はエラーで終了します - 力 も与えられます。 自動検出が失敗した場合の理由
ブロック番号 XNUMX が存在せず、このオプションが指定されていない場合、デフォルト
4K(4096)の値が使用されます。

--cacert=ファイル
リモート サーバーの ID を検証するときに使用する SSL 証明書ファイルを指定します
SSL接続で動作する場合。 と同等 --cacert に文書化されたフラグ
curlとします。

--圧縮[=レベル]
ブロックをネットワーク経由で送信する前に圧縮します。 これにより、結果的に減少するはずです
ネットワーク トラフィック (両方向) とストレージ コストの削減。

圧縮レベルはオプションです。 指定する場合は、1 (高速圧縮) の間である必要があります。
および 9 (最大の圧縮)。 省略した場合、デフォルトの圧縮レベルは次のとおりです。
中古。

このフラグは、新しく書き込まれたブロックの圧縮のみを有効にします。 減圧は常に
有効にし、必要に応じて適用します。 したがって、このフラグをオンにしても安全です
または、異なる呼び出し間ではオフになります。 s3バッカー 同じファイルシステム上にあります。

このフラグは次の場合に自動的に有効になります。 -暗号化 が使用されますが、次のこともできます
指定する --compress=レベル デフォルト以外の圧縮レベルを設定します。

暗号化された上位層ファイルシステムを使用する場合、このフラグは値を追加しません。
データは圧縮できなくなります。

--directIO
バックアップされたファイルのカーネル キャッシュを無効にします。 これにより、カーネルは常に
読み取りと書き込みを直接渡す s3バッカー。 これによりパフォーマンスが低下しますが、
不一致の原因を XNUMX つ排除します。

- デバッグ
デバッグ メッセージのログ記録を有効にします。 このフラグは次のフラグとは異なることに注意してください。 -d、その
FUSE へのフラグです。 しかし -d FUSE フラグはこのフラグを暗黙的に示します。

--デバッグ-http
HTTP ヘッダーの標準出力への出力を有効にします。

--encrypt[=CIPHER]
ブロックデータの暗号化と認証を有効にします。 OpenSSL のドキュメントを参照してください
サポートされている暗号のリストについては、 暗号が指定されていない場合のデフォルトは AES-128 です
CBC。

暗号化パスワードは、次のいずれかを介して指定できます。 - パスワード or --パスワードファイル。 場合
どちらのフラグも与えられず、 s3バッカー 起動時にパスワードを要求されます。

注: 使用される実際のキーは、パスワード、バケット名、
プレフィックス名 (存在する場合)、およびブロック番号。 したがって、暗号化されたデータは、
異なるバケットまたはプレフィックスに移植されます。

このフラグが意味するのは、 -圧縮.

--消去
ゼロ以外のブロックをすべて削除してファイル システムを完全に消去し、「すでに」をクリアします
「マウント済み」フラグを立てて終了します。 次の場合を除き、ユーザーの確認が必要です。 - 力 フラグ
も与えられます。 この場合、同時マウント検出は実行されないことに注意してください。

このオプションは、 --listBlocks.

--ファイル名=名前
に表示されるバックアップされたファイルの名前を指定します。 s3バッカー ファイルシステム。
デフォルトは「ファイル」です。

--fileMode=モード
に表示されるバックアップ ファイルの UNIX 許可ビットを指定します。 s3バッカー
ファイルシステム。 デフォルトは0600です。 --readOnly が指定されている場合、
デフォルトは0400です。

- 力
で指定された値であっても続行します --blockSize or - サイズ に同意しません
自動検出された値、または s3バッカー 別のことを検出します s3バッカー インスタンスはまだです
同じ S3 バケット (およびプレフィックス) の上にマウントされます。 これらのいずれの場合でも、
このまま続行するとデータが破損するため、 - 力 フラグは避けるべきです
通常の使用。

同時マウント検出では、以前のマウント検出時に誤検知が発生する可能性があります。
s3バッカー インスタンスが正常にシャットダウンされませんでした。 この場合は使用しないでください - 力 焙煎が極度に未発達や過発達のコーヒーにて、クロロゲン酸の味わいへの影響は強くなり、金属を思わせる味わいと乾いたマウスフィールを感じさせます。
むしろ走る s3バッカー 一度一緒に --リセットマウントフラグ フラグ。

If --消去 与えられる、 - 力 原因 s3バッカー ユーザーの確認なしで続行するには。

-h - 助けて
ヘルプメッセージを印刷して終了します。

--initialRetryPause=MILLIS
再試行後の最初の再試行までの最初の一時停止時間をミリ秒単位で指定します。
HTTP 操作が失敗しました。 障害には、ネットワーク障害とタイムアウト、HTTP が含まれます。
エラー、および古いデータの読み取り (つまり、MD5 の不一致)。 s3バッカー 複数作ります
この初期値から開始して、指数バックオフ アルゴリズムを使用して再試行します。
再試行一時停止時間。 デフォルト値は 200ms です。 こちらも参照 --maxRetryPause.

-安全でない
SSL 接続を介して操作する場合は、リモート サーバーの ID を検証しないでください。
に相当 -安全でない に文書化されたフラグ curlとします。

--keyLength
生成されたブロック暗号化キーの長さをオーバーライドします。

のバージョン s3バッカー 1.3.6 より前のバージョンには、
生成された暗号化キーは修正されましたが、システムに依存するため、問題が発生する可能性があります。
一部の暗号については、異なるシステムでは互換性がありません。 バージョン 1.3.6 では、このバグは
修正しました。 ただし、場合によっては、これによって生成されるキーの長さが変更され、
暗号化は、以前に書き込まれたデータと互換性がなくなりました。 このフラグは使用できます
古い固定キーの長さを強制します。 使用したい値は何でもいいです
の定義 EVP_MAX_KEY_LENGTH システム上では、通常は 64 です。

暗号の自然キー長より小さい値を指定するとエラーになります。
ただし、ゼロの値は許可されており、何も指定しないことと同じです。

--listBlocks
起動時にクエリを実行して、どのブロックがすでに存在しているかを確認します。 これにより、
まだ存在しないブロックごとに読み取りがゼロを返す最適化
ゼロ化された書き込みは省略されるため、ネットワーク アクセスが排除されます。 この旗は
新しいバックアップ ファイルを作成する場合、または大規模なバックアップ ファイルが作成されることが予想される場合に便利です。
新しいブロックを初期化するときなど、ゼロ化されたブロックの数が読み書きされます。
ファイルシステム。

このフラグは、ブロック数に正比例して起動を遅くします。
すでに存在しています。

--maxUploadSpeed=BITSPERSEC

--maxDownloadSpeed=BITSPERSEC
これらのフラグは、個々のブロックのアップロードに使用される帯域幅の制限を設定します。
ダウンロード (つまり、設定はスレッドごとに適用されます)。 制限のみが適用されます
HTTP ペイロード データに変換され、HTTP または TCP からの追加のオーバーヘッドは含まれません。
ヘッダーなど

値はビット/秒で測定され、「256k」、「1m」などの略語で表されます。
使用される場合があります。 デフォルトでは、固定制限はありません。

これらのフラグを使用するには、 - タイムアウト フラグをより高い値に設定します。

--maxRetryPause=MILLIS
合計時間をミリ秒単位で指定します s3バッカー 再試行するときは一時停止する必要があります
諦める前に HTTP 操作に失敗しました。 障害にはネットワーク障害や
タイムアウト、HTTP エラー、古いデータの読み取り (つまり、MD5 の不一致)。 s3バッカー 意志
指数関数的バックオフ アルゴリズムを使用して、これまで複数回の再試行を試行します。
最大合計再試行一時停止時間。 この値には、次の処理にかかる時間は含まれません。
HTTP 操作自体を実行します (使用 - タイムアウト そのために)。 デフォルト値は
30000 (30 秒)。 こちらも参照 --initialRetryPause.

--minWriteDelay=ミリス
書き込みが正常に完了するまでの最小時間をミリ秒単位で指定します。
そして同じブロックへの別の書き込みの開始。 この遅延により、S3 が確実に
書き込みを順番どおりに受信しません。 次の場合、この値をゼロに設定する必要があります。
--md5キャッシュサイズ ゼロに設定されます (MD5 キャッシュは無効になります)。 デフォルト値は 500ms です。

--md5キャッシュサイズ=SIZE
MD5 チェックサム キャッシュのサイズを (ブロック数で) 指定します。 キャッシュが
新しいブロックが書き込まれると、空きができるまで書き込みがブロックされます。
したがって、構成することが重要です --md5キャッシュタイム   --md5キャッシュサイズ 従った
ファイルシステム全体および同じブロックへの書き込みの頻度に影響します。
繰り返し。 あるいは、ファイルシステム内のブロック数に等しい値
この問題は解決されますが、いっぱいになると最も多くのメモリを消費します (
キャッシュは約 40 バイトです)。 値をゼロにすると、MD5 キャッシュが無効になります。 デフォルト
値は1000です。

--md5CacheTime=MILLIS
ブロックが正常に書き込まれた後の時間をミリ秒単位で指定します。
次の目的で、ブロックの内容の MD5 チェックサムをキャッシュする必要があります。
後続の読み取り中に古いデータを検出します。 値ゼロは「無限」を意味し、
古いデータの読み取りに対する保証を提供します。 ただし、これだけを行う必要があります
を特定いたします。 --md5キャッシュサイズ ブロックの数と等しくなるように構成されます。 さもないと
デッドロックが(最終的には)発生します。 この値は少なくとも次の値と同じ大きさでなければなりません
--minWriteDelay。 次の場合、この値をゼロに設定する必要があります。 --md5キャッシュサイズ ゼロに設定されます
(MD5 キャッシュは無効になっています)。 デフォルト値は 10 秒です。

MD5 チェックサム キャッシュは再起動後は保持されません。 したがって、確実に
同じ結果整合性保護を維持しながら、 s3バッカー 実行されていないため、遅らせる必要があります
少なくとも --md5キャッシュタイム 停止と再起動の間のミリ秒 s3バッカー.

--noAutoDetect
起動時のブロックとファイル サイズの自動検出を無効にします。 このフラグが指定されている場合、
ブロック サイズのデフォルトは 4096 であり、 - サイズ フラグは必須です。

--password = PASSWORD
暗号化と認証用のパスワードをコマンドライン パラメーターとして指定します。

--passwordFile=ファイル
暗号化と認証用のパスワードを(の最初の行)から読み取ります。
指定されたファイル。

--prefix=STRING
各リソースを識別するバケット内のリソース名の先頭に付加するプレフィックスを指定します。
ブロック。 異なるプレフィックスを使用することで、複数の独立した s3バッカー ディスクは存在できます
同じ S3 バケット。

デフォルトのプレフィックスは空の文字列です。

- 静かな
初回起動時の進行状況の出力を抑制します。

--readAhead=NUM
先読みのブロック数を設定します。 これにより、ブロックの数が決まります
読み取り時にカーネルによって読み取られる最後のブロックよりも先にブロック キャッシュに読み込まれる
先がアクティブです。 ブロック キャッシュが無効になっている場合、このオプションは効果がありません。 デフォルト
値は4です。

--readAheadTrigger=NUM
先読みする前に連続して読み取る必要があるブロックの数を構成します。
アルゴリズムがトリガーされます。 トリガーされると、先読みは、
カーネルはブロックを順次読み取り続けます。 このオプションは、次の場合には効果がありません。
ブロックキャッシュは無効になっています。 デフォルト値は 2 です。

--readOnly
ファイルシステムが読み取り専用でマウントされ、応答として EROFS が返されると想定します。
書こうとするあらゆる試みに対して。 このフラグは、バックアップされたファイルのデフォルト モードも変更します。
0600 から 0400 まで、MD5 チェックサム キャッシュを無効にします。

--region=地域
AWS リージョンを指定します。 このフラグは、地域を含むようにデフォルトのベース URL を変更します。
名前を付けて自動的に設定します --vhost フラグ。

--リセットマウントフラグ
基盤となる S3 データ ストアの「すでにマウントされている」フラグをリセットします。

s3バッカー 特別なフラグをチェックすることで同時マウントを検出します。 以前の場合
の呼び出し s3バッカー 正常にシャットダウンされなかったので、フラグが立っていなかった可能性があります
クリアされました。 ランニング s3バッカー --消去 手動でクリアします。 ただし、以下のバグも参照してください。

--rrs ブロックを書き込む場合は、Reduced Redundancy Storage を指定します。

--size=SIZE
ファイルシステムによってエクスポートされるバックアップされたファイルのサイズ (バイト単位) を指定します。
サイズには、オプションで、キロバイトの場合は「K」、メガバイトの場合は「M」、メガバイトの場合は「G」という接尾辞を付けることができます。
ギガバイト、テラバイトの場合は「T」、エクサバイトの場合は「E」、ゼタバイトの場合は「Z」、またはゼタバイトの場合は「Y」
ヨタバイト。 s3バッカー ブロックを読み取ることでブロック サイズの自動検出を試みます
数字のゼロ。 このオプションが指定されていない場合は、自動検出された値が使用されます。
このオプションを指定しても自動検出された値と一致しない場合、 s3バッカー
そうでない場合はエラーで終了します - 力 も与えられます。

--ssl に相当 --baseURL https://s3.amazonaws.com/

--statsファイル名=名前
に表示される人間が判読できる統計ファイルの名前を指定します。 s3バッカー
ファイルシステム。 値を空の文字列にすると、このファイルの表示が無効になります。 デフォルト
それは「統計」です。

- テスト ローカルテストモードで動作します。 ファイルシステム ブロックは通常のファイルとして次の場所に保存されます。
ディレクトリにジョブを開始します。 DIR。 ネットワークトラフィックは発生しません。

場合に注意してください DIR は相対パス名です (そして -f は与えられません)解決されます
ルートディレクトリからの相対パス。

--timeout=秒
XNUMX 回の HTTP 操作試行の制限時間を秒単位で指定します。 これにより、
接続時間 (まだ接続されていない場合) とデータを含む操作全体
乗り換え時間。 デフォルトは 30 秒です。 この値は調整する必要があるかもしれません
低速リンクや多数のリンクを使用する場合の早期タイムアウトを避けるため、上向きに設定します。
ブロック キャッシュ ワーカー スレッドの数。

参照 --maxRetryPause.

- バージョン
バージョンを出力して終了します。

--vhost
仮想ホスト スタイル リクエストを強制します。 たとえば、これにより次のような問題が発生します。 s3バッカー 使用する
URL http://mybucket.s3.amazonaws.com/path/uri
http://s3.amazonaws.com/mybucket/path/uri.

このフラグは、S3 バケットが場所の制約付きで作成されている場合に必要です
(例: 「EU バケット」)。 別の言い方をすると、このフラグはバケットに必要です
米国地域外で定義されています。 このフラグは、 - 領域
フラグが使用されます。

加えて、 s3バッカー すべての汎用 FUSE オプションも同様に受け入れます。 ここに部分的なものがあります
リスト:

-o uid=UID
バックアップされたファイルのユーザー ID をオーバーライドします。デフォルトは現在のユーザー ID です。

-o gid=GID
バックアップされたファイルのグループ ID をオーバーライドします。これはデフォルトで現在のグループ ID になります。

-o 同期読み取り
同期読み取りを実行します。

-o max_readahead=NUM
最大の先読みを設定します (バイト単位)。

-f フォアグラウンドで実行します (フォークしないでください)。 ログが標準エラーに送信されるようにします。

-d FUSE デバッグ モードを有効にします。 示す -f.

-s シングルスレッドモードで実行します。

加えて、 s3バッカー に最適化された次のフラグを渡します。 s3バッカー ヒューズへ
(ユーザーがコマンドラインでオーバーライドしない限り):

-o カーネルキャッシュ
-o fsname= /
-o サブタイプ=s3backer
-o use_ino
-o エントリータイムアウト=31536000
-o negative_timeout=31536000
-o max_readahead=0
-o attr_timeout=0
-o デフォルトの権限
-o 他を許可する
-o ノード
-o ノスイド

onworks.net サービスを使用してオンラインで s3backer を使用する


無料のサーバーとワークステーション

Windows と Linux のアプリをダウンロード

Linuxコマンド

Ad




×
Advertisement
❤️ここでショッピング、予約、購入してください。料金はかかりません。これにより、サービスが無料で維持されます。