Agile Cat — in the cloud

Cost Analysis: TripAdvisor and Pinterest costs on the AWS cloud
http://wp.me/pwo1E-5f2
Thursday, November 1, 2012 at 9:15AM
http://highscalability.com/blog/2012/11/1/cost-analysis-tripadvisor-and-pinterest-costs-on-the-aws-clo.html

This is a guest post by Ali Khajeh-Hosseini, Technical Lead at PlanForCloud.com. 

これは、PlanForCloud.com の Technical Lead である、 Ali Khajeh-Hosseini のゲスト･ポストである。

ーーーーー

I read a recent blog post about TripAdvisor’s experiment with AWS where they attempted to process 700K HTTP requests per minute on a replica of their live site. There was also an interesting blog post on Pinterest’s massive growth on AWS. These blogs highlighted exactly the types of questions we’re interested in, mainly:

以前に、AWS を用いた TripAdvisor の実験を説明する、ブログ･ポストを読んだ。そこでは、同社のライブ･サイトのレプリカで、毎分 700K HTTPリクエストを処理しようと試みられていた。AWS における Pinterest の、大きな成長についても、やはり興味深いブログ･ポストがあった。 これらのブログは、まさに興味の対象となる問題が、ハイライトされている。 それらは、主として：

1. How much would it cost to deploy System X on Cloud Y? e.g. how much would it cost to host TripAdvisor on the AWS US-East cloud?
2. Would it be cheaper to use deployment option X or Y? e.g. would it be cheaper to use reserved instances, different types of instances, different cloud providers…
3. What happens to costs when the system grows? e.g. Pinterest has around 410TB of data on S3, what if that keeps growing at a rate of 25% every month, like it has been in the last 10 months?

• System X を Cloud Y 上にディプロイした場合のコストは?  例：TripAdvisor を AWS US-East にホストした場合のコストはいくらになる？
• オプション X or Y の利用により、デプロイメントは安くなるのか?  例：リザーブド･インスタンスや、別タイプのインスタンス、あるいは、別のクラウド･プロバイダーを利用すれば安くなるのか…
• システムが急成長した場合に、どのような変化がコストに生じるのか? 例： Pinterest は S3 に 410TB のデータをストアしている。もし、同社における、この10ヶ月のように、月に 25% のレートで成長したら、どうなる?

I created a couple of deployments in PlanForCloud to explore these questions and the results are very interesting – they show how important it is to get an idea of costs and budget for cloud spend prior to using the cloud:

一連の問題点を掘り下げるために、PlanForCloud 上に 2つのディプロイメントを構成したが、その結果はきわめて興味深いものであった。 つまり、クラウドを使い始める前に、クラウドで消費されるコストと予算について考えることが、如何に重要かという点を示している：

1. TripAdvisor’s "700K requests/minute" deployment on the AWS US-East cloud – how much would it cost?

What does the deployment look like?

このディプロイメントは、どのようなものなのか？

Servers
- 270 x Hi-Memory XLarge (m2.xlarge) running 24 hours/day as front end servers.
- 70 x Hi-Memory XLarge (m2.xlarge) running 24 hours/day as back end servers.
- 32 x  Hi-Memory Xlarge (m2.xlarge) running 24 hours/day as memcache servers.

Storage
- 5TB of EBS with snapshots to S3 every month for backups of all databases.

Data Transfers
- 145TB of data going out to users every month (around 200GB/hour).

What do the costs look like?

このコストは、どのように見えるだろう？

As expected, the majority of costs are going towards their server and database running hours. The total cost of this deployment would be around $140,000 per month which translates to around $1.7M per year. Now the interesting question:

予測されたように、大半のコストは、実行されるサーバーとデータベースの、時間あたりの単価に集約される。このディプロイメントにおけるトータル･コストは、1年で 約 ＄1.7M であり、1ヶ月では約 $140,000 になるだろう。 そして、ここで興味深い疑問が生じてくる：

2. How much would be saved if TripAdvisor’s deployment used AWS Reserved Instances?

If TripAdvisor was to use 1-year Heavy Utilized servers, they would immediately start to save around $800,000 per year, and that’s not even including AWS’s Volume Discounts that might apply in this case as a large number of reserved instances would be purchased.

もし TripAdvisor が、1-year Heavy Utilized サーバーを使っていたなら、そのスタート時点から、1年に約 $800,000 を節約していただろう。 そして、この計算には、大量のリザーブド･インスタンスを購入するつれて適用される、AWS の Volume Discounts すら含まれていない。

3. What would happen to Pinterest’s storage cost if they keep growing at a rate of 25% every month?

Pinterest has around 410TB of user data on AWS S3, which costs around $39K per month on S3 Standard Storage. If this figure grows by 25% every month, like it has been for the last year, Pinterest would have to pay around $470,000/month one year from now if they keep using S3 Standard Storage. The same amount of user data would cost around $319,000/month if they use S3 Reduced Redundancy storage.

Pinterest は、約 410TB のユーザー･データを AWS S3 にストアしており、 S3 Standard Storage に対して 1ヶ月で $39K の対価を支払っている。 もし、この数字が、昨年に起こったように、月ごとに 25% のレートで増大するなら、Pinterest が S3 Standard Storage を使い続ける限り、1年後には $470,000／月の対価を支払うことになる。しかし、S3  Reduced Redundancy ストレージを使うなら、同量のユーザー･データに対して、$319,000／月の対価で済むようになる。

The payoffs in these cases are as follows:

• For TripAdvisor (and any company that is thinking of running long term projects/sites on AWS), they should take reserved instances seriously. For example, the TripAdvisor 700K system would save around $800K/year if it uses reserved instances vs on-demand (I know this was short-lived experimental system, but I’m just using it as an example). This requires no change to the architecture or the system itself, it’s simply a matter of doing some forecasting to ensure you can handle the upfront charges in your cashflow. Companies can also buy their reserved instances in stages to stagger the upfront costs.
• For Pinterest (and any company that is looking to grow their systems on the cloud), they should use growth patterns to do "what-if" style analysis to a) understand the costs of elasticity b) compare deployment options. For example, Rackspace released their cloud block storage services; their SSD option is similar to AWS EBS Provisioned IOPS but it’s much more expensive.

• TripAdvisor は（ AWS 上で長期のプロジェクト／サイトを運用しようとする、あらゆる企業も）に、そのリザーブド･インスタンスを、真剣に受けとめるべきでだ。 たとえば、 TripAdvisor の 700K システムが、オン･デマンド（それが、短期間の実験システムであったことを知っているが、いまは単なる例として用いている）ではなくリザーブドのインスタンスを使っていたなら、 $800K／年程度の節約が可能だったろう。そのために、アーキテクチャやシステム自身の変更は不要である。ただし、キャッシュ･フローにおいて、前払いの料金を確実に消化できるラインを、予測すべきという論点が生じてくる。 なお、前払いの発生をずらすために、何回かのステージに分けて、リザーブド･インスタンスを購入することができる。
• Pinterest は（クラウド上で、システムの成長を期待している、あらゆる企業も）、"what-if" スタイルの分析を行う、成長パターンを用いるべきである。つまり、a:コストにおける柔軟性を理解する。b:ディプロイメントのオプションを比較する。 たとえば Rackspace は、クラウド･ブロック･ストレージ･サービスを発表した。 しかし、彼らの SSD オプションは、AWS EBS Provisioned IOPS と同等であっても、そのコストはずっと高価なものとなる。

Either way, like with any other purchasing decision, it’s good to compare your options and have a rough idea of your monthly bills.

いずれにせよ、あらゆる購入行動における判断と同様に、オプションを比較し、毎月の請求額について、ラフな予測を立てるのが良いだろう。

ーーーーー

文中にもありますが、先日にポストした 『 Pinterest のアーキテクチャと経済： AWS を使い倒せ！』 の続編という感じの抄訳です。 ただし、High Scalability の Todd Hoff さんではなく、PlanForCloud の Ali Khajeh-Hosseini さんによるゲスト･ポストとのことです。この PlanForCloud ですが、RightScale を活用したサービスということなのでしょうか？ なかなか、面白い試みですね。

ーーーーー

＜関連＞

Amazon が安いのか？ Hosting が安いのか？ コスト分析モデルで比較する！
Amazon が通り過ぎた後に、どれだけのクラウドが生き残れるのか？
Amazon AWS の年商は、どう見ても $ 1 billion を超えている
Amazon Glacier は、DEEP & FREEZE なコールド･データを取り扱う
DynamoDB および、ホット SSD + コールド S3 というパターン