From the blog

Big Compute Podcast – New Architectures for HPC

In this Big Compute podcast episode, host Gabriel Broner interviews Mike Woodacre, HPE Fellow, to discuss the shift from CPUs to an emerging diversity of architectures. Hear about the evolution of CPUs, the advent of GPUs with increasing data parallelism, memory driven computing, and the potential benefits of a cloud environment with access to multiple architectures.

Register for Future Big Compute Podcast Episodes

Overview and Key Comments

Emerging Architectures

After many years of CPU architectures doubling in performance every eighteen months we have reached a plateau due to constraints of miniaturization and power. This has led to a new era of diversity with systems that use CPUs, GPUs, FPGAs, etc. Woodacre welcomes the new diversity after years of consolidation and commoditization:

“It is a really exciting time in the industry. We are going back to the variety we used to have. Because volumes and commoditization, we gravitated to a few variants. As we started hitting the limits of the ability to scale we are seeing a new era of specialization. At a time data continue to grow exponentially, there are new business reasons to develop unique architectures. The challenge is to pick the right tool for the job.”

The Evolution of CPUs

CPUs have evolved in the last few generations. They have increased the number of cores, and they have increased its memory bandwidth.

“The biggest change has been the continuing growing number of cores. The challenge is how you feed them. You need more memory bandwidth, I/O.”

“When you analyze HPC applications, pretty soon memory bandwidth is the limiting factor. Skylake can go from 4 cores to 28 cores, but in some benchmarks you may top out at 12 cores because of memory bandwidth.”

GPUs, which initially started as the graphical processing unit are, according to Woodacre, “the ultimate data parallel device” which has found success in AI/machine learning/deep learning:

“Deep learning at the core is a matrix multiplication, and you can take advantage of the multiple multiplication units to perform training in hours, not weeks.”

Memory Driven Architectures

Emerging memory driven architectures hold all data in memory and they can accelerate insights and make us rethink workflows:

“Data continues to grow exponentially and traditional architectures cannot cope. By having data in memory you remove the storage bottlenecks and speed up the analysis work. You can take the current pipeline of preprocessing, simulation, analysis, and by keeping data in memory achieve tremendous speedups.”

Cloud as an Enabler

Cloud helps enable this new diversity of architectures. As each application and workflow benefit from a different architecture, cloud allows different applications to run on different architectures to effectively use the right tool for the job.

“Security of cloud used to be a concern but it’s now pretty much in the background. The public cloud provides an entry point to explore all these architectural options. If the software applications and licensing is provided, that helps people with the on-ramp. In the end you have to decide what makes the most business sense for you.”

Mike Woodacre

Mike Woodacre is a Fellow at HPE. Over the years Mike has been a systems architect and Chief Engineer at MIPS, SGI and HPE, where he set direction for hardware architectures.

Gabriel Broner

Gabriel Broner is VP & GM of HPC at Rescale. Prior to joining Rescale in July 2017, Gabriel spent 25 years in the industry as OS architect at Cray, GM at Microsoft, head of innovation at Ericsson, and VP & GM of HPC at SGI/HPE.

Related articles

クラウドHPCの3つの隠れたメリット

Rescaleの米国中部地域担当セールスのJJ Jonesがポストしたブログ記事の翻訳です。 元記事は3 Hidden Benefits of Cloud HPCをご覧ください。 企業は、クラウド上のハイパフォーマンスコンピューティング(HPC)に移行し、柔軟で多様な、従量課金型のHPCリソースへのアクセスを実現しつつあります。同時に、これらの資産を管理することや膨大な資本と時間を費やすことの必要がなくなりました。シミュレーションをクラウドのHPCリソースへ移行することで、企業は以前からは想像もできない規模で多彩な標準タイプおよび特殊タイプのハードウェアを活用できます。クラウドを活用することで、エンジニアリングスタッフの潜在力を発揮し、イノベーションを次のレベルに引き上げることができます。クラウドHPCが成熟するにつれて、これらの明らかな利点は、HPCワークロードに対するクラウドへの動きを促進することです。しかし、定量化を明らかにしづらいその他の利点がしばしば見落とされていますが、それらは本当のクラウドの変革の力を表しています。 この記事では、クラウドに移行することで見過ごされがちな、変革上の3つの利点を見ていきます。 1.トップレベルのエンジニアのリクルーティングや雇用維持 多くの企業が、クラウド資源へアクセスできる環境を保有することが、高い能力を持つエンジニアのリクルーティングや雇用維持に役立つことに気付いています。業界(産業)に関係なく、技術者は仕事に最適なツールを求めています。最速のクルマを持つレースチームが確実に最も有能なドライバーを引き付けるように、最高のツールを提供する組織は最高の才能を引き付けることができます。チームに対して、クラウドで利用可能なシミュレーション機能にに対して深く幅広いアクセスを提供する企業は、現在のハードウェア環境に対する不満を防ぎます。新しい技術が利用できるようになると、エンジニアは既存の社内リソースが完全に償却されるのを待つことなく、流通する最新のテクノロジーにアクセスすることができます。これは、最高の才能を引きつけ維持する企業の能力に顕著な影響を与えています。最近のクラウドカンファレンスでパネルの中であるグローバルCIOが次のように述べました。「従来のインフラストラクチャを利用しているなら、偉大なプレイヤーは得られません」 2.組織のアジリティ 見過ごされがちなもう一つの利点は、クラウドが組織にもたらす全体的な柔軟性です。革新的なアイデアを提供したり、新説を打ち立てたりするためには、企業や従業員は最新のテクノロジーにアクセスする必要がありますが、設備投資は痛みを伴う(そして危険な)決定になる可能性があります。いったん組織が資金を確保し、長期的な調達プロセスを維持すると、現在の作業負荷を中断することなく移行するために人材配置をどうしたらよいのかという葛藤に直面します。クラウドによって、企業は必要に応じて素早く資産にアクセスすることができます。さらに、既存のワークロードを拡張してシミュレーション時間を短縮し、同時シミュレーションを実行することで、チームが日常的なタスクをより迅速に実行できるようになり、将来的に実行可能なタスクに集中できるようになります。この俊敏性と応答性は、企業が自社製品を次のレベルに引き上げることを可能にします。 上記の利点についての最も良い点は、それらを実現するためにクラウドに完全に移行する必要がないことです。既存の社内HPCリソースを使用している組織でも、引き続きそのリソースを使用可能です。才能のあるエンジニアに可能性を与えたり、新製品をリリースしたりする必要がある場合、クラウドの利用が突発させることも可能です。これを行うには、クラウドプロバイダーがターンキーであり、使用に長期的なコミットメントを必要としないことが重要です。(P.S. Rescaleはそうではありません!) 3.ITではなく、組織のコアコンピタンスにフォーカス 最後に、クラウドによって、組織はそのコアビジネスに集中することができます。あなたは飛行機や自動車を作ることができますし、薬を創ったり人工知能ツールをデザインすることもできますが、あなたはIT企業ではありません。企業は、膨大な時間とコストを費やすことに慣れてきており、正しいコンピューティングリソースがコアビジネスをサポートできるようになります。過去には選択肢がありませんでした。クラウドを完全に活用することで、組織はビジネスを推進する重要な戦略目標に集中して、必要なリソースの保守や管理をそのリソースを主要ビジネスとする人々に任せることができるようになります。ITチームは、従業員中心型のプロセスのサポートに集中するのを止めて、顧客中心型の収益創出活動に集中することができるようになります。 これらの隠されたクラウドへの移行の利点は、ROIの計算には簡単には現れません。これらのつかみどころのない側面の真の価値を数値化することは困難です。つまり、明白な利点は、クラウドへの移行を正当化するのにあまりに多く語られています。しかし、これらのつかみどこころのない利点は、組織がクラウドに移行すると必然的に現れます。これらは損益計算書に数値として直接表示されないかもしれませんが、市場シェアや収益性のような中核的なビジネス目標の長期的な上昇を目にすることによって、これらの存在を知ることになります。

read more »

Rescale Announces Technology Partnership with AVL List GmbH

Graz, Austria – Rescale, Inc. and AVL List GmbH are pleased to announce a technology partnership that allows users of AVL FIRE®, a powerful, multi-purpose, thermo-fluid dynamics CFD software product to run on the Rescale simulation platform. AVL FIRE® users […]

read more »

Leave a Reply

Your email address will not be published. Required fields are marked *