Skalierbarkeit von Oracle RAC für DWH-Applikationen

Skalierbarkeit von Oracle RAC für DWH-Applikationen Technical White Paper Februar 2007 Karol Hajdu und Christian Antognini Trivadis AG 1 Ziel dieses White Paper ............................................................................................................. 2 2 Einführung ................................................................................................................................. 3 2.1 Performance in DWHs........................................................................................................ 3 2.2 Skalierbarkeit in DWHs ...................................................................................................... 3 2.3 Ziele des Trivadis Testvorhabens......................................................................................... 5 3 Management-Summary .............................................................................................................. 5 4 Design der Testfälle ................................................................................................................... 7 5 Testinfrastruktur ....................................................................................................................... 10 6 Interpretation der Resultate ...................................................................................................... 11 6.1 Kommunikation der PX-Slaves via Interconnect (Inter-Node-Kommunikation) .................... 12 6.2 Load Balancing ................................................................................................................. 18 7 „Leasons learned“ für den praktischen Einsatz von RAC ........................................................... 19 7.1 Design der DWH-Applikationen ....................................................................................... 19 7.1.1 OLAP-Bereich............................................................................................................ 19 7.1.2 Abfragen auf Basis sehr feiner Einzelaussagen ............................................................ 20 7.1.3 ETL-Bereich ............................................................................................................... 21 7.2 Dimensionierung der Hardware-Infrastruktur: Verhältnis Knoten-Stärke zur Knoten-Anzahl 22 7.2.1 Generell .................................................................................................................... 22 7.2.2 Bedarf für Abfrageapplikationen................................................................................. 22 7.2.3 Bedarf der ETL Applikation ........................................................................................ 23 7.3 Konfiguration der Datenbank sowie der Instanzen............................................................. 24 7.3.1 Degree of Parallelism (DOP) ...................................................................................... 24 7.3.2 Grösse des PX-Message-Buffers (PARALLEL_EXECUTION_MESSAGE_SIZE)................ 24 7.3.3 Load-Balancing .......................................................................................................... 25 8 Weiterentwicklung von RAC: Empfehlungen und Erwartungshaltung........................................ 25 9 Abkürzungsverzeichnis ............................................................................................................ 26 Skalierbarkeit von Oracle RAC für DWH-Applikationen 1/29 1 Ziel dieses White Paper Applikationen für Data Warehouses (DWHs) stellen im Bezug auf Virtualisierung und Skalierbarkeit sehr spezifische Anforderungen, die sich teilweise erheblich von denen einer OLTP-Applikation unterscheiden. Dieses White Paper erläutert in groben Zügen diese spezifischen Anforderungen. Viele davon können durch eine Oracle Datenbank – sowohl bei RAC- (Oracle Real Application Clusters) als auch bei Non- RAC-Konfigurationen – gleichermassen gut erfüllt werden. Und wie die Praxis zeigt, werden sie auch erfüllt. Der Kern dieses White Papers widmet sich jenem Teil der DWH-Anforderungen an RAC, für den nur sehr wenige Erfahrungsberichte aus der Praxis vorliegen. Mit Unterstützung von Sun Microsystems hat Trivadis eine Reihe von Tests entworfen und durchgeführt. Dieses White Paper liefert technische Aussagen dazu, ob, wie und unter welchen Voraussetzungen eine Oracle RAC-Datenbank für eine DWH-Applikation skaliert. Bei OLTP-Applikationen stellt der Einsatz von RAC eine sinnvolle und bewährte Lösung dar, die Verfügbarkeit der Datenbank zu erhöhen. Im DWH-Bereich bietet Oracle eine skalierbare Datenbank-Engine an, in der eine Vielzahl von hochleistungsfähigen, auf DWH-Problemstellungen zugeschnittenen Features eingebaut sind – zum Beispiel Star Transformations, Query Rewrite, Partitionierung und Parallel Processing. Der Einsatz dieser Features innerhalb einer Non-RAC-Datenbank fand in den letzten fünf bis sieben Jahren eine breite Anwendung bei vielen DWH-Applikationen. Diese Applikationen wurden meist als zentrale DWH-Rechner aufgestellt, nach Bedarf wurden dann zusätzliche CPUs, Disk-Subsysteme oder Memory-Units integriert (sogenanntes Scale-Up). In den letzten Jahren sind bei vielen Kunden einerseits die DWH Anforderungen so gestiegen, dass diese die höchsten Ausbaustufen eines zentralen Rechners übersteigen, andererseits liegen die Initial- und Ausbau-Kosten eines solchen High-End-Servers viel höher als diejenigen für mehrere kleindimensionierte Rechnern zusammen (sogenanntes Scale-Out). In dieser Situation liegt der Gedanke nahe, den Oracle RAC auch im DWH-Bereich einzusetzen. Die Virtualisierung1 der neu zugefügten Hardware-Ressourcen ist beim Scale-Up-Ansatz die Aufgabe von Hardware und Betriebsystem, denn aus Oracle Sicht handelt es sich um einen einzigen Rechner. Beim Scale-Out-Ansatz ist die Oracle Software – das heisst RAC – für die Virtualisierung der Hardware Ressourcen zuständig. Neben den technologischen Überlegungen spielen beim Thema Datenbank-Skalierung auch die finanziellen Überlegungen – Stichwort Total Cost of Ownership – eine zentrale Rolle. Solche Überlegungen wurden in diesem White Paper bewusst ausgeschlossen, denn sie hängen sehr stark vom konkreten Projekt, der Preisgestaltung und -flexibilität des jeweiligen Hardware- und Software- Anbieters ab. 1 Mit Virtualisierung ist gemeint: einzelne Ressourcen werden nach Typ zusammengefasst und via einem Abstraktions- Layer einer Applikation zur Verfügung gestellt. Skalierbarkeit von Oracle RAC für DWH-Applikationen 2/29 Neben den gesammelten Erkenntnissen gibt Trivadis in diesem White Paper auch Empfehlungen für das Design, die Implementation und die Konfiguration von DWH-Systemen. Dieses White Paper bezieht sich auf die Oracle Database 10g Enterprise Edition Release 2. 2 Einführung 2.1 Performance in DWHs Unter Performance in DWHs versteht Trivadis folgendes: • ETL-Jobs werden in ihren definierten Zeitfenstern beendet. • Abfragen, die oft von Anwendern ausgeführt werden, sollten nur wenige Hardware-Ressourcen beanspruchen. • Zur Tageszeit wird die Ressourcenvergabe auf solche Weise priorisiert und gegebenenfalls provisioniert, dass das Erzielen einer optimalen Performance2 bei einer bestimmten Anwendergruppe3 nicht zum Verlust der garantierten Performance4 bei einer anderen Anwendergruppe führt. Der Oracle Datenbank-Engine gehört im Bezug auf DWH-Performance klar und deutlich zu den Marktführern. Er bietet sehr viele nützliche Features, die sich in der Praxis bei Design und Implementierung grosser DWH-Applikationen erfolgreich bewährt haben. Dazu gehören: • Eine fest eingebaute und verlässlich funktionierende Parallelisierung von umfangreichen Datenbank-Operationen: SELECTs, DMLs, Anlegen von Indexen und Constraints, Stored Aggregates und Berechnung der Objekt-Statistiken für Query Optimizer. • Anlegen, Pflege sowie insbesondere sinnvolle Verwendung von Speicherstrukturen (zum Beispiel Indexe, Materialized Views und partitionierte Objekte), die zu einer wesentlich verminderten Verwendung von Hardware-Ressourcen und dadurch zu kürzeren Antwortzeiten führen (beispielsweise Star Transformation, Query Rewrite, intelligentes Partition Pruning). 2.