Worden meestal opgebouwd met kleine subeenheden die we nodes noemen. Daarvan woorden duizenden verschillende exemplaren gebruikt. Nodes kunnen dan weer worden georganiseerd in clusters en dan kan het verdeeld worden onder cpu-clusters en clusters met accelleratorkaarten. Supercomputers bestaan tegenwoordig niet alleen meer uit processors, maar ook uit accelleratorkaarten. Er zijn ook storageclusters, waar data wordt opgeslagen op bijvoorbeeld ssd's. Hoeveel processors en videokaarten of andere accellerators je ook in een supercomputer gebruikt, je hebt er weinig aan als al die rekenkracht op data zit te wachten. De onderlinge communicatie tussen bouwstenen is altijd al een grote uitdaging geweest bij het bouwen van supercomputer. Data komt voornamelijk van de terabytes aan werkgeheugen waarover elk stukje van een supercomputer beschikt, en data wordt ook tussen processors uitgewisseld. Hoe goed een supercomputer werkt ligt volledig aan de interconnects tussen de nodes en clusters. Bits moet zo snel mogelijk aan de processor of andere onderdelen worden geleverd, dan kan de rekenkracht optimaal worden benut. Hier moet interconnect voor zorgen. Voorbeelden van interconnects zijn:
- Infiniband
- Omni-Path
- Nvidia’s NVLink-technologie
- ethernet
- Fibre Channel
Om je een beeld te geven van de ontwikkeling van supercomputers vergelijken we de supercomputer van 25 jaar geleden met de supercomputer van nu. De snelste computer uit de Top500 van 1993 was de Numerical Wind Tunnel-supercomputer van Fujitsu. Hij had een rekencapaciteit van 124,5 gigaflops. De vectorsupercomputer had 140 vectorprocessors met allemaal 256MB. Een latere versie had 166 vectorprocessors en een rekenkracht van 170 gigaflops. De snelste computer uit de Top 500 uit 2018 is de Summit van het Amerikaanse Oak Ridge National Laboratory. De rekenkracht is meer als een miljoen keer zo groot, namelijk 200 petaflops. Dat doet de computer met 4608 nodes die allemaal 2 IBM Power9-processors, 6 Nvidia V100 grafische kaarten en 512 gigabyte geheugen hebben. Alle nodes zijn via InfinaBand met elkaar verbonden. De processors en gpu’s in de node zijn via NVLink met elkaar verbonden. De supercomputer bestaat uit 9 megawatt, maar heeft een piekvermogen van 15 megawatt.
