Er wordt tegenwoordig veel gediscussieerd over het wegnemen van barrières voor innovatie. Halfgeleidersystemen vormen de kern van het ontsluiten van vele vormen van technische innovatie, als we maar problemen konden aanpakken zoals de vertraging van de wet van Moore, het terugdringen van het energieverbruik, het verbeteren van de veiligheid en betrouwbaarheid enzovoort. Maar er is nog een behoorlijk substantiële barrière die het onderwerp is van dit bericht. Het is het dramatische verschil tussen processor- en geheugenprestaties. Hoewel systemen van CPU's en GPU's ongelooflijke prestatieniveaus leveren, blijven de herinneringen die kritieke gegevens voor deze systemen beheren aanzienlijk achter. Dit is het geheugenmuurprobleem, en ik zou graag willen onderzoeken hoe Arteris innovatie ontketent door het afbreken van de geheugenmuur geheugen muur.

Wat is de Geheugenmuur?

De afbeelding bovenaan dit bericht illustreert het geheugenmuurprobleem. Je kunt de gestage toename in prestaties van single-threaded CPU's zien, weergegeven door de blauwe lijn. De groene lijn toont de exponentiële prestatieverbetering die wordt toegevoegd door clusters van GPU's. De prestatieverbetering van GPU's versus CPU's wordt geschat op 100x in 10 jaar – een verbijsterende statistiek. Even terzijde: je kunt zien dat de transistor telt voor zowel CPU's als GPU's, geclusterd rond een vergelijkbare rechte lijn. GPU-prestaties worden geleverd door minder taken veel sneller uit te voeren, in plaats van meer transistors naar het probleem te gooien.

Veel systemen zijn tegenwoordig een combinatie van een aantal CPU's die brede beheertaken uitvoeren, terwijl grote aantallen GPU's specifieke taken uitvoeren, vaak gerelateerd aan AI. De combinatie levert de verbazingwekkende doorvoer die we in veel producten zien. Er zit een donkere kant aan deze harmonieuze architectuur, die onderaan de kaart wordt weergegeven. Hier zien we de prestatiegegevens voor de verschillende geheugentechnologieën die alle informatie leveren die deze systemen kunnen verwerken. Zoals u kunt zien, zijn de geleverde prestaties aanzienlijk lager dan die van de CPU's en GPU's die afhankelijk zijn van deze geheugensystemen.

Dit is het geheugenmuurprobleem. Laten we eens kijken naar de unieke manier waarop Arteris dit probleem oplost.

De Arteris-aanpak – een zeer configureerbare cache-coherente NoC

 Een algemeen geaccepteerde aanpak voor het omgaan met lagere geheugentoegangssnelheden is het vooraf ophalen van de vereiste gegevens en het opslaan ervan in een lokale cache. Op deze manier toegang krijgen tot gegevens is veel sneller: een paar CPU-cycli versus meer dan 100 CPU-cycli. Het is een geweldige aanpak, maar het kan lastig zijn om alle software en hardware te implementeren die nodig is om toegang te krijgen tot het geheugen vanuit de cache en ervoor te zorgen dat de juiste gegevens op het juiste moment op de juiste plaats zijn en consistent zijn in alle caches. Systemen die deze oplossing effectief leveren, worden genoemd coherent cachenen het bereiken van dit doel is niet eenvoudig. Een coherentie-implementatie die alleen uit software bestaat, kan bijvoorbeeld maar liefst ~25% van alle CPU-cycli in het systeem in beslag nemen, en is zeer moeilijk te debuggen. SoC-ontwerpers kiezen in plaats daarvan vaak voor cache-coherente NoC-hardwareoplossingen, die transparant zijn voor de software die op het systeem draait.

Onlangs had ik de gelegenheid om te spreken met Andy Nightingale, vice-president productmanagement & marketing bij slagader. Andy heeft uitstekend werk geleverd door de uitdagingen uit te leggen die gepaard gaan met het implementeren van cache-coherente systemen en de unieke oplossing die Arteris heeft ontwikkeld om met deze uitdagingen om te gaan.

Het blijkt dat de ontwikkeling van een betrouwbare en energiezuinige cache-coherente architectuur veel hardware- en softwareaspecten van systeemontwerp raakt. Het kan behoorlijk lastig zijn om alles betrouwbaar en efficiënt te laten werken en de vereiste PPA-doelstellingen te behalen. Andy schatte dat al dit werk 50 bouwjaren per project zou kunnen vergen. Dat is een hoop tijd en kosten.

Het goede nieuws is dat Arteris over aanzienlijke vaardigheden op dit gebied beschikt en dat het bedrijf een complete cache-coherente architectuur heeft gecreëerd in een van zijn Network-on-Chip (NoC)-producten. Andy beschreef Ncore, een complete cache-coherente NoC aangeboden door Arteris. Het beheer van de geheugentoegang past goed in de algehele netwerk-op-chip-architectuur waar Arteris bekend om staat. Ncore beheert het cache-coherente deel van de SoC transparant met software, waardoor de systeemontwerper zich kan concentreren op de uitdagingen op een hoger niveau die gepaard gaan met het verkrijgen van de CPU en al die GPU's om de taak uit te voeren.

Andy stelde een lijst met Ncore-mogelijkheden op die substantieel was:

• Productief: Verbind meerdere verwerkingselementen, waaronder Arm en RISC-V, voor maximale engineeringproductiviteit en versnelling van de time-to-market, waardoor meer dan 50 manjaren per project worden bespaard.
• configureerbaar: Schaalbaar van heterogene tot mesh-topologieën, met ondersteuning voor CHI-E, CHI-B en ACE coherente, evenals ACE-Lite IO coherente interfaces. Met Ncore kunnen niet-coherente agenten van AXI ook optreden als IO-coherente agenten.
• Ecosysteemintegratie: Vooraf gevalideerd met de nieuwste Arm v9-autokernen, waarmee een eerder aangekondigde samenwerking met Arm wordt gerealiseerd.
• Veilig: Ondersteunt de ASIL B tot ASIL D-vereisten voor veiligheidstoepassingen in de automobielsector en is ISO26262-gecertificeerd.
• Efficiënt: Kleiner matrijsoppervlak, lager vermogen en hogere ontwerpprestaties, vergeleken met andere commerciële alternatieven.
• Markten: Geschikt voor Automotive, Industrial, Enterprise Computing, Consumer en IoT SoC-oplossingen.

Andy beschreef enkele van de voordelen die werden behaald met een SoC-ontwerp voor consumenten. Deze omvatten een gestroomlijnde chipvloerplanning dankzij de sterk gedistribueerde architectuur, waardoor een efficiënt gebruik van hulpbronnen werd bevorderd. De krachtige Arteris-verbinding met een hoge bandbreedte en lage latentie zorgde voor een naadloze gegevensoverdracht en verbeterde de algehele systeemprestaties.

Als we wat dieper graven, biedt Ncore ook realtime inzicht in de interconnect-structuur met tracering op transactieniveau, prestatiemonitoring en foutdetectie en -correctie. Al deze functies vergemakkelijken eenvoudig debuggen en superieure productkwaliteit. De uitgebreide ecosysteemondersteuning en compatibiliteit met industriestandaardinterfaces zoals AMBA vergemakkelijken ook een eenvoudigere integratie met componenten van derden en EDA-tools.

Dit was een zeer nuttige discussie. Het lijkt erop dat Arteris de overhead voor de implementatie van cache-coherente architecturen dramatisch heeft verminderd.

Meer leren

Ik noemde enkele details over het werk dat Arteris doet met Arm. Denk niet dat dit de enige partner is waarmee het bedrijf samenwerkt. Arteris wordt wel het Zwitserland van systeem-IP genoemd. Het bedrijf heeft ook veel werk met de RISC-V-gemeenschap gedetailleerd in het SemiWiki-bericht hier.

Arteris heeft onlangs uitbreiding aangekondigd van zijn Ncore-product. Je leest hoe Arteris breidt Ncore cache coherente interconnect IP uit om toonaangevende elektronica-ontwerpen hier te versnellen. In de release zegt Leonid Smolyansky, Ph.D. SVP SoC Architecture, Security & Safety bij Mobileye gaf de volgende opmerkingen:

“We werken sinds 2010 met de netwerk-op-chip-technologie van Arteris en gebruiken deze in onze geavanceerde technologieën voor autonoom rijden en rijhulpsystemen. We zijn blij dat Arteris zijn aanzienlijke technische bekwaamheid heeft ingezet om de problemen van fouttolerantie en betrouwbaar SoC-ontwerp te helpen oplossen.”

Er is ook een korte (iets meer dan een minuut) video waarin de uitdagingen worden uitgelegd die Ncore aanpakt. Ik vond het filmpje behoorlijk informatief. 

Als u verbeterde prestaties nodig heeft voor uw volgende ontwerp, moet u zeker eens goed kijken naar de cache-coherente oplossingen van Arteris. Jij kan Lees hier meer over Ncore. En dat is hoe slagader ontketent innovatie door de geheugenmuur af te breken.

Deel dit bericht via:

• Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
• PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
• PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
• PlatoESG. carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
• Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
• Bron: https://semiwiki.com/ip/arteris/342991-arteris-is-unleashing-innovation-by-breaking-down-the-memory-wall/