Sie sind hier: Startseite » Markt » Hintergrund

CPUs und DSAs für Cloud- und KI-Erfolg


AI Computing: eine Chimäre der digitalen Welt
DSAs sind auf Aufgaben wie die KI-Verarbeitung spezialisiert und daher unglaublich schnell bei der gleichzeitigen Ausführung sich wiederholender Berechnungen


Die Chimäre ist in der griechischen Mythologie eine Kreuzung aus Löwe, Ziege und Schlange. Sie hat den Kopf des Löwen, den Körper der Ziege mit einem weiteren Ziegenkopf auf dem Rücken und den Schwanz der Schlange. Nebenbei spuckt das Untier auch noch Feuer. Heute bezeichnet der Begriff unter anderem technische Konzepte, die auf der Kombination verschiedener Ansätze beruhen.

So kann man sich die Kombination von CPU (Central Processing Unit) und DSA (Domain Specific Accelerator) als eine moderne Chimäre vorstellen. Ähnlich wie die mythische Bestie besitzt dieser technologische Hybrid unterschiedliche Stärken, die zu einer einzigen, beeindruckenden Einheit kombiniert werden. Die CPU herrscht über Kontrolle und Logik, sie steuert die Aufgaben und sorgt für Ordnung. Der DSA zeichnet sich durch seine spezialisierte parallele Verarbeitung aus, mit der er sich wiederholende Berechnungen bewältigt, die für die KI unerlässlich sind. Die Konnektivität zwischen ihnen gewährleistet eine nahtlose Kommunikation und Energieübertragung, so dass die Lösung ihre volle Rechenleistung entfalten kann.

In der heutigen Welt der ständig steigenden Rechenanforderungen ist es wichtig, das richtige Gleichgewicht der Rechenleistung zu finden. Von traditionellen Geschäftsanwendungen bis hin zu modernster KI benötigen Unternehmen eine flexible und effiziente Infrastruktur. Genau hier kommt die Kombination aus CPUs und DSAs zum Tragen.

CPUs sind die Gehirne von Computern, die eine große Anzahl von vielseitigen Anwendungen bewältigen. Sie zeichnen sich durch sequenzielle Verarbeitung und die Bewältigung einer breiten Palette von Aufgaben aus. CPUs allein können hauptsächlich herkömmliche KI-Inferenzmodelle sehr gut zusammen mit (Large Language Models) LLMs mit geringer Stapelgröße ausführen. Wenn jedoch mehr Leistung benötigt wird, kommen DSAs zum Einsatz.

DSAs sind auf Aufgaben wie die KI-Verarbeitung spezialisiert und daher unglaublich schnell bei der gleichzeitigen Ausführung sich wiederholender Berechnungen. Es gibt sie in vielen Formen, Größen und Bezeichnungen: GPUs, TPUs, ASICs, FPGAs, VPUs, usw. Ihre besondere Stärke macht sie zur treibenden Kraft hinter der KI-Inferenz. Wenn es um LLMs oder hochspezialisierte Modelle und Datensätze geht, bieten DSAs die zusätzlich benötigte Rohleistung.

Warum CPUs und DSAs kombinieren?

>> Kosteneffiziente Vielseitigkeit:
Durch die Nutzung sowohl von CPUs als auch von DSAs gewinnen Cloud-Umgebungen an Flexibilität. Herkömmliche Workloads können problemlos auf CPUs ausgeführt werden, während die größten oder spezialisiertesten KI-Inferenzaufgaben auf die DSAs verlagert werden können, um die Leistung zu beschleunigen und die Kosten und Ressourcenzuweisung zu optimieren.

>> Nahtlose Arbeitsabläufe: Bei komplexen KI-Anwendungen arbeiten CPUs und DSAs auf komplementäre Weise zusammen. Die CPU kann die Vorverarbeitung von Daten, die Aufgabenkoordination und das Gesamtmanagement übernehmen, während der DSA die komplexen und spezialisiertesten Berechnungen für das KI-Modell durchführt.

>> Einfache Skalierbarkeit: Cloud-Umgebungen mit einer Mischung aus CPU- und DSA-Instanzen können je nach den Anforderungen herkömmlicher Arbeitslasten und der KI-Inferenz einfach nach oben oder unten skaliert werden, um sicherzustellen, dass die Ressourcen stets effizient genutzt werden.

KI wird Teil aller Anwendungen werden
Isolierte künstliche Intelligenz ist Geschichte. Die Zukunft erfordert KI als wesentlichen Baustein für jeden Service und jede Anwendung. Da Server länger im Einsatz bleiben, müssen Unternehmen Ihre Infrastruktur der nächsten Generation mit möglichst vielen Rechenkernen und KI-Beschleunigung ausstatten. So stellen sie sicher, dass ihre Services heutigen und zukünftigen Anforderungen genügen. (Ampere Computing: ra)

eingetragen: 18.09.24
Newsletterlauf: 23.10.24

Ampere: Kontakt und Steckbrief

Der Informationsanbieter hat seinen Kontakt leider noch nicht freigeschaltet.


Kostenloser PMK-Verlags-Newsletter
Ihr PMK-Verlags-Newsletter hier >>>>>>


Meldungen: Hintergrund

  • Datenschutzstrategien für hybride IT

    Eine von Arcserve beauftragte unabhängige Befragung unter IT-Führungskräften ergab, dass 80 Prozent schon einmal von Ransomware betroffen waren. Während 82 Prozent der Betroffenen angaben, dass sie den Schaden innerhalb von 48 Stunden beheben konnten, war dazu knapp ein Fünftel nicht in der Lage. Problematisch ist auch, dass bis zu 30 Prozent der Daten bei einem erfolgreichen Ransomware-Angriff nicht wiederhergestellt werden konnten.

  • Cloud-basierte Monetarisierung löst Probleme

    Mit ihrer jahrzehntelangen Erfahrung im Management wiederkehrender Kundenbeziehungen sind Telekommunikationsunternehmen (Telcos) attraktive Partner in der Abonnement-Wirtschaft. Ihr großer Kundenstamm, der sich durch historisch niedrige Abwanderungsraten auszeichnet, bietet eine solide Grundlage, um vom wachsenden Abonnementmarkt zu profitieren.

  • Fokus auf Datenschutz & Compliance

    IT-Ausgaben in der Finanzbranche werden 2025 auf über 58 Milliarden USD steigen, während Technologien wie generative Künstliche Intelligenz (GenAI) Arbeitsabläufe, Datenmanagement und Kundeninteraktionen revolutionieren. Gleichzeitig wird der sich vollziehende Generationswechsel bei den Anlegern endgültig ein neues Level an Digitalisierung fordern. Fünf zentrale Trends werden diesen Wandel prägen: die Optimierung von Kundenerlebnissen, die Einführung modularer Architekturen, datengetriebene Innovationen, die Konvergenz von Branchen und ein verstärkter Fokus auf Datenschutz und Compliance.

  • Optimierung der Cloud-Kosten oberste Priorität

    Das Jahr 2024 war das "Jahr der generativen KI", was zu einer raschen Ausweitung der Datenerzeugung, -verwaltung und -konsolidierung führte. Dieser Anstieg zeigt keine Anzeichen einer Verlangsamung. Darüber hinaus kam es 2024 zu den ersten großen Angriffen auf die Lieferkette auf globaler Ebene, angeführt von CrowdStrike, die Unternehmen dazu zwangen, die Cybersicherheit auf allen Ebenen zu überdenken.

  • Hybrid-Cloud als ausgewogenere Lösung

    Durch den rasanten technologischen Wandel sind datengesteuerte Initiativen in modernen Geschäftsstrategien wichtiger denn je. Im Jahr 2025 stehen die Unternehmen jedoch vor neuen Herausforderungen, die ihre Datenstrategien, ihre Bereitschaft für Künstliche Intelligenz (KI) und ihr allgemeines Vertrauen in Daten auf die Probe stellen werden. Insgesamt ist die Bereitschaft für KI in internationalen Unternehmen sehr gering (17 Prozent).

  • Hybride Ansätze statt Cloud Only

    Wie sieht die Perspektive für das Dokumentenmanagement im Jahr 2025 aus? Die Zukunft ist digital, so viel ist sicher. Mit der E-Rechnungspflicht, künstlicher Intelligenz und Cloud-Technologien stehen grundlegende Veränderungen bevor. Der DMS-Experte easy software AG hat die relevantesten Branchentrends zusammengefasst.

  • Migration in die Cloud

    Die Versicherungsbranche befindet sich in einem rasanten Wandel. Fadata, Anbieterin von Softwarelösungen für die Versicherungsbranche, wirft einen Blick auf das Jahr 2025 und beleuchtet die wichtigsten Entwicklungen und Trends in den Bereichen Versicherung und digitale Transformation. Die wichtigsten Trends, die laut Fadata die Zukunft der Versicherung prägen werden, sind Internalisierung, Prävention, Cloud-Migration, Embedded Insurance, Ökosystem-Entwicklung und Talent-Transformation. Diese sechs Trends treiben transformative Veränderungen in der gesamten Branche voran, wobei die Versicherer innovative Ansätze verfolgen, um Kundenbedürfnisse, betriebliche Effizienz, Sicherheit, Risiken und Marktanforderungen zu adressieren. Versicherer werden im Jahr 2025 ihre wichtigsten Abläufe zunehmend internalisieren. Sie wollen ihre Abläufe straffen, Kosten senken und die Datensicherheit erhöhen. All dies kann durch die verbesserte Steuerung der Prozesse erreicht werden, die eine Internalisierung ermöglicht.

  • NIS2 wird Bewusstsein für CPS-Sicherheit stärken

    Und wieder liegt ein herausforderndes Jahr hinter uns. Die geopolitische Lage insbesondere in der Ukraine und im Nahen Osten ist weiterhin angespannt, während die innenpolitische Situation in den zwei stärksten Volkswirtschaften Europas derzeit ungewiss erscheint. All dies hat auch Auswirkungen auf die Cybersecurity. Schon längst sollten wir dabei nicht nur an IT-Sicherheit denken, sondern auch an IoT und Betriebstechnik (OT), also an cyber-physische Systeme (CPS).

  • Generative KI mit bemerkenswerten Fortschritte

    Generative Künstliche Intelligenz (generative KI) hat in den letzten Jahren bemerkenswerte Fortschritte erzielt. Dies ist auch auf die steigende Zahl von Entwicklern zurückzuführen, die über ein immer umfangreicheres Know-how verfügen. Doch eine Frage brennt Unternehmen wie Investoren unter den Nägeln: Wann lässt sich mithilfe von KI die betriebliche Effizienz auf das nächste Level heben?

  • Datendschungel: Herausforderung & Chance

    Das Jahr 2024 markierte einen Wendepunkt für die generative KI. Chat GPT und andere Akteure haben sich zu einigen der am schnellsten wachsenden Plattformen der letzten Zeit entwickelt. Doch inmitten dieser aufregenden KI-Revolution wird ein entscheidender Aspekt oft übersehen: das Datenmanagement. Ein starkes und durchdachtes Datenmanagement könnte der Schlüssel sein, um das volle Potenzial von KI-Lösungen zu entfalten.

Wir verwenden Cookies um unsere Website zu optimieren und Ihnen das bestmögliche Online-Erlebnis zu bieten. Mit dem Klick auf "Alle akzeptieren" erklären Sie sich damit einverstanden. Erweiterte Einstellungen