Lars Eichhorst - Energy Solutions

Is the NVIDIA top in as Etched launches ASIC for LLMs 20x faster than H100 GPUs?

Die Technologiebranche erlebt eine aufregende Entwicklung mit der Einführung des neuen AI-Beschleunigerchips Sohu von Etched, einem innovativen Startup aus dem Silicon Valley. Dieser speziell entwickelte ASIC (Application-Specific Integrated Circuit) verspricht eine dramatische Leistungssteigerung für KI-Workloads, insbesondere für große Sprachmodelle (LLMs).

ASICs für mehr Leistungsfähigkeit:

Der Sohu-Chip bietet eine bis zu 20-fache Geschwindigkeitssteigerung im Vergleich zu den leistungsstärksten Nvidia-GPUs. Diese beeindruckende Leistung wird durch die Fokussierung auf Transformermodelle erreicht, die die Grundlage der fortschrittlichsten KI-Systeme bilden. Durch die spezialisierte Architektur des ASICs können diese Modelle effizienter und schneller ausgeführt werden, was zu einer erheblichen Reduzierung der Verarbeitungszeiten führt.

Energieeffizienz:

Ein weiterer bedeutender Vorteil des Sohu-Chips ist seine Energieeffizienz. Trotz der enormen Leistungsfähigkeit verbraucht der Chip weniger Energie als herkömmliche GPUs, was nicht nur die Betriebskosten senkt, sondern auch die Umweltbelastung reduziert.

Performance of Sohu vs top GPUs (Etched)

Finanzierung und Partnerschaften:

Etched hat in einer kürzlich durchgeführten Finanzierungsrunde beeindruckende 120 Millionen US-Dollar eingesammelt. Diese Mittel ermöglichen es dem Unternehmen, seine Technologie weiterzuentwickeln und auf den Markt zu bringen. Darüber hinaus hat Etched strategische Partnerschaften mit führenden Cloud-Anbietern geschlossen, um die Verbreitung und Integration des Sohu-Chips zu beschleunigen.

Offene Softwarearchitektur:

Ein entscheidendes Merkmal der Etched-Technologie ist die offene Softwarearchitektur. Diese ermöglicht es Entwicklern, maßgeschneiderte Transformationsschichten zu implementieren, was die Flexibilität und Anpassungsfähigkeit des Chips erhöht. Durch diese Offenheit wird die Innovationsfähigkeit gefördert und es können spezifische Anforderungen verschiedener Anwendungsbereiche besser erfüllt werden.

Der Sohu-Chip hat das Potenzial, die KI-Landschaft ähnlich wie ASICs im Bitcoin-Mining grundlegend zu verändern. Die Möglichkeit, KI-Modelle schneller und kostengünstiger zu betreiben, eröffnet neue Anwendungsfelder, darunter Echtzeit-Videoverarbeitung, AI-gestützte Gespräche und viele weitere datenintensive Aufgaben.

Fazit und Ausblick:

Mit dem Sohu-Chip von Etched steht eine neue Ära der KI-Hardware bevor. Die Kombination aus hoher Leistung, Energieeffizienz und Flexibilität könnte die Art und Weise, wie KI-Modelle entwickelt und eingesetzt werden, revolutionieren. Diese Innovation verspricht nicht nur technische Fortschritte, sondern auch wirtschaftliche und ökologische Vorteile.