Osegi
KI·1 Min. Lesezeit

Cohere entkoppelt KI-Modelle von den Infrastrukturkosten

Cohere trennt seine KI-Modelle von den Kosten der dahinterliegenden Infrastruktur. Die Frage ist, ob das ein nachhaltigerer Weg ist, KI zu skalieren.

Illustration of AI model software separated from rows of data center servers representing infrastructure costs.
Bild: techinasia.com

Cohere hat entschieden, seine KI-Modelle von den Kosten der Infrastruktur zu entkoppeln, auf der sie laufen. Beobachter prüfen nun, ob dieser Schritt ein Vorbild für nachhaltigeres Skalieren von KI sein kann.

Der Ansatz zielt auf ein Spannungsfeld der Branche. Wenn Unternehmen KI breit einsetzen, wachsen die Ausgaben für Rechenleistung und Rechenzentrumskapazität meist mit der Nutzung. Wird der Wert eines Modells an diese Infrastrukturrechnung gekoppelt, lassen sich Budgets schwerer planen und Wachstum schwerer begründen.

Warum die Trennung wichtig ist

Mit der Trennung von Modell und Infrastrukturkosten signalisiert Cohere, dass beides nicht zwingend im Gleichschritt wachsen muss. Kunden könnten ein Modell danach bewerten, was es leistet, und nicht danach, welche Hardware zum Betrieb nötig ist. Für den Markt stellt das die Annahme infrage, dass größere Einsätze automatisch proportional höhere Infrastrukturausgaben bedeuten.

Ob der Ansatz trägt, ist offen. Zu Preismodellen, Bereitstellungsoptionen oder Kundenzahlen liegen keine konkreten Angaben vor. Wie stark sich die Wirtschaftlichkeit für Unternehmen ändert, lässt sich daher noch nicht beurteilen.

Worauf es jetzt ankommt

Entscheidend wird sein, ob andere Anbieter nachziehen und ob Unternehmen bei wachsender KI-Nutzung niedrigere oder besser planbare Kosten sehen. Bewährt sich das Modell, könnte sich der Wettbewerb weg von reiner Infrastrukturgröße hin zu Effizienz und Flexibilität bei der Bereitstellung von KI verschieben.

Apps, die sich lohnen

SUMO: das Zahlenrätsel

Tippe die richtigen Felder, addiere, triff das Ziel. Leicht zu lernen, schwer zu meistern. Kostenlos, für jedes Alter.

Schlagwörter:cohereenterprise aiai infrastructurescaling aipricing

Mehr von diesem Tag

Alle anzeigen →

Mehr aus: KI

Alle anzeigen →