Osegi
AI·1 min czytania

Lenovo uruchamia „fabrykę tokenów AI” z myślą o chińskim rynku inferencji

Lenovo uruchomiło fabrykę tokenów AI, która kieruje złożone zadania do większych modeli, a proste interakcje do mniejszych. Celem jest chiński rynek inferencji.

Rows of AI servers in a data center illustrating Lenovo's token factory for inference workloads.
Zdjęcie: techinasia.com

Lenovo uruchomiło system określany jako fabryka tokenów AI, który ma odpowiadać na rosnący w Chinach popyt na inferencję, czyli uruchamianie gotowych modeli sztucznej inteligencji. Zgodnie z opisem rozwiązania złożone zadania trafiają do większych modeli, a prostsze interakcje obsługują modele mniejsze.

Jak działa podział zadań

Sedno rozwiązania to kierowanie zapytań w zależności od ich trudności. Duże modele są zarezerwowane dla zadań wymagających więcej mocy, natomiast codzienne, prostsze rozmowy przejmują lżejsze modele. Takie podejście ma pozwolić lepiej wykorzystać zasoby obliczeniowe, bo nie każde zapytanie wymaga największego modelu.

Dlaczego to ważne

W miarę jak narzędzia AI trafiają do codziennego użytku, ciężar przesuwa się z trenowania modeli na ich obsługę. Ruch w stronę inferencji sprawia, że rośnie znaczenie infrastruktury, która potrafi przetwarzać duże liczby tokenów przy rozsądnych kosztach. Lenovo wchodzi w ten obszar z ofertą skierowaną właśnie do chińskich klientów.

Szczegóły, takie jak ceny, dostępność czy parametry techniczne systemu, nie zostały w dostępnych informacjach podane.

Aplikacje warte uwagi

SUMO: łamigłówka liczbowa

Wybierz właściwe pola, dodaj je i trafiaj w cel. Łatwa do nauczenia, trudna do opanowania. Za darmo, dla każdego wieku.

Tagi:lenovoai inferencetoken factorychinaai infrastructure

Więcej z tego dnia

Zobacz wszystkie →

Więcej w kategorii: AI

Zobacz wszystkie →