Przejdź do głównej zawartości

Czym jest CGC

Comtegra GPU Cloud (CGC) to platforma chmurowa GPU firmy Comtegra S.A. do zadań AI i uczenia maszynowego, zarządzana przez CGC CLI i CGC SDK.

CGC CLI to interfejs wiersza poleceń dla Comtegra GPU Cloud. CGC CLI umożliwia zarządzanie zasobami Comtegra GPU Cloud. Obecna wersja aplikacji obsługuje tworzenie, wyświetlanie i usuwanie zasobów obliczeniowych, storage i sieci. Każdy zasób obliczeniowy jest udostępniany jako URL, który jest dostępny z otwartego Internetu.

Aby umożliwić lepszy dostęp do zasobów storage, każde konto ma możliwość uruchomienia bezpłatnej przeglądarki plików filebrowser, która jest lokalną implementacją Dropboxa. Pamiętaj, aby zamontować do niej nowo utworzone woluminy.

Obecnie oferujemy możliwość uruchamiania zasobów obliczeniowych takich jak:

  1. Jupyter notebook z zainstalowanym domyślnie tensorflow lub pytorch
  2. Triton inferencing server do dużej skali inferencing'u
  3. Label studio do łatwego zarządzania zadaniami adnotacji danych z różnymi trybami
  4. Rapids zestaw przyspieszonych bibliotek do przetwarzania danych
  5. LLM API - API do używania i kontrolowania dużych modeli językowych
  6. DeepStream - biblioteki NVIDIA do przetwarzania video
  7. Vision API - API do przetwarzania obrazów i wideo
  8. llama.cpp - serwowanie modeli GGUF przez API zgodne z OpenAI
  9. vLLM - serwowanie modeli z Hugging Face przez API zgodne z OpenAI
  10. OpenWebUI - własny interfejs czatu
  11. n8n - automatyzacja workflow w podejściu low-code
  12. AimStack - śledzenie eksperymentów
  13. Label Studio ML backend - automatyczna wstępna anotacja z YOLO
  14. Unsloth - dostrajanie dużych modeli językowych
  15. nginx - serwowanie treści statycznych
  16. Własne obrazy - uruchamianie dowolnej aplikacji z własnego obrazu kontenera

Jupyter Notebooks są wyposażone we wszystkie biblioteki CUDA i sterowniki GPU, co umożliwia wykorzystanie GPU do przyspieszonych obliczeń. Oprócz zasobów obliczeniowych, udostępniamy te silniki bazodanowe dostępne z Twojego namespace'a:

  1. PostgreSQL
  2. Weaviate
  3. PG-Vector
  4. Apache AGE
  5. MinIO
  6. MongoDB (własny obraz)
  7. Redis (własny obraz)

Więcej jest w drodze! Prosimy postępować zgodnie z instrukcjami, aby rozpocząć.