Baza wiedzy Edenᴺ

This page is read only. You can view the source, but not change it. Ask your administrator if you think this is wrong.
====== Usługa LLM ======

Ośrodek Mini HPC uruchomił **pilotażowy program** udostępniania modeli językowych do codziennej pracy.

===== Dostępne modele =====

Obecnie dostępny jest jeden model:

  * ''google/gemma-4-31B-it'' – uruchomiony na jednej karcie NVIDIA H200

===== Jak uzyskać dostęp =====

Dostęp jest przydzielany przez kierownika ośrodka HPC na wniosek uczestnika programu.

Ze względu na ograniczone zasoby oraz pilotażowy charakter programu dostępy są przydzielane stopniowo. Pozwoli to ustalić, przy jakim obciążeniu sprzęt osiąga granicę wydajności.

Po zatwierdzeniu wniosku użytkownik otrzymuje **klucz dostępowy do API**. Można go wykorzystać w dowolnym oprogramowaniu obsługującym zgodne API, np. Claude Code, GitHub Copilot, Hermes i inne.

===== Konfiguracja =====

Adres endpointu:

<code>
http://litellm.eden.mini.pw.edu.pl/v1
</code>

Usługa działa w trybie ''chat/completions''.

==== Przykład użycia ====

Najprostszy możliwy przykład zapytania:

<code bash>
curl http://litellm.eden.mini.pw.edu.pl/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer sk-TU_WSTAW_SWÓJ_KLUCZ" \
  -d '{
    "model": "google/gemma-4-31B-it",
    "messages": [{"role": "user", "content": "Cześć! Przedstaw się"}],
    "max_tokens": 200
  }' | jq
</code>

===== Prywatność =====

<WRAP important>
**Uwaga:** w skrócie – nic nie jest prywatne. Wszystkie rozmowy są rejestrowane.
</WRAP>

Szczegółowe informacje znajdziesz w [[pl:llm:privacy_policy|polityce prywatności]].