Kubernetes, GPU i modele AI – dlaczego infrastruktura ma znaczenie
Wiele osób myśląc o sztucznej inteligencji skupia się głównie na samych modelach. Mówi się o LLM-ach, embeddingach, RAG-u, inferencji, fine-tuningu i jakości odpowiedzi. To oczywiście ważne elementy, ale w praktyce bardzo szybko pojawia się mniej medialny, za to krytyczny temat: infrastruktura. Model AI musi gdzieś działać. Jeżeli ma korzystać z GPU, środowisko musi być poprawnie […]
