Transformers
PyTorch
llama
text-generation-inference