我对你们的2080ti pipeline很感兴趣

[wesleysanjose]

感觉这个是个低成本的setup，对于train llama 7b，一定要2080ti吗？因为11G mem，还是8块8G mem的显卡也可以。能公开你们整个机器的配置吗

[bigeagle]

如果只是Fine-tune的话, llama 7b 用 3050 之类的也够了

[PeiqinSun]

是可以的. 你们只要显存能放得下就没有问题. 由于推荐大家使用2080ti的原因是因为我们目前的kernel只写了关于compute capability=75(即2080系列)的实现。如果你们想使用更多系列的kernel也可以向我们提开发需求, 我们会尽快支持的.