엔비디아, GPU의 LLM 추론 성능 높여주는 소프트웨어 출시

내인생PLUS 2023. 9. 12. 00:24

728x90

엔비디아, GPU의 LLM 추론 성능 높여주는 소프트웨어 출시 - AI타임스

엔비디아가 GPU에서 구동하는 대형언어모델(LLM) 성능을 높이는 오픈 소스 소프트웨어를 출시했다. 이를 통해 엔비디아 GPU 사용자의 비용을 절감함과 동시에 저사양 GPU에 대한 접근성을 높이려는