record, 

튜닙, AICA H100 * 8대 GPU 지원 선정

튜닙, AICA H100 * 8대 GPU 지원 선정

튜닙, AICA H100 * 8대 GPU 지원 선정

저희 튜닙이 인공지능산업융합사업단(AICA)에서 지원하는 ‘2024년 AI 데이터센터 서비스’ 사업에 선정되면서 1년간 H100 * 8대를 지원받게 됐습니다! 🎉 🎉.

이 사업공고가 나오자마자 이건 무조건 돼야된다고 생각하고 사업계획서를 작성하는데 크게 공 들였습니다. 선정 발표가 예정보다 늦어지면서 가슴 졸이며 기다렸는데 어제 선정됐다는 좋은 결과가 나와서 무척 다행이였습니다! 😭

AI 개발에 GPU 자원은 필수적입니다. H100은 현재 사용 가능한 최고 성능의 GPU입니다. AWS에서 H100 8대를 1년간 사용할 시, 비용이 11억 8,200만원입니다. ($=1,350 기준) 💸

H100 이전 시리즈인 A100도 충분히 좋은 GPU인데도 불구하고, H100과 비교하면 성능 차이가 꽤 나게 됩니다. 어떤 AI 모델을 사용하느냐에 따라 다르겠지만, A100과 비교하여 3~6배 정도 더 빠르다고 알려져 있습니다. 이렇게 성능 좋은 장비를 8대나 지원받게 되어 무척 기쁘고, 앞으로 해볼 여러 실험들에 속도를 가할 수 있게 됐습니다! 이 장비들로 올해에 저희 자체 LLM인 Cheetah 성능을 크게 더 높여보겠습니다. 😎

인공지능산업융합사업단 만세 !!!!

Subscribe to SOOFTWARE

Get the latest posts delivered right to your inbox