Notice
Recent Posts
Recent Comments
Link
목록12월 (1)
R을 사랑한 느림보 데이터 분석가
TIL #2312
기술 블로그 읽어보고 키워드도 적어보고 기술적인 글과 친해지기 TIL #231214 MLOps 란? 💬키워드 Flask API 데이터 드리프트 데이터 버전 관리, 학습모델 파일 관리 ML모델 배포, 실험 기록 DevOPs 방법론 AWS(Sagemaker)/GCP(VertexAI)/Azure(Azure machine learning studio)/kubeflow(k8s) 버저닝: 여러 버전(version)으로 작성하는 것. 버전 관리 아티팩트(artifact) Text Generation Inference(TGI)를 활용한 프로덕션 레벨 LLM 추론 가속화 💬키워드 Tensor Parallelism, MegaTron-LM 양자화(Quantization): 실수형 변수를 정수형 변수로 변환하는 것 오버헤드(..
커리어 일기
2023. 12. 14. 14:40