Subscribe to SOOFTWARE

Stay up to date! Get all the latest & greatest posts delivered straight to your inbox

전체 글

활동record

[RECORD] 개인 운동 기록 - 2023.10.11

개인 운동 기록 - 2023.10.11 오랜만의 운동 기록이다. 다행히 운동은 꾸준히 하고 있고, 몸도 많이 좋아졌고 수행능력도 좋아졌다. 운동 시작하기로 마음 먹은지…

·3 min read
[RECORD] 개인 운동 기록 - 2023.10.11 cover image
활동tunib

자체 LLM으로 제작한 챗봇 서비스, Dearmate

자체 LLM으로 제작한 챗봇 서비스, Dearmate 최근 제가 하고 있는 일에 대해서 소개드리고 싶어 글을 적게 됐습니다. 저는 튜닙 이라는 자연어처리 테크 스타트업의 공동창업자이자, AI 엔지니어로써 일하고 있습니다. 21년…

·4 min read
자체 LLM으로 제작한 챗봇 서비스, Dearmate cover image
논문 리뷰nlppaper

LLaMA2

LLaMA2 Meta(전 Facebook)가 이번 7월 18일에 LLaMA2를 공개했습니다. 🎉 LLaMA2 관련 내용이 담긴 논문 과 함께 7B, 13B, 70B 모델을 공개했습니다. 이전 LLaMA와 다르게 LLaMA…

·5 min read
LLaMA2 cover image
개발toolkitenvironment

GPT-NeoX - DeepSpeed Inference

GPT-NeoX - DeepSpeed Inference DeepSpeed Inference를 사용하면 간단하게 모델 추론 성능을 끌어올릴 수 있다. Tensor Parallel…

·1 min read
GPT-NeoX - DeepSpeed Inference cover image
개발toolkit

sshpass

Sshpass…

·1 min read
sshpass cover image
개발huggingfacenlplora

Huggingface PEFT (Parameter-Efficient Fine-Tuning)

Huggingface PEFT (Parameter-Efficient Fine-Tuning) 허깅페이스에서 나온 PEFT라는 라이브러리인데 LoRA, Prefix Tuning, P-Tuing, Prompt Tuning…

·2 min read
Huggingface PEFT (Parameter-Efficient Fine-Tuning) cover image
개발toolkitenvironment

ast - literal_eval 에러 기록

ast - literal_eval 에러 기록 ast의 literal_eval…

·1 min read
ast - literal_eval 에러 기록 cover image
개발toolkitenvironment

Docker - GPU 할당

Docker - GPU 할당 도커에서 GPU를 할당하는 방법

·1 min read
Docker - GPU 할당 cover image
개발toolkitenvironment

Docker - 공유 디렉토리 연결 (mount)

Docker - 공유 디렉토리 연결 (mount) 도커를 쓰다보면 코드상에서 뭔가를 저장한다거나 어떤 데이터를 읽어와야 한다던가 하는 상황이 있는데, 이때 공유 디렉토리를 연결해서 run하면 편하다. 나 옵션을 이용하면 쉽게 가능하다.

·1 min read
Docker - 공유 디렉토리 연결 (mount) cover image
활동record

2022 인공지능 그랜드 챌린지 (정책 지원 AI) 3위

2022 인공지능 그랜드 챌린지 - 정책지원 3위 2022 인공지능 그랜드 챌린지 (정책 지원 AI)에서…

·2 min read
2022 인공지능 그랜드 챌린지 (정책 지원 AI) 3위 cover image