비큐냐(Vicuna)와 text-generation-webu


* Vicuna: https://vicuna.lmsys.org/ * text-generation-webui: https://github.com/oobabooga/text-gen... - Powershell에서 다음 실행 iex (irm vicuna.tb.ag) - 출처:    / @troublechute   설치 과정: - Nvidia GPU 있는지 물어봄 - 모델 설치: GPU only, CPU only, GPU+CPU - 바탕화면 아이콘 설치 여부 설치 시간: 30분~1시간 - oobabooga text-generation-webui 설치 - 모델 다운로드 : 7GB (GPU) + 7.5GB (CPU) 설치 조건: - GPU: VRAM 12GB 이상 Nvidia 카드에서 이상적으로 동작. 그 이하에서 돌릴수는 있지만 속도 느리고 시행착오 필요. (https://github.com/oobabooga/text-gen..., —pre_layer 로 검색) | RTX 3070 | 8GB | | RTX 3080 | 10GB | | RTX 3090 | 24GB | | RTX 4070 | 12GB | | RTX 4080 | 16GB | | RTX 4090 | 24GB | - CPU: 가능하지만 속도는 느림. #vicuna #text-generation-webui #oobabooga #windows #gpu #chatgpt 

0
0
이 글을 페이스북으로 퍼가기 이 글을 트위터로 퍼가기 이 글을 카카오스토리로 퍼가기 이 글을 밴드로 퍼가기

파이썬 Python

번호 제목 글쓴이 날짜 조회수
16 비큐냐(Vicuna)와 text-generation-webu 관리자 04-17 450
15 Pyjosa - 파이썬 한글 조사 처리 모듈 관리자 03-11 511
14 Python 에서 한글 조사 을/를, 이/가, 은/는, 와/과 출력하기 관리자 06-10 1,144
13 flask multifile upload 관리자 05-25 665
12 Fast api로 머신러닝 기반 웹사이트 만들고 배포하기 관리자 05-16 1,244
11 CentOS에서 Python 버전 변경 관리자 05-04 634
10 fastapi 관리자 05-04 658
9 PyQt5 프린트 할 위젯 선택하고 프린트 하는 예제 관리자 02-22 655
8 Python 가상환경 - venv 관리자 02-15 473
7 MacOS에서 Pyenv PYENV_VIRTUALENV_DISABLE_PROMPT 문구 제거 하기 관리자 02-05 450
6 Mac VSCODE에서 가상환경내 Python으로 Python Interpreter 설정 관리자 02-05 519
5 NAVER API를 사용해서 크롤링하기 - 2 관리자 02-05 1,469
4 NAVER API를 사용해서 크롤링하기 - 1 관리자 02-05 478
3 selenium을 사용한 데이터 크롤링하기 관리자 02-05 447
2 Using both Python 2.x & 3.x 관리자 02-05 382
1 MacOS] Python(pyenv) 설치 및 버전관리 관리자 02-05 388