공유할 서비스 선택

TECH


TECH

Middleware (AI-2) Chat-GPT 4All - 허깅페이스 & LLM 국내 인기순위 (Open Ko-LLM LeaderBoard)

페이지 정보

작성자 미들웨어 아이디로 검색 전체게시물 댓글 0건 조회 360회 좋아요 0회 작성일 24-02-20 15:12

본문

안녕하세요. "미들웨어" 입니다.

지난 시간에 이어 이번엔 허깅페이스에 대해 적어보겠습니다. 

GPT에 원하는 모듈을 설치하면 이미지를 생성할 수도 있고 창작물도 만들수 있습니다. 

일부 코딩도 할수 있습니다. 


그러한 것들을 허깅페이스를 통해서 다운로드 받아서 모듈을 적용하면 내가 원하는 GPT로 사용 할 수 있는 개념인거조. 

허깅페이스가 어떤 것인지 홈페이지를 통해 한번 알아보겠습니다. 

 


1. 허깅 페이스 (huggingface)

https://huggingface.co/

 

허깅 페이스 URL에 접속해보고 아래와 같이 ko 모델을 검색해 봅니다.

여기선 Llama-2-ko-7B-Chat-gguf 를 선택했습니다.

gguf 는 2023년 하반기에 출시된 LLM 모델인데 기존에 사용하던 ggml 형식의 단점을 보완한 모델이라 보시면 됩니다.

gguf 에 대해 자세한 내용은 생각하겠습니다.

 

6b8002678d7192f4ea1d87574319f315_1708409119_2271.png
 

 

한글 패키지인 Llama-2-ko-7B-Chat-gguf의 현재 최신 버전을 다운로드 받아봅시다.

6b8002678d7192f4ea1d87574319f315_1708409098_2668.png 

 

 

다운로드한 파일을 아래 경로에 넣어주세요.

 

C:\사용자\Appdata\~~~~ (아래 이미지 참고) 

 6b8002678d7192f4ea1d87574319f315_1708409098_3411.png 

 

 

 

복사가 완료됐으면 다시 GPT-4All로 돌아온뒤 오른쪽 톱니바퀴로 설정값을 변경해줍니다.

6b8002678d7192f4ea1d87574319f315_1708409098_4021.png  

 

 

그럼 지금부터 새롭게 받은 모델을 사용할 수 있습니다.  

아래 이미지처럼 원하는 모듈을 선택하고 재기동 하면 반영 됩니다. 

6b8002678d7192f4ea1d87574319f315_1708409098_4771.png 

 

제가 설치했던 것은 한글 지원이 되는 모듈인데, 이것을 사용하지 않고 국내에 인기있는 모듈도 설정해서 구현할 수 있습니다. 

그럼 한국에서 현재 인기있는 것들이 어떤것들이 있는지 한번 알아보도록 하겠습니다. 

 

 

 

2. Open Ko-LLM LeaderBoard (국내 인기순위)

https://huggingface.co/spaces/upstage/open-ko-llm-leaderboard 

위 사이트는 국내 LLM을 오픈해서 인기있는 순위를 확인할 수 있습니다. 

 

c7060a5b71750272517981427acdb1aa_1708501281_0396.png
 

 

1위부터 4위까지 모두 롯데에서 만든 LLM이네요. 

요즘 롯데가 선전하고 있는 듯한 인상을 받는데.. 

1등으로 다운로드 많은것은 Model Card for LDCC-SOLAR-10.7B 입니다. 

 

위와같이 허깅페이스를 적용해서 원하는 모듈을 설치할 수 있으니 관심있는 LLM을 다운로드 받아서 GTP에 설치해서 사용해보세요.  

그럼.. 열공하세요~!

 

 

 

 

 

 

 

 

 

 

 

 

댓글목록

등록된 댓글이 없습니다.

TECH 목록
번호 제목 작성자 작성일 조회수
106 Middleware 미들웨어 아이디로 검색 전체게시물 04-22 14
(오픈소스 활용-28) was에서 T4CConnection (Locked) 발생시 해결방법

카테고리 : Middleware

14 0
작성자 : 미들웨어 24/04/22
105 Middleware 미들웨어 아이디로 검색 전체게시물 04-08 46
(오픈소스 활용-28) Java Flight Recorder 이란? Java 모니터링을 구현가능

카테고리 : Middleware

46 0
작성자 : 미들웨어 24/04/08
104 Middleware 미들웨어 아이디로 검색 전체게시물 03-21 112
(오픈소스 활용-27) Redis Cache 란? 활용방법과 다운로드

카테고리 : Middleware

112 0
작성자 : 미들웨어 24/03/21
103 Middleware 미들웨어 아이디로 검색 전체게시물 03-07 146
(weblogic 활용) WebLogic Kubernetes Toolkit-UI (무료) 설치 및 구성가이드

카테고리 : Middleware

146 0
작성자 : 미들웨어 24/03/07
열람중 Middleware 미들웨어 아이디로 검색 전체게시물 02-20 361
열람중
(AI-2) Chat-GPT 4All - 허깅페이스 & LLM 국내 인기순위 (Open Ko-LLM LeaderBoard)

카테고리 : Middleware

361 0
작성자 : 미들웨어 24/02/20
101 Middleware 미들웨어 아이디로 검색 전체게시물 02-06 387
(AI-1) Chat-GPT 4All - PC 설치 방법

카테고리 : Middleware

387 0
작성자 : 미들웨어 24/02/06
100 Middleware 미들웨어 아이디로 검색 전체게시물 01-19 197
(오픈소스 활용-26) scouter 2.22 에서 Weblogic14 모니터링 등록 중 이슈 조치방법

카테고리 : Middleware

197 0
작성자 : 미들웨어 24/01/19
99 Middleware 미들웨어 아이디로 검색 전체게시물 01-06 297
(오픈소스 활용-25) scouter 2.22 에서 JEUS8 모니터링 등록 하는 방법

카테고리 : Middleware

297 0
작성자 : 미들웨어 24/01/06
98 Middleware 미들웨어 아이디로 검색 전체게시물 12-22 272
(오픈소스 활용-24) 리눅스 java, python 우선순위 설정방법 - (update-alternatives 명령어)

카테고리 : Middleware

272 0
작성자 : 미들웨어 23/12/22
97 Middleware 미들웨어 아이디로 검색 전체게시물 12-07 520
(Apache) Apache 2.4.37 & Weblogic-14 연동방법 (mod_wl_24.so 활용)

카테고리 : Middleware

520 0
작성자 : 미들웨어 23/12/07
Total 106건
게시물 검색

주식회사 클럭스| 대표 : 이찬호| 사업자등록번호 : 107-87-27655
주소 : 서울특별시 영등포구 국회대로 800, 여의도파라곤
E-mail : sales@chlux.co.kr
Copyright © 클럭스 www.chlux.co.kr All rights reserved.
상단으로Top