Middleware (AI-2) Chat-GPT 4All - 허깅페이스 & LLM 국내 인기순위 (Open Ko-LLM LeaderBoard)
페이지 정보
작성자 미들웨어 아이디로 검색 전체게시물 댓글 0건 조회 376회 좋아요 0회 작성일 24-02-20 15:12본문
안녕하세요. "미들웨어" 입니다.
지난 시간에 이어 이번엔 허깅페이스에 대해 적어보겠습니다.
GPT에 원하는 모듈을 설치하면 이미지를 생성할 수도 있고 창작물도 만들수 있습니다.
일부 코딩도 할수 있습니다.
그러한 것들을 허깅페이스를 통해서 다운로드 받아서 모듈을 적용하면 내가 원하는 GPT로 사용 할 수 있는 개념인거조.
허깅페이스가 어떤 것인지 홈페이지를 통해 한번 알아보겠습니다.
1. 허깅 페이스 (huggingface)
허깅 페이스 URL에 접속해보고 아래와 같이 ko 모델을 검색해 봅니다.
여기선 Llama-2-ko-7B-Chat-gguf 를 선택했습니다.
gguf 는 2023년 하반기에 출시된 LLM 모델인데 기존에 사용하던 ggml 형식의 단점을 보완한 모델이라 보시면 됩니다.
gguf 에 대해 자세한 내용은 생각하겠습니다.
한글 패키지인 Llama-2-ko-7B-Chat-gguf의 현재 최신 버전을 다운로드 받아봅시다.
다운로드한 파일을 아래 경로에 넣어주세요.
C:\사용자\Appdata\~~~~ (아래 이미지 참고)
복사가 완료됐으면 다시 GPT-4All로 돌아온뒤 오른쪽 톱니바퀴로 설정값을 변경해줍니다.
그럼 지금부터 새롭게 받은 모델을 사용할 수 있습니다.
아래 이미지처럼 원하는 모듈을 선택하고 재기동 하면 반영 됩니다.
제가 설치했던 것은 한글 지원이 되는 모듈인데, 이것을 사용하지 않고 국내에 인기있는 모듈도 설정해서 구현할 수 있습니다.
그럼 한국에서 현재 인기있는 것들이 어떤것들이 있는지 한번 알아보도록 하겠습니다.
2. Open Ko-LLM LeaderBoard (국내 인기순위)
https://huggingface.co/spaces/upstage/open-ko-llm-leaderboard
위 사이트는 국내 LLM을 오픈해서 인기있는 순위를 확인할 수 있습니다.
1위부터 4위까지 모두 롯데에서 만든 LLM이네요.
요즘 롯데가 선전하고 있는 듯한 인상을 받는데..
1등으로 다운로드 많은것은 Model Card for LDCC-SOLAR-10.7B 입니다.
위와같이 허깅페이스를 적용해서 원하는 모듈을 설치할 수 있으니 관심있는 LLM을 다운로드 받아서 GTP에 설치해서 사용해보세요.
그럼.. 열공하세요~!
댓글목록
등록된 댓글이 없습니다.
Top