teddylee777 / langchain-kr Goto Github PK

title에 적은 유튜브 방송 보고 깃 클론 받아서 실행하였는데,

EEVE Korean (LM Studio) 주피터 실행도중 아래와 같이 ApiConnection error가 발생하였습니다.

주피터 노트북에 보니 "동작 X" 라고 하셨는데, 이거 지금은 안되는 건가요??

안녕하세요 테디님 유튜브 영상 잘 보고 있습니다.
다름이 아니라 최근 업로드 하신 내용을 실습 하다 잘 안되는 부분이 있어 문의하게되었습니다.
11-Retriever/10-Kiwi-BM25Retriever.ipynb에서 성능 테스트를 해주셨는데요!
궁금한 부분이 사용자의 질문에 따라 답변을 찾아주는데 Similarity를 표시하면 더 좋을거 같아 구현을 열심히 해봤는데.. 잘안되네요. 혹시 팁있으시면 공유 부탁합니다.
감사합니다.

안녕하세요. 저번에 contributor 한다고 했던 Kan이라고 합니다.. 칸이라고 해 주세용.. ㅎㅎ
fork해서 로컬에서 어떤 것을 해 볼까 하고 기존 문서를 보다가 궁금한 것이 생겨서 질문 드립니다..
문서가 다들 초기 버전으로 구성이 되어 있더군요..

기존 파일

from langchain_openai import ChatOpenAI
from langchain_core.output_parsers import StrOutputParser

현재 버전 import

from langchain.chat_models import ChatOpenAI
from langchain.output_parsers import StructuredOutputParser

이처럼 패키지명 예전것으로 되어 있는데, 이 참에 다 버전업을 시켜 볼까 하는데.. 어떤지 하고요.. ㅎㅎ

혹 부족하거나 채웠으면 하는게 있으면 2~3개만 알려주세요.
가능하면 그쪽으로 한번 해 보려고요..
그럼 답변 주세용.. ^^;

안녕하세요.
제 환경에서 테스트를 해보았습니다.

query: httpservcie 에서 post 요청 타임아웃 시간 조정
결과중에 0.58 score가 눈에 띄어 유심히 살펴 보았습니다.

==== score: 0.5803069499820458 title: 루아 프로파일러를 활용하여 최적화하기 ....
==== score: 0.19870724562646203 title: HttpService subtitle: 'Functions' ...
==== score: 0.0453438546117377 title: 플레이어 카메라 제어 ...
==== score: 0.02980760382246637 title: 예시로 알아보는 서버 검증 ...

0.58점이 나온 context를 살펴보니 대략 다음과 같다는 것을 확인 했습니다.
httpservice( 없음 ), post( 1 ), 에게( 15 ), 시간(12 )

분석한 바론 에게와 시간의 등장 개수가 많아서 점수가 높았던 것이 아닐까 싶습니다.
결론은 쿼리와 무관한 context의 점수가 너무 높게 나왔네요.

감사합니다.

ollama 등록하는중에 오류가 있습니다.

https://github.com/teddylee777/langserve_ollama/blob/main/ollama-modelfile/EEVE-Korean-Instruct-10.8B-v1.0/Modelfile

ollama create EEVE-Korean-10.8B -f EEVE-Korean-Instruct-10.8B-v1.0-GGUF/Modelfile
transferring model data
creating model layer
creating template layer
creating system layer
creating parameters layer
Error: unknown parameter 'TEMPERATURE'

오류나는 부분:
PARAMETER TEMPERATURE 0

소문자로 변경하니 오류없이 등록됩니다.
PARAMETER temperature 0