이전에 iOS용 MacOS용 Ollama 전용 LLM 클라이언트를 별도로 만들어서 오픈소스로 공개했었는데 Swift/SwiftUI 기반으로 iOS와 MacOS 코드를 통합하고 지원하는 API를 추가해서 새로 다시 만들었습니다.
- Ollama, LMStudio를 로컬 LLM으로 지원합니다.
- Ollama에 LLM을 설치한 컴퓨터에 port를 외부에 오픈하면 원격에서도 무료 LLM을 사용할수 있습니다.
- MLStudio는 자체 UI를가진 로컬 LLM 관리 프로그램으로 HuggingFace에서 모델을 검색해서 설치 할수 있어서 다양한 모델을 실험할수 있습니다.
- LLM 브릿지에서 ip, port를 설정하고 설치된 모델을 이용하여 질의에 응답을 받을수 있습니다.
- OpenAI 지원
- API key를 발급받아서 앱에 입력하고 Api 호출을 통하여 ChatGtp를 사용할수 있습니다.
- API를 사용하는것이 매월 회비(?)를 내는것보다 저렴하게 쓸수 있습니다.
- Claude 지원
- 이미지 지원 모델에 대해 이미지 전송 가능
- PDF, TXT 파일 지원
- PDFKit을 이용하여 텍스트 추출후 전송
- 텍스트 파일 지원
- 오픈소스
- 소스링크