Show GN: [오픈소스]iOS 와 MacOS를 지원하는 멀티 LLM 클라이언트 - LLM 브릿지

12 hours ago 1

이전에 iOS용 MacOS용 Ollama 전용 LLM 클라이언트를 별도로 만들어서 오픈소스로 공개했었는데 Swift/SwiftUI 기반으로 iOS와 MacOS 코드를 통합하고 지원하는 API를 추가해서 새로 다시 만들었습니다.

  • Ollama, LMStudio를 로컬 LLM으로 지원합니다.
    • Ollama에 LLM을 설치한 컴퓨터에 port를 외부에 오픈하면 원격에서도 무료 LLM을 사용할수 있습니다.
    • MLStudio는 자체 UI를가진 로컬 LLM 관리 프로그램으로 HuggingFace에서 모델을 검색해서 설치 할수 있어서 다양한 모델을 실험할수 있습니다.
    • LLM 브릿지에서 ip, port를 설정하고 설치된 모델을 이용하여 질의에 응답을 받을수 있습니다.
  • OpenAI 지원
    • API key를 발급받아서 앱에 입력하고 Api 호출을 통하여 ChatGtp를 사용할수 있습니다.
    • API를 사용하는것이 매월 회비(?)를 내는것보다 저렴하게 쓸수 있습니다.
  • Claude 지원
    • API Key 사용
  • 이미지 지원 모델에 대해 이미지 전송 가능
  • PDF, TXT 파일 지원
    • PDFKit을 이용하여 텍스트 추출후 전송
    • 텍스트 파일 지원
  • 오픈소스
    • Swift/SwiftUI
  • 소스링크

Read Entire Article