Show GN: Chunk Translator: 긴 글도 잘게 쪼개 LLM에게 번역맡기기

1 month ago 12

길게 작성한 블로그 글을 문장 누락없이 번역하고 싶어 글을 문단별로 나눠 번역한 후, 다시 합칠 수 있는 작은 html 도구를 만들어봤습니다.

  • chatgpt같은 llm에게 통째로 번역을 요청하다보면 한 문장씩 빼먹거나 마음대로 요약해버리거나 하는 등 한번에 잘 못하더라구요.
  • 프롬프트를 더 깎아보는 방법도 있겠지만 그보단 복사-붙여넣고 번역하기 버튼만으로도 괜찮은 결과를 얻고 싶어, 긴 글을 청크별로 잘라 작은 모델한테 병렬로 번역을 돌릴 수 있게 했습니다.
  • 선택사항으로 작은 모델한테 요청을 보낼 때 좀 더 context-aware 번역을 할 수 있도록 똑똑한 모델로 한 번 요약한 내용을 덧붙여 보낼 수 있습니다.
  • 청크별 번역에 보완할 점이 있다면 지시를 덧붙여 개별 청크별로 다시 번역할 수 있습니다.
  • 별도의 서버없이 static single html page로 동작하느라 사용자 개개인의 provider, api key 설정이 필요합니다. 네트워크 인스펙터나 소스 코드에서 볼 수 있듯 openai, openrouter 등 llm api provider 이외에 아무 곳에도 민감 정보를 전송하지 않습니다. analytics 도구도 안붙여놨구요.
    • api key가 없어도 데모용으로라도 사용해보실 수 있게 제공해드리고 싶었는데 이 부분은 어떻게 해볼 수 있을지 아직 고민이네요.

코드는 github repo에 있으니 다운받아 사용하셔도 좋고(index.html 파일만 브라우저에서 열면 똑같이 사용하실 수 있습니다), 기여와 이슈 제보, 질문, 피드백 모두 환영합니다.

Read Entire Article