ASCII 문자는 픽셀이 아니다: ASCII 렌더링의 심층 탐구

• 이미지의 윤곽과 형태를 보존하는 ASCII 렌더링 기법을 개발해, 기존 방식의 흐릿한 가장자리 문제를 해결
• 픽셀 단위의 단순 명암 매핑 대신, 각 문자의 시각적 형태(shape) 를 수치화해 매칭하는 고차원 벡터 기반 접근법을 사용
• 문자별로 상·하·좌·우 영역의 밀도를 측정해 2차원에서 6차원으로 확장된 shape vector를 생성, 더 정밀한 문자 선택 구현
• 경계선의 선명도를 높이기 위해 글로벌 및 방향성 대비 강화(contrast enhancement) 알고리듬을 적용
• GPU 가속과 캐싱, k-d 트리 탐색 등을 통해 실시간 ASCII 렌더링 성능을 확보, 고품질 시각 효과를 실현

이미지에서 ASCII로의 변환

• ASCII에는 95개의 인쇄 가능한 문자가 있으며, 모노스페이스 폰트를 사용해 이미지를 격자로 분할
  • 각 셀의 밝기를 계산해 문자 밀도에 따라 매핑
• 단순한 최근접 이웃 보간(nearest-neighbor interpolation) 은 경계가 들쭉날쭉한 jaggies 현상을 유발
• 슈퍼샘플링(supersampling) 을 통해 셀 내부에서 여러 샘플을 취해 평균 밝기를 계산하면 부드러워지지만, 여전히 흐릿한 경계 발생
• 문제의 핵심은 문자를 픽셀처럼 취급하는 데 있으며, 문자의 고유한 형태를 고려하지 않는다는 점

문자 형태(Shape)의 활용

• 각 문자는 셀 내에서 시각적 밀도 분포가 다름
  • 예: T는 상단이 무겁고, L은 하단이 무거움
• 이를 수치화하기 위해 셀 내부에 샘플링 원(circle) 을 배치하고, 각 영역의 문자 점유 비율을 계산
• 상·하 두 영역의 점유율을 벡터로 표현해 2차원 shape vector 생성
• 각 문자의 shape vector를 사전 계산해두고, 이미지의 샘플링 벡터와 유클리드 거리(Euclidean distance) 로 가장 가까운 문자를 선택

6차원 형태 벡터로의 확장

• 상·하 2차원만으로는 -, p, q 등 중간·좌우 중심 문자를 표현하기 어려움
• 셀을 6개의 샘플링 원으로 확장해 상·중·하, 좌·우 차이를 모두 포착
• 6차원 shape vector는 문자 형태를 훨씬 정밀하게 반영하며, 원형·대각선 문자도 잘 표현
• 3D 장면 렌더링 시 외곽선은 선명하지만, 면 간 경계가 흐릿해지는 문제 발생

대비 강화(Contrast Enhancement)

• 샘플링 벡터의 각 요소를 지수(exponent) 로 조정해 어두운 값은 더 어둡게, 밝은 값은 유지
  • 벡터를 정규화 후 지수 적용, 다시 원래 범위로 복원
• 이 과정을 통해 경계선의 시각적 구분이 강화, 문자 선택이 더 명확해짐
• 균일한 밝기 영역에서는 변화가 거의 없어, 부드러운 그라데이션 유지
• 그러나 일부 경계에서 계단형(staircasing) 현상이 발생

방향성 대비 강화(Directional Contrast Enhancement)

• 각 셀 외부에도 외부 샘플링 원을 배치해 주변 밝기 정보를 수집
• 외부 샘플링 벡터의 밝은 값이 내부 벡터의 대응 요소를 어둡게 조정, 경계 방향의 대비 강화
• 외부 샘플링을 확장해 상단·중단·하단 간 영향을 넓히면, 부드럽고 선명한 경계 표현 가능
• 글로벌 대비 강화와 결합 시, 3D 장면의 경계선이 뚜렷하고 가독성 높은 ASCII 렌더링 구현

성능 최적화

• 문자 선택 시 최근접 탐색을 단순 반복하면 느리므로, k-d 트리를 사용해 다차원 공간에서 빠른 탐색 수행
• 캐싱을 통해 동일한 샘플링 벡터의 결과를 재사용
  • 각 벡터를 5비트 단위로 양자화해 메모리 효율적 캐시 키 생성
  • 범위를 8로 설정해 품질과 메모리 사용량 균형 유지
• 캐시된 탐색은 매우 빠르며, 수천 개 문자도 실시간 처리 가능
• 샘플링 벡터 계산은 GPU로 이전해, 내부·외부 샘플링, 대비 강화 연산을 셰이더 파이프라인으로 처리
  • CPU 대비 수배의 성능 향상

결론

• 문자의 형태를 벡터로 수치화해 활용하는 접근법은 ASCII 렌더링의 해상도와 선명도를 크게 향상
• 이 방식은 워드 임베딩(word embedding) 과 유사한 개념으로, 다른 시각적 문제에도 응용 가능성 있음
• 초기 구현은 느렸으나, GPU 가속과 캐싱, k-d 트리 탐색으로 모바일에서도 부드러운 FPS 확보
• 색상 기반 ASCII 표현은 다루지 않았으며, 향후 더 다양한 형태·대비 조합 실험 가능성 언급
• ASCII 렌더링은 단순한 시각 효과를 넘어, 형태 인식과 벡터 표현의 확장 가능성을 보여주는 사례임