AI: 가속된 무능력

2 weeks ago 6

소프트웨어 엔지니어링에서 LLM에 대한 과도한 의존은 무능력함을 빠르게 촉진함
LLM은 비판적 사고와 문제 해결 능력을 대체할 수 없는 한계가 존재함
LLM의 사용은 잘못된 출력, 입력 오류, 코드 품질 저하, 개발자 능력 저하, 창작의 즐거움 상실 등 여러 위험성을 동반함
LLM은 프로그램 이론과 프로그램 엔트로피 같은 본질적인 개발 역량을 제공할 수 없음
장기적으로 기술력과 깊은 사고 능력이 그 어느 때보다 중요함

서론

2022년 말 대중적 관심을 받은 AI와 LLM의 등장 이후, 많은 논의가 이어짐
경험 많은 소프트웨어 엔지니어로서 LLM에서 관찰한 주요 문제점 두 가지를 이야기함

"LLM은 나의 친구"라는 관점

LLM을 최고의 도구로 여기는 엔지니어들은 속도를 최우선 가치를 두게 됨
LLM으로 빠르게 많은 코드를 생성할 수 있지만, 이는 장기적 위험을 내포함

LLM 사용의 위험성

잘못된 출력 위험: LLM이 명백히 잘못된 코드(컴파일 불가) 및 미묘하게 오류가 있는 코드(로직 버그 등)를 생성함
- 평가 역량이 없는 인력이 소스코드를 요청할 때 적합하지 않은 답변 가능성 높음
잘못된 입력 위험: LLM은 오류 있는 가정이나 맥락이 부족한 프롬프트를 비판하지 않음
- 올바른 질문을 구분하지 못하고 XY 문제(근본 원인 파악 실패)도 공감하지 못함
미래 개발 속도 저하: LLM 도입이 기술 부채를 빠르게 증가시키며, 내부적으로 혼란스럽고 유지보수 곤란한 코드베이스로 변질됨
사용자 미성숙화 위험: 문제 해결과 사고력 발달 기회가 사라지면서 개발 인재의 능력 퇴화가 가속함
- 시니어 개발자는 더 깊이 있는 문제 해결 경험을 얻지 못하고, 주니어 개발자는 아예 실력을 쌓지 못하게 됨
창작의 기쁨 상실: LLM 기반 코드 작성은 몰입(flow) 상태와 창작의 즐거움을 빼앗고, AI가 만든 코드를 읽고 변경하는 일은 고통스러움이 많음

"AI 때문에 직업을 잃을 것인가?"라는 우려

그럴 가능성은 매우 낮음
LLM이 대체할 수 없는 두 가지 개발 역량이 존재함: 프로그램 이론과 프로그램 엔트로피

프로그램 이론

Peter Naur가 주장한 대로, “프로그래밍은 설계 이론을 구축하는 활동” 임
- 소스코드는 실질적 산출물이 아니며, 집단적 이해(이론) 가 더 중요함
- 똑같은 실력을 가진 두 팀에게 같은 문제를 주고 코드만 넘겨줄 경우, 직접 만든 팀이 훨씬 효과적으로 기능 추가 수행 가능
- 익숙하지 않은 코드베이스에선 생산성이 낮다가, 내부적 설계이론을 이해할수록 점차 생산성이 오름

LLM과 프로그램 이론

LLM은 문맥 내 기억만 갖추고 있어, 진정한 프로그램 이론이나 심층적 설계를 내재화할 수 없음
- 실제로 코딩의 진정한 본질(설계와 이론 구성)은 인간만이 획득함

프로그램 엔트로피

Fred Brooks는 복잡성(엔트로피) 이 프로그래밍의 근본적 난제라고 명명함
- 프로그램 유지보수는 복잡성을 증가시키며, 심지어 최고의 실행도 시스템을 불가역적 노후화로 몰고 감

LLM과 프로그램 엔트로피

LLM은 텍스트 수준의 토큰 예측만 수행하며, 아이디어, 설계도, 요구사항 수준에서 의미적 사고가 불가함
- 긴 대화나 큰 코드 덩어리를 다룰수록 불필요하거나 기묘한 변화를 반복해서 복잡성만 가중함
- 복잡성을 감소시키거나 저항하는 작업은 오직 인간만 가능함

결론

두 선구자의 통찰을 바탕으로 소프트웨어 설계와 복잡성의 본질을 재확인함
AI가 개발 경력을 향상시켜줄 것이라고 기대한다면, 오히려 무능함이 가속될 수 있음을 주의해야 함
풍부한 경험과 숙련된 실력을 가진 개발자로서, LLM은 인간 엔지니어를 대체할 수 없음을 인식해야 함
AI 도입의 사업적 매력은 비용 절감이지만, 실제로는 새로운 위험을 초래하며, 과도한 이용 시 장기적 추가 비용과 조직 리스크가 쌓임
기술력과 깊이 있는 사고 능력의 중요성은 장기적으로 변하지 않으며, AI는 도구로 활용하고 2019년에도 중요했던 본질적 역량에 계속 투자해야 함