더 나은 AI 도구를 만드는 방법

6 days ago 3

AI 도구 개발이 현재 인간의 협업 및 학습 방식을 고려하지 않고 거꾸로 구축되고 있음
인간은 정보를 단순 저장하는 것이 아니라 능동적 회수 및 과정 중심 학습을 통해 성장함
누적적 반복 혁신이 개인의 독립적 문제 해결보다 더 효과적인 집단 지식 발전에 기여함
기존 AI 도구는 인간의 회수, 과정 강화, 집단적 지식 전파를 지원하지 않아 인간 능력을 저하시키는 부정적 피드백 루프를 만듦
인간 중심 설계법(예: Explain, Demonstrate, Guide, Enhance) 도입 시 도구와 사용자가 함께 성장하는 긍정적 선순환을 만들 수 있음

서론: AI 도구 개발의 근본 문제

최근 인간의 학습 방식을 연구하면서 현존 AI 도구들이 얼마나 잘못 설계되고 있는지 깨달음
기존 LLM 개발의 윤리성 문제와 에너지 효율 문제에 더해, 협업 과정 증진이 아닌 비판적 사고력 저하로 귀결되는 점이 심각함
사실 조금만 더 신경 쓰면 인간의 집단적 효율성을 극대화하는 형태로 도구를 설계할 수 있음

인간의 학습 방식에 대한 이해

인간 학습의 주요 이론 중 하나는 회수 연습(Retrieval Practice) 로, 정보 입력이 아니라 기억에서 꺼내는 과정에서 진정한 학습이 일어남
가장 효과적으로 습득하는 것은 단순 지식이 아니라 과정 및 절차임
- 예: 요리 수업에서 재료 외우기보다 실제 과정을 통해 배우는 것
독창적 혁신은 실제로 드물고 대부분의 기술 발전은 집단적 누적 반복(Iterative Innovation) 에 의해 이루어짐
인간은 모방, 복제, 기존 산출물 기반의 반복을 통해 집단적으로 지식과 역량을 진화시킴

현재 AI 도구의 반인간적 개발 패턴

최근 AI 도구는 “클릭 한 번에 마법처럼 결과”를 강조하는 경향
- AI 버튼 클릭 → 데이터 확인 → AI 제안 → 작업 실행 등의 단일 플로우가 일반적임
이 과정에는 인간의 회수, 자기 주도적 시작, 과정 강화, 집단적 지식 전달 등이 결여되어 있음
결국 AI가 인간의 핵심 능력을 대체하려 하지만, AI는 이 부분에서 매우 무력, 인간은 오히려 해당 역량을 빠르게 잃음
결과적으로 높은 품질의 데이터 피드백도 사라져 AI와 인간 모두 성장이 정체됨

AI를 인간 학습 증진 도구로 재구성하기

AI를 비서나 동료가 아닌 ‘건망증 많은 강사’ 로 상상할 것
- AI의 목적은 사용자를 더 잘 배우고, ‘배우는 법’을 배우도록 유도하는 것임
교육적으로 검증된 EDGE(Explain, Demonstrate, Guide, Enhance) 프레임워크를 적용
- 각 단계에서 AI는 능동적 ‘피드백 루프’의 일부로 기능하고, 과정마다 인간의 활발한 개입이 필수
안티패턴: 인간에게 프롬프트를 주고, 즉시 AI가 자동 응답(조치)하는 방식은 피할 것
- 이는 인간의 실제 전문성, 기억, 문제 해결 역량 저하를 초래하므로, 특히 장애대응 등 업무에서 반드시 지양해야 함

좋은 AI 상호작용 vs 나쁜 AI 상호작용

좋은 상호작용 예시

누락된 단계 제안(“롤백 시도해보았는가?”)
프로세스 가이드 자동 제공 및 설명
인간 질의를 시스템 쿼리문으로 변환
짧은 동영상/애니메이션을 통한 단계 시연
인간이 직접 회수한 데이터를 AI 학습에 활용

나쁜 상호작용 예시

“이 버튼을 누르면 자동 실행”
설명 없는 오류 안내 도구
인간 회수 과정 생략, 버튼 스팸 등으로 인한 오작동 및 학습 저해
AI의 정보 제공 시, 사용자가 ‘어떤 단계인지, 무엇을 시도 중’인지 능동적으로 피드백해야 최적의 학습 및 협업 문화 형성

생산성 향상 및 프로세스 향상 제언

조치 후 추가 개선 제안(예: 시간 범위 필터링 등)
기존 행동 기반 단축키, UI 자동 제안
인간의 반복적 의사결정 패턴에서 도구 개선, 경보 최적화, 인스트루먼테이션 보강 등 데이터 기반 제언 도출
인간의 사소한 관찰 경험을 집단 지식으로 흡수하여 전파

일반적 원칙 정리

인간 학습 강화 우선
집단 협업 증진
프로세스 내 인간 실행 지속 및 가속화(자동화가 아님)
‘빈칸에서 바로 결과’ 제공 방식은 금지
적정량의 노력 유도(너무 쉽지도, 어렵지도 않게)
팀 수준 학습을 도구의 산출물에 포함

AI 기반 개발 업무 적용 예시

코드 작성을 자동화하지 말고, 문서, 설계도, 테스트 계획, 테스트 코드 등 각 단계를 역순으로 생성 후 코드로 진입
매 단계마다 ‘이게 맞나?’라는 검증 질문보다는, “이 기능의 역할은? 데이터 흐름은?” 등 자기 회수 유형의 소크라틱 질문을 활용
이런 방식은 AI 훈련에 고품질 데이터를 제공하는 측면에서도 더 유리

크로스펑셔널(부서간) 협업의 AI 효용성

실제 엔지니어링 현장에서는 크로스펑셔널 지원의 우선순위가 낮으나, AI 활용시 큰 혁신 가능성 내포
예시: 장애 발생 시 고객 지원팀의 문의를 AI가 초고안 작성 → 개발팀에 검증 요청 → 빠르고 정확한 커뮤니케이션 달성
기술적 언어와 일상 언어 번역, 실시간 질의 응답, 상황 공유, 계층별 대응 등 다양한 접점에서 활용 가능
내재화 및 플랫폼화가 쉽지 않지만, 조직적 인식 전환이 이루어진다면 내부 협업 효율 극대화 기대

결론

우리는 AI 도구를 거꾸로 만들고 있어, 인간의 뛰어난 부분을 AI가 대체하려고 하지만 그 영역은 AI가 가장 못하는 분야임
이로 인해 인간과 AI 모두 비효율적 루프에 빠지게 됨
집단적 학습과 협업 우선 설계 시 인간-도구 모두에게 선순환 효과가 일어남
도구가 인간을 중심에 두고, 인간이 곧 루프임을 잊지 않는 접근이 혁신의 출발점임
시스템 도구는 인간 중심으로 재설계될 때 비로소 진짜 가치와 혁신을 실현할 수 있음

Read Entire Article