Replacement.ai

Hacker News 의견

• 나는 개인적으로 "로봇이 당신의 일자리를 뺏는 것"이 로봇에 반대할 이유가 아니라고 생각함. 만약 로봇이 어떤 일을 더 잘하고 빠르게 할 수 있다면 로봇이 그 일을 맡는 게 맞다고 봄. 전문화 덕분에 우리가 미래 사회로 나아올 수 있었음. 문제는 로봇이 아니라, 인간이 소득을 위해 일에 의존하게 만든 경제 구조임. 이걸 AI 회사가 해결할 문제라고는 생각하지 않음. 이런 역할을 하는 게 바로 정부임, AI를 금지하며 혁신을 막을 게 아니라 사회가 발전할 수 있도록 준비시켜야 한다고 생각함

  • 프랭크 허버트의 듄에서 "인간은 자유를 얻으려 기계에 사고를 맡겼지만 결국 기계를 가진 다른 인간들에게 지배당하였다"는 말이 있듯, 정부란 결국 권력을 쥔 사람들의 집합임. 인간과 맞먹는 기계를 소유한 자들은 전례 없는 권력을 얻게 되고 결국 그들이 정부로 군림하게 됨. 이미 오늘날 기업들이 점점 더 많은 힘을 쥐고 있고 사실상 정부의 일부가 되어가고 있음. 그래서 "정부가 이렇게 해야 한다"고 말하는 게 혼란스러움. 그 때의 정부는 과연 누구일까? 아직 우리가 민주주의라고 가정하면 결국 이것은 모두의 문제이며, 해법을 논의하고 투표로 해결할 일임

  • "로봇이 일자리를 뺏는 것" 자체가 사실 기술의 본질임. 인간이 더 적은 노력으로 더 많은 것을 하게 하려고 기술을 발명했음. 노동을 없애는 것이 바로 기술이 발달하는 이유, 그래서 발명은 인기가 많음. 실제로 총 노동량은 크게 달라지지 않았고, 같은 인구가 같은 시간에 더 많은 일을 해내기 시작함. 이러한 변화 덕분에 지난 몇 천 년간 삶의 질이 상승했음. 기술로 인간의 노동을 줄였고, 그 절약된 에너지를 더 많은 성장으로 활용해 온 셈임

  • AI·첨단 로봇·물질 합성 등 미래 기술이 세상을 바꾼다면, 결국 풍요 이후의 사고방식(post-scarcity mindset)을 갖춰야 한다고 봄. 오히려 그런 사회적 패턴이 미리 자리잡아야 하는 것이 아닐지. 이런 전환이 없는 채로 기술만 발전한다면, 극복 불가한 신봉건주의 같은 새로운 계급제가 고착화될 것이라 우려함

  • 부의 불평등이 심화돼 소수만이 모든 자산을 소유하게 되고, 대다수는 아무것도 가지지 못하게 되면 결국 누구도 물건을 사지 않아 로봇도 쓸모 없어짐. 경제 시스템이 붕괴되고, 대규모 폭동, 기근전쟁, 정치 불안, 심지어 세계대전까지 일어날 수 있음. 서로를 핵미사일로 공격하는 상황까지 상상됨

  • "로봇이 일자리를 뺏는 문제"도 로봇이 더욱 효율적으로 일한다고 해도, 두 가지 전제 아래서는 충분히 반론이 됨. 1) 인간은 직업을 가짐으로써 얻는 이득이 있음, 2) 인간의 이득이 궁극적인 목표임. 많은 사람들이 일자리에 생계를 의존하고, 직업이 삶의 만족과 사회적 연결을 주는 만큼 이런 전제는 틀리지 않음. 만약 사회경제 구조가 근본적으로 재편되어 인간이 로봇에 의해 대체된 후에도 생계와 자기 실현을 직업으로부터 얻지 않아도 된다면 다른 얘기지만, 나는 이런 급격한 변화가 곧 이뤄질 거라고 생각하지 않음

• 이번 글은 정말 뛰어난 풍자라고 생각함. AI 시대를 위한 "A Modest Proposal" 같은 작품임. 리더의 이력 소개마저 재미있었음. "12년간 다국적 기업에서 인사 담당 임원으로 일하면서 해고할 때 거의 영적인 희열을 느꼈다. 그녀는 퇴근 후 소프트볼 코치를 맡고 아픈 어머니를 돌보는데, 이 의무들에서도 언젠간 자유로워지길 고대한다"는 식의 소개가 인상적이었음

  • 풍자에는 언제나 일정 부분 진실이 포함되어 있음. 이러한 사이트 링크가 아직 YC 프런트페이지에서 삭제되지 않은 것도 놀랍게 느껴짐

  • "나는 런던에서 아는 지식인 미국인에게 보증을 받았는데, 건강하고 젊은 아기를 잘 기른 후 돌이 지난 후에는 찜, 구이, 오븐, 삶기 모두에 건강하고 영양가 있는 음식이 된다는 얘기를 들었다. 프리카세나 라구도 마찬가지라 기대한다"는 스위프트의 원작 인용을 통해, 과연 Sam Altman이 그 의미를 이해할지 의문임. 관련 FT 기사 링크도 있음. 오늘날의 새로운 올리가르히들이 희망적으로 느껴지지 않음

• 나는 기술의 역사가 항상 "기계가 이전에 사람이 하던 일을 대신하게 된 것"의 반복임을 어느 정도 안다고 생각함. 그렇다면 "옛날 직업은 어떻게 하지?"라는 문제를 이미 해결했어야 하지 않을까 하는 생각이 듦

  • 이게 바로 러다이트 운동의 요지임. 처음 러다이트들은 진보 자체가 아니라, 사회 전체가 한 번에 경제적으로 쓸모 없어진 상황에서 발생하는 사회적 해악에 반대한 것임. 기술의 역사는 항상, 이런 운동을 반진보적이라고 왜곡하면서 진짜 문제를 제대로 다루지 않았던 대자본의 역사이기도 함

  • 우리는 노동에서 벗어나고자 기계를 발명했으나, 정작 노동에서 해방되는 순간 생계까지 잃게 되는 경제 구조를 만들어버렸음

  • 만약 기계학습(ML)이 인간 업무의 일부만 대체한다면 과거의 기술 발전과 크게 다르지 않을 것임. 하지만 AGI(범용인공지능)는 과거와 비교할 전례가 없음. 기존 기술은 언제나 인간이 하는 일을 일부만 대체했지, 모든 것을 한 번에 대체하지는 않았기 때문임

  • "우리가 벌써 그 문제를 해결했어야지"라는 얘기에 동의함. 하지만 이것은 미국인들이 크게 신경 쓰는 유형의 문제처럼 보이지 않음. 이 문제를 집단적으로 다뤘다면, 피해 본 대다수들이 자신과 가족의 삶이 사라질 것에 대해 걱정한다고 해서 바보 취급 받지 않았을 것임. 혁신의 속도가 지나치게 빨라져 사회적 불행이 되는 순간을, 현행 체제의 바로 옆에 있는데도 잘못 인식하는 이가 많음

  • 나는 이 상황을 산업혁명 초기와 자주 비교함. 당시에도 분명히 "굳이 기계를 써야 해? 손으로 해도 잘 되는데"라며 반발하는 고집스러운 이들이 있었을 것임. 하지만 결국 변화를 거부한 이들은 경쟁에서 밀려났고, 기술적 발전을 수용해 생산성과 성과를 키운 쪽이 이득을 보았음

• replacement.ai/complaints 페이지 하단에 양식을 작성해 지역 대표에게 AI 규제 촉구 메시지를 보낼 수 있음. 자동 생성 메시지 본문이 예시로 있음: "[state]에 사는 주민으로서 첨단 AI에 대한 보호장치 부족에 대해 매우 우려하고 있음. 가족, 지역사회, 어린이를 보호하기 위한 강력한 연방 차원의 AI 규제를 촉구함. AI는 놀라운 잠재력도 있지만, 아동 조작, 생물무기 개발, 딥페이크, 대량 실업 등 심각한 위험도 큼. 기업들이 자체적으로 규율할 거라 믿을 수 없음. 주별로 더욱 강력한 규제가 필요하다면 연방법으로 막지 않길 바람. 시간 내주셔서 감사함. [name], 뉴욕"

  • 처음엔 이 링크를 LinkedIn에 공유했었지만 곧 삭제함. 인간의 경제적 퇴출이라는 비상식적인 흐름에 대한 생산적 대화를 지지하지만, 소수의 팀이 모든 걸 통제하려 하는 시도에는 반대함

• 왜 AI의 부를 공정하게 분배하자는 구체적인 정책 제안은 거의 없는지 궁금함. 제안은 대부분 "노동자 보호 위해 오늘 당장 AI를 멈추자" 아니면 "조만간 모두가 유토피아에서 산다는 미래를 믿자" 둘 중 하나임. 나만의 스타터 예시로, AI 모델 훈련이 주사업인 기업은 반드시 지분의 10%를 시민들의 식량, 물, 전기 등 기본 생계를 위한 기금에 출자하도록 해야 한다고 생각함. 혹시 더 좋은 제안이 있으면 듣고 싶음

  • 이런 역할을 하는 게 바로 조세 및 부의 재분배임. 문제는 많은 미국인들이 이 개념 자체를 매우 싫어한다는 것임. 사실 부의 재분배로 이득을 볼 사람들이 오히려 더욱 반대하는 아이러니도 있음. 그 배경엔 "게으른 사람"—그리고 사실상 소수자 및 이민자를 의미하는 표현을 받은 이들—에게 단 한 푼도 쓰기 싫어하는 감정이 있음

  • AI의 부를 공정하게 분배하는 것과 일반 재분배의 다른 점이 뭔지 의문임. AI 부는 지금 엄청난 속도로 새로 창출되고 있음—비록 장기적 안정성은 불확실하지만. 이런 상황에선 "분배 방안이 마련될 때까지 AI를 중단하자" 제안도 크게 무리는 아니라고 생각함. 분배가 늦어질수록 기존 수혜자들이 권력을 이용해 더 공정한 분배를 막으려 한다는 점이 문제임

  • 사실 AI든 아니든 부의 재분배는 원칙적으로 이미 잘 알려져 있음: 가치 창출 및 자산 이전(상속 등)에 세금을 부과해 그 돈으로 사회 전체 또는 빈곤층을 지원하는 것임. 현실의 문제는 정치 시스템임. 선진국 대부분에서 부의 격차는 계속 커지고 있고, 많은 이들은 실제로 격차 감소를 원하지만 정치적 현실은 그렇게 움직이지 않음. 선거는 주로 단기 이슈(전쟁, 스캔들, 경제 상황 등)로 결정되고, 부의 평등 같은 장기적 가치는 정치 논의 전면에 잘 나오지 않음

  • 부의 분배 정책이 구체적으로 논의되지 않는 이유는, 보통 그런 정치적 논의가 "허술하게 생각됐거나" 혹은 "너무 복잡해서 읽을 수 없다" 두 가지 중 하나이기 때문임. 예컨대 "정부가 AI를 소유하자" 같은 간단한 주장도, 정부가 AI를 갖고 시민 의견을 반영한다는 가정이 깨어질 경우 오히려 완전 자동화된 경찰력이 반대세력을 억압하는 디스토피아가 될 수 있음. 반면, AI의 역기능을 막으려는 현실적 시도들은 보상함수 설정 하나에도 큰 난관이 있다는 예시임. 제안한 "AI 기업 지분 10% 기금"도, AI의 범용성에 따라 다름. 특수목적 AI라면 이런 사회환원이 효과적이지만, AGI같이 전지구적 권력을 가진 경우에는 기업이 해외나 심지어 행성 밖으로도 이동하며 정책을 무시할 수 있음

  • 국부펀드(sovreign wealth fund)랑 비슷하다고 봄. 정부가 대형 기업의 지분 일부를 소유(시장 논리든 정치적 압박이든 여러 방식)하고, 거기서 나는 수익을 국민 복지 혹은 시민 배당금으로 사용하는 구조임. 진짜 성공적으로 하려면 자산총액의 두 자릿수 비율 이상, 즉 아주 큰 규모의 펀드가 필요함. 이는 기존 시스템과는 엄청난 이탈임. 부작용도 많음: 시장 왜곡, 사기, 자본 해외 유출 등이 대표적임. 그럼에도 AI 경제의 부가 소수에 집중되는 현상을 막고 사회보장 제도의 구조적 문제(피라미드 구조 등)를 보완하는 현실적 해법이 될 수도 있다고 생각함. 이런 논의가 더 활발해지기를 바람

• 논리를 끝까지 밀어보자면, AI가 매우 뛰어나 집단적으로 엄청난 일자리가 사라지는 세상을 상상할 수 있음. 미국에서 트럭 운전사가 가장 많은 직업인 주가 절반이고, 나머지 주에서는 교사가 1위, 트럭 운전사가 2위임. 만약 자율주행 트럭과 자동화 창고가 보편화되고, 캐셔와 도로공사마저 모두 자동화되는 사회가 발생했다고 가정해보자. 실업률이 30%에서 40%, 50%, 80%까지 오를 때, 지금도 실업률이 8%만 넘어도 사회적 불안이 생김. 두 자릿수 실업률이 지속되면, "부자를 잡아먹자"는 말이 현실이 될 수 있음. 궁극적으로는 Dune식 AI 완전 금지(불가능하다고 봄)나, 생계와 직업을 분리하는 방법뿐임. 소득을 반드시 일자리로만 얻어야 한다는 고정관념을 벗어나야 함. 만약 로봇이 인간이 근무할 필요조차 없을 만큼의 가치를 생산하게 된다면, 논리적인 해법은 AI가 만든 가치를 시간당 임금 대신 다 함께 분배하는 것임. 예시로는 AI 가치에 세금을 부과해 전 국민 기본소득으로 돌리는 것이 있음. 모두가 본업 외에 미술 등 창작 활동을 즐기며, 로봇이 밭을 갈고 요리를 만들어주는 세계가 가능함

  • "로봇이 그렇게 막대한 가치를 만들어낸다면, 그 부를 분배할 필요조차 없어짐. 경제학적으로 보면, 그런 가치는 한계비용이 0에 가까워져서 음식, 옷, 집 등이 사실상 공짜가 됨. 실제로 역사적으로 소금 전쟁까지 일어났지만 지금은 식당에서 무료로 제공되는 점을 예로 들 수 있음. 하지만 모든 것이 공짜가 되는 건 아니고, 비싸게 남는 품목은 대개 규제산업(교육, 의료, 법률)이나 위치재(주택·토지 등)임. 로봇이 주로 생산하는 물건(음식, 옷)이 싸질 뿐이고, 근본적으로 의미 있으려면 규제체계까지 재설계해야 함" 관련 차트 보기

  • 사실 매우 '합리적인' 대안도 있음: 집단적 인구 감축(전쟁은 아주 효율적 방법임), 출산억제(성장률이 0에 수렴하게), 그리고 유전적 선별(신세계 방식으로 필요 역량 있는 인물만 태어나게 하는 것). 이런 체제라면 50만명 미만의 소수가 수백만 대의 로봇과 아주 소수의 '반 노예적' 인간을 관리하며 세상을 지배함. 아시모프적 미래와 헉슬리적 미래가 결합된 양상임. "1984식 세상 걱정"은 어쩌면 이런 모델로 향하는 중간 단계이거나, 정작 의도적으로 던지는 미끼일 수도 있음

  • 인간이 할 일을 자동화 했던 과거에도 사회가 붕괴하지 않았음. 예를 들어 농업의 자동화로도 사회는 무너지지 않았음. 트럭 운전도 마찬가지로, 로봇이 한다고 해도 인류는 새로운 할 일을 창의적으로 찾아낼 것임

  • 대부분의 직업은 AI가 아닌 자동화만으로도 언젠가 사라질 것이 확실하고, 이는 계급투쟁과 사회적 재구조화로 이어질 수밖에 없다고 전망함

  • 처음 한 줄 읽고 더 읽지 않았음. 논리적 끝(maixmum)은 신적 수준의 초지능이지, 제시된 시나리오는 논리적 한계가 아님. 잘못된 전제에 기반한 논의는 본질적으로 모두 잘못될 수밖에 없음

• Sam Altman 인용문이 농담인 줄 알았으나 실제임: 아카이브

  • 트위터 이미지로 실제 인용 확인

  • 실제 발언이고, 사람들도 진짜인지 몰랐음. 그 웹사이트를 만든 이들조차 마찬가지임

• 최근 출간된 책이 떠오름: "IF ANYONE BUT ME BUILDS IT, EVERYONE MAY AS WELL DIE: A CEO's Guide to Superhuman AI" 관련 링크

• 미국에서 농업 종사자가 50% 넘던 시절이 있었지만 지금은 2% 미만임. 이런 변화의 원인을 생각해 봐야 함. 알람주의적 주장들 중 다수는 현실에 비해 지나치게 과장됐다고 느껴짐

  • 대부분 사람들은 기술혁신이 가져온 풍요와 성장을 실제로는 긍정적으로 받아들임. 물론 그 전환기, 즉 기술 발전과 사회 변화 사이에 생기는 충격에는 합리적으로 우려해야 마땅함. 운 좋게 이득을 보는 사람도 있지만, 그렇지 못한 이도 많음. 역사는 항상 예기치 못한 피해와 부작용이 수반되었음

  • 1915년 미국에 말이 2천만 마리 있었으나, 기계화 이후 1959년에는 450만 마리로 줄었고, 2023년 기준 665만 마리 정도임. 출처: 위키백과 '미국의 말' 통계. "말이 항상 필요하다"는 법칙이 없듯이, 인간이 항상 필요하다는 법칙도 없음(CGP Grey 인용 변형)

  • "지금은 겨우 2%일 뿐임. 왜 이렇게 줄었겠어?" 기계화 때문임. 하지만 대체된 일자리를 가진 이들이 어떤 처지에 처했는지까지 고민해야 함. 농업기계화로 인해 영국 등 많은 나라에서 큰 사회적 소요가 발생했음

  • 심지어 75%까지 갔던 적 있음. 자료그래프 보기. 고대 문명에서는 이보다 더 높았음

  • 미국인들은 한때 비만이 아니었음. 왜 그런지 생각해봐야 함

• 이번 풍자물은 너무나 사실적임. openai와 misanthropic에서 따온 짤막한 구절들 중 웃긴 부분도 많았음