광고를 팔기 위해 우리는 지옥을 만들고 있습니다 [비디오]

• 인공지능의 위협은 로봇이 아니라 권력자가 인공지능을 사용하는 방법에 대한 우려임
• 디지털 광고와 설득구조는 사용자 개개인의 약점을 파악하고 조종하는 방향으로 진화하고 있음
• 기계학습 알고리듬은 우리가 이해할 수 없는 방식으로 인간 행동을 예측하고 유도함
• 데이터 수집과 알고리듬 조작은 정치, 사회적 영향력 행사에 사용되고 있음
• 우리는 디지털 시스템의 구조를 투명하게 재설계하고, 인간의 가치를 지키는 방향으로 기술을 발전시켜야 함

인공지능과 권력: 현실적인 위험

• 인공지능에 대한 진짜 두려움은 터미네이터 같은 로봇이 아니라 권력자들이 인공지능을 조작해 인간을 통제하는 것임
• 조지 오웰의 "1984" 처럼 감시 시스템이 현실화될 수 있음
• 기업들은 개인의 자유와 존엄성을 침해할 수 있는 기술을 개발하고 있음
• Facebook, Google, Amazon, Alibaba, Tencent 같은 회사들이 광고를 통한 데이터 수집과 분석에 집중하고 있음

디지털 광고와 설득 구조의 진화

• 기존 광고는 제한된 물리적 공간과 타겟팅에 의존했지만 디지털 세계에서는 개인별 맞춤형 설득이 가능함
• 인터넷 광고는 우리가 본 것, 검색한 것, 대화한 것을 기반으로 끝없이 따라오는 맞춤형 광고를 생성함
• 물리적 세상과 달리, 디지털 공간은 수십억 개 단위로 실시간 설득구조를 운영할 수 있음

기계학습 알고리듬의 힘과 한계

• 기계학습 알고리듬은 대량의 데이터를 통해 개인의 행동을 예측하고 조작하는 데 사용됨
• 프로그래머조차 알고리듬 내부가 어떻게 작동하는지 완전히 이해하지 못함
• 데이터가 많을수록 알고리듬의 성능은 강력해짐, 따라서 기업은 가능한 많은 데이터를 수집하려고 함

소셜미디어와 정치적 조작

• Facebook과 YouTube는 알고리듬을 통해 정치적 성향을 분석하고 조작할 수 있음
• 예를 들어, Facebook은 비공개 게시판을 이용해 특정 인구집단에게만 정보를 노출시킴
• 간단한 게시글 하나로도 수십만 명의 투표 행동을 변화시킨 사례가 존재함
• YouTube 추천 알고리듬은 사용자를 극단적 콘텐츠로 끌어들이는 "토끼굴" 효과를 발생시킴

디지털 시스템의 재설계 필요성

• 우리는 현재 우리가 어떤 정보를 보는지, 다른 사람들이 무엇을 보는지 모르는 상황에 있음
• 알고리듬은 민족, 정치적 성향, 성적 지향 등 개인적 특성을 파악할 수 있음
• 중국은 안면인식 기술을 이용해 감시 체계를 강화하고 있으며, 서방도 비슷한 위험에 처해 있음
• 디지털 기술을 인간의 가치에 기반해 재구성하고 투명성을 확보해야 함
• 기술, 창의성, 정치 구조까지 포괄적인 변화를 요구함

결론: 디지털 기술과 함께 성장하는 책임

• 디지털 플랫폼은 가치 있는 도구이지만, 동시에 개인과 사회에 심각한 위협이 될 수 있음
• 현재 시스템은 우리가 "상품"으로 거래되는 구조임
• 더 나은 미래를 위해서는 기술의 투명성, 인간 중심의 가치, 그리고 창의적이고 정치적인 변화가 필요함
• "엄청난 잠재력을 가진 기술은 엄청난 위험과 함께 온다"는 인식을 가져야 함