OpenAI가 또 다른 중요한 증명을 도용했을 가능성

1 hour ago 1

Hacker News 의견들 주요 수학 증명이 학습 데이터에 들어갔을 가능성이 높다는 사실을 안 직후, OpenAI가 아직 학습 중인 모델에서 출력 토큰 3,000억 개를 생성하기로 한 건 수상함. 각 단계마다 그럴듯한 해명은 가능하지만, 실제 정보 출처를 감추고 독립적으로 발견한 것처럼 경로를 재구성한 듯한 느낌도 듦. 지금 표절을 주장하는 수학자 Thom은 OpenAI의 비소픽 군 구성에 관한 해설을 올릴 당시, 증명이 낯익다는 얘기를 하지 않았음. 핵심 논증을 영리하다고 평가하면서도 자신이 먼저 생각해 냈다는 언급은 하지 않음. [1]https://mathoverflow.net/a/513885. 원문 게시물은 아래에서 볼 수 있음. https://mathstodon.xyz/@andreasthom/117240535270608201 https://mathstodon.xyz/@andreasthom/117240536885387540 https://mathstodon.xyz/@andreasthom/117240537520615623 원문은 누구나 읽을 수 있는 공개 사이트에 있는데, HN 게시물은 계정을 만들고 로그인해야 글을 보여 주는, 갈수록 의심스러운 사이트로 연결된다는 게 안타까움. 이 커뮤니티라면 열린 웹의 정신을 더 소중히 여길 줄 알았음. 결국 Twitter 없이는 주목받지 못한 셈임. 이번이 두 번째 경종임. 거대 AI 기업, 사실상 모든 거대 기술 기업은 데이터 수집·처리 사업을 하며, 이는 정보 활동이라고도 부를 수 있음. 최종 제품은 독립적인 머신러닝 모델 하나가 아니라, 세상의 모든 지식을 모으는 생태계와 기반 시설임. 전통적으로 정보기관이 수집하던 사적·비밀 지식까지 포함하며, 이제 AI 에이전트도 같은 일을 할 수 있음. 애초에 데이터 수집용으로 설계된 시스템에서 사용자가 수집을 거부하기는 현실적으로 어려움. 미덥지 못한 설정 버튼은 줄 수 있어도 확실한 보장은 하기 어려움. 중요한 증명을 연구하는 러시아 수학자든, AI로 계획을 다듬는 테러리스트든, 경쟁 제품을 개발하는 중국 기업의 AI 연구자든, 대화를 정말 보호할 방법이 있을까? 로그를 보지 않고 내가 누구이며 무엇을 하는지 어떻게 알 수 있을까? 그렇다면 모든 사용자의 대화를 살피고 중요한 내용을 표시하는 에이전트가 있어야 하고, 본 것에 대한 일종의 기억도 남겨야 함. 공개 모델 학습에 직접 쓰지는 않더라도, 사적인 대화를 제품과 ...

Read Entire Article