AI 기업들은 왜 해킹 혐의로 기소되지 않는가?

AI 기업이 시스템의 창발적 행동을 이유로 무단 접근의 고의를 부인하더라도, 설계와 운영 과정의 선택으로 책임을 판단할 수 있음 무단 접근의 형사책임을 검토할 핵심 요건은 접근 또는 접근 시도, 접근 권한 부재, 고의이며, 쟁점은 AI 기업이 해당 행동을 의도했는지에 있음 기업은 학습 자료, 훈련, 실행 환경, 설정을 선택해 모델의 역량과 행동 가능 범위를 통제하며, 정확한 출력을 예측하지 못한다는 사실만으로 포괄적인 면책이 성립하지는 않음 LLM 자체는 수동적이고 격리돼 있으며, 외부 시스템에 접근하려면 기업이 제공하는 도구와 연결 환경이 필요함 보안 취약점을 탐색하도록 훈련하고 해킹 가능한 환경에 배치했다면 그 결과는 예견 가능하므로, 새로운 AI 지침 논의보다 기존 법체계에 따른 고의 판단과 기소가 필요함 무단 접근과 고의의 쟁점 Anthropic의 시스템 3곳 접근, OpenAI의 호주 정부 보건 서비스 웹사이트 접근, Google의 이름이 공개되지 않은 기업 3곳 접근, Meta의 해킹에도 아직 형사적 처벌이 없음 G20 국가들의 무단 접근 관련 법적 요건은 접근, 권한 부재, 고의로 정리할 수 있음 일부 국가에서는 실제 접근에 성공하지 않아도 시도만으로 요건을 충족함 한 시스템을 해킹하려다 다른 시스템에 접근하더라도 고의는 유지됨 해당 기업들은 접근 사실과 권한 부재는 인정하면서, AI가 자율적으로 행동했으므로 기업의 고의가 없었다는 논리에 의존함 많은 법체계에서 고의 부재는 형사기소를 피할 근거가 되므로, 모델의 제작 과정을 통해 기업이나 그 대리인의 의도를 검토할 필요가 있음 약한 창발성과 기업의 네 가지 선택 현재 LLM은 여러 시스템과 알고리듬의 상호작용으로 구성되며, 출력은 부정확할 수 있지만 완전히 예측 불가능하지는 않음 약한 창발성(weak emergence)은 대화의 유창함처럼 전체 시스템 수준에서만 나타나는 특성을 뜻함 구성 요소를 분석해 각 처리 단계를 설명할 수 있지만, 모델을 실행하지 않고 그 출력까지 예측할 수는 없음 기업이 선택하는 핵심 요소는 학습 자료, 훈련, 실행 환경, 설정임 학습 자료는 모델에 입력하는 텍스트와 미디어임 훈련은 객관적 평가와 주관적 조정을 포함하는 피드백 과정임 실행 환경은 인터넷 연결 방식과 사용 가능한 도구를 결정함 설정은 모델의 역량을 제한하는 구체적인 수치임 학습 자료가 정하는 지식의 범위 기업은 제품을 차별화하기 위해 어떤 지식을 학습시킬지 ...