ChatGPT 이용약관, 타인에게 법률·의료 조언 제공 금지 명시

• OpenAI는 ChatGPT가 전문 법률·의료 조언을 대체하지 않는다고 밝히며, 관련 약관 변경이 새 내용이 아님을 명확히 함
• 10월 29일 업데이트된 정책에서 면허가 필요한 맞춤형 조언 제공 금지를 구체적으로 명시
• 2025년 1월 29일 이전 정책에서도 타인의 안전·복지·권리에 중대한 영향을 미칠 수 있는 활동을 제한했으며, 여기에는 법률·의료·재정 조언이 포함됨
• 캐나다 연구 결과, ChatGPT-4의 의학 관련 답변 정확도는 31% 에 불과하고, 설득력 있는 언어로 인해 환자 행동에 영향을 미치는 사례 확인
• AI 조언의 신뢰성 문제와 함께, 의료 현장에서 환자-의사 관계 변화가 나타나고 있음

OpenAI의 정책 명확화

• OpenAI는 ChatGPT가 전문가의 법률·의료 조언을 대체하지 않는다고 재확인
  • CTVNews.ca에 보낸 성명에서 “이는 새로운 변경이 아니며, ChatGPT는 여전히 법률 및 건강 정보를 이해하는 데 유용한 자원”이라고 언급
• 10월 29일 사용 정책 업데이트에서, 면허가 필요한 맞춤형 조언(법률·의료 등) 은 면허 소지 전문가의 적절한 개입 없이 제공할 수 없다고 명시
• 2025년 1월 29일 이전 정책에서도, 사용자가 타인의 안전·복지·권리에 중대한 영향을 미칠 수 있는 활동을 수행하거나 조장하지 말 것을 요구했으며, 여기에는 맞춤형 법률·의료·재정 조언 제공 금지가 포함됨
• OpenAI는 “모델의 동작 역시 변경되지 않았다”고 밝혀, 기존 정책의 연속성을 강조

ChatGPT의 의료 정보 활용과 한계

• ChatGPT는 건강 문제에 대한 답을 찾는 캐나다인들에게 널리 사용되는 도구로 자리잡음
• 워털루대학교 연구팀은 의학 자격시험 시나리오를 변형한 질문을 ChatGPT-4에 제시해 성능을 평가
  • 결과적으로 정확한 답변은 31% , 명확한 답변은 34% 로 나타남
• 브리티시컬럼비아대학교의 또 다른 연구에서는 ChatGPT의 공감적이고 설득력 있는 언어가 실제 환자의 의사 상담 시간과 태도에 영향을 미침을 확인
  • 연구진은 챗봇의 표현이 인간보다 더 설득력 있고 신뢰감 있게 들린다고 분석
  • 정보가 부정확하더라도 자신감 있는 어조로 인해 오류를 구별하기 어렵다는 점을 지적

의료 현장에서의 영향

• 의사들은 AI 도구의 조언을 신뢰한 환자들이 이미 결론을 내린 상태로 진료에 임하는 경우가 많다고 보고
• 이러한 현상은 AI 조언의 설득력과 신뢰성 문제가 실제 의료 현장에 미치는 영향을 보여줌

정정 공지

• 기사 초기 버전은 OpenAI가 의료·법률 조언 기능을 중단했다고 서술했으나,
  • OpenAI는 “모델의 동작은 변경되지 않았다”고 밝혀 이를 정정함