Apple, 엔지니어의 하루 AI 예산을 200달러로 제한

Apple이 일부 엔지니어의 하루 AI 지출 한도를 300달러에서 200달러로 낮춘 것으로 알려짐 기업 규모의 AI 운영에서는 자동화된 비용 통제가 중요하며, 캐싱과 소형 모델 라우팅, 프롬프트 최적화로 비용 압박에 대응할 수 있음 University of Michigan 연구진에 따르면, 비영어 프롬프트는 같은 영어 프롬프트보다 에너지를 최대 179배 소비하며 정확도도 더 낮은 경우가 있음 Palo Alto Networks는 AI 에이전트의 접근 권한 통제를 강화하기 위해 Clutch 인수를 논의 중인 것으로 알려졌으며, OpenAI는 승인된 보안 테스터용 GPT-6 Cyber를 출시함 Proton은 직원 반발로 AI 사용 재면담 계획을 취소했으며, Google의 학교용 AI 제어 기능은 기존 검색을 유지하면서 AI만 선택적으로 끌 수 있는지를 둘러싼 논쟁을 낳음 Apple의 AI 예산 축소와 비용 효율성 Apple이 일부 엔지니어의 일일 AI 지출 한도를 300달러에서 200달러로 낮춘 것으로 알려짐 관련 출처: Bloomberg 비용 축소는 현금 부족보다 기업 규모의 생성형 AI 운영 경제성과 관련된 조치로 해석할 수 있음 제한 없는 고급 모델 사용은 비용을 급격히 늘리고 수익성을 훼손할 수 있음 무차별적인 추론에 의존하는 제품에는 엄격하고 자동화된 비용 통제가 필요함 대응 수단으로 지능적인 캐싱, 소형 모델로의 요청 라우팅, 프롬프트 최적화를 권고함 컴퓨팅 비용이 계속 낮아질 것이라는 가정에 의존하기보다 효율성을 경쟁력으로 삼아야 함 비영어 프롬프트의 에너지 소비 격차 University of Michigan 연구진은 비영어 프롬프트 처리에 같은 영어 프롬프트보다 최대 179배 많은 에너지가 들어가며, 정확도는 오히려 낮아지는 경우가 있음을 발견함 현대 모델의 영어 중심 토큰화가 다른 언어의 토큰 수를 늘리고 추론을 느리게 만듦 글로벌 제품은 사용자의 언어에 따라 연산 비용과 지연 시간이 크게 달라질 수 있음 프랑스어나 일본어 사용자에게 더 많은 비용을 들이면서 더 낮은 품질을 제공한다면 현지화 SaaS의 단위 경제성이 악화됨 기반 모델의 다국어 토큰화 개선 전까지는 비영어 기능을 제한하거나 효율 손실을 감수해야 할 것이라는 비관적 전망이 있음 AI 에이전트 보안을 겨냥한 Clutch 인수 논의 Palo Alto Networks가 사이버보안 스타트업 Clutch를 약 5억 달러에 인수하는 방안을 논의 중...