O caso Lilli da McKinsey fornece ideias-chave para o desenvolvimento do mercado de IA empresarial: Computação de borda + oportunidades de mercado potenciais com modelos pequenos. Este assistente de IA, que integra 100.000 documentos internos, não apenas alcançou uma taxa de adoção de 70% entre os funcionários, mas também é utilizado em média 17 vezes por semana, uma adesão que é verdadeiramente rara em ferramentas empresariais. A seguir, gostaria de compartilhar meus pensamentos:
A segurança dos dados das empresas é um ponto crítico: os ativos de conhecimento central acumulados pela McKinsey ao longo de 100 anos, bem como alguns dados específicos acumulados por pequenas e médias empresas, têm uma sensibilidade de dados muito forte e não devem ser processados em nuvens públicas. Como explorar um estado de equilíbrio em que "os dados não saem da localidade e a capacidade de IA não é comprometida" é uma necessidade real do mercado. A Computação de borda é uma direção de exploração;
2）Modelos pequenos e especializados substituirão modelos grandes e genéricos: os usuários empresariais não precisam de um modelo genérico "com cem bilhões de parâmetros e multifuncional", mas sim de um assistente especializado que possa responder com precisão a questões de áreas específicas. Em comparação, existe uma contradição natural entre a versatilidade dos grandes modelos e a profundidade especializada, e em cenários empresariais, muitas vezes se valoriza mais os modelos pequenos;
3）Equilíbrio de custos na construção de infraestruturas de IA e chamadas de API: embora a combinação de computação de borda e pequenos modelos exija um investimento inicial significativo, os custos operacionais a longo prazo são consideravelmente reduzidos. Imagine que se 45000 funcionários usam frequentemente um grande modelo de IA proveniente de chamadas de API, essa dependência, o aumento da escala de uso e das opiniões tornarão a construção de infraestruturas de IA uma escolha racional para empresas de médio e grande porte;
Novas oportunidades no mercado de hardware de borda: o treinamento de grandes modelos depende de GPUs de alta gama, mas os requisitos de hardware para inferência de borda são completamente diferentes. Processadores otimizados para IA de borda por fabricantes de chips como Qualcomm e MediaTek estão a aproveitar uma boa oportunidade de mercado. Quando cada empresa quiser criar a sua própria "Lilli", os chips de IA de borda projetados para baixo consumo de energia e alta eficiência tornar-se-ão uma necessidade de infraestrutura.
5）O mercado descentralizado de IA web3 também está em expansão: uma vez que as empresas comecem a ter demanda por capacidade computacional, ajustamentos e algoritmos em pequenos modelos, a forma de equilibrar a alocação de recursos se tornará um problema. A alocação de recursos centralizada tradicional se tornará um desafio, o que trará uma grande demanda de mercado para redes de ajuste fino de pequenos modelos descentralizados, plataformas de serviços de capacidade computacional descentralizadas, etc.
Enquanto o mercado ainda discute os limites das capacidades gerais da AGI, é mais agradável ver que muitos usuários empresariais já estão explorando o valor prático da IA. É evidente que, em comparação com o avanço monopolista de recursos que anteriormente se concentrava em poder de computação e algoritmos, quando o mercado coloca foco na Computação de borda + modelos pequenos, isso traz uma vitalidade de mercado muito maior.
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
Uma análise do Lilli da McKinsey: quais ideias de desenvolvimento ele oferece para o mercado de IA empresarial?
O caso Lilli da McKinsey fornece ideias-chave para o desenvolvimento do mercado de IA empresarial: Computação de borda + oportunidades de mercado potenciais com modelos pequenos. Este assistente de IA, que integra 100.000 documentos internos, não apenas alcançou uma taxa de adoção de 70% entre os funcionários, mas também é utilizado em média 17 vezes por semana, uma adesão que é verdadeiramente rara em ferramentas empresariais. A seguir, gostaria de compartilhar meus pensamentos:
2）Modelos pequenos e especializados substituirão modelos grandes e genéricos: os usuários empresariais não precisam de um modelo genérico "com cem bilhões de parâmetros e multifuncional", mas sim de um assistente especializado que possa responder com precisão a questões de áreas específicas. Em comparação, existe uma contradição natural entre a versatilidade dos grandes modelos e a profundidade especializada, e em cenários empresariais, muitas vezes se valoriza mais os modelos pequenos;
3）Equilíbrio de custos na construção de infraestruturas de IA e chamadas de API: embora a combinação de computação de borda e pequenos modelos exija um investimento inicial significativo, os custos operacionais a longo prazo são consideravelmente reduzidos. Imagine que se 45000 funcionários usam frequentemente um grande modelo de IA proveniente de chamadas de API, essa dependência, o aumento da escala de uso e das opiniões tornarão a construção de infraestruturas de IA uma escolha racional para empresas de médio e grande porte;
5）O mercado descentralizado de IA web3 também está em expansão: uma vez que as empresas comecem a ter demanda por capacidade computacional, ajustamentos e algoritmos em pequenos modelos, a forma de equilibrar a alocação de recursos se tornará um problema. A alocação de recursos centralizada tradicional se tornará um desafio, o que trará uma grande demanda de mercado para redes de ajuste fino de pequenos modelos descentralizados, plataformas de serviços de capacidade computacional descentralizadas, etc.
Enquanto o mercado ainda discute os limites das capacidades gerais da AGI, é mais agradável ver que muitos usuários empresariais já estão explorando o valor prático da IA. É evidente que, em comparação com o avanço monopolista de recursos que anteriormente se concentrava em poder de computação e algoritmos, quando o mercado coloca foco na Computação de borda + modelos pequenos, isso traz uma vitalidade de mercado muito maior.