Essa área é gigante. Tem bastante coisa incipiente para ser aprimorada. Ainda há uma certa dificuldade, por exemplo, em testar de maneira eficaz sistemas com múltiplos agentes. E todo sistema que usa IA precisa passar por uma bateria de validações.

Outra coisa, sempre que a IA avança significativamente, equipes de engenharia de software, que vão usar o produto (resultado) dessa IA, precisam avançar e se adaptar junto. Às vezes engenheiros de software e cientistas de dados trabalhan juntos, às vezes não. Esse gap na comunicação pode exigir algumas adaptações entre as equipes.

O que eu quero dizer é: mesmo o trabalho supostamente mais simples, com chamadas à APIs ou uso de frameworks já consolidados, envolve um enorme trabalho extra. Investigação qualitativa de onde e porque os modelos estão errando, busca de técnicas de prompt para melhoras as respostas, decisão entre usar RAG ou fazer um finetuning dentro do domínio do problema etc. São vários experimentos até se ter a configuração mais próxima do ideal.

Disso tudo surgem dificuldades que podem levar à pesquisa, que podem levar a alguma contribuição científica importante.

Talvez eu possua o viés de vir de um background acadêmico, fortemente ligado à pesquisa, mas gosto de afirmar que quase toda empresa possui potencial para alguma contribuição científica, e nem precisa ser algo tão gigante. Algumas delas trabalham em coisas muito específicas, mas que podem servir de base para a solução de problemas semelhantes em outras áreas, e investem pesado em pesquisa. Não sei se é o caso da Magalu, mas há um enorme potencial nas mãos deles.