LLMs estão preparados para tornar as ferramentas pesadas de inteligência de negócios mais fáceis e rápidas de usar

Neste momento, as grandes organizações muitas vezes empregam ferramentas de "inteligência de negócios" (BI) para descobrir o que está acontecendo dentro de suas operações. Isso gerou muitos leviatãs pesados no mundo do software.

Agora, a startup do Reino Unido, Fluent, fechou uma rodada de investimento inicial de $7,5 milhões liderada pela Hoxton Ventures e Tiferes Ventures para aplicar modelos de linguagem grandes baseados em inteligência artificial (LLMs) em bancos de dados empresariais, tornando-os muito mais fáceis de serem interrogados pela pessoa comum.

Essencialmente, as ferramentas de BI se conectam a um banco de dados empresarial e usam SQL para criar visualizações e construir painéis de BI. Existem grandes empresas envolvidas neste espaço: Tableau (pertencente à Salesforce), Power BI (pertencente à Microsoft), Looker (pertencente ao Google) e QuickSight (pertencente à Amazon) para citar apenas algumas.

O mercado de soluções é enorme. De acordo com um relatório, o mercado global de inteligência de negócios foi avaliado em $27,11 bilhões em 2022 e é projetado para crescer de $29,42 bilhões em 2023 para $54,27 bilhões até 2030. A Gartner acha que poderia ser ainda maior se a inteligência artificial e LLMs forem mais amplamente aplicados.

No entanto, equipes de dados passam muito tempo construindo esses painéis, especialmente para grandes organizações. E sempre existe o desafio de fazer as pessoas realmente usá-los — uma tarefa árdua quando equipes de dados reclamam ao pensar em atender solicitações que poderiam levar dias para serem construídas.

Em vez disso, a Fluent quer ser uma “camada de conversação” via LLMs de linguagem natural que ficam em cima do armazém de dados de uma empresa. Ela traduz essas perguntas em SQL e gera essas respostas muito mais rapidamente. Assim, qualquer pessoa, independentemente das habilidades técnicas ou do contexto de negócios, pode fazer perguntas em inglês simples sobre seus dados e obter insights, de acordo com a empresa.

Obviamente, isso provavelmente irá encurtar significativamente os tempos de resposta. Robert Van Den Bergh, CEO da Fluent, me disse: “Consultores passam de esperar duas semanas por um insight para 30 segundos. Isso significa que eles fazem muito mais perguntas, usam consideravelmente mais dados em seu trabalho. Dados se tornam algo que agora está ao alcance deles.”

Os clientes da Fluent já incluem a Bain & Company.

Embora ele admita que a Fluent está “principalmente usando o modelo GPT4 da Azure OpenAI”, ele enfatizou que esta não é uma startup com um “invólucro OpenAI”.

Essa abordagem simplista não funciona para gerar SQL preciso e, portanto, respostas corretas para perguntas de dados no contexto de ferramentas de BI, ele afirmou. “Através de 18 meses de trabalho, conseguimos construir um método para alcançar a precisão de respostas que organizações como a Bain & Company podem confiar e alavancar em suas organizações.”

Ian Weber, um sócio da Bain & Company, disse em uma declaração de apoio: “A plataforma da Fluent nos ajudou a alavancar LLMs para interrogar e fornecer insights a partir de conjuntos de dados complexos e grandes. A Fluent permite que nossos consultores obtenham rapidamente as respostas de que precisam de forma eficiente e precisa, especialmente para perguntas muito complexas ou específicas para painéis de dados pré-criados.”

Van Den Bergh disse: “Todos os usuários de negócios querem são respostas para perguntas. Eles não querem fazer modelagem. Eles querem saber como este cliente estava se saindo em comparação com aquele cliente. Ou como eles estão se saindo aqui. E como está se saindo esta campanha de marketing.” Ele disse que outros jogadores do mercado visam usuários de dados, enquanto a Fluent mira o mercado de negócios, não de dados.

O espaço de consulta em linguagem natural só se tornou possível recentemente, então ainda não é um mercado lotado.

Por exemplo, o Metabase é uma aplicação de análise e inteligência de negócios de código aberto que permite aos usuários criar painéis com mais facilidade. A empresa com sede em São Francisco já levantou $51 milhões até o momento.

O Einblick, uma empresa dos EUA que foi recentemente adquirida pela Databricks (que está se preparando para abrir o capital), parece ser o concorrente mais próximo da Fluent no mercado. No entanto, a Fluent afirma que a oferta do Einblick tende mais para os usuários técnicos dentro das equipes de dados.

O ThoughtSpot, que afirmou ter uma avaliação de $4 bilhões, agora também possui um sistema de consulta em linguagem natural.