A Uptime Industries está agitando o cenário da inteligência artificial ao apostar em infraestrutura local com o lançamento do Lemony AI, um dispositivo portátil que promete colocar o poder da IA diretamente nas mãos das empresas, literalmente em uma “IA em caixa”.
Conheça o Lemony AI: Potência e Privacidade em Formato Compacto
Com dimensões comparáveis às de um sanduíche, o Lemony AI é uma solução inovadora capaz de executar modelos de linguagem grandes (LLMs), agentes de IA e fluxos de trabalho de IA complexos, tudo em um único nó. Uma das suas grandes vantagens é o baixo consumo de energia, necessitando de apenas 65 watts para operar – o equivalente ao carregamento de um laptop. Além disso, os dispositivos Lemony AI podem ser empilhados e conectados, formando clusters de IA mais robustos e escaláveis.
Sascha Buehrle, cofundador e CEO da Uptime, revelou em entrevista que cada nó Lemony AI pode sustentar um LLM com até 75 bilhões de parâmetros. A plataforma oferece flexibilidade, permitindo hospedar modelos de código aberto ou versões adaptadas de modelos proprietários. Em uma configuração de cluster, cada dispositivo Lemony pode operar um modelo diferente, otimizando recursos e aplicações.
Parcerias Estratégicas e Foco na Adoção Empresarial
Para facilitar o acesso dos seus clientes a modelos de IA avançados, a Uptime está lançando o Lemony AI com parcerias importantes, incluindo colaborações com a IBM e a JetBrains. Isso permitirá que os usuários utilizem modelos de ponta, inclusive os modelos fechados da IBM, de forma integrada.
A ideia para o Lemony AI surgiu de um projeto paralelo dos cofundadores, Buehrle e Ivan Kuleshov. Eles exploravam a viabilidade de distribuir modelos de linguagem em microcomputadores Raspberry Pi. Embora inicialmente não estivesse ligado à IA generativa, o sucesso do experimento os levou a investigar o potencial desses dispositivos para tarefas mais complexas. Ao perceberem que rodar modelos em dispositivos locais poderia ser a chave para desbloquear uma maior adoção da IA por organizações – especialmente aquelas com restrições ao uso de modelos baseados na nuvem – eles decidiram construir seu próprio hardware. A estratégia foi focar em um dispositivo pequeno, com ênfase na privacidade de dados, para acelerar a adesão das empresas à IA.
“Precisamos construir algo pequeno que possa ser facilmente integrado às equipes e que não exija tomada de decisão em nível organizacional – basicamente, levar soluções de IA generativa on-premise para as equipes de negócios”, explicou Buehrle. Ele acrescentou que clusters de dispositivos pequenos e poderosos permitem que o sistema cresça de acordo com as necessidades do cliente.
Privacidade em Primeiro Lugar e Demanda Crescente
A Uptime Industries relata uma forte demanda pelo Lemony AI, especialmente de empresas em setores altamente regulamentados como finanças, saúde e direito. A promessa de privacidade é um grande atrativo.
“Tudo fica na sua caixa”, afirmou Buehrle. “Seus documentos, seus arquivos, seus e-mails – os modelos são hospedados na caixa, os agentes rodam localmente na caixa, e nada sai da caixa.”
Investimento e Planos Futuros
A Uptime arrecadou US$ 2 milhões em uma rodada de financiamento inicial (seed) liderada pela True Ventures, com participação da Alumni Ventures, JetBrains e alguns investidores anjo. Esses fundos serão utilizados para o desenvolvimento contínuo dos dispositivos.
Os planos futuros da startup incluem fazer com que o software desenvolvido para seus microcomputadores de IA, o Lemony OS, funcione em hardware de outras empresas, como o Nvidia DGX Spark. Além disso, a empresa busca expandir o software do foco atual em usuário único para um que possa ser utilizado por equipes.
O Lemony AI está disponível por US$ 499 por mês, com acesso para até cinco usuários.
