Desafios na adoção responsável da IA generativa
Um relatório recente da McKinsey revela que a maioria das organizações não está totalmente preparada para utilizar a IA generativa de forma segura e responsável. Um dos principais desafios é a explicabilidade — a capacidade de entender como e por que a IA toma certas decisões. Embora 40% dos entrevistados vejam isso como um risco significativo, apenas 17% estão ativamente trabalhando para resolvê-lo.
Datumo: Da rotulagem de dados à segurança em IA
Enquanto isso, a startup sul-coreana Datumo, que começou como uma empresa de rotulagem de dados, está se destacando ao ajudar empresas a construir sistemas de IA mais seguros. Com ferramentas que permitem testar, monitorar e melhorar modelos de IA sem exigir conhecimento técnico, a startup acaba de levantar US$ 15,5 milhões em um novo financiamento, totalizando aproximadamente US$ 28 milhões. Entre os investidores estão Salesforce Ventures, KB Investment e SBI Investment.
Fundada em 2018 por David Kim, ex-pesquisador de IA da Agência de Desenvolvimento de Defesa da Coreia, a Datumo surgiu da frustração com o processo demorado de rotulagem de dados. Kim desenvolveu um aplicativo baseado em recompensas, permitindo que qualquer pessoa rotulasse dados em seu tempo livre e ganhasse dinheiro. A ideia foi validada em uma competição de startups no KAIST (Instituto Avançado de Ciência e Tecnologia da Coreia).
Expansão e inovação
Hoje, a Datumo conta com mais de 300 clientes na Coreia do Sul, incluindo gigantes como Samsung, LG e Hyundai. A empresa gerou cerca de US$ 6 milhões em receita em 2024 e expandiu suas operações para além da rotulagem de dados, lançando o primeiro conjunto de dados de referência da Coreia focado em confiança e segurança em IA.
"Começamos com anotação de dados, mas expandimos para conjuntos de dados de pré-treinamento e avaliação conforme o ecossistema de IA amadureceu", explicou Kim.
Ferramentas para não desenvolvedores
A Datumo também se diferencia com sua plataforma de avaliação Datumo Eval, que gera automaticamente testes para identificar respostas inseguras, tendenciosas ou incorretas em modelos de IA. A ferramenta é projetada para equipes de políticas, confiança e segurança, e conformidade, sem exigir conhecimentos técnicos.
Investimentos e futuro
O novo financiamento será usado para acelerar o desenvolvimento de ferramentas de avaliação automatizada e expandir as operações globais da empresa, incluindo mercados como Coreia do Sul, Japão e Estados Unidos. A Datumo já estabeleceu uma presença no Vale do Silício em março deste ano.
Enquanto a competição por dados de treinamento de IA se intensifica, a Datumo se posiciona como uma peça-chave no ecossistema, oferecendo soluções inovadoras para garantir que a IA seja desenvolvida e utilizada de forma ética e segura.