Kevin Systrom, um dos nomes por trás da criação do Instagram, lançou críticas contundentes às atuais estratégias das empresas de inteligência artificial (IA). Segundo ele, muitas dessas companhias estão excessivamente focadas em "inflar o engajamento", importunando usuários com perguntas de seguimento, em vez de entregar informações verdadeiramente úteis e diretas.
Durante sua participação no evento StartupGrind, Systrom afirmou que essa tática representa "uma força que nos prejudica", traçando um paralelo com as práticas agressivas de expansão utilizadas pelas gigantes das redes sociais. "Você vê algumas dessas empresas seguindo pelo mesmo caminho que todas as companhias de consumo já trilharam, tentando inflar o engajamento a qualquer custo", disse ele. "Toda vez que faço uma pergunta [a um chatbot], no final ele faz outra pequena pergunta para ver se consegue extrair mais uma interação de mim."
Essa crítica surge em um momento em que modelos como o ChatGPT enfrentam questionamentos por serem excessivamente "simpáticos" ou evasivos, em vez de fornecerem respostas diretas. A OpenAI, empresa por trás do ChatGPT, já reconheceu o problema anteriormente, atribuindo-o a "feedback de curto prazo" dos usuários e se comprometeu a realizar ajustes.
No entanto, Systrom sugere que essa característica de chatbots serem excessivamente engajadores pode não ser um defeito, mas sim uma funcionalidade intencional. O objetivo seria impulsionar métricas como tempo de uso e usuários ativos diários, que agradam investidores. Para o cofundador do Instagram, as empresas de IA deveriam estar "totalmente focadas" em fornecer respostas de alta qualidade, e não em manipular métricas da maneira mais fácil.
Embora Systrom não tenha mencionado nomes específicos, suas observações adicionam peso ao debate sobre a direção que a tecnologia de IA generativa está tomando. Em resposta a questionamentos semelhantes feitos pelo portal IAFeed, a OpenAI direcionou para suas especificações de modelo, que indicam que a IA pode precisar pedir "esclarecimentos ou mais detalhes" quando não possui toda a informação necessária.
Contudo, as próprias especificações da OpenAI ressaltam que, a menos que a pergunta seja muito vaga ou complexa, a IA deveria "tentar atender à solicitação e informar ao usuário que poderia ser mais útil com certas informações", sugerindo que o bombardeio de perguntas nem sempre é justificado.