Ex-Presidente da Y Combinator Lança Fundo SAIF Focado em Segurança de IA

Geoff Ralston, uma figura bem conhecida na comunidade de startups por seus anos na Y Combinator, está de volta ao cenário de investimentos formais. Ele anunciou na quinta-feira o lançamento de seu novo fundo, o Safe Artificial Intelligence Fund (SAIF).

O nome SAIF não é apenas um acrônimo para o fundo, mas também encapsula sua tese de investimento e um jogo de palavras com "safe" (seguro, em inglês). Ralston busca especificamente startups que "aprimoram a segurança, a proteção e a implementação responsável da IA", conforme descrito no site do fundo.

A estratégia de investimento inicial envolve cheques de US$ 100.000, utilizando o instrumento SAFE (Simple Agreement for Future Equity), um modelo de investimento pré-seed popularizado pela própria Y Combinator, com um teto de US$ 10 milhões. Ralston brinca que o uso do SAFE aqui é um "trocadilho intencional".

Enquanto muitos investidores de capital de risco (VCs) estão focados em startups de IA de forma geral, a abordagem de Ralston é mais nichada, concentrando-se na ideia de IA segura, embora ele admita que o conceito é amplo.

"A grande maioria dos projetos de IA hoje usa a tecnologia para resolver problemas, criar eficiências ou novas capacidades. Eles não são necessariamente inseguros por natureza, mas a segurança não é sua principal preocupação", disse Ralston ao TechCrunch. "Pretendo financiar startups cujo objetivo principal seja a IA segura – como a defini (de forma muito ampla)."

Que tipo de startups o SAIF procura?

• Startups focadas em melhorar a segurança da própria IA (ex: clareza no processo de decisão da IA, benchmarking de segurança).
• Produtos que protegem a propriedade intelectual na era da IA.
• Soluções que garantem a conformidade da IA com regulamentações.
• Ferramentas para combater a desinformação e detectar ataques gerados por IA.
• Ferramentas funcionais de IA com segurança integrada (ex: melhores ferramentas de previsão, ferramentas de negociação empresarial que protegem segredos corporativos).

Ralston deixa claro que, embora essa lista possa parecer semelhante aos alvos de outros VCs, há limites claros. Um exemplo do que ele não apoiaria são armas totalmente autônomas. "Certamente existem usos da IA que seriam (serão) inseguros: usar a tecnologia para criar bioarmas, gerenciar armas convencionais sem um humano no controle, etc.", explicou.

Curiosamente, uma área que ele gostaria de financiar são "sistemas de segurança de armas" que poderiam detectar ou prevenir ataques de armas de IA, um contraponto interessante às tendências atuais em tecnologia de defesa, onde alguns defendem armas autônomas sem intervenção humana.

A Vantagem Y Combinator

O campo de IA é competitivo para VCs. Ralston espera que suas conexões com a Y Combinator lhe deem uma vantagem. Ele deixou a YC em 2022, após três anos como presidente (sucedido por Garry Tan) e mais de uma década como conselheiro.

Ralston planeja oferecer mentoria semelhante à que fornecia na renomada aceleradora e prometeu orientar as startups sobre como aplicar para a YC. Ele também oferecerá acesso à sua considerável rede de investidores.

Detalhes como o tamanho exato do fundo SAIF, o número de startups que pretende apoiar e quem são seus investidores (LPs) não foram divulgados por Ralston.