Startups de IA deverão seguir cartilha de investidores para desenvolvimento da tecnologia; entenda

THE WASHINGTON POST - As principais empresas de capital de risco assinam compromissos voluntários para que as startups desenvolvam inteligência artificial (IA) de forma responsável

Quase três dúzias de empresas de capital de risco assinaram um conjunto de compromissos voluntários, com feedback do governo Biden, sobre como as muitas startups que elas apoiam devem desenvolver tecnologia de inteligência artificial de forma responsável.

Leia também

A internet está sendo inundada por chatbots inteligentes: estamos prontos para isso?

O Responsible Innovation Labs (RIL), uma coalizão sem fins lucrativos de investidores e executivos de tecnologia, deve divulgar na semana que vem os detalhes das novas diretrizes, que incluem promessas de “garantir a adesão organizacional” dentro das startups em torno da IA responsável, “prever riscos e benefícios da IA” e “auditar e testar para garantir a segurança do produto”. O grupo consultou o Departamento de Comércio dos EUA, bem como acadêmicos e grupos da sociedade civil, para criar o acordo voluntário, e o discutirá em uma mesa redonda em São Francisco, EUA, com a Secretária de Comércio Gina Raimondo.

De acordo com a recente ordem executiva do presidente Joe Biden sobre IA, o Departamento de Comércio foi encarregado de estabelecer padrões de avaliação para empresas de IA, mas essas avaliações obrigatórias só se aplicarão às empresas que criarem os modelos de IA mais poderosos. As novas diretrizes voluntárias, embora abertas, fazem parte de um esforço para estabelecer algumas diretrizes para potencialmente milhares de startups em todo o setor de IA.

As 35 empresas que inicialmente assinaram os compromissos incluem a General Catalyst, Felicis Ventures, Bain Capital, IVP, Insight Partners e Lux Capital. Além das diretrizes, o RIL também está lançando um “protocolo” mais detalhado - ou guia prático - para startups e investidores que tentam implementar esses princípios, incluindo sugestões sobre como estruturar equipes de IA responsáveis, executar testes de segurança e interagir com partes interessadas externas.

“Isso traz uma espécie de nível adicional de higiene, se preferir, na forma como você gerencia os investimentos”, disse Ganesh Bell, diretor administrativo da Insight Partners, em uma entrevista à bloombergNews. “Sabemos que, ao investir em empresas de infraestrutura e IA, é importante criar confiança. É importante criar segurança.”

Em um comunicado, Raimondo disse que o anúncio reflete a abordagem de Biden de “todas as mãos no convés para garantir que não deixemos pedra sobre pedra para aproveitar o poder da IA para o bem e, ao mesmo tempo, proteger as pessoas de seus riscos”. Os acordos voluntários, segundo ela, “demonstram uma liderança importante do setor privado”.

Como esses padrões não são vinculativos, caberá aos VCs e às startups se autoaplicarem. Gaurab Bansal, diretor executivo da RIL, disse estar esperançoso de que as empresas manterão os novos princípios. “Acreditamos que os fundadores procurarão os signatários para se certificarem de que estão cumprindo seus compromissos de capital de risco e vice-versa”, disse ele.