OpenAI, Anthropic e Google buscam criar órgão de supervisão de riscos da IA

OpenAI, Anthropic e Google DeepMind trabalham na criação de um órgão de supervisão dos riscos relacionados à inteligência artificial (IA), informou a OpenAI à AFP nesta terça-feira (15), em meio a apelos crescentes por um maior controle dessa tecnologia.

As preocupações com a segurança da inteligência artificial se intensificaram nas últimas semanas, incluindo alertas de dois funcionários que deixaram grandes desenvolvedoras de IA devido à ameaça que, segundo eles, essa indústria representa para a humanidade.

A ideia de uma entidade de supervisão surgiu de uma proposta de Demis Hassabis, da Google DeepMind, para criar um órgão inspirado na Autoridade Reguladora da Indústria Financeira (Finra), que supervisiona corretores e firmas de investimento nos Estados Unidos.

Em julho, Hassabis pediu aos Estados Unidos que criassem uma organização que testasse os sistemas de IA mais poderosos antes de serem disponibilizados ao público. "O financiamento teria que ser significativo e provavelmente vir em grande parte da indústria", escreveu.

Nesta terça-feira, Sam Altman, diretor-executivo da OpenAI, criadora do ChatGPT, manifestou seu apoio à colaboração em todo o setor e reconheceu o temor público de que a concorrência entre empresas e países possa deixar a segurança em segundo plano.

“Acho ótimo que nosso setor diga que quer se unir, que quer ser capaz de se coordenar e garantir que tenhamos tempo suficiente para fazer isso de forma segura”, afirmou Altman em uma conferência organizada pela Salesforce em São Francisco.

O governo dos Estados Unidos iniciou em agosto um processo de avaliação dos novos modelos de IA, embora a participação seja voluntária e sua metodologia não tenha sido divulgada.

Após os apelos feitos no sábado por Dario Amodei, diretor-executivo da Anthropic, desenvolvedora do chatbot Claude, para desacelerar o desenvolvimento da IA, o presidente dos Estados Unidos, Donald Trump, reiterou que não pretende limitar o setor.

"Que a IA assuma o controle do mundo, destrua a humanidade e todas essas coisas ruins é uma FARSA", escreveu Trump em sua plataforma Truth Social na segunda-feira.

O presidente e integrantes de seu governo reiteraram que não pretendem limitar a IA por temerem que a China assuma a liderança.

As empresas de IA estão "brincando com nossas vidas", advertiu na semana passada Jacob Coxon ao deixar seu cargo de desenvolvedor na Anthropic.

Na segunda-feira, o ex-pesquisador do Google DeepMind Bilal Chughtai reiterou as preocupações levantadas por Coxon e outros.

"Acredito sinceramente que a IA tem o potencial de matar todos nós e que talvez estejamos ficando sem tempo para evitar esse desfecho", declarou nas redes sociais.

A criação de um órgão próprio de supervisão provavelmente exigirá uma lei, especialmente para evitar que a indústria de IA seja acusada de conluio ou de violar normas de concorrência.

Segundo a proposta de Hassabis, além de especialistas independentes, a estrutura deveria incluir representantes do ecossistema de código aberto.

Esse ecossistema é composto por desenvolvedores de IA aberta, ou seja, sistemas com acesso gratuito, passíveis de download e modificação, diferentemente dos modelos fechados da OpenAI e da Anthropic.

Uma vez criada, a entidade de supervisão deveria avaliar os novos modelos das empresas mais avançadas do setor, com foco especial em segurança, antes de sua comercialização.

“Não acho que um pequeno grupo de empresas de IA deva definir as regras para todo o mundo”, afirmou à CNBC Aidan Gomez, diretor da empresa canadense Cohere, que também desenvolve seus próprios sistemas de IA.

“Há um grande número de partes interessadas que precisam ser consultadas”, acrescentou.

O novo organismo também poderia promover uma desaceleração coordenada do desenvolvimento da IA, caso o entendimento dos riscos não avance no mesmo ritmo do progresso tecnológico.

“Quando o futuro da humanidade está em jogo, precisamos de normas internacionais vinculantes, não de padrões voluntários da indústria”, declarou nesta terça-feira o senador democrata Bernie Sanders, durante o evento Pro-Human AI, em Washington.

Diversos observadores, especialmente entre os republicanos, acusam os grandes grupos de IA de tentar “capturar a regulação”, moldando regras que preservem sua vantagem competitiva em detrimento dos concorrentes e dos consumidores.

David Sacks, influente conselheiro de Trump, tem levantado a hipótese de um cartel da IA.

Nesse sentido, ele defendeu que cada empresa aja de forma unilateral, mesmo que isso implique desacelerar sozinha o desenvolvimento da inteligência artificial. Um cenário que parece improvável diante dos investimentos já realizados pelas companhias líderes do setor.