OpenAI, Anthropic e Google DeepMind, os três maiores rivais da corrida de IA, vêm conversando desde julho sobre criar um órgão comum de padrões de segurança pra IA. A conversa virou pública depois que o CEO da Anthropic publicou um ensaio pedindo desaceleração.
O ensaio que trouxe o assunto à tona
Em 12 de setembro, Dario Amodei, CEO da Anthropic, publicou um ensaio pedindo que a indústria de IA desacelere o ritmo de desenvolvimento dos modelos mais avançados. Ele disse que a Anthropic vai permitir acesso permanente de avaliadores independentes aos modelos da empresa, pra checar se ela está mesmo cumprindo os próprios compromissos de segurança. O pedido foi elogiado publicamente por Demis Hassabis, do Google DeepMind, e Sam Altman, da OpenAI.
Um órgão comum de padrões
Segundo reportagens do setor, os CEOs das três empresas discutem, desde julho, formar um órgão setorial conjunto pra protocolo de segurança de modelo de IA. Altman, Amodei e Hassabis já pediram publicamente, cada um por conta própria, uma colaboração liderada pelos Estados Unidos em torno de padrões de segurança pra IA.
Três empresas que competem direto pelo mesmo usuário sentando pra combinar regra de segurança junto é raro, e mostra que ninguém quer ser o único a desacelerar sozinho.
Nem todo mundo concorda no como
As três empresas têm visões diferentes sobre o quanto o governo deveria se envolver, versus autorregulação da própria indústria. A OpenAI publicou um posicionamento reforçando o compromisso com padrões voluntários, independente de intervenção governamental, enquanto a Anthropic tem se inclinado mais pra uma parceria explícita com o governo.