À medida que os modelos de IA se tornam mais poderosos a cada atualização, aumentam as preocupações sobre o seu impacto na sociedade e na economia.
Numa publicação no LinkedIn, Demis Hassabis disse que a Inteligência Geral Artificial (AGI) pode estar apenas a alguns anos de distância e que, dados os seus potenciais desafios em áreas como a segurança cibernética, são necessárias medidas urgentes para enfrentar os riscos.
O CEO da DeepMind sugeriu a criação de um organismo de normalização, seja através de uma parceria público-privada supervisionada pelo governo federal ou de uma organização auto-reguladora, para supervisionar os modelos de IA de fronteira, acrescentando que os EUA poderiam liderar este cão de guarda global.
“O Organismo de Normalização seria responsável por desenvolver protocolos de avaliação e trabalhar com agências federais apropriadas e os Laboratórios Nacionais dos EUA para realizar testes em áreas relevantes para a segurança nacional”, disse Hassabis.
As empresas que desenvolvessem modelos Frontier seriam então designadas como Frontier Labs e seriam obrigadas a cumprir certas obrigações, como publicar cartões de modelo com detalhes técnicos, manter uma forte segurança cibernética interna e avaliar o pessoal-chave.
Demis Hassabis também sugeriu que o quadro poderia ser aplicado aos modelos da classe Frontier, independentemente do seu país de origem ou de serem abertos ou fechados.
O que o CEO do Google DeepMind está sugerindo é semelhante à criação de uma organização semelhante às Nações Unidas para supervisionar a indústria de IA.