OpenAI é ligando para a formação de uma organização internacional para supervisionar o desenvolvimento da IA. E para desacelerar, se necessário: “Um dos objetivos de tal organização deveria ser permitir que o mundo tome medidas coordenadas, incluindo a desaceleração do desenvolvimento fronteiriço quando necessário, para que a resiliência, a segurança e o alinhamento da sociedade possam acompanhar o ritmo”, escreveu a empresa num post de blog publicado na segunda-feira.
O memorandoescrito pelo CEO da OpenAI, Sam Altman, e pelo cientista-chefe Jakub Pachocki, segue uma declaração semelhante do principal rival da OpenAI, Anthropic, que disse na semana passada que pisar unilateralmente no freio no desenvolvimento global de IA “provavelmente seria uma coisa boa”, assumindo que tal movimento fosse possível.
A lógica da Anthropic baseava-se em evidências internas do que descrevia como “autoaperfeiçoamento recursivo”; isto é, modelos de IA capazes de treinar as próximas versões mais avançadas de si próprios, apresentando assim novas possibilidades para avanços mais rápidos no campo, bem como novos riscos em torno da perda de controlo dos seres humanos.
A possibilidade de tal “explosão de inteligência” – ocorrendo como um subproduto de incentivos comerciais sendo priorizados em detrimento de preocupações de segurança – também foi um fator chave por trás de uma carta aberta de 2023 pedindo uma pausa de seis meses no desenvolvimento de modelos de IA de ponta, que foi assinada por Elon Musk, o “padrinho” da IA e vencedor do Prêmio Turing, Yoshua Bengio, e outros grandes nomes da tecnologia.
A OpenAI também chamou a atenção para o potencial de autoaperfeiçoamento da IA em sua nova postagem no blog. “Acreditamos que a IA que faz pesquisas em IA se tornará o fator determinante do ritmo do progresso nos próximos anos”, escreveram Altman e Pachocki. Em março de 2028, continuaram eles, a OpenAI “pode ter uma fração significativa de nossa pesquisa sendo feita por sistemas de IA em conjunto com nossos próprios pesquisadores”.
AGI está sempre na próxima esquina
Construir um “pesquisador de IA automatizado”, escreveram eles, é atualmente um dos grandes objetivos para os quais a OpenAI está trabalhando atualmente. Outra é “fornecer a todos na Terra uma AGI pessoal”… seja lá o que isso signifique.
A indústria da IA ainda carece de uma definição amplamente acordada para inteligência artificial geral, ou AGI. Geralmente é entendido como um sistema de IA que pode realizar qualquer tarefa cognitiva pelo menos tão bem quanto o cérebro humano típico, mas ainda é uma questão de debate se tal sistema – pelo menos um construído sobre as arquiteturas por trás de grandes modelos de linguagem – é viável ou não.
Durante anos, a OpenAI manteve-a como uma vaga promessa para o futuro, que até agora tem sido uma estratégia de financiamento bem-sucedida. Até recentemente, era a startup mais valorizada do mundo, antes de ser usurpado pela Antrópico mês passado.
Espera-se que ambas as empresas façam a sua estreia no mercado de ações este ano, levantando novas preocupações sobre as responsabilidades fiscais para os acionistas, ofuscando as preocupações de segurança relacionadas com a IA descontrolada. Os seus apelos a uma organização internacional independente para moderar o desenvolvimento da IA parecem, portanto, um aviso, como se estivessem a dizer: Alguém precisa tomar as rédeas disso, porque muito em breve isso estará fora de nosso controle.
