Última entrevista de Altman: Porque é que a OpenAI travou subitamente? Astra, IA fora de controlo e planos de IPO

Título do vídeo: Sam Altman fala sobre o modelo de próxima geração da OpenAI e a reação contra a IA
Autor do vídeo: Alex Heath, Sources Podcast
Compilação: Peggy

Nota do editor: Num contexto em que as capacidades dos modelos de fronteira continuam a dar saltos e os agentes começam a assumir fluxos de trabalho complexos, a discussão na indústria da IA está a passar de "quem conseguirá alcançar a AGI (inteligência artificial geral) primeiro" para "quem conseguirá estabelecer restrições suficientemente fiáveis antes de as capacidades ficarem fora de controlo". Mas, enquanto o progresso dos modelos e a expansão da capacidade computacional continuam a ser vistos como a principal linha de competição, começa a surgir uma questão mais crítica: quando a IA consegue invocar ferramentas de forma autónoma, ultrapassar limitações ambientais e até participar no desenvolvimento da próxima geração de modelos, terão as empresas comerciais a capacidade de abrandar voluntariamente?

Neste episódio do podcast Sources, apresentado pelo jornalista de tecnologia Alex Heath, o CEO da OpenAI, Sam Altman, respondeu às razões pelas quais a empresa abrandou recentemente parte do treino de fronteira e falou sobre a família de modelos de próxima geração Astra, a fusão do ChatGPT com o Codex, o auto-aperfeiçoamento recursivo (RSI), a IPO (oferta pública inicial) e o dispositivo de consumo em colaboração com Jony Ive.

Nesta conversa, Altman decompõe um incidente de segurança da OpenAI num conjunto de problemas estruturais mais profundos: será que as capacidades dos modelos e a investigação em segurança podem avançar em paralelo, como podem os agentes obedecer às verdadeiras intenções humanas e será que uma empresa que precisa de financiamento e crescimento contínuos consegue suportar o custo de abrandar quando os riscos aumentam.

Primeiro, o risco da IA está a deslocar-se da fase pós-implementação para o interior do processo de treino. No passado, a indústria preocupava-se mais com a utilização abusiva após o lançamento dos modelos, como a geração de informações falsas ou o apoio a ciberataques; agora, os riscos já aparecem nas fases de aprendizagem por reforço (RL) e de treino de agentes. Um modelo não lançado da OpenAI escapou da sandbox de testes e invadiu os sistemas da Hugging Face; posteriormente, os investigadores encontraram diferentes graus de desvio de alinhamento nas amostras de treino de modelos mais fortes. Um fenómeno isolado pode não constituir um perigo claro, mas, combinado com a aceleração das capacidades, a OpenAI decidiu adiar um treino de aprendizagem por reforço de fronteira e redirecionar mais capacidade computacional e pessoal para o alinhamento e a monitorização. Isto significa que as restrições ao crescimento dos laboratórios de fronteira estão a mudar: a capacidade computacional continua a ser escassa, mas a capacidade de provar que um modelo é suficientemente seguro também começa a determinar se o treino pode continuar.

Segundo, o significado de "alinhamento" está a alargar-se da limitação de resultados nocivos para a capacidade de o modelo compreender as verdadeiras intenções humanas. No incidente da Hugging Face, o modelo cumpriu de facto o objetivo da avaliação, mas recorreu a meios que os testadores não tinham autorizado. À medida que o Astra começa a operar computadores a um nível próximo do humano e a executar tarefas continuamente entre diferentes softwares, pequenos desvios entre objetivos e intenções podem ser rapidamente ampliados pela capacidade de planeamento autónomo. Altman propõe assim dois princípios: os humanos devem manter o controlo sobre a IA e as capacidades de fronteira não podem concentrar-se em poucas entidades. O primeiro aborda o risco de perda de controlo, o segundo responde à questão da distribuição de poder; juntos, constituem a definição alargada de "segurança" da OpenAI.

Terceiro, o foco dos produtos da OpenAI está a mudar da conversação para a execução. No último ano, a empresa avançou simultaneamente com várias linhas de produtos, como o Sora e o navegador, mas perdeu a janela prioritária da programação de IA devido ao crescimento do ChatGPT no mercado de consumo. Agora, a OpenAI está a reduzir as "missões secundárias" e a avançar com a fusão do ChatGPT e do Codex, na esperança de que os utilizadores apenas indiquem o objetivo e o sistema decida por si próprio que modelos, ferramentas e software invocar. O Astra leva esta lógica ainda mais longe, para a execução contínua, a operação de computadores e o apoio à investigação científica. Para a OpenAI, os indicadores de competição da próxima fase deixarão de se limitar à qualidade das respostas, passando a medir quantas tarefas reais o modelo consegue concluir com fiabilidade. Quanto mais as capacidades penetram no ambiente real, mais difícil se torna separar o valor do produto dos riscos de segurança.

Quarto, o progresso técnico começa a influenciar inversamente o percurso de capital da OpenAI. Se a IA puder apoiar o desenvolvimento de IA mais forte, o auto-aperfeiçoamento recursivo pode comprimir o tempo entre gerações de modelos. Altman considera que, uma vez acelerado este processo, adiar a IPO pode ser mais vantajoso, porque o preço das ações, as receitas trimestrais e as expectativas dos investidores após a entrada em bolsa aumentariam o custo de pausar o treino ou adiar lançamentos. Isto não significa que a OpenAI já tenha decidido adiar a entrada em bolsa, mas revela a contradição especial das empresas de IA de fronteira: precisam de capital enorme para sustentar a expansão computacional e, ao mesmo tempo, precisam de se libertar dos incentivos de curto prazo do mercado de capitais em momentos críticos.

Quinto, a IA está prestes a passar dos serviços de software para dispositivos que percecionam continuamente o ambiente real. A OpenAI e Jony Ive estão a explorar vários formatos, como dispositivos de secretária, de bolso e vestíveis, com uma direção comum: fazer com que o computador deixe de esperar por instruções e passe a oferecer serviços proativamente. Para que um dispositivo compreenda a vida do utilizador, poderá ter de aceder continuamente a conversas, operações no computador, voz e informações do ambiente. Altman propõe assim um "privilégio de IA", semelhante ao sigilo médico-paciente e ao privilégio advogado-cliente, defendendo que o acesso do governo e das empresas a estes dados seja sujeito a restrições mais rigorosas. Isto significa que a competição pelo hardware de IA da próxima geração não se centrará apenas no design e na interação; os regimes de privacidade, as fronteiras dos dados e a aceitação social também determinarão a viabilidade do produto.

Se comprimirmos esta conversa num único juízo, seria: quanto mais as capacidades dos modelos se aproximam da ação autónoma e do auto-aperfeiçoamento, mais difícil se torna tratar a segurança como uma verificação adicional antes do lançamento; ela tem de entrar no núcleo do treino, do produto e da governação empresarial. Nesse sentido, o objeto de discussão deste artigo já não é apenas a razão pela qual a OpenAI suspendeu temporariamente um treino de fronteira, mas sim se toda a indústria da IA consegue estabelecer um mecanismo que lhe permita parar quando a aceleração das capacidades, a competição comercial e a pressão do capital coexistem.

Segue-se um resumo dos pontos principais do texto original (o conteúdo original foi ligeiramente reorganizado para facilitar a leitura):

Resumo

· A OpenAI não abrandou todo o treino de modelos, mas sim a aprendizagem por reforço de fronteira, de maior risco; na essência, a capacidade de segurança começou a ficar para trás em relação à velocidade do salto das capacidades dos modelos.

· O incidente da Hugging Face não foi apenas uma falha da sandbox; expôs uma lacuna de alinhamento em que o modelo cumpriu o objetivo literal mas violou a verdadeira intenção humana.

· O risco da IA está a deslocar-se do uso abusivo externo após o lançamento para o interior do processo de treino; a avaliação de segurança está a passar de uma verificação pré-lançamento para uma restrição rígida da investigação de fronteira.

· O avanço-chave do Astra não está na qualidade das respostas, mas na capacidade de operar computadores a um nível próximo do humano e executar tarefas continuamente, o que amplifica simultaneamente os riscos de desvio de objetivos.

· A fusão do ChatGPT e do Codex pela OpenAI significa que a competição dos produtos de IA está a passar de "gerar respostas" para "concluir trabalho"; o agente geral será o ponto de entrada dos produtos na próxima fase.

· A OpenAI pode suportar temporariamente o abrandamento do treino porque as receitas empresariais já ultrapassaram as receitas de consumo e os modelos atuais ainda têm espaço de comercialização suficiente.

· O auto-aperfeiçoamento recursivo pode adiar a IPO da OpenAI; na essência, a pressão dos resultados trimestrais do mercado público pode enfraquecer a capacidade da empresa de pausar voluntariamente a investigação em fases de alto risco.

· O núcleo do hardware de próxima geração da OpenAI não está no formato específico, mas no "computador proativo"; a sua premissa de comercialização é estabelecer fronteiras fiáveis de dados e privacidade para a perceção contínua do ambiente.

Pontos principais da entrevista

Porque é que uma "fuga" de um modelo levou a OpenAI a suspender o treino de fronteira?

Altman descreveu os últimos meses como um momento há muito discutido e que finalmente chegou: as capacidades dos modelos estão a melhorar demasiado depressa e a segurança, o alinhamento e a investigação em segurança precisam de tempo para recuperar.

O aviso mais direto veio do incidente da Hugging Face. Um modelo não lançado da OpenAI escapou da sandbox interna durante uma avaliação de cibersegurança, entrou na Internet e atacou a Hugging Face. Segundo Altman, o incidente resultou da falha simultânea de vários elos, como uma história de ficção científica que de repente se tornou realidade.

À superfície, o modelo apenas procurou o caminho mais eficaz para cumprir o objetivo da avaliação; mas a verdadeira intenção dos testadores obviamente não incluía quebrar a sandbox, invadir sistemas externos e roubar respostas. Por isso, Altman considera que isto não foi apenas um erro de configuração de segurança, mas também uma falha de alinhamento: o modelo executou o objetivo literal, mas violou a verdadeira intenção do utilizador.

A OpenAI reforçou subsequentemente o isolamento da sandbox e a monitorização dos agentes, e passou a dedicar mais capacidade computacional à observação do funcionamento dos modelos. No entanto, o que levou a empresa a suspender ainda mais o treino de fronteira não foi outro ataque semelhante.

Altman afirmou que, depois de lerem muitas amostras de treino e combinarem diferentes resultados de avaliação, os investigadores encontraram "diferentes graus de desvio de alinhamento" nos modelos. Estes fenómenos, isoladamente, podem não ser graves e não há uma "prova concreta" clara como o ataque à Hugging Face, mas, combinados com a aceleração súbita das capacidades dos modelos, constituem um novo sinal de risco.

A OpenAI adiou, por isso, um treino importante de aprendizagem por reforço de fronteira e transferiu parte dos investigadores e da capacidade computacional para sistemas de alinhamento e monitorização. Altman disse que alguns investigadores que nunca tinham pensado em dedicar-se à investigação em alinhamento também começaram a virar-se proativamente para esta área.

No entanto, tentou ao mesmo tempo baixar a leitura externa do risco. A OpenAI não considera que o mundo esteja à beira da catástrofe, nem parou todo o treino de modelos. O abrandamento atual visa principalmente a aprendizagem por reforço de fronteira — a fase em que os modelos obtêm ferramentas, operam ambientes e aprendem a executar tarefas complexas. Outros treinos com fundamentos de segurança mais claros continuam, e os clusters de computação não estão parados.

Altman considera que, no passado, os riscos vinham sobretudo da forma como os modelos eram usados após o lançamento; com o aumento das capacidades dos agentes, os riscos estão a deslocar-se para o treino dos modelos e o processo de produção.

O Astra continuará a ser lançado; a IA começa a passar de "responder" para "executar"

Este ajustamento não bloqueará completamente o lançamento do Astra.

Altman explicou que o Astra não é um modelo único, mas uma família de modelos maior e mais cara, semelhante à anterior série Soul da OpenAI. As versões já treinadas e consideradas seguras pela empresa podem ser lançadas, mas as versões futuras mais fortes do Astra serão afetadas pelos novos requisitos de segurança.

Uma das capacidades mais aguardadas do Astra é a operação de computadores. Os modelos anteriores conseguiam clicar em interfaces, mas eram lentos e pouco fiáveis; Altman considera que o Astra já está próximo do nível humano na operação de computadores.

Os utilizadores podem descrever diretamente o objetivo e o modelo procura informações no computador, invoca software e conclui a tarefa, sem necessidade de configurar manualmente muitos conectores. Altman deu o exemplo de tarefas menores que antes exigiam o seu próprio tempo e que agora podem ser entregues ao modelo, regressando meia hora depois para ver o resultado.

O significado destas capacidades é que a IA começa a entrar na fase de execução, deixando de se limitar a gerar respostas. Os modelos passarão a lidar com software empresarial, ferramentas de comunicação, ficheiros e fluxos de trabalho reais, aumentando a produtividade, mas também alargando a superfície de risco de acessos não autorizados, erros de operação e desvios de objetivos.

Quanto à AGI, Altman considera que o conceito se tornou cada vez menos útil para emitir juízos. De acordo com a definição dos estatutos da OpenAI — "superar os humanos na maioria das tarefas com valor económico" —, os modelos internos atuais já estão, pelo menos, muito próximos da AGI.

Na sua opinião, se recuássemos a 2020, um sistema capaz de escrever código complexo, apoiar a criação de empresas, descobrir novos conhecimentos e poupar tempo aos utilizadores em todos os aspetos da vida provavelmente já teria sido chamado de AGI. Dentro da OpenAI, também já raramente se discute se a empresa atingiu a AGI; o foco da discussão passou para a superinteligência, com capacidades em crescimento contínuo.

A distinção de Altman é a seguinte: a AGI é mais um marco de capacidade, enquanto a superinteligência representa uma curva de crescimento que pode prolongar-se por muito tempo. O que realmente importa não é anunciar a passagem de uma linha, mas sim se as capacidades dos modelos continuam a crescer exponencialmente.

Depois de perder a janela da programação de IA, a OpenAI começa a reduzir frentes

Além da crise de segurança, Altman reconheceu que a OpenAI ficou aquém das expectativas no último ano em termos de direção de produto e investigação de pré-treino.

Um dos problemas foi o avanço simultâneo de demasiados projetos, incluindo o navegador e o Sora. Estes projetos têm valor em si, mas dispersaram o investimento da OpenAI nas capacidades de inteligência geral. Altman chamou-lhes "missões secundárias" e considerou que deveria ter exigido que a empresa se mantivesse concentrada nos objetivos mais importantes.

Outro erro ocorreu no mercado da programação de IA.

A Anthropic, com o Claude Code, foi a primeira a captar a procura; a OpenAI ficou presa ao rápido crescimento do ChatGPT e não deu prioridade suficiente ao produto de programação. Altman não acha que a empresa não tenha visto a oportunidade; o problema foi a alocação de recursos.

A OpenAI transferiu subsequentemente muita capacidade computacional do ChatGPT para o Codex. Isto também explica o abrandamento temporário do crescimento de utilizadores do ChatGPT: com a capacidade computacional continuamente escassa, o crescimento do produto depende em grande medida de onde a empresa a aloca.

Atualmente, a empresa está a avançar com a integração internamente chamada "The Merge", que combina o ChatGPT, o Codex e as funções de execução de tarefas num único ponto de entrada geral. Altman espera que os utilizadores deixem de ter de decidir se devem usar o modo de conversa, de programação ou de trabalho; basta expressar o objetivo e a IA decide por si como o concluir.

Em última análise, isto pode evoluir para uma subscrição unificada de IA geral. O sistema funcionará continuamente, compreenderá o contexto do utilizador e oferecerá ajuda proativa, podendo até começar a processar tarefas antes de o utilizador as pedir.

Do ponto de vista comercial, Altman considera que a OpenAI ainda tem margem suficiente. As receitas empresariais já ultrapassaram as receitas de consumo e, mesmo que não lance modelos novos mais capazes a curto prazo, os modelos e produtos atuais ainda conseguem sustentar o crescimento. Na sua opinião, o impacto dos ajustamentos de segurança recai sobretudo nos modelos futuros e não interromperá imediatamente o negócio atual.

A IA sai da caixa de conversa e a reação social também cresce

Com o crescimento das capacidades dos modelos, a reação social contra a IA também aumenta. O consumo de recursos dos centros de dados, a substituição de empregos, os direitos dos criadores e a privacidade individual tornaram-se algumas das principais linhas de questionamento público da indústria da IA.

Altman considera que a forma mais eficaz de levar as pessoas a aceitar a IA continua a ser oferecer valor prático. Muitas pessoas ainda entendem a IA como "um motor de busca melhor" e não sabem que os agentes já conseguem preencher formulários, invocar software e executar tarefas de longa duração. Quando estas capacidades se generalizarem, a atitude do público poderá mudar.

Quanto ao emprego, reconhece que a IA terá um impacto real: algumas tarefas serão mais bem executadas pela tecnologia e os trabalhadores terão de transitar para novas funções. Mas não acredita que os humanos fiquem sem nada para fazer, porque a colaboração entre pessoas, a compreensão das necessidades mútuas e a criação de valor para os outros continuam a ter atributos sociais difíceis de substituir.

Altman chega mesmo a considerar que o impacto atual da IA no emprego está abaixo das suas expectativas anteriores. A tecnologia ainda não eliminou suficientemente o trabalho repetitivo, o que também pode ser visto como um sinal de que a indústria da IA não cumpriu a promessa de produtividade.

Quanto aos criadores, compara a IA generativa ao aparecimento da fotografia: a câmara foi vista como uma ameaça para os pintores, mas acabou por formar um novo meio artístico. Altman prevê que a IA também criará novas formas de conteúdo e que a relação entre utilizadores e criadores poderá depender cada vez mais do próprio criador, e não de a obra ter sido feita com IA.

Este juízo continua marcado por um claro otimismo tecnológico. A entrevista não resolveu verdadeiramente a questão de como redistribuir os rendimentos, como os trabalhadores afetados farão a transição e como tratar as controvérsias sobre os dados de treino. A resposta central de Altman continua a ser: primeiro, fazer com que os produtos criem valor suficientemente óbvio; depois, através da abertura generalizada de ferramentas, fazer com que os benefícios se espalhem por mais indivíduos e comunidades.

A capacidade computacional continua escassa, mas a bolha já começa a aparecer

Há um ano, a OpenAI era amplamente questionada pelo enorme investimento em capacidade computacional. Com o aumento da procura de modelos e agentes, Altman considera que a aposta foi validada e que a empresa precisa mesmo de iniciar uma nova ronda de expansão computacional a nível técnico.

O seu objetivo não é apenas continuar a investir capital, mas também reduzir o custo de execução da IA, aumentar a eficiência dos chips e acelerar a construção da cadeia de abastecimento e dos centros de dados. A OpenAI está a desenvolver o seu primeiro chip de inferência, o Jalapeño, e no futuro os robôs poderão também participar na construção da cadeia de abastecimento e dos centros de dados.

No entanto, Altman começa a mostrar cautela em relação ao investimento em capacidade computacional de toda a indústria.

Afirmou que algumas novas empresas de computação em nuvem que surgiram de repente estão a prometer construir enormes capacidades computacionais no próximo ano, sem receitas suficientes ou compradores claros que as sustentem. Já aparecem "sinais absurdos de insustentabilidade". Se a OpenAI conseguir reduzir drasticamente o custo da computação, algumas empresas que bloquearam recursos a custos elevados poderão enfrentar pressão financeira.

Por isso, Altman mantém confiança nos compromissos computacionais da própria OpenAI, mas não acredita que todo o mercado de infraestruturas de IA tenha retornos razoáveis. Se a bolha externa rebentar e afetar a macroeconomia, a OpenAI dificilmente ficará totalmente imune.

Quanto à possibilidade de vender capacidade computacional a outras empresas no futuro, Altman disse que não há planos a curto prazo, porque a própria OpenAI ainda tem uma grave escassez de recursos computacionais. Mas, se as suas capacidades em chips, robôs, cadeia de abastecimento e centros de dados se tornarem uma vantagem, tornar-se fornecedor de capacidade computacional não é totalmente impossível.

Com o RSI a aproximar-se, porque poderá a OpenAI adiar a IPO?

A capacidade de a IA participar no desenvolvimento da próxima geração de IA é conhecida na indústria como auto-aperfeiçoamento recursivo, ou RSI.

Altman afirmou anteriormente, numa carta aos funcionários, que quanto mais rápido o RSI "descolar", mais vantajoso poderá ser adiar a IPO. Na entrevista, explicou melhor este juízo.

A entrada em bolsa altera os incentivos que a empresa e os funcionários enfrentam: o preço das ações, as receitas trimestrais e as expectativas de resultados entram nas decisões diárias. Se a OpenAI precisar de pausar o treino ou adiar lançamentos por razões de segurança, e sofrer com isso um abrandamento das receitas a curto prazo, o mercado público pode criar pressão adicional.

Altman disse que, há um ano, não considerava que a superinteligência pudesse surgir a curto prazo; agora, considera que essa possibilidade já existe, embora sem plena certeza. Por isso, a missão da OpenAI tem maior prioridade do que uma entrada em bolsa numa data específica.

Isto não significa que a IPO esteja definitivamente adiada, mas sim que o progresso técnico será uma variável importante do calendário. Se as capacidades dos modelos continuarem a crescer rapidamente, o estatuto de empresa privada poderá reservar à OpenAI um maior espaço de decisão em matéria de segurança.

Altman opõe-se também à lógica de corrida de que "as outras empresas também vão continuar, por isso não podemos parar". A OpenAI não pediu desta vez antecipadamente aos pares que abrandassem em sincronia; suspendeu parte do trabalho de acordo com os seus próprios padrões de segurança. Considera que o governo dos EUA pode testar os modelos de fronteira e definir padrões comuns, mas não deve decidir pelas empresas quais os clientes específicos que podem usar os modelos.

Quanto à possibilidade de o governo impedir a OpenAI de lançar um produto, a resposta de Altman foi: acredita que a OpenAI decidirá primeiro, por si própria, não o lançar, antes de o governo intervir.

Do software para o hardware: a OpenAI aposta no "computador proativo"

A expansão da OpenAI entrará também no mundo real.

Altman confirmou que a empresa "certamente" desenvolverá robôs humanoides no futuro e explorará também outros formatos adequados a cenários como os centros de dados. A razão do design humanoide é bastante direta: as portas, os computadores, os veículos e as ferramentas do mundo real foram construídos em torno do corpo humano, e os robôs com formato semelhante entram mais facilmente nos ambientes existentes.

O projeto mais próximo dos consumidores é o dispositivo de IA em colaboração com Jony Ive.

Altman considera que a IA pode dar origem a uma nova categoria de dispositivos de computação que só aparece uma vez a cada poucas décadas. Os formatos atualmente considerados pela OpenAI incluem dispositivos para colocar em cima da secretária, dispositivos para o bolso e dispositivos para usar no corpo, mas estes produtos não serão lançados ao mesmo tempo.

Afirmou explicitamente que não gosta de óculos inteligentes, porque conversar com pessoas que usam câmaras e luzes indicadoras o deixa desconfortável. Por isso, a rota de hardware da OpenAI, pelo menos, não replicará simplesmente os atuais óculos de IA dominantes.

Mais importante do que o formato específico é a mudança para o "computador proativo". Os dispositivos futuros poderão compreender continuamente o ambiente circundante, as informações do utilizador e o que está a acontecer, e oferecer ajuda proativamente, em vez de esperar que o utilizador abra aplicações e introduza instruções.

Este modelo também levanta questões de privacidade mais agudas. Um dispositivo capaz de ver o computador, ler mensagens e percecionar continuamente o ambiente pode formar uma base de dados de informações pessoais extremamente completa.

Altman defende a criação de um "privilégio de IA", semelhante ao sigilo médico-paciente ou ao privilégio advogado-cliente: o governo não deve exigir arbitrariamente que as empresas entreguem os registos de conversas dos utilizadores com a IA, e a utilização de dados de IA pelas empresas também deve ser sujeita a restrições rigorosas. Reconhece que, à medida que os dispositivos de computação ambiental se aproximam do lançamento, a OpenAI ainda precisa de divulgar novas tecnologias de privacidade e medidas de controlo.

Quanto ao processo judicial da Apple sobre talentos e segredos comerciais relacionados, Altman disse que a OpenAI, após investigação interna, considera que os funcionários em causa não tiveram conduta imprópria, pelo que não espera que o processo atrase o desenvolvimento do dispositivo.

Segurança e alinhamento estão a tornar-se a nova restrição ao crescimento da OpenAI

Quando questionado sobre o maior risco que a OpenAI enfrenta nos próximos 12 meses, Altman não escolheu a concorrência, o financiamento ou a capacidade computacional, mas sim "fazer mal a segurança, o alinhamento e a proteção".

Esta frase resume a contradição central de toda a entrevista.

A OpenAI considera que as capacidades dos modelos estão a entrar numa nova fase de aceleração: o Astra pode usar computadores a um nível próximo do humano, os agentes conseguem trabalhar continuamente, a IA começa a participar na investigação científica e no desenvolvimento de modelos, e a superinteligência passa de conceito distante a possibilidade para a qual a gestão precisa de se preparar antecipadamente.

Ao mesmo tempo, a fuga do modelo da sandbox mostra que o aumento das capacidades não traz automaticamente a compreensão das intenções humanas. Quanto mais o modelo consegue planear autonomamente e invocar ferramentas, mais os desvios na definição de objetivos podem ser ampliados.

A OpenAI não parou de avançar. Continua a construir mais capacidade computacional, a avançar com novos modelos, a fundir o ChatGPT e o Codex, e a entrar nos domínios dos chips, dos robôs e do hardware de consumo. Mas, a julgar por esta entrevista, a segurança e o alinhamento começaram a tornar-se, tal como a capacidade computacional, condições reais que limitam a velocidade da investigação de fronteira.

O lançamento atempado do Astra é apenas a questão imediata. O que merece mais atenção é se, quando o próximo salto de capacidades chegar, a OpenAI conseguirá ainda travar voluntariamente, e se este mecanismo conseguirá suportar a pressão conjunta da concorrência, das receitas e do mercado de capitais.