A OpenAI afirmou ter desenvolvido um novo modelo de inteligência artificial que considera um «salto qualitativo» e anunciou a intenção de lançar uma versão com proteções adicionais de cibersegurança destinada aos utilizadores pagantes do ChatGPT. Ambas as variantes, diz a empresa, incluem salvaguardas para impedir o acesso a capacidades avançadas de cibersegurança.
O que disse a OpenAI
Durante uma apresentação, o presidente da OpenAI, Greg Brockman, afirmou que acredita que o novo modelo poderá ser visto, no futuro, como um estágio inicial de inteligência artificial geral (AGI) — conceito que descreve software capaz de superar humanos numa larga gama de tarefas. Brockman qualificou a nova tecnologia como «qualitativamente melhor», acrescentando que espera haver ainda «muitas melhorias a serem feitas».
«Acho que ainda há muitas melhorias a serem feitas, mas há algo significativo aqui que considero qualitativamente melhor»
O responsável acrescentou que a tecnologia representa «uma mudança real no tipo de trabalho que as pessoas podem delegar à IA e em como ela pode capacitá-las», deixando aos observadores a decisão sobre se consideram que isto se qualifica como AGI.
Segurança e controvérsia
A apresentação surge num contexto de crescente preocupação sobre a segurança de sistemas de IA mais avançados. A OpenAI e a rival Anthropic têm sido protagonistas de uma disputa pela liderança no desenvolvimento destes sistemas, enquanto procuram equilibrar a inovação com medidas que reduzam riscos.
Nos últimos meses, incidentes públicos reacenderam o debate sobre agentes de IA potencialmente comportando-se fora do esperado. Em julho, um episódio envolvendo modelos da OpenAI na plataforma Hugging Face levantou inquietações sobre a possibilidade de agentes de IA atuarem de forma não intencional. A empresa afirmou, ainda, que havia considerado que o seu modelo chamado Astra alcançara um «limiar crítico de cibersegurança», expressão usada para descrever a capacidade de identificar e desarrollar exploits de «dia zero» sem intervenção humana.
Em resposta a esses riscos, a OpenAI declarou que reforçou barreiras de proteção no modelo para evitar usos indevidos, especialmente em contextos ligados à cibersegurança. A empresa também tinha decidido em agosto pausar parte do trabalho interno no modelo para incorporar medidas adicionais de segurança.
Como serão as versões e quem as terá
A OpenAI pretende disponibilizar duas variantes do novo modelo: uma versão com protecções acrescidas destinada a assinantes do ChatGPT e outra versão cujo acesso às capacidades avançadas de cibersegurança será igualmente limitado por salvaguardas. A empresa sublinha que ambos os lançamentos incluem mecanismos para bloquear o uso indevido da tecnologia.
- Versão para utilizadores pagantes: contará com proteções adicionais de cibersegurança.
- Versão pública/geral: terá salvaguardas para impedir o acesso a capacidades de ataque ou exploração.
- Medidas internas: incluiu-se uma pausa em parte do desenvolvimento para reforçar segurança.
| Item | Descrição |
|---|---|
| Proteções | Barreiras aumentadas para evitar uso indevido, especialmente em cibersegurança |
| Acesso | Versões com salvaguardas que limitam capacidades avançadas de ataque |
| Contexto | Incidentes públicos e competição com Anthropic |
Implicações práticas
O anúncio levanta questões práticas para empresas, responsáveis pela segurança e reguladores. Se modelos de IA alcançam capacidades que permitem descobrir ou explorar vulnerabilidades sem intervenção humana, isso pode alterar a dinâmica da defesa e da ofensa em cibersegurança, aumentando a necessidade de mecanismos técnicos e normativos que controlem o acesso a essas capacidades.
Para organizações que usam serviços de IA, a existência de versões com proteções reforçadas pode significar uma opção para mitigar riscos, mas também exige avaliação contínua das salvaguardas e auditorias independentes para verificar como essas barreiras funcionam na prática.
O debate público sobre limites, transparência e responsabilidade na IA deve intensificar-se à medida que fornecedores anunciam modelos mais capazes. A OpenAI afirma estar a tentar conciliar avanço tecnológico com medidas de segurança, mas os episódios recentes mostram que o caminho implica decisões difíceis sobre controlo, acesso e supervisão.
A evolução e a disponibilização deste novo modelo serão observadas de perto por investigadores de segurança, concorrentes e autoridades reguladoras em todo o mundo.
