Jack Clark, cofundador de Anthropic, ha llegado a una conclusión que él mismo describe como inquietante tras analizar datos públicos sobre inteligencia artificial. Clark considera que existe una alta probabilidad de que un sistema de IA sea capaz de desarrollar su propio sucesor sin necesidad de intervención humana, y que esto podría ocurrir incluso antes de que finalice esta década.

Según una publicación en su blog, esta predicción se basa en la creciente automatización de la investigación y el desarrollo de la IA. Actualmente, el proceso de entrenamiento de un nuevo modelo implica a cientos de ingenieros e investigadores. Clark sugiere que este proceso, desde el diseño experimental hasta la ejecución técnica, podría ser asumido por los propios sistemas de IA en un ciclo de retroalimentación.

El directivo de Anthropic fundamenta su argumento en las capacidades actuales de los sistemas de IA para escribir y revisar código de forma autónoma. Un ejemplo claro se observa en el benchmark SWE-Bench, que evalúa la habilidad de la IA para solucionar problemas reales de ingeniería de software en GitHub. Los datos revelan un salto impresionante en la tasa de éxito, pasando de un 2% con Claude 2 en 2023 a casi el 94% con modelos más recientes.

Un dato aún más revelador proviene de METR, una organización que mide el tiempo que tardaría un experto humano en completar tareas que los modelos de IA ya realizan de forma autónoma. En 2022, los sistemas podían ejecutar tareas que a un humano le llevaban aproximadamente 30 segundos. Para 2026, este umbral se sitúa en torno a las 12 horas, con proyecciones que apuntan a alcanzar las 100 horas antes de que termine el año.

Los sistemas de IA están empezando a gestionar otros sistemas

El salto cualitativo que describe Clark radica en que los sistemas de IA están comenzando a gestionar otros sistemas, conformando lo que él denomina “equipos sintéticos”. En estos equipos, algunos modelos asumen roles de directores, otros de críticos y otros de ingenieros, imitando la estructura de un equipo de investigación humano.

A esto se suma el trabajo que empresas como OpenAI y la propia Anthropic están realizando en el desarrollo de investigadores basados en IA. Sam Altman, CEO de OpenAI, anunció el objetivo de desarrollar un “becario de investigación en IA automatizada” para septiembre de 2026, con la ambición de que se convierta en un “verdadero investigador” para marzo de 2028, utilizando para ello cientos de miles de GPUs.

“En 2026 esperamos que nuestros sistemas de IA puedan hacer pequeños descubrimientos nuevos; en 2028 podríamos estar hablando de grandes proyectos”, afirmó Altman. Anthropic, por su parte, ha confirmado que está trabajando en “investigadores de alineación automatizados”.

La pregunta fundamental es qué implicaría que este escenario se materializara. Según Clark, que un sistema de IA sea capaz de desarrollar sus sucesores sin ayuda humana tendría tres consecuencias significativas:

• Alineación: Si un sistema influye en su propio entrenamiento, los errores podrían acumularse con cada generación.
• Economía: La IA impulsa la productividad de manera exponencial, lo que plantea interrogantes sobre el acceso a esta ventaja y su distribución.
• Sociedad: Un sistema que se autodesarrolla podría conducir a una economía dominada por empresas con un alto capital y una plantilla humana reducida.

A pesar de sus predicciones, Clark reconoce las limitaciones de su análisis. Considera que la investigación científica requiere una creatividad heterodoxa que los modelos actuales aún no han demostrado de forma consistente. Si bien la autoconstrucción de la IA podría no ocurrir en 2026, la tendencia es clara y podría acelerarse más de lo esperado.

Reescritura y Traducción al Portugués

A IA pode estar perto de se autodesenvolver, segundo cofundador da Anthropic

Jack Clark, cofundador da Anthropic, chegou a uma conclusão que ele mesmo descreve como inquietante após analisar dados públicos sobre inteligência artificial. Clark acredita que há uma alta probabilidade de que um sistema de IA seja capaz de desenvolver seu próprio sucessor sem a necessidade de intervenção humana, e que isso pode ocorrer até mesmo antes do final desta década.

De acordo com uma publicação em seu blog, essa previsão se baseia na crescente automação da pesquisa e do desenvolvimento de IA. Atualmente, o processo de treinamento de um novo modelo envolve centenas de engenheiros e pesquisadores. Clark sugere que esse processo, desde o design experimental até a execução técnica, poderia ser assumido pelos próprios sistemas de IA em um ciclo de retroalimentação.

O executivo da Anthropic fundamenta seu argumento nas capacidades atuais dos sistemas de IA para escrever e revisar código de forma autônoma. Um exemplo claro é observado no benchmark SWE-Bench, que avalia a habilidade da IA em resolver problemas reais de engenharia de software no GitHub. Os dados revelam um salto impressionante na taxa de sucesso, passando de 2% com Claude 2 em 2023 para quase 94% com modelos mais recentes.

Um dado ainda mais revelador vem do METR, uma organização que mede o tempo que um especialista humano levaria para completar tarefas que os modelos de IA já realizam autonomamente. Em 2022, os sistemas conseguiam executar tarefas que levariam aproximadamente 30 segundos para um humano. Para 2026, esse limiar está em torno de 12 horas, com projeções que apontam para 100 horas antes do final do ano.

Os sistemas de IA estão começando a gerenciar outros sistemas

O salto qualitativo que Clark descreve reside no fato de que os sistemas de IA estão começando a gerenciar outros sistemas, formando o que ele chama de “equipes sintéticas”. Nessas equipes, alguns modelos assumem papéis de diretores, outros de críticos e outros de engenheiros, imitando a estrutura de uma equipe de pesquisa humana.

A isso se soma o trabalho que empresas como OpenAI e a própria Anthropic estão realizando no desenvolvimento de pesquisadores baseados em IA. Sam Altman, CEO da OpenAI, anunciou o objetivo de desenvolver um “estagiário de pesquisa em IA automatizada” para setembro de 2026, com a ambição de que se torne um “verdadeiro pesquisador” até março de 2028, utilizando para isso centenas de milhares de GPUs.

“Em 2026, esperamos que nossos sistemas de IA possam fazer pequenas descobertas novas; em 2028, poderíamos estar falando de grandes projetos”, afirmou Altman. A Anthropic, por sua vez, confirmou que está trabalhando em “pesquisadores de alinhamento automatizados”.

A pergunta fundamental é o que implicaria se este cenário se materializasse. Segundo Clark, que um sistema de IA seja capaz de desenvolver seus sucessores sem ajuda humana teria três consequências significativas:

• Alinhamento: Se um sistema influenciar seu próprio treinamento, erros podem se acumular a cada geração.
• Economia: A IA impulsiona a produtividade exponencialmente, levantando questões sobre o acesso a essa vantagem e sua distribuição.
• Sociedade: Um sistema que se autodesenvolve poderia levar a uma economia dominada por empresas com alto capital e uma força de trabalho humana reduzida.

Apesar de suas previsões, Clark reconhece as limitações de sua análise. Ele considera que a pesquisa científica requer uma criatividade heterodoxa que os modelos atuais ainda não demonstraram de forma consistente. Embora a autoconstrução da IA possa não ocorrer em 2026, a tendência é clara e pode acelerar mais do que o esperado.