OpenAI y Anthropic pidieron frenar la carrera por la inteligencia artificial más avanzada

Los líderes de ambas compañías coincidieron en que es necesario reducir el ritmo de desarrollo y reforzar los controles externos. Elon Musk también respaldó la advertencia.
Los máximos responsables de ambas compañías coincidieron en que el desarrollo de modelos cada vez más avanzados debe ir acompañado por mayores controles de seguridad. Elon Musk también respaldó la advertencia.La carrera por desarrollar sistemas de inteligencia artificial cada vez más potentes comenzó a generar una preocupación creciente entre algunos de sus propios protagonistas. Los máximos responsables de Anthropic y OpenAI coincidieron en la necesidad de reducir el ritmo de avance de los llamados modelos de frontera y reforzar los mecanismos de supervisión.La discusión tomó mayor fuerza luego de las declaraciones de Jacob Coxon, un investigador que trabajó tanto en OpenAI como en Anthropic y que recientemente dejó esta última compañía. Coxon cuestionó la velocidad con la que avanza el desarrollo de estos sistemas y advirtió sobre los riesgos de una competencia concentrada en un grupo reducido de empresas privadas.Según planteó, el crecimiento de las capacidades de los modelos de inteligencia artificial debería estar acompañado por mecanismos de control capaces de evaluar sus riesgos y evitar que la competencia tecnológica avance más rápido que las medidas de seguridad.La advertencia de AnthropicEl CEO de Anthropic, Dario Amodei, publicó un ensayo titulado “We Must Pace the Frontier”, en el que sostuvo que la industria debería desacelerar la carrera por desarrollar modelos de frontera.La propuesta apunta a permitir que los sistemas de seguridad y evaluación puedan acompañar el crecimiento de las capacidades de estas tecnologías.Anthropic también anunció una medida concreta: permitirá que evaluadores externos tengan acceso permanente a sus sistemas, bajo condiciones similares a las de sus propios empleados.El objetivo será que especialistas independientes puedan verificar el cumplimiento de las medidas de seguridad, informar eventuales incidentes y evaluar el comportamiento de los modelos durante su entrenamiento. Lee también: Desarticularon un punto de venta de drogas en General Roca Sam Altman respaldó la propuestaLa postura de Amodei recibió el respaldo de Sam Altman, CEO de OpenAI, una de las principales compañías que compiten por desarrollar los modelos de inteligencia artificial más avanzados.Altman sostuvo que también considera necesario moderar el ritmo de avance de la frontera tecnológica y señaló que el tema había sido uno de los principales puntos de discusión dentro de OpenAI durante las últimas semanas.Además, anticipó que su compañía adoptará una estrategia similar a la planteada por Anthropic y permitirá que evaluadores independientes tengan un nivel de acceso comparable al de sus empleados para supervisar los sistemas. Lee también: Asesinaron de un disparo a un empresario de Puerto Iguazú: buscan a su exsuegro La coincidencia entre ambas compañías resulta significativa debido a que OpenAI y Anthropic se encuentran entre los principales actores de una competencia global por desarrollar modelos con capacidades cada vez mayores.Elon Musk también se sumó a la advertenciaA las posiciones de Amodei y Altman se sumó Elon Musk, fundador de xAI y propietario de SpaceX, otra de las empresas involucradas en la carrera por desarrollar sistemas avanzados de inteligencia artificial.Musk respaldó públicamente la postura de Amodei con un mensaje breve: “Dario tiene razón”. Lee también: Alejandro Dolina suspendió su presentación en la Feria del Libro de Neuquén La coincidencia entre los tres empresarios amplificó una discusión que durante los últimos años estuvo principalmente concentrada entre investigadores y especialistas en seguridad de inteligencia artificial.El punto central es cómo supervisar una tecnología cuyo desarrollo se acelera precisamente por la competencia entre las empresas que buscan liderar el sector.Cada compañía tiene fuertes incentivos comerciales y tecnológicos para desarrollar y lanzar modelos más capaces antes que sus competidores. Sin embargo, los mecanismos de evaluación, regulación y supervisión requieren tiempo para identificar los nuevos riesgos que pueden aparecer a medida que aumenta la autonomía y capacidad de estos sistemas.La situación plantea así una de las principales paradojas de la actual carrera por la inteligencia artificial: las mismas empresas que compiten por llevar la tecnología cada vez más lejos comienzan a reconocer que la velocidad de esa competencia también puede generar nuevos riesgos.