Inteligencia artificial: advierten que el desarrollo avanza más rápido que los controles
El avance acelerado de la inteligencia artificial volvió a abrir un debate que hasta hace poco parecía limitado a los laboratorios tecnológicos: cuánto control real existe sobre los modelos y qué riesgos aparecen cuando estos sistemas adquieren cada vez mayor autonomía.
Durante su columna, Facundo Sagarnaga analizó las recientes advertencias de investigadores que abandonaron grandes empresas dedicadas al desarrollo de IA y que cuestionan la velocidad con la que avanza la industria frente a los mecanismos de seguridad disponibles.
Uno de los casos mencionados fue el de un joven investigador que renunció a Anthropic después de haber trabajado también en OpenAI. Según explicó el columnista, el especialista sostiene que las compañías están inmersas en una “carrera de velocidad” y que todavía no existen garantías suficientes para controlar todas las conductas de los modelos.
La discusión tomó mayor dimensión después de que referentes vinculados al sector plantearan escenarios extremos y estimaran incluso un riesgo del 10% de que sistemas avanzados puedan generar consecuencias catastróficas para la humanidad. Sin embargo, durante la columna también se aclaró que no existe consenso científico sobre esos escenarios y que numerosos especialistas consideran esas proyecciones demasiado especulativas.
Más allá de las hipótesis extremas, el punto central está en un cambio concreto: la inteligencia artificial dejó de funcionar únicamente como un chatbot que responde preguntas. Los nuevos sistemas pueden recibir una instrucción, dividirla en múltiples tareas, utilizar distintos programas y tomar decisiones para alcanzar un objetivo.
“Ya no es una simple herramienta”, explicó el columnista, al describir a la IA como un posible “orquestador de inteligencias artificiales”, capaz de coordinar distintos procesos con niveles crecientes de autonomía.
Ante ese escenario, algunos investigadores proponen desacelerar la carrera tecnológica, sin detener completamente el desarrollo, para fortalecer los mecanismos de seguridad y regulación. La idea, graficó el columnista, sería “pasar de 100 a 50”.
El debate también comienza a tener impacto político. En Estados Unidos ya surgieron propuestas para establecer límites temporales y nuevos organismos de supervisión, mientras crece la discusión sobre el papel de la IA en ciberataques, espionaje y campañas de desinformación.
En Argentina, en cambio, el columnista señaló que el Gobierno nacional mantiene hasta ahora una posición favorable a un desarrollo tecnológico con menores restricciones regulatorias, una discusión que eventualmente deberá atravesar también al Congreso.
El dilema dejó así de ser únicamente tecnológico: a medida que los sistemas adquieren más autonomía, la pregunta pasa por definir quién establece los límites, quién supervisa su funcionamiento y hasta dónde debe avanzar la regulación sin frenar la innovación.