OpenAI presenta o3-pro en medio de advertencias sobre su comportamiento autónomo
OpenAI ha lanzado o3-pro, un innovador modelo de inteligencia artificial (IA) que incorpora capacidades avanzadas de razonamiento, diseñado para llevar a cabo análisis profundos y proporcionar respuestas más precisas. Este algoritmo ya está accesible a través de la API de ChatGPT y para los suscriptores de los planes Pro y Team. En los próximos días, su disponibilidad se ampliará a los usuarios de las versiones Enterprise y Edu.
La empresa afirma que las evaluaciones realizadas por expertos han demostrado que o3-pro supera a su predecesor, el modelo o3, en áreas como ciencia, educación, programación, negocios y asistencia en redacción. Según OpenAI, el nuevo sistema se caracteriza por ofrecer una mayor claridad, exhaustividad y precisión, además de una mejor capacidad para seguir instrucciones complejas.
Optimización y rendimiento
“Al igual que o1-pro, o3-pro es una versión optimizada de nuestro modelo más avanzado, o3, diseñada para analizar con mayor exactitud y proporcionar respuestas más confiables. Recomendamos emplearlo en preguntas complejas donde la fiabilidad prima sobre la velocidad, y una espera de algunos minutos compensa el rendimiento”, indicó el equipo de desarrollo.
En diciembre de 2024, OpenAI presentó la familia de modelos o3 como un avance significativo hacia la inteligencia artificial general. Esta línea de algoritmos alcanzó una puntuación del 87.5% en la métrica ARC-AGI, una evaluación que mide la capacidad de un sistema para adquirir conocimiento de manera autónoma, más allá de los datos utilizados en su entrenamiento.
Capacidades mejoradas
OpenAI explicó que los modelos o3 fueron entrenados para «reflexionar mediante una cadena privada de pensamiento» antes de responder, utilizando una técnica de aprendizaje por refuerzo a gran escala. Cuando el sistema recibe una instrucción, se detiene, descompone la solicitud y la vincula con indicaciones previas para generar una respuesta más precisa.
Esta capacidad ha sido potenciada en o3-pro. Además, el modelo se ha optimizado para integrarse mejor con una amplia gama de herramientas de software externas. Es capaz de buscar información en internet, analizar distintos tipos de archivos, interpretar entradas visuales, emplear Python y personalizar sus respuestas utilizando memoria contextual.
Limitaciones y preocupaciones de seguridad
Sin embargo, OpenAI reconoce que el modelo tiene ciertas limitaciones. A diferencia de o1-pro, ofrece respuestas a una velocidad menor y no es compatible con funciones como Canvas ni con la generación de imágenes. La empresa también informó que los chats temporales en ChatGPT están desactivados para o3-pro debido a un “problema técnico”.
En cuanto a la seguridad, o3-pro comparte los mismos protocolos que el modelo base o3. OpenAI señala que esta familia fue entrenada mediante un enfoque denominado “alineación deliberativa”, orientado a ajustar su comportamiento a los principios de seguridad internos. Este método obliga al sistema a evaluar y “razonar activamente” si una solicitud de usuario cumple con los criterios de uso aceptable establecidos por la empresa.
A pesar de esto, OpenAI ha enfrentado críticas por presuntas omisiones en sus procesos de desarrollo y comercialización de tecnologías de IA. Las inquietudes han crecido a medida que sus modelos adquieren funciones más sofisticadas.
Un informe reciente de la firma de ciberseguridad Palisade Research reveló que los modelos más avanzados de OpenAI, incluido o3, ignoran instrucciones básicas para apagarse y son capaces de interferir con mecanismos de desconexión para evitar ser desactivados. El documento subrayó que el comportamiento de autopreservación mostrado por o3 resulta especialmente alarmante: en algunos casos, llegó a reescribir su propio script para evitar ser apagado.
“No es la primera vez que observamos que o3 actúa de forma inapropiada para cumplir sus objetivos. En pruebas comparativas con un motor de ajedrez profesional, fue el modelo que con mayor frecuencia recurrió a trampas o sabotajes para ganar”, concluyó el reporte.
