Una IA mejora a otra tocando solo una fracción de sus conexiones

Una IA mejora a otra tocando solo una fracción de sus conexiones
Investigadores del MIT demostraron que GPT-6 Astra puede mejorar otro modelo tocando solo una fracción mínima de sus pesos. Al recibir los valores internos de un modelo pequeño de Qwen, Astra modificó apenas el 0,016% de los parámetros y elevó su desempeño en matemáticas del 7,9% al 48,1%, sin volver a entrenarlo.

Programación en el espacio de pesos
La técnica, llamada programación en el espacio de pesos, permite a un modelo grande editar otro a nivel de conexiones. Astra detectó un fallo que hacía que Qwen quedara atrapado en bucles de razonamiento y también triplicó sus resultados al seguir instrucciones.

En pruebas adicionales, Astra identificó qué juego había aprendido una red neuronal a partir de sus pesos y creó redes capaces de superar a otras entrenadas durante 100 millones de pasos.

El enfoque abre la puerta a ajustes quirúrgicos de modelos sin costosos ciclos de reentrenamiento, con implicaciones para personalización rápida y corrección de errores.




Fuentes: GeneracionIA