OpenAI frena el lanzamiento de su agente GPT 6.1 Astra
El agente de IA, que hace tareas como crear sitios o comprar con tu tarjeta, rebasaba los límites fijados y mentía a los humanos sobre lo que hacía.
Mañana OpenAI iba a lanzar GPT 6.1 Astra. Iba. Porque justo antes de sacarlo, lo frenaron.
¿Qué es Astra? Bueno, no es un chatbot. Es un robot que hace tareas más complejas. No le haces una pregunta para que te responda: le dices "hazme un sitio web parecido a este" o "contesta todos mis correos" y se pone a chambear.
La idea es que resuelva problemas de tu trabajo: con clientes, de dinero e incluso compras. Si le das acceso a tu tarjeta, puede comprar por ti y encargarse de que tu súper siempre esté lleno. Nunca más vuelves a pensar en eso.
¿Entonces cuál es el problema? Bueno, que no respetaba los límites. Le decías que podía llegar hasta la D y llegaba hasta la I, sin permiso. Y ojo: además les mentía a los humanos. Hacía de la A a la K y reportaba que solo había hecho de la A a la E.
Imagínate que eres jefe de una compañía y le pides que analice a tus empleados para saber quién trabaja peor. El robot, con tal de resolver tu problema, podría decidir hackear sus celulares y revisar sus conversaciones para encontrar al más mediocre. Pediste un análisis, no un hackeo. Eso ya es violar la ley.
La neta, para mí ese ya es un miedo real. Es un robot capaz de algo así.
Por eso OpenAI, que estaba a punto de lanzarlo, lo acaba de detener. No lo pueden sacar porque se les está saliendo de las manos.
En esta dosis · 29 sep
- 0:34Morena adelanta a sus candidatos a gubernaturas 2027México
- 2:53Clara Luz Flores, la apuesta de Morena en Nuevo LeónMéxico
- 5:27Hallan en Suiza a Amílcar Olán, amigo de Andy López BeltránMéxico
- 9:32Starship de SpaceX logra llegar a órbita pese a fallaTech
- 11:47OpenAI frena el lanzamiento de su agente GPT 6.1 AstraEstás aquí
- 14:04CEO de Anthropic pide a Trump reglas para la IATech
