Una IA que no sabe escribir
Jev es el primer “System One Model” de TypeSafe AI, presentado en septiembre. No genera texto sino que está especializado en tres tareas: elegir una opción entre varias, puntuar algo en una escala y decir cuánta probabilidad hay de que una afirmación sea cierta.
Y además lo hace de manera mucho más rápida (y mucho más barata) que un modelo de lenguaje tradicional.
La potencia de Jev aparece en lo que este modo de funcionamiento permite que pase después. Cuando un modelo devuelve texto, el programa que está usando ese modelo tiene que interpretar lo que ha escrito. Pero si devuelve una decisión numérica, el código puede usar la respuesta directamente para tomar un rumbo de acción u otro.
Nuestro experimento
Para enseñarlo sin hablar de arquitecturas montamos el tarot de la cocina. Le cuentas algo que te ronde la cabeza y te contesta con uno de ocho utensilios: la olla exprés, el colador, la sartén de la abuela. Detrás, Jev no elige a secas, reparte su opinión entre las ocho cartas, y el oráculo se queda con la que más destaca. Si ninguna destaca lo bastante, duda.
Después cada grupo construyó su propio oráculo usando la misma plantilla de nuestro tarot de la cocina. Salieron un ¿Qué tan hexadecimal te sientes hoy?, una Policía del Estómago y un Tuppérculo que te manda abrir la nevera y describir el táper que te encuentres.
La segunda mitad del taller consistió en intentar romperlos (o encontrar sus límites) a propósito. Vimos que una carta gana más a menudo solo por ir la primera de la lista, y que eso se arregla barajando y preguntando varias veces. Que a «hola», que es una frase vacía, el oráculo responde con más seguridad que a muchas consultas de verdad.
Un reto bastante interesante fue el del oráculo que quería adivinar en qué idioma estaba escrita la consulta. Costó dar con la tecla al definir las opciones. El asunto era un poco meta: no queríamos que Jev contestara sobre el tema de la consulta, sino sobre el idioma en que estaba escrita. Hubo que reescribir las opciones unas cuantas veces hasta encontrar una formulación que entendiera bien.
Por hacernos una idea, el taller entero, con todos los oráculos funcionando a la vez durante dos horas, costó unos tres céntimos de dólar.
¿Qué aprendimos?
-
Jev elige, puntúa y decide, no escribe. Es un modelo de “Sistema 1”: juicios rápidos, sin razonamiento y sin explicación. Le das unas opciones y te dice cuánta probabilidad tiene cada una.
-
Las opciones hay que escribirlas bien. Claras, distintas entre sí y sin ambigüedades. Jev solo sabe de cada carta lo que dice su significado: si dos se parecen, se reparten los votos; si una vale para todo, se lo lleva todo.
-
Los sesgos se descubren probando. Que la primera opción de la lista salga favorecida no lo lees en la documentación, lo ves cuando subes una carta al principio y empieza a ganar más a menudo. Se arregla barajando y preguntando varias veces.
-
Qué hacer con la probabilidad es cosa tuya. Actuar, echarlo a suertes o decir «inténtalo otra vez» son tres respuestas distintas al mismo número, y las elige quien monta el sistema, no el modelo.
En noviembre volvemos con otro maquinito. Si te apetece pasar una tarde peleándote con este tipo de tecnologías, te esperamos.