Que son los Tokens y el API?

hola,

me gustaría saber exáctamente que son y como se "gastan", como lo contabilizan?, el tema de conectarse a una IA a través de un API es lo mismo que utilizar la IA a través de la web?.

Hablando de los Tockens y específicamente en Claude es cierto que utilizando algún Skill se pueden economizar? como por ejemplo uno que hace un mapa mental para que la IA no tenga que leer todo el contexto todo el tiempo?

Los tokens son las unidades de texto que procesa un modelo de IA.

Una API (Application Programming Interface) es una forma de que un programa pueda comunicarse con otro.

En el caso de ChatGPT, la API permite que una aplicación envíe una pregunta al modelo y reciba una respuesta automáticamente.

en definitiva, con esto puedes generar artículos bien trabajados utilizando este tipo de estrategias, aun que tambien te sirven para otras cosas.

gracias por la respuesta, es cierto que se puede disminuir los tokens gastados en coude utilizando diferentes skills y utilizando pdf to markdown?

rcruzforoia dijo:

gracias por la respuesta, es cierto que se puede disminuir los tokens gastados en coude utilizando diferentes skills y utilizando pdf to markdown?

Haz clic para expandir...

Si es cierto, sobre todo si tienes en cuenta el contexto que le pasas en cada petición

Ten en cuenta que mientras mas contexto le des, mayor será la petición con lo cual, mayor será el gasto de token

Pasa lo mismo con la respuesta (output), cuando mayor sea, mayor será el gasto, de hecho hay una tenica que hace que Claude hable como un cavernicola para reducir tokens en el output

Te dejo aqui el truco en este noticia:

esa es parte de la duda, según dicen, el prompt debe contener cierta información mínima pero que mientras más contexto e instrucciones de salida se brinden mejor será el resultado obtenido, a ese resultado se le añaden las futuras interacciones para mejorar el resultado, ahora supuestamente existe una skill que "comprime" y/o mejora el contexto para hacer que claud utilice menos tokens. como se dice en Puerto Rico "Se peinan o se hacen rolos", en que quedamos...

Gracias adelantadas

A ver, aclaremos primero lo de entrada y salida.
Cuando le mandas un prompt (o pregunta) a la IA, la plataforma que estás usando lo convierte a tokens de ENTRADA a enviar a la IA. Cuando la IA responde, son tokens de SALIDA que la plataforma convierte a texto.
Lo que no sabe mucha gente es que cada vez que le mandas una pregunta/prompt en tu sesión: también le estas enviando TODA la información anterior (llamada Contexto), por eso, cuando llevas muchas interacciones en la misma sesión, hay mucha redundancia de datos. Y normalmente se aportan solo unos pocos datos más en la Entrada, pero repitiéndose todo el contexto en cada ida.
Por eso, si en vez de mandarle todo el contexto de nuevo, le mandaras un resumen en la ENTRADA te costaría menos, y si, en esa entrada le pidieras que te dieran un resumen (como un cavernícola/niño) en la SALIDA, pues si que te costaría más barato.
Esos resúmenes en la Entrada es lo que se llama ahora SKILLS, ficheros md (MarkDown), que contienen diferentes resúmenes de todo lo que se trata, Soul.md, Memory.md, etc...
Los SKILLS, en realidad, también son prompts con datos o/y acciones a realizar, y pueden ser tuyos o descargados para que hagan una función, pero que, sin ninguna duda: Todos se mandan juntos, los tuyos y los descargados, con la pregunta o contexto anterior... aunque si usas OpenClaw (o similar), te filtra/resume lo importante.
El propio Hermes (otro OpenClaw), cambia él mismo los SKILLS md con el tiempo, haciendo sus propios resúmenes.
Ánimo!