GateKPT - IA desde la capa fisica hacia arriba.
Un diario publico de investigacion sobre IA: energia, chips, datos, modelos, software, pruebas y contexto.
L01 - Energia
La IA funciona con electricidad. Conseguirla toma anos.
5+anos - Espera mediana para conectar un nuevo proyecto a la red electrica de EE. UU.
Berkeley Lab, Queued Up 2026
Un centro de datos puede tardar unos 18 meses en construirse. La conexion electrica tarda mas.
L02 - Chips
Los chips son rapidos. Llevarles datos es lo lento.
3TB/s - Ancho de banda de memoria en un chip NVIDIA H100.
NVIDIA, H100 overview
El chip termina su matematica temprano y espera a la memoria.
L03 - Datos
Un modelo solo aprende lo que contienen sus datos.
60% - Proyectos de IA que Gartner espera que se abandonen para 2026 sin buenos datos.
Gartner, AI-ready data risk
Recolectar datos es barato. Decidir que es correcto no lo es.
L04 - Modelos
Crear el modelo es un costo. Usarlo es el costo recurrente.
40GB - Memoria usada por una solicitud larga a Llama 3 70B.
NVIDIA, KV cache offload
Todos citan el costo de construirlo. La cuenta viene de usarlo.
L05 - Software
El modelo es una parte. El software alrededor decide si funciona.
1ro - La busqueda es lo primero que hay que revisar cuando una respuesta sale mal.
RAG systems review, 2025
Si la pagina correcta nunca se encontro, ningun prompt lo arregla.
L06 - Pruebas
Si no puedes probarlo, no puedes confiar en el.
4pasos - Los cuatro pasos de NIST para riesgo de IA: gobernar, mapear, medir, manejar.
NIST AI Risk Framework
Funciono la semana pasada, el modelo cambio, y nadie puede probar que paso.
L07 - Contexto
Una herramienta que nadie usa no tiene valor.
16% - Proyectos de IA que IBM dice que escalaron en toda una empresa.
IBM, AI data quality
La tecnologia funciono. Luego cambio de manos y cambio la meta.