Ordenador con Windows 98 ejecuta modelo Llama 2

Un grupo de investigadores de EXO Labs, vinculados a la Universidad de Oxford, ha desafiado las expectativas al lograr que un ordenador equipado con Windows 98 ejecute un avanzado modelo de inteligencia artificial de lenguaje. Este descubrimiento tiene potenciales implicaciones significativas en la democratización del acceso a la IA.

El poder de la Inteligencia Artificial en una máquina de los 90

La computadora en cuestión, que posee un procesador Pentium II y 128 MB de RAM, sorprendió al mundo tecnológico al manejar el modelo de lenguaje basado en Llama 2. El código, inspirado en el trabajo de Andrej Karpathy, se ejecutó en este dispositivo materializado en un Elonex Pentium II con una frecuencia de 350 MHz.

Desafíos y soluciones innovadoras

Enfrentándose a desafíos como la velocidad y la compatibilidad del código moderno con sistemas operativos antiguos, el equipo alcanzó un rendimiento de 39,31 tokens por segundo con un modelo ligero de alrededor de 260,000 parámetros. Sin embargo, al aumentar el tamaño del modelo a Llama 3.2 de 1,000 millones de parámetros, el rendimiento disminuyó drásticamente.

El objetivo: Acceso universal a la IA

La motivación tras este experimento es ampliar el acceso a la inteligencia artificial, permitiendo que tecnologías avanzadas no sean exclusivas de corporaciones con grandes recursos. EXO Labs intenta lograr esto mediante BitNet, una novedosa arquitectura que aprovecha sistemas ternarios para reducir el tamaño de los modelos sin sacrificar eficiencia.

BitNet promete capacidad en CPUs sin necesidad de GPUs costosas, siendo capaz de manejar modelos extremadamente grandes a velocidades aceptables. Un modelo de 7,000 millones de parámetros, por ejemplo, necesitaría solo 1.38 GB de almacenamiento, haciendo real la posibilidad de ejecutar IA avanzada en ordenadores modestos.

Implicaciones y futuro de la IA en dispositivos convencionales

Estos avances representan un salto hacia la accesibilidad de la IA, ofreciendo un futuro donde cualquier equipo con las especificaciones más básicas podría realizar tareas de inteligencia artificial complejas, nivelando el campo de juego tecnológico.