En los últimos años ha existido una explosión en el uso de IA generativa a través de chatbots. Si bien esta tecnología tiene casos de uso útiles, también presenta problemas que afectan a los derechos humanos como pueden ser la pérdida de empleos, el impacto en el medio ambiente, la pérdida de privacidad, entre otros.

Gran parte de las aplicaciones que utilizamos a diario funcionan en sistemas centralizados y en los que miles de millones de personas interactúan con las plataformas de pocas empresas. Estas empresas suelen tener acceso a los datos, metadatos, documentos y comunicaciones de las personas que usan las plataformas. En el caso de las aplicaciones comerciales basadas en IA generativa, las principales empresas son las estadounidenses OpenAI, Google, Anthropic y xAI, junto con un número creciente de empresas chinas como DeepSeek, Alibaba o  Moonshot AI. Además, son conocidos los casos de empresas como Google, Meta o X que han cambiado los términos de uso de sus plataformas para recolectar información y entrenar futuros modelos de IA.

La popularización de los chatbots para acceder a información en internet como reemplazo de los buscadores tiene impactos en nuestra percepción de la realidad, además de implicar una mayor centralización de la información. Esto es problemático porque la realidad tiene matices, los modelos de IA tienen sesgos y las alucinaciones de la IA siguen siendo comunes. Además, puede cambiar cómo interactuamos con la web abierta. En lugar de visitar los sitios web para leer la fuente original de una noticia nos invita a leer resúmenes generados con IA.

Ahora, conocer los múltiples problemas que conllevan los modelos y la industria de la IA generativa no debería impedirnos utilizarla si la consideramos beneficiosa para nuestras actividades personales o profesionales.  Para esto debemos tener control sobre nuestros datos y no entregarlos a empresas que pueden abusar de ellos.

La arquitectura en la que funciona la IA, común también en otras plataformas en línea,  se basa en el almacenamiento y procesamiento remoto de información por terceros sobre los cuales poco se sabe. En Derechos Digitales defendemos la importancia de tener autonomía y control sobre nuestra información. El desarrollo de la IA en los últimos años nos ha hecho pensar que la única forma de acceder a ella es a través de una arquitectura centralizada. En esta columna se analiza la posibilidad de utilizar modelos de lenguaje abiertos para tener una IA autónoma y respetuosa de nuestros derechos.

Modelos abiertos y de pesos abiertos

Cuando utilizamos chatbots,   detrás de ellos funcionan grandes modelos de lenguaje (LLMs por sus siglas en inglés). Estos son sistemas de IA entrenados con cantidades masivas de datos que, a través de métodos estadísticos para predecir texto, son capaces de generar contenido coherente, responder preguntas y sostener conversaciones en lenguaje natural. Para este entrenamiento es necesaria una potencia de cómputo extraordinaria, en particular mediante unidades de procesamiento gráfico (GPUs, por sus siglas en inglés). Esta capacidad no solo está fuera del alcance de organizaciones pequeñas o medianas, sino que implica impactos ambientales significativos por su carácter masivo.

Los LLMs con los que funcionan aplicaciones como ChatGPT, Gemini, Claude y otras son propietarios y sus detalles de funcionamiento son secretos. Esto quiere decir que para utilizarlos es necesario recurrir al servicio de sus respectivas compañías y no es posible modificarlos para casos de uso específicos.

Por otro lado, están los modelos de código abierto. La Open Source Initiative (OSI), organización que creó la definición de código abierto para el software en los años 90, publicó en octubre de 2024 un concepto de código abierto en el ámbito de la IA. Según esta, un modelo de código abierto se puede usar, estudiar, modificar y redistribuir sin restricciones y para cualquier propósito, siempre que se publique el código fuente completo para entrenar y ejecutar el sistema. Además, debe haber información suficientemente detallada disponible sobre los datos de entrenamiento (su origen, cómo se obtuvieron y cómo se procesaron).

En la práctica, pocos de los modelos que se presentan como “de código abierto” cumplen realmente esa definición, ya que rara vez publican información sobre sus datos de entrenamiento. Más comunes son los modelos de pesos abiertos: publican el modelo ya entrenado y permiten crear modificaciones sobre él, pero mantienen en secreto el resto. Entre estos existen modelos permisivos, que se pueden usar sin límites y normalmente se publican con licencias de software de código abierto como  Apache o MIT. Por otro lado, están los modelos de pesos abiertos no permisivos, que tienen limitaciones sobre el uso comercial y la cantidad de usuarios.

Tanto los modelos de pesos abiertos como los de código abierto pueden utilizarse de manera local sin enviar datos a servidores de terceros. Sin embargo, en el caso de los de pesos abiertos, es importante notar que estos fueron entrenados con datos cuyo origen no conocemos y que evidentemente pueden tener sesgos que afectarán su desempeño también localmente.

Los modelos pequeños de lenguaje

Existen varios modelos de lenguaje de pesos abiertos disponibles para su descarga y uso. Estos modelos pueden ser LLMs o modelos pequeños de lenguaje (SLMs) y son provistos, entre otros, por empresas como DeepSeek o Alibaba (Qwen) en China, Mistral en Francia, así como por grandes tecnológicas estadounidenses como Google con Gemma o Meta con Llama.

Los LLMs de pesos abiertos están entrenados con más información y algunos tienen capacidades comparables a las de modelos propietarios como los que utilizan  ChatGPT, Claude o Gemini. Sin embargo, poder ejecutarlos en hardware propio es muy costoso y  poco realista para organizaciones pequeñas y medianas.

Los SLMs por su lado son modelos pequeños que tienen la capacidad de entender el lenguaje natural de las personas, pero manejan una cantidad más acotada de información. Lo interesante es que sus capacidades pueden mejorarse a través de técnicas como el RAG, destilación y fine-tuning . De esta manera, un SLM podría no saber tanto como un LLM, pero puede ser más rápido y tener un mejor desempeño sobre temas específicos.

El RAG (sigla en inglés de Retrieval-Augmented Generation, generación aumentada por recuperación) consiste en entregar a un modelo información adicional para poder realizar consultas. De esta manera, por ejemplo, periodistas de investigación podrían usar SLMs para revisar documentos sensibles sin necesidad de conectarse a internet.  Otro caso de uso podría ser facilitar el monitoreo de temas de interés, por ejemplo, con un chatbot que realice búsquedas en internet y luego ofrezca un resumen. Algo similar a lo que se hace a diario con chatbots comerciales.

Otra técnica para mejorar las capacidades de un modelo de lenguaje es la destilación, que consiste en utilizar un modelo pequeño (SLM) y entrenarlo con respuestas generadas por un modelo más grande sobre un tema concreto. Este proceso es análogo a la relación entre un profesor y sus estudiantes: el modelo grande actúa como mentor, transfiriendo su conocimiento al SLM, que luego puede operar de manera autónoma y eficiente en su área de especialización. Un ejemplo es el lanzamiento de DeepSeek-R1 en 2025, cuando DeepSeek no solo animó a la comunidad a destilar su modelo, sino que también compartió SLMs ya destilados de otros modelos como Qwen o Llama, facilitando el acceso a modelos especializados sin necesidad de recursos computacionales masivos.

La última opción, y la que más recursos necesita, es el fine-tuning, que consiste en entrenar un SLM con datos específicos de un área de conocimiento determinada. Por ejemplo, se podría entrenar un SLM para que conozca todas las leyes de un país y luego realizar consultas legales sobre ellas. A diferencia del RAG, con fine-tuning el modelo incorpora este conocimiento nuevo y no lo busca directamente en documentos. Si bien es probable que el modelo no requiera de GPUs para funcionar, sí serán necesarias para realizar el procedimiento de fine-tuning.

SLMs en la actualidad y el futuro

En la actualidad ya existen herramientas de software libre que permiten experimentar con SLMs. Por ejemplo, se pueden combinar herramientas como Ollama y OpenWebUI con modelos de pesos abiertos que, en su mayoría, se pueden descargar desde el sitio HuggingFace. Una organización o una comunidad podrían tener un chatbot propio, similar a ChatGPT, en el que se podrían realizar preguntas sobre documentos compartidos o desarrollar otros casos de uso.

Es importante que la comunidad técnica y de software libre explore las capacidades de ejecutar IA de forma autónoma. Mientras antes se haga este trabajo, mayor será la posibilidad de  ofrecer estas herramientas a la sociedad.

Un caso interesante de uso de SLMs, por demostrar que es posible utilizar IA en hardware de bajo costo, es el del programador Andrés Cufari, que combinó varios SLMs e implementó un contestador automático de llamadas para atender pedidos de una pizzería sobre un Raspberry Pi 5, una computadora muy pequeña que cuesta menos de USD 100. Algo relevante de esta solución es que no utiliza IA para todo, sino que la combina con pequeños programas que consumen pocos recursos y permiten resolver un problema puntual. 

No solo los programadores entusiastas de la IA local ven un futuro prometedor en SLMs. Una investigación de la Universidad de Stanford destaca que los SLMs ofrecen capacidades comparables a las de los LLMs en múltiples ámbitos, además de resaltar su mayor eficiencia energética como una ventaja clave.

Más allá de usar IA local, remota o híbrida, es importante tener un sentido crítico frente a la tecnología. No se trata de utilizar IA porque todo el mundo lo hace, se trata de entender el problema que queremos solucionar y cómo la IA nos puede ayudar. Pueden existir casos en los que utilizar IA no sea la mejor solución, otros en los que usar IA en la nube sea suficiente y otros en los que sea necesario utilizar IA local. La autonomía digital también pasa por poder decidir qué tecnologías usamos, para qué las usamos y cuánto control estamos dispuestos a ceder sobre nuestros datos.

Publicada originalmente en Derechos Digitales.

La crisis energética de Ecuador

Ecuador atraviesa la mayor crisis energética que se tenga memoria. En octubre de 2023 empezamos con apagones de 3 a 4 horas, que en su momento parecía un montón. Nunca imaginamos que un año después llegarían a durar 14 horas, en mi caso eso significó tener 3 horas de energía al día. Una amiga venezolana me contó que en su país ya no cuentan los apagones, sino los “alumbrones”.

Durante estos meses aprendí que no se puede pensar en resiliencia digital sin pensar en electricidad. Pasé varias semanas que se sentían como meses buscando la forma de trabajar. Intenté con UPS, ir a trabajar en cafeterías o incluso utilizar el plan de datos para conectarme a internet. Fue tal la crisis que después de dos horas de apagón ya no funcionaba ni la telefonía ni el internet móvil. Nos desconectamos de la electricidad, pero también de las comunicaciones.

Ecuador es un país privilegiado con muchas fuentes de aguas en las montañas que descienden hacia el Océano Pacífico y la Amazonía. Esto lo ha convertido en un país ideal para aprovechar la energía hidroeléctrica. También contamos con un parque de centrales termoeléctricas que están pensadas para cuidar el agua en tiempos de sequías. Las mismas estaban sin mantenimiento y ha costado mucho ponerlas a funcionar.

Si bien mi situación era complicada, seguramente no era nada comparado a alguien que vende helados, alimentos refrigerados o las industrias que dependen del suministro eléctrico. Cada vez más en las calles de las ciudades se escuchaba el sonido a generador eléctrico con olor a combustible quemado.

Mientras esto sucedía, yo participaba de una discusión interesante en X sobre energía solar liderada por Edgar Landivar. Él fue mi pionero del desarrollo de software libre en el país, diseñó respiradores de hardware abierto durante la pandemia y ahora fomenta el uso de energía solar. También fue mi primer jefe y un viejo amigo. Él nos contaba sobre el uso de paneles solares y baterías para sobrevivir a los apagones, además de la generación comunitaria que el país podía utilizar para afrontar la crisis de una manera descentralizada y amigable con el medio ambiente.

Busqué soluciones de energía solar para mi casa que, si bien son costosas, son mucho más accesibles de lo que me imaginaba. Intenté encontrar alguien que venda e implemente una solución en poco tiempo pero la demanda saturaba a la oferta y yo pasaría semanas o meses sin una solución hasta que descubrí los generadores solares.

Los generadores solares

Los generadores solares consisten en una estación de carga (powerstation en inglés) y uno o varios paneles solares. La estación de carga tiene baterías para almacenar electricidad, un inversor para convertir la energía directa en alterna que es lo que usamos en nuestras casas. Las baterías se pueden cargar desde la energía de la empresa eléctrica, en el encendedor del automóvil o a través de paneles solares.

Cuando llegó mi generador solar rápidamente la angustia se convirtió en curiosidad. A diferencia del UPS, la estación de carga me da un estimado de tiempo de duración según los dispositivos que están conectados. También me cuenta cuántos watts estoy consumiendo y según eso puedo decidir si desconecto dispositivos para soportar las horas de apagón. Además mi generador permite cargar mientras se usa y de esta manera pude trabajar incluso con apagones no programados que llegaron a ser de 8 horas.

Mi relación con la electricidad cambió desde entonces. Siento que utilizo los paneles solares para cosechar rayos solares que se almacenan como electricidad en mi estación de carga. A diferencia de los generadores a combustión, los rayos del sol no cuestan, no hacen ruido y no emiten gases. Ese mismo sol que se siente tan intenso en épocas de sequía, nos está regalando electricidad y somos muy pocas las personas que la aprovechamos.

El país de las montañas, agua y sol radiante

Si bien mi solución me salvó y pude trabajar con calma otra vez, no es una solución definitiva. De hecho mi generador solar está diseñado para acampar, pero en Ecuador sirve para mucho más, nos da la posibilidad de generar electricidad propia y tener autonomía, poder trabajar incluso si el Estado nos falló.

Una solución solar definitiva tendría que funcionar con una solución fija de paneles solares de mayor capacidad, un inversor que convierta la energía directa en alterna y un banco de baterías para sobrevivir a los apagones. Podría tener el sistema conectado a la red eléctrica de mi casa, encender, focos, prender la refrigeradora, tener internet y algunas otras necesidades básicas o no tan básicas.

Este tipo de sistema se lo conoce como desconectado de la red (off-grid en inglés) y me permite funcionar independientemente con o sin apagones. Dentro de este sistema lo más costoso son las baterías, pero son las que me permiten funcionar al momento del apagón. Con un sistema así puedo aprovechar la energía eléctrica incluso cuando no hay apagón. De esta manera estaría contribuyendo con mis gotitas de agua en los embalses de las hidróelectricas para que otras personas la puedan usar.

Por otro lado, los sistemas conectados a la red (on-grid en inglés) permiten inyectar el excedente de generación solar a la red pública. Si la gente instala paneles solares, esta energía se produce durante el día y probablemente la mayoría de personas en ese momento no se encuentran en casa. Entonces se puede solicitar a la empresa eléctrica un medidor bidireccional. El consumo de la noche o de los días muy nublados se compra a la empresa eléctrica, el excedente que se genera durante el día se lo entrega a la empresa eléctrica y el medidor lo va descontando del valor a pagar a fin de mes.

Esta solución tiene como ventaja que dejaríamos de utilizar la energía durante el día porque la generamos con el sol y además se contribuye con el excedente para que otra gente lo use a través de la empresa eléctrica. Alguien que tiene un sistema de este tipo, no solo guarda sus gotitas en los embalses, también contribuye para que otra gente no tenga que utilizar energía hidroeléctrica durante el día.

Es además una solución distribuida que hace que el país pueda ser más resiliente a crisis energéticas. Podríamos funcionar con energía solar en el día e hidroeléctricas en la noche. Seguro necesitaríamos algunas plantas térmicas o de otro tipo, pero estaríamos en una mejor situación.

Los sistemas solares conectados a la red tienen el problema que se deben desconectar cuando suceden apagones. Las personas que dependemos mucho de electricidad podemos considerar invertir en baterías y tener un sistema híbrido que nos permita resistir a los apagones y contribuir con electricidad al resto.

En varios países de Europa y en varios estados de Estados Unidos el gobierno ha dado incentivos para que la gente contribuya con energía solar. Lamentablemente en Ecuador solo se dieron incentivos claros para comprar generadores eléctricos a combustión. Se ha invertido cientos de millones de dólares en energía térmica y en algunos casos no se sabe si esta funcionaría. Estamos pronto a tener elecciones, esperemos que las y los candidatos hablen de energía solar y energías limpias en sus planes de trabajo.

Publicado originalmente en Derechos Digitales.