![\"LLMs](\"https:\/\/rafael.bonifaz.ec\/blog\/wp-content\/uploads\/2026\/09\/Semana-36_LLM-y-SLM-1-1024x576-1.png\")
<\/p>\n\n\n\nEn pocos a\u00f1os, la inteligencia artificial se instal\u00f3 en nuestra vida cotidiana y hoy millones de personas interact\u00faan con estas herramientas. Pero la concentraci\u00f3n de datos e informaci\u00f3n en manos de unas pocas empresas plantea riesgos para la privacidad y la autonom\u00eda. Frente a este escenario, existen alternativas para utilizar IA de manera local, reducir la dependencia de grandes plataformas y mantener un mayor control sobre nuestros datos.<\/p>\n\n\n\n
En los \u00faltimos a\u00f1os ha existido una explosi\u00f3n en el uso de IA generativa a trav\u00e9s de chatbots. Si bien esta tecnolog\u00eda tiene casos de uso \u00fatiles, tambi\u00e9n presenta problemas que afectan a los derechos humanos como pueden ser la p\u00e9rdida de empleos, el impacto en el medio<\/a> ambiente, la p\u00e9rdida de privacidad, entre otros.<\/p>\n\n\n\n\n\n\n\n Gran parte de las aplicaciones que utilizamos a diario funcionan en sistemas centralizados y en los que miles de millones de personas interact\u00faan con las plataformas de pocas empresas. Estas empresas suelen tener acceso<\/a> a los datos, metadatos, documentos y comunicaciones de las personas que usan las plataformas. En el caso de las aplicaciones comerciales basadas en IA generativa, las principales empresas son las estadounidenses OpenAI, Google, Anthropic y xAI, junto con un n\u00famero creciente de empresas chinas como DeepSeek, Alibaba o Moonshot AI. Adem\u00e1s, son conocidos los casos de empresas como Google<\/a>, Meta<\/a> o X<\/a> que han cambiado los t\u00e9rminos de uso de sus plataformas para recolectar informaci\u00f3n y entrenar futuros modelos de IA.<\/p>\n\n\n\n La popularizaci\u00f3n de los chatbots para acceder a informaci\u00f3n en internet como reemplazo de los buscadores tiene impactos en nuestra percepci\u00f3n de la realidad, adem\u00e1s de implicar una mayor centralizaci\u00f3n de la informaci\u00f3n. Esto es problem\u00e1tico porque la realidad tiene matices, los modelos de IA tienen sesgos y las alucinaciones de la IA<\/a> siguen siendo comunes. Adem\u00e1s, puede cambiar c\u00f3mo interactuamos con la web abierta. En lugar de visitar los sitios web para leer la fuente original de una noticia nos invita a leer res\u00famenes generados con IA.<\/p>\n\n\n\n Ahora, conocer los m\u00faltiples problemas que conllevan los modelos y la industria de la IA generativa no deber\u00eda impedirnos utilizarla si la consideramos beneficiosa para nuestras actividades personales o profesionales. Para esto debemos tener control sobre nuestros datos y no entregarlos a empresas que pueden abusar de ellos<\/a>.<\/p>\n\n\n\n La arquitectura en la que funciona la IA, com\u00fan tambi\u00e9n en otras plataformas en l\u00ednea, se basa en el almacenamiento y procesamiento remoto<\/a> de informaci\u00f3n por terceros sobre los cuales poco se sabe. En Derechos Digitales defendemos la importancia de tener autonom\u00eda y control sobre nuestra informaci\u00f3n.<\/a> El desarrollo de la IA en los \u00faltimos a\u00f1os nos ha hecho pensar que la \u00fanica forma de acceder a ella es a trav\u00e9s de una arquitectura centralizada. En esta columna se analiza la posibilidad de utilizar modelos de lenguaje abiertos para tener una IA aut\u00f3noma y respetuosa de nuestros derechos.<\/p>\n\n\n\n Cuando utilizamos chatbots, detr\u00e1s de ellos funcionan grandes modelos de lenguaje (LLMs por sus siglas en ingl\u00e9s). Estos son sistemas de IA entrenados con cantidades masivas de datos que, a trav\u00e9s de m\u00e9todos estad\u00edsticos para predecir texto, son capaces de generar contenido coherente, responder preguntas y sostener conversaciones en lenguaje natural. Para este entrenamiento es necesaria una potencia de c\u00f3mputo extraordinaria, en particular mediante unidades de procesamiento gr\u00e1fico (GPUs, por sus siglas en ingl\u00e9s). Esta capacidad no solo est\u00e1 fuera del alcance de organizaciones peque\u00f1as o medianas, sino que implica impactos ambientales significativos por su car\u00e1cter masivo.<\/p>\n\n\n\n Los LLMs con los que funcionan aplicaciones como ChatGPT, Gemini, Claude y otras son propietarios y sus detalles de funcionamiento son secretos. Esto quiere decir que para utilizarlos es necesario recurrir al servicio de sus respectivas compa\u00f1\u00edas y no es posible modificarlos para casos de uso espec\u00edficos.<\/p>\n\n\n\n Por otro lado, est\u00e1n los modelos de c\u00f3digo abierto. La Open Source Initiative (OSI)<\/a>, organizaci\u00f3n que cre\u00f3 la definici\u00f3n de c\u00f3digo abierto para el software en los a\u00f1os 90, public\u00f3 en octubre de 2024<\/a> un concepto de c\u00f3digo abierto en el \u00e1mbito de la<\/a> IA<\/a>. Seg\u00fan esta, un modelo de c\u00f3digo abierto se puede usar, estudiar, modificar y redistribuir sin restricciones y para cualquier prop\u00f3sito, siempre que se publique el c\u00f3digo fuente completo para entrenar y ejecutar el sistema. Adem\u00e1s, debe haber informaci\u00f3n suficientemente detallada disponible sobre los datos de entrenamiento (su origen, c\u00f3mo se obtuvieron y c\u00f3mo se procesaron).<\/p>\n\n\n\n En la pr\u00e1ctica, pocos de los modelos que se presentan como \u201cde c\u00f3digo abierto\u201d cumplen realmente esa definici\u00f3n, ya que rara vez publican informaci\u00f3n sobre sus datos de entrenamiento. M\u00e1s comunes son los modelos de pesos abiertos: publican el modelo ya entrenado y permiten crear modificaciones sobre \u00e9l, pero mantienen en secreto el resto. Entre estos existen modelos permisivos, que se pueden usar sin l\u00edmites y normalmente se publican con licencias de software de c\u00f3digo abierto como Apache<\/a> o MIT<\/a>. Por otro lado, est\u00e1n los modelos de pesos abiertos no permisivos, que tienen limitaciones sobre el uso comercial y la cantidad de usuarios.<\/p>\n\n\n\n Tanto los modelos de pesos abiertos como los de c\u00f3digo abierto pueden utilizarse de manera local sin enviar datos a servidores de terceros. Sin embargo, en el caso de los de pesos abiertos, es importante notar que estos fueron entrenados con datos cuyo origen no conocemos y que evidentemente pueden tener sesgos que afectar\u00e1n su desempe\u00f1o tambi\u00e9n localmente.<\/p>\n\n\n\n Existen varios modelos de lenguaje de pesos abiertos disponibles para su descarga y uso. Estos modelos pueden ser LLMs o modelos peque\u00f1os de lenguaje (SLMs) y son provistos, entre otros, por empresas como DeepSeek o Alibaba (Qwen) en China, Mistral en Francia, as\u00ed como por grandes tecnol\u00f3gicas estadounidenses como Google con Gemma o Meta con Llama.<\/p>\n\n\n\n Los LLMs de pesos abiertos est\u00e1n entrenados con m\u00e1s informaci\u00f3n y algunos tienen capacidades comparables a las de modelos propietarios como los que utilizan ChatGPT, Claude o Gemini. Sin embargo, poder ejecutarlos en hardware propio es muy costoso y poco realista para organizaciones peque\u00f1as y medianas.<\/p>\n\n\n\n Los SLMs por su lado son modelos peque\u00f1os que tienen la capacidad de entender el lenguaje natural de las personas, pero manejan una cantidad m\u00e1s acotada de informaci\u00f3n. Lo interesante es que sus capacidades pueden mejorarse a trav\u00e9s de t\u00e9cnicas como el RAG, destilaci\u00f3n<\/em> y fine-tuning<\/em> . De esta manera, un SLM podr\u00eda no saber tanto como un LLM, pero puede ser m\u00e1s r\u00e1pido y tener un mejor desempe\u00f1o sobre temas espec\u00edficos.<\/p>\n\n\n\n El RAG (sigla en ingl\u00e9s de Retrieval-Augmented Generation, generaci\u00f3n aumentada por recuperaci\u00f3n) consiste en entregar a un modelo informaci\u00f3n adicional para poder realizar consultas. De esta manera, por ejemplo, periodistas de investigaci\u00f3n podr\u00edan usar SLMs<\/a> para revisar documentos sensibles sin necesidad de conectarse a internet. Otro caso de uso podr\u00eda ser facilitar el monitoreo de temas de inter\u00e9s, por ejemplo, con<\/a> un chatbot que reali<\/a>ce<\/a> b\u00fasquedas<\/a> en<\/a> internet<\/a> y luego ofrezca un resumen. Algo similar a lo que se hace a diario con chatbots comerciales.<\/p>\n\n\n\n Otra t\u00e9cnica para mejorar las capacidades de un modelo de lenguaje es la destilaci\u00f3n, que consiste en utilizar un modelo peque\u00f1o (SLM) y entrenarlo con respuestas generadas por un modelo m\u00e1s grande sobre un tema concreto. Este proceso es an\u00e1logo a la relaci\u00f3n entre un profesor y sus estudiantes: el modelo grande act\u00faa como mentor, transfiriendo su conocimiento al SLM, que luego puede operar de manera aut\u00f3noma y eficiente en su \u00e1rea de especializaci\u00f3n. Un ejemplo es el lanzamiento de DeepSeek-R1<\/a> en 2025<\/a>, cuando DeepSeek no solo anim\u00f3 a la comunidad a destilar su modelo, sino que tambi\u00e9n comparti\u00f3 SLMs ya destilados de otros modelos como Qwen o Llama, facilitando el acceso a modelos especializados sin necesidad de recursos computacionales masivos.<\/p>\n\n\n\n La \u00faltima opci\u00f3n, y la que m\u00e1s recursos necesita, es el fine-tuning<\/em>, que consiste en entrenar un SLM con datos espec\u00edficos de un \u00e1rea de conocimiento determinada. Por ejemplo, se podr\u00eda entrenar un SLM para que conozca todas las leyes de un pa\u00eds y luego realizar consultas legales sobre ellas. A diferencia del RAG, con fine-tuning<\/em> el modelo incorpora este conocimiento nuevo y no lo busca directamente en documentos. Si bien es probable que el modelo no requiera de GPUs para funcionar, s\u00ed ser\u00e1n necesarias para realizar el procedimiento de fine-tuning<\/em>.<\/p>\n\n\n\n En la actualidad ya existen herramientas de software libre que permiten experimentar con SLMs. Por ejemplo, se pueden combinar herramientas como Ollama<\/a> y OpenWebUI<\/a> con modelos de pesos abiertos que, en su mayor\u00eda, se pueden descargar desde el sitio HuggingFace<\/a>. Una organizaci\u00f3n o una comunidad podr\u00edan tener un chatbot propio, similar a ChatGPT, en el que se podr\u00edan realizar preguntas sobre documentos compartidos o desarrollar otros casos de uso.<\/p>\n\n\n\n Es importante que la comunidad t\u00e9cnica y de software libre explore las capacidades de ejecutar IA de forma aut\u00f3noma. Mientras antes se haga este trabajo, mayor ser\u00e1 la posibilidad de ofrecer estas herramientas a la sociedad.<\/p>\n\n\n\n Un caso interesante de uso de SLMs, por demostrar que es posible utilizar IA en hardware de bajo costo, es el del programador Andr\u00e9s Cufari, que combin\u00f3 varios SLMs e implement\u00f3 un contestador autom\u00e1tico de llamadas para atender pedidos de una pizzer\u00eda sobre un Raspberry<\/a> Pi 5<\/a>, una computadora muy peque\u00f1a que cuesta menos de USD 100. Algo relevante de esta soluci\u00f3n es que no utiliza IA para todo, sino que la combina con peque\u00f1os programas que consumen pocos recursos y permiten resolver un problema puntual. <\/p>\n\n\n\n No solo los programadores entusiastas de la IA local ven un futuro prometedor en SLMs. Una investigaci\u00f3n de la Universidad de Stanford<\/a> destaca que los SLMs ofrecen capacidades comparables a las de los LLMs en m\u00faltiples \u00e1mbitos, adem\u00e1s de resaltar su mayor eficiencia energ\u00e9tica como una ventaja clave.<\/p>\n\n\n\n M\u00e1s all\u00e1 de usar IA local, remota o h\u00edbrida, es importante tener un sentido cr\u00edtico frente a la tecnolog\u00eda. No se trata de utilizar IA porque todo el mundo lo hace, se trata de entender el problema que queremos solucionar y c\u00f3mo la IA nos puede ayudar. Pueden existir casos en los que utilizar IA no sea la mejor soluci\u00f3n, otros en los que usar IA en la nube sea suficiente y otros en los que sea necesario utilizar IA local. La autonom\u00eda digital tambi\u00e9n pasa por poder decidir qu\u00e9 tecnolog\u00edas usamos, para qu\u00e9 las usamos y cu\u00e1nto control estamos dispuestos a ceder sobre nuestros datos.<\/p>\n\n\n\n <\/p>\nModelos abiertos y de pesos abiertos<\/h2>\n\n\n\n
Los modelos peque\u00f1os de lenguaje<\/h1>\n\n\n\n
SLMs en la actualidad y el futuro<\/h1>\n\n\n\n
Publicada originalmente en Derechos Digitales.<\/a><\/pre>\n\n\n\n
Art\u00edculos relacionados<\/h3>