{"id":5262,"date":"2025-04-18T22:02:00","date_gmt":"2025-04-19T03:02:00","guid":{"rendered":"https:\/\/rafael.bonifaz.ec\/blog\/?p=5262"},"modified":"2026-01-17T22:06:10","modified_gmt":"2026-01-18T03:06:10","slug":"la-ia-y-los-nuevos-riesgos-para-la-privacidad","status":"publish","type":"post","link":"https:\/\/rafael.bonifaz.ec\/blog\/2025\/04\/la-ia-y-los-nuevos-riesgos-para-la-privacidad\/","title":{"rendered":"La IA y los nuevos riesgos para la privacidad"},"content":{"rendered":"\n

Es el a\u00f1o 2025 y se vive el boom de la inteligencia artificial. La primera aplicaci\u00f3n en viralizarse fue ChatGPT de OpenAI a fines de 2022, pero luego la mayor\u00eda de las Big Tech se han sumado a la carrera. La IA se convirti\u00f3 en parte importante de la vida de la sociedad moderna. En esta columna reflexionamos sobre las implicaciones de esta tecnolog\u00eda en la privacidad de la gente.<\/p>\n\n\n\n

\"\"\/
CC:BY (Francisca Balbont\u00edn)<\/figcaption><\/figure>\n\n\n\n

La inteligencia artificial (IA) es mucho m\u00e1s que los sistemas de chat que se popularizaron desde inicios de esta d\u00e9cada. Si bien ahora se est\u00e1 viviendo el boom de esta tecnolog\u00eda, no hay que olvidar que la IA es una rama de las ciencias de la Computaci\u00f3n que ha estado presente desde sus inicios. En el pasado, existieron hitos importantes en relaci\u00f3n a esto. Por ejemplo, en el a\u00f1o 1997 la computadora Deep Blue<\/a>, creada por IBM, fue capaz de vencer en ajedrez al entonces campe\u00f3n del mundo Gary Kasparov. Tambi\u00e9n, hace poco menos de 10 a\u00f1os, el software Alpha Go de Google logr\u00f3<\/a> ganarle a varios campeones internacionales del juego de estrategia Go.<\/p>\n\n\n\n\n\n\n\n

El boom que se vive en la actualidad tiene que ver principalmente con los modelos grandes de lenguaje (LLM por sus siglas en ingl\u00e9s). Se trata de un programa de la IA que permite tener aplicaciones con las cuales nos podemos comunicar de forma natural como si estuvi\u00e9ramos hablando con personas. Para que estos sistemas puedan tener una conversaci\u00f3n con humanos se los debe entrenar con cantidades extraordinarias de datos y adem\u00e1s se requiere de mucha capacidad de c\u00f3mputo.<\/p>\n\n\n\n

Dime qu\u00e9 datos utilizas y te dir\u00e9 qui\u00e9n eres<\/strong><\/p>\n\n\n\n

Si se piensa en los LLM desde una perspectiva de privacidad, lo primero que nos deber\u00edamos preguntar es \u00bfde d\u00f3nde salen los datos que entrenan el modelo? Seg\u00fan OpenAI<\/a>, utilizan 3 fuentes para entrenar los modelos de ChatGPT: informaci\u00f3n p\u00fablica, informaci\u00f3n compartida por socios e informaci\u00f3n provista por humanos.<\/p>\n\n\n\n

En la primera opci\u00f3n, se puede pensar en la internet p\u00fablica con sitios como Wikipedia<\/a>, Github<\/a>, Archivo de internet<\/a> y otras similares. Desde un punto de vista de privacidad, esta informaci\u00f3n est\u00e1 p\u00fablicamente accesible y se puso a disposici\u00f3n con la intenci\u00f3n de compartir conocimiento libremente. Se podr\u00eda decir que entrenar LLM con esta informaci\u00f3n, har\u00eda m\u00e1s accesible el conocimiento a la mayor\u00eda de la gente.<\/p>\n\n\n\n

Pero este no es el caso para todos los sitios web. Existen casos como las redes sociales, donde las personas -por error- pudieron haber publicado informaci\u00f3n personal sin intenci\u00f3n y esta se hizo p\u00fablica. Incluso se podr\u00eda haber subido contenido con el prop\u00f3sito de que sea accesible para el p\u00fablico, pero no necesariamente para entrenar modelos de inteligencia artificial.  Evidentemente, hay problemas relacionados con derechos de autor, pero en esta columna no nos vamos a detener en esa cuesti\u00f3n.<\/p>\n\n\n\n

En el segundo caso, no es claro cu\u00e1les son los socios que proveen informaci\u00f3n a OpenAI. En su p\u00e1gina web mencionan<\/a> una colaboraci\u00f3n con al gobierno de Islandia para mejorar el soporte del idioma island\u00e9s, y tambi\u00e9n hablan de colaborar con la organizaci\u00f3n Free Law Project. Sin embargo, no queda claro con qu\u00e9 otros grupos hacen alianzas para la provisi\u00f3n de datos.<\/p>\n\n\n\n

Desde el punto de vista econ\u00f3mico, el principal aliado de OpenAI es Microsoft. Una empresa que en 2023 realiz\u00f3 un acuerdo<\/a> de 10 mil millones de d\u00f3lares con OpenAI por varios a\u00f1os, y que incluye el uso de la infraestructura Azure. Esta infraestructura es la \u201cnube\u201d que oferta Microsoft para que terceros puedan ejecutar sus aplicaciones. En este caso, Azure es la principal infraestructura de ChatGPT y otros productos de OpenAI.<\/p>\n\n\n\n

\u00bfSer\u00e1 que OpenAI utiliza informaci\u00f3n de las aplicaciones de Microsoft como Bing, Outlook, Office 360, entre otros? \u00bfEstar\u00e1 Microsoft entregando informaci\u00f3n personal de sus usuarios para entrenar al ChatGPT? No hay forma de saberlo, salvo que se haga una auditor\u00eda y se transparente la forma en la que OpenAI entrena sus modelos.<\/p>\n\n\n\n

Si pensamos en las otras empresas l\u00edderes como Google con Gemini, Meta con MetaAI o X con Grok, podemos, al menos, sospechar que utilizan los datos de sus sistemas para entrenar sus modelos grandes de lenguaje. Todas estas empresas tienen algo en com\u00fan, muchos datos y gran capacidad de procesamiento de informaci\u00f3n, lo que las pone en la \u00e9lite de la IA.<\/p>\n\n\n\n

Nube y privacidad: malos amigos<\/strong><\/p>\n\n\n\n

Ya se analiz\u00f3 la privacidad al momento de entrenar los modelos LLM. Ahora bien, \u00bfqu\u00e9 pasa con nuestra privacidad al utilizar estos chat bots? El principal problema que se presenta al utilizar estas herramientas de IA es que se encuentran en la nube, a quien le entregamos todos nuestros datos.<\/p>\n\n\n\n

Si se utiliza la IA para que nos responda nuestras preguntas cotidianas, estas preguntas se asocian a nuestro perfil y sirven para perfilarnos como individuos. Si se usa la IA para que resuma una llamada de Zoom<\/a>, entonces estamos entregando la transcripci\u00f3n de la conversaci\u00f3n y el resumen a la plataforma. Si la utilizamos para escribir un correo electr\u00f3nico, entonces el sistema que lo redacta tendr\u00e1 el contenido de nuestro correo. Si le pedimos que nos sintetice un documento confidencial, le servimos en bandeja esa informaci\u00f3n. Toda esta interacci\u00f3n servir\u00e1 para entrenar los futuros modelos de lenguaje. En teor\u00eda, gente con la capacidad de hacer las preguntas correctas a la IA podr\u00eda extraer informaci\u00f3n de nuestros archivos confidenciales.<\/p>\n\n\n\n

Por otra parte, el uso de IA en aplicaciones de chat cifrado tambi\u00e9n resulta un problema muy grave para la privacidad de la ciudadan\u00eda. El cifrado extremo a extremo protege nuestras comunicaciones para que nadie, excepto las personas que participan en la misma, las pueda leer. Un adversario particularmente importante del cual nos protege este tipo de cifrado es el proveedor del servicio. Si se piensa en WhatsApp, entonces su cifrado nos debe proteger para que WhatsApp no lea nuestras conversaciones. Sin embargo, desde alg\u00fan tiempo atr\u00e1s tenemos entre nuestros contactos al bot de @MetaAI. A este bot lo podemos invocar desde cualquier conversaci\u00f3n para hacerle consultas. Cuando eso sucede, el cifrado extremo a extremo pierde su valor ya que Meta debe leer nuestras conversaciones para interactuar.<\/p>\n\n\n\n

En general, los problemas de privacidad de la IA est\u00e1n asociados a la utilizaci\u00f3n de plataformas en \u201cla nube\u201d. En otras columnas, hemos visto algunos ejemplos del uso de infraestructura propia con software libre para poder tener una oficina virtual<\/a>, sistemas de videoconferencia seguras<\/a>, incluso instancias de redes sociales descentralizadas como el Fediverso.<\/a>  \u00bfSe puede hacer lo mismo con la inteligencia artificial?<\/p>\n\n\n\n

La respuesta es s\u00ed, y de hecho existen varios LLMs<\/a> que se pueden utilizar sin costo y de forma local o incluso en infraestructura propia. A diferencia de sistemas como una nube propia o sistemas de chat seguro, con inteligencia artificial se va a necesitar mayor capacidad de c\u00f3mputo o versiones m\u00e1s peque\u00f1as de los LLM. Al usar modelos m\u00e1s cortos, probablemente no sirvan para preguntar cualquier cosa, pero s\u00ed podr\u00edan ser muy \u00fatiles para tener un bot con un prop\u00f3sito espec\u00edfico. Por ejemplo, para resumir documentos confidenciales o traducir textos.<\/p>\n\n\n\n

IA al servicio de las personas, no de las corporaciones<\/strong><\/p>\n\n\n\n

En nuestros d\u00edas, es com\u00fan que la gente utilice IA para apoyarse en sus tareas cotidianas y, seguramente, en el futuro esta herramienta se usar\u00e1 a\u00fan m\u00e1s. Es sumamente importante que como sociedad podamos reflexionar acerca de los prop\u00f3sitos para los cuales se seguir\u00e1 utilizando la IA y los riesgos que eso trae aparejado. No es lo mismo recurrir a ella para traducir un documento p\u00fablico, redactar un correo electr\u00f3nico o resumir un documento confidencial. Habr\u00e1 casos en los que se pueda considerar aceptable utilizar IA a cambio de sacrificar la privacidad y habr\u00e1 otros en los que no.<\/p>\n\n\n\n

La autonom\u00eda en la IA es algo que la sociedad debe explorar. Para tareas y actividades donde se trabaja sobre informaci\u00f3n sensible, tener un sistema tecnol\u00f3gico que no reporte esa informaci\u00f3n a terceros ser\u00eda una herramienta muy poderosa. Incluso varias organizaciones podr\u00edan unirse entre s\u00ed para compartir infraestructura y poder ejecutar colectivamente mejores modelos de lenguaje. Las regulaciones sobre esta herramienta tecnol\u00f3gica deben velar por el respeto de nuestra privacidad, nuestros datos y nuestra informaci\u00f3n. Solo de esa forma podremos imaginar un futuro digital seguro para todas y todos.<\/p>\n\n\n\n

Publicado originalmente en Derechos Digitales.<\/a><\/pre>\n\n\n\n
<\/p>\n
Art\u00edculos relacionados<\/h3>