En el marco de los debates recientes sobre Inteligencia Artificial, el abogado y profesor de la cátedra Inteligencia Artificial, Tecnología y Derecho de la Facultad de Derecho de la UNMDP, Federico Álvarez Larrondo, dialogó con BACAP acerca de qué pasa con nuestros datos al usar estas herramientas y qué políticas de soberanía es posible pensar.
Por Camila Spoleti
Mientras líderes políticos y CEOs discuten riesgos y posibilidades de apocalipsis, las herramientas de Inteligencia Artificial están cada vez más instaladas en el uso cotidiano. En diálogo con BACAP, Federico Álvarez Larrondo, abogado y profesor de la cátedra Inteligencia Artificial, Tecnología y Derecho de la Facultad de Derecho de la UNMDP, explica qué sucede con los datos personales al utilizar Inteligencia Artificial y qué políticas es posible imaginar desde la Argentina —y desde la región— para evitar la subordinación a unas pocas empresas extranjeras y construir alternativas a la disyuntiva entre alinearse a Estados Unidos o China.
—¿Creés que la población general está lo suficientemente informada acerca de esta tecnología en relación al uso que le da?
—Yo creo que habría que dividir dos cuestiones. Una es el uso para sacarle el mayor jugo posible a la herramienta y por el otro lado está el tema de los límites y de las consecuencias de su uso, que son dos aspectos si se quiere contradictorios. Porque el primero te invita a tratar de cargar la mayor cantidad de datos posible para que te haga tareas de manera cada vez más potente y más veloz y, al mismo tiempo, esa optimización del uso de la herramienta hace que entreguemos datos personales como nunca antes se entregaron a la tecnología en la historia de la humanidad. Ni aún cuando hacías búsquedas por Google o cuando scrolleabas en una red social eso era un dato directo donde vos le contabas lo que estabas pensando, planificando, como sucede hoy con estos modelos nuevos. Por eso la IA generativa viene a romper todo lo que hemos concebido hasta la actualidad. Entonces, si vos me hacés esa pregunta, la primera respuesta sería: “No, no estamos capacitados, ni siquiera para saber cómo usarla bien, y segundo, cómo proteger nuestros datos personales”.
A pequeña escala, el dilema es, entonces, similar al que atraviesan países y empresas: frenar y quedar atrás —o afuera—, o seguir adelante y, eventualmente, afrontar las consecuencias. Sin embargo, para el uso personal, existen algunas cuestiones a tener en cuenta.
Qué hacen y qué hacer con los datos
“Los propios contratos, que son esos términos y condiciones que te ofrecen las empresas de IA generativa cada vez que vos abrís una cuenta —y que aceptamos sin leer porque es imposible leerlos, porque son cientos de páginas—, te dicen expresamente que todo lo que vos converses con la IA se va a usar con tres objetivos”, dice Larrondo. Esos tres objetivos son: entrenamiento, memoria y parametrización de los usuarios.
En cuanto a la función de entrenamiento, Larrondo explica: “Toda conversación que vos tengas con una IA generativa, si no lo desactivaste, pasa a formar parte del dataset, es decir, el conjunto de datos que va a ser utilizado para entrenar al siguiente modelo de IA. Es decir que tus conversaciones, que para vos son privadas, están siendo ya ni siquiera leídas por terceros, sino que ya son parte del entrenamiento de la IA y la IA las va a usar para dar las futuras respuestas a las preguntas de cualquier persona del mundo”.
En casi todos los modelos esto se puede desactivar de un modo similar: “Cliqueás donde está el circulito de tu nombre y se te despliega un menú de opciones. Entre ellas está ‘personalizar’, ‘confidencialidad’, ‘protección de datos’, ‘intimidad’, hay distintas formas de llamarlo, hay que ir revisando una por una. Hay una que dice si vos querés compartir todas tus conversaciones para que la herramienta mejore y está ya activada automáticamente, eso habría que desactivarlo de manera urgente”.
Por otra parte, la función “memoria” es la que optimiza el uso de la herramienta a nivel particular, en tanto permite que el chat mantenga un registro de las conversaciones. “¿Cuál es el problema de desactivar la memoria? Cada conversación, una vez que terminaste la sesión, se fue, desapareció. Entonces, cuando vos decís: ‘Uy, yo quiero volver a repasar lo que conversé con la IA en algún momento’, no la vas a encontrar”, explica Larrondo.
Si la memoria se mantiene activada, indica el abogado, la información queda alojada en los datasets entre 3 y 5 años, dependiendo de la empresa. “En teoría, si vos le desactivaste entrenamiento, no la usarían para entrenar, pero nadie te lo asegura”, plantea. Lo que sí prevén los contratos es que esa información puede ser scrapeada, pueden acceder a ella para detectar que no haya información peligrosa —como puede ser la referida a la comisión de delitos— y entregada a la Justicia o a los gobiernos si estos lo requirieran. “Prueba de esto”, señala Larrondo, “es lo que sucedió en Quilmes hace unas semanas, cuando la policía allanó la casa de un menor que había conversado con la IA sobre ir a la escuela con un arma y generar, supuestamente, un ataque. La empresa informó al FBI y el FBI a nuestro país para que la justicia interviniera”.
Finalmente, Álvarez Larrondo advierte que, incluso cuando la función “memoria” se desactivase, las conversaciones son conservadas por la empresa entre 3 y 7 días. A su vez, todo aquello que se comparte con la IA y se elimina, queda 30 días más dentro de la empresa. Por ello, el abogado sostiene con firmeza: “Lo que uno debería tener como parámetros es, en primer lugar, jamás, jamás, tener conversaciones sensibles. Eso lo dice, por ejemplo, OpenAI (la empresa que desarrolla ChatGPT) en sus propios términos y condiciones. Segundo: jamás incorporar información de terceros con datos sensibles. Una historia clínica de una persona, por ejemplo, son todos datos sensibles porque son datos de salud. En tercer lugar, nunca entregar información que pueda ser confidencial de una empresa, por ejemplo. ¿Por qué? Porque si esa información se sube a ChatGPT, por más que sea mi ChatGPT o mi Gemini o mi Claude o mi DeepSeek o el que sea, automáticamente pasa a quedar en los reservorios de datos de estas empresas. Y si, para colmo, no desactivé el entrenamiento, mañana puede ser que mi competidor pueda ver toda esa información que antes era secreta y hoy ya no lo es”.
“Y esto va marcando, además, otra cosa, que es la posibilidad de parametrizarte, de conocerte y, por lo tanto, la IA ahora tiene la capacidad de manipularte, como surge de un litigio hoy en debate en EE.UU. donde ChatGPT habría inducido a un pastor, ante la consulta de un cuadro de salud, a no ir al médico porque era una prueba que le estaba presentando Dios”, agrega Larrondo, y explica: “La IA es un fenómeno hoy de caja negra. ¿Qué significa esto? Que toma decisiones que nadie puede explicar, no están programadas como era antes que yo le daba una instrucción y hacía eso. Hoy puede ser que ante una misma situación a vos te diga: ‘Che, no, mirá, esto que me estás contando está mal, andá a ver un médico’ y a otro le diga: ‘No, si estás tan deprimido tenés que aislarte, tenés que separarte de la gente’. No se sabe a ciencia cierta por qué responde de esa manera y esto es porque la IA no fue una construcción. Esto lo dice el Papa muy bien en su encíclica. Dice: ‘Esto no es como una casa que yo fui construyendo ladrillo por ladrillo y te puedo explicar entonces dónde estaría la posible falla o en qué nos equivocamos. No, la IA es como una semilla, tiraron la semilla y salió esto’. Y entonces nadie puede explicar qué es lo que está pasando adentro de estos sistemas que en los hechos empiezan a tomar decisiones en base al lenguaje natural que antes era propiedad solamente de los humanos”.
—¿Pueden compartir la información con otras empresas?
—En teoría, ellos dicen que pueden compartir con terceros para mejorar la calidad del servicio. ¿Qué entendemos por eso? No sé, porque la verdad es que para mí tiene una amplitud tan grande que, quizás, hacer mejor el servicio es, por ejemplo, parametrizarte para saber qué es lo que vos necesitás en las respuestas, entonces vos se lo podés dar a una tercera empresa. Ahí tenemos un problema que es que la realidad choca con la normativa.
La normativa argentina te pide que para transferir datos personales a terceros tiene que haber un consentimiento de su titular. Primero porque son datos personales, eso no hay duda alguna, pero además en la conversación que vos vas teniendo, vas dejando datos tuyos, datos que son biométricos, es decir que son únicos y propios de cada humano. Por ejemplo, la forma que vos tenés de hablar o escribir es muy distinta a la que puedo tener yo. Entonces esos son patrones que te van marcando una personalidad y eso, por lo tanto, empieza a ser un dato personal y hasta si querés sensible, ahí podemos discutirlo, pero es un dato personal. Entonces, según la ley argentina, para hacer una transferencia a terceros tiene que haber consentimiento. Y consentimiento es un consentimiento informado.
Ellos dicen: “Bueno, yo en el contrato te puse que lo podía transferir a terceros, que eso era para mejorar el servicio, entonces, vos me diste el consentimiento”. Nosotros, desde el Derecho, decimos que eso no es consentimiento. Lo que pasa que si vos te parás en el otro extremo y decís: “El consentimiento tiene que ser que vengan a tu casa y te expliquen, paso por paso”, nadie podría usar estos modelos de lenguaje, con lo cual se termina la IA generativa. Entonces, esa es la tensión en la que estamos hoy permanentemente.
Vas a escuchar a muchos que te dicen: “Bueno, hay que dar datos porque es la única manera, que esto vaya para adelante”. Y vas a ver a los otros que te dicen: “No hay que darles nada, no hay que usarla”. Entonces bueno, ¿dónde nos ubicamos cuando vos tenés a un bloque de países en los que la idea es “no me importan los datos, no me importan los límites” (Estados Unidos), y por el otro lado tenés a China que dice “yo tengo mi ecosistema cerrado, yo voy para adelante”? Y los otros países que quieren, como Europa, ser más cuidadosos de los derechos humanos.
La verdad es que ahí tenés una tensión donde alguno se va a quedar atrás, como le está pasando a Europa, mientras los otros dos van para adelante sin importar cuáles sean las consecuencias. Más allá de estas declaraciones de los últimos días sobre los riesgos de la IA y que hay que ralentizarla, mientras discuten eso, siguen generando y entrenando modelos para que sean más potentes que el anterior.
—¿Qué postura creés que tendría que tomar Argentina en todo esto?
—Mirá, hay algo que dijo el presidente Macron en Naciones Unidas que es fundamental: cualquiera que quiera hoy subirse a esta carrera corre, no de atrás, de recontra atrás. ¿Qué es lo que están hablando muchos de los de los Estados? Bueno, tenemos que empezar a pensar en IA soberana porque no podemos depender de las decisiones de EE.UU. y China sobre las empresas de IA ubicadas en sus países, como pasó hace poco con la orden de Trump que suspendió el uso de un modelo de Anthropic (la creadora de Claude) para todo el mundo, interrumpiendo el acceso al modelo por parte de los demás países.
En la región hay algunos intentos de avanzar hacia una IA soberana. Brasil tiene una estrategia propia y desde Chile se impulsa LATAMGPT: con la arquitectura originaria que generaron estas empresas norteamericanas, están generando sus modelos de IA entrenados con datos de Brasil y de Chile o de Sudamérica con la idea de que responda según nuestras pautas. ¿Es comparable la potencia con la que tienen estos centros de datos de estas empresas? No, imposible, imposible. Con lo cual, tal vez lo que tenemos que decidir es si queremos una IA autóctona, pero menos potente, o si la idea es que nos subamos a la ola de esta discusión entre las dos grandes potencias.
Y esas son decisiones de política de Estado, que no las puede tomar, a mi modo de ver, un gobierno. No importa si es peronista, radical, libertario, no importa. Esto tiene que ser un consenso social, tal vez mediante un plebiscito. Ver cuál sería el camino a seguir y, primero, si tenemos recursos para pensar en una vía autóctona. Ahí hay que decir que como país solos es sumamente difícil por el monto de inversión. Brasil, por ejemplo, en su plan de IA 2024-2028 tiene planeado invertir casi 4.500 millones de dólares. Por eso entiendo que lo lógico sería hacer es un consorcio con otros países. Si esa fuese la decisión, bueno, habría que decidir con qué países y cuál sería la idea de funcionamiento.
Un modelo de lenguaje propio
Un aspecto a tener en cuenta para un eventual desarrollo de una IA propia, explica Álvarez Larrondo, es el del lenguaje: “Todos estos modelos están entrenados fundamentalmente con el texto en inglés, por eso a la IA hoy le es mucho más fácil contestar cuando vos le preguntás en ese idioma y eso también tiene un impacto económico muy grande”. De este modo, sostiene el especialista, generar una misma respuesta en inglés consume menos tokens —unidades de datos— que en español, o en portugués, o en árabe, lo que implica que para los usuarios angloparlantes es más barato utilizar estas tecnologías que para los demás.
Esa es la línea que sigue LATAMGPT, un proyecto coordinado por el Centro Nacional de Investigación en Inteligencia Artificial (CENIA) de Chile con participación de cerca de 200 profesionales y más de 65 instituciones de 15 países (13 de América Latina y el Caribe y 2 externos a la región) que trabajan en el desarrollo de un modelo de lenguaje de gran tamaño (LLM) abierto y entrenado con datos latinoamericanos. Como explican en su sitio web, “los modelos globales se entrenan principalmente con datos del Norte Global, y en estos el español representa solo cerca del 4% de los datos, mientras que el portugués, entre un 2% y un 3%”, en cambio, en LATAMGPT, el 65,4% de los datos están en español, el 32,9% en portugués y solamente el 1,7% en inglés.
Iniciativas como LATAMGPT no resuelven las tensiones entre el avance de la IA y lo humano, ni dejan de requerir recolectar datos para su funcionamiento. Sin embargo, permiten pensar una tecnología diseñada para las necesidades propias de la región.