La privacidad como responsabilidad ética del cientÃfico de datos en la era de la Inteligencia Artificial
Cada vez que usamos una aplicación, hacemos una búsqueda en internet o completamos un formulario en lÃnea, dejamos información personal que puede terminar siendo parte de un modelo de inteligencia artificial (IA). Detrás de esos sistemas hay personas que toman decisiones técnicas concretas: qué datos usar, cómo procesarlos, qué variables incluir en el análisis. Esas personas son los cientÃficos de datos, y el impacto de sus decisiones va mucho más allá del código que escriben.
En un mundo donde la IA toma decisiones sobre créditos, empleos, diagnósticos médicos y hasta libertad provisional, la protección de la privacidad ya no puede tratarse como un requisito legal que se cumple al final del proyecto. Debe estar en el centro desde el principio.
El cientÃfico de datos trabaja constantemente entre dos fuerzas opuestas: por un lado, necesita la mayor cantidad de datos posibles para construir modelos precisos; por otro, el uso irresponsable de información personal puede vulnerar derechos fundamentales y generar desigualdades sin que nadie lo note. Esta tensión es muy concreta: ocurre hoy en organizaciones públicas y privadas de todo el mundo, incluida Panamá, donde la Ley 81 de 2019 sobre Protección de Datos Personales estableció por primera vez un marco legal para regular el tratamiento de información personal en el paÃs.
A nivel internacional, el Reglamento General de Protección de Datos de la Unión Europea —conocido como RGPD o GDPR por sus siglas en inglés, vigente desde 2018— es hoy la referencia global en la materia y exige que la privacidad esté incorporada desde el diseño mismo del sistema, no agregada después como parche. En la misma dirección avanzan la Ley de Derechos de Privacidad de California (CPRA), en vigor desde 2023, y la Ley General de Protección de Datos (LGPD) en Brasil, vigente desde 2020. A estas regulaciones se suma la norma ISO/IEC 42001, publicada a finales de 2023, que se convirtió en el primer estándar internacional para establecer, implementar, mantener y mejorar de manera continua un sistema de gestión de IA en las organizaciones.
La buena noticia es que la ciencia de datos cuenta hoy con técnicas que permiten analizar información sin comprometer la identidad de las personas. La privacidad diferencial, por ejemplo, añade pequeñas variaciones estadÃsticas a los resultados de un análisis, de modo que es imposible identificar a una persona especÃfica dentro del conjunto de datos — es la técnica que utilizó el Censo de Estados Unidos en 2020. Cuando el problema no es el análisis sino el traslado de los datos entra en juego el aprendizaje federado: un enfoque que permite entrenar un modelo de IA directamente donde la información se origina, sin que esta salga del dispositivo o de la organización, algo especialmente valioso en el sector salud. Y cuando los datos reales simplemente no pueden compartirse por razones legales o éticas, los datos sintéticos ofrecen una alternativa: conjuntos de información generados artificialmente que imitan las caracterÃsticas estadÃsticas de datos reales sin corresponder a ninguna persona concreta.
Uno de los riesgos menos visibles — y más peligrosos — de la IA es el sesgo algorÃtmico. Ocurre cuando un modelo aprende de datos históricos que reflejan desigualdades del pasado y las repite automáticamente en el presente, sin que nadie lo ordene. Un ejemplo concreto: si un sistema de evaluación de crédito se entrena con datos de décadas anteriores, cuando ciertos grupos de la población tenÃan menos acceso al sistema financiero por razones de discriminación, el modelo aprenderá que esos grupos son "menos confiables" y seguirá negándoles crédito hoy, de forma automática y a gran escala. La desigualdad histórica se convierte asà en desigualdad digital, invisible pero igual de real. Lo mismo puede ocurrir en contratación de personal, acceso a servicios de salud o decisiones judiciales. Por eso, las guÃas de la Organización para la Cooperación y el Desarrollo Económicos (OCDE) sobre ética en IA y el AI Act (Ley de IA de la unión europea) exigen que los modelos sean auditados antes de desplegarse.
La responsabilidad del cientÃfico de datos no termina cuando el modelo queda listo. También incluye documentar de dónde vienen los datos, qué limitaciones tiene el modelo y garantizar que cualquier decisión automatizada pueda ser explicada y, si es necesario, impugnada por las personas afectadas. Prácticas como las tarjetas de modelo — documentos que describen para qué fue diseñado un sistema y en qué condiciones funciona bien o no — se han consolidado como estándar en organizaciones que toman en serio la ética de sus sistemas, especialmente en sectores sensibles como salud y finanzas.
Por más comprometido que esté un profesional, la ética no puede depender solo de la conciencia de una persona. Las organizaciones necesitan estructuras de apoyo: comités de ética con participación multidisciplinaria, oficiales de protección de datos con independencia real y culturas institucionales que valoren la transparencia tanto como la precisión técnica. Que un modelo tenga un 95% de exactitud no dice nada sobre si es justo, si respeta la privacidad o si puede explicarse cuando afecta a alguien.
Detrás de cada fila en una base de datos hay una persona real: con nombre, historia, derechos y expectativas de que su información será tratada con respeto. El cientÃfico de datos que lo entiende asà no solo hace mejor su trabajo; contribuye a construir una IA en la que la sociedad puede confiar. En la era de los datos masivos y la IA generativa, la excelencia técnica y la responsabilidad ética no son opciones distintas. Son las dos condiciones necesarias para que la ciencia de datos cumpla su verdadero potencial: transformar información en conocimiento que mejore la vida de las personas, sin vulnerar su dignidad en el camino.Â
La autora es Profesora de la Facultad de Informática, Electrónica y Comunicación de la Universidad de Panamá
