INTELIGENCIA ARTIFICIAL

Privacidad e Inteligencia Artificial

La previsible afectación que la IA pueda tener en los derechos humanos y la privacidad de las personas es un enfoque todavía poco explorado. | Alejandro Torres Rogelio*

Escrito en OPINIÓN el

Los sistemas de Inteligencia Artificial (IA) provocan preocupaciones, no solo entusiasmo, conforme se extiende su uso en los campos de la actividad humana. Recientemente se ha planteado el desempleo que su implementación puede causar en todos los sectores de la economía.

Sin embargo, el enfoque poco explorado todavía se relaciona con la previsible afectación que la IA pueda tener en los derechos humanos, y entre ellos, a la privacidad de las personas, sean usuarias o no de tales sistemas.

En México, este tema no forma parte todavía de la agenda de los actores políticos y mucho menos es prioridad legislativa, pese a incipientes y aislados esfuerzos por ponerlo en el debate público.

En Europa, en cambio, ya se tiene desde finales de abril una propuesta a nivel de comisiones en el Parlamento Europeo, tras un año de trabajo que arrojó miles de modificaciones al proyecto original, con un enfoque que busca aprovechar las ventajas que pueda ofrecer la IA para el ser humano y prevenir sus daños La legislación propuesta está redactada de tal forma, además, que no quede rebasada por el vertiginoso avance de la tecnología, como ha ocurrido tradicionalmente.

De prosperar la ruta de los eurodiputados, la normativa estará lista hacia 2025. Sus efectos serán expansivos y obligará a otras naciones, como México, a legislar para proteger al menos con el mismo nivel normativo a las personas frente a los daños que pueda tener el uso de la IA, entre otros aspectos, en la garantía de los derechos fundamentales, como la protección de datos personales.

Uno de los sistemas de IA que hoy causa revuelo es el ChatGPT que, en su versión gratuita, genera texto a partir de las indicaciones del usuario. Este modelo de lenguaje opera a partir de los algoritmos que sus creadores, la empresa OpenAI, le proporcionan.

Un algoritmo es, en resumidas cuentas, el paso a paso que un programador establece para que el procesador realice una actividad determinada. Las instrucciones son tan complejas que le permiten al programa buscar en diversas y grandes bases de datos y dar una respuesta apenas en segundos.

La información encontrada, conforme al contexto de la conversación, se incorpora a su vez al catálogo de instrucciones sin la intervención de la persona programadora (aprendizaje automatizado) y ofrece al usuario una respuesta original, creada por el sistema informático (de ahí el concepto de IA generativa), y no predeterminada, como las usadas por los chatbots empresariales.

Lo que Europa pretende legislar es que los algoritmos de los sistemas de IA generativa no ejecuten actividades que lesionen los derechos de las personas. Por ejemplo, prohibir su uso para reconocimiento facial indiscriminado, sino acotarlo solo a las autoridades competentes que investigan casos graves de delincuencia.

Además, la pretendida legislación obligaría a los programadores de los sistemas de IA generativa asegurarse de que los algoritmos (ese paso a paso que ejecutan las computadoras) no lo hagan con sesgos raciales, étnicos, religiosos, ideológicos, de identidad y preferencia sexual, entre otros.

Esta es, precisamente, la información que las legislaciones de protección de datos personales clasifican como datos sensibles por el potencial daño que su divulgación y tratamiento no consentidos pueden provocar al individuo. Por ello, les otorgan la categoría de confidenciales y se les deben someter a medidas físicas, administrativas e informáticas de máxima protección y seguridad.

México tiene leyes de protección de datos personales, a nivel federal y local, equiparables a la europea, y forma parte de organismos internacionales que promueven y defienden los derechos humanos, los cuales a su vez ya han tomado muy en serio la generación de directrices para regular a los programadores de los sistemas de IA generativa que los Estados miembros deberán adoptar internamente.

Este tema debería ser parte de la agenda y debate públicos. Seguramente llegaremos al momento de legislar de manera tardía porque los actores políticos están hoy ocupados en sus propias prioridades partidistas.

(*) Ex comisionado de transparencia y protección de datos personales de la Ciudad de México.