• El algoritmo no solo responde a nuestras preferencias, también organiza el entorno en el que elegimos

“Durante nuestra formación aprendemos teorías, conceptos, autores y modelos que utilizamos para interpretar nuestra realidad; sin embargo, también es necesario preguntarnos de dónde provienen esas herramientas, qué realidades representan y cuáles son sus límites”, apuntó José Manuel Álvarez González, jefe de la División de Ciencias Jurídicas, en la tercera ponencia de la Semana de Derecho Los alcances de la ciencia jurídica en el contexto digital.

“Esto no significa rechazar el conocimiento existente, sino aprender a dialogar con él, cuestionarlo, y cuando sea necesario, construir nuevas formas de comprender nuestra realidad”, destacó el maestro. En tanto, Óscar Lozano Carrillo, profesor de la Universidad Autónoma Metropolitana (UAM) Unidad Azcapotzalco presentó la conferencia magistral Colonialismo cognitivo.

El doctor informó que, entre adolescentes de 12 a 17 años, el 95.1 por ciento usa internet, con un promedio de uso diario equivalente a 4.5 horas. En cuanto a estudiantes universitarios de 18 a 24 años, las cifras suben a 98.3 por ciento de usuarios, que pasan 5.4 horas diarias en línea.

“El problema no estar conectados”, sino la influencia que tiene esta conducta en nuestra percepción de la realidad, y definió el concepto que dio nombre a la ponencia. La colonización cognitiva es el proceso mediante el cual actores externos, como plataformas digitales con algoritmos o referencias de inteligencia artificial (IA), influyen progresivamente en la forma de pensar de quien las utiliza.

“El algoritmo no solo responde a nuestras preferencias, también organiza el entorno en el que elegimos”, puntualizó el abogado, y advirtió que, aunque los intereses detrás de las empresas responsables de esta tecnología no son malos, “tampoco necesariamente tienen un perfil de apoyo social”.

A raíz de los principios de la economía de atención, que dicta que la permanencia del interés de un usuario tiene valor monetario, y el capitalismo de vigilancia, que toma la actividad digital de cada persona para alimentar perfiles y sistemas automatizados, se generan sistemas y diseños con el objetivo de persuadir y retener.

Como consecuencia, las recomendaciones hechas por los algoritmos de las redes sociales se adecúan al comportamiento y a los gustos del usuario. Mecanismos como la reproducción automática del contenido, la presencia de una línea de tiempo “infinita” y el envío de notificaciones buscan mantener la atención a toda costa.

La dependencia cognitiva por el teléfono móvil crea un mundo en particular, afirmó el docente de la UAM, lo cual “se convierte en un problema cuando llegan las exigencias del mundo real”, y señaló que “cada vez es más difícil mantener la atención de nuestros estudiantes”.

Entre las consecuencias de este deterioro resaltó que el 62 por ciento de los adolescentes considera difícil dejar de usar las redes sociales, y que uno de cada cuatro presenta síntomas de ansiedad o depresión. Los riesgos a futuro de una sociedad algorítmicamente colonizada “no son inevitables, pero ignorarlos nos acerca a un futuro con menos libertad, menos diversidad y menos control sobre nuestras propias vidas”.

Respecto al tema normativo, comentó que hay una serie de iniciativas que a su parecer “aún son muy endebles”. La Unión Europea tiene la primera ley integral sobre IA, que estableció un enfoque basado en riesgos y protección de derechos fundamentales. Por su parte, La Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO) tiene recomendaciones que aconsejó revisar porque a su juicio son las más sólidas.

Subrayó que en México se han presentado iniciativas de ley en el Senado, CDMX y a nivel federal para regular el desarrollo y uso responsable de la IA; sin embargo, “tenemos que aceptar que la velocidad a la que va esto no permite a veces ni comprender qué está pasando”, e insistió en la necesidad de marcos regulatorios anticipativos, alfabetización en IA, transparencia y auditoría algorítmica.

Finalmente, planteó una visión sobre esta tecnología a largo plazo orientada al bienestar humano, social y ambiental, no solo el crecimiento económico.