327 lecturas

IA en las redes sociales: consideraciones éticas de la IA y los algoritmos para dar forma a las interacciones en las redes sociales

por Nimit6m2024/04/30

Demasiado Largo; Para Leer

Este artículo profundiza en la influencia de las redes sociales, rastreando su evolución y el papel fundamental de la IA y los algoritmos en la personalización de contenidos. Se analizan las implicaciones éticas, como las preocupaciones sobre la privacidad y los prejuicios, que surgen del uso de datos de consumidores por parte de empresas como Meta. El artículo también examina el potencial de los algoritmos para crear cámaras de eco y la necesidad de medidas regulatorias para abordar el sesgo algorítmico, con el objetivo de lograr un enfoque equilibrado entre innovación y protección del usuario en el panorama digital en rápida evolución.

featured image - IA en las redes sociales: consideraciones éticas de la IA y los algoritmos para dar forma a las interacciones en las redes sociales

Hoy en día, las redes sociales juegan un papel integral en la vida, influyendo en cómo nos comunicamos, obtenemos información y compartimos información entre nosotros. Aunque tienen menos de 30 años [1], hemos visto una enorme evolución de plataformas como Facebook, Twitter, TikTok y LinkedIn: Facebook ahora es Meta y posee WhatsApp, Instagram y Threads; Twitter es X. Ambos son propiedad de multimillonarios que se anticiparon a las tendencias tecnológicas, capitalizaron estas oportunidades y fueron pioneros en el camino hacia una industria rápidamente innovadora.

El mayor éxito de las redes sociales, desde un punto de vista empresarial, son los datos de los consumidores. Una gran mayoría de plataformas de redes sociales son gratuitas y pueden operar de esta manera porque, a cambio, les permites acceder a tus datos. Con esto, empresas como Meta han podido dar forma al contenido y las interacciones de las redes sociales. Esto es algo que puede considerarse beneficioso o poco ético según la intención y el caso de uso, y problemas como la privacidad y la manipulación no son nada infrecuentes en la actualidad.

En este artículo, profundizaremos en la ética del uso de la IA y los algoritmos en las redes sociales, examinando cómo ayudan a personalizar el contenido, lo que podría generar sesgos y cámaras de eco, y el futuro de la IA en las plataformas de redes sociales.

Una breve historia de los algoritmos y sus crecientes casos de uso en las redes sociales

'Un algoritmo es una serie de instrucciones diseñadas para resolver problemas específicos, realizar tareas o tomar decisiones' [2]. En las redes sociales, estas instrucciones rigen las experiencias de los usuarios, como la clasificación, el filtrado y la personalización del contenido, generalmente en función de las tendencias de diferentes grupos de consumidores. Esto le permite a usted, como usuario, encontrar contenido que le interese mucho más rápido, ya que es probable que aparezca en las páginas para usted sin que tenga que buscarlo.

Los algoritmos no siempre se han utilizado en las redes sociales. Fue en 2009 que Tumblr y Facebook introdujeron métricas de clasificación y feeds personalizados. En 2012, más siguieron su ejemplo. Facebook aumentó su uso algorítmico en sus noticias e introdujo contenido patrocinado [3].LinkedIn comenzó un "feed semiestructurado" y YouTube introdujo un algoritmo de clasificación, priorizando el tiempo de visualización sobre la cantidad [4]. Desde entonces, el papel de los algoritmos en dichas redes sociales no ha hecho más que aumentar. En 2015, el aprendizaje automático comenzaba a desempeñar un papel en los algoritmos de clasificación y filtrado, respaldado por los avances en los esfuerzos de Big Data. Los acontecimientos políticos de 2016, como la elección de Trump y el referéndum del Brexit (y un año crucial en el escándalo de Cambridge Analytica), llamaron la atención del público sobre algunos de los dilemas éticos que rodean un uso tan intenso y creciente de algoritmos y la recopilación de datos de usuarios en las redes sociales.

Hoy en día, los algoritmos impulsados por IA se construyen con tanta precisión que recomiendan contenido en función de sus interacciones previas específicas en la plataforma, y los crecientes datos de los usuarios permiten a las empresas de redes sociales eliminar una mayoría significativa de cualquier conjetura. Documentales como The Social Dilemma [5] y The Great Hack [6] dan una idea de cuán diseñados están algunos de estos algoritmos, a menudo con el objetivo final de mantener al usuario en su plataforma por más tiempo e impulsar la interacción con la plataforma. Si bien una mayor interacción del usuario significa más datos para que las empresas de redes sociales recopilen, modifiquen y repitan este proceso, este objetivo no toma en consideración lo que es mejor para el usuario y la sociedad en general con respecto al consumo de redes sociales.

Cuestiones éticas derivadas del sesgo algorítmico

Los algoritmos pueden perpetuar sesgos dañinos y, en el contexto de las redes sociales, esto a menudo se manifiesta como un refuerzo de estereotipos y una exposición limitada a diversos puntos de vista. Si esto culmina con el tiempo, puede alimentar la discriminación, polarizar a los electores e incluso contribuir al extremismo y al populismo autocrático o de derecha, que explotan las divisiones sociales.

En un nivel de impacto bajo, los ejemplos de sesgo algorítmico podrían incluir ofertas de trabajo para ciertas industrias, por ejemplo, que LinkedIn se muestre más a hombres que a mujeres, porque los conjuntos de datos de entrenamiento en los que se modelaron los algoritmos predicen que es probable que más hombres trabajen en esas industrias. roles. Si bien esto no necesariamente tiene un impacto dañino inmediatamente obvio, crea un circuito de retroalimentación negativa que va en contra de los objetivos de la sociedad de mejorar la igualdad y la representación en los lugares de trabajo e industrias específicas. De esta manera, el sesgo de género se perpetúa como resultado del sesgo algorítmico al limitar las oportunidades de las mujeres de ver esos anuncios.

Ahora, para profundizar en las implicaciones de alto nivel del sesgo algorítmico, examinaremos la elección de Trump de 2016 como un estudio de caso.

Estudio de caso: Cómo los algoritmos afectaron la polarización/cámaras de eco en las elecciones de Trump de 2016

A lo largo de las elecciones presidenciales estadounidenses de 2016, las investigaciones han demostrado que los algoritmos pueden haber exacerbado la polarización política al amplificar las cámaras de eco y limitar la exposición del electorado a diversos puntos de vista. Muchos piensan que fue este mecanismo el que permitió que el trumpismo se extendiera desenfrenadamente y también el motivo por el que tan pocas personas predijeron su victoria [7], ya que estas dinámicas no se entendieron completamente ni fueron visibles durante el período electoral.

Por lo tanto, incluso en las redes sociales parece cierto que "pájaros del mismo plumaje vuelan juntos" [8].

Los algoritmos adaptan el contenido para alinearlo con las preferencias de los usuarios, protegiéndolos de puntos de vista y opiniones opuestos y creando "burbujas de filtro". A su vez, algunos individuos dentro de estas burbujas de filtro continúan reforzando positivamente sus puntos de vista aislándose aún más en entornos digitales donde sus creencias y opiniones tienen eco y aún más se refuerzan. Se denominan "cámaras de eco".

Esencialmente, las redes sociales fomentan un entorno en el que todos ingerimos noticias y contenidos tan extremadamente personalizados que nos volvemos ciegos ante las diferentes perspectivas de los demás.

Actualmente, las investigaciones no aclaran si las redes sociales solo sirven como plataforma que permite la aparición de cámaras de eco o si su uso de algoritmos llega incluso a desempeñar un papel en la creación de estas cámaras de eco[8].

La victoria de Trump en 2016 muestra cómo las agendas de las empresas de redes sociales pueden tener consecuencias generalizadas que afectan a millones de personas y que, si bien no son intencionadas, siguen teniendo un enorme impacto y tampoco son éticas. Sabemos que los algoritmos de las redes sociales están diseñados para maximizar la participación y retención de los usuarios al ofrecer contenido adaptado a las preferencias individuales. Ahora, sin embargo, también vemos cómo esto se aplica incluso a las conversaciones políticas, aprovechando las inclinaciones políticas y las vulnerabilidades de los usuarios.

¿Quién sabe cómo se habrían desarrollado las elecciones si los algoritmos no hubieran impactado las creencias políticas personales de las personas?

¿Y cómo afecta esto a la democracia y la estabilidad política? Si la gente no es consciente de estas manipulaciones, ¿pueden considerarse justos y válidos los resultados?

El futuro de la IA en las redes sociales

El papel de los algoritmos y la IA en las redes sociales continúa evolucionando junto con nuestras innovaciones en esos campos. Desde el contenido generado por IA hasta los algoritmos impulsados por IA que permiten la precisión que mencionamos anteriormente, los desafíos éticos que conlleva su integración en las redes sociales también deberán considerarse cada vez más. Esto debe comenzar abordando los sesgos algorítmicos y promoviendo la transparencia algorítmica en las plataformas de redes sociales.

Las futuras consideraciones políticas y regulaciones desempeñarán un papel crucial en la configuración de la trayectoria del uso de la IA en las redes sociales. Ya se está prestando cada vez más atención a la necesidad de una regulación algorítmica y protección contra el daño que estos sesgos invisibles pueden causar, especialmente en Estados Unidos. Hasta ahora, las iniciativas incluyen[9]:

La “Ley de Responsabilidad Algorítmica de 2022”
La “Ley de eliminación de sesgos en sistemas algorítmicos de 2023”
La “Declaración de Derechos de la IA”

Si bien actualmente se están elaborando más marcos en las etapas de propuesta, todavía hay una regulación insuficiente de tecnologías tan poderosas si consideramos el impacto que ya tienen. Lograr un delicado equilibrio entre la innovación y la salvaguardia de los intereses de los usuarios requerirá un enfoque colaborativo que involucre a empresas de tecnología, formuladores de políticas y usuarios por igual.

Las redes sociales tienen el poder de ser una fuerza para el bien, uniendo comunidades y fomentando la inclusión; sin embargo, sin marcos y regulaciones adecuados que protejan los derechos de los usuarios, el uso de la IA y los algoritmos también tiene el poder de ser destructivo para los individuos y la sociedad en general.