Fenómenos virtuales. El humano vs el algoritmo, tres casos de lucha

Marisol Contreras 

Como estamos en medio de una pandemia, uno recurre a este tipo de publicaciones con la intención de buscar un espacio que nos saque de la realidad y nos aporte algo constructivo relacionado con el arte o la comunicación. En esta ocasión no será así, al menos en este texto, pues me encontré con información que me parece digna de compartir. 

Comencemos con la situación de Google Search, el buscador más famoso a nivel global. Resulta que en Europa hay una lucha por los derechos de autor. Por un lado, está el buscador y, por el otro, los medios de comunicación. Los editores buscan que la corporación les pague derechos por los artículos que presentan en la plataforma, generalmente a modo de resumen. En Francia, esta iniciativa ya se aprobó: los periódicos y el gigante de internet llegaron a un acuerdo para que el pago por la información sea justo. No obstante, la batalla se puso dura en Australia, donde Google Australia ha declarado que, ante las nuevas medidas, puede que Google Search sea bloqueado en este país. Mientras tanto, el Parlamento Australiano no cede ante las amenazas de la corporación. El código que está en discusión prevé que Google remunere a los medios locales por la producción de contenido.  

Ante la problemática de la información basura y los derechos de autor, la corporación propiedad de Alphabet (Google) lanzó Google News Showcase, una plataforma curada en la que, los medios de comunicación que hagan alianza recibirán remuneración por su contenido y apostarán por el periodismo de calidad. Como no todo es miel sobre fruta, es evidente que habrá medios de comunicación que no lleguen a un acuerdo y queden fuera de esta red y, como ya ha ocurrido a lo largo de la pandemia, vayan desapareciendo —lo que implica despidos y concentración de información en monopolios—. 

En otros temas, abogados estadounidenses reconocieron que los algoritmos condenan a la gente a la pobreza (Hao, 2021). Cada vez hay más casos en los que especialistas en derecho civil en Estados Unidos se tienen que enfrentar contra algoritmos que desencadenan una serie de problemáticas que privan de oportunidades a las personas. Un ejemplo de ello es el siguiente: supongamos que tuviste una metida de pata financiera, pero luego de años, te recuperas y quieres solicitar un crédito para comprar una propiedad; es en ese momento donde un algoritmo te jode la vida, pues te califica de manera negativa y con ello te rechazan el crédito. 

Ustedes pensarán, «bueno, pero de eso se trata el buró de crédito» y tendrán razón, sin embargo, estos algoritmos también son usados en estancias públicas: ellos pueden decidir, mediante parámetros desconocidos, quién tiene acceso al sector salud y quién no. Ya ha habido casos en los que, sin ningún motivo aparente, personas discapacitadas han perdido la cobertura médica que antes gozaban, sólo porque un algoritmo así lo decidió. ¿Ahora los abogados tienen que interrogar por los derechos humanos a un software? Parece que sí, y no sólo por los derechos humanos, sino también por el uso de imagen: cada vez es más recurrente encontrar la cara de alguna famosa en posiciones sexuales que no pertenecen a la realidad. Este tipo de pornografía es llamada deepfake. Uno podría pensar que esto es obra de pervertidos sin quehacer, lo cierto es que programas de inteligencia artificial ya son capaces de lograrlo por sí solos. Se encontró, por ejemplo, que los algoritmos iGPT de Open y AI SimCLR de Google que utilizan lenguaje no supervisado, etiquetan imágenes sin ayuda humana, pero con los mismos parámetros sociales, al parecer.  

Las investigaciones aplicadas a dichos algoritmos mostraron que estos etiquetaban a mujeres como putas, entre otros adjetivos peyorativos y discriminatorios. También, el 53% de las veces que se les pedía completar la imagen (cuerpo) de una mujer, al proporcionarles sólo la cara, aunque sea de una famosa, los algoritmos lo completaban con escotes o bikinis. Mientras que las veces que se les pidió completar la imagen de un hombre, el 43% lo hacían con cuerpos en traje.  

Para su servidora, este tipo de comportamiento no es de extrañarse aunque provenga de algoritmos no supervisados; tomemos en cuenta que los algoritmos no supervisados se nutren de textos, imágenes y etiquetas que se encuentran en la red, desde los más oscuros artículos en Reddit, hasta las compras más ilegales de Facebook, pasando por los tuits con contenido racial y sexista. Al final, toda la inteligencia artificial, supervisada o no, es reflejo de la inteligencia humana, tan estancada en el último siglo; no podemos asombrarnos, entonces, ante lo que arrojan los estudios al respecto (Hao, 2021). Lo que sí podríamos hacer es vernos en ese espejo y tratar de corregir todo eso que nos incomoda y es injusto para nuestra sociedad. Parece increíble que los reporteros, periodistas y editores le hagan el trabajo a Google, mientras éste se queda con las ganancias provenientes de la publicidad. Parece reprobable, también, que un algoritmo decida si un ser humano tiene derecho a la salud pública. Lo que más me impresiona es que ahora los algoritmos reafirman y tipifican la violencia contra las mujeres y las minorías. 

Referencias 

Hao, K. (3 de Febrero de 2021). Gobiernos y empresas condenan a la gente a la pobreza con algoritmos. MIT Technology Reviewhttps://www.technologyreview.es/s/12955/gobiernos-y-empresas-condenan-la-gente-la-pobreza-con-algoritmos  

Hao, K. (22 de enero de 2021). Internet están tan sesgado que para la AI las mujeres solo llevan bikini. MIT Technology Reviewhttps://www.technologyreview.es/s/13117/internet-esta-tan-sesgado-que-para-la-ia-las-mujeres-solo-llevan-bikini

Responder

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión /  Cambiar )

Google photo

Estás comentando usando tu cuenta de Google. Cerrar sesión /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión /  Cambiar )

Conectando a %s